“大数据杀熟”法律规制的困境与出路
来源:用户上传
作者:廖建凯
摘要：“大数据杀熟”侵害了消费者的权利，但依据现行法律很难认定其法律性质。“大数据杀熟”具有很强的技术特征，实质上是经营者滥用算法权力的结果。从传统消费者权利保护路径，运用合同法、侵权法、消保法、价格法、反垄断法等规制“大数据杀熟”面临着诸多困难。从根源上看，“大数据杀熟”并非单纯的法律规制问题，而是算法权力的治理问题。治理算法权力应遵循技术发展与权利保护相平衡、内部监督与外部监管相结合以及事前管控与事后追责相并重等原则。通过经营者自律、行业协会引导、公权机构监管、消费者自我保护、公众广泛参与等途径治理算法权力，才可能有效保护人工智能时代消费者的合法权益。
关键词：大数据杀熟;算法;消费者的权利;经营者;算法权力
中图分类号：DF523
文献标志码：A
DOI：10.3969/j.issn.1008-4355.2020.01.07
互联网的普及与电子商务的发展给人们生活提供了诸多便利，同时也带来个人信息被滥用、消费者权益被侵害的风险。近期，不断有媒体爆出消费者在网络打车出行、酒店预订和购票购物等领域遭遇“大数据杀熟”。据北京市消费者协会2019年3月公布的“大数据杀熟”问题调查报告，88.32%的被调查者认为大数据“杀熟”现象普遍或者很普遍，56.92%的被调查者表示有过被“大数据杀熟”的经历。“大数据杀熟”的法律性质如何、其实质是什么？现行法律能否有效规制“大数据杀熟”？如果不能，又应该怎样应对“大数据杀熟”？这些问题，不仅关系到消费者权利保护和市场公平竞争，还涉及到个人信息保护和算法权力治理。
一、“大数据杀熟”之表象：消费者的权利被侵害
普通消费者直观地认为“大数据杀熟”侵害了消费者的权利，而此类观点成立与否有赖于对“大数据杀熟”法律性质的认定。
（一）侵害消费者权利之表象
根据《中华人民共和国消费者权益保护法》（以下简称《消保法》）的规定，消费者享有公平交易权、知悉真情权、自主选择权和个人信息权等权利。北京市消费者协会2019年3月公布的“大数据杀熟”问题调查结果显示：超过八成的被调查者认为“大数据杀熟”侵害了消费者的公平交易权。将近一半的被调查者认为“大数据杀熟”侵害了消费者的知情权，超过四成的被调查者认为“大数据杀熟”侵害了消费者的选择权。
对于“大数据杀熟”是如何具体侵害消费者的权利的，不少專家学者进行了论证。同一时间不同的消费者购买相同的商品和服务，被经营者收取了不同的价款，这种对人不对物、同物不同价的行为被认为侵害了消费者的公平交易权。电商经营者利用大数据技术对“熟客”提高价格的行为，看似“明码标价”，实际上隐瞒了商品或服务的真实价格，侵害了消费者的知情权。电商经营者根据消费者的消费习惯和消费需求，向消费者精准推送商品和服务的行为，限制了消费者比较和挑选商品和服务的范围，使消费者受困于经营者为其编织的“信息茧房”，侵害了消费者的选择权。此外，电商经营者将之前为完成交易而收集到的消费者个人信息，用于对消费者精准“画像”以区别定价，突破了个人信息利用的场景限制，侵害了消费者的个人信息权。
（二）“大数据杀熟”法律性质之争
尽管“大数据杀熟”已潜入网络消费的各个领域，但在遭遇“大数据杀熟”后，很少有消费者拿起法律武器维护自身的合法权益。这既有维权成本太高的原因，也与“大数据杀熟”的法律性质不明有关。
1.差别定价
有人认为商家运用收集到的信息准确为“熟人”画像，并对其进行差别定价就是“大数据杀熟”。也有人认为“大数据杀熟”，是指网络商家利用大数据技术，分类处理和分析收集到的用户信息，并对老客户实行隐蔽式抬价，以此实现利益最大化的差别化价格策略。此类观点将“大数据杀熟”定性为差别定价的价格策略。实际上，在没有电商的年代也存在“差别定价”的情形。比如，消费者去商场购买衣服，营业员通常会根据消费者的年龄体貌、穿着打扮和言谈举止等特征推荐不同款式和价位的衣服、给予不同的折扣和价格。因此，经营者“看人下菜”的差别定价行为是一种价格策略，符合市场规律，并且法律并不禁止差别定价。
2.价格歧视
有人认为“大数据杀熟”是指电商凭借大数据技术对用户进行精准分析，对同样的商品或服务对不同用户标定不同的价格。也有人认为大数据“杀熟”就是以用户数据为基础，利用算法技术实现的一级价格歧视（或称“完全价格歧视”）。此类观点将“大数据杀熟”定性为同物不同价的“价格歧视”。任何商品或者服务都不可能满足所有消费者的需求，不同消费者对同样商品或者服务有着不同的需求弹性。基于此，在销售相同的商品或者提供相同的服务时，经营者给予不同消费者不同的价格并无不妥。只不过站在消费者的角度，此类同物不同价的行为很容易被当成“价格歧视”。
3.价格欺诈
有专家表示，在“大数据杀熟”中经营者利用大数据技术故意对“熟客”提高价格，使“熟客”对商品价格陷入误解而作出购买选择，涉嫌价格欺诈。也有人认为，在“大数据杀熟”中经营者主观上具有欺诈的直接故意、客观上实施了隐瞒真情的区别定价行为、结果上使消费者遭受财产损失，构成法律意义上的价格欺诈，同时也侵害了消费者的合法权益。根据《禁止价格欺诈行为的规定》，经营者只有在“通过标价形式或者价格手段虚构事实、隐瞒真实情况”下，才可能被认定为价格欺诈。而在“大数据杀熟”中，经营者没有虚构事实，没有告知其他消费者的交易价格也谈不上隐瞒真实情况，因此“大数据杀熟”够不成法律意义上的价格欺诈。
综上可见，“大数据杀熟”作为一种新的社会现象，专家学者对其法律性质的认识还存在比较大的争议。实际上，根据现行法律很难对“大数据杀熟”的法律性质进行认定，认为其侵害消费者的权利的观点仅停留在对相关法律规范的表象认识之上。 二、“大数据杀熟”之实质：经营者滥用算法权力
电子商务中大数据和算法的广泛运用，给消费者带来便利的同时，也为经营者滥用算法权力提供了可能。
（一）“大数据杀熟”的技术特征
虽然“杀熟”一般都由“信息收集——用户画像——区别定价”三个步骤构成，但与“传统杀熟”相比，“大数据杀熟”具有突出的技术特征。“传统杀熟”中经营者主要通过日常交往和交易了解客户，由此掌握的客户信息相对有限，对熟人区别定价也主要依靠脑力的个别分析与判断，其精准度不高、影响范围有限。而电子商务经营者通过算法的设计、运用，收集消费者年龄、性别、消费习惯和支付能力等各个方面的信息，并运用计算机对获得的数据进行分析和处理，从而给消费者精准画像，做到“千人千面”最终实现“千人千价”。“大数据杀熟”相较于“传统杀熟”，准确度更高、隐蔽性更强、涉及面更广、规制难度更大。
（二）经营者算法权力之滥用
1.算法与算法权力
算法“是一系列解决问题的指令，只要给定初始条件，这一系列指令就会自动给出相应的答案”。算法不仅仅是计算机中的代码，更是网络世界的行为规则，正如莱辛格教授所说“代码即法律”。对算法设计者和运行者而言，算法是解决问题、实现目标的手段;对算法的目标对象而言，它是必须遵守的网络世界的“法律”。只不过这种“法律”不是立法机关制定的，没有反映全体公民的整体意志和公共利益，它体现的只是算法设计者和运行者的个体意志和私人利益。
可以说，算法权力是算法对目标对象的影响力和控制力。算法作为网络世界法律具有非常强的刚性，目标对象必须严格按照它要求的步骤或方式才能进入和参与算法构筑的网络世界。例如，很多手机APP都要求用户准许其使用某些权限，否则该APP就无法使用，即使能够使用也必须严格按照APP的流程进行操作。在算法构筑的网络世界里，算法设计者和运行者还可以通过采取奖励和惩罚措施，进一步影响目标对象的判断和行为。由此，算法设计者和运行者成为手握算法权力，掌控网络世界的实际主宰者。
2.滥用算法权力之领域
技术本应是中性的，但由于算法体现的是设计者与运行者的意志与利益，电子商务经营者既可以运用算法权力为消费者提供更好的商品与服务，也可能用来侵害消费者的权利。“大数据杀熟”即是电子商务经营者滥用算法权力，谋取不正当利益的典型表现。具体而言，电子商务经营者在信息收集、搜索推荐和差别定价等方面存在算法权力滥用。
理论上电子商务经营者获取了消费者的用户名或姓名、选定的商品或服务、联系方式、地址或者定位、支付方式等信息就可以完成交易。但在现实的电子商务交易过程中，经营者往往运用算法大规模地收集非必要性的消费者信息，例如消費者的性别、年龄、职业、收入、通信录、通话记录、设备信息等等，甚至要求消费者必须给与调用摄像头、使用麦克风的权限等等。表面上电子商务经营者收集上述信息、获取设备权限获得了消费者的同意，实际上消费者没有选择的余地，必须“同意”，否则就无法进行交易。电子商务经营者通过滥用算法权力，使消费者沦为其信息获取链条上的一环，成为“电子痕迹的汇总”。
电商平台上有着巨量的商家和海量的商品。消费者借助平台的搜索引擎才可能找到自己青睐的商品，商家往往需要平台推荐才能有效的将商品展示给潜在消费者。电商平台的搜索推荐算法直接将消费者与商家联系起来，并最终影响消费者的购买和商家的销售。“个性化”是搜索推荐算法的核心考量因素，基于消费者个人信息的个性化推荐一方面可以提高消费者的搜索效率，另一方面消费者也可能被最有益于平台的推荐商品或服务所包围。掌握算法权力、追求个体利益的电子商务经营者倾向于发挥搜索推荐算法的后一种功能，提高消费者搜索效率沦为平台追求自身利益最大化的附带功能。
相同的商品或者服务在同样的时间和地域针对不同消费者的定价本应相同，但掌握了算法权力的电子商务经营者可以利用其与消费之间信息不对称的绝对优势。对消费者精准画像并差别定价。近期新闻媒体报道出来的“大数据杀熟”现象，最突出的表现就是差别定价，尤其是对老用户、熟客的高定价。有研究显示，2015年动态定价算法为优步创造了68亿美元的利润。电子商务经营者滥用算法权力，以低价吸引新用户、以高价收割老用户的营销策略和逐利模式，颠覆了基于成本与合理利润的定价规则，使得“价格歧视”成为常态。在此过程中，消费者被算法权力客体化，沦为商家掠夺的对象。
可见，消费者的权利被侵害只是“大数据杀熟”的表象和结果，算法权力被经营者滥用才是“大数据杀熟”的实质与根源。
三、“大数据杀熟”消费者权利保护路径之困境
一般认为，“大数据杀熟”侵害了消费者的权利，通过保护消费者的权利约束经营者的行为，被视为规制“大数据杀熟”的首选路径。然而，此路径面临诸多法律上的困境。
（一）消费者权利私法保护路径之局限
1.合同法路径
通过网络购买商品或者服务，消费者与电子商务经营者之间形成了电子商务合同，适用《合同法》的一般规定。《中华人民共和国合同法》第六条规定“当事人行使权利、履行义务应当遵循诚实信用原则。”有不少专家认为，“大数据杀熟”中电子商务经营者对“熟客”隐瞒商品或者服务真实价格并故意提高成交价格的行为，违反了诚实信用原则。但消费者以经营者违反诚实信用原则，主张撤销合同而要求经营者退款甚至承担赔偿责任，通常不会得到法院的支持。因为诚实信用原则的适用具有补充性，除非适用具体法律规定将导致明显不公平的裁判，否则法官不会将诚实信用原则作为裁判的直接依据。
《中华人民共和国合同法》第五十四条规定了当事人变更或者撤销合同的五种情形，即重大误解、显失公平、欺诈、胁迫和乘人之危。“大数据杀熟”中，作为“熟客”的消费者对自己所购买的商品或服务通常不存在认识上的错误，其所支付的对价一般也不会过分高于其他消费者而明显违反等价有偿原则，基本上也不存在经营者胁迫和乘人之危的情形，存在争议的是经营者是否欺诈“熟客”。《中华人民共和国合同法释义》对欺诈界定为，“故意隐瞒真实情况或者故意告知对方虚假的情况，欺骗对方，诱使对方作出错误的意思表示而与之订立合同。”经营者未将其他消费者购买同种商品或者服务的价格告知“熟客”，很难说是隐瞒了真实情况;“熟客”认可经营者给出的价格才会选购其青睐的商品或者服务，因而也谈不上被对方欺骗而“作出错误的意思表示”。因此，消费者以《合同法》第五十四条规定的五种情形为理由，请求人民法院或者仲裁机构变更或者撤销电子商务合同非常困难。 2.侵权法路径
电子商务经营者“杀熟”的前提是掌握消费者个人特征信息，而收集、使用这些信息有可能侵害消费者个人信息权利。《消保法》第十四条规定消费者“享有个人信息依法得到保护的权利”，第二十九条规定了“经营者收集、使用消费者个人信息”的义务，第五十条规定了经营者“侵害消费者个人信息依法得到保护的权利”的民事责任。这些条款搭建起消费者个人信息权利私法保护的特别法框架。《侵权责任法》第三十六条规定的网络信息侵权条款及其司法解释、《民法总则》第一百一十一条规定的个人信息保护条款，则为消费者个人信息保护提供了一般法律依据。
目前，我国法律对个人信息权利的内涵与性质没有明确规定，个人信息权利是一般人格权、隐私权、财产权、新型权利，还是独立人格权在学界存在争议。根据侵权法的一般理论，“杀熟”的电子商务经营者承担侵害消费者个人信息权利的侵权责任，需要存在过错、造成了消费者损害或者有损害之虞，并且二者之间存在因果关系。《消保法》并不禁止电子商务经营者收集、使用消费者的个人信息。如果经营者事先获得消费者的“知情同意”，且履行了保密义务，其收集和使用消费者个人信息的行为就符合《消保法》的规定，就不存在表现为违法的过错。在法律没有明确个人信息权利为一般人格权前，经营者通过“知情同意”收集、使用消费者个人信息，对消费者进行“社会分选和歧视”，使消费者处于“数据监控下的不安”和“消费操纵和关系控制”状态，难以被认定为传统侵权法下的损害。至于被“杀熟”消费者额外支付的价款所构成的财产损失，属于“后续损害”，不能将信息侵害等同于后续损害。《侵权责任法》的网络信息侵权条款及相关司法解释，规范的是侵害信息的后续损害问题，并且也没有将被“杀熟”消费者额外支付的价款纳入其中。经营者没有表现为违法的过错、消费者的损害难以认定，“大数据杀熟”的侵权法路径由此陷入困境。
（二）消费者权利公法保护路径之不足
1.个人信息保护路径
《消保法》第五十六条规定了“侵害消费者个人信息依法得到保护的权利”的行政责任。该法第二十九条规定了经营者侵害消费者个人信息权利的三种情形：未经消费者同意擅自收集、使用消费者的个人信息;泄露、出售或者非法向他人提供消费者的个人信息;未经消费者同意或者请求，或者消费者明确表示拒绝，向其发送商业信息。在“大数据杀熟”中，经营者收集、使用消费者个人信息通常取得了其同意，经营者不存在泄露、出售或者非法向他人提供消费者个人信息的行为，也不是向消费者发送商业信息。可见，“大数据杀熟”不符合《消保法》第二十九条规定的经营者侵害消费者个人信息权利的任一情形，《消保法》规定的个人信息行政保护条款无法适用于“大数据杀熟”。
《中华人民共和国网络安全法》第二十二条第三款、第四十一条至第四十三条规定了网络运营者、网络产品或者服务提供者收集、使用个人信息的行政义务，第六十四条规定了违反个人信息保护义务的行政责任。通过《网络安全法》个人信息保护条款规制“大数据杀熟”，将面临《消保法》中消费者个人信息保护条款类似的适用难题。
2.反价格歧视路径
有部分人将“大数据杀熟”定性为“价格歧视”。我国有关反价格歧视的条款主要规定在《中华人民共和国价格法》和《价格违法行为行政处罚规定》中。《价格法》第十四条规定经营者不得“提供相同商品或者服务，对具有同等交易条件的其他经营者实行价格歧视”，《价格违法行为行政处罚规定》对价格歧视作出了同样的规定，只是细化了价格歧视的处罚要求。显而易见，上述两个法律规范的反价格歧视条款，针对是“其他经营者”而非“消费者”。“大数据杀熟”中，经营者对具有同等交易条件的不同消费者实行不同的价格，不能適用上述反价格歧视条款。
价格歧视还与公平交易有关。《消保法》第十条规定“消费者享有公平交易的权利”，“消费者在购买商品或者接受服务时，有权获得质量保障、价格合理、计量正确等公平交易条件”。“熟客”价格高于新用户价格对“熟客”来说似乎不合理、不公平，但法律并不禁止差别定价，针对所有用户的价格都一样并不一定公平。“人人心里都有杆秤”，何为“公平”难有定论。不能单凭“熟客”价格高于新用户价格，就认为经营者侵害了“熟客”的公平交易权，而应受到《消保法》相关规定的惩处。
3.反价格欺诈路径
有些专家将“大数据杀熟”定性为“价格欺诈”，认为其符合《禁止价格欺诈行为的规定》中“价格欺诈行为”的特征。《禁止价格欺诈行为的规定》第三条对“价格欺诈行为”进行了界定，2015年6月国家发展改革委“关于《禁止价格欺诈行为的规定》有关条款解释的通知”进一步明确了“价格欺诈行为”，即“经营者通过标价形式或者价格手段虚构事实、隐瞒真实情况，欺骗、诱导消费者或者其他经营者与其进行交易;无论是否形成交易结果，均构成价格欺诈行为”。可见，经营者“虚构事实、隐瞒真实情况”是构成价格欺诈的核心要件。
“大数据杀熟”中，经营者向消费者提供的商品或者服务信息都是真实的，没有“虚构事实”;至于经营者是否对消费者“隐瞒真实情况”，需要具体考察《消保法》所规定的知情权条款。《消保法》第八条第二款明确了消费者知情权的范围，即“商品的价格、产地、生产者、用途、性能、规格、等级、主要成份、生产日期、有效期限、检验合格证明、使用方法说明书、售后服务，或者服务的内容、规格、费用等有关情况。”虽然消费者知情的范围非常宽泛，但并不包括经营者与其他消费者交易的信息。实际上，此类信息，特别是其中的交易价格、数量信息属于经营者的商业秘密，经营者没有告知消费者的义务，也就谈不上隐瞒有关价格的真实情况。因此，“大数据杀熟”不符合价格欺诈行为的构成，监管部门不能适用价格欺诈条款对经营者进行惩处。
4.反垄断路径
《中华人民共和国反垄断法》中与“大数据杀熟”最相关的条款是第十七条第一款。该款第六项规定，“没有正当理由，对条件相同的交易相对人在交易价格等交易条件上实行差别待遇”属于“滥用市场支配地位的行为”，应予禁止。从媒体报道来看，“大数据杀熟”通常发生在市场份额高、影响力大的电子商务平台，且表现为交易条件相同的新老客户价格上存在差别待遇。“大数据杀熟”似乎符合“具有市场支配地位的经营者”“滥用市场支配地位行为”的构成要件，可以适用《反垄断法》滥用市场支配条款进行规制。 实际上，将“大数据杀熟”认定为“具有市场支配地位的经营者”“滥用市场支配地位的行为”非常困难。首先，电子商务平台“市场份额高、影响力大”并不等于“具有市场支配地位”，且其是否具有市场支配地位需由司法机关认定，而非由消费者的主观感受决定。其次，新老客户价格上存在的差别待遇需“没有正当理由”，电子商务经营者通常可以用实时供求关系、季节性变化以及商品自身特性等理由予以抗辩，而不构成滥用。因此，《反垄断法》的滥用市场支配地位条款，难以直接规制“大数据杀熟”。
除实体法困境之外，规制“大数据杀熟”的消费者权利保护路径，还面临程序法上的诸多障碍，例如消费者司法维权激励不足、举证困难等等。
四、“大数据杀熟”经营者算法权力治理路径之构建
“大数据杀熟”表面上看近似价格歧视，侵害了“消费者的权利”;实质上是算法歧视，是电子商务经营者滥用数据优势和算法权力的结果。从根源上看，“大数据杀熟”并非单纯的法律规制问题，而是算法权力的多元共治问题。通过算法权力治理，才可能有效保护人工智能时代消费者的权益。
（一）经营者算法权力治理之原则
1.技术发展与权利保护相平衡
未来已来，大数据、人工智能的深入发展和广泛运用已是不可阻挡的大趋势。无论是商品的生产，还是網络交易的撮合、网购商品的配送，大数据、人工智能背后的算法正影响甚至改变人们的生产生活方式。同时，无孔不入、无处不在的数据收集和数字监控使公众成为毫无隐私的透明人，极易被掌握算法权力的主体所侵害。算法权力的形成既是技术发展的结果，也要需要规则与制度的约束。“大数据杀熟”是经营者算法权力与消费者权利较量中处于明显优势地位的必然结果，应对“大数据杀熟”需要扭转这种局面，使算法权力与消费者权利在法律上大致平衡。平衡好技术发展与权利保护之间的关系，才可能避免因权利过度保护而阻碍算法技术发展，同时又防止算法权力的滥用侵害消费者的合法权利。
2.内部监督与外部监管相结合
算法是指令的代码表达，体现设计者与运行者的意志与利益。算法形式多样、结构各异，对于普通消费者来说，算法就是一个难以捉摸、无法理解黑箱。甚至算法的设计者、运行者，对算法将产生何种结果亦无法准确预测和解释。算法透明化被认为是算法规制的重要途径，但对很多经营者而言，算法是其商业秘密和核心竞争力所在。算法强制公开路径，有悖知识产权制度。算法的技术特征给外部监管带来了巨大的技术挑战，而算法的法律属性又为外部监管增添了新的法律难题，单纯的外部监管无法胜任算法权力治理的重任。有效应对“大数据杀熟”，促使经营者合理合法运用算法权力，需要将经营者内部的监督与外部力量的监管相结合。
3.事前管控与事后追责相并重
对滥用算法权力造成损害的行为进行事后追责，是法律规制的传统模式。事后追责模式可以避免公权机关介入其并不熟悉的技术领域，而专注于法律问题。但人工智能时代，法律问题与技术问题交织得更为紧密，算法技术的发展和运用给事后追责模式带来新的挑战。自认为合法权利受到“大数据杀熟”侵害的消费者，不愿或者难以通过司法途径获得救济，即是例证。在算法设计、运行之初就要求经营者遵循一定的程序和规则，是算法权力治理的首要环节。算法以数据为基础，加强对个人信息的保护，明确经营者收集、使用个人信息的范围与目的，也应成为事前管控的重要内容。“大数据杀熟”的技术特征，决定了算法权力治理必须将事前管控与事后追责相并重。
（二）经营者算法权力治理之面向
1.经营者自律
电子商务经营者熟悉自己设计或者运行的算法，若其能建立算法的内部管控机制，无疑是治理算法权力最为简单有效的方式。
（1）进行算法验证
算法是计算机代码，其运行带来的结果是否如经营者预期的一样有效、合法，需要进行验证。经营者可以像检验商品一样验证自己设计或者运行的算法，以保证算法的有效性和合法性。对算法进行测试和验证已经成为计算机科学的一个新兴领域，不少企业设置了专门的算法验证岗位。算法验证主要有静态验证和动态验证两种路径，静态验证是对算法进行静态回溯检查，以发现设计上的缺陷和不足;动态验证则是通过算法的试运行，检查算法程序运行的实际结果。未经充分验证就将算法投入应用，经营者应对可能产生的不利后果负责。
（2）设置算法监督员
美国很多有着海量用户信息的大企业，如微软、脸书、花旗集团等，都设立了首席隐私官。首席隐私官领导企业遵守个人信息保护的各类政策与法律、处理企业内外与个人信息保护相关的各种问题。《德国联邦数据保护法》要求符合一定条件的企业设立数据保护顾问，负责检查企业内部隐私事务、登记数据信息、监督数据处理等。运用算法大量收集、使用消费者个人信息的电商平台，可以设置类似于隐私保护官和数据保护顾问的算法监督员，负责企业算法设计、运行合规合法的内部监督。
2.行业协会引导
电子商务经营者尤其是电商平台，是算法设计、运行领域的技术行家，应接受相关技术行业协会的引导。
（1）促成算法伦理
2017年1月。美国计算机协会公共政策委员会提出了算法治理的七条原则：算法利益相关者应认识到算法偏见可能对个体与社会带来的损害、建立算法损害的救济机制、算法使用者应对算法决策担责、鼓励对算法决策的解释、加强数据治理、留存算法痕迹以备审查、严格验证及定期测试算法。这七条准则涵盖算法治理的方方面面，指导与约束算法的所有者、设计者、生成者和运行者等利益相关者的行为。2019年4月8日，欧盟委员会发布《可信赖人工智能伦理准则》，提出了可信赖人工智能的四项原则，即尊重人的自治原则、防止对人（造成）损害原则、（开发、部署、使用人工智能）公平原则、可解释原则。算法是人工智能的核心。我国算法和人工智能领域的协会/学会应尽快制定相关伦理准则，以引导和规范算法设计者、使用者等主体的行为。 （2）制定认证准则
算法验证是企业内部的算法管控措施，算法认证则是企业之外的主体对算法是否符合相关要求进行的检测认证。对算法的管控不能完全依赖经营者的自律，毕竟作为商业公司盈利是其首要目的，而外部认证相较于经营者的内部验证更具客观性和公正性。算法和人工智能领域的协会/学会，应当充分发挥自己的技术实力和行业影响力制定算法认证准则，确保算法的设计、运用符合特定要求。欧盟《可信赖人工智能伦理准则》提出了可信赖人工智能的七项关键要求，即人的自治和监督，技术的稳定与安全，隐私和数据治理，透明度，多样、非歧视和公平，（关注）社会和环境福祉，可追责性。我国算法和人工智能领域的协会/学会，可以参考这七项要求制定算法的认证准则，推动算法外部认证的发展。
3.公权机关监管
经营者的内部管控和行业协会的外部引导都不具有法律上的强制力，掌握公权力的机关应在算法治理中发挥主导作用。
（1）加强个人信息保护
大数据是算法设计与运行的基础。加强消费者个人信息保护是防止经营者滥用算法权力的前端监管措施。经营者收集消费者个人信息必须遵循必要性原则，不得以收集非必要性信息作为消费者购买商品和接受服务的前提。除非获得消费者可选择的明确授权，经营者使用消费者个人信息應当遵循场景限制原则，不得将此场景收集的信息用于彼场景，例如不得将促成交易收集的信息用于差别定价，不得将搜索场景获得的信息用于推送定向广告，等等。立法机关应尽快通过立法，建立和完善个人的数据权利体系和救济机制。
（2）提高算法透明度
要求经营者完全披露算法及相关信息。面临知识产权保护的法律障碍和公权机关监管能力有限的技术壁垒。要求经营者提高算法透明度，可以在避开上述法律障碍和技术壁垒的同时，一定程度上打开“算法黑箱”，将其置于政府和公众的监督之下。具体而言提高算法透明度，要求经营者披露算法设计与运行的目的及算法决策的考量因素;要求经营者如实记录算法运行的痕迹，包括数据收集、数据标记、决策运算等;要求经营者定期公开内部算法验证和外部算法认证的结果，等等。
（3）严格算法责任
对于违反监管要求，滥用算法权力的经营者要严格追责。首先，要明确算法责任主体及责任承担机制。算法责任的主体涉及算法的所有者、设计者、生成者和运行者等，在电子商务中经营者可能集一个或几个身份于一身。对于滥用算法权力的行为，究竟由谁、具体如何承担责任，需要根据算法的技术特征和电子商务的特点，通过法律予以明确。其次，政府要提高算法监管的技术能力，否则监管要求和法律责任就成为具文。政府可以通过设立算法监管的专门机构、培养引进技术人才或者借助外部技术力量等方式，提高算法监管的技术能力。此外，立法机关还应通过立法，提高滥用算法权力损害消费者合法权益行为的惩处力度。
4.消费者自我保护
提高自我防范和救济能力，是消费者维护自身合法权益以及算法权力治理的重要方面。
（1）推进算法相关认知教育
算法具体的设计、运行对普通消费者来说高深莫测、无法企及，但算法运行的基本过程并不难理解。例如，“大数据杀熟”中算法运行的基本过程就是“信息收集——用户画像——区别定价”。了解“大数据杀熟”的基本过程，消费者就可以从保护个人信息、货比三家等方面，防范经营者杀熟。推进算法、人工智能领域基础知识的宣传教育，提高普通消费者对算法、人工智能应用过程和潜在风险的认知，应成为经营者算法权力治理的重要内容。
（2）完善权利体系和救济机制
有权利才有救济。“大数据杀熟”表面上侵害了消费者依据《消保法》享有的权利，实质上是对消费者数据权利的侵害。2018年5月生效的欧盟《一般数据保护条例》规定了数据主体对个人信息享有的系列权利，包括信息收集的知情同意权、个人数据的访问权、修改权、擦除权、限制处理权、携带权和反自动化决策权。该条例还规定数据控制者不得要求数据主体放弃上述权利以换取服务，并详细规定了数据主体向监管机构和司法机关寻求救济的程序。参考借鉴欧盟的《一般数据保护条例》，应完善我国个人数据权利体系和救济机制，使消费者能够更好地通过个人数据权利的行使和救济参与算法权力治理。与此同时，也要完善《消保法》和《价格法》中有关消费者权利及其救济的条款，使消费者能够从消费者权利的角度进一步约束经营者的算法权力。
5.公众参与
算法及其影响遍及生产生活的方方面面，算法权力治理需要公众的广泛参与。
（1）推进第三方认证
算法的合规合法不能完全依赖于经营者内部的算法验证。算法的外部监管也不可能单凭公权机关的力量实现。具备相关技术能力的企业和非政府组织，可以通过算法第三方认证制度参与算法权力的治理。经营者与监管机关之外的第三方，相对于经营者更为独立客观，相对于公权机关技术能力更强，可以弥补经营者和监管机关在算法管控上的不足。推进第三方算法认证，首先要明确须进行第三方认证的算法的范围，其次要用确定提供第三方认证服务机构的资质条件，最后要规定第三方认证机构的认证责任，避免其被经营者俘获而使第三方认证流于形式。
（2）开展公益诉讼
《中华人民共和国民事诉讼法》第五十五条第一款规定，“对污染环境、侵害众多消费者合法权益等损害社会公共利益的行为，法律规定的机关和有关组织可以向人民法院提起诉讼”。“大数据杀熟”侵害了众多消费者的合法权益、损害了社会公共利益，作为公众利益代表的相关协会和民间组织，可以提起民事公益诉讼，追究滥用算法权力的经营者的民事责任。当然算法公益诉讼的开展，还需要像环境公益诉讼一样，在举证责任分配、因果关系证明、诉讼费用负担等方面作出有利于原告的程序性规定，使相关协会和民间组织能够也愿意通过公益诉讼参与到算法权力的治理中来。
转载注明来源:https://www.xzbu.com/9/view-15144218.htm
