基于正式制度与非正式制度关系的算法规制研究

来源:用户上传      作者:魏诗琪

　　摘要：大数据时代，算法应用横向扩展，机器学习纵向延伸，使得网络公共领域逐渐被算法秩序统治。算法在为人们带去个性化服务的同时，也触碰了实体法律的边界。从经济理性、工具理性及公共理性三重理性，提出利益、技术、价值三维框架。指出在数据收集、模型搭建及运算、模型输出及应用过程中，算法应用所暴露的侵权问题。阐释算法规制的逻辑起点，以论证算法亟待规制的必要性。引入“第三域”概念，考察算法规制中正式制度与非正式制度的互动关系。结论指出，算法规制过程中，应兼纳正式制度与非正式制度之长，营造适度的制度空间，以达到平衡状态。
　　关键词：“第三域”；算法规制；正式制度；非正式制度
　　中图分类号：D9文献标识码：Adoi：10.19311/j.cnki.16723198.2023.04.080
　　0引言
　　人工智能的核心推动力是算法技术的合理应用。技术革新过程中，算法一方面介入人们日常生活中，为人们带来新的生活方式。但与此同时，也产生了一些负面的社会影响，如美国大选过程中Facebook假新闻事件。用户偏好数据推送信息，制造了信息“过滤泡沫”。信息茧房作用下，用户接受的观点极端，认知壁垒高且顽固，社会心态浮躁。更有甚，算法开始逐渐用于公共部门管理以影响并侵犯公众权利。如何对算法进行有效规制，以实现网络生态文明，是人工智能时代算法规制亟待弥补的一块短板。中国古代，算法被称为“术”；三国时期，魏国数学家刘徽提出计算圆周率的方法，称之为“割圆术”。在现代意义上，算法是指一种通过将输入数据转换为所需输出来解决问题的编码程序。算法实质上是一种决策方式，如贝叶斯决策理论模型。通过数学语言建构成模型，以呈现客观现象，是“一种有限、确定、有效并适合用计算机程序来实现的解决问题的方法”。人类对算法依赖性的增强，算法出现异质化，存在算法偏见、算法黑箱、算法鸿沟等问题。
　　1算法规制的逻辑起点
　　1.1利益驱动下的数据收集与获取
　　对于轻资产企业来说，一手数据是一种宝贵资产，其价值可得到二次或者多次的挖掘。以零门槛作为吸引，通过用户的附加价值和信息无意识泄露来赚取广告收入和增值收入。依托多个免费的产品市场吸引用户，通过少数市场获取增值收入。消费者在使用基础服务之后，有兴趣进一步消费。企业收集到的数据信息趋于全面，用户偏好和信息获取更为广泛，用户黏度由此增强，利益增加。在储存信息的过程中，信息转化成可支配和控制的财产。
　　从财产上看，免费内容的商业模式造成互联网“公共池”假象。通过短反馈吸引用户跟风，并放弃自身隐私。在无序、浮躁的混乱中，影响人们的认知和行为；从劳动上看，互联网企业极大依赖于用户的贡献与创造，享有其集体劳动成果的价值，却不想承认其中的劳动关系。企业通过建立数据库的形式，根据自身需要设置算法规则，实现定向广告、个性化促销以及定价的工作。从数据生产意义上来看，用户和互联网之间的关系是免费劳动力和工厂的关系。传统互联网企业，国家对其规制思路是归口和属地化管理。但算法时代的到来，使得以数据业务为主的互联网企业打破了时空限制，跨越了条块分割的现状。数据所用者可从各种渠道获取数据信息，赛博空间的“无秩序”使得其找到了规则的“避风港”，形成一种“有组织的混乱”现象。
　　1.2技术驱动下的模型搭建及运算
　　“账户-行为数据-算法”这一底层架构已经构成了数字时代法律、市场和社会规范共同起作用的基础，也受到商业生产逻辑和行政控制逻辑的双重影响。在模型搭建和运算阶段，组织结合计算目标，搭建算法架构。利用机器深度学习的能力，将大量数据投入到算法中去进行运算和学习。算法设计者根据机器在自我学习过程中的表现，调整算法以得出更好地结果。代码是算法的载体，代码也是赛博空间中隐形的“秩序”，即莱辛格提出的“代码即法律”的思想。因此，在算法搭建和运算过程中，代码编译者的价值判断、算法设计者的设计理念均会在代码中得以反馈。代码成为一门语言，并将信息和理念传递出去。因此，依赖于算法模型的设计、代码的编写，会由于实施者认知壁垒、知识面偏颇而构成算法歧视和算法偏见，这亦是算法规制中亟须考虑的技术视角。
　　1.3权力驱动下的模型应用及输出
　　哈贝马斯认为，从历史上看，公共领域经历了三种形态的演变：一是古希腊城邦中以政治生活为本质内容的公共生活；二是中世纪欧洲封建社会时期，国家与社会没有发生分离；三是直到18世纪，德国开始出现社团组织和协会这种独立于政府当局的社会实体后，与当时的新闻媒介共同构成了哈贝马斯笔下的资产阶级公共领域，即第三种形态的公共领域。
　　互联网2.0时代后期，算法被赋予工具化的意义。大型服务提供者演化为网络平台，平台经济蓬勃生机，但也暗藏危机，即平台私权力的侵犯。由于网络空间管理相关法律滞后于网络技术的发展，网络空间领域处于一种“混沌化”状态。平台的迅速崛起促进了其对于人类自愿放弃的公共领域的侵占，算法代替了法律的空缺，实际上承担了网络空间的日常治理。行至当下，以算法作为秩序的规则弊端丛生，并呈现出越界侵占公共领域的苗头，甚至随着数字化政府的到来，隐隐显露出侵占公共权力领域的威胁。
　　这些信息被传到移动终端时，脱离所有者的控制。用户协议的信息不对称性，使得终端企业可永久分析用户的数据，却不承担法律问责的成本。用户处于弱势一方，只有被动要求互联网企业删除信息的权利，而没有主动监控其信息被使用情况的主动权。
　　2算法规制的可能路径及其问题
　　2.1算法公开
　　算法的不透明会造成开放者与使用者的信息不对称，因此有一部分学者提出“确保算法透明性的直观方案就是要求企业公布自身的算法”。但该措施存在着不可操作性，一方面对于公司来说，算法的不透明是一种自我保护手段。对于技术型公司而言，算法是企业的核心机密。一旦公开，会面临成本增加、竞争优势被取代等风险。如为公共利益而公开算法，本质上违背了市场经济中企业以盈利为目的的组织目标。法律应是确保规范性期望实现，疏解和救济失望的工具。另一方面，算法公开后，算法审查的成本较高，这种技术鸿沟使得即便算法公开，也会被大众选择性忽视。有一部分学者认为可以发挥媒体的宣传作用将算法解释给大众，这只是将算法知识的解读交给了社会组织中的某一群w（在这里是媒体），那依然需要媒体具备专业的算法知识。因此，可看出，不论将算法公开的审查权交给谁来实施都会遇到同样的技术壁垒问题，总之，达摩克利斯之剑并未真正落下，算法的技术性形成了天然的沟通屏障。

　　2.2算法验证
　　算法形成之后，需要对其给予测试和验证。算法验证一般分为两种，即静态验证和动态验证。从结构-功能角度来说，静态验证是指重新检查代码，查询设计上的不足；从过程-事件角度来说，动态验证是指先进行小样本的预测试，通过模拟的形式，检查代码实际运行过程中的情况，并给予及时的调整。部分学者认为，为保证程序正义和捍卫网络公共空间的公共价值，应将算法验证交由第三方认证。但这种验证方式也存在一定的弊端，即成本过高和寻租。一方面，这种认证机制可能会给企业带来财务压力，这种财务压力会使得中小初创型的技术公司陷入死板单一的机械化困境，致使技术研发的停滞。
　　2.3算法解释
　　算法具有自我生产能力，这种自主性使得算法规则具有复杂性。“人类知道的远比其能表达出来的更多”，即隐性知识。然而，以机器学习为代表的人工智能，目前已摆脱了需要依赖人类表达能力的局限，打破了“波兰尼悖论”的束缚。有学者认为，当自动化决策算法的具体决定对相对人有法律上或者经济上的显著影响时，相对人有权向算法使用人提出异议，要求其提供对具体决策解释，并要求更新数据或更正错误，此即为算法解释权。这个可能路径同样存在不可规避的问题。算法解释首先依赖于算法在技术上的可解释性。这就会存在算法黑箱问题。一些简单的算法，设计师可以对其进行解释。但随着机器学习的纵向发展，算法的运算过程和决策过程更多地像一个看不见摸不着的黑箱。算法在模拟人类思维的过程中，会出现不可解释性的演化。它所能被解释的可能性越来越渺茫，设计者能够提供算法的模型，却没办法提供算法决策产生的依据。例如，我们虽能很容易记住一张面孔、辨别一个声音，但却并不能很好地阐述或解释我们为什么可以实现这一功能。总结来看，机器学习模式下则不可能要求“解释具体决定的逻辑和个人数据的权重”，因此通过算法解释对算法进行规制也不具有普适性。
　　3算法规制的新思路：走向“第三域”
　　算法规制过程中，一方面以“公”为代表的公权力有着防控算法过度剥夺公民自由，提防“奇点来临”导致人类灾难的政治使命；另一方面以“私”为代表的私权力强调经营的自由，但过度强调经济效率易引发外部环境对算法的不信任甚至恐慌。
　　3.1“第三域”概念的引入
　　“第三域”由黄宗智先生在乡村治理的议题下提出，其认为第三域不是非此即彼的二元对立，而是“具有超出国家与社会之影响的自身特性和自身逻辑的存在”。改革时期，黄宗智认为：“正是在第三领域这一地带，国家联合社会进行超出正式官僚机构能力的公共活动，也是在这一地带，新型的国家与社会的关系在逐渐衍生。这里可能是更具协商性而非命令性的新型权力关系的发源地。”正式制度和非正式制度之间具有一定的制度空间，这一制度空间即是“第三域”。算法规制的理论基础是国家与社会的关系，将此概念迁移到算法规制中具有一定的适用性。
　　3.2正式制度与非正式制度
　　所谓正式制度，是人们为了特定的目的有意识地建立起来并被正式确认的各种制度的总称，它是依靠权力机构为后盾来实施的成文规范，包括法律、法规、政策、规章和契约等。在算法规制中，正式制度是指国家针对互联网经济制定的法律条文、规章制度、行为准则等。它是源于国家法律制度建设之中的，对于以技术作为内驱动力的算法而言，则是外来的制度，是建构性的制度体系。一旦有人破坏这些制度，便会受到来自国家强制力的惩罚。这种正式制度是以政府为主导的，以公共利益作为基础，目的是对公共领域与私人领域界限范围的重新界定，以建立智能经济时代的显性秩序，规范智能经济，挖掘经济价值的同时，使其关注公共价值。
　　非正式制度是人们在长期的共同生活或社会交往过程中形成的约定俗成的且被一致认同并共同遵守的行为准则，包括意识形态、价值信念、文化传统、风俗习惯和伦理道德等。在算法规制中，公平是第一位的公共价值，而在这一概念框架下的非正式制度主要是指算法、算法设计者以及算法使用者的道德、价值信念和伦理道德，简言之，即算法德性与技术伦理。这种制度是算法设计者和使用者内化于心的行为准则，往往产生于人的工作环境、行业领域、人际交往的过程中，依赖于人的自身素质和职业责任感。这种不是以法律作为基石的行为准则有着很强的情感根基，一旦有人逾越，便会受到来自职业共同体的藐视、谴责和疏离，使其在工作环境或者行业领域受到情感上的排挤，也会形成一种公众舆论对当事人造成压迫感致使其纠正错误。这种非正式制度并不是以政府主导的，而是以私人领域的每一个主体为主导而产生的，是一种他律性与自律性的体现，也是公共利益与私人利益之间可能的融合点。
　　3.3“第三域”―正式制度与非正式制度的制度空间
　　正式制度与非正式制度的互动是顶层设计和基层呼应的良性互动。非正式制度是内“嵌”于算法运作的全程之中的，因此更容易被接受和吸纳，以弥补正式制度外入的刚性制约。与正式制度的性手段相比，非正式制度更多的是一种柔性手段，可以内化于心，外化于行。因此，在算法规制中可以将非正式制度作为正式制度的必要补充，但另一方面，在涉及底线问题的时候，正式制度又是非正式制度的守门员与警戒线。在正式制度和非正式制度之间存在的并非是黑白对立，或者泾渭分明的一条线，而是一个可以共融的合作空间和制度空间，且这一空间具有很强的“协商性而非命令性”特点，因此，在面对一些算法规制中道德价值冲突的问题时，正式制度和非正式制度都可以介入，可以采取两者的互动方式来解决纠纷，化解冲突和对立，合作共赢，达成一种平衡状态。
　　参考文献
　　［1］KarenYeung.Algorithmicregulation：Acriticalinterrogation[J].Regulaton&Governance，2018，（12）：505523.
　　[2]查道林，蒋智慧，曹高辉，等.信息系统用户感知算法焦虑的内涵及其结构维度研究[J].情报科学，2022，40（06）：6673.
　　[3]RobertSedgewick，KevinWayne.算法（第四版）[M].谢路云译.北京：人民邮电出版社，2012.
　　[4]金观涛.赛先生的梦靥：新技术革命二十讲[M].北京：东方出版社，2019：105113.
　　[5]胡凌.互联网与公共领域：财产与劳动的视角[J].网络法律评论，2013，17（02）：6167.
　　[6]阿里尔・扎拉奇，莫里斯.m.斯图克.算法的陷阱：超级平台、算法垄断与场景欺骗[M].北京：中信出版集团，2018.
　　[7]哈贝马斯.公共领域的结构转型[M].曹卫东等译.上海：学林出版社，1999.
　　[8]林洹民.自动决策算法的法律规制：以数据活动顾问为核心的二元监管路径[J].法律科学（西北政法大学学报），2019，37（03）：4353.
　　[9][德]尼古拉斯・卢曼.法社会学[M].宾凯，赵春燕，译.上海：上海人民出版社，2013.
　　[10]张凌寒.商业自动化决策的算法解释权研究[J].法律科学，2018，（3）：6872.
　　[11]黄宗智.中国的“公共领域”与“市民社会”―――国家与社会间的第三领域[C]//邓正来.国家与市民社会：一种社会理论的研究路径.北京：中央编译出版社，2002：420443.
　　[12]章荣君.乡村治理中正式制度与非正式制度的关系解析[J].行政论坛，2015，22（03）：2124.
　　[13]王芳.正式制度、非正式制度与公共品供给――来自地级市的证据[J].世界经济文汇，2018，（04）：5365.
　　[14]刘友华.算法偏见及其规制路径研究[J].法学杂志，2019，（06）：5566.
　　[15]周申倡，戴玉琴.论新时代深化村民自治的“双向制度”供给――基于村民自治制度与乡村非正式制度融合的视角[J].学海，2019，（03）：139145.


转载注明来源:https://www.xzbu.com/2/view-15445675.htm