人工智能时代智能投顾民事责任认定研究
来源:用户上传
作者:
摘 要：人工智能的发展使人类社会发生了深刻的变革。在金融领域，智能投顾的应用降低了投资者获取证券投资建议服务的门槛，但算法黑箱增加了投资者索赔的难度。基于投资者保护和金融科技发展的价值平衡，从业机构的赔偿责任和技术提供方的赔偿责任均需引起重视。智能投顾没有改变传统的投资顾问服务关系，诉讼中的证明难题是投资者索赔的主要障碍，而根据双方在证明活动中的地位，合理分配举证责任、合理调节证明标准，是解决纠纷和落实赔偿的可行途径。
关键词：智能投顾;责任主体;举证责任;证明标准
DOI：10.3969/j.issn.1003-9031.2019.07.005
中图分类号：DF438.7 文献标识码：A 文章编号：1003-9031（2019）07-0043-07
一、引言
金融创新是金融业内进行的创造性变革，是金融发展的推动力。近年来，人工智能在各行各业被广泛应用，学界对其探讨的激情丝毫未有退减之势。诚然，其给人类社会带来便利的同时，也引致了新的风险，如人工智能机器人侵权、无人驾驶汽车事故责任认定等。在法律领域，因技术应用造成的损害，使得对人工智能民事责任相应的研究成为无法回避的问题。在人工智能运用较多的金融领域，金融科技的发展一方面为金融创新注入了动力，但同时也对投资者权益的保护造成了一定程度的威胁，如因智能投顾①在金融领域的运用而引致的投资者保护议题，使得对其民事责任认定的研究成为必然。
综观现有研究文献，对智能投顾的相关研究多集中于如何推进其进一步发展及对其监管问题上，对其民事责任及认定问题的研究相对薄弱，在金融科技迅速发展的当下，相关研究需进一步深入。就法律层面而言，认定和追究智能投顾的民事责任必须以促进金融科技发展和投资者保护之间的价值平衡作为核心宗旨。在人工智能发展的不同阶段，民事责任承担存在较大差异，而确定责任主体是研究人工智能民事责任的基础问题。首先，应明确投资者遭受损失后可以向谁主张赔偿。这要求适当界定责任主体的范围以保障投资者求偿权，要在相关主体之间公平分配责任以避免责任人逃避法律追究。其次，要明确有关主体的责任性质，即责任主体承担的是违约责任、侵权责任或其他法定责任。在现有的责任制度框架下，违约责任赔偿范围限于可量化和可预期的损失，侵权责任中纯粹经济损失是否属于赔偿范围仍存在争议。最后，民事责任的追究必定要通过一定的纠纷解决机制来完成，一个更根本的问题是投资者能否提供相关证据证明自己的主张。技术应用增加了因果关系证明的难度，技术黑箱的存在弱化了投资者的举证能力，在举证能力失衡的情况下投资者很难通过诉讼途径维护合法权益，因此，在民事责任证明制度上做出合理安排是解决问题的关键。
二、责任形式之问：智能投顾民事责任承担的基础
智能投顾民事责任承担的基础是指，智能投顾民事责任主体基于何种原因要承担法律上的不利后果。法律责任是第二性义务，是责任主体不履行法定或约定的第一性义务而应承担的法律上的不利后果。要求一定主体承担某种不利后果必须具备正当理由，这是民事责任认定研究的基础。鉴于致害原因具有多重性，为了充分保护投资者合法权益，智能投顾民事责任的主体包括提供投资建议服务的从业机构和提供算法规则的技术提供方。由于从业机构和技术提供方与投资者之间存在不同的法律关系，当损害发生时二者承担责任的基础就存在差异。基于法律规定，从业机构对投资者负有信义义务，从业机构及其人员应当遵循诚实信用原则，勤勉、审慎地为客户提供证券投资顾问服务，从业机构违反该义务并给投资者造成损害的应该承担损害赔偿责任。当从业机构向第三方购买技术时，技术提供方与从业机构之间是买卖合同关系，但当损害发生时技术提供方作为产品的生产者应当对产品给投资者造成的损害承担赔偿责任。
（一）从业机构的信义义务
從业机构对投资者负有信义义务，是指从业机构应当按照行业公认的谨慎、诚实和勤勉尽责的态度为投资者或客户提供投资建议服务。从业机构的信义义务包括注意义务和忠实义务两个层面，注意义务要求从业机构为投资者提供咨询服务时像处理自己的事务一样保持谨慎，忠实义务强调从业机构要为了投资者的最大利益而行。信义义务的一个重要体现就是投资建议符合投资者适当性原则，根据投资者适当性原则，传统投资顾问机构及其从业人员要了解客户和产品，智能投顾还要求从业机构了解其使用的算法。智能投顾从业机构有义务监督算法的设计、测试算法的有效性、维护算法的稳定性，保证投入使用的算法能满足投资者适当性原则的要求。算法缺陷致害是因为根据算法规则生成的投资建议不符合投资者适当性要求，这是从业机构对算法缺陷承担责任的基础。
从业机构因违反信义义务而给投资者造成损害时应当承担损害赔偿责任，但责任性质如何界定，即从业机构承担的是合同责任、侵权责任还是法定责任？在传统投资顾问领域，投资建议的质量严重依赖于投资顾问人员的专业能力，最终的投资建议是一系列价值判断和利益衡量的结果，只要投资顾问按照行业标准方式谨慎行为，即使投资失败也可以免除责任。因此，很难通过合同约定控制风险，只能采取事后规制的方式要求从业机构及相关人员尽职履责。智能投顾的算法规则仍体现人的价值判断和利益衡量，因此合同责任难以发挥作用。有学者认为从业机构承担的是法定责任，支持这种观点的主要有两方面理由：一是从业机构给投资者造成的损失属于纯粹经济损失，其超出了侵权责任的赔偿范围，因此不能将其界定为侵权责任;二是一般侵权责任的认定需要考虑过错问题，法定责任只关注从业机构的行为而不管其主观状态，可以避免一般侵权责任构成中的主观过错问题。从业机构实施了违反信义义务的行为被当作法定责任的法定构成要件之一。在如何认定从业机构某一行为是否违反信义义务的问题上，套用类型化的行为模式来作为判断的依据难免挂一漏万，若以抽象的原则作为判断标准又缺乏可操作性，难以满足实践需要。 还有学者认为，我国《侵权责任法》第2条的保护范围包括民事权利和民事权利之外的合法利益，纯粹经济损失在内的财产利益也属于侵权责任法的保护范围。根据这种观点，从业机构的责任可以被界定为侵权责任。那么接下来的问题是，从业机构承担过错责任还是无过错责任？有观点认为从降低从业机构的负担和鼓励金融科技发展角度出发，认定从业机构责任时应适用过错责任原则。但证券业本就呈现出高度专业化特征，侵权人的主观过错很难证明，因此，证券侵权被作为特殊侵权采用无过错责任或过错推定责任来强化投资者保护。智能投顾不仅运用了高度专业的证券知识，且算法黑箱导致风险因素更为隐蔽，投资者证明从业机构具有主观过错的难度更大。投资者本就处于弱势地位，由此认定智能投顾从业机构民事责任时适用过错责任无法实现保护投资者的价值目标。因此，即使认为从业机构应承担侵权责任，那么在责任认定时也应弱化对从业机构主观过错的关注，适用过错推定或无过错责任。
法定责任和特殊侵权责任殊途同归，都强调弱化从业机构主观过错以降低投资者的证明难度从而实现保护投资者的终极目标。二者的目标一致，实现目标的途径也相似。因此，就保护投资者而言，通过程序法在举证方面做出调整有利于强化对弱势一方的保护。
（二）技术提供方的侵权责任
智能投顾属于初级阶段的人工智能，是人类利用的工具，因此对算法有控制力的主体应当对算法造成的损害承担赔偿责任。从业机构向技术提供方购买算法，将算法用以向投资者提供咨询服务的工具。根据《产品质量法》的规定，生产者应当对其生产的产品质量负责，因产品存在缺陷造成人身、缺陷产品以外的其他财产损害的，生产者应当承担赔偿责任。该算法是技术提供方制作的用于销售的产品，属于《产品质量法》规定的产品，技术提供方是该产品的生产者。此外，技术提供方是最了解算法的主体，其具备检测算法缺陷的能力，因此有义务在算法投入使用之前进行测试保证算法的有效性。产品责任使得因产品缺陷而遭受损害的受害者可以要求生产者赔偿。投资者虽然不是算法购买合同的当事人，但其在使用了存在缺陷的算法而遭受财产损害时可以直接要求算法提供者承担赔偿责任。产品责任是无过错责任，不问生产者是否存在主观过错，但允许生产者援用免责事由以抗辩。智能投顾的技术提供方是算法的原始缔造者，具有鉴别和避免算法缺陷的技术能力，其应当对算法缺陷导致的损害承担无过错侵权责任。但由于算法运用于金融领域，主要目的是帮助投资者进行投资决策，因此智能投顾与一般产品相异，生产者的免责事由应当在一般产品的免责事由的基础上做出相应调整。
三、责任落地之基：智能投顾民事责任承担的主体
智能投顾脱胎于传统投资顾问业务，是金融科技在传统投顾业务中的运用。我国《证券投资顾问业务暂行规定》第二条①和《关于规范金融机构资产管理业务的指导意见》第二十三条②分别对证券投顾业务和智能投顾的资质问题作出了规定。为此，本文在我国现有法律框架下研究智能投顾，即智能投顾仅指从业机构通过算法模型为投资者提供投资建议，不包括金融机构提供的资产管理服务。
一方面，智能投顾以大数据为基础算法代替自然人顾问为投资者提供投资建议，技术应用导致传统风险异化的同时也引发了新型非市场风险，法律必须及时对此做出回应;另一方面，智能投顾本质上没有改变投资顾问业务的基础关系，即投资顾问机构为投资者提供投资建议服务，投资顾问机构仍然可能进行利益输送，损害投资者利益，因而二者的利益冲突依然存在。既然智能投顾致害有多重原因，那么研究智能投顾民事责任的承担问题就有必要将其中的技术因素分离出来，即区分非算法缺陷导致的损害和算法缺陷导致的损害。
（一）非算法缺陷导致的损害
非算法缺陷是指智能投顾从业机构利用算法以外的非技术手段损害投资者利益，表现为传统的违法违规行为。从业机构提供投资建议服务应当遵守《证券法》《证券、期货投资咨询管理暂行办法》《证券投资顾问业务暂行规定》等监管规定，履行投资者适当性、完善内部控制和避免利益冲突等义务，忠实勤勉地提供投资建议服务。从业机构违反监管规定给投资者造成损失的，投资者可以依据《证券法》第171条向从业机构请求赔偿。同时，《证券法》第232条规定了民事责任的优先性，即当财产不足支付罚金罚款和承担民事责任时从业机构应先承担民事责任。因此，将技术因素剥离之后，智能投顾从业机构实施违法违规行为给投资者造成损害的，应当按照法律法规规定承担民事赔偿责任，且在财产不足时优先民事赔偿。
（二）算法缺陷导致的损害
智能投顾的核心是投资策略基于大数据分析和算法规则而形成，即算法规则代替了自然人顾问作为投资判断，算法的引入使得智能投顾服务具有自动化、标准化、普惠性等区别于传统投资顾问的特质。因此，保护投资者合法权益不仅要求从业机构忠实勤勉地提供投资建议服务，还要求从业机构和技术提供方设计合理有效的算法并合理利用算法。算法缺陷致害可能由主观因素引起，也可能是客观因素导致。主观因素造成的算法缺陷是指从业机构或技术提供方可能故意设计有缺陷的算法规则，利用算法实施歧视行为或進行利益输送损害投资者利益，或技术提供方和从业机构过失地生产和使用缺陷算法导致投资者遭受损害。客观因素导致的算法缺陷是指由于技术发展水平的限制而形成的原始算法缺陷致害。智能投顾因算法缺陷导致损害，谁应该承担损害赔偿责任？
1.从业机构设计算法并运营算法。从业机构设计算法并运营算法，这意味着从业机构完全掌控智能投顾的设计和运作过程。此时，责任主体为从业机构自身，因为从业机构应当对自己开发的算法负责，也应当对自己提供服务的行为负责，即从业机构对主观因素和客观因素造成的算法缺陷均应承担责任。但从业机构的责任大小应根据其主观状态和对风险的控制能力而有所区分。主观算法缺陷造成损害时应区分故意和过失，客观算法缺陷造成损害，若该算法缺陷超出技术人员现有的技术认知水准的，从业机构可以免责。算法缺陷产生的原因是否超过行业现有的技术认知水准，应当依照同行现存的一般技术标准进行判断。从业机构免责的前提是充分履行了信息披露义务，使投资者充分了解了该算法存在的潜在缺陷和可能导致的风险。 2.从业机构从第三方购买算法。从业机构从第三方技术机构购买算法，这时应合理划分从业机构和技术提供方各自的风险控制范围，能真正控制风险因素的主体应承担责任，从业机构控制能力之外的风险所造成的损害应当免责。从业机构故意购买劣质算法导致投资意见不符合投资者的实际情况，从业机构和劣质算法的提供者均对投资者遭受的损害负责，二者承担连带责任。从业机构因过失未能发现算法缺陷导致损害，且该算法缺陷是设计者在设计时可以采取技术手段予以避免的，则从业机构与提供技术的主体应当按照各自的过错程度承担责任。若该算法缺陷超过了行业现有的一般技术水准，则从业机构和技术提供方均可以在充分信息披露的前提下主张免责。
四、责任分配之弈：智能投顾民事责任的证明
由于智能投顾的技术黑箱问题，投资者很难认识算法缺陷以及证明算法缺陷和损害之间的因果关系，这给法律责任认定带来了困难。智能投顾没有改变法律关系的本质，因此我们不必纠结于智能投顾民事责任是侵权责任还是法定责任。由于技术具有发展性，算法缺陷的类型无法穷尽且具体的行为方式也在不断变化。高度抽象的信义义务在智能投顾民事责任认定方面缺乏可操作性，过于具体的行为类型又会导致陷入技术陷阱。因而解决智能投顾的民事责任问题应当将重点放在民事责任认定的证明上，各方主体均可提出证据来证明自己主张的合理性。在证明过程中，倾斜分配证明责任和合理调节证明标准可以弥补智能投顾投资者保护不足，以实现实质公平。
（一）合理分配举证责任
在民事证明制度发展过程中，证明责任的二分法得到了多数学者的认可，即证明责任分为主观证明责任和客观证明责任。主观证明责任是指提供证据的责任，客观证明责任是指当案件事实真伪不明时由谁承担败诉的不利后果。由于证明责任与一定的诉讼风险相联系，因此，承担主观证明责任的民事诉讼当事人同时承担客观证明责任，即负有义务提供证据的民事诉讼当事人无法提供证据或其证明活动无法达到证明标准时，应当承担其主张不成立的后果。在此基础上，有学者提出了具体举证责任和抽象证明责任的二元机制，认为具体的举证责任和抽象的证明责任在适用情景、规范功能、分配标准上存在区别，二者不宜包含在一个概念之下，否则容易造成实践中的混乱。
具体举证责任和抽象证明责任的二元机制注重区分举证责任承担的依据和证明责任分配依据之间的差异。举证责任是指当事实真相不明时由谁承担提供证据的义务，法官可以根据个案中当事人的举证能力、举证成本的等具体因素在当事人之间合理分配举证责任。证明责任是指在现有证据的基础上，案件事实不清由谁承担败诉的不利后果，证明责任是依据实体规范确定的，旨在实现实体规范的特殊保护目的，只有存在法律漏洞时证明责任才能由法官自由裁量分配。投资者保护和维护金融业安全与稳定是金融业发展过程中永恒的主题，我们认为二者具有一致性，但投资者保护处于更基础的地位。这是因为信任是金融运作的基础，投资者的信任是金融业保持长久生命力的源泉。证明责任的实质性分配原则与二元机制中的证明责任法定异曲同工之处，按照实质性原则分配证明责任要求注重其规范功能，即证明责任分配应当符合实体法的规范目标。智能投顾民事诉讼中证明责任分配应当符合实体法的价值目标，与智能投顾相关的实体规范应把投资者保护放在基础地位，因此智能投顾诉讼中证明责任应主要分配给从业机构和技术提供方，尽量避免投资者承担因案件事实真伪不明而承担的败诉后果。
根据个案中当事人的举证能力，由更容易获得证据的主体承担提供证据的责任符合维护公平价值的要求。如2019年4月《反不正当竞争法》第二次修订，新增第32条专门对侵犯商业秘密的不正当竞争纠纷民事诉讼中的举证问题进行规定。本次修法加强了对商业秘密权利人的保护，减轻了权利人的举证负担，由被诉侵权人证明权利人所主张的商业秘密不属于《反不正當竞争法》所保护的商业秘密，权利人仅需提供初步证据，由被诉侵权人证明其不存在侵犯商业秘密的行为。调整商业秘密条款举证责任的主要原因就是在商业秘密不正当竞争纠纷案件中权利人和被诉侵权人的举证能力明显失衡，原告囿于举证困难导致胜诉率极低，这严重阻碍了企业公平参与市场竞争，阻碍了市场发展。由此可见，合理分配举证责任已经受到重视，尤其是在举证能力失衡领域这被认为是解决纠纷和维护正义的有效方式，此做法可以借鉴。
限于技术障碍，购买服务的投资者的举证能力实质上被弱化了，投资者通常处于举证不能的困境，而掌握算法运作的从业机构和技术提供方提供证据的能力更强。诉讼证明制度应矫正形式平等，适当向处于弱势地位的投资者倾斜。智能投顾民事诉讼中投资者只需提出初步证据证明损害存在、损害程度，从业机构的不当行为或算法缺陷与损害之间存在因果关系的可能性。从业机构和技术提供方具有提供证据的优势，应承担主要举证责任，证明其行为的适当性、算法的有效性以及存在免责抗辩事由等。
（二）合理调节证明标准
首先，认识是从相对真理向绝对真理靠近的动态过程，认识具有相对性，认识结果并非确定的。证明过程是对过去发生的事件的回顾，受到认识相对性的限制，诉讼证明不可能完全再现案件事实，即诉讼中证明具有相对性。其次，证明规则并非完美无缺，依据一定的证明规则和证明程序所得证明结果可能与客观事实存在差异。在案件审理中，以证据为基础重构的事实属于法律事实，法律事实与客观事实并不完全一致，当事人得证明到何种程度才能使法官产生确信，这属于证明标准问题。证明标准理论中的法律真实说认为，在诉讼证明过程中，证明活动符合实体法和程序法的规定即可认为达到了法律上认为真实的程度。
法律事实并不必然等同于客观事实，因此需要证明标准来帮助法官认定事实裁判案件。最高人民法院《关于民事诉讼证据的若干规定》第七十三条①表明，我国民事诉讼法采用盖然性证明标准，但没有规定该标准是占优势盖然性标准还是高度盖然性标准②。智能投顾民事诉讼中算法黑箱的主要影响就是加剧了因果关系证明难度，投资者很难证明损害是由从业机构的不当行为还是算法缺陷导致。因此，在个案中法官裁判案件时应当根据证据的可获得性在当事人双方之间合理调节证明标准，证明责任的主体是受害的投资者时应当降低证明标准，证明责任的主体是掌握证据的从业机构和技术提供方时则应提高证明标准。投资者提供初步证据证明产生损害、具有因果关系时应当降低证明标准，具有可能性即可。从业机构和技术提供方证明其行为的合理性和存在免责事由时应当提高证明标准，应该达到高度盖然性标准，以此实现保护投资者的价值目标。
五、结语
智能投顾不具有法律人格，其不能成为法律责任的主体，控制智能投顾的主体应当对智能投顾造成的损害承担民事责任。运营智能投顾的从业机构和提供算法的技术提供方都是对算法缺陷具有控制力的主体，仅仅着眼于从业机构的责任可能有失偏颇。从业机构对投资者负有信义义务，其违反信义义务给投资者造成损害的应当承担赔偿责任，法定责任和特殊侵权责任在一定程度上可以达到相同的目标;技术提供方作为算法的生产者，应当对算法承担产品责任，因算法缺陷导致损害时应对投资者承担赔偿责任。智能投顾民事责任的落脚点在于如何充分赔偿投资者遭受的损失，对此，我们还应将重心放在民事诉讼的证明，从投资者保护的价值目标出发，同时根据从业机构、技术提供方、投资者之间举证能力的差异，从业机构应当承担主要举证责任且应当提高其证明标准。
（特约编辑：蒋琳）
参考文献：
[1]李爱君.互联网金融的法治路径[J].法学杂志，2016（1）：49-54.
[2]郑佳宁.论智能投顾运营者的民事责任——以信义义务为中心的展开[J].法学杂志，2018（10）：62-72.
①《最高人民法院关于民事诉讼证据的若干规定》第73条规定，当事人对同一事实提出证据且不能否定对方证据的，法院根据证据的证明力的大小做出判断，无法判断时法院依据举证责任分配规则裁判。
②英美法系采用占占优势盖然性标准，大陆法系采取盖度盖然性标准。占优势盖然性标准的对证明标准的信任范围在50-70%，高度盖然性标准的对证明标准的信任范围在70-90%。
转载注明来源:https://www.xzbu.com/3/view-14982345.htm
