下载掌阅APP，畅读海量书库
立即打开
1.裁判书字号
广东省广州市中级人民法院（2021）粤01民终29639号民事判决书
2.案由：网络侵权责任纠纷
3.当事人
原告（上诉人）：梁某、实业公司
被告（上诉人）：科技公司
梁某是实业公司的法定代表人。A平台是科技公司运营的企业信用信息查询平台。
2021年3月24日，梁某、实业公司发现A平台关于梁某的《董监高投资任职及风险报告》中错误显示了与梁某无关的大量任职信息，显示梁某在与其无关的多家企业担任法定代表人、董事、监事、高级管理人员等职务，且该多家无关企业名下有失信、限高（限制高消费）、终本（终结本次执行程序）记录等。同时，A平台关于实业公司的《企业信用报告》显示该公司的法定代表人对外任职投资信息一栏也被错误关联了上述信息。梁某、实业公司主张科技公司的上述行为侵害了两主体的名誉权以及梁某的个人信息权益，故提起本案诉讼。科技公司则抗辩案涉关联行为是由于其平台算法错误关联造成，并非人为导致，要求驳回原告的全部诉讼请求。
1.科技公司是否侵害梁某、实业公司的名誉权；2.科技公司是否侵害梁某的个人信息权益；3.如存在前述侵权，科技公司应如何承担民事责任。
广州互联网法院经审理认为：科技公司应对算法造成的错误承担责任。算法输出的结果，归根结底是运用者意志的体现。算法的设计、部署、运行到算法的调整、补漏，均是人为实施的结果。科技公司对算法这一技术的利用本身即创设了危险发生的可能性，故而应当对危险后果承责。案涉有关梁某、实业公司的信用报告，因同名同姓主体的身份识别问题而出现错误，该错误类型非常典型、明显，不论科技公司是明知而不予解决，还是因疏忽大意而未注意到该问题，均应认为科技公司未尽到合理注意义务。案涉错误关联已造成对梁某、实业公司名誉权的损害，依法应当承担相应的民事责任。
案涉信用报告记录了梁某担任法定代表人的企业以及相关企业的司法案件信息，能够单独或者与其他信息结合识别到梁某本人，属于梁某的个人信息。科技公司通过算法对已合法公开的个人信息进行处理，在未有证据表明梁某明确拒绝或者处理该信息侵害梁某重大利益的情况下，该处理行为并未违反相关规定。但对个人信息处理还应保证个人信息的质量，应避免因个人信息不准确、不完整对个人权益造成不利影响。现科技公司处理的有关梁某的个人信息有误，梁某有权要求科技公司予以更正、补充。同时，科技公司提供的证据不足以证明其对个人信息的处理没有过错，鉴于其行为侵害了梁某的个人信息权益，并造成损害，故应承担损害赔偿的侵权责任。
广州互联网法院依照《中华人民共和国民法典》第九百九十八条、第一千零三十七条之规定，作出如下判决：
一、科技公司在A平台梁某、实业公司的主页内，分别刊登对梁某、实业公司的致歉声明；
二、科技公司分别向梁某、实业公司各赔偿经济损失30000元；
三、科技公司向梁某、实业公司赔偿律师费、公证费损失共计31200元。
双方当事人不服一审判决，提起上诉。
广东省广州市中级人民法院同意一审裁判意见，依照《中华人民共和国民事诉讼法》第一百七十条第一款第一项之规定，作出如下判决：
驳回上诉，维持原判。
一、大数据时代的算法司法规制
大数据与人工智能时代，算法已成为数据处理不可或缺的工具。随着算法运用的普及，涉算法侵权纠纷时有发生。该类纠纷通常表现为因算法模型漏洞、算法运行错误、算法歧视、算法自动化推荐不当等产生的侵权纠纷。
算法作为自动化工具的一种，最大的特征是去人为化。算法的输出目标一旦被设定，就会自动通过深度学习无限趋近。算法深度学习的结果，可能会与设计之初大相径庭。基于此，算法运用者往往以算法错误结果系由机器自动化决策造成进行抗辩。另外，算法的原理和互动机制具有一定的隐秘性，外界难以得知。
即使算法运用者披露了算法模型、机制机理，首先，算法具有一定的复杂性和专业性，难以从算法模型、机制机理本身评判其优劣。其次，算法的结果错误，可能源于算法模型本身的漏洞，算法部署和运行的错误，数据收集清洗的瑕疵等。最后，某些算法的模型设计、机制机理本身不一定有明显问题，但仅此也并不意味着算法运用者对错误结果不存在主观过错。
二、确立算法运用者的责任主体地位——否定“技术中立”
法律规制的对象只能是人的行为。算法运用者有关“技术中立”的抗辩，实质是对算法受法律规制的否认。实际上，算法是人机交互的结果。算法通过深度学习获得的“自我决策权”，是在人类设定的目标范围内所取得。算法的设计、部署、运行到算法的调整、补漏，均是人为实施的结果，算法的自我学习能力亦是算法设计者所赋予。算法设计者对算法基于外部实时网络环境作出的反应并非完全不可预测，对算法基于自我学习发生的运行偏差也完全有能力进行纠正。算法运用者对算法这一技术的利用本身创设了危险发生的可能性，因此，算法错误造成的损害，最终应由算法运用者承担。如以“技术中立”否认算法运用者的责任主体地位，将陷入算法错误无人承责，算法损害无从主张的境地，不符合民法公平原则和诚信原则。
三、审查算法运用者主观过错的“外观主义”规则
如前所述，对算法模型、机制机理进行审查，并不能有效解决算法运用者主观过错的认定问题。基于此，司法审查应将关注视角从技术本身转移到技术带来的权利、义务、责任关系变动，不拘泥于从算法本身审查主体过错，而是从外部动态要素综合考量算法运用者的主观过错，以此应对算法黑箱、算法复杂性专业性、机器自动学习等带来的审查干扰。
认定算法运用者的主观过错，应结合平台的法律主体地位、算法错误的明显程度、数据所涉权益的重要程度、平台规模、平台营利模式及获利情况等动态因素，在个性化的场景中综合判断。一方面，算法错误越常规、越明显，与业务的基础架构、底层建筑、功能发挥越相关，算法运用者未尽到相应注意义务，被认定为侵权的可能性就越大。另一方面，针对非敏感数据，在发生错误结果时原则上应当允许算法运用者通过事后救济的方式予以纠正。针对敏感数据，应当要求算法运用者秉持更加审慎、严谨的态度，采取更为有效的核查手段。
四、算法责任的分配应考虑多方主体利益平衡
算法规制的最终目的，是在尽可能不牺牲社会公共利益的基础上，利用规则引导算法运用者、技术开发者自行消化算法不当结果导致的社会成本。一方面，要着重考虑数据主体的权益保护，充分救济其因遭受算法错误结果侵害带来的损失。另一方面，应使个案裁判发挥促进算法运用者优化算法模型机制机理、引导大数据产业良性健康发展的正面效应。同时，还应保障社会公众从算法运用、大数据产业发展中获得的公共利益，保障其知情权及信赖利益。
编写人：广州互联网法院 麦应华