刊海纵览 >> 《报纸理论》
自动化决策算法的法律规制
发布日期:2020-12-25 来源:《民主与法制时报》2020年11月19日第06版 作者:鲁春雅

  自动化决策算法引起的法律风险已引起越来越多的社会关注,建议推行以国家机关为主体的算法评估或审计制度,切实保障个人的知情权和算法解释权。


  在人工智能应用场景较多的领域,自动化决策算法引起的法律风险已经引起越来越多的社会关注,其中比较典型的是自动驾驶汽车致损和金融领域的数字货币被盗案件。在这些引起全球性产业变革和行业竞争态势变化的科技创新过程中,如何在现有法律的框架内解决算法自动化决策的法律问题,以及在未来的立法和监管制度上平衡高科技企业的利益、个人权益和社会安全,需要从国际视野和“数字中国”建设实际两个方面出发进行思考。


  自动化决策应

  以服务型算法为主要规范对象

  自动驾驶汽车致人死伤案件近年来不断出现。2016年全球首起“特斯拉自动驾驶”车祸致死案因为举证困难至今尚未判决(《民主与法制时报》2020年10月22日)。此类案件的发生是自主决定算法的直接侵权责任,也是算法设计者、汽车生产者和销售者的连带责任,以及汽车生产者和驾驶员之间的不真正连带责任,目前缺乏法定划分标准。此类算法不同于服务合同中算法的侵权责任,应当属于以算法技术为核心、以产品为载体的侵权责任。因此,它并不能简单通过业界对一般服务型算法规制所提出的增强算法透明度、赋予权利人算法解释权来解决问题。服务类算法造成的风险主要是滥用数据挖掘和深度学习技术,不当收集、分析用户数据,并利用用户画像对用户进行定制化服务,甚至对用户进行歧视性定价或进行差别化对待。这属于服务合同中履行从给付义务或附随义务不适当而引起的侵权责任。当然,此时也有可能形成不正当竞争或垄断。《中华人民共和国个人信息保护法(草案)》(简称《草案》,征求意见截止日期2020年11月19日)对个人信息的保护,主要适用于此种网络信息或中介服务而引起的侵权责任。《草案》在第25条第1款规定,利用个人信息进行自动化决策,应当保证决策的透明度和处理结果的公平合理。笔者认为,自动化决策对其权益造成重大影响的,有权要求个人信息处理者予以说明,并有权拒绝个人信息处理者仅通过自动化决策的方式做出决定。《草案》第25条第2款进一步限定了自动化决策的适用场景,“通过自动化决策方式进行商业营销、信息推送,应当同时提供不针对其个人特征的选项。”由此可见,该条的自动化决策应以服务型算法为主要规范对象。


  自动化决策以必要为原则

  不同于人脸识别技术、地理位置定位技术、会话跟踪技术等对用户敏感信息的收集、分析、预测和共享等人格权大数据的不当处理引发的隐私权担忧,个别的自动化决策(如自动化驾驶汽车、私人数字货币的应用等)将在具体产品利用和交易场景下产生特定化的侵权行为。前者可能发生身份被窃取、用户信息或数据无法消除或被不当利用的潜在风险,后者则会发生人身权和财产权遭受不可逆转的现实损害。

  目前,《草案》仅在第31条对个人敏感信息的处理规定了必要性原则,并未如欧盟《一般数据保护条例》一样将“对于数据主体和数据控制者之间的合同达成和履行必要”作为自动化决策的前提。《一般数据保护条例》规定,数据主体要求数据控制者对算法进行解释,这实际将证明自动化决定必要性的举证责任分配给了数据控制者。但《草案》第25条则将证明对个人权益造成重大影响的举证负担施加给了自然人。

  虽然《草案》第25条也规定了自动化决策的透明度和结果公平合理的前提,但个人显然在举证不能的情况下无法行使算法解释权。算法解释权是一种非常被动的事后响应措施,数据处理者是否对此进行解释,或者解释能否满足个人的请求,以及如果数据处理者以符合现行国标或行业强制标准为由,逃避对自动化决定行为与行为效果之间因果关系的进一步解释,个人并无权依据解释权受损而请求赔偿。因此,该解释权是一种没有具体权利内容和缺乏法律效果的程序性权利,而非实体性的人格权或数据权。


  实行算法审计和评估

  鉴于此,在现行产品责任并不能完全解决自动驾驶汽车侵权损害中的潜在损害,以及因果关系证明责任分担时,可以考虑引入《一般数据保护条例》中对于解释权行使必要性的限制条件。同时,考虑到算法控制者可能会通过修改算法底层协议或采用不同编程语言来规避该解释权,对特殊行业的算法,建议推行以国家机关为主体的算法评估或审计制度,并将这种审计结果以强制信息披露的方式予以公开,使个人的知情权得到切实保护。此外,建议由算法主体在提供自动化决策服务时,尽到《中华人民共和国民法典》第496条要求的特别说明的义务。

  《区块链信息服务管理规定》第9条规定,“区块链信息服务提供者开发上线新产品、新应用、新功能的,应当按照有关规定报国家和省、自治区、直辖市互联网信息办公室进行安全评估。”按照中国人民银行发布的《金融分布式账本技术安全规范》第12.7条规定,金融服务提供者应对智能合约进行审计,并保留审计记录。这可能会在一定程度上牺牲企业的商业秘密权,但在未来的长远发展上,可以平衡企业经济效益与个人权益保障、社会安全之间的利益,从而促进社会和谐发展。

  (作者系北京化工大学法律系副教授)

责任编辑:徐子凡
本站系非盈利性学术网站,所有文章均为学术研究用途,如有任何权利问题请与我们联系。
^