优化算法推荐服务机制 促进算法应用向上向善
发布日期:2021-09-01 来源:民主与法制时报 作者:徐伟

  近年来,随着人工智能技术的迅速发展,算法日渐渗透到人们日常生活的方方面面,购物、出行,甚至婚恋都有相关算法在背后为用户提供“匹配”服务。为此,我国多部法律对算法进行了规制,如网络安全法、数据安全法、电子商务法、个人信息保护法等。日前,国家互联网信息办公室发布《互联网信息服务算法推荐管理规定(征求意见稿)》(以下简称“意见稿”)对实践中的算法推荐作了更具体、细致的规范。值得注意的是意见稿明确提出“算法向善”原则,在第六条第一款规定,“算法推荐服务提供者应当坚持主流价值导向,优化算法推荐服务机制,积极传播正能量,促进算法应用向上向善。”


  除明确将算法向善作为基本原则外,意见稿还在一系列规则上贯彻了这一原则。比如,针对游戏沉迷和巨额直播打赏等现象,要求算法推荐服务提供者不得设置诱导用户沉迷或者高额消费等违背公序良俗的算法模型。针对“饭圈”乱象等,要求算法推荐服务提供者要建立完善人工干预和用户自主选择机制。针对实践中有的人“控制热搜”问题,要求算法推荐服务提供者不得利用算法屏蔽信息、过度推荐、操纵榜单等。为了强化对未成年人的保护,要求算法推荐服务提供者不得向未成年用户推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息内容等。


  为何要算法向善?对此,笔者认为可从正反两个方面加以理解。一方面,算法没有立场,算法客观展示数据统计的结果。比如,算法通过统计外卖小哥的平均送餐时间、送餐路线等,对外卖小哥的送餐效率及其奖惩提出要求。这貌似对外卖小哥提出了“客观”要求,但却强行使送餐效率要求不断提高。这让未达到平均时间的外卖小哥加快其送餐时间,从而使平台进一步提高送餐时限要求,并将其转化为对外卖小哥工作的苛刻要求,由此可能引发交通违规和交通事故等。因此,任由算法“自然演化”,缺失对算法向善的要求,人们可能会在不知不觉中被算法所吞噬。另一方面,遵循算法向善原则不仅是维护清朗网络空间,更是实现社会向善的必要条件。随着算法日渐渗透到人们生活的方方面面,它将影响我们的所思所想和行为决策,甚至成为影响和塑造社会观念的重要因素。因此,遵循算法向善是数字时代实现社会向善不可或缺的组成部分。


  算法向善是我们应遵循的基本原则,但如何实现算法向善?在这个价值多元化的当下,得出对“善”的共识并非易事。比如,据媒体今年6月报道,腾讯公司申请的一项名为“一种婚恋对象推荐方法及装置”的专利通过审查。该专利试图实现对潜在婚恋对象的更佳匹配。根据专利说明,算法在匹配时综合了双方的信用分、年龄、收入、颜值、星座、性格、居住地、兴趣、工作行业等。比如,收入方面,算法的规则是,男生收入与女生收入的比值越大,二者越匹配;星座方面,设置了“射手座与处女座不合适”等规则。虽然该专利通过了审查,但算法中的这些规则是否有悖于公序良俗,值得探讨。可见,法律对算法介入的程度和边界并不容易把握。此外,法律规制算法还要避免“好心办坏事”。比如,意见稿明确,算法推荐服务提供者不得设置歧视性或者偏见性用户标签,并向用户提供选择、修改或者删除用于算法推荐服务的用户标签的功能。但当一位主播要求抹去其曾在直播中的欺诈行为记录时,平台是否应予以配合?网络交往中,不仅有平台和用户间的关系,还存在用户与用户间的关系。因此,当我们基于平台与用户之间强弱悬殊的现实而在法律上对用户给予倾斜性保护时,也应检视给予某一用户的特殊保护,是否会伤害到另一用户的正当利益。


  网络治理是社会治理的重要组成部分。唯有算法向上向善,才能营造清朗的网络环境。实现算法向善,要从加强社会治理大局出发,及时、有力地应对算法带来的隐患与挑战,弘扬社会主旋律、传播正能量,从而促进网络清朗、社会和谐。


  (作者单位:宁波大学法学院)

责任编辑:郝魁府
本站系非盈利性学术网站,所有文章均为学术研究用途,如有任何权利问题请与我们联系。
^