浅析人工智能在行政领域的应用及其风险规制
发布日期:2020-10-13 来源:人民法治

人工智能已成为一种时代发展新趋势,它在法律和行政领域的应用也越来越广泛。按照智能水平高低,人工智能分为弱人工智能和强人工智能。弱人工智能,是指人工智能按照特定的输入程序作出反应,但是不能自主推理;强人工智能,是指在弱智能基础上的跨越式进步,能够有自主意识地解决问题。目前行政和法律领域的“人工智能”运用,远达不到创造性智能水平,仅仅是感知智能阶段,是一种基本依靠程序设定和对数据进行表征学习的初级智能,只能在某个特定环节通过人机交互发挥作用,属于弱人工智能阶段。

 

“人工智能+行政”的应用现状


(一)人工智能在行政立法中的应用

1.立法流程电子化。一部政府规章的出台包括上报立法计划、立法草案、征询意见、召开审核会议等多个环节,严格按照法定程序推进有近三十项之多。如此繁复的流程若是能够智能化、电子化,将大大减轻立法各环节工作人员的工作任务,提高立法工作的效率。为回应立法需求,上海率先建成了“智慧法制”立法信息平台,该平台与办公厅公文系统对接,将电子数据一键推送。通过平台,可以直接传递立法材料、在线操作规章及规范性文件的即时清理、完成意见征询材料的快速传送并及时反馈征询的意见结果。地方行政立法工作有了人工智能辅助,不仅避免了纸质过程,利于环保,更有利于立法工作的有序推进。

2.备案审查阶段智能化。立法机关的备案审查工作一直有“只备案不审查”的现象,主要原因之一是待审查文件以及作为审查依据的法律、行政法规、地方性法规数量庞大。立法工作者需要花费大量时间精力广泛查阅法律规定,并将其与待审文件的规定事项进行关联比对,而人工智能辅助立法的探索,将有助于缓解规范性文件“备而不审”的现象。例如天津市使用北大法宝智能立法支持平台,借助人工智能帮助备案审查工作。这套智能立法平台为立法工作者设置了“敏感词词库”,当“敏感词”出现在待审查文件中时,则需要进一步审查。比如,按照法律规定、规章及以下位阶的文件不能增设行政许可,机器检测到待审查文件中出现“许可”“审批”等词时会予以提示。该平台还能对往年的规范性文件进行审查,在机器的辅助下更新清理,提示制定机关进行纠正。这种智能化平台不仅能提高备案审查工作效率,还能提高规范性文件的合法性和准确性。


(二)人工智能在行政服务中的应用

随着政府公共管理服务分工日趋细化复杂,将人工智能技术应用于政务工作中,能有效缓解政务服务人员人力不足的压力,及时采集、存储、归类相关政务信息,整合并高效利用政务资源,推动政务服务质量提升。上海市徐汇区的政务服务中心进行智能化政务建设,打造AI机器人,通过语音、文字交互并结合录入的专项业务语料和政府服务政策的知识库,引导民众完成业务咨询、办理与引导。使得民众办事更便捷、高效,提升了民众满意度。

此外,上海长宁区在2018年底也已经实现了“智能服务平台”全覆盖,该平台是根据“互联网+政务服务”结合人工智能应用技术,对“人工智能+政务服务”模式的一次探索。除现有社区事务受理办事指南外,还在拓展区级行政审批、服务类事项指南及政务知识库。通过对接区网上政务大厅预约接口,实现相关事项的预约服务,并将此拓展到手机客户端、计算机终端等。这种创新智能化服务方式提升了政府服务水平,促进政务服务的转型。


(三)人工智能在行政管理中的应用

1.自动化行政审批。行政审批的手续繁琐、审批周期长,以及过程不透明等弊端,导致行政审批工作既增加工作人员压力和相对人的成本,又可能滋生权力寻租现象,影响执法的公信力,而人工智能技术的介入可以解决以上问题。如深圳市率先试用了一种“无人干预自动审批”新型行政审批方式,对于高校应届毕业生的引进和落户申报,只需申请人在网上系统提交信息,由系统自动核查,若材料完整、信息无误,将直接完成自动审批。因工作效率之高,此种方式也被称为“秒批”“智能审批”。安徽省合肥市在2019年也逐步推行了个体工商户智能审批,只需申请者提交标准化材料后,机器自动审核出照。仅一周试运行期间,合肥市瑶海区自助办照的个体工商户数量达该区新设立个体工商户总数量的50%,极大提升了审批效率。

2.智能化行政管理。目前,“人工智能+行政”的不断探索使得行政命令得以摆脱人工,实现智能化。2018年上海市进行了智能信号灯系统试点,通过人工智能设定程序规则和指令,系统通过监控等多渠道,自行感知和收集交通数据,并结合各道路行车数据和路面状况,给出信号控制和交通组织的最佳方案。该智能系统可以替代以形体动作指挥交通的交警,通过大数据分析指挥交通更加科学化,试点的初步成效之一就是优化了信号灯配时、一定程度缓解了交通拥堵状况。

“人工智能+行政”的应用风险


(一)智能应用的依托数据质量差

人工智能发挥作用的基础就是大数据,智能化操作结果准确性依托于数据的准确性和完整性。反观目前人工智能应用现状,基础数据存在以下问题:

1.数据存在大量信息重复和关联性差的缺陷。大数据的收集基于相关词的捕捉,但是其自身的信息筛选能力较差,许多关联性不强的信息也被一并收集。而且大量系统信息通过不同渠道的录入,存在表述不一致、个别录入错误等情况,所以在进行信息捕捉时,相同的信息数据可能会被反复收集。正如目前在智能系统搜集类型化的案件,获取的文书可能会出现多个案号、重复或串案等问题,这就导致许多冗余数据影响分析结果。

2.数据片面化影响结果准确性。大数据来源于公民参与互联网活动留下的信息痕迹,由于一定时间段内互联网使用人群差异及地域差异,影响该时间段内信息的全面性和普遍性,加之程序设定者自身主观性,以及机器识别和深度学习的局限性,大数据分析结果的客观性存疑。比如,民主决策环节依靠智能化手段搜集民意信息,而算法更容易推送迎合自己的观点,在“信息茧房”的桎梏下,收集的信息数据可能片面化,无法保证决策的真正“民主”性。


(二)个人信息数据安全问题突显

“人工智能+行政”模式使政府收集个人信息的能力显著提升,极大提高了政府的行政效率。个人信息作为行政机关管理服务的基础,行政机关越来越依赖其促进社会管理和服务。比如,通过分析个人健康数据,提高医疗服务水平和减少行政成本;自动行政审批系统通过获取个人信息进行审核;行政决策通过搜集民意实现民主决策等。但是,大数据不可避免带有算法“黑箱”属性,其操作和管控均不透明,因此,信息收集的手段和方式具有多样性和隐蔽性,而且信息搜集领域广泛,只需借助大数据的综合分析和挖掘技术,就能在信息主体不知情的情况下,利用互联网软件轻松地对个人信息进行搜集和对比分析。因此,一旦智能系统出现漏洞或者遭遇黑客攻击,个人信息数据安全将难以得到保障。

当下,在行政机关如火如荼地建设智能化业务办理、流程信息网上公开的同时,除了政府直接向公民个人要求提供信息之外,还需要依赖其他机构对公民信息数据的搜集,因而其他机构在一种合理化的默示批准情形下,“慷慨”地搜集、披露着公民的信息数据。如,教育部门要求学生将包括姓名、身份证号、家庭地址等在内的个人信息,上传至教育服务平台开发的App,而App的开发和维护工作都是转交给第三方机构。由此可见,除了行政机关之外,公民的个人信息还被其他机构掌握,而在目前缺乏有效法律规制和监管体系下,个人信息存在着被不当搜集以及被随意处置的风险。


(三)行政管理过度依赖人工智能

随着人工智能在行政治理中的应用推广,在某种程度上政府的治理能力被弱化了。人工智能系统由市场主体开发设计,行政机关在利用人工智能系统时,可能不理解系统的算法过程与数据判断方法。因此,从某种意义上说,将行政管理、行政决策或个案处理交给智能程序和机器,造成行政行为缺失行政主体意思表示的构成要件,行政法上的程序权利也被自动化决策架空。进一步而言,智能化行政过程中机器或者程序是行政执法、行政管理的主体,行政机关的工作人员只是负责记录最终结果,特别是全自动化行政,并未体现行政主体的意志。由此来看,行政机关实质上将部分公权力让渡给了互联网平台、智能技术生产公司等第三方。而且,智能系统算法模型是僵硬的,对于个案无法“量身定做”式地进行合理性判断,这仍然需要行政执法主体针对个案具体情况行使自由裁量权,如果行政机关过度依赖人工智能,沦为智能机器、程序的辅助者,不仅会导致“机械执法”,还会动摇行政制度的根本。

“人工智能+行政”的风险规制

虽然人工智能在行政领域的应用,目前尚存在诸多风险,但在人工智能快速发展的当下,未来在行政领域确实还有很大的空间发挥作用。因此笔者提出自己的一些建议,以期人工智能在行政领域的应用更加规范化。


(一)保证人工智能依托数据的质量

1.进一步夯实数据库。保障数据库数据的完整性,既需要留存好结果数据,也需要完整保存好过程数据。结果数据的典型代表,如行政处罚决定书、行政许可决定等;过程数据是指在得出结果数据的过程中所形成的一系列数据。过程数据的留存能保证数据库样本的丰富性,还可以作为行政机关作出最终结果的依据,有助于实现人工智能系统的深度分析与决策功能。具体到实践中,要求各行政机关在作出决策、裁决或者决定时,必须保存过程数据,否则出现结果错误又无依据可循时,应由作出结果数据的机关、工作人员承担相应责任。

2.做好数据采集、分析及管理工作。欲要保证智能化运作依赖的数据质量高,把控数据的采集和管理环节必不可少。具体到数据管理的实际操作,可以在数据流转过程中设置多个采集点,比如数据接入后、转换后、清洗前、清洗后以及提取后等多个环节,然后设定好相应的采集规则,最后将得到的数据与前后采集点的数据进行分析比较,通过对比结果可以较客观地判断整个数据的准确度和全面性。此外,持续改进数据质量还需要对数据进行持续跟踪监控,可以借助数理统计技术、数据挖掘技术等设定数据清洗规则,及时对其中的残缺数据、错误数据及重复数据进行处理,使其能够满足数据质量要求。当然,上述这些工作需要人工智能开发领域的技术人员支持,各行政机关可以聘请专业的技术人员进行系统设计及定期数据维护。与此同时,在人工智能建设不断推进发展的趋势下,培养“行政+人工智能”的复合型人才也是当务之急。

 

3.设立人工智能算法监管规则。算法偏见是人工智能系统的一大难题,它影响决策准确性,因此必须加强人工智能系统的算法监管。从监管范围上看,既要加强算法设计监管,也要加强产品研发和成果应用监管,实现对人工智能算法设计、产品研发和成果应用全流程监管。只有确保从算法到产品应用全流程监管,对算法的规则和智能系统的应用方式交由专业监管人员进行测算核实,随着过程信息数据的变动不断调整算法规则,才能保证结果数据不出现太大偏差。


(二)完善个人数据信息安全保障措施

1.实行个人数据主体授权管理。首先,要肯定公民的数据权利。对于公民个人而言,个人信息数据对其既有人格性意义,又有财产性权利属性,可以适用民法的保护规则。其次,通过法律规范对收集、处理和利用个人数据的主体以及相应权限进行严格划分,并实行资质化的授权管理模式。未经法律授权或者有权机关委托的任何机构、组织、个人,不得进行个人数据信息的收集、处理和利用,否则构成对个人数据信息权利的侵犯;行政机关超越法定权限范围肆意搜集个人数据信息导致个人权利受到损害的,也需据此承担相应的法律责任。最后,应当保障数据信息主体的知情权。行政机关或者被授权、委托的第三方机构在收集个人信息数据时,需向对方出具凭证或者相关说明文件,充分告知提供信息的必要性,该信息主要使用目的及信息常规使用方式等,使公众能够充分了解自己信息被收集的合规性和安全性。并且,要充分告知被收集对象是否可以拒绝或部分拒绝提供,以及拒绝提供的法律后果等。

2.增强智能化行政过程的透明度。通过公开自动化行政的过程,公开智能化行政的算法规则和程序设计,进而对其进行监督和检验。目前,法国已经明确要求公开所有为政府用途开发的算法,让社会能够对这些算法的正确适用进行核实和检验,以增加智能化决策的可控性和安全感。此外,欧盟公布的《通用数据保护条例》进一步提高对于数据透明度的要求,并且赋予公民数据访问权、纠正权。提高智能化行政、决策的透明度,不仅可以让“人工智能+行政”这一新型模式慢慢融入现有法律体系,使其能够被现有法律体系进行规制,还利于增强公众的安全感以及行政行为的公信力。

3.完善数据信息的监督机制。在大数据和人工智能时代背景下,建立一套监督机制很有必要。纵观国外,不少国家都设立了监管机构专门负责公民个人信息保护工作。如,丹麦政府成立的保护局、奥地利的数据保护委员会等;德国则分别针对行政机关和其他机构主体设立不同的监督机构,进行数据入口管制、出口管制、输入管制等;美国采取现有国家机关监督模式,并强调行业自律。笔者认为,对于我国而言,为了避免政府机构管理不便,在当下采用现有国家机关监管模式更为适宜。各行政机关应该确立一个专门负责数据安全监管的部门:首先要明确各部门人员的工作权限范围,防止未经授权对个人信息的访问,从源头上降低个人信息泄露的风险;其次对因工作接触个人信息的行政人员设定严格的程序规定,比如数据库准进登入制度,一旦进入个人信息获取使用的场合,就会被实时监控,在发现有随意下载个人信息资料的行为时,及时审核并询问相关人员;另外,针对第三方机构,应当要求其收集个人信息前明确特定目的,报有权部门同意后,接受数据信息使用的监控,并就信息数据使用情况及时汇报、公示。


(三)明确智能化行政的边界

尽管“人工智能+行政”这种新模式运用到行政领域中大有裨益,但是由于智能系统的设计开发者并非公权力主体,多少有些私主体干涉行政活动之嫌。然而,公权力有着诸多不可让渡的法律属性,因此,人工智能不能过度替代公权力主体,直接作出行政决定、行政裁决等应给予适当的规制。

人工智能虽然在数据储存、搜索分类等方面超越人类个体的能力,但应明确在部分行政领域中,人工智能技术不宜应用,如行政执法环节。因而,执法人员不仅要提升自身依法行政素养,在人工智能不能为、不适为的执法环节,依法行政。而且,在一些智能化行政有较高的人机交互要求的领域,还需要行政执法人员学习人工智能系统操作的相关知识,使得人工智能辅助行政治理能得到更好的运用。其次,人工智能作为行政辅助手段,其自身不能承担责任,所以引入智能系统的行政机关仍需要对行政行为负责。特别是当人工智能作出的行政决定给行政相对人实体权利带来不利影响时,行政机关应就智能系统的运作过程、运作结果做出解释说明,否则,说明理由欠缺可能导致相应行政行为无效或被撤销。

结语

在人工智能方兴未艾的时代背景下,鼓励探索“人工智能+行政”的同时,也需要适度地“泼泼冷水”。我们必须客观意识到智能化的弊病,人工智能目前尚处于不成熟阶段,要谨慎推广应用。当然,不可否认的是,在全面推进依法行政和人工智能快速发展的背景下,未来人工智能在行政领域的应用必大有可为。

责任编辑:徐子凡
本站系非盈利性学术网站,所有文章均为学术研究用途,如有任何权利问题请与我们联系。
^