理性应对新技术的风险和挑战
发布日期:2024-03-11 来源:法治日报


□ 郑宁

最近,美国人工智能研究公司OpenAI推出了一款视频生成模型“Sora”。这款模型可以将文字、图像、音频等信息转化为长达60秒的逼真视频,实现多角度镜头切换,并且最大限度地还原现实世界的真实场景,引发了全球广泛关注。

去年,以ChatGPT为代表的生成式人工智能已经向人们展示了强大的文生文、文生图能力。此次Sora的诞生,开启了AI文生视频时代的序幕,给文化行业带来了巨大震撼。

正如每一次科技革命都会带来巨大的机遇,AI文生视频也不例外。一方面,推动文化行业降本增效。AI文生视频能够快速收集视频素材,提供多种创意方案,快速生成视频片段,辅助特效镜头创作,不仅能大大降低文化产品策划、制作、传播、经营的成本,而且能以更少的人力、物力、财力投入,实现更高的工作效率。创作者借助AI可以把精力更多投入到深度思考力、创造力和想象力的部分,从而更好地激发创造潜能。另一方面,降低了普通人的创作门槛,让视频越来越走进大众。目前一部比较成熟的视频制作往往需要经过素材收集、脚本撰写、视频拍摄和宣发推广等诸多环节,具有一定专业门槛,而AI生成视频使得人人皆可成为视频内容创作者,这将大大增加视频产品的供给量,繁荣文化消费市场。

然而,AI文生视频带来的法律和伦理等方面的挑战也是不容忽视的,这主要包括三个方面:一是深度伪造问题。在人工智能构建的虚拟世界中,真假莫辨,眼见未必为实,普通人难以识别和防范。假新闻、诈骗信息、恶搞视频等可能会给个人合法权益、社会秩序甚至国家安全造成损害,如何规制深度伪造成为全世界面临的共同问题。二是著作权问题。人工智能在训练过程中需要用到大量素材,如果没有得到作者授权,可能存在著作权侵权风险。此外,人工智能生成物是否受到著作权保护?著作权的主体应该归属于人工智能开发者还是使用者?这些问题目前尚无定论,亟待解决。三是个人信息保护问题。由于人工智能要建立在大量使用和分析数据的基础之上,个人信息泄露的风险也随之增大。

可以说,科技领域颠覆式创新不断涌现,如何实现拥抱技术进步和确保社会安全的平衡,越来越受到各界关注。面对上述种种风险挑战,我们应当如何应对从而推进影视行业和文化产业的健康繁荣发展?

首先,国家相关部门应当进一步加强对人工智能的监管。去年,国家网信办等七部门联合公布了《生成式人工智能服务管理暂行办法》,明确了提供和使用生成式人工智能服务的总体要求。联合国教科文组织发布的《人工智能伦理建议书》中,也提出了人工智能发展的基本原则,包括尊重人权、促进可持续发展、避免偏见和歧视等。政府相关部门应当坚持发展和安全并重、促进创新和依法治理相结合,加强对人工智能的监管,确保安全。同时,执法机关和司法机关要严格按照法律的规定实施法律,依法处罚违法行为,并不断与时俱进,平衡人工智能风险治理与产业创新发展。

其次,人工智能开发者、应用者要在训练数据处理、数据标注、提供服务等各环节不断增强风险和合规意识,建立健全合规制度,加大对内容安全的审查力度,确保信息合法真实,加强对著作权、个人信息的保护,在出现相关纠纷时及时保存和收集证据,并通过合法渠道解决。

最后,强化人工智能教育。人工智能具有数量、速度、成本上的优势,而人类在情感表达与交流、想象力、深度思考方面更具优势,人工智能不可能完全取代人类,人工智能淘汰的往往是那些不会运用新技术的人。这就需要在文化行业深入推进人工智能教育。比如,高校开设人工智能课程,文化类单位在职工教育培训中加入人工智能内容,文化行业从业人员应当主动学习相关知识和技能,以实现人机共融和协同,在人工智能的帮助下更好地发挥人的主体性,拥抱具有无限可能性的人工智能时代。

无论人工智能发展到何种程度,它始终根源于人类的创造,也始终是人类智慧的延伸。无论是ChatGPT还是Sora,技术进步更重要的意义,在于让更多人可以不被简单重复的劳动所束缚,从而去创造更大价值。因此,包括影视文化行业在内的众多行业,要正视新技术带来的机遇和挑战,更加积极作为,借助人工智能激发创造力,共同促进文化和经济繁荣发展。

(作者系中国传媒大学文化产业管理学院法律系主任、文化法治研究中心主任、教授)


责任编辑:谭则章
本站系非盈利性学术网站,所有文章均为学术研究用途,如有任何权利问题请与我们联系。
^