2023年5月22日晚,对外经济贸易大学数字经济与法律创新研究中心执行主任、pc大神28预测吧院长助理、《经贸法律评论》编辑张欣副教授,应邀为我院师生作主题为“生成式人工智能的法律风险和全球监管动态分析”的讲座。pc大神28预测吧数字经济与法治研究中心执行主任、pc大神28预测吧副院长刘权教授担任主持人,全校近百名师生参加讲座。本次讲座受pc大神28预测吧研究生院“研究生课堂嘉宾讲学支持计划”支持。
讲座正式开始前,刘权老师首先向大家介绍了张欣副教授。张欣副教授的主要研究领域为人工智能法学、网络与信息法、立法学和行政法,曾于美国哈佛大学、哥伦比亚大学、加州大学伯克利分校以及新加坡国立大学担任访问学者。张欣副教授在《中外法学》《法商研究》《法学评论》等中外法学核心期刊发表了多篇算法治理、个人信息保护相关论文,其研究成果曾多次被《人大报刊复印资料》《中国社会科学文摘》等转载。
张欣副教授首先从对数篇前沿外文文献的解读引入,阐明了以ChatGPT为代表的生成式人工智能在社会变革中的重大意义,它并不仅仅是简单的技术革新,而是代表整个人工智能技术范式已经完成从1.0时代到2.0时代的质的飞跃,表明我们当下离通用人工智能技术已经越来越近。在此基础上,张欣副教授为同学们梳理了人工智能生成内容(AI-Generated Content, AIGC)的发展历程及其核心要素(即数据、算法与算力),并对其中涉及的生成式对抗网络、谷歌提出的Transformer架构、自然语言处理(Natural Language Processing, NLP)和模型即服务(Model as a Service, MaaS)等专业名词分别作出了详尽的解释。
厘清基本概念与技术发展历程后,张欣副教授以ChatGPT为例,分享了对生成式人工智能的技术认知。张欣副教授认为,对ChatGPT的技术认知可从它的三个主要特点引入:一是极度算力,其训练模型当前已达到平均千万美元的级别;二是海量数据和人工标注,ChatGPT的前身GPT-3就已使用3,000亿个单词、超过40T的大规模、高质量数据进行训练;三是极致调优,目前Open AI团队中有逾三十位顶级算法工程师,负责数据质量问题处理、模型实验与迭代调优。张欣副教授指出,ChatGPT本质上是一个由1750亿个浮点数参数表示的深度神经网络大模型,具有多轮对话功能的AI系统。大模型技术发展已近五年,但ChatGPT首次实现了语言智能的智慧涌现,而这种智慧涌现有望让机器真正掌握和运用人类语言和知识,开启机器自然语言交互式学习的“类人”新范式,推动机器智慧实现范式的再次跃迁。
而后,基于人工智能数据层、算法层和应用层的层级划分,张欣副教授逐一分析了各层级中生成式人工智能的主要风险类型。数据层的风险多集中在数据质量和数据安全两方面,具体表现为数据违规爬取、合成数据违规使用、人工标注数据歧视及敏感数据存储安全性风险等;算法层的风险主要包括算法透明度低、算法歧视导致的公平治理挑战、算法归责存在困境、提示语注入攻击(prompt injection attack)等问题;应用层的风险则含括信息内容治理、未成年人保护、可版权性困境、技术垄断和新型壁垒及国家安全风险等。
谈及对生成式人工智能的监管前瞻,张欣副教授先向同学们介绍了欧盟、美国和我国现有的算法治理范式,欧盟现有的治理范式以“风险”为基准,美国以“应用”为基准,我国则以“主体责任”为基准。随后,张欣副教授分析了生成式人工智能发展下三种治理范式面临的相应问题与挑战,例如,欧盟的治理范式所采用的静态的风险划分可能无法适应技术迭代的动态发展;美国的治理范式只作用于技术的下游领域,对于生成式人工智能这样上中下游串联的技术,其治理无法企及上游和中游;我国强调平台主体责任的治理范式,但面对生成式人工智能复杂的产业链,归责的精准性受到挑战。因此,未来生成式人工智能监管的走向仍须作进一步研究与讨论。
在张欣副教授对生成式人工智能的法律风险和全球监管动态作出精到分析与解读后,讲座进入互动提问环节。现场同学与张欣副教授就如何解决生成式人工智能技术场景下算法不具有可归责性的监管困境,近期发布的欧盟《人工智能法案》谈判授权草案基于风险等级划分人工智能系统的监管范式是否存在缺陷,以及随着通用大模型技术的发展,未来各国对数据的监管动向将趋于严格限制还是趋于开放等问题展开了进一步讨论。
提问环节结束后,同学们纷纷表示,张欣副教授带来的讲座内容详实,十分精彩,拓宽了大家的视野,使大家对生成式人工智能这一新兴技术有了更为全面的了解,参与讲座受益颇多。张欣副教授也对同学们的学习热情和对相关问题的见解表示了高度肯定,并欢迎大家在讲座后就感兴趣的问题继续作进一步探讨与交流。
讲座最后,刘权老师对本次讲座内容做了总结发言。刘权表示,张欣副教授结合自己长期以来对生成式人工智能发展前沿动态的密切关注与深入研究,针对这一技术的法律风险与全球监管动态,通过其深入浅出的讲解,为大家呈现了一场专业而精彩的报告。刘权认为,对于以生成式人工智能为首的新兴技术,目前各国监管活动都仍然面临困境,要对其进行有效规制,更好地借助人工智能来改进社会生产生活方式,监管部门应积极关注域外监管动向,借鉴其中先进的制度理念,以进一步完善我国相应的法律制度。对于张欣副教授谈到的生成式人工智能的法律风险和全球监管动态相关问题,相信同学们都有了更为深刻的认识,也鼓励大家积极求索,对上述问题作进一步的思考与研究。最后,刘权再次感谢了张欣副教授的精彩报告和对相关问题的详细解答,并为张欣副教授颁发了“研究生课堂嘉宾讲学支持计划”纪念证书。
至此,“生成式人工智能的法律风险和全球监管动态分析”讲座活动圆满结束。
文、图/项若雯