澎湃新闻2023-06-18 02:58:52
当地时间2023年6月14日,法国斯特拉斯堡,欧洲议会全体会议上,欧洲议会议员参加关于人工智能法案的投票会议。 视觉中国 图
欧盟的人工智能立法进入最终阶段,或将影响其他国家的规则制定。
(资料图片仅供参考)
当地时间6月14日,欧洲议会(European Parliament)以499票赞成、28票反对和93票弃权的压倒性结果通过了《人工智能法案》(AI Act)草案,若通过立法,或成为全球首个关于人工智能的法案。
据彭博社报道,欧洲议会的投票是正式立法前的最后步骤之一,接下来将进入三方“谈判”阶段——欧洲议会、欧盟成员国(EU member states)和欧盟委员会(European Commission)。欧盟委员会希望在今年年底前达成协议,新的法案将可能在2026年对相关公司产生影响。法案通过后,在极端情况下,违规公司可能被处以高达3000万欧元(合3300万美元)的罚款,或占公司全球年收入的6%,也就是说对于谷歌和微软等大型科技公司而言,其罚款可能高达数十亿欧元。
禁止人脸识别,加强通用AI控制
该法案遵循“基于风险”(risk-based approach)的方法,将AI及其相关应用划分为四种等级,分别为被禁止(Prohibited)、高风险、有限风险以及低风险,并针对不同类型制定相应的监管规则。
值得注意的是,欧洲议会官网显示的最新草案中,实时远程生物识别技术从“高风险”级别调整为“被禁止”级别,这意味未来公司不能利用AI技术在欧盟国家的公共场合进行人脸识别。
来源:欧洲议会官网
此外,欧洲议会也对通用AI(general purpose AI)提出了新的透明度要求——基于这些模型的生成式AI(例如ChatGPT)必须对AI生成的内容进行标注,以帮助用户区别“深度伪造信息”;此外其还必须披露用于训练模型的数据,声明是否使用受版权保护的材料来训练其模型。
来源:欧洲议会官网
欧盟委员会于2021年首次提出“基于风险”的《人工智能法案》,其最初的想法是规范AI的使用,并为如何在“高风险”情况下使用该技术制定标准。不过,自ChatGPT引起新一轮技术热潮后,通用AI也逐渐引起欧盟警惕,并被纳入法案,连带着基础模型(foundational models)的控制也随之加强,因为这些大型语言模型是ChatGPT等聊天机器人的底层支柱。
欧盟内部市场专员Thierry Breton在一份声明中表示,“我预计,关于生成式AI的相关条款将成为‘三方谈判’的关键讨论点之一。我们需要对AI生成的内容提出透明度要求,并针对‘深度造假内容’制定严格的规则。”
欧盟AI法案或影响其他立法者
对于《人工智能法案》,一些科技公司及其支持者认为,该法案可能会阻碍技术创新。根据《华尔街日报》的报道,他们认为政府的干预应侧重于特定的AI应用,而不是像欧盟那样过度限制AI的开发方式。
不过,也有技术人员及学术界对这一法案表示支持,认为该法案能够通过规范AI技术的开发,有效地减缓公司在推出新型AI工具方面的竞争。
对于生成式AI的开发者而言,这些法律将产生巨大的影响,但一些大型科技公司仍然表示愿意“拥抱”法案。据路透社的报道,微软和IBM对欧盟的最新举措表示欢迎,不过它们仍然期待对方能够对内容进行进一步的完善。
微软发言人表示,“我们认为AI需要立法监管、国际层面的协调努力,同时也需要开发公司采取自愿行动。”
在AI领域的监管方面,欧盟一直走在世界前列。《华尔街日报》表示,欧盟试图将自己定位为,在AI领域设置“护栏”的领跑者。《华盛顿邮报》同样认为,此次投票将巩固欧盟在科技监管方面的全球领导地位,因为其他国家政府(包括美国国会)才刚开始应对人工智能所带来的威胁,尤其美国对于科技公司的监管一直停滞不前。如果该法案最终被采纳,其可能会影响全球的政策制定者。
“(这一法案)是可以强制执行的法规,(违反规定的)公司将被追究责任,这一点非常重要。”爱尔兰公民自由委员会的高级研究员Kris Shrisak说道,因为美国、新加坡等其他地方仅仅是提供“指导和建议”,他认为“其他国家可能会去适应和复制”欧盟的法案。
根据《时代》周刊,欧盟市场规模庞大,拥有约4.5亿消费者。有专家认为,欧盟举措将促使开发公司更愿意遵守规定,而不是为不同地区开发不同的产品。欧盟立法者Dragos Tudorache同样认为,欧盟的法案“将为全球AI的发展和治理定下基调”。
“今天我们创造了历史,”负责人工智能法案的欧洲议会成员Brando Benifei在新闻发布会上表示,他认为欧洲立法者为全球各地就构建“负责任的人工智能”进行沟通,“铺平了道路”。
关键词: