欧盟人工智能立法取得进展(环球热点)

发布时间:2024-02-25 17:48:59 来源: sp20240225

  近日,经过马拉松式的谈判之后,欧洲议会、欧洲理事会和欧盟委员会三方就《人工智能法案》达成协议。该法案将成为全球首部人工智能领域的综合性监管法规。据路透社报道,这项法案最早将于明年初生效。专家分析认为,《人工智能法案》具有全面性和综合性。未来,法案颁布实施,将对人工智能的研发、产品和服务的设计与运行带来巨大影响。

  

  里程碑:

  全球首部综合性人工智能监管立法

  “欧盟就《人工智能法案》达成协议,具有里程碑意义。”英国《卫报》报道称,欧盟委员会内部市场专员蒂埃里·布雷顿在社交平台X写道:“《人工智能法案》不仅是一本规则手册,也将成为帮助欧盟初创企业和研究人员引领全球人工智能竞赛的平台。”

  “《人工智能法案》是全球范围内首部综合性人工智能监管立法,立法进程总体进展非常迅速。”复旦大学发展研究院副研究员姚旭接受本报记者采访时介绍,2021年4月21日,欧盟委员会提交《人工智能法案》,之后经历数轮讨论。作为履行共同决策程序的联合立法机构,欧洲理事会和欧洲议会在该法案立法进程中发挥关键作用。2022年12月6日,欧洲理事会一致通过《人工智能法案》草案;2023年6月14日,欧洲议会全体会议表决确认其认同立场。欧洲议会投票结束后,欧洲议会、欧洲理事会和欧盟委员会立即就法案举行了第一次“三方会谈”。“三方会谈机制”是欧盟三大机构代表组成的非正式会议,可以在共同决策程序的任何阶段召开,力求高效解决关键问题,促使机构间达成协议。随后的2023年7月18日、10月2日和10月24日,分别举行了第二、三、四次“三方会谈”。直至此次协议达成,该法案整体没有遇到根本性阻碍。

  “靴子落地。”中国现代国际关系研究院欧洲研究所欧洲经济项目负责人董一凡在接受本报记者采访时表示,欧盟的3大核心机构就《人工智能法案》达成共识,是一个标志性进展,代表着该法案最终生效基本是板上钉钉。在全球范围内,《人工智能法案》是一个比较领先的整体性监管规则,具有很强的欧盟特色。

  在欧盟就《人工智能法案》达成一致协议的谈判中,有两个争论点备受关注——

  一是如何监管像ChatGPT一样的先进人工智能模型。据彭博社报道,一份欧盟文件显示,所有通用型人工智能系统的开发者都必须满足基本的透明度要求,除非它们是免费的或者开源的。透明度要求包括:具有可接受的使用策略、更新训练大模型的最新信息、遵守欧盟版权法以及报告用于训练其模型的数据信息。根据该文件,被视为有“系统性风险”的模型将受到额外约束。欧盟将根据用于训练模型的计算能力来确定风险。专家表示,目前唯一能自动达到这一门槛的模型只有人工智能公司OpenAI的GPT-4。

  二是生物识别监控技术。协议规定,各国政府只能在公共场所使用实时生物识别监控,防止恐怖袭击等可预见的威胁公共安全的事件以及搜索犯罪嫌疑人等。文件还规定,禁止有目的地操纵技术,利用分类系统来推断用户种族、宗教信仰等个人信息。事实上,欧洲议会希望全面禁止生物识别监控技术。

  姚旭表示,欧盟各方达成最新协议,并不代表该法案正式完成所有立法动作,最终还需要返回欧洲议会和欧洲理事会再行确认。美国《纽约时报》报道称,该法规的许多细节预计在未来两年内都难以敲定,这为人工智能的发展留足了时间。直到谈判最后一分钟,立法者和欧盟各国仍在为“如何在促进创新与防范可能的伤害间取得平衡”这一问题辩论。

  紧迫性:

  为欧盟人工智能发展提供最基本护栏

  “当前,人工智能发展的速度远远超过技术监管、法律伦理、政策评估的脚步,需要一些更有远见的框架来应对未知挑战。”董一凡表示,作为超大规模市场,基于不同于其他国家和地区的人工智能伦理与法律风险认知,欧盟希望利用自身现有市场规模和规则制定能力影响全球人工智能发展方向。此外,相对来说,无论是在技术、企业规模还是产业发展等方面,欧盟在全球并不处于很靠前的位置。因此,欧盟希望通过率先制定一些基本规则,为自身的人工智能发展提供最基本护栏。

  “欧盟《人工智能法案》的迅速进展主要源于ChatGPT等人工智能技术爆发的压力影响。”姚旭表示,自2022年11月OpenAI推出其大语言模型平台ChatGPT以来,全球各主要经济体针对人工智能产业出台了不同的监管政策。欧盟人工智能立法进程被迫大大提速,现有进展速度远超此前预期。

  姚旭分析,全球人工智能监管与立法呈现两种趋势:一是以中国和欧盟为代表的国家和机构迅速出台相关规制,对人工智能进行从框架到细节的治理探索。其中,今年7月,中国出台的《生成式人工智能服务管理暂行办法》是全球首个针对生成式人工智能做出迅速反应的法律,明确了本国人工智能产业发展方向和规范。二是以美国为代表的国家,政府、立法与业界还在不断磨合。OpenAI的CEO奥尔特曼在国会听证会上曾经呼吁对人工智能进行更明确的监管,但美国国内现有的讨论还不足以在法律层面形成快速突破。

  “制定人工智能全球标准,各方仍在博弈。”姚旭表示,今年5月,G7大阪峰会上,发达国家领导人声称要以所谓“民主价值观”为基础建立人工智能国际准则。今年11月,中国、美国、欧盟和其他约20个国家在英国签署了《布莱切利宣言》。近期举办的一系列人工智能国际治理会议中,“全球南方”国家普遍表示,希望全球人工智能标准合作程度不断加深,不希望在所谓的阵营间“选边站”,这与中国强调的人工智能领域国际合作倡议完全契合。从这个意义上说,《人工智能法案》将使欧盟在人工智能监管国际合作中有较强独立性。

  姚旭说,近年来,欧盟在科技治理领域形成了高度内部协同,此前数个数字治理相关法案均高速“通关”,欧盟在针对数字平台巨头的监管道路上也正协同加速。此次《人工智能法案》的快速进展再次印证了这一点。

  新参考:

  平衡监管与发展是重中之重

  《纽约时报》报道称,欧盟三方艰难达成协议,意味着《人工智能法案》的关键轮廓已经确定。该法案为那些寻求利用这项技术潜在好处的国家设定了一个新的全球基准。美国《华盛顿邮报》援引哥伦比亚大学专门研究数字监管的法学教授阿努·布拉德福德的话称,欧盟的全面规则“可以为许多考虑监管的政府提供参考”。

  “欧盟在人工智能立法方面遵循‘人工智能向善’理念,在对人工智能相关企业责任的约束上,为全球其他经济体提供重要参考。”董一凡表示,欧盟推动《人工智能法案》落地生效,一方面可以利用布鲁塞尔效应,让在欧洲开展人工智能业务的利益攸关方遵守相关规则约束,从而对全球人工智能技术和产业发展产生直接影响;另一方面,欧盟将通过与联合国、G20和G7等多边平台合作,积极推广自身理念规则,增强该法案的国际影响力。

  “欧盟《人工智能法案》最终通过后,将成为全球加强人工智能治理浪潮中的重要‘靶子’。”姚旭认为,欧盟内部立法往往具有很强的溢出效应,例如,《通用数据保护条例》已逐渐成为全球范围内各个国家建立数据保护相关机制的重要参考,也是几乎所有全球化运营的企业必须实时跟踪的重要合规依据。针对欧盟《人工智能法案》当中的算法透明度、通用人工智能护栏、禁止使用的场景划分等内容,各国后续立法一定会针对本国实际情况逐条参考,确定保障措施和例外条款。欧盟人工智能法案后续施行情况,也将成为各国着重观察的重点,其中,如何平衡监管与发展是重中之重。

  欧盟《人工智能法案》受到全球的密切关注,因为其不仅会影响人工智能开发商,还会影响使用该技术的教育、医疗保健、银行等领域。

  目前,欧盟《人工智能法案》也面临一定争议。德国工业联合会(BDI)表示,欧洲目前在人工智能关键技术方面面临落后危险。“随着对人工智能基础模型及应用的全面监管,《人工智能法案》将危及制造商和用户双方的竞争力和创新能力。”BDI相关负责人艾里斯·普洛格表示,该法案基于不成熟的标准,给公司带来的法律确定性不是更多,而是更少。

  该法案未来的执行情况也遭到质疑。《纽约时报》认为,《人工智能法案》涉及27个国家的监管机构,并要求在政府预算紧张之际聘请新的专家。欧盟之前的《通用数据保护条例》,后期就因在各国执行不同步而受到批评。

  姚旭表示,对于《人工智能法案》,欧盟内部依然还有反对意见,虽然大概率无法阻挡立法进程完成,但反映出欧盟人工智能法案的矛盾性。

  董一凡表示,《人工智能法案》是欧盟主要大国博弈的结果,力求在安全监管和促进发展上形成一种平衡。

(责编:申佳平、陈键)