欧盟推出全球首个监管人工智能法案

欧盟联合立法者就一项文本昨天稍晚达成了“政治协议”，该文本应促进欧洲的创新，同时限制这些非常先进技术可能的过度使用。

据欧盟委员蒂埃里·布雷东 (Thierry Breton) 对此表示欢迎说，“是历史性的！欧盟成为第一个为人工智能的使用制定明确规则的经济体”。

出台人工智能监管议案在 2021 年 4 月就提出计划。 从那时起，讨论就一直被拖延着。最后一轮谈判于周三下午开始，持续了近 35 个小时……

去年年底，ChatGPT 的出现对这一过程产生了推动影响，ChatGPT 是来自加州公司 OpenAI 的文本生成器，能够在几秒钟内写出论文、诗歌或翻译。

这个系统，就像那些能够创造声音或图像的系统一样，向公众展示了人工智能的巨大潜力。但也存在一定的风险。例如，社交网络上散布的虚假照片似乎比真人还要惟妙惟肖，这提醒人们注意操纵舆论的危险。

应欧洲议会议员的要求，这种生成式人工智能现象已被纳入当前的谈判中，他们坚持对此类高影响力技术进行具体监督。他们特别呼吁提高这些系统核心的算法和巨型数据库的透明度。

但欧盟成员国担心过度监管会导致开发成本过高，从而将德国的 Aleph Alpha 和法国的 Mistal AI 等新兴领军企业扼杀在萌芽状态。

据法新社说，周五晚上达成的政治协议必须辅以技术工作以最终敲定法案。据法国数字部长让-诺埃尔·巴罗(Jean-Noël Barrot)回应道，“我们将仔细分析今天发现的妥协方案，并确保在未来几周内，该文本保留欧洲开发自己的人工智能技术的能力并保留战略自主权。”

科技行业至关重要。据CCIA（其主要游说团体之一）的欧洲经理丹尼尔·弗里德兰德（Daniel Friedlaender）担心，“速度似乎战胜了质量，这可能会给欧洲经济带来灾难性的后果。”据他说，现在在关键细节上“技术工作”是“必要的”。

在生成人工智能方面，折衷方案提供了两种速度的方法。规则将强加给每个人，以确保算法开发中使用的数据的质量，并验证它们不违反版权法。

开发人员还必须确保所产生的声音、图像和文本被明确标识是人造的。

强化约束仅适用于最强大的系统。

该法案文本采用了现有欧洲产品安全法规的原则，这些法规主要基于公司实施控制。该项目的核心包括一系列仅适用于被视为“高风险”的系统的规则，主要是在关键基础设施、教育、人力资源、执法等敏感领域使用的规则。

这些系统将承担一系列义务，例如提供机器的人工控制、建立技术文档或实施风险管理系统。

该立法规定了对与人类互动的人工智能系统的具体监管。它将迫使他们通知用户他正在与机器智能接触。

未来禁令或将很少见。监管将关注与欧洲价值观相悖的应用，例如中国使用的公民评级或大规模监控系统，或在公共场所对人员进行远程生物识别，以避免对人群进行大规模监控。

然而，就最后一点而言，各国已获得某些执法任务（例如反恐）的豁免。

与某些国家的自愿行为准则不同，欧洲立法将配备监视和制裁手段，并在欧盟委员会内设立欧洲人工智能办公室。对于违规行为，最高可处以营业额 7% 的罚款，罚款上限为 3500 万欧元

据读卖新闻今天报道称，欧盟这部全球首部全面人工智能监管法，预计最早将于今年获得通过，并于 2026 年生效。

据该报称，在三方会谈中，欧洲议会和欧盟理事会之间发生了激烈的冲突，欧洲议会呼吁对生成人工智能中使用的语言模型进行强有力的监管，而欧盟理事会则表示不赞成过度监管。