人工智能先驱：加拿大需要法律监管人工智能

加拿大一位顶级人工智能先驱表示，联邦政府必须采取紧急行动，监管人工智能（AI）；他还警告称，目前AI技术的发展轨迹构成了重大的社会风险。

周一（2月5日），被称为人工智能“教父”的约书亚·本吉奥（Yoshua Bengio）告诉国会议员，渥太华应该立即制定一项法律，即使该立法并不完美。

本吉奥是米拉（Mila，魁北克人工智能研究所）的科学主管，他表示，在未来20年，甚至是未来几年内，一种和人类一样聪明的“超人”智能可能会被开发出来。“我们还没准备好。”本吉奥说。

人工智能风险

他说，人工智能的一个短期风险，是使用深度假视频传播虚假信息。这些假消息使用人工智能，让公众人物看起来像是在说一些他们没有说过的话，或者做一些从未发生过的事情。

本吉奥表示，AI技术还可用于通过文字或对话与人们互动，“而采用的这些方式，可以愚弄社群媒体用户，并让他们改变对政治议题的看法”。

他说：“人们确实担心以政治为导向的方式使用人工智慧，这违背了我们的民主原则。”

一两年后，人们担心，更先进的人工智能系统可能会被用来网路攻击。

人工智慧系统在设计程序方面变得越来越好。“当这些系统强大到足以击败我们当前的网路防御和工业数字基础设施时，我们就有麻烦了”，本吉奥说，“特别是，如果这些系统落入坏人之手。”

让人们认别AI生成的内容

据加通社报导，国会工业委员会正在研究一项法案，该法案将更新《隐私法》，并开始监管一些人工智慧系统。当天，本吉奥在该委员会作证。

该法案起草后将为政府提供制定法规的时间，但本吉奥表示，一些条款应该立即生效，因为“按照目前的方法，大约需要两年才能生效”。

C-27法案于2022年首次起草，旨在针对“高影响力”人工智能系统。

政府表示，立法的目标是要求各公司，确保他们创建的人工智慧产生的内容，能够被人们认别。

本吉奥说，监管人工智慧系统非常重要，因为如果滥用人工智能，它们也是最危险的系统。