微软：中俄伊朝国家支持的黑客滥用AI工具改进网络攻击能力

美国微软公司在周三公布的一份报告中说，来自俄罗斯、中国、伊朗和朝鲜的由国家支持的黑客一直在使用微软支持的OpenAI等工具来改进他们的技能并欺骗他们的目标。

路透社2月14日报道说，微软在报告中说，微软已查出与俄罗斯军方情报机构、伊朗革命卫队以及与政府有关联的中国和朝鲜黑客组织试图利用 ChatGPT等大型语言模型（LLM,Large Language Model）来完善他们的网络攻击。

这些大型语言模式人工智能工具吸取海量文字来生成人声回应。

微软公司在宣布推出对国家支持的黑客组织使用其AI产品的全面禁令的同时，披露了这些黑客组织利用AI改进网络攻击能力的最新发现。

微软客户安全副总裁汤姆·伯特（Tom Burt）在该报告发布前对路透社说，“不论是否有违反法律或任何服务条款，我们就是不想让我们辨识出的威胁操手-我们跟踪和了解的各类威胁操手--获取这个技术。”

报道说，俄罗斯、朝鲜和伊朗的外交官没有立即回应对微软指控置评的请求。中国驻美大使馆发言人刘鹏宇 (Liu Pengyu) 称，反对针对中国的毫无根据的抹黑和指控，中国推动安全、可靠及可控制地使用AI技术来提升整个人类的福祉。

有关这些国家支持的黑客被捕捉到使用AI帮助提升这些国家间谍能力的指控突显出有关AI技术快速扩散及可能被滥用的忧虑。

西方资深网络安全官员从去年就一直在警告，流氓操手在滥用这些工具，不过，在微软做出该披露之前，具体的证据不多。

OpenAI负责网络安全威胁情报的鲍勃·罗特斯泰德（Bob Rotsted）说，“这是首次有AI公司出面公开讨论网络威胁操手使用AI技术。”

OpenAI和微软将这些黑客使用它们的AI工具描述成是处于“早期”及“渐进的”。

微软客户安全副总裁汤姆·伯特说，两家公司都没有看到这些网络间谍获得任何突破。

该报告说，这些黑客组织使用这些大型语言模式的方式不同。

微软说，据称为俄罗斯军方间谍机构“GRU”效力的黑客使用这些工具研究不同的可能与在乌克兰常规作战中有关的卫星和雷达技术。

朝鲜的黑客使用这些工具来生成可能用于针对地区专家的鱼叉式网络钓鱼（Spear phishing）内容。

伊朗黑客也依赖这些工具生成更令人信服的网络钓鱼电子邮件，其中一个实例是生成一个试图引诱“知名女权活动人士”进入一个陷阱网站。

微软这个软件巨头还说，中国国家支持的黑客也用这些大型语言模式做测试，试图就敌对情报机构、网络安全问题以及“知名个人”进行询问。

美联社说，微软向OpenAI投资了几十亿美元。微软表示，一个叫“水熊猫”的中国高级持续性威胁 (APT) 网络间谍组织与这些大型语言模式进行过互动，表明该组织进行大型语言模型如何能加强它们技术操作的有限探索。该组织针对的目标是从法国到马来西亚的广泛的产业、高等教育及政府机构。

美国网络安全和基础设施安全局局长珍·伊斯特利（Jen Easterly）去年4月在美国国会作证时表示，“有两个划时代的威胁和挑战。一个是中国，另一个是人工智能。”

她强调，美国需要确保AI技术基于安全而建。

对ChatGPT在2022年11月的公开发行，以及随后的竞争者谷歌和Meta推出的AI产品的批评人士说，考虑到安全基本上是在AI开发过程中的滞后考虑，AI开发是非常不负责任的操之过急。