OpenAI 关闭中国、俄罗斯、伊朗、朝鲜违规行为的账户

OpenAI 已关闭了五个帐户，声称政府特工使用这些帐户生成网络钓鱼电子邮件和恶意软件脚本，以及研究逃避恶意软件检测的方法。...

具体来说，中国、伊朗、俄罗斯和朝鲜显然正在使用超级实验室的模型“查询开源信息、翻译、查找编码错误并运行基本编码任务”。美国秃鹰认为这就是 OpenAI 产品的全部意义，但这些国家似乎已经越界了，他们使用这些系统的目的是有害的，或者是直接不受欢迎的人。

该公司在周三的一份声明中强调了服务的终止，称其与其超级支持者微软合作来识别并终止这些帐户。

“我们捣毁了五个与国家有关的恶意行为者：两个与中国有关的威胁行为者，称为“木炭台风”和“鲑鱼台风”；与伊朗有关联的威胁组织 Crimson Sandstorm；朝鲜演员 Emerald Sleet；以及俄罗斯相关演员森林暴雪”，OpenAI 团队写道。

OpenAI 的 GPT-4 等会话式大型语言模型可用于提取和总结信息、编写消息和编写代码等任务。OpenAI 试图通过过滤有害信息和恶意代码的请求来防止其软件被滥用。

该实验室还低调重申 GPT-4 无论如何都不擅长做坏网络事情，并在其声明中提到，通过 API 或 ChatGPT Plus 提供的神经网络“仅为恶意网络安全提供有限的增量功能”任务超出了公开可用的、非人工智能驱动的工具已经可以实现的任务。”

微软的威胁情报团队分享了他们自己对恶意活动的分析。该文件表明，中国的“木炭台风”和“鲑鱼台风”都曾攻击亚洲和美国的公司，它们使用 GPT-4 来研究有关特定公司和情报机构的信息。这些团队还翻译了技术论文，以了解有关网络安全工具的更多信息 - 公平地说，这项工作可以通过其他服务轻松完成。

微软还认为，伊朗武装部队控制的 Crimson Sandstorm 部队试图通过 OpenAI 的模型方法来运行脚本任务，逃避恶意软件检测，并试图开发高度针对性的网络钓鱼攻击。Emerald Sleet 代表朝鲜政府，要求人工智能实验室在策划网络钓鱼活动的基础上，搜索与亚太地区相关的国防问题和公共漏洞的信息。

最后，俄罗斯军事情报小组 Forest Blizzard（也被称为臭名昭著的 Fancy Bear 小组）研究了开源卫星和雷达成像技术，并寻找自动化脚本任务的方法。

OpenAI 此前淡化了其模型帮助攻击者的能力，暗示其神经网络在针对已知漏洞进行攻击方面“表现不佳”。