OpenAI 关闭中国、俄罗斯、伊朗、朝鲜违规行为的账户
OpenAI 已关闭了五个帐户,声称政府特工使用这些帐户生成网络钓鱼电子邮件和恶意软件脚本,以及研究逃避恶意软件检测的方法。...
具体来说,中国、伊朗、俄罗斯和朝鲜显然正在使用超级实验室的模型“查询开源信息、翻译、查找编码错误并运行基本编码任务”。美国秃鹰认为这就是 OpenAI 产品的全部意义,但这些国家似乎已经越界了,他们使用这些系统的目的是有害的,或者是直接不受欢迎的人。
该公司在周三的一份声明中强调了服务的终止,称其与其超级支持者微软合作来识别并终止这些帐户。
“我们捣毁了五个与国家有关的恶意行为者:两个与中国有关的威胁行为者,称为“木炭台风”和“鲑鱼台风”;与伊朗有关联的威胁组织 Crimson Sandstorm;朝鲜演员 Emerald Sleet;以及俄罗斯相关演员森林暴雪”,OpenAI 团队写道。
OpenAI 的 GPT-4 等会话式大型语言模型可用于提取和总结信息、编写消息和编写代码等任务。OpenAI 试图通过过滤有害信息和恶意代码的请求来防止其软件被滥用。
该实验室还低调重申 GPT-4 无论如何都不擅长做坏网络事情,并在其声明中提到,通过 API 或 ChatGPT Plus 提供的神经网络“仅为恶意网络安全提供有限的增量功能”任务超出了公开可用的、非人工智能驱动的工具已经可以实现的任务。”
微软的威胁情报团队分享了他们自己对恶意活动的分析。该文件表明,中国的“木炭台风”和“鲑鱼台风”都曾攻击亚洲和美国的公司,它们使用 GPT-4 来研究有关特定公司和情报机构的信息。这些团队还翻译了技术论文,以了解有关网络安全工具的更多信息 - 公平地说,这项工作可以通过其他服务轻松完成。
微软还认为,伊朗武装部队控制的 Crimson Sandstorm 部队试图通过 OpenAI 的模型方法来运行脚本任务,逃避恶意软件检测,并试图开发高度针对性的网络钓鱼攻击。Emerald Sleet 代表朝鲜政府,要求人工智能实验室在策划网络钓鱼活动的基础上,搜索与亚太地区相关的国防问题和公共漏洞的信息。
最后,俄罗斯军事情报小组 Forest Blizzard(也被称为臭名昭著的 Fancy Bear 小组)研究了开源卫星和雷达成像技术,并寻找自动化脚本任务的方法。
OpenAI 此前淡化了其模型帮助攻击者的能力,暗示其神经网络在针对已知漏洞进行攻击方面“表现不佳”。