微软声称利用其人工智能工具抓获来自中国、俄罗斯和伊朗的黑客

来自俄罗斯、中国和伊朗的国家资助黑客正在使用微软支持的 OpenAI 工具来磨练他们的技能并欺骗他们的目标。 报告 周三发布。

微软在声明中表示，俄罗斯军事情报部门追踪了隶属于伊朗革命卫队以及中国和朝鲜政府的黑客组织，因为他们试图利用大量语言样本来完善他们的黑客活动。

这些被称为人工智能的计算机程序利用大量文本来产生听起来像人类的响应。 该公司宣布了这一发现，并全面禁止国家支持的黑客组织使用其人工智能产品。

微软负责客户保护的副总裁汤姆·伯特(Tom Burt)表示：“无论是否存在任何法律违规或服务条款违规，我们都不希望我们已确定的行为者能够访问这项技术。” 路透社 在报告发布前接受采访。

俄罗斯、朝鲜和伊朗外交官员没有立即回复对这些指控发表评论的信息。

中国驻美国大使馆发言人刘鹏宇表示，中方反对“对中国毫无根据的抹黑和指责”，主张“安全、可靠、可控”部署人工智能技术，“促进全人类共同福祉”。

有关国家支持的黑客使用人工智能工具被捕的指控可能会突显人们对该技术快速扩散和滥用可能性的担忧。

自去年以来，西方高级网络安全官员一直在警告流氓行为者正在滥用此类工具，尽管迄今为止细节还很少。

OpenAI 网络安全威胁情报负责人 Bob Rodstedt 表示：“人工智能公司公开讨论网络安全威胁行为者如何使用人工智能技术，这即使不是第一例，也是第一例。”

OpenAI 和微软将黑客对其人工智能工具的使用描述为“初始”和“增加”。

伯特表示，网络间谍活动尚未取得任何进展。

“我们实际上已经看到其他用户使用这项技术，”他说。

该报告以不同的方式描述了使用大型语言模型的黑客组织。

微软表示，据称这些黑客代表俄罗斯军事情报机构（广泛称为 GRU）工作，他们使用这些样本来检查“与乌克兰日常军事行动相关的各种卫星和雷达技术”。

微软表示，朝鲜黑客利用这些样本创建“可用于针对地区专家的鱼叉式网络钓鱼活动”的内容。

伊朗黑客依靠模型来编写更具说服力的电子邮件，微软曾一度使用它们来制作一条消息，试图引诱“杰出女权主义者”访问被黑的网站。

中国国家支持的软件巨头黑客正在测试大量语言样本，以询问有关竞争对手情报机构、网络安全问题和“重要人物”等问题。

伯特和罗德斯特德都不愿透露活动的范围或有多少账户已被暂停。 伯特支持对黑客组织的零容忍禁令，但该禁令不适用于微软的搜索引擎 Bing 等产品，他指出了对人工智能创新及其部署的担忧。

“这项技术是新技术，而且非常强大，”他说。