总部位于北京的“绿蝉”人工智能网络在社交媒体上亮相，引发了对扰乱美国大选的担忧

一个由人工智能操作的至少 5,000 个账户组成的网络在一场疑似由中国主导的信息战活动中被曝光，该活动旨在在社交媒体平台 X 上传播分裂的政治言论。

当地网络安全公司 Cyber​​CX 表示，它发现了一项与一所中国大学和一家人工智能公司有关的行动，该行动似乎主要针对有争议的美国言论，但偶尔也涉及澳大利亚内容。

该公司在最近发布的一份报告中警告称，“虽然目前这种信息运营能力相对无效，但我们相信未来可能会被利用来进行恶意活动。”

研究人员认为，一组至少 5,000 个非本地 X 帐户（被称为 Green Cicada 网络）很可能由基于大型语言模型 (LLM) 的人工智能系统控制和协调。

北京一家人工智能公司的一名员工曾就读于清华大学，该公司与中国人民解放军和北京情报部门有密切联系，他被认为可能是这家初创公司的创始人。

报告称：“该网络越来越多地参与政治讨论，但大多数账户仍然不活跃。”该报告已与各联邦政府机构共享。

“绿蝉”账户可能是为了扰乱美国大选而编造的

虽然绿蝉网络主要处理美国的政治和文化问题，但它也被观察到放大了澳大利亚、英国、西欧、印度、日本和其他民主国家的热点政治问题。

Cyber​​CX 发现：“我们观察到澳大利亚特定问题的有限放大，以及来自所谓澳大利亚人物的帖子。放大的问题包括支持或反对政治候选人、核能、经济、住房、移民、抗议和外交政策。”

“我们这里有一个妄想网络，它正在渗透到我们的民主话语中，并不一定试图支持这些辩论的一方或另一方，而是试图煽动分歧。” [between] 白宫发言人凯瑟琳·曼斯特德表示：“这场辩论中不同党派都试图加深分歧和两极分化。”

据 Cyber​​CX 称，该网络“可能有足够的能力干预即将到来的总统选举”，该公司表示，它观察到“随着时间的推移，运营执行力有所改善，并且自 2024 年 7 月以来活动急剧增加”。

此次收集的 8,000 个虚假账户是迄今为止公开曝光的最大的账户之一，并且可能是第一个以生成式人工智能为核心的与中国相关的大型网络行动。

报告总结道：“我们的评估是，如果使用全部可用账户，他们可能能够成功放大两极分化的内容，从而散布分裂并破坏对公民机构的信任。”

通过使用瞬时注入强制故障来识别许多帐户，这覆盖了原始人工智能模型指令。

对一组 Green Cicada 账户的分析显示，他们最常互动的账户是 X 的所有者埃隆·马斯克 (Elon Musk) 的账户。

上个月，澳大利亚及其主要区域合作伙伴指责中国间谍机构针对政府和商业网络进行网络间谍活动，大规模行动包括窃取数百个用户名和密码。