中美认为人工智能系统可能带来的风险但他们能看到过去的军事技术竞争吗？

“我不知道他们是否能够超越国际上已经达成的共识，”荷兰拉德博特大学政治和人工智能专业助理教授乔光宇博士说。

2019 年，中国、美国和其他 96 个国家制定了一套使用致命自主武器系统或可能通过人工智能增强的指南。 日内瓦会议一致认为，此类系统的使用应对人类负责，其开发应符合国际人道主义法，并且在使用前应经过彻底测试。 然而，该指南不具有法律约束力。

“说实话，我并不乐观，因为 [the US and China] 仍然存在分歧，”焦佛朗哥说。 “我觉得美国有这种动机来限制中国的技术发展。 当然，中国希望提高其技术独立性并减少这些技术瓶颈。

澳大利亚、美国、英国将测试在太平洋跟踪中国潜艇的人工智能系统

美国警告称，中国在人工智能领域的领导地位可能会削弱美国在计算机视觉和自主水下航行器等新兴应用领域的优势。 它还表达了对中国在高科技发展方面的军民融合战略的担忧。

军队可以将人工智能技术用于多种目的。 红十字国际委员会高级科学和政策顾问尼尔·戴维森表示，一个关键问题是如何在人工智能用于战争时最大程度地减少对平民的影响。

人工智能可以使用图像识别来识别目标，无论是人还是感兴趣的地点。 它可以分析数据，帮助人类在战场上做出更好的决策，并识别薄弱环节，发起能够破坏医院和其他民用基础设施使用的基本系统的网络攻击。

戴维森说，各国应该解决这些领域的问题，将监管重点放在人工智能的具体用途上，而不仅仅是针对该技术的一般政策。

北京和华盛顿分别认识到，让人类控制人工智能系统是人工智能系统在军事上使用的关键。

中国在2021年人工智能军事应用立场文件中强调了这一点，呼吁人工智能武器系统始终处于人类控制之下。

华盛顿批评“有意义的人类控制”等术语含糊其辞，而更倾向于“在负责任的人类指挥链内”。 对此类语言的分歧阻碍了联合国关于法律的辩论达成共识。

但为人工智能军事用途设定参数的国际协议很少有具体的监管机制。

上个月，美国带领其他 46 个国家（主要是主要盟友和合作伙伴）“负责任”地使用军事人工智能应用，例如制定透明度标准和对用户进行充分培训。 中国对该宣言保持沉默，也没有具体说明任何执行机制。

第一个挑战是缺乏定义。 各国仍在争论什么是法律。 如果没有共同的定义，就不可能通过条约来规范甚至禁止它们。

焦佛朗哥表示，发达国家和发展中国家之间的争论往往存在分歧。 富裕国家可以大力投资研发，并希望确保对 LAWS 开发的限制得到严格界定，以便他们能够开发更准确、更可持续的人工智能主导的武器和装备。

较贫穷的国家没有相同的资源，主张对法律进行更严格的定义，因为它们将自己视为潜在的受害者或目标。

中国的地位是独特的。 习近平宣称，北京希望成为全球南方的代言人，中国永远是一个发展中国家。 但在人工智能研究方面，它投入巨大，并提供了狭隘的法律定义，其特点是杀伤力、执行力、实施过程中缺乏人为干预、无法下结论、滥杀滥伤、能够进化和扩展超出人类预期的功能。

与此同时，五角大楼将其定义为一种武器系统，可以“选择并攻击目标，而无需人类操作员的额外干预”。

“它似乎采取了这种独狼的做法，”乔-弗朗哥谈到中国时说。 “这与迄今为止任何其他国家的情况完全不同。”

戴维森说：“最终，即使是主要军事大国也有兴趣制定限制。

“人工智能在军队中的一些应用可能带来的好处……可能会对他们的社区、他们的军队、他们自己的士兵产生影响。”

这种相互的脆弱性可能会促使中国和美国就人工智能的军事使用制定共同的约束性条款。

两国正在清华大学国际安全与战略中心和华盛顿布鲁金斯学会之间举行人工智能秘密会议。

斯德哥尔摩国际和平研究所高级研究员劳拉·萨蒙博士表示，美中联合报告是一个很好的起点，该报告涉及人类控制在核武器决策中的重要性。

但他表示，创建人工智能版本的《核不扩散条约》（NPT）旨在将此类武器限制在五个国家。

萨蒙表示：“缺乏验证人工智能技术进步总体步伐是否符合情况的能力，将导致完成《人工智能不扩散核武器条约》的任何努力脱轨。”

人工智能协议表明，尽管存在竞争，中美仍可以在技术规则上进行合作：分析师

据信，除“核五国”（中国、法国、俄罗斯、美国和英国）之外的国家也已发展核能力，包括印度、巴基斯坦、伊朗和朝鲜。

萨蒙表示，美国和中国可以首先就核决策中“人类克制”的重要性发表联合声明。

法国、美国和英国已承诺维持人类对人工智能的控制。 尽管中国没有同样的立场，但他表示该政策可能会演变成坚定的核政策。

周五，中国与美国、英国、澳大利亚等24个国家和欧盟签署了旨在加强人工智能全球合作的《布莱奇利宣言》。 监督。

萨尔蒙表示，基于中国“不首先使用”核武器的承诺，以及对拜登与习近平峰会后建立正式的美中人工智能对话渠道的期望，“可能有足够的基础来达成联合协议”。陈述。” 论核决策中的人为控制”。