Descargitas

来自中国的最新突发新闻。

美国限制中国使用 ChatGPT 等应用程序背后的人工智能软件 – 软件

美国限制中国使用 ChatGPT 等应用程序背后的人工智能软件 – 软件

消息人士称,拜登政府准备开辟一条新战线,努力保护美国人工智能免受中国和俄罗斯的侵害,初步计划在复杂的人工智能模型(ChatGBT 等人工智能系统的核心软件)周围设置安全屏障。

三名知情人士表示,美国商务部正在考虑采取新的监管措施,限制专有或闭源人工智能模型的出口,这些模型的软件和训练数据都是隐藏的。

任何举措都将补充过去两年阻止向中国出口先进人工智能芯片的一系列举措,以减缓北京为军事目的开发尖端技术的速度。

即便如此,监管机构仍会发现很难跟上该行业快速发展的步伐。

美国商务部拒绝置评,俄罗斯驻华盛顿大使馆也没有立即回应置评请求。

中国大使馆称此举是“例行的经济胁迫和单边霸凌行为,中方坚决反对”,并表示将采取“必要措施”维护自身利益。

目前,没有什么可以阻止微软支持的 OpenAI、谷歌 DeepMind 和竞争对手 Anthropic 等美国人工智能公司在没有政府监督的情况下将它们出售给世界上任何人,这些公司开发了一些最强大的闭源人工智能模型。

政府和私营部门研究人员担心,美国对手可能会使用挖掘大量文本和图像的模型来消化和创建内容、发动侵略性网络攻击或开发强大的生物武器。

其中一位消息人士称,任何新的出口限制都将针对俄罗斯、中国、朝鲜和伊朗。

微软在二月份的一份声明中表示,它已经追踪到与中国和朝鲜政府以及俄罗斯军事情报部门和伊朗革命卫队有关联的黑客组织。

消息人士称,为了对人工智能模型实施出口管制,美国可能会恢复去年 10 月发布的人工智能行政命令中的限制,该限制基于训练模型所需的计算能力。

到了这个阶段,开发者必须向商业部门报告其AI模型开发计划并向商业部门提供测试结果。

两名美国官员和另一位消息人士称,计算能力阈值可能是确定人工智能模型是否受到出口管制的基础。

他们拒绝透露姓名,因为细节尚未公开。

据跟踪人工智能趋势的研究公司EpochAI称,虽然谷歌的Gemini Ultra被认为已经接近,但它只会仅限于尚未发布的型号的出货量。 。

消息人士坚称,该机构远未敲定规则提案。 但美国政府正在考虑采取这样的举措,尽管在对快速发展的技术实施强有力的监管制度方面面临着严峻的挑战,但美国政府仍试图缩小差距,以阻止北京的人工智能野心。

前国家安全顾问彼得·哈勒尔表示,当拜登政府考虑与中国的竞争以及复杂人工智能的危险时,人工智能模型“显然是你必须考虑的工具之一,也是你必须考虑的潜在瓶颈之一”。 官。 “实际上,实际上,它是否能成为出口限制的瓶颈还有待观察,”他补充道。

生物武器和网络攻击?

美国情报界、智库和学术界越来越担心外国不良行为者获取先进人工智能能力所带来的风险。

Gryphon Scientific 和 Rand Corporation 的研究人员指出,先进的人工智能模型可以提供有助于开发生物武器的信息。

美国国土安全部在其 2024 年国土威胁评估中表示,网络行为者可能会使用人工智能“开发新工具”,以“执行更大规模、更快、更高效和更可避免的网络攻击”。

“可能发生爆炸 [AI’s] 美国国家情报总监办公室官员布莱恩·霍姆斯 (Brian Holmes) 在 3 月份的一次出口管制会议上指出了中国的进展,他表示:“使用和剥削的情况非常严重,我们很难对其进行追踪。”

人工智能镇压

为了解决这些担忧,美国已采取措施阻止美国人工智能芯片及其制造工具流入中国。

它还提出了一项规则,要求美国云公司在外国客户使用其服务来训练可用于网络攻击的强大人工智能模型时通知政府。

但到目前为止,它还没有谈论人工智能模型。 美国商务部负责美国出口政策的艾伦·埃斯特维斯 (Alan Esteves) 去年 12 月表示,在寻求行业反馈之前,该机构正在考虑监管开源大语言模型 (LLM) 出口的方案。

华盛顿智库 CNAS 的人工智能政策专家 Tim Fist 表示:“在我们开发出更好的方法来衡量新模型的能力和风险之前,这是一个很好的临时措施。”

前白宫和司法部官员贾米尔·贾弗表示,拜登政府不应施加计算机功率限制,而应根据模型的功能和预期用途来选择限制。

“关注国家安全风险而不是技术限制是更好的策略,因为它更持久并且关注威胁,”他说。

门槛并不是一成不变的。 其中一位消息人士表示,这种权衡可能会以底线结束,并结合其他因素,例如数据类型或人工智能模型的潜在应用,例如设计可用于开发蛋白质的能力。生物武器。

无论门槛如何,AI模型的输出都将难以控制。 许多模型都是开源的,这意味着它们超出了正在考虑的出口管制的范围。

菲斯特表示,即使对最先进的专有模型施加限制也将具有挑战性,因为监管机构将很难确定正确的标准来决定哪些模型应该受到监管。他补充说,中国仅落后美国两年。 开发自己的人工智能软件。

正在考虑的出口限制将影响对运行某些消费者应用程序(例如 ChatGPT)的后端软件的访问,但不会限制对下游应用程序的访问。

READ  美国最高外交官已抵达中国以缓和紧张局势