谁来监管人工智能？

OpenAI 首席执行官 Sam Altman 在 5 月 16 日的国会证词中表示，现在是监管机构开始对强大的人工智能系统施加限制的时候了。 “随着这项技术的进步，我们了解到人们担心它会如何改变我们的生活方式。我们也是，”奥特曼说。 他告诉参议院委员会. “如果这项技术变坏，它绝对会出错，”他说，并声称它可能“对世界造成巨大伤害”。 他同意立法者的观点，即政府监督对于降低风险至关重要。

一年前还只是立法者关注的话题，世界各国政府现在正在激烈辩论监管甚至禁止人工智能技术的某些用途的利弊。 然而，企业领导者此时应该关注的问题不是人工智能将如何监管，甚至何时监管，而是由谁监管。 国会、欧盟委员会、中国，甚至美国各州或法院是否掌舵，将决定全球经济人工智能转型的速度和轨迹，可能会保护某些行业或限制所有公司使用该技术进行互动的能力直接与消费者。

自 2022 年 11 月发布 OpenAI 的 ChatGPT（一种基于自我改进大型语言模型 (LLM) 的神经网络的人工智能聊天机器人）以来，生成人工智能的使用激增。 根据 Statista 收集的数据ChatGPT 在五天内达到了 100 万用户，淘汰了包括 Facebook、Spotify 和 Netflix 在内的先前高速互联网产品的推出。 Midjourney 和 DALL-E，根据用户输入创建自定义插图的 LLM，也大受欢迎， 生成数百万张图像 每天。 生成式人工智能当然符合我们之前所说的“大爆炸破坏者”的标准：一种新技术，从发布的那一刻起，就可以为用户提供比与之竞争的技术更好、更便宜的体验。 .

如此吸睛的收购自然令人振奋，对现有企业而言也令人担忧。 法学硕士的潜力似乎是无限的，它可能会彻底改变一切 寻找 生成内容和客户服务 教育好吧，你的名字。 与更有针对性的 Big Bang 颠覆者不同，ChatGPT 和其他 LLM 具有超级颠覆性，不仅打破了一个行业的长期规则，而且打破了所有行业的长期规则。 同时。

鉴于这种破坏的潜在规模——以及隐私、偏见甚至国家安全等问题——立法者的关注是合理的。 想想歌德的诗《魔法师的学徒》，迪士尼经典动画片 幻想，其中巫师回到他的工作室，发现他的学徒释放了正在迅速失控的力量，威胁要摧毁眼前的一切，直到巫师恢复秩序。 许多担心人工智能潜在的意外后果的人，包括像奥特曼这样的开发者，都希望立法者能够扮演魔术师的角色。

大家来了

在美国，一些参与者正在争先恐后地领导人工智能的监管。

首先是国会，参议院多数党领袖查克舒默呼吁制定预防性立法 建立监管“防火墙”。 关于人工智能产品和服务。 这些障碍集中在用户透明度、政府报告以及“使这些系统与美国价值观保持一致，并确保人工智能开发人员履行他们创造更美好世界的承诺”。 然而，这个提议的含糊不清并不乐观。

第二，拜登政府，联邦机构之间存在一些竞争，以执行白宫的蓝图 大赦国际权利法案，于去年 10 月推出。 该计划同样具有普遍性，呼吁开发人员确保“安全有效”的系统不歧视或违反隐私期望，并明确用户何时使用自动化系统并向提出请求的用户提供人工“预防措施”——没有，至少现在还没有定义任何这些核心术语。

在美国国家电信和信息管理局 (NTIA) 商务部 展开调查 人工智能系统审计和认证的用处。 该机构征求意见 几十道题 关于人工智能系统的问责制，包括是否、何时、如何以及由谁评估、批准或审计新的应用程序，以及这些审查中应包含什么样的标准。 在这里，调查的特殊性似乎正朝着正确的方向发展。

与此同时，FTC 主席 Lena Kahn 采取了不同的方法，声称她的机构已经对她的 LLM 拥有管辖权，并且 该机构的反竞争和消费者保护剑嘎嘎作响 在新技术的方向上。 卡恩推测，人工智能可能会加剧该技术中存在的问题，包括“勾结、垄断、合并、价格歧视和不公平竞争策略”。 FTC 负责人还认为，生成式 AI 具有创建虚假但引人注目的内容的能力，因此“存在涡轮欺诈风险”。 它指出，LLM 可能有意或无意地通过基于有偏见的数据集对用户请求做出响应来违反现有的隐私和反歧视法律。

之后还有更多的区域性努力：人工智能相关的立法已经出台 至少17个州. 其中一些拟议的法律将刺激国内人工智能产品的发展，而其他法律将限制其在医疗保健和就业等应用中的使用。 许多州已经或正在考虑建立自己的工作组来推荐未来的立法。

到目前为止，这些提案中的任何一项都没有具体说明，人工智能造成的假设损害类型属于现有类别，包括错误信息和滥用版权和商标。 无论如何，监管机构在短期内对技术发展的影响可能不大。 许多拟议的法规要求国会赋予这些机构额外的法律权力，这在当前的政治气候下似乎不太可能。 然而，新规则的执行将取决于法院，这意味着多年的磨合。 政府历来难以吸引到识别 LLM 和其他 AI 应用程序可能造成的新危害所需的技术专长。

在联邦提案中，要感谢商务部提出了正确的问题。 但尚不清楚 Gina Raimondo 部长是否拥有创建可持续采用流程的法律权力，或者是否具有让科技行业支持 NTIA 努力的政治影响力。 额外的， 正如该部门承认的那样实现这些目标只是白宫为 AI 服务创造可信环境的更大努力的一部分，这一目标将需要在许多政府孤岛之间进行前所未有的协调与协作。

这些讨论也是在美国法律发生巨大变化的背景下进行的，这些变化可能会决定谁最终赢得 AI 主监管机构的一部分。 最高法院最近的判决 它极大地改变了商法的法律格局，将权力从联邦监管机构转移到法院和各州，增加了执法程序的更多碎片化、不确定性和延误。 法院为希望挑战该机构的判断过程的公司开了绿灯，例如，通过要求国会提供更具体的指示，实际上将批准的规则是否生效的最终决定外包给联邦法官。 与此同时，当然，技术将继续以指数级的速度发展。

总而言之，这些限制意味着主要法规可能首先来自美国以外的国家

至于竞争法，尤其是它在科技公司的应用，过去几十年的势头确实从美国转移到了欧洲。 随着欧盟继续通过 实质性的新互联网立法国会犹豫不决，让联邦贸易委员会和其他联邦机构基本上没有工具或资源来与欧洲同行竞争。 最近获得欧洲议会批准 人工智能法，一项长达 100 页的法律，预先禁止被认为具有“不可接受”风险水平的提交，要求其他人在欧盟使用之前获得事先批准和许可，并对一系列违规行为的开发商处以重罚。

中国监管机构 他们行动也很快，以刺激国内人工智能产品和服务，并确定它们如何工作以及如何工作。 这不仅会限制非中国公司与超过 10 亿潜在中国用户的互动方式，而且作为第一个，它可能成为未来应用的事实上的法律体系。

企业现在应该做什么

目前尚不清楚政府行动（立法、监管或司法）的任何组合能否真正实现人工智能价值最大化与更广泛地减少其对经济或社会的潜在危害之间的平衡。 与所有革命性技术一样，政府有效监管 LLM 的能力几乎肯定会达不到要求。 这不是对立法者和监管者的批评，而是副作用 从基本事实 该法则在技术呈指数级发展的同时逐渐推进。

与此同时，商界领袖和学术界应该效仿商务部正在进行的举措，开始发展非政府监管、审计和认证机构，定义和提供市场激励措施，以购买合乎道德和可靠的人工智能产品和服务，同时明确表示他们安然无恙。 什么是不可靠的应用程序？

当然，成功（和不那么成功）的自我监管机构的历史悠久，可以追溯到中世纪和执行中世纪市场标准的商业“法庭”。 如今，包括国际标准组织在内的许多组织都在制定和认证企业是否遵守范围非常广泛的标准、最佳实践和分类。 在信息时代，类似的努力解决了从公司标准到 与独裁政权打交道 自行开发软件和协议 构成互联网本身.

一些政府规定是不可避免的。 不过，要想不招惹魔术师，最有希望的办法就是一开始就避免惹出大麻烦。