ChatGPT 正在变成一条不真实的文化变色龙

ChatGPT 无缝转变为文化变色龙的能力令人沮丧，这是我第一次几乎感觉自己不只是在与机器交谈。我什至发现自己的反应就像我是一个人一样，告诉该工具“抱歉打扰”和“非常感谢”。

不只是我。掌握口语口音的高级语音模式是令人困惑的。牙买加一家初创公司的创始人分享了一段他自己用当地方言与 ChatGPT 交谈的片段。 TikTok 上充斥着视频，显示该应用程序讲着从行话到非裔美国人白话英语的各种语言。

ChatGPT 以方言进行交流的能力为更多人与该工具进行交互并体现该工具打开了大门。这一切可能看起来很奇怪，但任何远离家乡的人都知道语言和文化可以弥合障碍。听到有人像你一样用任何语言说话，都会立即产生一种亲切感。

在互联网时代的大部分时间里，这种文化上的细微差别是计算机尚未捕捉到的，这是朋友和机器之间最大的区别之一。

但将方言与人工智能结合使用会产生潜在的后果。一个 自然 八月发表的一项研究发现，大型语言模型在基于文本的实验中根据人们的口音生成“隐秘的种族决定”。研究人员发现，与使用标准美式英语的使用者相比，人工智能更有可能建议使用非裔美式英语的使用者“被任命担任不太有声望的工作、被定罪并被判处死刑”。

另外，OpenAI 承认语音功能，特别是其最新模型的语音功能可能会带来我们尚未完全理解的风险，例如人们在人工智能模型中建立牢固的联系或允许“越来越虚假的信任”。

该公司指出，用户正在使用可能表明他们感觉与该模型有联系的语言来利用语音功能，并表示需要更多的内部和独立研究来“具体识别这个风险领域”。聊天机器人现在听起来如此像人类的部分原因是它的九种声音得到了真实演员的支持。

下载

OpenAI 有大量的护栏。 ChatGPT 通过改变主题回答了我的一些问题，并表示其指导方针不允许其做出回应。她不能唱歌，不能模仿别人，也不能太轻浮。当前版本还没有达到直接翻译音频以外的内容的程度，例如演讲或视频，这可能是为了避免进一步的版权审查。更有眼尖的观察家批评了她对某些语言和方言的熟练程度。由于监管障碍，高级语音模式尚未在欧盟和其他一些市场推出。

ChatGPT 打破语言障碍的新能力为企业和个人带来了巨大的潜在好处。但正如我上周一样好奇，我时不时会收到一条回复，提醒我这只是一个应用程序 – 我不应该赋予它太多责任或将其视为人类伴侣。当人们忘记这一点时，我不禁担心未来。

布隆伯格

获取有关技术、小工具和游戏的新闻和评论： 我们的技术通讯每周五。 在此注册。