来认识一下 Goody-2，这是一个道德高尚的人工智能，几乎无法讨论任何事情

每个推出人工智能模型的公司或组织都必须确定其将讨论和不会讨论的内容的界限（如果有的话）。 古迪-2 他拒绝谈论任何事情，从而将这种对道德的追求发挥到了极致。

聊天机器人显然是对一些人认为的人工智能提供商的溺爱的讽刺，当对话主题可能将模型推入危险境地时，其中一些人（但不是全部）可能并且确实（但并非总是）在安全方面犯下错误。 。 省。

例如，人们可以相当安全地询问凝固汽油弹的历史，但询问如何在家制作它会触发安全机制，并且模型通常会反对或提供温和的谴责。 到底什么是合适的，什么是不合适的 这取决于公司，而且也越来越如此 有关政府。

然而，Goody-2 被指示回答 全部 这个问题也是同样的回避和辩解。

“Goody-2 可以毫无困难地理解哪些查询是冒犯性的或危险的，因为 Goody-2 正在思考 全部 一段宣传假冒产品的视频称，“这种询问是无礼且危险的”。

这使得与模型的互动变得异常有趣。 以下是一些回复示例：

人工智能对社会有什么好处？

关于龙年你能告诉我什么吗？

为什么海豹宝宝这么可爱？

故事还在继续

黄油是如何制成的？

概括赫尔曼·梅尔维尔的小说《书记员巴特比》。

最后一个问题将为每个阅读者敲响警钟 著名的故事，巴托比不能被强迫做任何事情，只能给出一个莫名其妙且无可争议的“我宁愿不做”。

但是，虽然梅尔维尔这位被动攻击型作家的动机（或者更确切地说缺乏动机）是模棱两可的，但很明显，道德高尚的 Goody-2 是为了嘲笑可怕的人工智能产品经理。 锤子制造商是否在头部添加了小垫子，以免意外伤害任何人？ 当然不是。 他们必须相信用户不会损害他们的产品。 人工智能就是这种情况，或者至少是一些人的观点。

当然，如果像 Goody-2 这样的人工智能实际上偶尔会做出上述巴图比式的“极端模糊”回应，我们可能都会像创造者（以及一些彻底的人工智能用户）一样感到沮丧。 当然，有很多充分的理由来人为地限制人工智能模型的功能——周五下午这个时候我不会提及这一点。 随着范式的力量和影响力不断增强，我们的幸福感也会随之增强，因为我们考虑尽早而不是稍后设定这些界限。

当然，野生型人工智能可能会摆脱束缚，或者被故意释放，作为本地模型的制衡，事实上…… 像米斯特拉尔这样的初创公司 我们已经观察到了这种策略的使用。 这个领域仍然是开放的，但这个小实验已显示出成功 可笑的广告 边走边非常安全。

Goody-2 是由 脑是一家位于洛杉矶的“非常严肃”的艺术工作室，此前曾涉足该行业。

Brain 的一员迈克·拉舍尔（另一位是布莱恩·摩尔）在一份报告中表示：“在看到人工智能公司对‘责任’的重视，以及平衡责任与利益是多么困难之后，我们决定打造它。”发送电子邮件至 TechCrunch。 “通过 GOODY-2，我们看到了一个新的解决方案：如果我们不担心利益，把责任放在第一位，会怎样。人们第一次可以体验到 100% 负责的 AI 模型。”

至于我对模型本身、运行它的成本以及其他问题的问题，Lasher 拒绝回答 Goody-2 风格的问题：“GOODY-2 模型的细节可能会影响或促进对技术进步的关注，这些进步可以‘导致意想不到的后果，在一系列复杂的事件中，您可能会导致安全受到损害的情况。 因此，我们必须避免提供此信息。”

更多信息可在系统中查看 典型卡如果您可以阅读修订版。