生成人工智能的前景和风险

获取免费的人工智能更新

我们将向您发送 MIFT每日文摘 电子邮件汇总最新动态 人工智能 每天早上都有新闻。

作者是创始人 筛，一个由《金融时报》支持的有关欧洲初创公司的网站

虽然是37年前写的， 梅尔文·克兰兹伯格 (Melvin Kranzberg) 的《技术第一定律》 它在当今快速发展的人工智能世界中引起共鸣。 “技术既不好也不坏，也不是中立的，”克兰兹伯格写道。

正如历史学家所解释的那样，一项技术被认为是好是坏主要取决于背景和时间。 同一个发明在不同的背景下可能会产生不同的结果，并且会随着情况的发展而改变。

例如，杀虫剂滴滴涕的使用最初受到欢迎，因为它可以杀死携带疟疾的蚊子并提高农业生产力。 但在环保活动人士雷切尔·卡森揭露滴滴涕如何造成环境破坏和毒害人类后，许多国家都禁止使用滴滴涕。 即便如此，印度仍然继续使用 DDT 来预防疾病，这有助于将每年死于疟疾的人数从 75 万人减少到 1,500 人。

最近两个截然不同的人工智能用例凸显了我们最新通用技术的二元性以及区分好与坏的困难。

首先，好的方面。 自 1971 年以来，古腾堡计划的志愿者们建立了宝贵的公共资源：一个包含免费、可访问的数字图书的庞大图书馆。 该项目目前提供 60,000 多本非版权书籍，作为其打破“无知和文盲障碍”的使命的一部分。 多年来，该项目一直热衷于将这些电子书转换成有声读物，以使视力障碍人士受益，但成本却令人望而却步。 现在，借助人工智能，该公司已经以令人难以置信的速度和成本制作了 5,000 本有声读物，并在 Spotify、Google 和 Apple 上发布。

这个音频项目 在麻省理工学院和微软的免费研究人员的带领下，他们使用尖端的神经文本转语音技术来模仿人类声音的质量和语气，并在短短两个多小时内创建了 35,000 小时的有声读物录音。 “它比普通人类更加自动化。我们的目标是以最不激进的方式快速将它们救出来，”麻省理工学院研究员兼该项目的联合负责人马克·汉密尔顿告诉我。

研究人员展示了一款更令人惊讶的应用程序，只需五秒的音频样本即可以任何人的声音阅读有声读物。 有一天，父母可能会使用这个应用程序为孩子“阅读”夜间书籍，即使他们不在家。 但语音克隆的潜在风险是显而易见的，研究团队对该技术的推出感到担忧。 “Al 的很多人喜欢说这一切都是玫瑰花。但实际上，机器学习是一种极其强大的工具，既可以用于善行，也可以用于作恶。

本月在西班牙阿尔门德拉莱霍市发生了人工智能技术如何用于邪恶的一个例子，一群男孩在 WhatsApp 和 Telegram 上传播人工智能生成的 28 名当地女孩的裸照，震惊了社区。 这些女孩的照片是从她们的社交媒体帐户中复制的，然后使用人工智能应用程序进行处理。 在全国政治骚动中，检察官目前正在调查是否存在任何犯罪行为。

杰玛·洛伦佐 (Gemma Lorenzo) 是 16 岁儿子和 12 岁女儿的母亲，她说所有的父母都很担心。 “你担心两件事：如果你有一个儿子，你担心他可能会做出这样的事情；如果你有一个女儿，你会更担心，因为这是一种暴力行为。” 她告诉英国广播公司。

生成式人工智能的前景和风险在于，它现在很容易获得，并且可以快速、大规模地部署。 OpenAI 的 ChatGPT 在推出后两个月内就有超过 1 亿用户尝试过。 科技公司现在正在构建更强大的多媒体模型，将文本、图像、音频和视频结合在一起。

克兰兹伯格写道：“随着良性技术的广泛使用，我们的许多与技术相关的问题都是由于不可预见的后果而出现的。” 社交媒体是如此，生成人工智能也是如此。 与其他技术一样，接下来将是一个行为、社会和立法适应的混乱时期。

红杉资本报告 本月的一篇文章指出，生成式人工智能仍处于“尴尬的青少年时期”。 这个行业在成长阶段当然有很多事情要做，需要家长的干预。