泰勒·斯威夫特说普通话的 Deepfake 视频引发了有关中国人工智能的讨论

美国流行歌星泰勒·斯威夫特最近在中国社交媒体上疯传，她讲一口流利普通话的视频引起了中国粉丝的注意。

在中国社交媒体平台微博上发布的一段视频中，可以看到这位 33 岁的歌手在一个看似脱口秀的节目中炫耀她的中文。

“我最近去了很多地方，比如意大利、法国和日本，”斯威夫特用略带美国口音的普通话说道。 该视频于 10 月 21 日发布，点击量已超过 600 万次。

在另一个视频中，她谈到了她“留在我们身后”的歌曲，以及她如何希望人们能听到这些歌曲。

发展？ 斯威夫特的普通话能力归功于人工智能（AI）。

据新闻媒体《中国项目》报道，这些深度伪造视频是由中国初创公司 HeyGen 的人工智能工具创建的。

她的嘴唇动作是同步的，听起来像是在说普通话，听起来也像斯威夫特的声音，使视频变得如此逼真，以至于促使中国网民表达了对这项技术的惊叹，并留下了这样的评论：“这太酷了。 ” ”。

其他人则要求观看他们最喜欢的节目的普通话版本。

但它也引发了关于人工智能进步可能带来的潜在风险的讨论，例如欺诈和失业。

一位网友表示：“最可怕的是，如果有人利用它的技术制造假新闻，因为人工智能能够操纵声音和嘴巴的动作，人们很容易相信。”

另一位微博用户写道，“如果（这种人工智能技术）用于诈骗，那就太可怕了”，因为犯罪分子可以利用它来骗取受害者的钱财。

HeyGen由许书华先生和梁伟恩先生于2020年11月创立。

这款由 AI 驱动的视频生成器允许用户使用 100 多个不同种族、年龄、姿势和服装的 AI 化身，创建包含 40 多种语言、300 多种声音的文本转语音视频。

此类技术引起了人们对人工智能犯罪应用的担忧。 2023 年初，中国北方的一名诈骗者使用 Deepfake 技术说服一名男子将钱转给一名所谓的朋友。

诈骗者在视频通话中使用人工智能换脸技术冒充受害者的朋友。 该男子最终向他转账了约430万元人民币（823,000新元）。

一月份，中国实施了新规定，要求提供 Deepfake 服务的公司获取用户的真实身份。

它还要求对深度伪造内容进行适当标记以避免混淆。