谷歌Pixel换脸工具引发人工智能操纵争议

相机从不说谎。 当然，这种情况确实发生了，而且似乎每天都发生得越来越频繁。

在智能手机时代，从增强色彩到调整亮度水平，快速数字调整以增强图像已变得司空见惯。

现在，由人工智能 (AI) 驱动的新一代智能手机工具正在加剧关于拍摄现实意味着什么的争论。

谷歌上周发布的最新智能手机 Pixel 8 和 Pixel 8 Pro 比其他公司的设备更进一步。 他们使用人工智能来帮助改变照片中人们的表情。

我们都有过这样的经历：在一张集体照中，有一个人把目光从镜头上移开，或者没有微笑。 谷歌手机现在可以搜索你的照片，混合和匹配以前的表情，使用机器学习从照片中的不同图像中绘制笑脸。 谷歌称之为最佳选择。

这些设备还允许用户擦除、移动图像中不需要的元素（从人物到建筑物）并调整其大小，并使用所谓的“魔术编辑器”“填充”剩余空间。 这使用了所谓的深度学习，这是一种强大的人工智能算法，可以利用从数百万张其他图像中获得的知识，通过分析它可以看到的周围像素来确定哪些纹理应该填补空白。

照片不必在设备上拍摄。 借助 Pixel 8 Pro，您可以将所谓的 Magic Editor 或 Best Take 应用于 Google 照片库中的任何照片。

“又糟糕又可怕”

对于一些观察者来说，这引发了有关图像如何拍摄的新问题。

谷歌的新人工智能技术被评论家和技术评论家描述为具有潜力 “贫穷的” （边缘）， “可疑的” （科技雷达）并且有能力这样做 “对人们（本已脆弱的）在线内容的信任造成严重威胁。” （CNET）。

南威尔士大学专业摄影师兼新闻学高级讲师安德鲁·皮尔索尔 (Andrew Pearsall) 同意操纵人工智能会带来风险。

“即使是出于美观的原因，简单的操纵也会让我们走上一条黑暗的道路，”他说。

他表示，对于那些在专业环境中使用人工智能的人来说，风险更高，但每个人都应该考虑其中的影响。

“你必须非常小心，‘你什么时候越界？’”

“现在你可以拍一张照片，然后立即删除手机上的东西，这非常令人不安。我认为我们正在进入一个虚假的世界。”

谷歌智能手机摄像头系统开发团队的领导者艾萨克·雷诺兹在接受 BBC 采访时表示，该公司认真对待其消费技术的道德考虑。

他很快指出，像 Best Take 这样的功能并不是什么“假”东西。

对于与三星、苹果等公司竞争的公司来说，相机和软件质量至关重要，而这些人工智能功能被视为独特的卖点。

所有对该技术提出担忧的评论者都称赞了摄像系统的图像质量。

“你终于可以拍出每个人都按照你希望的样子拍摄的照片，这是你在任何智能手机相机或任何相机上都无法做到的事情，有一段时间了，”雷诺兹说。

“如果有副本 [of the photo you’ve taken] 这个人在哪里微笑，我会告诉你。 “但如果没有他们微笑的版本，那么是的，你就看不到它，”他解释道。

对于雷诺兹先生来说，最终的图像成为“当下的代表”。 换句话说，那个特定的时刻可能没有发生，但它是您希望发生的图像，是由多个真实时刻创建的。

“人们不想要现实”

剑桥大学图形和显示专家 Rafal Mantioc 教授表示，重要的是要记住，在智能手机中使用人工智能并不是为了让图像看起来更真实。

“人们不想捕捉现实，”他说。 “他们想要拍摄漂亮的照片。智能手机中的整个图像处理流程旨在生成好看的照片，而不是真实的照片。”

智能手机的物理限制意味着它们依靠机器学习来“填充”图像中没有的信息。

这有助于改进缩放、增强低光照片，并且就 Google 的 Magic Editor 功能而言，可以向照片中添加从未存在过的元素或交换其他照片中的元素，例如用微笑代替皱眉。

图像处理并不是什么新鲜事，它和艺术形式本身一样古老。 但借助人工智能，真正实现规模化从未如此简单。

今年早些时候 三星被批评 表彰其使用深度学习算法来提高智能手机拍摄的月球照片质量的方式。 测试发现，无论你最初拍摄的照片有多糟糕，它总是会给你一张可用的照片。

换句话说 – 你的月亮照片不一定是你正在看的月亮照片。

该公司承认了这些批评，并表示正在努力“减少拍摄真实月球照片和月球照片之间可能出现的任何潜在混淆”。

关于谷歌的新技术，雷诺兹表示，该公司正在将元数据添加到其照片中——图像的数字指纹——使用行业标准来指示何时使用人工智能。

“这是我们内部讨论的一个问题。我们已经详细讨论过这个问题。因为我们多年来一直在研究这个问题。这是一次对话，我们正在倾听用户的意见，”他说。

谷歌显然有信心用户会同意，因为其新手机中的人工智能功能是其广告活动的核心。

那么，在图像处理方面，谷歌是否有一条不会逾越的界限呢？

雷诺兹表示，关于人工智能使用的争论非常微妙，你不能简单地指出沙子上的一条线，说它太遥远了。

“你越深入地构建功能，你就会开始意识到，字体有点过于简单化，最终导致一个非常困难的逐个功能的决策，”他说。

曼蒂奥克教授表示，即使这些新技术引发了人们对现实与非现实的伦理考量，我们也必须考虑到我们眼睛的局限性。

“我们之所以能看到清晰的彩色图像，是因为我们的大脑可以重建信息，甚至推断出缺失的信息，”他说。

“所以，你可能会抱怨相机在做假事情，但人脑实际上以不同的方式做同样的事情。”