4 种识别 AI 生成照片的方法 | Discover Magazine

就在上个月，一张教皇方济各身穿时尚白色 Balenciaga 派克大衣的图片迅速走红，让数千人相信这位教皇已经准备好夜游。几天前，另一系列照片席卷社交媒体，展示了前总统唐纳德·特朗普被身穿防暴装备的纽约市警察逮捕。

只有一个问题：这些图片是完全伪造的。

AI 生成的照片

这些病毒式传播的现象是由人工智能系统生成的，它们处理用户的文本提示来创建图像。虽然像Midjourney、DALL-E 和Stable Diffusion 这样的 AI 系统已经存在了几年，但直到最近，它们生成的图像才具有足够说服力来欺骗不太精明的观察者。一些专家认为，我们正加速走向一个 virtually impossible 区分真实图像和 AI 生成的假图的未来。

延伸阅读：AI 现在可以根据文本描述创作音乐

加州大学伯克利分校计算机科学教授 James O’Brien 表示：“这些系统已经非常出色了。即使是专家，如果不使用专门的工具来分析图像，也未必能发现一些明显的、显而易见的证明它是虚假的线索。而且它们还会变得更好。”

O’Brien 警告说，重要的是不要仅仅依靠视觉线索来判断图像是否真实。但目前，一些敏锐的观察者仍然可以留意一些迹象——以及其他一些不被欺骗即可标记潜在视觉虚假信息的方法。

如何识别虚假的 AI 创建图像？

伪造照片并不是一个新现象。几乎从摄影术出现以来，照片就一直在被伪造和篡改。例如，美国总统亚伯拉罕·林肯的一张著名肖像实际上是将林肯的头与（讽刺的是）支持奴隶制的政治家 John C. Calhoun 的雕刻拼接而成。然而，AI 图像生成系统不需要那么多的手动操作，只需简单的文本提示就能快速创建逼真的照片。

今天的 AI 工具在生成逼真图像的能力方面各不相同。AI 系统特别难以数字化人类的手，会生成畸形的手指，有时手指过多（或过少）。布朗大学公共卫生学院信息未来实验室联合主任 Claire Wardle 表示，识别这些怪异的手指可能是揭穿假图的一种方法。

延伸阅读：你的机器人出租车几乎来了

她说：“这有点像一个有趣的练习，就像你小时候看那些图片难题一样。很快这些图像就会变得 so good，以至于像手指这样的东西就无法拯救我们了。但目前，我们仍然有一些东西需要警惕。”

1. 注意怪异的手指和牙齿

由于训练 AI 系统的数据库往往只捕捉手的*部分*，这项技术经常无法创建栩栩如生的人类手。这可能导致图像中的手部笨拙、手腕拉长、手指细长或手指过多——这些都是 AI 生成图像是假图的标志。在教皇方济各的病毒式图片中，他的右手（以及他握着的咖啡杯）看起来像是被压扁和扭曲了。牙齿也可能成为问题。

O’Brien 说：“你的手是有结构的。你有五个手指，不是四个或六个或别的什么。AI 模型在处理这种结构时遇到了困难，尽管较新的模型在这方面正在改进。”

事实上，随着技术的进步，一些 AI 工具如 Midjourney V5 已经开始破解密码，至少在某些例子中是这样。

2. 小心过于光滑的纹理

一些 AI 图像生成器会产生过度光滑的纹理，或者像塑料一样带有光泽的皮肤。O’Brien 说，这意味着一件夹克——比如教皇炫酷的外套——可能会显得*过于*完美。

他补充道：“它可能不像是有皱纹的材料，反而显得过于完美。”

3. 寻找不协调的细节

也许最需要注意的就是图像本身逻辑上的不一致。O’Brien 和 Wardle 都提到了最近一系列在社交媒体上走红的搁浅在海滩上的大白鲨的 AI 生成图像。

O’Brien 说：“理解这张图片是假的 easiest way 是仔细看看鲨鱼。在每张图片中，你会注意到眼睛周围的图案都不同。”

O’Brien 继续说，其他不一致之处包括衣物面料在不同主体之间融合、背景图案完美重复等细节。但如果我们愿意相信虚假图像所呈现的现实，我们可能会更容易忽略这些细节。在 O’Brien 参与撰写的2021 年的一项研究中，如果一张图像的 B credibility 与参与者已有的信念一致，他们就更倾向于相信其 B credibility。