专家们对“深度伪造地理学”感到担忧

“深度伪造”一词已渗透到 21 世纪的词汇中，主要用于描述能够令人信服地将一个人替换为另一个人的视频。这些视频通常会将名人插入色情内容，或描绘世界领导人说出他们从未说过的话。

但任何有技术的人也可以利用类似的 AI 策略来伪造卫星图像，这种做法被称为“深度伪造地理学”。研究人员警告说，这种滥用可能会催生新的虚假信息传播渠道，甚至威胁国家安全。

华盛顿大学研究人员牵头的一项最新研究可能是首次调查这些经过篡改的照片是如何被创建以及最终被检测出来的。该研究的首席作者、地理学家赵波（Bo Zhao）表示，这与传统的照片处理不同，而是更为复杂。“方法完全不同，”他说。“它使图像更加逼真”，因此也更具问题性。

眼见是否为实？

研究人员指出，地理操纵并非新鲜事。事实上，他们认为欺骗性是每一张地图的固有属性。“关于地图的一个偏见是，它真实地反映了该区域，”赵说。“但地图是地图制作者试图提出的一个主观论点。”想象一下，美国定居者将边界向西推进（无论是在纸上还是通过真实的暴力），而原住民则继续主张他们对这片土地的权利。

地图也可以以更明显的方式撒谎。地图制作者在地图上放置虚构地点，称为“纸上城镇”，以防止版权侵犯，这是一个古老的伎俩。如果伪造者无意中包含了虚假的城镇——或街道、桥梁、河流等——那么真正的创作者就可以证明存在欺诈行为。几个世纪以来，各国经常将地图作为宣传的另一种工具。

尽管人们长期以来一直在篡改我们周围环境的信息，但深度伪造地理学带来了一个独特的问题：它具有惊人的逼真性。就像最近一系列汤姆·克鲁斯模仿视频一样，数字冒充者几乎不可能被发现，尤其是对于未受过训练的肉眼而言。

为了更好地理解这些虚假但令人信服的照片，赵和他的同事们设计了一个生成对抗网络（GAN），这是一种常用于创建深度伪造的机器学习计算机模型。它基本上是一对旨在进行智力竞赛的神经网络。其中一个称为生成器，它根据对数千张真实卫星图像的经验生成虚假的卫星图像。另一个称为判别器，它通过分析颜色、纹理和清晰度等一系列标准来尝试检测欺诈。经过几次这样的“战斗”后，最终结果看起来与现实几乎无法区分。

赵和他的同事们从一张塔科马（华盛顿州）的地图开始，然后将西雅图和北京的视觉模式转移到上面。当然，这些混合图像在世界上并不存在，但如果观众误认为它们确实存在，也是可以原谅的——它们看起来就像源自真实的卫星图像一样合法。

辨别真伪

这项练习看似无害，但深度伪造地理学可能会被用于更邪恶的目的（而且很可能已经如此——尽管这类信息通常是保密的）。因此，它很快引起了安全官员的注意：2019 年，美国国家地理空间情报局（National Geospatial-Intelligence Agency）CIO 技术总监办公室自动化主管托德·迈尔斯（Todd Myers）在一次人工智能峰会上承认了这一新兴威胁。

例如，他说，一个地缘政治对手可以篡改卫星数据，欺骗军事分析人员看到一个错误的桥梁位置。“所以从战术角度或任务规划的角度来看，你训练你的部队走一条特定的路线，去一座桥，但它并不存在，”迈尔斯当时说。“然后你就会遇到一个大大的惊喜。”

而且，可以很容易地设想其他的恶意深度伪造计划。这项技术可以被用来传播各种假新闻，例如煽动对虚构自然灾害的恐慌，并抹黑基于卫星图像的真实报道。

为了对抗这些反乌托邦的可能性，赵认为整个社会必须培养数据素养——了解何时、如何以及为何信任你在网上看到的内容。就卫星图像而言，第一步是认识到你遇到的任何特定照片都可能来源不那么可靠，而不是像政府机构那样值得信赖。“我们希望揭开卫星图像客观性的神秘面纱，”他说。

带着怀疑的态度来看待这些图像至关重要，同样重要的是从可靠的来源获取信息。但作为一项额外的工具，赵现在正在考虑开发一个平台，让普通人也能帮助验证卫星图像的真实性，这类似于现有的众包事实核查服务。

深度伪造背后的技术不应仅仅被视为邪恶的。赵指出，相同的机器学习策略可以提高图像分辨率，填补对气候变化建模所需的一系列照片中的空白，或简化地图绘制过程，该过程仍然需要大量的人工监督。“我的研究是受到潜在恶意使用的驱动，”他说。“但它也可以用于良好目的。我宁愿人们对深度伪造形成更批判性的理解。”