图片来源：Skydance Productions | Paramount Pictures 人工智能的稳定崛起可以给人类社会时间来适应技术变革的影响。但如果像“天网”那样极其聪明的人工智能突然出现，人类可能会面临巨大问题。因此，一些人工智能研究人员开始回顾历史，寻找技术突然实现巨大飞跃的时期。他们愿意为强有力的历史性突然技术变革的例子支付每人 50 至 500 美元。这些“研究悬赏”来自 AI Impacts 项目，这是一个由伯克利机器学习智能研究所和加州大学伯克利分校的研究人员发起的倡议。他们希望找到“技术进步的断层”的有力历史例证，即一项技术突然取得了重大飞跃式进步。大规模的断层意味着一次性实现了 100 多年的进步。中等规模的断层可能意味着一次性实现了 10 多年的进步。到目前为止，研究人员已经列出了两个大规模断层的例子：第二次世界大战期间核武器的发展以及自 1986 年以来高温超导体的改进。早期核武器代表了一次性实现了约 6,000 年的过去进步。今天的 AI 技术仍远低于人类智能水平，但类似的大规模断层可能会迅速扭转局面。AI 的这种飞跃几乎肯定会对人类产生巨大影响，无论它是否像“天网”那样失控，还是产生更有益的影响。AI Impacts 项目的研究资金来自埃隆·马斯克（Elon Musk），他是硅谷的一位先驱，曾公开警告过 AI 的潜在危险。（位于波士顿的生命未来研究所（Future of Life Institute）选择了接受马斯克资助的 AI 项目。）AI Impacts 提供了两类“研究悬赏”。第一类涉及寻找技术进步断层的例子，支付金额在 50 至 500 美元之间。
为了评估断层，我们一直在使用“按以往速率计算的年数进展”，以任何相关的技术进步指标来衡量。例如，核武器的发现相当于增效约 6,000 年的以往进展。然而，我们也对那些看似直观上是断层，即使它们不完全符合一次性取得大量年数进展的标准的情况感兴趣。
任何有兴趣的人都可以发送一封电子邮件，描述他们的例子，并附上支持其说法的来源。来源最好有“至少一个关于特定指标的成功时间序列”，例如在比较核武器与过去炸药时，每单位炸药质量释放的能量。第二类研究悬赏的奖金为 20 至 100 美元，用于奖励那些阻止至少 15 年后风险的个人案例。此类别只需提交一句话，其中包含支持该声明的链接或引用。任何认真想提交好例子的人都应该阅读 AI Impacts 博客上的完整标准。两类别的提交都可以发送到 katja@intelligence.org。AI Impacts 希望通过研究技术进步断层的历史实例，能够洞察 AI 技术是否也可能经历突然的改进飞跃。这当然不是一件容易的事，但可能仍然比试图预测 AI 突然变得与人类智能相当或超越人类智能的全部后果要容易。许多美国领导人曾天真地预测，原子弹将在第二次世界大战后消除对常规战争的需求；这是一个错误的假设，在冷战的第一次热战中让美国军队付出了沉重代价。你认为 AI 会经历技术进步的突然飞跃，让人类措手不及吗？
