《复仇者联盟：奥创纪元》与人工智能的风险

人工智能增强的技术无处不在。你可能有一个扫地机器人准备好开始工作，清洁你的厨房地板。也许今天你已经向 Siri 或 Google 寻求了帮助——这两个应用都使用了相当不错的人工智能技术。人工智能的持续增强及其在我们世界中日益增长的存在，彰显了科学和工程领域的成就，这些成就有巨大潜力改善我们的生活。

或者毁灭我们。

至少，这是新上映的《复仇者联盟2：奥创纪元》电影的核心主题，其中的主要反派奥创就是人工智能失控的典型代表。这是一个及时出现的主题，考虑到最近出现了一些备受关注的人工智能担忧。但这是我们应该担心的吗？

人工智能失控

奥创有多坏？《漫威宇宙官方手册》将其职业列为“野心勃勃的征服者、人类的奴役者”，拥有天才般的智慧、超人的速度、耐力、反应能力和力量，亚音速飞行速度，以及近乎神祇般的防御力。好消息是，奥创拥有“普通”的敏捷度和“平均”的近身格斗技巧。这意味着如果你能近身接触到这个超人速度的自主机器人，你应该可以撑一段时间。至少是短暂的。

但也许最重要的是，奥创代表了人工智能应用走向错误的最极端例子：拥有推翻创造它的人类意图的智能。

奥创的后续迭代是自我创造的，每一次都变得更强大、更聪明，并且更专注于实现两个主要愿望：生存和为宇宙带来和平与秩序。对我们人类不幸的是，奥创希望通过消灭宇宙中所有其他智慧生命来带来和平与秩序。《奥创纪元》的主要主题是虚构的生物与人工智能（带有恶意）之间的冲突。但这有多么虚构呢？

思考的机器

答案可以在与机器学习、人工智能和人工生命领域相关的科学研究中找到。这些领域正以一种荒谬的、甚至是超人的速度持续扩展。

最近的一项突破性研究是 Volodymyr Mnih 和他在 Google DeepMind 的同事们挑战一个神经网络学习玩电子游戏。

目的是看看该软件（一种被命名为“深度 Q 网络代理”的、有些不祥的名称）是否能将在一个游戏中吸取的教训应用到掌握另一个游戏中。在检查的大多数游戏中，深度 Q 网络代理的表现都超越了人类水平。这个列表包括《拳击》、《视频弹球》、《机器人坦克》（我最喜欢的）和《图坦卡蒙》。

虽然街机游戏可能显得微不足道，但这里的关键之处与游戏本身关系不大。其相关性在于，一个人工智能系统可以将其技能应用于其程序员从未准备过的场景。人工智能有效地学会了以新的方式运用技能，基本上是自主思考。这对于考虑人工智能失控的可能性非常重要。

敲响警钟

那么，这是个问题吗？大众媒体的报道经常倾向于将机器学习和人工智能描绘成令人恐惧的事物。在有益的人工智能应用——想象一下在偏远地区进行机器人手术，并由远方医生监督的情景——与真正令人恐惧的近未来军事应用场景之间，存在一条界限。想象一下当前无人机技术与人工智能计算机引擎的结合，赋予机器战争独立性。

真正的问题在于，我们往往直到越过了这些界限后才意识到。在科学研究中，我们经常在真正理解其所有（积极和消极）潜在影响之前，就急于发现和应用事物。我们常常因为“能做到”而去做，却没有充分考虑是否“应该”去做。

这是一种在最近几个月出乎意料地被各种科技界人士呼应的情感。2014 年底，特斯拉首席执行官埃隆·马斯克在一次麻省理工学院的研讨会上表示：“我认为我们应该对人工智能非常小心。如果非要猜测我们最大的生存威胁是什么，那很可能就是它。” 今年一月，他为这项事业投入了资金，向一家非营利性人工智能安全组织捐赠了 1000 万美元。

比尔·盖茨在同月晚些时候的一次 Reddit “AMA”（问我任何事）环节中透露了他对人工智能的担忧，他写道：“我同意埃隆·马斯克和其他一些人的看法，我不明白为什么有些人不担心。”

去年，斯蒂芬·霍金联合撰写了一篇关于人工智能风险的文章，称其可能是“人类历史上最糟糕的错误”。

另一种愿景

这些担忧的核心在于人工智能理论上可以独立于人类的监管互动。为了避免这种极端独立——以及奥创的科幻结局——也许我们最好采纳计算机科学家苏珊·爱泼斯坦在近期一项研究中提出的“协作智能”方法。

爱泼斯坦写道，我们传统上制造机器是因为我们需要帮助。但也许能力稍弱的机器也能同样有用，通过让人类做他们本来就擅长的事情，比如模式识别和问题解决。换句话说，我们智能机器人的内置局限性可以使它们更好地履行职责，同时将它们置于控制之下——尽管这会增加与人类监管者的互动。

在科幻未来主义者儒勒·凡尔纳、H.G. 威尔斯和艾萨克·阿西莫夫的传统中，未来“应该是一个全自动、原子能驱动、无菌的乌托邦，”丹尼尔·H·威尔逊几年前写道。另一方面，协作式人工智能的观点是将机器人视为工具——有时是超级智能的工具——供人类使用和合作，而不是完全取代人类。

然而，这种观点与无论在哪里都对各种操作进行仪器化和机械化的指令相悖。最终结局——正如奥创的创造者们发现的那样——会带来灾难性的后果。本周，我们都能在大屏幕上享受这场反乌托邦未来剧的播放。幸运的是，对我们未来的自己来说，在现实世界中，随着我们不断朝着更智能的机器迈进，这些对话仍在继续。

但也许不要太聪明。我还是想在《机器人坦克》中获胜。

顶部图片由 Marvel 提供