纵观历史，特定的技术彻底改变了我们的生活、工作和娱乐方式。这通常是逐渐发生的，但有时是通过社会剧烈而广泛的变化。例如，工业革命背后的技术——蒸汽机、珍妮纺纱机和棉花机——将经济增长提高了几个数量级，催生了至今仍在全球回响的创新浪潮。
相比之下，其他技术则产生了更温和的影响。电的发明、廉价航空旅行、计算机等等都非常重要且具有革命性，但它们所带来的经济增长一直受到其他因素的制约，这些因素阻止了工业革命那样的爆炸式增长。
这引出了一个关于人工智能影响的有趣问题。这项新技术目前正席卷全球，关于其改变工作性质的潜力，炒作从未间断。但这场革命将带来爆炸式的经济增长，还是其他因素会限制人工智能的最终影响？
瓶颈科学
今天，多亏了 Epoch 的 Ege Erdil 和 Tamay Besiroglu 的工作，我们得到了一种答案。Epoch 是一个由 Open Philanthropy 资助的研究小组，专门研究和预测先进人工智能的发展。他们研究了人工智能如何产生爆炸式增长，以及可能阻止它的机制。
他们说：“我们得出结论，如果人工智能能够广泛替代人类劳动力，爆炸式增长似乎是可能的，但目前还没有充分的信心支持这一说法。”他们补充说，潜在的瓶颈需要得到更好的理解。
人工智能可能导致经济爆炸式增长的主要原因是它改变了工作的性质。目前，经济增长是通过再投资和改进导致增长的因素来实现的。这些因素包括土地、能源、计算能力、资本获取、人力以及等等。
经济活动需要所有这些因素，通过再投资，总是可以购买或重新开发土地、建造更多的发电站、提高计算性能等等。经济学家称这些为可累积资源。
但人力是不可累积的，因为它受到出生率和移民等人口因素的限制。因此，劳动力的可用性对经济增长的速度设置了根本性的限制。
但是，一旦人工智能能够取代人力，它就改变了这种计算方式。届时，使劳动力翻倍或三倍，就像使计算能力、土地或能源消耗翻倍或三倍一样容易。你只需购买更多，坐下来看着它带来的爆炸式增长。
经济学家对这个想法很着迷。但许多人指出，可能有其他因素会阻止爆炸式增长。因此，Erdil 和 Besiroglu 检查了这些论点，以评估它们在多大程度上会“搅乱局面”。
他们说，其中许多论点似乎极不可能阻止爆炸式增长。一种论点是，物理定律和我们星球有限的资源对增长施加了根本性的限制。例如，信息从一个空间区域流向另一个空间区域的速度是有限的，从环境中提取的能量也是有限的。
对此，Erdil 和 Besiroglu 表示，这些无疑是真实而重要的限制，但我们距离它们还有很远的距离，在可预见的未来，它们不可能成为重大的瓶颈。
例如，太阳目前以大约 1016 瓦的功率照射地球。但我们目前使用的功率要少得多，大约是 1013 瓦。因此，我们有三个数量级的余地，并且可以实施无数的效率改进。因此，能源不太可能很快阻碍经济增长。
另一种可能性是，人类可能决定他们想要人类生产的商品，因此拒绝使用人工智能产品，从而限制了增长。在他们的分析中，Erdil 和 Besiroglu 承认，可能存在对某些人类制造商品（如艺术品）的偏好。但大多数情况下，如果计算机芯片、手机或汽车完全由智能机器制造，人类不太可能在意，特别是如果它们便宜得多的话。
但其他论点则难以反驳。一个论点是，实现与人类同等的性能将比预期的要慢，这将限制其产生的增长。这一论点表明，一些任务很容易自动化，但另一些任务将更加困难，需要投入更多的投资。
例如，制造具有类人能力的人形机器人可能比预期的要困难得多，而将其安全有效地融入社会则更加困难。
但即使如此，这个问题最终也可能得到解决。因此，这种类型的问题将延迟爆炸式增长，而不是阻止它。Erdil 和 Besiroglu 说：“我们预计这个问题不太可能阻止爆炸式增长。”
最大的潜在障碍之一是将人工智能系统与人类的期望和目标对齐的问题。人工智能对齐“是指引导人工智能系统按照预期目标行事并避免意外有害行为的挑战。”
目前已经很清楚，当前的人工智能系统存在幻觉等问题，需要人类监督才能纠正。随着机器人等的出现，可能会出现其他与安全相关的问题。因此，可能始终需要人工监督。而这将创造一个瓶颈，阻止经济爆炸式增长。
Erdil 和 Besiroglu 指出，一个重要因素是出现问题的严重性。人工智能系统在避免幻觉方面已经越来越好，因此也可能克服其他问题。但很难衡量这些因素在长期内将如何发展。他们说：“总的来说，我们的评估是，这一论点最有可能不会阻止爆炸式增长，但其影响不能排除。”
立法者困境
也许最有可能阻止爆炸式增长的因素是监管。世界各地的政策制定者目前正争先恐后地立法，以防止人工智能被恶意行为者使用并保护消费者。但监管也可能被用来保护就业并保障人类的就业。
监管还可能限制人工智能系统用于训练的材料，例如，禁止人工智能系统使用专业准备的文本或图像，而没有得到所有者的大量补偿，从而降低了投资人工智能系统的动力。监管可能会限制人工智能在特定活动中的使用，例如在法庭和医疗场所，或者阻止技术出口以防止竞争。
研究人员回顾历史，以了解监管如何影响先前技术的传播。他们指出，工业革命的大部分技术是在 18 世纪和 19 世纪在英国开发的。
Erdil 和 Besiroglu 说：“虽然英国试图通过禁止熟练工人移民和机器出口来阻止一些关键的工业革命技术的传播，但这些保护主义政策被证明在很大程度上是无效的。”尽管如此，他们得出结论，监管阻止爆炸式经济增长的可能性高达三分之一。
考虑到所有这些潜在问题，作者们表示，到本世纪末实现人工智能驱动的爆炸式增长绝非板上钉钉，但可能性和不可能性差不多。他们说，如果人工智能的进步以目前的速度继续下去，那么它可能很快就会开始。
这项工作很有趣，具有深远的意义。如果该分析大致正确，那么将这种经济力量导向增进人类福祉的重要性不容夸大，特别是考虑到结果高度依赖于我们现在和未来几年做出的选择。政策制定者请注意。
参考：人工智能自动化带来的爆炸式增长：论点回顾：arxiv.org/abs/2309.11690
