本周，极客回声室里充满了激烈的辩论
关于查理·斯特罗斯对“人类水平智能”爆炸——也称为奇点——可能性的怀疑。按照目前的定义，奇点将是未来人工智能达到人类智能水平的一个事件。届时，人工智能（即人工智能n）将反射性地开始改进自身，并构建比自身更智能的人工智能（即人工智能n+1），这将导致智能呈指数级爆炸，达到近乎神祇水平的超智能人工智能。在阅读了这些辩论后，我得出的结论是，双方都忽略了奇点讨论的一个关键要素：人类。将人类重新纳入其中，可以实现一个同时解决几个哲学难题的奇点愿景。然而，要做到这一点，我们必须先回顾当前辩论的步骤。我已经就为什么我不担心
进行了论述，但看到关于我们未来的AI统治者的精彩论战总是很有趣的。这次点燃战火的是查理·斯特罗斯
，他对奇点和未来猜测有所了解。这正是这个博客存在的目的：一位科幻作家在探讨他曾写过的、具有理性科学可能性的事物。斯特罗斯在一篇题为《三个反对奇点的论点
》的文章中争辩道：“总之：圣诞老人不存在。”
这是我对奇点的看法：我们不会看到硬着陆，也不会看到慢着陆，或者任何形式的人工智能驱动的指数级爆发。我们将看到的是越来越殷勤的机器来定义我们的环境——能够“智能地”感知并响应我们需求的机器。但那将是服务之手的智慧，而不是统治者大脑的智慧，只有当我们怀有自毁的冲动时，我们才面临灾难的风险。我们可能最终会看到思维上传，但在其普及之前，将有一场终结所有战争的圣战：这将从字面上颠覆宗教。这将是一个奇特的事件，但除了给我们一个机会真正体验（罗伯特）诺齐克的体验机思想实验之外，我不确定我们能否有效地利用它——我们根深蒂固的亲生命性将不断把我们拉回到现实世界，或者拉回到与其无法区分的模拟世界。
我很高兴“科学非虚构”的许多优秀读者都是直言不讳的怀疑论者，他们对奇点的讨论持警惕态度。鉴于斯特罗斯在科幻和猜测性科学界的名望，他的评论引起了轩然大波。那些相信者（无论他们做了多少贝叶斯
分析）在“极客的末日”中，有两件被斯特罗斯不屑一顾的圣杯：超智能人工智能的崛起和思维上传。因此，几位新兴技术评论家又开始了另一轮猜测性的争吵。在一角，我们有奇点研究所的奇点主义者迈克尔·阿尼西莫夫
和人工智能研究者本·戈尔策尔
。在另一角，我们有来自《福布斯》“机器人霸主”的优秀亚历克斯·纳普
，以及来自乔治梅森大学（我的母校）的、极其理性的经济学家和牛津大学人类未来研究所的贡献者罗宾·汉森
。我将省略所有来回的争论（以及戈尔策尔所有令人恼火的表情符号），直接切入辩论的要点。为了转述和总结，论点如下：1. 斯特罗斯的观点：人类智能有三个特征：具身性、自利性和进化性。人工智能将不会/不能/不应该模仿人类智能。2. 奇点主义者的回应：阿尼西莫夫和戈尔策尔认为，人类水平的通用智能不一定要像人类智能那样运作或产生。通过充分的研究和对圣贝叶斯的虔诚，超智能友好型人工智能是可能的。3. 怀疑论者的反驳：汉森认为A）“智能”是一个模糊的统称，就像“更好性
”一样，定义不清。这个词的模糊性使得奇点主义者的说法难以/不可能被证伪（即特殊诉求
）；纳普认为B）计算机和人工智能在特定类型的思维和增强人类思维方面非常出色（例如卡斯帕罗夫的进阶象棋）。即使承认人工智能可以达到人类或超越人类的水平，其智能的性质也不会是独立的、自主的，或者足够全面，因此，正如奇点主义者所预期的那样，不会发生“自举”智能爆炸。本质上，这场辩论是“人类智能是这样的，人工智能是那样的，两者永不相交。但它们能否平行？”前提是错误的，导致了一个无用的问题。所以我们需要一个新的前提。这是我的建议：奇点将是人类智能和人工智能融合和连接的结果。智能极难定义。为了讨论方便，我将其定义为“分析情况、确定问题、开发解决方案并执行的能力”。正如纳普以卡斯帕罗夫的进阶象棋为例所说明的，人类和计算机在象棋的特定元素方面都比对方更擅长。在象棋战术方面，计算机的智能要高得多。在战略方面，人类的智能要高得多。这种类比的延伸（以及纳普对IBM Watson在《 Jeopardy! 》节目中的分析）表明，人类在抽象、发明、创造和想象方面具有优势，而计算机在计算、数据分析和信息检索方面具有优势。因此，我为人类和计算机所代表的两种智能提出了一个新的类比：人脑的右半球和左半球。人们常说人类是会思考的动物。但这个描述不完整。人类是能够创造性地和抽象地思考，或者反过来，逻辑地和理性地想象的动物。据我所知（我很乐意被纠正），计算机和人工智能算法在此时此刻无法复制任何形式的右脑思维。但计算机在短期、专注的左脑思维方面要强得多。将这种思路与安迪·克拉克的延伸大脑假说和戴维·查尔莫斯的增强型奇点生存策略结合起来，一个赛博格的未来图景就开始浮现。因此，我认为奇点应该被重新构想为一个赛博格过程，在这个过程中，人类思维将逐渐被更好、更互补的人工左脑能力所增强。正如进阶象棋所示，拥有计算机的人类远比单独的人类或单独的计算机更强大。考虑一下乔治·拉·福日和企业号电脑与数据号的类比。通过企业号，乔治能够获得数据所拥有的庞大处理能力，同时也拥有他自己独特的创造力和发明能力，这是企业号本身无法比拟的。数据最“人性化”的时刻是他表现出右脑倾向的时候，而这实际上正是他被视为一个独立个体时所提及的。这使他独一无二，难以复制。在我们当前的技术水平下，智能手机代表了最先进、最普遍的赛博格左脑增强形式。这些手持式外脑使我们能够通过视觉和听觉界面执行多种流程，并回忆或访问海量信息。随着神经接口技术
的进步（感谢格雷格·费什
的提示），互联网上和存储在我们外部大脑中的信息将变得更加广阔，并与我们的神经系统更加紧密地联系起来。迈向奇点的步伐将不是通用人工智能的渐进式改进，而是生物大脑的生物湿件与计算机技术的硬件的逐渐融合。奇点将是人机接口的完善，使得人类右脑的精神过程与强大的人工智能左脑的界限，在外部客观观察和内部个体主观体验方面都变得模糊不清。我称这一事件为赛博格奇点。赛博格奇点与人工智能奇点在几个方面有所不同，并且在此过程中解决了几个技术和哲学上的人工智能难题。首先，也是最重要的，制造纯人工智能的伦理“潘多拉魔盒”被消除了。只要进行大脑增强的人能够理性知情地、经过深思熟虑地同意，就不会发生伦理侵犯。关于实验性地创造、关闭或限制性地编程一种新生命形式的担忧被消除了。第二，完全复制人类心智的问题被消除了。赛博格增强将增强计算机擅长的脑部过程——记忆、数据分析和计算——而无需复制我们才刚刚开始理解的脑部特征，如想象力和创造力。第三，通过缓慢的整合和融合过程，与思维上传相关的神学恐惧和哲学疑虑将得到缓解。神学家可以假设“灵魂的居所”位于右半球。因为这个过程是渐进的，并且个体可以反射性地将增强功能纳入心智的“我”的构建中，对思维克隆和其他哲学怪癖的担忧被减少为有趣的思维实验。第四，这项技术是可行的。记忆刺激、人工耳蜗、仿生眼和用于假肢的触觉接口是初步的，但却是经验性的、现有的神经计算机接口形式。第五，也是最与末日论爱好者相关的一点是，不会发生“硬着陆”或“人工智能自举”。部分原因是，随着接口和技术的逐步改进，融合将是渐进的，不会有一个增强的人比其他增强的个体更“聪明”到无法阻挡，甚至显著超越。部分原因也是因为将有一个人类在赛博大脑的中心，仍然能够做出伦理决策并表达扩展到整个人类整体利益的自利。我之所以认为赛博格奇点比人工智能奇点更有可能发生，还有一个原因，那就是它更有道理。为非常具体的任务
而设计的、劳动和数据密集型的人工智能在经济上有意义，并且有明显的价值，而为模仿人类天生擅长的事物而设计的人工智能似乎是多此一举。纵观历史，人类一直在增强我们的记忆力、计算能力和可靠处理数据的能力。自语言发明以来，我们一直在缓慢地增强我们的左半球。总而言之，赛博格奇点是人类一直在追求的历史进程的逻辑延伸：增强我们大脑的计算左半球。通过认识到人脑半球的相对功能，我们可以看到赛博格如何增强人脑左半球的计算能力，从而在某些形式的智能上实现显著的提高。纯通用人工智能对于智能的增长并非必需。我的赛博格奇点理论协调了计算技术的指数级增长与人工智能面临的巨大障碍，并克服了与思维上传以及人工智能和/或思维上传的创造相关的伦理、哲学和神学担忧。其结果是人类的未来，我们可以合理地、渐进地、合乎伦理地追求。在他的个人博客
“Pop Bioethics”以及在 Facebook
和 Twitter
上关注凯尔。图片来自 theWarehouse
感谢 Futurismic
提供许多链接。
