广告

噪音的力量

人脑凌乱、容易出错且不可靠。但这可能是构建一种功能更强大的计算机的完美模型。

Google NewsGoogle News Preferred Source

新闻简报

注册我们的电子邮件新闻简报,获取最新的科学新闻

注册

Boahen 实验室中的“神经形态”芯片(如图所示)有望催生出一种具有超级计算机的计算能力,但能耗却只有几节 D 型电池的机器。

Kwabena Boahen 对数字计算机的热爱始于 1981 年,那年他 16 岁,也终结于那一年。

广告

Boahen 住在西非国家加纳的阿克拉市郊。他家宽敞的平房矗立在一片安静的芒果树和香蕉树田中。一天下午,Boahen 的父亲开车驶入车道,后备箱里装着一个惊喜:一台 RadioShack TRS-80——这是他们家的第一台电脑——购于英国。

小 Boahen 把这台机器放在门廊的桌子上,他平时就在那里拆收音机,用 PVC 管制作气枪。他把电脑接上电视机作为屏幕,再接上一个卡式录音机,这样他就可以把程序存储在磁带上。很快,他就开始编程让它玩乒乓球。但是,当他读到构成这台电脑以及所有其他数字电脑的电子元件的工作原理时,他对这个“玩具”感到厌烦。

仅仅将乒乓球在屏幕上移动一个像素,就需要数千个 1 和 0,这些是由电脑处理器中的晶体管每秒开关 250 万次生成的。Boahen 原本期望在他的新电脑核心找到优雅,结果却发现了一个二进制代码的“小人国官僚机构”。“我彻底失望了,”他回忆道。“它太粗暴了。”这种幻灭激发了他对更好解决方案的梦想,这个愿景最终将指导他的职业生涯。

斯坦福大学的 Kwabena Boahen。

此后,Boahen 跨越大西洋,成为加利福尼亚州斯坦福大学的杰出科学家。在那里,他致力于创造一种能够实现他童年梦想的计算机——一种新型计算机,它不是基于传统硅芯片的严格秩序,而是基于人脑的有组织混沌。设计这种机器意味着要摒弃我们过去 50 年来在计算机建造方面学到的一切。但这可能正是我们让信息革命再持续 50 年所需的。

人脑的功耗只有大约 20 瓦,相当于你冰箱里泡菜罐后面那盏昏暗的灯。相比之下,你办公桌上的电脑每次计算消耗的能量是人脑的 100 万倍。如果你想制造一个具有人脑般智能的机器人处理器,它将需要 10 到 20 兆瓦的电力。“10 兆瓦是一个小型水电站,”Boahen 不以为然地说,“我们应该致力于缩小水电站,这样我们就可以把它们安装在机器人背上。”如果你试图制造一个医疗植入物来替代大脑中仅 1% 的神经元,用于中风患者,你也会遇到类似的问题。那个植入物将消耗 200 户家庭的电力,并散发相当于保时捷 Boxster 引擎的热量。

“能源效率不仅仅是优雅的问题。它从根本上限制了我们能用计算机做什么,”Boahen 说。尽管电子技术取得了惊人的进步——今天的晶体管比半个世纪前小了十万分之一,计算机芯片快了 1000 万倍——但我们在能源方面仍未取得有意义的进展。如果我们不这样做,我们就可以忘记真正智能的人工智能机器以及所有其他关于更强大计算机的梦想。

Boahen 早年意识到,要达到这个目标,需要重新思考能量、信息和噪音之间的基本平衡。我们每次试图通过嘈杂的手机连接听到某人说话时,都会遇到这种权衡。我们本能地通过更大声地对着手机吼叫来做出反应,试图通过发出更强的信号来压倒静态噪音。数字计算机几乎以零噪音运行,但以这种精度运行会消耗大量电力——这就是现代计算的症结所在。

彻底反思

在掌心,Boahen 亮出了一个微小的、闪着虹光的方形硅片,这是他解决那个问题的进展的象征。这片硅片为他即将完成建造的新型神经超级计算机 Neurogrid 奠定了基础。这片晶圆上蚀刻着数百万个晶体管,就像你电脑里的那些一样。但在这种熟悉的表象之下,隐藏着工程师工作方式的彻底反思。

广告

传统数字计算机依赖于数百万个晶体管近乎完美地开合,出错率低于万亿分之一。我们的计算机如此精确令人印象深刻——但这种精确性是一座纸牌屋。一个晶体管意外翻转可能导致计算机崩溃,或者改变您银行账户中的小数点。工程师们通过施加高电压来确保芯片上数百万个晶体管可靠运行——本质上是增加 1 和 0 之间的差异,从而使电压的随机变化不太可能使它们看起来相同。这是计算机如此耗电的一个重要原因。

Boahen 说,从根本上提高效率将涉及芯片设计师会感到震惊的权衡。忘记万亿分之一这种微不足道的错误率吧;Neurogrid 中的晶体管会发出噼啪作响的噪音,错误率高达十分之一。“没人知道我们怎么用这种东西计算,”Boahen 承认。“唯一能用这种垃圾计算的,就是大脑。”

广告

这听起来很荒谬,但却是事实。科学家发现,大脑的 1000 亿个神经元出人意料地不可靠。它们的突触有 30% 到 90% 的时间未能正常放电。然而,大脑却以某种方式运作着。一些科学家甚至认为神经噪音是人类创造力的关键。Boahen 和世界各地一小群科学家希望复制大脑的嘈杂计算,开创一个能源高效、智能计算的新时代。Neurogrid 就是检验这种方法能否成功的试验。

大多数现代超级计算机体积庞大,像冰箱一样,每年消耗价值 10 万到 100 万美元的电力。Boahen 的 Neurogrid 将能装进一个公文包,仅靠几节 D 型电池的电量就能运行,而且如果一切顺利,它的性能将接近这些庞然大物。

早在三十年前,一位名叫西蒙·劳克林(Simon Laughlin)的年轻神经科学家首次想到了用噪音计算的问题。当时在堪培拉澳大利亚国立大学工作的劳克林,在 1980 年大部分时间都坐在一个黑墙无窗的实验室里,灯光全灭。黑暗让他能够研究从校园垃圾箱捕获的丽蝇的视网膜。在数百次实验中,他将活蝇粘在一个显微镜下的特殊塑料平台上,将一根细如发丝的电极插入其蜂窝状的眼睛中,并记录其视网膜对光束的反应。劳克林会从中午开始记录,直到午夜之后才结束。当他坐在阴暗的实验室里,看着神经信号在示波器上跳跃的绿光时,他注意到了一些奇怪的事情。

每个苍蝇神经元对恒定光的反应,从一毫秒到下一毫秒都在上下抖动。这些波动出现在神经元功能发挥的每一步,从色素分子对光的不稳定吸收,到神经元表面被称为离子通道的导电蛋白的零星开放。“我开始意识到,噪音从根本上限制了神经元编码信息的能力,”劳克林说。

广告

错误在所难免

提高一个噼啪作响的信号使其高于背景噪音需要能量。无论您是神经元还是业余无线电操作员,将您的信噪比提高一倍都需要将您的能耗提高四倍——这是一个快速递减的收益定律。“信息和能量之间的关系相当深奥,并植根于热力学,”现在在英国剑桥大学工作的劳克林说。他过去 14 年一直在研究大脑如何在信息、能量和噪音之间进行三方平衡。

这种平衡对生存至关重要。神经元比计算机效率高得多,但尽管如此,大脑仍然消耗大量能量。虽然人脑只占我们体重的 2%,但它却消耗我们所吃卡路里的 20%。

从功能上讲,大多数神经元具有许多类似于晶体管的特性。两者都充当开关,可以根据接收到的信号来传输或不传输电脉冲。然而,人类进化出的权衡与工程师在设计传统计算机时做出的权衡截然不同。工程师选择了精度。大脑,受自然选择塑造,不惜一切代价最小化能量消耗。纤细的神经元需要更少的能量,所以进化使它们变小,大脑适应了在刚好高于噪声阈值的水平上运作。

广告

然而,高效率也伴随着大量错误。例如,理想情况下,神经元只应在收到其他细胞的信号告诉它们这样做时才发出电脉冲。但大脑最纤细的神经元有时会因离子通道蛋白意外打开而发出随机脉冲。神经元越小,它对这些随机通道开放越敏感,这些“打嗝”发生得就越频繁。劳克林说,大脑最小的神经元工作在“生物物理学的极限”上。2005 年,他发现将这些神经元再缩小一点,它们每秒会发出 100 多个随机脉冲。

这种不稳定的行为从根本上限制了我们的功能。补偿随机神经噪音塑造了人类大脑——以及人类智能——从底层开始:神经元的尺寸和形状,神经回路的布线模式,甚至编码信息的脉冲语言。从最基本的意义上讲,大脑通过尽可能多地使用大量神经元来管理噪音。它通过让大量神经元相互竞争来做出重要决策(例如“那是狮子还是斑纹猫?”)——狮子神经元和斑纹猫神经元之间的“叫喊比赛”中,少数神经细胞的意外沉默(或自发爆发)被数千个其他神经细胞所压倒。胜利者使失败者沉默,这样模棱两可且可能误导的信息就不会发送到其他大脑区域。

广告

硅神经元

大脑还通过基于时间巧合的神经编码来过滤错误。想想神经科学家在大脑内侧颞叶中发现的“比尔·克林顿细胞”。每当你看到比尔·克林顿的照片、听到他的声音或读到他的名字时,这些神经元就会兴奋。(对于你熟悉的其他数百人,你也有类似的神经元。)一个克林顿神经元可能会在它收到,比如说,来自其他神经元的 100 个或更多同时发生的脉冲时发出一个脉冲。即使每个传入脉冲的假阳性率高达二分之一,100 个同时到达的脉冲的集体假阳性率也大大降低。

伦敦大学学院的劳克林和大卫·阿特维尔估计,神经信号传输占大脑能量消耗的 75%,而维持神经元充电和随时准备放电只占 15%。这一发现具有重大意义。这意味着大脑可以通过容纳大量不常用神经元来节省能量。

由于有许多多余的神经元存在,每个脉冲可以通过大脑中的许多不同路径中的任何一条传播。每个消耗能量的脉冲都可以沿着多条路径传输信息,因此你的大脑可以通过发射更少的总脉冲来投射相同数量的信息。(想想看:如果你正在用一种只有两个字母的语言写作,那么每个单词都必须很长才能有独特的拼写;如果你有 26 个字母可供选择,你的单词可以更短,给定句子、段落或小说中的总击键次数也会更少。)大脑通过一次只发射 1% 到 15%(通常只有 1%)的神经元来达到最佳能量效率。“人们没有考虑到大脑中大多数神经元在大多数时间都必须处于非活动状态,”劳克林说。Neurogrid 芯片通过使用神经元用于计算的相同模拟过程来模仿大脑。这种模拟过程一直进行,直到达到某个阈值,此时数字过程接管,产生一个电脉冲(脉冲就像 1,没有脉冲就像 0)。

Boahen 没有像数字计算机那样使用晶体管作为开关,而是构建了一个电容器,它能产生与神经元相同的电压。“通过使用一个晶体管和一个电容器,你可以解决现代数字计算机需要数千个晶体管才能解决的问题,”Boahen 说。

在 20 世纪 80 年代发现了大脑惊人高效的噪音计算方法后,一位名叫卡弗·米德的工程师兼物理学家试图用晶体管做同样的事情。米德现在是加州理工学院的名誉教授,也是现代硅芯片之父之一,他希望找到更高效的计算方法。当他给一个普通晶体管施加低电压时,他可以诱导它产生与神经膜电流对电压的依赖性相同的电流。如今被称为神经形态工程的领域就此诞生。

广告
广告

Boahen 于 1990 年来到 Mead 实验室攻读博士学位。Mead 的实验室培养了许多神经形态电子领域的领导者,包括 Boahen、Rahul Sarpeshkar(现麻省理工学院)、Paul Hasler(现佐治亚理工学院)和 Shih-Chii Liu(现苏黎世神经信息学研究所)。Mead 的研究生穿着凉鞋和牛仔靴,工作到凌晨 1 点,通常需要七八年,而不是通常的四五年,才能获得博士学位。“那是一个极富创造力的环境,”比 Boahen 晚一年毕业的 Sarpeshkar 说,“我们都玩得很开心。我们并不急于毕业。”

Mead 的学生们虔诚地阅读生物学期刊,然后尝试构建大脑科学家正在绘制的神经回路的硅版本。Sarpeshkar 的第一个芯片之一是耳蜗的早期模拟,它处理内耳的声音。Boahen 正在研究视网膜芯片,它产生模糊的信号和颗粒状的、盐和胡椒状的图像。这些硅芯片模仿者面临着与真实神经元相同的噪声问题。在硅中,噪声来源于制造缺陷、随机变化和器件中的热波动。电流的巨大变化加剧了这个问题。“两个晶体管的电流应该相同,”Boahen 说,“但在低功率下,它们可能相差两倍,这使得一切都变得相当随机。”

插入 Neurogrid

最近,Sarpeshkar 将他的一款音频芯片改造成了一种受生物启发的射频耳蜗芯片,这将为未来的认知和超高频无线电提供应用。这款芯片于六月发布,将使无线电能够同时收听各种频率——涵盖所有无线电和电视广播以及所有手机流量——就像耳朵同时收听和分析多种声频率一样。Boahen 和他的学生们开发了越来越逼真的视网膜硅芯片,它为视觉皮层(识别我们看到的物体)和其他几个大脑区域提供主要输入。这些芯片有朝一日可能为视力受损或脑损伤患者的医疗植入物提供基础。目前,它们作为研究工具,通过反复试验,了解大脑如何编码信息和管理噪音。

这些芯片的功耗仅为同等数字电路的万分之一到五百分之一。然而,它们仍然是构建受大脑启发计算机道路上的“婴儿学步”。直到今年,最大的神经机器所包含的硅神经元不超过 45,000 个。相比之下,Boahen 的 Neurogrid 超级计算机包含一百万个神经元。计算能力的巨大提升将使他能够在全新的规模上测试关于大脑以及如何管理噪音的想法。

在一个阳光明媚的周五下午,Boahen 身穿牛仔裤和加纳凉鞋,走进斯坦福大学的计算机实验室,他的团队正在那里为 Neurogrid 做最后的收尾工作。其中一个电脑工作站周围堆满了空的 Peet's 咖啡杯,这证明这里消耗了大量的咖啡因。“我们正在赶芯片的最后期限,”Boahen 说,“所以我们每天工作 15 小时。”

广告

John Arthur,一位工程师,Boahen 的前博士生,坐在 Peet's 咖啡杯堆成的“祭坛”旁。Arthur 的电脑显示器上显示着一个由三角形和正方形组成的示意图:这是 Neurogrid 芯片设计的一部分。屏幕上的晶体管和电容器蓝图代表了一个单一的神经元。“每个神经元有 340 个晶体管,”他说。

这些电路与活神经元相比很简单,但它们足够先进,足以说明数字计算和神经计算在效率上的巨大差异。阿瑟和他的团队用来模拟芯片行为并测试蓝图缺陷的数学方程式会很快拖慢一台普通数字计算机的速度。即使在全速运行时,Boahen 实验室的高端戴尔四核计算机也无法一次模拟超过一个 Neurogrid 的硅神经元——而完整的芯片包含 65,536 个神经元。

广告

Boahen 的团队在 2009 年收到了第一批新制造的 Neurogrid 芯片。在那关键的一天,一切都变了。团队终于告别了数月来不得不在耗能巨大的传统计算机上使用笨重软件运行的恼人方程式。他们终于可以从使用软件模拟神经元,飞跃到在低功耗硅芯片中实现这些神经元。

当第一批 Neurogrid 芯片插入时,其硅神经元活跃起来,以毫秒级的电脉冲来回“交流”,然后通过 USB 线缆传输到电脑显示器上。就像电脉冲沿着神经元的分支触角涟漪般传播一样,电流脉冲如洪水般涌过芯片的晶体管和纳米线。这种活动与方程式或编程无关,就像水从优胜美地的婚纱瀑布倾泻而下一样。它自动发生,是电和导体的基本物理特性造成的。

在首次实验中,Boahen 的团队诱导单个芯片上的神经元自行组织成科学家们通过脑电图电极在人头皮上检测到的熟悉的“伽马节律”。就像 65,536 人的合唱团成员一样,每个硅神经元都调整其脉冲速率,以匹配每秒 20 到 80 波的伽马节奏。研究人员最近将 16 个 Neurogrid 芯片安装在单个板上,以模拟 100 万个神经元,这些神经元通过 60 亿个突触的纠缠连接。一旦资金到位,他们希望创造第二代 Neurogrid,其中包含 6400 万个硅神经元,大约相当于一只老鼠大脑的总数。

Neurogrid 的经验教训

广告

几英里之外,在圣何塞的 IBM 阿尔马登研究中心,计算机科学家 Dharmendra Modha 最近使用了 16 个 Blue Gene 数字超级计算机机架,数学模拟了 5500 万个神经元,这些神经元通过 4420 亿个突触连接。从这一令人印象深刻的壮举中获得的见解将有助于未来神经芯片的设计。但 Modha 的计算机消耗了 32 万瓦的电力,足以供 260 个美国家庭使用。相比之下,Neurogrid 的 100 万个神经元预计耗电不到 1 瓦。

Neurogrid 的嘈杂处理器不会像数字计算机那样具有严格的精确度。然而,它们可能使我们能够完成数字计算机难以应对的日常奇迹,比如在拥挤的房间里用两条腿跳舞或识别一张脸。

Neurogrid 的经验教训可能很快也会在传统计算领域开始发挥作用。几十年来,电子产业一直按照摩尔定律稳步发展:随着技术的进步和电路的缩小,硅芯片上可容纳的晶体管数量大约每两年翻一番。

到目前为止一切顺利,但这种飞速的增长曲线可能即将面临崩溃。

广告

首先,仍然是功耗问题。热量也带来了麻烦:随着工程师将晶体管封装得越来越近,它们产生的热量可能会使硅晶圆变形。随着晶体管缩小到只有几十个硅原子宽,噪声问题也越来越严重。硅表面单个导电掺杂原子的随机存在或缺失,会彻底改变晶体管的行为并导致错误,即使在数字模式下也是如此。工程师们正在努力解决这些问题,但新一代芯片的开发时间越来越长。“晶体管速度的增长不像以前摩尔定律那样快了,这个领域的每个人都知道,”Sarpeshkar 说。“标准的数字计算范式需要改变——而且正在改变。”

他说,随着晶体管的缩小,数字计算的可靠性将在某个时候急剧下降,这是“基本物理定律”的结果。许多人将这个统计悬崖定在晶体管尺寸为 9 纳米(约 80 个硅原子宽)时。一些工程师表示,今天的数字计算机已经面临可靠性问题。据新闻报道,7 月,新罕布什尔州的一名男子在加油站买了一包香烟,却发现他的银行账户被扣了 23,148,855,308,184,500 美元。(错误已得到纠正,该男子的 15 美元透支费已于第二天退还。)我们可能永远不知道这个错误是否源于银行计算机系统中单个晶体管意外地从 1 翻转到 0,但这正是硅芯片设计者所担心的那种错误。

广告

“数字系统容易发生灾难性错误,”Sarpeshkar 说。“出错的倾向现在实际上比以往任何时候都大。人们非常担心。”

近似答案

受神经系统启发的电子产品代表了解决这个问题的一种可能方案,因为它们在很大程度上避免了散热和能源问题,并结合了自身的纠错算法。然而,像英特尔这样的科技巨头正在开发许多其他下一代技术。其中一种名为自旋电子学,它利用了电子像行星一样旋转的特性,允许将 1 或 0 编码为顺时针或逆时针的电子旋转。

因此,Boahen 的 Neurogrid 最重要的成就可能不在于再现大脑的效率,而在于其多功能性。加利福尼亚州拉霍亚萨克研究所的计算神经科学家特伦斯·塞杰诺夫斯基认为,神经噪音可以促进人类创造力。

数字计算机是确定性的:对它们输入同一个方程式一千次,它们总会吐出相同的答案。向大脑抛出一个问题,它能产生一千个不同的答案,这些答案来自一群古怪的神经元。“有压倒性的证据表明,大脑是进行概率计算的,”塞杰诺夫斯基说。模棱两可的反应可能使我们在一个不确定的世界中生活得更容易,我们不知道一个离奇的足球会如何弹跳,或者一只咆哮的狗是否会扑上来。不可预测的神经元可能导致我们在回家时走错路,从而发现一条捷径,或者在擦拭锡盘时意外洒出酸液,并在清理过程中发现蚀刻工艺。

要在电子大脑中重现这种潜力,工程师们需要克服从小就被灌输的基本冲动。“工程师被训练要让一切都非常精确,”Boahen 说。“但答案不一定非要完全正确。它只需要近似即可。”

广告
广告

保持好奇

加入我们的列表

订阅我们的每周科学更新

查看我们的 隐私政策

订阅杂志

订阅可享封面价高达六折优惠 《发现》杂志。

订阅
广告

1篇免费文章