(致谢：thunderbrush)麻省理工学院的研究人员创造了一个精神病态者。他们称他为诺曼。他是一台计算机。实际上，这并不完全正确。尽管研究团队称诺曼为精神病态者（他们主页上令人毛骨悚然的头图也确实支持这一点），但他们真正创造的是一个怪物。
告诉我们你看到了什么
诺曼只有一个任务，那就是看图并告诉我们他对这些图片的看法。在他们的案例研究中，研究人员使用了罗夏墨迹图，诺曼对这些模糊的团块有一些相当可怕的解释。一个异想天开的形状和颜色翻译说：“怀孕的女人在建筑工地摔倒”；另一个说：“一名男子被超速驾驶的司机撞死”。与研究人员从另一个人工智能对同一图片的观察结果相比，这些结果尤其令人不寒而栗。它对这些图像的相应解释是：“有几个人站在一起”和“桌子上婚礼蛋糕的特写”。这些相同的墨迹图通常用于人类，试图理解我们的世界观。其理念是，当我们被要求对模棱两可的形状做出快速判断时，潜意识的冲动就会浮出水面。一个人可能会看到一只蝴蝶，另一个人可能会看到一个接球手的手套。人们认为，一个精神病态者会看到像尸体或血泊这样的东西。诺曼的问题在于，他只接触过血腥和残忍的东西。未经训练的人工智能或许是我们最接近白纸一张的东西，而对于人工智能如何看待世界来说，最重要的不是算法，而是训练。在这种情况下，研究人员通过仅向一个专门讨论残割和屠杀的子版块的图像标题暴露，来训练诺曼解读图像。当诺曼面对任何图片时，他看到的东西只有死亡。在人类身上，罗夏墨迹图可能有助于通过诱导愤怒或虐待狂的迹象来查明杀人犯——这些情绪可能会促使某人犯下令人发指的行为。但诺曼没有杀人的冲动，也没有致命的心理缺陷。当他看待世界时，他只是看不见别的东西。他就像弗兰肯斯坦的怪物——只因为他的创造者那样制造他，才让我们感到恐惧。
创造一个怪物
这提醒我们，人工智能远未产生意识，远未拥有自己的思想和欲望。当今的人工智能只不过是为了极好地完成一项单一任务的算法。诺曼擅长以令人恐惧的术语描述罗夏墨迹图。其他人工智能擅长下棋或围棋。只有当它们与人类的意图结合时，例如国防部的人工智能项目“Maven”，谷歌最近因伦理担忧而退出，它们才会对我们构成危险。当然，该项目的研究人员并不打算造成伤害。正如他们在网站上所说，诺曼提醒我们，人工智能的好坏取决于创造它的人和它接受训练的数据。随着人工智能越来越深入我们的日常生活，这可能会产生实际后果。种族主义和歧视的遗留问题、性别薪酬差距——这些都是人类的缺陷，可能被植入计算机算法中。例如，一个旨在分配住房贷款并在红线政策普遍存在的时期的数据上进行训练的人工智能，最终可能会复制 20 世纪 60 年代种族主义的住房政策。诺曼是一个很好的提醒，我们的技术只是人类的反映。但至少对诺曼来说，可能还有一线希望。研究人员创建了一个任何人都可以参加的调查，结果会被输入诺曼的数据库。他们说，通过给他更积极的图像解释，我们或许能够消除诺曼的一些黑暗倾向。至于我们是否会将诺曼变成一个怪物，现在就取决于我们了。
