视频 | 视频｜因担心机器人占领地球Facebook叫停人工智能对话？官方辟谣了......

“研究人员陷入恐慌”、“机器人竟用秘密语言交谈”、“Facebook被迫终止恐怖AI实验”——无论是打开BBC，还是福布斯、财富、纽约时报等主要媒体网站，你都会看到，Fcebook成了最大焦点，以一种他们意料之外的方式。

就在前不久，Facebook的CEO扎克伯格还与特斯拉的创始人马斯克就“人工智能对人类是福还是祸”展开了隔空论战。那时，扎克伯格还是坚定的乐观派。在7月2３日的一场直播中，扎克伯格说：“我对人工智能持乐观态度。对于那些认为人工智能会导致世界末日的悲观主义者，我并不能理解他们，他们太过于消极。从某种角度看，我认为他们很不负责任。”

针对扎克伯格的此番言论，有网友25日在推特上询问马斯克的意见。他回复称：“我已经同扎克伯格就相关问题进行了讨论，他对于这一领域的理解有限”。

扎克伯格对人工智能的盲目乐观被自己的研究团队打脸了吗？如果你对于这条消息还没有任何了解，那么，请先浏览一段对话内容：

Bob: i can can i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me

Bob: you i everything else

Alice: balls have a ball to me to me to me to me to me to me to me to me to

Bob: i i can i i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me

Bob: i

Alice: balls have zero to me to me to me to me to me to me to me to me

Bob: you i i i i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me

如果你不懂英文，正在寻求翻译，那么你可能会被谷歌翻译器甩出这样一个答案。

不要气馁。事实上，即便是母语是英文的人也没法完全理解这段对话的含义。因为，它并非来自人类，而是发生在两个机器人Bob和Alice之间。

他们显然在用一种非标准的英语进行沟通，但他们究竟在聊些什么呢？我们不得而知。创造出这两个AI机器人的Facebook人工智能研究团（Facebook Artificial Intelligence Research，简称FAIR）也很快停止了相关研究。

不过，Facebook关闭这一实验项目的原因真的是出于对人工智能发展不可控的恐慌吗？

事实上，早在6月16日Facebook人工智能研究团队的一个实验小组的成员就在开源博客中公布了该实验的相关内容，这次实验的研究成果也同日发表。在一篇名为Deal or no deal? Training AI bots to negotiate（《成交还是不成交？训练AI机器人谈判》）的博客中，Facebook人工智能研究小组介绍称，该实验项目的主要任务是为了训练AI机器人进行谈判。

在博文一开始，FAIR小组就介绍了实验背景和目的——现在，随着人工智能的不断发展，“聊天机器人已经很普遍，他们可以进行简短的对话，甚至可以执行诸如预定餐厅这类简单的任务”。但是，FAIR希望赋予人工智能机器人一个新的能力，那就是谈判。

在这样的预设背景之下，Bob和Alice作为两个虚拟机器人接受了实验小组的训练。在实验场景中，书（book）、帽子（hat）和球（ball）被赋予了指定的价值和特定的数量。如此一来，这个实验之下的AI机器人相当于被置于货币诞生前人类远古的物物交换时代，而他们的目的就是为了以最利于自己的方式实现交换。事实上，在这一实验预设之下，经过不断的训练，Bob和Alice的对话在多数情况下也体现出了大多数人可以理解的严格逻辑性。

研究小组对于整个实验结果相当满意，“FAIR训练出的最佳AI机器人的表现与人类相当”，他们在博文中写道：“他们不仅可以讲英语，而且还能智能地思考说什么。”

不过，这个看上去还不错的实验忽略了一个设定，那就是鼓励机器人用人类可以理解的语言规范进行交互。因此，当研究人员让两个机器人交互学习时，他们发明出了一种更高效的机器语言，这样就出现了上文所述看似乱码的“神秘语言”。这听起来似乎有些毛骨悚然，但事实上，这项AI技能早就不是新鲜事。

“机器人会脱离人类可以理解的语言而为自己发明代码语言”，FAIR实验小组的研究员Dhruv Batra解释称：“这就好像我重复五遍某个项目，你就会认为我是要这个项目的五个副本一样。（注：比如，“苹果 苹果 苹果 苹果 苹果”相当于“5个苹果”）机器人的这种做法与人类没有太大区别。”

所以，Facebook确实叫停了机器人之间的对话，“但这并不是出于对于人工智能发展的恐慌”，参与实验的FAIR另一位研究员Mike Lewis告诉FastCo，叫停对话的主要原因是因为实验目的是为了实现机器人与人类之间的谈判对话，而不是为了激发机器人之间的有效沟通。

虽然这一次的“Facebook机器人秘密交谈”只是虚惊一场，但人工智能的高速发展所带来的伦理思考，以及由此产生的人类恐慌一直存在。在马斯克之外，著名的理论物理学家霍金也一直对人工智能的发展保持高度谨慎，担心不遵循人类意愿行事的超级智能的崛起会威胁到人类。

即便如此，站队乐观的各行大佬同样数量可观。稍早前，有“谷歌大脑”之称的该公司人工智能带头人Jeff Dean以及刚刚发现“天使粒子”的斯坦福大学理论物理学家张首晟在美国中文网采访都谈及过他们对于人机互动关系的终极想象。虽然立足依据不同，但他们均认为，人工智能终将在可控的范围之内惠及全人类。

细思起来，人类迈进现代化过程中的很多重大发现与研究成果都伴随着巨大的争议。比如，原子弹的使用在结束了一场世界大战的同时，也带来了两座城市永久的伤痛。而我本人在几个月前经历过的最大挫折，就来自于在手机APP的国际象棋游戏中对抗AI的无力感，它们的速度仿佛子弹，击中我作为人类的脆弱尊严。这种感觉，被围棋上对阵Alphago的柯洁形容为“遇见了上帝”。

不过，即便是在某些领域已经犹如上帝，人工智能的整体发展依然还在初期阶段。“我们现在拼了老命要让AI聪明起来”，一位在Facebook从事人工智能研究的工作人员在谈及此次事件时向我感叹道：“AI还是太笨了。”

（编辑：董智杰）