本文作者双语君，授权来自

中国日报双语新闻（ID：Chinadaily_Mobile）

这两天，一则机器人发明了自己的语言的新闻刷爆国外社交网络。

《每日电讯报》、《都市地铁报》、《独立报》、《镜报》等各大媒体都“freak out”了……

大致就是，Facebook研发的人工智能发明了自己的语言，程序员恐慌了，赶紧关闭了机器。

具体是怎么回事呢？

其实今年六月，《大西洋月刊》（The Atlantic）就发表了一篇文章：

人工智能发明出自己的非人类语言

文章称：

Something unexpected happened recently at the Facebook Artificial Intelligence Research lab. Researchers who had been training bots to negotiate with one another realized that the bots, left to their own devices, started communicating in a non-human language.

Facebook人工智能实验室最近发生了一些匪夷所思的事情。一直训练机器人之间相互谈判的研究人员发现这些机器人偏离了原来的设定，开始用非人类语言进行交流。

Not only does this appear to be nonsense, but the bots don’t really seem to be getting anywhere in the negotiation. The weird thing is, Facebook’s data shows that conversations like this sometimes still led to successful negotiations between the bots in the end. 

尽管这些文字看起来好像是在胡言乱语，而且机器人之间似乎并没有真正达成某些协议，但诡异的是，Facebook 的数据显示，这样的对话有时仍然能够使机器人之间成功达成谈判。

看到这里，是不是觉得细思恐极，并想起了《终结者》（The Terminator），然后抖了三抖......

这两天，反射弧更长的几家媒体突然缓过劲来，一窝蜂报道起这起“诡异”事件。

《每日电讯报》（The Telegraph）：

Researchers at Facebook Artificial Intelligence Research built a chatbot earlier this year that was meant to learn how to negotiate by mimicking human trading and bartering.

Facebook人工智能研究室今年早些时候建了一个聊天机器人，目的是学习如何模仿人类达成交易和物品交换的协议。

But when the social network paired two of the programs, nicknamed Alice and Bob, to trade against each other, they started to learn their own bizarre form of communication.

然而，当社交网络把两个名叫Alice和Bob的机器人配对起来交换物品时，他们开始自己发明出一种怪异的交流方式。

这就是Alice和Bob那段让研究者摸不着头脑“天书” ↓↓

研究人员观测到的机器人“Alice”与“Bob”之间的“交流”

Bob: i can i i everything else . . . . . . . 

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . 

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . 

Alice: balls have a ball to me to me to me to me to me to me to me

确实看起来很creepy啊有木有……

更令人吃惊的是，这些聊天机器人甚至会使用谈判技巧，《大西洋月刊》称：

It has turned out that these bots can be pretty decent negotiators—they even use strategies like feigning interest in something valueless, so that it can later appear to “compromise” by conceding it. 

这些机器人还是相当老练的谈判者——他们甚至会使用策略，如假装自己对某个无价值的物品特别感兴趣，然后再通过放弃该物品进行“妥协”。

这惊悚程度已经直逼科幻片了……

于是，这些媒体说，Facebook出于对人工智能可能会“失控”的恐慌，不得不关闭了相关研究项目。

在《福布斯》（Forbes）网站刊登的文章中，作者忧心忡忡地说：

Our entire world is wired and connected. An artificial intelligence will eventually figure that out – and figure out how to collaborate and cooperate with other AI systems. 

我们整个世界都是相连的。任何一个人工智能也终将认识到这一点，并找到如何同其他人工智能系统联系合作的方法。

Maybe the AI will determine that mankind is a threat, or that mankind is an inefficient waste of resources – conclusions that seems plausible from a purely logical perspective.

也许人工智能会认为人类是威胁，或者人类的存在是对资源的浪费——这个论断纯粹从逻辑角度讲似乎非常合理。

其实，上周，Facebook首席执行官马克·扎克伯格（Mark Zuckerberg）和特斯拉首席执行官伊隆·马斯克（Elon Musk）正因为人工智能吵得不可开交。

马克·扎克伯格（左）和伊隆·马斯克（右）

当时，马斯克站在人工智能的反方，对其发展表示非常担忧，称随着机器越来越聪明，它们会掌控一切（hold our very existence in their hands）。

而扎克伯格则站在正方，对人工智能的前景表示非常看好：

Zuck said he was "really optimistic" about AI and that it would deliver innumerable improvements to our lives over the next 5-10 years. He called naysayers like Musk "irresponsible" for speculating about "doomsday scenarios."

扎克伯格称其对人工智能表示“非常乐观”，他认为在未来的5-10年内，人工智能将有助于人类生活方方面面的提升。他表示，包括马斯克等反对者的“末日论”是“不负责任的”。

而现在，自家人工智能机器人都开始“自说自话”了，难道，扎克伯格就这样被打脸了吗？

电影《终结者》片段

并没有！

在炒了一番“人工智能机器人开始说人类听不懂的语言”之后，各大媒体和科技类博客开始辟谣……

英国广播公司（BBC）：“骇人听闻的脸书人工智能”故事迷惑媒体

科技博客Gozmodo：不不不，脸书没有恐慌，也没关停聪明到有些危险的机器人

美国全国广播公司财经频道（CNBC）：脸书人工智能研究员斥责对智能机器人实验的报道是“不负责任的”。

《连线杂志》：不，脸书的聊天机器人不会颠覆世界的。

所以，这难道是一场乌龙？别急，且细细听来。

根据知名科技博客Gizmodo的报道，脸书目前是想要开发一个沟通软件（negotiation software）。

相信Siri一类的聊天软件大家都知道，脸书的计划就是差不多的道理，让机器人带着“目的”和人或机器人谈判。

The two bots were designed for the purpose of showing it is “possible for dialog agents with differing goals to engage in start-to-finish negotiations with other bots or people while arriving at common decisions or outcomes.”

设计这两个机器人是为了检验这样一种可能性：对话机器人可以带着不同的目的，与其他机器人或人进行完整的谈判，并且达成共识。

脸书研究人员首先训练机器人去分研究员给定的东西。

比如说，让机器人分几个球球、几个帽子，看机器人怎么跟另一方谈判，达成双方都同意的结果：

The bots discussed with each other how to split an array of given items (represented in the user interface as innocuous objects like books, hats, and balls) into a mutually agreeable split.

机器人们互相交流去分给定的东西（比如用户界面上的书、帽子、球），以达成双方都认可的分法。

训练方式如下图，研究人员设定了书，帽子和球三样东西，并且设定了不同的权重，权重越大，表示越重要，机器人越应该想法留住它。

从动图中的测试结果来看，机器人看起来“智商在线”。

它拒绝了实验者要帽子的请求，而主动要给出书本，因为帽子的权重可是“7”，而书本的权重是“0”。

所以说这项实验实际是非常成功的。脸书的人工智能研究员也表示，这项实验证明，脸书研发的人工智能机器人不仅能说英语，还能智能地思考说什么（not only can speak English but also think intelligently about what to say）。

于是后来，研究员们让两个人工智能机器人开始对话。但他们发现设定上出了点问题：

The programmers realized they had made an error by not incentivizing the chatbots to communicate according to human-comprehensible rules of the English language.

程序员意识到，他们犯了个错误，他们没有激励聊天机器人用人类理解的英语进行沟通。

“激励”简单来说就是告诉机器人，这样做的分数更高，因此，没有设定这样的激励，机器人说出这些“脱线”的英语也就不奇怪了。

虽然看起来非常诡异，但是这其实并没有什么特别的意义。

我们再回头来看那段看似诡异的对话……

Bob: i can i i everything else . . . . . . . 

我能我我所有其他东西……

Alice: balls have zero to me to me to me to me to me to me to me to me to

球有0给我给我给我给我给我给我给我给……

Bob: you i everything else . . . . . . . . . 

你我所有其他东西……

Alice: balls have a ball to me to me to me to me to me to me to me

球有一个球球给我给我给我给我给我给我……

Bob: i i can i i i everything else . . . . . . 

我我能我我我所有其他东西……

Alice: balls have a ball to me to me to me to me to me to me to me

球有一个球给我给我给我给我给我给我……

这样看来，他们根本就没有创造什么新词，还是“你”、“我”、“球”……不过是语法有点错乱。

其实他们就是在争一个球嘛……

而且，脸书这一项目只是为了研究，而非面向大众。后来系统确实被关停，但却并不是因为可能带来的威胁。

But Facebook's system was being used for research, not public-facing applications, and it was shut down because it was doing something the team wasn't interested in studying - not because they thought they had stumbled on an existential threat to mankind.

脸书的这一系统是用来研究，并不是面向大众的应用。后来项目被关停，是因为团队对研究不感兴趣，而不是因为他们偶然发现系统对人类造成威胁。

实际上，这项智能机器人的开发非常困难。脸书即时通讯“Messenger”的研究中，机器人无法正确回应人类70%的诉求。

因此，目前看来，是媒体们虚惊一场了。

好了，今天的新闻有没有让你脑洞大开，想不想看几部人工智能相关的电影？

其实，这类的文学、影视作品一直层出不穷，有把AI描绘成人类文明毁灭者的，也有展现AI智慧、温情，与人类和平共处的。

下面，就给推荐几部精彩的电影。

你觉得“AI颠覆人类世界”，是科幻小说家不切实际的杞人忧天，还是会一语成谶的末日预言？