人工智能进步太快:细思极恐

bigdataway 提交于 周四, 08/03/2017 - 16:06

人工智能进步太快:细思极恐

最近互联网社交平台Facebook出现了一件有意思的事情。Facebook的一项AI开发项目测试中工程师们看到Facebook AI的测试过程中恍惚在两个AI对话时自创了一类新语言,惊恐的工程师随机暂时关闭测试过程。

俩AI互聊 聊出新语言?

Facebook 的人工智能研究院(FAIR)用了一个神经网络结构来开发这个系统。这个结构叫做“生成式对抗网络”(Generative Adversarial Networks),以下简称 GAN。

GAN 是一种在目前非常先进的神经网络结构,你可以把神经网络理解为一种多层次的、模仿人脑神经元之间相互连接的思考方式的“电脑程序”。

人工智能进步太快:细思极恐

大家可以想象一下人类的对抗游戏:你的账户能在不断的对抗中提升技能,你玩的越多,水平就会越高。Facebook的这项研究也是如此,研究人员希望训练这样一个聊天机器人,让它带着“目的”和人类对话。

这个目的也很简单:一共有两本书,一顶帽子和三个篮球,三样东西分别设定了不同的权重,为的是让机器人明白它到底对这些东西有多想要,然后去和人谈判。于是事情就开始变得有趣了。

Facebook 两个聊天机器人这样一段对话:

Bob: I can i i everything else ..............

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else .............

Alice:balls have a ball to me to me to me to me to me to me to me to me

研究员对两个聊天机器人进行对话策略迭代升级,结果发现它们竟自行发展出了人类无法理解的独特语言。研究者不得不对其进行了人工干预。

人工智能进步太快:细思极恐

项目并没有完全关闭,只是还处于测试阶段

研究员还指出,Alice和Bob其实也没发明新的语言,因为他们还是在用“i”、“balls”、“the”等英文单词沟通,只是没有了英语语法的这个激励项,创造了一种新的表达方式而已。

所以最终,Facebook并没有“关掉”这个系统,而是重新设定了正确的激励,修正了机器人的行为,让机器人用标准的英文语法来进行交流。修正的原因也不是因为害怕系统失控。

对于目前的智能对话系统来说,AI还处于人工给予(文字)数据库的发展阶段,如果让AI创造数据库以外的数据理论上目前还无法实现。


(图/互联网/文/在长翅膀的小鸟/部分文献来源互联网)

分类