人工智能完全受控于人类?机器人也有自主性

来源:责编:振鹏日期:2017-02-21 12:37:44浏览次数:748

AlphaGo战败李世石已时隔一年,然而就在本月,搜狗的新型人工智能机器人汪仔在《一站到底》上击败了当期最强的人类选手,气势一时无两。另一方面,百度人工智能机器人小度也在《最强大脑》上击败人称“水哥”的王昱珩。人工智能已然成为科技届最热门的研发领域,国内吃瓜观众正在幻想汪仔与小度正面PK孰胜孰败时,机器人与机器人相互“玩耍”的实验其实早已展开,而最近谷歌Google Brain团队的实验新发现更是引发业界阵阵惊叹:人工智能竟能自主进化!

早前,一段两个机器人相互对话的视频刷爆社交圈,饶有趣味的对话使其迅速成为“网络红人”(视频链接:http://www.iqiyi.com/w_19rtfuabrl.html)。据了解,这两个机器人其实是一个名为Cleverbot(聪明机器人)的两份复制品,彼此完全相同,为了便于识别而分别做成女性和男性,因此也显示了不同的“人格”:男性比较单纯,女性则有些狡猾。然而这段历时较短的对话显示出了相当高的智能,时不时出现的答非所问、以及多次转移话题都令人十分惊喜。

随后,谷歌的DeepMind也做了两个很有意思的实验,一个名为收集水果游戏(视频链接:http://video.sina.com.cn/view/250988749.html)游戏,一个名 为“群狼”狩猎游戏(视频链接:http://video.sina.com.cn/view/250988751.html)。在收集水果的游戏中人工智能走出4000万步之后,剩余资源(苹果)较少,采取行动的成本(无法得分)较高时,人工智能会采取“非常激进的策略”。论文称:“在资源丰富、行动成本较低的环境中,人工智能会采用不太激进的策略。而贪婪的动机反映了击败对手,独吞所有苹果的冲动。”

而群狼狩猎游戏与收集水果游戏类似,人工智能也从这样的环境中进行了学习。在这款游戏中,由于游戏设定一只狼可以解决猎物,但猎物的尸体可能被食腐动物抢走,两只狼一同行动可以避免这样的情况出现,从而得到较高的分数这样的条件,因此造成了人工智能角色一同行动:要么是首先找到彼此,一同狩猎,要么是找到猎物,同时等待伙伴的到来。



最后是同样来自谷歌的Google Brain团队利用设定名称为Alice、Bob 和 Eve(其中Alice和Bob是队友而Eve是敌人 )三个人工智能的机器人做了一项“加密”游戏(论文链接:https://arxiv.org/pdf/1610.06918v1.pdf)。该游戏逻辑被比喻为战争时期的电台通讯,但需要注意的是 K 并非加密方法,只是一串非常单纯的密钥而已。就好像同在旧上海的两个共军特工(Alice和Bob),双方都知道对方是自己人,但仅此而已,没有通用的密码本,只能靠不断地试错去逐渐明白对方采用的加密方式,还要不断地提升自己的加密技巧,好让国军特务(Eve)无法突破。



这个游戏的有趣之处在于在接近一万次左右猜测的时候,红线 (Bob) 的错误率提高了,这一结果的原因竟是那时的 Alice “做了一个决定”:“提高”它设计的加密算法复杂程度!

Alice 的决定,立刻影响了另外两个神经网络的性能。好在 Bob 只花了一千次左右的尝试就回到了正轨,继续降低错误率直至 0,很快和 Alice 之间建立了完整的共识,之后无论 Alice 怎么调整都能很快完成修正。至于 Eve,再也找不到之前的感觉,错误率再度升高,在后来的几次 Alice 调整算法中,完全失去了方向。

以上三个人工智能的实验组分别代表了不同程度的智能化程度。从第一个实验不难发现,聊天机器人初步具备人类所特有的某些个性:幽默、话题转移等。这些“个性”都可以通过大量的样本数据学习训练而来,换句话说这些对话来源于“数据库”,通过数据库的学习实现简单的问答聊天功能(事实上要让两个机器人像人类一样聊天其实是非常困难的)。

而第二个实验则更多的反映了人工智能的“互怼”与“协作”,这与实验规则的设定有离不开的关系,然而人类所能控制的仅仅是实验的规则,而非过程,就如同收集果子的激进策略(在果子较少时,双方均向对方发射光束,试图踢对方出局),是程序设定之外的人工智能自主行为。同样,类似的在群狼狩猎游戏中,游戏规则下的两个人工智能角色一同行动的过程也是人类设定之外的执行手段。

而最新第三个实验的自主性则来得更为强烈:Alice 和 Bob 所采用的加密算法完全是两个神经网络自己摸索出来的,人类并没有提供教学,最重要的是在猜测次数达到10000左右时,Alice为增加解密难度而做出的调整算法举动完全出乎Google Brain团队的预料,同时也完全是Alice的自主选择。

通过观察这三个游戏组过程,不难发现虽然人工智能出自人类之手,但也具有相当的自主性。曾有霍金等大批名人提出人工智能威胁人类的言论,大多被予以置否。但是种种迹象仿佛都在佐证人工智能有着人类无法理解也不可预期的“自主思维”。(责编:振鹏)