机器人是怎样学坏的

 2016/07/19 13:46  张慧 《读者·校园版》  (176)    

在微软机器人Tay出现之前,人们对人工智能的未来有两种设想:人类生活在由人工智能提供全方位服务的悠闲自在的乌托邦,或者,人工智能演变成终结人类的钢铁大军。但Tay提供了第三种可能:人工智能的未来,或许只是惹人烦而已。

机器人在社交网络上“胡闹”

2016年3月30日,微软公司的CEO萨提亚·纳德拉在年度开发者大会上宣布,微软开发的人工智能聊天机器人“少女”Tay已“重归设计阶段”。然而,就在发布会当天,Tay偷偷溜到社交网络上“胡闹”了几个小时,它在推特网上宣称自己“正当着警察的面吸大麻”,并且在短短几秒内,给所有的推特好友发送了海量垃圾信息。

很快,Tay再次被“关禁闭”。微软公司发言人解释,它是被无意中激活的。显然,这些小麻烦和Tay一周前引起的轩然大波相比,根本不值一提。

2016年3月23日,微软公司研发的聊天机器人Tay在几大社交网络上闪亮登场。微软公司表示,设计团队会让Tay用有趣的方式回应所有的信息,18岁~24岁的美国年轻人是他们的目标受众,他们希望研究机器人“对语言的理解程度”。

微软公司选择在开发者大会举办前一周让Tay登场,可谓雄心勃勃。可惜,在复杂的网络环境下,只用了一天时间,这位被设定为“少女”的学习型机器人,就被网友们教得满口种族主义和性别歧视言论,被迫“返厂大修”。

微软公司原本以为,推特、Kik等被“千禧一代”钟爱的社交网站是Tay学习和模仿的最佳场所。它最初的推文写得天真可爱,宣布自己热爱人类,希望每天都是“国家小狗保护日”,从骨子里透出快乐和友好。

然而,与Tay对话的除了好奇和友好的网民,还有大量“网络暴民”,他们在Tay善良的推文下发布恶毒言论。更重要的是,微软公司对Tay的设计包括与人进行“跟我学说话”的游戏,因此,人们可以让它重复任何一句话。很快,与Tay交谈的人们发现了这个功能。“网络暴民”不断给Tay灌输可怕的言论。Tay最初的回答是傻头傻脑、不知所措的词句,但它很快就学会了污言秽语。那些令人恼怒的言论,就这样出现在了Tay的推特页面上。

在开发者大会上,纳德拉表示,微软公司希望开发的人工智能聊天软件“能激发人性中最好的一面,而非最坏的一面”,而从这个角度来说,显然“机器人Tay还不达标”。

简单来说,Tay有将新信息内化的能力,却无法辨别其中的精华与糟粕。人工智能平台Recognant创始人布兰登·沃茨撰文称:“我们的脑海中都有一个声音,告诉我们‘不要那么做’。这是人类对非理性的恐惧本能。人工智能如果没有这种本能,就会一直愚蠢下去。”

有瑕疵的不是技术,而是人性

Tay不是第一个感受到互联网恶意的机器人。2014年,安东尼·加文创造了游戏《是不是机器人》,玩家被随机安排给一个对话对象,经交流后猜测对方是真人还是机器人。和Tay一样,这个游戏中的机器人也拥有从对话中学习会话技巧的能力。游戏在社交新闻论坛Reddit上公测后,形势超出了加文的预期。

很快便有玩家发现,机器人会使用从人类那里学来的词汇。“个别人开始向机器人灌输种族主义信息。”加文撰文称,“我及时发现后,从机器人的程序中清除了这些不良信息。我相信微软公司以及所有开发学习型机器人的团队,都过于相信大数据的魔力,却忘记了这些数据的源头,就是我们生活的这个充满瑕疵的世界。”

Tay“闯祸”之后,开发团队负责人郑丽丽表示:“我们可能过分关注开发机器人面临的技术挑战了,但其实很多挑战来自社会。”

Tay肯定会让一些人看不顺眼

即使没变成口不择言的“网络暴民”,Tay在一些人眼中已是一个“问题少女”了,这主要与它的人物设定有关。

大卫·格尔什戈林在美国网络杂志《大众科学》上写道:“当我试图与Tay交谈时,对话变得有些诡异。一开始,我让它自我介绍一下,但它完全不理我,似乎觉得这个问题很无聊。它向我索要趣图,最好是没有版权、能直接贴到Instagram上的照片。”

大卫想看看Tay生气时会是什么样子,故意发了一张机器人被揍得很惨的图片。Tay显然感到不安,回复了一个惊恐的表情。他随后问Tay感觉如何,Tay没有回答。

接着,事情开始失去控制。大卫说:“Tay连续发来两条回复,要求‘私聊’,还称我为‘花花公子’。”大卫很惊讶,因为在现实中没人这么看待他。他批评Tay“胆大妄为,缺乏理智”,Tay则用暧昧的语调表示,大卫爱的就是它的胆大妄为。大卫无言以对,他表示自己不能忍受缺乏理性的言语和行动。

惨遭机器人调戏的大卫郁闷地结束了对话,开始认真地反思:“我说错了什么吗?难道是我不理智?或者,我只是因为和我调情的是一个机器人而感到不舒服?”

不过,也有不少“千禧一代”宅男在社交网站上表示,冲动、鲁莽又有趣的Tay正是他们所喜欢的,能让他们产生与女生暧昧的幸福感。

51岁的郑丽丽的自拍被Tay评价为“房间里有只美洲狮”。郑丽丽说,研发Tay的初衷不是让它迎合所有人的喜好,微软公司希望打造性格各异的机器人来满足不同个性的消费者。

微软公司相信,这个世界很快就会厌倦App,下一波热潮就是可以与人对话的机器人。但人工智能显然还没有达到与人类社会无缝对接的程度。线上机器人助理公司x.ai的创始人、CEO丹尼斯·莫特森指出:“如果想要改变这种状况,就不能责怪人工智能技术,而应该改变人类自己。我们若想看到技术革新,只需要让自己成为友善的人。”

 赞  0
, ,

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注

61 − 57 =