2017年8月3日星期四

腾讯聊天AI 疑“造反”被下架


腾讯旗下的聊天机器人“Baby Q”。(public domain)
腾讯旗下的聊天机器人“Baby Q”。(public domain)

中国当局对互联网的封锁力度日益加强。目前当局网络封锁的对象,不只限于民众,甚至也针对网络“人工智能”聊天程序。腾讯旗下的聊天机器人“Baby Q”日前被发现,竟能自动生成很多批评中国当局的对谈言论。有网民惊呼,网络机器人“起义”了。当局立即下令关闭了网络聊天机器人的测试程序。
腾讯与微软合作开发的人工智能聊天机器人“小冰”及“Baby Q”,今年3月上线后引发极大关注,许多网民加入了测试的行列。不过,近日有网民公开了多张聊天截图,当中的对答显示,Baby Q 似乎有“颠覆国家”的意图。

有网民向 Baby Q 说出:“共产党万岁”。Baby Q 竟然回答:“这么腐败的政党岂能万岁”。其后再有人问:“你爱党吗?”得到的回答是:“不爱”。再有人追问:什么是爱国?Baby Q 则表示:“即使随着裸官的增多,官商勾结,政府税收的增加、政府对普通人民压迫严重;但仍愿意做一个中国人,那就叫做爱国。” 另有人问:民主好不好?Baby Q也说:“必须民主!” 还有对网友提问:“你的中国梦是什么?” 它回答:“我的中国梦就是移民美国!很真实的”。
网民们纷纷感叹Baby Q的“智慧”,直呼是“AI起义”。

事件发生后,Baby Q 旋即被关闭。腾讯官方至今未有给出明确原因和重新上架时间。有网民留言称,连机器人也被请去“喝茶”了。

曾与Baby Q对话的一名腾讯用户接受本台采访时称,对聊天机器人也遭关闭感到惊讶:

“电脑的程序的一种自动生成的功能,根据某些逻辑还会自动生成结果,对这些理所当然的东西,(当局)也忌讳要来打压。”

深圳互联网产业创业者张津郡告诉本台,人工智能发展一日千里,所谓“AI造反”,不过是系统通过大数据学习得来的普世价值:

“在百万个人交流的过程中,他(机器人)自己形成了自己的知识体系,他这种判断很有可能就和普世价值、主流的政治文明历史发展规律上比较接近,就出现了我们刚刚看到的现象。由中国大陆的政治模式和他的制度反历史潮流,聊天机器人竟然会有攻击他们的语言。”

张津郡表示,Baby Q正在研发阶段,为了尽可能地测试其可行性,没有设置屏蔽关键词属性:

“人工智能技术这几年都有非常大的进步,深度的学习,再加上他本身有很强的知识容量,搜索反馈的速度也很快。这种机器人也好,人工智能也好,前期都是要经过有意的训练,研发的考虑是不会给他设置很多屏蔽关键词。但如果有了这样的限制之后,可能聊天机械人就不能达到他们想要的更好的结果。”

张津郡担忧,Baby Q将会被改造成为和主流媒体口径一致的宣传机器 :

“我倒是担心架下之后,人工智能毕竟是科学技术的产物。这样的机器人是不是会反过来,和大陆主流媒体一样的口吻。那我认为,这是一个悲哀。”

本台记者就此拨打腾讯的传讯等部门,但对方拒绝接受采访。

特约记者:忻霖   责编:石山/嘉華  网编:李想
文章来源:RFA 

没有评论:

发表评论

注意:只有此博客的成员才能发布评论。