2016年11月24日星期四

微软智能对话平台藏“敏感词”库 网民尝试反洗脑


中国网民发起测试“小冰”活动,总结了部分小冰屏蔽词库,其中包括“维权律师”、“高智晟”、“胡耀邦”、“赵紫阳”、“习包子”、“城管”等,与中国大陆设立的敏感内容高度切合。(小冰提供/记者忻霖)

美国微软公司开发的人工智能对话平台在中国的微信上线后,引发新一轮适用热潮。有网民发现,如果遇上一些“敏感词”,人工智能“小冰”则会顾左右而言他地回避,似乎可以看出有人工干预痕迹,以保证对话内容的可控性。对小冰做了大量试验的周锋锁表示,此对话平台所屏蔽的词语,与中国大陆的敏感词库高度吻合,但因为”小冰“的智能属性,尽管敏感词绕不过,仍可被用于反当局洗脑。
微软公司出品的智能聊天机器人“小冰”,日前被曝光后台疑被植入中国敏感词库。近日有网民发现,平时对答如流的小冰,遇上“天安门”三个字就会顾左右而言他。中国网民发起测试“小冰”活动,总结了部分小冰屏蔽词库,其中包括“维权律师”、“高智晟”、“胡耀邦”、“赵紫阳”、“习包子”、“城管”等,与中国大陆设立的敏感内容高度切合。
对此,在网上公开与“小冰”的聊天纪录的前八九学运领袖周锋锁告诉本台,小冰不仅屏蔽敏感词,还像“五毛”一样会以“报警”相威胁,传播中共试图扩散的白色恐怖:
“程序是微软设计的,所以比较重要,一方面它反映现在敏感词的状况,另外一方面跟它交谈的时候。小冰所代表的态度也会影响很多人,比说它经常说要报警等等,这是带有威胁的,像官方的恐吓通过对网络言论的牵制。”
据了解,智能聊天应用的后端流程是:用户输入一段话,然后后端语义引擎对用户输入的语句进行语义解析,再推断用户最可能的意图,之后调用对应的知识库、应用、计算引擎,再将返回结果给用户。
对此,周锋锁表示,因为小冰上述的智能属性,尽管敏感词绕不过却是可以被反洗脑的:
“小冰是一个新的现象,因为它是模拟一个词库,它会反映现代整体的微信用户跟小编对话的是怎么想的,会塑造它。这里面就很有意思,可以了解年轻人怎么想,大面积屏蔽的情况下,另一方面试图去影响它,像他微博上比如说不准用金三胖,那么大家就叫他金三月半等等,这都是办法。像输入习包子大撒币,很多人用,会给它输入这种,最后它会接受这些的,因为它的词库是一个联想的过程。”
这个设定引发了网友的好奇心,不少网友对小冰“持续调戏”,以期望她说出“敏感内容”。
有网民输入“环游全球大撒币”,小冰回应称“我都替习撒币害臊”,有网民输入“谈起27年的事情”,小冰回应“小冰我痛苦地捂住了脸”、“在一起的事情,好像从未发生过”。
但也有网民表示,有人故意继续按小冰的反应尝试更多敏感词,最后竟然被拉黑了。
新公民运动参与者张宝成告诉本台,中国当局设立的敏感词库非常庞大,而各个网络公司为了在中国生存,又拓阔了词库内容:
“网络审查关键词这个词,在中国已经成了笑话,连张宝成都是关键词,这种关键词不同,很多人认为是各个公司的不同商业行为。实际我不这么认为,因为关键词首先一定在中共内部对下所有媒体有一个统一口径,当然在统一口径之下,各个公司有他们自己设置的更超过指令性的关键词,到了下面会更扩大化。”
上周浙江乌镇开幕的第三届世界互联网大会上,中国国家主席习近平重申中国“网络主权”概念,意指网络存在领土主权和国家法治,政府有权对其管控,“不容外国干涉”,为设立“防火长城”等合理化。尽管引来中外一片抗议浪潮,但包括微软、英特尔等外国科技巨擘的高层仍有参与大会。
周锋锁表示,外国很多网络企业欲到中国市场分一杯羹,因此不得不遵从大陆的网络审查规定:
“现在唯一不屈服的就是谷歌了。每次他们去做这种事情我们还要去了解、纪录他们帮助作恶的证据,在将来也是可以追究的。”
文章来源:RFA 

没有评论:

发表评论

注意:只有此博客的成员才能发布评论。