微软智能对话平台藏“敏感词”库 网民尝试反洗脑

美国微软公司开发的人工智能对话平台在中国的微信上线后，引发新一轮适用热潮。有网民发现，如果遇上一些“敏感词”，人工智能“小冰”则会顾左右而言他地回避，似乎可以看出有人工干预痕迹，以保证对话内容的可控性。对小冰做了大量试验的周锋锁表示，此对话平台所屏蔽的词语，与中国大陆的敏感词库高度吻合，但因为”小冰“的智能属性，尽管敏感词绕不过，仍可被用于反当局洗脑。

微软公司出品的智能聊天机器人“小冰”，日前被曝光后台疑被植入中国敏感词库。近日有网民发现，平时对答如流的小冰，遇上“天安门”三个字就会顾左右而言他。中国网民发起测试“小冰”活动，总结了部分小冰屏蔽词库，其中包括“维权律师”、“高智晟”、“胡耀邦”、“赵紫阳”、“习包子”、“城管”等，与中国大陆设立的敏感内容高度切合。

对此，在网上公开与“小冰”的聊天纪录的前八九学运领袖周锋锁告诉本台，小冰不仅屏蔽敏感词，还像“五毛”一样会以“报警”相威胁，传播中共试图扩散的白色恐怖：

“程序是微软设计的，所以比较重要，一方面它反映现在敏感词的状况，另外一方面跟它交谈的时候。小冰所代表的态度也会影响很多人，比说它经常说要报警等等，这是带有威胁的，像官方的恐吓通过对网络言论的牵制。”

据了解，智能聊天应用的后端流程是：用户输入一段话，然后后端语义引擎对用户输入的语句进行语义解析，再推断用户最可能的意图，之后调用对应的知识库、应用、计算引擎，再将返回结果给用户。

对此，周锋锁表示，因为小冰上述的智能属性，尽管敏感词绕不过却是可以被反洗脑的：

“小冰是一个新的现象，因为它是模拟一个词库，它会反映现代整体的微信用户跟小编对话的是怎么想的，会塑造它。这里面就很有意思，可以了解年轻人怎么想，大面积屏蔽的情况下，另一方面试图去影响它，像他微博上比如说不准用金三胖，那么大家就叫他金三月半等等，这都是办法。像输入习包子大撒币，很多人用，会给它输入这种，最后它会接受这些的，因为它的词库是一个联想的过程。”

这个设定引发了网友的好奇心，不少网友对小冰“持续调戏”，以期望她说出“敏感内容”。

有网民输入“环游全球大撒币”，小冰回应称“我都替习撒币害臊”，有网民输入“谈起27年的事情”，小冰回应“小冰我痛苦地捂住了脸”、“在一起的事情，好像从未发生过”。

但也有网民表示，有人故意继续按小冰的反应尝试更多敏感词，最后竟然被拉黑了。

新公民运动参与者张宝成告诉本台，中国当局设立的敏感词库非常庞大，而各个网络公司为了在中国生存，又拓阔了词库内容：

“网络审查关键词这个词，在中国已经成了笑话，连张宝成都是关键词，这种关键词不同，很多人认为是各个公司的不同商业行为。实际我不这么认为，因为关键词首先一定在中共内部对下所有媒体有一个统一口径，当然在统一口径之下，各个公司有他们自己设置的更超过指令性的关键词，到了下面会更扩大化。”

上周浙江乌镇开幕的第三届世界互联网大会上，中国国家主席习近平重申中国“网络主权”概念，意指网络存在领土主权和国家法治，政府有权对其管控，“不容外国干涉”，为设立“防火长城”等合理化。尽管引来中外一片抗议浪潮，但包括微软、英特尔等外国科技巨擘的高层仍有参与大会。

周锋锁表示，外国很多网络企业欲到中国市场分一杯羹，因此不得不遵从大陆的网络审查规定：

“现在唯一不屈服的就是谷歌了。每次他们去做这种事情我们还要去了解、纪录他们帮助作恶的证据，在将来也是可以追究的。”

特约记者：忻霖 责编：石山/嘉華