【翻墙问答】慎防国家级AI配合假账号生产假新闻　社媒平台带风向

问：机器学习、人工智能是近年世界范围热门的科技，但西方发现已开始出现滥用人工智能制造假新闻的情况，究竟是怎样一回事？这种情况对那些被称为「五毛党」的网络评论员，又会带来甚么影响？

李建军：ChatGPT是一个人工智能聊天机器人程序，这类科技可以利用人工智能和大数据，对用户喜好进行细致分析分类，然后有针对性地大规模生产被俗称「带风向」的假新闻、假消息。这种做法可以造成在社交媒体甚至搜寻引擎上影响公众舆论。在英文世界，现时已经发现有人利用人工智能生产的假消息配合假户口进行操作。在中文世界，这种情况预料只会更为泛滥和可怕，因为中国当局有大量的数据资料库去进行分析，而且中共手上本身已经有大量机器控制的假户口，现时就看中国在中文人工智能上的开发进度。

这亦是美国政府禁止高效人工智能晶片出口到中国的原因之一，因为这些晶片除了可以被中共用于军事及监控民众的用途，亦可以用作生产假新闻，影响到香港、台湾，甚至日本、以及西方国家的舆论。

至于对「五毛党」的影响，当局大可在技术成熟后，由机器取代人类担当网络评论员的角色，将不受控制的「五毛」解雇，在现时中国各地地方政府财源短缺的情况下，节省维稳开支，不但更加实际有效，而且减低「意外翻车」的机率。因为人类的网络评论员，有可能因为收不到工资而怠工，或者突然发表一些出格言论，令当局的控制舆论行动泡汤。而除非掌管高权限的程式员突然作出出格举动，机器的网络评论员基本上都受到当局牢牢控制。

问：西方国家的科技大公司如何可以防止由国家推导在各平台上用假户口散播AI假消息？

李建军：现时西方国家的大公司面对两难——制止假户口有可能造成反效果，因为有相当用作带风向的假户口是利用VPN连接，如果平台一刀切禁止VPN连接，就有可能连翻墙的用户都受影响。因此，大公司都需要开发新人工智能技术，更有效率侦测假户口，然后将假户口删除。

另一方面，很多西方社媒平台在防止假户口一事上所做极少，因为在以往，假户口数字越多，表面上看显示这个平台越有人气，对公司股价越有利，所以大公司一般都缺乏动力去删除假户口，但随著现在假户口越来越损害广告商的利益，以及有可能被中俄等国滥用影响民主国家的舆论，相信大公司会越来越有压力开发新技术，以及修改用户条款，将由机器操纵的假户口扫地出门，只不过这一切都需要相当的时间。

问：面对网上可能出现大量由机器制造的假资讯，作为一般网民，有甚么方法可以防范？

李建军：首先，在脸书上不明来历的专页是必须避免，因为那些不明来历专页本身是假资讯的温床。另外，人人都有责任要多看不同传媒的资讯。在香港，亲中传媒编采方针受中联办影响，他们的资讯可以假定为假资讯。而台湾那些亲国民党的传媒，亦必须小心处理他们的消息，因为他们当中有不少有散播假新闻的往绩。某程度上，有外语能力对获取比较接近真相的资讯有帮助，因为英语世界现时已经对俄中两国的人工智能假消息有所防范，传媒亦比较少受两国在财政上或人事上的影响。但中文世界很多传媒，无论财政以至人事都受到中国的影响，甚至有传媒以报导网民言论为名协助散播这些别有心用的假消息。所以，假如有条件成功翻墙，都不能只看中文的内容，尽量多看英文，甚至更多不同外语消息来源，才能够对消息内容的真伪作出准确的判断。

在人工智能技术被滥用的时代，不单要掌握翻墙技术，而亦需要翻墙的人有广阔的视野和开放的心态，去避免受假内容所影响。