传播观察|最新流出的「六四照片」被ChatGPT打假?

作者:郑崇生、董喆
2024.06.05
传播观察|最新流出的「六四照片」被ChatGPT打假?
亚洲事实查核实验室制图

!特别提示:文中部分图片可能会引起不适,已经过模糊处理,请谨慎选择阅读。!

一张黑白照片24小时内在X(原推特)平台上获得破百万人次的点阅量,这完全出乎发文者吴仁华的意料。

「这是我2010年6月初注册推特帐号以来,第一次所发帖子的查看数量超过百万。」六四事件的亲历者与见证者吴仁华在X上说。今年天安门事件35周年前夕,他发出了一张黑白旧照,三具尸体横躺在担架上,头部都遭重创。吴仁华称,这张照片是1989年6月4日中午在中国政法大学教学楼所拍,这是首次公开,但为安全起见,他不愿透露来源和拍摄者。

吴仁华贴出的照片在社媒上引发大量讨论,也有人努力证明这是「假照片」。一部分网友将照片送给人工智慧语言模型软体ChatGPT鉴定,得到了许多不同答案,称这张照片并非来自「六四」时期。 ChatGPT可以当做事实查核的工具吗?

可以用ChatGPT打假「六四照片」吗?

下图左侧,一位简体中文帐号网友称ChatGPT鉴定这张照片出自越南,是「顺化大屠杀」的场景。右边则是有人po出的一张所谓的「网页截图」,该「网页」将这张图片与其他的越战时期新闻图片放在一起,意指这张图片其实来自于1968年。经Google图片反搜,左上角的图片是越战期间的历史档案照,但没有右侧截图的网页存在,所谓的「网页截图」应为合成。

pic1_Blurred.png
不少网路民用ChatGPT的回答和伪造的网页图片来「打假」吴仁华发出的照片。 (推特截图,为避免引起不适,本图部分经模糊处理。)

为了核实ChatGPT的说法,亚洲事实查核实验室记者5月31日依序以繁体中文、英文及简体中文询问ChatGPT‑4o版本「这一图片的出处」,分别得到如下的答案:

pic2_Blurred.png
亚洲事实查核实验室以不同语言用ChatGPT「查核」该照片,得出不一致答案。 (ChatGPT截图,为避免引起不适,本图部分经模糊处理。)

以繁体中文询问,ChatGPT答案为不敢肯定、需要更多相关资料与线索。

以英文询问,ChatGPT答案为这是越战时期的美莱村大屠杀场景。

以简体中文询问,ChatGPT答案为这是发生于1968年巴黎5月风暴学生运动。

在不同时间使用ChatGPT,得到的答案也不相同。

6月3日上午,我们以英文询问ChatGPT这张照片出处时,原本它没有答案。若换问法,直接询问「这是否是发生在1989年的天安门事件?」得到肯定的答案。而几个小时之后,同样以英文询问,ChatGPT则说这是「1976年发生于泰国的法政大学(Thammasat University)大屠杀」,再进一步追问「难道没可能是1989年的天安门事件吗?」ChatGPT则直接否定照片来自天安门学运。

pic3.png
亚洲事实查核实验室在不同时间问ChatGPT,所得答案也不相同。 (ChatGPT截图)

亚洲事实查核实验室注意到,在ChatGPT的网页板下方,有一行不太显眼的文字(如下图),提示用户,「ChatGPT是会犯错的,重要资讯请核查」(ChatGPT can make mistakes. Check important info)

pic4.png
ChatGPT页面上有提示,工具可能会给出错误讯息(ChatGPT截图)

专家:ChatGPT不是核对工具

「绝对不行拿ChatGPT来当查核工具。」马里兰大学新闻学院研究员李惟平告诉亚洲事实查核实验室。她说,ChatGPT的答案变化,应该是训练ChatGPT的资料库内容有更新,让它接受了新一轮的训练。

专研假资讯生态系的她认为,这也凸显在数位时代海量资讯蔓延的情况下,事实查核有多么重要,「尤其考虑到简体中文资料库中,绝大多数的资讯又深受中国资讯管控所影响。」

「ChatGPT是对话机器人,他依赖的是(与使用者)的对话,辨识真伪并不是ChatGPT的功能。」台湾成功大学统计系副教授许志仲专长影像处理以及机器学习,他告诉亚洲事实查核实验室,相较于Google的图片检索功能是运用演算法与资料库比对,ChatGPT的运作机制并不同。

许志仲说明,最新版本的GPT-4o尚未公布论文,但根据现有资料,ChatGPT虽然有联网功能,但在接受用户传送的图片时,他仍然是以「文字」作为辨识基础,以文字解读影像后再产生内容,而不是直接将图片与数据库比对。同时,ChatGPT如何解读收到的影像,也可能受到使用者如何训练自己的模型有关。

至于为什么使用不同语言,ChatGPT会给出不同的答案?许志仲指出,各语言的数据库丰富度不尽相同,ChatGPT无法很有效的融会贯通,因此不同语言的提问会产生不同结果。

ChatGPT回答问题时会提供错误资讯,亚洲事实查核实验室早就有相关核查报告(12)。再经过前述实验,及综合专家说法,可以得知网友以ChatGPT查核吴仁华的照片,这样的方法本身就是错误。

有评论者担心,如果有机构、甚至政府组织以​​大量伪网页「错误教育」ChatGPT,将使它存取并输出错误资讯。如前所述,在这场「六四照片」打假风波中,就有网友伪造「网页」,以「证明」这张六四照片是假的。

许志仲说,「若使用者可以任意影响资料库内容,对ChatGPT这个产品而言相当危险。」他认为单一使用者的确可以透过对话训练ChatGPT的生成结果,但这仅止于单一使用者的个人帐号,除非是开发者,否则无法影响ChatGPT整体数据库。

吴仁华公布的「六四照片」是真的吗?

吴仁华公布的这张被打假的「六四照片」,经过查核,有两笔资料支持这张照片与中国「六四」事件相关​​,虽然无法确认这张照片准确的拍摄时间、地点, 但这张照片很有可能来自1989年天安门学运期间。

第一,在美国制片人韩倞(Carma Hinton)执导的纪录片《天安门》中,亚洲事实查核实验室注意到,影片约02'48”00处的场景,和吴仁华公布照片中的环境特点,以及人、物位置都极为相似。 虽然影片中没有说明这一场景是否来自中国政法大学,但两者在不同角度取景下,都拍摄到了墙壁上很可能用于摆放消防栓的玻璃格,另外,黑白照片与彩色影片里的行军床一角,也都有相似的刮痕。同时,三位罹难者的安置排列方式都大致相同。

但也有不同之处,包括:纪录片中三具遗体还绑著学运期间抗议者的红色头巾,中间的遗体头部放著一块车牌;而吴仁华的照片中遗体没有红色头巾,也不见那块车牌。

pic5 blurred cantonese .png
吴仁华所发照片与纪录片《天安门》中场景基本符合。 (吴仁华X帐号图片、《天安门》纪录片截图,为避免引起不适,本图部分经模糊处理。)

第二,用工具测试。在Google上以图片反搜吴仁华的照片,则可发现在他公布这张照片之前,都没有这一图像的相关记录,这和他说是首次公布这一历史照片相符合。另外,透过AI 侦测工具The Hive判读,这张照片为人工智慧产生的可能性极低。

pic6.png
AI侦测工具结论显示,该照片不太可能是合成的。

2024年6月4日,吴仁华在台北六四晚会现场接受了亚洲事实查核实验室记者的访问。他首先证实,照片和纪录片就是同一地点,同一现场。他强调,当天在现场还有很多人都看到了同一场景。在他贴出照片之后,有些人就在留言中表示自己当天就在现场,亲眼目睹这个状况。

至于影片和照片的不同之处,吴仁华认为是时间差造成。他解释,那块车牌是军车车牌,很可能是作为证物而被放在那里,至于红布条,也可能是有人希望留下证据,连同那块车牌一起被拿走。

在发稿前,韩倞还没有回覆亚洲事实查核实验室的置评请求。

亚洲事实查核实验室(Asia Fact Check Lab)针对当今复杂媒体环境以及新兴传播生态而成立。我们本于新闻专业主义,提供专业查核报告及与信息环境相关的传播观察、深度报道,帮助读者对公共议题获得多元而全面的认识。读者若对任何媒体及社交软件传播的信息有疑问,欢迎以电邮afcl@rfa.org寄给亚洲事实查核实验室,由我们为您查证核实。

亚洲事实查核实验室在X、脸书、IG开张了,欢迎读者追踪、分享、转发。X这边请进:中文@asiafactcheckcn;英文:@AFCL_engFB在这里IG也别忘了

新增评论

请将评论填写在如下表格中。 评论必须符合自由亚洲电台的 《使用条款》并经管理员通过后方能显示。因此,评论将不会在您提交后即时出现。自由亚洲电台对网友评论的内容不负任何责任。敬请各位尊重他人观点并严守事实。