海外推出AI视频生成工具Sora 挑战"防火墙"?

2024.02.22 14:23 ET
海外推出AI视频生成工具Sora 挑战"防火墙"? 2024年2月16日,美国华盛顿大屏幕上播出了由Open AI发布的新系统"Sora"创建的视频。
法新社

近日,与微软(Microsoft)和谷歌(Google)网络技术高度相关的人工智能公司OpenAI开发出一项新系统Sora。只要使用者向其提供文字描述,该系统便能透过人工智能进行信息分析,并制作出高质量的视频影像。外界关注,这项技术是否会沦为制造和传递虚假信息的工具,又是否能成为突破网络信息封锁的重要技术?

先前推出ChatGPT而撼动科技界的人工智能公司OpenAI,近期公布了最新视频生成系统Sora。只要用户输入提示词,Sora便能产出细致、生动的高质量视频。

据美国《华尔街日报》披露,目前Sora还只处于技术发布阶段,尚未提供给普通民众使用。OpenAI表示,该系统同时也正寻求学者及科研人员协助研拟相关配套措施,以避免Sora被有心人士滥用。

显然,这项人工智能的重大技术突破在受到海内外舆论关注的同时,如何保护网络信息安全也随即成为各方关注的焦点。OpenAI指出,它已经意识到Sora可能会被用来制造虚假信息或仇恨内容,特别是人工智能以假乱真的技术可能会对美国即将到来的总统大选制造混乱,因此该公司正在研拟相关措施,以禁止使用Sora做为选举造势的工具等。

学者:Sora有可能被政治势力利用

对此,美国智库兰德公司(RAND Corporation)国际防务高级研究员何天睦(Timothy Heath)在接受本台记者采访时警告说,Sora 有可能成为中国当局扰乱台湾及美国内政的新工具。他说:“Sora 可能被中国用来在台湾,乃至于美国,生成非常令人信服的假新闻和错误资讯。它可能会加剧目标国家的社会和政治分裂。"

华盛顿智库哈德逊研究所(Hudson Institute)高级研究员亚瑟•赫尔曼(Arthur Herman)也指出,Sora 的出现是人工智能的重大应用进展,它可以帮助各国民众跨越语言的鸿沟进行交流,只要透过文字生成视频,各国民众便能迅速接收到相同的信息。与此同时,尽管OpenAI会设置多项避免恶意利用Sora的安全措施,但虚假信息制作的视频可能无法被完全杜绝。

赫尔曼说道:“控制人工智能最好的方法是运用自然智能,也就是确保人们理解看到、听到的一切并非都是真实的。如果我们希望在人工智能领域赢过中国,我指的不只是Sora,也包含TikTok等等,我们就必须确保人们够聪明并且能具有批判性思考,人们需要对他们接收到的信息抱持更多审视。"

2024年2月16日,美国华盛顿大屏幕上播放介绍Open AI发布的新系统"Sora"的广告。(法新社)
2024年2月16日,美国华盛顿大屏幕上播放介绍Open AI发布的新系统"Sora"的广告。(法新社)

Sora 能否突破中国的网络审查?

从另一个角度来看,外界同时关注Sora创作视频的方式能否成为突破中国网络信息审查的媒介,从而帮助民众获取并传播被当局认定为敏感信息的资讯。赫尔曼对此给予了肯定的答复:“可以将文字转变成看起来无害的图像,并以此突破中国防火墙的常规检查。虽然我怀疑中国正在着手对Sora进行应对,但我们依旧需要做好准备,鼓励中国民众使用Sora。"

不过,前新浪微博的内容审核员刘力朋对此则有不同的看法。他在接受本台采访时表示,尽管Sora能协助制作视频,但用户要上传这些视频还是需要经过网络认证以及重重审核,因此中国当局依旧可以严密把控互联网上的言论:“(中国)网络防火墙内的审查与反审查来说,(Sora)不会产生任何影响。因为中国网络审查已经把所有的关卡都卡得很严了,你没办法透过一个简单的工具去改变什么现状,没有什么空间可以让你去发挥。"

刘力朋还表示:“你要发视频的话,还是要通过一个已经实名认证的帐号去发;发出来的视频还是要经过审查,经过视频平台的一审、二审、三审,把它都过完以后才能上线。”

2023年12月8日,美国波士顿一台计算机显示器上显示的OpenAI 徽标以及由ChatGPT的Dall-E 文本到图像模型生成的图像。(美联社)
2023年12月8日,美国波士顿一台计算机显示器上显示的OpenAI 徽标以及由ChatGPT的Dall-E 文本到图像模型生成的图像。(美联社)

专家:中国难以追求科技创新同时进行思想束缚

Sora问世后,网络热议的话题之一集中在了为何中国的科技创新能力日趋落后国际水平。美国纽约美中科技交流协会会长谢家叶就此告诉本台记者,中国缺乏科技创新的根本原因,就在于学童从接受正规教育之初就缺乏思想自由。

谢家叶说:“中国虽然也是叫大家创新,但是事实上,整个教育系统都是给人束缚的,整个社会氛围、政治氛围是不让人家说话的,那怎么会有自由思想呢?你不能说我只希望你在科技上有自由思想,其他东西都不许自由,这是不可能的。"

以上美国学者音频由人工智能代读。

记者:唐缘媛    责编:何平    网编:洪伟

添加评论

您可以通过填写以下表单发表评论,使用纯文本格式。 评论将被审核。