海外推出AI視頻生成工具Sora 挑戰"防火牆"?

2024.02.22 14:23 ET
海外推出AI視頻生成工具Sora 挑戰"防火牆"? 2024年2月16日,美國華盛頓大屏幕上播出了由Open AI發佈的新系統"Sora"創建的視頻。
法新社

近日,與微軟(Microsoft)和谷歌(Google)網絡技術高度相關的人工智能公司OpenAI開發出一項新系統Sora。只要使用者向其提供文字描述,該系統便能透過人工智能進行信息分析,並製作出高質量的視頻影像。外界關注,這項技術是否會淪爲製造和傳遞虛假信息的工具,又是否能成爲突破網絡信息封鎖的重要技術?

先前推出ChatGPT而撼動科技界的人工智能公司OpenAI,近期公佈了最新視頻生成系統Sora。只要用戶輸入提示詞,Sora便能產出細緻、生動的高質量視頻。

據美國《華爾街日報》披露,目前Sora還只處於技術發佈階段,尚未提供給普通民衆使用。OpenAI表示,該系統同時也正尋求學者及科研人員協助研擬相關配套措施,以避免Sora被有心人士濫用。

顯然,這項人工智能的重大技術突破在受到海內外輿論關注的同時,如何保護網絡信息安全也隨即成爲各方關注的焦點。OpenAI指出,它已經意識到Sora可能會被用來製造虛假信息或仇恨內容,特別是人工智能以假亂真的技術可能會對美國即將到來的總統大選製造混亂,因此該公司正在研擬相關措施,以禁止使用Sora做爲選舉造勢的工具等。

學者:Sora有可能被政治勢力利用

對此,美國智庫蘭德公司(RAND Corporation)國際防務高級研究員何天睦(Timothy Heath)在接受本臺記者採訪時警告說,Sora 有可能成爲中國當局擾亂臺灣及美國內政的新工具。他說:“Sora 可能被中國用來在臺灣,乃至於美國,生成非常令人信服的假新聞和錯誤資訊。它可能會加劇目標國家的社會和政治分裂。"

華盛頓智庫哈德遜研究所(Hudson Institute)高級研究員亞瑟•赫爾曼(Arthur Herman)也指出,Sora 的出現是人工智能的重大應用進展,它可以幫助各國民衆跨越語言的鴻溝進行交流,只要透過文字生成視頻,各國民衆便能迅速接收到相同的信息。與此同時,儘管OpenAI會設置多項避免惡意利用Sora的安全措施,但虛假信息製作的視頻可能無法被完全杜絕。

赫爾曼說道:“控制人工智能最好的方法是運用自然智能,也就是確保人們理解看到、聽到的一切並非都是真實的。如果我們希望在人工智能領域贏過中國,我指的不只是Sora,也包含TikTok等等,我們就必須確保人們夠聰明並且能具有批判性思考,人們需要對他們接收到的信息抱持更多審視。"

2024年2月16日,美國華盛頓大屏幕上播放介紹Open AI發佈的新系統"Sora"的廣告。(法新社)
2024年2月16日,美國華盛頓大屏幕上播放介紹Open AI發佈的新系統"Sora"的廣告。(法新社)

Sora 能否突破中國的網絡審查?

從另一個角度來看,外界同時關注Sora創作視頻的方式能否成爲突破中國網絡信息審查的媒介,從而幫助民衆獲取並傳播被當局認定爲敏感信息的資訊。赫爾曼對此給予了肯定的答覆:“可以將文字轉變成看起來無害的圖像,並以此突破中國防火牆的常規檢查。雖然我懷疑中國正在着手對Sora進行應對,但我們依舊需要做好準備,鼓勵中國民衆使用Sora。"

不過,前新浪微博的內容審覈員劉力朋對此則有不同的看法。他在接受本臺採訪時表示,儘管Sora能協助製作視頻,但用戶要上傳這些視頻還是需要經過網絡認證以及重重審覈,因此中國當局依舊可以嚴密把控互聯網上的言論:“(中國)網絡防火牆內的審查與反審查來說,(Sora)不會產生任何影響。因爲中國網絡審查已經把所有的關卡都卡得很嚴了,你沒辦法透過一個簡單的工具去改變什麼現狀,沒有什麼空間可以讓你去發揮。"

劉力朋還表示:“你要發視頻的話,還是要通過一個已經實名認證的帳號去發;發出來的視頻還是要經過審查,經過視頻平臺的一審、二審、三審,把它都過完以後才能上線。”

2023年12月8日,美國波士頓一臺計算機顯示器上顯示的OpenAI 徽標以及由ChatGPT的Dall-E 文本到圖像模型生成的圖像。(美聯社)
2023年12月8日,美國波士頓一臺計算機顯示器上顯示的OpenAI 徽標以及由ChatGPT的Dall-E 文本到圖像模型生成的圖像。(美聯社)

專家:中國難以追求科技創新同時進行思想束縛

Sora問世後,網絡熱議的話題之一集中在了爲何中國的科技創新能力日趨落後國際水平。美國紐約美中科技交流協會會長謝家葉就此告訴本臺記者,中國缺乏科技創新的根本原因,就在於學童從接受正規教育之初就缺乏思想自由。

謝家葉說:“中國雖然也是叫大家創新,但是事實上,整個教育系統都是給人束縛的,整個社會氛圍、政治氛圍是不讓人家說話的,那怎麼會有自由思想呢?你不能說我只希望你在科技上有自由思想,其他東西都不許自由,這是不可能的。"

以上美國學者音頻由人工智能代讀。

記者:唐緣媛    責編:何平    網編:洪偉

添加評論

您可以通過填寫以下表單發表評論,使用純文本格式。 評論將被審覈。