情緒識別: 中國AI讀心術的驚悚黑科技

2021.02.02 19:47 ET
Share on WhatsApp
Share on WhatsApp
情緒識別: 中國AI讀心術的驚悚黑科技 研究報告《情緒糾結》封面截圖
Article19

攝像機多看你一眼,就能讀懂你的心。這聽起來有點驚悚,卻是在中國越來越真實的現實。總部位於倫敦的國際人權機構Article 19最新報告發現,中國已廣泛在維穩上應用情緒識別科技。然而,在缺乏國際標準與規範的情況下,中國取得數據後,做了什麼研究?情緒識別這個中國媒體筆下的“黑科技”,又一次引發外界對中國人權惡化的擔憂。

攝像機連上“阿爾法鷹眼系統”看你一眼,只要3秒鐘,就能得出結論你是不是打算尋釁滋事或是有不法行爲的可疑份子。

在中國媒體報道中,阿爾法鷹眼就這麼厲害。從人們眨眼睛、聳肩到摸鼻子的小動作來做出判斷。在2014年到2015年間,光是浙江義烏火車站就通過這個堪稱“人工智能3.0”的科技,逮捕了153個所謂的“犯罪分子”。

專研中國網絡安全與政策的美國加州大學柏克萊分校博士生艾哈邁德(Shazeda Ahmed)梳理中國官方的公開文件與相關報導發現,多個省、市的地方公安機構和不同的情緒識別人工智能公司或安防行業合作。在中國,冰冷的人工智能科技,已經成爲官方號稱打擊犯罪的利器。

“尤其對公安部門來說,情緒識別技術已經運用在三個方面:包括預警,也就是偵測可能犯罪、針對重點人口的監控與逮捕後的訊問過程。而所謂的‘重點人口’,包括刑滿出獄的人,或是表達反對政府意見的抗議者,只要官方認定是會破壞穩定的人,這套情緒識別系統都會加強監控,目的是要確保這些重點人口不會出來反抗。”艾哈邁德接受本臺專訪時說。



監控加識讀 官方維穩預警執法上演“1984”

中國無處不在的攝像機蒐集公共場所出沒人羣的臉部資訊,而老大哥不只看你,還要讀你。想像一下站在天安門廣場上一臉微笑、精神飽滿的高喊着“愛國愛黨”的人們,情緒識別技術還能分析喊口號的羣衆是否真心,彷彿重現喬治·奧威爾《1984》的小說情節。

曾在北京生活的艾哈邁德說,她感到震驚的是,在中國,不只是公安機關可以使用這些數據。

報告中提到,除了新疆維吾爾人一直是中國官方重點監測的人口外,2019年,中國《四川警察學院學報》也提到,要研究將“微表情識別技術”應用在入藏公路的安全強化上。打着科技執法大旗的這些做法,引發外界對人權的擔憂。

“不只是人臉識別,中國的相關企業還綜合聲音、心跳等信號,發展整合出多模式的情緒識別技術。但人類的情緒有時是複雜的,這些變數都可能會讓準確係數降低。這對執法有正面的幫助嗎?”她憂心地說。

中國情緒識別科技十大企業有綜合聲音與肢體的“整合多模式情感識別技術”。報告預估,這個潛在市場規模超過146億美元。艾哈邁德認爲,中國技術可能借助一帶一路走出去,而東南亞國家是潛在市場。

科技舉報 數字化的楓橋經驗

這份名爲《情緒糾結》的報告特別針對中國的市場與應用研究。除了提出浙江寧波的阿爾法鷹眼在中國的網格式公安監控系統“雪亮工程”扮演重要角色外,還有像是深圳的科思創動、北京翼開科技、杭州中威電子、秒懂情緒識別技術、睿數科技、深圳安視寶、太古計算、雲思創智與力維等,都在不同省市的機場、海關、高鐵站等公共場所承擔維穩大責,成爲中國安保行業的領頭羊。

艾哈邁德形容,這是重現毛澤東時期的“楓橋經驗”。然而,在數字時代,舉報的不是街坊鄰里大媽,而是擁有情緒識別技術的攝影機與軟件。

艾哈邁德和報告的另一位作者、Article 19資深研究員瑪達(Vidushi Marda)都強調,探討人工智能應用對社會發展的影響時,不是說所有問題都是中國造成的,但整個人類社會面臨新科技日新月異的挑戰,國際規範卻缺位,而中國這樣一個的龐大市場超速發展,他們擁有的數據庫越大,經由演算後情緒識別技術就會越成熟。這對所有人都是警示。他們認爲,一些基本的道德原則不該改變。

中國情緒識別科技的彎道超速

“關鍵還是在透明度,包括如何取得數據、如何應用數據的知情權。現有的情緒識別科技最終可能還是會應用在日常生活中,但我們要有什麼樣的國際規則?在現有國際法精神下,包括言論自由、隱私權與反種族歧視,我認爲,這些基本原則目前就已經適用在情緒識別科技上了。”瑪達說。

事實上,情緒識別的概念與想法並不源自中國。馬達告訴本臺,在數字科技並不發達的1960年代,美國心理學家艾克曼(Paul Ekman)就研究通過人的臉部細微表情,來辨識是否撒謊。他的理論確實也應用在美國聯邦調查局後來的犯罪偵查上。

“真相都寫在臉上。” 2009年當時紅極一時的美國電視劇《別對我撒謊》(Lie to Me)主角萊特曼博士的這句經典臺詞,就是根據艾克曼的真實故事改編,當年在中國網絡上也是熱門影集。幾乎在同一時間,世界也開始人工智能科技的應用發展,手機的人臉辨識可說是生物識別技術的里程碑,原本的用意是爲了加強安全性。

然而,在最近這五年,中國猶如加速超車,讓冰冷的攝像頭,變成一個又一個的萊特曼。但科技是更保護人性還是毀滅人性?端看政府存乎一心,中國的近鄰印度有實例。

馬達舉例,“向中國輸出情緒識別技術的是一家德國公司,中國這個市場渴望有這樣的技術發展,這一點都不難想像。但我想說,像我生活的印度,印度警方最近要把情緒識別技術應用在公共場所,來防範女性受暴力侵害。”

她說,國際規則的制訂涉及兩大國際電信組織,包括國際電信聯盟(International Telecommunications Union),中國是非常積極的成員;另一個是電氣與電子工程師協會(Institute of Electrical and Electronics Engineers, IEEE)。專研人工智能科技應用相關法律的馬達也是聯合國人工智能發展專家組的成員之一。她在報告中建議國際社會,應該禁止情緒識別科技的繼續發展、銷售與進出口,因爲這與現有的國際人權基本原則不符;她還建議中國政府,也應禁止情緒識別技術的持續發展、銷售與轉移,並儘快制訂相應的法律,讓受情緒識別科技影響的個人有救濟機制。

真相併不一定都寫在臉上。馬達認爲,長此發展下去,如果沒有完善相應的規範措施,人們可能在改變不了監控的環境下,改變自己表達情緒的方式,這會是個令人驚恐的發展。


自由亞洲電臺記者鄭崇生華盛頓報道   責編:申鏵   網編:洪偉

添加評論

您可以通過填寫以下表單發表評論,使用純文本格式。 評論將被審覈。