【禁聞】中國聊天機器人上線 敏感話題終止回答

Facebook

【新唐人北京時間2023年09月02日訊】8月31日,中國8款人工智慧聊天機器人應用程式正式上線。但外界發現,在向這些機器人提出政治敏感話題時,聊天就會被迫中止。

8月31日起,中國11家通過中共網信辦7月公告的《生成式人工智慧服務管理暫行辦法》備案的大模型機器人產品陸續上線,並面向全社會開放。

北京5家大模型機器人產品分別是百度的「文心一言」、抖音的「雲雀」、百川智能的「百川大模型」、清華系AI公司智譜華章旗下的「智譜清言」和中科院的「紫東太初大模型」。

上海3家大模型機器人產品包括商湯的「商量SenseChat」、MiniMax的「ABAB大模型」、上海人工智慧實驗室的「書生通用大模型」。

多家陸媒報導稱,華為、騰訊,科大訊飛、360等科技公司的類似產品之後也將陸續開放。

台灣兩岸政策協會研究員、政治學博士吳瑟致:「中國它所做出來的這些東西,透過AI能夠強化它數位控制的一個能力,然後透過這些方式來去符合它的統治上的需求。它所建立的系統絕對會跟民主國家,或是民主社會所建立的AI系統是有很大的差距的。」

當天晚上,聊天機器人「文心一言」APP在蘋果和安卓應用商店率先上線,用戶可以通過對話生成文字和圖片。

但德國之聲在試用時發現,在與其對話時,如果輸入「維吾爾族」「中國青年失業率」等敏感話題時,系統就會終止對話。

澳大利亞華裔學者張小剛:「就是說這個專制政權有這種能力,集中人力、物力去做一件事情,看上去很有效率。但是因為它要防這個、防那個,怕民眾有這個想法、有那個想法,然後東西出來以後,又怕人們運用的時候能夠又反過來去對付它,所以它就會有很多的限制,很多的框框條條,所以最終的結果是效率很低。」

台灣兩岸政策協會研究員、政治學博士吳瑟致指出,中共是在透過新的AI技術加強社會管控。

吳瑟致:「另外一個層面就是說,中共也希望透過AI系統來樹立它的一個標準化。那麼它希望透過自己的AI研發技術,或是說AI研發的成果來建立一套全球的標準化的一個作業。如果是這樣子的話,其實這個就會影響到全球秩序的運作。」

今年3月,百度「文心一言」曾被外界批評是技術不成熟的產品,尤其是AI生成的繪圖功能鬧出了不少笑話。

旅美政經分析人士秦鵬:「有一些人懷疑,百度『文心一言』的算法或圖庫背後,是不是有美國的啊?因為在一些圖片生成上,露出了一些馬腳,比如你讓它畫『一隻愛國的貓』,出現的是頭頂美國國旗的貓咪。所以,小度,你到底愛的誰的國呢?」

張小剛:「我當時也有這麼一個疑問,『文心一言』它這麼快發展出來,它是不是完全是自己的東西?而它只是做了一個介面,中間用真正的ChartGPT去做它後面真正的這個運算、回答的東西,然後通過這個『文心一言』來表現出來,那麼從中它可以去過濾掉一些它不喜歡的東西。」

當時有網友懷疑,「文心一言」和漢芯、鴻蒙一樣,有套殼、畫皮、造假的嫌疑。

張小剛:「類似這種事情以前是發生過的。因為國內的商業的這種環境,它確實是有一種不管知識產權,所以很多人就說百度就是山寨的谷歌,還有什麼東西去山寨國外的東西,這個現象已經很多了,所以大家有這種猜想。」

百度方面的回應則堅稱,「文心一言」完全是百度自己研發的大語言模型。

張小剛:「這個雖然開放了,但是更多的我們看到它是靠這種偷啊,或者用別人的這個技術,對知識產權的侵犯,來獲得的這個進步。而真正的能夠有原創的還是相當少,而且還是非常有限制。」

吳瑟致則提醒說,AI系統的可塑性非常高,國際社會應該警惕中共發展AI等高科技技術帶來的全球影響力。

編輯/孟心琪 採訪/常春 後製/鐘元

相關文章