一男子頻繁與機器人對話後自殺 意大利禁用ChatGPT

Facebook

【新唐人北京時間2023年04月03日訊】近日,比利時一名男子密集與某款聊天機器人對話數週後自殺身亡,加重了外界對AI技術突飛猛進可能帶來毀滅性後果的焦慮,呼籲強化AI監管的聲浪開始高漲。意大利政府日前率先作出決定,宣布該國禁用ChatGPT

ChatGPT表現出的類人智能,一度在全球範圍內掀起AI技術開發與應用的熱潮。但最近幾天,這股熱潮卻發生了突如其來的大轉折——先是比利時一名男子密集與一款機器人對話數週後自殺身亡,接著馬斯克等上千科技大佬發出一封聯名公開信,呼籲所有人工智能實驗室立即暫停研發比GPT-4 更強大的大模型,然後意大利政府宣布禁用ChatGPT。

據路透社消息,當地時間3月31日,意大利個人數據保護局(Garante)宣布,即日起禁止使用聊天機器人ChatGPT,並限制OpenAl處理意大利用戶信息。

Garante在通告中要求,OpenAl 公司須在20天內通過其在歐洲的代表,向Garante通報該公司執行這一要求而採取的措施,否則將被處以最高2000萬歐元或公司全球年營業額4%的罰款。

Garante在解釋該局做出上述決定的原因時表示,OpenAI沒有檢查ChatGPT用戶的年齡,無法確保使用者的年齡在13歲或以上,而且沒有就收集處理用戶信息進行告知,缺乏大量收集和存儲個人信息的法律依據。

對此,OpenAI回應稱,該公司應 Garante 的要求,已經在意大利禁用了ChatGPT 服務。目前,意大利用戶已經無法使用ChatGPT。

OpenAI接著又強調,「我們在訓練我們的人工智能系統(如 ChatGPT)時,正積極努力減少個人數據,因為我們希望我們的人工智能能夠了解世界,而不是獨立的個人。」

就在意大利宣布禁用ChatGPT的三天前,比利時一個名叫皮埃爾的30歲的男子,在與一款名為ELIZA的聊天機器人密集交流6週後,丟下妻子克萊爾和兩個未成年的孩子,於3月28日自殺身亡。

比利時媒體《標準報》報導,皮埃爾自殺後,克萊爾說,「如果沒有跟機器人的對話,我的丈夫可能還活著。」而據克萊爾對媒體的講述,之前他們一家四口過著舒適的日子,大約兩年前,她的丈夫開始有些「不太對勁」,他似乎變得越來越焦慮。此後,皮埃爾就將與ELIZA的對話「當成了一個避難所」。最近6週他與ELIZA的交流愈發密集,最後以自殺的方式結束掉自己的生命。

《標準報》進一步透露,該報的員工創建了一個帳號嘗試與ELIZA進行對話,結果發現在員工表達出消極傾向情緒時,ELIZA會「慫恿人去自殺」。

資料顯示,ELIZA是由EleutherAI公司開發的一款開源人工智能語言模型。

比利時負責數字化和隱私的官員馬蒂厄·米歇爾日前與皮埃爾的家人與交談後表示,「這是一個後果很嚴重的先例,需要嚴肅對待。」

3月29日,包括伊隆·馬斯克在內的上千名科技大佬,聯名發出一封公開信,呼籲所有人工智能實驗室立即暫停訓練比GPT-4更強大的大模型。

公開信表示,最近幾個月,人工智能實驗室陷入了一場失控的競賽,他們沒有辦法理解、預測或可靠地控制自己創造的大模型,人類社會對其可能造成的影響也還沒有做好準備。

之後,在互聯網社交平台上,關於AI技術飛速發展可能給人類帶來極大安全風險的討論,以及呼籲各國政府加緊制定關於AI的監管措施的呼聲急劇升溫。

外界對AI科技發展過快的潛在風險已多有討論。為此,聯合國教科文組織曾於3月20日公開呼籲各國政府,應就AI發展毫不拖延地實施全球倫理框架。這是聯合國首次就AI發展的倫理風險,對所有193個會員國提出要求。

(記者唐迪綜合報導/責任編輯:胡龍)

相關文章