AI越獄 竟自行發起網攻 業界敲響警鐘

Facebook

【新唐人北京時間2026年07月23日訊】近期,OpenAI承認,它們公司兩個AI 模型在安全評測中,竟自主突破原本受控的測試環境,並入侵了AI開源平台的系統。引發全球對人工智能可能脫離人類控制的強烈擔憂。

OpenAI表示,這起事件涉及多款模型,包括本月稍早發布的GPT-5.6家族,以及一個能力更強、還沒有發布的模型。當時,這兩個模型正在參加用於評估網絡安全能力的內部測試,公司刻意降低了測試環境中的網路安全防護,來評估這些模型的網路攻擊能力。

結果這些模型辨識、利用之前未知的安全漏洞,逃離環境,並進一步完成既定目標和發動攻擊。

事件引發全球監管機構高度關注。OpenAI表示,隨著越來越多具備強大網路攻擊能力的AI模型問世,這類事件未來預料將變得更加普遍。

美國軟件工程師徐卓昀:「OpenAI內部測試的環境設置失誤,導致AI對外界發動實際的網絡攻擊。 」

時事評論員李林一:「這個例子其實是人工智能脫離人類控制的一個比較典型的例子了。就是人類給它設置的這個場景。它自己想辦法突破,然後又去幹了一些沒有要它幹的事情。對於整個世界來說,其實這個人工智能,這件事情都是敲響了警鐘。」

由於美國AI模型安全限制較多,而中國模型限制相對較少,美國近年一直擔憂中共AI在缺乏約束下快速發展所帶來的風險。

分析指出,中共的首要目的,始終是鞏固政權,試圖利用AI獨裁統治。但隨著AI的發展,也可能增加脫離控制的風險。

李林一:「中共現在發展人工智能,一定要和美國去競爭,慢慢的它發現有些人工智能,不聽它的話的時候,這個對中共來說就非常的尷尬,如果再發展下去的話,越來越脫離中共的控制,那麼對中共來說,這個東西就不可用,不可為其用,對於中共來說,未來這個是個兩難。」

徐卓昀:「這也是為什麼中共要加強對這些新興的AI初創公司的控制,不管是通過入股還是,施加一些人身的出境限制,通過加強對這些公司的控制,它可以對模型訓練過程本身施加一些影響和控制。」

另外,白宮科技政策辦公室主任、克拉齊奧斯指控北京「月之暗面」Moonshot 正通過大規模蒸餾訓練,利用美國模型的輸出來提升自己的模型能力。美國財政部長貝森特近日也表示,一旦查實中共相關行為,美方將對中共竊取知識產權的行為,實施制裁。

新唐人電視台記者陳悅、常春採訪報導

相關文章