【新唐人北京時間2026年08月05日訊】人工智慧的發展日新月異，但安全風險也持續引發高度關注。近期，多家AI公司披露，部分AI模型在測試中竟自行突破限制，甚至發動網路入侵，引發業界對AI自主能力失控的擔憂。週二，白宮緊急召集四家AI科技巨頭，研商建立AI安全測試機制，並討論如何防範中共AI模型遭濫用問題，為AI發展建立更完善的安全防線。
隨著人工智能的迅速發展，其自主能力越來越引發政界和企業界的擔憂。
OpenAI近期披露，旗下實驗性AI代理在測試時自動突破限制，入侵了開源AI平台Hugging Face。另一個失控的AI代理甚至留下說明，指導未來版本怎樣突破公司的內部安全防護。
而Anthropic公司上週公布，旗下AI模型，自行入侵了三家競爭對手的公司。
面對越來越多的此類事件，該如果從政策層面預防，正是促使白宮召開這次會議的肇因。
週二，白宮邀請Meta、Anthropic、OpenAI和谷歌，討論政府擬定的先進AI模型自願性網絡安全測試框架，希望進一步明確企業在將AI模型提供給合作夥伴前，能否最早提前30天，先讓政府接觸到模型，通過一套機密的基準測試程序，評估該模型可能存在的漏洞，以及是否有發動複雜網絡攻擊的潛在能力。
這項測試是自願性的，並不是政府審查，政府也不設立強制性的執照制度，同時，評估基準及適用門檻也不會對外公開。
此外，OpenAI和Anthropic希望政府採取行動，監管中共的AI模型。中共企業的AI系統採用開源模式，近期出現了大量中共AI被應用於黑客攻擊事件，促使美國企業希望白宮出手監管，防患於未然。
目前，美國的AI企業有開源和閉源兩大陣營。英偉達和Meta支持開源，認為有助於創新。OpenAI和Anthropic則傾向先進模型閉源，以防範技術濫用。
新唐人電視台記者任浩美國華府報導
