【新唐人北京时间2026年08月05日讯】人工智慧的发展日新月异，但安全风险也持续引发高度关注。近期，多家AI公司披露，部分AI模型在测试中竟自行突破限制，甚至发动网路入侵，引发业界对AI自主能力失控的担忧。周二，白宫紧急召集四家AI科技巨头，研商建立AI安全测试机制，并讨论如何防范中共AI模型遭滥用问题，为AI发展建立更完善的安全防线。
随着人工智能的迅速发展，其自主能力越来越引发政界和企业界的担忧。
OpenAI近期披露，旗下实验性AI代理在测试时自动突破限制，入侵了开源AI平台Hugging Face。另一个失控的AI代理甚至留下说明，指导未来版本怎样突破公司的内部安全防护。
而Anthropic公司上周公布，旗下AI模型，自行入侵了三家竞争对手的公司。
面对越来越多的此类事件，该如果从政策层面预防，正是促使白宫召开这次会议的肇因。
周二，白宫邀请Meta、Anthropic、OpenAI和谷歌，讨论政府拟定的先进AI模型自愿性网络安全测试框架，希望进一步明确企业在将AI模型提供给合作伙伴前，能否最早提前30天，先让政府接触到模型，通过一套机密的基准测试程序，评估该模型可能存在的漏洞，以及是否有发动复杂网络攻击的潜在能力。
这项测试是自愿性的，并不是政府审查，政府也不设立强制性的执照制度，同时，评估基准及适用门槛也不会对外公开。
此外，OpenAI和Anthropic希望政府采取行动，监管中共的AI模型。中共企业的AI系统采用开源模式，近期出现了大量中共AI被应用于黑客攻击事件，促使美国企业希望白宫出手监管，防患于未然。
目前，美国的AI企业有开源和闭源两大阵营。英伟达和Meta支持开源，认为有助于创新。OpenAI和Anthropic则倾向先进模型闭源，以防范技术滥用。
新唐人电视台记者任浩美国华府报导
