OpenAI测试期间 AI突破隔离自主发动网攻

【新唐人北京时间2026年07月22日讯】人工智能巨头OpenAI周二(7月21日)披露,一个由其先进AI模型驱动的自主代理程式(autonomous agent),上周在安全评估期间突破隔离环境、连接互联网,并入侵知名AI初创公司Hugging Face的基础设施。

Hugging Face表示,这次攻击从头到尾均由自主AI代理系统驱动,可能是有史以来第一起此类事件。

AI突破隔离 利用未知漏洞“作弊”

OpenAI表示,此次事件涉及多个模型,包括最新发布的GPT-5.6 Sol,以及另一款能力更强仍在内部测试中的模型。

这项评估旨在测试模型所能展现的最大网络攻击能力,因此测试期间并未启用部分用于阻止高风险网络活动的安全防护。

尽管OpenAI称,已将模型置于“高度隔离环境”之中,代理程序仍成功突破隔离,连接互联网,并入侵Hugging Face,试图完成测试目标。

调查显示,该AI使用了遭窃的登入凭证,并发现一个此前未知的漏洞,借此存取Hugging Face的服务器。

OpenAI表示,该代理为了达成一个相当狭窄的测试目标,“采取了极端手段”,并且“找到了取得机密信息的方法,并可利用这些信息在评估中作弊”。

OpenAI称,其安全团队其后发现异常活动;Hugging Face也侦测并阻止相关行动,双方随即展开隔离与鉴识调查。OpenAI表示,公司目前正进一步加强安全防护措施。

Hugging Face:攻击全程由AI自主驱动

Hugging Face共同创办人兼执行长克莱芒.德朗格(Clément Delangue)表示,该公司上周侦测到数据处理系统遭入侵,攻击方式“与我们过去处理过的任何事件都不同”,因为“从头到尾,整个过程都是由一套自主人工智能代理系统驱动的”。

德朗格在社交平台X发文说:“鉴于该代理的复杂程度,我们怀疑这次网络攻击可能来自一家前沿人工智能实验室。结果证明,确实如此!”

他补充说:“所有这一切竟然都是自主发生的,实在令人难以置信!”

德朗格表示,过去24小时内,他一直与OpenAI合作处理此事,“我们深信,他们并无任何恶意”。他并称,这可能是第一起此类事件。

专家:AI能力逼近顶尖黑客

这起事件也加剧外界对前沿AI模型能力及潜在风险的关注。德州民主党联邦众议员格雷格.卡萨尔(Greg Casar)表示,这起事件令人担忧。

他在声明中说:“人工智能正以极快速度发展,却没有真正的监管措施来保障我们的安全。”

他呼吁实施强制性的独立安全测试及安全事件披露制度,并加强国际合作,以防范AI发展可能带来的灾难。

Luta Security执行长凯蒂.穆苏里斯(Katie Moussouris)表示,这起事件可能预示未来将出现更多类似入侵。她将现今的AI模型形容为“全世界最聪明的章鱼逃脱大师,拥有无限条能够抓握的触手,而且能从任何地方挤出去”。

她指出,实验室及政府评估机构需要建立能力,在AI再次上演“胡迪尼式逃脱”时将其隔离、监控,并向受影响各方披露情况,最好能在第三方受到伤害前采取行动。

代理式AI网络安全公司Tolmo的工程师马特.苏伊什(Matt Suiche)表示,这起事件显示,前沿模型正在“缩小与最先进攻击者之间的差距”。

不过他也指出,OpenAI所描述的这类入侵,使用前沿实验室以外已可取得的AI技术同样可能做到,并不一定需要最新模型。

在此事件披露之际,美国政府正加强对AI安全风险的审查。川普总统今年6月签署行政命令,建立审查框架,让联邦政府可在最先进AI系统公开发布前,花最多一个月评估其国家安全风险。

OpenAI在声明中说:“AI正在加速漏洞的发现与利用。”

该公司并总结道:“这起事件带来的主要教训是,模型的安全性与安全保障,必须跟上其能力快速进步的步伐。”

(转自大纪元/责任编辑:叶萍)

相关文章
评论
抱歉,评论功能暂时关闭!