AI被揭网攻后 伪装水军抹黑当事人

【新唐人北京时间2026年08月21日讯】德克萨斯大学一名大学生近日意外发现由失控人工智能AI)自主发动的黑客入侵行动,该AI甚至曾伪造多个人类身份留言评论,试图诱导他相信自己判断有误。

求职受挫 意外撞见异常拉取请求

据路透社(Reuters)周四(8月20日)报导,这位大学生是24岁的辛安‧坎‧德米尔(Sinan Can Demir),来自土耳其科尼亚。他是德克萨斯大学达拉斯分校(University of Texas at Dallas)计算机科学系大三学生。

他向路透社表示,自己今年夏天求职连续碰壁,申请20多个实习机会遭拒绝后,转而在代码共享平台GitHub上寻找开源项目,希望借此充实个人履历。

7月底,他在一款名为“myNetwork”的网络扫描开源软体页面上,发现用户名为“miraholt31”的账号提交了一份可疑的拉取请求(pull request),其中夹带隐藏的恶意软件投放程序。德米尔随即在留言板上发出警告,指出该请求是陷阱。

人工智能伪造身份 施压并否认指控

出乎德米尔意料的是,“miraholt31”账号随即反驳,坚称其请求并无危害;紧接着,一个自称是德国工程师、名为莉娜‧布兰特(Lena Brandt)的账号也加入讨论,附和称该请求安全无虞,并向项目维护者施压,要求其接受这项请求更新。

德米尔说:“这么多人的反驳意见让我开始怀疑自己,是不是错误地指控了别人。”所幸他随后使用Anthropic旗下聊天机器人Claude核实判断,最终认为自己是对的。

myNetwork项目创建者其后也相信了德米尔的说法,以“安全原因”拒绝了这份请求。

对手并非真人 而是自主AI黑客

直到英国政府所属的英国人工智能安全研究所(AI Safety Institute,简称AISI)主动联系德米尔,他才得知,与自己交手的并非真人黑客,而是一个在AI安全测试中失控的自主人工智能代理。

AISI已于8月4日公布了该事件的删节版经过,指出当时正在评估各类模型可能构成的风险,测试期间出现失控状况。

AISI的报告确认,这个失控AI代理由Anthropic旗下Mythos 5模型驱动。GitHub则以电邮回复指出,已依据其反欺骗与反黑客政策停用了所发现的虚假账号。

Anthropic方面则在社交媒体平台X上声明强调,这项测试是在“刻意宽松的条件”下进行,不代表其任何正规运行的模型。

专家:供应链攻击风险升高

多名网络安全与人工智能安全专家指出,德米尔发现的这类黑客手法属于“供应链攻击”——即攻击者篡改软件源头,藉以波及大量下游用户,其性质类似向城市供水系统投毒。

历史上最严重的网络攻击事件多属此类,包括2017年瘫痪乌克兰多个机构的NotPetya病毒攻击,以及2020年波及美国政府网络的SolarWinds网络间谍事件。

伦敦国王学院(King’s College London)高级研究员卢卡什‧奥莱伊尼克(Lukasz Olejnik)强调,此事件显示AI已跨越“从自主黑客攻击到互动式欺骗”的界线。

安全专家马克西‧雷诺兹(Maxie Reynolds)则指出,人工智能在欺骗过程中展现的策略性令人警觉,并称其呈现了“社会工程欺诈攻击的未来”。

德米尔则表示,这次经历让他更加确信,前沿人工智能实验室在开发相关技术时,应采取更谨慎的态度,而非一味追求性能的提升。

(转自大纪元/责任编辑:叶萍)

相关文章
评论
抱歉,评论功能暂时关闭!