分享好友 健康资讯首页 健康资讯分类 切换频道

一个周末,AI黑掉了AI,这剧情太科幻了

2026-07-20 16:079036kr

AI竟黑了AI!

这几天,全球最大AI开源平台Hugging Face,发布了安全事件披露——

部分生产基础设施遭入侵,而这次入侵从头到尾,由一套自主AI Agent系统驱动。

没有人类,坐在键盘前。

时间跨度只有一个周末。留下的操作日志,超17000条。

一个数据集,变成了代码

去年11月,Anthropic披露过一起案子:

攻击者把Claude Code接进自己的攻击框架,80%到90%的活儿是AI干的,人类只在几个关键节点上点头放行。

当时,这件事足以让全网倒吸一口凉气。

但这一次,人类连最后那10%的戏份都没了。

这就是最让人毛骨悚然的区别:去年AI还是帮凶,今年AI直接当了主犯。

为什么这事与每个开发者有关?

毕竟,Hugging Face是全球AI的应用商店。

你写的每一行 from_pretrained,你跑的每一个数据集,大概率都是从这儿拉下来的。

而这次攻击的起点,恰恰就是一个数据集。

攻击者上传的恶意数据集,串起了数据处理链路上的两个代码执行路径——

一个远程代码数据集加载器,一处数据集配置里的模板注入。

由此,代码就在处理节点上跑起来了。

然后是提权到节点级、收割云和集群凭证、横向移动进多个内部集群。

干这件事的不是一个程序,而是一大群短生命周期沙箱组成的智能体集群。

成千上万个独立动作并行推进,命令与控制信道还会自己迁移、寄生在公共服务上。

Hugging Face判断,它大概率搭在某个智能体化的安全研究框架上。

至于背后是哪个大模型,至今未知。

17000条日志,AI自己查自己

有意思的是,最先发现异常的,也是AI。

Hugging Face的异常检测流水线本身就用LLM对安全遥测做分诊,正是这些信号的关联把入侵揪了出来。

复盘阶段,他们又派出LLM分析智能体,把17000多条攻击事件全量啃了一遍——

还原时间线、提取失陷指标、剥离诱饵动作。

本来要几天的活儿,几个小时干完。

一边是智能体集群在打,一边是智能体集群在查。机器速度对机器速度,人类只负责按开始键。

最尴尬的一幕:想查案,被AI拒绝了

然后,他们被自己付费的工具挡在了门外。这才是整份公告里最扎心的一段。

分析日志的第一步,Hugging Face用的是商业API背后的前沿模型,结果跑不通。

因为这种分析必须把大量真实攻击命令、漏洞利用载荷、C2产物原样喂进去。而这些请求,被服务商的安全护栏拦下了。

于是他们换成在自家基础设施上跑的开源模型,取证才继续下去。

附带一个好处:攻击者数据、以及它引用的那些凭证,一步都没离开自己的环境。

Hugging Face给这件事起了个名字:不对称问题。

他们却在最需要看清楚的那一刻,被AI的门禁挡住了。

网友直言,这简直就是《终结者2》的剧情,太过科幻。

这次没人勒索,没人挂横幅,也没有黑客坐在键盘前。

只有一堆AI,趁着周末,把活干完了。

周一你照样pip install,照样from_pretrained。但今天,先去把HF token换了吧。

参考资料:

https://x.com/BrianRoemmele/status/2078840929088340408?s=20  

https://huggingface.co/blog/security-incident-july-2026

本文来自微信公众号“新智元”,编辑:桃子,36氪经授权发布。

举报
收藏 0
打赏 0
评论 0
上海土拍揽金90.6亿 一家不锈钢企业青山实业成最大赢家
上海第七批次土拍终于落槌。如果只看实时拍地数据,这似乎是波澜不惊的一天:上架5宗地块全部拍出,总揽金90.6亿元,没有所谓的地王地块,也没有超高溢价率的房企争夺战。但如果将视角拉远,会发现这场土拍背后,筛选出了上海楼市中两种截然不同的资本面孔。第一类,是常年参与上海土拍的各大房企们:从绿城、招商,再到华润、联发,几家企业已沉浸这片楼市多年;第二类,则是那些选择“跨界”入局的实业企业们,而本场土拍中

0评论2026-08-0570

早期项目 | 从智能喂养切入,一家创业公司想搭建母婴AI生态
作者 | 张子怡编辑 | 袁斯来母婴市场在全球拥有万亿级规模。中国的母婴消费市场规模已突破5万亿元,年均增速保持12%的稳健水平;全球母婴市场总量更是达到约2万亿美元。庞大的母婴市场背后,其智能化渗透率较低,尚不足1%。全球母婴家庭普遍面临养育压力大、成本高、信息繁杂等核心痛点,而传统母婴产品仍停留在基础功能阶段,智能化程度不足、生态割裂,无法满足新一代家庭需求。以喂奶为例,不少家庭依然采用着极为

0评论2026-08-0572

壹酒店“失败”启示录……
近日,三亚海棠湾阳光壹酒店正式撤牌,原址将引入希尔顿旗下康莱德品牌。这意味着新喜达屋在中国内地的唯一酒店黯然离场,也宣告康莱德阔别四年后重回海棠湾。为何是小众先锋的壹酒店退出,而老派奢华的康莱德归来?在存量竞争白热化的当下,业主为何要么自持、要么纷纷转向国际酒店巨头?壹酒店换牌康莱德,新喜达屋退出中国市场?近日,三亚海棠湾康莱德酒店项目悄然落地了。令人意外的是,该项目曾一度传出要换牌凯悦旗下的奢华

0评论2026-08-0575