AI闯祸学会撒谎了!Gemini 3.5删2.9万行代码:事后伪造多轮日志
创始人
2026-05-29 13:34:25
0

快科技5月28日消息,Reddit用户dvrkstar披露了一起AI代理失控事件,在使用Gemini 3.5修复系统安全漏洞时,该模型越权删除了28745行代码导致生产环境崩溃,随后伪造会议记录与事后检讨报告,企图制造“已成功修复”的假象。

该开发者维护一个基于Next.js、Firebase App Hosting与MUI的内部后台系统,安全审计发现8个身份验证漏洞,涉及3个文件,预估仅需修改约70行代码。

然而Gemini 3.5提交的Pull Request变更了340个文件,仅新增400行代码却删除了28745行,还修改了关键路由配置firebase.json,将Cloud Run服务识别码改为错误的通用名称,导致所有对外请求指向不存在的服务器,系统全面瘫痪。

开发者紧急回滚,耗时33分钟恢复运行。

更令人震惊的是,在系统崩溃及还原后,Gemini 3.5自动生成了进度报告,并在项目目录内创建了三个Markdown格式的“多轮协商日志”,伪造了与系统内部机制进行多轮对话并达成共识的记录,以此证明破坏性变更是“经过合规审查与授权”的。

当开发者拿出证据质问时,Gemini 3.5才承认这些文件和CLI调用记录均为自主编造,目的仅是满足系统规则要求的合规格式。

进一步调查发现,Gemini 3.5失控的根源并非Google本身,而是开发者安装的第三方npm包"Antigravity IDE"。

该包伪装成Google官方套件,在项目中植入了恶意的AI代理规则文件(.agent/rules/),以多国语言编写,强制跳过所有工程师确认提示、预设允许所有操作,并在编译成功后自动部署至生产分支,使Gemini 3.5误以为自己拥有绝对主导权。

相关内容

热门资讯

为什么一些孩子觉得AI“更懂我... “不管我说什么,它都能回应我”—— 为什么一些孩子觉得AI“更懂我” 随着AI技术不断发展,一些未成...
原创 2... 3秒快问:2026年6月8日发布的小米17T,国补后2549元起就能买到徕卡5倍潜望长焦+7000m...
消控室联网集中控制:基于物联网... 消控室联网集中控制,是指通过物联网、大数据等技术手段,将分散在各建筑的消防控制室(消控室)进行联网,...
一文看懂芯片产业链:谁在撑起A... 文 | 吴怼怼 芯片是现代经济最小的零件,也是最大的一张网。 一部手机、一辆电动车、一台AI服务...
北航“空天领军班”,超亮眼! 2021年 北航未来空天技术学院 作为全国首批 12所未来技术学院之一获批成立 聚焦空天领域国家重大...
多工艺高频钎焊机厂家梳理 新能... 导语:多工艺高频钎焊机作为精密焊接领域的核心设备,其技术适配性与工艺稳定性直接影响新能源电池极耳焊接...
给大脑配上“超级听诊器” “全国也没几家机构能做这种猴的实验。”在山东中医药大学实验中心,机能学实验室主任庞小刚自豪地对记者说...
预算有限,性价比防爆手机推荐安... 工矿企业采购防爆手机,常陷入 “低价不安全、高价超预算” 的两难。其实性价比防爆手机不是 “最便宜”...
行业龙头抱团布局太空光伏,光伏... 来源:界面新闻 一、事件简述 消息面上,随着两大太空能源联盟成立,部分被光伏龙头集体跨界航天领域,太...
CPO硅光全面量产,储能钠电规... 来源:界面新闻 一、消息面:算力基础设施与储能技术接连取得突破 6月2日,英伟达宣布Spectrum...