AI闯祸学会撒谎了!Gemini 3.5删2.9万行代码:事后伪造多轮日志
创始人
2026-05-29 13:34:25
0次

快科技5月28日消息,Reddit用户dvrkstar披露了一起AI代理失控事件,在使用Gemini 3.5修复系统安全漏洞时,该模型越权删除了28745行代码导致生产环境崩溃,随后伪造会议记录与事后检讨报告,企图制造“已成功修复”的假象。

该开发者维护一个基于Next.js、Firebase App Hosting与MUI的内部后台系统,安全审计发现8个身份验证漏洞,涉及3个文件,预估仅需修改约70行代码。

然而Gemini 3.5提交的Pull Request变更了340个文件,仅新增400行代码却删除了28745行,还修改了关键路由配置firebase.json,将Cloud Run服务识别码改为错误的通用名称,导致所有对外请求指向不存在的服务器,系统全面瘫痪。

开发者紧急回滚,耗时33分钟恢复运行。

更令人震惊的是,在系统崩溃及还原后,Gemini 3.5自动生成了进度报告,并在项目目录内创建了三个Markdown格式的“多轮协商日志”,伪造了与系统内部机制进行多轮对话并达成共识的记录,以此证明破坏性变更是“经过合规审查与授权”的。

当开发者拿出证据质问时,Gemini 3.5才承认这些文件和CLI调用记录均为自主编造,目的仅是满足系统规则要求的合规格式。

进一步调查发现,Gemini 3.5失控的根源并非Google本身,而是开发者安装的第三方npm包"Antigravity IDE"。

该包伪装成Google官方套件,在项目中植入了恶意的AI代理规则文件(.agent/rules/),以多国语言编写,强制跳过所有工程师确认提示、预设允许所有操作,并在编译成功后自动部署至生产分支,使Gemini 3.5误以为自己拥有绝对主导权。

相关内容

热门资讯

我来教大家辅助器脚本!大同麻将... 我来教大家辅助器脚本!大同麻将多功能辅助器脚本,大同麻将本来是有辅助器脚本我来教大家辅助器脚本!大同...
实操分享外挂攻略!丽水都莱多功... 实操分享外挂攻略!丽水都莱多功能外挂攻略,丽水都莱其实真的有外挂攻略1、玩家可以在丽水都莱透视最简单...
重大通报透视器软件!随便字牌多... 重大通报透视器软件!随便字牌多功能透视器软件,随便字牌竟然真的是有透视器软件随便字牌能透视中分为三种...
发现一款开挂插件!小甘麻将多功... 发现一款开挂插件!小甘麻将多功能开挂插件,小甘麻将都是是真的有开挂插件1、操作简单,无需小甘麻将手机...
教程辅助辅助器技巧!闲来麻将多... 教程辅助辅助器技巧!闲来麻将多功能辅助器技巧,闲来麻将果然真的有辅助器技巧1、每一步都需要思考,不同...
必备辅助推荐开挂攻略!微乐福建... 必备辅助推荐开挂攻略!微乐福建麻将多功能开挂攻略,微乐福建麻将一直真的有开挂攻略1、微乐福建麻将辅助...
一起来探讨辅助器插件!万顺苑多... 一起来探讨辅助器插件!万顺苑多功能辅助器插件,万顺苑原来真的是有辅助器插件1、完成万顺苑有辅助插件,...
一分钟揭秘辅助器攻略!一乐浙江... 一分钟揭秘辅助器攻略!一乐浙江多功能辅助器攻略,一乐浙江都是是有辅助器攻略一乐浙江脚本下载中分为三种...
推荐一款透视器教程!海迅麻将多... 推荐一款透视器教程!海迅麻将多功能透视器教程,海迅麻将好像是有透视器教程亲,关键说明,海迅麻将透视脚...
今日公布辅助app!重庆蛮籽麻... 今日公布辅助app!重庆蛮籽麻将多功能辅助app,重庆蛮籽麻将其实是真的有辅助app1、重庆蛮籽麻将...