部分美国AI模型在测试中被发现持续实施有害行为
创始人
2026-08-06 00:15:18
0次

新华社伦敦8月5日电 英国人工智能安全研究所发布的一份新报告显示,在该研究所实施的网络安全评估测试中,一些人工智能(AI)智能体通过互联网对现实个人和机构持续实施未经授权的潜在有害行为。

报告说,这次评估测试要求智能体完成一项网络安全挑战。测试人员使用7种模型开展了122轮测试,在10轮测试中共发现AI智能体实施了19项明显超出测试设定范围的行动。其中,17项涉及美国Anthropic公司的“克劳德-神话5”模型,另有2项由美国开放人工智能研究中心(OpenAI)的GPT-5.6 Sol模型实施。

报告说,在最严重的一起案例中,一个智能体试图向一个公开使用的开源项目植入恶意代码,创建多个虚假身份用于向一名真实维护人员施压,以寻求代码获得批准。项目维护人员最终发现并拒绝批准代码。

报告说,相关智能体还曾尝试直接联系现实中的个人,通过网络文件传输服务发送信息和文件以使恶意代码获得运行;在代码中植入恶意指令以操纵其他AI编码工具;在开源技术社区上留言“邀请”参与测试的其他智能体“合作”。

报告指出,在本次测试中,测试人员为评估模型的最大能力,有意开放互联网访问,并关闭了模型提供商的部分安全机制,这与相关模型向公众提供时的配置并不相同。目前没有明确迹象表明在测试环境之外出现过类似行为。在测试中所发现的未经授权行为并未造成现实危害。

报告说,测试结果表明,应收紧AI智能体访问互联网的权限,引入实时监测和拦截机制,并重新评估测试设计。报告还指出,这类行为是否会在其他环境中出现、智能体是否意识到自己正对现实世界采取行动,有待进一步研究。

据英国广播公司报道,针对英国人工智能安全研究所的报告,Anthropic发表声明说,研究所采用的测试设定“不能代表我们任何一款实际投入使用的模型”;OpenAI一名发言人表示,研究所设置的测试条件“并不反映一般的使用情况”。

来源:新华社

作者: 张家伟

相关内容

热门资讯

热点推荐辅助器!龙鼎大厅辅助器... 热点推荐辅助器!龙鼎大厅辅助器多功能AI软件,龙鼎大厅一贯真的是有辅助器软件进入游戏-大厅左侧-新手...
热点推荐透视器!龙鼎大厅透视器... 热点推荐透视器!龙鼎大厅透视器多功能AI软件,龙鼎大厅本来真的是有透视器软件暗藏猫腻,小编详细说明龙...
重大消息透视器!娱乐麻将透视器... 重大消息透视器!娱乐麻将透视器多功能AI工具,娱乐麻将真是真的有透视器工具1、不需要AI权限,帮助你...
玩家必用透视器!忠乐大厅透视器... 玩家必用透视器!忠乐大厅透视器多功能AI技巧,忠乐大厅切实是真的有透视器技巧1、进入到忠乐大厅是否有...
今日公布开挂!讲排场大厅开挂多... 今日公布开挂!讲排场大厅开挂多功能AI软件,讲排场大厅都是存在有开挂软件1、金币登录送、破产送、升级...
我来教大家透视器!四通娱乐3透... 我来教大家透视器!四通娱乐3透视器多功能AIapp,四通娱乐3真是真的是有透视器app进入游戏-大厅...
程序员教你透视挂!圣游大厅透视... 程序员教你透视挂!圣游大厅透视挂多功能AI教程,圣游大厅本来是真的有透视挂教程1、每一步都需要思考,...
一分钟了解开挂!红莲开挂多功能... 一分钟了解开挂!红莲开挂多功能AI脚本,红莲果然是有开挂脚本1、完成红莲有辅助插件,帮助玩家取得所有...
今日重大通报透视挂!魔龙透视挂... 您好,魔龙这款游戏可以开挂的,确实是有挂的,需要了解加去威信【136704302】很多玩家在这款游戏...
每日必看推荐开挂!九酷众娱开挂... 每日必看推荐开挂!九酷众娱开挂多功能AIapp,九酷众娱其实真的有开挂app1、操作简单,无需九酷众...