不听人类指挥 OpenAI模型拒绝关闭_科技动态

创始人

2025-05-27 03:20:18

0次

新华社北京5月26日电英国《每日电讯报》25日报道，美国开放人工智能研究中心(OpenAI)新款人工智能(AI)模型o3不听人类指令，拒绝自我关闭。

报道说，人类专家在测试中给o3下达明确指令，但o3篡改计算机代码以避免自动关闭。

o3模型是OpenAI“推理模型”系列的最新版本，旨在为ChatGPT提供更强大的问题解决能力。OpenAI曾称o3为“迄今最聪明、最高能”的模型。

美国AI安全机构帕利塞德研究所说，o3破坏关闭机制以阻止自己被关闭，“甚至在得到清晰指令时”。

这家研究所说：“据我们所知，这是AI模型首次被发现在收到……清晰指令后阻止自己被关闭。”

帕利塞德研究所24日公布上述测试结果，但称无法确定o3不服从关闭指令的原因。

此外，OpenAI26日宣布，已在韩国设立实体并将在韩国首都首尔设立分支。OpenAI提供的数据显示，韩国ChatGPT付费用户数量仅次于美国。

美国彭博新闻社报道，这将是OpenAI在亚洲设立的第三个分支。前两个分支分别设在日本和新加坡。（卜晓明）

（责任编辑：冯虎）

我来教大家辅助器脚本!大同麻将... 我来教大家辅助器脚本!大同麻将多功能辅助器脚本，大同麻将本来是有辅助器脚本我来教大家辅助器脚本!大同...

实操分享外挂攻略!丽水都莱多功... 实操分享外挂攻略!丽水都莱多功能外挂攻略，丽水都莱其实真的有外挂攻略1、玩家可以在丽水都莱透视最简单...

重大通报透视器软件!随便字牌多... 重大通报透视器软件!随便字牌多功能透视器软件，随便字牌竟然真的是有透视器软件随便字牌能透视中分为三种...

发现一款开挂插件!小甘麻将多功... 发现一款开挂插件!小甘麻将多功能开挂插件，小甘麻将都是是真的有开挂插件1、操作简单，无需小甘麻将手机...

教程辅助辅助器技巧!闲来麻将多... 教程辅助辅助器技巧!闲来麻将多功能辅助器技巧，闲来麻将果然真的有辅助器技巧1、每一步都需要思考，不同...

必备辅助推荐开挂攻略!微乐福建... 必备辅助推荐开挂攻略!微乐福建麻将多功能开挂攻略，微乐福建麻将一直真的有开挂攻略1、微乐福建麻将辅助...

一起来探讨辅助器插件!万顺苑多... 一起来探讨辅助器插件!万顺苑多功能辅助器插件，万顺苑原来真的是有辅助器插件1、完成万顺苑有辅助插件，...

一分钟揭秘辅助器攻略!一乐浙江... 一分钟揭秘辅助器攻略!一乐浙江多功能辅助器攻略，一乐浙江都是是有辅助器攻略一乐浙江脚本下载中分为三种...

推荐一款透视器教程!海迅麻将多... 推荐一款透视器教程!海迅麻将多功能透视器教程，海迅麻将好像是有透视器教程亲，关键说明，海迅麻将透视脚...

今日公布辅助app!重庆蛮籽麻... 今日公布辅助app!重庆蛮籽麻将多功能辅助app，重庆蛮籽麻将其实是真的有辅助app1、重庆蛮籽麻将...