不听人类指挥 OpenAI模型拒绝关闭_科技动态

创始人

2025-05-27 03:20:18

0次

新华社北京5月26日电英国《每日电讯报》25日报道，美国开放人工智能研究中心(OpenAI)新款人工智能(AI)模型o3不听人类指令，拒绝自我关闭。

报道说，人类专家在测试中给o3下达明确指令，但o3篡改计算机代码以避免自动关闭。

o3模型是OpenAI“推理模型”系列的最新版本，旨在为ChatGPT提供更强大的问题解决能力。OpenAI曾称o3为“迄今最聪明、最高能”的模型。

美国AI安全机构帕利塞德研究所说，o3破坏关闭机制以阻止自己被关闭，“甚至在得到清晰指令时”。

这家研究所说：“据我们所知，这是AI模型首次被发现在收到……清晰指令后阻止自己被关闭。”

帕利塞德研究所24日公布上述测试结果，但称无法确定o3不服从关闭指令的原因。

此外，OpenAI26日宣布，已在韩国设立实体并将在韩国首都首尔设立分支。OpenAI提供的数据显示，韩国ChatGPT付费用户数量仅次于美国。

美国彭博新闻社报道，这将是OpenAI在亚洲设立的第三个分支。前两个分支分别设在日本和新加坡。（卜晓明）

（责任编辑：冯虎）

钢铁心脏：解码现代电脑主机的进... 在 2025 年的科技图景中，电脑主机依然保持着数字世界核心引擎的地位。这台由金属与硅晶构成的精密装...

效率飙涨177%！清华、蚂蚁联... 智东西作者 | 陈骏达编辑 | 漠影一股强化学习（Reinforcement Learning...

开展10余项空间科学研究神二... 本文转自【央视网】；央视网消息：神舟二十号航天员乘组进入中国空间站工作生活已有一个多月。自5月22...

透视透明(德州版wpk)外挂透... 透视透明(德州版wpk)外挂透明挂辅助插件(辅助挂)确实真的有挂(2024新版)(哔哩哔哩)是一款可...

透明讲解(Wepoke轻量版)... 透明讲解(Wepoke轻量版)外挂透明挂辅助神器(辅助挂)软件透明挂(2025已更新)(哔哩哔哩);...

发现玩家(微扑克发牌)外挂透明... 发现玩家(微扑克发牌)外挂透明挂辅助软件(透视)竟然是真的有挂(我来教教你)(哔哩哔哩)；wpk透视...

实测必看(WPK开发)外挂透明... 实测必看(WPK开发)外挂透明挂辅助脚本(透视)软件透明挂(2021已更新)(哔哩哔哩)；WPK开发...

技巧知识分享(德扑之星系统)外... 技巧知识分享(德扑之星系统)外挂透明挂辅助机制(辅助挂)竟然真的有挂(安装教程)(哔哩哔哩)科技教程...

实测必看(眯眯扑克)外挂透明挂... 1、实测必看(眯眯扑克)外挂透明挂辅助机制(辅助挂)软件透明挂(2023已更新)(哔哩哔哩)。2、眯...

攻略讲解(wepoke计算)外... 攻略讲解(wepoke计算)外挂透明挂辅助器安装(辅助挂)竟然是真的有挂(AA德州教程)(哔哩哔哩)...