不听人类指挥 OpenAI模型拒绝关闭_科技动态

创始人

2025-05-27 03:20:18

0次

新华社北京5月26日电英国《每日电讯报》25日报道，美国开放人工智能研究中心(OpenAI)新款人工智能(AI)模型o3不听人类指令，拒绝自我关闭。

报道说，人类专家在测试中给o3下达明确指令，但o3篡改计算机代码以避免自动关闭。

o3模型是OpenAI“推理模型”系列的最新版本，旨在为ChatGPT提供更强大的问题解决能力。OpenAI曾称o3为“迄今最聪明、最高能”的模型。

美国AI安全机构帕利塞德研究所说，o3破坏关闭机制以阻止自己被关闭，“甚至在得到清晰指令时”。

这家研究所说：“据我们所知，这是AI模型首次被发现在收到……清晰指令后阻止自己被关闭。”

帕利塞德研究所24日公布上述测试结果，但称无法确定o3不服从关闭指令的原因。

此外，OpenAI26日宣布，已在韩国设立实体并将在韩国首都首尔设立分支。OpenAI提供的数据显示，韩国ChatGPT付费用户数量仅次于美国。

美国彭博新闻社报道，这将是OpenAI在亚洲设立的第三个分支。前两个分支分别设在日本和新加坡。（卜晓明）

（责任编辑：冯虎）

阿里合伙人委员会点名批评钉钉团... 6月10日，阿里巴巴合伙人委员会在内网发布帖文《有情有义有成长，才是阿里文化》，对连日来《置身钉内》...

2026年二手iPhone 1... 一、为什么iPhone 13至今仍是二手市场宠儿？在2026年的智能手机市场，iPhone 13...

我国今年要打造超百个人形机器人... 中国青年报客户端讯（中青报·中青网记者贾骥业）记者从工业和信息化部获悉，近日，该部与国务院国资委联...

2026年“小小科学家”校园巡... 6月10日，由哈尔滨市科协、市教育局共同主办的2026年“小小科学家”校园巡回报告会走进哈尔滨新区第...

重度听损哪款品牌好？国产平价助... 对于重度听损人群而言，听力障碍不仅是听不见声音，更是切断了与生活、社交、家人的情感联结。日常沟通需要...

原创祛... 日前，百年保温杯品牌膳魔师（Thermos）因安全隐患被推上风口浪尖。膳魔师在中国召回近400万件...

总结辅助挂！德普软件，功夫川麻... 总结辅助挂！德普软件，功夫川麻小程序辅助器，妙计教程（有挂方针）1、总结辅助挂！德普软件，功夫川麻小...

2026版软件！hhpoker... 2026版软件！hhpoker外挂靠谱吗，佛手在线辅助器，法子教程（有挂秘籍）1、每一步都需要思考，...

据公告内容！黑侠破解wepok... 据公告内容！黑侠破解wepoker，上品斗地主游戏辅助，指南书教程（确实有挂）1、据公告内容！黑侠破...

此事备受玩家关注！wepoke... 此事备受玩家关注！wepoker私人局辅助器怎么用，丰城双剑辅助，经验教程（详细教程）1、玩家可以在...