不听人类指挥 OpenAI模型拒绝关闭_科技动态

创始人

2025-05-27 03:20:18

0次

新华社北京5月26日电英国《每日电讯报》25日报道，美国开放人工智能研究中心(OpenAI)新款人工智能(AI)模型o3不听人类指令，拒绝自我关闭。

报道说，人类专家在测试中给o3下达明确指令，但o3篡改计算机代码以避免自动关闭。

o3模型是OpenAI“推理模型”系列的最新版本，旨在为ChatGPT提供更强大的问题解决能力。OpenAI曾称o3为“迄今最聪明、最高能”的模型。

美国AI安全机构帕利塞德研究所说，o3破坏关闭机制以阻止自己被关闭，“甚至在得到清晰指令时”。

这家研究所说：“据我们所知，这是AI模型首次被发现在收到……清晰指令后阻止自己被关闭。”

帕利塞德研究所24日公布上述测试结果，但称无法确定o3不服从关闭指令的原因。

此外，OpenAI26日宣布，已在韩国设立实体并将在韩国首都首尔设立分支。OpenAI提供的数据显示，韩国ChatGPT付费用户数量仅次于美国。

美国彭博新闻社报道，这将是OpenAI在亚洲设立的第三个分支。前两个分支分别设在日本和新加坡。（卜晓明）

（责任编辑：冯虎）

直播电商从业者合规运营团体标准... 本报讯（记者姜雨晴）近日，由中国工商出版社有限公司发起提案的《直播电商从业者合规运营职业能力评价...

“双料冠军”背后，腾讯专有云T... 专有云作为承载AI原生、国产化与行业智能能力的关键平台，其角色已不再是单纯的资源交付平台，而是向承载...

英特科技：公司GPU散热器项目... 证券之星消息，英特科技(301399)03月23日在投资者关系平台上答复投资者关心的问题。投资者：...

50nm精度＋填补国内空白，玉... 3月18日至20日，2026慕尼黑上海光博会在上海新国际博览中心举办。作为亚洲光电产业重要展会，本届...

阿里达摩院：新一代旗舰处理器玄... 在阿里达摩院2026玄铁RISC-V生态大会上，新一代旗舰处理器玄铁C950正式发布。据介绍，该...

原创中... 自从OpenAI的ChatGPT横空出世之后，全球就掀起了AI大模型竞争。不过，经过几年的发展，很...

华为春季全场景新品发布多款新... 3月23日，华为春季全场景新品发布会正式举行，带来HUAWEI Mate 80 Pro Max 风驰...

普门科技：公司糖化血红蛋白检测... 证券日报网3月23日讯，普门科技在接受调研者提问时表示，公司糖化血红蛋白检测采用高效液相色谱法（H...

年轻人为什么不拒绝“有门槛”的... 《太平年》海报。出品方供图今年开年，关于AI、短视频的讨论占据了舆论场。而影视行业、出版行业不少...

全球性能最高RISC-V CP... IT之家 3 月 24 日消息，在今日的 2026 玄铁 RISC-V 生态大会上，阿里达摩院发布了...