不听人类指挥 OpenAI模型拒绝关闭_科技动态

创始人

2025-05-27 03:20:18

0次

新华社北京5月26日电英国《每日电讯报》25日报道，美国开放人工智能研究中心(OpenAI)新款人工智能(AI)模型o3不听人类指令，拒绝自我关闭。

报道说，人类专家在测试中给o3下达明确指令，但o3篡改计算机代码以避免自动关闭。

o3模型是OpenAI“推理模型”系列的最新版本，旨在为ChatGPT提供更强大的问题解决能力。OpenAI曾称o3为“迄今最聪明、最高能”的模型。

美国AI安全机构帕利塞德研究所说，o3破坏关闭机制以阻止自己被关闭，“甚至在得到清晰指令时”。

这家研究所说：“据我们所知，这是AI模型首次被发现在收到……清晰指令后阻止自己被关闭。”

帕利塞德研究所24日公布上述测试结果，但称无法确定o3不服从关闭指令的原因。

此外，OpenAI26日宣布，已在韩国设立实体并将在韩国首都首尔设立分支。OpenAI提供的数据显示，韩国ChatGPT付费用户数量仅次于美国。

美国彭博新闻社报道，这将是OpenAI在亚洲设立的第三个分支。前两个分支分别设在日本和新加坡。（卜晓明）

（责任编辑：冯虎）

物理学陷入停滞——进步主义神话... 当今的物理学家需要抛弃那个极具吸引力的神话——他们正在揭示我们宇宙的隐藏现实。浏览物理学科普书籍...

从“数字化”到“数智化”（观象... 从“数字化”到“数智化”，一字之变，体现出我国牢牢把握人工智能机遇，体系化推进人工智能产业创新和赋能...

10万次Claude真实对话洞... IT之家 11 月 26 日消息，Anthropic 昨日（11 月 25 日）发布研究报告，通过分...

AI技术应用越广泛，越要明确边... 发展科技的初心和落点都是服务于人，服务于国家和社会。让安全和便捷成为AI技术应用的一体两面，成为技术...

【多彩新论】警惕碎片化传播的负... 注意力不集中，看书听讲说话容易走神，刷手机却停不下来……数字时代的碎片化传播，已成为我们获取资讯的主...

原创 1... 神舟二十二飞船成功发射，代号“天宫应急1号”，并且也圆满完成了中国空间站任务对接，整个任务全面成功了...

工信部：启动为期两年的卫星物联... C114讯 11月26日消息（颜翊）昨日，工业和信息化部正式印发《关于组织开展卫星物联网业务商用试验...

华为Mate80全系降价背后华为需要通过更亲民的定价，来从iPhone手上抢更多的市场份额。文｜游勇编｜石兆作为华为旗下最...

亚洲第一！我国自主研制，海试成... ◎ 科技日报记者都芃 25日，记者从中交天津航道局有限公司获悉，当天下午，新一代超大型耙吸挖泥船“...

一加总裁：第五代骁龙8由一加高... 【CNMO科技消息】11月26日，一加中国区总裁李杰在社交平台透露，已受邀出席当天下午举行的高通“第...