不听人类指挥 OpenAI模型拒绝关闭_科技动态

创始人

2025-05-27 03:20:18

0次

新华社北京5月26日电英国《每日电讯报》25日报道，美国开放人工智能研究中心(OpenAI)新款人工智能(AI)模型o3不听人类指令，拒绝自我关闭。

报道说，人类专家在测试中给o3下达明确指令，但o3篡改计算机代码以避免自动关闭。

o3模型是OpenAI“推理模型”系列的最新版本，旨在为ChatGPT提供更强大的问题解决能力。OpenAI曾称o3为“迄今最聪明、最高能”的模型。

美国AI安全机构帕利塞德研究所说，o3破坏关闭机制以阻止自己被关闭，“甚至在得到清晰指令时”。

这家研究所说：“据我们所知，这是AI模型首次被发现在收到……清晰指令后阻止自己被关闭。”

帕利塞德研究所24日公布上述测试结果，但称无法确定o3不服从关闭指令的原因。

此外，OpenAI26日宣布，已在韩国设立实体并将在韩国首都首尔设立分支。OpenAI提供的数据显示，韩国ChatGPT付费用户数量仅次于美国。

美国彭博新闻社报道，这将是OpenAI在亚洲设立的第三个分支。前两个分支分别设在日本和新加坡。（卜晓明）

（责任编辑：冯虎）

月之暗面Kim完成股改：创始人... 快科技7月30日消息，据天眼查显示，月之暗面已于7月29日完成工商变更登记，市场主体类型变更为股份有...

会康复、能陪聊、可预警机器人... 医疗应用受欢迎：一中心日均服务患者约50人次 “使用这款机器人可以实现多关节上肢协同训练，可以同时训...

美联合24国组建6G研发联盟，... 当地时间7月27日，美国特朗普政府正式宣布，联合英国、德国、日本等24个国家启动6G全球合作伙伴计...

马云时隔七年再度现身哈尔滨来源：新浪科技新浪科技讯 7月30日下午消息，近日，马云现身哈尔滨，在索菲亚教堂区域被路人偶遇，镜...

苹果计划下半年推出OLED版i... PChome 7月30日消息，据韩媒报道，苹果计划于今年下半年推出OLED版iPad mini，三星...

2026年北京能做智慧燃气安全... 北京作为首都，燃气管网总里程超过2.9万公里，覆盖全市16区及亦庄开发区，服务人口超过2180万。首...

赋能现代农业创新上海农业科创... 今天上午，“格物致知创智未来”2026年上海农业科创谷推进会暨首届合成生物学赋能现代农业创新发展大...

2026年云手机哪款好用，这5... 做手游搬砖最害怕的不是任务繁琐，而是通宵挂机中途闪退、批量账号出现关联封禁，一夜投入全部白费。针对搬...

科学家在日本广岛发现新物质，系... 在美国对日本广岛进行原子弹轰炸近81年后，科学家们在广岛的沙滩上发现了一种奇异且从未被发现过的新物质...

原创打... 【本文仅在今日头条发布，谢绝转载】本文作者——孔新|环球时报武器航天特约撰稿人 2026年7月28...