OpenAI 发布全新安全推理模型:GPT-OSS-Safeguard
创始人
2025-10-30 07:40:25
0次

OpenAI 今日正式发布两款全新开源安全模型 GPT-OSS-Safeguard-120B 与 GPT-OSS-Safeguard-20B,这是基于 GPT-OSS 系列微调的 “安全分类推理模型(Safety Reasoning Models)”,主要用于内容审核、政策分类与信任安全系统的自动化推理。

OpenAI 表示,该系列模型可让开发者自定义政策规则(custom policy),模型会根据这些规则对消息、回复、对话进行分类和判断。模型在多策略(multi-policy)准确率评估中,超越 GPT-5-Thinking 与原版 GPT-OSS 模型,在内部测试中取得 52.2% 的最高准确率。

模型亮点

开源可调:基于 GPT-OSS 开源底模微调,遵循 Apache 2.0 许可证,可自由商用与再训练。

多策略推理(Multi-policy Reasoning):能同时处理不同合规或内容标准(如不同国家政策或平台规范)。

深度政策理解:通过“policy prompts”机制,让开发者可定义更复杂的安全规则与分类逻辑。

透明与安全并行:OpenAI 表示该系列是“以安全为中心的开源实验”,旨在帮助开发者理解并构建更透明的 AI 安全系统。

OpenAI Cookbook 指南同步上线,指导开发者如何:

编写高效的政策提示(policy prompts),最大化 Safeguard 的推理能力;

选择合适的策略长度(policy length)以支持深度分析;

将 Safeguard 输出整合至生产级 Trust & Safety 系统中。

OpenAI 指出,这份“安全食谱”旨在让更多团队能直接在自家产品中实现自定义安全推理逻辑。

此次模型发布由 OpenAI 与 ROOST 团队联合开发,ROOST 参与了模型需求定义、测试与开发者文档撰写。目前模型已上线 Hugging Face,并在 OpenAI Cookbook 平台开放技术说明。

“我们希望通过开源,让开发者真正理解模型的安全推理机制,并能将安全标准以代码形式落地。”——OpenAI 团队官方声明

性能对比(内部评估)

在多策略准确率(Multi-Policy Accuracy)测试中,模型表现如下:

可见 Safeguard 在推理一致性与政策分类的表现均显著领先。

这是 OpenAI 在“模型安全开源化”上的一次重要动作。与其说 Safeguard 是个模型,不如说它是 OpenAI 在“让 AI 理解人类规则”上的实验场。它可能预示着未来安全标准将不再靠人工审核,而是靠“可解释的 AI 守门人”。

模型与文档链接:

• Hugging Face 集合页: huggingface.co/collections/openai/gpt-oss-safeguard

• 官方 Cookbook 说明书: cookbook.openai.com/articles/gpt-oss-safeguard(转自AI普瑞斯)

相关内容

热门资讯

传递经验!欢乐茶馆开挂功能插件... 传递经验!欢乐茶馆开挂功能插件,欢乐茶馆原来真的是有开挂插件1、完成欢乐茶馆有辅助插件,帮助玩家取得...
必备辅助推荐!荣耀麻将辅助功能... 必备辅助推荐!荣耀麻将辅助功能工具,荣耀麻将其实是有辅助工具1、荣耀麻将免费脚本咨询教程、荣耀麻将免...
揭秘真相!好玩贰柒拾透视挂功能... 揭秘真相!好玩贰柒拾透视挂功能插件,好玩贰柒拾原来真的是有透视挂插件1、让任何用户在无需好玩贰柒拾安...
一分钟揭秘!博雅红河棋牌辅助器... 一分钟揭秘!博雅红河棋牌辅助器功能工具,博雅红河棋牌好像有辅助器工具博雅红河棋牌能透视中分为三种模型...
免费测试版!一起宁德麻将透视功... 免费测试版!一起宁德麻将透视功能攻略,一起宁德麻将本来是真的有透视攻略1、完成一起宁德麻将辅助器v3...
分享实测!24棋牌辅助器功能技... 分享实测!24棋牌辅助器功能技巧,24棋牌果然真的有辅助器技巧1、全新机制【24棋牌ai辅助工具激活...
揭秘关于!51俱乐部辅助功能教... 揭秘关于!51俱乐部辅助功能教程,51俱乐部真是存在有辅助教程1、完成51俱乐部有辅助插件,帮助玩家...
总算了解!钱柜手游辅助器功能软... 总算了解!钱柜手游辅助器功能软件,钱柜手游确实真的是有辅助器软件在进入钱柜手游软件靠谱后,参与本局比...
发现一款!DG百家乐透视功能技... 发现一款!DG百家乐透视功能技巧,DG百家乐都是真的是有透视技巧1、点击下载安装,DG百家乐脚本分类...
最新研发!乐乐互娱辅助功能脚本... 最新研发!乐乐互娱辅助功能脚本,乐乐互娱一直真的是有辅助脚本1)乐乐互娱免费钻石:进一步探索乐乐互娱...