清华团队推出“安全增强版DeepSeek”
创始人
2025-02-24 22:00:24
0次
人民网北京2月24日电 (记者赵竹青)2月23日，清华大学计算机系相关研究团队宣布推出大语言模型RealSafe-R1。该模型基于DeepSeek R1进行深度优化与后训练，在确保性能稳定的基础上，显著提升了安全性，为开源大模型的安全发展与风险治理提供了创新性解决方案。
近日来，国产开源大模型DeepSeek在自然语言处理和多任务推理方面展现了强大的技术实力，但在面对越狱攻击等安全性挑战时仍存在一定局限性。为此，清华团队提出了基于模型自我提升的安全对齐方式，将安全对齐与内省推理相结合，使大语言模型能够通过具有安全意识的思维链分析来检查潜在风险，实现基础模型自身能力的自主进化。
基于该方法，团队对DeepSeek-R1系列模型进行后训练，正式推出RealSafe-R1系列大模型。实验数据表明，RealSafe-R1安全性提升显著，在多个基准测试中有效增强了对各种越狱攻击的抵抗力，并减轻了安全与性能之间的“跷跷板”现象。
据悉，RealSafe-R1各尺寸模型及数据集将于近期向全球开发者开源。
相关内容
热门资讯
月之暗面Kim完成股改：创始人...
快科技7月30日消息，据天眼查显示，月之暗面已于7月29日完成工商变更登记，市场主体类型变更为股份有...
会康复、能陪聊、可预警 机器人...
医疗应用受欢迎：一中心日均服务患者约50人次 “使用这款机器人可以实现多关节上肢协同训练，可以同时训...
美联合24国组建6G研发联盟，...
当地时间7月27日，美国特朗普政府正式宣布， 联合英国、德国、日本等24个国家启动6G全球合作伙伴计...
马云时隔七年再度现身哈尔滨
来源：新浪科技 新浪科技讯 7月30日下午消息，近日，马云现身哈尔滨，在索菲亚教堂区域被路人偶遇，镜...
苹果计划下半年推出OLED版i...
PChome 7月30日消息，据韩媒报道，苹果计划于今年下半年推出OLED版iPad mini，三星...
2026年北京能做智慧燃气安全...
北京作为首都，燃气管网总里程超过2.9万公里，覆盖全市16区及亦庄开发区，服务人口超过2180万。首...
赋能现代农业创新 上海农业科创...
今天上午，“格物致知 创智未来”2026年上海农业科创谷推进会暨首届合成生物学赋能现代农业创新发展大...
2026年云手机哪款好用，这5...
做手游搬砖最害怕的不是任务繁琐，而是通宵挂机中途闪退、批量账号出现关联封禁，一夜投入全部白费。针对搬...
科学家在日本广岛发现新物质，系...
在美国对日本广岛进行原子弹轰炸近81年后，科学家们在广岛的沙滩上发现了一种奇异且从未被发现过的新物质...
原创 打...
【本文仅在今日头条发布，谢绝转载】 本文作者——孔新|环球时报武器航天特约撰稿人 2026年7月28...