清华团队推出“安全增强版DeepSeek”
创始人
2025-02-24 22:00:24
0次
人民网北京2月24日电 (记者赵竹青)2月23日，清华大学计算机系相关研究团队宣布推出大语言模型RealSafe-R1。该模型基于DeepSeek R1进行深度优化与后训练，在确保性能稳定的基础上，显著提升了安全性，为开源大模型的安全发展与风险治理提供了创新性解决方案。
近日来，国产开源大模型DeepSeek在自然语言处理和多任务推理方面展现了强大的技术实力，但在面对越狱攻击等安全性挑战时仍存在一定局限性。为此，清华团队提出了基于模型自我提升的安全对齐方式，将安全对齐与内省推理相结合，使大语言模型能够通过具有安全意识的思维链分析来检查潜在风险，实现基础模型自身能力的自主进化。
基于该方法，团队对DeepSeek-R1系列模型进行后训练，正式推出RealSafe-R1系列大模型。实验数据表明，RealSafe-R1安全性提升显著，在多个基准测试中有效增强了对各种越狱攻击的抵抗力，并减轻了安全与性能之间的“跷跷板”现象。
据悉，RealSafe-R1各尺寸模型及数据集将于近期向全球开发者开源。
相关内容
热门资讯
地球生命起源有新解 或诞生于水...
王信强 斯坦福大学的一项研究显示，生命可能起源于水滴中的“微闪电”。也就是说，构成地球生命的第一个分...
优刻得与数道智算达成智算中心战...
近日，优刻得与智能计算领域创新企业北京数道智算科技有限公司（下称：数道智算）正式签署战略合作协议，双...
游戏ios系统管理:便宜好用且...
**一、云手机在游戏群控管理中的重要性** 在当今的游戏世界里，特别是对于那些需要多账号操作或者...
局域网监控软件哪家好？5款高端...
你是否遇到过这样的烦恼： 公司网络突然变慢，却找不到原因？ 员工上班时间刷视频、打游戏，工作效率低下...
魔法原子举办2025场景战略发...
3月26日，魔法原子举办「原子双生」2025场景战略发布会，正式推出人形机器人和四足机器人，并首次推...
西湖大学开发出精准定位脑疾病细...
2025-03-20 08:41:52 作者：狼叫兽 近日，西湖大学杨剑教授团队在脑疾病研究领域...
时隔两月半，微信内测爆更！
在多个新功能灰度放量后，微信官方终于发布了新版本更新。 就在昨晚（3 月 10 日）， 微信安卓平台...
学而思“上新”，学习机的“参数...
来源：雪豹财经社 在小红书上，“学习机哪个牌子好用推荐”的相关笔记超过130万篇。面对市面上大量同质...
新科技成果！创新草莓原种苗技术...
近日，在第十届世界草莓大会上，上海交通大学农生物学院研究员许文平团队研发的“纯品种、减农药、减化肥”...
化学清洗技术与清洗剂2025武...
2025武汉工业清洗展：引领技术革新的新纪元 多元清洗技术大汇聚：武汉展会即将开启 化学清洗技术与清...