清华团队推出“安全增强版DeepSeek”
创始人
2025-02-24 22:00:24
0次
人民网北京2月24日电 (记者赵竹青)2月23日，清华大学计算机系相关研究团队宣布推出大语言模型RealSafe-R1。该模型基于DeepSeek R1进行深度优化与后训练，在确保性能稳定的基础上，显著提升了安全性，为开源大模型的安全发展与风险治理提供了创新性解决方案。
近日来，国产开源大模型DeepSeek在自然语言处理和多任务推理方面展现了强大的技术实力，但在面对越狱攻击等安全性挑战时仍存在一定局限性。为此，清华团队提出了基于模型自我提升的安全对齐方式，将安全对齐与内省推理相结合，使大语言模型能够通过具有安全意识的思维链分析来检查潜在风险，实现基础模型自身能力的自主进化。
基于该方法，团队对DeepSeek-R1系列模型进行后训练，正式推出RealSafe-R1系列大模型。实验数据表明，RealSafe-R1安全性提升显著，在多个基准测试中有效增强了对各种越狱攻击的抵抗力，并减轻了安全与性能之间的“跷跷板”现象。
据悉，RealSafe-R1各尺寸模型及数据集将于近期向全球开发者开源。
相关内容
热门资讯
地球生命起源有新解 或诞生于水...
王信强 斯坦福大学的一项研究显示，生命可能起源于水滴中的“微闪电”。也就是说，构成地球生命的第一个分...
优刻得与数道智算达成智算中心战...
近日，优刻得与智能计算领域创新企业北京数道智算科技有限公司（下称：数道智算）正式签署战略合作协议，双...
游戏ios系统管理:便宜好用且...
**一、云手机在游戏群控管理中的重要性** 在当今的游戏世界里，特别是对于那些需要多账号操作或者...
局域网监控软件哪家好？5款高端...
你是否遇到过这样的烦恼： 公司网络突然变慢，却找不到原因？ 员工上班时间刷视频、打游戏，工作效率低下...
时隔两月半，微信内测爆更！
在多个新功能灰度放量后，微信官方终于发布了新版本更新。 就在昨晚（3 月 10 日）， 微信安卓平台...
学而思“上新”，学习机的“参数...
来源：雪豹财经社 在小红书上，“学习机哪个牌子好用推荐”的相关笔记超过130万篇。面对市面上大量同质...
原创 5...
予方聊生活 在如今的手机圈，真是一句话：内卷比手机厚度还薄。厂商们从产品性能到价格优惠，卷得用户应接...
南京熊猫获得外观设计专利授权：...
证券之星消息，根据天眼查APP数据显示南京熊猫（600775）新获得一项外观设计专利授权，专利名为“...
动力环境监控系统：保障关键设施...
引言 在现代信息化社会中，数据中心、通信基站、电力设施等关键场所的稳定运行至关重要。动力环境监控系统...
医生再三提醒：耳朵背了，宁可大...
耳朵，是人类感知世界的重要窗口，就像心灵的“天线”，捕捉着世界的每一丝声音。然而，许多人却在不知不觉...