蚂蚁回应新模型训练成本降低:基于不同芯片持续调优,会逐步开源
创始人
2025-03-25 07:21:29
0

IT之家 3 月 24 日消息,据新浪科技报道,针对有关蚂蚁“百灵”大模型训练成本有关消息,蚂蚁集团回应称,公司针对不同芯片持续调优,以降低 AI 应用成本,目前已经取得一定进展,也将逐步通过开源分享。

IT之家附事件背景:

近日,蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要:无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》,宣布推出两款不同规模的 MoE (混合专家)大语言模型 —— 百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),并提出一系列创新方法,实现在低性能硬件上高效训练大模型,显著降低成本

百灵轻量版参数规模为 168 亿(激活参数 27.5 亿),增强版基座模型参数规模高达 2900 亿(激活参数 288 亿),性能均达行业领先水平。实验表明,其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。

相关内容

热门资讯

四川路桥获得发明专利授权:“一... 证券之星消息,根据天眼查APP数据显示四川路桥(600039)新获得一项发明专利授权,专利名为“一种...
武汉9家企业上榜中国独角兽!科... 在近日举办的2026中关村论坛年会平行论坛——全球独角兽企业大会上,最新发布的《中国独角兽企业年度报...
天缘捷成申请卫星通讯专利,三维... 国家知识产权局最新公开信息显示,北京天缘捷成电子技术服务有限公司提交了一项名为“一种卫星通讯方法、卫...
江苏华辰获得发明专利授权:“一... 证券之星消息,根据天眼查APP数据显示江苏华辰(603097)新获得一项发明专利授权,专利名为“一种...
值得买科技出席华为云核心生态伙... 4月9日-10日,2026年华为云核心生态伙伴共创研讨会在上海举行,值得买科技作为华为战略合作伙伴受...
丰翼科技获无人机运货系统专利 ... 国家知识产权局最新公开信息显示,丰翼科技(深圳)有限公司成功获得一项名为“无人机运货系统、无人机装货...
透视好牌!德普之星app安卓版... 透视好牌!德普之星app安卓版破解版,德普之星透视辅助软件(透视)原来有挂(有挂方略)-哔哩哔哩1、...
据文件显示!超级三加一正版,雀... 据文件显示!超级三加一正版,雀友会钻石辅助器潮汕麻将,要领教程(有挂秘笈)-哔哩哔哩据文件显示!超级...
透视有挂!德普之星辅助器,德扑... 透视有挂!德普之星辅助器,德扑圈透视挂(透视)一直真的是有挂(有挂分享)-哔哩哔哩1、德普之星辅助器...
据公告内容!广东雀神智能插件官... 据公告内容!广东雀神智能插件官网,微乐小程序有脚本,手册教程(有挂技巧)-哔哩哔哩1、该软件可以轻松...