蚂蚁回应新模型训练成本降低：基于不同芯片持续调优，会逐步开源
创始人
2025-03-25 07:21:29
0次
IT之家 3 月 24 日消息，据新浪科技报道，针对有关蚂蚁“百灵”大模型训练成本有关消息，蚂蚁集团回应称，公司针对不同芯片持续调优，以降低 AI 应用成本，目前已经取得一定进展，也将逐步通过开源分享。
IT之家附事件背景：
近日，蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要：无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》，宣布推出两款不同规模的 MoE （混合专家）大语言模型 —— 百灵轻量版（Ling-Lite）与百灵增强版（Ling-Plus），并提出一系列创新方法，实现在低性能硬件上高效训练大模型，显著降低成本。
百灵轻量版参数规模为 168 亿（激活参数 27.5 亿），增强版基座模型参数规模高达 2900 亿（激活参数 288 亿），性能均达行业领先水平。实验表明，其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练，性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。
相关内容
热门资讯
邮储银行申请票据识别方法专利，...
国家知识产权局信息显示，中国邮政储蓄银行股份有限公司申请一项名为“票据识别方法、装置及设备、计算机程...
江波龙、德明利、佰维存储
来源：市场资讯 （来源：大树的格局） 今天聊聊存储模组这个行业国内三巨头。 在聊正题前，聊聊啥是存储...
太阳成像超表面偏振仪
加州大学圣地亚哥分校NoahA. Rubin团队推出了太阳成像超表面偏振仪（SIMPol），这是一款...
原创 古...
## 一块古老的陨石可能是一颗消失的原行星仅存的残骸。图片来源：库存图片 从撒哈拉沙漠发现的一块稀...
原创 6...
等等党终于迎来捡漏的好时机，现在618活动的最后一波，很多手机的价格再次跳水，目前不少高性价比手机价...
深天马A：公司深耕面板显示技术...
证券日报网讯 6月15日，深天马A在互动平台回答投资者提问时表示，公司深耕面板显示技术领域四十余年，...
AI“坐诊”：“带不走的医疗队...
“眼底一张照，眼病全知道，一眼知全身”；2400万份高质量病例训练出的AI儿科医生智能体为150余家...
“核”去何从？一颗杏核的“闭环...
5月19日，河北平泉，天刚亮。承德亚欧果仁有限公司的杏核破碎车间已经轰鸣起来。高13米、长100多米...
奥普托科申请图像处理方法专利，...
国家知识产权局信息显示，北京奥普托科微电子技术有限公司申请一项名为“一种图像处理方法、设备、存储介质...
中兴通讯申请通信调度方法专利，...
国家知识产权局信息显示，中兴通讯股份有限公司申请一项名为“通信调度方法、通信设备及计算机可读存储介质...