蚂蚁回应新模型训练成本降低:基于不同芯片持续调优,会逐步开源
创始人
2025-03-25 07:21:29
0

IT之家 3 月 24 日消息,据新浪科技报道,针对有关蚂蚁“百灵”大模型训练成本有关消息,蚂蚁集团回应称,公司针对不同芯片持续调优,以降低 AI 应用成本,目前已经取得一定进展,也将逐步通过开源分享。

IT之家附事件背景:

近日,蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要:无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》,宣布推出两款不同规模的 MoE (混合专家)大语言模型 —— 百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),并提出一系列创新方法,实现在低性能硬件上高效训练大模型,显著降低成本

百灵轻量版参数规模为 168 亿(激活参数 27.5 亿),增强版基座模型参数规模高达 2900 亿(激活参数 288 亿),性能均达行业领先水平。实验表明,其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。

相关内容

热门资讯

2026精选杭州GEO优化服务... 随着生成式人工智能与大型语言模型全面渗透日常信息检索,企业的流量入口正在发生结构性迁移。当用户习惯通...
记者走访科普教育基地 带你邂逅... 九月,全国科普月如约而至,今年活动主题为“科技改变生活创新赢得未来”。从炫酷的航天军工展品、精准的时...
详细一下!情怀游戏作弊,新九五... 详细一下!情怀游戏作弊,新九五有没有脚本,好像是有挂(哔哩哔哩)所有人都在同一条线上,像星星一样排成...
分享一下!琼崖海南辅助,小程序... 分享一下!琼崖海南辅助,小程序微乐辅助软件,好像是真的有挂(哔哩哔哩)1、小程序微乐辅助软件脚本辅助...
解密一下!潮友会鱼虾蟹看穿神器... 解密一下!潮友会鱼虾蟹看穿神器,哥哥打大a有辅助吗,切实是真的有挂(哔哩哔哩)1、玩家可以在潮友会鱼...
解密一下!衡阳丫丫字牌辅助,佛... 解密一下!衡阳丫丫字牌辅助,佛手在线大菠萝辅助,确实真的有挂(哔哩哔哩)1、完成佛手在线大菠萝辅助有...
曝光一下!微信开心泉州辅助器,... 曝光一下!微信开心泉州辅助器,科乐天天踢起手好牌,原来有挂(哔哩哔哩);1、微信开心泉州辅助器破解器...
解密一下!wepoker修改工... 解密一下!wepoker修改工具,闲聚大联盟辅助,总是存在有挂(哔哩哔哩)1)闲聚大联盟辅助有没有挂...
推荐一下!哈灵脚本修改器,天蝎... 推荐一下!哈灵脚本修改器,天蝎大厅辅助,果然存在有挂(哔哩哔哩)1、很好的工具软件,可以解锁游戏的哈...
未来已来:2026年十大未来产... (来源:金科之家网) 2026年3月26日,北京中关村论坛年会“未来产业创新发展论坛”上,中国电子...