蚂蚁回应新模型训练成本降低:基于不同芯片持续调优,会逐步开源
创始人
2025-03-25 07:21:29
0

IT之家 3 月 24 日消息,据新浪科技报道,针对有关蚂蚁“百灵”大模型训练成本有关消息,蚂蚁集团回应称,公司针对不同芯片持续调优,以降低 AI 应用成本,目前已经取得一定进展,也将逐步通过开源分享。

IT之家附事件背景:

近日,蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要:无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》,宣布推出两款不同规模的 MoE (混合专家)大语言模型 —— 百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),并提出一系列创新方法,实现在低性能硬件上高效训练大模型,显著降低成本

百灵轻量版参数规模为 168 亿(激活参数 27.5 亿),增强版基座模型参数规模高达 2900 亿(激活参数 288 亿),性能均达行业领先水平。实验表明,其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。

相关内容

热门资讯

申华电子取得铆合电刷专利,能有... 国家知识产权局信息显示,浙江申华电子科技有限公司取得一项名为“一种铆合电刷”的专利,授权公告号CN2...
美科研团队利用AI设计出可复制... 美国研究人员6日在美国《科学》杂志上发表的新研究说,他们利用人工智能(AI)设计出了全新、具有完整功...
企业AI Agent落地案例拆... 2026年7月27日,美团上线了CatPaw全场景AI Agent平台。9万名员工在用、3万个Age...
海陆建设取得沉降位移检测装置专... 国家知识产权局信息显示,海陆建设(青岛)有限公司取得一项名为“一种沉降位移检测装置”的专利,授权公告...
5G工业网关atex认证咨询 ... # 工业环境通信设备的防爆认证解析 工业环境中存在着各种潜在的危险因素,其中可燃性气体、蒸气或粉尘与...
江阴将有“极大雨”! 天文爱好者不容错过 英仙座流星雨 今年的极大值出现在8月13日中午 8月12日22时至13日黎明前 ...
2026三款稳定性价比云手机:... 2026 年云端托管需求细分明显,有人需要兼顾大型游戏与云端办公,有人大批量长期挂机控成本,还有大量...
王兴兴回应上市:宇树科技将积极... 据财联社:宇树科技董事长、总经理兼首席技术官王兴兴8月7日在网上路演时表示,本次登陆资本市场,是宇树...
宇树上市前夜,被美国偷袭? 继长鑫科技之后,又一家科技巨头宇树科技要科创板上市,8月10日就可以打新了。 就在它上市前两周不到的...
华为申请通信方法和通信装置专利... 国家知识产权局信息显示,华为技术有限公司申请一项名为“一种通信方法和通信装置”的专利,公开号CN12...