蚂蚁回应新模型训练成本降低:基于不同芯片持续调优,会逐步开源
创始人
2025-03-25 07:21:29
0

IT之家 3 月 24 日消息,据新浪科技报道,针对有关蚂蚁“百灵”大模型训练成本有关消息,蚂蚁集团回应称,公司针对不同芯片持续调优,以降低 AI 应用成本,目前已经取得一定进展,也将逐步通过开源分享。

IT之家附事件背景:

近日,蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要:无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》,宣布推出两款不同规模的 MoE (混合专家)大语言模型 —— 百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),并提出一系列创新方法,实现在低性能硬件上高效训练大模型,显著降低成本

百灵轻量版参数规模为 168 亿(激活参数 27.5 亿),增强版基座模型参数规模高达 2900 亿(激活参数 288 亿),性能均达行业领先水平。实验表明,其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。

相关内容

热门资讯

一加N6手机参数曝光:联发科M... IT之家 6 月 18 日消息,一款型号为 CPH2955 的一加新机最近出现在 Geekbench...
安利大健康智慧园5G-AGV项... 6月16日,安利大健康智慧园5G-AGV智能转运项目启动仪式在咸宁高新区顺利举办。 活动现场,安利...
高顿有梧文旅等三方共建长三角人... 近日,高顿集团旗下高端文旅品牌有梧文旅 U·WOOD、智元合作平台火花机器人,与苏高新国控集团下属国...
首个“AI原生”“618”来了... 央广网北京6月18日消息(记者韩萌)据中央广播电视总台中国之声报道,又是一年“618”年中大促,人工...
具身智能有望走进千家万户 近来,以人形机器人为代表的具身智能产业规模正以超50%的增速跨越式发展。北京、上海等地建设具身智能、...
2026年追剧影音效果好的手机... 对于追剧党、影音爱好者来说,选择一款手机,屏幕素质和音效体验绝对是重中之重。一块好屏幕能带来细腻真实...
材料、装备、算法:联想控股如何... 在科技领域,聚光灯往往打在终端产品上:一台手术机器人、一颗卫星、一部AI手机。但在这些炫目成果的背后...
算力PCB材料迭代提速 对位芳... 深圳商报·读创客户端 记者陈燕青 近期,在电子新材料行业调研会上,多位覆铜板、PCB行业专家表示,A...
2026高效除醛净化器评测:从... 2026-06-18 13:13:15 作者:狼叫兽 装修完工后,室内空气质量问题几乎是每个家庭都无...
702从0到1破局 从1到10... 从0到1破局 从1到100深耕 安庆一中龙山校区 205班 张唯佳 指导老师:范学建 “从0到1”定...