蚂蚁回应新模型训练成本降低：基于不同芯片持续调优，会逐步开源
创始人
2025-03-25 07:21:29
0次
IT之家 3 月 24 日消息，据新浪科技报道，针对有关蚂蚁“百灵”大模型训练成本有关消息，蚂蚁集团回应称，公司针对不同芯片持续调优，以降低 AI 应用成本，目前已经取得一定进展，也将逐步通过开源分享。
IT之家附事件背景：
近日，蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要：无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》，宣布推出两款不同规模的 MoE （混合专家）大语言模型 —— 百灵轻量版（Ling-Lite）与百灵增强版（Ling-Plus），并提出一系列创新方法，实现在低性能硬件上高效训练大模型，显著降低成本。
百灵轻量版参数规模为 168 亿（激活参数 27.5 亿），增强版基座模型参数规模高达 2900 亿（激活参数 288 亿），性能均达行业领先水平。实验表明，其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练，性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。
相关内容
热门资讯
原创 女...
酒泉戈壁滩的风一如既往地冷冽而干燥，一枚长征二号F火箭静静矗立在发射架上，像一根沉默却坚定的钢铁标尺...
11000mAh荣耀最大电池，...
IT之家 6 月 15 日消息，荣耀手机今日官宣，荣耀 X80 Pro Max 新品发布会定档 6 ...
APS DNL为韩国光州天桥打...
IT之家 6 月 14 日消息，据韩媒 The Elec 报道，APS DNL 公司在韩国光州新岘洞...
迈菲超声申请恒压晶圆减薄装置专...
国家知识产权局信息显示，深圳迈菲超声半导体有限公司申请一项名为“恒压晶圆减薄装置、控制系统及方法”的...
拉马克被嘲笑了200年，结果他...
过去二十几年，自然科学最大的特点不是"发现新东西"，而是把旧常识一个个推翻了。比如：基因不只来自父母...
微纳星空6颗“东坡”系列卫星出...
IT之家 6 月 14 日消息，微纳星空今日宣布，由微纳星空商业卫星智能化产线批量研制的 6 颗“东...
爱科赛博：完成MW级AIDC测...
来源：上海证券报·中国证券网 上证报中国证券网讯 6月12日，爱科赛博披露投资者关系活动记录表。 公...
主创手记 丨电视剧《星月征途》...
专栏导语 “北京大视听”精品创作工作机制实施以来，首都视听领域创作活力不断增强，一批立足现实、回应时...
中国正在太空布下一盘大棋
央视网6月13日消息，中国正在太空布下一盘大棋。 业内机构预测，到2030年，全球太空经济市场规模将...
不是说要涨价，怎么一到618全...
我算是发现了，厂商们的嘴，骗人的鬼。 年初那会儿，手机厂商、电脑厂商一个个说得跟真的一样：什么成本抗...