蚂蚁回应新模型训练成本降低:基于不同芯片持续调优,会逐步开源
创始人
2025-03-25 07:21:29
0

IT之家 3 月 24 日消息,据新浪科技报道,针对有关蚂蚁“百灵”大模型训练成本有关消息,蚂蚁集团回应称,公司针对不同芯片持续调优,以降低 AI 应用成本,目前已经取得一定进展,也将逐步通过开源分享。

IT之家附事件背景:

近日,蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要:无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》,宣布推出两款不同规模的 MoE (混合专家)大语言模型 —— 百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),并提出一系列创新方法,实现在低性能硬件上高效训练大模型,显著降低成本

百灵轻量版参数规模为 168 亿(激活参数 27.5 亿),增强版基座模型参数规模高达 2900 亿(激活参数 288 亿),性能均达行业领先水平。实验表明,其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。

相关内容

热门资讯

第四届“智航杯”全国无人机智能... 本报讯(中青报·中青网记者 张是卓)8月24日,由中国航空研究院、中国光华科技基金会、国家高端航空装...
这个训练场,教机器人学“干活” (来源:经济日报) 转自:经济日报 简单的烤面包,竟得手把手教上千遍? 在河北雄安新区,就有一群这样...
大概这两年,我们骑的小电驴就能... 事情是这样。 前阵子我不是去参加了个量子科技的闭门会嘛。说实话,去之前我心里是犯嘀咕的。 毕竟现在这...
挪威拟监管智能眼镜 或禁公共场... 挪威政府25日说,计划对智能眼镜及同类设备的使用实施监管,考虑禁止这些设备在公共场所启动人脸识别功能...
加快培育“人工智能+”等重大应... (来源:工人日报) 本报北京8月26日电 (记者王凤仪)今天上午,国新办举行“开局起步‘十五五’”系...
大厂竞逐AI办公助手,蒙牛先跑... (来源:钛媒体APP) 微软Copilot嵌入Office,Google Gemini覆盖Work...
天宁区全域覆盖!智能巡查车带来... 天宁区全域覆盖 智能巡查车带来哪些变化? 最近,天宁区在全市率先实现了智能巡查车全域覆盖。今年上半年...
百步穿杨!江淮实验室成功摘金 8月26日是第二届世界人形机器人运动会最后一个比赛日。江淮实验室启江百步穿杨队凭借“脑、眼、手”一体...
强基础、拓应用,人工智能如何打...   新华社北京8月26日电 题:强基础、拓应用,人工智能如何打开发展新空间   新华社记者赵怡宁、周...
深读|算力“上天”,江苏抢抓“... 未来渔民只需打开手机小程序向卫星发起查询,搭载高光谱相机与智能系统的卫星便可在轨分析洋流、鱼群分布,...