蚂蚁回应新模型训练成本降低：基于不同芯片持续调优，会逐步开源
创始人
2025-03-25 07:21:29
0次
IT之家 3 月 24 日消息，据新浪科技报道，针对有关蚂蚁“百灵”大模型训练成本有关消息，蚂蚁集团回应称，公司针对不同芯片持续调优，以降低 AI 应用成本，目前已经取得一定进展，也将逐步通过开源分享。
IT之家附事件背景：
近日，蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要：无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》，宣布推出两款不同规模的 MoE （混合专家）大语言模型 —— 百灵轻量版（Ling-Lite）与百灵增强版（Ling-Plus），并提出一系列创新方法，实现在低性能硬件上高效训练大模型，显著降低成本。
百灵轻量版参数规模为 168 亿（激活参数 27.5 亿），增强版基座模型参数规模高达 2900 亿（激活参数 288 亿），性能均达行业领先水平。实验表明，其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练，性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。
相关内容
热门资讯
物理学陷入停滞——进步主义神话...
当今的物理学家需要抛弃那个极具吸引力的神话——他们正在揭示我们宇宙的隐藏现实。 浏览物理学科普书籍...
从“数字化”到“数智化”（观象...
从“数字化”到“数智化”，一字之变，体现出我国牢牢把握人工智能机遇，体系化推进人工智能产业创新和赋能...
10万次Claude真实对话洞...
IT之家 11 月 26 日消息，Anthropic 昨日（11 月 25 日）发布研究报告，通过分...
AI技术应用越广泛，越要明确边...
发展科技的初心和落点都是服务于人，服务于国家和社会。让安全和便捷成为AI技术应用的一体两面，成为技术...
【多彩新论】警惕碎片化传播的负...
注意力不集中，看书听讲说话容易走神，刷手机却停不下来……数字时代的碎片化传播，已成为我们获取资讯的主...
原创 1...
神舟二十二飞船成功发射，代号“天宫应急1号”，并且也圆满完成了中国空间站任务对接，整个任务全面成功了...
工信部：启动为期两年的卫星物联...
C114讯 11月26日消息（颜翊）昨日，工业和信息化部正式印发《关于组织开展卫星物联网业务商用试验...
华为Mate80全系降价背后
华为需要通过更亲民的定价，来从iPhone手上抢更多的市场份额。 文｜游勇 编｜石兆 作为华为旗下最...
亚洲第一！我国自主研制，海试成...
◎ 科技日报记者 都芃 25日，记者从中交天津航道局有限公司获悉，当天下午，新一代超大型耙吸挖泥船“...
一加总裁：第五代骁龙8由一加高...
【CNMO科技消息】11月26日，一加中国区总裁李杰在社交平台透露，已受邀出席当天下午举行的高通“第...