蚂蚁回应新模型训练成本降低：基于不同芯片持续调优，会逐步开源
创始人
2025-03-25 07:21:29
0次
IT之家 3 月 24 日消息，据新浪科技报道，针对有关蚂蚁“百灵”大模型训练成本有关消息，蚂蚁集团回应称，公司针对不同芯片持续调优，以降低 AI 应用成本，目前已经取得一定进展，也将逐步通过开源分享。
IT之家附事件背景：
近日，蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要：无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》，宣布推出两款不同规模的 MoE （混合专家）大语言模型 —— 百灵轻量版（Ling-Lite）与百灵增强版（Ling-Plus），并提出一系列创新方法，实现在低性能硬件上高效训练大模型，显著降低成本。
百灵轻量版参数规模为 168 亿（激活参数 27.5 亿），增强版基座模型参数规模高达 2900 亿（激活参数 288 亿），性能均达行业领先水平。实验表明，其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练，性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。
相关内容
热门资讯
微软Xbox宣布将进行大规模人...
【太平洋科技快讯】据央视财经报道，微软周一宣布将启动新一轮裁员计划，合计将削减4800个岗位，约占公...
阿里副总裁戚肖宁：全球各大公司...
IT之家 7 月 8 日消息，据南华早报 7 月 7 日报道，阿里巴巴集团副总裁、达摩院玄铁团队负责...
干货｜学术出版与开放科学系列讲...
讲座回顾 学术出版与开放科学 系列讲座 人工智能快速发展、开放获取成为趋势，师生在学术写作、期刊投稿...
原创 玻...
玻璃凭借其独特的化学成分与物理特性，深刻融入现代生活的方方面面，并持续推动科技的发展。 一、核心化学...
微软启动自研MAI模型替代第三...
来源：环球网 【环球网科技综合报道】7月8日消息，据彭博社报道，为进一步压缩AI业务运营成本，微软正...
OPPO Find X9s P...
在短视频与Vlog盛行的时代，许多用户，尤其是新手创作者，都在寻找一款能轻松记录生活、画质出色且易于...
首款增程车来了？小米汽车官宣新...
7月8日，小米汽车官方微博发布主题为“SkyNomad”的海报。“SkyNomad为小米汽车旗下新产...
原创 为...
如果你在电视转播里看到飞船返回那一刻，那画面真的挺让人心慌的。 明明是人类最顶尖的科技结晶，怎么落地...
快手再也回不去了
文 | 听潮TI，作者 | 沈荣，编辑 | 张晓 过去十五年，快手一直在变。 起初它只是一款GIF...
苹果开倒车！iPhone 18...
快科技7月8日消息，博主定焦数码爆料称，根据其获取的来自供应商塔塔电子的泄露资料，iPhone 18...