蚂蚁回应新模型训练成本降低：基于不同芯片持续调优，会逐步开源
创始人
2025-03-25 07:21:29
0次
IT之家 3 月 24 日消息，据新浪科技报道，针对有关蚂蚁“百灵”大模型训练成本有关消息，蚂蚁集团回应称，公司针对不同芯片持续调优，以降低 AI 应用成本，目前已经取得一定进展，也将逐步通过开源分享。
IT之家附事件背景：
近日，蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要：无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》，宣布推出两款不同规模的 MoE （混合专家）大语言模型 —— 百灵轻量版（Ling-Lite）与百灵增强版（Ling-Plus），并提出一系列创新方法，实现在低性能硬件上高效训练大模型，显著降低成本。
百灵轻量版参数规模为 168 亿（激活参数 27.5 亿），增强版基座模型参数规模高达 2900 亿（激活参数 288 亿），性能均达行业领先水平。实验表明，其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练，性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。
相关内容
热门资讯
一汽-大众申请热失控仿真方程参...
国家知识产权局信息显示，一汽-大众汽车有限公司申请一项名为“热失控仿真方程的参数拟合方法、装置、设备...
从“种子”到“森林”，这座孵化...
齐鲁晚报·齐鲁壹点记者 赵波 通讯员 肖玲玲 在青岛高新区火炬路100号，D座写字楼外表并不起眼。但...
无锡滨湖区发布总规模近150亿...
会议现场。滨湖区委宣传部供图 8月31日，“芯聚湖湾 AI创未来”第八届无锡太湖创芯会议在无锡市滨湖...
原创 8...
要知道，这场比赛真是让人看得直掉下巴。常冰玉一开启就表现得像个训练场上的尖子，攻势猛烈，第二局还破了...
变了，华为新款三折叠Mate ...
在华为推出全球首款三折叠手机之后，在网上引发热议，随后三星也是跟进，推出了他们家的三折叠手机，但是形...
利用人工智能、工业互联网推动电...
工业互联网一头连着制造，一头牵着服务和消费，能有效降低生产成本、提高响应效率、优化服务体验，特别是近...
直流远供远端机怎么选 济南能华...
在通信工程建设中，直流远供技术是解决偏远基站供电难题的关键方案。济南能华机电长期深耕电力电子领域，推...
石家庄市市场监督管理局组织新版...
为进一步推动全市医疗器械生产企业精准把握新版《医疗器械生产质量管理规范》核心要义，帮扶企业迭代升级质...
着陆腿、网兜、筷子夹……火箭回...
朱雀三号遥二回收成功，中国又多了一个自己能回来的火箭。 它的回收平台，基本就是一个按照航天标准硬化的...
“细胞工厂”里的万千世界（深度...
生物制造正在成为推动制造业高质量发展的重要引擎 “十五五”规划纲要对前瞻布局未来产业作出重要部署，要...