蚂蚁回应新模型训练成本降低：基于不同芯片持续调优，会逐步开源
创始人
2025-03-25 07:21:29
0次
IT之家 3 月 24 日消息，据新浪科技报道，针对有关蚂蚁“百灵”大模型训练成本有关消息，蚂蚁集团回应称，公司针对不同芯片持续调优，以降低 AI 应用成本，目前已经取得一定进展，也将逐步通过开源分享。
IT之家附事件背景：
近日，蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要：无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》，宣布推出两款不同规模的 MoE （混合专家）大语言模型 —— 百灵轻量版（Ling-Lite）与百灵增强版（Ling-Plus），并提出一系列创新方法，实现在低性能硬件上高效训练大模型，显著降低成本。
百灵轻量版参数规模为 168 亿（激活参数 27.5 亿），增强版基座模型参数规模高达 2900 亿（激活参数 288 亿），性能均达行业领先水平。实验表明，其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练，性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。
相关内容
热门资讯
青春绽放在祖国需要的地方——“...
青春不负韶华。中央宣传部、人力资源社会保障部近日向全社会公开发布“最美高校毕业生”，9名同志光荣入选...
库犸科技申请电流检测电路和机器...
国家知识产权局信息显示，深圳库犸科技有限公司申请一项名为“电流检测电路和机器人”的专利，公开号CN1...
新春致辞 | 一文速览五大基础...
基础电信企业新春致辞 中国电信 中国电信集团有限公司 董事长、党组书记 柯瑞文： 春回岁聿，福启...
中国南极考察又有新发现！中层鱼...
来源：滚动播报 （来源：千龙网） 中国第42次南极考察又有新消息。目前，“雪龙”号在阿蒙森海的大洋作...
南京一企业研发省内领先性价比“...
城市消防水源“难找、不好用、难监测”，高层消防水压“看不见、测不准、报不出”，一直是城市消防安全管理...
路由器到底怎么摆，网速才更快？...
你家里的路由器是怎么摆放的呢？ 有的人把路由器藏起来，有的人会直接放客厅，但很多人可能不知道，路由器...
江苏宏大特种钢机械厂申请带式微...
国家知识产权局信息显示，江苏宏大特种钢机械厂有限公司申请一项名为“带式微波烘干机”的专利，公开号CN...
“亦庄箭”发射“亦庄星” ，捷...
2月12日14时37分，在广东阳江近海海域，北京经济技术开发区（简称“北京经开区”，又称“北京亦庄”...
EnGenius推出BE360...
IT之家 2 月 14 日消息，EnGenius 恩硕科技美国加州当地时间本月 12 日宣布推出面向...
洛轴：3万多种产品这样下线（新...
本报记者 王云杉 张文豪 河南洛阳，航空精密轴承国家重点实验室，洛轴集团技术中心副主任刘明辉俯身审视...