蚂蚁回应新模型训练成本降低：基于不同芯片持续调优，会逐步开源
创始人
2025-03-25 07:21:29
0次
IT之家 3 月 24 日消息，据新浪科技报道，针对有关蚂蚁“百灵”大模型训练成本有关消息，蚂蚁集团回应称，公司针对不同芯片持续调优，以降低 AI 应用成本，目前已经取得一定进展，也将逐步通过开源分享。
IT之家附事件背景：
近日，蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要：无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》，宣布推出两款不同规模的 MoE （混合专家）大语言模型 —— 百灵轻量版（Ling-Lite）与百灵增强版（Ling-Plus），并提出一系列创新方法，实现在低性能硬件上高效训练大模型，显著降低成本。
百灵轻量版参数规模为 168 亿（激活参数 27.5 亿），增强版基座模型参数规模高达 2900 亿（激活参数 288 亿），性能均达行业领先水平。实验表明，其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练，性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。
相关内容
热门资讯
科普进校园 燃动科学热
为深化馆校科普融合，丰富校园科技文化内涵，扎实推进校园科技活动周开展，近日，市科技馆走进多所中小学、...
中移申请机器人控制方法专利，可...
国家知识产权局信息显示，中移（杭州）信息技术有限公司;中国移动通信集团有限公司申请一项名为“机器人控...
固态电池惊天骗局曝光，卷走13...
来源：环球零碳 Donut lab 撰文 | Shushu 编辑 | 小澜 →这是《环球零碳》的2...
直击徐汇AI路演现场：专家点评...
来源：滚动播报 （来源：上观新闻） 6月12日，“AI赋能——人工智能产业创新与知识产权保护同行”主...
解锁脑洞涂鸦！市科技馆开展绘画...
6月13日，固原市科技馆开展涂鸦机器人科普活动。活动现场，科技辅导员首先为青少年们科普了涂鸦机器人的...
英诺赛科取得一种功率器件专利，...
国家知识产权局信息显示，英诺赛科（苏州）半导体有限公司取得一项名为“一种功率器件”的专利，授权公告号...
Arch Linux AUR遭...
IT之家 6 月 13 日消息，据 The Hacker News 昨天报道，Arch Linux ...
上交会智慧口岸展区串起产业链，...
第十二届中国（上海）国际技术进出口交易会正在上海举行，上海智慧口岸与全球供应链数字化服务生态专属展区...
青春华章·“两弹一星”铸丰碑丨...
青海日报融媒体记者 杨燕玲 位于青海海北藏族自治州海晏县西海镇的爆轰试验场有一面浮雕墙，墙上定格了十...
梁文锋向左，杨植麟向右
出品｜虎嗅科技组 作者｜宋思杭 编辑｜苗正卿 头图｜视觉中国 月之暗面（以下简称“Kimi”）和De...