蚂蚁回应新模型训练成本降低：基于不同芯片持续调优，会逐步开源
创始人
2025-03-25 07:21:29
0次
IT之家 3 月 24 日消息，据新浪科技报道，针对有关蚂蚁“百灵”大模型训练成本有关消息，蚂蚁集团回应称，公司针对不同芯片持续调优，以降低 AI 应用成本，目前已经取得一定进展，也将逐步通过开源分享。
IT之家附事件背景：
近日，蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要：无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》，宣布推出两款不同规模的 MoE （混合专家）大语言模型 —— 百灵轻量版（Ling-Lite）与百灵增强版（Ling-Plus），并提出一系列创新方法，实现在低性能硬件上高效训练大模型，显著降低成本。
百灵轻量版参数规模为 168 亿（激活参数 27.5 亿），增强版基座模型参数规模高达 2900 亿（激活参数 288 亿），性能均达行业领先水平。实验表明，其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练，性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。
相关内容
热门资讯
“自主断案”的摄像头
此前，输电线路传统视频监拍多采用固定周期定时抓拍模式，图像需统一回传后台存储后再由人工逐一排查，隐患...
微信官宣功能更新！“你撤回了一...
快科技8月7日消息，今日，“微信时刻”公众号发文宣布，微信功能迎来更新，现在连“你撤回了一条消息”这...
信创安全托管新范式：从被动防御...
在数字化转型加速推进的背景下，山东省内政企、制造、教育等各类单位的网络安全环境正面临新的考验。攻击者...
消息称HMD Touch AI...
IT之家 8 月 8 日消息，HMD 上个月在中国大陆市场推出 Touch AI 小触屏手机，该产品...
怎么选四川科研院所涉密食堂智慧...
四川科研院所涉密食堂作为特殊管理场景，其就餐管理系统的选型需要兼顾效率、安全、合规多重要求，不同于普...
广东专业压铸机定制工厂推荐，质...
在广东，压铸产业高度集聚，尤其是东莞、深圳、惠州一带，已形成从模具设计、材料供应到精密加工、表面处理...
青海太阳能集热器优质供应商推荐...
青海的太阳能资源禀赋，在全国版图中属于第一梯队。年均日照时数普遍在2500小时以上，太阳能年辐射总量...
小程序定制开发选型指南：行业标...
随着数字经济的深入发展，小程序作为轻量级应用载体，已成为企业数字化转型的重要工具之一。本年度，国内服...
Kimi K3也失控了…学霸A...
衡宇 发自 凹非寺 量子位 | 公众号 QbitAI 你是说，Kimi K3它也“越狱”了？！ 美国...
江苏盐南高新区新怡社区暑期兴趣...
央广网盐城8月7日消息（记者王姝姝 通讯员李建霞）近日，江苏省盐城市盐南高新区新河街道新怡社区关工委...