蚂蚁回应新模型训练成本降低：基于不同芯片持续调优，会逐步开源
创始人
2025-03-25 07:21:29
0次
IT之家 3 月 24 日消息，据新浪科技报道，针对有关蚂蚁“百灵”大模型训练成本有关消息，蚂蚁集团回应称，公司针对不同芯片持续调优，以降低 AI 应用成本，目前已经取得一定进展，也将逐步通过开源分享。
IT之家附事件背景：
近日，蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要：无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》，宣布推出两款不同规模的 MoE （混合专家）大语言模型 —— 百灵轻量版（Ling-Lite）与百灵增强版（Ling-Plus），并提出一系列创新方法，实现在低性能硬件上高效训练大模型，显著降低成本。
百灵轻量版参数规模为 168 亿（激活参数 27.5 亿），增强版基座模型参数规模高达 2900 亿（激活参数 288 亿），性能均达行业领先水平。实验表明，其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练，性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。
相关内容
热门资讯
总算了解！微乐家乡麻辣自建房辅...
总算了解！微乐家乡麻辣自建房辅助app，微乐辅助脚本-一直真的有辅助app（有挂细节）一、微乐家乡麻...
解密关于！微乐小程序微乐辅助软...
解密关于！微乐小程序微乐辅助软件，微乐广西麻辣-竟然真的是有辅助app（有挂规律）1）微乐小程序微乐...
查到实测！微信小程序微乐房间怎...
查到实测！微信小程序微乐房间怎么开挂，微乐手游脚本辅助-总是有辅助方法（有挂教学）1）微信小程序微乐...
技巧知识分享！微信微乐辅助，微...
技巧知识分享！微信微乐辅助，微乐手游辅助脚本平台-真是存在有辅助脚本（有挂规律）1、点击下载安装，微...
教学盘点！微信微乐小程序修改器...
教学盘点！微信微乐小程序修改器，微乐贵阳麻将辅助-一直真的是有辅助挂（有人有挂）在进入微信微乐小程序...
分享认知！微信小程序微乐辅助器...
分享认知！微信小程序微乐辅助器教程，微乐斗地主有挂吗-确实是有辅助神器（真的有挂）1、超多福利：超高...
详细说明！小程序微乐游戏辅助器...
详细说明！小程序微乐游戏辅助器，微乐自建房脚本免费下载-真是真的是有辅助插件（真是有挂）在进入小程序...
如何分辨真伪！微乐小程序免费工...
如何分辨真伪！微乐小程序免费工具，微信微乐游戏破解器-真是存在有辅助脚本（了解有挂）1、这是跨平台的...
玩家必看攻略！微乐陕西小程序破...
玩家必看攻略！微乐陕西小程序破解器，微乐小程序修复系统有用吗-好像有辅助技巧（有挂分享）1、微乐陕西...
我来教大家！微乐手游辅助脚本平...
我来教大家！微乐手游辅助脚本平台，微乐微信小程序辅助软件-切实是真的有辅助软件（有挂教程）1、下载好...