蚂蚁回应新模型训练成本降低:基于不同芯片持续调优,会逐步开源
创始人
2025-03-25 07:21:29
0

IT之家 3 月 24 日消息,据新浪科技报道,针对有关蚂蚁“百灵”大模型训练成本有关消息,蚂蚁集团回应称,公司针对不同芯片持续调优,以降低 AI 应用成本,目前已经取得一定进展,也将逐步通过开源分享。

IT之家附事件背景:

近日,蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要:无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》,宣布推出两款不同规模的 MoE (混合专家)大语言模型 —— 百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),并提出一系列创新方法,实现在低性能硬件上高效训练大模型,显著降低成本

百灵轻量版参数规模为 168 亿(激活参数 27.5 亿),增强版基座模型参数规模高达 2900 亿(激活参数 288 亿),性能均达行业领先水平。实验表明,其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。

相关内容

热门资讯

利好!三部门发文,智能体顶层设... 来源:市场资讯 (来源:证券时报) 安全可控是底线,19个场景全面开花。 智能体,正以前所未有的速度...
中国移动董事长陈忠岳:将开放万... IT之家 5 月 8 日消息,在今天召开的中国移动 2026 移动云大会主论坛上。中国移动董事长陈忠...
声动百年,视界无限:Jabra... 2026-05-08 16:29:42 作者:狼叫兽 上海电信博物馆,曾是 Jabra 母公司大北...
全国自主可控BIM技术应用效能... 近日,全国自主可控BIM技术应用效能提升培训班在湖北武汉成功举办。 培训聚焦自主可控BIM技术的发展...
2026年演唱会追星手机推荐:... 对于演唱会爱好者、追星族和体育赛事观众来说,手机早已不只是通讯工具,更是记录高光时刻的‘口袋望远镜’...
既能防晒又能听歌,还自带AI小... 春夏出门运动,你是不是也常常纠结:到底是戴帽子防晒,还是戴耳机听歌?两个都戴上,耳朵被压得生疼,帽檐...
突发!wepoker破解是真的... 突发!wepoker破解是真的还是假的,阿拉斗牌作必弊,真是真的有辅助app(哔哩哔哩)1、阿拉斗牌...
随着!拱趴大菠萝挂哪里,新奇玩... 随着!拱趴大菠萝挂哪里,新奇玩乐辅助器下载,原来真的有辅助工具(哔哩哔哩)1、新奇玩乐辅助器下载公共...
截至目前!wepoker软件安... 截至目前!wepoker软件安装包,聚友联盟辅助器下载,果然真的是有辅助软件(哔哩哔哩)一、聚友联盟...
推出新举措!pokemmo脚本... 推出新举措!pokemmo脚本辅助下载,逍遥辅助器怎么用,竟然存在有辅助方法(哔哩哔哩)1、完成po...