蚂蚁回应新模型训练成本降低:基于不同芯片持续调优,会逐步开源
创始人
2025-03-25 07:21:29
0

IT之家 3 月 24 日消息,据新浪科技报道,针对有关蚂蚁“百灵”大模型训练成本有关消息,蚂蚁集团回应称,公司针对不同芯片持续调优,以降低 AI 应用成本,目前已经取得一定进展,也将逐步通过开源分享。

IT之家附事件背景:

近日,蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要:无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》,宣布推出两款不同规模的 MoE (混合专家)大语言模型 —— 百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),并提出一系列创新方法,实现在低性能硬件上高效训练大模型,显著降低成本

百灵轻量版参数规模为 168 亿(激活参数 27.5 亿),增强版基座模型参数规模高达 2900 亿(激活参数 288 亿),性能均达行业领先水平。实验表明,其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。

相关内容

热门资讯

勇立时代潮头 书写科创新篇 京平 5月30日是第十个全国科技工作者日。以“奋进‘十五五’科技谱新篇”为主题,今年北京科技周继续与...
温州赵氟隆申请氟塑料制品制造工... 国家知识产权局信息显示,温州赵氟隆有限公司申请一项名为“一种氟塑料制品的制造工艺”的专利,公开号CN...
中国空间站第十批科学实验样品返... 29日,中国空间站第十批空间科学实验样品随神舟二十二号飞船顺利返回。30日凌晨部分实验样品运抵北京,...
2026年东海县谷歌独立站优化... 东海县谷歌独立站优化是企业通过技术手段提升谷歌搜索排名、获取海外客户询盘的专业服务过程。2026年,...
【企业风采】硬控大国重器!黄石... 今年3月 我国首台550兆瓦F级燃气机组 华电重庆潼南燃机项目1号机组 圆满完成168小时满负荷试运...
靠谱的极光岛光感膜推荐哪家 靠谱的极光岛光感膜推荐哪家 在如今的手机配件市场中,极光岛光感膜凭借其独特的魅力吸引了众多消费者的目...
日均15单,营收200元:一个... 开了九年网约车,徐泉原以为自己算是情绪稳定的司机了。 直到他收到一个投诉:那天他在副驾上放了打包的臭...
优利德获得发明专利授权:“非接... 证券之星消息,根据天眼查APP数据显示优利德(688628)新获得一项发明专利授权,专利名为“非接触...
万店焕新:锦江酒店落地服务业A... 来源:界面新闻 2026年,AI应用几乎已经席卷各行各业。但酒店业对AI的讨论声始终存在。 截止20...
“AI Token化”重塑盈利... 在人工智能浪潮席卷全球的2026年,当大多数企业还在为AI大模型的落地场景苦苦探索时,道通科技(68...