蚂蚁回应新模型训练成本降低：基于不同芯片持续调优，会逐步开源
创始人
2025-03-25 07:21:29
0次
IT之家 3 月 24 日消息，据新浪科技报道，针对有关蚂蚁“百灵”大模型训练成本有关消息，蚂蚁集团回应称，公司针对不同芯片持续调优，以降低 AI 应用成本，目前已经取得一定进展，也将逐步通过开源分享。
IT之家附事件背景：
近日，蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要：无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》，宣布推出两款不同规模的 MoE （混合专家）大语言模型 —— 百灵轻量版（Ling-Lite）与百灵增强版（Ling-Plus），并提出一系列创新方法，实现在低性能硬件上高效训练大模型，显著降低成本。
百灵轻量版参数规模为 168 亿（激活参数 27.5 亿），增强版基座模型参数规模高达 2900 亿（激活参数 288 亿），性能均达行业领先水平。实验表明，其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练，性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。
相关内容
热门资讯
腾讯WorkBuddy重磅更新...
（来源：快科技） 快科技8月13日消息，腾讯发布WorkBuddy 5.3.11版本，核心升级AI原...
进入全球TOP5供应链：紫光展...
近期，搭载紫光展锐T8300 5G芯片的小米POCO C85x 5G在印度市场正式开售。同时，Red...
5大重磅新机扎堆9月：华为史上...
快科技8月13日消息，博主定焦数码爆料称，华为9月份将带来5款重磅新机，分别是三折叠Mate XT2...
为国产机器人开辟出海通道
从占据出口七成以上份额的清洁机器人，到快速增长的工业机器人，再到异军突起的人形智能机器人，我国机器人...
南京“机器人军团”再添猛将！中...
国家电网有限公司科学技术进步一等奖、电力科学技术进步奖一等奖、全国设备管理与技术创新成果一等奖、河北...
“两弹一星”元勋王希季逝世
据中国空间技术研究院微信公众号消息，中国共产党优秀党员，我国航天事业开拓者之一，著名空间技术专家，中...
加价两三倍抢料！MLCC暴露了...
有客户为了拿到货，愿意出2倍、3倍的价格。货主还没松口，价高者得的风声已经传遍了整个产业链。 这不是...
氧化铝明明是绝缘体，为什么加进...
材料学中，氧化物通常意味着夹杂、脆化和导电率下降。Al₂O₃更是一种典型绝缘陶瓷：电阻率高、塑性低，...
超越SpaceX！Anthro...
8月13日，据多位投资方人士消息，全球头部人工智能企业Anthropic最快将于今年10月正式上市，...
荣耀发布全球首款机器人手机Ro...
人民网记者 王星 荣耀发布全球首款机器人手机。受访单位供图 8月12日，荣耀在广州举办新品发布会，...