蚂蚁回应新模型训练成本降低：基于不同芯片持续调优，会逐步开源
创始人
2025-03-25 07:21:29
0次
IT之家 3 月 24 日消息，据新浪科技报道，针对有关蚂蚁“百灵”大模型训练成本有关消息，蚂蚁集团回应称，公司针对不同芯片持续调优，以降低 AI 应用成本，目前已经取得一定进展，也将逐步通过开源分享。
IT之家附事件背景：
近日，蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要：无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》，宣布推出两款不同规模的 MoE （混合专家）大语言模型 —— 百灵轻量版（Ling-Lite）与百灵增强版（Ling-Plus），并提出一系列创新方法，实现在低性能硬件上高效训练大模型，显著降低成本。
百灵轻量版参数规模为 168 亿（激活参数 27.5 亿），增强版基座模型参数规模高达 2900 亿（激活参数 288 亿），性能均达行业领先水平。实验表明，其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练，性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。
相关内容
热门资讯
大模型API降价释放了三重信号
近日，上游算力租赁价格持续走高，下游国内主流大模型API（应用程序编程接口）却迎来一轮大幅降价，多款...
全球首次：我国科学家实现单神经...
感谢IT之家网友 的线索投递！ 6 月 19 日消息，据央视报道，中国科学院脑科学与智能技术卓越创新...
实测 | 选品、比价、省钱、支...
凌晨刷着满屏“618”满减规则，来回切换京东、淘宝、抖音三款App（应用程序），比价、搜索的繁琐，让...
国产之“光”爆单 AI算力拉动...
今年以来，AI算力浪潮席卷全球。如果把AI大模型比作最强大脑，那么光通信就是为它输送海量数据的“高速...
光量子计算机“天衍-P2000...
近日，在中国科学院量子信息与量子科技创新研究院指导下，中国电信旗下中电信量子集团联合九章（济南）量子...
消息称阿里将推出“千问输入法”...
6月18日，据读佳消息，阿里千问团队将推出名为“千问输入法”的独立APP，产品已开发完成，即将上线各...
银行业保险业人工智能安全开发应...
新华社北京6月18日电（记者李延霞、张千千）国家金融监督管理总局6月18日对外发布《关于银行业保险业...
反转！追觅全面回归主业，战略调...
别看追觅现在拿了全球扫地机双第一，国内有科沃斯、石头、云鲸死死咬住份额，技术迭代速度极快，海外又有戴...
苏黎世为Robotaxi开绿灯...
近日，自动驾驶企业文远知行与全球出行巨头 Uber 联合官宣，双方将在瑞士苏黎世落地商业化 Robo...
原创 有...
抬头看星空，我们老问一句话：外星人到底躲在哪儿？这个问题被问了几十年，答案越找越少。 换个思路也许更...