蚂蚁回应新模型训练成本降低：基于不同芯片持续调优，会逐步开源
创始人
2025-03-25 07:21:29
0次
IT之家 3 月 24 日消息，据新浪科技报道，针对有关蚂蚁“百灵”大模型训练成本有关消息，蚂蚁集团回应称，公司针对不同芯片持续调优，以降低 AI 应用成本，目前已经取得一定进展，也将逐步通过开源分享。
IT之家附事件背景：
近日，蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要：无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》，宣布推出两款不同规模的 MoE （混合专家）大语言模型 —— 百灵轻量版（Ling-Lite）与百灵增强版（Ling-Plus），并提出一系列创新方法，实现在低性能硬件上高效训练大模型，显著降低成本。
百灵轻量版参数规模为 168 亿（激活参数 27.5 亿），增强版基座模型参数规模高达 2900 亿（激活参数 288 亿），性能均达行业领先水平。实验表明，其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练，性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。
相关内容
热门资讯
云鲸长出“双臂”，扫地机器人走...
记者 濮振宇 9月3日，云鲸在德国柏林举办秋季全球品牌发布会，展示了其围绕产品的一系列创新，例如，针...
流水线制造“词元”正成为规模化...
近日，北京青年报记者走进北京市首个国资词元工厂——京算词元工厂，实地探访词元（Token）的生产逻辑...
摩尔线程跌停：市值跌破2000...
雷递网 雷建平 9月7日 摩尔线程（公司代码：688795）今日跌停，截至今日午盘，公司股价为415...
训练中文大模型需要哪些语料？预...
训练中文大模型需要哪些语料，是企业在构建自主AI能力时面临的首要难题。从通用预训练到垂直领域微调，高...
我国5G移动电话用户达13.0...
记者近日从工业和信息化部获悉，2026年前7个月，通信业总体运行平稳。电信业务总量平稳增长，新型基础...
开学季，智能机器人与艺术高校相...
与智能机器人融合共创，并非理工科院系的专属。近日，在上海戏剧学院迎新现场，“机器人戏剧魔盒”引发关注...
国泰海通：AI有望打开游戏行业...
智通财经APP获悉，国泰海通发布研报称，AI对游戏行业的影响正由研发提效延伸至玩法创新、创作平台和A...
《神鬼寓言4》拒绝随机生成 4...
Playground Games近日透露，在重启版《神鬼寓言》中，开发团队为游戏里每一位NPC都进行...
曝三星Galaxy S27系列...
【太平洋科技快讯】据 IT 之家报道，三星计划在明年年初发布四款高端旗舰，分别是 S27、S27+、...
华为小米同日发布折叠新机，建议...
一、事件简述 9月7日，华为举行秋季全场景新品发布会，发布HarmonyOS 7及Mate XT 2...