蚂蚁回应新模型训练成本降低：基于不同芯片持续调优，会逐步开源
创始人
2025-03-25 07:21:29
0次
IT之家 3 月 24 日消息，据新浪科技报道，针对有关蚂蚁“百灵”大模型训练成本有关消息，蚂蚁集团回应称，公司针对不同芯片持续调优，以降低 AI 应用成本，目前已经取得一定进展，也将逐步通过开源分享。
IT之家附事件背景：
近日，蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要：无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》，宣布推出两款不同规模的 MoE （混合专家）大语言模型 —— 百灵轻量版（Ling-Lite）与百灵增强版（Ling-Plus），并提出一系列创新方法，实现在低性能硬件上高效训练大模型，显著降低成本。
百灵轻量版参数规模为 168 亿（激活参数 27.5 亿），增强版基座模型参数规模高达 2900 亿（激活参数 288 亿），性能均达行业领先水平。实验表明，其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练，性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。
相关内容
热门资讯
歌尔申请音频处理方法以及相关设...
国家知识产权局信息显示，歌尔股份有限公司申请一项名为“一种音频处理方法以及相关设备”的专利，公开号C...
原创 三...
8月19日，据路透社援引两位知情人士报道称，三星电子已将部分先进制程晶圆代工新订单的价格上调最高15...
“AI脸”惹人厌责任不在AI
随着人工智能（AI）短剧赛道迅速升温，一张张如同复制粘贴的“AI脸”逐渐引起观众反感。中国网络视听节...
手机充电为什么越来越快？
本文转自【人民日报】； 原标题：手机充电为什么越来越快（身边的创新） 材料升级、结构优化，在多种约束...
荆门市图书馆举办航空科普活动
为激发少年儿童科学探索热情，厚植家国情怀，8月15日，市图书馆联合中国特种飞行器研究所（荆门）开展“...
南京建真实场景训练场破解机器人...
走进位于江苏省南京市玄武区的江苏国际数据港具身智能创新中心，这个约5000平方米的空间内，一场场围绕...
吉高集团精准开展专题培训 锻造...
央广网长春8月20日消息（记者张学龙）8月上旬，吉高集团集中开办两期专题干部培训班，共计172名干部...
支付宝何以不再执念DAU
在今年OPPO与支付宝在Agent领域推进合作时，双方曾为一个看似细小的问题反复讨论。 即，用户通过...
产业发展开新局|南京江宁：硬核...
新华社南京8月19日电 题：南京江宁：硬核科创驱动产业跃升 新华社记者陈刚 夏末秋初，紫金山科技城6...
蕴力同行・科创兴粤｜鑫钻股份亮...
近日，广东省制造业赋能对接系列活动专精特新企业第二场暨交银蕴通万里行・广东站《粤制造粤美好》主题活动...