蚂蚁回应新模型训练成本降低：基于不同芯片持续调优，会逐步开源
创始人
2025-03-25 07:21:29
0次
IT之家 3 月 24 日消息，据新浪科技报道，针对有关蚂蚁“百灵”大模型训练成本有关消息，蚂蚁集团回应称，公司针对不同芯片持续调优，以降低 AI 应用成本，目前已经取得一定进展，也将逐步通过开源分享。
IT之家附事件背景：
近日，蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要：无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》，宣布推出两款不同规模的 MoE （混合专家）大语言模型 —— 百灵轻量版（Ling-Lite）与百灵增强版（Ling-Plus），并提出一系列创新方法，实现在低性能硬件上高效训练大模型，显著降低成本。
百灵轻量版参数规模为 168 亿（激活参数 27.5 亿），增强版基座模型参数规模高达 2900 亿（激活参数 288 亿），性能均达行业领先水平。实验表明，其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练，性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。
相关内容
热门资讯
国地中心携手上研院，打通人形机...
（来源：上观新闻） 近日，国家地方共建人形机器人创新中心与上海机器人产业技术研究院（以下简称“上研院...
随口发指令 智能家电越来越懂你
早上出门忘关灯，手机一点即可断电；远程操控扫地机器人，家里地面干净整洁；下班路上开空调，推门即享清凉...
原创 这...
连日来，俄乌冲突的打击边界再次被突破。乌克兰军方高调宣布使用 FP-5 火烈鸟巡航导弹，袭击了位于俄...
泽平宏观发了份AI产业链全景：...
任泽平团队8月17日发了份AI产业链全景报告，把七大赛道一次性铺开：大模型、Agent、智能驾驶、A...
在松山湖科学城长大，是一种什么...
暑假过半，在广东大普通信技术的办公楼里，一群“编外小员工”正围在桌前拼装机械模型，不时发出惊叹。这是...
OpenAI签下俄亥俄州10吉...
【CNMO科技消息】8月17日，据《华尔街日报》报道，OpenAI已与软银旗下的SB Energy签...
大庆油田创新聚驱技术赋能油藏高...
大庆8月17日电 (史轶夫 裴宇)8月17日，记者从大庆油田获悉，大庆油田采油五厂在聚驱技术攻关上取...
【旗县区动态】九原区：创新“关...
近日，包头市发布“人工智能+制造”三年行动方案及首批机会场景清单，九原区两家企业申报的5个应用场景成...
穿越不确定性：出版业转型的掼蛋...
编者按：当前数字技术深度迭代，出版行业正处于转型升级的关键周期，不确定性成为行业发展的长期命题。本文...
我国成功发射SEO卫星，SEO...
8月17日 据新华社 8月17日11时02分，我国在太原卫星发射中心使用长征二号丙运载火箭，成功将S...