蚂蚁回应新模型训练成本降低：基于不同芯片持续调优，会逐步开源
创始人
2025-03-25 07:21:29
0次
IT之家 3 月 24 日消息，据新浪科技报道，针对有关蚂蚁“百灵”大模型训练成本有关消息，蚂蚁集团回应称，公司针对不同芯片持续调优，以降低 AI 应用成本，目前已经取得一定进展，也将逐步通过开源分享。
IT之家附事件背景：
近日，蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要：无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》，宣布推出两款不同规模的 MoE （混合专家）大语言模型 —— 百灵轻量版（Ling-Lite）与百灵增强版（Ling-Plus），并提出一系列创新方法，实现在低性能硬件上高效训练大模型，显著降低成本。
百灵轻量版参数规模为 168 亿（激活参数 27.5 亿），增强版基座模型参数规模高达 2900 亿（激活参数 288 亿），性能均达行业领先水平。实验表明，其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练，性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。
相关内容
热门资讯
无人机重塑美国野火与应急响应市...
来源：环球市场播报 随着美国的野火频率、强度和扑救成本持续攀升，应急响应策略正经历深刻变革。无人机已...
苏州市相城区黄桥街道:盛夏科创...
为丰富辖区青少年暑期科普体验，激发科学探索兴趣，近日，苏州市相城区黄桥街道三角咀家园社区开展纸杯陀螺...
原创 敢...
近期，中国航天开展密集发射任务。北斗三号系统全面在轨升级顺利完成，整体性能实现跨越式跃升。在此过程中...
腾讯混元Hy3大模型免费调用再...
来源：凤凰网 凤凰网科技讯 8月4日，腾讯今日发布公告，WorkBuddy与CodeBuddy用户可...
“竹知了”事件的四点思考
最近，“竹知了”相关话题引发关注。据报道，网友将竹知了的“哇哇”声与华为发布会片段混剪，制作出“10...
一加手机退出北美市场，当地官网...
IT之家 8 月 5 日消息，据外媒 GSM Arena 报道，一加目前已正式退出北美市场，官网上销...
AI 浏览器已死，享年约 1 ...
OpenAI 的第一款 AI 浏览器，或许也是最后一款，下周就要正式停服了。 今年 7 月 9 日，...
DeepMind高管坦承：万亿...
面对万亿美元级别的AI基础设施建设热潮，谷歌DeepMind首席战略官Jasjeet Sekhon给...
《智领未来：从AI认知到“养虾...
为破解企业AI智能体应用难题，助力民营企业抢抓新质生产力发展机遇、打通数字化转型实操壁垒，7月30日...
华太电子申请一种LDMOS器件...
国家知识产权局信息显示，苏州华太电子技术股份有限公司申请一项名为“一种LDMOS器件”的专利，公开号...