蚂蚁回应新模型训练成本降低：基于不同芯片持续调优，会逐步开源
创始人
2025-03-25 07:21:29
0次
IT之家 3 月 24 日消息，据新浪科技报道，针对有关蚂蚁“百灵”大模型训练成本有关消息，蚂蚁集团回应称，公司针对不同芯片持续调优，以降低 AI 应用成本，目前已经取得一定进展，也将逐步通过开源分享。
IT之家附事件背景：
近日，蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要：无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》，宣布推出两款不同规模的 MoE （混合专家）大语言模型 —— 百灵轻量版（Ling-Lite）与百灵增强版（Ling-Plus），并提出一系列创新方法，实现在低性能硬件上高效训练大模型，显著降低成本。
百灵轻量版参数规模为 168 亿（激活参数 27.5 亿），增强版基座模型参数规模高达 2900 亿（激活参数 288 亿），性能均达行业领先水平。实验表明，其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练，性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。
相关内容
热门资讯
京东方申请热电制冷器件及电子器...
国家知识产权局信息显示，京东方科技集团股份有限公司申请一项名为“一种热电制冷器件及电子器件”的专利，...
公共文化地标升级迎盛会 科创产...
深圳科学技术馆已成为全市重要的科普教育与科技展示窗口 羊城晚报记者 王磊 摄 羊城晚报记...
吉林哪里有蓄热电采暖设备
吉林本地清洁采暖设备市场概况 吉林地处东北高寒区域，冬季采暖周期长达近6个月，极端最低气温可达-2...
华为天气地图大更新，新增六大图...
最近各种极端天气频发，用户对天气信息的需求早已不止于"今天会不会下雨"、“温度多少”。华为天气近期发...
TONTOU攻击披露：绕过部分...
IT之家 8 月 7 日消息，科技媒体 bleepingcomputer 昨日（8 月 6 日）发布...
汪峰：公司因AI已从1100人...
快科技8月7日消息，近日汪峰做客一档对谈类播客节目，围绕音乐创作、AI 技术以及家庭生活展开多方面分...
又一款 10000mAh新机来...
温馨提示： 最近来了很多新同学， 蓝字」， 右上角「···」， 将奇果酱「」， 以免错过重要消息哦~...
广州小程序开发公司推荐怎么选？...
广州企业找小程序开发公司，已经从“能不能做出一个微信入口”进入到“能不能支撑门店服务、私域复购、商城...
刚刚，ChatGPT免费版史诗...
Jay 发自 凹非寺 量子位 | 公众号 QbitAI GPT-5.6终于可以无限白嫖了。 刚刚，C...
数字技术赋能基层社会治理的优化...
数字技术的迅速发展产生了深刻的影响，运用数字技术助力基层社会的高效治理逐步成为提升基层社会治理效率、...