蚂蚁回应新模型训练成本降低:基于不同芯片持续调优,会逐步开源
创始人
2025-03-25 07:21:29
0

IT之家 3 月 24 日消息,据新浪科技报道,针对有关蚂蚁“百灵”大模型训练成本有关消息,蚂蚁集团回应称,公司针对不同芯片持续调优,以降低 AI 应用成本,目前已经取得一定进展,也将逐步通过开源分享。

IT之家附事件背景:

近日,蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要:无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》,宣布推出两款不同规模的 MoE (混合专家)大语言模型 —— 百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),并提出一系列创新方法,实现在低性能硬件上高效训练大模型,显著降低成本

百灵轻量版参数规模为 168 亿(激活参数 27.5 亿),增强版基座模型参数规模高达 2900 亿(激活参数 288 亿),性能均达行业领先水平。实验表明,其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。

相关内容

热门资讯

机器人加快从“展台”走向“货架... 前不久,以“人机共生,产需共融”为主题的2026世界机器人大会在北京举办,300余家国内外企业携30...
马斯克:AI将令全球经济规模增... 快科技9月2日消息,当地时间9月1日,马斯克在G20会议上表示,预计AI将使全球经济规模增加约20%...
早新闻|600477,斩获大订... 来源:证券时报 宏观热点 三部门发布《汽车行业境外竞争行为与合规建设指引》 商务部、工业和信息化部、...
中国天眼破解恒星为何越来越难诞... IT时代网9月1日消息,一个由国内多家科研机构组成的国际团队,借助中国天眼 FAST 搭配国际暗能量...
给工厂装上“碳智慧大脑”“AI... 给工厂装上“碳智慧大脑”“AI碳管+”帮企业减碳赚真金 湖北日报全媒记者 刘郸 通讯员 张阳春 尹思...
国内卷不动了,中国汽车准备到国... 不知道大家有没有发现,中国车市好像不太行了。 一边是车企们的 “亩产万斤”,另一边乘联会警钟都敲烂了...
原创 国... 当AI不再满足于生成短视频,国内首部AIGC长剧《后西游记》今日开播,它如何跨越技术鸿沟,开启影视工...
库克的中国十五年:种下苹果,养... 文 | 科技一言 把苹果市值拉升15倍、年营收推上4160亿美元的巅峰之后,库克选在秋季新品发布会...
米粒大小芯片拓宽6G“高速路” 刘化冬 英国拉夫堡大学的研究团队介绍,他们利用一颗米粒大小的微芯片生成了排列规整的光谱,并将其转换为...
中沃快速取得轿厢减振垫专利,提... 国家知识产权局信息显示,中沃快速(浙江)电梯有限公司取得一项名为“一种轿厢减振垫”的专利,授权公告号...