蚂蚁回应新模型训练成本降低:基于不同芯片持续调优,会逐步开源
创始人
2025-03-25 07:21:29
0

IT之家 3 月 24 日消息,据新浪科技报道,针对有关蚂蚁“百灵”大模型训练成本有关消息,蚂蚁集团回应称,公司针对不同芯片持续调优,以降低 AI 应用成本,目前已经取得一定进展,也将逐步通过开源分享。

IT之家附事件背景:

近日,蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要:无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》,宣布推出两款不同规模的 MoE (混合专家)大语言模型 —— 百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),并提出一系列创新方法,实现在低性能硬件上高效训练大模型,显著降低成本

百灵轻量版参数规模为 168 亿(激活参数 27.5 亿),增强版基座模型参数规模高达 2900 亿(激活参数 288 亿),性能均达行业领先水平。实验表明,其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。

相关内容

热门资讯

适老化,不能只靠字号大(民生观... 吴储岐 适老化是一项需要持续推进的细致工作。把已有的政策措施落得更细,及时应对新出现的问题,适老化才...
看!“我们”超能干 陪伴机器人与小朋友互动 观众体验按摩机器人的服务 餐桌清理机器人在工作 参展商展示载人机器人 ...
原创 日... 众所周知,在机房领域,日本还是很厉害的。 特别是高端机床,比如五轴机床等,日本企业拿下了全球超50%...
国产手术机器人“出海”助推中外... 近日,依托防城港国际医学开放试验区赋能支持,越南河内、芹苴两地医院运用中国图迈机器人手术系统,跨越1...
从拼融资到比落地,具身智能面临... 中新网北京8月19日电(左雨晴) 近年来,具身智能无疑是科技产业最炙手可热的赛道之一。北京物联网智能...
关于手机有益红光的常见疑问解答 最近不少人在讨论手机屏幕的「有益红光」,有人说它能护眼,也有人质疑这只是营销噱头,还常常把它和大家熟...
单项奖金约700万!2026未... 8月13日,未来科学大奖评审委员会公布2026年未来科学大奖完整获奖名单。中国科学院生物物理研究所张...
祝贺!神舟二十一号乘组,获航天... 中共中央、国务院、中央军委决定, 给张陆同志颁发“二级航天功勋奖章”,授予武飞、张洪章同志“英雄航天...
人形机器人运动会将在京开赛,现... (来源:雷达财经) 雷达财经讯,第二届世界人形机器人运动会将于8月22日至26日在北京国家速滑馆“...
卢一先余金富会见阿里云资深副总... 8月20日,市委书记卢一先,市委副书记、市长余金富会见阿里云资深副总裁、政企事业部总裁李津和高德地图...