蚂蚁回应新模型训练成本降低:基于不同芯片持续调优,会逐步开源
创始人
2025-03-25 07:21:29
0

IT之家 3 月 24 日消息,据新浪科技报道,针对有关蚂蚁“百灵”大模型训练成本有关消息,蚂蚁集团回应称,公司针对不同芯片持续调优,以降低 AI 应用成本,目前已经取得一定进展,也将逐步通过开源分享。

IT之家附事件背景:

近日,蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要:无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》,宣布推出两款不同规模的 MoE (混合专家)大语言模型 —— 百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),并提出一系列创新方法,实现在低性能硬件上高效训练大模型,显著降低成本

百灵轻量版参数规模为 168 亿(激活参数 27.5 亿),增强版基座模型参数规模高达 2900 亿(激活参数 288 亿),性能均达行业领先水平。实验表明,其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。

相关内容

热门资讯

原创 阿... 当阿宝学会了“听”,微信学会了“藏”;一个让你开口说话就能搞定一切,一个让你感觉不到AI的存在;谁的...
全球首架CBJ公务机正式在上海... 上海6月22日电 (记者 殷立勤)6月22日,海航航空集团旗下上海金鹿公务航空有限公司(以下简称:上...
原创 时... ► 在这里,听见中国走向世界的号角[求抱抱] 1999 年,美国《财富》杂志将亨利・福特评为20世纪...
原创 1... 这半年来手机厂商都在卷电池,已经从7000mAh普遍升级到9000mAh,而荣耀却更猛,目前都有好几...
智谱爆了!市值破万亿,5天涨出... 出品|达摩财经 港股市场又一个万亿级公司诞生,智谱(2513.HK)再次创出新高。 6月22日,智谱...
技术突破、市场拓展、数据基建…... 近期,浦东具身智能领域持续发力、多点开花。傅利叶智能康复港解决方案落地东南亚最大康复中心,加速产品出...
性价比高的手机推荐:五款技术标... 屏幕素质与核心技术配置,正成为衡量一部手机是否具备长期使用价值的关键标尺。尤其在追求高性价比的购机逻...
这个团队专门研究树木年轮,到底... 原标题:中国气象局乌鲁木齐沙漠气象研究所树木年轮研究团队—— 破译树木年轮里的气候密码(弘扬科学家精...
首架国产C909公务机CBJ投... 新华社上海6月22日电(记者王辰阳)首架国产C909公务机CBJ于6月22日下午从上海虹桥机场飞往北...
宝武拥抱AI:不停留在口号与规... 新华网上海6月6日电(记者李荣)最近到宝武,上下都在谈论AI。但仔细一观察,何止谈论Al,宝武已全线...