蚂蚁回应新模型训练成本降低:基于不同芯片持续调优,会逐步开源
创始人
2025-03-25 07:21:29
0

IT之家 3 月 24 日消息,据新浪科技报道,针对有关蚂蚁“百灵”大模型训练成本有关消息,蚂蚁集团回应称,公司针对不同芯片持续调优,以降低 AI 应用成本,目前已经取得一定进展,也将逐步通过开源分享。

IT之家附事件背景:

近日,蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要:无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》,宣布推出两款不同规模的 MoE (混合专家)大语言模型 —— 百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),并提出一系列创新方法,实现在低性能硬件上高效训练大模型,显著降低成本

百灵轻量版参数规模为 168 亿(激活参数 27.5 亿),增强版基座模型参数规模高达 2900 亿(激活参数 288 亿),性能均达行业领先水平。实验表明,其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。

相关内容

热门资讯

别让智能眼镜沦为“行走的偷拍器... 王琦 从日常生活中的即时记录,到机场、课堂、医院等多种场景下的专业辅助,智能眼镜勾勒出一幅“抬眼即知...
2026未来科学大奖获奖人公布... 8月13日,未来科学大奖评审委员会公布2026年获奖名单:中国科学院生物物理研究所研究员张宏因其在揭...
数量翻两番!2056台机器人将... 第二届世界人形机器人运动会将于8月22日在国家速滑馆“冰丝带”盛大开幕。 在8月13日举行的新闻发布...
张雪机车获红杉中国投资,估值半... 近日,张雪机车宣布完成新一轮融资,红杉中国以 1.5 亿元主投,老股东高信资本跟投,投后估值达到 6...
腾讯总裁刘炽平:微信将建成 A... 来源:环球网 【环球网科技综合报道】8月13日消息,在近期的腾讯 2026Q2 财报业绩电话会上,腾...
比想象来得更快!脑机接口从“黑... 2026年8月12日,浙江省人民政府办公厅公开《关于推进脑机接口产学研联动的若干措施》。文件提出,到...
罕见表态,张一鸣全面升级AI大... 不蒸馏,练内功。 文 | 华商韬略 杨彼得 沉默已久的张一鸣,再次成为中国AI圈的焦点。 8月5日,...
PQMagic后量子密码开源社... (来源:上观新闻) 8月12日,由中央企业量子人才科创空间、上海交通大学等单位联合发起的PQMa...
扬州打造“15分钟便民技能学习... 8月12日晚,“人工智能应用培训与实操课”第4课准时开讲。扬州人才客厅二楼培训室内座无虚席,授课讲师...
原创 当... 当今时代AI算力飞速迭代、智能表现愈发趋近人类,可极致聪明的人工智能,至今仍无一丝自我意识。摆在科学...