蚂蚁回应新模型训练成本降低:基于不同芯片持续调优,会逐步开源
创始人
2025-03-25 07:21:29
0

IT之家 3 月 24 日消息,据新浪科技报道,针对有关蚂蚁“百灵”大模型训练成本有关消息,蚂蚁集团回应称,公司针对不同芯片持续调优,以降低 AI 应用成本,目前已经取得一定进展,也将逐步通过开源分享。

IT之家附事件背景:

近日,蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要:无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》,宣布推出两款不同规模的 MoE (混合专家)大语言模型 —— 百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),并提出一系列创新方法,实现在低性能硬件上高效训练大模型,显著降低成本

百灵轻量版参数规模为 168 亿(激活参数 27.5 亿),增强版基座模型参数规模高达 2900 亿(激活参数 288 亿),性能均达行业领先水平。实验表明,其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。

相关内容

热门资讯

杭州:抢占AI高地 厚植创新沃... 今年年初,杭州市政府工作报告明确提出“全力建设人工智能创新发展第一城”的目标——这是杭州面向未来的宣...
全球追“光”热,南京造“光”忙 □ 本报记者 许雯斐 换上全套防尘服,再经过风淋除尘,记者走进了恒温恒湿的万级无尘车间。自动化产线上...
2026销量最佳影像旗舰手机盘... 上周有朋友留言,想看一期"超大杯"影像旗舰销量盘点。说实话,当时还有点犹豫。毕竟各家旗舰上市时间并不...
严阵以待!“巴威”来袭,宣城市... 今年第9号台风 “巴威”步步逼近,防风防汛进入 最关键时段。连日来,宣城市住建局闻“风”而动、向险而...
苹果起诉OpenAI窃取商业机... 参考消息网7月13日报道据英国《金融时报》网站7月10日报道,苹果公司10日向加利福尼亚州一家联邦法...
上海终止中心城区及多区防汛防台... 【上海终止中心城区及多区防汛防台Ⅲ级响应 台风预警降为蓝色】财联社7月12日电,鉴于中心城区、闵行区...
京东押注机器人新赛道,全球首个... 来源:21世纪经济报道 南方财经记者朱治宣 靠零售和物流打下基本盘的京东,正在把下一个重量级的战略赌...
兆易创新和长鑫科技!中国存储的... 7月16日,长鑫科技就要开始申购了,随着长鑫IPO进入冲刺,兆易创新(603986.SH)也再次被推...
加快央企场景开放有三重深意 ■杜雨萌 日前,由国务院国资委牵头组织开展的中央企业“场景万象”专项行动在北京启动,会上发布了首批中...
2026年甄选的PC手机壳定制... 在消费电子赛道,手机壳一直是兼具复购性与多元需求的赛道,从基础防护到创意定制、功能升级,市场对手机壳...