蚂蚁回应新模型训练成本降低:基于不同芯片持续调优,会逐步开源
创始人
2025-03-25 07:21:29
0

IT之家 3 月 24 日消息,据新浪科技报道,针对有关蚂蚁“百灵”大模型训练成本有关消息,蚂蚁集团回应称,公司针对不同芯片持续调优,以降低 AI 应用成本,目前已经取得一定进展,也将逐步通过开源分享。

IT之家附事件背景:

近日,蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要:无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》,宣布推出两款不同规模的 MoE (混合专家)大语言模型 —— 百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),并提出一系列创新方法,实现在低性能硬件上高效训练大模型,显著降低成本

百灵轻量版参数规模为 168 亿(激活参数 27.5 亿),增强版基座模型参数规模高达 2900 亿(激活参数 288 亿),性能均达行业领先水平。实验表明,其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。

相关内容

热门资讯

上半年国内手机出货量超98%支... 据新华社电 记者24日从工业和信息化部获悉,北斗在大众消费领域应用取得明显进展,2026年上半年,国...
人形机器人运动会比什么? 近日,正在北京国家速滑馆“冰丝带”举行的第二届世界人形机器人运动会,成为观察全球人形机器人产业发展的...
“数”聚新动能“智”绘新蓝图 参会嘉宾在2026数智经济论坛会场听会。 本报记者 蒋雨师摄 2026数智经济论坛会场。 本报记者...
史上首例AI自主入侵事件!Op... 据央视财经,多家外媒报道,当地时间8月24日,美国亚拉巴马州总检察长史蒂夫·马歇尔宣布,已向美国人工...
长江水处理取得水处理沉淀过滤设... 国家知识产权局信息显示,成都市长江水处理设备有限公司取得一项名为“一种水处理沉淀过滤设备”的专利,授...
原创 月... 朱江明喊出至少2000亿,市场只给600亿港元。 定焦One(dingjiaoone)原创 作者 |...
沪上企业参访变“就业直通车”,... 东方网记者费一妍8月25日报道:今年暑假,一场青年学子与城市产业的“双向奔赴”热烈上演。来自上海对外...
研究人员对波音737 开展物理... (来源:中国航空报) 长期以来,人们一直将对飞机的物理访问主要视为安全问题,而非网络安全威胁。加州...
奖励科学探索 助力未来发展 高 维 8月24日,第八届“科学探索奖”获奖名单正式揭晓,50位青年科学家榜上有名。按工作单位统计,...
厦门热电偶导线厂的应用场景与选... 在工业测温系统中,热电偶导线作为信号传输的关键环节,其性能直接影响温度测量的准确性与稳定性。实际应用...