蚂蚁回应新模型训练成本降低:基于不同芯片持续调优,会逐步开源
创始人
2025-03-25 07:21:29
0

IT之家 3 月 24 日消息,据新浪科技报道,针对有关蚂蚁“百灵”大模型训练成本有关消息,蚂蚁集团回应称,公司针对不同芯片持续调优,以降低 AI 应用成本,目前已经取得一定进展,也将逐步通过开源分享。

IT之家附事件背景:

近日,蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要:无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》,宣布推出两款不同规模的 MoE (混合专家)大语言模型 —— 百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),并提出一系列创新方法,实现在低性能硬件上高效训练大模型,显著降低成本

百灵轻量版参数规模为 168 亿(激活参数 27.5 亿),增强版基座模型参数规模高达 2900 亿(激活参数 288 亿),性能均达行业领先水平。实验表明,其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。

相关内容

热门资讯

消息称百度为苹果Apple智能... IT之家 7 月 15 日消息,据科创板日报消息,知情人士透露,苹果与百度将合作,为中国 iPhon...
消息称面壁智能MiniCPM系... IT之家 7 月 15 日消息,今日,网信办发布 7 款手机端侧生成式人工智能服务备案信息,包括 A...
首例、首张、首发……杭州又有硬... 前沿探索持续突破 国产替代强势突围 数字平台降本增效 …… 近期,杭州科技领域有哪些新突破? 一起来...
云手机哪个好用一点?深度横评5... 后台天天被追问:云手机哪个好用一点?翻了一圈,品牌多价格乱,参数复杂还尽是低价套路。我亲自实测了五款...
中美脑机接口技术路线分化:美国... 【CNMO科技消息】近日,有海外媒体报道,当前中美两国在脑机接口(BCI)技术领域正采取不同的发展路...
阿里发实时语音交互模型!毫秒级... 智东西 作者 | 茄子 编辑 | 程茜 智东西7月15日消息,今天上午,阿里云正式发布实时语音交互对...
通过针刺、挤压、过充测试!小米... 快科技7月15日消息,小米今日正式官宣了旗下首款完全符合新国标要求的移动电源产品,最终定价直接定为1...
江苏南京:创新人才集聚,“AI... 7月11日,2026人工智能终端“四链融合”对接活动在南京举办,江苏省人工智能特色产业人才集聚区正式...
《中国互联网发展报告2026》... 7月10日,由中国互联网协会主办的2026(第二十五届)中国互联网大会在京闭幕。中国互联网协会副秘书...
宁波同人轴承取得万向节油嘴装配... 国家知识产权局信息显示,宁波同人轴承有限公司取得一项名为“一种万向节的油嘴装配设备”的专利,授权公告...