蚂蚁回应新模型训练成本降低:基于不同芯片持续调优,会逐步开源
创始人
2025-03-25 07:21:29
0

IT之家 3 月 24 日消息,据新浪科技报道,针对有关蚂蚁“百灵”大模型训练成本有关消息,蚂蚁集团回应称,公司针对不同芯片持续调优,以降低 AI 应用成本,目前已经取得一定进展,也将逐步通过开源分享。

IT之家附事件背景:

近日,蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要:无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》,宣布推出两款不同规模的 MoE (混合专家)大语言模型 —— 百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),并提出一系列创新方法,实现在低性能硬件上高效训练大模型,显著降低成本

百灵轻量版参数规模为 168 亿(激活参数 27.5 亿),增强版基座模型参数规模高达 2900 亿(激活参数 288 亿),性能均达行业领先水平。实验表明,其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。

相关内容

热门资讯

腾讯WorkBuddy开放平台... 9月2日,腾讯WorkBuddy宣布开放平台(open.WorkBuddy.cn)正式上线,首批引入...
喜报|库萨科技×上海纽约大学合... 近日,国家自然科学基金委员会公布2026年度集中接收申请项目评审结果。库萨科技与上海纽约大学双方合作...
小米申请通信方法专利,实现终端... 国家知识产权局信息显示,北京小米移动软件有限公司申请一项名为“通信方法、终端、核心网设备、系统和存储...
9块9充话费,为什么突然消失了... 有了奶茶自由,话费流量自由以后还会有吗? 很多人在问。 从8月份开始,几大运营商叫停了网络代理售卡,...
4000倍显微镜下,邹城发现了... 🔬 4000倍显微镜下 土曲霉的顶囊半球形清晰可见 ⚗️ 经过基因工程改造 这些微米级的“产业工人”...
『应用案例』激光划线钙钛矿太阳... Maxim Simmonds1, Emilio Gutierrez-Partida2, Galaan...
塞舌尔南南合作研修班走进晶澳 来源:晶澳科技 8月31日,塞舌尔南南合作援助项目管理研修班参访晶澳总部。通过展厅参观、座谈交流,研...
温声玻璃取得弯钢玻璃放置架专利... 国家知识产权局信息显示,山东温声玻璃科技股份有限公司取得一项名为“一种弯钢玻璃放置架”的专利,授权公...
煎药设备选型四大误区:为何三甲... 湖南零差率倒计时13天,煎药室设备升级迫在眉睫 2026年9月15日起,湖南省公立医疗机构将全面执行...
首枚“安徽造”商业运载火箭 发... (来源:市场星报) 2026年9月1日10时,星河动力航天公司自主研发的中大型可重复使用液体运载火箭...