蚂蚁回应新模型训练成本降低：基于不同芯片持续调优，会逐步开源
创始人
2025-03-25 07:21:29
0次
IT之家 3 月 24 日消息，据新浪科技报道，针对有关蚂蚁“百灵”大模型训练成本有关消息，蚂蚁集团回应称，公司针对不同芯片持续调优，以降低 AI 应用成本，目前已经取得一定进展，也将逐步通过开源分享。
IT之家附事件背景：
近日，蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要：无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》，宣布推出两款不同规模的 MoE （混合专家）大语言模型 —— 百灵轻量版（Ling-Lite）与百灵增强版（Ling-Plus），并提出一系列创新方法，实现在低性能硬件上高效训练大模型，显著降低成本。
百灵轻量版参数规模为 168 亿（激活参数 27.5 亿），增强版基座模型参数规模高达 2900 亿（激活参数 288 亿），性能均达行业领先水平。实验表明，其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练，性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。
相关内容
热门资讯
福建构建复合地貌低空气象精准保...
多源数据融合 构建低空精密计算体系 针对福建山区局地乱流、沿海突发性阵风、海岛海雾频发等特点，省气象...
人造太阳点着了，电却还用不上：...
核聚变这次真要成了？我先泼盆冷水。实验室里确实点着了，可你要真用上那一度电，按最乐观的算法也得等上二...
智能伺服电机系统的应用逻辑与选...
在现代工业自动化进程中，伺服电机系统作为运动控制的核心执行单元，其智能化程度往往直接影响产线的响应速...
原创 不...
长征十号乙首飞成功，实现了我国运载火箭技术领域的一次重大突破，也标志着中国运载火箭首次迈入可控回收的...
靠谱大容量TF卡推荐：三星T7...
这张存储卡，让你的设备存储无忧！ 如今，随着科技的不断进步，我们身边的随身数码设备越来越多，像平板电...
管理层也不好干了！大厂集体向中...
图片来源：Pixabay “躲过了630，没想到还有720。”在美团（03690.HK）工作的王静向...
海兴电力申请唤醒系统预充电电路...
国家知识产权局信息显示，杭州海兴电力科技股份有限公司、深圳和兴电力科技有限公司、广东和兴电力科技有限...
AI文旅新物种：秘笈科技的“轻...
秘笈科技正致力于打造出一个AI新物种在文旅行业的玩法样板，通过闭环体验改造一类文旅场景，并在探索期不...
齐鲁青年代表讲述扎根一线奋斗故...
7月10日下午，山东省人民政府新闻办公室在济南举行“奋进‘十五五’”记者见面会。四位来自不同领域的青...
原创 谁...
按照三大运营商的数据，截止至目前，国内宽带用户已经超过了7亿户，甚至在偏远的农村地区，很多人家里，也...