蚂蚁回应新模型训练成本降低：基于不同芯片持续调优，会逐步开源
创始人
2025-03-25 07:21:29
0次
IT之家 3 月 24 日消息，据新浪科技报道，针对有关蚂蚁“百灵”大模型训练成本有关消息，蚂蚁集团回应称，公司针对不同芯片持续调优，以降低 AI 应用成本，目前已经取得一定进展，也将逐步通过开源分享。
IT之家附事件背景：
近日，蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要：无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》，宣布推出两款不同规模的 MoE （混合专家）大语言模型 —— 百灵轻量版（Ling-Lite）与百灵增强版（Ling-Plus），并提出一系列创新方法，实现在低性能硬件上高效训练大模型，显著降低成本。
百灵轻量版参数规模为 168 亿（激活参数 27.5 亿），增强版基座模型参数规模高达 2900 亿（激活参数 288 亿），性能均达行业领先水平。实验表明，其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练，性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。
相关内容
热门资讯
紧盯客户需求，从“蜘蛛侠”看兰...
——访兰剑智能科技股份有限公司高级副总裁创新产品研发中心负责人张贻弓博士 作为业内自研产品线最齐全的...
在群星间聆听宇宙暗语！中国参建...
建成后的BINGO主体部分（概念图）。资料照片 宇宙浩瀚，星河璀璨。现代宇宙学理论认为，宇宙正在加速...
组建专班 破解嵌入式软件企业退...
沈啸文 殷榕蔓 许方洁 嵌入式软件是嵌入在硬件设备中、实现特定功能的专用程序，也是支撑数字经济发展的...
黑科技辅助！wepoke用模拟...
黑科技辅助！wepoke用模拟器，（WePoKe算法）原来真的有挂，揭秘教程（讲解有挂）-哔哩哔哩;...
黑科技辅助！wepoke模拟器...
黑科技辅助！wepoke模拟器，（WePoKe挂真的）原来真的有挂，AI教程（存在有挂）-哔哩哔哩;...
黑科技辅助！wepokeai机...
黑科技辅助！wepokeai机器人，（Wepoke针对）原来真的有挂，科技教程（有挂规律）-哔哩哔哩...
黑科技辅助！微扑克有ai，（微...
黑科技辅助！微扑克有ai，（微扑克发牌）原来真的有挂，科技教程（今日头条）-哔哩哔哩；致您一封信；亲...
黑科技辅助！德扑之星软件有猫腻...
黑科技辅助！德扑之星软件有猫腻，（德扑之星工具）原来真的有挂，系统教程（解密）-哔哩哔哩；小薇（透视...
黑科技辅助！cloudpoke...
黑科技辅助！cloudpoker外挂，（云扑克德州）原来真的有挂，专业教程（有人）-哔哩哔哩；1、许...
黑科技辅助！aapoker，（...
《黑科技辅助！aapoker，（AAPoKer线上德州）原来真的有挂，安装教程（存在）-哔哩哔哩》 ...