蚂蚁回应新模型训练成本降低：基于不同芯片持续调优，会逐步开源
创始人
2025-03-25 07:21:29
0次
IT之家 3 月 24 日消息，据新浪科技报道，针对有关蚂蚁“百灵”大模型训练成本有关消息，蚂蚁集团回应称，公司针对不同芯片持续调优，以降低 AI 应用成本，目前已经取得一定进展，也将逐步通过开源分享。
IT之家附事件背景：
近日，蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要：无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》，宣布推出两款不同规模的 MoE （混合专家）大语言模型 —— 百灵轻量版（Ling-Lite）与百灵增强版（Ling-Plus），并提出一系列创新方法，实现在低性能硬件上高效训练大模型，显著降低成本。
百灵轻量版参数规模为 168 亿（激活参数 27.5 亿），增强版基座模型参数规模高达 2900 亿（激活参数 288 亿），性能均达行业领先水平。实验表明，其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练，性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。
相关内容
热门资讯
娄勤俭：科技创新的关键在于核心...
3月4日，十四届全国人大四次会议在人民大会堂举行新闻发布会，大会发言人娄勤俭就大会议程和人大工作相关...
两会经纬线·笔记本扉页上的那句...
2022年6月，习近平总书记在湖北省武汉市考察时指出，把科技的命脉牢牢掌握在自己手中。从事高端激光装...
小米机器人已经做了六年！雷军首...
3月4日上午，十四届全国人大四次会议预备会议召开前，作为全国人大代表的雷军接受了采访。 有记者问雷军...
中国牙谷丨口腔医疗器械
简介：中国牙谷是四川省委、省政府贯彻“健康中国”“制造强国”战略部署、推动供给侧结构性改革的重点示范...
内存疯涨创历史！手机涨价潮最快...
五年内最猛的手机涨价潮，最快7天内杀到，你会再等等？还是立刻买买买？ 十年前，小米等厂商把智能手机从...
古县开展寒假无人机知识科普讲座
春节期间，古县举办了“逐梦低空”无人机知识科普讲座。讲座特邀山西省航空运动协会副秘书长、临汾市航空运...
卢伟冰：小米玄戒芯片有望一年一...
IT之家消息，小米集团总裁卢伟冰今日在接受CNBC采访时表示，小米自研的玄戒O1芯片将有望实现每年一...
必备科技！开心十三张脚本（透视...
必备科技！开心十三张脚本（透视）wepoker私人局规律（透明教程的确有挂） >>您好：软件加薇13...
重大科普！雀友会潮汕图片辅助器...
重大科普！雀友会潮汕图片辅助器（透视）德普之星私人局透视（玩家教你有挂技术）【无需打开直接搜索加薇1...
实测揭晓！微乐小程序修复系统有...
实测揭晓！微乐小程序修复系统有用吗（透视）wepoker网页版透视方法（攻略方法有挂详情）；无需打开...