蚂蚁回应新模型训练成本降低:基于不同芯片持续调优,会逐步开源
创始人
2025-03-25 07:21:29
0

IT之家 3 月 24 日消息,据新浪科技报道,针对有关蚂蚁“百灵”大模型训练成本有关消息,蚂蚁集团回应称,公司针对不同芯片持续调优,以降低 AI 应用成本,目前已经取得一定进展,也将逐步通过开源分享。

IT之家附事件背景:

近日,蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要:无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》,宣布推出两款不同规模的 MoE (混合专家)大语言模型 —— 百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),并提出一系列创新方法,实现在低性能硬件上高效训练大模型,显著降低成本

百灵轻量版参数规模为 168 亿(激活参数 27.5 亿),增强版基座模型参数规模高达 2900 亿(激活参数 288 亿),性能均达行业领先水平。实验表明,其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。

相关内容

热门资讯

腾讯、字节、阿里,抢着给打工人... 文 | 豹变,作者 | 张经纬,编辑 | 邢昀 互联网大厂们抢着要用AI造福最广泛的打工人。 过去一...
【活动回顾】馆际联动探能源 童... 馆际联动探能源 童心共筑绿色梦 为构建“文博+科创”跨馆研学新模式,充分发挥场馆协同育人价值,8月2...
好用又便宜的手机推荐,预算有限... 预算卡得紧,又不想买回来天天卡顿,那这三台闭眼选就行:OPPO K13x、红米Turbo 5、iQO...
德国政府支持的机构出资赞助,帮... IT之家 8 月 8 日消息,据科技媒体 Phoronix 今天报道,由德国政府支持的德国主权技术机...
硅谷万亿AI帝国CEO,竟是双... 新智元报道 硅谷万亿CEO,竟是一位「双面末日教主」?! 这几天,Information一篇重磅长...
原创 2... 文/王新喜 观察者网引述Counterpoint的数据很扎眼:2026年印度将生产全球26%的iPh...
从“人工智障”到“销冠助手”,... 如果你对电销机器人的印象还停留在“您好,我是XX公司的…”这种毫无感情的复读机上,那你对AI技术的认...
三款主流云手机盘点:高性价比安... 随着云手机的使用场景越来越广,用户的需求也越来越细分: 有人需要安卓设备玩游戏挂机,有人需要 iO...
【防灾避险】台风“白海豚”逼近... 台风来袭 提前做好防台风措施 这份防范应对指南 请了解 ↓↓↓ 台风“白海豚”逼近 ...
SpaceX火箭残骸撞月视频,... 据央视新闻消息,2026年8月5日,埃隆·马斯克旗下太空探索技术公司(SpaceX)一枚“猎鹰9号”...