蚂蚁回应新模型训练成本降低:基于不同芯片持续调优,会逐步开源
创始人
2025-03-25 07:21:29
0

IT之家 3 月 24 日消息,据新浪科技报道,针对有关蚂蚁“百灵”大模型训练成本有关消息,蚂蚁集团回应称,公司针对不同芯片持续调优,以降低 AI 应用成本,目前已经取得一定进展,也将逐步通过开源分享。

IT之家附事件背景:

近日,蚂蚁集团 Ling 团队在预印版 Arxiv 平台发表技术成果论文《每一个 FLOP 都至关重要:无需高级 GPU 即可扩展 3000 亿参数混合专家 LING 大模型》,宣布推出两款不同规模的 MoE (混合专家)大语言模型 —— 百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),并提出一系列创新方法,实现在低性能硬件上高效训练大模型,显著降低成本

百灵轻量版参数规模为 168 亿(激活参数 27.5 亿),增强版基座模型参数规模高达 2900 亿(激活参数 288 亿),性能均达行业领先水平。实验表明,其 3000 亿参数的 MoE 大模型可在使用国产 GPU 的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及 MoE 模型相当。

相关内容

热门资讯

钉钉“闪电换帅”:92年技术极... 瑞财经 吴文婷6月11日,据媒体报道,阿里巴巴宣布钉钉管理层调整:陈航卸任钉钉CEO,92年技术极客...
实景实训行动启动 人形机器人加... 新华社北京6月9日电 记者9日获悉,工业和信息化部、国务院国资委日前印发关于联合开展2026年度人形...
外媒:美AI数据中心扎堆,旱上... 【环球时报特约记者 叶满】化石燃料的消耗正加剧美国干旱的时长和强度,而在当前破纪录的干旱中,持续扩张...
增强网络安全意识,筑牢网络安全... 当今时代,网络信息技术日新月异,已全面融入我们的工作和生活中,但网络在极大促进经济、社会发展的同时,...
4000元档学生用的高颜值手机... 618购物节期间,许多消费者,特别是即将步入大学校园的高三毕业生和追求时尚与实用的女大学生,都在寻找...
微信交出AI答卷:让AI长在自... 微信终于交出了一张AI答卷。 官方近日正式发布《关于开发者接入微信AI生态的指引》,面向所有小程序开...
海康威视亮相2026华南工博会... 来源:上海证券报·中国证券网 上证报中国证券网讯(陈铭 记者 邓贞)记者从海康威视获悉,在6月10日...
新三科取得光纤通讯设备箱专利,... 国家知识产权局信息显示,新三科技有限公司取得一项名为“一种光纤通讯设备箱”的专利,授权公告号CN22...
我国成功发射通信技术试验卫星二... IT之家 6 月 11 日消息,据央视新闻报道,北京时间 2026 年 6 月 11 日 15 时 ...
看懂SpaceX世纪IPO:发... 出品|搜狐科技 作者|郑松毅 按计划,当地时间6月12日,马斯克旗下公司SpaceX将登陆纳斯达克,...