全球首款类脑脉冲大模型“瞬悉 1.0”问世,实现全流程国产化
创始人
2025-09-09 00:22:48
0

IT之家 9 月 8 日消息,据中国科学院自动化研究所官方微信公众号消息,近日,中国科学院自动化研究所李国齐、徐波团队在发表原创内生复杂性理论系列论文的工作基础上,与沐曦 MetaX 合作,打造了类脑脉冲大模型“瞬悉 1.0”(SpikingBrain-1.0),在国产千卡 GPU 算力平台上完成全流程训练和推理,实现了大模型在超长序列推理上数量级的效率和速度提升,展示了构建国产自主可控的新型非 Transformer 大模型架构生态的可行性。研究团队开源了 SpikingBrain-1.0-7B 模型并开放 SpikingBrain-1.0-76B 测试网址,同步公开了经工业界大规模验证的类脑脉冲大模型 SpikingBrain-1.0 中英文技术报告。这是全球首款类脑脉冲大模型,实现了全流程国产化,标志着我国在类脑计算与大模型融合创新方面取得重要突破。

IT之家从官方介绍获悉,研发团队借鉴大脑神经元内部复杂工作机制提出“基于内生复杂性”的大模型构架方式,打造类脑脉冲大模型“瞬悉 1.0”( SpikingBrain-1.0),在理论上建立了脉冲神经元内生动力学与线性注意力模型之间的联系,揭示了现有线性注意力机制是树突计算的特殊简化形式,从而清晰地展示了一条不断提升模型复杂度和性能的新型可行路径。研发团队进而构建并开源了基于脉冲神经元、具有线性(SpikingBrain-1.0-7B)及混合线性复杂度(SpikingBrain-1.0-76B,激活参数量 12B)的新型类脑基础模型,开发了面向国产 GPU(沐曦 MetaX 曦云 C550)集群高效训练和推理框架、Triton 算子库、模型并行策略以及集群通信原语。

李国齐表示,这项成果不仅是我国在类脑脉冲大模型架构和国产算力全流程建设上的重大突破,更为法律、医疗、科学模拟等超长序列应用场景提供了更高效的建模工具,也将启迪下一代神经形态计算理论和芯片设计。

相关内容

热门资讯

原创 1... 过去一年半,生成式AI从一个小众话题变成了人人都在谈论的东西。ChatGPT上线两个月月活破亿,这个...
原创 9... 兄弟们,好消息!4月8日,广汽埃安AION RT换电版即将正式上市,此前厂家已打出“疾速换电,99秒...
美得易取得微孔滤膜过滤器专利,... 国家知识产权局信息显示,重庆美得易生物科技有限公司取得一项名为“一种微孔滤膜过滤器”的专利,授权公告...
水果越来越甜是打了甜蜜素?别信... 最近几年,大家有没有发现,市场上的水果好像越来越甜了?西瓜甜得像蜜,葡萄甜得齁人,就连以前酸溜溜的橘...
AI学会左脚踩右脚自进化?Me... 新智元报道 编辑:元宇 【新智元导读】过去Agent比谁更会干活,现在可能要比谁更会变强。 AI已...
圣旺药业取得药品浓缩装置专利,... 国家知识产权局信息显示,山东圣旺药业股份有限公司取得一项名为“一种药品的浓缩装置”的专利,授权公告号...
原创 研... 信息来源于BBC、Tsavo Trust、Nature、Science Museum of Virg...
原创 美... 台积电1650亿美元加码美国工厂的消息,像一颗投入全球半导体行业的深水炸弹。当舆论聚焦亚利桑那沙漠里...
当商标玩起“文字游戏”,消费者... 近日,有消费者反映今麦郎品牌一款“手打挂面”产品,吃的时候并没有手工面的口感。对此商家回应称:“手打...
透视辅助!wepoker有透视... 透视辅助!wepoker有透视功能吗,wepoker如何设置透视,策略教程(有挂技术)-哔哩哔哩1、...