全球首款类脑脉冲大模型“瞬悉 1.0”问世,实现全流程国产化
创始人
2025-09-09 00:22:48
0

IT之家 9 月 8 日消息,据中国科学院自动化研究所官方微信公众号消息,近日,中国科学院自动化研究所李国齐、徐波团队在发表原创内生复杂性理论系列论文的工作基础上,与沐曦 MetaX 合作,打造了类脑脉冲大模型“瞬悉 1.0”(SpikingBrain-1.0),在国产千卡 GPU 算力平台上完成全流程训练和推理,实现了大模型在超长序列推理上数量级的效率和速度提升,展示了构建国产自主可控的新型非 Transformer 大模型架构生态的可行性。研究团队开源了 SpikingBrain-1.0-7B 模型并开放 SpikingBrain-1.0-76B 测试网址,同步公开了经工业界大规模验证的类脑脉冲大模型 SpikingBrain-1.0 中英文技术报告。这是全球首款类脑脉冲大模型,实现了全流程国产化,标志着我国在类脑计算与大模型融合创新方面取得重要突破。

IT之家从官方介绍获悉,研发团队借鉴大脑神经元内部复杂工作机制提出“基于内生复杂性”的大模型构架方式,打造类脑脉冲大模型“瞬悉 1.0”( SpikingBrain-1.0),在理论上建立了脉冲神经元内生动力学与线性注意力模型之间的联系,揭示了现有线性注意力机制是树突计算的特殊简化形式,从而清晰地展示了一条不断提升模型复杂度和性能的新型可行路径。研发团队进而构建并开源了基于脉冲神经元、具有线性(SpikingBrain-1.0-7B)及混合线性复杂度(SpikingBrain-1.0-76B,激活参数量 12B)的新型类脑基础模型,开发了面向国产 GPU(沐曦 MetaX 曦云 C550)集群高效训练和推理框架、Triton 算子库、模型并行策略以及集群通信原语。

李国齐表示,这项成果不仅是我国在类脑脉冲大模型架构和国产算力全流程建设上的重大突破,更为法律、医疗、科学模拟等超长序列应用场景提供了更高效的建模工具,也将启迪下一代神经形态计算理论和芯片设计。

相关内容

热门资讯

把代码写进农田 浙江湖州“硬核... 湖州5月22日电(奚金燕 吴珏)在浙江湖州,一场以“硬核科创”为底色的青年入乡实验,正在南太湖新区悄...
神二十三乘组在轨期间将新开展1... 今天(5月23日)上午,神舟二十三号载人飞行任务新闻发布会在酒泉卫星发射中心召开。发言人介绍,按计划...
原创 手... 千元机价格低廉,销量远超旗舰手机,尤其是那些配置高,性能强的高性价比千元机,远比旗舰更受欢迎。 每月...
马上评|共建数智人文湾区更好讲... 当人工智能像水电一样渗透进生活的每个角落,一个严肃的问题浮出水面——在算力越来越强、算法越来越“懂你...
航天员黎家盈作为载荷专家 目前... 今天(5月23日)上午,神舟二十三号载人飞行任务新闻发布会在酒泉卫星发射中心召开。 发言人介绍,飞行...
“我的声音被偷了,小偷却年入百... 小鱼从未想过,自己的声音,会被一个陌生人放到网上明码标价——688 永久使用。 他以这种悲剧的形式,...
美“星舰”飞船完成第12次试飞... △第二级“星舰”飞船溅落前一瞬 当地时间5月22日,美国太空探索技术公司在其官方社交媒体账号上发文称...
保定高新区:工业品直播助力高新... “现在起飞的是复合翼工业无人机,可执行电力巡检、应急搜救、物资投送等任务……”近日,在天峋创新(保定...
新技术首秀!桂东公路用“共振巧... 近日,梧州市长洲区 S304 线龙顶至莲塘村路口段公路改建工程顺利完工。该项目在桂东地区首次应用梁式...
中船上船院自主研制第二代BLS... 上证报中国证券网讯(记者 王文嫣)近日,中船集团上海船舶研究设计院(SDARI,下称“上船院”)自主...