网界
网络资讯 网界财经 科技人物 数据洞察 行业动态 智能出行 智能手机 数码极客 商业资讯

中国科学院自动化所发布“瞬悉1.0”:基于内生复杂性,开启非Transformer架构新路径

2025-09-09来源:环球网科技编辑:瑞雪

中国科学院自动化研究所李国齐、徐波团队近日宣布,与沐曦metaX联合研发的类脑脉冲大模型“瞬悉1.0”(SpikingBrain-1.0)取得突破性进展。该模型基于原创内生复杂性理论构建,在国产千卡GPU算力平台上完成全流程训练与推理,实现了超长序列处理效率的数量级提升,为非Transformer架构的大模型发展开辟了新路径。

研究团队指出,当前主流的Transformer架构大模型依赖Scaling law,通过扩大网络规模、算力投入和数据量提升性能,但其计算单元采用简化点神经元模型,存在序列长度增加时训练开销平方级增长、推理显存线性上升的缺陷,导致处理超长序列能力受限。针对这一问题,团队提出“基于内生复杂性”的架构设计,借鉴大脑神经元内部复杂机制,构建了脉冲神经元动力学与线性注意力模型的数学关联,发现现有线性注意力机制本质上是树突计算的简化形式。

基于上述理论,团队开发了具备线性复杂度(7B参数)和混合线性复杂度(76B参数,激活参数量12B)的类脑基础模型。其中,SpikingBrain-1.0-7B已开源,76B版本提供测试网址,并同步发布中英文技术报告。模型适配国产沐曦metaX曦云C550 GPU集群,配套开发了高效训练框架、Triton算子库、模型并行策略及集群通信协议,形成完整的国产自主技术生态。

性能测试显示,该模型在极低数据量下即可完成高效训练,推理效率较传统架构显著提升,尤其在超长序列任务中表现突出。其动态阈值脉冲化稀疏机制可适应不同尺度计算需求,在法律/医学文档分析、多智能体模拟、高能物理实验、DNA序列解析及分子动力学轨迹建模等场景中具有明显效率优势。

据介绍,这是我国首次提出大规模类脑线性基础模型架构,并首次在国产GPU集群上实现类脑脉冲大模型的训练与推理框架。该成果不仅解决了脉冲驱动模型性能退化的关键问题,更为新一代人工智能提供了非Transformer架构的技术方案,同时为低功耗神经形态计算理论及芯片设计提供了理论支撑。

ChatWave微信AI客户管理系统:客户行为预测功能解析与准确度探究
本文将深入探讨ChatWave这一先进的微信AI机器人客户管理系统,分析其是否支持客户行为预测以及预测的准确度如何。ChatWave能够自动收集和分析这些数据,生成个性化的客户画像,从而预测客户的未来行为。 …

2025-10-22

ChatGPT Atlas浏览器问世:AI深度融合让网页浏览变身智能助手
ChatGPT Atlas的一大亮点是其“浏览器记忆”功能,这一创新能够让AI记住用户的浏览历史、对话细节以及交互内容。对于家庭用户,Atlas支持家长监督功能,父母可以为未成年人账户关闭记忆和代理模式,确…

2025-10-22

天猫精灵全屋智能四川八店同启:AI赋能空间进化,共筑智慧生活新范式
2025年10月18日,一场关于“未来生活”的展示在西南盛大开启——天猫精灵全屋智能于四川同时落地8家门店,覆盖成都、泸州、广元、都江堰等核心城市。 为加速AI与美学的融合,天猫精灵全屋智能9月24日在云栖大…

2025-10-22

IDC:中国AI基础设施市场爆发式增长,阿里云第一
10月22日,国际数据机构IDC最新报告《中国智算云基础设施市场(AI IaaS)(2025上半年)跟踪》显示,2025年上半年,中国AI基础设施服务市场同比增长122.4%,达到198.7亿。其中,阿里云占比24.7%稳居第一,并在GenAI IaaS(生成式AI基础设施)和Other AI IaaS(经典AI基础设施)

2025-10-22

从荷叶到纳米涂层:雨伞配件借力互联网开启传统工具新篇章
现代社会的伞具呈现出前所未有的多元化发展。这些创新不仅提升了使用体验,更让伞具成为都市生活中独特的时尚配饰。当气象大数据精准预测每朵雨云的轨迹,当物联网让千万把雨伞形成互助网络,我们看到的不仅是工具的升级,…

2025-10-22

2025企业级AI大模型落地:现状剖析、挑战洞察与可信系统构建路径
除了以自主知识产权为代表的DeepSeek模型在央国企中展现出强劲的部署势头外,由头部科技企业推出的通用大模型,如百度的“文心一言”和阿里巴巴的“通义千问”,也凭借其强大的技术底座、完善的云服务生态以及在各自…

2025-10-22