
我国科研人员研发出类脑脉冲大模型
记者今天(9月8日)从中国科学院自动化研究所获悉,近日,该研究所李国齐、徐波团队与相关单位合作,成功研发出类脑脉冲大模型“瞬悉1.0”(SpikingBrain-1.0)。
该模型基于团队原创的“内生复杂性”理论构建,在国产GPU平台上完成了全流程训练与推理,显著提升了大模型高效处理极长文本或数据序列的效率和速度,展示了构建国产自主可控的新型(非Transformer)大模型架构生态的可行性。
当前主流的Transformer模型,在处理超长文章或对话时速度会非常慢且成本极高,造成了巨大的资源消耗。可以说,当前大模型的飞速发展,背后是由巨大的资源消耗驱动的。因此,亟须发展一条低功耗高效率的新型大模型路线。
与当前主流大模型架构(Transformer架构)不同,“瞬悉1.0”借鉴大脑神经元内部工作机制,清晰地展示了一条不断提升模型复杂度和性能的新型可行路径。该模型仅需约主流模型2%的数据量,就能在多项语言理解和推理任务中达到媲美众多主流模型的性能。
这是我国首次提出大规模类脑线性基础模型架构,并首次在国产GPU算力集群上构建类脑脉冲大模型的训练和推理框架。其超长序列处理能力在法律与医学文档分析、复杂多智能体模拟、高能粒子物理实验、DNA序列分析、分子动力学轨迹等超长序列任务建模场景中具有显著的潜在效率优势。本次发布的大模型为新一代人工智能发展提供了非Transformer架构的新技术路线,并将启迪更低功耗的下一代神经形态计算理论和芯片设计。
(总台央视记者 帅俊全 褚尔嘉)
[超站]友情链接:
四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
关注数据与安全,洞悉企业级服务市场:https://www.ijiandao.com/

随时掌握互联网精彩
- 1 总书记的这六天 7904273
- 2 00后女钢筋工每天工地干10小时赚320 7808122
- 3 特朗普上诉失败 需赔女方8330万美元 7711777
- 4 育儿补贴申领正式全面开放 7619395
- 5 顶尖华裔数学家被迫在美筹款 7520546
- 6 法国政府“垮台” 总理将辞职 7427588
- 7 西藏一垃圾站30多只熊集体觅食 7329493
- 8 美国防部更名战争部 解放军报发文 7238400
- 9 自闭症学生报到当天遭劝退 校方回应 7138817
- 10 美国宣布制裁东南亚诈骗集团 7043140