网界
网络资讯 网界财经 科技人物 数据洞察 行业动态 智能出行 智能手机 数码极客 商业资讯

闪迪HBF技术革新AI存储:单GPU容量跃升至4TB,前沿模型推理无忧!

2025-02-13来源:ITBEAR编辑:瑞雪

闪迪公司即将在今年一季度完成从西部数据的拆分,并踏上独立上市的新征程。近日,在面向投资者的活动中,闪迪揭开了其前沿技术——高带宽闪存(HBF)的神秘面纱,这一技术有望重塑AI推理GPU存储生态。

HBF作为闪迪的带宽优化NAND产品,其设计理念深受HBM启发,采用了类似的架构特点,如大量的I/O引脚和多层堆叠,并共享了HBM的电气接口,实现了带宽的匹配。然而,由于存储介质从DRAM转变为NAND,HBF对协议进行了相应的调整,因此与HBM并不完全兼容。

在HBF的内部结构中,多层核心裸晶通过微凸块和硅通孔技术紧密堆叠,底部则设置了负责与计算芯片通信的逻辑裸晶。闪迪自豪地宣布,其HBF技术能够实现极低的裸晶翘曲,目前最高已实现16层堆叠,单个堆栈容量惊人地达到了512GB。

这一突破性的技术意味着,在2.5D集成下,仅8个HBF堆栈的单个AI GPU就能拥有4096GB(即4TB)的存储空间,这一容量是纯HBM方案的20倍以上。如此庞大的存储空间,足以满足参数约1.8T的前沿大型语言模型(LLM)的推理运行需求。

更令人瞩目的是,由于HBF与HBM在技术路线和性能参数上的相似性,AI GPU可以灵活配置这两种存储,形成如3072GB HBF + 48GB HBM等高度自定义的组合,为用户提供前所未有的存储灵活性。

除了AI推理GPU领域,HBF技术同样有望在边缘AI领域大放异彩。单颗HBF就能容纳完整的64B模型,这一特性无疑将极大地推动边缘AI的发展。

闪迪的HBF高带宽闪存开发并非孤军奋战,它得到了众多主要AI企业的鼎力支持。闪迪计划推动构建HBF开放标准生态系统,以实现无缝的系统集成,进一步加速技术的普及和应用。

对于未来的HBF产品,闪迪早已有了明确的规划。他们致力于在第三代产品中实现2倍容量的提升、2倍读取带宽的增强,以及36%功耗的降低,持续引领存储技术的革新。

百度AI成果井喷:从智能涌现到效果涌现,产业结构迈向健康倒金字塔
李彦宏在大会上表示,“我们用AI重构搜索结果页,不是简单地在搜索结果中插入AI摘要,而是把搜索从一个以文字内容和链接为主的互联网应用,转化为一个以图片视频等富媒体内容为主的AI应用。” 在李彦宏看来,AI数字…

2025-11-15

百度世界大会:李彦宏携AI“军火库”全面开放,开启应用新篇章
现场演示连线数字人罗永浩环节上,出现了“翻车”这一尴尬现象时,李彦宏的情绪也并没有太多波动,而是感觉“有点遗憾”,并表示“其实我们在之前演练的过程当中觉得这个效果还是非常令人惊艳的”。 还有大模型层面上的文…

2025-11-15

百度世界大会发布AI新成果:文心5.0等亮相,李彦宏畅谈AI内化生产力变革
李彦宏在大会上表示,“我们用AI重构搜索结果页,不是简单地在搜索结果中插入AI摘要,而是把搜索从一个以文字内容和链接为主的互联网应用,转化为一个以图片视频等富媒体内容为主的AI应用。” 在李彦宏看来,AI数字…

2025-11-13

百度“文心杯”第三届落幕:8支团队获千万投资,李彦宏力推AI应用普及
李彦宏表示,我们看到越来越多的创业者在各种场景发现AI的新能力、新效果,希望更多的人能够加入这个发现之旅,也正基于此,百度连续三年举办“文心杯”创业大赛。 第三届“文心杯”创业大赛8支优胜团队共获得数千万元…

2025-11-13

2025百度世界大会聚焦AI发展:成果发布,内化能力引领新质生产力变革
本届大会以“效果涌现”为主题,聚焦国产芯片最新进展、大模型升级、AI应用创新与全球出海,呈现了百度作为中国人工智能领军企业,如何将AI技术内化为产业发展的原生动能,为加快形成新质生产力提供可落地的“百度方案”…

2025-11-13