随着生成式AI的广泛采用，AI算力需求急剧上升，云端与端侧的协同作战架构——混合AI，日渐成为行业焦点。在此背景下，炬芯科技股份有限公司的董事长兼CEO周正宇博士，于Aspencore2024全球CEO峰会上，深入分享了炬芯科技在端侧AI音频技术领域的最新突破。
周博士指出，不同于云端AI对大规模算力的依赖，端侧AI应用，特别是音频处理领域，更侧重于专项应用和中小模型的高效运行。因此，炬芯科技致力于在电池驱动的IoT设备上，实现高能效的AI算力，以满足日益增长的端侧AI需求。
他进一步介绍了炬芯科技的创新技术——“Actions Intelligence”，这是一项针对电池驱动端侧AI的战略，专注于10M参数以下的音频AI应用。通过该技术，炬芯科技旨在为低功耗AIoT装置，在10mW至100mW的功耗范围内，提供0.1至1TOPS的通用AI算力，挑战10TOPS/W至100TOPS/W的能效比极限。
在实现这一技术突破的过程中，炬芯科技采用了基于SRAM的存内计算（CIM）技术，通过模数混合设计，既保证了计算精度，又大幅提升了能效比。与传统的冯·诺依曼计算架构相比，这种CIM技术有效弱化了“存储墙”与“功耗墙”问题，使得AI算力在端侧设备上得以高效释放。
周博士还详细介绍了炬芯科技MMSCIM技术的五大显著优势，包括高能效比、数字化精度与可靠性、工艺升级与设计的灵活性、性能优化的潜力，以及自适应稀疏矩阵的能力。这些优势共同构成了炬芯科技在端侧AI音频领域的核心竞争力。
基于这一核心技术，炬芯科技正式发布了全新一代基于MMSCIM的端侧AI音频芯片，涵盖私有无线音频、蓝牙AI音频以及AI DSP三大系列，均采用了CPU+DSP+NPU的三核异构设计架构，以支持片上百万参数级别的AI模型，并可通过片外扩展支持更大规模的模型。
通过实测对比，炬芯科技的新一代端侧AI音频芯片在能效比方面表现出色，相较于传统的DSP解决方案，MMSCIM技术在运行各类神经网络模型时，可显著降低功耗，提升能效比，展现了在端侧AI应用中的巨大潜力。
最后，周博士表示，炬芯科技将继续致力于端侧AI技术的研发与创新，通过不断提升算力和能效比，推动AI技术在音频及更广泛IoT领域的应用与发展。
