云领未来 · 智驭灵韵 服务热线 021-62280217 中文 | EN

近存计算芯片获验证 AI推理芯片路线竞速

事件概述

当地时间11月2日,高通宣布其首代高带宽计算(HBC, High-Bandwidth Computing)芯片已完成硬件验证,成功测试完整内存读写路径及近存计算能力。该技术将计算单元靠近内存,减少数据搬运,以提升带宽与能效、降低AI推理功耗与成本。高通表示,一款数据中心产品已完成流片,搭载HBC技术的Dragonfly AI250预计于2027年上半年提供样品。

同一窗口,国产专用推理芯片也获资本加注:11月3日,墨芯人工智能宣布完成近10亿元人民币C+轮融资,资金投向稀疏专用推理芯片全栈升级及下一代芯片预研。小米人形机器人、蚂蚁灵波等具身智能应用亦凸显推理侧算力需求。

背景与解读

一、技术背景与演进脉络

大模型推理的成本与能耗,长期受限于内存墙——数据在算力单元与存储之间频繁搬运造成瓶颈。近存计算(把计算放在内存附近)与高带宽存储(HBM)路线,是突破内存墙的两大方向。高通HBC验证,标志着近存架构从论文走向可流片的工程实现。

二、核心驱动与底层机制

AI推理相较训练更强调单位token的成本与延迟。随着端侧、边侧及具身智能对实时推理的需求爆发,专用推理芯片(稀疏计算、近存计算)凭借更优的能效比,成为继训练GPU之后的新赛道。墨芯的稀疏专用路线、高通的HBC近存路线,分别代表算法稀疏化与架构近存化两类降本路径。

三、市场格局与产业链影响

推理芯片需求外溢已传导至更广阔的电子产业链:上海证券报11月6日报道,受AI需求扩张影响,光储逆变器、储能变流器所用功率半导体与芯片供给趋紧、价格走高。换言之,AI算力扩张正通过芯片成本链条反向抬升光储设备价格,算力与能源两大产业在芯片层产生耦合。

影响与趋势

近存计算若规模化落地,有望显著降低大模型推理的单位成本,加速AI从云端向边端下沉。关键观察变量:HBC样品交付节奏、稀疏推理芯片量产良率、以及HBM与先进封装产能供给。

对产业参与者的启示

对芯片与硬件厂商:应围绕推理侧能效比布局近存、稀疏等差异化路线,避免在训练GPU红海中同质竞争;对应用企业:可关注推理成本下降带来的端侧AI部署窗口;对投资者:跟踪AI推理芯片从概念验证到规模出货的兑现节奏。

本栏目内容为行业信息整理与技术观点分享,不构成任何投资建议。