WAIC 2026现场 | 杭州跑出一家TPU芯片公司,想解决AI时代的算力焦虑
2026-07-21 17:33:43 世界浙商
世界浙商客户端讯(记者:胡淼) “须臾”,最早出现在先秦时期的古典文献,寓意极短的时间。如今,它被镌刻在一颗国产AI芯片上,寓意以极致速度完成海量计算。
7月19日,2026世界人工智能大会(WAIC 2026)的一场分论坛上,中昊芯英(杭州)科技有限公司首次向产业界公开亮相其第二代全自研高性能TPU架构AI芯片——“须臾®”。作为继初代“刹那®”之后的又一次架构革新,这颗芯片以最高3倍的性能飞跃和系统性成本优化,试图回答一个行业命题:大模型时代,算力如何才能既快又省?

在发布会结束的媒体采访环节,《浙商》杂志与中昊芯英创始人、CEO杨龚轶凡,联合创始人、CTO郑瀚寻进行深度对话,试图拨开技术迷雾,还原这家硬科技企业背后的创新逻辑与产业雄心。
从“刹那”到“须臾”
芯片的命名体系自带东方韵味与极客浪漫。杨龚轶凡透露,公司TPU大模型算力芯片系列统一选用古代表示极短时长的词汇,寓意芯片极致计算速度。“刹那”之后,“须臾”登场,而性能已经发生质变。
从硬指标看,“须臾®”混合精度浮点算力达896 TFLOPS,8-bit推理算力达1792 TOPS。单芯片额定功耗控制在600W,据称相较于同等算力水平的传统芯片,功耗降低了50%。在集群部署层面,单个超节点最高可实现2048片“须臾®”芯片直联,足以承载万亿参数大模型的分布式训练、多智能体协同运算及海量并发推理。
性能如何实现三倍跨越?CTO郑瀚寻将其归结为“软件驱动硬件架构”理念下三重创新的叠加。
“我们重构了矩阵计算核心单元和低精度计算单元,把过去一年客户真实业务中暴露的算力低效场景一一优化。”郑瀚寻解释道,第一重创新是计算流水线的全面重构,直接提升了基础算子的硬件执行效率。第二重是先进芯粒封装技术的应用,采用双芯粒同基板封装方案,将两颗独立计算芯粒集成在同一基板内协同运算,配合自研低延迟片间互联通道,直接释放双倍算力。第三重则是片上存储架构的扩容,通过拓展高速存储容量和读写带宽,大幅减少了模型运算中频繁跨芯片读取数据带来的算力损耗。
这让“须臾”不仅算得快,还解决了大规模集群部署中的一个核心矛盾——如何在算力翻倍的同时不推高整机成本。

重新定义“降本”
“很多人误以为双芯粒版本算力翻三倍,硬件成本就会同步翻倍,实际情况并非如此。”杨龚轶凡在采访中强调,双片封装方案仅带来硬件成本的小幅上浮。即便客户不升级软件栈、直接沿用原有业务程序,整机综合性价比就能直接提升两倍。
真正的降本藏在系统级创新里。杨龚轶凡揭示了一个行业痛点:当前整机服务器成本结构已然失衡。早年CPU、配套内存仅占整机成本的10%,如今这部分占比飙升至20%甚至30%以上,持续推高下游算法企业的综合使用成本。
中昊芯英的解法是重新设计整机架构。新一代“泰则2.0”智算平台,单台设备搭载16颗TPU计算芯粒,却并未同步增加配套CPU和内存硬件数量。他们通过三组PCIe Switch硬件架构,打通两路CPU与全部TPU的IO带宽,充分释放CPU与内存的带宽利用率。这意味着,在芯片算力规模翻倍的前提下,昂贵的配套主机硬件投入并没有增加,从系统层面直接砍掉了冗余成本。
杨龚轶凡算了一笔账:对比第一代产品,在同等算力输出规模下,直接部署二代“须臾”芯片,企业的综合运营成本可直接降低50%。他进一步预测,随着软件栈持续迭代优化,半年内“须臾”在真实业务场景中的综合性价比还能再提升2到3倍。
当前国内绝大多数AI算力芯片厂商都选择通用GPU架构路线,中昊芯英是为数不多坚持自研TPU专用架构的企业。
“我们可以采用比竞品更低的生产制程,就能实现持平甚至更优的算力综合性能,单位算力硬件采购、使用成本更低,这是TPU专属架构天然带来的底层优势。”杨龚轶凡对这种架构红利深信不疑。
他举了一个典型场景——PD分离调度。大模型推理业务普遍采用Prefill(预计算)与Decode(逐词解码生成)分离的分布式方案,传统GPU要实现这一功能需要大量上层软件改造,而TPU底层架构原生支持,落地门槛更低、调度效率更高。杨龚轶凡透露,公司规划的下一代芯片中,将专门分别设计侧重Prefill任务的芯片和专攻Decode任务的芯片,通过软硬协同进一步释放集群算力上限。
这种深层设计逻辑也体现在超节点集群的构建上。面对今年WAIC展会上华为、中兴等厂商竞相推出超节点方案的浪潮,杨龚轶凡介绍TPU的差异化优势:GPU架构设计初衷是单卡独立运行、少量互联完成图形渲染,而TPU从立项之初就面向大规模深度学习分布式并行运算打造,天然适配万卡级集群。
扎根杭州的逻辑
一家做TPU的硬科技企业,为何选择落地杭州而非其他半导体重镇?
杨龚轶凡在回答记者提问时给出了两层核心原因。其一,浙江及杭州的产业底色集中在互联网应用、算法研发和终端数字化领域,聚集了阿里巴巴、蚂蚁集团、海康威视等大量头部企业,下游客户和真实应用场景就在身边,企业可以和本地AI产业同步成长。其二,AI芯片的长期研发需要持续的社会资本与民营创投支持,杭州成熟活跃的创投生态恰好匹配了这种长期投入需求。
“不同省市半导体产业发展路径,本质是地方政府产业扶持方向和本地产业基础决定的。”他分析道,合肥、武汉依靠政府产业基金集中重仓半导体制造赛道,而杭州的优势在于应用层与算法层,配合活跃的民营资本,天然适合AI芯片这类需要与应用场景紧密联动的企业生长。
这份对产业土壤的清醒认知,源于杨龚轶凡在谷歌TPU核心研发团队的多年积淀。他回忆,团队2018年回国创业之初,就做出了一个核心产业预判:基于Transformer架构的大模型必将成为AGI的核心载体,而这类模型巨大的算力消耗,会让传统GPU架构遭遇成本与算力利用率瓶颈,面向大模型专用设计的TPU会成为长期刚需。
如今,行业趋势印证了这一判断——全球算力市场中TPU已占据半壁江山,GPU份额下滑至50%。

把AI算力成本打下来
本届WAIC空前火爆,但在热闹之外,杨龚轶凡保持着产业老兵的冷静。
他观察到两大积极信号:一是展会完整展示了中国AI产业的全产业链布局,行业整体繁荣度超出预期;二是国家层面对AI产业高度重视,高层到场并给出顶层定调,为行业注入信心。“AI大规模落地过程中,必然与现有法律法规、商业运营规则产生适配冲突,需要配套政策体系同步完善,本次大会释放的政策扶持信号,会持续推动行业加速落地。”
对于资本市场的热捧,杨龚轶凡同样保持清醒。他指出,一款全新AI芯片从架构仿真、流片试产到软件栈成熟、客户规模化商用,完整的从0到1周期需要5到6年甚至更久。“市场预期普遍超前于产品落地速度,公司不会被短期热度裹挟,会优先保障产品质量和客户落地稳定性。”
“当前以智能体为代表的Token业务全面爆发,海外同类产品单用户每日算力开销高达5至10美金,月度成本可达3000美金以上,这严重限制了智能体的商业化普及。”他设想,如果能依托国产TPU将单日算力成本压缩至0.5美金,大量中小企业甚至普通用户才有能力规模化使用AI。
这正是中昊芯英的长期产业目标——推动TPU成为AI算力领域的通用主流架构,对标X86在通用计算领域的地位,构建国内自主可控的完整算力生态。每一代芯片迭代都追求2至4倍的综合性价比提升,持续拉低大模型训练与推理的每万Token算力开销,让AI从互联网行业专属工具,转变为全行业通用的生产力底座。
从“刹那”到“须臾”,是物理时间的微小切片,但对于这家在杭州埋头耕耘多年的芯片企业而言,这是从0到1走完研发周期后,加速冲向产业化深水区的关键时刻。当国产算力开始以“软硬协同”的系统思维破局,万亿级AI产业落地的宏大图景,或许真的只在须臾之间。
