直指2000 Tokens/s,北大系「流式推理芯片」公司完成数千万元融资

  “不做 GPU,只做速度。”

  作者丨姚单

  编辑丨余快

  雷峰网独家获悉,国内一家专注超快流式推理芯片的创业公司——「寒序科技」宣布完成数千万元融资,投资方为启高资本、赛意产业基金,源合资本担任本轮独家财务顾问。

  此前,寒序科技一直较为低调,其 AI 推理系列(SpinPU-E Series)产品的相关进展在过去两年间并未对外系统披露。

  知情人士透露,寒序科技首颗芯片样片回片测试结果“非常理想”,关键指标中,其「单位面积带宽」与 Groq LPU(Language Process Unit,语言处理单元)披露一致,达到惊人的 100 GB/s/mm^(2),这是衡量 AI 芯片推理性能的最重要指标,也是直指 2000Tokens/s的底气。

  在业内看来,这类能力决定了大模型(LLMs)推理时能否真正把“流式输出”、“高 Tokens/s”做出来。关键的是,这家公司下一代芯片已经在流片中,以“片上 MRAM+SRAM”和“确定性流式乘加单元”,目标性能指向夸张的 2000Tokens/s+,反观目前主流对话模型推理速度仅约 30-50Tokens/s。

  在当前推理芯片竞争中,这几乎是最具辨识度的硬指标之一。也因此,接近项目的人士将其评价为:国内少有的、真正沿着 Groq 方向往下打的团队。

  值得注意的是,业内近期普遍传闻,NVIDIA 已以约 200 亿美元估值级别锁定 Groq 的推理技术合作,并计划在 NVIDIA GTC 2026 即将发布的新一代 AI 推理系统中采用 Groq 芯片设计。寒序方案被业界认为是最贴近该方案的超大带宽流式处理芯片。

  与 GPU 路线不同,这家公司选择的是更聚焦、更极致的产品定义:不卷大而全,不卷通用训练,而把资源压到推理速度上,核心理念四个字——唯「快」不破。

  寒序科技成立于 2023 年 8 月,源于国内磁学研究重要高地「北京大学磁学中心」。核心团队是国内首个有能力跑通从物理、材料、器件到异质集成、芯片设计、算法的交叉团队。

  有接近本轮融资的人士告诉雷峰网,这家公司之所以近期开始对外释放信息,一个重要背景是:其关键技术与样片验证已经走过最危险阶段。目前,该公司新一轮融资也已在推进中。