FAMAFlagship AI Accelerator Memory ArchitecturesFAMA
d-Matrix近存计算开发中 · MGX 系统预计 Q4 2027

第二代 Digital In-Memory Compute · 2027

Raptor 3DIMC

把定制 DRAM 直接堆在数字近存计算裸片上,目标是绕开 HBM PHY 的带宽与能耗边界。

4 个官方来源可信度 核验 2026-09-14

Memory thesis

3D bonded custom DRAM + digital in-memory compute

这是本图谱最典型的“存储即架构”路线之一,但当前应该把 Pavehawk 实测与 Raptor 目标严格分层记录。

工艺 / 封装
4 nm compute die · 3D bonded custom DRAM
存储
目标 32 GB / card
存储带宽
目标 100 TB/s / card
峰值计算
未披露
功耗
未披露
互联
规划 NVLink Fusion / NVIDIA MGX

Memory hierarchy

存储层次

沿着数据离计算核心越来越远的方向阅读。真实带宽不只取决于介质,也取决于布局、复用和互联。

01

DIMC Fabric

存内矩阵计算

数字计算靠近存储阵列,减少权重反复进出传统加速器数据通路。

02

3D Custom DRAM

垂直高带宽权重层

通过超细间距键合连接计算裸片,接口能效验证值约 0.4 pJ/bit。

03

NVLink Fusion / MGX

容量与请求调度

计划连接 Raptor XPU 与 NVIDIA 机架生态;最终容量、互联带宽和整机规模仍待产品资料确认。

Architecture note

如何理解这颗芯片

2026-09-10 官方宣布 Raptor 将接入 NVIDIA NVLink Fusion 与 MGX 机架,计划于 2026 年底前流片;集成 MGX 的 Raptor XPU 初步供货预计在 2027 年第四季度。这里的日期属于路线图,不代表已量产。

该合作规划用 GPU 承担 prefill、Raptor 承担低时延 decode;正式互联带宽、机架规模与功耗尚未披露。

d-Matrix 先用 Pavehawk 测试芯片验证 3D DRAM 接口,再计划把技术用于第二代 Raptor。官方披露最差约 0.4 pJ/bit,并以相对 HBM4 约 10 倍的带宽与能效提升作为设计目标。

媒体从 Hot Chips 资料报道 32 GB、100 TB/s/card 等目标值;由于 Raptor 尚无最终数据表,这些数字在图谱中明确标为“目标/会议报道”,不能等同量产规格。

主要存储瓶颈

工程难点转向 3D 热耦合、良率、定制 DRAM 供应和编译器对权重布局的管理。

Evidence

资料入口