Architecture note
如何理解这颗芯片
SN50 是 SambaNova 第五代 RDU。编译器将算子和数据映射到可重构数据流结构;SambaNova 的 SN50 产品资料表将其三层存储列为 432 MB 片上 SRAM、64 GB HBM2E 与最高 2 TB DDR5。
热数据留在 SRAM/HBM,较冷的模型、prompt cache 和 KV 状态使用 DDR5。官网产品页仍列 DDR5 最高 512 GB;所附 Hot Chips 2026 演讲稿第 12 页则在 16 RDU 机架汇总下列出 RDU DDR 256 GB–2 TB。资料口径尚未统一,因此 2 TB 作为产品资料表标称上限,不代表芯片片上容量或所有机架的实装容量。
同一演讲稿第 12 页披露风冷机架包含 16 颗 SN50 RDU、2 个节点,整机架典型功耗 15–20 kW、最高 34 kW。机架还包含主机 CPU、DDR5、SSD、网络与供电设备;官方资料未披露单 RDU 或板卡 TDP,不能将机架功耗除以 16 当作芯片功耗。
主要存储瓶颈
DDR5 容量很大但带宽低于 HBM;性能依赖编译器能否把热工作集稳定放进 SRAM/HBM。