前言
随着大模型推理、训练节点带宽需求持续拉高,服务器内部多 NPU、高速 SSD、智能网卡之间的互联瓶颈越来越突出。IX9104 作为 104 Lane 规格的国产 PCIe Gen5 交换芯片,主打高密度算力板内互联与国产化替代,在近期信创服务器、HPC 项目评估中被频繁选用。本文记录项目评估过程中的参数、落地场景、PCB 调试要点以及选型取舍,供硬件方案设计参考。
一、核心技术参数
- 总线规格:原生 PCIe Gen5,单 Lane 速率 32GT/s,向下兼容 PCIe Gen4/Gen3
- 通道资源:总计 104 条 PCIe 通道,全交叉非阻塞架构,可灵活划分 26 组端口,支持 x16/x8/x4 自由配置
- 转发时延:典型转发延迟 116ns,保障 NPU 之间 P2P 直传低时延
- 核心特性:支持 Peer-to-Peer 对等传输、NTB 非透明桥模式,可做多主机隔离互通;内置链路均衡、链路错误检测与上报
- 硬件兼容:PIN-TO-PIN 对标进口 PEX89104,存量服务器方案国产化替换时 PCB 改动量较小,配套自研固件
- 环境规格:工业宽温,支持 7×24h 不间断长时间运行,面向数据中心级场景
二、典型应用场景
- 中高密度 AI 推理服务器板内互联 单颗芯片承载多块 NPU 加速卡、PCIe5.0 高速 SSD、高速网卡之间的数据交换,NPU 之间 P2P 直传,绕过 CPU 转发,降低大模型推理时的数据搬运延迟,适合 8 卡以内推理节点。
- 双控 / 多控企业存储机头 依托 NTB 非透明桥能力,搭建双控冗余存储架构,两套主机独立运行又可以按需互通,满足金融、政企存储高可用需求,适配信创存储项目。
- HPC 高性能计算节点 面向科学计算、仿真算力板卡,连接 FPGA 加速卡、高速网卡与大容量存储,支撑并行计算任务的数据分发与结果回写。
- 信创通用国产服务器扩展 用于国产平台整机,扩展加密卡、采集卡、DPU、NVMe 盘阵等高速外设,满足项目国产化指标要求。
三、硬件设计与调试要点
- 高速信号 PCB 设计:PCIe Gen5 差分对严格控制 100Ω 差分阻抗,优先选用低损耗高速板材;尽量缩短走线、减少 stub,端口之间走线等长匹配,预留信号均衡调试空间,否则极易出现链路降速、偶发链路训练失败。
- 电源与散热:芯片功耗较高,电源域需要独立分区、多级滤波;BGA 封装布局要充分考虑散热,服务器整机必须搭配散热片 + 风道设计,高温会直接影响链路稳定性。
- 拓扑与端口规划:前期梳理业务流量模型,区分哪些端口需要 NPU 之间 P2P 通信、哪些是主机下行外设;NTB 多主机模式下要提前规划隔离域,避免跨域访问冲突。
- 固件与调试手段:依靠配套固件配置端口拓扑、均衡参数;调试时借助 PCIe 工具查看链路协商速率、误码计数;遇到不稳定优先排查板材损耗、电源纹波,再调整 TX/RX 均衡参数。
- 机箱 EMC 管控:Gen5 高速信号辐射风险更高,接口、板卡连接器位置做好屏蔽处理,满足服务器 EMC 规范。
四、选型权衡思考
优势:104Lane 大通道容量,全非阻塞架构带宽利用率高;支持 NTB 多主机,适配双控存储;PIN 兼容经典进口型号,存量方案替换成本低,契合国产化替代需求。 需要权衡的地方:
- PCIe Gen5 对 PCB 板材、工艺、散热要求远高于 Gen4,BOM 成本、制版成本明显更高;带宽需求不高的项目,优先 IX80 系列 Gen4 方案;
- 芯片功耗偏大,小体积边缘盒子、紧凑型工控板不适合选用,定位是服务器、算力板卡这类大空间设备;
- 虽然支持 P2P 直传,但上层框架、驱动也要配套支持 P2P,否则无法发挥低时延优势,软件侧需要同步评估适配工作量。
-
小结
IX9104 主要解决 AI 服务器、信创存储节点内部多高速设备互联的带宽瓶颈,适合需要国产化替换、多 NPU 协同、双控冗余存储的项目。选型时重点评估整机散热能力、PCB 工艺能力、业务流量模型,避免带宽过剩或者硬件条件不足以跑稳 Gen5 速率。
转载自 CSDN-专业IT技术社区
原文链接:https://blog.csdn.net/2402_88216294/article/details/170338117




