中金:预期SerDes向224G演进有望为102.4T交换芯片的面世提供底层支撑

75 3月25日
share-image.png
严文才

智通财经APP获悉,中金发布研报称,AI浪潮迭起,大模型高效训练的达成需要以集群内更大规模的数据承载量和高效的传输速率为前提,在上周召开的英伟达GTC 2024上,也明确观察到网络技术能力再升级趋势,裸片、芯片、机柜间互连方式革新不断、带宽提速;而作为以太网、PCIe、NVLink等通信协议PHY层的底层技术支撑,预期SerDes向224G演进有望为102.4T交换芯片的面世提供底层支撑,助力实现1.6T网络连接。

中金主要观点如下:

D2D:裸片间通信需求增加,先进封装工艺不断进阶

D2D通信发生于芯片封装内部,其接口物理层可采用高速SerDes或高密度并行架构。中金认为随着Chiplet等众核异构渗透率逐渐提升,Die间通信需求有望进一步增加,对先进封装技术、互连标准提出更高要求:1)先进封装的精进如2.5D/3D封装能够为D2D连接带来更高I/O密度,台积电CoWoS作为主流2.5D先进封装技术广泛应用于A/H100等AI芯片封装;2)UCIe协议的出现有望助推Die间互连接口标准化以实现不同芯粒的自由整合,D2D互连生态有望趋于开放。

C2C:PCIe总线持续升级,NVLink引领片间通信新变革

主板总线是C2C通信的重要媒介,其中PCIe主要用连接CPU与高速外围设备,平均每三年升级一代标准,目前已迭代至6.0版本,16通道下可实现256GB/s的传输速率。在AI场景中,异构并行计算架构成为主流,中金观察到GPU间、异构xPU间的C2C互连逐渐由PCIe主导向性能更强的专用互连技术演进,NVLink实现GPU间高速、低时延的直接互连,并引入NVSwitch解决通讯不均衡,GTC 2024发布新一代NVLink和NVSwitch,C2C互连双向带宽提升至1.8TB/s。

B2B:机间高速互连提升AI训练效能,协议与硬件并进

中金认为,机间通信效率的提升需要协议和硬件端的配套支持:1)协议:从传统的TCP/IP向RDMA演进以优化网络性能,InfiniBand时延低、上线快、但生态相对封闭、价格高昂,RoCE性能略低于InfiniBand,然兼具成本效益和可扩展性,长期来看InfiniBand或与升级以太网平分秋色;2)硬件:接口传输速率需迭代上行,交换芯片作为核心硬件其性能面临升级,中金预期SerDes向224G演进有望为102.4T交换芯片的面世提供底层支撑,助力实现1.6T网络连接。

风险

AI大模型及应用发展不及预期,SerDes技术迭代不及预期。

相关阅读

中金:维持九毛九(09922)“跑赢行业”评级 目标价降至7.45港元

3月25日 | 陈宇锋

中金:特斯拉FSD V12美国全境推送 端到端智驾模型落地加速

3月22日 | 张计伟

中金:国内本土厂商有望受益于高级别智能驾驶落地带动零部件升级的历史机遇

3月22日 | 严文才

中金:予中煤能源(01898)“跑赢行业”评级 目标价升至9港元

3月22日 | 陈宇锋

中金:车企迈入智能驾驶竞赛阶段 建议持续关注车企智驾功能

3月22日 | 严文才