NVIDIA作为全球领先的视觉计算和人工智能公司,其市值突破万亿元的背后,除了强大的GPU产品线,互联技术扮演了不可或缺的支柱角色。NVIDIA于2019年收购以色列公司Mellanox,自此成就了它的暴力美学。通过高性能的单个GPU加速卡,NVLink及NVSwitch打造Scale-up护城河,同时还配备用于后端网络Scale-out的ConnectX系列智能网卡等全栈AI网络互联产品线打造AI工厂。据悉,2023年NVIDIA 在Networking领域的销售额为130亿美金。
根据Spirent HSE Market Impact Report的高速以太网市场动态更新,随着端口速度持续演进,各速度级别的采纳率都保持强劲,即便是10G和25G在中小企业和5G基站部署中仍享有稳定的需求。超越传统需求曲线,基于51.2T的交换机Serdes以及AI网络Scale-out从RDMA RoCE2向UEC(超以太联盟)规范演进的趋势已经明朗。目前市场已经开始展望1.6T以太网,以期在明年迅速把握AI驱动的市场机遇。
1.6T以太网
数据中心流量的预期指数级增长正在推动1.6T以太网的研究。尽管IEEE 802.3dj标准预计在2026年内完成,但2024年已经明确的基础功能将支持硅芯片、光学元件和光模块的早期开发。
面向AI和HPC的以太网
随着AI和高性能计算(HPC)的需求日益增长,基于融合以太网的远程直接内存访问RDMA(RoCEv2),预计将演进至新的超以太网传输(UET)标准(隶属于UEC)。
800G
最初的部署将由全球主要云厂商企业引领,以支持数据中心内的AI应用,并伴随着51.2Tbps交换机的应用。800G提供了更高的带宽、更低的延迟、提升的能效以及更多的连接,为数据中心的互联提供了未来几年的保障。
以太网逐步替代Infiniband
Scale-out 层面,用于AI训练的高速网络InfiniBand的远程直接内存访问(RDMA)被普遍应用,但现在越来越多的关注点转向了将开放标准、广泛采用的以太网用于这一用途。与InfiniBand相比,以太网降低了成本和复杂性,并且没有可扩展性的限制。