PCIe 7.0，AI互联新武器

650 0 0

文章摘要

【关键词】 PCIe 7.0、IP解决方案、AI发展、数据传输、光纤技术

随着大型语言模型的快速发展，参数数量每4到6个月翻一番，对计算资源的需求呈指数级增长。然而，现有的数据中心基础设施已难以满足这一需求，数据传输延迟的瓶颈成为了制约AI发展的”拦路虎”。为此，PCIe 7.0应运而生，作为PCI Express标准的最新版本，PCIe 7.0提供了高达512 GB/s的带宽和超低延迟，能够应对AI工作负载中大规模并行计算的需求，帮助缓解数据传输中的瓶颈问题。

新思科技最近推出了全球首个完整的PCIe 7.0 IP解决方案，确保数据安全传输，并大幅提升下一代AI和高性能计算（HPC）芯片的带宽。PCIe 7.0作为AI时代的”高速公路”，一方面随着AI模型复杂性的攀升，对计算资源的需求呈指数级增长，另一方面，AI训练和推理过程通常涉及多个加速器与中央处理器协同工作，要求系统具备强大的互联能力。据了解，当前最先进的架构，单个计算单元内可能需要连接多达1024个加速器。如此大规模的加速器之间需要一个能够支持加载/存储架构的互连系统，以确保高效的处理器能够管理和处理海量的数据包。

PCIe 7.0不仅为连接多个加速器提供了必要的高带宽和加载/存储能力，还为处理器提供了所需的以太网带宽，使其能够与兼容1.6 Tbps以太网链路的网络接口卡连接。最重要的是，PCIe 7.0 还可以通过完整性和数据加密 (IDE) 协议支持增强的数据安全性，为事务层数据包 (TLP) 和流控制单元 (FLIT) 提供机密性、完整性和重放保护。

在AI/ML的扩展应用中，PCIe 7.0提供了用于网络结构、AI/ML扩展结构和扩展结构的互连解决方案，支持包括处理器、闪存控制器、网络接口卡、加速器、PCIe交换机和SSD在内的各种硬件设备。PCIe 7.0将能够为AI/ML结构中的每个主要互连组件提供快速、安全的数据传输。

新思科技推出的PCIe 7.0 IP解决方案由控制器、IDE安全模块、物理层（PHY）和验证IP组成，在x16配置下可以提供高达512 GB/s的双向安全数据传输。该解决方案的亮点颇多，具体而言：新思科技PCIe 7.0控制器 IP可实现低延迟、高带宽链路，具有完整的端点到根复合体解决方案，支持所有必需的功能以实现向后兼容。PHY IP提供出色的信号完整性，速度高达每通道128 Gb/s，并与新思科技CXL控制器IP解决方案无缝集成。经过预先验证的 PCIe 7.0 控制器和PHY IP可提供低延迟数据传输，与之前的版本相比，功耗降低高达50%。这对于极其耗电的数据中心而言，具有显著的经济和环境效益。完整性和数据加密 (IDE) 安全IP已通过控制器IP预先验证，可提供数据机密性、完整性和重放保护，防止恶意攻击。验证IP和硬件辅助验证解决方案提供内置协议检查和控制器和PHY的多种配置，以加速验证和确认收尾。广泛的生态系统互操作性，新思科技PCIe 7.0 IP生态系统已与多家合作伙伴在 PCI-SIG DevCon 2024 上进行了互操作演示，包括Keysight Technologies、Samtec和Teledyne LeCroy。

随着数据速率的不断提升和电气损耗的增加，传统铜缆PCIe在应对当今高性能计算和AI负载时逐渐显得力不从心，PCIe over Optical（光纤传输的PCIe）在实现高效、高速数据传输方面的作用将变得越来越重要。与传统的电气链路相比，光学链路能够提供更高的带宽密度。光纤技术通过使处理单元能够访问更多分布在不同服务器单元或机架中的内存单元，有效地解决了这一限制。这一特性特别适合通过CXL交换机进行资源池化和共享，使数据中心能够更高效地利用资源。

为了能够推动光学PCIe接口，2023年8月，PCI-SIG成立一个光学新工作组，通过光学连接提供PCIe技术，推动”光学友好型”PCIe标准的发展。一旦建立了通用标准，任何光子芯片供应商都将能够集成PCIe。但是，要启用光学PCIe接口需要克服一些设计挑战。最初，PCIe接口并未考虑光学兼容性，因此从电气通道向光学通道的过渡并不简单。一个主要挑战是确保符合PCIe的电气标准，同时保持向后兼容性。此外，支持光纤上的PCIe协议可能需要对现有协议进行调整，如Rx检测、电气空闲状态管理、SSC时钟性能及边带信号处理等方面的优化。

光学PCIe更大的挑战是管理物理层和电光接口的互操作性。作为PCIe IP领域的领导者，新思科技积极参与PCI-SIG光学工作组讨论，旨在应对 PCIe 光学技术采用方面的挑战。基于光纤的PCIe代表了信号传输的未来。光纤 PCIe 的广泛应用离不开一个完善的生态系统。新思科技正积极携手生态伙伴推动光学PCIe技术的成熟和普及。在OFC 2024期间，新思科技和OpenLight展示了世界上首个采用线性驱动方法的PCIe 7.0光纤数据速率演示，同时展示了PCIe 6.x光纤演示。该演示展示了端到端链路 BER 性能比 FEC 阈值高出几个数量级，展示了以 128Gbps PAM4 运行的 PCIe 7.0 光纤的可行性。这一性能是使用分立电气和光学元件构建 PCIe 光纤链路实现的。

总的来说，新思科技PCIe 7.0 IP的出现，为AI技术的发展按下了加速键。如今，在接口IP领域，新思科技可以为高性能计算SoC设计提供业界最广泛的高速接口IP产品组合，包括用于PCIe 7.0、1.6T/800G 以太网、CXL和HBM的完整、安全IP解决方案，凭借全面的高速接口IP解决方案，新思科技正引领高性能计算SoC设计进入全新的AI时代。