博通公司今天推出了一款新芯片 Sian2,用于为人工智能集群所依赖的高速光纤网络提供动力。
该公司表示,该模块的带宽是其前代产品的两倍。此外,它还具有可靠性功能,可以有效的预防错误在数据利用互联网传输时进入数据。
典型的大型语言模型不仅在一台服务器上运行,而是在多台服务器上运行。每台服务器都托管一小部分 LLM。模型的片段必须定期相互交换数据以协调工作,而这只有在运行它们的服务器通过共享网络连接在一起时才有可能。
数据中心运营商通常使用光纤技术来构建连接人工智能服务器的网络。由于光在玻璃上的传播速度比电在金属上的传播速度快,因此光纤电缆的数据传输速度比传统铜线更快。这使得前者技术很适合带宽密集型人工智能集群,因为大量数据经常在服务器之间传输。
AI 服务器内的显卡以电信号的形式表示数据。因此,数据必须先转换成光,然后才能通过光纤网络发送到集群中的另一台服务器。这项任务由一种称为收发器的专用网络设备管理。博通今天推出的新芯片 Sian2 旨在为数据中心收发器供电。
Sian2 是一种数字信号处理器,它是一种经过优化的集成电路,可以将以电信号形式存储的数据转换为光。它还能够执行反向操作。当连接到光纤网络的服务器以光脉冲的形式接收到一段数据时,Sian2 处理器会将光转换为服务器能够理解的电信号。
光纤网络被组织成所谓的“通道”,每个通道处理一个单独的数据流。Broadcom 的上一代收发器芯片 Sian 能够最终靠单个通道每秒传输高达 100 千兆位的数据。Sian2 可以传输 200 千兆位/秒的数据。
每条通道的可用带宽增加一倍,构建光纤网络所需的收发器数量就会减少一半。硬件要求的减少反过来又降低了采购成本。减少网络中的芯片数量也会降低功耗要求,从而进一步节省成本。
Sian2 采用 5 纳米制造工艺制造。除了用于将电信号转换为光和将光转换为电信号的电路外,它还包含一个所谓的激光驱动器。该组件在生成光网络用于传输数据的光方面发挥着关键作用。
当光束穿过 AI 集群的光纤网络时,它们会在电缆内部散射,因此导致其携带的数据出现错误。如果不加以解决,这些错误可能会累积并干扰 AI 模型的处理。为了应对这一挑战,Sian2 芯片支持一种流行的错误缓解技术,称为 FEC。
FEC 通过将每段数据传输多次(而不是仅传输一次)来提高网络可靠性。结果是另一端的服务器会收到数据的多个副本。如果所有副本都相同,服务器就可以断定传输过程中没有错误进入信息并继续处理。
该技术在出现错误的情况下也很有用。通常,错误表现为人工智能服务器通过光纤连接接收的数据点的不同副本之间的差异。使用 FEC,服务器能够准确的通过经验猜测哪些副本是正确的,并将它们用于计算。
博通物理层产品部副总裁兼总经理 Vijay Janapaty 表示:“200G/通道 DSP 是 AI 基础设施中下一代纵向扩展和横向扩展网络高速光纤链路的基础。”
为了支持爆炸式增长的 AI 模型规模,AI 集群规模和集群性能需求正在急剧增长。高性能、低延迟和弹性连接对于下一代 AI 集群的扩展和横向扩展至关重要。对这些网络,客户要具有更高带宽、更低功耗、更低延迟和更低成本的可靠光纤网络连接。这需要从目前 AI 集群中使用的 400G/800G 链路(100G/通道光纤)迁移到 Sian2 支持的 800G/1.6T 链路(200G/通道光纤)。Broadcom 的 Sian2 和 Sian DSP 针对 800G 和 1.6T 光模块平台做了优化,并通过将带宽加倍、功耗更低、延迟更低、每比特成本更低来提供无与伦比的性能,从而促进 AI 数据中心的扩展。
博通公司副总裁兼物理层产品部总经理 Vijay Janapaty 表示:“200G/通道 DSP 是 AI 基础设施中下一代纵向和横向扩展网络高速光链路的基础。Sian 系列新产品巩固了博通在光学 DSP PHY 领域的领导地位,并使我们的 AI 数据中心客户能够部署高性能 800G 和 1.6T 链路。”
此外,Sian2 和 Sian PHY 与 Broadcom 领先的 200G/通道光学器件(包括电吸收调制激光器 (EML) 和连续波激光器 (CWL))的结合提供了一流的性能和功耗,使数据中心运营商能够以经济高效的方式扩展 AI 工作负载。
LightCounting 首席执行官兼首席分析师 Vlad Kozlov 博士评论道:“AI市场领导者将在 2025 年开始使用 200G/通道来提升光学模块的产能。AI领域的竞争日趋激烈,推动了前 12 个月内交付超过 100 万台 1.6T 光学收发器的需求。我们从未见过新产品以如此快的速度增长。”
新易盛科技首席执行官黄志强表示:“Sian2 能够为具有 200G SerDes 接口的下一代交换机、网络接口卡和加速器设计高速光收发器。Broadcom Sian2 DSP 和新易盛的创新收发器设计方法带来了性能领先的 1.6T 可插拔光收发器。结合新易盛的大批量生产能力,这确保了 AI 网络中一直增长的带宽供应。”
旭创科技营销副总裁 Hai Ding 表示:“旭创科技正利用博通 Sian2 DSP,以最低功耗收发器解决方案引领行业向 1.6T 的过渡。作为工程先驱,我们正在利用尖端创新重新定义光纤网络,并帮助加速部署 200G/通道可插拔设备,以应对下一代 AI 工作负载。”