我们从2011年坚守至今,只想做纯粹的技术论坛,请不要发布和技术无关的话题。  本站有两万多份高大上的PCB和原理图下载,每日更新中,欢迎常回来看看

 找回密码
 立即注册
搜索
查看: 224|回复: 0

[业界/制造] 聊一聊目前主流的AI Networking方案

[复制链接]
  • 打卡等级:以坛为家II
  • 打卡总天数:198
  • 打卡月天数:0
  • 打卡总奖励:714
  • 最近打卡:2025-11-21 20:33:51

1940

主题

405

回帖

1712

积分

二级逆天

积分
1712
发表于 2025-6-16 23:34 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区

您需要 登录 才可以下载或查看,没有账号?立即注册

×
当网络成为瓶颈

2020 年初,一家领先 AI 公司的研究人员遇到了一个在几年前对任何网络工程师而言都荒谬的问题:他们的旗舰语言模型(最终将为对话式 AI 系统提供动力的类型)训练了三周后,在完成 60% 时突然停滞。数百个 GPU 闲置在多个服务器机架中,消耗云资源的速度让首席财务官们心痛不已。

工程团队的第一反应是检查明显的问题所在:计算利用率?99%。内存使用情况?最佳。存储 I/O?完全在限制范围内。然而训练过程实际上已冻结,GPU 在等待本应瞬间完成的任务。

事实证明,瓶颈并非数十年来定义计算性能的任何组件,而是网络。更具体地说,这个网络设计适用于计算机偶尔相互通信的场景,而非数千个处理器需要完美同步协调每一次计算的场景。传统数据中心网络栈(为响应用户请求的 Web 服务器、为应用提供服务的数据库和移动文件的存储系统而构建)根本无法满足 AI 工作负载对集体通信模式的需求 —— 这是人类应用从未有过的需求。

这不仅是技术问题,更是将重塑整个行业的架构不匹配。AI 工作负载不仅需要更多网络资源,还需要根本不同的网络架构。而这种差异正是一场竞争革命的种子:它将一个看似 unlikely 的参与者推向主导地位,同时让老牌巨头们 scrambling 以保持相关性。


重新定义网络

要理解 AI 如何改变网络竞争格局,必须先理解 “AI 网络” 的真正含义 —— 因为它与连接笔记本电脑到 WiFi 或在互联网中路由流量的网络几乎没有相似之处。

传统网络遵循相对简单的模式:单个设备或应用向其他设备或服务发出请求,通常遵循客户端 - 服务器模型,流量通过网络层南北向流动。例如 Web 浏览器从服务器请求页面、移动应用从 API 获取数据、电子邮件客户端连接邮件服务器。即使在复杂的企业环境中,网络流量也主要由特定端点之间的离散事务组成。

AI 训练网络的运作原理完全不同。训练大型语言模型时,数千个 GPU 处理器必须完美协作,每个处理器处理同一庞大数据集的一小部分,同时持续与集群中的所有其他处理器共享进度。这产生了东西向流量模式,其中 GPU 主要与对等节点通信,而非外部服务。

更关键的是,AI 工作负载依赖集体通信原语(如 “全归约” 和 “全收集”),这些操作需要整个集群的同步协调。当一个 GPU 完成一批数据的计算时,它不只是将结果发送给中央协调器,而是参与精心编排的交换:每个 GPU 同时与所有其他 GPU 共享结果,通过数学方式组合结果,并利用整个集群的集体知识开始下一次迭代。

性能要求同样极端:传统应用可能容忍以毫秒为单位的网络延迟,而 AI 训练需要以微秒为单位的响应。对人类用户而言微不足道的延迟(比如几毫秒的额外延迟),会在数千次训练迭代中累积,为模型训练增加数小时甚至数天时间。当训练最大型 AI 模型的计算资源成本高达数百万美元时,这些延迟直接转化为巨额成本增加。

或许最重要的是,AI 的带宽需求呈指数级而非线性增长。传统应用的网络使用量通常与用户数量或处理的数据量成比例,而 AI 模型需要的带宽随模型复杂度呈指数级增长。从 GPT-3 到 GPT-4 的跃升,并非仅将网络需求翻倍 —— 而是提升了数个数量级。

AI 需求与传统网络能力之间的根本不匹配,为早期理解其影响的公司创造了机会,同时威胁到那些为旧规则优化的企业。

新层级结构
NVIDIA:引力中心

当 NVIDIA 在 2019 年宣布以 70 亿美元收购 Mellanox Technologies 时,这笔交易让许多行业观察家感到困惑:一家图形处理公司为何要收购网络公司?这桩交易看似是昂贵的多元化尝试 ——GPU 供应商远离核心竞争力,涉足客户、销售周期和技术挑战均不同的相邻市场。


批评者根本误解了 NVIDIA 的战略:该公司收购的不是网络业务,而是在完善一个平台。

NVIDIA 此前十年一直在构建 AI 工作负载的计算基础设施,但他们认识到,仅靠计算不足以支持前沿 AI 模型所需的大规模分布式训练。处理器之间的网络将与处理器本身同等重要,而优化该网络需要与让 NVIDIA GPU 在 AI 训练中占据主导地位相同的全栈集成。

Mellanox 收购使 NVIDIA 获得了 InfiniBand 的控制权 —— 这是一种在超级计算应用中取得成功的高性能网络技术,正因它优先考虑延迟和带宽,而非推动主流以太网采用的兼容性和成本考量。InfiniBand 对远程直接内存访问(RDMA)和硬件加速集体操作的原生支持,使其天然适合 AI 工作负载,但更重要的是,它让 NVIDIA 能够将网络和计算作为统一系统进行优化。

NVIDIA 的 AI 网络方案体现了三大关键创新,竞争对手难以复制:

  • 首先,NVLink 在服务器机架内提供直接的 GPU 到 GPU 通信,使处理器能够共享内存并协调计算,仿佛它们是一台大规模并行机器。
  • 其次,InfiniBand 以亚微秒级延迟实现集群规模通信,将 GPU 机架连接起来,其性能是传统以太网无法比拟的。
  • 第三,SHARP(可扩展分层聚合协议)直接在网络交换机中执行 AI 操作,减少集体通信所需的往返次数。

但或许 NVIDIA 最重要的优势在于软件集成:其 CUDA 编程框架和 NCCL 通信库针对 NVIDIA 硬件架构深度优化,实现了第三方解决方案无法达到的计算与网络协调水平。当 AI 研究人员设计模型时,越来越多地从 NVIDIA 的能力和约束出发,形成强化公司平台优势的反馈循环。

结果有目共睹:NVIDIA 网络收入达 50 亿美元,环比增长 64%,据估计在高性能 AI 训练互连领域占据 90% 的份额。更重要的是,客户围绕 NVIDIA 架构优化整个 AI 基础设施,产生的转换成本远超出简单的硬件采购。

NVIDIA 成功地重构了推动网络决策的经济计算:不再优化 “每美元带宽”(传统上青睐商用以太网解决方案的指标),而是将对话转向 “每个模型的训练时间”。这种重构使他们的集成方案不仅技术 superior,更在经济上具有吸引力 —— 因为即使将训练时间减少几个百分点,也能节省数百万美元的计算成本。

博通与 Arista:与物理定律抗争

AI 网络的兴起给两家领先的传统网络公司带来了根本不同的挑战,尽管它们都在争夺快速扩展 AI 基础设施的相同客户。

博通在超大规模网络领域的主导地位基于 Tomahawk 系列以太网交换芯片,据估计为全球 70% 的最大数据中心提供动力。该公司的成功源于优先考虑可编程性和灵活性的设计理念:Tomahawk 交换机可适应不同工作负载、支持各种协议,并随网络需求变化而演进。这种灵活性证明了溢价定价的合理性,并在网络需求多样化且不可预测的环境中创造了客户忠诚度。

然而,AI 工作负载将可编程性暴露为弱点而非优势:每一层抽象、每一个配置选项、每一次协议转换都会增加 AI 应用根本无法容忍的延迟。使 Tomahawk 在传统数据中心占据主导地位的特性(检查数据包、应用复杂策略、同时支持多种流量类型的能力),在应用于需要在 GPU 之间尽可能快速移动的 AI 流量时,成为了性能负担。

博通的应对既体现了公司的技术能力,也揭示了其面临的结构性挑战。Jericho3-AI 是专为 AI 工作负载设计的解决方案,具有简化的数据包处理和优化的延迟特性。该公司还拥抱了 SONiC 等开源网络操作系统,使合作伙伴能够开发 AI 特定优化,而无需博通内部构建这些能力。

但博通仍处于根本防御地位,致力于防止被 InfiniBand 完全取代,而非在 AI 网络领域建立技术领先地位。其客户(尤其是超大规模云提供商)出于运营原因更偏爱以太网,这为博通提供了市场机会,尽管 InfiniBand 具有技术优势。这种客户偏好为博通提供了基础,但并未解决使以太网对 AI 工作负载 suboptimal 的根本物理限制。

Arista 面临不同但相关的挑战。该公司凭借 EOS(一种抽象硬件复杂性并支持网络服务快速创新的网络操作系统)赢得声誉。EOS 使 Arista 能够通过软件更新而非硬件更换来添加功能和解决问题,使其成为希望将网络视为其他软件定义基础设施的云原生组织的首选。

在网络需求复杂且快速变化的环境中,EOS 仍是真正的竞争优势。Arista 是最快认识到 AI 影响并为 AI 工作负载开发特定解决方案的传统网络厂商。其 7800R3 系列交换机融入了降低延迟的硬件优化,而 EOS 则增强了 AI 特定的流量工程和集体操作优化。

然而,软件复杂性无法克服限制以太网在 AI 应用中性能的根本物理约束。EOS 可以优化流量并减少软件开销,但无法消除以太网协议栈带来的延迟损失或标准交换架构带来的带宽限制。Arista 的软件优先方法在前沿 AI 部署中遇到性能天花板,尽管它在传统和 AI 工作负载共存的混合环境中继续提供价值。

博通和 Arista 都受益于一个关键市场动态:客户对供应商锁定的抵制。即使 NVIDIA 的解决方案性能更优,许多组织仍倾向于保持供应商选择和运营一致性。这种偏好为性能足够而非最优的基于以太网的解决方案创造了机会,尤其是当 AI 工作负载变得更加多样化且不同应用的性能要求各异时。

性能与熟悉度之间的战略张力可能决定市场如何演进:如果 AI 性能要求继续呈指数级增长,技术优化最终将超越运营偏好;如果 AI 工作负载多样化且性能要求趋于平稳,运营考量可能为传统网络方法保持竞争力创造空间。

Marvell 与 Credo:关键推动者

NVIDIA、博通和 Arista 之间的平台之战,掩盖了那些不控制 AI 网络却为其提供支持的公司所扮演的重要角色。Marvell 和 Credo Technologies 代表了两种不同的支持立场,每家公司都提供关键能力,同时依赖他人获得市场成功。

Marvell 在日益平台化的市场中处于组件供应商的挑战性地位。该公司在与 AI 网络直接相关的领域拥有真正的技术专长:DPU(数据处理单元)设计、定制芯片开发以及边缘计算应用的专用处理器。Marvell 的汽车网络经验使其对延迟关键型应用有深入理解,而其存储控制器业务则提供了高性能 I/O 优化的洞见。

在 AI 网络中,Marvell 最重大的机会在于 DPU 和智能 NIC,它们可在 AI 集群中卸载 CPU 的网络处理。随着 AI 推理工作负载超越训练应用规模,专用处理的经济性对成本敏感型部署变得具有吸引力。Marvell 在定制芯片方面的专业知识还可支持针对特定应用而非通用交换优化的 AI 特定网络芯片。

然而,Marvell 面临着平台市场中所有组件供应商都面临的根本挑战:集成的经济性日益青睐控制完整系统而非单个组件的公司。平台提供商可以跨硬件和软件边界进行优化,这是组件供应商无法比拟的,并且它们可以从客户日益偏好的集成解决方案中获取更多价值。

Marvell 的前进道路可能取决于 AI 网络需求是否分裂为平台提供商无法经济解决的专业细分市场,或者围绕集成平台的持续整合是否为独立组件供应商留下空间。边缘 AI 应用的增长及其不同的性能和成本要求,可能为 Marvell 的模块化方法创造有效竞争的机会,以对抗针对数据中心部署优化的集成平台。

Credo Technologies 占据不同类型的支持地位,从长远看可能具有更高的战略价值。该公司专注于 SerDes IP 和光信号处理技术,支持共封装光学(CPO)—— 这项技术可能通过消除当前限制性能和功率效率的铜互连,从根本上改变 AI 网络的经济性。

AI 的带宽需求正将铜互连推向物理极限。NVIDIA 的 NVLink 技术每个服务器机架需要超过三英里的铜缆,导致发热、信号衰减和功耗挑战,且随着性能要求的每一次提升而加剧。为维持信号质量而添加的每个数字信号处理器和重定时器都会带来成本和延迟损失,最终使基于铜的解决方案变得不经济。

共封装光学通过将光收发器直接置于 AI 处理器旁边,为这些限制提供了潜在解决方案,从而为最高性能连接完全消除铜互连。这种方法有望实现更高的带宽密度、更低的功耗和更好的信号完整性,但需要很少公司具备的复杂封装技术和信号处理能力。

Credo 在推动光学转型中的地位类似于 ARM 在移动处理器中的角色或台积电在半导体制造中的地位 —— 它们提供支持更广泛生态系统的关键技术,而不控制平台决策。这一地位既带来机会也存在限制:无论最终哪个平台提供商主导 AI 网络,Credo 都能受益,但其成功取决于光学转型的时机和速度,而这主要由他人决定。

光学转型还说明了技术竞争中的一个更广泛模式:即使在平台主导的市场中,当关键支持技术解决所有平台提供商面临的根本问题时,它们也能保持独立的战略价值。Credo 的成功将取决于向光学互连的转型是否足够迅速,以在替代解决方案出现前创造实质性价值。

思科:架构不匹配

思科在 AI 网络中的挣扎表明,当新需求与现有架构假设根本冲突时,技术变革可能使最强的竞争地位也变得无关紧要。

数十年来,思科通过构建为传统 IT 基础设施复杂异构环境优化的解决方案,主导了企业网络市场。思科的交换机和路由器擅长处理多样化流量类型、实施复杂安全策略、同时支持多种协议,并提供企业 IT 团队所需的全面管理和监控能力。

这些能力反映了在协议栈、功能集和软件架构上的深度投资,使思科设备能够处理企业可能面临的几乎任何网络需求。该公司的成功源于解决了使企业网络复杂的集成和兼容性挑战,提供了在网络需求多样化且往往不可预测的环境中可靠工作的解决方案。

然而,AI 网络需求与使思科在企业市场成功的设计原则直接冲突。企业客户重视的协议处理、安全功能和流量管理能力,都增加了 AI 工作负载无法容忍的延迟。允许思科设备支持多样化应用的灵活性,在应用于具有非常特定、可预测需求的 AI 流量时,成为了性能负担。

更根本的是,思科的解决方案针对南北向流量模式优化(客户端通过多个网络层与服务器通信),而 AI 工作负载主要产生东西向流量(处理器直接与对等节点通信)。适用于传统企业应用的网络架构、流量工程方法和优化策略,与 AI 的需求根本无关。

思科解决 AI 网络需求的尝试受到这些架构约束的限制。该公司的 Silicon One 计划代表了构建有竞争力交换芯片的努力,但其缺乏与专用解决方案有效竞争所需的 AI 特定优化。对现有平台的软件适配可以减少一些低效,但无法消除企业网络架构与 AI 性能需求之间的根本不匹配。

或许更重要的是,思科的销售和支持模式针对企业关系优化,而非驱动 AI 基础设施决策的超大规模采购流程。当采购决策主要由技术性能基准而非关系因素驱动时,该公司在与 IT 团队建立长期合作伙伴关系方面的优势变得不那么重要。

这并不意味着思科与 AI 的未来无关 —— 在边缘 AI 部署中,企业关系和现有基础设施集成比绝对性能更重要,该公司可能仍有机会。但在推动最高价值网络决策的核心 AI 训练和推理应用中,思科的架构方法和市场重点使其与客户需求根本错位。

技术战场

AI 网络主导权的竞争在几个不同的技术维度展开,每个维度都代表了实现数千个处理器尽可能高效协作这一根本挑战的不同方面。

最引人注目的战场集中在互连架构 —— 即选择 InfiniBand 还是以太网作为 AI 集群网络的基础。InfiniBand 具有明显的技术优势:对远程直接内存访问(RDMA)的原生支持、硬件加速集体操作,以及以太网无法匹配的亚微秒级延迟。这些能力直接转化为 AI 工作负载更快的训练时间和更高效的资源利用。

以太网的优势在于运营而非技术。超大规模运营商了解以太网的行为特征,围绕以太网设备制定了运营程序,并倾向于在基础设施中保持一致性。以太网还受益于企业和云部署中的巨大规模经济,创造了可抵消部分性能损失的成本优势。

性能与熟悉度之间的张力可能由不同 AI 应用的特定需求解决:训练前沿模型(性能直接决定经济可行性)将继续偏爱 InfiniBand,而具有更多样化性能需求的推理应用可能认为以太网解决方案足够。

集体操作代表了另一个关键战场,硬件加速与软件优化在此竞争。NVIDIA 的 SHARP 技术直接在网络交换机中执行 AI 操作,减少了跨多个 GPU 进行梯度平均等操作所需的通信轮次。这种方法需要网络硬件与 AI 软件栈的紧密集成,创造了其他供应商难以复制的优势。

传统网络厂商已通过基于软件的优化做出回应,如增强型融合以太网远程直接内存访问(RoCE)实现和网络操作系统中的 AI 感知流量工程。这些方法与标准以太网部署相比可提高性能,但无法匹配专用硬件加速的效率。

光学转型可能是最重要的长期战场,因为它解决了限制所有铜基互连的根本物理约束。随着 AI 模型规模和复杂度持续增长,无论优化得多好,带宽和功率需求最终将使铜互连变得不经济。

共封装光学有望通过为最高性能链路消除铜连接来绕过这些限制,但该技术需要光学组件、封装技术和系统设计之间的复杂集成。成功驾驭这一转型的公司可能会为下一代 AI 基础设施建立持久优势。

软件集成最终可能证明是最具决定性的战场,因为它决定了网络硬件可针对特定 AI 工作负载优化的程度。NVIDIA 在这一领域的优势源于同时控制计算和网络两端,实现跨越传统组件边界的优化。

试图匹配这种集成的竞争对手面临根本挑战:它们必须要么构建直接与 NVIDIA 集成方法竞争的完整平台,要么说服客户接受多供应商解决方案带来的性能妥协。无论哪种方法的成功,都将取决于 AI 需求是继续偏爱集成,还是多样化到为专用解决方案创造机会的程度。

客户视角

AI 网络厂商的层级结构反映了不同客户群体的多样化优先级和约束,每个群体都基于性能需求、运营偏好和战略考量的不同组合来评估解决方案。

超大规模云提供商代表了最成熟的客户群体,具备纯粹基于优势评估解决方案的技术专长和购买力。这些组织偏爱供应商多样性以保持谈判筹码并避免战略依赖,但也受到日益倾向于集成方案而非模块化方法的性能需求驱动。

结果形成了一种复杂动态:超大规模厂商尽管偏爱其他方案仍采用 NVIDIA 的解决方案,尽管存在性能权衡仍保留与博通的关系,并且当 Arista 的创新能够以运营一致性实现足够性能时拥抱其创新。这一客户群体的偏好为试图与 NVIDIA 集成方法竞争的传统网络厂商创造了主要市场机会。

AI 原生公司在不同约束下运营。像 OpenAI、Anthropic 和其他前沿 AI 开发者这样的组织主要针对训练性能进行优化,因为减少训练时间直接影响其在快速演进市场中的竞争能力。这些客户通常偏爱提供最大性能和最小运营复杂度的集成解决方案,使其成为 NVIDIA 平台方法的天然客户。

然而,随着 AI 原生公司扩大运营规模,成本优化变得越来越重要,为即使不提供绝对最大性能但具有更好性价比的替代解决方案创造了潜在机会。传统网络厂商面临的挑战是开发能够在成本上有效竞争而不牺牲太多性能的解决方案。

传统企业代表了完全不同的市场,其 AI 网络需求往往从属于更广泛的基础设施考量。这些组织通常偏爱与现有基础设施良好集成、与运营程序保持一致,并提供从当前部署清晰迁移路径的解决方案。

这一细分市场为思科和 Arista 等厂商创造了机会,它们可以将 AI 能力作为现有网络平台的扩展提供,而不是要求完全更换基础设施。企业 AI 部署中的性能要求也通常不如前沿模型训练中的极端,为针对非绝对性能因素优化的解决方案创造了空间。

客户视角揭示了为何尽管 NVIDIA 具有技术领先地位,多家厂商仍能在 AI 网络中取得成功:不同客户群体有不同优先级,这些优先级为针对纯性能以外因素优化的解决方案创造了机会。关键战略问题是 AI 需求将围绕性能优化收敛,还是以维持多种竞争方法的方式多样化。

未来颠覆

三个潜在的颠覆向量可能从根本上改变当前 AI 网络的竞争层级,每个向量都代表了可能重置当前有利于平台方法优势的不同类型技术或市场变革。

光学转型代表了最直接的潜在颠覆,因为它解决的是根本物理限制而非渐进式优化挑战。当铜互连明显限制下一代 AI 模型的扩展时,向共封装光学的转型将成为经济必需,而非技术偏好。

这一转型可能使投资光学技术的 Credo 和 Marvell 等公司受益,同时可能减少当前有利于 NVIDIA 平台方法的集成优势。如果光学互连能够以支持不同厂商组件互操作的方式标准化,转型可能恢复 AI 集成需求出现前网络的部分模块化特性。

然而,如果平台提供商成功将光学技术集成到现有优势中,光学转型可能同样增强平台提供商的地位。NVIDIA 的光学集成方法可能决定这一转型是为竞争对手创造机会,还是强化现有平台优势。

开放标准代表了另一种潜在颠覆,可能在不产生当前平台竞争中锁定效应的情况下实现集成优势。UCIe 和 CXL 等技术有望以支持不同厂商组件混合而无性能损失的方式标准化高性能互连。

如果这些标准实现真正采用并兑现性能承诺,它们可能恢复竞争动态,使最佳组件选择优于集成平台。组件专家将从重新获得基于技术优势竞争的机会中受益,而客户将获得供应商灵活性而不牺牲性能。

基于标准的颠覆面临的挑战是,平台提供商有强烈动机抵制降低其优势的标准化,并且如果它们选择这样做,通常有市场力量阻止标准采用。开放标准的成功可能取决于客户是否集体强烈要求互操作性,以超越平台提供商的偏好。

替代 AI 架构代表了最具推测性但可能最具颠覆性的向量,因为它们可能使推动当前网络优化的基本假设失效。神经形态计算、量子 - 经典混合系统和内存中处理方法都有不同的通信需求,可能偏爱不同的网络解决方案。

如果替代 AI 架构被证明对重要应用更优,它们可能为未针对当前以 GPU 为中心的方法优化的网络厂商创造机会。挑战在于架构转变通常需要数年或数十年才能实现有意义的采用,使其难以预测或准备。

更可能的是,替代架构将创造专用细分市场,而非完全取代当前方法。这些细分市场可能为无法在主流 AI 训练应用中有效竞争但可针对专用需求优化的公司提供机会。

这意味着什么

围绕 AI 需求的网络竞争转型提供的洞见超越了所涉及的特定技术和公司,说明了当技术变革改变基本需求时,平台竞争如何演进的更广泛模式。

对投资者而言,AI 网络层级结构既展示了平台优势的持久性,也展示了其脆弱性。只要当前 AI 架构保持主导地位,NVIDIA 的集成优势就会创造可能持续的真正竞争护城河,但当需求变化偏爱不同方法时,这些相同优势可能成为约束。

平台地位在集成优势最有价值的时期提供了获得可观回报的潜力,但也创造了只有在技术转型暴露平台局限性时才会显现的集中风险。技术转型的时机(光学采用、标准出现或架构转变)将在很大程度上决定整个行业的投资回报。

评估供应商选择的技术领导者应认识到,网络决策日益决定哪些 AI 应用在经济上可行,而不仅仅影响预定应用的成本或性能。集成平台与模块化方法之间的选择,反映了优化与灵活性之间的根本权衡,远远超出技术考量。

组织应根据性能对其业务成果的直接影响、对运营复杂性的容忍度,以及对需求可能变化速度的评估,来评估其网络策略。当前层级结构偏爱优先考虑性能并能接受供应商集中的组织,但未来变革可能奖励不同的战略选择。

对企业家和创新者而言,AI 网络转型说明了平台竞争如何为新进入者创造机会和挑战。平台通常通过渐进式创新抵制颠覆,但在改变基本需求或为长期问题启用新方法的架构转变面前可能脆弱。

最有前途的机会可能存在于为多个平台提供商解决问题的支持技术中,而非直接的平台竞争。光学转型、边缘 AI 扩展和替代架构都代表了无论当前哪些平台最终成功,新方法都可能创造价值的领域。

无人预测的网络架构

NVIDIA 在 AI 网络中的主导地位不仅代表成功的产品战略,更展示了当技术变革改变基本需求时,平台思维如何重塑整个行业。该公司不仅顺应了 AI 浪潮,还预见并构建了使浪潮成为可能的基础设施。

这一转型揭示了适用于网络或 AI 之外的平台竞争关键原则:赢家不仅构建更好的组件,还重新定义定义成功的指标,并通过性能优化而非合同限制创造转换成本。NVIDIA 成功地将对话从 “每美元带宽” 转向 “每个模型的训练时间”,使其集成方法不仅技术 superior,更在经济上具有吸引力。

但或许最重要的教训是关于竞争优势的无常性:推动 NVIDIA 当前主导地位的相同优化重点(计算与网络的紧密集成、假设特定硬件能力的软件生态系统、优先考虑性能而非模块化的平台方法),如果 AI 需求以意想不到的方式演进,可能成为约束。

光学转型、替代架构或监管干预都可能以有利于不同方法的方式重塑竞争动态。具有不同性能特征的边缘 AI 应用可能为模块化解决方案创造机会;新的计算范式可能需要当前平台不提供的网络能力;开放标准最终可能在没有平台锁定的情况下提供集成优势。

平台竞争中最大的风险不是落后于当前需求,而是完美优化一个即将改变的世界。NVIDIA 的网络成功源于早早认识到这一原则,并在大多数竞争对手理解 AI 需求之前为其构建基础设施。

AI 网络的下一章将由能够预见下一组需求的公司书写 —— 这些需求今天看似不可能,但回头看将显得不可避免。无论是使铜互连像拨号调制解调器一样过时的光网络,消除集中式训练需求的分布式架构,还是我们尚未想象的全新计算方法。

围绕 AI 需求的网络转型才刚刚开始。在下一阶段取得成功的公司,将是那些认识到当前优化目标何时即将改变,并为定义下一代智能系统的需求做好准备的公司。

在技术平台竞争中,最大的胜利不属于那些完善昨日解决方案的人,而属于那些在其他人仍在解决昨日问题时,构建明日基础设施的人。



您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Copyright ©2011-2024 NTpcb.com All Right Reserved.  Powered by Discuz! (NTpcb)

本站信息均由会员发表,不代表NTpcb立场,如侵犯了您的权利请举报投诉

本站所有资料仅限参考学习交流,PCB原理图源码等所有资料不保证准确没问题,请不要用作生产。否则后果自负。

闽公网安备35062302000276号 | 闽ICP备2024076463号-1 | 论坛技术支持QQ群171867948 | 论坛问题,充值问题请联系QQ1308068381

平平安安
TOP
快速回复 返回顶部 返回列表