一夜之間，網絡成為了AI年代的新寵，簡直一切參加數據中心的企業，近幾個月來都在議論網絡。GPU仍舊熾熱，但AI網絡好像受到了更多重視，從硅谷巨子到初立異企，我們樂此不疲地講著AI網絡的多元運用與寬廣遠景。

這一現象的背面，是“AI工廠”與“AI云”的興起，其間，AI工廠是指專門處理很多數據并生成智能的超級核算機或數據中心。它將“AI開發”流程比作工業制作工廠：好像工廠將原材料轉化為產品，AI 工廠則將原始數據轉化為“智能”或“處理方案”；而AI云則是在公有云或私有云渠道上供給彈性、可擴展的AI服務，用戶無需自建根底設施即可調用模型和算力，著重靈活性與普適性。

從傳統數據中心轉型而來的它們，不再僅僅處理和存儲數據，而是將海量原始數據轉化為實時洞悉與價值，肩負著“制作智能”的重要使命。

明顯，過往老舊的底層網絡架構已難以支撐這樣的需求。

也正因如此，AI巨子英偉達的網絡優勢開端全面閃現，除了廣為人知的InfiniBand技能外，其專為 AI 打造的以太網架構Spectrum-X正備受矚目。

IDC陳述顯現，在Spectrum-X以太網網絡渠道的微弱推進下，英偉達數據中心以太網溝通機收入從2024年第四季度到2025年第一季度完結了183.7%的驚人添加，在整個以太網溝通機商場中占有12.5%的比例，在數據中心細分范疇更是到達21.1%的商場占有率。

依靠著發布僅兩年多的Spectrum-X以太網網絡渠道，英偉達不只成功躋身全球數據中心以太網商場前三甲，更在快速興起的AI以太網商場中搶占先機，建立了無可爭議的領導地位。

雖然外界仍然習氣將英偉達界說為GPU巨子，但在聚光燈照不到的當地，這家公司正以驚人的速度重塑著AI年代的數據中心網絡地圖。

4萬億的真實底氣

關于英偉達而言，它在AI網絡上的布局遠早于其他巨子。

2020年9月30日，為了慶祝以太網規范誕生40周年，英偉達創始人兼CEO黃仁勛特地采訪了以太網的發明者鮑勃·梅特卡夫。

訪談中，兩人探討了一個耐人尋味的問題：英偉達的中心競爭力，在于GPU自身，仍是GPU之間的互連技能？

這一問題的布景，是英偉達2020年4月剛才完結的一樁收買，其以69億美元的報價收買芯片規劃公司Mellanox，這家企業不只開發了一系列依據InfiniBand規范的核算網絡產品，還推出了依據敞開以太網規范的Spectrum溝通機。

而不論是InfiniBand，仍是Spectrum以太網，都歸于服務器之間互連的一種技能方向，InfiniBand技能專心于極致的高功用和即插即用，Spectrum以太網則是高功用與傳統云運用場景的完美交融，英偉達將Mellanox歸入囊中，就意味著其自此具有了GPU服務器直接互連的兩張主力，統籌了功用、擴展性和服務性的商場火急需求。

面對這一問題，梅特卡夫篤定地指出，英偉達真實的底氣，便是GPU互連。

五年后的今日，英偉達市值飆升至4萬億美元，躋身全球最具價值的企業前列。支撐這一驚人成果的背面，除了現在炙手可熱的Blackwell芯片外，還有它早已獨步于全國的GPU服務器互連技能——即AI網絡。

這時候新的疑問誕生了，AI網絡商場的競爭者這么多，為什么唯一英偉達能夠贏得很多巨子的“歡心”呢？

讓我們先從InfiniBand說起。

作為一種功用強大的網絡架構，InfiniBand被專門規劃用于支撐高功用核算和AI數據中心根底設施的I/O銜接，它的共同之處在于既可作為 “盒內” 背板處理方案（PCB 上的組件互連），也可經過銅纜或光纖完結 “盒外” 設備互連，一致了傳統總線與網絡互連的功用。

除此之外，InfiniBand的高帶寬、低推遲、低功耗以及可擴展性等特性，讓它與AI數據中心形成了天作之合，例如最新的InfiniBand XDR網絡帶寬可達800Gb/s，其開展速度遠超PCIe的開展速度，現在的x86服務器都還未支撐PCIe6.0來滿意其關于帶寬的需求，需求經過Multi Host或許Socket Direct 等技能來到達XDR網絡關于800Gb/s上行帶寬的需求；業界第一種支撐RDMA（長途直接內存拜訪）技能的網絡，在大約20年前就完結了無需 CPU 干涉就能完結網絡的線速數據傳輸；也是業界最早完結了網絡核算的網絡，能夠將HPC和AI作業負載中雜亂的調集通訊核算卸載到網絡溝通機上，有用提高了通訊功用和下降了網絡擁塞。

形象一點來說，InfiniBand就像是一條特別規劃的專用公路，速度很高，一起能夠有用防止擁堵，它的共同架構能夠在完結高帶寬的一起大幅下降推遲，比照傳統網絡架構有著十分大的優勢，其十分合適那些練習各類大言語模型（LLM）的AI工廠。

而英偉達在2023年推出的Spectrum-X 網絡渠道，則是專門面向AI運用場景，對傳統以太網的進一步的優化和晉級，臺灣電視劇戰神在線播放是一種從網卡到溝通機協同規劃的端到端AI網絡技能。

首先是傳統以太網被詬病最多的推遲問題，Spectrum-X最大極限經過端到端的優化規劃明顯下降了AI事務的通訊時延，經過源于InfiniBand網絡的RDMA技能，完結了GPU顯存和GPU顯存之間的直接通訊，大幅下降通訊推遲并為用戶的通訊優化供給了更多的方向；而在網絡擁塞與丟包問題上，Spectrum-X則加入了在InfiniBand網絡上現已老練運用的動態路由技能（Adaptive Routing），依據網絡負載狀況，實時調整數據傳輸途徑，最大化網絡帶寬的使用率。

一起，Spectrum-X也具有了InfiniBand網絡的功用阻隔技能（Performance Isolation），該技能保證在多租戶的多使命環境中，不同租戶的運用之間的網絡流量互不攪擾，即便一個事務呈現了突發流量，也不會影響到其它事務，保證各個使命都能在最優環境中運轉，完結Bare Metal的功用。

與InfiniBand不同的是，Spectrum-X面向的是AI云商場，它也統籌了以太網的靈活性和安全性，讓傳統的以太網用戶能夠在不改動運用習氣的狀況下，完結快速向AI數據中心網絡的搬遷。數據中心走向AI數據中心（AI工廠和AI云）現已是大勢所趨，AI模型正在逐步替代傳統的運用形式，Spectrum-X的呈現，完結了傳統云根底設施走向AI的滑潤晉級擴展，滿意了更多云服務供給商對大規劃生成式AI等運用需求。

事實上，現在在AI練習方面，英偉達網絡已穩居主導地位：微軟Azure、OpenAI和Meta等AI巨子早已選用InfiniBand來練習自己的大言語模型，而Spectrum-X也在曩昔的一年敏捷爭奪到了很多新老客戶，完結了在網絡開展史上稀有的爆發性添加，成為了數據中心網絡的王者。至此，NVIDIA經過NVLink網絡為AI事務在縱向擴展（Scale Up）上供給了堅實的根底，經過Spectrum-X網絡和InfiniBand網絡供給了在橫向擴展（Scale Out）的無限或許，經過與業界搶先的各種GPU技能的結合，終究完結了AI事務在核算和通訊上的閉環，為AI數據中心走向高功用和無限可擴展鋪平了路途。

但AI開展明顯不會拘泥于練習這一個范疇，能夠撐起英偉達4萬億市值的中心，始終是其對AI開展趨勢的前瞻洞悉與先下手為強的戰略眼光。

從練習，邁向推理

在本年3月舉行的GTC大會上，英偉達開釋出了一個重要的職業信號：跟著AI工業在大規劃模型練習方面的需求添加逐步趨緩，加之DeepSeek等公司在推理技能上的打破性立異，整個AI職業正迎來從練習年代向推理年代的要害轉折點。

這一改變背面，瞄準的是一個規劃遠超練習商場的全新藍?！评砩虉?。如果說練習階段是AI才能的“鑄造”進程，那么推理階段則是這些才能的“實戰”，其商場潛力和商業價值將呈現指數級添加。

但新的問題接二連三。

一方面，跟著推理模型雜亂度提高，本來只需在單GPU或許單節點處理的使命，開端向多GPU和多節點并行轉移。推理已不再是傳統意義上的“一問一答”，而是進入“Test-time Scaling”階段——在每次懇求中模仿多條回答途徑，并選出最優解。這種推理邏輯本質上是一種實時的深度推演，需求在毫秒級完結很多token處理與上下文回溯。這也意味著推理體系對推遲、帶寬、同步機制的要求大幅上升。

另一方面，當時推理使命日益體現出“P-D別離”的趨勢，行將Prefiling與Decoding使命布置在不同硬件節點，以完結資源最優化使用，防止Prefiling與Decoding階段呈現核算和通訊資源的抵觸。但這也使得在Prefiling與Decoding之間的數據溝通成為瓶頸。

除此之外，大模型推理（特別是依據MoE的推理大模型）還高度依靠KVCache（鍵值緩存），其存儲規劃往往跟著輸入token數量的添加而快速添加，這就導致了KVCache或許被存放于GPU顯存，或許CPU內存，或許GPU服務器本地SSD，或許遠端的同享存儲。由于KVCache需求在多GPU間頻頻同享與更新，這對網絡提出“雙向壓力”：東西向需完結GPU間經過RDMA的方法高速同享KV，南北向則要求GPU與存儲、CPU間能低推遲調度和高功用傳輸數據。

英偉達針對這部分推理中所遇到的實際難題供給了高效的處理方案：

在分布式推理上，英偉達現在已有的InfiniBand與Spectrum-X以太網架構，構建了具有RDMA、智能擁塞操控和QoS才能的網絡層，為其供給所需的“高速公路”。

而在PD別離的通訊瓶頸上，英偉達經過NVLink/NVSwitch構建了高速互連通道，并憑借Grace CPU完結CPU與GPU之間的深度耦合，在一致的同享內存域下，極大削減主存數據轉移與推遲，大幅提高推理功率。

最終是KVCache存儲結構所面對的雙向應戰，英偉達引入了BlueField SuperNIC（Super Network Interface Card）與BlueField DPU（Data Processing Unit）的雙引擎協同架構。前者作為一種專為AI負載規劃的高功用智能網卡，在KVCache場景中可加快GPU節點間的KV同享操作，保證跨節臺灣電視劇戰神在線播放點token處理時延最低、帶寬最大化；而后者則是在CPU與GPU之間建立了一條智能的“數據高速公路”，將傳統由CPU承當的KVCache轉移、調度、拜訪操控等使命轉移到DPU上履行，有用下降推遲、開釋CPU資源，并提高全體IO吞吐功率。

以上幾大問題是推理所遇到的網絡問題，而在大型推理集群中，還有著不同的難點。

很多人本來以為推理是單節點即可完結的輕量使命，但實際徹底相反，越來越多企業將練習集群直接轉用于推理，尤其在Agentic Reasoning（自主智能體推理）場景中，每個Agent都需求獨立數據庫與長上下文處理才能，算力與網絡資源耗費更勝練習。

為應對這一趨勢，英偉達推出了AI Fabric網絡架構，經過NIXL（NVIDIA Inference Xfer Library）和Dynamo推理結構的合作，可支撐動態途徑挑選與GPU等級資源調度，使得推理體系在大規劃布置下仍然具有靈活性與實時性，處理了大型推理集群的資源編列瓶頸。

互連設備的功耗與安穩性則是另一個企業頭疼的大難題，跟著推理所需GPU的數量敏捷添加，網絡互連成為整個體系能耗的要害組成，傳統的電銜接（如銅纜）受限于銜接間隔的影響，現已成為了擴展瓶頸，光互連成為了AI數據中心的干流。

為此，英偉達推出了CPO（Co-Packaged Optics，光電一體化封裝）技能，將光模塊集成入溝通芯片封裝中，有用下降功耗并提高可靠性。據了解，與傳統光模塊比較，CPO可帶來30%-50%的網絡能耗節約，相當于在超大規劃數據中心中開釋出數十兆瓦電力用于GPU核算。

值得一提的是，CPO還帶來了運維層面的優點——光模塊數量削減、手藝插拔模塊時引發的故障率下降、激光器削減四倍，這都在提高全體體系耐性的一起，支撐更高密度布置。

能夠看到，英偉達網絡正以練習年代的技能沉淀，為推理年代構筑全新底座：從BlueField SuperNIC、BlueField DPU，到Spectrum-X, AI Fabric、CPO光電一體化網絡溝通機，再到全棧優化的軟件生態，其推理根底設施地圖現已成型。

把握網絡，便是把握未來

2020年9月那場與梅特卡夫的溝通中，黃仁勛還說了這樣一句話，客戶不關懷你選用什么技能，更關懷怎么處理他們的問題。

在他的眼里，英偉達的真實打破，不只在于GPU的功用優勢，而在于它早早把GPU從頭界說為一種渠道級組件——就像DRAM、CPU相同，可被嵌入到處理方案中，面向具體問題構建徹底體系，數據中心成為了核算機，而網絡決議了數據中心的功用、擴展性和功率。這種體系思想，是英偉達從圖形處理走向AI數據中心供貨商的中心底層動力。

在開始，沒有人信任GPU有如此寬廣的未來?！皩Ｐ挠贑PU無法處理的問題？那商場要么底子不存在，由于沒有處理方案，要么商場十分小，并且是一個超級核算機的商場，都不或許成功?！秉S仁勛回想當年質疑者時曾這樣說。但英偉達的洞悉更深一層：真實的商場往往誕生于需求沒有成型時。

這一邏輯，正仿制在今日的AI網絡渠道之上。就像當年的3D游戲離不開以太網，今日的推理模型、Agent智能體、生成式AI也相同離不開高速、安穩、智能化的網絡——遵從的，仍舊是梅特卡夫規律：銜接越多，渠道價值越大。

未來，跟著大型推理集群的加快布置，AI渠道的“結局戰場”不再是某一顆芯片的功用之爭，而是整個體系、生態、網絡的協同功率之爭。在這個新的戰場上，英偉達不只現已上場——它正在引領方向。

本文來自微信大眾號“半導體職業調查”（ID：icbank），作者：邵逸琦，36氪經授權發布。