作為丹佛斯中國數(shù)據(jù)中心簽約代理商,北京漢深流體技術(shù)有限公司深耕液冷領(lǐng)域,為數(shù)據(jù)中心提供包括快換接頭、液冷軟管等在內(nèi)的關(guān)鍵產(chǎn)品,助力高效散熱解決方案落地。而在 AI 算力需求爆發(fā)的當下,液冷技術(shù)正成為支撐GPU 穩(wěn)定運行的核心力量 ——2025 年 7 月 3 日,戴爾科技向 CoreWeave 交付了NVIDIA GB300 NVL72 機架規(guī)模解決方案,這一里程碑事件背后,液冷技術(shù)的應用正是保障其高性能運轉(zhuǎn)的關(guān)鍵一環(huán)。
戴爾交付NVIDIA GB300 NVL72機架解決方案
2025年7月3日,戴爾科技(Dell Technologies)向CoreWeave交付了NVIDIA GB300 NVL72機架規(guī)模解決方案,這一事件標志著英偉達最新一代GPU正式進入商用階段。在人工智能(AI)技術(shù)迅速發(fā)展的背景下,算力需求呈現(xiàn)爆發(fā)式增長,推動了全球半導體和AI基礎設施市場的激烈競爭。
背景:NVIDIA GB300 NVL72的定位與技術(shù)特點
產(chǎn)品定位與市場背景
NVIDIA GB300 NVL72是英偉達Blackwell架構(gòu)下的旗艦產(chǎn)品,定位于AI訓練和高性能計算(HPC)市場。Blackwell架構(gòu)是繼Hopper之后的下一代GPU架構(gòu),旨在滿足大規(guī)模AI模型訓練和推理的需求。GB300 NVL72作為Blackwell架構(gòu)的代表產(chǎn)品,代表了當前GPU計算技術(shù)的較高水平。
在全球AI競爭日益激烈的背景下,NVIDIA作為GPU計算領(lǐng)域的范例,不斷推出性能更強、效率更高的產(chǎn)品,以鞏固其市場地位。GB300 NVL72的推出,正是英偉達應對日益增長的AI算力需求的戰(zhàn)略舉措。
技術(shù)特點與性能優(yōu)勢
NVIDIA GB300 NVL72的核心技術(shù)特點包括:
多芯片模塊(MCM)架構(gòu):GB300 NVL72由72個GB300 GPU芯片組成,采用先進的MCM封裝技術(shù),實現(xiàn)了更高的計算密度和更低的功耗。
Blackwell架構(gòu):Blackwell架構(gòu)是英偉達專為AI和HPC設計的新一代GPU架構(gòu),相比Hopper架構(gòu),性能提升了約40%,能效比提升了約30%。
高帶寬內(nèi)存(HBM):GB300 NVL72配備了HBM3e高帶寬內(nèi)存,內(nèi)存帶寬達到345.6TB/s,為大規(guī)模AI模型的訓練提供了充足的內(nèi)存支持。
多精度計算支持:支持FP64、FP32、FP16、INT8等多種數(shù)據(jù)精度,能夠滿足不同應用場景的需求。
能效優(yōu)化:GB300 NVL72在性能提升的同時,功耗控制更加出色,能效比達到105 TFLOPS/W,較前代產(chǎn)品有顯著提升。
這些技術(shù)特點使GB300 NVL72成為當前市場上性能佳、效率高的GPU產(chǎn)品之一,能夠滿足最復雜的大規(guī)模AI模型訓練需求。
產(chǎn)品交付亮點
此次戴爾向CoreWeave交付的NVIDIA GB300 NVL72機架規(guī)模解決方案,代表了戴爾在AI基礎設施領(lǐng)域的行業(yè)優(yōu)質(zhì)技術(shù)。這些技術(shù)不僅展現(xiàn)了戴爾在AI計算領(lǐng)域的深度布局,也反映了其在硬件、軟件和生態(tài)系統(tǒng)的整合能力。以下是戴爾此次解決方案中采用的關(guān)鍵行業(yè)前沿技術(shù)的深度分析:
1. 基于NVIDIA Blackwell架構(gòu)的GPU技術(shù)
NVIDIA GB300 NVL72是英偉達最新一代Blackwell架構(gòu)的代表產(chǎn)品,專為AI訓練和推理設計。Blackwell架構(gòu)在性能、能效和可擴展性方面進行了全面升級,其性能相比前代產(chǎn)品提升了50%以上。GB300 NVL72結(jié)合了72個Blackwell GPU和36個基于Arm架構(gòu)的Grace CPU,提供了更為優(yōu)質(zhì)的計算能力,能夠處理大規(guī)模AI模型的訓練和推理任務。
技術(shù)亮點:
高性能計算能力:GB300 NVL72提供了每秒數(shù)十萬億次的浮點運算能力(TFLOPS),支持大規(guī)模的AI模型訓練和推理。
高能效比:Blackwell架構(gòu)通過優(yōu)化計算單元和內(nèi)存帶寬,提升了每瓦特的計算性能,降低了數(shù)據(jù)中心的能耗。
支持大規(guī)模并行計算:NVL72的多GPU架構(gòu)允許用戶構(gòu)建高密度的計算集群,提升AI訓練的效率。
2. 液冷服務器技術(shù)
戴爾此次交付的解決方案采用了液冷服務器技術(shù),以應對AI計算對散熱和能效的高要求。液冷技術(shù)通過將冷卻液直接接觸服務器的發(fā)熱部件(如GPU和CPU),可以顯著降低服務器的運行溫度,從而提升穩(wěn)定性和能效。
技術(shù)亮點:
高效散熱:液冷技術(shù)相比傳統(tǒng)風冷技術(shù),能夠更有效地將熱量從服務器內(nèi)部排出,減少風扇和散熱器的能耗。
降低噪音:由于不需要高轉(zhuǎn)速風扇,液冷服務器運行時的噪音更低,提升了數(shù)據(jù)中心的環(huán)境舒適度。
提升服務器壽命:穩(wěn)定的溫度環(huán)境有助于延長服務器的使用壽命,降低維護成本。
3. AI虛擬化與資源管理
戴爾的解決方案結(jié)合了VMware的GPU虛擬化技術(shù),通過vSphere Bitfusion技術(shù)實現(xiàn)GPU資源的動態(tài)分配和共享。這一技術(shù)允許用戶在多個虛擬機之間靈活分配GPU資源,增加GPU的利用率。
技術(shù)亮點:
GPU資源動態(tài)分配:vSphere Bitfusion技術(shù)可以根據(jù)工作負載的需求,動態(tài)調(diào)整GPU資源的分配,避免GPU資源的閑置。
跨網(wǎng)絡共享GPU:該技術(shù)允許用戶通過網(wǎng)絡共享GPU資源,使得多個用戶或應用可以同時使用同一塊GPU,提高資源利用率。
簡化管理:通過虛擬化技術(shù),用戶可以像管理CPU一樣管理GPU資源,簡化了AI基礎設施的管理復雜性。
4. AI優(yōu)化的硬件平臺
戴爾此次解決方案中采用了PowerEdge服務器,這是戴爾最新的服務器產(chǎn)品線,專為AI和高性能計算(HPC)設計。PowerEdge服務器在硬件設計上進行了多項優(yōu)化,以滿足AI計算的需求。
技術(shù)亮點:
高內(nèi)存容量:PowerEdge服務器配備了大容量內(nèi)存,支持大規(guī)模AI模型的訓練和推理。
高速I/O:服務器提供了高速的輸入/輸出接口,確保數(shù)據(jù)在服務器和存儲設備之間的快速傳輸。
生命周期管理:PowerEdge服務器內(nèi)置了生命周期管理控制器,簡化了服務器的部署和管理流程,減少了安裝和配置的時間。
5. AI軟件生態(tài)整合
戴爾的解決方案不僅包括硬件,還整合了NVIDIA的AI軟件套件,如NVIDIA AI Enterprise和NeMo框架。這些軟件提供了從模型訓練到推理的完整工具鏈,幫助用戶快速構(gòu)建和部署AI應用。
技術(shù)亮點:
AI模型訓練與推理工具:NVIDIA AI Enterprise套件提供了豐富的AI模型訓練和推理工具,支持多種深度學習框架(如TensorFlow、PyTorch等)。
NeMo框架:NeMo框架允許用戶在本地環(huán)境中進行大語言模型(LLM)的訓練和微調(diào),降低了對云端計算資源的依賴。
預驗證模型庫:戴爾的解決方案集成了多個預驗證的AI模型,用戶可以直接使用這些模型進行推理,降低了開發(fā)門檻。
6. 開放生態(tài)系統(tǒng)與合作伙伴關(guān)系
戴爾在AI基礎設施領(lǐng)域構(gòu)建了一個開放的生態(tài)系統(tǒng),與NVIDIA、VMware、AMD等合作伙伴緊密合作,提供兼容性強、擴展性高的解決方案。這種開放性使得用戶可以根據(jù)自己的需求選擇不同的硬件和軟件組合,避免了技術(shù)鎖定的風險。
技術(shù)亮點:
多硬件兼容:戴爾的解決方案支持多種GPU和CPU的組合,用戶可以根據(jù)具體需求選擇不同的硬件平臺。
多云支持:戴爾的解決方案支持多云部署,用戶可以在公有云、私有云和混合云之間靈活切換。
開源框架集成:戴爾的解決方案與主流開源AI框架(如PyTorch、TensorFlow)深度集成,支持用戶在本地和云端進行AI開發(fā)。
7. 端到端AI解決方案
戴爾的解決方案覆蓋了從設備到數(shù)據(jù)中心的全棧AI基礎設施,提供了一個端到端的AI解決方案。這種解決方案不僅包括硬件和軟件,還包括AI咨詢服務和部署支持,幫助用戶從零開始構(gòu)建AI應用。
技術(shù)亮點:
一站式服務:戴爾提供從硬件采購、軟件部署到AI模型訓練和推理的全流程服務,簡化了用戶的AI開發(fā)流程。
AI咨詢服務:戴爾的AI專家團隊可以為用戶提供AI戰(zhàn)略咨詢和最佳實踐建議,幫助用戶增加AI投資的回報。
快速部署:戴爾的解決方案支持快速部署,用戶可以在短時間內(nèi)完成AI基礎設施的搭建和配置。
戴爾此次向CoreWeave交付的NVIDIA GB300 NVL72機架規(guī)模解決方案,展示了其在AI基礎設施領(lǐng)域的行業(yè)前沿技術(shù),通過結(jié)合NVIDIA Blackwell架構(gòu)的GPU、液冷服務器、AI虛擬化技術(shù)、AI優(yōu)化的硬件平臺、AI軟件生態(tài)整合、開放生態(tài)系統(tǒng)和端到端AI解決方案,戴爾為用戶提供了高性能、高能效、易管理的AI計算平臺。這些技術(shù)不僅提升了AI計算的效率和靈活性,也為用戶在AI創(chuàng)新和應用開發(fā)方面提供了強有力的支持。
NVIDIA GB300 NVL72技術(shù)參數(shù)
NVIDIA GB300 NVL72 是一個機架級解決方案,專為數(shù)據(jù)中心和高性能計算應用設計。它結(jié)合了先進的計算能力和優(yōu)化的電源管理,為大規(guī)模AI和HPC應用提供支持。
技術(shù)參數(shù)
GPU:
數(shù)量:144個 Blackwell Ultra GPU (B300)
每個 GPU 顯存:288GB HBM3E
每個 GPU 功耗(TDP):1400W
每個 GPU FP4 性能:208.333 TFLOPS
CPU:
數(shù)量:72個 Grace CPU
每個 CPU 核心數(shù):72個 Arm Neoverse V2 核心
內(nèi)存:
GPU顯存(HBM3E):20TB
系統(tǒng)內(nèi)存(DDR5):40TB
互連帶寬:
CX8 互連帶寬:14.4TB/s
特點
高性能計算:專為數(shù)據(jù)中心和高性能計算應用設計,支持復雜的多步驟請求處理。
集成設計:集成了 Blackwell Ultra GPU 和 Grace CPU,形成一個統(tǒng)一的計算平臺。
高帶寬內(nèi)存和互連:提供快速的數(shù)據(jù)訪問和處理能力,支持大規(guī)模數(shù)據(jù)操作。
優(yōu)化的電源管理:采用動態(tài)電源管理系統(tǒng)(DrMOS),機柜總成本降低約35-40%。
推理能力:整體 FP4 性能達到15PFLOPS,顯著提升了AI推理和模型處理效率。
戴爾與CoreWeave的合作:戰(zhàn)略意義與市場影響
戴爾的戰(zhàn)略布局
戴爾作為優(yōu)質(zhì)的IT基礎設施和解決方案提供商,近年來積極布局AI市場,與NVIDIA保持了緊密的合作關(guān)系。此次向CoreWeave交付GB300 NVL72機架規(guī)模解決方案,標志著戴爾在AI基礎設施領(lǐng)域的進一步深耕。
戴爾的戰(zhàn)略布局主要體現(xiàn)在以下幾個方面:
完善產(chǎn)品線:通過引入GB300 NVL72,戴爾完善了其AI服務器產(chǎn)品線,能夠為客戶提供從邊緣到核心的數(shù)據(jù)中心級AI解決方案。
強化生態(tài)系統(tǒng):戴爾通過與NVIDIA的深度合作,強化了其在AI生態(tài)系統(tǒng)的地位,為客戶提供端到端的AI解決方案。
搶占市場先機:作為最早交付GB300 NVL72解決方案的廠商之一,戴爾搶占了市場先機,有望在AI基礎設施市場獲得更大的發(fā)展。
CoreWeave的市場定位
CoreWeave是一家專注于AI基礎設施的初創(chuàng)公司,致力于為AI研究和應用提供高性能、高效率的計算平臺。CoreWeave選擇與戴爾合作,采購GB300 NVL72機架規(guī)模解決方案,反映了其對戴爾技術(shù)實力和市場地位的認可。
CoreWeave的市場定位主要體現(xiàn)在以下幾個方面:
專注于AI基礎設施:CoreWeave專注于AI基礎設施的建設和運營,為AI研究和應用提供支持。
與大型云服務提供商差異化競爭:相比AWS、Azure等大型云服務提供商,CoreWeave更加靈活,能夠為客戶提供定制化的AI基礎設施解決方案。
技術(shù)創(chuàng)新:CoreWeave注重技術(shù)創(chuàng)新,通過采用最新的AI硬件和軟件技術(shù),為客戶提供更高效的AI計算服務。
雙方合作的市場影響
戴爾與CoreWeave的合作,對AI基礎設施市場產(chǎn)生了深遠的影響:
加速GB300 NVL72的商業(yè)化應用:通過戴爾的渠道和CoreWeave的市場需求,GB300 NVL72將更快地進入商業(yè)化應用階段,推動AI技術(shù)的發(fā)展。
促進AI基礎設施的普及:雙方的合作,降低了AI基礎設施的使用門檻,促進了AI技術(shù)的普及和應用。
推動行業(yè)標準的形成:通過合作,雙方推動了AI基礎設施行業(yè)標準的形成,為行業(yè)的健康發(fā)展奠定了基礎。
各廠商的最新動態(tài)分析
NVIDIA:持續(xù)創(chuàng)新,鞏固市場地位
NVIDIA作為GPU計算領(lǐng)域的頭部品牌,持續(xù)推出性能更強、效率更高的產(chǎn)品,以鞏固其市場地位。GB300 NVL72的推出,是NVIDIA在AI計算領(lǐng)域的又一重要里程碑。
NVIDIA的最新動態(tài)主要體現(xiàn)在以下幾個方面:
產(chǎn)品創(chuàng)新:NVIDIA不斷推出新產(chǎn)品,如GB300 NVL72,以滿足市場對高性能AI計算的需求。
生態(tài)系統(tǒng)建設:NVIDIA通過與戴爾、CoreWeave等合作伙伴的合作,構(gòu)建了完善的AI生態(tài)系統(tǒng),為客戶提供端到端的解決方案。
市場拓展:NVIDIA積極拓展全球市場,特別是在中國、日本等亞洲市場,獲取更多發(fā)展機會。
戴爾:完善產(chǎn)品線,強化生態(tài)系統(tǒng)
戴爾作為高質(zhì)量的IT基礎設施和解決方案提供商,近年來積極布局AI市場,與NVIDIA保持了緊密的合作關(guān)系。此次向CoreWeave交付GB300 NVL72機架規(guī)模解決方案,標志著戴爾在AI基礎設施領(lǐng)域的進一步深耕。
戴爾的最新動態(tài)主要體現(xiàn)在以下幾個方面:
產(chǎn)品線完善:通過引入GB300 NVL72,戴爾完善了其AI服務器產(chǎn)品線,能夠為客戶提供從邊緣到核心的數(shù)據(jù)中心級AI解決方案。
生態(tài)系統(tǒng)強化:戴爾通過與NVIDIA的深度合作,強化了其在AI生態(tài)系統(tǒng)的地位,為客戶提供端到端的AI解決方案。
市場先機搶占:作為最早交付GB300 NVL72解決方案的廠商之一,戴爾搶占了市場先機,有望在AI基礎設施市場獲得更大的發(fā)展前景。
CoreWeave:技術(shù)創(chuàng)新,差異化競爭
CoreWeave是一家專注于AI基礎設施的初創(chuàng)公司,致力于為AI研究和應用提供高性能、高效率的計算平臺。CoreWeave選擇與戴爾合作,采購GB300 NVL72機架規(guī)模解決方案,反映了其對戴爾技術(shù)實力和市場地位的認可。
CoreWeave的最新動態(tài)主要體現(xiàn)在以下幾個方面:
技術(shù)創(chuàng)新:CoreWeave注重技術(shù)創(chuàng)新,通過采用最新的AI硬件和軟件技術(shù),為客戶提供更高效的AI計算服務。
差異化競爭:相比AWS、Azure等大型云服務提供商,CoreWeave更加靈活,能夠為客戶提供定制化的AI基礎設施解決方案。
市場拓展:CoreWeave積極拓展市場,特別是在AI研究和應用領(lǐng)域。
未來展望:AI基礎設施市場的趨勢與挑戰(zhàn)
市場趨勢
高性能計算需求持續(xù)增長:隨著AI技術(shù)的不斷發(fā)展,高性能計算需求將持續(xù)增長,推動AI基礎設施市場的擴張。能效比成為關(guān)鍵競爭因素:在能源成本不斷上升的背景下,能效比將成為AI基礎設施市場的重要競爭因素。多云戰(zhàn)略成為主流:企業(yè)將采用多云戰(zhàn)略,以降低對單一云服務提供商的依賴,提高數(shù)據(jù)安全性和靈活性。
挑戰(zhàn)與機遇
技術(shù)挑戰(zhàn):AI技術(shù)的快速發(fā)展,對AI基礎設施提出了更高的要求,如更高的計算性能、更低的功耗等。
市場挑戰(zhàn):市場競爭日益激烈,企業(yè)需要不斷創(chuàng)新,以保持競爭優(yōu)勢。
機遇:隨著AI技術(shù)的普及,AI基礎設施市場將迎來更大的發(fā)展機遇,企業(yè)可以通過技術(shù)創(chuàng)新和市場拓展增加機遇。
戴爾向CoreWeave交付NVIDIA GB300 NVL72機架規(guī)模解決方案,標志著英偉達最新GPU開始正式商用落地。這一事件不僅反映了NVIDIA在AI計算領(lǐng)域的行業(yè)地位,也展示了戴爾和CoreWeave在AI基礎設施市場的戰(zhàn)略布局。未來,隨著AI技術(shù)的不斷發(fā)展和市場需求的持續(xù)增長,AI基礎設施市場將迎來更大的發(fā)展機遇,企業(yè)需要不斷創(chuàng)新,以保持競爭優(yōu)勢。
相關(guān)產(chǎn)品
免責聲明
- 凡本網(wǎng)注明“來源:化工儀器網(wǎng)”的所有作品,均為浙江興旺寶明通網(wǎng)絡有限公司-化工儀器網(wǎng)合法擁有版權(quán)或有權(quán)使用的作品,未經(jīng)本網(wǎng)授權(quán)不得轉(zhuǎn)載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的,應在授權(quán)范圍內(nèi)使用,并注明“來源:化工儀器網(wǎng)”。違反上述聲明者,本網(wǎng)將追究其相關(guān)法律責任。
- 本網(wǎng)轉(zhuǎn)載并注明自其他來源(非化工儀器網(wǎng))的作品,目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點和對其真實性負責,不承擔此類作品侵權(quán)行為的直接責任及連帶責任。其他媒體、網(wǎng)站或個人從本網(wǎng)轉(zhuǎn)載時,必須保留本網(wǎng)注明的作品第一來源,并自負版權(quán)等法律責任。
- 如涉及作品內(nèi)容、版權(quán)等問題,請在作品發(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系,否則視為放棄相關(guān)權(quán)利。