雙 RTX PRO 6000 工作站案例｜CPU 水冷與多 GPU 配置

AI 工作站的配置，需要同時考慮 GPU、系統記憶體、CPU、散熱與供電，才能配合實際使用的模型及軟體。這台捷大組裝的雙 RTX PRO 6000 工作站，以 Threadripper PRO 平台、512GB ECC DDR5 記憶體與 CPU 水冷配置，呈現專業工作站的實際組裝紀錄。

本案照片顯示 CPU 使用水冷冷頭與管路，兩張 GPU 則保留各自的風冷散熱配置。CPU 與 GPU 的冷卻方式需要分別說明，才能正確理解整機散熱設計。

整機照片可見 CPU 水冷管路、散熱器與雙 GPU 的安裝配置。

本案配置重點

• CPU：AMD Ryzen Threadripper PRO 9965WX，24 核心、48 執行緒。
• 平台：sTR5／WRX90 工作站平台。
• 系統記憶體：512GB ECC DDR5 R-DIMM。
• GPU：雙 NVIDIA RTX PRO 6000 配置。
• 儲存：2TB SSD × 2。
• 散熱：CPU 水冷冷頭、管路及散熱器；GPU 保留風冷散熱配置。
• 電源：FSP 2500W 電源。

以上為本案配置紀錄，非固定價格或即時庫存方案。不同專案應依實際軟體、模型及預算確認完整零件清單。

為什麼這台工作站採用 CPU 水冷？

專業工作站長時間執行運算時，CPU 散熱也需要納入整機規劃。本案將 CPU 的熱量透過冷頭與管路帶到散熱器，配合風扇排出；照片記錄冷頭安裝、記憶體排列，以及機內管路與散熱器的位置。

水冷配置仍需檢查冷頭固定、管路走向、接頭、循環與滲漏狀況，並以負載測試觀察溫度及運轉表現。是否適合採用水冷，也要考慮安裝空間與後續維護安排。

CPU 水冷冷頭與管路特寫，兩側可見記憶體模組。

雙 GPU 與大容量記憶體，各自負責什麼？

GPU：先核對版本，再看軟體如何使用多卡

規劃 NVIDIA 專業 GPU 時，需要確認完整產品名稱、單卡顯存與散熱版本，不能只看「6000」字樣。不同世代與版本的規格可能不同，GPU 型號、顯存容量與軟體支援應一起核對。

雙 GPU 可以分配獨立工作，也可以讓支援多卡的軟體共同執行任務。實際效能取決於應用程式、運算方式與資料傳輸；增加 GPU 不會改變 FP32 的數值精度，也不能直接保證效能翻倍。

多張卡的顯存不會自動合成單一 GPU 的顯存。若要讓同一模型使用多卡，需確認模型切分、框架與執行設定，並以實際顯存用量驗證可行性。

512GB 系統記憶體：配合資料處理與應用程式需求

大容量系統記憶體可供資料整理、應用程式與運算流程使用，但系統 RAM 與 GPU 顯存是不同資源，不能直接互相替代。ECC 記憶體有助處理特定記憶體錯誤，整機運轉穩定性仍需結合硬體、軟體與負載測試確認。

GPU 保留風冷散熱，特寫可見風扇、散熱外殼與供電接頭。

本地 AI、渲染與模擬，如何評估適合的配置？

• 本地 AI 推論與知識庫：提供模型名稱、精度或量化方式、輸入長度與同時使用人數，評估 GPU 顯存及回應速度。
• 模型微調與研發：釐清完整訓練或參數高效微調方式、資料量及批次大小，再確認多卡與記憶體需求。
• 渲染、影像與模擬：確認軟體版本、GPU 支援方式與專案資料，判斷 CPU、GPU 及系統記憶體的配置比例。

本地部署可讓運算環境與資料管理由企業自行規劃，仍需配合帳號權限、網路、備份及應用程式資料流。能執行多大的模型，需依實際模型、精度與運算方式驗證。

導入與驗收前，應確認哪些項目？

1. 軟體環境：確認作業系統、GPU 驅動、CUDA 與應用框架的相容性。
2. 供電與安裝：核對電源輸入規格、迴路、插座、UPS 與安裝位置；電源額定瓦數不等於整機實際耗電。
3. 散熱與穩定性：觀察 CPU、GPU 溫度、時脈、風扇與水冷循環，依實際用途安排負載測試。
4. 工作負載驗證：記錄模型或專案、軟體版本、測試條件、顯存與記憶體用量、完成時間及錯誤紀錄。
5. 維護與備份：安排水冷系統檢查、環境清潔與重要資料備份。

讓配置對應您的工作需求

提供模型或軟體名稱、工作用途、資料量、預算與安裝環境，讓捷大先了解需求，再討論適合的 CPU、GPU、記憶體及散熱方式。

LINE 諮詢專業工作站配置 →

查看捷大工作站與主機作品集 →　查看 4U 雙 RTX PRO 6000 本地 AI 工作站案例 →

產品規格參考

AMD Ryzen Threadripper PRO 9965WX 官方規格。個別產品規格與整機實際運算表現應分別判讀。