● Red Hat 與 AMD 強強聯手，在 AMD Instinct™ GPU 上以 vLLM 為 AI 推論效能樹立新標竿
● 在 AMD EPYC™ CPU 上執行 Red Hat OpenShift Virtualization，助企業輕鬆實現既有系統現代化，迎向未來創新
世界領先開放原始碼軟體解決方案供應商 Red Hat 與 AMD 近日宣布建立策略性合作，推動 AI 功能並優化虛擬化基礎架構。藉由此次深化合作，Red Hat 與 AMD 將為客戶拓展跨混合雲的選擇，無論是部署經優化且高效的 AI 模型，或是以更具成本效益的方式現代化傳統虛擬機（VM）。
隨著 AI 的導入，企業對於工作負載的需求與多樣性與日俱增，亟需充足的運算能力與資源以應對持續攀升的需求。然而，一般資料中心主要用於傳統 IT 系統，難以額外支援如 AI 這類密集型工作負載。對此，Red Hat 與 AMD 結合 Red Hat 引領業界的開源解決方案，以及 AMD 全方位的高效能運算架構產品組合。
Red Hat 資深副總裁暨產品負責人 Ashesh Badani 表示：「充分發揮 AI 的優勢意味著企業必須掌握選擇的彈性與靈活度，以優化其 IT 覆蓋範圍來因應擴展需求的嚴苛挑戰。Red Hat 與 AMD 擴大合作，為積極打造前瞻性 IT 環境的企業進一步拓展多元選擇，無論是在高效能 CPU 架構和虛擬化平台上現代化既有投資，抑或是透過下一代硬體加速器和開源 AI 技術為生產 AI 做好準備。」
AMD 執行副總裁暨商務長 Philip Guido 說明：「面對企業客戶的工作負載日益多元化且日趨嚴苛，他們迫切需要可靈活擴展的解決方案。透過整合 Red Hat 領先業界的開源平台與世界級的 AMD Instinct GPU 及 AMD EPYC CPU，我們提供客戶所需的效能和效率，全力加速 AI、虛擬化和混合雲創新。」
AMD 與 Red Hat：推動更高效的生成式 AI
Red Hat 與 AMD 正結合 Red Hat AI 的強大功能與 AMD 的 x86 處理器及 GPU 架構產品組合，為 AI 工作負載打造兼具優化、高成本效益且生產就緒的部署環境。
Red Hat OpenShift AI 現已完整支援 AMD Instinct GPU，客戶無需投入大量資源，即可以卓越的高效能處理能力在跨混合雲中部署 AI。此外，Red Hat 與 AMD 透過在 Microsoft Azure ND MI300X v5 上使用 AMD InstinctTM MI300X GPU 並搭配 Red Hat Enterprise Linux AI 進行測試，已成功展示 AI 推論能力，用於擴展部署於單一虛擬機（VM）上多個 GPU 的小型語言模型（SLM）及大型語言模型（LLM），大幅減少跨多種 VM 部署的需求，有效降低效能成本。
為進一步提升效能加速與調整能力，Red Hat 與 AMD 積極參與上游 vLLM 社群合作，共同推進更高效的 AI 推論。透過此上游協作，雙方旨在實現：
● 提升在 AMD GPU 上運作的效能：透過將 AMD 核心函式庫上游化，並優化 Triton 核心與 FP8 等多種元件，Red Hat 與 AMD 正在提升密集模型和量化模型的推論效能，賦能 vLLM 能在 AMD Instinct MI300X 加速器上更快速、更有效率地執行。
● 強化多 GPU 支援：強化集體通訊並優化多個 GPU 工作負載，有助於實現更具可擴展性且更節能的 AI 部署，特別適用於需於多個 GPU 上進行分散式運算的工作負載，有效減少運算瓶頸並提升整體傳輸量。
● 擴張 vLLM 生態系參與：Red Hat、AMD 與 IBM 等其他產業先驅之間的跨界協作有助於加速上游開發，持續推進 vLLM 專案和 AMD GPU 的優化，進一步造福仰賴 AMD 硬體進行 AI 推論和訓練的 vLLM 使用者。
奠基於 vLLM 社群的合作基礎，AMD Instinct GPU 將支援 Red Hat AI Inference Server（Red Hat 的企業級 vLLM 發行版），提供開箱即用、強大可靠且可擴展的 AI 推論伺服器。身為 vLLM 的頂尖商業貢獻者，Red Hat 致力於確保供企業選擇的硬體（包括 AMD Instinct GPU）上部署 vLLM 時的相容性。在 AMD Instinct GPU 上執行 vLLM，企業得以在經驗證和測試的 GPU 硬體上部署任何開源 AI 模型，獲得卓越的優化與效能。
AMD EPYC™ CPU 不僅能實現端對端的 AI 效能，更是託管 GPU 加速系統的理想選擇。上述優勢有助於提升每個 GPU 伺服器的效能與投資報酬率（ROI），即使在面對要求最嚴苛的 AI 工作負載亦能從容應對。
引領現代化資料中心轉型
透過優化既有資料中心的覆蓋範圍，企業能更有效且輕鬆地將資源重新投入，實現 AI 創新。Red Hat OpenShift Virtualization 做為 Red Hat OpenShift 的核心功能之一，提供企業簡化的途徑，得以憑藉雲端原生應用程式平台的簡易性與速度，輕鬆移轉及管理虛擬機（VM）的工作負載。Red Hat OpenShift Virtualization 已通過 AMD EPYC 處理器驗證，可於跨混合雲的任何環境中運用 AMD EPYC 處理器的優異效能與能源效率，亦能銜接雲端原生的未來，順暢轉型。
在 AMD EPYC CPU 上執行 Red Hat OpenShift Virtualization，有助於企業在頂尖伺服器平台上優化應用程式部署，如 Dell PowerEdge、HPE ProLiant 和 Lenovo ThinkSystem 等。在更新傳統資料中心時，Red Hat OpenShift Virtualization 可在地端、公有雲或整個混合雲中統一虛擬機與容器化應用程式。這有助於實現基礎架構高整合率，進而大幅降低硬體、軟體授權和能源的總體擁有成本（TCO）。此外，IT 團隊還能夠更有效地管理既有的關鍵工作負載，同時釋放資源與精力，投入於現在及未來的 AI 工作負載。
Red Hat、Red Hat Enterprise Linux、Red Hat logo 及 OpenShift 為 Red Hat 或其子公司在全球之商標或註冊商標。Linux® 為 Linus Torvalds 在全球的註冊商標。
AMD、AMD logo、EPYC、AMD Instinct 及其組合均為 Advanced Micro Devices, Inc. 的商標。
- 本文為作者投稿，僅代表作者個人之觀點與意見，與本平台立場無關。涉及之著作權、言論及法律相關責任，均由作者自行承擔。
- 我已確實了解，台灣新聞聯播網擁有審核及決定是否刊登的權利。如新聞稿有違反法規或被檢舉的疑慮，台灣新聞聯播網有權將其下架刪除，且不另行通知及解釋。
