戴爾科技集團(NYSE:DELL)擴展全球最廣泛之生成式 AI(GenAI)解決方案產品組合,推出專為 AMD 環境量身打造的Dell AI Factory新增功能。 這些解決方案為企業提供更強大的 AI 功能,包括更高的可擴展性和靈活性,幫助企業在不斷發展的技術環境中保持競爭力。
「藉由Dell AI Factory將AMD技術整合到最新的戴爾伺服器、AI解決方案和服務中,我們正在為企業提供當前及未來所需的效能與效率,」戴爾科技集團基礎架構解決方案事業群總裁 Arthur Lewis 表示:「與AMD一起,我們正在為AI效能樹立新標準,為企業提供現代數據驅動環境中不可或缺之強大並具成本效益的解決方案。」
「我們最新的 AMD EPYC 處理器與 Instinct 加速器,可以大規模的為戴爾客戶提供先進的端對端解決方案,加快AI部署與運轉業務關鍵的 IT 基礎架構。」AMD 執行副總裁暨資料中心解決方案事業群總經理 Forrest Norrod 表示: 「我們與戴爾長期合作,持續推出尖端解決方案,以協助提升營運效率、縮短價值實現的時間,在高度競爭的產業中促進創新。」
新款 Dell PowerEdge 伺服器可推動大規模處理嚴苛的 AI 工作負載
新增的Dell PowerEdge 產品組合可推動處理廣泛的AI 應用場景與傳統工作負載,以及簡化伺服器管理和安全性。這些平台提供客製化且高效的解決方案,能簡化管理工作並支援處理現代企業的高效能工作負載:
- Dell PowerEdge XE7745專為企業AI工作負載設計 ,搭載 AMD 第五代 EPYC 處理器,採用4U 氣冷式機箱而最多可支援 8 個雙寬或 16 個單寬 PCIe GPU。專為 AI 推論、模型微調與高效能運算打造,內部 GPU 插槽搭配用於網路連接的額外8 個 Gen 5.0 PCIe 插槽,形成高密度、靈活的配置,使DW PCIe GPU 容量增加 2 倍。1
- PowerEdge R6725 與 R7725 伺服器搭載高效能 AMD 第五代 EPYC 處理器,而具備最佳可擴展性。全新的 DC-MHS 機箱設計可強化氣冷效果與雙模組500W CPU,克服電源與效率方面嚴峻的散熱挑戰。2這些平台透過為優化可擴展性的配置,可維持嚴謹的數據分析與AI 工作負載,並為虛擬化、資料庫與 AI 等工作負載提供創紀錄的效能。3 R7725 在堆疊頂端提供 高達66%的效能提升,及高達33%的效率提高。4
這三種平台皆可支援多達 50% 更多的核心,單核心效能提升高達 37%,而創造出更高效能、效率及更佳的總體擁有成本(TCO)。5這些增益可將多達七台使用五年的伺服器整合成當今的一台伺服器,使CPU 的功耗降低達 65%。6
- PowerEdge R6715 和 R7715 伺服器搭載 AMD 第五代 EPYC 處理器,具有更高的效能、效率表現,硬碟容量增加了 37%,具備更高的儲存密度。7 這兩款單插槽伺服器提供多種配置選項,將記憶體增加一倍,配備24 個 DIMM(2DPC),滿足各種工作負載需求,以及在體積小巧的 1U 和 2U 機箱中發揮最大效能。8 R6715 在處理 AI 和虛擬化任務方面的效能創下世界紀錄。9
針對大規模部署 AI 的客戶,戴爾將持續支援 Dell PowerEdge XE 伺服器中所有最新的 AMD Instinct 加速器。
IT 團隊可透過更新的Integrated Dell Remote Access Controller(iDRAC),從遠端監控、管理和更新 Dell PowerEdge 伺服器。 iDRAC 使用更高速的處理器、更強大的記憶體和專用安全輔助處理器,簡化伺服器管理與安全性,使 IT 團隊能以更高的可靠性和效率作出回應。
「OSF Healthcare 採用戴爾和 AMD 提供的系統,為臨床醫師和患者提供更好的服務、降低整體成本,以及幫助有需要的社區。當患者需要仰賴我們的平台才能維持生命時,我們的系統必須保持一整年穩定運作。」OSF Healthcare技術服務總監 Joe Morrow 表示:「正因為有了這些系統,我們大幅減少了 Epic 的停機時間,讓 OSF Healthcare 能提供優質的醫療服務,同時確保運作的安全性和可擴展性。」
Dell AI Factory 的強化功能簡化並加速 GenAI 部署
Dell AI Factory 旨在支援多元的 AI 需求,透過全球最廣泛的 AI 解決方案產品組合,涵蓋桌上型電腦至資料中心再到雲端,使組織可依需求調整期 AI 投資規模:
- 與 AMD 合作的 Dell 生成式 AI 解決方案,使用搭載 AMD Instinct™ MI300X 加速器的 Dell PowerEdge XE9680 伺服器,提供 AI 推論、檢索增強生成(RAG)與客製化功能。這一整合簡化了 AI 部署、提升安全性、支援可擴展與模組化架構,且將價值實驗時間縮短最多 86%,幫助組織優化其AI 投資。10
- Dell Enterprise Hub在 Hugging Face上現在支援搭載 AMD Instinct MI300X 加速器的 Dell PowerEdge XE9680,提供自訂容器和腳本,以便能輕鬆安全的部署 Llama 和 Mixtral 等模型。這些容器化模型經過特殊優化,以根據模型和伺服器提高推理效能,並利用 Hugging Face 文本生成推理(Text Generation Inference,TGI)後端。
- Dell 適用於生成式 AI 的專業服務正在擴展以支援 AMD 環境。與 AMD 合作適用於 GenAI 平台的全新 Dell Implementation Services 提供了量身打造的作業平台,包括 Kubernetes 配置、部署先進 AI 架構部署,以及將客戶資訊轉為最佳實踐作法,以最大化投資報酬率。從策略開發到數據準備、平台和模型實施及解決方案擴展,戴爾專業人員協助客戶在整個生命週期中實現 AI 相關業務成果。
「戴爾與 AMD 持續推動 AI 創新,提供全面的解決方案與服務,協助企業現代化資料中心、提升可擴展性,並利用 AI 實現更好的業務成果。」IDC 研究副總裁 Kuba Stolarski 表示:「Dell AI Factory 的最新更新為戴爾在提供提高效率和價值的 AI 解決方案旅程中的下一步。」
供貨時間
- Dell PowerEdge XE7745 伺服器將於 2025 年 1 月起在全球上市。
- Dell PowerEdge R6715、R7715、R6725 和 R7725 伺服器將於 2024 年 11 月起在全球上市。
- 搭載AMD的Dell生成式 AI 解決方案將於 2024 年第 4 季起在全球上市。
- Dell Enterprise Hub在 Hugging Face 上的更新,現已開放給全球用戶使用。
- 適用於生成式 AI 平台的 Dell Implementation Services 現已在特定國家開放使用。
版權所有 © 2024 戴爾公司或其子公司。戴爾科技集團與 Dell 是戴爾或其子公司的商標。其他商標可能屬於其各別所有者。
AMD、AMD Arrow 標誌、AMD Instinct、EPYC 及其組合是 Advanced Micro Devices, Inc. 的商標。其他名稱僅供參考,可能為其各自擁有者的商標。
- 本文為作者投稿,僅代表作者個人之觀點與意見,與本平台立場無關。涉及之著作權、言論及法律相關責任,均由作者自行承擔。