I/ONX推出可擴展的AI推論和微調堆疊，消除了傳統設計的基礎設施開銷，每個機架可節省高達30kW的功耗，並將機架級部署成本降低高達70%

拉斯維加斯--(美國商業資訊)--首屈一指的異質AI系統供應商I/ONX High Performance Compute（HPC）今天宣布在全球發布Symphony SixtyFour，這一高密度平台旨在大幅降低AI推論和微調基礎設施的實體和經濟佔用。I/ONX在單一節點上支援多達64個加速器，從而消除了冗餘的主機負擔，這些在電力、硬體和授權方面造成的巨大開銷往往會對企業AI的投資報酬率產生負面影響。

本新聞稿包含多媒體資訊。完整新聞稿請見此： https://www.businesswire.com/news/home/20260422451763/zh-HK/

儘管推論目前佔企業AI工作負載的90%，但企業在部署推論時仍完全受限於訓練硬體平台。Symphony SixtyFour為推論和微調工作負載帶來了顯著優勢，可大幅降低資本支出（CapEx）和營運費用（OpEx）。在訓練比較中，I/ONX系統能夠節省多節點叢集中通常浪費在冗餘CPU、記憶體和支援硬體上的30kW主機功耗，並簡化後續的維護工作。在其他加速器上進行生產級推論時，該平台的革新性更為顯著，其功耗僅為傳統64節點叢集的四分之一，完全消除了僅用於推論的液冷需求。

「企業AI基礎設施正在進入一個全新的成熟階段。」I/ONX執行長Justyn Hornor表示，「過去以訓練為中心的架構設計在實驗階段確實有效，但卻無法適應我們如今所處的電力資源緊張的生產密集型時代。透過Symphony SixtyFour，我們重塑了架構，使其更加靈活且更符合實際需求，幫助企業掌握大規模推論，並最終消除阻礙投資報酬率的不必要基礎設施浪費。」

Symphony SixtyFour的優勢： 專為特定用途而生的矽晶片。該平台旨在為企業AI實現每瓦特與每美元的效益最大化。

  • 消除訓練主機成本：針對大規模推論與微調任務，Symphony SixtyFour將基礎設施架構從八個節點精簡至一個。該項整合可節省高達30kW的額外支援電力，從而在現有功耗範圍內實現更高的運算密度。
  • 零跳、近乎確定性表現：Symphony SixtyFour將64個加速器整合到單一作業系統實例中，從而消除了東西向網路延遲。
  • 異質靈活性：Symphony SixtyFour完全不依賴特定供應商，專為混合模式運作而建置。企業可以無縫地將高階GPU（包括AMD/NVIDIA）與專用低功耗輔助處理器結合，並疊加專用推論矽晶片（Axelera/FuriosaAI/Tenstorrent），從而確保基礎設施能夠因應不斷變化的市場動態。
  • 透過簡化主機成本降低營運費用：除了硬體和電力之外，Symphony SixtyFour還能大幅減輕營運負擔。I/ONX透過單一管理環境整合64台裝置的機群，降低了軟體成本，每年可為企業節省高達50萬美元每個叢集的企業作業系統和編排授權費用。

I/ONX加速了企業向專為大規模推論與微調而設計的系統的轉型。Symphony SixtyFour現已上市，可協助企業奪回關鍵電力資源並降低成本。I/ONX致力於提供高密度基礎設施，以最大限度地釋放生產級AI的經濟和營運潛力。

關於I/ONX

I/ONX High Performance Compute（HPC）是異質AI基礎設施的先驅，透過消除傳統架構的主機成本，重新定義了AI生命週期。I/ONX旗艦產品Symphony SixtyFour將多達64個加速器整合到單一節點中，將機架級總擁有成本（TCO）降低至少50%。透過大幅降低功耗並最大限度地提高硬體利用率，I/ONX使企業能夠以前所未有的效率和更快的投資報酬率實現生產級AI。

免責聲明：本公告之原文版本乃官方授權版本。譯文僅供方便瞭解之用，煩請參照原文，原文版本乃唯一具法律效力之版本。