HPE 打造模組「AI工廠」 助力規模化轉型

HPE 台灣暨香港董事長 王嘉昇 提及,當前多數企業在導入 AI 應用時面臨以下關鍵挑戰:

  • 傳統架構孤島: 既有 IT 架構資料分散,難以統一調度。
  • 資料與隱私議題: 涉及資料主權、隱私保護與合規要求。
  • 成本與人才缺口: 導入成本高昂,且缺乏足夠的 AI 專業人才。
  • 基礎設施瓶頸: 現有運算資源與基礎設施無法滿足高效的 AI 運算需求。

為此,HPE 提出明確的戰略:專注於整合 AI、混合雲與網路三大領域,並藉由平台化與自動化運維能力,協助企業建立一套可持續擴張的 AI 基礎建設


「Private Cloud AI」核心戰略:HPE 三大 AI 工廠架構

HPE 以 「Private Cloud AI」 為核心,針對不同規模、資源結構與資料主權需求,打造出三種目標明確的 AI 工廠(AI Factory) 架構:

AI 工廠類型目標客戶與規模核心優勢與定位
1. Turnkey AI Factory中型企業 快速部署、即時推論效能,最低導入門檻實現 AI 應用。
2. AI Factory at Scale大規模模型開發支援數百至上萬顆 GPU 的高密度配置,適用於大規模模型訓練。
3. Sovereign AI Factory政府與公共部門針對資料主權與合規要求,提供獨立算力與資料掌控能力


統包式 AI 平台:解決台灣企業結構性瓶頸

王嘉昇分析,台灣企業導入 AI 的最大瓶頸並非技術不可得,而是市場結構與資源分佈的落差:「市場價值高度集中於少數龍頭企業,多數中小企業研發能量與 IT 成熟度不足,使得 AI 導入步調受到現實資源的限制。」

為了克服運算資源、專業人力與系統整合經驗的不足,HPE 提供了統包式的 AI 工廠平台

  • 預先整合: 將 AI 開發所需的硬體資源與軟體元件預先整合。
  • 單一技術堆疊:
    • 底層: AI 原生混合基礎建設結合 GPU 即服務 (GPU-as-a-Service)
    • 向上串接: 大型語言模型即服務 (LLM-as-a-Service)檢索增強生成即服務 (RAG-as-a-Service)
    • 應用層: AI 代理應用層。
  • 流程簡化: 透過單一堆疊,完成從模型訓練、推論到應用部署的端到端流程。


代理型 AI:驅動企業營運的核心動力

王嘉昇強調,這套 AI 工廠模型結合了 代理型 AI(Agentic AI)的概念,預示著未來的企業營運模式:

「未來企業營運不再僅依賴單一模型或工具,而是藉由一組具備自動化判斷與執行能力的 AI 代理人 (Agent) 來驅動業務。」

  • 應用實例:
    • 製造業: 部署專家型代理人協助產線優化。
    • 金融業: 透過理賠代理人強化異常交易偵測與審查效率。
  • 平台優勢: 這些代理人運作於統一的 AI 工廠平台之上,具備可重複、可擴張的部署能力,有助企業快速從概念驗證(PoC)走向規模化營運,讓生成式 AI 真正成為企業營運的核心驅動力。



王嘉昇總結: 透過 AI 工廠與私有雲的結合,企業不僅能掌握資料主權與運算資源,更能以標準化的技術堆疊降低導入複雜度,實現 AI 規模化應用。

報導來源:網管人

更多案例