HPE 協助企業建構混合雲 AI 平台，解決雲端與地端部署難題。此平台具備雲端化使用體驗、開放式架構及高度延展性，並提供全棧式解決方案和無程式碼平台，滿足不同企業需求，加速 AI 落地，創造商業價值。HPE 更致力於 AIOps，以 AI 管理 AI，簡化維運，並與合作夥伴共建生態系，賦能企業 AI 轉型。
「AI 不停演進，接下來還有實體 AI，那麼我們到底要怎麼幫到客戶？」HPE 技術規劃處副總經理范欽輝在訪談開篇便一針見血地拋出了當前所有企業的集體焦慮。在生成式 AI 的浪潮席捲全球之下，身處第一線的企業決策者們卻面臨著更為骨感的現實：生成式 AI 的基礎都還沒打好，怎麼走到下一步的 AI Agent？資安、幻覺、準確度這些根本問題，都解決了嗎？
范欽輝首先直言，許多企業在 AI 賽道上看似熱鬧，實則步履維艱。「真正的問題是上線速度非常慢。」從一個絕妙的 AI 想法，到它能真正融入日常業務流程、創造可衡量的商業價值，這中間橫亙著一條漫長且充滿障礙的道路。
這篇專訪中，我們將與 HPE 一起深入剖析當前企業在 AI 落地過程中普遍遭遇的「雲端與地端的兩難」，探討一個理想的企業級 AI 平台應具備何種特質，並藉由 HPE 的策略與實踐，揭示如何透過打造一個穩固、開放且可持續演進的基礎設施平台，來鋪平企業通往 AI 未來的最後一哩路。
AI Agent 的挑戰，深度整合企業資訊又需要保密
在探討困境之前，得先理解企業對 AI 的期望已提升到新的層次。當前的焦點，正從單純生成內容的 GenAI，轉向更具自主性的 AI Agent（代理型 AI）。AI Agent 如同一個能獨立思考與行動的數位員工，它不僅能理解一個模糊的任務指令，例如「幫我分析上季的銷售報告並找出潛在的成長原因」，更能自主地規劃步驟、調度所需的內部工具（如 CRM、ERP 系統），最終完成一份完整的分析報告。
這種模式的潛力巨大。它可以讓護理師從繁瑣的病歷報告中解放，或讓航空公司客服在面對客戶抱怨時，能即時調閱所有相關紀錄並提出解決方案。
然而，夢想越豐滿，現實的挑戰就越骨感。AI Agent 需要深度整合企業內部錯綜複雜的系統與即時營運數據，這代表企業的「數位神經系統」必須高度暢通。但隨之而來的，便是更嚴峻的資安拷問：當 AI 的權限越來越大，如何確保公司的核心機敏資料，不會在一次不當的存取中洩漏殆盡？
「雲端」與「地端」全力部屬的經典兩難
公有雲提供了強大的算力與看似隨取隨用的便利性，但范欽輝認為是一把雙面刃。數據殘酷地顯示，平均每十個在雲端進行的 AI 試點專案（PoC），最終只有一個能成功轉移到實際的生產環境。除了前述提到的技術整合複雜性，企業對 AI 準確度近乎偏執的「零容忍」態度，要求 AI 在上線前達到近乎百分之百準確，也讓專案推進舉步維艱。
更現實的考量是深不見底的成本黑洞。對於需要大規模、持續性使用 AI 的企業而言，長期支付的雲端費用，可能是地端自建成本的 5 到 6 倍之多。這筆開銷不只是看得見的 GPU 實例租用費，更包含隱性的數據傳輸費（Egress Fee）與潛在的廠商鎖定（Vendor Lock-in）風險。
另一方面，將資料保留在企業內部的「地端部署」（On-Premises）似乎能完美解決資料主權與成本問題。特別是對於金融、醫療、高科技製造、政府等高度監管或擁有核心機密（客戶個資、病歷、晶片設計圖）的單位，「資料不出境」是不可逾越的紅線。這背後是「資料重力」（Data Gravity）原則——資料本身具有慣性，移動它既昂貴又耗時，因此，讓運算能力靠近資料，遠比把海量資料搬到雲端更有效率。
不過地端部署也不輕鬆，因為這代表企業將瞬間從一個單純的「AI 使用者」，變為一個複雜的「AI 平台建構者」。從硬體採購、機櫃安裝、網路配置，到作業系統、驅動程式（如 NVIDIA CUDA）的相容性，再到整合 Kubernetes、MLflow 等眼花撩亂的開源工具，最後還要建立起一套完整的資安與維運流程。HPE 數位科技服務事業處總經理劉士毅透露，整個過程走完，9 到 12 個月的時間投入是家常便飯，而這僅僅是讓平台「跑起來」而已，距離真正的應用開發與模型微調，還有漫漫長路。
更致命的是人才缺口。企業不僅難以招募到足夠的機器學習工程師、資料工程師，更難以留住，讓他們好好去應對每週都在推陳出新的 AI 開源工具。
理想 AI 平台的藍圖：三大支柱缺一不可
面對雲端與地端的兩難，企業真正需要的，並非在兩者間做出非黑即白的選擇，而是一個能汲取兩者優點、弭平各自缺陷的混合雲 AI 平台。HPE 認為，一個能在未來十年持續創造價值的地端 AI 平台，必須穩穩地建立在三大核心支柱之上。
第一，它必須「雲端化」（Cloud-like）。
這意味著，即便基礎設施部署在企業自家機房，其使用體驗也必須與公有雲無異。開發人員與資料科學家應該能透過自助式服務入口網站，像在雲端一樣輕鬆申請所需的 GPU 算力與儲存資源，而無需經過繁瑣的 IT 審核流程。
平台應提供標準化的 API 接口，讓應用程式在呼叫雲端或地端的 AI 模型時，無需為此開發不同版本的程式碼。這不僅能大幅提升開發效率，更能導入雲端成熟的 FinOps 理念，透過精準的資源使用計量，讓業務單位清楚了解其 AI 專案的真實成本，做出更明智的決策。
第二，它必須「開放」（Open）
AI 的世界日新月異，封閉的技術體系無異於自掘墳墓。一個理想的平台，必須能擁抱開源生態系，讓資料科學家能自由選用他們在學術界或過往經驗中熟悉的工具，無論是 PyTorch、TensorFlow 這樣的深度學習框架，還是 Hugging Face 上琳瑯滿目的開源模型。然而，開放絕不等於放任自流。企業需要的是一種「有管理的開放」，平台必須在提供自由度的同時，建立起一套強大的治理與規範機制。IT 部門能夠統一管理工具的版本、修補資安漏洞、監控模型表現，確保所有創新都在企業的合規框架內進行，避免因技術選型混亂而催生出新的技術債。
第三，它必須具備「延展性」（Scalability）
AI 應用的運算需求變化極大。一個模型訓練任務，可能在短時間內需要動用數十張 GPU 全力運算，而到了線上推理（Inference）階段，可能只需要零星的算力來回應使用者請求。傳統的伺服器架構很難彈性應對這種劇烈變化，常常導致昂貴的 GPU 資源在大部分時間處於閒置狀態。因此，平台必須採用「可組合式基礎設施」（Composable Infrastructure）的理念，將運算、儲存、網路等資源徹底解耦，再透過軟體定義的方式，根據不同 AI 任務的具體需求，即時、動態地「組合」出恰到好處的硬體環境。
化藍圖為現實：HPE 如何在一小時內啟動企業 AI 引擎
空有理想的藍圖並不足夠，如何將其轉化為觸手可及的解決方案，才是對技術供應商的終極考驗。為此，HPE 提出了兩大核心方案，分別對應企業內不同角色的需求。
對於擁有一定技術實力、追求極致效能與掌控力的大型企業或研究機構，HPE 推出了與 NVIDIA 深度合作的結晶 HPE Private Cloud AI。這不僅僅是將 HPE 的伺服器與 NVIDIA 的 GPU 隨便綁在一起，而是一個從硬體、軟體到管理層面都經過聯合設計、預先驗證的全棧式解決方案。其底層採用了 HPE 的 ProLiant 伺服器與 Cray 高效能網路，確保了資料在 GPU 之間能以最高效率流動，軟體層則深度整合了 NVIDIA AI Enterprise 套件，包含了 Triton 推理伺服器、NeMo 大型語言模型框架等一系列強大工具，最上層則是 HPE 自家的控制平台，負責資源調度、安全管控與營運監控。
這套方案的最大亮點，在於快速的部署效率。劉士毅強調，當這套預先配置好的系統交付到客戶的資料中心後，僅需點擊數個按鈕，大約一小時內就能完成啟動並開始運行第一個 AI 模型訓練任務。這與企業自行摸索九到十二個月的漫長過程，形成了極其鮮明的對比，為企業贏得了最寶貴的「時間」。
而對於更廣大的、希望快速應用 AI 但缺乏專業工程師團隊的企業，HPE 則提供了另一條捷徑，No-Code Platform（無程式碼平台）。這個方案的核心理念是「AI 民主化」，旨在賦予那些最懂業務流程、卻不具備程式背景的「領域專家」親手打造 AI 應用的能力。
可以想像一個具體的情境：一位人力資源經理，想建立一個能初步篩選技術履歷的 AI 助理。他無需編寫任何程式碼，只需登入一個網頁入口，透過拖拉的方式，將一個「讀取履歷」的模組，連接到一個「關鍵詞提取」（例如設定「Python」、「5年以上經驗」）的模組，最後再串接到一個「自動評分」的模組。最後將這個流程儲存起來，一個客製化的 HR AI Agent 便誕生了。
同樣的模式，也能讓保單審核員用來處理手機翻拍的醫療單據，讓 AI 輔助其快速找出文件重點，並依據日常的審核邏輯進行初步判斷，從而將寶貴的人力從重複性的工作中解放出來。
AI 落地有道：從三大高價值場景挖掘商業潛力
有了強大的平台，企業該從何處著手，才能最快看到 AI 帶來的投資回報？劉士毅根據市場觀察，歸納出當前成功率最高、價值最顯著的三大應用方向。
第一，也是最立竿見影的，是企業級 Copilot 或智慧助理
這相當於為每一位員工配置一位全天候待命、精通公司所有內部知識的專屬 AI 助理。它能將企業內部龐雜的SOP、產品規格、法規條文、歷史專案等資料，轉化為一個即時問答系統。例如，一位新進的銀行櫃員，在面對客戶詢問一項冷門的複雜理財產品時，無需再翻閱厚重的手冊或打擾資深的同事，只需直接向 Copilot 提問，就能在幾秒鐘內獲得準確、合規的回答。這不僅能大幅縮短新員工的培訓週期，更能顯著提升整體服務品質與效率。
第二個高價值場景，是智慧文件處理與審核。
金融、保險、法律、製造等行業，每天都需要處理堆積如山的文件。AI 在此可扮演第一道強大的防線。以房屋貸款申請為例，AI 可以自動審核申請人提交的財力證明、信用報告等文件，快速篩選出明顯不符合資格或資料有缺漏的案件，讓專業的審核人員能將全部精力集中在那些合格且需要進一步評估的複雜案件上。這不僅能節省高達七成以上的人力，更能將客戶的等待時間從數週縮短至數天。
第三個快速成長的領域，則是次世代客戶服務。
HPE 預期，AI 將很快成為所有企業第一線客服的標準配備。這不再是過去那種只能回答固定問題、常常讓人惱火的傳統聊天機器人。透過在企業自身的知識庫、成功案例與品牌文化上進行深度訓練，新一代的 AI 客服能真正理解客戶的語氣與意圖，提供即時、準確且帶有同理心的回覆，甚至能主動處理退貨、查詢訂單等交易。在台灣，金融業已大量運用 AI 進行即時的信用卡防詐欺偵測，由於其高度的資料敏感性，這類應用幾乎無一例外地選擇在地端環境運行，也印證了高效能地端 AI 平台的剛性需求。
報導出處：INSIDE 電子報
