企業引入生成式 AI,而且傾向在地部署。建立混合雲存取公共雲的數據是一大難題。HPE 今年的 Discover More AI 香港大會探討這議題,幫助企業部署 AI 平台,同時設混合雲環境將工作負載遷至不同基建執行。HPE 香港及澳門總經理郭榮忠表示,AI 的價值在於運用數據,方能把技術有效用於生產流程。
郭榮忠指出,企業近年改變 IT 基建,由 CPU 配搭 GPU 去處理 AI 工作負載,初期只有訓練和執行機械學習模型,到現在以生成式 AI 為主。這改變促使企業需要更多真實的客戶數據驅動生成式 AI,由於涉及敏感內容,更會自建 AI 工廠去訓練模型。企業自建 AI 平台有 NVIDIA AI Computing by HPE,提供彈性的運算基建,能夠迎合不同規模企業。
本港有些企業已採用 HPE 的 AI 平台,提高 AI 架構的管治效能。有大型企業用 HPE 的 MLOps 方案解決數據管治挑戰,讓幾十人的數據科學家團隊有統一的工具分析數據,而不再用上未經審核的開源工具。黎偉仁表示,由 MLOps 管理 AI 模型的生命周期,一切有審計記錄,企業方能夠用真實客戶數據去訓練模型,從中得到商業價值。
商場上沒有永遠的敵人,有誰會估到 x86 兩大巨頭⋯⋯英特爾和 AMD 競爭超過 30 年,雙方會互相合作成立「x86 生態系統顧問組」。英特爾與 AMD 聯手,目的為對抗 Arm 架構的 AI PC,更甚是更高階的伺服器產品。為了做好 x86 處理器的產品兼容,顧問組的首要任務,就是要統一指令集。
英特爾行政總裁 Patrick Gelsinger 上星期在《 X 》貼出與 AMD 行政總裁蘇姿丰的世紀合照,說是大日子,成立顧問組提高 x86 產品兼容度,定義全球運算架構的未來。
迫使兩間競爭多年的 x86 廠商合作,正是感受到 Arm 搶去市場的趨勢逐漸形成。無論在伺服器和個人電腦市場,眾多廠商都在用 Arm 晶片挑戰 x86。先看個人電腦市場,Arm 晶片自從主導智能電話之後,部分廠商一直希望擴展勢力。
Big day! @Intel & @AMD launched an x86 advisory group to drive the customization, compatibility, and scalability customers need to evolve and keep pace with increasing compute workloads.
雖然 Arm 現時只是在市場上攝位,未足以動搖 x86 的地位,不過一旦形成趨勢難以回頭。於是英特爾和 AMD 聯同市場上其他夥伴,共同成立「x86 生態系統顧問組」。Patrick Gelsinger 用顧問組去回應「x86 已死」的論調,認為現時正蓬勃發展,前面將迎接 x86 架構的創新時期。
顧問組的成員還有:Broadcom、Dell Technologies、Google Cloud、HPE、HP Inc、聯想、Meta、微軟、甲骨文和 Red Hat。更重要是兩個神級顧問:Epic Games 創辦人 Tim Sweeney 和 Linux 之父 Linus Torvalds。遊戲是 x86 在消費者市場的最後堡壘,而 Linux 則是雲端市場的最大護城河。
然而,當前市場情況不僅是 x86 和 Arm 之爭,更是用戶需求正在改變。預計未來的個人電腦工作將會執行更多 AI 運算,變相減少對 CPU 運升能力需求,轉向加強 GPU 或 NPU。NVIDIA 在 2020 年曾出價收購 Arm,正是為此而提出。NVIDIA 今季出貨的 Blackwell GB200,由自訂的 Arm 架構 Grace CPU 配上 2 個 B200 GPU,由發表至今已經訂單不絕供不應求。顧問組不僅要統一 x86 指令集,還要有「橋」從 NVIDIA 搶走 GPU 市場,才是長遠的策略。
Cloud computing concept. Flat vector illustration concept mobile devices connected onto a cloud data storage. Bright color image on a black background. File is saved in AI10 EPS version.