硬件基建

VMware 去年發表的 Private AI Foundation with NVIDIA，至今年 5 月正式推出，迎上企業採用生成式 AI 熱潮。Broadcom 全球 AI 主管 Chris Wolf 表示，企業用 Private AI 建立 AI 運算基建，較在公共雲上執行的成本可低至僅約三分之一。其中 vGPU 為重要的技術，幫助企業分配 GPU，在訓練模型與推論生成式 AI 之間有效分配資源。

5G 網絡除了用作公共流動通訊，另一重要市場是企業的私有 5G 網絡。日本 NTT 旗下 IT 服務商 NTT Com Aisa 獲得通訊事務管理局辦公室（ OFCA ）發出地區性無線寬頻系統（專用）牌照，推出私有 5G 網絡服務。該公司還跟本地創業公司和大學合作，運用私有 5G 網絡連線，建立各行業專用方案，首先開發車聯網和建築業的 4S 方案。

IBM 在 Hot Chips 2024 大會發表下一代 IBM Z 所用的處理器 Telum II，連同相關 DPU 和 AI 加速器 Spyre，將大型主機進一步推向 AI 運算，支援企業使用大型語言模型和生成式 AI。Telum II 處理器為 8 核心 5.5GHz，採用三星晶圓代工的 5 納米工藝，以整合 AI 方法加速 AI 運算。

Equinix 近年在香港投資建設和擴建多間數據中心，最新公布於荃灣建第六間 IBX 數據中心「HK6」，亦是該公司旗下第四個在荃灣區內的建設，預計 2026 年啟用，最多供應 3,350 個機櫃出租。HK6 將引入液冷技術，幫助人工智能工作負載散熱。

ASUS 的商務級ExpertWiFi產品愈來愈多， EBG19P 屬於有線路由器，有Gigabit PoE+ 及 VPN Fusion 功能，最多3個WAN埠保護連線穩定，亦可加入同系列商用AP無線存取點，延伸網絡覆蓋，有更齊全管理監控功能，用手機 App 即可完成設定。

企業若要顧及數據安全訓練 AI 模型，只得自建 AI 叢集。思科發表人工智能叢集 Nexus HyperFabric，運用 NVIDIA 的 GPU 和 DPU 技術，配上旗下的網絡交換器和網絡軟件，以及 VAST 數據儲存平台，支援企業生成式 AI 工作負載。