生成式 AI

VMware 去年發表的 Private AI Foundation with NVIDIA，至今年 5 月正式推出，迎上企業採用生成式 AI 熱潮。Broadcom 全球 AI 主管 Chris Wolf 表示，企業用 Private AI 建立 AI 運算基建，較在公共雲上執行的成本可低至僅約三分之一。其中 vGPU 為重要的技術，幫助企業分配 GPU，在訓練模型與推論生成式 AI 之間有效分配資源。

自從 Broadcom 收購 VMware 之後，隨即將 VMware Cloud Foundation 轉為訂閱制，部分功能改為進階服務加購。其中容器平台 Tanzu 為進階服務之一，在今年的 VMware Explore 上發表 Tanzu Platform 10，加入支援私有雲 AI 基建，透過 Spring AI 快速將生成式 AI 功能加入 Java 應用程式。

Apple Intelligence 讓用戶可以在「備忘錄」、「Pages」、「郵件」和其他使用標準文本編輯控制元件的 App 中使用寫作工具。同時郵件亦加上一系列應用到人工智能的功能，追上 Gmail。

繼日前推出號稱當今最優秀開源大型語言模型（LLM）「Llama 3.1」 之後，Meta 開始陸續在 AI 服務上用上這最新模型。最新推出的就是「AI Studio」，任何人即使對人工智能和編程不熟悉，也可以輕易打造指定個性的 AI 聊天機械人。不過這工具暫時只有美國的帳戶能使用。

面對 Apple Vision Pro 大軍壓境，Meta 除了早前開始測試系統軟件版本 v67 引入像 Vision Pro 的空間視窗功能之外，昨日又再丟出震撼蛋針對 Vision Pro 的弱項，將在 Meta Quest 上推出 Meta AI MR 智能助理，不單能語音交談，還能「看得見」用家所見的景物來作答，揭示了未來 MR+AI 的廣泛應用潛力。

AI 用於網絡安全是另一場攻防戰。黑客愈來愈多採用 AI 發動攻擊，同時企業的網絡安全方案早已引入 AI，近年加入生成式 AI。Palo Alto Networks 提倡用 AI 對抗 AI，也建議從設計上開始保護 AI，以及用Copilot簡化安全營運。

中國另一人工智能公司科大訊飛打算在香港數碼港成立國際總部，在 5 年內會投資 4 億港元，開拓本地和國際業務、研發等。科大訊飛將在香港推出星火大型語言模型，研發智能語音等項目。旗下的訊飛醫療亦會開拓香港市場，引入行業相關的醫療健康人工智能技術。

OpenAI 早前宣布禁止不支援地區包括中港澳使用其 API，估計會令不少使用 OpenAI API 的人工智能服務無法使用。適逢其會，商湯昨日宣布港人可以免費使用旗下的 Sensechat 人工智能手機應用。小編就來試試與 ChatGPT 比試一下，想不到它為我們帶來不少驚喜。

Apple 於今年 6 月的 WWDC 發表結合 ChatGPT 生成式 AI 的 Apple Intelligence，預計將會在今年 9 月伴隨 iPhone 16 及 iOS 18 正式推出，不過引述《彭博》的消息，在 Apple Intelligence 的初期版本中...

企業若要顧及數據安全訓練 AI 模型，只得自建 AI 叢集。思科發表人工智能叢集 Nexus HyperFabric，運用 NVIDIA 的 GPU 和 DPU 技術，配上旗下的網絡交換器和網絡軟件，以及 VAST 數據儲存平台，支援企業生成式 AI 工作負載。