TPU

蘋果公司的 Apple Intelligence 幾日前在 iOS 18.1 Beta 發放，與此同時公開更多技術細節。根據蘋果公司的論文披露，背後的人工智能模型由 Google Cloud 上的 TPU 訓練，而非目前市場主流的 NVIDIA GPU。

Google Cloud 最近發表多項硬件加速訓練 AI，包括第 6 代 TPU Trillium。Goolge Cloud 運算及機械學習基建業務副總裁暨總經理 Mark Lohmeyer 稱，AI 基建正在朝著軟硬件整合方向發展，建 AI Hypercomputer 超級電腦架構，加速訓練和推理成效。

生成式 AI 成為公共雲平台的競爭，微軟有 OpenAI 加持獲明顯優勢，而 Google Cloud 則落力後追。Google 在 Google Cloud Next '23 大會發表多項生成式 AI，如大型語言模型 PaLM 預覽支援逾百種語言，正式支援加至 38 種。雲端基建新增 TPU v5e 和 NVIDIA H100 執行個體。

公共雲平台近年推動人工智能服務，他們之間還競爭硬件設備。 AWS 將在明年推出自建的機械學習訓練晶片 Trainium ，也同時提供英特爾旗下 Habana的Gaudi 晶片，均強調成本效益。該公司新興技術主管 Olivier Klein 稱，百貨應百客，應付不同企業的不同用途。

Google Doodle 經常會為特別的紀念日推出有趣的玩意，今日是德國音樂家巴哈 334 歲誕辰，Google 就在搜尋首頁推出一個以人工智能來模仿巴哈創作和聲的玩意，讓大家發揮一下創作力之餘，也體驗到 AI 如何在輔助創作上發揮作用。

華為在上海辦的「 Huawei Connect 2018 」發表自行研發人工智能晶片昇騰，其中伺服器級別的昇騰 910 的運算效能，比 NVIDIA Tesla V100 快超過一倍。

各廠商在鬥人工智能，連公共雲平台也在競爭。Google 去年公布雲端 TPU 基建服務，日前終於開放測試。