首頁 Biz.IT 硬件基建 IBM 發表 Telum II 處理器 推動大型主機 IBM Z 轉型 AI 運算

IBM 發表 Telum II 處理器 推動大型主機 IBM Z 轉型 AI 運算

IBM Telum II 及 Spyre 加速器
IBM Telum II 及 Spyre 加速器

IBM 在 Hot Chips 2024 大會發表下一代 IBM Z 所用的處理器 Telum II,連同相關 DPU 和 AI 加速器 Spyre,將大型主機進一步推向 AI 運算,支援企業使用大型語言模型和生成式 AI。Telum II 處理器為 8 核心 5.5GHz,採用三星晶圓代工的 5 納米工藝,以整合 AI 方法加速 AI 運算。

IBM 在 2021 年推出 Telum 處理器,採用新核心架構原生支援運算 AI 工作負載。這款處理器用於 IBM Z 大型主機,將大型企業所用的主機轉型成加速 AI 運算。在 Hot Chips 2024 大會發表的 Telum II,直接支援 AI 模型和大型語言模型的推理工作。

Telum II 處理器採用 5 納米製程,專為 AI 運算而設,內建 DPU 處理數據傳送。

根據 IBM 公布的資料,Telum II 處理器內建 8 個 5.5GHz 核心,每個核心配備 36MB L2 快取,整體容量增至 360MB,較上一代處理器增 40%。每個處理器在記憶體內可建虛擬 L4 快取 2.88GB,較上一代增加 40%。

Telum II 加入 IO 加速元件 DPU,卸載 CPU 處理傳送數據的工作,有效應付如訓練 AI 模型的數據密集運算。

Spyre 加速器內有 32 個運算核心,配 1TB 記憶體。

IBM 同時新增 AI 加速器 Spyre,採用 AIU(AI Unit)晶片,同樣為 5 納米製程,內有 32 個核心配 1TB 記憶體,功耗少於 75W,經 PCIe 連接。每個 IBM Z 模組可安裝最多 8 張 Spyre 加速器。

整合 Telum II 和 Spyre 加速器,能提供低時延和高吞吐量的 AI 推理。IBM 建議適用在下一代 IBM Z 大型主機的 AI 用例包括:

  • 檢驗保險理賠欺詐
  • 反洗黑錢高級監察
  • AI 助理

Telum II 和 Spyre 加速器將用於下一代 IBM Z 和 LinuxONE,預計 2025 年正式推出。

最新影片

Exit mobile version