首頁 Biz.IT 企業應用 騰訊雲 AI 基建升級 大模型成本減半

騰訊雲 AI 基建升級 大模型成本減半

og-tencentcloud

全球雲端服務商都在加強 AI 能力,騰訊也不例外,在剛舉行的「騰訊全球數字生態大會」上發布新的 AI Infra 品牌「騰訊雲智算」,一套集運算、儲存和網絡解決方案於一身的產品,目標通過優化基礎設施,幫助企業高效地開發和訓練大模型。該公司亦發表基於混合專家(MoE)架構「騰訊混元 Turbo」模型,強調比上一代混元模型有更高的推理效率及更低的推理成本。

「騰訊雲智算」整合騰訊雲高性能運算 HCC、高性能網絡 IHN 星脈、高性能雲儲存、加速框架、容器、向量數據庫、智算套件等產品,能夠為 AI 提供高性能、多芯兼容、靈活部署的智能運算能力。而「騰訊混元 Turbo」模型則是採用 MoE 架構,較上一代產品推理效率提升倍增。在 Hard 任務上,騰訊混元 Turbo-Preview 取得 74.33 分,據指是目前中國唯一超過 70 分的大模型,僅與 ChatGPT-4o 有微小差距。

在推理成本方面則降低 50%。根據該公司的資料,模型價格為每千 tokens 輸出 0.05 元人民幣、每千 tokens 輸入為 0.015 元人民幣,整體亦較先前的混元 Pro 降低 50% 。騰訊雲特別強調,混元專有基礎模型目前經已整合至超過 700 個騰訊內部產品當中,包含騰訊元寶、騰訊雲、QQ、微信讀書、騰訊新聞、騰訊客服等,超過一半運用混元大模型 AI 代碼助手,編碼所需時間平均縮短 40%。

另外,騰訊向國際市場推出多個方案以加速全球發展,包括推出知識引擎平台、智能數智人和慧眼人臉核身等方案,以及新的掌紋驗證技術及相應的生態計畫。騰訊國際指出,印尼流動互聯網供應商 Telkomsel 已在付款系統及安全存取管理等方面採用掌紋驗證技術。

根據該公司的資料,騰訊雲至今已為全球 80 多個市場及地區、橫跨 30 個行業、超過 10,000 間企業提供服務。過去三年錄得雙位數增長,於亞洲、歐洲、美洲和中東地區建立業務網絡,其中亞太地區的年增長率超過 50%。為加強支援國際客戶,騰訊雲已在印尼、菲律賓、馬來西亞、新加坡、泰國、日本、韓國、美國和德國在內的全球網絡建立九個技術支援中心,提供技術支援和服務。

最新影片

Exit mobile version