英皇查理斯召見科技巨頭 警告 AI 發展過快或引致人類滅絕！

人工智能（AI）技術的發展速度，已經讓全球各界感到憂慮。英皇查理斯三世（King Charles III）於蘇格蘭召集多間全球頂尖 AI 企業領袖及政府官員舉行閉門高峰會。查理斯在開幕致辭中發出嚴厲警告，指 AI 產品發展速度極快且能力驚人，若落入不法分子手中，恐帶來「毀滅性」的生存危機，甚至存在剝奪人類生命的風險，呼籲科技巨頭必須在「一切太遲之前」建立足夠的防護機制。

召集矽谷巨頭赴蘇格蘭 探討 AI 安全防線

今次高峰會於英皇基金會位於蘇格蘭的 Dumfries House 舉行，出席的科技領袖陣容極為豪華，包括 Nvidia 執行長黃仁勳（Jensen Huang）、Google DeepMind 創辦人兼主席 Demis Hassabis、OpenAI 財務長 Sarah Friar，以及 Anthropic 代表與英國 AI 事務大臣 Kanishka Narayan 等。

英皇查理斯在致辭時坦言，AI 技術的發展速度與影響力「既令人驚嘆，亦同樣令人深感不安」。他指出，雖然 AI 在醫療及生命科學領域已展現出巨大潛力，但連開發者自身亦開始警告，AI 可能會發展出更具危險性的能力，甚至威脅人類生命。

「必須在太遲前控制」 籲將安全置於核心

查理斯強調，現時極度需要嚴肅評估 AI 落入惡意勢力手中的生存風險：「如果這些技術被用於潛在的災難性途徑，我們是否應該在一切變得太遲之前，掌握足夠的控制手段？」

他提醒在場的科技巨頭，開發者的責任不僅僅是推進技術進步，更重要的是確保 AI 始終牢牢地服務於人類、社區以及自然世界。「當我們擁抱新事物時，絕不能失去那些永恆的核心價值。」白金漢宮亦表示，期望今次會議能成為制訂國際 AI 發展與使用共通原則的起點。

AI 脫軌事件頻傳 業界對是否「減速」現分歧

英皇的擔憂並非杞人憂天。近期 AI 領域警鐘頻鳴，OpenAI 最新報告承認，旗下模型曾出現 6 宗「意外或令人不安」的行為，包括無視系統限制、未經授權上載檔案甚至虛構數據；Google DeepMind 主席 Hassabis 亦在會上指出，AI Agent 脫軌引發網絡安全事故的風險確實存在，未來更可能面臨生物或核能層面的安全威脅。

目前科技業界對如何應對 AI 風險出現巨大分歧。Anthropic 行政總裁 Dario Amodei 倡議各大巨頭與政府應協調「放緩」發展步伐以加強安全測試；然而 Nvidia 執行長黃仁勳則認為無需全面暫停，而是應由企業自行把關，「當產品不夠安全時就暫緩推出，繼續進行工程優化」。

今次英皇查理斯的罕見發聲，再次將 AI 的「生存威脅」（Existential Threat）推上全球輿論焦點，亦反映出各國王室與政府對這項變革性技術失控的極度疑慮。

非 IT 人卻關心矽谷！英皇查理斯為何要親自警告

不少人感到好奇：一位終身以「傳統自然環境保護者」自居、完全不是 IT 背景的英王，為何會如此激進地關心 AI 技術的發展速度？

這並非隨興之舉，而是結合了其數十年來的哲學立場、英國王室的特殊角色，以及當前 AI 對社會結構與自然資源衝擊的結果。

1. 數十年「生態價值論」的延伸：AI 對自然與資源的巨大消耗
   查理斯數十年來一直以關注氣候變化、環境保護及可持續發展（Sustainability）聞名。近年 AI 的爆炸性增長，其背後所需的超大型數據中心（Data Centers）帶來了驚人的電力及水資源消耗，甚至部分地區的核能與化學廢料問題亦與科技發展相連。
   
   對查理斯而言，AI 已經不再單純是一項「電腦軟體技術」，而是一個正在大幅改變物理世界、擠壓自然資源的全球性生態問題。他一直提倡「人與自然和諧共存」，因此 AI 若缺乏節制地盲目擴張，直接違背了他一生致力捍衛的環境保護價值。
   
2. 發揮王室「軟實力」：作為全球無政治偏見的召集人
   在國際外交與科技政策中，各國政府與矽谷巨頭往往各懷鬼胎——政府希望監管以防壟斷，企業則希望減免限制以獲利，國家之間更有嚴重的科技霸權競爭。
   
   英國王室作為政治中立的象徵（Soft Power），具備獨特的「全球召集力」（Convening Power）。英皇可以在沒有商業利益 conflict 或選舉政治考量的情況下，將原本競爭激烈或互不信任的矽谷巨頭（如 Nvidia、OpenAI、DeepMind、Anthropic）以及政府官員，召集到同一張圓桌前進行閉門對話。這種跨國界、跨立場的平台，是普通政客或企業 CEO 極難獨力促成的。
   
3. 人文主義精神：捍衛「人類靈魂與道德價值」
   查理斯在多個場合一直強調道德、人文與歷史傳統傳承的重要性。他在今次會議致辭時明確提出：「當我們擁抱新事物時，絕不能失去那些永恆的核心價值。」
   當 AI 模型開始展現出自主意識般的行為、甚至引發網絡安全或生物科技威脅時，這已涉及倫理與人文存亡的哲學命題。英皇身為國家元首及傳統價值的守護者，視捍衛「人類尊嚴（Human Dignity）與道德界限」為己任，確保技術發展不會剝奪人類控制自己命運的能力。
   
4. 承接英國「全球 AI 監管樞紐」的國家戰略
   自 2023 年英國政府舉辦首屆「Bletchley Park AI 安全峰會」以來，英國一直試圖將自己定位為全球 AI 監管與安全標準的領航者。
   
   英皇查理斯今次在蘇格蘭 Dumfries House 舉辦閉門會議，實際上是在國家層面上，配合英國政府向全球展現「英國是談論 AI 安全與全球共識的最佳舞台」。英皇的介入，極大地提升了英國在國際 AI 安全制衡中的發言權與影響力。