本月中，NVIDIA CEO 黃仁勳於洛杉磯 All-In Summit 演講期間，即場接聽美國前總統特朗普的電話並開啟擴音。特朗普在通話中將「AI 接管世界」的疑慮斥為「騙局」，更指責批評者或正中政敵與中國下懷；而黃仁勳則附和其反對減速的立場。
這場公開互動政治訊號極濃，難免令人猜想雙方早有默契，惟目前未有足夠證據證明通話經過預先安排。然而真正值得深思的問題是：一句「騙局」，是否就能取代嚴謹的 AI 安全驗證？
警告不是預言，更非純粹騙局
霍金、蓋茨與馬斯克早已先後發出警告，指超級智能有可能超越人類控制。不過，名人的智慧不能代替科學驗證；同樣地，政治人物的自信亦無法證明風險不存在。面對可能後果極度嚴重、但發生概率未明的技術，我們既不應販賣末日恐慌，也不應隨意用政治標籤堵塞合理討論。
月初離職的前 Anthropic 研究員 Jacob Coxon 表示，研發 AI 的從業員真誠相信 AI 可能在本十年結束前導致人類滅絕。這是他對業界內部憂慮的客觀描述，並非科學界的共同結論，更不是「2030 年必然滅絕」的預言。我們應要求發出警告者交代具體的安全機制、實證數據與不確定性，而非單純轉發最嚇人的新聞標題。
Anthropic 執行長警示：網絡安全威脅升級
Anthropic 行政總裁 Dario Amodei 於 9 月 12 日警告，隨著能力加速提升，AI 代理群體（Agentic AI）可能在 6 至 12 個月內，具備透過持續運作的殭屍網絡「接管整個互聯網」的能力，並呼籲放慢前沿能力提升速度，獲得馬斯克與 Sam Altman 支持。
需要澄清的是，他的主張並非徹底停止所有研發，而是希望讓「安全驗證」追上技術的增長速度。這屬於他的風險推演，不能當成已被證實的既定事實或必然結果，但絕對值得業界認真檢驗。
安全論述背後，亦需接受利益審查
然而，呼籲減速的人就必然沒有私心嗎？Amodei 在提出方案時同時強調，不應犧牲商業優勢及美國的 AI 領先地位。這正好提醒我們，公共安全與自身商業利益可以並存，討論時不應簡化為「救世者」與「逐利者」的二元對立。
過高的合規門檻可能保護巨企、排擠新創，「國家安全」也可能成為限制對手的理由。反過來，倡議全速發展同樣可能把企業收益放在社會風險之前。辨別誠意不靠猜心，而是看企業是否接受獨立審核、公開重大事故、保護吹哨者，以及在安全測試不合格時真正延後推出產品。
中美先建共同底線：避險重於競逐
中美正籌備九月中展開 AI 安全對話，美方希望討論合作監測 AI 網絡攻擊，但白宮官員當時表示並無計劃於九月中舉行相關會議。這份報道反映接觸意向，並不代表對話已落實。即使互信有限，雙方仍應先建立事故通報及緊急聯絡機制，避免技術失控被誤判為國家攻擊。
合作毋須由交出核心模型開始。中美可以共同訂立危險能力測試，交換經保密處理的事故資料，並就關鍵基建攻擊、自主複製及繞過人類監督設定底線。規則必須對兩國模型一視同仁，配合可核查的執行程序，才不會淪為要求對手減速、自己加速的工具。
雙方亦可聯合第三方科研機構定期演練跨境事故，預先釐清誰通報、誰隔離系統、如何保存證據。對於減速安排，則應訂明觸發條件、覆核期限和恢復研發的標準，避免無限期凍結爭議。安全合作可以與商業競爭並行，不應等到政治分歧全部消失才開始。
人機協作：不能只有人類「簽名」
對企業與市民而言，應把「AI 提出建議、人類承擔決策」變成實際流程。醫療、金融及公共服務等高風險場景，須有人核實依據、處理申訴；操作系統的 AI 則應受到最小權限、限額、隔離測試及可追溯紀錄約束，異常時能撤銷授權、停止執行。
但若人類沒有時間、能力和權力否決 AI，所謂監督只是一枚橡皮圖章。因此，培訓不能只教提示詞（Prompt），更要教查證、識別不確定性與獨立判斷；提升生產力的成果，也應用於員工轉型，而不只是削減人手。
例如，AI 可以替醫生整理病歷、列出鑑別診斷，卻不應在未經確認下自行更改療程；可以替企業分析付款異常，卻不應同時掌握無限額轉帳權。評估協作成效，也不能隻計速度和成本，而要看錯誤率、覆核負擔及受影響者能否獲得補救。人類保留最後決定權，必須有資源支持，而不是出事後才找人負責。
結語：能力愈大，責任愈大
人類真正的考驗，不是能否造出更聰明的機器，而是能否建立比競爭衝動更成熟的制度。
安全不是創新的敵人，而是讓創新值得信任的條件。我們需要的不是盲目加速或全面煞停，而是能力愈大、責任愈重，讓 AI 擴展人的自主，而非取代人的主導。
