deepfake

美國有 5,000 億美元 Stargate 大計，法國也將迎來 1,090 億歐元的「法國版 Stargate 」。法國總統馬克龍在「人工智慧行動高峰會（AI Action Summit）」舉行前接受傳媒訪問時透露此大計。這邊廂他大力推動 AI 技術，另一邊廂利用深度偽造（Deepfakes）製作宣傳影片並上載到社交平台，做法卻引來專家批評，此風不可長。

近期網傳熱播的安德尊李錦聯「打交」 AI 片告訴大家，只需要少部份片段，AI 就可以創作新內容。隨著人工智能（AI）技術的迅速發展，深偽內容（Deepfake）已不再限於娛樂行業，這些技術如今成為不法分子用來進行新型網絡攻擊的手段。偽造的圖像、影片甚至語音，被不法分子用作創建虛假情境，誤導市民及企業墮入「眼見未為真」的陷阱，對網絡安全構成巨大威脅。對市民而言，提高對深偽內容的警覺性是當前應付資料外洩的首要任務，尤其在跨國詐騙案件中，不法分子往往會利用 AI 技術偽造來自熟悉地區的電話號碼或語音，進而竊取敏感資料或詐騙金錢。

Google 剛宣布正採取多項措施，處理搜尋結果中出現 Deepfake 偽造圖像的問題。

特區政府執法人員今年 2 月公布本港首宗 Deepfake 騙案，假扮英國總公司財務總監，誘使香港員工轉帳近 2 億港元去騙徒戶口。近日英國著名建築設計公司奧雅納（Arup）回覆《CNN》查詢，證實是該案的受害者，案件發生在今年 1 月。

Google 公布 2023 年的《廣告安全報告》（Ads Safety Report），去年移除超過 55 億則違反政策的廣告，數字較前一年略升，而封鎖廣告商數量增長近 1 倍達至 1,270 萬。Google 稱，去年引入 LLM 分析廣告內容，禁止違反政策的廣告，令廣告商調整詐騙策略。

AI 圖像生成平台 Midjourney 日前宣布停止提供免費試用，即使是新手房間也必須要付費才可生成圖像。上星期前美國總統特朗普到紐約出庭期間，社交平台流傳大量以 AI 生成的特朗普被捕和拒捕的圖片，但 Midjourney CEO 及創辦人 David Holz 就指是因為大量用戶突然濫用系統。

資訊安全專家一直叫大家防範 Deepfake 技術，免被誤信此類偽冒行為。不過，已故名廚 Anthony Bourdain 的紀念紀錄片《 Roadrunner: A Film About Anthony Bourdain 》卻運用 Deepfake 技術，模仿他本人讀出幾句對白，做法惹起爭議。

自從深度學習衍生 Deepfake 的模仿真人技術，引起各界關注資訊安全問題。美國奧斯卡得獎導演 Morgan Neville 最近製作名廚 Anthony Bourdain 的紀錄片《 Roadrunner: A Film About Anthony Bourdain 》，其中有幾句「 Bourdain 」的獨白，其實是由 Deepfake 模仿，他本人從未說過。

隨著 AI 人工智能的發展，現在要在網絡上找一將不存在的人物臉孔已經不是難事，而最近這種 Generative Adversarial Network, GAN 技術已經發展到動物身上，一個名為 This Cat Does Not Exist 的網站在去年開始運作，當大家每次進入網站，就會出現一張透過 AI 生成的貓貓相片

微軟發布影像驗證工具，可分析靜態相片及影片，透過影像上的褪色及灰度元素等判斷相片或影片是否人為合成。