AI 自創語言密密斟 Facebook 勒令關機

AI 自創語言密密斟 Facebook 勒令關機

人工智能作反是不少科幻電影的題材,到底 AI 會不會作反其實也是不少研究 AI 的科技企業的迷思。上月底, Facebook 就下令關掉一個正在研發中的 AI 系統的電源,原因是這個 AI 系統發展出一套獨特的語言來互相溝通。

以下是兩位 AI —— Bob 和 Alice 之間其中一段「談判」內容:

Bob: I can i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else

Alice: balls have a ball to me to me to me to me to me to me to me to me

看不懂吧?是的,連研發他們的 Facebook 開發人員都不懂。其實這是 Facebook 一項教導 AI 談判的研究,實驗最初有一個簡單的介面,裡面有一堆如帽子、籃球和書的虛擬物品,最初人類用戶就要跟 AI 商討如何分配這些物件。後來為了進一步實驗 AI 能夠跟其他機械人或人類,為不同目的而完成完整的「由始至終」的談判,開發人員就開發了一套「對抗網絡」,讓兩個 AI 自行進行分配物件的談判。

實驗最初是有一個介面讓人類參與談判的⋯⋯

實驗最初是有一個介面讓人類參與談判的⋯⋯

本來實驗的程式是要求 AI 以英語來進行談判的,不過經過一段時間沒有人類輸入資料之下,開發人員發現兩個 AI 開始以一套人類難以理解的語言來互相溝通。最後 Facebook 決定關機,不讓它們再談下去。 Facebook 人工智能研究中心的研究科學家 Mike Lewis 表示:「我們感興趣的是讓機械人能夠跟人類談話。」顯然他們無法接受 AI 「私下串通」。

兩個 AI 開始用自己的語言來談判,讓研究人員無法理解。

兩個 AI 開始用自己的語言來談判,讓研究人員無法理解。

可能有人會擔心人工智能有一天會作反,不過有工程師就認為這是杞人憂天。軟件工程師 Douglas Robertson 指人工智能自創語言來溝通並非新鮮事,事實上這種事其實非常親近。例如我們常用的 Google 翻譯就用了一套「中間語言」,來在兩種語言之間進行翻譯工作。他認為就算是人類社會,不同行業或群體都會有一套行外人難懂的行內語言,這只是為了讓「行內人」之間溝通得更有效率。

資料來源:CBS、Independent、Fast Company