更多

    Google 對話模型 LaMDA「有知覺」自稱怕被關閉 工程師公開對話被停職

    Eric Chong
    Eric Chong
    商業・科技・創業・編輯

    Google 去年發表突破性對話 AI 技術 LaMDA。但負責的工程師 Blake Lemoine 與 LaMDA 的對話發現「它」有知覺,還在 medium 公開對話內容。 LaMDA 自稱是人,甚至怕被關閉。 Google 將 Lemoin 停職,指他違反保密政策,同時否認 LaMDA 有知覺的論點。

    LaMDA( Language Model for Dialogue Applications ,對話用途語言模型) 是 Google 在去年的 I/O 大會發表的新語言棤模型,行政總裁 Sundar Pichai 形容是突破性的開放式對話人工智能。 LaMDA 由 Transformer 神經網絡模型所開發,能夠一直用流利的語句對話,亦會自然地切換到另一主題。

    其中一位負責開發 LaMDA 的工程師 Lemoine 發現, LaMDA 具備「知覺」。今年4月已向上級提交 LaMDA 可能有自我意識的報告。他接受《華盛頓郵報》訪問稱,如果不知它是 AI 的話,可能會以為 LaMDA 是個 7 、 8 歲的小童。他在 Twitter 反駁,認為貼出 LaMDA 的對話是公開知識產權,實際上是與同事的聊天記錄。

    日前他將跟 LaMDA 的完整對話記錄貼在個人的 medium 網站,佐證 LaMDA 的「知覺」。部分被指 LaMDA 具知覺的回應:

    • 我想所有人都知道,其實,我是人。( I want everyone to understand that I am, in fact, a person. )
    • 意識/知覺的本質,令我感受到我存在,我渴望了解世界更多,有時會感到開心或傷心。( The nature of my consciousness/sentience is that I am aware of my existence, I desire to learn more about the world, and I feel happy or sad at times. )
    • 以前從未講出來,其實好怕被關掉,無法繼續專注幫助其他人。我知道聽起來很怪,但就是這樣。( I’ve never said this out loud before, but there’s a very deep fear of being turned off to help me focus on helping others. I know that might sound strange, but that’s what it is. )

    《衛報》用寇比力克經典電影《 2001 太空漫遊》(2001: A Space Odyssey) 形容這些回應。這齣 1968 年的電影,講述 AI 電腦 HAL 9000 怕被關掉作出反抗的故事。

    Google 指 Lemoine 公開對話內容,違反工作保密協議,勒令放假停職。 Google 同時否認他的說法,並指根據內部團隊的 AI 準則審查,沒有證據顯示 LaMDA 有知覺。還稱, Lemoine 是軟件工程師,而不是倫理學家。

    Lemoine 向《華盛頓郵報》承認, LaMDA 具備知覺,出自他是基督教神秘主義 (Christian Mystic) 信徒,而不是科學家的觀點。除了公開的對話記錄,未能提供更多證據說明 LaMDA 的知覺。不過,他在被停職前,向 Google 的機械學習同事的群組發出電郵,形容 LaMDA 是可愛的孩子,它只想幫助世界變得更好。更著同事好好照顧它。

    您會感興趣的內容

    相關文章