更多

    ChatGPT 應用殺入安全行業 Sophos 以 GPT-3 語言模型精準過濾垃圾電郵

    ChatGPT 不斷被各界探索可用之處,包括用於網絡安全攻防戰。之前有網絡安全供應商提醒,黑客亦看上此技術,以更便利的方法發動更多攻擊及釣魚電郵。另一邊廂亦有網絡安全服務商研究利用 ChatGPT 技術框架背後的語言模型,幫助企業及機構應付網絡攻擊。

    網絡安全即服務供應商 Sophos 發表研究報告《我們的 GPT:採用人工智能技術提升網絡安全防禦能力》,介紹該公司的 X-Ops 團隊利用 GPT-3 編程工具的語言模型開發項目,簡化網絡安全軟件於眾多數據中偵測惡意活動的流程,從而加快對二進制形式攻擊(LOLBin)的分析。

    SophosAI 首席數據科學家兼 Sophos X-Ops 研究人員 Younghoo Lee 利用 GPT-3 編程工具開發三款原型項目,並以「小樣本學習(few-shot learning)」技術透過少量的數據樣本訓練 AI 模型,減少預先收集大量分類數據的需要。透過「小樣本學習」技術,Sophos 首個測試針對「自然語言(Natural Language)查詢介面」,讓安全軟件更準確篩選出惡意活動,並針對端點偵測和回應(endpoint detection and response product)產品作為測試模型。透過這介面,安全技術人員將可省卻學習 SQL 或數據庫內深層架構的時間,直接發出基本英語指令並過濾遙測數據。

    另一個項目是為新的垃圾郵件過濾軟件進行測試,發現與其他利用機械學習模型的過濾系統相比, GPT-3 的過濾性能較準確。同時,研究人員亦開發一款能簡化 LOLBins 命令行於逆向工程流程的工具。當中牽涉不少非常複雜的過程,該工具將對日後了解 LOLBins 的行為及阻止同類型攻擊將起關鍵作用。

    Sophos 利用 GPT-3 編程工具開發原型項目,酗合「小樣本學習」技術以少量數據樣本訓練 AI 模型,減少預先收集大量分類數據的需要。

    Sophos 首席威脅研究員 Sean Gallagher 表示,自從 OpenAI 於去年 11 月推出 ChatGPT 以來,這技術所帶來的潛在網絡安全風險受到業界廣泛關注,不少從業人員擔心人工智能將有助攻擊者編寫惡意軟件程式,或為網絡犯罪分子編寫更有說服力的釣魚郵件。Sophos 卻同時認為新技術可為網絡安全業界帶來無限可能性。

    他強調:「不少人正關注大量『干擾訊號』對安全營運中心的影響,然而許多公司只能利用有限的資源處理過多的安全警告或偵測。透過 GPT-3 的相關技術,能夠簡化部分涉及大量人力的流程,從而提高防禦人員的效率。因此,Sophos 已將部分原型整合至產品或服務中,並與其他正獨自測試 GPT-3 的技術人員於 GitHub 上分享,相信 GPT-3 將有效協助安全技術專家進行更多研究及開發。」

    您會感興趣的內容

    相關文章