首頁 新聞 資安.私隱 ChatGPT大熱好壞參半 黑客欲試作惡意用途

ChatGPT大熱好壞參半 黑客欲試作惡意用途

ChatGPT02

ChatGPT 開放免費給大眾試用後旋即成為大熱技術,造就不少話題。其中,著名搖滾歌手 Nick Cave 看到 ChatGPT 的作品後以不堪入目來形容。另外,機械學習國際大會(The International Conference on Machine Learning,ICML)早前也宣布,將禁止包含 ChatGPT 等的大型語言模型所生成的論文內容。又因 ChatGPT 能知天下事,教育界也可始憂心,紐約有公立學校宣布禁止學生使用。ChatGPT 如此有趣,當然也吸引技術超凡的黑客網絡犯罪分子一試。

Nick Cave 的粉絲傳送一份由 ChatGPT 製作的歌詞給他,看過作品後在網站回應有關內容,並以「胡說八道」和「對人性的荒誕嘲弄」發表感受。他強調,明白 ChatGPT 還處於起步階段,也許就是 AI 的可怕之處 —— 永無止境的起步階段,卻總是走得更快、更前、更遠。「儘管從這首歌曲看來不錯,卻不能不說,世界末日即將來臨,這首歌糟透了。」

另外,教育界亦擔心 ChatGPT 更容易「出貓」。紐約市教育局發言人 Jenna Lyle 表示, ChatGPT 可以快速和簡單地提供答案,但不能提升學生批判思維和解決問題的技能。未來,學校系統會過濾及阻擋 ChatGPT 網站,不讓學生在學校連上相關網站。但不會阻止有興趣研究該技術的學生在學校以外的地方連線上網。

至於網絡安全解決方案供應商 Check Point 旗下的 Check Point Research 亦表示,注意到 ChatGPT 容易操作的代碼生成能力,有助欺詐技術較弱的攻擊者更易發動網絡攻擊,為網絡威脅形勢帶來新挑戰。

該公司香港及台灣技術總監侯嘉俊指出:「網絡犯罪分子對 ChatGPT 興趣日增,背後的人工智能科技讓發動網絡攻擊更具成本效益。然而,判斷 ChatGPT 是否已成為 Dark Web 社群偏好的攻擊工具目前仍言之尚早。」

他補充:「突破 OpenAI 的限制,在特定國家或地區使用 ChatGPT 並非難事。公司亦察覺到俄羅斯黑客已開始討論並嘗試突破地域使用限制,利用該技術作惡意用途。相信這些黑客正嘗試在日常犯罪行動中使用和測試 ChatGPT。」

Exit mobile version