更多

    用 AI 保護兒童 Google 開放性侵兒童圖像檢測 API

    Mickey Chan
    Mickey Chan
    愛模擬飛行、希望終有一日回到單車上的宅,眼鏡娘控。座右銘: 1.膽固醇跟美味是成正比的; 2.所有人都可以騙,但絕對不能騙自己; 3.賣掉的貨才是錢,不賣的收藏品不值一文; 4.踩單車,是為了吃更多美食! 5.正義的話語,不一定出自正義之人的口;

    兒童性侵犯一直被視為嚴重的問題,香港也早已立例禁止在網上散布性侵犯兒童的內容。而以機械學習技術而知名的 Google 也有在這一方面出力。昨日更公布推出一個針對兒童性侵犯內容( CSAM, Child Sexual Abuse Material )的檢測 API ,民間組織、 NGO 等都可以申請使用。

    Google 一直有參加監視網絡性侵犯兒童內容的英國組織 Internet Watch Foundation ( IWF )和 Technology Coalition 等組織,並開發防止透過互聯網來虐待兒童或進行兒童性交易的技術。這些組織過去都是透過用戶投訴或審查員查察的方式來搜尋、刪除有關內容,而近年就開始使用人工智能的圖像辨識技術。

    而 Google 公布的這個新 API 就利用深度神經網絡,就將需要審查員查察的 CSAM 內容分類,按可能性高低來排序,讓他們的審查工作更有效率。過往檢查 CSAM 的方法是將過去搜查出來的 CSAM 內容製成雜湊碼進行比對,而新技術就針對過往未認定為 CSAM 的內容。根據 Google 的測試結果,審查員使用了新工具之後,在一定時間內檢測和處理的 CSAM 增加了 7 倍之多!

    想使用這個 API 的民間團體、 NGO 或科技公司,可以填寫這張表格向 Google 申請。

    Google 提供了這張 Google Form 供民間組織、 NGO 和其他科技公司申請使用 API 。
    Google 提供了這張 Google Form 供民間組織、 NGO 和其他科技公司申請使用 API 。

    您會感興趣的內容

    相關文章