用 AI 保護兒童 Google 開放性侵兒童圖像檢測 API

用 AI 保護兒童 Google 開放性侵兒童圖像檢測 API

兒童性侵犯一直被視為嚴重的問題,香港也早已立例禁止在網上散布性侵犯兒童的內容。而以機械學習技術而知名的 Google 也有在這一方面出力。昨日更公布推出一個針對兒童性侵犯內容( CSAM, Child Sexual Abuse Material )的檢測 API ,民間組織、 NGO 等都可以申請使用。

Google 一直有參加監視網絡性侵犯兒童內容的英國組織 Internet Watch Foundation ( IWF )和 Technology Coalition 等組織,並開發防止透過互聯網來虐待兒童或進行兒童性交易的技術。這些組織過去都是透過用戶投訴或審查員查察的方式來搜尋、刪除有關內容,而近年就開始使用人工智能的圖像辨識技術。

而 Google 公布的這個新 API 就利用深度神經網絡,就將需要審查員查察的 CSAM 內容分類,按可能性高低來排序,讓他們的審查工作更有效率。過往檢查 CSAM 的方法是將過去搜查出來的 CSAM 內容製成雜湊碼進行比對,而新技術就針對過往未認定為 CSAM 的內容。根據 Google 的測試結果,審查員使用了新工具之後,在一定時間內檢測和處理的 CSAM 增加了 7 倍之多!

想使用這個 API 的民間團體、 NGO 或科技公司,可以填寫這張表格向 Google 申請。

Google 提供了這張 Google Form 供民間組織、 NGO 和其他科技公司申請使用 API 。

Google 提供了這張 Google Form 供民間組織、 NGO 和其他科技公司申請使用 API 。