今年初，國際組織「數碼仇恨對策中心 (Center for Countering Digital Hate)」發表報告，指 Grok 令 X（前 Twitter）充斥性侵圖片。調查 11 日間估計就有 300 萬張色情圖像利用 Grok 生成，當中有約 23,000 張更涉及兒童。惡意分子利用 X 的 Grok 圖片編輯功能私自將其他用戶在 X 發布的照片編輯成色情圖片散佈。近日，有外媒就在 iOS 版 X 發現官方在發貼文的介面裡加入一個收藏得頗「深入」的開關掣，用來限制其他人擅自使用 @Grok 標籤來調用 Grok 惡搞貼文中的圖片。不過經傳媒測試後發現那個功能作用有限，很容易就能繞過，所以認為加入那功能只是向監管當局擺姿態，顯示他們有在防止色情照片生成上有盡過力，以減輕多國開出的罰款。
首先看看這個功能收藏在哪裡。當大家在 X 發佈貼文的介面匯入照片（最多 4 張）後，點擊照片右下角畫筆圖示，然後在編輯圖像的介面點擊最右邊的旗號，在「內容設定」介面最下面就會見到「Block modifications by Grok」開關，開啟後其他人就不能調用 @Grok 來更改圖像。同一介面中用戶還可以事前申告圖像有沒有涉及裸露、暴力或敏感題材。X 會對有關內容加入警告標示，讓讀者閱覽前有所警惕。
不過媒體測試後就發現這個功能其實保護作用有限，一方面這開關預設為關閉，用戶需要為每張圖片深入幾層去開啟這功能；另一方面，有心人仍然可以透過長按貼文中的圖像來叫出功能選單，以 Grok 來編輯圖片和製作影片，而且這功能也不能防止有心人下載圖片再上傳到 Grok 進行修改。
由於深偽色情圖事件嚴重，包括英國、印尼、馬來西亞和土耳其政府都對 Grok 展開調查，甚至進行封殺，美國加州總檢察長也啟動了調查程序。而 X 方面亦在一月採取了一些回應措施，包括將 Grok 的圖片生成功能限制為付款訂戶功能，並在嚴格限制色情圖像和深偽內容的地區封鎖圖像生成功能。面對多國可能會對 X 判處鉅額罰款，今次 X 加入限制篡改圖像功能，但又漏洞多多，而且 Android 版和網頁版都未加入這功能，令人質疑這只是向當局表達他們有努力過的動作，以圖減輕罰款。
