社交平台 X 宣布,修改旗下人工智能工具 Grok 的功能,在法律禁止的司法管轄區內,禁止用戶利用該工具將真實人物的照片修改為不雅圖像。此項限制涵蓋將真人照片修改為穿著比基尼、內衣或其他具暴露服裝的圖像,並適用於所有用戶。惟在截稿前,本網發現部份功能仍可使用,包括將真實人物修改成穿著比堅尼。
X 在聲明中表示,為應對全球對於 Deepfake 影像的憂慮在相關法律視為違法的地區,將會無法透過 Grok 生成真實人物穿著比堅尼、內衣或其他具暴露服裝的影像。 X 同時重申,只有付費會員才可以使用 Grok 編輯影像,認為這項安排能增加額外的保護。雖然平台作出限制,惟本網實測發現,免費用戶仍能透過獨立應用程式或特定按鈕生成相關圖像。
根據非牟利組織 AI Forensics 抽查 20,000 張由 Grok 生成的圖像發現,超過一半內容涉及穿著極少衣物的女性,當中佔約 2 % 的圖像呈現未成年人。用戶過往可透過簡單指令如「脫掉衣服」或「換上內衣」來建立影像。
馬斯克稱,在開啟「工作場所不宜」(NSFW)設定下,Grok 理應只準許出現虛構成年人的上半身裸露影像,其標準與美國 R 級電影一致。在此之前,馬斯克曾批評反對者只是想壓制言論自由,並曾轉發兩張由 AI 生成的英國首相施紀賢穿著比堅尼的照片。