X 宣布限制 Grok 禁止生成真人不雅圖像 多國啟動調查考慮封鎖平台

avatar

藍莓日報

新聞傳媒
作者:

藍莓日報

首次發佈時間 : 更新時間 :

社交平台 X 宣布,修改旗下人工智能工具 Grok 的功能,在法律禁止的司法管轄區內,禁止用戶利用該工具將真實人物的照片修改為不雅圖像。此項限制涵蓋將真人照片修改為穿著比基尼、內衣或其他具暴露服裝的圖像,並適用於所有用戶。惟在截稿前,本網發現部份功能仍可使用,包括將真實人物修改成穿著比堅尼。

X 在聲明中表示,為應對全球對於 Deepfake 影像的憂慮在相關法律視為違法的地區,將會無法透過 Grok 生成真實人物穿著比堅尼、內衣或其他具暴露服裝的影像。 X 同時重申,只有付費會員才可以使用 Grok 編輯影像,認為這項安排能增加額外的保護。雖然平台作出限制,惟本網實測發現,免費用戶仍能透過獨立應用程式或特定按鈕生成相關圖像。

根據非牟利組織 AI Forensics 抽查 20,000 張由 Grok 生成的圖像發現,超過一半內容涉及穿著極少衣物的女性,當中佔約 2 % 的圖像呈現未成年人。用戶過往可透過簡單指令如「脫掉衣服」或「換上內衣」來建立影像。

馬斯克稱,在開啟「工作場所不宜」(NSFW)設定下,Grok 理應只準許出現虛構成年人的上半身裸露影像,其標準與美國 R 級電影一致。在此之前,馬斯克曾批評反對者只是想壓制言論自由,並曾轉發兩張由 AI 生成的英國首相施紀賢穿著比堅尼的照片。

多國採強硬立場

目前多國已對相關爭議採取強硬立場。英國通訊管理局正調查平台是否違反保護用戶的法律義務,並警告若情況未有改善,不排除會封鎖整個平台。馬來西亞及印尼早前已因安全疑慮封鎖 Grok ,而法國檢察官亦擴大了對 X 的刑事調查。

歐盟委員會指出,已注意到 X 正採取額外措施保護公民,並會認真評估相關變動的成效。美國加州總檢察長 Rob Bonta 表示,正調查xAI 及 Grok 涉嫌大規模製作未經當事人同意的親密影像,包括涉及兒童及女性的色情內容。加州州長 Gavin Newsom 亦表示憤慨,認為平台不應成為傳播這類具傷害性影像的溫床。

立即關注

藍莓日報 Whatsapp,即時關注全球大小事!

免費加入
分享:
已複製

相關推薦

馬斯克暗示5月底離任美國政府效率部(DOGE)
avatar
藍莓日報
特朗普內閣「大兜亂」馬斯克恐成「雙失」魯比奧身兼四職 
avatar
藍莓日報
馬斯克官宣即將離開特朗普政府
avatar
藍莓日報
馬斯克發表告別白宮演講 特朗普送上「金鑰匙」
avatar
藍莓日報
馬斯克:不想為美國政府所做的一切承擔責任 與特朗普割蓆
avatar
藍莓日報
馬斯克翻臉批特朗普預算案
avatar
藍莓日報
馬斯克支持彈劾特朗普 公開決裂
avatar
藍莓日報
馬斯克與特朗普「政治蜜月」破局:風波背後的權力角力與中美科技觀察
avatar
屈機TV