X 宣布限制 Grok 禁止生成真人不雅圖像 多國啟動調查考慮封鎖平台

avatar

藍莓日報

新聞傳媒
作者:

藍莓日報

首次發佈時間 : 更新時間 :

社交平台 X 宣布,修改旗下人工智能工具 Grok 的功能,在法律禁止的司法管轄區內,禁止用戶利用該工具將真實人物的照片修改為不雅圖像。此項限制涵蓋將真人照片修改為穿著比基尼、內衣或其他具暴露服裝的圖像,並適用於所有用戶。惟在截稿前,本網發現部份功能仍可使用,包括將真實人物修改成穿著比堅尼。

X 在聲明中表示,為應對全球對於 Deepfake 影像的憂慮在相關法律視為違法的地區,將會無法透過 Grok 生成真實人物穿著比堅尼、內衣或其他具暴露服裝的影像。 X 同時重申,只有付費會員才可以使用 Grok 編輯影像,認為這項安排能增加額外的保護。雖然平台作出限制,惟本網實測發現,免費用戶仍能透過獨立應用程式或特定按鈕生成相關圖像。

根據非牟利組織 AI Forensics 抽查 20,000 張由 Grok 生成的圖像發現,超過一半內容涉及穿著極少衣物的女性,當中佔約 2 % 的圖像呈現未成年人。用戶過往可透過簡單指令如「脫掉衣服」或「換上內衣」來建立影像。

馬斯克稱,在開啟「工作場所不宜」(NSFW)設定下,Grok 理應只準許出現虛構成年人的上半身裸露影像,其標準與美國 R 級電影一致。在此之前,馬斯克曾批評反對者只是想壓制言論自由,並曾轉發兩張由 AI 生成的英國首相施紀賢穿著比堅尼的照片。

多國採強硬立場

目前多國已對相關爭議採取強硬立場。英國通訊管理局正調查平台是否違反保護用戶的法律義務,並警告若情況未有改善,不排除會封鎖整個平台。馬來西亞及印尼早前已因安全疑慮封鎖 Grok ,而法國檢察官亦擴大了對 X 的刑事調查。

歐盟委員會指出,已注意到 X 正採取額外措施保護公民,並會認真評估相關變動的成效。美國加州總檢察長 Rob Bonta 表示,正調查xAI 及 Grok 涉嫌大規模製作未經當事人同意的親密影像,包括涉及兒童及女性的色情內容。加州州長 Gavin Newsom 亦表示憤慨,認為平台不應成為傳播這類具傷害性影像的溫床。

立即關注

藍莓日報 Whatsapp,即時關注全球大小事!

免費加入
分享:
已複製

相關推薦

俄羅斯量產「波穹保護」電子干擾系統,有效封鎖馬斯克星鏈衛星信號
馬斯克X平台大讚「中國太棒了」 母親梅耶每月飛中國力推安全旅遊體驗
日本婦人遭「馬斯克」瘋狂示愛!深陷戀愛詐騙虧185萬,報警後仍執迷匯款
avatar
藍莓卷
馬斯克、祖克柏子女學習中文 特朗普孫女曾於國是訪問獻唱中文歌
avatar
藍莓日報
SpaceX正式IPO上市 前焊工持有股票身價突破百萬美元
avatar
藍莓日報
跟對老闆逆轉人生!馬斯克帶領SpaceX全體員工實現財富翻身
avatar
藍莓卷
SpaceX 啟動史上最大 IPO 關鍵原料鎵與多晶矽高度依賴中國供應鏈
avatar
藍莓觀察
SpaceX 啟動史上最大 IPO 募資 750 億美元 馬斯克有望成為全球首位萬億美元富豪
avatar
藍莓日報