AI人工智慧普及之後，各式智能工具深入大眾日常生活，從日常查詢、學習輔助到生活規劃，為人類帶來極大便利，成為現代生活不可或缺的助力。
但科技從來都是一把雙面刃，正當世人習慣依賴AI解決問題之時，一樁發生在日本東京的少年犯罪案件，讓大眾重新審視AI濫用帶來的嚴重隱憂。
日本東京17歲女高中生聯合友人圍毆前男友並勒索15萬日圓，案件調查後驚曝，犯案核心思路與金額標準，竟是同夥透過ChatGPT諮詢所得，五名涉案者全數遭警方逮捕，揭露AI工具隱藏的社會風險。（示意圖來源：豆包AI）
據《TBS》報導，東京八王子市今年1月爆發一起少年暴力勒索案件，年僅17歲的女高中生（A），因不滿前男友（B）於交往期間觸碰其妹妹腿部，心生不滿與怨恨。
為了報復並索取補償，該少女找來四名友人，包含三名女性、一名男性一同參與犯案。一行人不僅動手毆打受害男子，造成其臉部受傷，更向其強行索要15萬日圓高額款項，行為相當惡劣。
案件曝光後，東京警視廳隨即展開調查，並將五名涉案人員全數逮捕。
審訊過程中，案情出現令人意外的轉折，這起暴力勒索案件並非少年一時衝動的隨機犯案，而是參考AI建議規劃出的完整犯罪計畫。
涉案其中一名同夥，在犯案前曾透過ChatGPT查詢「未成年人遭到猥褻要怎麼處理？」的相關問題。
未料AI給出的回應，竟明確標示私下和解的最低金額為15萬日圓。
這一錯誤且不當的資訊，成為五名少年實施勒索的所謂「依據」，讓她們誤以為此行為合理合法，肆意實施暴力與敲詐行徑。
目前四名涉案女生已全數承認犯罪事實，唯一一名男性涉案者則部分否認相關指控。
這起案件直指當前AI發展的漏洞。AI工具雖能整合海量資訊、提供便捷參考，卻無法辨識使用者的惡意用途，也無法過濾違法、偏離社會價值觀的資訊。
對於價值觀尚未成熟的青少年而言，過度依賴未經把關的AI回答，極易被錯誤資訊誤導，將違法行為合理化。
科技進步的同時，AI倫理規範、使用約束與內容把關機制的缺失，已然成為不容忽視的社會危機。
「最少要 15 萬日圓」向 ChatGPT 諮詢方法，企圖恐嚇交往過的男高中生並索求現金，涉嫌此事的女高中生等五名少年少女遭到逮捕。（來源：TBS NEWS DIG Powered by JNN@YouTube）
