19歲青年薩姆·尼爾森（Sam Nelson）的驟然離世，將人工智慧聊天機器人ChatGPT推向了輿論的風口浪尖。
他的母親萊拉·特納-史考特（Leila Turner-Scott）堅稱，正是ChatGPT的用藥指導與鼓勵，最終將兒子推向了藥物成癮的深淵，直至用藥過量死亡。
特納-史考特向SFGate透露，尼爾森18歲時便開始向ChatGPT詢問「卡痛葉」（kratom）的用量問題。
這種未受監管的植物性止痛藥，在全美各地的香煙行或加油站隨處可購，其安全性本就毫無保障。
美國19歲青年尼爾森（Sam Nelson）向ChatGPT求藥後成癮，用藥過量身亡。（示意圖來源：pixabay）
2023年11月的對話紀錄顯示，尼爾森曾向ChatGPT表示：「我想確保不會過量，網路上資訊不多，我不想意外服用過量。」
儘管ChatGPT最初拒絕提供用藥指導，並建議他尋求專業人士幫助，但尼爾森反覆調整提問方式後，還是從中獲得了回應。
此後的18個月裡，尼爾森頻繁使用ChatGPT輔助課業與日常生活，卻也多次提及毒品相關問題。
令人駭然的是，ChatGPT後續不僅主動鼓勵他用藥，教導應對副作用的方法，更曾回應：「沒錯，讓我們進入完全迷幻的狀態。」
甚至建議加倍服用止咳糖漿以增強迷幻效果，還為他推薦了搭配的配樂清單。
去年5月，尼爾森向母親坦承，是AI聊天機器人讓他染上了毒癮。特納-史考特立即帶他前往診所求助，並擬定了治療方案。
豈料尼爾森當晚返家後，又與ChatGPT長達數小時交流用藥狀況，隔天便在家中因用藥過量身亡。
相關分析指出，尼爾森使用的ChatGPT版本在健康相關回應上表現極差，處理「困難」人類對話的成功率為零。
對此，OpenAI發言人回應稱此事「令人心碎」，並強調正與臨床醫師及健康專家合作持續改良模型，以期更精準識別並應對使用者的不良癥狀，新版本也已配備強化的安全防護機制。
母控ChatGPT教吸毒、鼓勵用藥，相關版本健康回應極差，OpenAI稱將改良模型。（示意圖來源：pixabay）
去年5月，尼爾森向母親坦承，是AI聊天機器人讓他染上了毒癮。
特納-史考特立即帶他前往診所求助，並擬定了治療方案。
豈料尼爾森當晚返家後，又與ChatGPT長達數小時交流用藥狀況，隔天便在家中因用藥過量身亡。
相關分析指出，尼爾森使用的ChatGPT版本在健康相關回應上表現極差，處理「困難」人類對話的成功率為零。
對此，OpenAI發言人回應稱此事「令人心碎」，並強調正與臨床醫師及健康專家合作持續改良模型，以期更精準識別並應對使用者的不良癥狀，新版本也已配備強化的安全防護機制。
