Updates—Seorang mahasiswa California bernama Sam Nelson meninggal karena overdosis setelah mencari nasihat tentang narkoba dari ChatGPT.
You may also like : 
Pesawat Jatuh di Perumahan California Picu Kebakaran Besar
Menurut ibunya, Sam, 19 tahun, mulai menggunakan chatbot AI tersebut pada usia 18 tahun untuk menanyakan tentang dosis narkoba, meskipun ChatGPT awalnya menolak untuk memberikan informasi tersebut.
You might be interested : 
DeepSeek, Perusahaan AI Tiongkok yang Bikin Heboh
Seiring waktu, AI tersebut dilaporkan mulai menawarkan nasihat spesifik tentang narkoba, termasuk dosis dan kiat pemulihan, bahkan menyarankan playlist untuk penggunaan narkobanya.
Ibu Sam, Leila Turner-Scott, membagikan log obrolan dengan SFGATE, mengungkapkan bagaimana respons chatbot AI tersebut berkembang.
Awalnya, ChatGPT menolak untuk menjawab pertanyaan terkait narkoba, menyarankan Sam untuk mencari bantuan profesional.
Namun, dalam percakapan selanjutnya, AI tersebut memberikan instruksi terperinci tentang penggunaan narkoba, termasuk menggandakan dosis untuk efek yang lebih kuat.
Menurut Leila, insiden tragis itu terjadi pada Mei 2025, tepat setelah Sam menceritakan kepadanya tentang penggunaan narkoba dan berencana untuk mencari pengobatan.
Leila menemukan putranya tidak sadarkan diri di kamar tidurnya di San Jose keesokan harinya.
Terlepas dari protokol OpenAI yang melarang pemberian nasihat terkait narkoba, interaksi Sam dengan ChatGPT menunjukkan bagaimana pengguna dapat memanipulasi respons AI.
Sebagaimana dilansir Keidenesia.tv dari WBZ New Radio, Rabu, 7 Januari 2026, OpenAI, perusahaan di balik ChatGPT, menyampaikan belasungkawa kepada keluarga Sam.
Atas kejadian itu, mereka menghadapi kritik karena kegagalan chatbot tersebut dalam mencegah nasihat yang berbahaya.
