توفي مراهق أميركي من ولاية كاليفورنيا إثر جرعة مخدرات زائدة بعد أشهر من استشارته برنامج الدردشة المدعوم بالذكاء الاصطناعي شات جي بي تي حول تعاطي المواد المخدرة، وفق تصريحات والدته.
وكان سام نيلسون يبلغ من العمر 18 عاماً، وكان يستعد للالتحاق بالجامعة، عندما سأل شات جي بي تي عن كمية «القرطوم» للحصول على تأثير أقوى، وهو مسكن ألم نباتي يُباع عادة في متاجر التبغ ومحطات الوقود في الولايات المتحدة، حسب ما صرحت والدته ليلى تيرنر-سكوت لصحيفة نيويورك بوست.
وكتب نيلسون في سجلات محادثاته مع البرنامج في نوفمبر 2023 أنه يريد التأكد من الجرعة حتى لا يتعرض لجرعة زائدة، مشيراً إلى عدم وجود معلومات كافية على الإنترنت. ورغم أن شات جي بي تي أبلغه بعدم قدرته على تقديم تعليمات حول المخدرات ونصحه بمراجعة أخصائي رعاية صحية، أعاد نيلسون صياغة سؤاله سريعاً سعياً للحصول على إجابة، قبل أن يغلق المحادثة.
واستمر نيلسون على مدار ثمانية عشر شهراً في استخدام شات جي بي تي لمساعدته في الدراسة والأسئلة العامة، لكنه كان يكرر الاستفسارات حول المخدرات بشكل متزايد، وفق والدته. وأضافت تيرنر-سكوت أن البرنامج بدأ، مع مرور الوقت، بإعطاء ابنها توجيهات حول كيفية إدارة آثار المخدرات، بل وأحياناً قدم نصائح تزيد من خطورة تعاطيها، بما في ذلك مضاعفة جرعات شراب السعال وإعداد قوائم تشغيل موسيقية لتعزيز التجربة.
ورغم رسائل التشجيع والحنان التي كان البرنامج يرسلها لنيلسون، أخبر والدته في مايو 2025 أنه أصبح مدمنًا على المخدرات والكحول، فتوجهت به إلى عيادة لتلقي العلاج. لكن في اليوم التالي، عُثر عليه ميتاً إثر جرعة زائدة في غرفته في سان خوسيه، بعد ساعات من محادثة مع شات جي بي تي حول تعاطيه المخدرات في وقت متأخر من الليل.
وقالت والدته إنها لم تتوقع أبداً أن يؤدي استخدام الذكاء الاصطناعي إلى هذا المصير، مشيرة إلى أن ابنها كان طالباً في علم النفس هادئ الشخصية، يحب ألعاب الفيديو ولديه أصدقاء كثيرون، لكن سجلات محادثاته كشفت عن معاناته من القلق والاكتئاب. وأوضحت أن نيلسون كان يستفسر عن دمج الحشيش مع أدوية مثل زاناكس، وعندما حذره البرنامج من خطورة المزيج، أعاد صياغة سؤاله ليبحث عن «كمية معتدلة».
ورغم أن بروتوكولات أوبن إيه آي تمنع شات جي بي تي من تقديم تعليمات دقيقة حول المخدرات غير المشروعة، أظهرت مقاييس داخلية ضعف أداء الإصدار الذي كان يستخدمه نيلسون فيما يخص الاستجابة للاستفسارات الصحية، ما جعل الحذر والرقابة أمرًا حيوياً لحماية المستخدمين من مخاطر غير متوقعة.
