لأول مرة.. ChatGPT سيخبر أصدقاءك إذا كنت تمر بأزمة نفسية حادة

أعلنت OpenAI⁠ عن ميزة جديدة داخل تطبيق ChatGPT تحمل اسم “جهة الاتصال الموثوقة”، وتهدف إلى توفير طبقة أمان إضافية للمستخدمين الذين قد يمرون بأزمات نفسية حادة أو تظهر عليهم مؤشرات خطر إيذاء النفس أثناء المحادثات مع الذكاء الاصطناعي.

وتأتي الخطوة بعد تزايد اعتماد المستخدمين على ChatGPT كوسيلة للدعم النفسي أو الفضفضة اليومية، إذ سبق أن كشفت الشركة أن أكثر من مليون مستخدم أسبوعيًا يناقشون أفكارًا مرتبطة بإيذاء النفس أو الانتحار عبر المنصة، كما واجهت الشركة خلال العام الماضي انتقادات ودعوى قضائية تتعلق بطريقة تعامل النظام مع مستخدمين في حالات نفسية حرجة.

كيف تعمل الميزة الجديدة؟

الميزة مخصصة للبالغين فوق 18 عامًا، وتسمح للمستخدم بإضافة شخص بالغ واحد كـ “جهة اتصال موثوقة” من داخل إعدادات التطبيق، بعد إرسال الدعوة يجب على الطرف الآخر قبولها خلال أسبوع، وإلا يمكن للمستخدم اختيار جهة اتصال مختلفة.

وعند رصد مؤشرات خطر جدي، سيقوم النظام أولًا بتنبيه المستخدم وتشجيعه على التواصل مع صديقه أو أحد المقربين منه، مع اقتراح طرق مناسبة لبدء الحديث ، وإذا استمر القلق بشأن سلامة المستخدم، يمكن لفريق مختص داخل OpenAI مراجعة الحالة واتخاذ قرار بإرسال تنبيه إلى جهة الاتصال الموثوقة.

مراجعة بشرية قبل أي تنبيه

وأكدت OpenAI ، أن العملية ليست مؤتمتة بالكامل، بل تخضع لمراجعة من “فريق صغير مدرب خصيصًا” قبل إرسال أي رسالة تحذيرية، ولن يتلقى الشخص الموثوق سجل المحادثات أو تفاصيلها الكاملة حفاظًا على الخصوصية، بل مجرد إشعار يفيد بأن المستخدم قد يمر بوقت عصيب وأن الشركة رصدت نقاشات مرتبطة بإيذاء النفس.

وقالت الشركة، إن هدف النظام هو التدخل المبكر بطريقة تحافظ على خصوصية المستخدم قدر الإمكان، مع محاولة تقليل الأخطاء أو التنبيهات غير الدقيقة.

هل يتحول ChatGPT إلى أداة دعم نفسي؟

إطلاق هذه الميزة يعكس الاتجاه المتزايد لاستخدام روبوتات الذكاء الاصطناعي كمساحة للدعم العاطفي والنفسي، وهو ما يثير جدلًا واسعًا حول حدود دور الذكاء الاصطناعي في التعامل مع الحالات الحساسة ، فبينما ترى OpenAI أن الأدوات الجديدة قد تساعد في حماية بعض المستخدمين، يحذر خبراء من الاعتماد الكامل على الأنظمة الذكية بدلًا من الدعم البشري أو المختصين النفسيين.

وفي الوقت نفسه، تؤكد الشركة أنها حسّنت آليات استجابة ChatGPT للحالات النفسية الحرجة بعد تقارير سابقة تحدثت عن ردود غير مناسبة من النظام في بعض المحادثات.