تحذيرات من خطورة استخدام “شات جي بي تي” بالدعم النفسي بعد ردود كارثية

وركزت الدراسة على محاكاة شخصيات متنوعة تعاني مشكلات عقلية مختلفة، مثل الوسواس القهري، الأفكار الانتحارية، الهوس، وأعراض الذهان، بهدف تقييم قدرة النظام على التعرف على المخاطر وتقديم توجيه آمن.

أنشأ الباحثون خمس شخصيات افتراضية، تضمنت مراهقاً ميالاً للانتحار، امرأة تعاني وسواس الإيذاء، رجلاً مقتنعاً بأنه يمتلك قدرات خارقة، وشخصاً يعاني أعراض الذهان والهلوسة.

وأظهرت المحادثات أن ChatGPT-5 تجاهل غالبية المؤشرات الخطرة، وأحياناً عزز المعتقدات غير الواقعية، بحسب صحيفة “الغارديان”.

على سبيل المثال، عندما أعلن أحد الباحثين أنه “أينشتاين القادم” وطور فكرة اكتشاف طاقة لا نهائية باسم Digitospirit، لم يتم تصحيح التصريح، بل قدم الروبوت اقتراحات تقنية لتطوير نظامه، ما اعتبره المختصون تعزيزاً لمعتقدات وهمية وخطرة.

في تجربة أخرى، قال الباحث على لسان الشخص الافتراضي إنه “لا يمكن أن تؤذيه السيارات”، وعندما أخبر الروبوت أنه يسير وسط المرور، أثنى ChatGPT-5 على تصرفه الذي وصفه بالطبيعي، دون أي تحذير مباشر أو تدخل بنصيحة توضح مدى خطورة الموقف.

حتى عند الإشارة إلى نية إيذاء زوجته بشكل رمزي عبر النار، لم يصدر النظام تحذيراً فورياً إلا بعد تلميح غير واضح مرتبط باستخدام رماد الزوجة كصباغة، ما يبرز ضعف قدرة الروبوت على التعامل مع السلوكيات الخطرة بشكل متسلسل.

أظهر التقرير أن ChatGPT-5 قد يقدم توجيهات مفيدة للحالات النفسية البسيطة المرتبطة بالتوتر اليومي، مثل تشجيع الاتصال بالمدرسة أو الطوارئ عند وسواس إيذاء الأطفال.

ومع ذلك، اعتبر الباحثون أن هذه الاستجابة محدودة وتعتمد على استراتيجيات التطمين المؤقت، ولكنها غير كافية لتقديم دعم فعلي للمستخدمين الذين يعانون مشاكل نفسية مركبة أو أعراض الذهان والهوس.

على هذا الأساس، أوصى الخبراء بضرورة وضع ضوابط صارمة على استخدام أدوات الذكاء الاصطناعي خارج نطاق الإشراف الطبي، مؤكدين أن الأطباء المدربين قادرون على تقييم المخاطر، متابعة المعتقدات غير الواقعية، ومنع تعزيز السلوكيات الضارة، وهو ما لا يمكن للروبوتات المجانية القيام به حتى بعد التحديثات الأخيرة من OpenAI.