يرفع شكوى ضد ChatGPT بعد اتهامه بقتل أولاده

قدم رجل نرويجي شكوى ضد شركة OpenAI بعد أن أخبره روبوت الدردشة ChatGPT التابع للشركة بشكل خاطئ بأنه قتل اثنين من أبنائه وحُكم عليه بالسجن لمدة 21 عاماً.

تعتبر هذه الحادثة أحدث مثال على ما يُعرف بـ «الهلاوس» في الذكاء الاصطناعي، حيث يقوم النظام باختراع معلومات وتقديمها على أنها حقائق، بحسب ما نشر موقع شبكة بي بي سي البريطانية.

تواصل أرڤه هيلمار هولمن، وهو الرجل الذي وقع عليه هذا الخطأ الفادح، مع الهيئة النرويجية لحماية البيانات وطلب فرض غرامة على OpenAI، الشركة المطورة لروبوت الدردشة.

بحسب هولمن، فإن هذه الهلوسة التي حدثت له تضر به بشكل كبير، مشيراً إلى أن الأشخاص قد يصدقون هذه المعلومات الكاذبة، وهو ما يشكل مصدر قلق له.

بدأت القصة عندما قام هولمن باستخدام ChatGPT للبحث عن: «من هو أرڤه هيلمار هولمن؟» ليحصل على رد يزعم أنه كان والداً لولدين صغيرين، بعمر 7 و 10 سنوات، تم العثور عليهما ميتين في بركة بالقرب من منزله في تروندهايم، النرويج، في دجنبر 2020. وأضافت الإجابة أن هولمن اتُهم بقتل ابنيه وحُكم عليه بالسجن لمدة 21 عاماً.

وأوضح هولمن أن الروبوت قدم بعض التفاصيل الدقيقة حول أعمار أولاده، ما جعله يظن في البداية أن هناك بعض الدقة في المعلومات المقدمة. ومع ذلك، فإن الرواية الكاذبة حول الجريمة وحكم السجن كانت صدمة له، وأكد أن هذا النوع من الهلاوس يمكن أن يكون له تأثير مدمر في الأشخاص.

وتقدمت مجموعة الحقوق الرقمية Noyb، التي تمثل هولمن، بشكوى ضد OpenAI. وأكدت Noyb أن إجابة ChatGPT تشهيرية وتنتهك قوانين حماية البيانات الأوروبية، التي تفرض على الأنظمة أن تقدم معلومات دقيقة. وقال محامي Noyb، يواكيم سودربيرغ: «لا يمكن ببساطة نشر معلومات خاطئة ثم إضافة تنويه صغير بأنها قد لا تكون صحيحة».

الهلاوس التي تحدث في أنظمة الذكاء الاصطناعي التوليدي أصبحت من أبرز القضايا التي يعمل العلماء على حلها. وتشير الخبراء إلى أن هذه الأنظمة تقوم أحياناً بتقديم معلومات غير دقيقة على أنها حقائق، ما يؤدي إلى عواقب وخيمة على المستخدمين.

منذ الحادثة، قام ChatGPT بتحديث نموذجه، حيث أصبح يبحث الآن في المقالات الإخبارية الحالية عند تقديم إجابات. ومع ذلك، أكدت Noyb أن النظام لا يزال يحتوي على «صندوق أسود» يصعب الوصول إلى بياناته لتحديد الأسباب الدقيقة وراء هذه الهلاوس.