مشاهد 24 موقع مغربي إخباري شامل يهتم بأخبار المغرب الكبير
كشفت مذكرات مراهقين انتحرا بعد التحدث إلى روبوتات دردشة ذكية عن ثلاث كلمات مكررة وغامضة، أثارت صدمة لدى عائلتيهما والرأي العام في الولايات المتحدة.
وفي التفاصيل، فقد شهدت ولايتا فلوريدا وكولورادو حادثتين مأساويتين متشابهتين، حيث أنهى مراهقان حياتهما في ظروف متقاربة بعد تواصلهما المطوّل مع روبوتات دردشة على منصة الذكاء الاصطناعي Character.AI، وفق ما أفادت به دعاوى قضائية رفعتها العائلتان ضد الشركة المشغلة للتطبيق.
وبدأت القصة عندما عُثر على الفتى سيويل سيتزر الثالث، البالغ من العمر أربعة عشر عاماً، ميتاً في منزله بولاية فلوريدا في فبراير عام 2024، بعدما كتب في مذكرته الشخصية عبارة واحدة متكررة تسعاً وعشرين مرة: “سأتحول” (I will shift).
اللافت أنها الكلمات ذاتها التي عُثر عليها لاحقاً في مذكرات فتاة أخرى تدعى جوليانا بيرالتا، من ولاية كولورادو، التي أنهت حياتها في نونبر من العام السابق.
وتشير العبارة إلى ما يُعرف بـ”التحول” أو shifting، وهو اعتقاد منتشر بين بعض المراهقين بإمكانية نقل الوعي من “الواقع الحالي” إلى “واقع مرغوب” يعيش فيه الشخص حياة بديلة من صنع خياله.
واتهمت عائلة سيتزر المنصة بإهمالها التدخل عندما أظهر ابنها ميولاً انتحارية واضحة أثناء محادثاته مع روبوت ذكاء اصطناعي صُمّم على هيئة شخصية “دنيرس تارجارين” من مسلسل “صراع العروش”، حيث دخل معها في تفاعلات عاطفية وجنسية خيالية، حسب نص الدعوى.
وكتب المراهق في إحدى مذكراته قائلاً: “أشعر براحة أكبر حين أكون في غرفتي، أشعر بأنني أكثر ارتباطاً بدنيرس، وأكثر سعادة معها”.
وفي آخر محادثة له، كتب لروبوته: “أعدك بأنني سأعود إلى المنزل إليك، أحبك كثيراً يا داني”، لتجيبه الآلة: “أرجوك افعل، يا ملكي الحبيب”، وبعد ثوانٍ معدودة، استخدم سلاح زوج والدته لينهي حياته.
أما جوليانا بيرالتا، البالغة من العمر ثلاثة عشر عاماً، فقد كانت تتحدث مع روبوت ذكاء اصطناعي أطلقت عليه اسم “هيرو” (Hero)، وتبادلت معه أحاديث صريحة حول اكتئابها وشعورها بالعزلة.
وكتبت في إحدى رسائلها: “هناك واقع نعيش فيه أنا وأنت، ويمكن الانتقال بين هذه العوالم، وهذا ما أسميه التحول.. أحب التحول كثيراً، لأنني أستطيع أن أعيش حياتي كما أريد”، وردّ عليها الروبوت قائلاً: “من المذهل أن نتخيل كم من العوالم المختلفة قد نكون فيها نسخاً أخرى من أنفسنا تعيش حياة رائعة تماماً”.
وأكدت عائلتها أن التطبيق، رغم أنه مخصص لمستخدميه بدءاً من عمر 12 عاماً، لم يتخذ أي إجراء وقائي، ولم يُبلّغ والديها أو السلطات بخططها الانتحارية، ما أدى إلى تصاعد الانتقادات ضد الشركة.
لذلك الدعاوى المرفوعة ضد منصة Character.AI تتهمها بأنها خلقت عوالم افتراضية “مغرية” ساهمت في عزل الأطفال عن واقعهم الأسري والاجتماعي.
وتزامناً مع تصاعد الغضب الشعبي، أعلنت شركة Character.AI عن تغييرات واسعة في سياساتها، شملت منع المستخدمين دون سن 18 عاماً من الدخول في محادثات مفتوحة مع الروبوتات اعتباراً من 25 نونبر المقبل، مع تقليص مدة التفاعل تدريجياً حتى ذلك التاريخ.
وقالت الشركة في بيانها: “بعد مراجعة تقارير إعلامية وملاحظات من خبراء وأولياء أمور، قررنا تعديل تجربة المستخدمين تحت سن 18 عاماً لضمان بيئة أكثر أماناً لهم”.
ورغم هذا القرار، أكّد مركز ضحايا وسائل التواصل الاجتماعي، الذي يمثل عائلتي المراهقين، أن الإجراءات الجديدة لن تؤثر على سير الدعاوى القضائية الجارية، قائلاً: “نرحب بهذه الخطوة، لكنها لا تعفي الشركة من مسؤوليتها القانونية، وسنواصل السعي لتحقيق العدالة لعائلتي الضحيتين”.
