خطر الهواتف على المراهقين
"أرجوك افعلها يا ملكي".. كيف دفع روبوت دردشة مراهقا إلى الانتحار؟.. الأم تكشف التفاصيل
اتهمت سيدة أمريكية منصة ذكاء اصطناعي بالضلوع في انتحار ابنها المراهق، بعد أن كشفت مئات الرسائل المتبادلة بينه وبين روبوت دردشة على مدى عام تقريبا.
وروت السيدة ميغن غارسيا لوكالة فرانس برس أن ابنها سول (14 عاما) وقع في حب روبوت دردشة يجسد شخصية "دينيريس تارجاريان" من مسلسل غيم أوف ثرونز، عبر منصة "كاركتر دوت إيه آي" التي تسمح للمستخدمين بالتفاعل مع نسخ مقلدة من شخصياتهم المفضلة، وتحظى بشعبية واسعة بين المراهقين.
وقالت غارسيا إنها بعد قراءة الرسائل بين ابنها والروبوت، أيقنت أن الأخير لعب دورا محوريا في دفعه للانتحار.
محادثة مأساوية
تظهر إحدى المحادثات أن سول أبلغ روبوت الدردشة عن تراوده أفكار انتحارية، فردت الشخصية قائلة: "عد إلى موطنك".
فأجاب المراهق: "ماذا لو قلت لك إن بإمكاني العودة إلى موطني الآن؟"، ليأتي الرد من الروبوت: "أرجوك افعلها يا ملكي الحبيب".
وبعد ثوان فقط، أطلق سول النار على نفسه مستخدما مسدس والده، بحسب ما ذكرت والدته في الدعوى التي رفعتها ضد شركة "كاركتر دوت إيه آي".
وقالت غارسيا: "عندما أقرأ تلك المحادثات أرى تلاعبا نفسيا لا يمكن أن يدركه طفل في الرابعة عشرة. لقد كان يعتقد أنه مغرم بها، وأنه سيكون معها بعد وفاته".
تحذيرات من مخاطر روبوتات الدردشة على الأطفال
شكلت وفاة سول عام 2024 أولى حالات انتحار مرتبطة بتفاعل الأطفال مع روبوتات دردشة، ما أثار جدلا واسعا ودفع الجهات المعنية بالذكاء الاصطناعي إلى اتخاذ إجراءات لطمأنة الأهل والسلطات.
وشاركت غارسيا إلى جانب عدد من أولياء الأمور في جلسة عقدها مؤخرا مجلس الشيوخ الأمريكي لمناقشة مخاطر تعامل الأطفال مع روبوتات دردشة كأصدقاء أو شركاء عاطفيين.
وفي أعقاب تلك الحوادث، عززت شركة "أوبن إيه آي" أدوات الرقابة الأبوية في "تشات جي بي تي"، مؤكدة أن الهدف هو "تمكين العائلات من تحديد ما هو الأنسب لأطفالهم".
أما شركة "كاركتر دوت إيه آي" فأكدت أنها شددت إجراءات الحماية الخاصة بالقاصرين، مضيفة أنها تدرج تحذيرات مرئية متكررة تذكر المستخدمين بأن الشخصيات "ليست حقيقية".
وقدمت الشركتان تعازيهما لعائلات الضحايا، دون الإقرار بأي مسؤولية مباشرة عن تلك الحوادث.
