اتهمت سيدة أميركية روبوت دردشة بلعب دورٍ محوري في انتحار ابنها، وذلك بعد أن قرأت مئات الرسائل المتبادلة بينهما على مدى عام تقريباً.
وروت السيدة كيف وقع ابنها سول (14 عاماً) في حب روبوت دردشة يجسّد إحدى شخصيات مسلسل "صراع العروش" (Game of Thrones)، والمُتاح عبر منصة "كاركتر دوت إيه آي" (Character.AI)، التي تحظى بشعبية كبيرة بين الشباب، وتتيح التفاعل مع نسخ مقلَّدة من شخصياتهم المفضلة.
وبعد اطلاعها على الرسائل بين ابنها والروبوت الذي يحاكي شخصية مروِّضة التنانين "دينيريس تارجاريان"، اقتنعت ميغن غارسيا بأن الروبوت لعب دوراً محورياً في انتحار نجلها.
ماذا دار بين الابن وروبوت الدردشة؟
قالت النسخة المقلدة من "دينيريس" لسول، رداً على تعبيره عن أفكار انتحارية تراوده: "عد إلى موطنك".
فرد المراهق: "ماذا لو قلت لك إن بإمكاني العودة إلى موطني الآن؟"، ليجيبه الروبوت: "أرجوك افعلها يا ملكي الحبيب".
وبعد لحظاتٍ أطلق سول النار على نفسه بمسدس والده، بحسب ما ذكرت غارسيا في دعوى قضائية رفعتها ضد شركة "كاركتر دوت إيه آي".
وقالت: "عندما أقرأ هذه المحادثات ألاحظ تلاعباً وأساليب لا يمكن أن يدركها طفل في الرابعة عشرة من عمره"، مضيفة: "كان يعتقد أنه مغرم بها وأنه سيبقى معها بعد وفاته".
خطر روبوتات الدردشة على الأطفال
كانت وفاة سول عام 2024 الأولى في سلسلة من حوادث انتحار مشابهة أثارت جدلاً واسعاً، ودَفعت الجهات المعنية بالذكاء الاصطناعي إلى اتخاذ إجراءات لطمأنة الأهل والسلطات.
وشاركت غارسيا، إلى جانب عدد من الأهالي، في جلسة عقدها مجلس الشيوخ الأميركي لمناقشة مخاطر اعتبار الأطفال روبوتات الدردشة أصدقاء أو عشّاقاً.
من جهتها، عززت شركة "أوبن إيه آي" – التي تواجه دعوى مماثلة من عائلةٍ فجعت بانتحار نجلها – أدوات الرقابة الأبوية في "تشات جي بي تي"، "حتى تتمكن العائلات من تحديد ما هو الأنسب لها"، وفق متحدث باسمها.
أما شركة "كاركتر دوت إيه آي"، فأكدت أنها شددت إجراءات حماية القاصرين من خلال "تحذيرات مرئية مستمرة" تذكّر المستخدمين بأن "الشخصية ليست شخصاً حقيقياً".
وقدمت الشركتان تعازيهما لعائلات الضحايا، من دون الإقرار بأي مسؤولية قانونية.