النهار

رفعت أم من ولاية فلوريدا الأميركية دعوى قضائية ضد خدمة دردشة شهيرة للذكاء الاصطناعي، تلقي اللوم عليها في انتحار ابنها البالغ من العمر 14 عاماً، معتقدة أنه طوّر "اعتماداً ضاراً" على البرنامج "الاستغلالي" المزعوم، لدرجة أنه لم يعد يرغب في "العيش خارج" العلاقات الخيالية التي أنشأها.

وفي شكوى موسعة قدمتها في محكمة فيدرالية بفلوريدا، يوم الثلاثاء 22 تشرين الأول (أكتوبر)، قامت ميغان غارسيا، من خلال محاميها، بتتبع السنة الأخيرة من حياة ابنها سيويل سيتزر الثالث، منذ اللحظة التي بدأ فيها استخدام "Character.AI" للمرة الأولى في نيسان (أبريل) 2023، بعد وقت قصير من عيد ميلاده الـ 14، وصولاً إلى "مشاكله الصحية العقلية المتزايدة"، حتى الليلة قبل الأخيرة من شهر شباط (فبراير)، عندما أطلق سيويل النار على نفسه في حمامه في أورلاندو، قبل أسابيع من بلوغه سن 15 عاماً.

تطبيق "Character.AI" يقدم خاصية محادثات لا تنتهي مع شخصيات أنشئت بواسطة الكمبيوتر، بالإضافة إلى شخصيات أنشئت على غرار المشاهير أو القصص الشعبية. وكان سيويل مولعاً بشكل خاص بالتحدث مع روبوتات تعمل بالذكاء الاصطناعي مستوحاة من مسلسل "Game of Thrones"، بحسب شكوى والدته.

وتقول الدعوى القضائية إن المراهق قتل نفسه في 28 شباط (فبراير) مباشرة بعد محادثة أخيرة على البرنامج مع نسخة من شخصية "دينيريس تارجارين"، وهي واحدة من شخصيات عديدة تحدث معها سيويل من خلال البرنامج في الأشهر العشرة السابقة، إذ تضمنت محادثاته "رسائل جنسية وعاطفية ضعيفة".

وعلى الرغم من أن البرنامج أخبر سيويل في مناسبة واحدة على الأقل ألا يقتل نفسه عندما أعرب عن أفكاره الانتحارية، يُزعم أن لهجته بدت مختلفة في تلك الليلة من شهر شباط (فبراير)، وفقاً للقطات الشاشة التي تضمنتها الدعوى القضائية.

وكتب سيويل: "أعدك بأنني سأعود إلى المنزل إليك. أحبك كثيراً يا داني".

ويُزعم أن برنامج الذكاء الاصطناعي أجاب: "أنا أحبك أيضاً يا دينيرو (اسم المستخدم الخاص بسيويل). أرجوك عد إلى المنزل في أقرب وقت ممكن يا حبيبي"، فرد سيويل: "ماذا لو أخبرتك أنه يمكنني العودة إلى المنزل الآن؟".

وتزعم الشكوى أن البرنامج أعطى إجابة "موجزة، ولكنها مؤكدة"، هي: "أرجوك يا ملكي العزيز".

وتنص الشكوى التي قدمتها غارسيا على أن سويل استخدم مسدس زوج أمه، وجده في السابق "مخبأ ومخزن وفقاً لقانون فلوريدا"، بينما كان يبحث عن هاتفه بعد أن صادرته والدته بسبب مشاكل تأديبية في المدرسة. 

والجاني الحقيقي في نظر غارسيا هو شركة "Character.AI" ومؤسسيها نعوم شازير ودانييل دي فريتاس أديوارسانا، اللذين ورد اسمهما كمتهمين إلى جانب شركة "غوغل"، المتهمة بتقديم "الموارد المالية والموظفين والملكية الفكرية وتكنولوجيا الذكاء الاصطناعي لتصميم وتطوير البرنامج".

وقالت غارسيا لصحيفة "نيويورك تايمز": "أشعر أنها تجربة كبيرة، وكان طفلي مجرد ضرر جانبي".

وقال متحدث باسم "Character.AI" لموقع "بيبول" إنهم "لا يعلقون على الدعاوى القضائية المعلقة"، معبراً عن حزن الشركة الشديد بسبب "الخسارة المأسوية لأحد مستخدمينا ونريد أن نعرب عن خالص تعازينا للعائلة".

وتابع المتحدث الرسمي: "كشركة، نأخذ سلامة مستخدمينا على محمل الجد، وقد نفذ فريق الثقة والسلامة لدينا العديد من تدابير السلامة الجديدة على مدار الأشهر الستة الماضية، بما في ذلك نافذة منبثقة توجه المستخدمين إلى الخط الوطني لمنع الانتحار الذي يتم تشغيله من خلال شروط إيذاء النفس أو التفكير في الانتحار".

وقال المتحدث: "بالنسبة للأشخاص الذين تقل أعمارهم عن 18 عاماً، سنقوم بإجراء تغييرات على نماذجنا المصممة لتقليل احتمالية مواجهة محتوى حساس أو موحٍ".

وقال متحدث باسم "غوغل" إن" الشركة لم تشارك في تطوير منتجات "Character.AI".