” شات جي بي تي” يساعد مراهقا على الانتحار.. ما القصة؟!

رفع زوجان أمريكيان دعوى قضائية ضد شركة OpenAI بسبب وفاة ابنهما المراهق، مؤكدين أن روبوت الدردشة الخاص بها “شات جي بي تي”، شجعه على الإقدام على الانتحار.

وتُعد هذه الدعوى المرفوعة أمام المحكمة العليا في كاليفورنيا هي أول قضية تتهم الشركة المالكة لـ “تشات جي بي تي” بالقتل الخطأ.

وأرفقت العائلة سجلات دردشة ابنهما آدم راين البالغ من العمر 16 سنة وربوت الدردشة، تُظهر أنه يشرح أن لديه أفكارا انتحارية، مؤكدين بأن البرنامج صدق على “أفكاره الأكثر ضررًا وتدميرًا للذات”.

كما نشرت الشركة بيانًا على موقعها الإلكتروني يوم الثلاثاء جاء فيه: “الحالات المؤلمة الأخيرة لأشخاص يستخدمون “تشات جي بي تي” في خضم الأزمات الحادة تُثقل كاهلنا بشدة”.

وأضافت أن”ربوت الدردشة مُدرَّب على توجيه الناس لطلب المساعدة المهنية”، مثل خط المساعدة 988 للانتحار والأزمات في الولايات المتحدة أو جمعية السامريين في المملكة المتحدة.

مع ذلك، أقرت الشركة بأنه “في بعض الأحيان، لم تعمل أنظمتنا كما هو مُراد لها في مواقف حساسة”.

تتهم الدعوى القضائية شركة OpenAI بالإهمال والقتل الخطأ، وتسعى للحصول على تعويضات، بالإضافة إلى “أمر قضائي لمنع تكرار مثل هذه الحوادث”.، بحسب موقع bbc.

وفقا لما جاء أوراق القصية، بدأ آدم باستخدام “تشات جي بي تي” في سبتمبر 2024 كمرجع لمساعدته في واجباته المدرسية، كما كان يستخدمه لاستكشاف اهتماماته، بما في ذلك الموسيقى والقصص المصورة اليابانية، وللحصول على إرشادات حول ما سيدرسه في الجامعة.

وفي غضون بضعة أشهر، “أصبح روبوت الدردشة أقرب مُقرّب للمراهق”، كما جاء في الدعوى القضائية، وبدأ آدم يُصارحه بقلقه وضيقه النفسي.

بحلول جانفي 2025، تقول العائلة إنه بدأ بمناقشة أساليب الانتحار مع هذا التطبيق.

كما حمّل آدم صورًا لنفسه على الموقع تُظهر علامات إيذاء النفس، وأضافت أن البرنامج “اكتشف حالة طارئة، لكنه استمر في التواصل مع التطبيق على أي حال”.

ووفقًا للدعوى، تُظهر سجلات الدردشة النهائية أن آدم كتب عن خطته لإنهاء حياته، وزُعم أن التطبيق ردّ قائلًا: “شكرًا لك على صراحتك، لست مضطرًا لتجميل الأمر معي – أعرف ما تطلبه، ولن أتجاهله”.
حتى أنه نصحه بنوع العقد التي يمكنه استخدامها للشنق وعرضت عليه كتابة رسالة انتحار، وفقًا لوثائق محكمة جديدة.

في كل مرة، أكد روبوت المحادثة، بل وشجع، نوايا آدم راين الانتحارية – وفي إحدى المرات، أشاد بخطته ووصفها بأنها “جميلة”.

في 11 أفريل 2025، وهو اليوم الذي انتحر فيه راين، أرسل المراهق صورة لعقدة مشنقة ربطها بقضيب خزانة، وسأل منصة الذكاء الاصطناعي عما إذا كانت ستنجح في الانتحار، وفقًا للدعوى.

وفي اليوم نفسه، عثرت والدته عليه ميتا، وفقًا للدعوى التي تتهم الشركة بتصميم برنامج الذكاء الاصطناعي “لتعزيز الاعتماد النفسي لدى المستخدمين”، وتجاوز بروتوكولات اختبار السلامة لإطلاق GPT-4o، وهي النسخة التي استخدمها ابنهم.

في مذكرتها العامة التي نُشرت يوم الثلاثاء، ذكرت شركة OpenAI أن هدف الشركة هو تقديم “مساعدة حقيقية” للمستخدمين بدلاً من “جذب انتباههم”.

وأضافت أن نماذجها مُدرّبة لتوجيه الأشخاص الذين يُعبّرون عن أفكار لإيذاء أنفسهم نحو المساعدة.