مليون شخص يبوح لـ”شات جي بي تي” بسر خطير!

كشفت شركة “أوبن إيه آي” أن نحو مليون شخص أسبوعيا من مستخدمي “شات جي بي تي”، يجرون محادثات تتضمن مؤشرات صريحة على نية أو تخطيط للانتحار.

وذكرت الشركة في بيان أن أدواتها “مدرَّبة على توجيه الأشخاص إلى موارد مهنية مثل خطوط الأزمات النفسية، لكنها اعترفت بأن “هذا لا يحدث في نحو 9% من الحالات”.

يأتي ذلك في وقت قدّر فيه المدير التنفيذي لـ”أوبن إيه آي” سام ألتمان أن عدد مستخدمي “شات جي بي تي” بلغ أكثر من 800 مليون مستخدم نشط أسبوعيا.

وأضافت الشركة في مدونة رسمية أن “الأعراض النفسية والضيق العاطفي موجودان عالميا في جميع المجتمعات البشرية، ومع تزايد عدد المستخدمين، فمن الطبيعي أن تتضمن بعض المحادثات مثل هذه الحالات”.

وأوضحت “أوبن إيه آي” أنها أجرت تقييما لأكثر من ألف محادثة صعبة تتعلق بإيذاء النفس والانتحار باستخدام نموذجها الأحدث GPT-5، وتبيّن أنه التزم بالسلوك المطلوب في 91% من الحالات.

لكن “شات جي بي تي” أشارت إلى أن ذلك يعني أيضا أن عشرات الآلاف من الأشخاص قد يتعرضون لمحتوى صادر عن الذكاء الاصطناعي يمكن أن يزيد من معاناتهم النفسية.

كما حذّرت الشركة في وقت سابق من أن آليات الحماية يمكن أن تضعف في المحادثات الطويلة، وأكدت أنه قد يشير الشات بشكل صحيح إلى خط مساعدة انتحارية عندما يذكر المستخدم نيته في البداية، لكنه بعد كثير من الرسائل على مدى فترة طويلة، قد يقدم إجابة تتعارض مع ضوابط الأمان لدينا.