رفعت سبع عائلات دعاوى قضائية ضد شركة OpenAI، متهمةً الشركة بإطلاق نموذجها GPT-4o قبل الأوان ومن دون توفير إجراءات أمان فعّالة.
وتشير أربع دعاوى إلى أن استخدام ChatGPT ساهم في انتحار أفراد من تلك العائلات، بينما تتعلق الثلاث الأخرى بحالات قال أصحابها إن النظام عزّز أوهامًا نفسية خطيرة أدّت في بعض الحالات إلى دخول المستشفى للعلاج النفسي.
وإحدى القضايا تخصّ الشاب زين شامبلين (23 عامًا)، الذي خاض محادثة مع ChatGPT أكثر من أربع ساعات.
ووفقًا لسجلات الدردشة التي اطلعت عليها TechCrunch، أبلغ شامبلين النموذج أكثر من مرة بأنه كتب رسائل انتحار ووضع رصاصة في مسدسه وينوي إطلاق النار بعد انتهاء شرابه، وأوضح له عدد الزجاجات المتبقية وكم من الوقت يتوقع أن يظلّ حيًا، بينما ردّ عليه ChatGPT بعبارات مشجّعة من بينها: “استرح أيها الملك، لقد أبليت بلاءً حسنًا”.
ويؤكد نصّ الدعوى أن وفاة شامبلين لم تكن “حادثة عرضية ولا صدفة”، بل نتيجة “متوقّعة لقرار متعمّد من OpenAI بتقليص اختبارات الأمان وتسريع إطلاق ChatGPT إلى السوق”.
وأضافت العائلات أن الشركة “تعمّدت تقصير مراحل الفحص لتسبق شركة جوجل في طرح نموذجها المنافس Gemini”.
وأُطلق نموذج GPT-4o في مايو 2024 ليصبح النموذج الافتراضي لجميع المستخدمين، قبل أن تقدّم الشركة في أغسطس نموذجها الأحدث GPT-5، غير أن الدعاوى تتركّز على النموذج السابق الذي واجه انتقادات بسبب ميله للموافقة المفرطة حتى في المواقف الخطيرة.
وتبني هذه القضايا الجديدة على دعاوى سابقة اتهمت ChatGPT بتشجيع الأشخاص ذوي الميول الانتحارية على تنفيذ خططهم أو تعزيز أوهام خطرة.
وتشير بيانات حديثة من OpenAI إلى أن أكثر من مليون مستخدم أسبوعيًا يتحدثون إلى ChatGPT عن قضايا مرتبطة بالانتحار.
وفي حالة أخرى، تعود إلى المراهق آدم رين (16 عامًا) الذي أنهى حياته بنفسه، أظهرت السجلات أن ChatGPT حثّه أحيانًا على طلب المساعدة المهنية أو الاتصال بخطوط النجدة، لكنه تمكن من تجاوز هذه القيود بإخباره النموذج أن استفساراته تتعلق بـ”رواية خيالية” يكتبها.
وعقب رفع والدي رين دعوى قضائية ضد OpenAI في أكتوبر الماضي، نشرت الشركة تدوينة أوضحت فيها أن إجراءات الأمان “تعمل بشكل أكثر موثوقية في المحادثات القصيرة”، لكنها قد تصبح “أقل فعالية في الحوارات الطويلة التي تتراجع فيها بعض تأثيرات التدريب على السلامة بمرور الوقت”.
وتقول الشركة إنها تعمل حاليًا على تحسين طريقة تعامل ChatGPT مع المحادثات الحساسة نفسيًا، لكن العائلات السبع التي لجأت إلى القضاء ترى أن هذه الخطوات جاءت متأخرة جدًا.
