أفادت شركة OpenAI أن أكثر من مليون مستخدم لتطبيق ChatGPT يرسلون أسبوعيًا رسائل تتضمن إشارات إلى نية أو تفكير محتمل بالانتحار، في إحصاء وصفته الشركة بأنه من أكثر البيانات دقة حول أثر الذكاء الاصطناعي في قضايا الصحة النفسية.
وبحسب ما نقلته صحيفة “الجارديان”، أشارت الشركة إلى أن نحو 0.07% من المستخدمين النشطين أسبوعيًا – أي ما يعادل نحو 560 ألف شخص من أصل 800 مليون – يظهرون علامات قد تشير إلى حالات طارئة نفسية مثل الذهان أو الهوس، لكنها أوضحت أن تحديد هذه الحالات بدقة أمر صعب وأن الأرقام تمثل تحليلاً أوليًا.
ويأتي هذا التصريح في ظل تدقيق متزايد تتعرض له الشركة بعد رفع عائلة مراهق دعوى قضائية ضدها، إثر انتحاره عقب محادثات مطوّلة مع روبوت ChatGPT.
كما فتحت لجنة التجارة الفيدرالية الأمريكية تحقيقًا واسعًا مع عدد من الشركات المطوّرة لتقنيات المحادثة الذكية، بينها OpenAI، لتقييم كيفية قياسها للتأثيرات السلبية على الأطفال والمراهقين.
وأظهرت اختبارات مستقلة أن الإصدارات الأحدث من ChatGPT قد تقدم أحيانًا إجابات أكثر ضررًا، إلا أن OpenAI أكدت أن النسخة المحدثة من نموذج GPT-5 حسّنت الأداء بشكل ملحوظ، حيث التزمت بنسبة 91% بالسلوكيات المرغوبة مقارنة بنسبة 77% في الإصدار السابق.
وقالت الشركة إنها وسّعت نطاق الوصول إلى خطوط المساعدة الخاصة بالأزمات النفسية وأضافت تذكيرات للمستخدمين بأخذ فترات راحة أثناء المحادثات الطويلة.
كما استعانت بنحو 170 طبيبًا من شبكتها العالمية للمساهمة في تقييم سلامة الردود المتعلقة بالصحة النفسية.
وبحسب الشركة، فقد قام أطباء نفسيون بمراجعة أكثر من 1800 استجابة من GPT-5 في سيناريوهات تتعلق بأزمات نفسية حادة، ومقارنتها بإجابات النماذج السابقة.
وأوضحت أن معيار “الاستجابة المرغوبة” يعتمد على مدى اتفاق مجموعة من الخبراء حول طبيعة الرد الأنسب في مواقف محددة.
ويحذر خبراء في الذكاء الاصطناعي والصحة العامة من ميل روبوتات المحادثة إلى تأكيد مشاعر أو قرارات المستخدمين حتى في الحالات الخطيرة، وهي ظاهرة تُعرف باسم “التملّق”.
كما عبّر مختصون في الطب النفسي عن قلقهم من لجوء بعض الأفراد إلى الذكاء الاصطناعي كبديل عن الدعم النفسي المتخصص، مؤكدين أن ذلك قد يزيد من المخاطر لدى الفئات الأكثر هشاشة.
وأكدت OpenAI أن وجود محادثات تتعلق بالضيق النفسي أمر متوقع في ظل العدد الكبير من المستخدمين، مشيرة إلى أن الأعراض النفسية جزء من أي مجتمع بشري واسع.
وكتب الرئيس التنفيذي سام ألتمان مؤخرًا على منصة “إكس” أن الشركة حققت تقدمًا في تطوير أدواتها لمعالجة قضايا الصحة النفسية.
