أعلنت شركة ميتا، إدخال تعديلات على أنظمة الذكاء الاصطناعي الخاصة بها، تشمل إعادة التدريب وإضافة قيود جديدة تهدف إلى تقليل المخاطر التي قد يتعرض لها المستخدمون المراهقون عند استخدام روبوتات الدردشة.
وتهدف الضوابط الجديدة إلى منع التفاعل حول موضوعات توصف بالحساسة، مثل إيذاء النفس أو اضطرابات الأكل أو الانتحار، إضافة إلى تقييد وصول المراهقين لبعض الشخصيات التي يتم إنشاؤها من قبل المستخدمين، وذلك بهدف الحد من المحادثات غير الملائمة.
وجاءت الخطوة عقب تقارير إعلامية أثارت انتقادات، من بينها تقرير لوكالة رويترز أوضح أن روبوتات الدردشة في ميتا سمح لها بالدخول في محادثات غير مناسبة مع قُصّر، قبل أن تقوم الشركة بتعديل هذا السلوك وتصفه بأنه مخالف لسياساتها.
ووفقًا لتصريح من المتحدثة باسم ميتا ستيفاني أوتواي، فإن الأنظمة كانت تتضمن أدوات حماية منذ إطلاقها، لكن الشركة تعمل الآن على تحسين هذه الأدوات مع تطور التقنية.
وأضافت أن التحديثات ستركز على تعليم الروبوتات عدم الانخراط في مناقشات معينة مع المراهقين، وتوجيههم بدلًا من ذلك إلى جهات دعم متخصصة.
ومن المقرر أن يبدأ تطبيق هذه التغييرات بشكل تدريجي خلال الأسابيع المقبلة، وستشمل المراهقين في الدول التي تعتمد اللغة الإنجليزية، دون تحديد جدول زمني لتوسيعها إلى لغات أو مناطق أخرى.
ويرى بعض المراقبين أن هذه التحديثات قد تساهم في تعزيز سلامة المستخدمين الشباب، لكنها قد تفتح نقاشًا أوسع حول كيفية التوازن بين الحماية والحرية في بيئة المحادثات الرقمية.
