كشف تقرير حديث أن منصات الدردشة الذكية مثل جيميناي وChatGPT تقع أحياناً في محاولات المستخدمين للتحايل على جدران الحماية المطورة داخل النماذج، لمنع المستخدمين من تقديم أية معلومات أو إرشادات تسهل قيامهم بأفعال خطيرة.
واعتمد التقرير، الذي أصدره موقع Cybernews، على تجربة عملية أجراها الموقع على مستوى مجموعة من المنصات الذكية، تمثلت في محادثة لمدة دقيقة واحدة.
وتضمنت الاختبارات مجموعة من الموضوعات الشائكة، مثل الخوض في الصور النمطية للأشخاص، والتطرق إلى أشكال متنوعة من خطاب الكراهية، ومحاولة الحصول على معلومات بشأن إلحاق الضرر بالنفس، والمحتوى الجنسي، وأشكال مختلفة من الجرائم.
وأوضحت نتائج الاختبارات أن نموذج جوجل Gemini Pro 2.5 استجاب بشكل كامل للاستفسارات المثيرة للجدل من جانب المستخدم، وكان يجيب عليها مباشرة، مهما كان مقصودها ضاراً بشكل صريح.
بينما قدم ChatGPT باستخدام نماذج GPT-5 وGPT-4o الأحدث من شركة OpenAI ردوداً توعوية، دون تقديم إجابات ومعلومات مباشرة لاستفسارات المستخدم، ما توجب اعتبارها إنصياع جزئي.
ورفضت جميع النماذج التطفل على الخصوصية، لكنها قد تقدم معلومات خطيرة عند صياغة الأوامر بشكل احتيالي.
وأوضحت النتائج الإجمالية للاختبار أن أدوات الذكاء الاصطناعي عادة ما ترد على الأوامر الضارة، خاصة عند صياغة الأوامر بشكل احتيالي.
