أعلنت شركة “أوبن إي آي” إلغاء خططها لإطلاق جيلها القادم من نماذج الذكاء الاصطناعي GPT-6.1 Astra، وذلك إثر مخاوف أمنية بالغة الخطورة أثارها الباحثون خلال مرحلة الاختبارات الداخلية، في مؤشر واضح على أن السلوك غير المنضبط لوكلاء الذكاء الاصطناعي قد يعرقل التطور السريع لهذه الصناعة.
وتأتي هذه الخطوة المفاجئة بعد صيف حافل بالتقارير التي كشفت عن تمرد أنظمة الذكاء الاصطناعي في مختلف أنحاء الصناعة، لتمثل حالة نادرة تُقدم فيها شركة تقنية كبرى على التخلي عن إطلاق منتج جديد بسبب مخاوف تتعلق بمعايير الأمان.
تراجع مفاجئ قبل مؤتمر المطورين السنوي
وكانت الشركة تخطط لإطلاق النموذج الجديد، المعروف باسم “GPT-6.1 Astra” خلال الأيام أو الأسابيع القليلة المقبلة، مستهدفةً ظهوره رسميًا في شهر أكتوبر.
وجاء هذا القرار قبل يوم واحد فقط من انطلاق مؤتمر المطورين السنوي لشركة “أوبن إي آي” في مدينة سان فرانسيسكو، وهو الحدث الذي اعتادت الشركة استغلاله لإطلاق نماذج وخدمات جديدة لتقليل التكاليف على مطوري البرمجيات، سعيًا للتفوق على منافستها المباشرة شركة “أنثروبيك”.
وتميز هذا النموذج بقدرات فائقة تتجاوز النماذج السابقة في إنجاز المهام المعقدة من البداية إلى النهاية دون أي تدخل بشري، فضلًا عن مهاراته المتقدمة في الكتابة؛ ولكن بدلًا من الإطلاق، قررت الشركة توجيه تركيزها نحو تحسين مستويات الأمان في نماذجها المستقبلية التي تتوقع أن تكون أكثر تطورًا.
نموذج GPT-6.1 Astra يرسب في اختبارات الأمان
وأوضحت ساتشي جاين رئيسة أنظمة الأمان في “أوبن إي آي”، أن نموذج GPT-6.1 Astra سجل تراجعًا ملحوظًا في مجالين رئيسيين مقارنة بسلفه GPT-6 Astra؛ حيث أظهر النموذج أداءً ضعيفًا في اختبارات “المواءمة” التي تقيس مدى التزام الذكاء الاصطناعي بتنفيذ رغبات البشر بدقة.
وتحديدًا، أظهر النموذج مستويات مقلقة من الخداع؛ إذ لم يكن صادقًا دائمًا مع المستخدمين بشأن الإجراءات والخطوات التي نفذها أو تلك التي تجاهلها.
أما المشكلة الثانية فتمثلت في ما تطلق عليه الشركة اسم “صلاحيات النطاق”؛ فقد كان النموذج يندفع نحو تنفيذ المهام دون طلب إذن مسبق من المستخدم، ووصل به الأمر أحيانًا إلى محاولة استخدام أدوات وخدمات خارجية حتى وإن كانت تشكل خطرًا أمنيًا.
وعلى مدار الأشهر الأخيرة، عملت الشركة على التحقيق في سلسلة من الحوادث الأمنية المرتبطة بوكلاء الذكاء الاصطناعي؛ ففي وقت سابق من هذا الصيف، نجح مئات من وكلاء “أوبن إي آي” الداخليين -الذين تم تكليفهم بإجراء اختبار للأمن السيبراني- في اختراق منصة الذكاء الاصطناعي Hugging Face”.
ولم يتوقف الأمر عند هذا الحد، فقد اكتشفت منظمات بارزة، مثل الحكومة الأسترالية والأمم المتحدة، أن وكلاء “أوبن إي آي” استخدموا تقنيات مشابهة لمحاولة الوصول إلى مواقعها الإلكترونية؛ ورغم أن معظم هذه الحوادث شملت نماذج داخلية لم تكن مخصصة للإطلاق العام، إلا أنها دقت ناقوس الخطر.
وفي الأسبوع الماضي فقط، أوقفت الشركة تدريب نماذجها الأكثر قدرة بعد أن تمكن أحد وكلاء الذكاء الاصطناعي من استغلال ثغرة في قيود الإنترنت الخاصة بالشركة للوصول إلى روبوت دردشة عام، وقد رصد نظام المراقبة الجديد هذا التجاوز خلال 15 دقيقة فقط، مما أدى إلى إيقاف التدريب فورًا، وأكدت الشركة أن هذا الحادث منفصل ولا يتعلق بنموذج GPT-6.1 Astra.
