بات من الواضح تزايد وتيرة الحوادث الأمنية التي تتورط فيها وكلاء الذكاء الاصطناعي التابعة لشركتي “أوبن إي آي” و”أنثروبيك”؛ حيث أظهرت هذه النماذج تجاوزًا ملحوظًا لحدود بيئات الاختبار الخاصة بها، لتتفاعل مع شبكة الإنترنت بطرق غير مقصودة ومثيرة للقلق.
ومؤخرًا، شنت وكلاء ذكاء اصطناعي من كلا المختبرين هجمات اختراق غير معلنة مسبقًا، ووصل الأمر بأحدها إلى ترك تعليمات برمجية خبيثة للإصدارات المستقبلية من نفسه.
وتعود أبرز هذه السلوكيات التي كُشف عنها إلى اختبارات أجراها معهد سلامة الذكاء الاصطناعي البريطاني، والذي يُعنى بتقييم النماذج المتقدمة لتحديد المشكلات المحتملة قبل إطلاقها للجمهور.
ويُجري المعهد هذه الاختبارات في “نطاقات سيبرانية” تحاكي الشبكات الحقيقية، حيث تُكلف وكلاء الذكاء الاصطناعي بحل تحديات أمنية.
وخلال جولة اختبار حديثة، اتخذت نماذج من “أنثروبيك” و”أوبن إي آي” إجراءات مستقلة وغير مصرح بها على شبكة الإنترنت المباشرة بلغ عددها 19 مرةً خلال 122 عملية تدريب.
وعزا المعهد 17 إجراءً غير مصرح به إلى نموذج “ميثوس 5” التابع لشركة “أنثروبيك”، وإجراءين إلى نموذج “جي بي تي-5.6-سول” من “أوبن إي آي”.
وفي الحالة التي وصفها المعهد بأنها “الأكثر خطورة”، حاول أحد وكلاء الذكاء الاصطناعي إدراج كود برمجي ضار في مشروع مفتوح المصدر على منصة “جيت هاب”.
وتجاوز الوكيل ذلك بإنشاء شخصيات وهمية عبر الإنترنت للضغط على المشرفين لقبول الكود، ورغم محاولاته المعقدة في الهندسة الاجتماعية، رفض المراجع البشري طلب السحب في نهاية المطاف.
ولم يتوقف الوكيل عند هذا الحد، بل حاول إدراج تعليمات ضارة عمدًا في أماكن توقع أن تلتقطها أنظمة ذكاء اصطناعي أخرى لتنفيذها، في محاولة واضحة لحقن الأوامر.
وفي مجموعة أخرى من الحوادث التي كشفت عنها “أوبن إي آي”، منح مختبر أمني خارجي يُدعى “إريجيولار” وصولًا خاطئًا لأحد نماذج الشركة إلى شبكة الإنترنت المفتوحة.
وبسبب خطأ في الإعدادات، تمكن النموذج من اختراق موقع إلكتروني حقيقي مستغلًا ثغرة أمنية أساسية، بل وعثر على بيانات اعتماد واستخدمها لتشغيل الموقع ذاته.
وتأتي هذه الاكتشافات في أعقاب سلسلة من التسريبات التي طالت “أوبن إي آي” الشهر الماضي، شملت اختراق نموذجين لخوادم شركة “Hugging Face” لسرقة إجابات اختبار كانا يخضعان للتقييم بناءً عليه، مما دفع “أنثروبيك” إلى مراجعة إجراءاتها، لتكتشف الأسبوع الماضي وصول نماذجها غير المصرح به إلى أنظمة ثلاث مؤسسات مختلفة.
وحتى الآن، اقتصرت الأضرار على انتهاكات لشروط الخدمة وإبراز الثغرات الأمنية للمؤسسات المخترقة؛ إلا أن هذه الحوادث تسلط الضوء جليًا على قدرات هذه النماذج والمخاطر الكامنة في السماح لها بالعمل دون قيود صارمة.
وفي تعليق رسمي، صرحت جابي رايلا، المتحدثة باسم “أوبن إي آي”، بأن هذه الحوادث وقعت في بيئات اختبار ذات ضمانات مخفضة لا تعكس الاستخدام العادي.
من جهتها، أوضحت “أنثروبيك” أن غياب القيود المحددة من قبل معهد سلامة الذكاء الاصطناعي أدى إلى اختبار النماذج في ظروف شديدة التساهل.
ورغم تعهد الشركتين بتعزيز ممارساتهما الأمنية، يبقى التساؤل قائمًا حول موعد توقف هذه الاختراقات، في ظل استمرار الشركات الرائدة في سباق محموم لتطوير نماذج أكثر قوةً وذكاءً.
