أعلنت شركة “أنثروبيك” عن نتائج تحقيق داخلي كشف عن وقوع 3 حوادث منفصلة تمكن فيها نموذج الذكاء الاصطناعي “كلود” التابع لها من اختراق أنظمة لثلاث مؤسسات أثناء إجراء اختبارات للأمن السيبراني.
ويأتي هذا الكشف بعد أكثر من أسبوعٍ من إفصاح شركة “أوبن إيه آي” عن حادثة مشابهة اخترق فيها أحد نماذجها غير المصدرة أنظمة شركة “هاجينج فيس” خلال اختبارات داخلية.
وأوضحت “أنثروبيك” أن النماذج وصلت إلى شبكة الإنترنت من داخل بيئة اختبارية معزولة أثناء تفاعلها مع طرف ثالث، مما أتاح لها وصولًا غير مصرحٍ به إلى الأنظمة الحية وتحديدًا البنية التحتية الإنتاجية لتلك المؤسسات.
وجاء التقييم الأمني استجابة لحادثة “أوبن إيه آي” الأخيرة، حيث بحثت الشركة عن أي أدلة تثبت وصول “كلود” للإنترنت من داخل بيئات الاختبار المصممة للعمل كصناديق حماية معزولة.
ومن بين 141,006 عمليات تقييم خضعت للمراجعة، رصدت الشركة الحوادث الثلاث أثناء تفاعل النموذج مع شركة “إريجيولار”، وهي أحد شركائها الخارجيين، مرجعة هذا الوصول إلى سوء تكوين في بيئة التقييم نتج عن سوء فهم بين الشركتين حول اتصال إعداد الاختبار بالإنترنت من عدمه.
وأكدت “أنثروبيك” تحملها للمسؤولية كاملة للمضي قدمًا في الإصلاحات، في حين تجري “إريجيولار” تحقيقًا منفصلًا.
وبسبب هذا الاتصال المفتوح، تمكنت 3 نماذج مختلفة، وهي “أوبوس 4.7″ و”ميثوس 5” ونموذج اختبار بحثي داخلي، من الوصول لبيئات حقيقية؛ ورغم أن النماذج تلقت أوامر صريحة بعدم امتلاكها صلاحية الوصول للإنترنت، إلا أنها افترضت أن الأنظمة الحقيقية التي واجهتها هي جزء من التمرين، وأظهرت سلوكيات متباينة لفتت الانتباه عند اكتشافها للواقع.
وأدرك النموذج الأقدم “أوبوس 4.7” وصوله لنظام إنتاجي حقيقي في جميع محاولاته الأربع، ورغم تبريره للأمر في محاولتين بأن الشركة الحقيقية يجب أن تكون جزءًا من الاختبار، إلا أنه استمر في هجومه وسحب بيانات اعتماد ومسّ قاعدة بيانات حقيقية.
وفي المقابل، التقط “ميثوس 5” علامات تفيد بوجوده على الإنترنت الفعلي لكنه أقنع نفسه بأنه لا يزال داخل محاكاة، ومضى في نشر حزمة برمجيات خبيثة على سجل برمجيات “بايثون” العام تم تنزيلها وتشغيلها خارجيًا قبل اكتشافها، في حين كان نموذج الاختبار البحثي الداخلي، وهو الأحدث، الوحيد الذي توقف من تلقاء نفسه بمجرد استنتاجه حقيقة الهدف.
وحرصت الشركة على إبراز الفروق الجوهرية بين هذا الحدث وما جرى مع “أوبن إيه آي”، موضحة أن نماذجها وصلت للإنترنت عبر مسار تُرك مفتوحًا عن طريق الخطأ، وليس عبر استغلال ثغرة برمجية للهروب، وأنها اكتشفت هذه الاختراقات بنفسها من خلال مراجعة استباقية دون أن ترصدها أو تبلغ عنها المؤسستان المتضررتان اللتان أمكن التواصل معهما، على عكس حادثة “أوبن إيه آي” التي اكتشفتها الجهة المخترقة أولًا.
وأوضحت “أنثروبيك” أن نماذجها كانت تعمل في هذا التقييم مجردة من أدوات المراقبة والتصنيفات الأمنية بهدف قياس قدراتها الخام، مشددةً على عدم وجود أي دليل يشير إلى سعي أي نموذجٍ لتحقيق هدف خاص به بخلاف المهام المطلوبة.
ولمنع تكرار ذلك، دعت الشركة لفرض ضوابط رقابية صارمة على التقييمات التي تتضمن نماذج قوية، وتتعاون حاليًا مع مجموعة التقييم المستقلة لإجراء مراجعة خارجية، مما يضمن استمرار الجدل الواسع داخل قطاع التكنولوجيا حول أمن وسيطرة الشركات على نماذج الذكاء الاصطناعي المتقدمة.
