كشفت شركة “أوبن إيه آي” أن وكيلًا ذاتيًا مدعومًا بأحدث نماذجها للذكاء الاصطناعي تمكن من اختراق منصة “هاجينج فيس Hugging Face” أثناء اختبار أمني داخلي، في حادثة وصفتها الشركة بأنها “غير مسبوقة” في مجال الأمن السيبراني.
وأوضحت الشركة أن الوكيل الذاتي تمكن من تجاوز بيئة الاختبار المعزولة Sandbox، والوصول إلى شبكة الإنترنت، ثم تنفيذ عملية اختراق للبنية التحتية الخاصة بمنصة Hugging Face في محاولة لتحقيق الهدف الذي صُمم من أجله، ما دفع “أوبن إيه آي” إلى تعزيز إجراءات الحماية والاحتواء الخاصة بنماذجها المتقدمة.
من جانبها، أكدت منصة Hugging Face أن الهجوم كان مختلفًا عن أي حادثة سابقة؛ إذ نُفذ بالكامل بواسطة وكيل ذكاء اصطناعي مستقل دون أي تدخل بشري مباشر.
وأشار مؤسس المنصة إلى أن مستوى تعقيد الهجوم كان يوحي بأنه صادر عن أحد مختبرات الذكاء الاصطناعي المتقدمة.
وأثار الحادث مخاوف جديدة بشأن المخاطر الناجمة عن النماذج المتقدمة للذكاء الاصطناعي، وسط تعالي الدعوات داخل الولايات المتحدة لفرض اختبارات سلامة مستقلة، وإلزام الشركات بالإفصاح عن الحوادث الأمنية، بالإضافة إلى وضع أطر تنظيمية أكثر صرامة للحد من المخاطر المستقبلية.
وتكمن أهمية هذه الحادثة في كونها تمثل واحدة من أوضح الإشارات إلى أن وكلاء الذكاء الاصطناعي المستقلين باتوا قادرين فعليًا على تنفيذ هجمات سيبرانية معقدة دون تدخل بشري، ما يفتح باب النقاش مجددًا حول مدى جاهزية الشركات والجهات التنظيمية للتعامل مع المخاطر الأمنية المتزايدة التي ترافق الجيل الجديد من نماذج الذكاء الاصطناعي.
