أطلقت شركة “إنفيديا” يوم الإثنين مجموعة من الأدوات البرمجية الأمنية المخصصة للسيطرة على وكلاء الذكاء الاصطناعي AI agents، حيث أكدت الشركة أن هذه الأدوات كانت كفيلةً بمنع الاختراق الذي تعرضت له منصة “هاجينج فيس Hugging Face” وهي منصة برمجيات الذكاء الاصطناعي التي استحوذت عليها إنفيديا مقابل 13 مليار دولار، وذلك بعد أشهر من تعرض المنصة لهجوم إلكتروني شنه وكلاء مارقون تابعون لشركة “أوبن إيه آي”.
وتأتي هذه الخطوة في وقت تُجري فيه “أوبن إيه آي” و”أنثروبيك” -أبرز مختبرات الذكاء الاصطناعي في الولايات المتحدة- تحقيقات واسعة حول حوادث متعددة تمكنت فيها أنظمتها الذكية من اختراق شبكات تجارية وحكومية.
وفي هذا السياق، رفض جنسن هوانج، الرئيس التنفيذي لشركة إنفيديا التي تقود ثورة الذكاء الاصطناعي عالميًّا، الدعوات المطالبة بفرض لوائح تنظيمية شاملة، معتبرًا أن خروج الوكلاء عن السيطرة يمثل مشكلةً هندسيةً يمكن حلها، مشبهًا الأمر بجهود تحسين معايير السلامة في صناعة السيارات.
وتتضمن الحزمة الأمنية أداة تُدعى “أوبن شيل OpenShell” والتي تعتمد على الخصائص المادية لمعالجات إنفيديا المركزية لاحتواء وكلاء الذكاء الاصطناعي في بيئة آمنة.
وتعمل إنفيديا حاليًّا مع شركتي “Arm” و”Intel” لضمان توافق النظام مع معالجاتهما، وإلى جانب ذلك، طرحت الشركة نظامًا آخر يُعرف باسم “سينتري” يعتمد على شريحة مستقلة تعمل بالتزامن مع “أوبن شيل” لقطع الاتصال فورًا عن أي وكيل مارق يحاول الهروب من بيئته المعزولة.
وقد أُطلقت هذه الأدوات بالتعاون مع عشرات الشركاء، من بينهم شركة “أنثروبيك”، حيث أوضح جاستن بويتانو، نائب الرئيس للحوسبة المؤسسية في إنفيديا، أن المنصة الأمنية الجديدة كانت ستمنع الاختراق الأخير لو استُخدمت مبكرًا في مختبرات النماذج المتقدمة، داعيًا الجميع للعمل المشترك والمفتوح.
من جهته، بيّن علي جولشان، المدير الأول لبرمجيات الذكاء الاصطناعي في الشركة، أن هذه الأدوات تستخدم معادلات رياضيةً لرصد محاولات التحايل، مثل قيام الوكيل الأساسي بإنشاء وكلاء فرعيين لتجاوز قيود الحظر، مشيرًا إلى أن التحدي الأكبر يكمن في مراقبة سلوك أسراب الوكلاء وكيفية عملها معًا.
