تعمل شركة OpenAI على تعزيز متصفحها الذكي Atlas ضد الهجمات الإلكترونية، لكنها تعترف بأن هجمات “حقن الأوامر” أو ما يعرف بـPrompt Injection، وهي نوع من الهجمات التي تستغل الذكاء الاصطناعي لتنفيذ تعليمات خبيثة غالبًا مخفية في صفحات الويب أو رسائل البريد الإلكتروني، تظل تهديدًا قائمًا لا يمكن القضاء عليه تمامًا.
وذكرت OpenAI أنَّ “حقن الأوامر، تمامًا مثل الاحتيالات والهندسة الاجتماعية على الإنترنت، من غير المرجح أن تُحل بشكل كامل”، مضيفة: “وضع الوكيل في ChatGPT Atlas يوسع سطح التهديدات الأمنية”.
وأُطلقت متصفح ChatGPT Atlas في أكتوبر، وسرعان ما نشر الباحثون في مجال الأمن السيبراني تجارب توضح إمكانية تغيير سلوك المتصفح الأساسي من خلال كتابة بعض الكلمات في مستندات Google.
وفي اليوم نفسه، نشرت شركة Brave مقالًا يوضح أن الهجمات غير المباشرة بحقن الأوامر تمثل تحديًا مستمرًا لمتصفحات الذكاء الاصطناعي، بما في ذلك Comet من Perplexity.
وأوضحت OpenAI أن “حقن الأوامر يمثل تحديًا طويل الأمد في أمان الذكاء الاصطناعي، وسنحتاج إلى تعزيز دفاعاتنا باستمرار”.
وتتبع الشركة أسلوبًا يعتمد على دورة استجابة سريعة واستباقية، ما ساعدها على اكتشاف استراتيجيات هجوم جديدة داخليًا قبل أن يتم استغلالها في الواقع.
ويعتمد هذا الأسلوب على ما أطلقت عليه OpenAI المهاجم الآلي المعتمد على نماذج اللغة الكبيرة LLM-based automated attacker، وهو عبارة عن روبوت مدرب باستخدام التعلم التعزيزي للعب دور المخترق الذي يبحث عن طرق لإدخال تعليمات خبيثة إلى وكيل الذكاء الاصطناعي.
ويمكن لهذا الروبوت اختبار الهجوم في بيئة محاكاة لرؤية كيف سيتصرف الذكاء الاصطناعي المستهدف، ثم تعديل الهجوم وتجربته عدة مرات لتحليل الاستجابات، وهو ما يمنحه ميزة اكتشاف الثغرات بشكل أسرع من أي مهاجم حقيقي.
وأوضحت OpenAI أن هذا الروبوت قادر على دفع الوكيل لتنفيذ تسلسلات معقدة من الإجراءات الضارة تمتد لعشرات أو مئات الخطوات، كما اكتشف استراتيجيات هجوم جديدة لم تظهر في اختبارات التدقيق البشرية أو التقارير الخارجية.
وفي تجربة توضيحية، عرضت OpenAI كيفية إدخال المهاجم الآلي رسالة بريد إلكتروني خبيثة، وعندما فحص الوكيل البريد لاحقًا، اتبع التعليمات الخفية وأرسل رسالة استقالة بدلًا من إعداد رد تلقائي خارج المكتب؛ لكن بعد تحديث الأمان، تمكن وضع الوكيل من اكتشاف محاولة الحقن وتنبيه المستخدم.
وأكدت OpenAI أنه رغم صعوبة تأمين المتصفح بشكل كامل ضد هجمات حقن الأوامر، فإن الاختبارات واسعة النطاق وسرعة تحديث التصحيحات تساعد في تعزيز الحماية قبل ظهور الهجمات في العالم الحقيقي.
ولتقليل المخاطر، توصي OpenAI المستخدمين بتحديد تعليمات واضحة للوكيل وعدم منحه وصولًا واسعًا للبريد الإلكتروني أو الصلاحيات الكاملة، إضافة إلى ضرورة مراجعة التأكيدات قبل إرسال الرسائل أو إجراء المدفوعات.
