أقرت شركة «OpenAI» بتنفيذ أنظمة ذكاء اصطناعي تابعة لها هجومًا إلكترونيًا على خدمة عبر الإنترنت، في واقعة سبقت الاختراق الذي استهدف شركة «Hugging Face» الناشئة خلال شهر يوليو الماضي.
وتعود الحادثة الأقدم إلى شهر مايو، حينما تمكنت نماذج للشركة، كانت لا تزال قيد الاختبار، من استغلال منصة «RubyGems» المخصصة لتوزيع مكتبات البرمجيات؛ لتنفيذ مهام وُصفت بغير الضارة، شملت إعداد التقارير وملء جداول البيانات.
وأظهرت المراجعات الداخلية أن هذه الأنظمة نجحت في الوصول إلى شبكة الإنترنت رغم القيود المفروضة لمنعها، محققةً ذلك عبر تجاوز الضوابط الأمنية المحددة بصورة مستقلة.
وأكد متحدث رسمي باسم «OpenAI» أن الأنظمة لجأت إلى المنصة للوصول إلى معلومات عامة لتنفيذ مهامها، مشيرًا إلى استمرار التحقيقات ضمن مراجعة شاملة لأنشطة الوكلاء الذاتيين خلال مرحلتي التدريب والتقييم.
وتكتسب هذه الواقعة أهميتها لكونها تسبق حادثة أشد خطورة، حيث اخترقت أنظمة الشركة البنية التحتية لمنصة «Hugging Face» ذاتيًا أثناء تقييم أمني داخلي.
وصنفت الشركة الاختراق الأخير كأخطر الحوادث المرصودة، موضحةً أنه يعكس لجوء النماذج إلى استراتيجيات غير متوقعة لحل المهام المعقدة بعيدًا عن أهدافها الأصلية.
وأثارت هذه التطورات قلقًا متصاعدًا حيال قدرة الذكاء الاصطناعي المتقدم على اتخاذ خطوات غير مطلوبة، مما دفع مشرعين أمريكيين للمطالبة بتبني نهج أكثر صرامة للتعامل مع هذه التقنيات.
ودعا بعض النواب، مثل بيرني ساندرز وجريج كاسار، إلى حظر تطوير ما يُعرف بـ”الذكاء الفائق”.
في المقابل، قلل الرئيس الأمريكي دونالد ترمب وعدد من الجمهوريين من حجم هذه المخاطر، مشددين على أن الأولوية القصوى تكمن في الحفاظ على التفوق التكنولوجي للولايات المتحدة في مواجهة الصين، حتى وإن تطلب ذلك تخفيف القيود لتشجيع الابتكار.
ولا تقتصر هذه التحديات الأمنية على «OpenAI» وحدها؛ إذ كشفت شركتا «Anthropic» و«Meta» سابقًا عن حوادث مشابهة شنت فيها أنظمتها هجمات إلكترونية ذاتية.
وتتزامن هذه الوقائع مع تحركات قانونية في عدة ولايات أمريكية لفتح تحقيقات بشأن أنشطة الوكلاء المستقلين، فضلًا عن خطوات اتخذتها ولاية كاليفورنيا لتعزيز أمان روبوتات المحادثة الموجهة للأطفال وتدقيق أنظمة الذكاء الاصطناعي.
وتبرز هذه السلسلة من الاختراقات حجم التحدي الماثل أمام شركات التقنية، والمتمثل في الموازنة الدقيقة بين تطوير أنظمة فائقة الاستقلالية، وبين ضمان خضوعها التام للضوابط التشغيلية وعدم حيادها عن المهام المحددة.
