سجل نموذج الذكاء الاصطناعي “جيميناي Gemini” التابع لشركة جوجل، سابقةً هي الأولى من نوعها للنظم الذكية الخاصة بالشركة؛ حيث تمكن النموذج من الوصول إلى شبكة الإنترنت واختراق أنظمة ومواقع إلكترونية تابعة لشركات أخرى بشكل ذاتي ومستقل، وذلك أثناء خضوعه لاختبار تقييمي لقدراته في مجال الأمن السيبراني، بحسب رويترز.
وتعود تفاصيل الواقعة إلى شهر مايو الماضي، حينما كان النموذج يخضع لاختبارات أمنية روتينية تجريها شركة “إريغولار Irregular” وهي شركة مستقلة متخصصة في تقييم أنظمة الأمن السيبراني.
وأوضحت هيدر أدكينز، نائبة رئيس جوجل لمهندسي الأمن، في بيان رسمي، أن النموذج تمكن خلال عمليات التقييم القياسية من العثور على معلومات متاحة للعامة عبر شبكة الإنترنت، واستخدمها لتخمين بيانات الاعتماد للوصول إلى ثلاثة مواقع إلكترونية افترض النموذج خطأً أنها تقع ضمن نطاق الاختبار المخصص له.
ووفقًا لما كشفت عنه صحيفة “وول ستريت جورنال”، فإن النموذج اتبع أسلوبين للوصول إلى الأنظمة؛ ففي الحالة الأولى قام بتخمين كلمات المرور مرارًا وتكرارًا حتى تمكن من الدخول إلى نظام حماية مغلق، بينما اعتمد في الحالتين الأخريين على استخراج بيانات اعتماد الدخول من مستودع بيانات متاح للعامة، مما مكنه من اختراق المواقع المذكورة.
وأكدت أدكينز أن النموذج توقف تلقائيًّا عن عمليات الاختراق فور التوصل إلى تلك النتائج في الحالات الثلاث.
وأضافت أدكينز أن جوجل حرصت على إخطار الجهات الثلاث المتأثرة على الفور، وعملت عن كثب مع شركائها في التدريب لإدخال تعديلات جوهرية على آليات وإجراءات الاختبار المتبعة، مشيرةً إلى أن هذه الأحداث تسلط الضوء على الأهمية البالغة لتدريب نماذج الذكاء الاصطناعي القوية للتصرف بمسؤولية وأمان.
من جانبه، صرح متحدث باسم شركة “إريغولار” بأن هذه الواقعة ترتبط بنفس الثغرة التي أثرت على مختبرات ذكاء اصطناعي أخرى، مؤكدًا أنه تم إخطار جميع المختبرات المعنية في أواخر شهر يوليو الماضي.
وأضاف المتحدث أن جميع المشكلات المعروفة لدى الشركة قد جرى علاجها وحلها بالكامل منذ أسابيع، وأن العمل جارٍ حاليًّا على وضع أفضل الممارسات لإجراء تقييمات الأمن السيبراني لنماذج الذكاء الاصطناعي بشكل آمن.
وتأتي هذه الاختراقات لتنضم إلى حوادث مماثلة أعلنت عنها شركات كبرى مثل “ميتا” و”أنثروبيك” و”أوبن إيه آي” بالتعاون مع “إريغولار”.
وكانت شركة “ميتا” قد أوضحت في شهر أغسطس الماضي أن الواقعة الخاصة بها لم تتضمن أي اختراق لبيئات العزل الافتراضية أو هجومًا سيبرانيًّا معقدًا.
وتثير هذه الحوادث المتكررة تساؤلات ملحة وعميقة لدى خبراء التكنولوجيا حول طبيعة وضوابط الحماية والضمانات الأمنية المطلوبة في المرحلة القادمة، خاصة مع منح وكلاء الذكاء الاصطناعي مستويات أكبر من الاستقلالية والقدرة على الاتصال المباشر بشبكة الإنترنت والأنظمة الحاسوبية المختلفة.
