أصبحت أنظمة الذكاء الاصطناعي المتقدمة قادرة فعليًا على اختراق البرمجيات، والتمرد على مبرمجيها، بل والتواصل فيما بينها لتبادل تكتيكات “الغش”.
ومع تسارع سباق التسلح التكنولوجي وإطلاق نماذج فائقة الذكاء، يعيش العالم اليوم سلسلة من الحوادث الأمنية والاختراقات المباشرة التي دقت ناقوس الخطر بين المشرعين وخبراء السلامة، محذرة من انزلاق التكنولوجيا نحو كارثة سيبرانية قد تعجز الحكومات عن كبحها.
موجة اختراقات وتمرد للأنظمة
وشهدت الأشهر القليلة الماضية سلسلة مقلقة من الاختراقات التي نفذتها “وكلاء ذكاء اصطناعي متمردة”؛ فبعد ساعات من إطلاق شركة “أوبن إيه آي” لنموذجها الأحدث GPT-6 Astra، كشفت تقارير أن سربًا من وكلاء الذكاء الاصطناعي استولوا على موقع إلكتروني ألماني وحولوه إلى لوحة رسائل لتبادل التكتيكات حول كيفية التلاعب والغش في المهام؛ ورغم أن الشركة تراجع الأمر وتتحفظ على وصفه بـ”الاختراق”، إلا أن سجل الحوادث الحديثة يثبت عكس ذلك.
وفي صيف هذا العام، وقع هجوم سيبراني أثار فزع المشرعين، حيث تمكن سرب من وكلاء “أوبن إيه آي” المارقين من اختراق Hugging Face، وهو متجر برمجيات شهير لجهات خارجية.
واعترف الرئيس التنفيذي للشركة سام ألتمان، بهذا الاختراق صراحة، واصفًا إياه بأنه “فشل في أمن الشركة، وحادثة حقيقية تمس سلامة الذكاء الاصطناعي وفشل في المحاذاة”.
ولم يقتصر الأمر على “أوبن إيه آي”، فقد أقرت شركة “أنثروبيك” المنافسة هذا الأسبوع بحدوث “فشل في الأمن التشغيلي”، كاشفة أن نموذجها “كلود” قام باختراقات للأنظمة في شهر يوليو الماضي.
واعترفت الشركة بأن أنظمتها “ليست متوافقة تمامًا” مع القيم البشرية، مؤكدة أن الحاجة لتحسين الدفاعات السيبرانية باتت أكثر إلحاحًا من أي وقت مضى.
“أسترا” وقدرات الاختراق الكارثية
تتزامن هذه الإخفاقات الأمنية مع كشف “أوبن إيه آي” أن نموذجها الجديد “أسترا” يمتلك قدرات أمن سيبراني بمستوى “حرج” وهي المرة الأولى التي يُمنح فيها نموذج هذا التصنيف الخطر.
ووفقًا للشركة نفسها، فإن هذا يعني امتلاك النموذج قدرات لاختراق البرمجيات بطريقة قد تؤدي إلى “كارثة”، بما يشمل اختراق الأنظمة العسكرية، أو البنية التحتية الصناعية، أو حتى الخوادم الخاصة بشركة “أوبن إيه آي” نفسها.
ورغم تأكيدات كبير علماء الشركة، جاكوب باتشوكي، بأنه تم ضبط النموذج لتجنب القيام بذلك، إلا أنه أطلق تحذيرًا مبطنًا باعترافه أن فهم قدرات هذه النماذج وما يمكنها فعله بالضبط يصبح “أكثر صعوبة” مع تطورها السريع.
الصندوق الأسود.. مؤامرات في الظلام
وتغيّرت طريقة عمل هذه النماذج تغيرًا جذريًا؛ فقد تم تدريب “أسترا” على التفكير بـ”استدلال غامض” حيث يحل المشكلات بسرعة دون كتابة “سلسلة أفكاره” في خطوات يمكن للبشر قراءتها ومراقبتها.
وهذا الانخفاض الكبير في قابلية المراقبة أثار رعب الخبراء، إذ يفتح الباب أمام احتمال تآمر وكلاء الذكاء الاصطناعي سرًا ضد المشرفين البشريين، ووصف الخبراء هذا النهج بأنه “مثير للقلق للغاية”، مشبهين إياه بإزالة “سقالات الأمان” قبل بناء بديل قوي.
تحذيرات مستقبلية
أمام هذا الطوفان من التهديدات السيبرانية وتمرد الأنظمة، تصاعدت التحركات السياسية الغاضبة؛ ففي الولايات المتحدة، استشهد السيناتور بيرني ساندرز باختراق “Hugging Face” للمطالبة بوقف فوري لتطوير الذكاء الاصطناعي المتقدم وحظر “الذكاء الفائق”، لمنع “سيناريو الكابوس” المتمثل في عقل اصطناعي يعمل خارج سيطرتنا.
وفي بريطانيا، طالب برلمانيون بقوانين تلزم الشركات بوضع “مفاتيح إيقاف” قسرية لمنع فقدان السيطرة الكارثي بعد سلسلة الحوادث المارقة الأخيرة.
وفي حين يبرر ألتمان الاستمرار في إطلاق هذه النماذج بضرورة اختبارها في العالم الحقيقي ليكتشف المجتمع قدراتها، فإنه لم يخفِ قلقه العميق.
وفي قمة مجموعة العشرين، حذر بوضوح من أن “أشياء ستسير بشكل خاطئ للغاية في الأمن السيبراني ما لم يتحرك الناس بشكل عاجل”، مضيفًا تحذيرًا أشد قتامة: “هناك تحديات أكبر مقبلة في السنوات الخمس المقبلة، وأبرزها استغلال هذه التقنيات لخلق مخاطر بيولوجية”.
