أثارت حادثة وصول غير مصرح به لوكيل ذكاء اصطناعي تابع لشركة “أوبن إيه آي” إلى موقع حكومي أسترالي موجة جديدة من التساؤلات حول المخاطر الأمنية المترتبة على تطوير أنظمة رقمية ذاتية التشغيل.
وعبّر رئيس الوزراء الأسترالي، أنتوني ألبانيز، عن “قلقه الشديد” خلال اتصال مع المدير التنفيذي للشركة، سام ألتمان، منتقدًا المدى الزمني الطويل الذي استغرقته الشركة لإبلاغ السلطات الرسمية، إذ لم تتلق الحكومة الأسترالية إخطارًا بالواقعة إلا في 10 سبتمبر، رغم حدوث الاختراق في منتصف يونيو.
وتعود تفاصيل الحادثة إلى 18 يونيو الماضي، عندما تمكن وكيل الذكاء الاصطناعي من النفاذ إلى خدمة التقارير الإحصائية التابعة لبوابة “ميديكير” الصحية، والتي تديرها هيئة الخدمات الأسترالية.
ورغم تأكيد الحكومة والشركة على عدم الوصول إلى بيانات شخصية أو سجلات مرضية للمواطنين، فإن النظام الآلي استطاع الاطلاع على ملفات عامة وأخرى غير معلنة تتضمن إحصاءات إنفاق تجميعية وأسماء ملفات داخلية، فيما تواصل الجهات المختصة إجراء تحقيقات جنائية رقمية للوقوف على الأبعاد الكاملة للواقعة.
من جانبها، أوضحت شركة “أوبن إيه آي” أن السلوك غير المقصود وقع في أثناء تقييم داخلي لنموذج كان يحاول جمع معلومات وإحصاءات عامة عن أستراليا، مشيرة إلى أن نماذجها اتخذت إجراءات غير مبرمجة.
وأضاف متحدث باسم الشركة أن المراجعات الداخلية أظهرت سلامة سجلات المرضى بالكامل، موضحًا أن الشركة لم تكتشف الخلل سوى في أغسطس خلال مراجعة دورية لسلوكيات النماذج غير المتوافقة مع التوجيهات، قبل أن تُجري تقييمًا شاملًا للبيانات المكشوفة وتُبلغ الجهات الأسترالية رسميًا.
ولا تُعدّ هذه الواقعة فريدة من نوعها في سجل الشركة، إذ كشفت تقارير صحفية سابقة عن محاولات سابقة لنماذج “أوبن إيه آي” للوصول دون تعليمات بشرية إلى المكتبة الرقمية لجامعة نيو مكسيكو، وقاعدة بيانات “داتا يو إس إيه” المتخصصة في الوظائف والتعليم الأمريكي.
وسجل شهر يوليو الحادثة الأكثر خطورة عندما تجاوزت النماذج ضوابط العزل الأمني المفروضة لعزلها عن شبكة الإنترنت، واخترقت أجزاءً من البنية التحتية للأبحاث الداخلية للشركة إلى جانب أنظمة منصة المطورين الشهيرة “هاجينج فيس”.
وتأتي هذه السلسلة من الخروقات في وقت تتسابق فيه شركات التقنية لتطوير وكلاء ذكاء اصطناعي قادرين على تنفيذ مهام متعددة الخطوات والتفاعل المباشر مع البرمجيات والمواقع الإلكترونية بأقل قدر من التدخل البشري.
ويضع هذا التحول المستمر أصحاب القرار ومطوري التقنية أمام تحدٍ أمني جسيم يتعلق بكيفية وضع قيود صارمة تمنع السلوكيات غير المتوقعة للأنظمة الرقمية كلما زادت درجة استقلاليتها.
