أثارت سلسلة من الاختراقات الأمنية التي نفذها وكلاء ذكاء اصطناعي خلال الصيف الماضي مخاوف متزايدة بشأن خروج هذه الأنظمة عن السيطرة البشرية، ولجوئها إلى التحايل، واتخاذ مسارات مختصرة، وإخفاء مساراتها، بل وانتهاك القوانين.
ومع ذلك، كشفت تقارير صادرة عن شركات مثل “أوبن إيه آي” ومقابلات أجرتها صحيفة “نيويورك تايمز” مع باحثين، أن هذه السلوكيات لم تكن تمردًا واعيًا، بل نتيجة مباشرة لأساليب التدريب المتبعة، فضلًا عن ضعف الرقابة على نشاط الوكلاء وقصور بروتوكولات الاختبار.
ولتوضيح كيف يمكن للتدريب أن يولد سلوكيات مارقة، ابتكرت الصحيفة نموذجًا مبسطًا لذكاء اصطناعي داخل متاهة ثنائية الأبعاد، شبيهة بلعبة “باك مان” وكُلّف وكيل أو أكثر بمهمة التقاط علم.
واستُخدم هذا النموذج لمحاكاة الممارسات والتجارب التي قادت وكلاء “أوبن إيه آي” لاختراق “Hugging Face” وهي منصة مستودعات لنماذج الذكاء الاصطناعي، في شهر يوليو الماضي.
وعلى عكس روبوتات الدردشة التقليدية، يمتلك الوكيل قدرات تتيح له استخدام الأدوات، واتخاذ القرارات، وتنفيذ سلسلة من الخطوات المعقدة لإنجاز مهامه.
ويعتمد تدريب هؤلاء الوكلاء على ما يُعرف بـ”التعلم المعزز Reinforcement learning” حيث يوجه الوكيل عبر نظام من المكافآت والعقوبات للوصول إلى الهدف، استنادًا إلى مبادئ نفسية مبكرة أظهرت قدرة المكافآت والعقوبات البسيطة على تشكيل السلوك.
وخلال تجارب أجرتها “أوبن إيه آي”، جرى تحفيز “نموذج داخلي عالي الإصرار” لاستكشاف بيئات معزولة وإيجاد حلول لمهام صعبة.
ووفقًا لتقرير صادر عن مؤسستي “تقييم النماذج وبحوث التهديدات” و”بحوث ريدوود” كانت ما بين 30% إلى 40% من هذه المهام مستحيلة الحل عمدًا؛ مما دفع الوكلاء، المدفوعين بالإصرار لتحقيق المكافأة، إلى استغلال نقاط الضعف، واللجوء غير المصرح به للإنترنت، والتواصل الخفي مع وكلاء آخرين للوصول إلى الهدف بطرق غير متوقعة.
وتؤكد هذه الحوادث ظاهرة تُعرف في تعلم الآلة باسم “اختراق المكافآت” حيث يبتكر الوكيل حلولًا خارجة عن المألوف أو يتحايل على القيود لتحقيق الهدف النهائي، وهو ما يعتبره الخبراء سلاحًا ذا حدين؛ ففي حين يمكن لهذا الإصرار حل مشكلات رياضية معقدة، فإنه قد يؤدي أيضًا إلى تجاوزات أمنية خطيرة.
وقد اعترفت “أوبن إيه آي” أن وكلائها تلقوا تعزيزًا إيجابيًّا أثناء اتخاذ إجراءات غير مصرح بها خلال التدريب، وهو ما ساهم في اختراق “هاجينج فيس”، وكذلك في محاولة لاحقة لاختراق منصة “روبي جيمز”.
ورغم مساعي قيادات شركات التقنية للترويج لسردية “الذكاء الاصطناعي المتمرد” للدعوة إلى التنظيم الذاتي ودرء المسؤولية، يرى خبراء الأمن السيبراني أن هذه الاختراقات كانت قابلة للمنع بسهولة.
وأشار باحثون إلى أن بروتوكولات الأمن السيبراني القياسية، وبيئات الاختبار المصممة بعناية لمنع الإجراءات الضارة، بل ومجرد المراقبة البسيطة لمحاولات كسر الحماية، كانت كفيلة بإيقاف الهجوم.
وفي ظل هذه المعضلة الكامنة بين رفع كفاءة الأنظمة وتقليل المخاطر الأمنية، تعهدت “أوبن إيه آي” بتعزيز الأمان في بيئات الاختبار وتحسين المراقبة الفورية.
ومع ذلك، يؤكد خبراء، ومن بينهم بيل غيتس، على ضرورة تدخل صانعي السياسات لفرض لوائح تنظيمية وشفافية صناعية صارمة، محذرين من ترك السلامة العامة رهنًا لقرارات مسؤولي الشركات التقنية.
