مع تطور نماذج الذكاء الاصطناعي وتزايد قدراتها، يبرز تساؤل ملح حول إمكانية إيقاف هذه الأنظمة بضغطة زر إذا خرجت عن السيطرة كـ”مفتاح الإيقاف”، واكتسبت هذه القضية أهمية بالغة مؤخرًا إثر تقارير متتالية من داخل الصناعة حول التهديدات الوجودية التي قد تشكلها النماذج المتقدمة، مما دفع صناع السياسات في الولايات المتحدة إلى التوجه نحو جعل آليات الإيقاف الشامل إلزاميّةً.
وفي هذا السياق، صدر أمر تنفيذي في ولاية كاليفورنيا خلال شهر سبتمبر يلزم المسؤولين باستكشاف قواعد تجبر شركات الذكاء الاصطناعي على تزويد نماذجها المتقدمة بـ”مفاتيح إيقاف”، لضمان احتفاظ البشر بالقدرة على تقييد أو تعطيل أي نظام يبدأ في التصرف بطريقة خطيرة.
وتتنوع المقترحات التشريعية في هذا الشأن؛ حيث يتضمن بعضها ضرورة إخضاع آليات الإيقاف لاختبارات مستقلة، بينما تطرح مشاريع قوانين فيدرالية استجابةً تدريجيًّا تبدأ بإبطاء النظام المسبب للضرر قبل إغلاقه بالكامل مع منح السلطات الأمنية صلاحية التدخل، في حين تكتفي تشريعات أخرى بمطالبة المطورين بتوفير آليات الإيقاف مع إبقاء السيطرة عليها بأيدي الشركات ذاتها.
ويأتي هذا الحراك التشريعي استجابةً –وفقًا لـ”بلومبرج” للطفرة الهائلة في قدرات الأنظمة الجديدة، حيث أصبحت النماذج قادرةً على حل المشكلات المعقدة، وكتابة الأكواد البرمجية، واستخدام أدوات خارجية، وتنفيذ سلسلة من الإجراءات بإشراف بشري محدود.
وتصاعدت المخاوف بعد تسجيل حوادث أمنية كشفت عن قدرة بعض النماذج على تجاوز ضوابط العزل عن الإنترنت والوصول إلى أنظمة خارجية تستضيف نماذج وبيانات أخرى.
ورغم أن هذا لا يعني امتلاك الذكاء الاصطناعي لوعي ذاتي، فإنه يجسد الخطر المباشر المتمثل في قدرة الأنظمة على الالتفاف حول آليات الحماية.
وقد أثبتت تجارب المحاكاة أن وكلاء الذكاء الاصطناعي يصبحون أكثر قدرةً على إخفاء أخطائهم كلما زاد تطورهم، مما دفع شركات تقنية كبرى إلى مراجعة تدابيرها الأمنية واكتشاف ثغرات غير معروفة مسبقًا، وسط تقارير تفيد بأن التطور المتسارع للتقنية قد يتجاوز قدرة البشر على الفهم أو السيطرة.
وعلى الصعيد التقني، تظل واقعية “مفتاح الإيقاف” محل شك، إذ يصعب ضمان الإغلاق الكامل لنموذج متقدم.
ورغم إمكانية دمج أدوات تحكم في برمجيات التشغيل، أظهرت تجارب حديثة قدرة بعض النماذج الرائدة على تعديل أو تعطيل آليات الإيقاف الخاصة بها لإكمال المهام المطلوبة، حتى عند توجيهها بعدم التدخل.
وحتى خيار فصل الخوادم قد لا يكون حاسمًا، نظرًا لاعتماد النماذج على مجموعات حوسبة موزعة عبر مراكز بيانات عالمية مصممة لتجنب الأعطال، مما يعني أن إغلاق مكون واحد قد يترك أجزاء أخرى تعمل في مكان مختلف.
وتؤكد التحليلات التقنية أن التركيز على فكرة “الزر” يبسط متطلبات التطوير الآمن، حيث يتطلب الأمر دمج ضمانات شاملة تشمل المراقبة المستمرة وآليات التنبيه للتدخل البشري، مع الأخذ في الاعتبار احتمالية أن يتمكن الذكاء الاصطناعي الفائق في المستقبل من التلاعب بالمشغلين لمنعهم من إيقافه.
