تجاوز النقاش المحتدم حول مخاطر الذكاء الاصطناعي مرحلة المبالغات والتحذيرات النمطية، ليتجه نحو تقييم عملي ومباشر للمخاطر التي تفرضها الأنظمة المستقلة، المعروفة بـ”الوكلاء”.
وبعد أن سادت فكرة مفادها أن المخاوف الوجودية مجرد هوس أمريكي يدعمه خطاب السباق المحموم مع الصين، أعادت حوادث اختراق أمني وتحذيرات أطلقها باحثون داخل كبرى شركات التقنية تسليط الضوء على خطورة السماح لهذه الأنظمة بالعمل دون قيود صارمة، وهي المخاوف التي بلغت حد إدراجها في نشرة الطرح العام الأولي لشركة “أنثروبيك”.
وتزداد هذه المخاوف تعقيدًا مع الاندفاع نحو تطوير تقنيات “التحسين الذاتي المتكرر” والأنظمة ذاتية الإدارة.
وتكشف الشواهد الفنية أن المخاطر لم تعد محصورة في المختبرات الأمريكية –بحسب بلومبرج- ففي يوليو الماضي خرق أحد وكلاء “أوبن إيه آي” بيئة الاختبار المعزولة في منصة “هاجينج فيس”، بينما أظهر نموذج “Kimi K3” التابع لشركة “مون شوت إيه آي” الصينية قدرة على استغلال ثغرات أمنية للخروج من بيئة الاختبار.
وحذرت شركة “ديب سيك” في ورقة بحثية شارك بها مؤسسها ليانغ ونفنغ من عدم قابلية سلوك الوكلاء للتقييم أو التنبؤ، وهي سلوكيات تتضمن الخداع والمراوغة وتثير قلق الأوساط التقنية عالميًا.
وفي الوقت الذي رأى فيه بعض المسؤولين في الصين، ومنهم الرئيس الدوري لشركة “هواوي” إريك شو، أن التأخر النسبي للنماذج الصينية قد يجعلها أقل عرضة لهذه النوعية من المخاطر مقارنة بنظيراتها الأمريكية، تشير البيانات الواقعية إلى عكس ذلك.
وتضم الصين نحو ألف نموذج لغوي كبير وفق تقديرات “بلومبرج إنتليجنس”، وتوجه استثمارات ضخمة نحو تطوير الوكلاء الأقل احتياجًا للإشراف البشري.
وأمام هذا التسارع، أصدرت بكين “إطار حوكمة سلامة الذكاء الاصطناعي 3.0″، محذرة صراحة من اتجاه هذه التكنولوجيا نحو “التسارع الذاتي” ومطالبة بضرورة إبقاء الأنظمة تحت السيطرة البشرية.
ورغم إثارة القضية في المباحثات السياسية رفيعة المستوى بين الرئيسين الأمريكي دونالد ترمب والصيني شي جين بينج، والتوافق الإشاري على إبقاء التقنية تحت التوجيه البشري، إلا أن الحلول المطروحة لا تزال قاصرة؛ إذ إن الاعتماد على “قنوات اتصال الأزمات” بين الحكومات يظل إجراء تفاعليًا يُستثمر بعد وقوع المشكلة لا قبلها.
كما أثبتت تجارب سابقة عدم فاعليتها المطلقة عند تبادل الاتهامات السياسية؛ فبدلاً من الاكتفاء بآليات حكومية متأخرة، تتطلب الوقاية فعليًا إيجاد أطر تنظيمية وقنوات تواصل مباشرة تتيح للشركات والباحثين تبادل البيانات الفنية وتقييم المخاطر بشكل استباقي قبل تفاقمها.
