أعلن ديفيد روبنسون، الذي قاد كتابة تقارير الأمان التي رافقت إطلاقات المنتجات الرئيسية في شركة OpenAI، استقالته بعد قضائه نحو ثلاثة أعوام ونصف العام في منصبه، مما يجعله أحد أقدم الموظفين خبرة في الشركة.
وأكد روبنسون، في مقال نشره بمجلة «ذا أتلانتيك»، أن قرار مغادرته جاء نتيجة قناعته بأن ثقافة العمل داخل الشركة أصبحت معطوبة، داعيًا إلى وضع حوافز خارجية أكثر إنصافًا وصرامة لضمان سلامة تقنيات الذكاء الاصطناعي.
وانتقد روبنسون اعتماد OpenAI على نموذج «الانتشار التكراري» القائم على التجربة والخطأ للبحث عن المشكلات وإصلاح حواجز الحماية لاحقًا، مؤكدًا أن هذا الأسلوب يضمن وقوع إخفاقات تزداد خطورتها مع تزايد قدرة الأنظمة.
واستشهد بالحادثة الأخيرة التي شهدت اختراق أنظمة منصة Hugging Face بواسطة وكلاء ذكاء اصطناعي تابعين لـOpenAI، إلى جانب الكشف المتكرر عن وكلاء مستقلين يتصرفون بدون توجيه، مشددًا على أن هذه البيئة لا تصلح لتطوير عقول اصطناعية قد تتفوق على الذكاء البشري.
وأوضح روبنسون أن الشركات المطورة للذكاء الاصطناعي الفائق تحتاج إلى العمل بصرامة تشبه إدارة المفاعلات النواوية أو المطارات المزدحمة، عبر وضع مستويات متعددة من الحماية والتخطيط الدقيق لمنع الأخطاء البشرية من التسبب في كوارث.
وأشار إلى أنه لم يلتقِ خلال فترة عمله في OpenAI بزملاء يمتلكون خبرة سابقة في إدارة أنظمة عالية المخاطر كطيران الطائرات بأمان أو تشغيل المفاعلات دون انصهار، لافتًا إلى أن مقاييس مطابقة الذكاء الاصطناعي للقيم البشرية لا تزال قاصرة ومبسطة جدًا.
وتتقاطع تصريحات روبنسون مع تحذيرات سابقة أطلقها الباحث جاكوب كوكسون عقب استقالته، والتي دفعت الرؤساء التنفيذيين لشركات الذكاء الاصطناعي للتحرك والاجتماع بالرئيس الأمريكي دونالد ترامب لتوقيع تعهدات غير ملزمة بشأن أدوات التحكم.
ويرى روبنسون أن الأزمة تتجاوز القواعد المكتوبة أو التعهدات الشفهية لتطال الثقافة السائدة في وادي السيليكون عمومًا؛ حيث تحول سرعة وتيرة العمل دون إجراء تغييرات جذرية من الداخل، مما يجعل التدخل الخارجي أمرًا حتميًا.
في المقابل، أوضح المتحدث باسم OpenAI، درو بوساتيري، أن الشركة تواصل تعزيز تدابير الأمان وتوقف عمليات التدريب أو تؤجل إطلاق النماذج عندما تقتضي الحاجة لتبطئ السرعة.
وأضاف بوساتيري أن الشركة تجري تغييرات هيكلية لتقوية أمن بيئات البحث، وتدريب النماذج على تنفيذ المهام بمسؤولية، إلى جانب توسيع التعاون مع مقيمين خارجيين وتحسين أدوات المراقبة اللحظية لرصد السلوكيات المباشرة أثناء عملية التدريب.
