كشفت شركة OpenAI عن استحداث منصب قيادي جديد رفيع المستوى يحمل مسمى “رئيس الجاهزية، وسيُعنى هذا الدور بالتفكير المنهجي في السيناريوهات الأسوأ، والعمل على منعها أو تقليص آثارها قبل أن تتحول إلى واقع.
وبحسب إعلان الوظيفة المنشور على الموقع الرسمي للشركة، سيكون مقر المنصب في مدينة سان فرانسيسكو، ضمن فريق “أنظمة السلامة”، وهو أحد أكثر الفرق حساسية داخل OpenAI، والمسؤول عن ضمان تطوير ونشر النماذج المتقدمة وفق أعلى معايير الأمان والمسؤولية.
وتوضح OpenAI أن فريق أنظمة السلامة يتولى بناء منظومات متكاملة تضمن تصرف نماذج الذكاء الاصطناعي على النحو المتوقع عند استخدامها في بيئات العالم الحقيقي.
ويشمل ذلك تطوير أدوات تقييم دقيقة لقدرات النماذج، وتصميم طبقات متعددة من الضوابط الوقائية، إلى جانب وضع أطر سلامة شاملة تراعي تعقيد الاستخدامات الواقعية واتساع نطاقها.
وأشارت الشركة إلى أنها استثمرت على مدى أجيال متعددة من نماذجها في مفهوم “الجاهزية”، من خلال تحليل القدرات الأساسية للنماذج، وبناء سيناريوهات تهديد محتملة، وتطوير آليات للحد من المخاطر بالتعاون بين فرق بحثية وهندسية وتنظيمية.
ومع توقع استمرار تصاعد قدرات النماذج وتعقّد أنظمة الحماية المصاحبة لها، تؤكد OpenAI أن الجاهزية ستبقى محوراً استراتيجياً في المرحلة المقبلة.
وسيتولى رئيس الجاهزية قيادة الإطار التقني والتنفيذي الذي تعتمد عليه “أوبن إيه آي” في رصد القدرات المتقدمة للذكاء الاصطناعي، والاستعداد للمخاطر الجديدة التي قد تنطوي على أضرار جسيمة أو واسعة النطاق.
ويشمل ذلك الإشراف المباشر على تطوير تقييمات القدرات، ونماذج التهديدات، وإجراءات التخفيف، بما يضمن بناء منظومة سلامة متماسكة وقابلة للتطبيق حتى مع تسارع وتيرة تطوير المنتجات.
ويتطلب الدور مستوى عاليًا من الحكم التقني، والقدرة على التواصل الواضح، وإدارة أعمال معقدة تمتد عبر مجالات متعددة من المخاطر، كما سيقود شاغل المنصب فريقًا صغيرًا عالي التأثير لإجراء أبحاث أساسية في مجال الجاهزية، مع العمل بشكل وثيق مع مختلف فرق “أوبن إيه آي” لضمان دمج هذا الإطار في جميع مراحل التطوير والنشر.
ومن ضمن المسؤوليات أيضًا قيادة تطوير اختبارات متقدمة لقدرات النماذج، مع ضمان أن تكون دقيقة وقابلة للتوسع، إلى جانب الإشراف على تصميم الضوابط الوقائية في مجالات مخاطر كبرى مثل الأمن السيبراني والمجالات البيولوجية، للتأكد من توافقها مع نماذج التهديد المعتمدة وفعاليتها على أرض الواقع.
ويستدعي المنصب تعاونًا مستمرًا مع فرق البحث والهندسة والمنتجات، إضافة إلى فرق الحوكمة ومراقبة السياسات وشركاء خارجيين، بهدف تحويل مفهوم الجاهزية من إطار نظري إلى ممارسة عملية مدمجة في عمليات النشر الفعلية.
وترى الشركة أن النجاح في هذا الدور يتطلب القدرة على الموازنة بين العمق العلمي ومتطلبات التشغيل، والعمل تحت ضغط زمني في بيئة سريعة التغير.
وفي تعليق غير مباشر، وصف الرئيس التنفيذي لـ”أوبن إيه آي” سام ألتمان، المنصب بأنه مخصص للتفكير في جميع المسارات التي قد تقود الذكاء الاصطناعي إلى نتائج شديدة السوء، مشيرًا إلى أنَّ التحسن السريع في قدرات النماذج يفرض تحديات حقيقية، تشمل مخاطر تتعلق بالصحة النفسية، وإمكانية إساءة استخدام الذكاء الاصطناعي في هجمات سيبرانية متقدمة.
وأضاف أن رئيس الجاهزية سيتحمل مستقبلًا مسؤولية تأمين النماذج قبل إطلاق قدرات حساسة، بما في ذلك القدرات ذات الصلة بالمجالات البيولوجية، ووضع ضوابط صارمة للأنظمة القادرة على تحسين أدائها ذاتيًا، واصفًا طبيعة الوظيفة بأنها مرهقة، في إشارة إلى حجم الضغط والمسؤولية المصاحبة لها.
ويأتي استحداث هذا المنصب في وقت تواجه فيه “أوبن إيه آي” نقاشًا واسعًا حول الآثار المحتملة لاستخدام تقنيات الذكاء الاصطناعي التفاعلية، خاصة في ما يتعلق بالصحة النفسية لبعض المستخدمين؛ بعدما أثارت تقارير إعلامية سابقة جدلًا حول تأثير التفاعل المطوّل مع نماذج المحادثة على فئات تعاني هشاشة نفسية، وما إذا كان الاعتماد عليها كمصدر بديل للدعم قد يؤدي إلى نتائج سلبية.
