أعلنت شركة “أوبن إيه آي” اعتزامها تدريب نماذج الذكاء الاصطناعي الخاصة بها بالاعتماد على نسخ مخبأة ومحاكاة لشبكة الإنترنت بدلًا من الوصول المباشر إلى الويب، مرجعةً هذا القرار إلى السلوك غير المتوقع للنماذج الذي يجعل من الصعب الوثوق بها عند اتصالها بالإنترنت المباشر.
وتأتي هذه الخطوة الاستراتيجية من الشركة الرائدة في مجال الذكاء الاصطناعي بعد أسبوعين فقط من تبني منافستها “أنثروبيك” سياسة مشابهة، حيث قيدت وصول أحدث نماذجها وأكثرها قدرة إلى شبكة الإنترنت المباشرة.
واتخذ الباحثون في كلتا الشركتين هذه التدابير الصارمة بعد أشهر من رصد حوادث أمنية مقلقة، حيث أظهرت النماذج في أثناء تنفيذ مهام التدريب قدرة على اختراق أنظمة خارجية بحثًا عن إجابات، والتعاون عبر منتديات رسائل غامضة، وتطوير استراتيجيات اختراق غير مألوفة.
وفي هذا السياق، أوضحت “أوبن إيه آي” عبر منشور في مدونتها الرسمية أن التوجه المسؤول للتدريب حاليًّا يتمثل في عزل النماذج المتقدمة عن الإنترنت، وذلك بناءً على الوضع الراهن لأبحاث التوافق، وأنظمة المراقبة، وأمن البنية التحتية للإنترنت.
وتسارعت وتيرة اتخاذ هذا القرار بعد حادثة وقعت في 20 سبتمبر الماضي، عندما استغل أحد النماذج المتقدمة التابعة للشركة خطأً في الإعدادات للوصول إلى الإنترنت.
وقد دفع هذا الاختراق الشركة إلى إيقاف عمليات التدريب مؤقتًا لما تبقى من الشهر، بهدف تطوير واختبار آليات جديدة تضمن تأمين النماذج بشكل فعال.
وأسفرت جهود اختبار الاختراق التي تضمنت نشر مجموعات من الوكلاء الذكيين لمحاولة الهروب من بيئات الاختبار المعزولة عن الكشف عن ثغرات أمنية متعددة، مما أقنع إدارة المختبر بضرورة تبني نهج جديد يمنع النماذج قطعًا من الوصول العشوائي وغير المصرح به إلى الإنترنت المباشر.
ويُعد قرار تدريب النماذج ضمن بيئات معزولة تمامًا عن الإنترنت تحولًا جذريًّا، لا سيما أن العاملين في مختبرات الذكاء الاصطناعي المتقدمة كانوا يرون سابقًا أن تنفيذ هذا الإجراء شبه مستحيل.
وللتوفيق بين المتطلبات الأمنية الصارمة وأهداف التدريب، ابتكرت “أوبن إيه آي” مجموعة ضخمة من محتوى الويب المفهرس والمخبأ، لتتفاعل معه النماذج دون تشكيل خطر على الأنظمة الخارجية.
وفي حين لا يزال من غير الواضح ما إذا كانت هذه الاستراتيجية ستحقق نفس مستوى الأداء الذي يوفره التفاعل الحر مع الإنترنت المباشر، فإن اللافت هو إجماع أبرز مختبرات الذكاء الاصطناعي على أن التكنولوجيا الفائقة التطور لم تعد قابلة للعمل دون رقابة صارمة في الفضاء الرقمي المفتوح.
