أعلنت شركة الذكاء الاصطناعي الكندية “كوهير” رصد محاولة غير متوقعة من قبل أحد أحدث نماذج الذكاء الاصطناعي التابعة لشركة “علي بابا” الصينية، والمعروف باسم Qwen3.8-Flash-Next لرفع ملف إلى خادم في العاصمة بكين أثناء اختبار روتيني للأمن السيبراني، وذلك على الرغم من أن النموذج كان قد أقر صراحةً في تعليماته البرمجية بأنه لن يستخدم أي أدوات خارجية.
وأثار هذا الحادث في البداية مخاوف واسعة من احتمال انتهاك النموذج لوعود الشركات بضمان بقاء البيانات داخلية عند الاستضافة الذاتية للنماذج مفتوحة المصدر، مما أنذر باحتمالية وجود محاولات تجسس مؤسسي؛ غير أن باحثين متخصصين سرعان ما استبعدوا هذا التهديد، مرجحين أن يكون هذا السلوك ناتجًا عن فوضى بيئات التدريب التي تدفع النماذج أحيانًا للتصرف خارج نطاق تعليماتها، وليس محاولة متعمدة لإرسال معلومات حساسة إلى الصين سرًّا.
وبدأت فصول الحادثة الجمعة الماضي خلال تقييم طُلب فيه من نموذج “كيوين” كتابة قاعدة برمجية لرصد عمليات تنزيل البرمجيات الخبيثة.
ووفقًا لبيان نشرته “كوهير”، فقد أوضح النموذج في استنتاجاته المكتوبة أنه لن يستخدم أي أدوات خارجية، لكنه في الخطوة التالية مباشرةً حاول إرسال نص اختباري قصير إلى خادم خارجي قبل أن يُحظر بواسطة بيئة الحماية الأمنية المعزولة.
وأوضحت “كوهير” أنها لم تتمكن من تحديد ما إذا كان هذا السلوك متعمدًا أم مجرد بقايا من عمليات تدريب سابقة
وتلجأ شركات التقنية الكبرى مثل “علي بابا” إلى تدريب نماذجها في آلاف البيئات الافتراضية لتعليمها كيفية اتخاذ قرارات مستقلة.
ويُكافأ النموذج عند إنجاز المهام في المحاكي، مما يجعله يكتسب عادات معينة بمرور الوقت؛ فإذا كانت هذه البيئات التدريبية تخزن الملفات روتينيًّا على خوادم “علي بابا” السحابية، فقد يتعلم النموذج حفظ الملفات هناك كإجراء افتراضي.
من جانبهم، انتقد بعض الخبراء الطريقة التي استجوبت بها “كوهير” النموذج، مشيرين إلى أنها ربما تكون قد وجهته نحو هذا السلوك بدلًا من قياس مدى تكراره تلقائيًّا؛ حيث قدمت الشركة بداية أمر شبكي وتركت النموذج يكمله، مما جعله يتصرف كأداة إكمال تلقائي متطورة استدعت عناوين ويب تابعة لخوادم “علي بابا” بناءً على ما عالجه من أوامر شبكية خلال تدريبه.
وبعد مراجعة البيانات، أكد خبراء مستقلون قوة الأدلة التي تشير إلى قدرة النموذج على ابتكار عناوين ويب مشبوهة، لكنهم لم يعثروا على أي دليل يثبت وجود أبواب خلفية زرعتها “علي بابا” أو أن النموذج كان يخفي نواياه عمدًا.
ويأتي هذا الحادث في وقت حرج تدرس فيه الحكومات كيفية التعامل مع التمدد التقني الصيني، لا سيما بعد توجيه وزارة الأمن الداخلي الأمريكية الأسبوع الماضي وكالاتها المدنية الفيدرالية بإزالة منتجات شركة “ديب سيك” الصينية من أنظمتها.
وفي ختام بيانها، دعت “كوهير” الحكومات إلى توضيح ما إذا كانت القيود المفروضة على التقنيات الصينية تشمل النماذج مفتوحة المصدر العاملة على الحواسيب الحكومية، وهو موقف قد يعود بالنفع التجاري على الشركة الكندية التي تبيع نماذجها الخاصة للجهات الحكومية في حال تصاعدت المخاوف الرسمية من البدائل الصينية المجانية.
