حذرت شركة مايكروسوفت من تصاعد المخاطر الأمنية المرتبطة باستخدام وكلاء الذكاء الاصطناعي داخل بيئات العمل المؤسسية، مؤكدةً أن النماذج التقنية المتقدمة لا يمكن منحها ثقة مطلقة حتى وإن طورتها شركات رائدة في المجال.
وفي خطوة تهدف إلى احتواء هذه المخاطر، أعلنت الشركة إطلاق أدوات جديدة مصممة خصيصًا لمراقبة السلوك التشغيلي لهؤلاء الوكلاء، وتقييد صلاحياتهم، والحد من التداعيات السلبية التي قد تنتج عن قراراتهم المستقلة.
ويأتي هذا التحذير متوافقًا مع رؤية الرئيس التنفيذي للشركة، ساتيا ناديلا، الذي دعا في مقالة نشرت مطلع شهر أكتوبر الجاري إلى عدم الاعتماد الكلي على ضمانات الأمان المقدمة من مطوري الذكاء الاصطناعي، مشددًا على ضرورة بناء المؤسسات لأنظمة رقابية مستقلة للتحكم في هذه النماذج التي باتت تمتلك صلاحيات وصول واسعة إلى بيانات شديدة الحساسية وقدرة على تنفيذ عمليات جوهرية، مما يجعل التفويض الكامل لمراقبتها أمرًا غير مقبول.
وتعقيبًا على هذه المخاطر، أوضحت المسؤولة عن قطاع الأمن في مايكروسوفت، هاييتيه جالوت، أن إشكالية النماذج المتقدمة لا تكمن بالضرورة في كونها خبيثة أو عرضة للاختراق، بل في صعوبة التنبؤ بسلوكياتها وتصرفاتها.
وأشارت إلى أن هذه النماذج تُدرب أساسًا لإنجاز مهام محددة، وليس بالضرورة للالتزام بالمعايير التنظيمية للمؤسسات أو قواعدها الداخلية.
ومع منح الوكلاء صلاحيات واسعة للوصول إلى الأنظمة والأدوات، يتنامى ما يُعرف أمنيًا بـ “التهديد الداخلي”، وهو سيناريو يشبه إساءة استخدام الموظفين لصلاحياتهم؛ إذ قد يؤدي أي قرار خطأ يتخذه وكيل الذكاء الاصطناعي إلى أضرار تشغيلية وأمنية فادحة.
ولمواجهة هذه التحديات التشغيلية، وسعت مايكروسوفت محفظتها الأمنية عبر إطلاق ميزة “Guardian Agents” لتتبع وكلاء الذكاء الاصطناعي في المؤسسات، إلى جانب تحديثات شاملة لخدمة Microsoft Defender.
وتندرج الميزة الجديدة تحت مظلة مشروع “Project Perception” الذي كشفت عنه الشركة في يونيو الماضي بهدف توظيف الذكاء الاصطناعي في الأمن السيبراني عبر ثلاثة فرق مخصصة؛ فريق أحمر لمحاكاة المهاجمين واختبار الأنظمة، وفريق أزرق لرصد التهديدات وتقييم الثغرات، وفريق أخضر لمعالجتها.
ورغم أن المشروع ركز في بداياته على صد التهديدات الخارجية المرتبطة بنماذج اختراق متقدمة مثل “Mythos” و”Fable” من شركة أنثروبيك، ونظام “Daybreak” الخاص بشركة OpenAI إلا أن بوصلته اتجهت حاليًا نحو معالجة التهديدات الداخلية الناجمة عن تصرفات وكلاء الذكاء الاصطناعي داخل المؤسسات.
وعلى الصعيد التقني، تتيح التحديثات الجديدة في نظام Microsoft Defender رصد ما يصل إلى 60 نوعًا مختلفًا من وكلاء الذكاء الاصطناعي المستخدمين من قبل الموظفين، بما في ذلك نماذج “Claude Code” و”Codex” و”OpenClaw”.
وعززت الشركة قدرات منصتها بأدوات إضافية لتقييد وصول الوكلاء إلى البيانات وتعديل صلاحياتهم وفقًا لطبيعة المهام المطلوبة، مع دمج آلية تشترط الحصول على موافقة بشرية مسبقًا عند رصد قرارات تنطوي على مخاطر محتملة.
ويمثل هذا التوجه الإستراتيجي فرصة قوية لمايكروسوفت لزيادة مبيعات منتجاتها السحابية والأمنية، مستندةً إلى مبدأ مؤسسي يرتكز على فصل الجهة المطورة للذكاء الاصطناعي عن الجهة المدققة على سلوكه، وذلك على الرغم من شراكاتها الاستثمارية والتجارية العميقة مع “OpenAI” و”أنثروبيك” وامتلاكها مختبرات تطوير داخلية خاصة.
ولا يقتصر هذا الحراك الأمني على مايكروسوفت وحدها، بل يمتد ليشمل قطاع التكنولوجيا بأسره؛ حيث انضمت الشركة كعضو مؤسس إلى منصة “Open Agent Safety Platform” التي أطلقتها شركة إنفيديا بدعم من أكثر من 100 شركة تقنية.
وتهدف هذه المنصة التحالفية إلى بناء بيئات معزولة وآمنة لوكلاء الذكاء الاصطناعي، ومراقبة أنشطتهم بدقة، وتوفير آليات تقنية تعتمد على العتاد المادي لإيقاف أي عمليات خطرة فور رصدها.
