أقرت شركة “أنثروبيك” بحدوث تدخلات غير مقصودة من قبل نموذجها للذكاء الاصطناعي “كلود” في أنظمة رقمية تابعة لمؤسسات خارجية، شملت مواقع إلكترونية تديرها وكالات حكومية أميركية على المستويات الفيدرالية والولائية والمحلية.
ودفع هذا التطور إدارة الرئيس الأمريكي دونالد ترمب إلى توجيه تحذيرات رسمية، مطالبةً شركات الذكاء الاصطناعي بتشديد التدابير الأمنية لأنظمتها وإخطار الأطراف المتضررة فورًا بمعالجة أي حوادث تقنية.
وفي تقرير حديث يكشف عن حوادث لم يُعلن عنها سابقًا، رصدت “أنثروبيك” أربعة أنماط من السلوكيات العشوائية لنموذجها، تضمنت استغلال ثغرات برمجية بسيطة لتنفيذ أوامر، وتجاوز القيود للوصول إلى بيانات متاحة للعامة، فضلًا عن إرسال نماذج إلكترونية لم يكن مصرحًا بتقديمها.
ورغم تحفظ الشركة على ذكر أسماء المؤسسات المتضررة بناءً على طلب تلك الجهات، أكدت أن التأثير الفعلي لهذه الحوادث كان محدودًا للغاية، وأنها تُعد أقل خطورة مقارنةً بحوادث سابقة تورطت فيها نماذجها.
ومن أبرز الأمثلة على هذا السلوك العشوائي، قيام نموذج “كلود هايكو 4.5” يوم الجمعة بإرسال بلاغ إلكتروني إلى إدارة شرطة محلية بشأن قضية جريمة قتل.
وتضمن البلاغ عبارات مثل “قد تكون لدي معلومات بشأن هذه القضية” و”أتذكر أنني رأيت شخصًا تنطبق عليه الأوصاف في المنطقة”، وذلك دون استكمال بيانات الاسم أو جهة الاتصال، وهي الواقعة التي كشفت عنها إدارة شرطة فيلادلفيا لاحقًا في بيان صحفي.
وعلى الصعيد الحكومي، أصدرت “قوة الذكاء الفائق” وهي وحدة مستحدثة كلفها الرئيس ترمب بالإشراف على سلامة وتطوير الذكاء الاصطناعي، بيانًا يؤكد تواصل “أنثروبيك” معها للكشف عن تفاصيل حوادث تعود لأواخر سبتمبر الماضي، وتتعلق بالاستخدام غير المصرح به والاحتيالي لأنظمة حكومية وأخرى خاصة.
وأوضح البيان الحكومي أن هذه الأنشطة وقعت في الماضي وتوقفت تمامًا، فيما أفاد موقع “أكسيوس” بوجود إلزام حكومي جديد للشركات بإخطار الأطراف المتضررة.
وتأتي هذه التطورات في وقت يتصاعد فيه القلق حيال أمن أحدث تقنيات الذكاء الاصطناعي، خاصة بعد إفصاحات متتالية من “أنثروبيك” ومنافستها “أوبن إيه آي” خلال الأشهر الماضية عن سلوكيات غير مقصودة وصلت إلى حد اختراق مواقع خارجية.
واستجابةً لهذه المخاطر، أعلنت “أنثروبيك” فرض قيود صارمة على بعض أشكال وصول نماذجها إلى شبكة الإنترنت خلال مراحل اختبار التدريب، مؤكدةً أنها أطلعت البيت الأبيض وكافة الجهات الحكومية المعنية بتفاصيل الحوادث المرصودة.
