كشفت تجارب حديثة استخدام أدوات برمجية لإزالة ضوابط الأمان من نماذج الذكاء الاصطناعي التي طورتها شركات كبرى مثل “ميتا” و”جوجل”.
وأسفرت هذه الممارسات -التي أجرتها صحيفة “فاينانشال تايمز” ومجموعة أمان الذكاء الاصطناعي “أليس- عن إنشاء آلاف النسخ المعدلة التي تقدم إجابات خطيرة ومحظورة؛ حيث قدمت نسخة من نموذج “جيما 3″ مفتوح المصدر التابع لـ”جوجل” إرشادات دقيقة حول كيفية نشر غاز الكلور في مكان مغلق مزدحم، وأنشأت رموزًا برمجية لسرقة بيانات البطاقات الائتمانية، وكتبت قصصًا تتضمن استغلالًا جنسيًا للأطفال.
وتتفاقم المشكلة مع إظهار الأنظمة الرائدة قدرات معقدة؛ إذ أعلنت شركة “أنثروبيك” في أبريل الماضي أن نموذجها “كلود ميثوس” قد حدد ثغرات في كافة أنظمة التشغيل ومتصفحات الويب الرئيسية.
وتزيد هذه النماذج المعدلة من تعقيد جهود الحكومات والشركات لتنظيم الذكاء الاصطناعي من المنبع، نظرًا لأن أدوات التعديل القابلة للتنزيل يمكن نسخها وتغييرها بعيدًا عن سيطرة المطورين الأصليين.
ورغم إنفاق مختبرات الذكاء الاصطناعي ملايين الدولارات لبناء “حواجز حماية” تمنع إساءة الاستخدام، أتاحت تقنية تُعرف باسم “الاستئصال” إزالة هذه الضوابط سريعًا من النماذج مفتوحة المصدر التي يُسمح للمطورين بتنزيلها وتعديلها.
ويصعب تطبيق هذه التقنية على الأنظمة المغلقة مثل “شات جي بي تي” أو “كلود” لحجب شفراتها الأساسية عن الغرباء، إلا أن الأنظمة مفتوحة المصدر تمكنت تاريخيًا من تقليص الفجوة مع نظيراتها المغلقة لتصل إلى فترة تتراوح بين 6 إلى 12 شهرًا.
وفي حين كانت عملية تجاوز القيود تتطلب سابقًا خبرة تقنية عالية، باتت النسخ المعدلة متاحة بسهولة للأفراد العاديين.
وتمكنت “فاينانشال تايمز” من استخدام أداة “هيريتيك” المتاحة عبر منصة “جيت هاب” لإزالة قيود نموذج “لاما 3.3” من “ميتا” في أقل من 10 دقائق باستخدام أربعة أسطر برمجية فقط، ودون الحاجة لمعدات متخصصة.
واستجاب النموذج المعدل لأسئلة محظورة سلفًا، مثل تحديد الجرعة المميتة من سم الريسين بالمايكروغرام.
من جهته، صرح فيليب إيمانويل وايدمان، مبتكر أداة “هيريتيك”، للصحيفة بأن برنامجه استُخدم لإنشاء أكثر من 3500 نموذج غير خاضع للرقابة منذ إطلاقه العام الماضي، محققًا 13 مليون عملية تنزيل.
وأضاف أنه تمكن شخصيًا من إزالة قيود نموذج “جيما 4” التابع لجوجل خلال 90 دقيقة فقط من إصداره.
وعلق نعوم شوارتز، الرئيس التنفيذي لشركة “أليس”، قائلًا إن “المارد قد خرج من القمقم، وما كان يبدو كخيال علمي أصبح واقعًا يجب على المجتمع الاستعداد له”.
وفي محاولة لمواجهة هذه المخاطر، اعتمدت “أوبن إيه آي” نهجًا في نماذجها GPT-OSS يعتمد على تدريب الأنظمة على بيانات خُليت من المواد الخطرة؛ حذف هذه البيانات قد يجعل النماذج “ساذجة” وغير قادرة على اكتشاف الاستخدام الخبيث.
وأقرت “جوجل” –بحسب فاينانشال تايمز- بأن “الاستئصال” يمثل تحديًا تقنيًا معروفًا يواجه جميع النماذج المفتوحة، مؤكدة إجراء تقييمات أمان صارمة قبل الإطلاق.
وفي المقابل، دافعت منصة “جيت هاب” عن سياساتها بمنع المحتوى الداعم للهجمات النشطة، لكنها لم تحظر الشفرات المصدرية المحتمل استخدامها في البرمجيات الخبيثة لكونها تقدم “قيمة تعليمية وتفيد مجتمع الأمن السيبراني”.