دعت أنثروبيك كبرى مختبرات الذكاء الاصطناعي إلى النظر في إيقاف مؤقت ومنسق لتطوير التحديث الذاتي لنماذج الذكاء الاصطناعي، محذرةً من أن التقدم المتسارع قد يسمح للأنظمة بتطوير نفسها بوتيرة تفوق قدرة المجتمع على إدارة مخاطرها.
وأوضحت الشركة، المطورة لنموذج كلود أن قدرة الذكاء الاصطناعي على إنجاز المهام تتضاعف تقريبًا كل أربعة أشهر، متجهةً نحو ما يُعرف بـ”التحسين الذاتي المتكرر”؛ وهي المرحلة التي تتطور فيها التقنية دون تدخل بشري.
وفي تدوينة مطولة، أشار “جاك كلارك”، المؤسس المشارك، و”مارينا فافارو”، رئيسة معهد أنثروبيك، إلى أن هذا التحسين ليس حتميًا ولم نصله بعد، لكنه قد يحل أسرع من استعداد معظم المؤسسات، مما يجعل أساليب تأمين الأنظمة وتوجيه سلوكها أمرًا بالغ الأهمية إن تمكنت من بناء نسخ تخلفها بالكامل، مؤكدين أن الإيقاف سيمنح المجتمع وقتًا كافيًا للتعامل مع التداعيات الهائلة.
وتتزايد المخاوف من خروج الأنظمة المتقدمة عن السيطرة البشرية مسببةً أضرارًا مجتمعيةً، خاصةً بعد أن أحدث نموذج ميثوس التابع للشركة صدمةً في قطاعات كالبنوك والبرمجيات مطلع هذا العام لامتلاكه قدرةً فائقةً على كشف الثغرات البرمجية.
ورغم ذلك، تتسم التشريعات بالبطء، وتحديدًا في الولايات المتحدة؛ حيث ألزم أمر تنفيذي لإدارة “ترامب” المختبرات طوعًا بتقديم نماذجها الفائقة لاختبارات الأمن السيبراني الحكومية قبل الإطلاق العام.
ولم تنجح دعوات سابقة لإيقاف التطوير، كحملة عام 2023 التي دعمها “إيلون ماسك” لتجميد العمل ستة أشهر.
وتاريخيًا، تضع أنثروبيك السلامة أولويةً قصوى؛ إذ رفضت سابقًا استخدام نماذجها عسكريًا، مما أدى لإدراجها في قائمة سوداء للأمن القومي الأمريكي يبدأ تفعيلها أواخر عام 2026، رغم بوادر انفراجة حديثة لهذا النزاع.
ومع ذلك، واصلت الشركة إطلاق نماذج قوية، متراجعةً في فبراير عن تعهد رئيسي بالسلامة لتجنب تخلفها عن منافسيها، في وقت قُيمت فيه الشركة بنحو 965 مليار دولار عقب جولة تمويل ضخمة، مع تقديمها طلبًا سريًا لطرح عام أولي يضعها في صدارة السباق تمويليًا وتقييميًا أمام غريمتها “أوبن إيه آي”.
وحذرت التدوينة من أن أي تباطؤ أحادي الجانب أو سيئ التنسيق قد يؤدي لنتائج عكسيةً إذا واصلت الأطراف الأقل حذرًا تقدمها، مما يقلل من مستوى السلامة.
وأكدت الشركة أن الإيقاف الفعال يتطلب اتفاقًا بين مختبرات كبرى متعددة تعمل في طليعة التكنولوجيا، فضلًا عن وضع قواعد تحدد شروط تفعيل الإيقاف ورفعه والجهة المشرفة عليه.
وبينما يسهل تطبيق إيقاف أحادي، إلا أنه لن يثمر سوى عن تغيير هوية المتصدر دون خلق العملية التشاورية المفقودة حاليًا.
ويعتزم معهد أبحاث الشركة دراسة الأنظمة اللازمة لدعم هذا التباطؤ، مع جمع صناع السياسات والباحثين والشركات المنافسة ومجموعات المجتمع المدني خلال الأشهر المقبلة لمناقشة إدارة المخاطر.