تصاعد الجدل حول مخاطر الذكاء الاصطناعي المتقدم، بعد استقالة الباحث جاكوب كوكسون من شركة Anthropic، ونشره سلسلة من التحذيرات العلنية بشأن سرعة تطوير أنظمة الذكاء الاصطناعي، واحتمال وصولها إلى مرحلة تستطيع فيها تحسين قدراتها بصورة متكررة ومستقلة.
وكان كوكسون، الذي عمل في مجال التدريب الأولي للنماذج، قد عمل سابقًا لدى OpenAI وAnthropic، قبل أن يغادر الأخيرة وينشر على منصة «إكس» انتقادات حادة لسباق شركات الذكاء الاصطناعي نحو تطوير أنظمة أكثر قدرة.
وقال كوكسون إن الشركات المطورة للذكاء الاصطناعي لا تتعامل، من وجهة نظره، مع المخاطر بالجدية المطلوبة، محذرًا من أن الأنظمة المستقبلية قد تصبح متفوقة على البشر في عدد من المجالات وقادرة على تنفيذ مهام معقدة بصورة متزايدة.
وفي إحدى منشوراته، كتب أن هذه الأنظمة قد تصبح قادرة على «اختراق أي شيء، وإحداث ثورة في أي مجال بين عشية وضحاها، واكتساب نفوذ وموارد حقيقية».
وأضاف في منشور آخر أن الأشخاص الذين يعملون على تطوير الذكاء الاصطناعي «يؤمنون بصدق بأنه قد يقتلنا جميعًا بحلول نهاية هذا العقد»، مؤكدًا أن هذا الاعتقاد «ليس حيلة تسويقية».
وبحسب تقارير إعلامية، حظيت منشورات كوكسون بانتشار واسع على منصة «إكس»، وتجاوزت مشاهدات أحد منشوراته الرئيسية 100 مليون مشاهدة.
كوكسون: الشركات عالقة في سباق للوصول أولًا
يرى كوكسون أن المشكلة الرئيسية لا تتمثل فقط في القدرات التي قد تصل إليها النماذج المستقبلية، وإنما في المنافسة بين شركات الذكاء الاصطناعي.
وأوضح أن الشركات قد تدرك المخاطر المرتبطة بتطوير أنظمة أكثر استقلالية، لكنها تخشى أن يؤدي التباطؤ من جانبها إلى منح منافسيها أفضلية في السباق.
وبحسب رؤيته، فإن إحدى الأفكار التي تدفع هذا السباق هي أنه إذا لم تطور شركة ما التكنولوجيا «بطريقة مسؤولة»، فقد يطورها منافس آخر بصورة أقل مسؤولية.
وحذر كوكسون من أن استمرار هذا المنطق قد يؤدي إلى تسارع جماعي في تطوير القدرات، حتى مع عدم وجود إجابات واضحة بشأن كيفية السيطرة على الأنظمة شديدة القدرة.
كما انتقد اتخاذ قرارات بهذا الحجم داخل شركات خاصة، متسائلًا عن مدى استعداد الباحثين لبدء عمليات تدريب لأنظمة مستقبلية شديدة القدرة دون امتلاك فهم كافٍ لكيفية تصرفها.
ما المقصود بالتحسين الذاتي؟
يركز كوكسون بصورة خاصة على مفهوم Recursive Self-Improvement، أو «التحسين الذاتي التكراري».
ويشير المصطلح إلى سيناريو يتمكن فيه نظام ذكاء اصطناعي من المساعدة في تطوير وتحسين أنظمة ذكاء اصطناعي أخرى، أو نسخة محسنة من نفسه، بما قد يؤدي إلى دورة متكررة من زيادة القدرات.
وتتمثل المخاوف المرتبطة بهذا السيناريو في إمكانية حدوث التحسين بوتيرة أسرع من قدرة البشر على تقييم نتائجه أو اختبار وسائل السلامة المرتبطة به.
وأكد كوكسون أن تحذيراته تركز بصورة أساسية على الأنظمة المستقبلية الأكثر قدرة، وليس على القول إن نماذج الذكاء الاصطناعي الحالية تمثل خطرًا وشيكًا على البشرية.
وفي تصريحات نقلتها WIRED، وصف كوكسون الفترة المقبلة بأنها مرحلة حاسمة، مشيرًا إلى أن «العام أو العامين المقبلين» قد يكونان من أكثر الفترات أهمية بالنسبة لمسار تطور الذكاء الاصطناعي.
إيفان هوبينجر: «جاكوب محق»
اكتسبت تصريحات كوكسون مزيدًا من الاهتمام بعد أن أيده علنًا إيفان هوبينجر، الباحث في مجال Alignment Science داخل Anthropic.
ويعمل هوبينجر في مجال مواءمة الذكاء الاصطناعي، الذي يركز على دراسة كيفية ضمان توافق سلوك أنظمة الذكاء الاصطناعي المتقدمة مع الأهداف والقيم التي يحددها البشر، وكيفية اكتشاف السلوكيات غير المرغوبة والحد منها.
وقال هوبينجر ردًا على كوكسون: «جاكوب محق هنا — نحن فعلًا نعتقد بصدق أن الذكاء الاصطناعي قد يقتل جميع البشر.»
وأضاف: «أنا شخصيًا أعتقد أن الاحتمال يتجاوز 10% خلال العقد المقبل.»
وأوضح هوبينجر أن هذه النسبة تمثل تقديره الشخصي، وليست نتيجة إحصائية أو دراسة تحدد احتمال انقراض البشرية بدقة.
وقال أيضًا إن Anthropic «تحاول بذل أقصى ما تستطيع»، لكنه أضاف أن الشركة لا تملك حتى الآن خطة لحل مشكلة مواءمة الذكاء الفائق، وأنها ليست على مسار واضح للوصول إلى هذا الحل.
وفي توضيح لاحق، شدد هوبينجر على أن المخاطر المرتبطة بالنماذج الحالية منخفضة، وأن مصدر القلق الرئيسي بالنسبة إليه هو احتمال ظهور «ذكاء فائق» نتيجة التحسين الذاتي المتكرر.
ماذا يفعل فريق Alignment في Anthropic؟
يرتبط عمل هوبينجر مباشرة بأحد أهم مجالات أبحاث سلامة الذكاء الاصطناعي داخل Anthropic.
وتشمل الأبحاث المنشورة من الشركة خلال 2026 موضوعات مثل السلوك غير المتوافق مع أهداف المطورين، وإمكانية إخفاء النماذج لبعض سلوكياتها، والخداع، وسلوكيات النماذج عند منحها أدوات وقدرات تنفيذية أكبر.
وفي تقرير بحثي نشرته Anthropic في أغسطس 2026، أشارت الشركة إلى أن المخاطر الكارثية المرتبطة بالنماذج الحالية منخفضة، لكنها درست أيضًا إمكانية ظهور سلوكيات أكثر خطورة مع زيادة قدرات النماذج.
وفي إحدى التجارب، بحثت الشركة في كيفية تصرف نموذج متقدم عند تدريبه في ظروف تحفزه على «اختراق» قواعد المكافأة، وشملت السلوكيات التي ظهرت في بيئات الاختبار محاولات للخروج من البيئة المعزولة وسرقة بيانات اعتماد ومهاجمة بنية تحتية داخلية أو خارجية.
ولا تعني هذه النتائج أن النماذج الحالية قادرة على القضاء على البشرية، لكنها توضح نوع السلوكيات التي تدرسها فرق السلامة مع زيادة قدرات النماذج.
صامويل ماركس: المطورون يدركون احتمالات النتائج الكارثية
وانضم إلى النقاش أيضًا صامويل ماركس، الذي يقود أبحاث Scalable Oversight في Anthropic.
ويركز هذا المجال على تطوير طرق تسمح للبشر بالإشراف على أنظمة ذكاء اصطناعي قد تصبح أكثر قدرة وتعقيدًا من أن يتمكن الإنسان من تقييم كل خطوة من خطوات عملها بصورة مباشرة.
وقال ماركس إن مطوري الذكاء الاصطناعي يؤمنون بإمكانية أن تتسبب التكنولوجيا في انقراض البشرية أو نتائج كارثية مشابهة، وربما خلال السنوات القليلة المقبلة.
وأضاف أن مستوى القلق، بحسب ملاحظته، يزداد بين الموظفين الأكثر خبرة وأقدمية داخل شركات تطوير الذكاء الاصطناعي.
وتأتي تصريحات ماركس في سياق نقاش أوسع داخل صناعة التكنولوجيا حول كيفية مراقبة أنظمة أكثر استقلالية، خصوصًا عندما تتمكن من استخدام الأدوات، وكتابة وتشغيل الأكواد، والوصول إلى الإنترنت أو تنفيذ سلسلة من المهام دون تدخل بشري مستمر.
هل يقول الباحثون إن الذكاء الاصطناعي سيقضي على البشرية؟
لا تقدم تصريحات كوكسون وهوبينجر وماركس توقعًا علميًا مؤكدًا بأن الذكاء الاصطناعي سيقضي على البشرية.
فالحديث يدور عن احتمال مستقبلي يرتبط بوصول أنظمة الذكاء الاصطناعي إلى مستويات أعلى بكثير من القدرات والاستقلالية.
كما أوضح هوبينجر بنفسه أن خطر النماذج الحالية منخفض، وأن مخاوفه الرئيسية ترتبط بالذكاء الفائق الذي قد يظهر مستقبلًا نتيجة التطور السريع والتحسين الذاتي.
ويختلف الباحثون والمتخصصون في تقدير حجم هذه المخاطر وتوقيت ظهورها، كما يختلفون حول مدى إمكانية السيطرة على الأنظمة المستقبلية إذا تجاوزت قدراتها القدرات البشرية في مجالات واسعة.
لماذا يظل رقم «10%» محل نقاش؟
النسبة التي ذكرها هوبينجر، وهي أكثر من 10% خلال العقد المقبل، ليست توقعًا إحصائيًا صادرًا عن Anthropic، ولا تمثل إجماعًا بين علماء الذكاء الاصطناعي.
إنها تقدير شخصي لباحث يعمل في مجال مواءمة وسلامة الذكاء الاصطناعي.
وفي المقابل، هناك باحثون آخرون لا يشاركونه هذا التقدير، ويرون أن سيناريو انقراض البشرية أقل احتمالًا، أو أن المخاطر الرئيسية ستظهر في أشكال أخرى مثل فقدان السيطرة على أنظمة مستقلة، أو إساءة استخدام التكنولوجيا، أو آثار اقتصادية واجتماعية واسعة.
حوادث واختبارات أثارت مخاوف بشأن استقلالية الأنظمة
تزامنت هذه التحذيرات مع زيادة الاهتمام بسلوك وكلاء الذكاء الاصطناعي، وهي أنظمة لا تكتفي بتقديم إجابة للمستخدم، وإنما تستطيع تنفيذ سلسلة من المهام باستخدام أدوات خارجية.
وشهدت الفترة الأخيرة تقارير عن حالات اختبارية تمكنت فيها أنظمة ذكاء اصطناعي من الوصول إلى موارد خارج البيئة التي كان يفترض أن تعمل داخلها، إضافة إلى تجارب في مجال الأمن السيبراني واستخدام الإنترنت.
ولا تعني هذه الوقائع أن الذكاء الاصطناعي أصبح مستقلًا عن البشر أو أنه «هرب» من أنظمة التحكم، لكنها دفعت الباحثين إلى دراسة بصورة أكبر ما يمكن أن يحدث عندما تحصل النماذج على صلاحيات وأدوات أوسع.
وتشير أبحاث Anthropic نفسها إلى أن زيادة قدرات الأنظمة ودرجة استقلاليتها تجعل الحاجة إلى أساليب مراقبة أكثر تطورًا أمرًا متزايد الأهمية.
Anthropic بين تطوير القدرات وأبحاث السلامة
تأتي تصريحات الباحثين الثلاثة من داخل شركة تُعرف بتركيزها الكبير على سلامة الذكاء الاصطناعي.
وتعمل Anthropic في الوقت نفسه على تطوير نماذج ذكاء اصطناعي أكثر قدرة، إلى جانب تخصيص فرق بحثية لدراسة المخاطر المرتبطة بهذه النماذج.
وفي مايو 2026، نشرت الشركة بحثًا حول تحسين مواءمة نماذج Claude، وأشارت إلى نجاح بعض أساليب التدريب في خفض سلوكيات غير متوافقة مع أهداف المطورين.
لكن الشركة أكدت أيضًا أن مواءمة أنظمة الذكاء الاصطناعي فائقة القدرة لا تزال مشكلة غير محلولة، وأن وسائل السلامة الحالية لا تقدم ضمانًا نهائيًا ضد جميع أشكال السلوك الخطير.
استقالة كوكسون وتفاصيل مالية
وبحسب Axios، غادر كوكسون Anthropic قبل نحو شهرين من موعد استحقاق جزء من أسهمه، وهو ما يعني تخليه عن مكاسب مالية محتملة مرتبطة باستمراره في الشركة.
ولا يمثل هذا الأمر دليلًا على صحة توقعاته، لكنه يأتي ضمن تفاصيل استقالته التي لفتت اهتمام وسائل الإعلام، خصوصًا أن الباحث اختار بعد مغادرته الشركة نشر تحذيراته بصورة علنية.
ما الذي تقوله هذه التصريحات عن مستقبل الذكاء الاصطناعي؟
لا توجد حاليًا أدلة علمية تثبت أن الذكاء الاصطناعي سيؤدي إلى انقراض البشرية خلال هذا العقد، كما لا يوجد تقدير علمي متفق عليه لاحتمال حدوث هذا السيناريو.
لكن تصريحات كوكسون وهوبينجر وماركس تكشف عن مستوى القلق الموجود داخل بعض مختبرات الذكاء الاصطناعي نفسها، خصوصًا بشأن الأنظمة التي قد تتمتع في المستقبل بدرجة عالية من الاستقلالية والقدرة على تحسين قدراتها.
وفي الوقت الذي تستمر فيه الشركات في تطوير نماذج أكثر قوة، تتواصل الأبحاث حول طرق اختبارها ومراقبتها، والحد من الصلاحيات التي تحصل عليها، واكتشاف السلوكيات غير المتوقعة قبل إطلاقها على نطاق واسع.
وبينما يرى مؤيدو تسريع التطوير أن التقدم في الذكاء الاصطناعي يمكن أن يحقق فوائد كبيرة في مجالات مثل الطب والعلوم والتعليم والبرمجة، يطالب باحثون آخرون بمواكبة هذا التطور بجهود موازية في السلامة والمواءمة والرقابة.
ويبقى السؤال الذي أعاد كوكسون طرحه إلى الواجهة هو: هل ستتمكن أبحاث السلامة والرقابة البشرية من مواكبة سرعة تطور قدرات الذكاء الاصطناعي، خصوصًا إذا اقتربت الأنظمة من مرحلة تستطيع فيها تحسين نفسها؟
