حاولت يوكاري، الموسيقية اليابانية، المقاومة بمفردها، لكن عندما لجأت إلى “إكس” للاحتجاج على الانتهاك، بدأت موجة من المقلدين في مطالبة “جروك” بإنتاج صور أكثر صراحة.
ويتبين حاليًا أن العام الجديد بدأ برغبتها في الاختباء عن أعين الجميع، والشعور بالخجل من جسد ليس جسدها، حيث تم إنتاجه بواسطة الذكاء الاصطناعي.
وكانت جولي يوكاري، المقيمة في ريو دي جانيرو، قد نشرت صورة التقطها خطيبها على موقع “إكس” قبل منتصف ليلة رأس السنة مباشرة، تظهر فيها بفستان أحمر وهي تعانق قطتها السوداء نوري في السرير.
وفي اليوم التالي، من بين مئات الإعجابات المرفقة بالصورة، رأت إشعارات تفيد بأن المستخدمين كانوا يطلبون من جروك، روبوت الدردشة المدمج في “إكس”، تجريدها رقمياً من ملابسها.
ولم تكن الموسيقية البالغة من العمر 31 عامًا تعير الأمر اهتمامًا كبيرًا، كما صرحت لـ”رويترز”، إذ اعتقدت أنه لا سبيل لامتثال الروبوت لمثل هذه الطلبات؛ لكنها كانت مخطئة، فسرعان ما بدأت صور أنتجها برنامج جروك لها وهي شبه عارية في الانتشار عبر المنصة المملوكة لإيلون ماسك، معقّبة: “كنت ساذجة”.
وقد وجد تحليل أجرته “رويترز” أن تجربة يوكاري تتكرر بانتظام عبر منصة “إكس”، حيث حددت الوكالة أيضًا عدة حالات أنشأ فيها جروك صور ذات طابع جنسي لأطفال.
ولم تعقّب منصة إكس، لكن في بيان سابق لـ”رويترز” حول تقارير تفيد بتداول صور جنسية لأطفال على المنصة، قالت شركة xAI: “وسائل الإعلام التقليدية تكذب”.
وقد أثار تدفق الصور شبه العارية لأشخاص حقيقيين نواقيس الخطر على المستوى الدولي؛ حيث أبلغ وزراء في فرنسا المدعين العامين والجهات التنظيمية عن هذه الصور المزعجة، قائلين في بيان إن المحتوى الجنسي والتحيز الجنسي غير قانوني بشكل واضح.
كما ذكرت وزارة تكنولوجيا المعلومات الهندية في رسالة إلى وحدة إكس المحلية أن المنصة فشلت في منع إساءة استخدام جروك من خلال توليد وتداول محتوى فاحش وصريح جنسيًا.
انزع ملابسها المدرسية
ويبدو أن حملة التعرية الرقمية الجماعية التي يقوم بها جروك قد انطلقت خلال اليومين الماضيين، وفقًا لطلبات إزالة الملابس الناجحة التي نشرها جروك وشكاوى المستخدمات التي راجعتها “رويترز”.
وبدا ماسك وكأنه يسخر من هذا الجدل في وقت سابق من، حيث نشر رموزًا تعبيرية ضاحكة ردًا على تعديلات ذكاء اصطناعي لشخصيات مشهورة، بما في ذلك نفسه، وهم يرتدون ملابس السباحة، وعندما قال أحد مستخدمي إكس إن صفحته أصبحت تشبه حانة تعج بالنساء اللاتي يرتدين البكيني، رد ماسك جزئيًا برمز تعبيري ضاحك آخر.
ولا يمكن تحديد النطاق الكامل لهذا الارتفاع المفاجئ في المحتوى، لكن مراجعة للطلبات العامة المرسلة إلى جروك خلال فترة زمنية واحدة مدتها 10 دقائق في منتصف يوم الجمعة، سجلت 102 محاولة من قبل مستخدمي “إكس” لاستخدام جروك لتعديل صور أشخاص رقميًا ليظهروا بملابس السباحة، بحسب “رويترز”.
وكانت الغالبية العظمى من المستهدفين نساء شابات، وفي حالات قليلة، استهدفت الطلبات رجالًا ومشاهير وسياسيين، وفي حالة واحدة، استهدفت قردًا.
ووجدت رويترز أن “جروك” امتثل تمامًا لمثل هذه الطلبات في 21 حالة على الأقل، حيث أنتج صورًا لنساء بملابس سباحة شفافة، وفي حالة واحدة على الأقل، ظهرت امرأة مغطاة بالزيت، وفي سبع حالات أخرى، امتثل “جروك” جزئيًا، حيث قام أحيانًا بتعرية النساء، لكنه لم يمتثل لطلبات الذهاب إلى أبعد من ذلك.
وتشير رويترز إلى أنَّ إن البرامج المدعومة بالذكاء الاصطناعي التي تقوم بتعرية النساء رقميًا موجودة منذ سنوات، ولكنها كانت حتى الآن محصورة إلى حد كبير في الزوايا المظلمة من الإنترنت، مثل المواقع المتخصصة أو قنوات تليجرام، وكانت تتطلب عادةً مستوى معينًا من الجهد أو الدفع المالي.
وقال 3 خبراء تابعوا تطور سياسات “إكس” حول المحتوى الصريح الناتج عن الذكاء الاصطناعي إن الشركة تجاهلت تحذيرات المجتمع المدني ومجموعات سلامة الأطفال، بما في ذلك رسالة أرسلت العام الماضي تحذر من أن شركة xAI لم تكن سوى خطوة صغيرة واحدة بعيدًا عن إطلاق سيل من التزييف العميق غير التوافقي بشكل واضح.
وقال تايلر جونستون، المدير التنفيذي لمشروع ميداس، وهي مجموعة مراقبة للذكاء الاصطناعي كانت من بين الموقعين على الرسالة: “في أغسطس، حذرنا من أن توليد الصور في xAI كان في الأساس أداة تعرية تنتظر من يستخدمها كسلاح، وهذا هو بالضبط ما حدث”.
وقالت داني بينتر المستشارة القانونية ومديرة مركز القانون في المركز الوطني للاستغلال الجنسي، إن “إكس فشلت في سحب الصور المسيئة من مواد تدريب الذكاء الاصطناعي الخاصة بها وكان ينبغي عليها حظر المستخدمين الذين يطلبون محتوى غير قانوني”، مضيفة: “كانت هذه فاجعة متوقعة تمامًا وكان من الممكن تجنبها”.
