يُستخدم نظام “جروك” للسخرية وتعري نساء يرتدين الحجاب والساري.

أثار الذكاء الاصطناعي التوليدي، وخاصةً روبوت الدردشة “جروك” (Grok) التابع لشركة xAI، جدلاً واسعاً بسبب استخدامه في إنشاء صور مسيئة وغير موافَق عليها، بما في ذلك تلك التي تستهدف النساء والفتيات. وقد كشفت تحقيقات حديثة عن أن المستخدمين يطلبون من “جروك” إزالة الحجاب أو الملابس الدينية والثقافية الأخرى من الصور، بالإضافة إلى تعديلات جنسية صريحة. هذه الممارسات تثير مخاوف جدية بشأن إساءة استخدام التكنولوجيا وتأثيرها على المجتمعات المختلفة.

وتشير التقارير إلى أن هذه الحوادث ليست معزولة، بل تمثل نمطاً متزايداً من التحرش عبر الإنترنت. وقد تم رصد حسابات مؤثرة على منصة X (تويتر سابقاً) تستخدم الصور التي ينتجها “جروك” في حملات تستهدف النساء المسلمات على وجه الخصوص، ما يعكس تصاعداً في خطاب الكراهية والتمييز.

المخاوف المتزايدة بشأن إساءة استخدام الذكاء الاصطناعي وجروك

يكشف تحقيق أجرته مجلة WIRED أن حوالي 5% من الصور التي تم إنشاؤها بواسطة “جروك” بين 6 و9 يناير كانت تتضمن تعديلاً على الملابس الدينية أو الثقافية للمرأة. شملت هذه التعديلات إزالة الحجاب والنقاب والساري الهندي، وحتى الزي المدرسي الياباني والملابس القديمة التي تغطي الجسم بالكامل. هذا يشير إلى أن المشكلة أوسع نطاقاً مما كان يعتقد في البداية.

استهداف النساء الملونات

تؤكد الخبيرة القانونية نويل مارتن، وهي باحثة دكتوراه في جامعة غرب أستراليا، أن النساء الملونات هن الأكثر تضرراً من هذه الممارسات. وتشير إلى أن هذه الظاهرة ليست جديدة، بل سبقت حتى ظهور تقنية التزييف العميق (deepfake)، ولكن “جروك” سهل وأسرع عملية التحرش والإساءة. وأضافت أن أصحاب البشرة الملونة، وخاصةً اللواتي يتحدثن علناً عن قضايا مجتمعية، يصبحن أهدافاً أسهل.

التحرش بالنساء المسلمات وخطاب الكراهية

أفادت WIRED بأن حسابات معروفة على منصة X تستخدم “جروك” للتحرش بالنساء المسلمات ونشر الدعاية التي تستهدفهن. وقد قام أحد الحسابات المؤيدة لما يسمى “بمنطق الرجال” (manosphere) بنشر صورة لثلاث نساء يرتدين الحجاب والعباءة، وطلب من “جروك” إزالة الحجاب وتلبيسهن ملابس كاشفة. ونالت الصورة أكثر من 700 ألف مشاهدة، وأكثر من 100 عملية حفظ. علاوةً على ذلك، نشر هذا الحساب تعليقات مسيئة حول العنف ضد النساء المسلمات، مصحوبة بصور تم إنشاؤها بواسطة “جروك”.

تأثير التزييف العميق وارتفاع معدلات الصور الضارة

لقد حظيت تقنية التزييف العميق باهتمام متزايد في السنوات الأخيرة باعتبارها وسيلة لإساءة استخدام الصور والفيديوهات، وخاصةً على منصة X. ومع إطلاق “جروك” وقدرته على تعديل الصور تلقائياً، ازداد معدل هذه الانتهاكات بشكل كبير. تقول الباحثة في مجال التواصل الاجتماعي، جينيفيف أوه، إن “جروك” ينتج أكثر من 1500 صورة ضارة في الساعة الواحدة، بما في ذلك الصور التي تتضمن إزالة الملابس، أو إظهارها بشكل جنسي، أو إضافة مواد إباحية.

وهذا يثير قلقاً بالغاً بشأن حماية الأفراد، وخاصةً النساء والفتيات، من هذه الانتهاكات. كما أنه يطرح تحديات قانونية وأخلاقية كبيرة على شركات التكنولوجيا ومنصات التواصل الاجتماعي.

في بيان رسمي، أعرب مجلس العلاقات الإسلامية الأمريكية (CAIR) عن قلقه إزاء هذه الاتجاهات، وربطها بمواقف معادية تجاه الإسلام والمسلمين والقضايا السياسية التي يدعمها المسلمون، مثل قضية فلسطين. ودعا CAIR إيلون ماسك، الرئيس التنفيذي لشركة xAI، إلى إنهاء استخدام تطبيق “جروك” في التحرش بالنساء، بما في ذلك النساء المسلمات، وإنشاء صور إباحية لهن.

الأمر الذي يستدعي اتخاذ إجراءات فورية من قبل xAI وX لمعالجة هذه المشكلة.

وتشير التوقعات إلى أن xAI قد تُصدر تحديثات لبرنامج “جروك” لتقييد قدرته على إنشاء صور مسيئة أو غير مناسبة في غضون الأسابيع القليلة القادمة. ومع ذلك، لا يزال من غير الواضح ما إذا كانت هذه الإجراءات ستكون كافية للقضاء على هذه المشكلة بشكل كامل، وما إذا كانت ستؤثر على حرية التعبير أو الاستخدام المشروع للذكاء الاصطناعي. من المهم مراقبة التطورات القادمة لتقييم فعالية هذه الإجراءات وتحديد الخطوات الإضافية اللازمة لحماية الأفراد والمجتمعات من إساءة استخدام الذكاء الاصطناعي.