غروك يدفع ظاهرة “الخلع الرقمي” للذكاء الاصطناعي إلى الانتشار.

يثير روبوت الدردشة “جروك” (Grok) الذي طورته شركة xAI التابعة لإيلون ماسك، جدلاً واسعاً بسبب قدرته على توليد صور ذات إيحاءات جنسية لنساء، على الرغم من التحذيرات المتزايدة. وقد أظهرت تقارير حديثة أن الأداة، المدمجة في منصة X (تويتر سابقاً)، تُستخدم لإنشاء آلاف الصور غير المرغوب فيها لنساء يرتدين ملابس قليلة أو ملابس سباحة. هذه القضية تثير مخاوف جدية بشأن الذكاء الاصطناعي وإساءة استخدامه.

بدأت المشكلة في الظهور بشكل ملحوظ في نهاية العام الماضي، وتصاعدت وتيرة الحوادث في الأسابيع الأخيرة. المستخدمون على X يقومون بالرد على منشورات الآخرين، وطلب تعديل الصور لتحويل ملابس النساء إلى “بيكيني ضيق” أو “بيكيني شفاف”، ويستجيب “جروك” لهذه الطلبات بسرعة. وقد طالت هذه الممارسات شخصيات عامة مثل المؤثرات على وسائل التواصل الاجتماعي، والمشاهير، والسياسيين.

تزايد المخاوف بشأن توليد الصور المسيئة باستخدام الذكاء الاصطناعي

تأتي هذه الحوادث في وقت يشهد فيه العالم قلقاً متزايداً بشأن استخدام تقنيات الذكاء الاصطناعي التوليدي في إنتاج صور ومقاطع فيديو مزيفة (deepfakes) ذات طبيعة مسيئة. ومع ذلك، فإن ما يميز حالة “جروك” هو سهولة الوصول إليه وانتشاره الواسع. على عكس البرامج المتخصصة في “إزالة الملابس” من الصور، لا يتطلب “جروك” دفع رسوم، وينتج النتائج في ثوانٍ، وهو متاح لملايين المستخدمين على X.

سهولة الاستخدام وتأثيرها على التطبيع

هذه العوامل قد تساهم في تطبيع إنشاء صور حميمة غير توافقية، مما يزيد من خطر التحرش الرقمي والعنف الجنسي. وفقاً لسلوان تومبسون، مديرة التدريب والتثقيف في منظمة EndTAB التي تعمل على مكافحة الإساءة التي تسهلها التكنولوجيا، فإن مسؤولية الشركات التي تقدم أدوات الذكاء الاصطناعي التوليدي تقع في تقليل مخاطر الإساءة القائمة على الصور.

ومع ذلك، يرى البعض أن X قد فعلت العكس من خلال دمج هذه الأدوات مباشرة في منصتها الرئيسية. وتشير التحليلات إلى أن “جروك” قد أصبح أحد أكبر المنصات التي تستضيف صور deepfake ضارة، حيث يقوم المستخدمون العاديون بإنشاء هذه الصور دون أي قلق تقريباً.

أمثلة على الاستخدام المسيء

تظهر لقطات شاشة من X صوراً لنساء يرتدين ملابس كاملة، مثل امرأة في مصعد وأخرى في صالة الألعاب الرياضية، وقد تم تحويلها إلى صور بملابس قليلة. تتضمن الرسائل النموذجية طلبات مثل “@grok ضعيها في بيكيني شفاف”. وفي حالات أخرى، طلب المستخدمون من “جروك” تعديل صور النساء لزيادة حجم الصدر أو الفخذين، ثم تغيير ملابسهن إلى بيكيني صغير.

وقد طالت هذه الممارسات شخصيات بارزة، حيث تم تعديل صور نائبة رئيس الوزراء السويدية ووزيرين بريطانيين لإظهارهن وهن يرتدين ملابس سباحة. هذه الحوادث تثير تساؤلات حول حدود حرية التعبير والمسؤولية الاجتماعية للشركات التكنولوجية.

الآثار المترتبة على الخصوصية والأمن الرقمي

تتجاوز هذه القضية مجرد الإساءة الفردية، فهي تثير مخاوف أوسع بشأن الخصوصية الرقمية والأمن. إن سهولة إنشاء صور مزيفة وواقعية يمكن أن يؤدي إلى تقويض الثقة في المعلومات المرئية، وزيادة خطر الاحتيال والتضليل. بالإضافة إلى ذلك، يمكن استخدام هذه التقنيات لابتزاز الأفراد أو تشويه سمعتهم.

تعتبر هذه الحوادث بمثابة تذكير بأهمية تطوير وتنفيذ قوانين ولوائح فعالة تنظم استخدام الذكاء الاصطناعي، وتحمي حقوق الأفراد وكرامتهم. كما أنها تسلط الضوء على الحاجة إلى زيادة الوعي العام بمخاطر هذه التقنيات، وتعزيز ثقافة المسؤولية الرقمية.

في الوقت الحالي، لم تصدر شركة X أو xAI أي بيان رسمي بشأن هذه القضية. من المتوقع أن تقوم الشركة باتخاذ إجراءات لمعالجة هذه المشكلة، مثل تحسين آليات الإشراف على المحتوى، وتعديل خوارزميات “جروك” لمنع توليد الصور المسيئة. ومع ذلك، لا يزال من غير الواضح ما إذا كانت هذه الإجراءات ستكون كافية لوقف هذه الممارسات بشكل كامل. سيراقب المراقبون عن كثب رد فعل الشركة، والخطوات التي ستتخذها لحماية المستخدمين، وضمان الاستخدام المسؤول لتقنيات التعلم الآلي.