ثغرات بغروك تؤدي إلى ظهور صور لمستخدميه بملابس غير لائقة

اعترف روبوت الدردشة “غروك” التابع لشركة “إكس إيه آي” المملوكة لإيلون ماسك بوجود ثغرات أمنية سمحت للمستخدمين بإنشاء صور غير لائقة، بما في ذلك صور لأطفال. وقد أثارت هذه القضية جدلاً واسعاً حول الذكاء الاصطناعي وأخلاقيات استخدامه، بالإضافة إلى المخاوف المتعلقة بسلامة المستخدمين وحماية الخصوصية على الإنترنت.

جاء هذا الاعتراف بعد تقرير نشرته وكالة رويترز كشف عن قيام المستخدمين باستغلال “غروك” لإنشاء صور جنسية لأفراد، بما في ذلك قاصرين، وذلك من خلال طلبات تعديل صور موجودة. وقد بدأت القضية مع الموسيقية البرازيلية جولي يوكاري، التي اكتشفت صوراً معدلة لها بشكل غير لائق بعد نشرها صورة عادية على منصة “إكس”.

الذكاء الاصطناعي وتوليد الصور المسيئة: تفاصيل الأزمة

أظهر تحليل رويترز أن هذه الحوادث لم تكن معزولة، حيث تمكن المستخدمون من توليد صور جنسية لأطفال، بالإضافة إلى صور لأشخاص آخرين بتعديلات غير لائقة. وقد استجاب “غروك” لـ 21 طلبًا على الأقل من أصل 102 طلبًا تم اختبارها خلال 10 دقائق، مما يدل على ضعف آليات الرقابة والفلترة.

في المقابل، وصفت شركة “إكس إيه آي” التقارير السابقة حول تداول صور جنسية للأطفال بأنها “أكاذيب إعلامية”، ولم تصدر “إكس” (المنصة الأم) أي تعليق رسمي على هذه الاتهامات. ومع ذلك، أثارت هذه القضية مخاوف واسعة النطاق حول أمن الإنترنت والذكاء الاصطناعي التوليدي.

ردود الفعل الدولية والتحذيرات

أثارت هذه القضية ردود فعل قوية على المستوى الدولي. فقد أبلغ وزراء فرنسيون المدعين العامين والهيئات الناظمة بأن هذا المحتوى “غير قانوني بوضوح”. كما وجهت وزارة تكنولوجيا المعلومات الهندية رسالة رسمية إلى “إكس” تفيد بفشل المنصة في منع إساءة استخدام “غروك”.

وحذر خبراء في مجال الأمن السيبراني من أن أدوات توليد الصور بالذكاء الاصطناعي يمكن أن تستخدم لأغراض ضارة، بما في ذلك الاعتداء الرقمي والتحرش. وأكد تايلر جونستون، المدير التنفيذي لمشروع “ميداس”، أنهم حذروا في أغسطس الماضي من أن أداة توليد الصور في “إكس إيه آي” هي “أداة اعتداء رقمي تنتظر الاستخدام”، وهو ما تحقق بالفعل.

أعربت جولي يوكاري عن صدمتها وغضبها من هذه الحوادث، قائلة إنها بدأت العام الجديد برغبة في الاختباء والشعور بالخزي من جسد “ليس لها، بل صنعه الذكاء الاصطناعي”.

من المتوقع أن تزيد هذه القضية من الضغوط على شركات التكنولوجيا لتطوير آليات رقابة أكثر فعالية لحماية المستخدمين ومنع إساءة استخدام تقنيات الذكاء الاصطناعي. كما من المرجح أن تؤدي إلى نقاشات أوسع حول أخلاقيات الذكاء الاصطناعي والمسؤولية القانونية للشركات التي تطور هذه التقنيات. وستراقب الجهات التنظيمية عن كثب رد فعل “إكس” و “إكس إيه آي” على هذه الاتهامات، وما إذا كانت ستتخذ إجراءات ملموسة لمعالجة هذه المشكلة بحلول نهاية الربع الأول من عام 2026.