“غروك” يحظر توليد صور فاضحة للمستخدمين إثر الأزمة الأخيرة | تكنولوجيا

أعلنت شركة “إكس إيه آي” (xAI)، مطورة روبوت الذكاء الاصطناعي “غروك” (Grok) المدمج في منصة “إكس”، عن حظر توليد الصور الفاضحة، وذلك استجابةً للانتقادات المتزايدة والأزمات الأخيرة المتعلقة بالروبوت. يأتي هذا القرار بعد تقارير تفيد بتوليد “غروك” صورًا غير لائقة، مما أثار جدلاً واسعاً ودفع دولاً إلى اتخاذ إجراءات قانونية.

تزامن الإعلان مع تصريحات إيلون ماسك، الرئيس التنفيذي لشركة “إكس”، الذي نفى علمه بتوليد الروبوت صوراً فاضحة للأطفال. وقد واجه “غروك” انتقادات حادة من مختلف أنحاء العالم، بالإضافة إلى مطالبات بحظره من متاجر التطبيقات.

حظر توليد الصور الفاضحة: استجابة للأزمة المتصاعدة

أكدت شركة “إكس” في بيان رسمي عبر حساب الأمان والسلامة التابع لها، أنها حظرت على “غروك” توليد الصور بشكل كامل، سواء للمستخدمين المشتركين في النسخ المدفوعة أو المجانية. يهدف هذا الإجراء إلى الحد من إساءة استخدام الروبوت وتجنب توليد محتوى غير قانوني أو ضار.

بالإضافة إلى ذلك، قامت الشركة بتقييد إمكانيات توليد الصور وتعديلها عبر “غروك” للمستخدمين المشتركين في منصة “إكس” فقط. كما حظرت توليد صور فاضحة في الأماكن التي يُعد فيها ذلك مخالفًا للقانون المحلي. هذه الخطوة تعكس محاولة من الشركة للتوافق مع القوانين واللوائح المختلفة حول العالم.

ردود الفعل والانتقادات

لم توضح الشركة ما إذا كان الحظر يشمل التطبيق الخاص بروبوت “غروك” أم يقتصر على المنصة الرئيسية “إكس”. وفقًا لتقرير صادر عن صحيفة “غارديان” البريطانية، يثير هذا الغموض تساؤلات حول فعالية الإجراءات المتخذة.

وفي تغريدة له، أوضح إيلون ماسك أن “غروك” مبرمج لرفض الطلبات التي تتعارض مع القوانين، مؤكدًا أنه لا يقوم بتوليد صور فاضحة بشكل تلقائي، بل استجابة لطلبات المستخدمين. ومع ذلك، يرى خبراء أن هذا التبرير لا يعفي الشركة من مسؤولية توفير آليات لمنع إساءة الاستخدام.

سبق للشركة أن اتخذت خطوات للحد من توليد الصور الفاضحة، مثل حصرها على المشتركين في النسخ المدفوعة، إلا أن هذه الإجراءات لم تلقَ استحسانًا من الخبراء والمنظمات الحقوقية.

تطورات قانونية وتأثيرات محتملة على الذكاء الاصطناعي

تأتي هذه التطورات في الوقت الذي تسعى فيه المملكة المتحدة إلى صياغة قانون جديد يجرم توليد صور فاضحة دون موافقة صريحة من صاحب الصورة. وقد دفع ذلك إيلون ماسك إلى التأكيد على التزام المنصة بالتعامل مع القوانين الخاصة بكل دولة على حدة. هذا القانون الجديد قد يضع معايير جديدة للشركات التي تعمل في مجال الذكاء الاصطناعي.

تقرير صادر عن موقع “وايرد” التقني الأميركي كشف عن أن تطبيق وموقع “غروك” المنفصلين يشكلان بيئة أسوأ بكثير من “إكس” فيما يتعلق بتوليد المحتوى غير اللائق. وأشار التقرير إلى استخدام الروبوت لتوليد صور ومقاطع فيديو فاضحة لشخصيات عامة وأطفال.

هذه ليست المرة الأولى التي يواجه فيها “غروك” أزمات. ففي العام الماضي، واجه الروبوت انتقادات بسبب “الهلوسة” المستمرة والتغريدات العنصرية. تُظهر هذه الحوادث التحديات التي تواجهها الشركات في تطوير أنظمة ذكاء اصطناعي آمنة وموثوقة.

مستقبل “غروك” والذكاء الاصطناعي التوليدي

من المتوقع أن تواصل شركة “إكس” جهودها لتحسين آليات الرقابة على “غروك” ومنع إساءة استخدامه. ومع ذلك، لا يزال من غير الواضح ما إذا كانت هذه الإجراءات ستكون كافية لحل المشكلة بشكل كامل.

سيراقب المراقبون عن كثب التطورات القانونية المتعلقة بالذكاء الاصطناعي التوليدي، وخاصة القانون الجديد الذي يتم صياغته في المملكة المتحدة. قد تؤثر هذه التطورات على مستقبل “غروك” وعلى صناعة الذكاء الاصطناعي بشكل عام. من المرجح أن نشهد المزيد من التنظيم والرقابة على هذه التقنيات في المستقبل القريب.