قبل بضعة أسابيع، أدى البحث على جوجل عن “صور عارية مزيفة لجنيفر أنيستون” إلى ظهور ما لا يقل عن سبع نتائج عالية المستوى تزعم أنها تحتوي على صور صريحة تم إنشاؤها بواسطة الذكاء الاصطناعي للممثلة. والآن اختفت هذه النتائج.
وتقول إيما هيغام، مديرة منتجات جوجل، إن التعديلات الجديدة على كيفية تصنيف الشركة للنتائج، والتي تم طرحها هذا العام، قد خفضت بالفعل التعرض للصور الصريحة المزيفة بنسبة تزيد عن 70 في المائة في عمليات البحث التي تبحث عن هذا المحتوى حول شخص معين. وفي حين كانت تظهر نتائج إشكالية ذات يوم، تهدف خوارزميات جوجل إلى الترويج للمقالات الإخبارية وغيرها من المحتوى غير الصريح. والآن يعرض بحث أنيستون مقالات مثل “كيف يمثل فيلم تايلور سويفت الإباحي المزيف باستخدام الذكاء الاصطناعي تهديدًا” وروابط أخرى مثل تحذير المدعي العام في ولاية أوهايو من “عمليات الاحتيال على تأييد المشاهير باستخدام صور مزيفة” تستهدف المستهلكين.
وكتب هيغام في منشور على مدونة الشركة يوم الأربعاء: “بفضل هذه التغييرات، يمكن للأشخاص القراءة عن تأثير الصور المزيفة على المجتمع، بدلاً من رؤية الصفحات التي تحتوي على صور مزيفة غير متفق عليها فعليًا”.
ويأتي تغيير التصنيف بعد تحقيق أجرته WIRED هذا الشهر والذي كشف أن إدارة جوجل رفضت في السنوات الأخيرة العديد من الأفكار التي اقترحها الموظفون والخبراء الخارجيون لمكافحة المشكلة المتزايدة المتمثلة في انتشار التصوير الحميمي للأشخاص عبر الإنترنت دون إذنهم.
في حين سهّلت جوجل طلب إزالة المحتوى الصريح غير المرغوب فيه، حث الضحايا ومناصريهم على اتخاذ خطوات أكثر استباقية. لكن الشركة حاولت تجنب التحول إلى جهة تنظيمية للإنترنت أو الإضرار بالوصول إلى المواد الإباحية المشروعة. في ذلك الوقت، قال متحدث باسم جوجل ردًا على ذلك إن العديد من الفرق تعمل بجد لتعزيز الضمانات ضد ما تسميه الصور الصريحة غير المقبولة (NCEI).
وقد أدى اتساع توافر مولدات الصور التي تعمل بالذكاء الاصطناعي، بما في ذلك بعضها مع قيود قليلة على استخدامها، إلى زيادة في استخدام المركز الوطني للمعلومات الجنسية، وفقًا لمناصري الضحايا. فقد سهلت هذه الأدوات على أي شخص تقريبًا إنشاء صور صريحة مزيفة لأي فرد، سواء كان زميلًا في المدرسة الإعدادية أو أحد المشاهير.
في مارس/آذار، وجد تحليل أجرته WIRED أن جوجل تلقت أكثر من 13 ألف طلب لإزالة الروابط إلى عشرات المواقع الأكثر شعبية التي تستضيف مقاطع فيديو مزيفة صريحة. وقامت جوجل بإزالة النتائج في حوالي 82% من الحالات.
وكجزء من حملة جوجل الصارمة الجديدة، يقول هيغام إن الشركة ستبدأ في تطبيق ثلاثة تدابير لتقليل إمكانية اكتشاف الصور الصريحة الحقيقية غير المرغوب فيها إلى تلك المصطنعة وغير المرغوب فيها. وبعد أن تستجيب جوجل لطلب إزالة صور مزيفة جنسية، ستحاول بعد ذلك إبعاد النسخ المكررة عن النتائج. كما ستقوم بتصفية الصور الصريحة من النتائج في الاستعلامات المشابهة لتلك المذكورة في طلب الإزالة. وأخيرًا، ستواجه المواقع الإلكترونية الخاضعة “لحجم كبير” من طلبات الإزالة الناجحة خفض ترتيبها في نتائج البحث.
وكتب هيغام: “تهدف هذه الجهود إلى منح الناس راحة البال الإضافية، خاصة إذا كانوا قلقين بشأن ظهور محتوى مماثل عنهم في المستقبل”.
وقد أقرت جوجل بأن هذه الإجراءات لا تعمل بشكل مثالي، وقال موظفون سابقون ومدافعون عن الضحايا إنهم قد يذهبون إلى أبعد من ذلك بكثير. ويحذر محرك البحث بشكل بارز الأشخاص في الولايات المتحدة الذين يبحثون عن صور عارية للأطفال من أن مثل هذا المحتوى غير قانوني. ولا تزال فعالية التحذير غير واضحة، لكنه رادع محتمل يدعمه المدافعون. ومع ذلك، وعلى الرغم من القوانين ضد مشاركة NCEI، لا تظهر تحذيرات مماثلة لعمليات البحث التي تبحث عن صور جنسية مزيفة للبالغين. وأكد المتحدث باسم جوجل أن هذا لن يتغير.