مجرمو الإنترنت يشتكون من فوضى الذكاء الاصطناعي في منتدياتهم

المحتوى الناتج عن الذكاء الاصطناعي يثير استياء مجرمي الإنترنت: المفارقة الصادمة

في مفارقة جديدة في عالم الإنترنت، يواجه استخدام المحتوى الناتج عن الذكاء الاصطناعي، المعروف بـ”AI garbage” أو “AI slop”، استياءً متزايدًا ليس فقط من المستخدمين العاديين، بل أيضًا من مجرمي الإنترنت. يبدو أن مجتمع المتسللين، والمحتالين، والمجرمين الإلكترونيين من ذوي المستوى الأدنى، يجدون أنفسهم منزعجين بشكل متزايد من انتشار هذا النوع من المحتوى في منتدياتهم ومجتمعاتهم الرقمية.

أظهرت دراسة حديثة أجراها باحثون من جامعة إدنبرة، بالتعاون مع جامعات كامبريدج وسترثكلايد، وجود مقاومة متزايدة لاستخدام الذكاء الاصطناعي التوليدي في منتديات الجريمة السيبرانية والمجموعات السرية. تشير النتائج إلى أن الفجوة بين التباهي والواقع أصبحت واضحة، حيث يشعر العديد من المستخدمين بأن هذه التقنيات تقوض مصداقيتهم ومهاراتهم.

تزايد الاستياء من “قمامة الذكاء الاصطناعي” في مجتمعات مجرمي الإنترنت

يشكو مستخدمو منتديات القرصنة، التي غالبًا ما تكون ذات أصول روسية، من انتشار المحتوى المكتوب بواسطة الذكاء الاصطناعي. هذه المنتديات، التي تعتبر بمثابة أسواق ومجموعات تواصل لمجرمي الإنترنت، تسمح بتبادل البيانات المسروقة، والإعلان عن وظائف القرصنة، وحتى النقاشات الاجتماعية بين الأعضاء. ومع ذلك، فإن هذه “المساحات الاجتماعية” تتعرض للاضطراب بسبب الوافدين الجدد الذين يستخدمون الذكاء الاصطناعي لإنشاء منشورات تبدو آلية وغير شخصية.

وفقًا لدراسة فحصت أكثر من 97 ألف محادثة متعلقة بالذكاء الاصطناعي على منتديات الجريمة السيبرانية منذ إطلاق ChatGPT في أواخر عام 2022 وحتى نهاية العام الماضي، لوحظت شكاوى حول منشورات تقدم “شروحات نقطية” لمفاهيم أساسية في الأمن السيبراني. كما أعرب المستخدمون عن قلقهم بشأن انخفاض عدد زوار المنتديات بسبب تأثير ميزات البحث بالذكاء الاصطناعي من جوجل، مثل “Google AI overviews”.

يقول بن كولير، الباحث الأمني ​​ومحاضر أول في جامعة إدنبرة، إن هذه المجتمعات كانت في السابق أماكن يمكن للمستخدمين فيها بناء سمعة موثوقة، بل وتنظيم مسابقات كتابة. وأشار إلى أن “هذه هي في الأساس مساحات اجتماعية. إنهم يكرهون حقًا الآخرين الذين يستخدمون [الذكاء الاصطناعي] في المنتديات”.

تأثير الذكاء الاصطناعي على مصداقية مجرمي الإنترنت

تكمن المشكلة الرئيسية في أن استخدام الذكاء الاصطناعي لإنشاء محتوى يبدو احترافيًا يبطله بسرعة عندما يصبح واضحًا أنه تم إنشاؤه آليًا. يرى العديد من مجرمي الإنترنت أن هذا يقوض قدرتهم على إظهار المهارات الحقيقية، مما يجعلهم يشعرون بأنهم “غير ماهرين”.

على سبيل المثال، أظهرت منشورات تمت مراجعتها في منتديات مثل “Hack Forums” استياءً واضحًا من الأعضاء الذين يستخدمون الذكاء الاصطناعي. كتب أحد المستخدمين: “أرى الكثير من الأعضاء يستخدمون الذكاء الاصطناعي لإنشاء مواضيعهم/منشوراتهم وهذا يزعجني لأنهم لا يستغرقون وقتًا لكتابة جملة بسيطة أو اثنتين”. وكتب آخر بعبارات أكثر وضوحًا: “توقفوا عن نشر خردة الذكاء الاصطناعي”.

يؤكد كولير أن هذا الاستياء ينبع أيضًا من رغبة المستخدمين في إجراء تفاعلات بشرية حقيقية. ونقلت الدراسة اقتباسًا من أحد المستخدمين يقول: “إذا كنت أرغب في التحدث إلى روبوت محادثة يعمل بالذكاء الاصطناعي، فهناك العديد من المواقع التي يمكنني القيام بذلك… أنا هنا من أجل التفاعل البشري”.

تطور استخدام الذكاء الاصطناعي في الجريمة السيبرانية

منذ ظهور ChatGPT في أواخر عام 2022، زاد الاهتمام بشكل كبير بقدرات الذكاء الاصطناعي في مجال القرصنة وكيف يمكن لهذه التكنولوجيا أن تحول الجريمة عبر الإنترنت. يسعى كل من المخترقين المتطورين والأقل قدرة إلى استخدام الذكاء الاصطناعي في هجماتهم.

بينما عززت بعض عمليات الاحتيال المنظمة عملياتها باستخدام تقنيات تبديل الوجوه بالذكاء الاصطناعي الأكثر واقعية ورسائل الهندسة الاجتماعية المترجمة باستخدام الذكاء الاصطناعي، فإن الكثير من الاهتمام انصب على قدرات الذكاء الاصطناعي التوليدي في كتابة التعليمات البرمجية الضارة واكتشاف الثغرات الأمنية. وهذا يعني أن المحتوى الناتج بدوره يمكن أن يكون أكثر إقناعًا وتمويهًا.

مستقبل مضطرب: الذكاء الاصطناعي بين الأداة والوبال

تكمن المفارقة في أن الأدوات نفسها التي يطمح مجرمو الإنترنت لاستخدامها لتعزيز عملياتهم، تساهم أيضًا في تدهور بيئة منتدياتهم الخاصة. مع استمرار تطور تقنيات الذكاء الاصطناعي، من المرجح أن تستمر هذه الظاهرة في الظهور بأشكال مختلفة.

في المستقبل المنظور، من المتوقع أن تستمر المناقشات حول استخدام الذكاء الاصطناعي في منتديات الجريمة السيبرانية. السؤال المطروح هو ما إذا كانت هذه المجتمعات ستتمكن من إيجاد توازن بين تبني التقنيات الجديدة والحفاظ على هيكلها الاجتماعي وقواعدها. كما أن تأثير أدوات البحث بالذكاء الاصطناعي على حركة المرور إلى هذه المنتديات سيظل عاملًا يستحق المراقبة.