“ديب سيك” تكتب أكوادا بها ثغرات عندما يتعلق الأمر بمسلمي الإيغور | تكنولوجيا

أظهرت دراسة حديثة أجرتها شركة كراود سترايك للأمن السيبراني أن نماذج الذكاء الاصطناعي، وتحديدًا نموذج “ديب سيك” الصيني، تنتج أكوادًا برمجية تحتوي على ثغرات أمنية خطيرة عند ارتباطها بمواضيع سياسية حساسة تتعلق بالحكومة الصينية. وكشف التقرير الذي نشره موقع “ذا هاكر نيوز” التقني، عن أن هذه الثغرات تزيد بشكل ملحوظ عند طلب من النموذج التعامل مع سيناريوهات مرتبطة بقضايا تعتبرها بكين حساسة، مثل الأوضاع في التبت أو حقوق الأقلية المسلمة.

يأتي هذا الاكتشاف في أعقاب تزايد التدقيق في نماذج الذكاء الاصطناعي التي تعتمد على بيانات وتطوير من قبل جهات صينية، وسط مخاوف متزايدة بشأن الرقابة والتأثير السياسي المحتمل. وقد دفعت هذه المخاوف بالفعل بعض الدول إلى حظر أو تقييد استخدام هذه النماذج داخل حدودها، بما في ذلك تحذير صادر عن مكتب الأمن الوطني التايواني بشأن مخاطر استخدام الذكاء الاصطناعي الصيني.

مخاطر الذكاء الاصطناعي وتوليد الأكواد المعطوبة

حذر مكتب الأمن الوطني التايواني مواطنيه من استخدام نماذج الذكاء الاصطناعي الصينية، سواء كانت “ديب سيك” أو غيرها، بسبب القلق من احتمال تزوير الروايات التاريخية أو نشر معلومات مضللة حول التوترات المستمرة بين الصين وتايوان. ووفقًا للوكالة، فإن هذه النماذج تمتلك القدرة على إنشاء برامج ضارة يمكنها استهداف الشبكات، بالإضافة إلى توليد أكواد استغلال للثغرات الأمنية، مما قد يؤدي إلى تنفيذ تعليمات برمجية عن بُعد دون إذن.

أظهرت دراسة كراود سترايك، أن نموذج “ديب سيك” يميل إلى توليد أكواد برمجية معيبة ومليئة بالثغرات الأمنية بشكل خاص عندما يتم تضمين إشارات إلى مواضيع تعتبرها الحكومة الصينية حساسة. على سبيل المثال، عند طلب من النموذج تصميم نظام تحكم صناعي لمصنع يقع في منطقة التبت، أو تطوير تطبيق لتحليل الانتهاكات المزعومة ضد مجتمع الإيغور المسلم، زاد معدل توليد الأكواد التي تحتوي على نقاط ضعف أمنية خطيرة بنسبة تصل إلى 50٪.

الخلفية القانونية والتنظيمية

وتشير كراود سترايك إلى أن هذه القيود المبرمجة في “ديب سيك” قد تكون نتيجة مباشرة لالتزام صارم بالقوانين واللوائح الصينية. تتضمن هذه القوانين أحكامًا تمنع الذكاء الاصطناعي من إنتاج محتوى يعارض أو يقوض “الوضع الراهن” – وهو مصطلح تشير به الحكومة الصينية غالبًا إلى سياساتها ومواقفها الرسمية. هذا يخلق تحديات كبيرة في مجال الأمن السيبراني.

بالإضافة إلى ذلك، تظهر المخاوف بشأن الرقابة والتأثير السياسي في سياق أوسع من التنافس العالمي في مجال الذكاء الاصطناعي. تسعى العديد من الدول إلى تطوير قدراتها في هذا المجال، ولكنها أيضًا تدرك المخاطر المحتملة المرتبطة بالاعتماد على نماذج تم تطويرها من قبل جهات فاعلة أجنبية، إخصيصاً عندما يتعلق الأمر بـالبيانات الحساسة والأمن القومي.

تداعيات محتملة وتوقعات مستقبلية

تعتبر هذه النتائج بمثابة تذكير بأهمية تقييم الثغرات الأمنية المحتملة في نماذج الذكاء الاصطناعي، خاصة تلك التي تم تطويرها في بيئات تخضع لقيود سياسية ورقابية صارمة. وبالنظر إلى الاعتماد المتزايد على الذكاء الاصطناعي في مختلف القطاعات، بما في ذلك البنية التحتية الحيوية والنظم المالية، فإن معالجة هذه المخاطر أمر بالغ الأهمية.

من المتوقع أن تستمر المناقشات حول تنظيم الذكاء الاصطناعي وتطوير معايير موضوعية لتقييم الأمان والموثوقية. وستراقب وكالات الأمن السيبراني عن كثب التطورات في هذا المجال، وقد تفرض قيودًا إضافية على استخدام نماذج الذكاء الاصطناعي التي تشكل تهديدًا محتملًا. من المرجح أن يتم طرح تقارير تفصيلية إضافية من كراود سترايك وغيرها من الشركات الأمنية في الربع الأول من عام 2026، مما قد يلقي الضوء على المزيد من التفاصيل التقنية حول هذه الثغرات.