دیده‌بان اینترنت: هوش مصنوعی در حال تبدیل شدن به ماشین تولید محتوای سوءاستفاده جنسی از کودکان است
براساس تازه‌ترین داده‌های دیده‌بان اینترنت Internet Watch Foundation – IWF، بزرگ‌ترین هات‌لاین اروپایی برای شناسایی و حذف محتوای سوءاستفاده جنسی از کودکان در فضای آنلاین است، در تازه‌ترین به‌روزرسانی خود در ۵ اکتبر ۲۰۲۶ (۱۳ مهر ۱۴۰۵) هشدار داد که حجم تصاویر واقع‌گرایانه تولیدشده با هوش مصنوعی در نیمه نخست سال ۲۰۲۶ از کل سال ۲۰۲۵ پیشی گرفته است.
طبق داده‌های منتشرشده در جدیدترین گزارش دیده‌بان اینترنت، تحلیل‌گران این نهاد بین اول ژانویه (۱۱ دی ۱۴۰۴) تا ۳۰ ژوئن ۲۰۲۶ (۹ تیر ۱۴۰۵)، حدود ۶ هزار و ۳۱۰ تصویر تولیدشده با هوش مصنوعی را ارزیابی کردند که تعریف قانونی سوءاستفاده جنسی از کودکان را داشتند.
این رقم ۴۰ درصد بیشتر از کل تصاویر شناسایی‌شده در تمام سال ۲۰۲۵ (۴ هزار و ۵۱۲ تصویر) است؛ به عبارت دیگر، فقط در ۶ ماه نخست ۲۰۲۶، حجم محتوای شناسایی‌شده از کل سال قبل فراتر رفته است.
این تصاویر عمدتا دختران (۹۸ موارد ثبت‌شده) را نشان می‌دهند؛ ضمن اینکه توزیع سنی نیز نگران‌کننده است:
دیده‌بان اینترنت پیش‌تر در گزارش سال ۲۰۲۵ اعلام کرده بود که ۸ هزار و ۲۹ تصویر و ویدیوی هوش مصنوعی AI را ارزیابی کرده و تعداد ویدیو‌ها از ۱۳ مورد در ۲۰۲۴ به ۳ هزار و ۴۴۳ مورد در ۲۰۲۵ رسید که افزایشی بیش از ۲۶۰ برابری را نشان می‌دهد؛ ۶۵ درصد این ویدیو‌ها در رده شدیدترین طبقه (Category A) قرار داشتند.
اگرچه دیده‌بان اینترنت محتوای را در سطح جهانی پایش می‌کند، اما بخش عمده میزبانی و توزیع در کشور‌های غربی یا سرور‌های مرتبط با آن‌ها متمرکز است؛ در گزارش‌های پیشین، حدود ۶۳ درصد URLهای اقدام‌شده در کشور‌های اتحادیه اروپا میزبانی می‌شدند و آمریکا، هلند و بلغارستان از نقاط داغ بودند.
گسترش دیپ‌فیک‌های deepfake شخصی‌سازی‌شده علیه کودکان انگلیسی زنگ‌های هشدار را در این کشور به صدا درآورده است.
از سوی دیگر، آمریکا سهم قابل توجهی در میزبانی از بستر‌های یادشده دارد؛ نبود قوانین فدرال جامع برای جرم‌انگاری کامل ابزار‌های تولید CSAM با هوش مصنوعی، چالش ایجاد کرده است.
ابعاد بحران در فرانسه، آلمان و دیگر کشور‌های اروپایی سبب شد تا دیده‌بان اینترنت به‌طور خاص از قانون‌گذاران اتحادیه اروپا بخواهد قوانین تاخیریافته را سریع‌تر تصویب کنند تا شرکت‌های فناوری موظف به شناسایی و حذف سریع این محتوا شوند.
در عین حال، کانادا در کنار دیگر کشور‌های غربی تحت تاثیر روند جهانی قرار دارند.
دیده‌بان اینترنت هشدار داد که بدون اقدام فوری، هوش مصنوعی به ماشین تولید سوءاستفاده جنسی از کودکان تبدیل خواهد شد.
این نهاد تاکید کرد که محتوای AI-generated نه‌تنها حجم را افزایش داده، بلکه شدت و واقع‌گرایی آن را نیز بالا برده است؛ این محتوا می‌تواند خشونت را عادی‌سازی کرده و خطر ارتکاب جرم واقعی را افزایش دهد.
علاوه بر این، تجاری‌سازی اولیه این محتوا از طریق سرویس‌های اشتراکی در حال شکل‌گیری است؛ هوش مصنوعی همچنین به شکارچیان آنلاین این امکان را داده است که تصاویر صریحی از کودکان ایجاد کنند.
دیده‌بان اینترنت خواستار اقدام فوری سیاست‌گذاران غربی، به‌ویژه اتحادیه اروپا و دولت‌های آمریکا، انگلیس، کانادا و آلمان است تا ابزار‌های هوش مصنوعی «ایمن از طراحی» (safe by design) شوند، قوانین شفاف‌تری وضع شده و همکاری بین‌المللی برای حذف سریع محتوا تقویت شود.