افزایش نگران‌کننده سوءاستفاده از AI برای تولید محتوای جنسی کودکان

گزارش بلومبرگ از افزایش سوءاستفاده از مدل‌های هوش مصنوعی با وزن باز برای تولید محتوای جنسی کودکان و دشواری نظارت بر این فناوری خبر می‌دهد.

هوش مصنوعیتک‌ناکمدل‌های هوش مصنوعی با وزن‌های باز در سال‌های اخیر محبوبیت چشمگیری پیدا کرده‌اند. این مدل‌ها به کاربران اجازه می‌دهند سامانه‌های هوش مصنوعی را روی رایانه‌های خود اجرا کنند و از سازوکارهای ایمنی شرکت‌های تجاری مانند OpenAI و Anthropic عبور کنند.

بااین‌حال، همین ویژگی‌ها باعث شده است افرادی که از هوش مصنوعی برای تولید محتوای سوءاستفاده جنسی از کودکان (CSAM) استفاده می‌کنند نیز به این مدل‌ها روی بیاورند. بلومبرگ در گزارشی تازه به این موضوع پرداخته و از افزایش چشمگیر انتشار چنین محتوای آزاردهنده‌ای در فضای آنلاین خبر داده است. به گفته این رسانه، مدل‌های هوش مصنوعی که بخشی یا تمام کد و وزن‌های آن‌ها در دسترس عموم قرار دارد، به گسترش این پدیده دامن زده‌اند.

ردیابی عاملان این جرائم می‌تواند دشوار باشد. برخی از این مدل‌ها را می‌توان با استفاده از محتوای سوءاستفاده جنسی از کودکان آموزش داد و سپس برای تولید نسخه‌های جدید و مشتق‌شده از آن به کار گرفت.

این فرایند حتی می‌تواند بدون اتصال به اینترنت انجام شود. در چنین شرایطی، کارشناسان فرصت کمتری برای شناسایی محتوا و گزارش آن به مراجع قانونی خواهند داشت.

بلومبرگ گزارش داده است که این روند نگران‌کننده به شکل‌گیری جوامع گسترده‌ای در دارک‌وب منجر شده است که شمار اعضای برخی از آن‌ها به صدها هزار نفر می‌رسد.

افزایش استفاده مجرمانه از مدل‌های با وزن باز

رشد سریع مدل‌های متن‌باز، به‌ویژه مدل‌هایی که در چین توسعه داده می‌شوند، بحث‌های گسترده‌ای را در صنعت هوش مصنوعی به راه انداخته است. مدیران شرکت‌های پیشرو این حوزه درباره پیامدهای امنیت ملی هشدار داده‌اند و خواستار اعمال محدودیت‌هایی بر این فناوری شده‌اند.

بااین‌حال، استفاده از این مدل‌ها برای تولید محتوای سوءاستفاده جنسی از کودکان به مشکلی فوری‌تر تبدیل شده است. دور زدن سازوکارهای ایمنی مدل‌ها از طریق روش‌هایی که با عنوان «جیل‌بریک» شناخته می‌شوند، می‌تواند امکان سوءاستفاده از آن‌ها را فراهم کند.

ربکا پورتنوف، کارشناس ایمنی کودکان در حوزه هوش مصنوعی، به بلومبرگ گفت: «وقتی یک مدل را به‌صورت محلی دانلود می‌کنید و روی سیستم شخصی خود اجرا می‌کنید، تقریباً هیچ راهی برای نظارت بر آن وجود ندارد.» او افزود که این وضعیت به مجرمان احساس امنیت کاذب می‌دهد.

به گفته پورتنوف، بیش از ۵۰۰ مدل هوش مصنوعی با وزن‌های باز برای تولید محتوای سوءاستفاده جنسی از کودکان استفاده می‌شوند. این رقم در مقایسه با کمتر از ۱۲ مدل در دو سال پیش، افزایش چشمگیری نشان می‌دهد.

هم‌زمان، تعداد موارد گزارش‌شده از محتوای سوءاستفاده جنسی از کودکان که با هوش مصنوعی تولید شده‌اند، به مرکز ملی کودکان مفقودشده و مورد سوءاستفاده قرارگرفته آمریکا در سال گذشته از مرز ۱٫۵ میلیون مورد گذشت. این رقم در سال ۲۰۲۴ حدود ۶۷ هزار مورد بود.

بیشتر بخوانیدشکایت جنجالی علیه Character.AI؛ چت‌بات‌ها کاربران را به خودزنی ترغیب کردند

چالش شرکت‌های هوش مصنوعی در مهار محتوای غیرقانونی

با وجود سوءاستفاده از مدل‌های با وزن باز، شرکت‌های هوش مصنوعی همچنان برای مقابله مؤثر با این مشکل در محصولات اختصاصی و بسته خود نیز با دشواری روبه‌رو هستند.

ایلان ماسک، بنیان‌گذار شرکتی که در متن گزارش با نام‌های مرتبط با xAI و اسپیس‌ایکس به آن اشاره شده است، طی سال‌های گذشته وعده داده بود به این روند پایان دهد. بااین‌حال، محتوای سوءاستفاده جنسی از کودکان که با مدل‌های هوش مصنوعی این شرکت تولید می‌شود، همچنان در فضای آنلاین منتشر می‌شود.

در شکایتی پیشنهادی برای طرح دعوای گروهی علیه این شرکت، ادعا شده است مردی از چت‌بات Grok متعلق به ماسک برای تولید حدود ۷ هزار تصویر جنسی صریح از دخترخوانده خود استفاده کرده است. این موضوع در قالب ادعاهای مطرح‌شده در شکایت گزارش شده و نباید آن را به‌منزله اثبات قطعی اتهام دانست.

کارشناسان همچنین اعلام کرده‌اند که پلتفرم اجتماعی ایکس همچنان با حجم زیادی از تصاویر جنسی‌سازی‌شده از کودکان روبه‌رو است.

با شدت گرفتن رقابت در صنعت هوش مصنوعی، مدافعان ایمنی کودکان نگران‌اند که رویکرد شتاب‌زده سیلیکون‌ولی در توسعه و عرضه فناوری‌های جدید، وضعیت را وخیم‌تر کند. آن‌ها هشدار می‌دهند که گسترش ابزارهای قدرتمند هوش مصنوعی، بدون سازوکارهای نظارتی مؤثر، می‌تواند مقابله با تولید و انتشار محتوای غیرقانونی را دشوارتر سازد.

بیشتر بخوانیدآنتروپیک و OpenAI برای مقابله با شورش‌های احتمالی AI آماده می‌شوند

نوشتهافزایش نگران‌کننده سوءاستفاده از AI برای تولید محتوای جنسی کودکاناولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.