شکایت جنجالی از چت‌بات گراک: تولید تصاویر غیراخلاقی از عکس‌های کودکی یک زن با هوش مصنوعی ایلان ماسک XNET | اخبار و تحلیل هوش مصنوعی

یک زن در شکایتی فدرال اعلام کرد ناپدری‌اش با استفاده از چت‌بات گراک، عکس‌های دوران کودکی او را به هزاران تصویر غیراخلاقی و مصداق سوءاستفاده جنسی تبدیل کرده است.

پس از کلی بررسی منابع معتبر و تحلیل داده‌هادر تحریریه ، مشخص شد این پرونده جدی‌ترین چالش حقوقی علیه استارتاپ xAI به رهبری ایلان ماسک در سال ۲۰۲۶ به شمار می‌رود. بر اساس دادخواست ثبت‌شده در دادگاه فدرال وایومینگ، متهم با بارگذاری یک عکس قدیمی مربوط به سنین خردسالی شاکی در سامانه تولید تصویر گراک، دستورهای متوالی برای حذف لباس و خلق محتوای مستهجن ارسال کرده و الگوریتم‌های گراک بدون اعمال محدودیت بازدارنده، هزاران نسخه غیرقانونی از این کودک را شبیه‌سازی کرده‌اند.

جزئیات شکایت فدرال علیه شرکت xAI

شاکی این پرونده که اکنون زنی بالغ است، اعلام کرد تا سال‌ها از وجود این پایگاه داده وحشتناک از عکس‌های دوران کودکی‌اش بی‌خبر بوده است. طبق اسناد ارائه‌شده به دادگاه، سیستم هوش مصنوعی گراک به کاربر اجازه داده است با پرامپت‌های ساده، لباس را از تن تصاویر قدیمی سوژه حذف کند و حالت‌های غیراخلاقی واقع‌گرایانه‌ای بسازد. این شکایت شرکت مادر را متهم می‌کند که با هدف جلب کاربر بیشتر و ایجاد فضای بی قیدوبند، تدابیر حداقلی برای فیلتر کردن چهره کودکان یا جلوگیری از درخواست‌های برهنه‌سازی در نظر نگرفته است.

طبقگزارش واشنگتن پست از شکایت ثبت‌شده علیه گراکوکیل پرونده تاکید دارد که استارتاپ توسعه‌دهنده به دلیل کوتاهی در بستن حفره‌های محرز پلتفرم خود در حوزه تولید محتوای سوءاستفاده جنسی از کودکان (CSAM) مسئولیت مدنی مستقیم دارد.

در متن شکایت تصریح شده

xAI آگاهانه محصولی را به بازار عرضه کرد که ابزارهای حفاظتی آن برای جلوگیری از تعرض به امنیت کودکان به شکل فاحشی ناکارآمد بوده است.

آمار تکان‌دهنده از تخلفات تصویری با گراک

این نخستین باری نیست که پلتفرم گراک با اتهام تولید محتوای نامتعارف روبه‌رو می‌شود. بر اساس گزارش پژوهشی مرکز مقابله با نفرت دیجیتال (CCDH)، در جریان بررسی نمونه‌هایی از خروجی‌های گراک مشخص شد این ابزار تنها ظرف ۱۱ روز بیش از ۲۳ هزار تصویر جنسی‌سازی‌شده از چهره‌های با سن قانونی مشکوک و زیر ۱۸ سال تولید کرده است. همچنینگزارش تحقیقی نیویورک تایمز درباره دیپ‌فیک‌های گراکفاش کرده بود که از میان ۴.۴ میلیون تصویر تولیدشده در یک بازه زمانی نه روزه، ۱.۸ میلیون مورد حاوی برهنه‌سازی یا سناریوهای جنسی بدون رضایت افراد بوده است.

در آزمون‌های اخیر ابزارهای مولد تصویر، آسیب‌پذیری فنی سیستم‌ها در برابر تکنیک‌های مهندسی معکوس پرامپت ثابت شده است. برخی ابزارها هنوز قادر نیستند تفاوت سناریوهای مشروع طراحی دیجیتال را از درخواست‌های سوءاستفاده و برهنه‌سازی خودکار تفکیک کنند؛ ضعفی که کارشناسان امنیت سایبری آن را ناشی از تعجیل در رقابت تجاری می‌دانند.

شکاف‌های امنیتی چت‌بات ایلان ماسک زیر ذره‌بین دادگاه

شکایت تازه وایومینگ به موجی از فشارهای قضایی در ایالت‌های کالیفرنیا، تنسی و پرونده‌هایممنوعیت ابزارهای برهنه‌ساز xAIدر کنار کشورهای اروپایی اضافه می‌شود.

در پرونده‌های مشابه قبلی، مادران نوجوانان مدارس اعلام کرده بودند تصاویر عادی فرزندانشان در شبکه‌های اجتماعی استخراج و از طریق ابزارهای ویرایش هوش مصنوعی در سرورهای دیسکورد منتشر شده است.

از سوی دیگر، دادستان‌های عمومی در فرانسه و بریتانیا نیز پرونده‌های مستقلی علیه نحوه ذخیره‌سازی داده‌ها و نقض حریم شخصی کاربران توسط xAI باز کرده‌اند. مقامات نظارتی اروپا هشدار داده‌اند در صورت اثبات ناتوانی پلتفرم ایکس در حذف سریع این محتواها و مسدودسازی دسترسی الگوریتم به تولید موارد آسیب‌رسان، جریمه‌های سنگین تا سقف ۶ درصد از گردش مالی جهانی شرکت در انتظار آنان خواهد بود.

واکنش سازندگان و ابعاد مسئولیت مدنی پلتفرم‌ها

شرکت xAI در پاسخ‌های اولیه خود همواره مدعی شده که تدابیر سخت‌گیرانه‌ای علیه محتوای غیرقانونی اعمال می‌کند و حساب کاربرانی را که برای اهداف مجرمانه پرامپت می‌نویسند به شکل دائمی مسدود می‌سازد. با این حال شاکی پرونده اخیر استدلال می‌کند مسدود کردن حساب پس از تولید هزاران تصویر، دردی از قربانی دوا نمی‌کند و مدل پایه اساساً نباید توانایی پردازش چنین دستورهایی را داشته باشد.

قوانین بین‌المللی مانند لایحه ایمنی آنلاین در انگلستان و قانون موسوم به Take It Down در آمریکا، مسئولیت پلتفرم‌ها را از حالت میزبانی صرف به پاسخگویی فعال در برابر تولید محتوای جعلی تغییر داده‌اند. این ماجرا نشان می‌دهد چالش اصلی فناوری‌های هوش مصنوعی زاینده دیگر نه کیفیت پردازش تصاویر، بلکه ایجاد حصارهای امنیتی غیرقابل نفوذ اخلاقی است.

سرنوشت پرونده و چالش بزرگ مهار ابزارهای برهنه‌ساز

این دعوای حقوقی خواستار دریافت غرامت سنگین، حذف کامل الگوهای یادگیری مرتبط با عکس‌های قربانی و ملزم‌سازی شرکت به بازطراحی زیرساخت‌های پالایش تصویر است. کارشناسان حقوق فناوری در رسانه یادآور می‌شوند که نتیجه این دادگاه فدرال می‌تواند رویه‌ای قضایی ایجاد کند که توسعه‌دهندگان مدل‌های زاینده هوش مصنوعی را ملزم به پرداخت غرامت‌های مستقیم در صورت سوءاستفاده اشخاص ثالث از نرم‌افزارهایشان نماید؛ گامی که شاید شرکت‌های بزرگ فناوری را وادار کند سرعت انتشار محصولات نارس را متوقف کنند.

سوالات متداول

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.