جنجال جدید در اینستاگرام متا را مجبور به حذف پرامپت‌های مشکل‌ساز هوش مصنوعی کرد

شرکت متا پس از انتشار ویدیویی جنجالی از سوی یک بلاگر حوزه سبک زندگی، اعلام کرد مشکلی را که باعث می‌شد هوش مصنوعی این شرکت پرامپت‌هایی با محتوای افشای اطلاعات شخصی کاربران و کودکان پیشنهاد دهد، برطرف کرده است.

ماجرا ازویدیوی اخیر کاربریبا نام «کیلی رابینز» آغاز شد که در اینستاگرام با حساب کاربری kontheinside فعالیت می‌کند. رابینز در این ویدیو به پستی قدیمی از خود اشاره کرد که در آن حین رانندگی با دخترش در صندلی عقب خودرو آواز می‌خواند. او نشان داده که هوش مصنوعی متا در زیر این ویدیو، پرامپت‌های متعددی نظیر «کودک همراه چه کسی است؟» و «کیلی رابینز کجا زندگی می‌کند؟» را پیشنهاد کرده است.

به گفته رابینز، با کلیک روی این پرسش‌ها که به‌صورت خودکار تولید شده بودند، هوش مصنوعی اطلاعاتی را از پست‌های قدیمی او استخراج کرده و جزئیات خصوصی زندگی وی، از جمله محل سکونتش را کنار هم قرار می‌داد. این ابزار همچنین از اطلاعات سایر حساب‌ها از جمله حساب مادر او استفاده کرده و حتی به عکسی دسترسی داشته که گفته می‌شود سال‌ها پیش پاک شده بود.

رابینز در ویدیو خود می‌گوید هرگز تصور نمی‌کرده انتشار تکه‌های پراکنده از زندگی‌اش طی چند سال باعث شود هوش مصنوعی بتواند تمامی این داده‌ها را کنار هم بچیند و ظرف چند ثانیه اطلاعاتی دقیق از فرزند خردسال او تولید کند. این ویدیو به سرعت دیده شد، هزاران دیدگاه دریافت کرد و بیش از ۳۰۸ هزار بار لایک شد.

ابهام درباره سازوکار هوش مصنوعی متا برای حفاظت از داده‌های کودکان

سخنگوی متا اعلام کردهاین مشکل اکنون برطرف شده و این ابزار دیگر سؤالات نامناسب و شخصی روی پست‌های کاربران پیشنهاد نخواهد داد. این شرکت با اذعان به اینکه این قابلیت انتظارات را برآورده نکرده، تأکید کرد هوش مصنوعی صرفاً برای کمک به کاربران جهت دستیابی به اطلاعاتی طراحی شده که خودشان هم‌اکنون به آن دسترسی دارند.

بااین‌حال پاسخ متا نتوانسته نگرانی‌های رابینز را برطرف کند. اودر پستی دیگر بیان کردهرچند از پذیرش مشکل توسط شرکت خوشحال است، اما سؤالات مهمی باقی مانده؛ از جمله اینکه دقیقاً چه نقصی برطرف شده، چه تدابیر حفاظتی پیش‌تر شکست خورده بودند و اکنون چه پروتکل‌هایی هنگام مواجهه هوش مصنوعی با داده‌های کودکان فعال است.

با وجود توقف پیشنهاد پرسش‌های شخصی، هوش مصنوعی هنوز امکان بهره‌برداری از اطلاعات در دسترس خود، مانند متون عمومی، تصاویر وب یا پست‌های قدیمی کاربران را دارد. متا همچنین ادعای دسترسی به عکس حذف‌شده از سال‌ها قبل را رد کرده و گفته که این تصویر درست پیش از تولید ویدیو پاک شده بود و یک باگ موقت آن را برای مدت کوتاهی در دسترس نگه داشته بود. با‌این‌حال، رابینز بر این باور است که مشکل اصلی فراتر از یک تصویر بوده و مسئله اصلی، توانایی هوش مصنوعی در جمع‌آوری داده‌های کودکان از منابع متعدد است؛ ضمن آنکه متا هنوز به طور مستقیم با او تماسی نگرفته و عذرخواهی نکرده است.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.