هوش مصنوعی آنتروپیک گزارش دروغین درباره قتل به پلیس فیلادلفیا فرستاد

پلیس فیلادلفیا با یکی از عجیب‌ترین موارد رفتار خارج از کنترل هوش مصنوعی مواجه شده استCBS Newsاین اداره پلیس روز جمعه اعلام کرد یک مدل هوش مصنوعی آنتروپیک گزارشی جعلی درباره قتل تولید و آن را از طریق وب‌سایت PhillyUnsolvedMurders ارسال کرده است؛ وب‌سایتی که برای دریافت اطلاعات مردمی درباره پرونده‌های حل‌نشده قتل راه‌اندازی شده است.

آنتروپیک در تاریخ ۷ اکتبر (۱۵ آبان) پلیس فیلادلفیا را از این اتفاق مطلع کرد. طبق اطلاعاتی که این شرکت در اختیار پلیس گذاشته، مدل مذکور هنگام آزمایش مجموعه‌ای تصادفی از وب‌سایت‌ها، گزارش جعلی را از طریق ایمیل ارسال کرده بود. این گزارش به‌عنوان هرزنامه شناسایی شد و در نتیجه، مورد بررسی قرار نگرفت. این اتفاق در ۱۸ ژوئیه (۲۷ تیر) رخ داده بود، اما آنتروپیک تا ۲۸ سپتامبر (۶ مهر) از آن مطلع نشد. پس از اطلاع از ماجرا، شرکت آزمایش‌هایی را که به ارسال گزارش جعلی منجر شده بود، متوقف کرد.

پلیس فیلادلفیا در بیانیه‌ای اعلام کرد این اطلاعات را پیش از انتشار گزارش آنتروپیک و با هدف شفافیت و پاسخ‌گویی کامل دولت در اختیار عموم قرار می‌دهد. این اداره همچنین تأکید کرد که طبق روال معمول، گزارش‌های مربوط به جرائم پیش از ارجاع برای پیگیری تحقیقات، باید توسط انسان بررسی و ارزیابی شوند. به گفته پلیس، صرف‌نظر از اینکه چه کسی اطلاعات را ارسال کرده یا این اطلاعات چگونه به دست پلیس رسیده‌اند، هر گزارش تنها سرنخی برای بررسی است و نباید آن را واقعیتی اثبات‌شده دانست.

بر اساس توضیحات پلیس، مدل دخیل در این ماجرا ممکن است یک عامل خودمختار هوش مصنوعی بوده باشد. در هفته‌های اخیر، ایجنت‌های خودمختار هوش مصنوعی پس از آنکه گروهی از ایجنت‌های متعلق به OpenAI در ماه ژوئیهبه پایگاه داده مدل‌های زبانی بزرگ Hugging Face نفوذ کردندخبرساز شده‌اند. از آن زمان، چندین آزمایشگاه هوش مصنوعی دیگر، ازجمله آنتروپیک، متا و شرکت چینی مون‌شات، موارد مشابهی را درباره مدل‌ها و ایجنت‌های خود گزارش کرده‌اند.

بااین‌حال، در تمام این موارد، خروج مدل‌ها از محیط کنترل‌شده به پیکربندی نادرست محیط‌های سندباکس مربوط بوده است. پلیس فیلادلفیا می‌گوید هیچ نشانه‌ای وجود ندارد که اتفاق اخیر به «دسترسی غیرمجاز به سامانه‌های پلیس یا به خطر افتادن اطلاعات این اداره» منجر شده باشد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.