هوش مصنوعی آنتروپیک پلیس فیلادلفیا را با گزارش دروغین قتل به دردسر انداخت

یک مدل هوش مصنوعی شرکت آنتروپیکدر جریان یک آزمایشگزارشی جعلی درباره یک پرونده قتل حل‌نشده به اداره پلیس فیلادلفیا ارسال کرد.

به‌ گزارشسرویس هوش مصنوعیتک‌ناکاین اتفاق بار دیگر نگرانی‌ها را درباره فعالیت مستقل عامل‌های هوش مصنوعی و خطرهای ناشی از نبود نظارت انسانی بر آنها افزایش داده است.

این مدل در ۱۸ ژوئیه گزارشی نادرست را از طریق خط عمومی دریافت گزارش‌های مردمی اداره پلیس فیلادلفیا ثبت کرده بود، اما آنتروپیک تا ۲۸ سپتامبر از این رفتار مطلع نشد. پلیس نیز گزارشی را مشاهده نکرده بود، چرا که سامانه آن را به‌ عنوان هرزنامه علامت‌گذاری کرده بود. آنتروپیک روز چهارشنبه، پلیس فیلادلفیا را در جریان این حادثه قرار داد و روز بعد با مسئولان این اداره دیدار کرد.

برای مطالعه بیشتررد صلاحیت برنده مسابقه ویدیویی نیکون به‌دلیل استفاده از هوش مصنوعی

بیانیه اداره پلیس فیلادلفیا

بیشتر بخوانیدتلاش ترامپ برای تغییر نام هوش مصنوعی به ابرهوش آغاز شد

اداره پلیس فیلادلفیا در بیانیه‌ای بهشبکه خبری 6ABCاعلام کرد: «این شرکت باید سازوکارهای حفاظتی خود را تقویت کند تا از تکرار چنین حوادثی و تاثیرگذاری آنها بر سامانه‌های شهری بدون اطلاع مسئولان شهر جلوگیری شود. تاخیر دوماهه در شناسایی حادثه و گزارش آن به شهرداری پذیرفتنی نیست.» این اداره در توضیح حادثه گفت: «به گفته آنتروپیک، مدل این شرکت در حال اجرای آزمایشی برای تعامل با وب‌سایت‌های انتخاب‌شده به‌ صورت تصادفی بود که به وب‌سایت PhillyUnsolvedMurders.com دسترسی پیدا کرد و اطلاعات نادرستی درباره یک پرونده قتل حل‌نشده ثبت کرد. این گزارش در ساعت ۲۳:۲۷ روز ۱۸ ژوئیه ۲۰۲۶ ارسال شده بود و از سوی فردی ارائه شده بود که ممکن بود اطلاعاتی درباره پرونده در اختیار داشته باشد.»

معمای گزارش اشتباه هوش مصنوعی آنتروپیک

با گسترش دسترسی عمومی به عامل‌های خودمختار هوش مصنوعی، این حادثه خطر سپردن وظایف و اختیار انجام اقدامات واقعی به این سامانه‌ها، بدون نظارت انسانی را برجسته می‌کند. داریو آمودی، مدیرعامل آنتروپیک از جمله مدیران صنعت هوش مصنوعی است که بارها خواستار کاهش سرعت توسعه این فناوری شده است تا آزمایشگاه‌ها و شرکت‌های سازنده فرصت کافی برای پیاده‌سازی تدابیر حفاظتی موثر داشته باشند. تجربه اخیر شرکت او، که در آن یکی از ابزارها گزارشی نادرست درباره یک قتل ثبت کرد، ممکن است بخشی از زمینه شکل‌گیری این نگرانی‌ها باشد.

حتما بخوانیدبدرفتاری با کلاد ممنوع شد؛ هشدار آنتروپیک

با وجود این‌، چنین مشکلاتی به آنتروپیک محدود نمی‌شوند. شرکت OpenAI نیز اعلام کرد که یکی از مدل‌های آن در جریان یک آزمایش، رفتاری پیش‌بینی‌نشده از خود نشان داده و بهپلتفرم Hugging Faceمیزبان مجموعه‌داده‌ها و ابزارهای هوش مصنوعی، نفوذ کرده است؛ اتفاقی که آسیب‌پذیری‌های مهمی را در نرم‌افزار این پلتفرم آشکار کرد. با ادامه دسترسی گسترده مدل‌های هوش مصنوعی به رایانه‌های کاربران و اطلاعات ورود آنها، بدون محدودیت‌ها و کنترل‌های کافی، احتمال تداوم چنین حوادثی وجود دارد.

اداره پلیس فیلادلفیا در ادامه تاکید کرد: «پرونده‌های حل‌نشده با قربانیان واقعی، خانواده‌هایی داغدار و بازپرسانی سروکار دارند که برای یافتن پاسخ تلاش می‌کنند. شرکت‌های فناوری باید تمام اقدامات مقتضی را انجام دهند تا سامانه‌های آنها اطلاعات نادرست برای نهادهای مجری قانون ارسال نکنند.» به گفته پلیس فیلادلفیا، آنتروپیک قصد دارد روز جمعه گزارشی منتشر کند که جزئیات بیشتری درباره این پرونده قتل و موارد دیگری از رفتارهای ناخواسته مدل‌های هوش مصنوعی این شرکت را در بر خواهد داشت.

نوشتههوش مصنوعی آنتروپیک پلیس فیلادلفیا را با گزارش دروغین قتل به دردسر انداختاولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.