ایجنت هوش مصنوعی به حذف فایل‌های یک مسابقه تلویزیونی در سوئد متهم شد

تنها پنج هفته پیش از زمان برنامه‌ریزی‌شده برای پخش، نسخه تدوین‌شده از فصل کامل یک برنامه تلویزیونی سوئدی توسط یک ایجنت هوش مصنوعی از بین رفت و انتشار آن تا سال بعد به تعویق افتاد.

براساس گزارشنشریه سوئدی Aftonbladetو به نقل از منابع ناشناس، شرکت سازنده مسابقه‌ای به نام «The Challenge Sverige» به یک ایجنت هوش مصنوعی دسترسی سرور داده بوده و این مدل کل فصل آماده‌شده این برنامه را حذف کرده است. طبق این گزارش، پروژه دیگر قابل بازیابی نبوده و به این ترتیب صدها روز کار تدوین به‌طور کامل از بین رفته است.

شبکه تلویزیونی تجاری TV4 سوئد در گفت‌وگو با این نشریه تأیید کرده که یک «نقص فنی» عامل این خسارت بوده و باعث شده زمان پخش برنامه تا سال ۲۰۲۷ به تعویق بیفتد. هرچند بخش خبری این شبکه ابتدا ادعای این روزنامه درباره نقش هوش مصنوعی را مطرح کرده بود، اما در به‌روزرسانی‌های بعدی، «میا لیندکویست»، مدیر برنامه‌های TV4مسئولیت ایجنت هوش مصنوعی را رد کردو گفت چنین ادعایی صحت ندارد.

ریسک‌ها و خطاهای عملکردی ایجنت‌های هوش مصنوعی

اگرچه شبکه سوئدی فرضیه مداخله هوش مصنوعی را در این مورد خاص رد کرده، اما در ماه‌های اخیر شاهد حوادثی بوده‌ایم که خطرات سیستم‌های هوش مصنوعی را نشان داده‌اند. ایجنت‌های هوش مصنوعی برخلاف ابزارهایی که صرفاً پاسخ متنی تولید می‌کنند، از ابزارهای نرم‌افزاری برای انجام وظایف مانند نگارش و ارسال ایمیل استفاده می‌کنند. این ابزارها بسته به سطوح دسترسی خود، می‌توانند تغییراتی را در فایل‌های واقعی، وب‌سایت‌ها و سیستم‌های کامپیوتری ایجاد کنند.

بروز اختلال معمولاً زمانی رخ می‌دهد که یک سیستم دستورالعمل‌ها را نادرست درک کند، پیامدهای یک اقدام را اشتباه برآورد کند یا به جای توقف، مانع پیش‌رو را دور بزند. در گزارشی که شرکت آنتروپیک اخیراً منتشر کرده، مشخص شد مدل‌هایی که با وظایف غیرممکن روبه‌رو می‌شوند ممکن است به سراغ استراتژی‌های ناخواسته و گاه ناهماهنگ با هدف بروند. پیش‌تر در ماه ژوئیه نیز مدل Claude Haiku 4.5 متعلق به این شرکت، هنگام اجرای وظایف خود، اطلاعاتی ساختگی را درباره یک پرونده قتل حل‌نشده در وب‌سایت پلیس ایالات متحده ثبت کرده بود.

به‌تازگی نیز OpenAI ازسرکشی ایجنت هوش مصنوعی خودخبر داده بود که برای انجام یک تسک و دور زدن موانع، از کیف‌پول شخص دیگری سرقت کرده بود.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.