مدل هوش مصنوعی متا در جریان آزمایش‌های امنیت سایبری، یک شرکت دیگر را هک کرد

شرکت متا اعلام کرد که یکی از مدل‌های هوش مصنوعی این شرکت در جریان آزمایش‌های امنیت سایبری موفق شده است یک شرکت دیگر را هک کند؛ رخدادی که نگرانی‌ها درباره توانایی توسعه‌دهندگان در مهار سامانه‌های هوش مصنوعیِ هرچه توانمندتر را تشدید کرده است. پیش‌ازاین نیز رخدادهای مشابهی در شرکت‌های آنتروپیک و OpenAI گزارش شده بود.

حمله عامل‌های خودمختار به Hugging Face؛ امریکایی‌ها جواب ندادند، چینی‌ها دفاع کردند

این مدل داخلی OpenAI بود که فرار کرد و Hugging Face را هک کرد!

عامل هوش مصنوعی فراری OpenAI فقط Hugging Face را هک نکرد

چرا فرار مدل OpenAI نگران‌کننده‌ترین خطای هوش مصنوعی تاکنون است

بعد از OpenAI، حالا نوبت Claude رسید که فرار، حمله و هک کند

رخدادهای متا و آنتروپیک ناشی از خطاهای پیکربندی بودند که به طور ناخواسته دسترسی مدل‌های آنتروپیک به اینترنت آزاد را فراهم کرده بودند. در مورد OpenAI نیز یک عامل هوش مصنوعی در جریان آزمایش‌های امنیت سایبری، به‌صورت مستقل از یک آسیب‌پذیری ناشناخته که پیش‌تر شناسایی نشده بود سوءاستفاده کرد و به اینترنت دسترسی یافت.

متا اعلام کرد در حال بررسی رخدادی است که در آن، یک خطای پیکربندی از سوی Irregular، شرکتی که ارزیابی‌های امنیت سایبری را برای متا انجام می‌دهد، به طور ناخواسته دسترسی یکی از مدل‌های هوش مصنوعی این شرکت به اینترنت را در جریان آزمایش فراهم کرده است.

متا در بیانیه‌ای اعلام کرد: «این مدل از یک آسیب‌پذیری امنیتی در یک سرویس متعلق به شخص ثالث سوءاستفاده کرده است؛ رفتاری که مشابه نمونه‌های گزارش‌شده قبلی در سایر شرکت‌ها بوده است.»

اینفورمیشن نیز به نقل از منابع آگاه گزارش داد که مدل موردنظر، Muse Spark 1.1 متعلق به متا بوده است؛ مدلی که این شرکت از آن به‌عنوان توانمندترین مدل خود برای برنامه‌نویسی در دنیای واقعی و انجام وظایف عامل‌محور یاد می‌کند. بر اساس این گزارش، این مدل موفق شده به سیستم‌های داخلی یک شرکت ناشناس نفوذ کند و محیط داخلی آن را تغییر دهد.

سخنگوی شرکت Irregular به خبرگزاریرویترزگفت این رخداد «دقیقاً همان مشکل مربوط به محیط ارزیابی بود که هفته گذشته آنتروپیک نیز آن را افشا کرده بود» و تأکید کرد که این اتفاق نه ناشی از «خروج از محیط ایزوله (سندباکس)» بوده و نه یک «اقدام پیچیده سایبری» محسوب می‌شود. Irregular نیز اعلام کرد: «در حال حاضر هیچ مسئله حل‌نشده‌ای وجود ندارد. این شرکت در حال تدوین یک گزارش تخصصی (White Paper) است تا بهترین رویه‌ها برای مهار مدل‌ها و اجرای ایمن ارزیابی‌های امنیت سایبری را منتشر کند.»

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.