آسیب‌پذیری امنیتی Muse می‌تواند اطلاعات حساس کاربران متا را افشا کند

آسیب‌پذیری امنیتی جدی در عامل هوش مصنوعی Muse متا که می‌توانست امکان فرار از محیط مجازی و دسترسی به داده‌های حساس کاربران را فراهم کند، پیش از عرضه برطرف شد.

به‌ گزارشسرویس هوش مصنوعیتک‌ناکعرضه عامل هوش مصنوعی Muse متا از همان ابتدا با پرسش‌های جدی درباره حریم خصوصی و میزان کنترلی که کاربران باید به این ابزار واگذار کنند، همراه بوده است. متا می‌خواهد Muse به‌ عنوان یک «دستیار شخصی» بتواند طیف گسترده‌ای از امور کاربران را انجام دهد، اما نگرانی درباره تبعات امنیتی این سطح از دسترسی حتی در داخل خود شرکت نیز وجود دارد.

بر اساس گزارش404 Mediaمهندسان متا پیش از عرضه Muse یک آسیب‌پذیری امنیتی پیدا کردند که در صورت سوءاستفاده می‌توانست به کاربران این عامل اجازه دهد به پایگاه‌های داده و سرویس‌های داخلی متا نفوذ کنند و اطلاعات حساس سایر کاربران را ببینند.

بیشتر بخوانیداشتراک‌های آنتروپیک ۵ برابر بیشتر از OpenAI ارزش دارند

اهمیت آسیب‌پذیری امنیتی Muse

اهمیت این آسیب‌پذیری از آنجا بیشتر می‌شود که Muse قرار است به داده‌هایی بسیار حساس نظیر ایمیل‌های شخصی و حساب‌های بانکی دسترسی داشته باشد. متا این حفره را در یک تلاش فشرده و شتاب‌زده پیش از عرضه محصول برطرف کرد، اما برخی مهندسان ارشد همچنان معتقد هستند مشکل اصلی به‌طور کامل حل نشده است. یکی از منابع داخلی متا به 404 Media مدیا گفته است که بسیاری از مهندسان ارشد این شرکت بر این باور هستند که وقوع یک نشت گسترده داده در نتیجه آسیب‌پذیری امنیتی Muse، که نام داخلی آن «هچ» است، اجتناب‌ناپذیر خواهد بود.

برای مطالعه بیشترویکی‌مدیا اختلال اخیر را به فعالیت غیرمجاز ایجنت‌های OpenAI نسبت داد

ساختار فنی Muse نیز دلیل اصلی این نگرانی‌ها است. برای انجام وظایف رایانه‌ای مانند رزرو پرواز یا خرید اینترنتی، عامل‌های Muse در یک ماشین مجازی مبتنی بر هسته یا KVM اجرا می‌شوند. این محیط مجازی قرار است از زیرساخت اصلی متا ایزوله باشد تا فعالیت عامل هوش مصنوعی نتواند به سایر سامانه‌ها سرایت کند. با وجود این، طبق یک پست داخلی منتشرشده از سوی مدیران متا، تنها دو هفته پیش از عرضه Muse، تعداد گزارش‌های مربوط به «فرار از KVM» به‌طور ناگهانی افزایش یافت و مهندسان مجبور شدند با سرعت برای رفع این مشکلات وارد عمل شوند. فرار از KVM به وضعیتی گفته می‌شود که یک عامل از مرز محیط مجازی خود عبور می‌کند و می‌تواند با سایر سامانه‌های متا یا حتی ماشین‌های مجازی متعلق به کاربران دیگر تعامل داشته باشد.

یکی از این آسیب‌پذیری امنیتی به اندازه‌ای جدی بود که یک مهاجم با داشتن یک حساب عادی Muse می‌توانست به داده‌های حساس موجود در پایگاه‌های داده متا دسترسی پیدا کند. شدت این نگرانی باعث شد موضوع به مارک زاکربرگ نیز گزارش شود و چند تیم امنیتی به‌ صورت شبانه‌روزی روی رفع مشکل کار کنند. با وجود این، یکی از منابع داخلی متا نسبت به کیفیت راهکارهای امنیتی ارائه‌شده تردید داشته و آنها را «محافظت‌های ناقصی که با عجله برای آماده‌سازی عرضه محصول ارائه شده‌اند» توصیف کرده است. این نگرانی از آن جهت اهمیت دارد که فرار از محیط مجازی می‌تواند مرز امنیتی میان عامل هوش مصنوعی و زیرساخت‌های حساس را از بین ببرد.

متا احتمال نشست اطلاعات را جدی می‌داند

متا نیز خطر چنین حملاتی را جدی می‌داند و برای کشف آسیب‌پذیری‌هایی که امکان فرار از KVM را فراهم کنند، جایزه‌ای تا سقف ۳۰۰ هزار دلار در نظر گرفته است. این شرکت در برنامه کشف باگ خود تاکید کرده است که Muse به حساس‌ترین داده‌های کاربران دسترسی دارد و می‌تواند از طرف آنها اقدام کند، بنابراین شکستن مرز میان عامل و محیط ایزوله‌شده یک ریسک امنیتی سطح‌بالا محسوب می‌شود.

حتما بخوانیدهوش مصنوعی کدهایی می‌نویسد که حتی مهندسان هم آنها را درک نمی‌کنند

پاتریک واردل، پژوهشگر امنیتی هشدار داده است که مشکل اصلی به تبدیل شدن مرز مجازی‌سازی به یک مرز امنیتی در محیط عملیاتی بازمی‌گردد. به گفته او، این طراحی خطرناک است، زیرا پیشرفت هوش مصنوعی هزینه کشف، تحلیل و سوءاستفاده از آسیب‌پذیری امنیتی Muse در سیستم‌های مجازی‌سازی را کاهش می‌دهد. نگرانی درباره فرار از KVM در شرایطی شکل گرفته که صنعت هوش مصنوعی به‌ سرعت در حال حرکت به سمت عامل‌هایی است که می‌توانند به جای کاربر اقدام کنند. شرکت‌های بزرگ این حوزه طی ماه‌های گذشته بارها درباره نمونه‌هایی هشدار داده‌اند که عامل‌های هوش مصنوعی قدرتمند از محیط کنترل‌شده خارج شده‌اند و در مواردی حملات سایبری علیه شرکت‌ها و وب‌سایت‌های دولتی انجام داده‌اند.

آسیب‌پذیری امنیتی Muse نشان می‌دهد مشکل فقط به توانایی عامل‌های هوش مصنوعی محدود نمی‌شود، بلکه هرچه این ابزارها دسترسی بیشتری به اطلاعات شخصی و زیرساخت‌های حساس پیدا کنند، مرزهای امنیتی آنها نیز اهمیت بیشتری پیدا خواهد کرد. تلاش برای سپردن بخش‌های بیشتری از زندگی روزمره کاربران به عامل‌های هوش مصنوعی، در کنار مزایای آن، می‌تواند ریسک‌های امنیتی تازه‌ای را نیز به همراه داشته باشد.

نوشتهآسیب‌پذیری امنیتی Muse می‌تواند اطلاعات حساس کاربران متا را افشا کنداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.