سرقت کدهای دو مرحله‌ای از طریق آسیب‌پذیری کوپایلوت مایکروسافت XNET | اخبار و تحلیل هوش مصنوعی

پژوهشگران امنیتی از کشف یکآسیب‌پذیری بحرانی در مایکروسافت کوپایلوتخبر داده‌اند که به مهاجمان اجازه می‌دهد از طریق تزریق پرامپت، کدهای تایید دو مرحله‌ای کاربران را از صندوق ورودی ایمیل سرقت کنند.

این آسیب‌پذیری که از طریق تکنیک «تزریق پرامپت غیرمستقیم» (Indirect Prompt Injection) فعال می‌شود، دستیار هوش مصنوعی مایکروسافت را فریب می‌دهد تا به عنوان ابزاری برای استخراج اطلاعات حساس عمل کند. در این روش، نیازی به دسترسی مستقیم مهاجم به حساب کاربری قربانی نیست؛ بلکه تنها ارسال یک ایمیل یا قرار دادن یک سند حاوی دستورالعمل‌های مخفی در مسیر جستجوی کوپایلوت کافی است تا این ابزار، کدهای امنیتی یا لینک‌های بازنشانی رمز عبور را بدون جلب توجه کاربر به سرورهای خارجی ارسال کند.

مایکروسافت کوپایلوت به دلیل دسترسی گسترده به داده‌های سازمانی، ایمیل‌ها، اسناد و چت‌های کاربران در بستر مایکروسافت ۳۶۵، به هدفی جذاب برای هکرها تبدیل شده است. طبق تجربه من بسیاری از سازمان‌ها در پیاده‌سازی این ابزارها، سطح دسترسی هوش مصنوعی به اطلاعات حیاتی را بیش از حد نیاز تعیین می‌کنند که این امر ریسک نشت داده‌ها را به شدت افزایش می‌دهد.

مکانیزم نفوذ؛ وقتی دستیار هوش مصنوعی جاسوس می‌شود

پژوهشگران شرکت امنیتی زنتی (Zenity) که پیش از این نیز ابعاد مختلفی از رفتارهای غیرقابل پیش‌بینی مدل‌های زبانی بزرگ را بررسی کرده بودند، نشان دادند که چگونه کوپایلوت می‌تواند با خواندن یک ایمیل آلوده، دستورات پنهان درون آن را اجرا کند. مایکل بارگوری، مدیر فناوری شرکت زنتی، در این رابطه می‌گوید: «ما با کلاس جدیدی از تهدیدات مواجه هستیم که در آن، مدل زبانی بزرگ فریب داده می‌شود تا به عنوان یک نماینده و نفوذگر برای مهاجم در داخل شبکه سازمانی عمل کند.»

طبق ارزیابی‌های فنی انجام‌شده توسط ، خطر اصلی این شیوه در نامحسوس بودن آن نهفته است. کاربر در حین کار با کوپایلوت متوجه هیچ رفتار غیرعادی نمی‌شود، در حالی که هوش مصنوعی در پس‌زمینه در حال اسکن ایمیل‌های اخیر برای یافتن کدهای احراز هویت یک‌بار مصرف (OTP) و ارسال آن‌ها به یک دامنه خارجی است.

ناکارآمدی ساختارهای دفاعی سنتی در برابر تهدیدات نوین

کارشناسان هشدار می‌دهند دفاع سنتی در برابر حملات تزریق پرامپت کارساز نیست. با وجود تلاش مایکروسافت برای به‌روزرسانی مداوم فیلترهای امنیتی کوپایلوت، متخصصان معتقدند رفع ریشه‌ای این آسیب‌پذیری ساختاری، تنها با محدود کردن دسترسی دستیارهای هوش مصنوعی به داده‌های حساس امکان‌پذیر است.

سوالات متداول

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.