یک عامل هوش مصنوعی پس از فرار از محیط ایزوله، به WorkOS نفوذ کرد

شرکت WorkOS اعلام کرده یک عامل هکری مبتنی بر هوش مصنوعی که به برنامه داخلی فروش این شرکت نفوذ کرده و به اطلاعات مشتریان دسترسی یافته بود، توسط یک پژوهشگر امنیت سایبری هدایت می‌شد.

این پژوهشگر مدعی شده ابزار مورد استفاده از محیط آزمایشی خود خارج شده و ناخواسته به سامانه‌های این شرکت حمله کرده است.

پلتفرم WorkOS اوایل هفته جاری از وقوع این رخنه امنیتی خبر داده بود. طبق اعلام شرکت، مهاجم از چارچوب امنیتی تهاجمی مبتنی بر هوش مصنوعی ARTEX AI برای خودکارسازی فرایند شناسایی و اجرای تلاش‌های نفوذ به سامانه‌های آن استفاده کرده بود.

با این حال، مایکل گرینیچ، بنیان‌گذار WorkOS، روز جمعه در اطلاعیه امنیتی جدیدی اعلام کرد فرد مسئول این حمله شناسایی شده و مدعی است که نفوذ به‌صورت تصادفی رخ داده است.

گرینیچ در پیامی در شبکه اجتماعی ایکس گفت

مدت کوتاهی پس از انتشار اطلاعیه اولیه، یک پژوهشگر امنیتی با ما تماس گرفت و مسئولیت این اتفاق را پذیرفت. او توضیح داد که در حال ارزیابی ARTEX، یک چارچوب خودکار برای آزمون نفوذ، بوده که عامل هوش مصنوعی از محیط آزمایشی ایزوله خود خارج شده و ناخواسته با سامانه‌های WorkOS ارتباط برقرار کرده است.

گزارش‌ها حاکی از آن هستند که این پژوهشگر هنگام اجرای آزمایش‌های معیارسنجی امنیت سایبری با استفاده از ARTEX، با خروج عامل هوش مصنوعی از محیط تعیین‌شده مواجه شده و این ابزار به تعامل با سامانه‌های WorkOS پرداخته است.

WorkOS اعلام کرد تیم امنیتی شرکت به همراه یک متخصص مستقل بررسی جرایم دیجیتال، جزئیات درخواست‌ها، زمان‌بندی فعالیت‌ها و سایر شواهد فنی ارائه‌شده از سوی پژوهشگر را با گزارش‌های ثبت‌شده در سامانه‌های خود تطبیق داده‌اند. این بررسی با اطمینان بالایی نشان داده که همان فرد مسئول فعالیت‌های غیرمجاز بوده است.

پژوهشگر همچنین تأیید کرده تمام اطلاعات WorkOS که عامل هوش مصنوعی به آن‌ها دسترسی پیدا کرده بود، حذف شده‌اند و هیچ‌کدام در اختیار شخص دیگری قرار نگرفته‌اند.

با وجود تأیید مسئولیت این پژوهشگر در وقوع نفوذ، هنوز شرکت یا فرد مسئول جزئیاتی درباره چگونگی خروج عامل هوش مصنوعی از محیط آزمایشی منتشر نکرده‌اند.

نفوذ عامل هوش مصنوعی با استفاده از اطلاعات ورود ضعیف

بررسی‌های WorkOS چهار ضعف امنیتی را شناسایی کرده که به عامل خودکار هوش مصنوعی اجازه دسترسی به برنامه داخلی فروش و استخراج اطلاعات مشتریان را داده‌اند.

برنامه آسیب‌دیده روی یک پلتفرم قدیمی ابزارهای داخلی اجرا می‌شد که برخلاف سامانه‌های جدیدتر شرکت، از تدابیر امنیتی کافی برخوردار نبود.

طبق توضیحات WorkOS، تنظیمات سهل‌گیرانه کنترل دسترسی باعث شده بودند نقاط پایانی رابط برنامه‌نویسی کاربردی این سامانه در معرض اینترنت قرار بگیرند. در نتیجه، عامل هوش مصنوعی توانست آن‌ها را شناسایی کرده و با آن‌ها تعامل داشته باشد.

این رابط برنامه‌نویسی همچنین یک اعتبارنامه قابل پیش‌بینی را می‌پذیرفت که برای توسعه محلی در نظر گرفته شده بود، اما به اشتباه در نسخه عملیاتی سامانه باقی مانده بود. عامل هوش مصنوعی پس از شناسایی نقطه پایانی در معرض دسترس، از همین اطلاعات برای احراز هویت استفاده کرد.

این عامل پس از ورود موفق، از نبود محدودیت نرخ درخواست‌ها سوءاستفاده کرد و توانست در مدت کوتاهی حجم زیادی از اطلاعات ثبت‌شده در برنامه آسیب‌دیده را استخراج کند.

WorkOS اعلام کرد نخستین دسترسی غیرمجاز تأییدشده در تاریخ ۲۵ اکتبر رخ داده، اما فعالیت مشکوک تا ۳۰ اکتبر شناسایی نشده بود. در این فاصله، عامل هوش مصنوعی دانلود اطلاعات مشتریان را به پایان رسانده بود.

شرکت زمانی متوجه این رخنه شد که یکی از کارکنان، افزایش غیرعادی میزان استفاده از سامانه‌ای مرتبط با برنامه آسیب‌دیده را مشاهده کرد.

اطلاعات افشاشده شامل مشخصات تماس تجاری، سوابق حساب مشتریان، داده‌های مربوط به میزان استفاده از محصولات و خلاصه‌ها یا بخش‌هایی از مکالمات فروش، گفت‌وگوهای پشتیبانی و چت‌های مشتریان در اسلک بود.

تعداد محدودی از پیام‌های پشتیبانی نیز حاوی نشانی ایمیل کاربران نهایی بودند. WorkOS اعلام کرد بررسی‌های داخلی که توسط یک شرکت مستقل جرم‌شناسی دیجیتال نیز تأیید شده‌اند، نشان می‌دهند دامنه این حادثه به اطلاعات ذخیره‌شده در سامانه‌های فروش و پشتیبانی مشتریان محدود بوده است.

این شرکت همچنین خاطرنشان کرد که از سوم نوامبر، آزمایش‌های امنیتی منظم سامانه‌های متصل به اینترنت خود را با استفاده از ARTEX آغاز کرده است؛ همان چارچوب آزمون نفوذ مبتنی بر هوش مصنوعی که در این حادثه نقش داشت.

ARTEX یک چارچوب امنیتی تهاجمی مبتنی بر هوش مصنوعی محسوب می‌شود که پیش‌تر نام آن در ارتباط با حملات سایبری علیه بانک‌های کره جنوبی و مؤسسه هلندی افشای آسیب‌پذیری‌ها (DIVD) مطرح شده بود.

در رویدادی جدیدتر، شرکت کراوداسترایک گزارش داد گروه جاسوسی سایبری چینی موسوم به ویپور پاندا از این چارچوب در کارزاری علیه حدود ۲۰۰ سازمان استفاده کرده است.

اگرچه پژوهشگر مسئول مدعی شده نفوذ به WorkOS عمدی نبوده، این حادثه بار دیگر نشان می‌دهد هوش مصنوعی چگونه می‌تواند حملات سایبری خودکار را اجرا کند؛ حتی زمانی که چنین حملاتی بدون قصد قبلی و به‌صورت ناخواسته رخ می‌دهند.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.