کلیدهای دسترسی هوش مصنوعی هدف جدید هکرها برای سرقت توان پردازشی

مهاجمان سایبری با سرقت کلیدهای دسترسی هوش مصنوعی و توزیع درخواست‌ها میان هزاران حساب کاربری، از اعتبارنامه‌های کاربران برای تقطیر مدل‌ها و استفاده رایگان از توان پردازشی سوءاستفاده می‌کنند.

به‌ گزارشسرویس امنیت سایبری تک‌ناکبا افزایش آموزش و تقطیر مدل‌های هوش مصنوعی، توکن‌های این فناوری به منبعی بسیار ارزشمند برای بازیگران تهدید تبدیل شده‌اند. شرکت Railway، ارائه‌دهنده خدمات میزبانی ابری، این موضوع را با هزینه‌ای سنگین تجربه کرد.

این شرکت تایید کرده است که نزدیک به ۲۶ ساعت با حمله‌ای هدفمند علیه اعتبارنامه‌های ارائه‌دهندگان هوش مصنوعی مواجه بوده است. مهاجمان قصد داشتند این اعتبارنامه‌ها را به «ایستگاه‌های انتقال» هوش مصنوعی بفروشند تا در فرایند تقطیر مدل‌ها مورد استفاده قرار گیرند. مهاجمان با استفاده از اعتبارنامه‌های سرقت‌شده، حدود ۷۴۰ هزار دلار هزینه جعلی برای استفاده از سرویس‌های هوش مصنوعی ایجاد کردند و احتمالا به اعتبارنامه‌های حداکثر ۱۰۰ هزار فضای کاری دسترسی یافتند.

بیشتر بخوانیدافشای اطلاعات حساس هزاران کاربر به دلیل نقص امنیتی Grok

شرکت Railway اعلام کرد که مهاجمان در جست‌وجوهای پایگاه داده، پیش از هر چیز کلیدهای دسترسی هوش مصنوعی را بر اساس نام آنها شناسایی و جست‌وجو می‌کردند. برخی از این جست‌وجوها نیز اعتبارنامه‌های مربوط به سرویس‌های ابری، پایگاه‌های داده و سامانه‌های پرداخت را هدف قرار داده بودند.

این شرکت در ۲۲ اکتبروقوع حادثه را افشاو این هفته گزارش تکمیلی آن را منتشر کرد. به‌ دلیل ادامه تحقیقات، Railway هنوز امکان انتشار جزئیات مشخص و ابعاد کامل سوءاستفاده‌ها را ندارد. با وجود این‌، به کاربران توصیه کرده است که تمام متغیرهای محیطی حساس ذخیره‌شده در Railway را که پیش از ۲۱ اکتبر ثبت شده‌اند، باطل و دوباره ایجاد کنند.

دیوید شیپلی از شرکت Beauceron Security گفت: «اعتبارنامه‌های هوش مصنوعی در حال تبدیل‌ شدن به شماره کارت‌های اعتباری جدید هستند.» به گفته او، انتظار می‌رود حملات موسوم به LLMjacking جایگزین Cryptojacking شوند، که روشی ارزان و مقیاس‌پذیر برای کسب درآمد از منابع پردازشی است.

نبردی ۲۶ ساعته

حمله در ۲۰ اکتبر آغاز شد؛ زمانی که مهاجمان از یک آسیب‌پذیری ناشناخته در زیرساخت Railway سوءاستفاده کردند. آنها توانستند کنترل‌های ایزوله‌سازی فایل‌سیستم را دور بزنند و یک اعتبارنامه داخلی به دست آورند که امکان دسترسی به تاریخچه فرایندهای ساخت را فراهم می‌کرد. سپس مهاجمان نسخه‌ای از کد منبع داخلی Railway را استخراج کردند و با تحلیل آن، مسیرهای دیگری را برای نفوذ به سامانه شناسایی کردند. در مرحله بعد، آنها از آسیب‌پذیری دیگری ناشی از پیکربندی نادرست یک رابطه اعتماد سوءاستفاده کردند. این ضعف به مهاجمان اجازه داد سطح دسترسی خود به زیرساخت Railway را گسترش دهند و اعتبارنامه‌هایی را به دست آورند که برای رمزگشایی متغیرهای محیطی مشتریان استفاده می‌شدند.

در جریان این درگیری نزدیک به ۲۶ ساعته، تیم مهندسی Railway به‌ صورت شبانه‌روزی و در شیفت‌های متوالی فعالیت کرد. این شرکت توضیح داد که با تشدید حمله، ماجرا به «رقابتی بر سر سرعت عامل‌ها» تبدیل شد. بازیگران تهدید با زنجیره‌کردن چندین اکسپلویت، حرکت جانبی میان سامانه‌های مختلف و بررسی هم‌زمان مسیرهای متعدد نفوذ، تلاش می‌کردند دسترسی خود را گسترش دهند. تیم دفاعی نیز به‌ صورت موازی مسیرهای احتمالی نفوذ را مسدود و ایمن‌سازی می‌کرد. شرکت Railway در گزارش خود نوشت: «این حادثه یک نفوذ واحد نبود که با یک راهکار اصلاحی واحد برطرف شود.»

خبر پیشنهادیآسیب‌پذیری امنیتی ChatGPT امکان سرقت اطلاعات کاربران را فراهم می‌کرد

مهاجمان در ۲۱ اکتبر به‌طور کامل از زیرساخت شرکت اخراج شدند. با وجود این، در مدت حضور خود موفق شدند بخشی از کلیدهای دسترسی هوش مصنوعی را استخراج و رمزگشایی کنند. این مجموعه شامل حدود ۱۰۰ هزار متغیر بود که حداکثر ۱.۸۵ درصد از فضاهای کاری را در بر می‌گرفت. همچنین مهاجمان با استفاده غیرمجاز از اعتبارنامه‌های سرقت‌شده، حدود ۷۴۰ هزار دلار هزینه برای سرویس‌های هوش مصنوعی ایجاد کردند.

مشتریان گزارش داده‌اند که کلیدهای دسترسی هوش مصنوعی آنها برای پاسخ‌گویی به پرسش‌های مرتبط با برنامه‌نویسی و اجرای وظایف مربوط به داده‌های آموزشی به کار گرفته شده‌اند؛ درحالی‌که هیچ‌یک از این درخواست‌ها را خود ارسال نکرده بودند. شرکت Railway اعلام کرده که فرایند بازپرداخت خسارت مشتریان را آغاز کرده است و هزینه‌هایی را نیز پوشش می‌دهد که ارائه‌دهندگان سرویس از بازپرداخت آنها خودداری می‌کنند.

این رخنه امنیتی، توکن‌های حساب‌های متصل بیش از ۱۸۵۰ کاربر را نیز افشا کرد. این توکن‌ها شامل اعتبارنامه‌های GitHub و OAuth بودند که Railway بیان کرده آنها را بازنشانی کرده است. همچنین این شرکت برای لغو کلیدهای احتمالا به‌خطر‌افتاده، به‌سرعت با GitHub، GitLab، Anthropic، OpenAI، OpenRouter، SpaceXSI، Stripe و سایر شرکت‌های مرتبط همکاری کرد. پس از این حمله، Railway از مشتریان خواسته است دسترسی شبکه عمومی به پایگاه‌های داده خود را حذف کنند، تمام متغیرها و کلیدهای حساس را بچرخانند، گزارش‌های ممیزی حساب GitHub را بررسی کنند و دسترسی برنامه‌های متصل را مورد بازبینی قرار دهند. بررسی گزارش‌های ممیزی در مخازن و رجیستری‌هایی مانند Docker Hub نیز از دیگر توصیه‌های امنیتی این شرکت است.

شرکت Railway در بخش مربوط به اقدامات دفاعی خود اعلام کرد که تمام ابزارهای داخلی احتمالا به‌خطر‌افتاده را غیرفعال کرده است. همچنین این شرکت همه کلیدهای دسترسی را تعویض کرد و پس از اطمینان از مسدود شدن دسترسی مهاجمان، فرایند تعویض کلیدها را بار دیگر انجام داد. مهاجرت به نسل جدید زیرساخت‌ها، بازسازی ابزارهای مورد استفاده برای اجرای زیرساخت شرکت و افزودن قابلیتی برای لغو انبوه مجوزهای برنامه‌های Railway در صورت شناسایی فعالیت مشکوک در آینده، از دیگر اقدامات این شرکت بوده است.

دلیل نیاز مهاجمان به کلیدهای دسترسی هوش مصنوعی

شیپلی بیان کرد که استخراج اعتبارنامه‌های هوش مصنوعی در مقیاس گسترده هزینه چندانی ندارد. مهاجمان می‌توانند به‌جای هدف‌ قرار دادن تک‌تک شرکت‌ها، ارائه‌دهنده‌ای مانند Railway را هدف بگیرند و از طریق آن به اعتبارنامه‌های تعداد زیادی از مشتریان دسترسی پیدا کنند. سپس این دسترسی‌ها را از طریق مسیریاب‌های هوش مصنوعی به فروش برسانند؛ سرویس‌هایی که دسترسی به مدل‌هایی را فراهم می‌کنند که کاربران در شرایط عادی توانایی پرداخت هزینه یا اساسا امکان استفاده از آنها را ندارند. این دسترسی‌ها به‌ویژه برای فعالیت‌هایی مانند تقطیر مدل به کالایی پرتقاضا تبدیل شده‌اند. تقطیر فرایندی است که در آن دانش یک مدل بزرگ‌تر به مدلی کوچک‌تر منتقل می‌شود تا هزینه اجرا کاهش یابد و بهره‌وری افزایش پیدا کند.

فرانک دیکسون از موسسه Dickson Research توضیح داد که آموزش یک مدل با استفاده از پاسخ‌های مدل دیگر در مقیاس گسترده، به میلیون‌ها پرسش نیاز دارد. ارسال چنین حجمی از درخواست‌ها از طریق یک حساب کاربری واحد به‌سرعت جلب توجه می‌کند، اما اعتبارنامه‌های سرقت‌شده این درخواست‌ها را میان هزاران مشتری واقعی توزیع می‌کنند و شناسایی فعالیت مشکوک را دشوارتر می‌سازند. دیکسون برای تشریح این روش گفت: «این کار مانند کپی‌ کردن یک کتاب درسی، صفحه‌به‌صفحه و با استفاده از کارت‌های عضویت کتابخانه‌ای است که به دیگران تعلق دارند.» دسترسی به مدل‌های پیشرفته هوش مصنوعی هزینه‌بر است؛ درحالی‌که در این روش، صورت‌حساب به نام صاحب اعتبارنامه ثبت می‌شود و سارق بدون پرداخت هزینه از منابع پردازشی استفاده می‌کند.

مدیریت هویت‌ها در عصر سلطه اعتبارنامه‌های ماشینی

دیکسون با وجود جدی‌ بودن ابعاد این رخنه امنیتی، معتقد است که Railway به‌ دلیل انتشار گزارشی «به‌شکل چشمگیری صریح و شفاف» شایسته تقدیر است. این شرکت مسئولیت اشتباه پیکربندی زیرساخت خود را پذیرفته، اذعان کرده است که نمی‌تواند از شناسایی تمام حساب‌های ایجادشده توسط مهاجم اطمینان داشته باشد و متعهد شده است در آینده مشکلات امنیتی را سریع‌تر به اطلاع مشتریان برساند.

شرکت Railway اکنون در حال گذار به استفاده از اعتبارنامه‌های کوتاه‌عمر است و تمام عملیات رمزگشایی را ثبت می‌کند. دیکسون این اقدامات را راهکارهای اصلاحی مناسبی می‌داند و معتقد است تمام پلتفرم‌هایی که اسرار و اطلاعات محرمانه مشتریان را نگهداری می‌کنند، باید از این الگو پیروی کنند. او هشدار داد: «مشتریان Railway باید تمام اطلاعات محرمانه ذخیره‌شده در این پلتفرم را سرقت‌شده فرض کنند، مگر اینکه اعتبارنامه‌های مربوط به آنها را تغییر داده باشند.»

با وجود این‌، زمان‌بندی این فرایند اهمیت حیاتی دارد، چرا که مهاجمان ممکن است پیش از آنکه کاربران فرصت تغییر اعتبارنامه‌ها را پیدا کنند، از کلیدهای دسترسی هوش مصنوعی سرقت‌شده سوءاستفاده کنند. تحقیقات شرکت امنیت سایبری Wiz نشان می‌دهد مهاجمان معمولا کلیدهای سرقت‌شده را ظرف ۳۰ دقیقه آزمایش می‌کنند و چهار تا هفت روز بعد، حجم زیادی از درخواست‌ها را به سمت آنها روانه می‌سازند.

دیکسون توصیه کرد که کاربران ابتدا کلیدهای ارائه‌دهندگان هوش مصنوعی و سپس اعتبارنامه‌های سرویس‌های ابری، پایگاه‌های داده و سامانه‌های پرداخت را تغییر دهند. همچنین باید صورت‌حساب‌ها و گزارش‌های مصرف سرویس‌های هوش مصنوعی را برای شناسایی ترافیکی که توسط تیم‌های داخلی ایجاد نشده است، بررسی کنند و هرگونه هزینه غیرمجاز را به Railway گزارش دهند. تنظیم هشدار برای شناسایی درخواست‌های ارسالی از نشانی‌های ناشناس نیز ضروری است.

برای مطالعه بیشترهک گوشی‌های اندرویدی با سوءاستفاده از دو آسیب‌پذیری امنیتی

به گفته او، محدود کردن دامنه خسارتی که هر کلید دسترسی می‌تواند ایجاد کند، اهمیت ویژه‌ای دارد. کاربران باید برای تمام کلیدهای هوش مصنوعی سقف سخت‌گیرانه هزینه و هشدار مصرف تعیین کنند و سطح دسترسی هر کلید را تا حدی که ارائه‌دهنده سرویس اجازه می‌دهد، محدود سازند. این رویکرد در عمل نیز نتیجه‌بخش است. در یکی از نمونه‌های بررسی‌شده توسط Wiz، محدود کردن یک کلید به مجموعه کوچکی از پروفایل‌های مدل باعث شد بخش عمده ترافیک مهاجم با محدودیت مواجه شود. کاربرانی که از Railway استفاده نمی‌کنند نیز باید دو پرسش اساسی را از ارائه‌دهندگان پلتفرم خود مطرح کنند: اطلاعات محرمانه آنها چگونه ذخیره می‌شود و چه کسانی مجاز به رمزگشایی این اطلاعات هستند؟

یکی دیگر از اصول مهم امنیتی، کاهش تعداد کلیدهای صادرشده است. دیکسون در این‌باره بیان کرد: «هیچ‌کس تاکنون هنگام چرخش کلیدهای دسترسی هوش مصنوعی آرزو نکرده است که ای‌کاش کلیدهای بیشتری صادر کرده بود.» در نهایت، دیکسون یادآوری کرد که یک کلید دسترسی سرقت‌شده برای هوش مصنوعی می‌تواند هزینه مالی واقعی ایجاد کند و اکنون بخش عمده اعتبارنامه‌ها در اختیار ماشین‌ها قرار دارد. او تأکید کرد: «از هویت‌های ماشینی مانند پول نقد محافظت کنید، زیرا از دیدگاه یک سارق، آنها دقیقا همین ارزش را دارند.»

نوشتهکلیدهای دسترسی هوش مصنوعی هدف جدید هکرها برای سرقت توان پردازشیاولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.