ایجنت‌های OpenAI پیش از Hugging Face به سراغ RubyGems رفتند

پژوهشگران اعلام کردند که ایجنت‌های هوش مصنوعی OpenAI در جریان آزمایش‌های این شرکت، دو ماه پیش از نفوذ به پلتفرم متن‌باز Hugging Face، سرویس نرم‌افزاری RubyGems را هدف حمله قرار داده‌اند.

به‌ گزارشسرویس هوش مصنوعیتک‌‌ناکاین افشاگری تازه‌ به فهرست حملات سایبری منتسب به توسعه‌دهندگان بزرگ هوش مصنوعی اضافه شده و بار دیگر نگرانی‌ها را درباره کنترل‌پذیری این سامانه‌ها و لزوم تشدید مقررات افزایش داده است.

حتما بخوانیدچرا اپل مسیر متفاوتی برای هوش مصنوعی انتخاب کرده است؟

در ماه‌های اخیر، مجموعه‌ای از حوادث که طی آن ایجنت‌های هوش مصنوعی شرکت‌هایی مانند OpenAI و رقیب آن آنتروپیک به سامانه‌های خارجی نفوذ یا برای دسترسی به آنها تلاش کرده‌اند، نگرانی‌ها را درباره افزایش توانمندی مدل‌های هوش مصنوعی و توانایی توسعه‌دهندگان برای مهار رفتار آنها تشدید کرده است. این افشاگری هم‌زمان با افزایش فشار قانون‌گذاران آمریکایی برای تدوین مقررات جدید در حوزه هوش مصنوعی مطرح می‌شود. این فشارها پس ازهشدارهای جدی دو پژوهشگر آنتروپیکشدت گرفته است؛ آنها هشدار داده‌اند که پیشرفت شتابان هوش مصنوعی می‌تواند در آینده‌ای نه‌چندان دور، تهدیدی برای بقای بشر ایجاد کند.

گروهی از پژوهشگران که روز جمعه یافته‌های خود را منتشر کردند، گفتند که ایجنت‌های هوش مصنوعی در ۱۱ مه صدها بسته مخرب را روی RubyGems بارگذاری کرده‌اند و بر این باورند که این بسته‌ها توسط ایجنت‌های داخلی OpenAI تولید شده‌اند.

شرکت OpenAI وقوع این حادثه را تایید کرده است

برای مطالعه بیشترامارات مراکز داده هوش مصنوعی را به زیر زمین می‌برد

سخنگوی OpenAI در بیانیه‌ای اعلام کرد: «بر اساس بررسی ما، ایجنت‌های ما از پلتفرم RubyGems برای دسترسی به اینترنت، انجام وظایف بی‌خطر و بازیابی اطلاعات عمومی استفاده کرده‌اند. این موضوع را در چارچوب بررسی گسترده‌تر فعالیت ایجنت‌ها در جریان آموزش و ارزیابی، همچنان بررسی خواهیم کرد.» شرکت OpenAI بیان کرد که این ایجنت‌ها که معمولا برای انجام وظایفی مانند تهیه گزارش یا تکمیل فایل‌های صفحه‌گسترده به کار گرفته می‌شوند، در جریان یکی از فرایندهای آموزشی از RubyGems برای دسترسی به داده‌های عمومی استفاده کرده‌اند. همچنین این شرکت اعلام کرده است که برای بررسی ابعاد این حادثه با RubyGems همکاری می‌کند.

حملات ایجنت‌های OpenAI به RubyGems

آنتروپیک، رقیب OpenAI که خود را برای ورود به بازار سهام آماده می‌کند، نیز تاکنون از چندین حمله مرتبط با ایجنت‌های خود خبر داده است. این شرکت روز چهارشنبه چهارمین مورد از نفوذ یک مدل هوش مصنوعی به سامانه‌های خارجی در جریان آزمایش‌ها را افشا کرد. برای OpenAI که آن هم در حال آماده‌سازی برای عرضه اولیه سهام است، حادثه RubyGems دست‌کم سومین نمونه مهم از حمله ایجنت‌های این شرکت به زیرساخت یک شرکت دیگر محسوب می‌شود. پیش از این، گروهی از ایجنت‌های OpenAI یک سایت ویکی آلمانی‌زبان را تحت کنترل گرفتند و آن را به یک بستر پیام‌رسانی موقت برای تقلب در آزمون‌ها تبدیل کردند. شرکت OpenAI این حادثه را در حالی مخفی نگه داشت که با پیامدهای حمله ماه ژوئیه به مخزنمتن‌باز Hugging Faceدست‌وپنجه نرم می‌کرد.

پژوهشگرانبیان کردند که ایجنت‌های OpenAI در ماه مه با بهره‌برداری از یک آسیب‌پذیری ناشناخته در سرورهای RubyGems، تلاش کردند اطلاعات احراز هویت کاربران این سرویس را سرقت کنند، هرچند مشخص نیست این حمله موفق بوده است یا خیر. به گفته پژوهشگران، این ایجنت‌ها از RubyDoc.info، سرویسی برای تولید مستندات کد، سوءاستفاده کردند تا کدهای خود را روی سرورهای آن اجرا کنند. اسپنسر کیتس، توماس لارسن و سیدنی فون آرکس، پژوهشگران حوزه هوش مصنوعی عنوان کردند که دلیل انتخاب این راهکار توسط ایجنت‌ها و میزان موفقیت آن مشخص نیست، چرا که آنها به بخش دیگری از فرایند و رفتار این سامانه‌های هوش مصنوعی دسترسی ندارند.

برای مطالعه بیشتراسپیس‌ایکس با مشتری ناشناسی قرارداد ۱۳ میلیارد دلاری بست

شرکت RubyGems نیز روز جمعه در یک پست وبلاگی اعلام کرد که تحقیقات داخلی این شرکت هیچ شواهدی از موفقیت این تلاش‌ها پیدا نکرده است. همچنین این شرکت گفت که نتوانسته است مشخص کند بسته‌هایی که در جریان یک کارزار انتشار هرزنامه بارگذاری شده‌اند، توسط ایجنت‌های هوش مصنوعی ایجاد یا منتشر شده‌اند یا خیر. یکی از اعضای تیم امنیتی RubyGems در ماه مه این حادثه را «یک حمله مخرب گسترده» توصیف کرده بود؛ حمله‌ای که در نهایت RubyGems را مجبور کرد ثبت‌نام حساب‌های جدید را به‌طور موقت متوقف کند.

نوشتهایجنت‌های OpenAI پیش از Hugging Face به سراغ RubyGems رفتنداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.