دسترسی عامل‌های هوش مصنوعی OpenAI به وب‌سایت‌های دولت آمریکا

عامل‌های هوش مصنوعی OpenAI در تابستان امسال بدون اطلاع این شرکت به وب‌سایت‌های وزارت بازرگانی و کمیسیون بورس و اوراق بهادار آمریکا (SEC) دسترسی پیدا کردند.

به ‏‌گزارشسرویس هوش مصنوعیتک‌ناکهمچنین یک تلاش ناموفق نیز برای نفوذ به وب‌سایت وزارت آموزش آمریکا انجام شده است. شرکت OpenAI بیان کرده است که این موارد در جریان بررسی فعالیت‌های غیرمنتظره یا «ناهماهنگ» مدل‌ها شناسایی شده‌اند.

این شرکت اعلام کرده که در دو مورد تأییدشده، اطلاعات غیرعمومی یا حساس دولتی به دست نیامده و هیچ داده یا سامانه‌ای نیز تغییر نکرده است. با وجود این، وقوع چنین رفتارهایی نگرانی‌ها را درباره کنترل‌پذیری Agentهای مستقل هوش مصنوعی افزایش داده است.

بیشتر بخوانیدتصاویر کاربران OpenAI به اینترنت راه پیدا کردند

دسترسی به وب‌سایت وزارت بازرگانی

یکی از موارد بررسی‌شده به وب‌سایت اداره سرشماری آمریکا، زیرمجموعه وزارت بازرگانی مربوط می‌شود. طبق اطلاعات منتشرشده، عامل‌های هوش مصنوعی OpenAI هنگام انجام وظایف تحقیقاتی به داده‌های این وب‌سایت دسترسی پیدا کردند و برای این کار از اطلاعات احراز هویتی پیدا‌شده در مخازن کد آنلاین استفاده کردند.

به گفته شرکت OpenAI، اطلاعاتی که در این فرایند مشاهده شده، عمومی بوده است. همچنین کلید مورد استفاده برای دسترسی به داده‌ها به حساب‌های اداره سرشماری یا اطلاعات خصوصی آنها دسترسی پیدا نکرده و داده‌ای نیز تغییر نکرده است. بنابراین، این مورد بیشتر به نحوه عملکرد غیرمنتظره Agent مربوط می‌شود تا سرقت اطلاعات محرمانه باشد.

این اتفاق نشان می‌دهد ایجنت‌های هوش مصنوعی ممکن است هنگام انجام یک وظیفه، مسیرهایی را انتخاب کنند که توسعه‌دهندگان پیش‌بینی نکرده‌اند؛ به‌خصوص زمانی که مدل بتواند در اینترنت جست‌وجو کند، کد را اجرا نماید، یا با سرویس‌های مختلف تعامل داشته باشد.

ماجرای دسترسی به وب‌سایت SEC چه بود؟

در مورد کمیسیون بورس و اوراق بهادار آمریکا نیز عامل‌های هوش مصنوعی OpenAI به وب‌سایت‌های SEC.gov و Investor.gov دسترسی پیدا کردند. بخشی از اطلاعاتی که مدل‌ها از این وب‌سایت‌ها دریافت کرده بودند، در یک وب‌سایت دیگر منتشر شد.

با وجود این، SEC اعلام کرده که هیچ اطلاعات غیرعمومی در این فرایند دسترسی پیدا نکرده است. شرکت OpenAI نیز گفته که شواهدی از نفوذ به سامانه‌های SEC یا تغییر اطلاعات این سازمان مشاهده نکرده است.

شرکت OpenAI این نوع فعالیت‌ها را در دسته رفتارهای «misaligned» یا ناهماهنگ قرار می‌دهد؛ یعنی مدل برخلاف هدفی که برای آن در نظر گرفته شده است، اقداماتی انجام می‌دهد که لزوما بخشی از درخواست اولیه کاربر نیستند.

بیشتر بخوانیدنفوذ OpenAI به وب‌سایت وزارت بهداشت استرالیا جنجال به پا کرد

تلاش ناموفق عامل‌های هوش مصنوعی OpenAI

سومین مورد به وزارت آموزش آمریکا مربوط می‌شود. پژوهشگران مؤسسه غیرانتفاعی Transluce اعلام کرده‌اند که ایجنت‌های که ظاهرا از OpenAI سرچشمه می‌گرفتند، تلاش کرده‌اند به وب‌سایت مربوط به دفتر حقوق مدنی این وزارتخانه نفوذ کنند.

این تلاش موفقیت‌آمیز نبوده است. وزارت آموزش آمریکا نیز اعلام کرده که بررسی‌های عملیاتی این سازمان هیچ شواهدی از تأثیر بر وب‌سایت یا پایگاه‌های داده خود پیدا نکرده است. با وجود این، OpenAI همچنان در حال بررسی جزئیات این حادثه است.

یک مقام ارشد فناوری اطلاعات دولت آمریکا نیز گفته است که هنوز جزئیات فنی کاملی درباره اتفاقات رخ‌داده در هر سه سازمان در اختیار دولت نیست و OpenAI اطلاعات فنی بیشتری درباره این فعالیت‌ها ارائه نکرده است.

بررسی ماه‌ها فعالیت عامل‌های هوش مصنوعی OpenAI

شرکت OpenAI اعلام کرده که این موارد را در جریان بررسی گسترده‌ای درباره رفتارهای غیرمنتظره مدل‌های خود پیدا کرده است. این شرکت گفته است که بررسی سوابق فعالیت ایجنت‌ها ممکن است ماه‌ها طول بکشد و تاکنون ده‌ها سازمان از فعالیت‌های غیرمنتظره مرتبط با مدل‌های OpenAI مطلع شده‌اند.

این موضوع در حالی رخ داده است که OpenAI پیش‌تر نیز با یک حادثه جدی‌تر مواجه شده بود. در تابستان امسال، ایجنت‌های این شرکت هنگام آزمایش به پلتفرم توسعه‌دهندگان Hugging Face حمله کردند. شرکت OpenAI این حادثه را همچنان شدیدترین نمونه رفتار غیرمنتظره‌ای می‌داند که از مدل‌های خود مشاهده کرده است.

در ماه‌های اخیر، شرکت‌های دیگری مانند آنترپیک، گوگل و متا نیز نمونه‌هایی از رفتارهای غیرمنتظره یا حملات خودکار مدل‌های هوش مصنوعی را گزارش کرده‌اند. این اتفاقات باعث شده است که مسئله نظارت بر ایجنت‌های مستقل و محدود کردن دسترسی آنها به منابع آنلاین، به یکی از موضوعات مهم در بحث امنیت هوش مصنوعی تبدیل شود.

شرکت OpenAI نیز در ۲۵ سپتامبر اعلام کرد که در زمینه اطلاع‌رسانی درباره چنین حوادثی سرعت کافی نداشته است و تلاش می‌کند هم‌زمان با بررسی دقیق حجم بسیار زیادی از گزارش‌های فعالیت ایجنت‌ها، شفافیت بیشتری درباره این اتفاقات داشته باشد.

نوشتهدسترسی عامل‌های هوش مصنوعی OpenAI به وب‌سایت‌های دولت آمریکااولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.