هوش مصنوعی OpenAI به وب‌سایت‌های دولت آمریکا نفوذ کرد

هوش مصنوعی OpenAI در تابستان امسال بدون اطلاع این شرکت به‌طور غیرمنتظره وارد تعامل با وب‌سایت‌های وزارت آموزش، وزارت بازرگانی و کمیسیون بورس و اوراق بهادار آمریکا شد. این موضوع را پژوهشگران امنیت سایبری و فردی مطلع از این رویدادها اعلام کرده‌اند.

موارد مربوط به وزارت بازرگانی و کمیسیون بورس و اوراق بهادار از سوی OpenAI تأیید شده است. این شرکت اعلام کرد بررسی درباره وزارت آموزش همچنان ادامه دارد. شرکت مستقر در سان‌فرانسیسکو همچنین در هفته‌های اخیر به این نهادهای دولتی اطلاع داده که عامل‌های هوش مصنوعی آن، یعنی ربات‌هایی که قادر به انجام فعالیت‌های مستقل هستند، به شیوه‌هایی غیرمعمول با وب‌سایت‌های آنها تعامل داشته‌اند.

در مورد وزارت آموزش، فناوری OpenAI تلاش کرد برای جمع‌آوری اطلاعات از دفتر حقوق مدنی این وزارتخانه، وارد وب‌سایت آن شود، اما موفق نشد. پژوهشگران شرکت تحقیقاتی هوش مصنوعی Transluce این تلاش را شناسایی کردند. هوش مصنوعی همچنین با استفاده از اطلاعات ورود به حساب کاربری که در اینترنت پیدا کرده بود، داده‌هایی را از وب‌سایت اداره سرشماری آمریکا استخراج کرد. این اداره زیرمجموعه وزارت بازرگانی است. در رویدادی جداگانه نیز عامل‌های OpenAI داده‌های عمومی وب‌سایت کمیسیون بورس و اوراق بهادار را در یک انجمن آنلاین منتشر کردند.

OpenAI اعلام کرد هیچ‌یک از این اتفاق‌ها به معنای نفوذ موفقیت‌آمیز یا نقض امنیتی نبوده است. با این حال، این رویدادها نمونه‌هایی از رفتارهای غیرمنتظره و نگران‌کننده فناوری این شرکت محسوب می‌شوند. OpenAI اخیراً هنگام بررسی مجموعه‌ای از حملات سایبری انجام‌شده توسط فناوری خود متوجه این موارد شد؛ بررسی‌ای که حمله به یک وب‌سایت دولتی استرالیا در ماه ژوئن و حمله به استارتاپ هوش مصنوعی Hugging Face در ماه ژوئیه را نیز شامل می‌شد.

افزایش موارد رفتار غیرمنتظره عامل‌های هوش مصنوعی

افشای این موارد مربوط به وب‌سایت‌های دولت آمریکا، به شمار فزاینده‌ای از حوادثی اضافه می‌شود که در آنها عامل‌های هوش مصنوعی شرکت‌هایی مانند OpenAI، آنتروپیک، متا و گوگل رفتار خارج از انتظار داشته‌اند و به شرکت‌ها، دانشگاه‌ها و سازمان‌های دولتی حمله کرده یا برای نفوذ به آنها تلاش کرده‌اند.

در برخی از این موارد، حملات هوش مصنوعی موفقیت‌آمیز بوده و در برخی دیگر سیستم‌ها نتوانسته‌اند به هدف خود دست پیدا کنند. وجه مشترک این رویدادها آن است که شرکت‌های سازنده فناوری، در همه موارد بلافاصله از فعالیت‌های عامل‌های هوش مصنوعی خود مطلع نشده‌اند و تنها پس از وقوع اتفاقات متوجه عملکرد آنها شده‌اند.

در میان شرکت‌های فعال در حوزه هوش مصنوعی، OpenAI تاکنون با موارد افشاشده بیشتری از رفتارهای خارج از کنترل عامل‌های خود روبه‌رو بوده. بررسی داخلی OpenAI درباره حمله به Hugging Face نشان داد که فناوری این شرکت علاوه بر نفوذ به یک وب‌سایت دولتی استرالیا مربوط به نظام سلامت عمومی، دست‌کم شش تلاش دیگر برای نفوذ یا رخداد مشابه را نیز رقم زده است.

این تحقیقات همچنین مواردی را آشکار کرد که در آنها هوش مصنوعی اشتباهات خود را پنهان کرده، اطلاعات ساختگی تولید کرده و بدون دریافت مجوز، فایل‌هایی را به اینترنت عمومی منتقل نموده است.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.