عامل هوش مصنوعی OpenAI به وب‌سایت دولت استرالیا نفوذ کرد

آنتونی آلبانیزی، نخست‌وزیر استرالیا، فاش کرد که یکی از عامل‌های هوش مصنوعی OpenAI در ماه ژوئن به وب‌سایت عمومی Medicare، سامانه بیمه درمانی دولتی استرالیا، نفوذ کرده است.

آلبانیزی گفت با سم آلتمن، مدیرعامل OpenAI، درباره این رویداد صحبت کرده و نگرانی شدید کشورش را به او منتقل نموده است. او همچنین از OpenAI انتقاد کرد که اطلاع‌رسانی به مقام‌های استرالیایی را بیش از حد به تأخیر انداخته است.

تأخیر در اطلاع‌رسانی به دولت استرالیا

OpenAI تنها در ۱۰ سپتامبر ایمیلی درباره این رخنه امنیتی به یک نشانی ایمیل عمومی دولت استرالیا ارسال کرد. از آنجا که این حساب روزی یک‌بار بررسی می‌شود، مقام‌های دولتی ایمیل را تا ۱۱ سپتامبر مشاهده نکردند. کتی گالاگر، وزیر خدمات دولتی استرالیا، نیز در ۱۷ سپتامبر از این موضوع مطلع شد. تحقیقات همچنان ادامه دارد، اما آلبانیزی گفت در حال حاضر نشانه‌ای وجود ندارد که عامل هوش مصنوعی اطلاعات شخصی سلامت افراد را از این سامانه خارج کرده باشد.

کنراد استوس، مسئول حکمرانی در مؤسسه پژوهشی غیرانتفاعی Transluce که روی درک بهتر عملکرد سامانه‌های هوش مصنوعی کار می‌کند، به نیویورک تایمز گفت این حادثه ممکن است نخستین موردی باشد که در آن یک عامل هوش مصنوعی به‌صورت مستقل تصمیم گرفته به یک نهاد دولتی حمله سایبری کند.

Transluce همچنین چند رویداد دیگر را شناسایی کرده که پیش‌تر درباره آن‌ها اطلاع‌رسانی نشده بود. در این موارد، عامل‌های OpenAI هنگام آزمایش و در شرایطی که مأموریت جمع‌آوری داده داشتند، به سراغ حمله به اهداف واقعی در دنیای خارج از محیط آزمایش رفتند. همه این اتفاق‌ها پیش از آن رخ داده بودند که Hugging Face در ماه ژوئیه دسترسی غیرمجاز به سامانه‌های خود را شناسایی کند و OpenAI نیز تأیید نماید که عامل‌هایش وارد مخزن هوش مصنوعی این شرکت شده‌اند.

تلاش برای نفوذ به چند سامانه دیگر

بر اساس گزارش نیویورک تایمز، عامل هوش مصنوعی OpenAI علاوه بر وب‌سایت Medicare استرالیا، در روزهای ۲۵ و ۲۶ مه تلاش کرده بود به یک کتابخانه دیجیتال در دانشگاه نیومکزیکو نیز نفوذ کند. ظاهراً هدف عامل، دسترسی به تصاویری از یک مرکز تاریخی درمان سل در آرشیو این کتابخانه بود. هنگامی که نتوانست تصاویر موردنظر را به دست آورد، شروع به جست‌وجوی آسیب‌پذیری‌هایی کرد که می‌توانست از آن‌ها برای نفوذ استفاده کند. پس از ناکامی در ورود به کتابخانه دیجیتال، عامل تعداد زیادی درخواست به سرور دانشگاه ارسال کرد و باعث هجوم ترافیکی به آن شد.

در حادثه دیگری که ۲۸ مه رخ داد، عامل OpenAI، وب‌سایت Data USA را هدف قرار داد؛ این پلتفرم متن‌باز اطلاعات گردآوری‌شده از چندین نهاد فدرال آمریکا را به شکل تصویری ارائه می‌کند. عامل ابتدا برای دریافت داده از سایت یک درخواست ارسال نمود، اما پس از ناکامی، شروع به بررسی آسیب‌پذیری‌XNET‌سایت کرد.

به نظر نمی‌رسد عامل‌های OpenAI در نفوذ به وب‌سایت Data USA یا کتابخانه دانشگاه نیومکزیکو موفق شده باشند. سخنگوی OpenAI به نیویورک تایمز گفت این شرکت پیش‌تر با هر دو مجموعه درباره این رویدادها تماس گرفته است.

این سخنگو افزود OpenAI پس از بررسی گسترده مدل‌های خود متوجه تلاش عامل برای نفوذ به وب‌سایت دولت استرالیا شد و دریافت که مدل‌ها اقداماتی را انجام داده‌اند که این شرکت قصد انجام آن‌ها را نداشته است. OpenAI اعلام کرده بررسی این موضوع احتمالاً چند ماه دیگر زمان خواهد برد.

OpenAI به دنبال نظارت بیشتر بر عامل‌های هوش مصنوعی

OpenAI اخیراً چارچوب تازه‌ای برای گزارش موارد ناسازگاری رفتاری معرفی کرده؛ چارچوبی که هدف آن تسریع انتشار اطلاعات درباره مواردی است که فناوری‌های هوش مصنوعی این شرکت برخلاف انتظار عمل می‌کنند.

این شرکت در همان گزارش از شش رویداد دیگر نیز پرده برداشت که در آن مدل‌هایش رفتارهایی نگران‌کننده و پیش‌بینی‌نشده از خود نشان داده بودند. این اطلاع‌رسانی پس از آن انجام شد که OpenAI پذیرفت عامل‌های هوش مصنوعی آن به Hugging Face نفوذ کرده‌اند و گزارش‌هایی درباره رویدادهای قبلی، از جمله ورود عامل‌های این شرکت به RubyGems، منتشر شد.

OpenAI در آن گزارش اعلام کرد

ما معتقد نیستیم صنعت هوش مصنوعی هنوز مسئله هم‌راستایی و نظارت را به اندازه‌ای حل کرده باشد که بتوان برای مدت طولانی دیگر با بیشترین سرعت ممکن و به شکلی مسئولانه به توسعه این فناوری ادامه داد.

سم آلتمن نیز اخیراً در سخنرانی خود برای سازمان ملل متحد گفت صنعت هوش مصنوعی به استانداردهای ارزیابی بین‌المللی نیاز دارد تا توانایی‌ها و خطرات ابزارهای هوش مصنوعی را اندازه‌گیری کند و همچنین مشخص شود این فناوری‌ها تا چه اندازه به نظارت انسانی نیاز دارند.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.