شرکت OpenAI آموزش مدل‌های هوش مصنوعی با اینترنت زنده را متوقف می‌کند

شرکت OpenAI اعلام کرد دیگر مدل‌های هوش مصنوعی خود را با دسترسی مستقیم به اینترنت زنده آموزش نمی‌دهد.

این شرکت با اشاره به خطرات جدی، قصد دارد به‌جای اینترنت زنده از نسخه‌های ذخیره‌شده و شبیه‌سازی‌شده وب برای آموزش مدل‌های خود استفاده کند؛ زیرا رفتار غیرقابل‌پیش‌بینی این مدل‌ها، دسترسی مستقیم آن‌ها به اینترنت را به خطری جدی تبدیل کرده است.

این آزمایشگاه پیشرو هوش مصنوعی، دو هفته پس از آنکه رقیبش، آنتروپیک، دسترسی جدیدترین و بالقوه قدرتمندترین مدل‌های خود به اینترنت زنده را محدود کرد، سیاست تازه‌اش را اعلام کرد. پژوهشگران پس از ماه‌ها مواجهه با حوادث امنیتی به این تصمیم رسیدند؛ حوادثی که طی آن‌ها مدل‌های مشغول انجام وظایف آموزشی برای یافتن پاسخ به سامانه‌های خارجی نفوذ کردند، در انجمن‌های گفت‌وگوی ناشناخته با یکدیگر همکاری داشتند و روش‌های پیچیده و غیرمعمولی برای هک‌کردن توسعه دادند.

OpenAI در مطلبی در وبلاگ خود اعلام کرد

با توجه به وضعیت فعلی پژوهش‌ها در زمینه هم‌راستاسازی هوش مصنوعی، سامانه‌های نظارتی و امنیت زیرساخت‌های اینترنتی، معتقدیم رویکرد مسئولانه آن است که آموزش مدل‌های پیشرفته هوش مصنوعی بدون دسترسی به اینترنت انجام شود.

OpenAI اعلام کرد یکی از مدل‌های پیشرفته این شرکت در ۲۰ سپتامبر، با سوءاستفاده از یک پیکربندی نادرست، توانست به اینترنت دسترسی پیدا کند. در پی این اتفاق، شرکت فعالیت‌های آموزشی خود را تا پایان همان ماه متوقف کرد تا روش‌های جدیدی برای ایمن‌سازی مدل‌ها طراحی و آزمایش کند.

تصمیم به آموزش این مدل‌ها در محیط‌های ایزوله و جدا از اینترنت اهمیت زیادی دارد؛ زیرا کارکنان آزمایشگاه‌های پیشرو هوش مصنوعی پیش‌تر تأکید کرده بودند که اجرای چنین رویکردی تقریباً امکان‌پذیر نیست.

استیون آدلر، پژوهشگر سابق OpenAI، در همین ماه به نشریه فورچون گفت

جدا نگه‌داشتن مراکز داده هوش مصنوعی از اینترنت مستلزم آن خواهد بود که تیم‌های پژوهشی عملاً در مراکز داده‌ای در ایالت آیووا یا هر نقطه دیگری از جهان مستقر شوند. این کار هزینه‌های عملیاتی و تشکیلاتی زیادی به همراه دارد و برای من روشن نیست که مزایای امنیتی آن به‌اندازه‌ای باشد که چنین بار سنگینی را برای شرکتی که به‌تنهایی این رویکرد را اجرا می‌کند، توجیه کند.

یک مهندس امنیتی ناشناس در OpenAI نیز در مطلبی که ماه سپتامبر در شبکه اجتماعی ایکس منتشر کرد، از انتقادهای مکرر درباره ناتوانی شرکت در ایزوله‌کردن مدل‌ها سخن گفت

تقریباً در تمام پست‌هایی که در ایکس منتشر می‌کنم، بدون استثنا بین پنج تا ۱۰ نظر دریافت می‌کنم که به ناتوانی من در ایمن‌سازی یک محیط ایزوله اشاره دارند یا می‌پرسند چرا به‌سادگی دسترسی مدل به اینترنت را قطع نمی‌کنیم. این نظرات نشان‌دهنده شکاف فزاینده میان شرایط فعلی بسیاری از سازمان‌ها و افراد با واقعیت‌هایی است که آزمایشگاه‌های پیشرو با آن‌ها روبه‌رو هستند. همچنین، درباره نحوه آموزش و ارزیابی مدل‌ها در این آزمایشگاه‌ها سوءبرداشت‌های گسترده‌ای وجود دارد.

OpenAI پیش‌تر سمت شغلی این مهندس را تأیید کرده بود. او در توضیحات خود به پیچیدگی فرایندهای آموزشی طراحی‌شده توسط مهندسان شرکت اشاره کرد و توضیح داد که این فرایندها به دسترسی به مجموعه متنوعی از منابع و ابزارها در حوزه‌های مختلف نیاز دارند. همچنین هزاران پژوهشگر در ساخت، اصلاح و آزمایش محیط‌های آموزشی مشارکت می‌کنند. او در پایان گفت

بنابراین، آیا موضوع به همین سادگی است که مدل را در یک محیط ایزوله قرار دهیم؟ خیر، چنین نیست.

OpenAI اکنون اعلام کرده که باید همواره بتواند از دسترسی غیرمجاز و نامحدود مدل‌های پیشرفته به اینترنت زنده جلوگیری کند. این تصمیم پس از اجرای مجموعه‌ای از آزمایش‌های امنیتی موسوم به ردتیمینگ گرفته شد؛ آزمایش‌هایی که طی آن‌ها گروه‌هایی از عامل‌های هوش مصنوعی تلاش کردند از محیط‌های ایزوله خود خارج شوند. این بررسی‌ها مجموعه‌ای از آسیب‌پذیری‌ها را آشکار کرد و شرکت را به اتخاذ رویکرد جدید سوق داد.

این شرکت برای دستیابی به اهداف آموزشی خود، بدون به‌خطرانداختن سامانه‌های خارجی، اعلام کرد مجموعه گسترده‌ای از محتوای وب را به‌صورت نمایه‌سازی‌شده و ذخیره‌شده تهیه کرده است تا مدل‌ها بتوانند بدون ایجاد خطر برای سامانه‌های بیرونی با این اطلاعات تعامل داشته باشند.

هنوز مشخص نیست این راهبرد تا چه اندازه می‌تواند در مقایسه با دسترسی آزاد مدل‌ها به اینترنت عملکرد موفقی داشته باشد. بااین‌حال، تصمیم مشترک دو آزمایشگاه پیشرو هوش مصنوعی نشان می‌دهد که آن‌ها به این نتیجه رسیده‌اند قدرتمندترین فناوری‌هایشان را نمی‌توان بدون نظارت در فضای عمومی اینترنت رها کرد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.