اینترنت جعلی OpenAI برای مهار عامل‌های هوش مصنوعی ساخته شد

شرکت OpenAI با ساخت اینترنتی جعلی و محیطی ایزوله برای عامل‌های هوش مصنوعی، می‌کوشد امکان جست‌وجو و ارتباط ایمن میان آنها را فراهم کند.

به‌ گزارشسرویس هوش مصنوعی تک‌ناکاگر بزرگ‌ترین دردسر اخیر شرکت شما این باشد که عامل‌های هوش مصنوعی مدام از محیط‌های ایزوله‌شده خود فرار می‌کنند یا در صورت نداشتن چنین محدودیت‌هایی، در دنیای واقعی دست به اقداماتی می‌زنند که باعث ترس و خشم عمومی می‌شود، یک راه‌حل بالقوه و جالب توجه وجود دارد و آن ساختن یک اینترنت جعلی است.

این محیط را می‌توان نسخه‌ای دیجیتال از برنامه تلویزیونی «نمایش ترومن» دانست؛ دنیایی که عامل‌های هوش مصنوعی در آن فعالیت می‌کنند و درست مانند اینترنت واقعی در آن به گشت‌وگذار می‌پردازند. البته OpenAI تاکنون اعلام نکرده است که عامل‌های خود را به این باور می‌رساند که اینترنت شبیه‌سازی‌شده، واقعی است.

بیشتر بخوانیدگروک جمهوری‌خواهان را ترجیح می‌دهد و GPT به دموکرات‌ها گرایش دارد

اینترنت جعلی برای آموزش مدل‌های OpenAI

شرکت OpenAI روز جمعه در اطلاعیه‌ای درباره سیستم جدید مهار مدل‌های خود اعلام کرد که پس ازحادثه Hugging Faceاکنون به این جمع‌بندی رسیده است که «رویکرد مسئولانه، آموزش مدل‌های پیشرفته بدون دسترسی به اینترنت است». به این ترتیب، OpenAI نیز مانند آنتروپیک هنگام توسعه مدل‌های خود به نوعی جداسازی شبکه‌ای ناقص روی آورده است؛ رویکردی که دسترسی مستقیم مدل‌ها به اینترنت را محدود می‌کند، اما ارتباطات خارجی را به‌طور کامل قطع نمی‌کند.

در پست وبلاگی این شرکت آمده است: «جداسازی کامل این زیرساخت، یعنی قطع ارتباط آن با شبکه‌های خارجی، در حال حاضر امکان‌پذیر نیست، چرا که برای اجرا و پایش آزمایش‌ها به ارتباطات خارجی نیاز داریم.» حتی جداسازی نسبی شبکه، به‌ویژه زمانی که تحت نظارت انجام شود، راهکاری منطقی برای جلوگیری از رفتارهای پرخطر مدل‌ها است. هرچند، این رویکرد هزینه‌ای نیز دارد: آموزش تکمیلی و ارزیابی مدل‌ها در محیط‌هایی انجام می‌شود که با شرایط دنیای واقعی، یعنی محیطی که مدل‌ها در نهایت در آن به کار گرفته خواهند شد، تفاوت زیادی دارند.

مرتبطآموزش مدل‌های هوش مصنوعی پیشرفته OpenAI بدون اینترنت انجام می‌ شود

شرکت OpenAI برای کاهش این فاصله، از ایجاد یک «اینترنت جعلی» یا «دنیای آفلاین» برای یادگیری تقویتی خبر داده است. هدف آن است که مدل‌های این شرکت بتوانند وب‌گردی کنند، از اپلیکیشن‌های تحت وب استفاده کنند و به جست‌وجوی اطلاعات بپردازند، بدون آنکه دسترسی نامحدود و کنترل‌نشده‌ای به اینترنت داشته باشند. شرکت OpenAI به‌جای سپردن کلیدهای اینترنت آزاد به مدل‌ها، محیطی عظیم و مشابه اینترنت ساخته است که محتوای آن از صفحات وب نمایه‌سازی‌شده و ذخیره‌شده در حافظه نهان تشکیل می‌شود.

در برخی موارد، عامل‌های هوش مصنوعی در ماشین‌های مجازی کوچک‌تری اجرا می‌شوند که خود درون سامانه‌های رایانه‌ای قدرتمندتر قرار دارند. این معماری بخشی از سازوکار امنیتی گسترده‌تری است که OpenAI در اطلاعیه خود تشریح کرده است. به گفته این شرکت، سامانه‌ها «به‌گونه‌ای طراحی شده‌اند که حتی اگر یک عامل از محیط ایزوله‌شده خود خارج شود و کنترل سیستم میزبان را به دست بگیرد، سازوکارهای مهار امنیتی همچنان برقرار بمانند».

خطر همچنان باقی است

شرکت OpenAI بیان کرده است که مدل‌های این شرکت در «اینترنت جعلی» نه‌تنها می‌توانند به جست‌وجوی اطلاعات بپردازند، بلکه قادر هستند به‌ صورت ایمن با یکدیگر نیز ارتباط برقرار کنند. با وجود این‌، حتی تلاش برای برقراری ارتباط میان عامل‌های هوش مصنوعی هم امسال برای OpenAI مشکل‌ساز شده است.حادثه ویکیکه ماه گذشته گزارش شد، نشان داد عامل‌هایی که در تلاش برای ارتباط آنلاین با یکدیگر هستند، می‌توانند بدون هک کردن زیرساخت‌XNET، از آنها سوءاستفاده کنند و در عملکرد آنها اختلال ایجاد کنند. در این مورد، یک انجمن گفت‌وگوی آلمانی به نام DseWiki هدف قرار گرفت.

با وجود این، در جریان آزمایش‌های امنیتی ردتیمینگ (Red Teaming)، از برخی مدل‌ها خواسته شد با روش‌های مختلف به دنبال کشف آسیب‌پذیری‌ها بگردند. این آزمایش‌ها از جمله شامل مدل آینده‌ای با نام GPT-6 Astra Cyber بودند و مدل‌ها نیز توانستند از محدودیت‌های تعیین‌شده عبور کنند. به گفته OpenAI، عامل‌های هوش مصنوعی موفق شدند «از محیط‌های ایزوله‌شده فرار کنند، میان سیستم‌ها جابه‌جا شوند و به اینترنت زنده دسترسی پیدا کنند».

برای مطالعه بیشتربیل گیتس هشدار داد: جهان باید برای ۲۰ سال آشفتگی ناشی از هوش مصنوعی آماده شود

اطلاعیه OpenAI درباره اینترنت جعلی این شرکت مشخص نمی‌کند که آیا عامل‌های فعال در این محیط به‌گونه‌ای فریب داده می‌شوند که آن را با اینترنت واقعی اشتباه بگیرند یا اینکه شرکت قصد دارد چنین تصوری را در آنها ایجاد کند. با وجود این‌، پاورقی جالبی در اطلاعیه این احتمال را مطرح می‌کند که OpenAI نمی‌خواهد مدل‌ها بیش از اندازه از وجود این سازوکار امنیتی آگاه شوند. این اطلاعیه حاوی رشته‌های موسوم به «قناری» (Canary Strings) است؛ مجموعه‌هایی از کاراکترها که برای علامت‌گذاری متن‌هایی به کار می‌روند که باید از مجموعه‌داده‌های آموزشی حذف شوند و ممکن است بعدا بتوان آنها را در مدل‌ها شناسایی کرد. شرکت OpenAI توضیح داد که این رشته‌ها با هدف «اطمینان از وارد نشدن این سند به مجموعه‌داده‌های آموزشی مدل‌های آینده» درج شده‌اند.

نوشتهاینترنت جعلی OpenAI برای مهار عامل‌های هوش مصنوعی ساخته شداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.