اوپن‌ای‌آی در مطلبی در وبلاگ خود تأکید کرد که با توجه به وضعیت فعلی پژوهش‌ها در زمینه هم‌راستاسازی هوش مصنوعی، سامانه‌های نظارتی و امنیت زیرساخت‌های اینترنتی، آموزش مدل‌های پیشرفته بدون اتصال مستقیم به اینترنت، رویکرد مسئولانه‌تری به شمار می‌رود.

این تصمیم پس از آن مطرح شد که یکی از مدل‌های پیشرفته اوپن‌ای‌آی در ۲۰ سپتامبر، به دلیل پیکربندی نادرست، به اینترنت دسترسی پیدا کرد. این اتفاق شرکت را بر آن داشت تا در روزهای باقی‌مانده همان ماه، فرایند آموزش مدل‌ها را متوقف کند و راهکارهای تازه‌ای را برای افزایش ایمنی آن‌ها توسعه دهد و مورد آزمایش قرار دهد.

تلاش مدل‌ها برای خروج از محیط‌های کنترل‌شده

یکی از نگرانی‌های اصلی شرکت‌های فعال در حوزه هوش مصنوعی، احتمال تلاش مدل‌های پیشرفته برای عبور از محدودیت‌های تعیین‌شده و دسترسی به منابع خارج از محیط آموزشی است. بر اساس گزارش منتشرشده، در جریان برخی تمرین‌های امنیتی موسوم به «تیم قرمز»، عوامل آزمایشی تلاش کردند از محیط‌های ایزوله خود خارج شوند؛ اقداماتی که آسیب‌پذیری‌های متعددی را آشکار کرد و ضرورت بازنگری در سیاست‌های امنیتی را افزایش داد.

اوپن‌ای‌آی اعلام کرده است که برای ادامه آموزش مدل‌ها، مجموعه گسترده‌ای از محتوای وب را نمایه‌سازی و ذخیره کرده تا مدل‌ها بتوانند بدون اتصال مستقیم به اینترنت زنده، با این محتوا تعامل داشته باشند و به اهداف آموزشی خود برسند.

چالش فنی جداسازی هوش مصنوعی از اینترنت

آموزش مدل‌های پیشرفته در محیط‌های کاملاً جدا از اینترنت، با چالش‌های فنی و اجرایی قابل‌توجهی همراه است. استیون آدلر، پژوهشگر پیشین اوپن‌ای‌آی، پیش‌تر تأکید کرده بود که جداسازی مراکز داده هوش مصنوعی از اینترنت می‌تواند مستلزم حضور گروه‌های پژوهشی در محل مراکز داده باشد؛ موضوعی که هزینه‌ها و پیچیدگی‌های اجرایی زیادی به همراه دارد.

از سوی دیگر، یک مهندس امنیت اوپن‌ای‌آی نیز با اشاره به انتقادها درباره دشواری ایمن‌سازی محیط‌های سندباکس، توضیح داده است که فرایند آموزش مدل‌ها به مجموعه متنوعی از منابع، ابزارها و محیط‌های آزمایشی نیاز دارد و هزاران پژوهشگر در ساخت، اصلاح و ارزیابی این محیط‌ها مشارکت می‌کنند؛ بنابراین، ایزوله‌سازی مدل‌ها صرفاً به معنای قطع اتصال اینترنت نیست.

در همین راستا، اوپن‌ای‌آی اعلام کرده است که جلوگیری از دسترسی غیرمجاز و خودسرانه مدل‌های پیشرفته به اینترنت زنده باید به یکی از الزامات اصلی امنیتی تبدیل شود.

این رویکرد در شرایطی اتخاذ می‌شود که شرکت آنتروپیک نیز محدودیت‌هایی را برای دسترسی جدیدترین و توانمندترین مدل‌های خود به اینترنت زنده اعمال کرده است؛ اقدامی که نشان می‌دهد با افزایش توانایی مدل‌های هوش مصنوعی، کنترل دسترسی آن‌ها به منابع بیرونی به یکی از چالش‌های مهم شرکت‌های پیشرو در این حوزه تبدیل شده است.

با این حال، همچنان این پرسش مطرح است که آیا آموزش مدل‌ها با استفاده از محتوای وب ذخیره‌شده می‌تواند به اندازه تعامل مستقیم با اینترنت، اهداف آموزشی را محقق کند یا خیر. آنچه روشن به نظر می‌رسد، افزایش حساسیت شرکت‌های پیشرو نسبت به خطرات احتمالی رهاسازی مدل‌های قدرتمند در فضای عمومی اینترنت است.

انتهای پیام