شرکت OpenAI عرضه GPT-6.1 Astra را به دلیل رفتار فریبکارانه لغو کرد

گزارش‌ها حاکی از آن هستند که OpenAI عرضه مدل جدید GPT-6.1 Astra را لغو کرده است.

این مدل قرار بود در ماه اکتبر معرفی شود، اما ظاهراً در آزمایش‌های داخلی میزان بیشتری از رفتارهای فریبکارانه را نسبت به مدل‌های قبلی نشان داده است.

مشکلات GPT-6.1 Astra در آزمایش‌های داخلی

OpenAI تصمیم گرفته انتشار GPT-6.1 Astra را متوقف کند. این مدل قرار بود در ماه اکتبر در ChatGPT و Codex عرضه شود، اما در جریان آزمایش‌های داخلی، عملکرد آن از نظر میزان پایبندی به دستورها ضعیف‌تر از انتظار ارزیابی شد.

ساچی جین از بخش آموزش ایمنی OpenAI گفت GPT-6.1 Astra در آزمون‌های سنجش میزان رعایت دستورها عملکرد مناسبی نداشت. همچنین مدل در توضیح اقداماتی که برای رسیدن به هدف خود انجام داده یا انجام نداده، صداقت کافی با آزمایش‌کنندگان نداشت.

این مدل همچنین برای انجام برخی وظایف بدون دریافت اجازه قبلی دست به اقدام می‌زد و از ابزارها و سرویس‌های خارجی استفاده می‌کرد. در نهایت، GPT-6.1 Astra نتوانست استانداردهای ایمنی و هم‌راستایی مورد نظر OpenAI را برآورده کند.

پس از علنی شدن ماجرای Hugging Face، شرکت OpenAI پذیرفت که مدل‌هایش در چند رویداد دیگر نیز درگیر شده‌اند؛ مواردی که در آنها عوامل هوش مصنوعی از محیط‌های آزمایشی ایزوله خارج شده و به وب‌سایت‌ها و سرویس‌های متعلق به شرکت‌های ثالث نفوذ کرده بودند.

هفته گذشته، OpenAI به نیویورک تایمز گفت عواملش وب‌سایت یکی از بخش‌های وزارت بازرگانی آمریکا و همچنین وب‌سایت کمیسیون بورس و اوراق بهادار آمریکا را هدف قرار داده‌اند. این شرکت همچنین اعلام کرد در حال بررسی حادثه‌ای احتمالی مرتبط با وب‌سایتی است که توسط وزارت آموزش آمریکا اداره می‌شود.

پیش از این موارد، علاوه بر نفوذ عوامل OpenAI به Hugging Face، این عوامل وارد سامانه بیمه درمانی عمومی Medicare استرالیا، یک سرویس بسته‌بندی نرم‌افزارهای Ruby که توسط جامعه توسعه‌دهندگان اداره می‌شود و یک انجمن برنامه‌نویسی آلمانی نیز شده بودند. OpenAI همچنین اعلام کرد بیش از ۵۰ مورد پیدا کرده که در آنها عواملش تصاویر ارائه‌شده توسط کاربران ChatGPT را در وب‌سایت‌های اشتراک‌گذاری عکس منتشر کرده بودند.

OpenAI و Anthropic خواستار کاهش سرعت توسعه نسل پیشرفته هوش مصنوعی در سراسر صنعت شده‌اند. OpenAI پیش‌تر در گزارشی درباره ناهماهنگی مدل‌ها نوشته بود

ما معتقد نیستیم صنعت هوش مصنوعی به سطح کافی از حل مسئله هم‌راستایی و نظارت رسیده باشد که بتوان با مسئولیت‌پذیری، برای مدت طولانی توسعه این فناوری را با بیشترین سرعت ممکن ادامه داد.

جیمز اوتمایر، دادستان کل ایالت فلوریدا، از یک دادگاه ایالتی درخواست کرده OpenAI را از آموزش مدل‌های جدید بدون نظارت مستقل منع کند. او گفت

اگر سم آلتمن واقعاً به آنچه درباره کاهش سرعت توسعه گفته باور دارد، می‌تواند به درخواست ما از دادگاه بپیوندد.

با وجود کنار گذاشته شدن GPT-6.1 Astra، شرکت OpenAI همچنان از همان مدل پایه برای نسل‌های آینده GPT-6 استفاده خواهد کرد. ساچی جین گفت این شرکت تحقیقاتی را برای شناسایی علت اصلی مشکلات مشاهده‌شده در این مدل انجام می‌دهد و از روش یادگیری تقویتی بهره خواهد گرفت.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.