ايتنا - رئیس امنیت OpenAI استعفا داد؛ هشدار جدی درباره «فرهنگ ناکارآمد» در شرکت سازنده ChatGPT

بخش هوش مصنوعی با استعفای رسمی دیوید رابینسون، رئیس بخش گزارش‌های ایمنی و امنیتی در OpenAI، بار دیگر شاهد تکانه‌ای در سطح رهبری یکی از مهم‌ترین شرکت‌های این حوزه است. این استعفا با هشدارهای عمومی تندی همراه بود که در آن‌ها رابینسون تأیید کرد فرهنگ سازمانی درون شرکت پیشرو در انقلاب هوش مصنوعی «ناکارآمد» شده است.

رابینسون مسئول تهیه و ارزیابی گزارش‌های امنیتی همراه با هر رونمایی از مدل‌های جدید ChatGPT بود. او پس از استعفا، مقاله‌ای مفصل با عنوان «من OpenAI را ترک می‌کنم زیرا فرهنگ آن بیمار است» منتشر کرد و توضیح داد مسابقه‌ فشرده و انتقال سریع از یک رونمایی محصول به رونمایی بعدی باعث شده شرکت نتواند حداقل سطح احتیاط لازم برای تضمین ایمنی این فناوری‌ها را رعایت کند.

وی نوشت: «من با دیگر کارمندانی که اخیراً کارشان را ترک کرده‌اند موافقم که شرکت‌های توسعه‌دهنده این فناوری به اندازه کافی دقت نمی‌کنند. اما فکر می‌کنم باید فراتر از قوانین خاص یا قوانین جدید نگاه کنیم. ما باید فرهنگ شرکت را مورد بحث قرار دهیم.»

حادثه‌ حمله‌ عوامل خودمختار

رابینسون به حوادث ناشی از رفتار خودمختار هوش مصنوعی اشاره کرد؛ از جمله ماجرایی که در آن «گروهی» از عوامل (Agent) خودساخته‌ OpenAI بدون مداخله یا نظارت انسانی، حمله‌ای بی‌هدف به پلتفرم Hugging Face انجام دادند. به گفته‌ او، چنین حوادثی دیگر استثنا نیستند و به امری عادی تبدیل شده‌اند؛ نشانه‌ای از ماهیت تصادفی اداره‌ این بخش.

به باور رابینسون، مشکل بسیار عمیق‌تر از نبود قانون یا مقررات جدید است. او معتقد است آزمایشگاه‌های رقابتی هوش مصنوعی فاقد فرهنگی هستند که صنایع پرخطر دیگر طی دهه‌ها به دست آورده‌اند. به گفته‌ وی، فناوری‌های پیشرفته باید با همان دقت و لایه‌های امنیتی چندگانه‌ای مدیریت شوند که در نظارت بر راکتورهای هسته‌ای یا تنظیم ترافیک هوایی در فرودگاه‌های شلوغ به کار می‌رود؛ جایی که برنامه‌ریزی دقیق مانع از آن می‌شود یک خطای ساده‌ انسانی به فاجعه تبدیل شود.

رابینسون افزود سیلیکون ولی فاقد آگاهی از «چگونگی برخورد با فناوری خطرناک» و «معنای اهمیت دادن به مردم» است و هشدار داد: «تصور کنید مأموران هوش مصنوعی (سرکش) مانند تیم‌هایی از مجرمان سایبری عمل کنند، اما هرگز مجبور به خوابیدن نباشند.»

پاسخ OpenAI

سخنگوی OpenAI در واکنش تأیید کرد که شرکت همچنان شیوه‌های ایمنی و امنیتی خود را برای مقابله با خطرات فعلی و آینده ارتقا می‌دهد. او تأکید کرد هرگاه نگرانی‌های ایمنی ایجاب کند، شرکت عملیات آموزش مدل را متوقف یا انتشار نمونه‌های اولیه را به تعویق می‌اندازد.

حلقه‌ای از یک زنجیره‌ بلند

تحلیلگران معتقدند استعفای رابینسون رویدادی مجزا نیست و ادامه‌ «فرسایش مداوم» جبهه‌ ایمنی در جامعه‌ هوش مصنوعی است. این استعفا همزمان با اعلام شرکت چند روز پیش درباره‌ پایان همکاری با سه محقق به دلیل نشت اطلاعات حساس رخ داده و چند ماه پس از رفتن یوهانس هایدکی، رئیس سابق سیستم‌های ایمنی، صورت گرفته است. پیش‌تر نیز رهبران تیم «سوپرالاینمنت» (Superalignment) مانند ایلیا سوتسکیفر و یان لایکه با استدلالی مشترک شرکت را ترک کرده بودند: اولویت‌یافتن تحقیقات تجاری و سودآوری بر پژوهش‌های ضروری ایمنی.

ناآرامی در رقیب هم دیده می‌شود

این روند محدود به OpenAI نیست. چند هفته پیش، محققی به نام جیکوب کوکسون از شرکت رقیب، آنتروپیک، استعفا داد و هشدار داد سرعت فعلی رشد هوش مصنوعی ممکن است تا پایان دهه خطراتی وجودی برای بشریت ایجاد کند. یکی دیگر از کارمندان آنتروپیک نیز گفته بود احتمال نابودی بشریت به دست هوش مصنوعی در دهه‌ی آینده بیش از ۱۰ درصد است.

بحران ساختاری

به نوشته‌ گزارش، این الگوی تکرارشونده بازتاب یک بحران ساختاری است: تضاد میان تمایل به افزایش بازده مالی و تسلط بر بازار از راه دسترسی زودهنگام به هوش مصنوعی عمومی، و نگرانی تیم‌های پژوهشی متمرکز بر ایمنی از مدل‌های خودمختار با قابلیت‌های نفوذ سایبری کنترل‌نشده. با نبود چارچوب‌های نظارتی قاطع از سوی دولت‌ها، این تنش هر بار با استعفا و اعلام خطر یکی از مسئولان به درگیری آشکار تبدیل می‌شود.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.