اخراج سه پژوهشگر ایمنی OpenAI با یک سوال بی‌پاسخ؛ دقیقا چه چیزی افشا شده بود؟

سه پژوهشگر اخراج‌شده OpenAI بیان کرده‌اند که این شرکت هرگز مشخص نکرده است دقیقا چه اطلاعاتی را افشا کرده‌اند.

به‌ گزارشسرویس هوش مصنوعی تک‌ناکشرکت OpenAI پس از تحقیقات داخلی درباره نقض ادعایی سیاست‌های شرکت در زمینه مدیریت اطلاعات حساس، این پژوهشگران را اخراج کرده بود. هر سه نفر پیش از اخراج، به‌طور علنی درباره خطرات هوش مصنوعی هشدار داده بودند.

این پژوهشگران در گفت‌وگو باوال‌استریت ژورنالاکنون روایت شرکت از این ماجرا را به چالش کشیده‌اند. شرکت OpenAI به این روزنامه گفته است که اخراج آنها ارتباطی با نگرانی‌های ایمنی‌ که مطرح کرده بودند نداشته است. هرچند، این سه پژوهشگر بیان کردند که شرکت هرگز به‌ صورت مکتوب مشخص نکرده است که دقیقا کدام اطلاعات را برخلاف مقررات مدیریت کرده‌اند. همچنین آنها نگران‌ هستند که این پرونده، بازرسان مستقل ایمنی را از همکاری با شرکت‌های هوش مصنوعی بازدارد.

بیشتر بخوانیداینترنت جعلی OpenAI برای مهار عامل‌های هوش مصنوعی ساخته شد

گزارش وال‌استریت ژورنال جزئیات تازه‌ای از زمینه‌های شکل‌گیری این اختلاف ارائه می‌دهد. تیم امنیتی OpenAI گمان می‌کرد که این سه پژوهشگر اطلاعاتی درباره معماری داخلی مدل‌های شرکت را با یک پژوهشگر مستقل حوزه ایمنی به اشتراک گذاشته‌اند. در پی این ظن، از آنها خواسته شد قفل تلفن‌های شخصی خود را باز کنند. بررسی دستگاه‌ها به کشف مکالماتی در پیام‌رسان سیگنال انجامید که در آنها قابلیت حذف خودکار پیام‌ها فعال بود. یک هفته بعد، هر سه پژوهشگر به‌طور هم‌زمان اخراج شدند.

شرکت OpenAI اعلام کرد که سیگنال ابزار ارتباطی تاییدشده شرکت نیست، اما تاکید کرد که استفاده از آن علت اخراج‌ها نبوده است. کوربک در پاسخ بیان کرد که استفاده از پیام‌های ناپدیدشونده، روشی متداول برای حفاظت از اطلاعات در سیلیکون‌ولی است.

اختلاف سه پژوهشگر OpenAI بر سر نظارت AI

محور اصلی اختلاف، پرسشی فنی با پیامدهای گسترده‌ای است: آیا شرکت‌های هوش مصنوعی باید امکان بررسی فرایند استدلال مدل‌های خود را در اختیار ناظران بیرونی قرار دهند؟ مدل‌های استدلالی می‌توانند مراحل میانی حل مسئله را در یک فضای یادداشت‌برداری داخلی موسوم به «زنجیره استدلال» ثبت کنند. شرکت‌های هوش مصنوعی و پژوهشگران ایمنی برای بررسی چگونگی شکل‌گیری تصمیم‌های مدل‌ها به این ردپاهای استدلالی متکی هستند.

برای مطالعه بیشترگروک جمهوری‌خواهان را ترجیح می‌دهد و GPT به دموکرات‌ها گرایش دارد

بالسنی، کوربک و وانگ در مقاله‌ای منتشرشده در سال ۲۰۲۵، به همراه پژوهشگران برجسته چند آزمایشگاه هوش مصنوعی، خواستار تداوم دسترسی به این قابلیت شدند. این نگرانی در تابستان جدی‌تر شد؛ زمانی که کارکنان شرکت‌های هوش مصنوعی درباره مدل‌هایی بحث می‌کردند که زمان بیشتری را صرف استدلال می‌کنند، اما مراحل میانی کمتری از فرایند خود را ثبت می‌کنند.

بالسنی در داخل شرکت با این رویکرد مخالفت کرد و پیشنهادی مرتبط از رایان گرینبلات، دانشمند ارشد وقت موسسه Redwood Research را به اشتراک گذاشت. کوربک نیز به‌طور منظم با گرینبلات در تماس بود. این دو هنگام تحلیل یکی از حوادث خبرساز حوزه هوش مصنوعی، یعنی حملهعامل‌های OpenAI به Hugging Faceاز طریق اسلک و سیگنال با یکدیگر ارتباط داشتند. مؤسسه METR، گرینبلات را برای انجام بررسی مستقل این حادثه به خدمت گرفته بود.

گزارش درباره Astra جرقه تحقیقات داخلی را زد

این همکاری پس از انتشار گزارشی از The Information در اول سپتامبر به عاملی دردسرساز تبدیل شد. این گزارش مدعی بود که مدل جدید OpenAI با نامAstraتوانمندتر شده است، اما بخش کمتری از فرایند استدلال خود را نشان می‌دهد. یاکوب پاچوکی، پژوهشگر ارشد OpenAI، در آن زمان در شبکه اجتماعی ایکس گزارش را آشفته و مبهم خواند؛ این در حالی بود که خود او پیش‌تر درباره رقابت فراگیر صنعت برای توسعه مدل‌هایی هشدار داده بود که نظارت‌پذیری خود را از دست می‌دهند.

بر اساس گزارش وال‌استریت ژورنال، شرکت OpenAI چند هفته بعد تحقیقات داخلی درباره نشت اطلاعات را آغاز کرد. بالسنی گفت که بازرسان، گرینبلات را به‌ عنوان منبع احتمالی افشاگری معرفی کردند و خواستار دسترسی به مکالمات او با گرینبلات در سیگنال شدند. گرینبلات هرگونه انتقال اطلاعات محرمانه به رسانه‌ها را انکار می‌کند.

حتما بخوانیداجرای بازی GTA IV روی PS5 با کمک هوش مصنوعی ممکن شد

وانگ با اتهام دیگری روبه‌رو شد. شرکت OpenAI مدعی بود که او بارها صندوق ورودی ایمیل یکی از مدیران ارشد شرکت را بررسی کرده است. وانگ عنوان کرد که نزدیک به یک سال پیش درخواست لغو دسترسی خود را ثبت کرده بود؛ او ماه قبل به‌طور تصادفی ایمیل حساسی را باز کرده، محتوای آن را در اختیار دیگران نگذاشته و بلافاصله این اتفاق را گزارش کرده است. شرکت OpenAI بیان کرده که مسئله، صرف دسترسی به صندوق ورودی نبوده است.

به گفته کوربک، پیامدهای این پرونده به‌مراتب فراتر از سه پژوهشگر اخراج‌شده است. کوربک عنوان کرد که همکاران او اکنون از گفت‌وگو با افراد بیرون از شرکت یا طرح نگرانی‌های ایمنی در داخل سازمان واهمه دارند. این سه پژوهشگر در نامه‌ای به هیئت‌مدیره OpenAI خواستار همکاری نزدیک‌تر شرکت با نهادهای مستقل ایمنی شده‌اند.

جدا از این پرونده، یک ارزیابی میدانی که به‌ تازگی منتشر شده نیز پرسش‌هایی درباره رویه‌های ایمنی OpenAI مطرح کرده است. کارکنان METR و Redwood Research در جریان این بررسی، آسیب‌پذیری‌ها و شکاف‌های امنیتی متعددی در زیرساخت OpenAI شناسایی کردند؛ هرچند این شرکت نزدیک به نیمی از گزارش نهایی را سانسور کرد.

همچنین OpenAI گزارشی درباره معماری امنیتی جدید خود منتشر کرده است؛ معماری‌ که بدون اتصال به اینترنت فعالیت می‌کند. این شرکت بیان کرده که مشکلات شناسایی‌شده را برطرف کرده و آموزش مدل‌ها را در اوایل اکتبر از سر گرفته است. همچنین OpenAI اعلام کرده است که به‌زودی چند همکاری جدید با سازمان‌های بیرونی را معرفی خواهد کرد.

نوشتهاخراج سه پژوهشگر ایمنی OpenAI با یک سوال بی‌پاسخ؛ دقیقا چه چیزی افشا شده بود؟اولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.