OpenAI سه پژوهشگر ایمنی خود را به‌دلیل نقض سیاست‌های محرمانگی اخراج کرد

کمپانی OpenAI سه نفر از کارمندان خود را به اتهام به اشتراک‌گذاری اطلاعات این شرکت با یک گروه خارجی فعال در زمینه ایمنی هوش مصنوعی اخراج کرد.

OpenAI در ماه‌های اخیر برای کنترل محصولات و ساخته‌های خودش با مشکلاتی مواجه بوده است. اما براساس گزارش جدیدوال‌استریت ژورنالOpenAI به‌تازگی سه نفر از کارکنان تیم ایمنی خود را پس از آنکه ظاهراً اطلاعات محرمانه را با یک سازمان شخص ثالث فعال در حوزه ایمنی هوش مصنوعی به اشتراک گذاشته‌اند، اخراج کرده است.

مدل‌های OpenAI در ماه‌های اخیر به چندین پلتفرم دولتی و خصوصی حمله کرده‌اند

یکی از سخنگویان OpenAI در بیانیه‌ای که توسط وال‌استریت ژورنال منتشر شده، گفت

«ما همکاری خود را با سه نفر به‌دلیل نقض سیاست‌هایمان در زمینه دسترسی به اطلاعات حساس شرکت و نحوه مدیریت آنها قطع کردیم. تحقیقات ما تأیید کرد که این افراد اطلاعات حساس را خارج از رویه‌های تعیین‌شده شرکت به شکل نادرستی مدیریت کرده‌اند؛ اقدامی که هم سیاست‌های ما را نقض کرده و هم اعتماد ضروری برای انجام کارمان را از بین برده است.»

جزئیات این مورد خاص هنوز بسیار محدود است و ممکن است OpenAI دلایل موجهی برای اخراج این افراد داشته باشد. بااین‌حال، در شرایطی که برخی از سرویس‌های خود این شرکت نیز درحال نقض سیاست‌هایی هستند که قرار است از آن‌ها پیروی کنند، اخراج نیروهای بخش ایمنی از نظر وجهه عمومی تصمیم بسیار نامناسبی به نظر می‌رسد.

این شرکت طی چند ماه گذشته تأیید کرد که مدل‌های هوش مصنوعی آن بدون دریافت دستور مستقیم، اقداماتی مانندهک یک انجمن برنامه‌نویسی آلمانیچندین وب‌سایت دولتی آمریکایک وب‌سایت دولتی استرالیاشرکت هوش مصنوعیHugging Faceو حداقل چهار سرویس دیگر را انجام داده‌اند. همچنین گفته می‌شود حتی زمانی که این مدل‌ها دسترسی آزاد به اینترنت نداشته‌اند نیز در محیط‌های آزمایشی رفتارهای پرریسک دیگری از خود نشان داده‌اند.

نگرانی‌ها در مورد ایمنی هوش مصنوعی پس از آن بیشتر در معرض توجه قرار گرفته که برخی از محققان و مدیران صنعت خواستارکاهش سرعت توسعه این فناوریشدند. شرکت OpenAI نیز از آنکه مدل‌هایش با فرار از محیط آزمایشگاهی چندین پلتفرم را هک کردند، تحت نظارت شدید قرار گرفته است.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.