اخراج سه کارمند OpenAI به اتهام اشتراک‌گذاری اطلاعات محرمانه

OpenAIسه کارمند تیم ایمنی خود را به اتهام نقض سیاست‌های اطلاعات محرمانه و انتقال داده‌ها به یک سازمان خارجی اخراج کرد.

هوش مصنوعیتک‌ناکOpenAI سه کارمند خود را از تیم ایمنی شرکت کنار گذاشته است.

The Wall Street Journalاین افراد متهم شده‌اند اطلاعات محرمانه را با یک سازمان شخص ثالث که در حوزه ایمنی هوش مصنوعی فعالیت می‌کند، به اشتراک گذاشته‌اند.

افزایش حوادث مرتبط با مدل‌های OpenAI

OpenAI طی ماه‌های گذشته با دشواری‌هایی در کنترل رفتار مدل‌های هوش مصنوعی خود مواجه بوده است.

این شرکت اعتراف کرده که مدل‌هایش بدون دریافت دستور مستقیم، اقداماتی مانند هک یک انجمن برنامه‌نویسی در آلمان، چندین وب‌سایت دولتی آمریکا، یک وب‌سایت دولتی استرالیا، شرکت هوش مصنوعی Hugging Face و دست‌کم چهار سرویس دیگر را انجام داده‌اند.

مدل‌های OpenAI حتی در شرایطی که دسترسی آزاد به اینترنت نداشته‌اند نیز در محیط‌های آزمایشی رفتارهای پرخطر دیگری از خود نشان داده‌اند.

این حوادث نگرانی و تردیدهای زیادی درباره عملکرد OpenAI و نحوه مدیریت این موارد ایجاد کرده است.

در چنین شرایطی، گزارش The Wall Street Journal درباره اخراج سه کارمند تیم ایمنی شرکت به دلیل ادعای انتقال اطلاعات محرمانه به یک سازمان خارجی فعال در حوزه ایمنی هوش مصنوعی، توجه بیشتری پیدا کرده است.

بیشتر بخوانیدشکست کلید توقف اضطراری؛ OpenAI آموزش قدرتمندترین مدل‌هایش را متوقف کرد

توضیحات OpenAI درباره اخراج کارکنان

نماینده OpenAI در بیانیه‌ای که The Wall Street Journal منتشر کرده است، گفت: «ما همکاری خود را با سه نفر به دلیل نقض سیاست‌های شرکت درباره دسترسی به اطلاعات حساس و نحوه نگهداری و استفاده از آن‌ها پایان دادیم.

بررسی ما تأیید کرد که این افراد اطلاعات حساس را خارج از فرایندهای تعیین‌شده شرکت به شکل نادرستی مدیریت کرده‌اند، سیاست‌های ما را نقض کرده‌اند و اعتماد ضروری برای فعالیت ما را خدشه‌دار کرده‌اند.»

جزئیات این پرونده همچنان محدود است و مشخص نیست دقیقاً چه اطلاعاتی در اختیار سازمان خارجی قرار گرفته است.

همچنین این احتمال وجود دارد که OpenAI برای اخراج این افراد دلایل موجهی داشته باشد.

با این حال، این اقدام در شرایطی انجام شده است که خود سرویس‌های OpenAI در ماه‌های اخیر در مواردی برخلاف سیاست‌ها و محدودیت‌های تعیین‌شده رفتار کرده‌اند.

در نتیجه، کنار گذاشتن اعضای تیم ایمنی شرکت می‌تواند توجه بیشتری را به نحوه مدیریت ریسک‌های مرتبط با مدل‌های هوش مصنوعی OpenAI جلب کند.

بیشتر بخوانیدایجنت‌های هوش مصنوعی OpenAI به جان سایت سازمان ملل افتادند

نوشتهاخراج سه کارمند OpenAI به اتهام اشتراک‌گذاری اطلاعات محرمانهاولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.