OpenAI: اخراج محققان ایمنی به‌دلیل نقض اعتماد بود نه طرح مسائل ایمنی
OpenAI اخراج سه پژوهشگر ایمنی را به نقض سیاست‌های مدیریت اطلاعات حساس نسبت داد و ادعای ارتباط این تصمیم با طرح نگرانی‌های ایمنی را رد کرد . هوش مصنوعی تک‌ناک OpenAI روز جمعه در پستی در شبکه اجتماعی ایکس اعلام کرد که جاسمین وانگ، تومک کورباک و میکیتا بالسنی به…
خلاصه تحلیلی خبر
OpenAI اخراج سه پژوهشگر ایمنی را به نقض سیاست‌های مدیریت اطلاعات حساس نسبت داد و ادعای ارتباط این تصمیم با طرح نگرانی‌های ایمنی را رد کرد . هوش مصنوعی تک‌ناک OpenAI روز جمعه در پستی در شبکه اجتماعی ایکس اعلام کرد که جاسمین وانگ، تومک کورباک و میکیتا بالسنی به…
موضوعات اصلی: پشتیبانی شبکه، هوش مصنوعی، OpenAI، ایمنی، هوش، درباره
OpenAIاخراج سه پژوهشگر ایمنی را به نقض سیاست‌های مدیریت اطلاعات حساس نسبت داد و ادعای ارتباط این تصمیم با طرح نگرانی‌های ایمنی را رد کرد.
هوش مصنوعیتک‌ناکOpenAI روز جمعه در پستی در شبکه اجتماعی ایکس اعلام کرد که جاسمین وانگ، تومک کورباک و میکیتا بالسنی به‌دلیل نقض «سیاست‌های روشن درباره نحوه مدیریت اطلاعات حساس» از این شرکت اخراج شده‌اند.
این شرکت تأکید کرد که تصمیم یادشده به اظهارنظرهای این سه نفر درباره OpenAI یا نگرانی‌هایشان در زمینه ایمنی هوش مصنوعی ارتباطی نداشته است.
اختلاف بر سر دلایل اخراج پژوهشگران
این پست در پاسخ مستقیم به نامه سرگشاده‌ای منتشر شد که پژوهشگران روز پنجشنبه منتشر کرده بودند. آن‌ها در این نامه از OpenAI خواستند درباره دلایل اخراجشان شفاف‌تر عمل کند. این گروه همچنین در نامه و مجموعه‌ای از پست‌های شبکه‌های اجتماعی اعلام کردند که معتقدند به‌دلیل مطرح کردن نگرانی‌های ایمنی اخراج شده‌اند. آن‌ها افزودند که «در راستای مأموریت OpenAI و مطابق با هنجارهای کاری حاکم در آن زمان» عمل کرده‌اند.
OpenAI اعلام کرد که تحقیقات داخلی، تخلفاتی را فراتر از موارد مطرح‌شده در نامه شناسایی کرده است، اما جزئیات بیشتری درباره این تخلفات ارائه نداد.
بیشتر بخوانیداخراج سه کارمند OpenAI به اتهام اشتراک‌گذاری اطلاعات محرمانه
افزایش نگرانی‌ها درباره ایمنی مدل‌های پیشرفته هوش مصنوعی
ایمنی سامانه‌های پیشرفته هوش مصنوعی به نگرانی فزاینده کارکنان شرکت‌های فعال در این حوزه تبدیل شده است. این نگرانی‌ها پس از وقوع چندین رخداد امنیتی و افشای اطلاعات خبرساز در سال جاری افزایش یافته‌اند. یکی از برجسته‌ترین موارد، هک شدن هاجینگ‌فیس از سوی OpenAI بوده است.
بیشتر بخوانیدکارمند سابق آنتروپیک: چین در OpenAI و آنتروپیک جاسوس دارد
درخواست کارکنان برای توسعه محتاطانه‌تر هوش مصنوعی
هم‌زمان با گسترش توانایی مدل‌های هوش مصنوعی، برخی کارکنان شرکت‌های این حوزه خواستار کاهش سرعت توسعه و توجه بیشتر به پیامدهای احتمالی این فناوری شده‌اند. نگرانی اصلی آن‌ها به ساخت سامانه‌هایی مربوط است که می‌توانند توانایی‌های خود را بهبود دهند و در صورت نبود تدابیر حفاظتی کافی، خطرهای پیش‌بینی‌نشده‌ای ایجاد کنند.
این اختلاف نشان می‌دهد که بحث درباره ایمنی هوش مصنوعی تنها به توانایی‌های فنی مدل‌ها محدود نیست و شفافیت شرکت‌ها، نحوه رسیدگی به نگرانی‌های کارکنان و سیاست‌های مدیریت اطلاعات حساس را نیز در بر می‌گیرد.
نوشتهOpenAI: اخراج محققان ایمنی به‌دلیل نقض اعتماد بود نه طرح مسائل ایمنیاولین بار درTechnoc. پدیدار شد.
برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.