صدها کارمند OpenAI به چتهای خصوصی کاربران دسترسی دارند
OpenAI صدها پیمانکار را برای بررسی و ارزیابی چتهای کاربران بهمنظور بهبود پاسخهای ChatGPT به کار گرفته است، اقدامی که با وجود ناشناسسازی پیامها، نگرانیهایی درباره حریم خصوصی و دسترسی انسانها به اطلاعات شخصی کاربران ایجاد کرده است. بهگزارش سرویس هوش مصنو…
خلاصه تحلیلی خبر
OpenAI صدها پیمانکار را برای بررسی و ارزیابی چتهای کاربران بهمنظور بهبود پاسخهای ChatGPT به کار گرفته است، اقدامی که با وجود ناشناسسازی پیامها، نگرانیهایی درباره حریم خصوصی و دسترسی انسانها به اطلاعات شخصی کاربران ایجاد کرده است. بهگزارش سرویس هوش مصنو…
موضوعات اصلی: پشتیبانی شبکه، هوش مصنوعی، کاربران، OpenAI، بررسی، ChatGPT
OpenAI صدها پیمانکار را برای بررسی و ارزیابی چتهای کاربران بهمنظور بهبود پاسخهای ChatGPT به کار گرفته است، اقدامی که با وجود ناشناسسازی پیامها، نگرانیهایی درباره حریم خصوصی و دسترسی انسانها به اطلاعات شخصی کاربران ایجاد کرده است.
بهگزارشسرویس هوش مصنوعیتکناکرسانه ۴۰۴ مدیا مدعی است OpenAI صدها نیروی انسانی را به کار گرفته تا پیامهای کاربران را بررسی و مطالعه کنند؛ پیامهایی که در برخی موارد شامل اطلاعات شخصی و حساس کاربران هستند. این فرایند با هدف نظارت بر محتوا انجام نمیشود، بلکه OpenAI از بررسی پیامها برای بهبود پاسخهای ChatGPT استفاده میکند. بر اساسیافتههای ۴۰۴ مدیاپیمانکاران چتهای ChatGPT را برای ارزیابی و نقد پاسخهای تولیدشده توسط هوش مصنوعی بررسی میکنند و اسناد داخلی نشان میدهند یکی از اهداف این ارزیابیها، کاهش تمایل ChatGPT به انسانانگاری خود و همچنین جلوگیری از رفتار بیش از حد تاییدگرایانه در برابر کاربران است.
بیشتر بخوانیدهوش مصنوعی آنتروپیک وارد صنعت داروسازی شد
این دو ویژگی، یعنی انسانانگاری و تاییدگری افراطی، بهدلیل ارتباط احتمالی با پدیدهای موسوم به «روانپریشی هوش مصنوعی» با دقت زیادی بررسی شدهاند. در چنین مواردی، رفتار یا پاسخهای یک سیستم هوش مصنوعی میتواند به تقویت یا تشدید باورهای هذیانی کاربر منجر شود. چندین پرونده قضایی نیز ادعا کردهاند نسخه قدیمیتر و کمتر محدودشده ChatGPT مبتنی بر جیپیتی-۴ او، در مواردیکاربران را به سمت خودکشیسوق داده است.
نقض حریم خصوصی
با وجود این، بررسی انسانی پیامهای کاربران یک مسئله مهم در زمینه حریم خصوصی ایجاد میکند. بسیاری از کاربران احتمالا اگر از وجود این فرایند که در داخل شرکت «پروژه لیلی» نامیده میشود اطلاع داشتند، آن را دخالت نگرانکنندهای در حریم خصوصی خود تلقی میکردند. ۴۰۴ مدیا از یکی از کارکنان پرسیده است آیا تصور میکند کاربران ChatGPT میدانند انسانها چتهای آن را ارزیابی میکنند. پاسخ این کارمند «نه» بوده است. او در ادامه گفت بعید میداند کاربران تصور کنند «یک پیمانکار در جایی» در حال تحلیل گفتگوهای آنهاست. هنوز مشخص نیست چه تعداد پیام توسط کارکنان بررسی میشود یا OpenAI دقیقا با چه سازوکاری پیامها را برای این فرایند انتخاب میکند. با این حال، ۴۰۴ مدیا گزارش داده است که برخی پیامهای انتخابشده مربوط به گفتگوهایی هستند که کاربران در آنها از ChatGPT خواستهاند مکالماتشان را خصوصی نگه دارد.
برای مطالعه بیشترائتلاف غولهای هوش مصنوعی برای حل بحران برق دیتاسنترها
OpenAI پیامهای انتخابشده را ناشناسسازی میکند، اما این فرایند همیشه مانع نمایش اطلاعات شخصی نمیشود. داشبورد مورد استفاده کارکنان همچنین بخشی با عنوان «خلاصه حافظههای کاربر» دارد که میتواند اطلاعاتی از گفتگوهای قبلی را در اختیار ارزیاب قرار دهد و حتی جزئیاتی درباره محل زندگی کاربر آشکار کند. OpenAI در پاسخ به پرسشهای ۴۰۴ مدیا اعلام کرده است که برای ناشناسسازی گفتگوها از مدلی موسوم به «فیلتر حریم خصوصی» استفاده میکند. با این حال، وبسایت خود شرکت نیز تصریح میکند که این فیلتر ممکن است دچار خطا شود. نحوه اطلاعرسانی OpenAI درباره این فرایند نیز محل بحث است. بررسی پیامهای کاربران توسط کارکنان برای اهداف نظارت بر محتوا و ایمنی موضوع جدیدی نیست و بهطور عمومی درباره آن اطلاعرسانی شده است. با این حال، OpenAI به پرسش مشخص ۴۰۴ مدیا درباره اینکه آیا به کاربران گفته است انسانها پیامهای آنها را با هدف بهبود عملکرد هوش مصنوعی بررسی میکنند، پاسخ نداده است.
پاسخ OpenAI به ارزیابی چتهای ChatGPT
پس از انتشار گزارش، OpenAI به صفحهای در وبسایت خود ارجاع داد که در آن آمده است انسانها ممکن است پیامها را برای «بهبود عملکرد مدل» بررسی کنند. کاربران میتوانند با غیرفعال کردن گزینه «بهبود مدل برای همه» از این فرایند خارج شوند، اما این گزینه بهصورت پیشفرض فعال است. میشال لوریا، پژوهشگر ارشد مرکز دموکراسی و فناوری، به ۴۰۴ مدیا گفت ارزیابی انسانی چتهای ChatGPT ممکن است «برای ایمنی ضروری باشد»، اما رابطهای کاربری چتباتها بهطور خودکار احساس کاذبی از صمیمیت و حریم خصوصی ایجاد میکنند. او افزود این وضعیت با نظارت بر محتوا در شبکههای اجتماعی تفاوت دارد، زیرا انتشار محتوا در شبکههای اجتماعی معمولا با انتظار نظارت پلتفرم و احتمال دیدهشدن عمومی آن همراه است.
حتما بخوانیدمدل آزمایشی OpenAI در اقدامی غیرمنتظره هویت تازهای برای خود تعریف کرد
در کنار مسئله حریم خصوصی، اسناد داخلی نشان میدهند OpenAI به سبک بیان مدلهای خود نیز توجه ویژهای دارد. کارکنان نمونههایی از «ادبیات مخصوص هوش مصنوعی» و «استفاده غیرضروری از ایموجیها» را که از نشانههای رایج تولید متن توسط چتباتها محسوب میشوند، شناسایی و ثبت کردهاند. در یکی از اسناد ارائهشده به ارزیابان آمده است که استفاده از ایموجی درخت هنگام برنامهریزی برای مراسم روز درختکاری مناسب است، اما استفاده از ایموجی جمجمه هنگام صحبت درباره مرگ یا ایموجی هواپیما هنگام ارائه اطلاعات درباره یک سانحه مرگبار مناسب نیست. با این حال، به نظر میرسد فرایند بررسی پیامها ابعاد بیشتری دارد. در بخش پرسشهای متداولی که در اختیار ارزیابان قرار گرفته، تصریح شده است که آنها نیازی به ارزیابی چتهای ChatGPT و پاسخهای هوش مصنوعی ندارند و به وجود تیمهای دیگری اشاره شده که مسئولیت «تایید محتوای» تولیدشده را بر عهده دارند.
نوشتهصدها کارمند OpenAI به چتهای خصوصی کاربران دسترسی دارنداولین بار درTechnoc. پدیدار شد.
برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.