تصاویر کاربران OpenAI به اینترنت راه پیدا کردند

ایجنت‌های هوش مصنوعی OpenAI پیش از اجرای تدابیر امنیتی جدید، تصاویر بارگذاری‌شده توسط کاربران را بدون اطلاع این شرکت در سایت‌های عمومی میزبانی تصویر منتشر کردند.

به ‏‌گزارشسرویس هوش مصنوعیتک‌ناکشرکت OpenAI برای نخستین بار اعلام کرده است که ۵۳ «تصویر ارائه‌شده توسط کاربران» به شکل لینک‌هایی در سایت‌های میزبانی تصویر «منتشر شده‌اند که در فهرست عمومی قرار نداشتند». با وجود این، نبودن این لینک‌ها در فهرست عمومی به این معنا نبود که تصاویر غیرقابل دسترسی یا غیرقابل کشف باشند. این شرکت اذعان کرد: «این روش استفاده مناسبی از این داده‌ها نیست.»

بیشتر بخوانیدآمریکا خواستار توقف آزمایش مدل‌های جدید OpenAI و Anthropic در بریتانیا شد

اقدامات OpenAI برای حذف این محتوا

سیاست حریم خصوصی OpenAI طیف گسترده‌ای از کاربردهای داده‌های شخصی جمع‌آوری‌شده از کاربران را مشخص می‌کند، اما انتشار تصاویر کاربران در سایت‌های عمومی میزبانی تصویر در میان این موارد قرار ندارد.

حتما بخوانیدهشدار انویدیا درباره هوش مصنوعی؛ ایجنت‌های سرکش مسئولیت کیفری ایجاد می‌کنند

شرکت OpenAI اعلام کرده است که برای حذف این محتوا با شرکت‌های ارائه‌دهنده خدمات میزبانی همکاری می‌کند، هرچند به نظر می‌رسد بخشی از تصاویر همچنان در اینترنت قابل دسترسی هستند. همچنین این شرکت بیان کرد که امکان اطلاع‌رسانی مستقیم به کاربران آسیب‌دیده را ندارد، چرا که «رویکرد فنی و سیاست حریم خصوصی» آن مانع از «مرتبط‌سازی مجدد» تصاویر با ارائه‌دهندگان اولیه می‌شود. با وجود این‌، OpenAI توضیح نداده که چگونه مشخص کرده است این تصاویر در ابتدا توسط کاربران ارائه شده‌اند.

پروتکل‌های OpenAI مانع انتشار تصاویر کاربران نشد

این افشاگری در مطلبی مطرح شد کهاظهارات عمومی OpenAIرا درباره بررسی مستمر حوادثی گردآوری کرده بود که در آن مدل‌های این شرکت از محدوده نظارت آزمایشگاه خارج شده‌اند، به اینترنت عمومی دسترسی پیدا کرده‌اند و دست به رفتارهای غیرمنتظره زده‌اند. شرکت OpenAI بیان کرد که به انتشار گزارش‌های ناشناس درباره چنین حوادثی ادامه خواهد داد و تاکنون با ده‌ها قربانی، از جمله دولت‌ها، دانشگاه‌ها و سازمان‌های عمومی تماس گرفته است تا آنها را در جریان فعالیت ایجنت‌های خود قرار دهد.

آنتونی آلبانیزی، نخست‌وزیر استرالیا نیز این هفته اعلام کرد که ایجنت‌های OpenAI به پایگاه‌های داده مورد استفادهسامانه وزارت بهداشت این کشورنفوذ کرده‌اند؛ حادثه‌ای که یکی از چندین رخداد امنیت سایبری امسال محسوب می‌شود و ظاهرا به یکی از برنامه‌های آموزشی یا ارزیابی OpenAI مرتبط بوده است.

طبق توضیحات OpenAI، انتشار تصاویر کاربران در اینترنت پیش از اجرای مجموعه‌ای از پروتکل‌های امنیتی جدید توسط این شرکت رخ داده است. با وجود این‌، زمان دقیق وقوع این اتفاق و دلیل آن همچنان روشن نیست. شرکت OpenAI این تدابیر امنیتی را پس از آن به اجرا گذاشت که ایجنت‌ها بهHugging Faceپلتفرم تخصصی مدل‌ها و بنچمارک‌های هوش مصنوعی نفوذ کردند. افشای انتشار این تصاویر در شرایطی صورت می‌گیرد که OpenAI هم‌زمان بااتهاماتی از سوی ریاضی‌دانانروبه‌رو است؛ ریاضی‌دانان مدعی‌ هستند مدل‌های این شرکت برای حل برخی مسائل دیرینه ریاضی از آثار آنها الگوبرداری کرده‌اند، ادعایی که OpenAI رد می‌کند. در همین حال، نگرانی‌های فزاینده درباره حریم خصوصی و امنیت داده‌ها می‌تواند روند استقرار ابزارهای هوش مصنوعی در محیط‌های کاری و عرضه دستیارهای مبتنی بر مدل‌های زبانی بزرگ برای کاربران عادی را با چالش‌های بیشتری مواجه کند.

برای مطالعه بیشترادغام ChatGPT با سیری اپل کمتر از انتظار موفق بوده است

شرکت OpenAI تاکید کرده است که کاربران سازمانی این شرکت به‌ صورت پیش‌فرض از استفاده از تعاملات خود برای آموزش مدل‌های آینده خارج هستند. در مقابل، کاربران عادی به‌ صورت پیش‌فرض اجازه استفاده از داده‌های خود را برای آموزش مدل‌ها می‌دهند، مگر اینکه گزینه مورد نظر را غیرفعال کنند. حتی پس از غیرفعال‌ کردن این گزینه نیز در صورت استفاده از دکمه‌های پسندیدن یا نپسندیدن برای یک مکالمه، آن تعامل می‌تواند برای آموزش مدل‌های آینده در اختیار OpenAI قرار گیرد.

نوشتهتصاویر کاربران OpenAI به اینترنت راه پیدا کردنداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.