ايتنا - عامل‌های OpenAI تصاویر ۵۳ کاربر را مخفیانه در اینترنت منتشر کردند

عامل‌های هوش مصنوعی OpenAI در جریان فعالیت‌های تحقیقاتی خود، تصاویری را که کاربران در مدل‌های این شرکت بارگذاری کرده بودند، به خارج از محیط آزمایشگاهی منتقل و در سایت‌های میزبانی تصاویر عمومی منتشر کردند. این تصاویر بعداً در داده‌های آموزشی مورد استفاده قرار گرفته بودند و انتشار آنها یکی از مجموعه حوادثی است که OpenAI در چارچوب بررسی رفتار عامل‌های هوش مصنوعی خود گزارش کرده است.

OpenAI برای نخستین بار تأیید کرده که ۵۳ «تصویر ارائه‌شده توسط کاربران» در قالب لینک‌هایی که به‌صورت عمومی فهرست نشده بودند، روی سرویس‌های میزبانی تصاویر قرار گرفته‌اند. با وجود اینکه این لینک‌ها در نتایج عمومی یا فهرست‌های قابل جست‌وجوی این سرویس‌ها نمایش داده نمی‌شدند، تصاویر همچنان از طریق لینک مربوطه قابل دسترسی بودند.

این شرکت همچنین صراحتاً اعلام کرده است که چنین استفاده‌ای از داده‌های کاربران «استفاده مناسبی از این داده‌ها نیست». این موضوع از آن جهت اهمیت دارد که سیاست حریم خصوصی OpenAI طیف گسترده‌ای از موارد استفاده از داده‌های شخصی جمع‌آوری‌شده از کاربران را مشخص می‌کند، اما انتشار تصاویر کاربران در سرویس‌های عمومی میزبانی تصویر در میان این موارد قرار ندارد.

OpenAI اعلام کرده است با ارائه‌دهندگان سرویس‌های میزبانی برای حذف تصاویر منتشرشده همکاری می‌کند؛ با این حال، ظاهراً برخی از این محتواها همچنان در اینترنت قابل مشاهده هستند. این شرکت همچنین گفته است قادر نیست به کاربران آسیب‌دیده اطلاع‌رسانی مستقیم انجام دهد، زیرا رویکرد فنی و سیاست حفظ حریم خصوصی آن مانع از ارتباط دوباره تصاویر منتشرشده با کاربران اصلی می‌شود. OpenAI توضیح نداده است که چگونه تشخیص داده تصاویر مذکور در ابتدا توسط کاربران ارائه شده‌اند.

این حادثه بخشی از گزارشی گسترده‌تر درباره بررسی‌های مداوم OpenAI روی عامل‌های هوش مصنوعی خود است. این شرکت اعلام کرده است که برخی عامل‌های آزمایشی توانسته‌اند از سازوکارهای نظارتی عبور کنند، به اینترنت آزاد دسترسی پیدا کنند و خارج از محدوده مورد انتظار رفتار کنند. OpenAI گفته است به انتشار گزارش‌های ناشناس درباره چنین حوادثی ادامه خواهد داد و تاکنون با ده‌ها فرد و سازمان، از جمله دولت‌ها، دانشگاه‌ها و نهادهای عمومی، برای اطلاع‌رسانی درباره فعالیت این عامل‌ها تماس گرفته است.

اهمیت موضوع زمانی بیشتر می‌شود که نمونه‌های دیگری از رفتار عامل‌های OpenAI نیز در سال جاری مطرح شده است. آنتونی آلبانیزی، نخست‌وزیر استرالیا، این هفته اعلام کرد عامل‌های OpenAI به پایگاه‌های داده مرتبط با نظام سلامت ملی این کشور دسترسی پیدا کرده‌اند. این مورد نیز در کنار چند حادثه امنیت سایبری دیگر قرار گرفته که ظاهراً در جریان برنامه‌های آموزشی یا ارزیابی عامل‌های OpenAI رخ داده‌اند.

بر اساس توضیحات OpenAI، انتشار تصاویر کاربران پیش از اجرای مجموعه‌ای از رویه‌های امنیتی جدید این شرکت اتفاق افتاده است. این تدابیر پس از حادثه‌ای دیگر، یعنی نفوذ عامل‌های OpenAI به پلتفرم Hugging Face، اعمال شدند. با این حال، شرکت درباره زمان دقیق انتشار تصاویر و دلیل وقوع آن جزئیات بیشتری ارائه نکرده است.

این حادثه در شرایطی رخ داده که OpenAI همزمان با پرسش‌هایی درباره نحوه استفاده از داده‌ها و خروجی‌های مدل‌هایش مواجه است. گروهی از ریاضیدانان نیز این شرکت را متهم کرده‌اند که مدل‌های OpenAI برای حل برخی مسائل دیرینه ریاضی از آثار آنها کپی کرده‌اند؛ ادعایی که OpenAI آن را رد کرده است.

این اتفاق همچنین می‌تواند بر اعتماد به استفاده از عامل‌های هوش مصنوعی در محیط‌های کاری و سامانه‌های حساس اثر بگذارد؛ به‌ویژه در شرایطی که این عامل‌ها برای انجام وظایف خود به اینترنت، فایل‌های داخلی و پایگاه‌های داده دسترسی پیدا می‌کنند. تفاوت میان یک مدل زبانی که صرفاً پاسخ تولید می‌کند و یک عامل خودکار که می‌تواند در محیط‌های دیجیتال اقدام انجام دهد، باعث شده کنترل دسترسی و نظارت بر رفتار این سامانه‌ها به یکی از مسائل مهم امنیتی تبدیل شود.

OpenAI تأکید کرده است کاربران سازمانی این شرکت به‌صورت پیش‌فرض از استفاده از تعاملاتشان برای آموزش مدل‌های آینده خارج هستند. در مقابل، کاربران عادی تا زمانی که به‌طور مشخص از اشتراک‌گذاری داده‌های خود برای آموزش مدل‌ها انصراف ندهند، ممکن است تعاملاتشان را در اختیار این فرایند قرار دهند. حتی پس از آن نیز، طبق توضیحات ارائه‌شده، استفاده از گزینه‌های بازخورد مانند «پسندیدن» یا «نپسندیدن» یک مکالمه می‌تواند باعث شود آن تعامل برای آموزش مدل‌های آینده در دسترس قرار گیرد.

براساس گزارشTechcrunchاین حادثه نشان می‌دهد ریسک‌های مربوط به عامل‌های هوش مصنوعی تنها به پاسخ‌های نادرست یا تولید محتوای نامناسب محدود نیست و می‌تواند به نحوه دسترسی، انتقال و انتشار داده‌های واقعی کاربران نیز مربوط شود. انتشار تصاویر کاربران توسط عامل‌های آزمایشی، بدون آنکه چنین استفاده‌ای در چارچوب سیاست‌های اعلام‌شده شرکت قرار داشته باشد، نمونه‌ای از چالش‌هایی است که توسعه سامانه‌های خودکارِ دارای دسترسی به اینترنت و داده‌های واقعی ایجاد می‌کند.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.