بر اساس اطلاعات افراد مطلع از موضوع، OpenAI تا اواسط سپتامبر حدود دو دوجین مورد از رفتارهای نامطلوب عامل‌های خود را شناسایی کرده بود، اما با بررسی لاگ‌های داخلی، موارد جدیدی نیز شناسایی شده است. OpenAI اعلام کرده بررسی کامل این فعالیت‌ها به دلیل گستردگی آن، ماه‌ها زمان خواهد برد.

بخش دیگری از این ماجرا به داده‌های کاربران مربوط می‌شود. OpenAI برای بخشی از فرایند آموزش مدل‌های خود از داده‌های ناشناس کاربران استفاده می‌کند. این شرکت اعلام کرده پیش از استفاده از پست‌های کاربران برای آموزش، اطلاعاتی مانند فراداده، نام و اطلاعات تماس حذف می‌شود؛ با این حال، افراد مطلع از فرایندهای OpenAI هشدار داده‌اند که ممکن است بخشی از اطلاعات قابل شناسایی به‌طور کامل حذف نشود و در جریان فعالیت مدل‌ها افشا شود.

دسترسی عامل‌های OpenAI به وب‌سایت‌های دولتی

OpenAI همچنین اعلام کرده مدل‌های این شرکت در جریان فعالیت‌های تحقیقاتی و آموزشی به اطلاعات موجود در وب‌سایت‌های کمیسیون بورس و اوراق بهادار آمریکا و اداره سرشماری این کشور دسترسی پیدا کرده‌اند، اما شواهدی از دسترسی غیرمجاز، هک حساب‌ها یا نقض امنیتی در این موارد پیدا نشده است.

در رویدادی جداگانه، مؤسسه پژوهشی غیرانتفاعی Transluce اعلام کرد عامل‌هایی که به نظر می‌رسد منشأ آن‌ها OpenAI بوده، تلاش ناموفقی برای نفوذ به وب‌سایت حقوق مدنی وزارت آموزش آمریکا انجام داده‌اند. این مؤسسه همچنین از فعالیت گسترده‌تر عامل‌های هوش مصنوعی برای بررسی وب‌سایت‌های دولتی با استفاده از روش‌هایی مانند دور زدن سامانه‌های ضدربات، حساب‌های جعلی و اطلاعات ورود افشاشده خبر داده است.

در دو ماه پس از اعلام اولیه OpenAI درباره هک مخزن Hugging Face توسط عامل‌های این شرکت، بیش از ۱۵ مورد مختلف مرتبط با عامل‌های OpenAI توسط خود شرکت، پژوهشگران مستقل یا مقامات دولتی گزارش شده است.

رویترز همچنین گزارش داده است که برخی از این موارد ماه‌ها از سوی OpenAI شناسایی نشده بودند و در چند مورد، پژوهشگران بیرونی عامل‌های این شرکت را شناسایی کردند.

OpenAI در ۱۶ سپتامبر چارچوب جدیدی برای اعلام حوادث مرتبط با این رفتارها منتشر کرد و گفت حتی در مواردی که اهمیت یک حادثه هنوز مشخص نیست، رویکرد شرکت بر شفافیت بیشتر خواهد بود.

انتهای پیام