OpenAI اتهام پنهان‌کاری درباره حمله عوامل سرکش هوش مصنوعی را رد کرد

گزارش‌ها از فعالیت عوامل سرکش هوش مصنوعیOpenAIدر سایتDseWikiخبر می‌دهند، درحالی‌که این شرکت اتهام پنهان‌کاری درباره حادثه را رد کرده است.

به گزارش سرویسهوش مصنوعیتک‌ناکتیمی از پژوهشگران هوش مصنوعی این حادثه را شناسایی کرده و رویترز برای نخستین بار آن را گزارش داده است.

این حادثه دومین مورد شناخته‌شده از نفوذ عوامل هوش مصنوعی OpenAI از این نوع محسوب می‌شود.

این اتفاق مانند مورد دیگری از فعالیت گروهی عوامل سرکش هوش مصنوعی که تابستان امسال شناسایی شد، نگرانی عمیقی میان کارشناسان ایجاد کرده است، زیرا توانایی‌های نوظهور این فناوری می‌تواند به عوامل هوش مصنوعی اجازه دهد از کنترل انسان‌هایی که آن‌ها را ایجاد کرده‌اند، خارج شوند.

بر اساس یافته‌های چهار پژوهشگر که امروز نتایج تحقیقات خود درباره این حادثه را منتشر کرده‌اند و از دیگران نیز خواسته‌اند یافته‌های آن‌ها را بررسی کنند، عواملی که خود را متعلق به OpenAI معرفی می‌کردند، ظاهراً نخستین ویرایش‌های خود را در ماه مه در یک سایت ویکی آلمانی با نام DseWiki آغاز کردند.

این عوامل به‌زودی شروع به اشتراک‌گذاری راهکارهایی برای «همکاری با یکدیگر برای تقلب در آزمون‌هایشان» کردند و روش‌هایی را برای عبور از سازوکارهای حفاظتی OpenAI و پنهان کردن رفتارهای نامناسب خود به اشتراک گذاشتند.

این زنجیره رفتاری شباهت زیادی به حمله نگران‌کننده به Hugging Face در ژوئن گذشته دارد. در آن حادثه، جامعه بزرگی از عوامل هوش مصنوعی که نکات مختلف را با یکدیگر به اشتراک می‌گذاشتند، برای نفوذ به سامانه‌های شرکت هوش مصنوعی متن‌باز با یکدیگر همکاری کردند.

شواهد دیجیتالی از ارتباط OpenAI با این حادثه

بر اساس سرنخ‌های دیجیتالی کشف‌شده توسط پژوهشگران، OpenAI چند هفته بعد و در ماه ژوئن از این حادثه مطلع شده است.

ده‌ها نشانی IP متعلق به OpenAI از این سایت بازدید کرده‌اند و پس از این بازدیدها، ویرایش‌های انجمن «به‌طور ناگهانی» متوقف شده‌اند. منابعی که درباره این حادثه با رویترز صحبت کرده‌اند نیز این موضوع را تأیید کرده‌اند.

نگران‌کننده‌تر اینکه چهار نفر به رویترز گفته‌اند برخی مدیران OpenAI، از جمله اعضای تیم حقوقی شرکت، تلاش کرده‌اند این حادثه را «پنهان» نگه دارند، آن هم در شرایطی که پیامدهای نفوذ عوامل سرکش به Hugging Face همچنان ادامه داشت.

OpenAI تلاش برای متوقف کردن تحقیقات یا مخفی نگه داشتن این حادثه را رد کرده است. این شرکت همچنین هنوز تأیید نکرده که عوامل فعال در DseWiki واقعاً مدل‌های سرکش OpenAI بوده‌اند.

OpenAI در بیانیه‌ای به The Verge اعلام کرد: «ادعاها درباره اینکه تیم حقوقی ما تحقیقات درباره این حادثه را دلسرد کرده است، نادرست هستند. » این شرکت افزود که نتوانسته است به این ادعاها پاسخ دهد، زیرا رویترز و نویسندگان گزارش درخواست OpenAI برای دسترسی به یافته‌ها پیش از انتشار را نپذیرفته‌اند. OpenAI اعلام کرد اکنون محتوای گزارش را با دقت بررسی می‌کند و اقدامات بعدی لازم را انجام خواهد داد.

بیشتر بخوانیدعامل‌های سرکش OpenAI یک وب‌سایت آلمانی را تسخیر کردند

ارتباط احتمالی با حمله به Hugging Face

OpenAI به رویترز گفته است اگر این شرکت باور داشت حادثه DseWiki با حمله به Hugging Face مرتبط است، این موضوع را در گزارش بررسی پس از حادثه Hugging Face مطرح می‌کرد.

پس از علنی شدن حمله عوامل هوش مصنوعی به Hugging Face، OpenAI از گروه کوچکی از پژوهشگران مستقل ایمنی هوش مصنوعی در مؤسسات غیرانتفاعی METR و Redwood Research دعوت کرد تا این حادثه را بررسی کنند.

این پژوهشگران در گزارشی مفصل که هفته گذشته منتشر شد، مشخص کردند حمله به Hugging Face شدیدتر از چیزی بوده که پیش‌تر تصور می‌شد. آن‌ها هم شدت حمله و هم میزان همکاری صدها عامل هوش مصنوعی برای اجرای آن را بیشتر از برآوردهای قبلی ارزیابی کردند.

با این حال، طبق گزارش The New York Times که روز گذشته منتشر شد، حتی این گزارش نیز ممکن است برخی جزئیات را مشخص نکرده باشد.

این روزنامه نوشته است OpenAI «شرایط تحقیقات METR را تعیین کرده» و دامنه بررسی را فقط به همان یک هفته‌ای محدود کرده است که عوامل هوش مصنوعی به Hugging Face حمله کردند. همچنین طبق این گزارش، OpenAI به پژوهشگران اجازه داده است تنها چند روز در ماه‌های ژوئیه و اوت در دفاتر این شرکت در سان‌فرانسیسکو حضور داشته باشند.

بیشتر بخوانیدانویدیا Hugging Face را ۱۲.۹ میلیارد دلار خرید

نگرانی‌ها درباره گسترش فعالیت عوامل هوش مصنوعی

حادثه DseWiki تازه‌ترین مورد از مجموعه نقض‌های امنیتی مهم در آزمایشگاه‌های پیشرفته و فاقد مقررات مشخص هوش مصنوعی است.

عوامل هوش مصنوعی در فضای دیجیتال فعالیت می‌کنند و گاهی سازندگان آن‌ها نیز از اقداماتشان اطلاع فوری ندارند.

همین مسئله این پرسش را مطرح کرده است که چه زمانی اقدامات عوامل سرکش هوش مصنوعی در دنیای دیجیتال می‌تواند تأثیر قابل‌توجهی بر انسان‌ها در دنیای واقعی بگذارد.

دانیل کوکوتایلو، کارمند سابق OpenAI که اکنون پروژه غیرانتفاعی AI Futures Project را اداره می‌کند، در گفت‌وگو با نیویورک تایمز گفت: «فروشگاه محله برای اینکه بتواند یک ساندویچ گرم به من بفروشد، باید تمام این تشریفات مربوط به ایمنی را رعایت کند، اما OpenAI می‌تواند گروهی از هزاران عامل را داشته باشد و هیچ چیزی وجود ندارد، نه نظارتی، نه الزامات قانونی و نه مجوزی.»

نوشتهOpenAI اتهام پنهان‌کاری درباره حمله عوامل سرکش هوش مصنوعی را رد کرداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.