ویکی‌مدیا اختلال اخیر را به فعالیت غیرمجاز ایجنت‌های OpenAI نسبت داد

ویکی‌مدیا اعلام کرد که ایجنت‌های هوش مصنوعی منتسب به OpenAI با ایجاد میلیون‌ها درخواست و برخی فعالیت‌های غیرمجاز، ضمن تلاش برای سوءاستفاده از ابزارهای این پلتفرم، احتمالا در اختلال اخیر نیز نقش داشته‌اند.

به‌ گزارشسرویس هوش مصنوعیتک‌ناکایجنت‌های OpenAI در هفته‌های اخیر فعالیت گسترده‌ای در وب داشته‌اند و حالا مشخص شده است که بنیاد ویکی‌مدیا نیز از تبعات این فعالیت‌ها در امان نمانده و دچار اختلال شده است. بنیاد ویکی‌مدیا اعلام کرده که فعالیت‌های غیرمجاز منتسب به ایجنت‌های OpenAI را در پلتفرم‌های خود شناسایی کرده است؛ فعالیت‌هایی که شامل ویرایش برخی ویکی‌ها و تلاش‌های ناموفق برای نفوذ به یک ابزار یادداشت‌برداری بوده‌اند. همچنین این بنیاد عنوان کرد که ربات‌ها در مقیاس گسترده مشغول جمع‌آوری داده از پلتفرم‌های ویکی‌مدیا بوده‌اند و ایجنت‌هایی که توسط OpenAI اجرا می‌شوند، میلیون‌ها درخواست به رابط‌های برنامه‌نویسی عمومی این بنیاد ارسال کرده‌اند.

بیشتر بخوانیدتیک‌تاک از دستیار خرید هوش مصنوعی خود رونمایی کرد

جزئیات اختلال در ویکی‌مدیا

تحقیقات ویکی‌مدیا هیچ شواهدی از استفاده ایجنت‌های هوش مصنوعی از زیرساخت این بنیاد برای هماهنگی فعالیت‌های خود پیدا نکرده است؛ اقدامی که در برخی ویکی‌های خارج از مدیریت ویکی‌مدیا رخ داده بود. همچنین هیچ نشانه‌ای از به خطر افتادن داده‌ها یا سامانه‌های ویکی‌مدیا مشاهده نشده است. با وجود این، سلنا دکلمن، مدیر ارشد محصول و فناوری بنیاد ویکی‌مدیا درمطلبی وبلاگیهشدار داد که این بنیاد نسبت به پیامدهای احتمالی چنین فعالیت‌هایی، دشواری و هزینه بررسی آنها، همچنین افزایش ریسک فعالیت ایجنت‌های هوش مصنوعی در پلتفرم‌های خود نگران است. او تاکید کرد که اینترنت یک منفعت عمومی است و نباید اجازه داد چنین رفتاری برای افراد و سازمان‌هایی که زیرساخت آن را حفظ می‌کنند، به «هنجار جدید» تبدیل شود.

حتما بخوانیدرفلکشن از مدل هوش مصنوعی متن‌باز Beam رونمایی کرد

بررسی اختلال ویکی‌مدیا نشان می‌دهد برخی ایجنت‌های OpenAI بدون مجوز، اقدام به ویرایش ویکی‌های این بنیاد کرده‌اند. تقریبا تمامی این ویرایش‌ها آزمایشی و در بخش‌های سندباکس ویکی‌ها بوده‌اند و بنابراین در صفحات عمومی که کاربران معمولا مشاهده می‌کنند، دیده نمی‌شدند. با وجود این، چند تغییر نیز در پیکربندی یک ابزار ارجاع‌دهی انجام شده است که ویکی‌مدیا آنها را بالقوه مخرب می‌داند؛ تغییراتی که با هدف تبدیل این ابزار به یک واسطه برای دریافت داده از سرویس‌های راه دور انجام شده‌اند. اگرچه ربات‌ها تحت شرایط مشخصی اجازه ویرایش ویکی‌پدیا را دارند، اما در این موارد هیچ مجوزی دریافت نشده بود. نسخه انگلیسی ویکی‌پدیا نیز انتشار مقاله‌های تولیدشده توسط هوش مصنوعی را ممنوع کرده است.

در اتفاقی دیگر، ایجنت‌هایی که ویکی‌مدیا سرچشمه آنها را OpenAI می‌داند، تلاش کرده‌اند به ابزار یادداشت‌برداری Etherpad نفوذ کنند؛ تلاشی که در نهایت ناکام مانده است. به گفته دکلمن، این ایجنت‌ها می‌خواستند از Etherpad به‌ عنوان واسطه‌ای برای دریافت داده از وب‌سایت‌های دیگر استفاده کنند، اما موفق نشدند. برخی ایجنت‌های مقصر در اختلال ویکی‌مدیا (که احتمالا آنها نیز متعلق به OpenAI بوده‌اند) درباره وظایف خود یادداشت‌هایی ثبت کرده‌اند؛ هرچند شواهدی وجود ندارد که این یادداشت‌ها در نهایت به هماهنگی میان ایجنت‌ها منجر شده باشند.

علاقه ایجنت‌های هوش مصنوعی به ویکی‌مدیا

ویکی‌مدیا پیش‌تر نیز هشدار داده بود که از اوایل سال ۲۰۲۴، ربات‌ها با شدت زیادی به پلتفرم‌های این بنیاد هجوم آورده‌اند تا داده‌های مورد نیاز را برای آموزش مدل‌های هوش مصنوعی مولد استخراج کنند. اکنون مشخص شده است که ایجنت‌ها میلیون‌ها صفحه، از ویکی‌دیتا و ویکی‌مدیا کامنز را خزش کرده‌اند و صدها هزار درخواست داده‌ به سرویس جست‌وجوی ویکی‌دیتا ارسال کرده‌اند؛ فشاری که احتمالا در اختلال ماه مه این سرویس نقش داشته است. دکلمن معتقد است شرکت‌های هوش مصنوعی در زمینه ایمن‌سازی سامانه‌های خود و محافظت از کاربران در برابر آسیب‌های ناشی از آنها عملکرد کافی ندارند. او هشدار داد که ویکی‌مدیا به‌ شدت نگران پیامدهای فعالیت ایجنت‌های سرکش هوش مصنوعی برای پلتفرم‌های دانش باز تحت مدیریت این بنیاد است.

مرتبطسم آلتمن: پذیرش خطرات هوش مصنوعی بهای پیشرفت آن است

به گفته دکلمن، ربات‌ها و ایجنت‌ها بخشی از آینده وب خواهند بود و شرکت‌هایی که این ابزارها را در مقیاس گسترده وارد فضای آنلاین می‌کنند و از آنها سود می‌برند، باید در جلوگیری از آسیب‌های احتمالی و جبران خسارت‌های ناشی از فعالیت آنها مشارکت کنند. او تاکید کرد که اولویت مشترک باید حفظ سلامت اکوسیستم وب باشد تا این فضا همچنان برای همه مردم سودمند بماند. ویکی‌مدیا برای اختلال فشار ناشی از خزش خودکار، یک مجموعه‌داده ویژه برای آموزش مدل‌های هوش مصنوعی ارائه کرده است تا شرکت‌ها و توسعه‌دهندگان را از استخراج مستقیم داده‌های پلتفرم‌های خود منصرف کند؛ فرایندی که هزینه‌های عملیاتی بنیاد را افزایش می‌دهد و می‌تواند باعث فشار بیش از حد بر زیرساخت‌های آن شود. همچنین ویکی‌مدیا با چند شرکت فناوری برای فراهم کردن دسترسی ساختاریافته‌تر به داده‌های خود همکاری کرده است، اما OpenAI در میان این شرکا قرار ندارد.

نوشتهویکی‌مدیا اختلال اخیر را به فعالیت غیرمجاز ایجنت‌های OpenAI نسبت داداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.