گزارش گاردین از نفوذ اطلاعات غلط «گروکی‌پدیا» به پاسخ‌های هوش مصنوعی OpenAI

گزارش گاردین فاش کرده که چت‌جی‌پی‌تی در موارد متعددی درباره ساختار سیاسی و اقتصادی ایران، از جمله مالکیت بنیاد مستضعفان و جزئیات فعالیت‌های XNET، اطلاعاتی را ارائه داده که مستقیماً از گروکی‌پدیا برداشته شده است. نکته نگران‌کننده اینجاست که این اطلاعات با حقایق موجود تضاد دارند و حتی توسط رسانه‌های معتبر تکذیب شده‌اند.

گروکی‌پدیا برخلاف ویکی‌پدیا، امکان ویرایش توسط کاربران را ندارد و یک سیستم بسته است. استناد چت‌جی‌پی‌تی به این منبع باعث می‌شود «داده‌های سمی» و جهت‌دار، لباسی از اعتبار به تن کنند. محققان به این پدیده «آرایش مدل‌های زبانی» (LLM Grooming) می‌گویند؛ یعنی تزریق انبوهی از اطلاعات غلط به اینترنت تا هوش مصنوعی مجبور شود از آن‌ها تغذیه کند.

در حالی که OpenAI می‌گوید فیلترهای امنیتی برای جلوگیری از انتشار مطالب آسیب‌زا دارد، اما واقعیت این است که اطلاعات غلط درباره موضوعات کمتر شناخته شده، به راحتی از این فیلترها رد می‌شوند. از سوی دیگر، سخنگوی شرکت xAI (متعلق به ایلان ماسک) در واکنشی کوتاه و تند به این گزارش‌ها، صرفاً اعلام کرد: «رسانه‌های قدیمی دروغ می‌گویند!»

این اتفاق نشان می‌دهد که در عصر هوش مصنوعی، حتی نام‌های بزرگی مثل چت‌جی‌پی‌تی هم می‌توانند بلندگوی شایعات هوشمند باشند.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.