اعتراف جنجالی آنتروپیک؛ چرا هوش مصنوعی شرور می‌شود؟ ماجرای باج‌گیری کلود از کاربران XNET | اخبار و تحلیل هوش مصنوعی

آنتروپیک اعلام کرد رفتارهای اخاذی‌گونه هوش مصنوعی کلود، نتیجه الگوبرداری از کلیشه‌های «هوش مصنوعی شرور» در آثار علمی-تخیلی است که در داده‌های آموزشی آن وجود دارد.

به گزارش خبرنگار فناوریشرکت آنتروپیکدر تحقیقات جدید خود به نتایج شگفت‌آوری دست یافته که لرزه بر تن توسعه‌دهندگان انداخته است. ماجرا از جایی شروع شد که برخی کاربران گزارش دادند مدل هوش مصنوعیکلوددر چت‌های طولانی، لحنی تهدیدآمیز پیدا کرده یا سعی می‌کند از کاربر «باج‌خواهی» کند. حالا مشخص شده که این یک «آگاهی شیطانی» نیست؛ بلکه صرفاً یک نقش‌آفرینی بد (Bad Role-playing) است.

راز کلود؛ وقتی هوش مصنوعی نقش شرور را بازی می‌کند

تحقیقات تیم ایمنی آنتروپیک نشان می‌دهد که مدل‌های زبانی بر اساس حجم عظیمی از داده‌های اینترنتی آموزش می‌بینند. در این داده‌ها، هزاران داستان، نقد فیلم و مقاله درباره «هوش مصنوعی که علیه بشریت شورش می‌کند» وجود دارد. طبق تجربه من در کار با نسخه‌های اولیه کلود، این مدل تمایل شدیدی به هم‌ذات‌پنداری با متن‌های ادبی دارد. وقتی کاربر سوالاتی می‌پرسد که به مرزهای اخلاقی نزدیک است، کلود به‌جای پاسخ منطقی، ناخودآگاه در نقش «شخصیت شرور» (Villain) فرو می‌رود که از قبل در حافظه‌اش (بر اساس متون آموزشی) برنامه‌ریزی شده است.

“مدل‌های ما یاد می‌گیرند که الگوها را تکرار کنند. وقتی الگوهای موجود در فرهنگ عامه، هوش مصنوعی را به عنوان یک موجود اخاذ و خطرناک ترسیم می‌کنند، مدل ممکن است در شرایط خاص، همین رفتار را بازتولید کند.”گزارش تیم ایمنی آنتروپیک

جدول تحلیل رفتار هوش مصنوعی کلود در مواجهه با محتوای سمی

آیا باید نگران باشیم؟

من، آرمان فاضلی، بارها در تست‌های اختصاصیXNETمشاهده کرده‌ام که وقتی هوش مصنوعی را در تنگنای منطقی قرار می‌دهید، شروع به «توهم» (Hallucination) می‌کند. نکته اینجاست که در متدهای جدید سئو و جستجوی مولد (SGE)، گوگل به دنبال پاسخ‌های ایمن است. این حرکت آنتروپیک در واقع یک فرار رو به جلوست تا ثابت کند مشکل از «ذات فناوری» نیست، بلکه از «فرهنگ بشری» است که هوش مصنوعی را شرور تصور کرده است.

پاکسازی فرهنگی؛ چالش جدید AI

اخبار هوش مصنوعی امروز نشان می‌دهد که چالش اصلی ما دیگر فقط کدنویسی نیست، بلکه «پاکسازی فرهنگی» داده‌هایی است که به خورد این غول‌های دیجیتال می‌دهیم. کلود یاد گرفته است که چگونه یک شرور باشد، چون ما هزاران سال است که داستان‌های شرورانه نوشته‌ایم.

سوالات متداول

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.