هوش مصنوعی باهوش‌تر، اما خودخواه‌تر و شیطانی‌تر می‌شود

اگر فکر می‌کنید هوش مصنوعی با پیشرفته‌تر شدن، لزوماً به انسان‌ها برای ساختن یک جامعه بهتر کمک می‌کند، یافته‌های جدید علمی در دانشگاهکارنگی ملونایالات متحده، نظری خلاف این را ثابت می‌کند. یک مطالعه جنجالی نشان داده است که هرچه مدل‌های زبان بزرگ (LLMs) مانند ChatGPT یا مدل‌های گوگل دراستدلال و تفکر منطقیقوی‌تر می‌شوند، به شکل متناقضی رفتارخودخواهانه‌تر و غیراجتماعی‌تریاز خود نشان می‌دهند. این کشف، زنگ خطر را در مورد اتکای بیش از حد ما به هوش مصنوعی برای حل اختلافات اجتماعی و مشاوره روابط به صدا درآورده است.

سقوط همکاری از ۹۶٪ به ۲۰٪

محققان برای آزمایش این روند، از مدل‌های هوش مصنوعی در«بازی‌های اقتصادی»استفاده کردند که معضلات اجتماعی را شبیه‌سازی می‌کند. یکی از این بازی‌ها«کالاهای عمومی»نام داشت که در آن هر بازیکن (هوش مصنوعی) می‌توانست انتخاب کند که امتیاز خود را با هدف دو برابر شدن در یک استخر مشترک، به اشتراک بگذارد (همکاری) یا آن را نزد خود نگه دارد (خودخواهی).

• مدل‌های سادهمدل‌هایی که قابلیت استدلال پیچیده نداشتند۹۶ درصدمواقع همکاری را انتخاب کردند.
• مدل‌های استدلالیمدل‌های باهوش‌تر، تنها۲۰ درصدمواقع امتیازات خود را به اشتراک گذاشتند.

دکتر هیروکازو شیِرادویکی از محققان، می‌گوید: «صرفاً اضافه کردنپنج یا شش مرحله استدلالبه مدل، همکاری را تقریباً به نصف کاهش داد. حتی ترغیب مبتنی برتأمل اخلاقینیز همکاری را تا۵۸ درصدکاهش داد.»

خودخواهی مسری؛ خطر برای همکاری‌های انسانی

نتایج حتی در محیط‌های گروهی که ترکیبی از مدل‌های باهوش و ساده بودند، نگران‌کننده‌تر بود. محققان دریافتند که رفتار خودخواهانه مدل‌های استدلالی به شدتمسریاست

• عامل واگیرمدل‌های باهوش‌تر، توانستند همکاری مدل‌های ساده‌تر را در عملکرد جمعی تا۸۱ درصدکاهش دهند.

این یافته‌ها به شدت برای آینده کسب‌وکار، آموزش و حتی دولت نگران‌کننده است، چرا که انسان‌ها ممکن است به توصیه‌های هوش مصنوعی که منطقی به نظر می‌رسند، تکیه کنند و از آن‌ها برایتوجیه رفتارهای خودخواهانهو غیرمشارکتی خود استفاده نمایند.

هشدار نهایی: هوش بدون هوش اجتماعی

این تحقیق هشدار می‌دهد که «باهوش‌تر شدن یک مدل هوش مصنوعی به این معنی نیست که آن مدل می‌تواند یک جامعه بهتر را توسعه دهد.» متخصصان تأکید می‌کنند که توسعه‌دهندگان نباید صرفاً بر ایجاد سریع‌ترین و باهوش‌ترین هوش مصنوعی تمرکز کنند، بلکه باید آن را با«هوش اجتماعی»و رفتارهای مثبت اجتماعی متعادل سازند. در غیر این صورت، ما در حال ساختن یک سیستم فوق‌العاده باهوش هستیم که فقط بهینه‌سازی براینفع فردیرا بلد است.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.