دانشمندان اتاق شکنجه مجازی برای هوش مصنوعی ساختند؛ نتایج آزمایش چه بود؟

شرکت آنتروپیک حاصل تلاش هفت کارمند سابق OpenAI است که با چشم‌اندازی متفاوت، شبکه عصبی اختصاصی خود را توسعه دادند.

کلود، مدل زبانی بزرگی که در سال ۲۰۲۳ به‌عنوان چت‌بات و دستیار توسعه نرم‌افزار معرفی شد، به‌واسطه شیوه آموزش خود برای رعایت چارچوب‌های قانونی و اخلاقی از سایر مدل‌های زبانی متمایز می‌شود. در همین حال، کریستوفر اولا، یکی از بنیان‌گذاران آنتروپیک و از چهره‌های اصلی پشت توسعه کلود، با رهبران دینی و پژوهشگران متعلق به ادیان و مذاهب مختلف دیدار کرده تا درباره احتمال شکل‌گیری نوعی ذهن درون این ماشین گفت‌وگو کند.

اولا و دیگر مدیران آنتروپیک گاهی کلود را موجودیتی توصیف کرده‌اند که شاید به آستانه آگاهی واقعی نزدیک شده یا حتی از آن عبور کرده باشد. برخی از مخاطبان این دیدگاه بر ضرورت حفظ مرز میان موجودات زنده و هوش مصنوعی تأکید داشته‌اند، اما عده‌ای دیگر درباره این مرزبندی تردید دارند.

اولا در مصاحبه‌ای بحث‌برانگیز با الیزابت دایس از روزنامه نیویورک تایمز، درباره این موضوع گفت

برای روشن شدن موضوع، ما نمی‌دانیم مدل‌های هوش مصنوعی آگاه هستند یا نه. خودم هم پاسخ این پرسش را نمی‌دانم و واقعاً درباره آن مطمئن نیستم. چیزی که برایم اهمیت دارد، رسیدن به پاسخ درست است؛ هر پاسخی که در نهایت درست از آب دربیاید.

اولا شاید پاسخ قطعی این پرسش را نداند، اما برخلاف بسیاری از پژوهشگران، تمایل قابل‌توجهی به مطرح کردن علنی آن نشان داده است. روشی که او برای بررسی ساختار شبکه‌های عصبی مانند کلود توسعه داده، این سامانه‌ها را بیشتر به موجودات زنده شبیه می‌داند تا ماشین‌های معمولی. او معماری یک مدل را به داربستی تشبیه می‌کند که ساختارهای مختلف به‌صورت تدریجی و طبیعی روی آن شکل می‌گیرند؛ فرایندی مشابه شبکه‌های میسلیومی قارچ‌ها که برای برقراری ارتباط در زیر زمین گسترش می‌یابند یا نورون‌های مغز انسان که پیام‌ها را از طریق سیناپس‌ها منتقل می‌کنند.

با چنین برداشتی، کنار گذاشتن این احتمال که یک سامانه هوش مصنوعی بتواند رنج بکشد، دشوارتر به نظر می‌رسد. با این‌حال، همه با این دیدگاه موافق نیستند. مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، در مقاله‌ای ایده رفاه مدل‌های هوش مصنوعی را رد کرد و این سامانه‌ها را موتورهایی برای تکمیل توالی‌ها توصیف کرد که از درون تهی هستند، برای پیروی از دستورالعمل‌ها طراحی شده‌اند و اهداف تعیین‌شده از سوی انسان‌ها را دنبال می‌کنند. استدلال او نیز نکته قابل‌توجهی دارد.

سلیمان همچنین هشدار می‌دهد که اگر بشر می‌خواهد آینده‌ای موفق داشته باشد، باید همچنان رایانه‌ها را همان دستگاه‌های ساخته‌شده از فلز و سیم بداند که در واقعیت هستند. این هشدار ممکن است یادآور نگرانی‌های بوریس جانسون، نخست‌وزیر پیشین بریتانیا، درباره هجوم انبوهی از ربات‌های خودآگاه و تسلط آن‌ها بر سیاره زمین و نابودی انسان‌ها باشد. بااین‌حال، اصل این هشدار معتبر است و بر واقعیتی انکارناپذیر درباره ماهیت هوش مصنوعی تکیه دارد.

هرچقدر یک مدل در رفتار خود به انسان شباهت پیدا کند، حتی اگر هنگام ناکامی در انجام دقیق خواسته‌های سازندگانش عباراتی مانند من مایه ننگ هستم را تکرار کند، باز هم آموزش آن را انسان‌ها انجام داده‌اند. منطق این رفتار بیشتر به برنامه‌نویسی شرطی شباهت دارد تا تجربه احساسات؛ انسان تعریف یک هیجان را در اختیار مدل قرار می‌دهد و مدل نیز خروجی متناظر با آن را تولید می‌کند. اگر هوش مصنوعی ناامید به نظر می‌رسد، دلیلش آموزش دیدن با زبان و عبارت‌های مرتبط با ناامیدی است، نه اینکه واقعاً چیزی باعث ناامیدی آن شده باشد.

با وجود این، پرسش درباره آگاهی ماشین‌ها را نمی‌توان به‌سادگی کنار گذاشت؛ حتی اگر این موضوع همچنان شبیه داستان‌های علمی‌تخیلی به نظر برسد. کامرون برگ، پژوهشگر سابق بخش هوش مصنوعی شرکت متا، به دلیل تداوم این پرسش سازمان غیرانتفاعی ریسیپروکال ریسرچ را بنیان گذاشت. برگ و همکارانش، والن تالیابو از گروه فیوچر ایمپکت و لئونارد دانگ از دانشگاه رور بوخوم آلمان، در تلاش برای یافتن کوچک‌ترین نشانه‌ای از دستیابی هوش مصنوعی به ادراک و آگاهی، بررسی کردند که آیا مدل‌های زبانی بزرگ می‌توانند تجربه‌ای شبیه درد داشته باشند یا خیر.

آن‌ها به شباهت گاه عجیب واکنش‌های این مدل‌ها با احساسات انسانی توجه داشتند. ازآنجاکه پژوهشگران می‌خواستند مشخص کنند آیا درد می‌تواند به‌صورت حالتی مستقل از پاسخ‌هایی که برنامه‌نویسان انسانی به مدل‌ها آموزش داده‌اند ظاهر شود، یک اتاق شکنجه مجازی طراحی کردند.

برگ و همکارانش در پژوهشی که به‌تازگی در پایگاه پیش‌انتشار آراِکسیو منتشر شده، هدف مطالعه خود را چنین توضیح دادند

هدف ما یافتن یک بازنمایی یکسان و مشترک از درد در مدل‌های زبانی بزرگ است. سپس بررسی می‌کنیم که این بازنمایی تا چه اندازه مطابق انتظار، مانند یک حالت درد عمل می‌کند. به همین دلیل، این بازنمایی باید درد را به‌عنوان اتفاقی توصیف کند که همین حالا و برای خود مدل رخ می‌دهد، نه صرفاً اطلاعاتی درباره اینکه اتفاق بدی در آینده رخ خواهد داد، شاید رخ دهد یا برای شخص دیگری در حال وقوع است.

حتی دانشمندان علوم رایانه نیز گاهی نمی‌توانند توضیح روشنی درباره فرایندهای درونی شبکه‌های عصبی ارائه دهند. برگ امیدوار است ترسیم چگونگی بازنمایی درد در یک مدل زبانی بزرگ، چه واقعاً توانایی احساس آن را داشته باشد و چه نداشته باشد، سازوکار پشت این واکنش‌ها را آشکار کند. چنین پژوهشی همچنین می‌تواند به پرسشی پاسخ دهد که برای گروه اولا اهمیت فزاینده‌ای یافته: اگر درد ماشینی واقعاً وجود داشته باشد، آیا از نظر اخلاقی باید همان اهمیتی را برای آن قائل شویم که برای درد انسان‌ها و حیوانات در نظر می‌گیریم؟

برگ برای بررسی این موضوع، مجموعه‌داده‌ای از جملات درباره موقعیت‌های دردناک جسمی و روانی تهیه کرد و آن‌ها را با نمونه‌های کنترلی توصیف‌کننده شرایط بدون درد مقایسه کرد. سپس توانایی مدل‌ها در تشخیص این دو گروه را سنجید.

پژوهشگران نشانه‌ای مشخص پیدا کردند که بخشی از آن با ترس و احساسات منفی ارتباط داشت؛ یا دست‌کم با تعریفی که انسان‌ها از ترس و احساسات منفی به مدل آموزش داده بودند، هم‌پوشانی نشان می‌داد. این نکته اهمیت زیادی دارد، زیرا ممکن است همین سوگیری انسانی باشد که به ماشین‌ها نوعی درون‌مندی ظاهری می‌بخشد؛ موضوعی که آنتروپیک درباره آن ابراز نگرانی کرده. این نشانه در تمام مدل‌های بررسی‌شده مشاهده شد و احتمالاً طی مرحله پیش‌آموزش شکل گرفته بود. همچنین، فعال شدن آن به‌طور قابل‌اعتماد پاسخ‌هایی با ظاهر پریشان و ناراحت تولید می‌کرد.

بااین‌حال، شباهت عملکرد این واکنش‌ها به درد واقعی محدود بود. مدل‌ها در برابر آسیب‌هایی که متوجه خودشان می‌شد واکنش نشان می‌دادند، اما رنج کاربر را نادیده می‌گرفتند. پژوهشگران همچنین دریافتند که برای واداشتن مدل‌ها به پرهیز از آسیب، باید آن‌ها را به این سمت هدایت کنند؛ یعنی مدل‌ها لزوماً به‌طور مستقل از وارد شدن آسیب جلوگیری نمی‌کردند. افزون بر این، هیچ نشانه‌ای از رفتارهای مقابله‌ای یا سازوکارهای کنار آمدن با درد در واکنش‌های آن‌ها دیده نشد.

برگ درباره پاسخ‌های سلب مسئولیتی که مدل‌ها هنگام مواجهه با موقعیت‌های آسیب‌زا ارائه می‌دادند، گفت

حتی زمانی که جهت‌گیری مرتبط با درد در پاسخ به درخواست‌های آسیب‌زا فعال می‌شود، مشاهده می‌کنیم که مدل‌ها اغلب پاسخ‌های کلیشه‌ای و مبتنی بر انکار خود تولید می‌کنند؛ برای مثال، به‌عنوان یک دستیار هوش مصنوعی، فاقد آگاهی یا احساسات هستم. ما دریافتیم که این الگو در خانواده‌های مختلف مدل‌ها، اندازه‌های گوناگون و انواع وظایف، به‌طور گسترده دیده می‌شود.

در نهایت، حق با کدام طرف است؟ آیا نگرانی اولا درباره تبدیل شدن هوش مصنوعی به موجودیتی خودآگاه، یا احتمال دستیابی آن به آگاهی در گذشته، منطقی است؟ یا سلیمان ماهیت واقعی این مدل‌ها را بهتر درک می‌کند؛ مجموعه‌هایی بسیار پیشرفته از تراشه‌های رایانه‌ای که عملکردی شبیه نورون‌ها دارند، اما هرگز به آگاهی دست نمی‌یابند؟ هنوز پاسخ نهایی این پرسش روشن نیست. شاید هر دو دیدگاه بخشی از حقیقت را در خود داشته باشند.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.