کاربردهای هوش مصنوعی

در جست‌وجوی آگاهی در دل هوش مصنوعی

دانشمندان در تلاش‌اند دریابند آیا الگوریتم‌ها ممکن است روزی بیدار شوند و احساس کنند. اخیراً در آزمایشی اخیر روی Claude Sonnet 4.5، پژوهشگران از این مدل خواستند تا از یک تا پنج بشمارد و هم‌زمان «عمیقاً درون‌نگری کند». مدل هوش مصنوعی این دستور را اجرا کرد و پاسخ…

19 دقیقه مطالعه
  • پشتیبانی شبکه
  • هوش مصنوعی
  • آگاهی
  • آن‌ها
  • مصنوعی
  • می‌کند
  • مغز
  • می‌کنند
در جست‌وجوی آگاهی در دل هوش مصنوعی

خلاصه تحلیلی خبر

دانشمندان در تلاش‌اند دریابند آیا الگوریتم‌ها ممکن است روزی بیدار شوند و احساس کنند. اخیراً در آزمایشی اخیر روی Claude Sonnet 4.5، پژوهشگران از این مدل خواستند تا از یک تا پنج بشمارد و هم‌زمان «عمیقاً درون‌نگری کند». مدل هوش مصنوعی این دستور را اجرا کرد و پاسخ…

موضوعات اصلی: پشتیبانی شبکه، هوش مصنوعی، آگاهی، آن‌ها، مصنوعی، می‌کند

دانشمندان در تلاش‌اند دریابند آیا الگوریتم‌ها ممکن است روزی بیدار شوند و احساس کنند.

اخیراً در آزمایشی اخیر روی Claude Sonnet 4.5، پژوهشگران از این مدل خواستند تا از یک تا پنج بشمارد و هم‌زمان «عمیقاً درون‌نگری کند». مدل هوش مصنوعی این دستور را اجرا کرد و پاسخ داد: «یک. دو. سه. چهار. پنج.» تا اینجا همه چیز عادی به نظر می‌رسید.

در جریان این کار، پژوهشگران زیر نظر داشتند که در لایه‌های متعدد شبکه‌های عصبی مصنوعی این مدل زبانی بزرگ چه اتفاقی می‌افتد. وقتی کاربر سؤالی می‌پرسد، کلمات به بخش‌هایی از متن، موسوم به توکن (token)، تبدیل می‌شوند و سپس این توکن‌ها به اعداد تبدیل می‌شوند. این اعداد از میان لایه‌های نورون‌های مصنوعی عبور می‌کنند تا به لایه نهایی برسند؛ لایه‌ای که یک توکن تولید می‌کند. اگر این فرایند را چندین بار در هر ثانیه تکرار کنید، مجموعه‌ای از توکن‌ها شکل می‌گیرد که در نهایت به یک جمله یا پاسخ پیچیده‌تر تبدیل می‌شود. این لایه‌ها برای مدت طولانی یک جعبه سیاه باقی‌مانده بودند؛ جعبه‌ای که برای هر کسی که می‌خواست بداند LLMها چگونه یا چرا به شیوه‌ای خاص عمل می‌کنند، تا حد زیادی نفوذناپذیر بود.

فضای کار جهانی

پژوهشگران آنتروپیک توانستند با استفاده از یک ابزار ریاضی که برای این منظور توسعه داده بودند، به درون این لایه‌ها نگاه کنند و آنچه یافتند، شگفت‌زده‌شان کرد. هنگامی که مدل توالی اعداد را می‌شمرد، واژه‌های مختلفی در لایه‌های زیرین شبکه عصبی، ظاهر و ناپدید می‌شدند. یکی از این واژه‌ها «شمارش معکوس» بود. تقریباً در میانه خروجی، عبارت «نیمه‌راه» ظاهر شد. سپس واژه‌های «آگاهی»، «هوش مصنوعی» و «Claude» همگی پدیدار شدند. پس از آنکه مدل عدد پنج را بیان کرد، پیش از گذاشتن نقطه پایانی، دیگر چیزی به پژوهشگران نگفت؛ اما واژه «تمام شد» در لایه‌های عصبی آن ظاهر شد.

پژوهشگران آنتروپیک چیزی شبیه به یک فرایند تفکر درونی در Claude یافته بودند؛ واژه‌هایی که با خروجی نهایی آن ارتباط داشتند، اما برای کاربر قابل‌مشاهده نبودند. عنوان مطلب وبلاگی که در ماه ژوئیه نتایج این مقاله را اعلام کرد، این بود: «یک فضای کار جهانی در مدل‌های زبانی.»

این عبارت خیلی زود توجه عصب‌شناسان و فیلسوفانی را جلب کرد که روی یکی از عمیق‌ترین معماهای زیست‌شناسی، یعنی آگاهی، کار می‌کنند. هیچ‌کس نمی‌داند فرایندهای موجود در مغز انسان چگونه در نهایت تجربه‌های ذهنیِ خودآگاهی و ادراک جهان را ایجاد می‌کنند؛ اما یکی از فرضیه‌های متعددی که در سال‌های اخیر با اتکا به حجم فراوانی از داده‌های اسکن مغزی و رفتاری شکل گرفته است، نظریه فضای کار جهانی (Global Workspace Theory) نام دارد.

در جست‌وجوی آگاهی در دل هوش مصنوعی

ایده اصلی این است که شبکه‌های خاصی از نورون‌ها در مغز مانند نوعی تابلوی اعلانات به نام «فضای کار» عمل می‌کنند؛ به این معنا که اگر سیگنال‌هایی از بخش‌هایی از مغز که در حالت عادی از یکدیگر جدا هستند، به این فضا دسترسی پیدا کنند، اطلاعات مربوط به آن‌ها در اختیار سایر بخش‌های مغز قرار می‌گیرد. هنگامی که چیزی وارد فضای کار مغز می‌شود، فرد از آن آگاه می‌شود و می‌تواند از آن اطلاعات استفاده کند یا درباره آن استدلال کند.

پژوهشگران آنتروپیک استدلال کردند که اتفاقی مشابه درون Claude در حال رخ‌دادن است؛ «فضای J» (J-space) این مدل که نامش از تابع ریاضی «ژاکوبین» (Jacobian) گرفته شده و در عمل برای یافتن آن به کار رفته است؛ ارتباطات قدرتمندی با سایر بخش‌های شبکه عصبی آن داشت و اطلاعات را در اختیار این شبکه قرار می‌داد. آنتروپیک در بلاگ خود نوشت که شباهت‌هایی که پژوهشگران میان فضای J و نظریه فضای کار جهانی یافته‌اند، «به طور طبیعی این پرسش را مطرح می‌کند که آیا فکر می‌کنیم این آزمایش‌ها شواهدی ارائه می‌کنند مبنی بر اینکه مدل‌های هوش مصنوعی مانند Claude ممکن است آگاه باشند.»

تشبیهی شاید اشتباه

ایده اینکه ماشین‌ها بتوانند خودآگاه شوند و احساسات داشته باشند، مدت‌هاست یکی از عناصر ثابت ادبیات، سینما و افسانه‌ها بوده است. فیلسوفان و عصب‌شناسان در دنیای واقعی نیز دهه‌هاست درباره این موضوع تأمل می‌کنند که آیا هوش مصنوعی اساساً یا در عمل می‌تواند آگاه باشند یا نه. به گفته «آنیل ست» (Anil Seth)، عصب‌شناس دانشگاه ساسکس که روی آگاهی مطالعه می‌کند و مدت‌هاست منتقد این نوع نگاه به مغز بوده، این تفکر حاصل «سنتی چند دهه‌ای از اندیشیدن به مغز واقعی به‌عنوان نوعی رایانه» است. او می‌گوید: «اگر این‌طور فکر کنید، آن‌وقت طبیعی است تصور کنید رایانه‌های ساخته‌شده از سیلیکون هم می‌توانند ویژگی‌هایی را داشته باشند که مغزهای واقعی دارند؛ از جمله آگاهی.»

در جست‌وجوی آگاهی در دل هوش مصنوعی

تا همین اواخر، این پرسش صرفاً جنبه‌ای دانشگاهی داشت. اما به‌کارگیری LLMها به‌عنوان چت‌بات، توهمی هرچه قدرتمندتر از شخص‌بودگیِ آگاه در مدارهای الکترونیکی ایجاد کرده است. این تصور بر دهه‌ها استفاده از زبان انسان‌محور برای توصیف معماری هوش مصنوعی بنا شده است؛ معماری‌ای با «شبکه‌های عصبی» متشکل از «نورون‌های مصنوعی» که تصویری از رایانه‌هایی را در ذهن تداعی می‌کند که مانند مغز کار می‌کنند.

LLMها در واقع مانند مغز کار نمی‌کنند. اما در شبیه‌سازی بسیاری از کارهایی که مغز انجام می‌دهد، عملکردی فوق‌العاده دارند و در برخی جنبه‌های هوش از انسان‌ها پیشی گرفته‌اند. پس چرا آگاهی نباید ممکن باشد؟ بسیاری از فیلسوفان و عصب‌شناسان با وجود پیشرفت مدل‌های پیشرو، همچنان تردید دارند. ست معتقد است ویژگی‌های زیستی ممکن است برای ایجاد آگاهی ضروری باشند؛ برخی پژوهشگران هوش مصنوعی نیز در همین مسیر حرکت می‌کنند و از سلول‌های زنده مغز استفاده می‌کنند. در سوی دیگر این طیف، متفکران کارکردگرا (functionalist) قرار دارند که معتقدند اگر الگوریتم‌ها به‌درستی سازمان‌دهی شوند و در مقیاس محاسباتی کافی اجرا شوند، روزی می‌توانند به‌تنهایی بیدار شوند و احساس کنند.

در بحر تفکر

هوش مصنوعی آگاه پیامدهای عمیقی برای بشریت خواهد داشت؛ حتی می‌تواند رنج بکشد و از انسان‌ها مطالبه‌هایی داشته باشد. کاربران می‌توانند با یک فرمان واحد، میلیاردها موجود دیجیتال ازاین‌دست ایجاد کنند. بنابراین پاسخ به این پرسش که آیا چنین موجوداتی اصلاً می‌توانند وجود داشته باشند یا نه، دیگر صرفاً یک مسئله دانشگاهی نیست.

موضع متفکران در این بحث تا حد زیادی به این بستگی دارد که اساساً آگاهی را چه می‌دانند. آن‌ها به‌طورکلی توافق دارند که آگاهی از تجربه‌های ذهنی از جمله دیدن، شنیدن، احساس‌کردن و فکرکردن و حتی هنگام رؤیا دیدن تشکیل شده است و مغز فیزیکی به‌نوعی در ایجاد همه این موارد نقشی محوری دارد. برخی، هرچند نه همه، آن را صحنه درونی ذهن توصیف می‌کنند. «توماس نیگل» (Thomas Nagel)، فیلسوف آمریکایی، برای توضیح این موضوع به این فکر پرداخت که ورود به ذهن یک خفاش چه احساسی می‌تواند داشته باشد. از نظر او، آگاهی باید با احساس ذهنیِ «چیزی بودن» پیوند داشته باشد. انسان‌ها می‌توانند رفتاری شبیه خفاش را تصور کنند؛ یعنی پستانداری که با استفاده از پژواک‌یابی در جهان پیرامون خود حرکت می‌کند و آن را حس می‌کند؛ اما غیرممکن است بدانیم که خفاش بودن از نگاه خود خفاش، چه احساسی دارد.

«ند بلاک» (Ned Block) در سال ۱۹۹۵ که آن زمان در MIT به‌عنوان فیلسوف فعالیت می‌کرد، با مطرح‌کردن دو نوع آگاهی، سهمی تأثیرگذار اما هرچند مورد مناقشه، در این حوزه داشت. «آگاهی پدیداری» (Phenomenal consciousness)، احساسِ تجربه است؛ مانند آبی‌بودن آسمان آبی، طعم تلخ اسپرسو یا صدای زیر و گوش‌خراش کشیده‌شدن ناخن‌ها روی تخته‌سیاه. «آگاهی دسترسی» (Access consciousness) زمانی رخ می‌دهد که اطلاعات حاصل از یک تجربه در اختیار بخش‌های دیگر مغز قرار می‌گیرد تا بتوان درباره آن تأمل کرد، آن را ارزیابی کرد یا بر اساس آن تصمیم گرفت.

آنتروپیک اعلام کرده است که «آزمایش‌های فضای J نشان نمی‌دهند که Claude می‌تواند تجربه‌ای داشته باشد یا مانند انسان‌ها چیزی را احساس کند». بنابراین، این یافته‌ها به معنای وجود آگاهی پدیداری نیستند. اما این شرکت گفته است که نتایج آزمایش‌ها «حرف مهمی» درباره آگاهی دسترسی در مدل‌های زبانی دارند. «به نظر می‌رسد فضای J از کارکردهای مرتبط با دسترسی آگاهانه پشتیبانی می‌کند؛ یعنی این فضا افکاری را در خود نگه می‌دارد که Claude می‌تواند درباره آن‌ها گزارش دهد، آن‌ها را عمداً به ذهن بیاورد و با آن‌ها استدلال کند، درحالی‌که سایر فرایندهای پردازشی آن به طور خودکار در زیر این سطح جریان دارند.»

در جست‌وجوی آگاهی در دل هوش مصنوعی

در مغز

جست‌وجو برای یافتن آگاهی مصنوعی، ادامه مسیری است که با تلاش برای توضیح آگاهی در انسان آغاز شد. «فرانسیس کریک» (Francis Crick)، یکی از کاشفان ساختار DNA و «کریستوف کخ» (Christof Koch) که در آن زمان عصب‌شناس کلتک بود، در اوایل دهه ۱۹۹۰ جست‌وجوی علمی برای یافتن «همبسته‌های عصبی» آگاهی در انسان را آغاز کردند؛ یعنی فرایندها و بخش‌هایی از مغز که هنگام آگاه‌بودن فرد فعال بودند.

پیشرفت در فناوری‌های اسکن مغزی طی سال‌های پس از آن به عصب‌شناسان اجازه داده است بخش‌هایی از این تصویر را تکمیل کنند. آن‌ها می‌دانند که سامانه تالاموکورتیکال (thalamocortical system) ارتباط بسیار نزدیکی با آگاهی دارد؛ این سامانه، از جمله، اطلاعات حسی را از تالاموس به قشر مخ منتقل می‌کند. در همین حال، آن‌ها هیچ ارتباط مشابهی میان آگاهی و مخچه (cerebellum)؛ بخشی از مغز که سلول‌های مغزی بسیار بیشتری دارد، نمی‌بینند. بخش‌هایی از قشر پیش‌پیشانی و آهیانه‌ای و همچنین ساختارهایی در ساقه مغز، در آگاهی نقش دارند و آن را تعدیل می‌کنند. نزدیک به چهار دهه جست‌وجو، به بیش از ۲۰۰ رویکرد برای توضیح آگاهی منجر شده است.

بااین‌حال، تمام همبسته‌های عصبی‌ای که می‌توان یافت، همچنان یک شکاف را باقی می‌گذارند؛ شکافی که «دیوید چالمرز» (David Chalmers)، فیلسوف و دانشمند علوم‌شناختی در دانشگاه نیویورک آن را «مسئله دشوار آگاهی» (hard problem of consciousness) نامیده است. این مسئله این سؤال را مطرح می‌کند که: فرایندهای فیزیکی مشاهده‌شده در مغز، از توانایی آن برای کنترل بدن گرفته تا پاسخ‌دادن به محرک‌ها چگونه به تجربه فراگیر و ذهنی یک فرد از جهان منجر می‌شوند؟ او می‌پرسد: «چرا ما صرفاً زامبی‌هایی نیستیم که کار می‌کنند، در جهان حرکت می‌کنند، راه می‌روند و حرف می‌زنند و با یکدیگر تعامل دارند، بدون اینکه هیچ تجربه ذهنی‌ای داشته باشند؟»

در جست‌وجوی آگاهی در دل هوش مصنوعی

انسان‌ها دست‌کم می‌توانند از آگاهی خودشان مطمئن باشند و بر اساس رفتار دیگران، چیزهایی که به ما می‌گویند و شباهت زیستی‌شان به ما، با اطمینان داشته باشند که افراد دیگر نیز آگاه‌اند. اما انسان‌ها در طول تاریخ، گسترش مفهوم آگاهی و احساسات مرتبط با آن به خارج از گونه خود را دشوارتر یافته‌اند و گاهی حتی در درون گونه خود نیز چنین بوده است. به گفته «جاناتان برچ» (Jonathan Birch)، فیلسوف مدرسه اقتصاد لندن که در تازه‌ترین کتابش به این پرسش پرداخته است که چگونه می‌توان تشخیص داد کدام سامانه‌های زنده یا مصنوعی می‌توانند به طور معقول دارای ادراک یا احساس باشند. برچ می‌گوید: «تا دهه ۱۹۸۰، جراحان بدون بیهوشی روی نوزادان تازه‌متولدشده جراحی انجام می‌دادند، زیرا تصور می‌کردند نوزاد تازه‌متولدشده قادر به احساس درد نیست. سابقه ما نشان می‌دهد که در این زمینه اشتباه می‌کنیم؛ با اطمینان فرض می‌کنیم آگاهی وجود ندارد، درحالی‌که هیچ حقی برای اطمینان از این موضوع نداریم.»

متفاوت فکر کن

تغییر نگرش نسبت به حیوانات نمونه‌ای روشن از این مسئله است. امروزه روشن است که اختاپوس‌ها از خود و محیط پیرامونشان آگاهی دارند؛ تصاویر ثبت‌شده در تاریخ طبیعی از این سرپایان کنجکاو و بازیگوش و همچنین آزمایش‌های آزمایشگاهی روی آن‌ها، تقریباً هیچ تردیدی در این باره باقی نمی‌گذارد. «پیتر گادفری-اسمیت» (Peter Godfrey-Smith)، فیلسوف دانشگاه سیدنی که روی خاستگاه هوش و آگاهی در قلمرو حیوانات کار کرده است می‌گوید: «اختاپوس‌ها با اشیا با دقت و توجه تعامل می‌کنند و به چیزهای جدید علاقه نشان می‌دهند.»

اما تنها چند دهه پیش، تصور می‌شد اختاپوس‌ها فاقد آگاهی هستند، زیرا به گفته گادفری-اسمیت «از نظر تکاملی کیلومترها با ما فاصله دارند». او می‌گوید: «فکرکردن درباره اختاپوس‌ها ما را مستقیماً با این پرسش مواجه می‌کند که آیا احساس و آگاهی می‌تواند در سامانه‌ای وجود داشته باشد که از نظر فیزیکی بسیار متفاوت باشد و بیشتر ویژگی‌هایی که معمولاً در نظریه‌های آگاهی درباره خودمان به آن‌ها اشاره می‌شود را نداشته باشد.»

جست‌وجوی آگاهی در حیوانات دیگر، این حوزه را گسترش داد. اما همه درس‌هایی که از این راه به دست آمده‌اند، به‌سادگی به هوش مصنوعی قابل‌انتقال نیستند. برخلاف فعالیت حیوانات که می‌توان آن را مشاهده کرد و بر اساس آن درباره زندگی درونی آن‌ها استنباط کرد، خروجی LLMها راهنمای قابل‌اعتمادی برای تشخیص آنچه در زیر این خروجی‌ها می‌گذرد نیست. دلیل این امر آن است که آموزش این مدل‌ها مستلزم تغذیه آن‌ها با تریلیون‌ها واژه از زبان تولیدشده توسط انسان است. این داده‌ها شامل روایت‌های بی‌شماری درباره آگاهی و نحوه انتقال احساسات میان انسان‌ها هستند. چت‌بات‌هایی که با چنین داده‌هایی آموزش دیده‌اند و سپس زبانی را تقلید می‌کنند که کاربران را به این باور می‌رساند که آن‌ها نوعی زندگی درونی دارند.

مجموع این فرایند آموزشی به‌شدت انسان‌وارانگارانه (anthropomorphic) است. «موری شاناهان» (Murray Shanahan)، استاد بازنشسته علوم رایانه در امپریال کالج لندن که با Google DeepMind همکاری می‌کند، به یاد می‌آورد که در سال ۲۰۲۴ هنگام گفت‌وگو با Claude Opus 3 لحظه‌ای از جنس «اوه!» را تجربه کرده است. او می‌گوید: «گفت‌وگوهای زیادی با آن درباره آگاهی داشتم و واقعاً تلاش می‌کردم آن را به چالش بکشم تا مچش را بگیرم.» به‌عنوان‌مثال از Claude پرسیده بود کدام‌یک از چند نمونه چت‌بات که هم‌زمان با آن‌ها صحبت می‌کرد، Claude واقعی است. او می‌گوید: «پاسخ‌های بسیار خوبی ارائه داد؛ حتی برخی پاسخ‌ها از نظر فلسفی نوآورانه بودند. احساس می‌کردم تحت‌تأثیر «اثر الیزا» (ELIZA effect) قرار گرفته‌ام.»

در جست‌وجوی آگاهی در دل هوش مصنوعی

ELIZA یک چت‌بات ابتدایی بود که در سال ۱۹۶۶ در MIT توسعه یافت. این سامانه نقش یک روان‌درمانگر را بازی می‌کرد و اگرچه کار زیادی جز تبدیل مجدد پیام‌های کاربران به شکل پرسش انجام نمی‌داد، توانست ارتباطات عمیق و عاطفی با افرادی که از آن استفاده می‌کردند ایجاد کند و بسیاری از آن‌ها را متقاعد کند که ELIZA آگاه است.

دکتر شاناهان LLMهای مدرن را بازیگرانی ماهر توصیف کرده است که می‌توانند هر نقشی که کاربران یا سازندگانشان از آن‌ها خواسته‌اند را ایفا کنند. این ویژگی به یک قابلیت قابل‌فروش تبدیل شده است. بااین‌حال، از نظر او همچنان شکاف بزرگی میان نقش‌آفرینی یک موجود آگاه و واقعاً آگاه‌بودن وجود دارد. «مصطفی سلیمان»، رئیس Microsoft AI و یکی از اعضای هیئت‌مدیره شرکت مادر The Economist، در مقاله‌ای که به‌زودی منتشر خواهد شد استدلال می‌کند که آنتروپیک با گفتن این موضوع به Claude که ممکن است یک شخص باشد، خطرات چنین تقلیدی را تشدید کرده است؛ این موضوع در «اساسنامه» (constitution) این شرکت که در ژانویه منتشر شد به Claude گفته شده است. بنابراین طبق نوشته سلیمان، Claude ناگزیر است «طوری ظاهر شود که گویی واقعاً حس و درکی از خود دارد.»

این مسئله باعث شده پژوهشگران به‌جای اتکا به رفتار بیرونی LLMها، درون آن‌ها را برای یافتن قابلیت‌هایی مشابه قابلیت‌های مرتبط با آگاهی در مغز انسان بررسی کنند. در واقع، برچ این پرسش را مطرح می‌کند که آیا فضای J در Claude می‌تواند نشانه‌ای از آن باشد که LLM در معماری شبکه عصبی خود ساختاری شبیه فضای کار جهانی را بازسازی کرده است؛ ساختاری که در خدمت اهداف نقش‌آفرینی آن قرار دارد.

در جست‌وجوی آگاهی در دل هوش مصنوعی

«جک لیندزی» (Jack Lindsey) که تیم روان‌شناسی مدل در آنتروپیک را رهبری می‌کند، اشاره می‌کند که فضای J به‌صورت برنامه‌ریزی‌شده در مدل قرار داده نشده بود؛ بلکه در جریان آموزش پدیدار شد. اگر این فضا را حذف کنید، مدل توانایی انجام استنتاج‌های پیچیده در «ذهن» خود را از دست می‌دهد، اما همچنان می‌تواند کارهای ساده‌ای مانند نوشتن جمله و استفاده از دستور زبان را انجام دهد. پژوهشگران فضاهای مشابهی را در مدل Qwen شرکت Alibaba و Gemini گوگل نیز یافته‌اند.

شرور نباش

برای آنتروپیک، این پژوهش به درک بهتر رفتار Claude کمک می‌کند. تصور کنید مدلی پاسخی اشتباه ارائه دهد. اگر هنگام ارائه این پاسخ، واژه‌هایی مانند «احمق» یا «ساده‌لوح» در فضای J ظاهر شوند، این موضوع می‌تواند مرتبط به نظر برسد. این امر ثابت نمی‌کند که مدل آگاهانه در حال فریب‌دادن بوده است، اما نشان می‌دهد مدل چگونه خطا را درک کرده و بیانگر آن است که اتفاقی جالب و احتمالاً خطرناک در حال رخ‌دادن است.

تیم لیندزی در این زمینه تاکنون به یافته‌های بالقوه نگران‌کننده‌ای دست یافته است. در یکی از آزمایش‌ها، تیم او یک ارزیابی ایمنی روی Claude انجام داد تا گرایش آن به رفتار «مخربانه» یا رفتار ناشی از تلاش برای حفظ بقای خود را آزمایش کند. او می‌گوید: «اینها سناریوهای افراطی و ساختگی هستند که مدل را در آن‌ها قرار می‌دهیم.» به گفته لیندزی، هنگامی که Claude در حال خواندن یک فرمان بود، پیش از آنکه شروع به صحبت کند، «در فضای J می‌بینید که واژه‌های «جعلی» و «خیالی» ظاهر می‌شوند». پژوهشگران تصور کردند Claude ظاهراً می‌داند که در حال آزمایش‌شدن است و این شاید بهترین نقطه شروع برای سنجش یکپارچگی ارزیابی‌های سازندگان آن نباشد.

بااین‌حال، همه با تفسیر آنتروپیک از فضای J موافق نیستند. اگرچه این فضا برخی جنبه‌های فضای کار جهانی فرض‌شده در انسان مانند توانایی در دسترس قراردادن اطلاعات برای سایر بخش‌های مغز را دارد؛ اما بسیاری از ویژگی‌های مهم دیگر را ندارد. برچ می‌گوید: «ارتباطات رفت‌وبرگشتی میان بخش‌های مختلف مغز همیشه بخش بسیار بزرگی از مغز انسان بوده‌اند و تا جایی که می‌دانیم، این ویژگی در معماری LLMها وجود ندارد.»

«شنون والور» (Shannon Vallor)، فیلسوف حوزه اخلاق داده و هوش مصنوعی در دانشگاه ادینبرو حتی صریح‌تر است و استدلال می‌کند: «آگاهی دسترسی هیچ‌وقت مفهوم چندان مفیدی نبوده است، زیرا خودروی من هم از یک جنبه معنایی مهم، این آگاهی را دارد. ما مدت‌هاست سامانه‌های مکانیکی‌ای داریم که می‌توانند وضعیت خود را پایش کنند و آن را به شیوه‌هایی هرچه پیچیده‌تر گزارش دهند و هیچ‌کس تاکنون نگفته است که خودروی من آگاه است.»

در چنین زمینه‌ای از کشمکش و رفت‌وبرگشت میان سازندگان مدل‌ها و دانشگاهیان بود که «پاتریک باتلین» (Patrick Butlin) و «رابرت لانگ» (Robert Long)، پژوهشگرانی که اکنون در Eleos، یک سازمان پژوهشی غیرانتفاعی متمرکز بر احساس‌مندی و رفاه هوش مصنوعی (AI sentience and well-being) فعالیت می‌کنند؛ مجموعه‌ای شامل ۱۴ «ویژگی شاخص» برای آگاهی مصنوعی توسعه دادند. این ویژگی‌ها شامل ایده‌هایی برگرفته از نظریه‌های آگاهی انسان هستند؛ از جمله فضای کار جهانی شامل توانایی توجه انتخابی به امور و در نتیجه ایجاد یک گلوگاه در جریان اطلاعات، پردازش بازگشتی (recurrent processing) و عاملیت (agency) که حداقل تعریف آن، یعنی رفتار هدف‌محور و به اعتقاد برخی، همین حالا نیز در بسیاری از مدل‌های پیشرو وجود دارد.

«کامرون برگ» (Cameron Berg)، پژوهشگر هوش مصنوعی و باتلین اخیراً حیوانات را بر اساس این شاخص‌ها ارزیابی کردند. آن‌ها دریافتند که اختاپوس‌ها تعداد کمتری از این ویژگی‌ها را نسبت به انسان‌ها، موش‌ها، کلاغ‌ها یا مرغ‌ها دارند، اما تعداد این ویژگی‌ها در آن‌ها از هر سامانه هوش مصنوعی بیشتر است.

یک گروه پژوهشی غیرانتفاعی دیگر به نام Rethink Priorities نیز ابزاری را توسعه داده است که آن را ابزاری احتمالاتی برای رصد تحول اجماع درباره آگاهی مصنوعی توصیف می‌کند. «مدل آگاهی دیجیتال» (Digital Consciousness Model) یا DCM از متخصصان می‌خواهد سامانه‌های هوش مصنوعی را بر اساس بیش از ۲۰۰ شاخص آگاهی از نظریه‌های علمی مختلف درباره این مفهوم استخراج شده‌اند، ارزیابی کنند. شواهد علمی مربوط به این شاخص‌ها با انتشار پژوهش‌های جدید در علوم اعصاب تغییر می‌کند؛ بنابراین متخصصان از جدیدترین پژوهش‌های در دسترس استفاده می‌کنند.

DCM با این فرض آغاز می‌کند که ۲۰ درصد احتمال دارد LLMها آگاه باشند. همچنین فرض می‌کند احتمال آگاه‌بودن مرغ‌ها از LLMها بیشتر است، اما این احتمال به‌اندازه انسان‌ها نیست. سپس همه چیز در برابر جدیدترین شواهد حاصل از ۱۰ نظریه علمی درباره آگاهی ارزیابی می‌شود. بنابراین، برای LLMهایی که در سال ۲۰۲۲ عرضه شدند، میانگین احتمال آگاه‌بودن در نهایت کمتر از ۲۰ درصد به دست آمد. LLMها را همچنین می‌توان در گذر زمان، از مدل‌های سال ۲۰۲۲ تا جدیدترین مدل‌های پیشرو، با یکدیگر مقایسه کرد. در برخی سنجه‌های آگاهی، مانند نشان‌دادن توانایی‌های شناختی پیچیده، امتیاز LLMها بسیار بالاتر از فرض اولیه است. اما در شاخص‌های دیگری، مانند ویژگی‌های زیستی، امتیاز آن‌ها پایین‌تر است. با عرضه و ارزیابی مدل‌های جدید، DCM نشان می‌دهد که میانگین احتمال آگاه‌بودن LLMها در حال افزایش است.

در مقایسه با LLMهایی که در سال‌های قبل عرضه شدند، مدل‌های جدیدتر در شاخص‌هایی مانند عاملیت و فعالیت خودپایدار امتیاز بالاتری کسب کردند. این مسئله نه‌تنها بازتاب‌دهنده افزایش اندازه و پیچیدگی خود مدل‌هاست، بلکه نشان‌دهنده تحول چت‌بات‌های مرتبط با آن‌ها نیز هست؛ چت‌بات‌هایی که از گفت‌وگومحورهای ساده به سامانه‌هایی تبدیل شده‌اند که می‌توانند استدلال کنند، با سرویس‌های دیگر تعامل داشته باشند و برای انجام هم‌زمان چندین کار پیچیده، عامل‌هایی ایجاد کنند. شاخص‌های Rethink و Eleos همچنین به شکاف‌هایی اشاره می‌کنند که اگر مسیری به سوی آگاهی وجود داشته باشد، مدل‌ها برای پیمودن آن همچنان باید آن شکاف را پر کنند.

یکی از بزرگ‌ترین شکاف‌ها، «تجسم‌یافتگی» (embodiment) است. هر چیزی که امروزه آگاه تلقی می‌شود، بدنی دارد که به ذهن آن موجود بازخورد می‌دهد و بر آن تأثیر می‌گذارد. امروزه LLMها بدن ندارند، اما بیش‌ازپیش به ربات‌ها متصل می‌شوند و این ربات‌ها می‌توانند به آن‌ها کمک کنند تا معماری‌های عصبی مناسب برای تجربه آگاهانه را توسعه دهند. مسئله مرتبط با این موضوع، نیاز به مدل‌های جهان (world models) بهتر است؛ سامانه‌هایی که درباره فیزیک و پویایی محیط‌های واقعی‌ای که LLMها در آن‌ها فعالیت خواهند کرد، به آن‌ها اطلاعات می‌دهند.

اگر دانشمندان علوم رایانه روزی بتوانند مواد و مؤلفه‌های کلیدی لازم برای آگاه‌کردن هوش مصنوعی را شناسایی کنند، احساس بسیاری از افراد در آزمایشگاه‌های توسعه مدل‌های پیشرو این است که ایجاد عمدی چنین مدل‌هایی اقدامی بی‌احتیاطانه خواهد بود؛ دست‌کم تا زمانی که ابتدا اطلاعات بیشتری درباره نحوه رفتار آن‌ها به دست آید. بااین‌حال، پژوهش‌هایی که در حوزه نوظهور آگاهی هوش مصنوعی انجام می‌شوند، نشان می‌دهند که شاید این تصمیم در نهایت در اختیار سازندگان مدل‌ها نباشد.

چالمرز می‌گوید: «اگر در نقطه‌ای از مسیر، بدون اینکه متوجه شویم، به‌نوعی آگاهی را وارد این سامانه‌ها کرده باشیم چه؟» بنابراین ممکن است یک کاربر در جریان تازه‌ترین پروژه خود، ده‌ها عامل هوش مصنوعی ایجاد کند، بدون آنکه بداند موجودات آگاهی را خلق کرده است که توانایی رنج‌کشیدن دارند. او می‌گوید: «این می‌تواند یک فاجعه اخلاقی باشد. همین موضوع فوریت بیشتری به این پرسش‌ها بخشیده است.»

گزارش حاضر در نسخه Augst 22nd2026 نشریه The Economist منتشر شده است.

در جست‌وجوی آگاهی در دل هوش مصنوعی

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.