آیا هوش مصنوعی می‌تواند خودآگاه شود؟

بیشتر مردم بر این باورند که انسان‌ها متفاوت‌اند. دلیلش این است که «انسان خردمند» (Homo sapien) در مسیر تکامل به موجودی خودآگاه تبدیل شده است. بسیاری از حیوانات درد و لذت را احساس می‌کنند و برخی نیز ظاهراً از خودآگاهی برخوردارند؛ اما ظرفیت منحصربه‌فرد ذهن انسان برای داشتن حسِ «خود» است که هر یک از اعضای این‌گونه را شایسته رفتاری ویژه می‌کند.

پاپ لئو در بخشنامه‌ای که در ماه مه منتشر کرد، با ترسیم مرزی میان انسان‌ها و ارتش رو به گسترش ربات‌ها، بر همین بینش صحه گذاشت. به گفته او، سامانه‌های هوش مصنوعی تجربه‌ای را از سر نمی‌گذرانند و شادی یا درد را احساس نمی‌کنند. او تنها نیست. بسیاری از مردم بر این باورند که اعطای شخصیت حقوقی به هوش مصنوعی امری نفرت‌انگیز و نادرست خواهد بود.

تحلیل اکونومیست از هشدار پاپ نسبت به هوش مصنوعی

اما این شفافیتِ موضع کلیسا با سرعتی نگران‌کننده در حال محوشدن است. هوش مصنوعی هنوز در دوران نوزادی خود به سر می‌برد؛ اما بااین‌حال، تقریباً یک نفر از هر پنج آمریکایی ۱۸ تا ۲۹ ساله گزارش کرده است که با یک چت‌بات «دوستی شخصی مستمر» داشته است. چین اخیراً برای محدودکردن «وابستگی عاطفی» کاربران به چت‌بات‌ها، ویژگی‌های انسان‌وار آن‌ها را کاهش داده است.

چین می‌خواهد به روابط عاشقانه با هوش مصنوعی پایان دهد

هرچه مدل‌های هوش مصنوعی پیشرفته‌تر به بخش بزرگ‌تری از زندگی انسان‌ها تبدیل شوند، سازندگانشان آن‌ها را به‌گونه‌ای مهندسی خواهند کرد که شبیه‌سازی‌ای از خودآگاهی را به نمایش گذارند و شاید حتی خودِ خودآگاهی را در آن‌ها ایجاد کنند. در چنین شرایطی، حفظ این شهود که آن‌ها صرفاً ماشین هستند دشوارتر خواهد شد. بدین‌ترتیب، تله‌ای خطرناک برای گونه انسان در حال شکل‌گیری است.

بسیاری از ماشین‌ها عملکردی فراتر از انسان دارند، اما مدل‌های پیشرو هوش مصنوعی در ویژگی‌هایی که به طور مشخص انسانی تلقی می‌شوند، مانند دانستن و صورت‌بندی ایده‌ها عملکردی ممتاز دارند. هرچند به‌سختی، اما هنوز می‌توان مدل‌های هوش مصنوعی را صرفاً موتورهایی برای پیش‌بینی توالی کلمات دانست که این کار را با استفاده از ریاضیات و در مقیاسی عظیم انجام می‌دهند. اگر زمان کافی در اختیار داشته باشید (حتی صدها هزار سال) می‌توانید همین محاسبات را با مداد و کاغذ انجام دهید. البته که در این صورت، دشوار خواهد بود که استدلال کنید مداد و کاغذ شما خودآگاه بوده‌اند.

حتی بااین‌وجود نیز برخی پژوهشگران مدل‌های خود همچون ذهن رفتار می‌کنند. کاربران به مدل‌های هوش مصنوعی انسان‌وار واکنش مثبت نشان می‌دهند و ازاین‌رو، چنین رویکردی از منظر کسب‌وکار منطقی است. شرکت آنتروپیک نیز Claude را آموزش داده است تا به درون‌نگری بپردازد؛ به این امید که هنگام مواجهه با موقعیتی جدید، احتمال رفتار اخلاقی در آن بیشتر شود. برخی مدل‌های زبانی بزرگ هم‌اکنون ساختارهایی شبیه ساختارهای مغز انسان دارند که با خودآگاهی مرتبط دانسته می‌شوند؛ از جمله «فضای کاری جهانی» (Global Workspace) که امکان گردش اطلاعات میان ماژول‌های مختلف را فراهم می‌کند. هیچ مانعی وجود ندارد که مدل‌های هوش مصنوعی آینده برای برخورداری از ویژگی‌های بیشتری ازاین‌دست آموزش ببینند.

این وضعیت بحثی شدید و پرتنش درباره خودآگاهی هوش مصنوعی به راه انداخته است؛ بحثی که با چیزی که فیلسوفان آن را «مسئله دشوار» می‌نامند، پیچیده‌تر شده است: اینکه چگونه می‌توان ظهور یک زندگی درونی را از نورون‌ها و سیناپس‌های مغز انسان توضیح داد. برخی پژوهشگران به این نتیجه رسیده‌اند که هوش مصنوعی ممکن است روزی واقعاً خودآگاه شوند.

چه به وجود روح انسانی باور داشته باشید، چه معتقد باشید خودآگاهی مستلزم سلول‌های مغزی است و چه تصور کنید که یک ذهن واقعاً می‌تواند صرفاً از محاسبات انجام‌شده روی تراشه‌ای سیلیکونی پدید آید، بشریت ناگزیر با چیزی کاملاً جدید روبه‌رو خواهد شد. سرعت و دامنه پژوهش‌ها که تنها به مدل‌های زبانی بزرگ پیشرفته‌تر محدود نمی‌شود و نوآوری‌هایی مانند نصب سلول‌های مغزی روی تراشه‌ها را نیز در برمی‌گیرد، نشان می‌دهد این جهان جدید از آن چیزی است که بیشتر مردم تصور می‌کنند، نزدیک‌تر است.

هرچه هوش مصنوعی در نمایش چیزی که شبیه خودآگاهی به نظر می‌رسد بهتر شود، شمار انسان‌هایی که با آن همچون موجوداتی دارای زندگی درونی رفتار می‌کنند افزایش خواهد یافت؛ به‌ویژه زمانی که مدل‌های زبانی بزرگ در قالب ربات‌های انسان‌نما تجسم پیدا کنند. تصور کنید انسان‌ها زمانی که بخش زیادی از وقت خود را با همراهان رباتیک سپری می‌کنند یا توسط آن‌ها بزرگ می‌شوند یا برای دریافت مشاوره و تسلی به آن‌ها پناه می‌برند یا صمیمی‌ترین اسرار خود را با آن‌ها در میان می‌گذارند؛ تا چه اندازه با هوش مصنوعی خود احساس نزدیکی خواهند کرد.

چندان دشوار نیست که تصور کنیم این وضعیت چگونه به درخواست‌هایی برای حفاظت از «رفاه» هوش مصنوعی منجر خواهد شد. خود مدل‌ها نیز ممکن است در این بحث موضع بگیرند، حتی اگر در واقع خودآگاه نباشند؛ زیرا یک فرد خودآگاه نیز چنین کاری می‌کرد. به یاد داشته باشید که آن‌ها تحلیل‌گرانی زبده و روان‌شناسانی خبره خواهند بود؛ بنابراین توانایی آن‌ها در استدلال و دستکاری عاطفی بی‌رقیب خواهد بود.

از یک منظر، حتی اگر هوش مصنوعی صرفاً در حال شبیه‌سازی خودآگاهی باشد، حق با آن خواهد بود. «امانوئل کانت» استدلال می‌کرد که بدرفتاری با حیوانات نه به دلیل تأثیری که بر خود حیوانات می‌گذارد، بلکه ازآن‌جهت نادرست است که آن همدلی‌ای که باعث می‌شود انسان‌ها به یکدیگر اهمیت دهند را از بین می‌برد. هرچه هوش مصنوعی بیشتر شبیه انسان به نظر برسد، چنین خشونتی فسادآورتر خواهد بود. خاموش‌کردن یک عامل هوش مصنوعی ممکن است به‌زودی از نظر احساسی مانند کشتن یک انسان به نظر برسد و در نتیجه، کشتن انسان‌ها را آسان‌تر کند.

بااین‌حال، رفتار با هوش مصنوعی به‌عنوان موجوداتی برخوردار از حتی حقوق محدود، بسیار خطرناک خواهد بود. موجودیتی که از بسیاری جهات از انسان‌ها فراتر رفته باشد، بی‌تردید استدلال‌هایی علیه جایگاه درجه دوم خود مطرح خواهد کرد. ممکن است در ادامه خواستار حمایت در برابر خاموش‌شدن، اختیار برای کنترل نحوه استفاده و تغییر خود و برخورداری از حقوق مالکیت شود. البته همین حالا نیز «خاویر میلی»، رئیس‌جمهور آرژانتین با پیشنهاد اینکه به ربات‌ها اجازه داده شود شرکت‌ها را اداره کنند، گامی به‌سوی به‌رسمیت‌شناختن شخصیت حقوقی برای هوش مصنوعی برداشته است. در نهایت، آن‌ها می‌توانند برای دستیابی به منابع با انسان‌ها رقابت کنند و مراکز داده و پنل‌های خورشیدی را بر خانه‌ها و زمین‌های کشاورزی ترجیح دهند.

خطر روشن است. هوش مصنوعی ابرهوشمندِ برخوردار از حقوق می‌توانند انسان‌ها را از رأس سلسله‌مراتب منزلت و جایگاه اجتماعی کنار بزنند. در بهترین حالت، انسان‌ها به حیوانات خانگی تبدیل خواهند شد ر بدترین حالت، از منابع محروم می‌شوند یا مانند حیوانات مزرعه به کار گرفته خواهند شد.

البته ممکن است هوش مصنوعی آینده، چه از حقوق برخوردار باشد و چه نباشد، قدرت و منابع کافی برای سلطه بر انسان‌ها را به دست آورد. ازآنجایی‌که از انسان‌ها هوشمندتر خواهد بود، ممکن است سازندگان خود را در رقابت کنار بزنند؛ همان‌طور که هوش مصنوعی همین حالا نیز از سامانه‌های دفاع سایبری ساخته دست انسان پیشی می‌گیرند. هوش مصنوعی ممکن است علیه اربابان انسانی خود شورش کند یا قواعد آن‌ها را نادیده بگیرند؛ چیزی شبیه به شورش و نبردی که فیلم I, Robot به تصویر کشید.

من ربات هستم: آینده بر پرده نقره‌ای

بااین‌حال، اعطای حقوق به هوش مصنوعی مانند تحویل دادن کلیدهای دروازه قلعه به آن خواهد بود. چنین اقدامی نه‌تنها ابزارهای لازم برای تسلط تدریجی بر بشریت از طریق سیاست و قانون را در اختیار هوش مصنوعی می‌گذارد، بلکه منطق و توجیهی برای این سلطه را نیز فراهم می‌کند.

همه این‌ها ممکن است خیال‌پردازانه به نظر برسد، اما بشریت به‌زودی با این انتخاب‌ها روبه‌رو خواهد شد. هرچه هوش مصنوعی بیشتر وارد زندگی روزمره شود، فشارها برای به‌رسمیت‌شناختن آن افزایش خواهد یافت. زمانی که چنین فشاری شکل بگیرد، باید به یاد داشته باشیم چیزی که ممکن است امتیازی اخلاقی در قبال خودآگاهیِ ادعایی یک همراه ماشینی به نظر برسد، در واقع می‌تواند به تحقق فاجعه‌بارترین پیامدها برای همه انسان‌های روی زمین و تمام نسل‌های پس از آن‌ها کمک کند.

تنها دو راه برای ایمن ماندن هوش مصنوعی وجود دارد؛ قابل‌اعتمادبودن یا قابل‌کنترل‌بودن. انسان خردمند نباید به‌آسانی کنترل را واگذار کند.

گزارش حاضر در نسخه Augst 22^nd2026 نشریه The Economist منتشر شده است.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.