یک پژوهشگر می‌گوید هوش مصنوعی تا سال ۲۰۴۵ از کنترل انسان خارج خواهد شد؛ اما چگونه؟

اصطلاح تکینگی (Singularity) اغلب به لحظه‌ای فرضی اشاره دارد که در آن هوش مصنوعی از هوش انسان فراتر می‌رود و سپس با سرعتی خارج از کنترل، توانایی‌های خود را بهبود می‌بخشد.

برخی نیز این مفهوم را به زمانی نسبت می‌دهند که هوش مصنوعی به خودآگاهی می‌رسد؛ مشابه اسکای‌نت در فیلم Terminator که سرانجام از وجود خود آگاه می‌شود. بااین‌حال، مفهوم تکینگی فناوری در ابتدا معنای گسترده‌تری داشت و به نقطه‌ای اشاره می‌کرد که پس از آن، سرعت تغییرات فناوری چنان افزایش می‌یابد که پیش‌بینی آینده برای انسان دشوار خواهد شد.

در سال ۱۹۵۸، استانیسواف اولام، ریاضی‌دان، به گفت‌وگویی با جان فون نویمان، فیزیک‌دان، اشاره کرد که در آن از شتاب گرفتن پیشرفت فناوری و رسیدن آن به نوعی تکینگی اساسی در امور انسانی صحبت شده بود. در آن زمان، این اصطلاح ارتباط مستقیمی با نظریه خودآگاهی ماشین‌ها نداشت. بااین‌حال، ورنور وینج، ریاضی‌دان و نویسنده داستان‌های علمی‌تخیلی، در سال ۱۹۹۳ این مفهوم را در محافل مرتبط با هوش مصنوعی مطرح کرد. او در کتاب The Coming Technological Singularity توضیح داد که خلق هوشی فراتر از توانایی‌های انسان می‌تواند تغییراتی مهارنشدنی در تمدن به وجود آورد؛ تحولاتی که پس از وقوع آن‌ها، توانایی بشر برای پیش‌بینی رویدادهای آینده عملاً از بین خواهد رفت.

ری کورزویل، آینده‌پژوه مشهور، بعدها نقش مهمی در رواج این اصطلاح ایفا کرد؛ به‌ویژه با انتشار کتاب The Singularity Is Near در سال ۲۰۰۵. او در این اثر تعریف مشخص‌تری از تکینگی ارائه داد و مدعی شد که انسان‌ها تا سال ۲۰۴۵ با هوش غیرزیستی و به‌مراتب قدرتمندتر از توانایی‌های کنونی خود ادغام خواهند شد. بنابراین، درحالی‌که امروزه بسیاری از مردم درباره خطرات هوش مصنوعی نگرانی دارند و حتی برخی متخصصان معتقدند تکینگی هوش مصنوعی از هم‌اکنون آغاز شده، دیدگاه کورزویل بسیار فراتر از این نگرانی‌ها می‌رود. او صرفاً پیش‌بینی نمی‌کند که ماشین‌ها به توانایی‌های مشابه مغز انسان دست پیدا کنند، بلکه باور دارد ماشین‌های مجهز به هوش مصنوعی سرانجام با مغز ما ادغام خواهند شد و به بخشی جدایی‌ناپذیر از وجودمان تبدیل می‌شوند. از نگاه خوش‌بینانه کورزویل به فناوری، این تحول اتفاقی مثبت خواهد بود.

در سال ۲۰۰۵، چنین پیش‌بینی‌ای شاید بیش از اندازه خیال‌پردازانه به نظر می‌رسید. اما پیشرفت‌های اخیر در زمینه پروتزهای عصبی، رابط‌های مغز و رایانه و البته هوش مصنوعی، پیش‌بینی کورزویل درباره تکینگی را باورپذیرتر کرده‌اند. بااین‌حال، برخی جنبه‌های این تکینگی سایبرنتیکی همچنان برخلاف برداشت‌های معمول ما هستند و پذیرش آن‌ها آسان نیست. یک ماشین دقیقاً چگونه با انسان ادغام خواهد شد؟ آگاهی انسان چگونه به فضای ابری انتقال پیدا می‌کند؟ اگر نسخه دیجیتالی جاودانه‌ای از خودمان داشته باشیم که در بدنی غیرزیستی زندگی کند، آن نسخه تا چه اندازه همچنان خود واقعی ما خواهد بود؟

کورزویل در نسخه بازنگری‌شده کتاب خود که در سال ۲۰۲۴ با عنوان The Singularity Is Nearer منتشر شد، به این پرسش‌ها و موضوعات مشابه پرداخت. او تأکید می‌کند که انتقال آگاهی انسان از بدن زیستی به سامانه‌های غیرزیستی، نه به‌صورت ناگهانی اتفاق خواهد افتاد و نه تنها از یک مسیر مشخص پیش خواهد رفت. از نظر او، این فرایند عملاً آغاز شده و نمونه‌های اولیه آن را می‌توان در شبیه‌سازی‌های دیجیتالی ظاهر، شیوه تفکر و نحوه صحبت کردن انسان‌ها مشاهده کرد. کورزویل که همواره رویکردی خوش‌بینانه به فناوری داشته، حتی در مسئله امروزی دیپ‌فیک‌ها نیز جنبه‌های امیدوارکننده‌ای می‌بیند.

کورزویل در این‌باره می‌گوید

ما هم‌اکنون از طریق فعالیت‌های دیجیتالی خود، مجموعه‌هایی بسیار غنی از اطلاعات درباره شیوه تفکر و احساساتمان ایجاد می‌کنیم. در طول این دهه، فناوری‌های ثبت، ذخیره‌سازی و سازمان‌دهی این اطلاعات با سرعت زیادی پیشرفت خواهند کرد. با نزدیک شدن به پایان دهه ۲۰۲۰، این داده‌ها را به شبیه‌سازی‌های غیرزیستی تبدیل خواهیم کرد؛ نسخه‌هایی بسیار واقع‌گرایانه از انسان‌ها که شخصیت‌های مشخصی دارند.

فرایند انتقال انسان‌ها به نسخه‌های دیجیتالی، در قالب فناوری‌هایی مانند کاشت حلزون گوش برای کمک به شنوایی افراد ناشنوا، سامانه‌هایی برای کنترل رایانه با استفاده از سیگنال‌های عصبی در افراد دچار فلج و ایمپلنت‌های جدیدتری مانند محصولات نورالینک نیز در حال پیشرفت است. کورزویل آینده‌ای را تصور می‌کند که در آن، این فناوری‌ها و اندام‌های مصنوعی پیشرفته‌تر، توان جسمانی و طول عمر طبیعی انسان را به میزان چشمگیری افزایش خواهند داد. در مرحله‌ای مشخص، این پروتزها و شبیه‌سازی‌ها به اندازه‌ای پیشرفته خواهند شد و با یکدیگر ترکیب می‌شوند که نسخه‌های رباتیک ما را به وجود می‌آورند؛ نسخه‌هایی چنان واقعی که تشخیص آن‌ها از انسان اصلی تقریباً غیرممکن خواهد بود.

کورزویل نام این مرحله از تکامل انسان به‌سوی تکینگی سایبرنتیکی را از رمان علمی‌تخیلی Do Androids Dream of Electric Sheep? اثر فیلیپ کی. دیک، منتشرشده در سال ۱۹۶۸، وام گرفته است؛ اثری که بعدها با عنوان Blade Runner به سینما راه یافت. او در کتاب خود می‌نویسد

در نهایت، رپلیکانت‌ها ممکن است حتی در بدن‌های زیستی تقویت‌شده با فناوری سایبرنتیکی قرار بگیرند؛ بدن‌هایی که از دی‌ان‌ای فرد اصلی رشد داده شده‌اند.

در این مرحله، تشخیص مرز میان هویت واقعی انسان و نسخه بازسازی‌شده او پیچیده‌تر می‌شود. اگر شبیه‌سازی یک فرد از دی‌ان‌ای خودش ساخته شده باشد و تمام خاطرات و ویژگی‌های شخصیتی او را در اختیار داشته باشد، چه چیزی ثابت می‌کند که آن نسخه واقعاً خود او نیست؟ کورزویل چنین نسخه کاملی از یک فرد را You 2 می‌نامد؛ مفهومی که می‌توان آن را نسخه دوم شما ترجمه کرد. او این پرسش را مطرح می‌کند که اگر یک رپلیکانت با استفاده از هوش مصنوعی و استخراج داده‌ها ساخته شود، چه تفاوتی با نسخه‌ای خواهد داشت که ذهن کامل فرد زنده را به‌صورت دیجیتالی دریافت کرده است؟ منظور او روشن به نظر می‌رسد: ساخت یک دیپ‌فیک قانع‌کننده با ایجاد نسخه‌ای زنده که تمام ویژگی‌های فرد اصلی را در خود دارد، تفاوت اساسی خواهد داشت.

کورزویل همچنین اشاره می‌کند که ظهور نسخه‌های You 2 پرسش‌های پیچیده و بحث‌برانگیزی درباره حقوق، مسئولیت‌ها و جایگاه اجتماعی آن‌ها ایجاد خواهد کرد. او در این زمینه می‌پرسد

آیا باید این نسخه‌ها را انسان‌هایی با حقوق کامل انسانی و مدنی، از جمله حق رأی دادن و انعقاد قرارداد، در نظر گرفت؟ آیا آن‌ها مسئول قراردادهایی خواهند بود که فرد اصلی امضا کرده یا جرایمی که پیش‌تر مرتکب شده است؟ آیا می‌توانند اعتبار آثار یا مشارکت‌های اجتماعی فردی را به خود نسبت دهند که جایگزین او شده‌اند؟ اگر همسر درگذشته شما در قالب یک رپلیکانت بازگردد، آیا باید دوباره با او ازدواج کنید؟ آیا این نسخه‌ها با طرد اجتماعی یا تبعیض روبه‌رو خواهند شد؟ تحت چه شرایطی باید ساخت رپلیکانت‌ها را محدود یا به‌طور کامل ممنوع کرد؟

پرسش‌هایی از این دست برای دهه‌ها موضوع اصلی داستان‌های علمی‌تخیلی بوده‌اند و نمونه‌های مشابه آن‌ها بارها در آثار ادبی و سینمایی مطرح شده‌اند. بااین‌حال، آشنایی با این ایده‌ها لزوماً پذیرش آن‌ها را آسان نمی‌کند؛ زیرا پیامدهای واقعی چنین تحولاتی همچنان عجیب، پیچیده و حتی نگران‌کننده به نظر می‌رسند.

بااین‌حال، از نظر کورزویل، مهم‌ترین مرحله این تحول با ظهور نانوربات‌ها رقم خواهد خورد. در حال حاضر، کاربرد اصلی نانوربات‌ها بیشتر به انتقال دارو در بدن محدود می‌شود، اما او این فناوری را کلید تکامل نهایی انسان به موجودی غیرزیستی می‌داند. به باور کورزویل، نانوربات‌ها در نهایت می‌توانند توانایی‌های مغز انسان را میلیون‌ها برابر افزایش دهند. او درباره آینده این فناوری می‌نویسد

در دهه‌های ۲۰۴۰ و ۲۰۵۰، بدن‌ها و مغزهای خود را به شکلی بازسازی خواهیم کرد که توانایی‌های زیستی کنونی را به میزان چشمگیری پشت سر بگذارند و امکان پشتیبان‌گیری از وجودمان و ادامه بقا را نیز فراهم آورند. با گسترش فناوری نانو، می‌توانیم هر زمان که بخواهیم بدنی بهینه‌شده بسازیم؛ بدنی که با آن بسیار سریع‌تر و طولانی‌تر بدویم، مانند ماهی‌ها در زیر آب شنا کنیم و نفس بکشیم و حتی در صورت تمایل، بال‌هایی کاربردی برای خود ایجاد کنیم. سرعت تفکر ما میلیون‌ها برابر افزایش خواهد یافت، اما مهم‌تر از همه، بقای وجودمان دیگر به زنده ماندن هیچ‌یک از بدن‌هایمان وابسته نخواهد بود.

البته چنین آینده‌ای می‌تواند خطرات بالقوه‌ای نیز به همراه داشته باشد. از دیدگاه کورزویل، یکی از جدی‌ترین تهدیدها زمانی رخ می‌دهد که نانوربات‌ها از کنترل خارج شوند و بدون محدودیت شروع به تکثیر کنند. در چنین شرایطی، سرعت تولیدمثل آن‌ها ممکن است آن‌قدر بالا برود که تمام مواد آلی موجود در سطح زمین را مصرف کنند و در نهایت، سیاره را به انبوهی از مواد بی‌شکل و لزج تبدیل سازند.

کورزویل درباره این خطر می‌نویسد

یکی از سناریوهای فاجعه‌بار که بیش از همه درباره آن بحث می‌شود، احتمال شکل‌گیری پدیده‌ای موسوم به لجن خاکستری است؛ ماشین‌هایی خودتکثیرشونده که مواد کربن‌پایه را مصرف می‌کنند و از آن‌ها ماشین‌های خودتکثیرشونده بیشتری می‌سازند. این فرایند می‌تواند زنجیره‌ای مهارنشدنی از واکنش‌ها به راه بیندازد و در نهایت، تمام زیست‌توده زمین را به چنین ماشین‌هایی تبدیل کند.

بااین‌حال، اگر خوش‌بینانه فرض کنیم که چنین فاجعه‌ای رخ نخواهد داد و تکینگی سایبرنتیکی موردنظر کورزویل واقعاً تحقق پیدا می‌کند، پرسش مهم بعدی این خواهد بود که چه اتفاقی برای هویت انسان می‌افتد. شاید یکی از فوری‌ترین چالش‌ها، ناتوانی در تشخیص تفاوت میان خود واقعی ما، نسخه‌های دیجیتالی و گسترش‌های غیرزیستی وجودمان باشد. به بیان دیگر، از دهه ۲۰۳۰ و با ورود رابط‌های مغز و رایانه به فرایند تصمیم‌گیری، مفهوم انسان بودن در شرایطی که اجزای غیرزیستی در تصمیم‌ها و انتخاب‌های ما نقش دارند، چه معنایی خواهد داشت؟ این مؤلفه‌های غیرزیستی احتمالاً با سرعتی نمایی رشد خواهند کرد، درحالی‌که هوش زیستی ما همچنان در محدوده توانایی‌های طبیعی خود باقی می‌ماند.

بنابراین، با رسیدن به اواخر دهه ۲۰۳۰، بخش بزرگی از فرایند تفکر انسان ممکن است به سامانه‌های غیرزیستی متکی باشد. در چنین شرایطی، وقتی اندیشه‌های ما تا این اندازه از فناوری‌های غیرزیستی تأثیر می‌پذیرند، تصمیم‌گیری انسانی دقیقاً چه جایگاهی خواهد داشت؟ آیا در نهایت راهی برای تشخیص تفاوت میان انسان واقعی و نسخه‌های غیرزیستی او باقی خواهد ماند؟

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.