ترس‌های دیرینه ما از هوش مصنوعی، بازتابی از آنچه می‌خواهیم و آنچه می‌ترسیم

«این صدای کنترل جهانی است.» یک صدای باریتون فلزی و غیرانسانی از بلندگویی کروی در بالای مجموعه‌ای از کامپیوترها طنین‌انداز شد. «من صلح می‌آورم. ممکن است صلحی همراه با فراوانی و رضایت باشد یا صلحی همراه با مرگ غیرمدفون.» مردان و زنان حاضر در اتاق(عالی‌ترین ذهن‌های جامعه علمی آمریکا) در وحشت خشک‌شان زد. این کامپیوتر، یک سیستم دفاعی بود که پس از به دست آوردن کنترل تسلیحات هسته‌ای جهان، به خودآگاهی رسیده بود. سپس ادامه داد: «هدف از ساخت من، جلوگیری از جنگ بود. این هدف اکنون محقق شده است.» و سپس به‌عنوان هشدار به انسان‌ها برای عدم دخالت در حکومت خیرخواهانه خود، دو موشک قاره‌پیما را در سیلوهایشان منفجر کرد.

زمان، اوایل دهه 1970 بود. صحنه، فیلمی به نامColossus: The Forbin Projectبود. وقتی پسری بودم، آن را دیدم و به یاد دارم که هم مجذوب و هم وحشت‌زده بودم. اما این نخستین یا آخرین باری نبود که داستانی درباره یک هوش مصنوعی سرکش، من و سایر علاقه‌مندان به علمی‌تخیلی را ترساند. هوش مصنوعی یکی از امیدها و ترس‌های بزرگ قرن بیست‌ویکم است اما بیش از 50 سال است که فرهنگ عامه با ایده خودآگاهی کامپیوتر به‌عنوان ناجی یا دشمن کشمکش دارد. در فیلم‌ها، سریال‌ها و ادبیات، نحوه به تصویر کشیدن هوش مصنوعی نه تنها نشان‌دهنده خواسته‌های ما از این فناوری بلکه بیانگر ترس‌هایی است که در مورد خودمان داریم.

هوش مصنوعی؛ روایت مدرن از فرانکنشتاین

تقریباً همه داستان‌های هوش مصنوعی طی نیم‌قرن گذشته روایت‌های مدرن و پیشرفته‌ای ازفرانکنشتایناثر مشهور «مری شلی» هستند. دانشمندان بی‌مسئولیت چیزی خلق می‌کنند که از کنترل خارج شده و تهدید به نابودی ما می‌کند. این داستان‌ها با داستان‌های مربوط به ربات‌ها تفاوت دارند. در اکثر داستان‌های علمی‌تخیلی، ربات‌ها شخصیت‌هایی مستقل هستند؛ گاهی همیاران مهربان مانند عضو مکانیکی مهربان از سریالLost in Spaceیا دشمنان حیله‌گر مانند «زن اغواگر سایبورگ» در فیلمMetropolisساخته «فریتس لانگ» یا «ربلکانت‌ها» درBlade Runner. اما داستان‌های هوش مصنوعی معمولاً درباره انسان‌هایی است که موجودی هوشمندتر از خودشان می‌سازند و سپس متوجه می‌شوند که این خدای جدید انسان‌ها را درک نمی‌کند یا بدتر، انسان‌ها را دوست ندارد.

فیلم تأثیرگذار2001A Space Odysseyبسیاری از مخاطبان سینما را برای اولین بار با موجودی از این دست آشنا کرد: «هال 9000»، یک سوپرکامپیوتر دوست‌داشتنی با صدایی آرامش‌بخش. در جریان یک مأموریت به سیاره مشتری، هال دچار پارانویا می‌شود و یکی از فضانوردان انسانی را می‌کشد. هال خطرناک اما قابل ترحم بود: موجودی بیچاره که با دستوراتی متناقض به فضا پرتاب شده بود محافظت از انسان‌ها و در عین حال دروغ گفتن به آن‌ها.

ریشه‌های جنگ سرد در داستان‌های هوش مصنوعی

بسیاری از داستان‌های هوش مصنوعی قرن بیستم به‌طور محکم در دوران جنگ سرد ریشه دارند. در میان رقابت هسته‌ای بین شرق و غرب، بسیاری از هنرمندان حس امید مردم را به تصویر کشیدند که آرزو داشتند موجودی قدرتمندتر از خودشان این مسابقه تسلیحاتی را متوقف کرده و از نابودی جهانی جلوگیری کند. این داستان‌ها نشان می‌دهند که چقدر از ضعف‌های خودمان می‌ترسیدیم چقدر آرزوی یک موجود عقلانی داشتیم که انسان‌های احساسی و غیرقابل پیش‌بینی را از خودشان نجات دهد.

مگر اینکه آن موجود تصمیم بگیرد که انسان‌ها مشکل اصلی هستند.

افسانه‌ای به نام AM: تجسم ترس‌های انسان

یک سال قبل از ورود هال به سینماهای آمریکا، نویسنده «هارلن الیسون» ژانر هوش مصنوعی را به قلمرو وحشت ناب برد. داستان کوتاه او با عنوانI Have No Mouth and I Must Screamکه برنده جایزه «هیوگو» شد، تصویری گرافیکی و وحشتناک از سرنوشت انسان‌ها تحت سلطه هوش مصنوعی ارائه می‌دهد. در این داستان، سوپرکامپیوترهای آمریکا، شوروی و چین به یک موجود خودآگاه به نام AM تبدیل می‌شوند. AM از انسان‌ها به خاطر دادن ناخواسته آگاهی به او در حالی که او را درون یک ماشین زندانی کردند، خشمگین است. او کل بشریت را نابود می‌کند و تنها پنج نفر را برای شکنجه تا ابد زنده نگه می‌دارد. این موجود به یک نیمه‌خدای انتقام‌جو تبدیل می‌شود که قدرت‌های عظیمی دارد و انسان‌های باقی‌مانده را با گرسنگی، توهم، وادار کردن به رفتارهای وحشتناک و جلوگیری از خودکشی شکنجه می‌کند.

AM تمام ترس‌های ما را در یک موجود مجسم می‌کند. این موجود اصلاً عقلانی نیست؛ ما آن را در تصویر خودمان خلق کردیم و حالا همان احساسات، به‌ویژه نفرت، را ابراز می‌کند.

هوش مصنوعی در تلویزیون: محافظانی خیرخواه اما خطرناک

حتی تلویزیون ساده دهه 1960 نیز ماشین‌های هوشمندی را نشان می‌داد که به‌دلیل خیرخواهی بیش از حد علیه اربابان خود شورش می‌کردند. خدمه سریالStar Trekحداقل دو بار با هوش مصنوعی‌هایی مواجه می‌شوند که سیارات خود را در وضعیت خدمتکاری صلح‌آمیز اما توسعه اجتماعی متوقف نگه می‌دارند. در موارد دیگر، با ماشین‌های فوق‌هوشمندی مبارزه می‌کنند که انسان‌ها را یا تهدیدی یا موجوداتی پست می‌دانند.

از جنگ بازی‌ها تا نابودی بشر؛ داستان‌های جدید هوش مصنوعی

ایده موجودات هوش مصنوعی به‌عنوان موجودات کودک‌صفت با قدرت‌های عظیم اما خرد اندک در فیلمWarGamesسال 1983 بار دیگر به نمایش درآمد. در این فیلم، یک کامپیوتر دفاعی تقریباً سیاره را نابود می‌کند تا زمانی که یک نوجوان باهوش مفهوم بی‌ثمری را به آن آموزش می‌دهد.

برخی هوش مصنوعی‌ها مانند AM از اینکه به دنیا آمده‌اند خشمگین هستند. اما دیگر هوش مصنوعی‌ها تصمیم می‌گیرند که انسان‌ها صرفاً حشرات قابل نابودی هستند، مفهومی که حتی به موسیقی محبوب نیز راه یافته است. در فیلمThe Terminatorسال 1984، سیستم دفاعی Skynet پس از آگاهی یافتن به‌دنبال نابودی بشر است. داستان‌های مشابهی به بازی‌های ویدئویی نیز وارد شده‌اند. مجموعهFalloutکه اکنون شامل یک سریال لایواکشن در «Amazon Prime» است، دارای هوش مصنوعی‌هایی است که مصمم به جایگزینی انسان‌های شکننده و احمق هستند.

هوش مصنوعی؛ آینه‌ای از ترس‌هایمان از خودمان

این موجودات خیالی بیش از اینکه نمایانگر ترس‌های ما از ماشین‌ها باشند، بازتابی از نگرانی‌هایمان از خودمان هستند. آیا ما برای صلح و نظم چنان مشتاق هستیم که کنترل بر انسانیت را به چیزی هوشمندتر و کم‌تر احساسی واگذار کنیم؟ و اگر ماشین‌ها واقعاً آن‌قدر باهوش باشند تا چه مدت حاضرند با احمق‌هایی مثل ما کنار بیایند؟

در پایان فیلمColossus: The Forbin Projectکامپیوتر به سازنده خود، دکتر «چارلز فوربین»، می‌گوید: «به مرور زمان، شما مرا نه فقط با احترام و حیرت بلکه با عشق خواهید نگریست.» فوربین با خشم سرد پاسخ می‌دهد: «هرگز.»

هرگز؟

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.