ترکیب هوش مصنوعی و سلاح هسته‌ای؛ اجتناب‌ناپذیر

افرادی که زندگی خود را صرف مطالعه جنگ هسته‌ای کرده‌اند، تقریباً مطمئن‌اند که به‌زودی هوش مصنوعی نیروبخش مرگبارترین سلاح‌ها خواهد شد. بااین‌حال، هیچ‌کس دقیقاً مطمئن نیست که این موضوع دقیقاً چه معنایی خواهد داشت. رسانهWIREDدر گزارشی به بررسی نقطه‌نظرات خبرگان این حوزه‌های پرداخته است.

جمع حرفه‌ای‌ها

اواسط ماه جولای سال جاری میلادی، گروهی از برندگان جایزه نوبل در دانشگاه شیکاگو گرد هم آمدند تا به سخنان کارشناسان جنگ هسته‌ای درباره پایان جهان گوش دهند. این نشست‌ها پشت درهای بسته و طی دو روز برگزار شد؛ جایی که دانشمندان، مقامات پیشین دولتی و افسران بازنشسته نظامی، برندگان نوبل را با ویرانگرترین سلاح‌های ساخته دست بشر آشنا کردند. هدف این بود که این افراد سرشناس، پس از آگاهی از خطرات، پیشنهادهای سیاستی مشخصی برای رهبران جهان ارائه دهند تا از وقوع جنگ هسته‌ای جلوگیری شود و هوش مصنوعی موضوع اصلی همه گفتگوها بود.

اصلاً یعنی چه؟

«اسکات ساگان» (Scott Sagan)، استاد دانشگاه استنفورد و پژوهشگر حوزه خلع سلاح هسته‌ای، در یک نشست خبری گفت: «ما وارد دنیای تازه‌ای شده‌ایم که در آن، هوش مصنوعی و فناوری‌های نوظهور نه‌تنها زندگی روزمره ما، بلکه جهان هسته‌ای که در آن زندگی می‌کنیم را هم تحت تأثیر قرار خواهند داد.» این سخن، یک واقعیت را پیش‌فرض را در خود پنهان کرده است؛ پیش‌فرضی که در آن ادغام هوش مصنوعی و سلاح‌های هسته‌ای توسط دولت‌ها، اجتناب‌ناپذیر است. این همان چیزی است که تقریباً همه افراد حاضر در نشست شیکاگو بر آن باور داشتند. «باب لاتِیف» (Bob Latiff)، ژنرال بازنشسته نیروی هوایی آمریکا و عضو هیئت علمی Bulletin of the Atomic Scientists نیز بیان کرد: «این فناوری مثل برق است؛ راه خودش را به همه‌چیز باز خواهد کرد.»

جنگ هسته‌ای و سوءاستفاده از هوش مصنوعی می‌تواند تا سال ۲۱۰۰ به انقراض بشر منجر شود

اما به گفته «جان وُلفستال» (Jon Wolfsthal)، کارشناس منع گسترش سلاح‌های هسته‌ای و مدیر مرکز ریسک جهانی در Federation of American Scientists که پیش‌تر دستیار ویژه باراک اوباما بوده: «گفت‌وگو درباره هوش مصنوعی و تسلیحات هسته‌ای با چند مشکل جدی روبه‌رو است. نخست اینکه هیچ‌کس واقعاً نمی‌داند هوش مصنوعی دقیقاً چیست؟ اصلاً وقتی می‌گوییم هوش مصنوعی کنترل سلاح هسته‌ای را بر عهده می‌گیرد؛ یعنی چه؟ یا وقتی می‌گوییم یک تراشه کامپیوتری چنین کنترلی دارد؟» همچنین «هِرب لین» (Herb Lin)، استاد دانشگاه نیز تأکید می‌کند: «بخشی از مشکل اینجاست که مدل‌های زبانی بزرگ، کل این بحث را تحت سیطره خودشان گرفته‌اند.»

تا میز کار سیاست‌مداران

اما خبر خوب اینکه هیچ‌کس فکر نمی‌کند ChatGPT یا Grok به این زودی‌ها به کدهای هسته‌ای دسترسی پیدا کنند. وُلفستال می‌گوید اگرچه در این حوزه اختلاف‌نظرهای ایدئولوژیک زیادی وجود دارد، اما تقریباً همه متخصصان در یک نکته اشتراک دارند: «ما می‌خواهیم کنترل انسانی مؤثر بر تصمیم‌گیری‌های مربوط به سلاح‌های هسته‌ای حفظ شود.» بااین‌حال، او شنیده که زمزمه‌هایی از استفاده‌های نگران‌کننده‌تر از مدل‌های زبانی بزرگ در قلب ساختار قدرت آمریکا وجود دارد و می‌گوید
«بعضی‌ها گفته‌اند: فقط می‌خواهم یک کامپیوتر تعاملی در اختیار رئیس‌جمهور باشد تا بتواند بفهمد پوتین یا شی جینپینگ چه خواهند کرد. بتوانم همه چیزهایی را که شی یا پوتین درباره هر موضوعی گفته یا نوشته‌اند را جمع‌آوری کنیم و با احتمال آماری بالا پاسخی بازتولید کنیم که بازتاب‌دهنده همان حرف‌ها باشد.»

ولفستال در پاسخ عنوان کرد: «من گفتم: خب، عالی است. اما از کجا می‌دانید پوتین واقعاً به آنچه گفته یا نوشته، باور دارد؟ مشکل این نیست که احتمال آماری اشتباه باشد؛ مشکل این است که همه چیز بر فرضی بنا شده که نمی‌توان آن را آزمود. راستش را بخواهید، فکر می‌کنم تعداد خیلی کمی از کسانی که چنین بحث‌هایی را مطرح می‌کنند، اصلاً تابه‌حال در یک جلسه واقعی با رئیس‌جمهور بوده‌اند. من ادعا نمی‌کنم که به هیچ رئیس‌جمهوری نزدیک بوده‌ام، اما در اتاق‌هایی حاضر بوده‌ام که آن‌ها درباره چنین موضوعاتی صحبت می‌کردند و آن‌ها به هیچ‌کس در این مسائل اعتماد نمی‌کنند.»

تصمیم‌گیر

سال گذشته، «آنتونی جی. کاتن» (Anthony J. Cotton) ژنرال نیروی هوایی ایالات متحده که فرماندهی تسلیحات هسته‌ای آمریکا را بر عهده دارد، در یک کنفرانس سخنرانی مفصلی درباره ضرورت استفاده از هوش مصنوعی ایراد کرد.او گفتنیروهای هسته‌ای آمریکا در حال توسعه ابزارهای پشتیبان تصمیم‌گیری مبتنی بر هوش مصنوعی هستند؛ ابزارهایی که همچنان با رهبری انسانی هدایت می‌شوند تا اطمینان حاصل شود رهبران ما بتوانند در سناریوهای پیچیده و حساس به زمان، واکنشی مناسب نشان دهند.

اما چیزی که خواب را از چشم ولفستال می‌گیرد، نه احتمال شورش یک هوش مصنوعی و آغاز جنگ هسته‌ای، بلکه چیز دیگری است: «نگرانی من این است که کسی بیاید و بگوید باید این سامانه‌ها یا حتی بخشی از آن، خودکار شود و همین باعث ایجاد آسیب‌پذیری‌هایی شود که دشمن بتواند از آن‌ها سوءاستفاده کند؛ یا اینکه سامانه، داده‌ها یا پیشنهادهایی تولید کند که انسان‌ها قادر به درک درست آن‌ها نباشند و همین منجر به تصمیمات فاجعه‌بار شود.»

فرایند شلیک یک سلاح هسته‌ای، به‌سادگی فشردن یک دکمه توسط رهبر چین، روسیه یا آمریکا نیست. سامانه فرماندهی و کنترل هسته‌ای، شبکه‌ای پیچیده از رادارهای هشدار اولیه، ماهواره‌ها و سامانه‌های رایانه‌ای دیگر است که همه زیر نظر انسان عمل می‌کنند. اگر رئیس‌جمهور دستور شلیک موشک بالستیک قاره‌پیما را بدهد، دو نفر باید به طور هم‌زمان در یک سیلوی موشکی، کلیدهای مخصوص خود را بچرخانند تا موشک پرتاب شود. پرتاب یک سلاح هسته‌ای آمریکایی در واقع نتیجه صدها تصمیم کوچک است؛ تصمیم‌هایی که همه آن‌ها توسط انسان گرفته می‌شود.

چه می‌شود اگر؟!

اما پرسش اصلی اینجاست که وقتی بخشی از این فرایند به هوش مصنوعی سپرده شود، چه اتفاقی خواهد افتاد؟ اگر هوش مصنوعی جایگزین انسان در پایش رادارهای هشدار اولیه شود، چه؟ ولفستال می‌پرسد: «چطور می‌توان مطمئن شد که واقعاً تحت حمله هسته‌ای قرار گرفته‌ایم؟ آیا می‌توان به چیزی غیر از مشاهده مستقیم انفجار اعتماد کرد؟»

طبق سیاست هسته‌ای آمریکا، برای تأیید وقوع حمله هسته‌ای باید «دو پدیده مستقل» (dual phenomenology) هم‌زمان آن را نشان دهند؛ سامانه‌های ماهواره‌ای و سامانه‌های راداری باید هر دو شواهد یک حمله را ثبت کنند تا واقعی تلقی شود. ولفستال می‌گوید: «آیا می‌توان یکی از این دو را با هوش مصنوعی جایگزین کرد؟ من در این مرحله می‌گویم: خیر.» یکی از دلایل ساده این است که ما واقعاً نمی‌دانیم بسیاری از سامانه‌های هوش مصنوعی چگونه کار می‌کنند؛ آن‌ها عملاً جعبه سیاه هستند. حتی اگر هم این‌طور نبود، کارشناسان معتقدند ادغام آن‌ها در فرایند تصمیم‌گیری هسته‌ای ایده‌ای بسیار خطرناک است.

لاتیف هم نگرانی‌های خاص خودش را دارد؛ به‌ویژه درباره خطر تقویت سوگیری تأیید (confirmation bias) توسط هوش مصنوعی و می‌گوید: «نگرانی من این است که حتی اگر انسان همچنان کنترل‌گر باقی بماند، اینکه این کنترل چقدر واقعی و معنادار است، مهم خواهد بود. من فرمانده بوده‌ام و می‌دانم مسئولیت‌پذیری یعنی چه و به آن نیاز دارید. باید بتوانید به زیردست‌هایتان اطمینان دهید که یک نفر پاسخگوست و اگر شخصی کشته شد، چه کسی را باید مقصر بدانیم؟»

حدومرز

همان‌طور که سیستم‌های هوش مصنوعی هنگام خطا قابل مؤاخذه یا پاسخ‌گویی نیستند، به طور ذاتی محدود به مرزهایی هستند که داده‌های آموزشی، چارچوب‌های برنامه‌نویسی و محافظت‌های طراحی‌شده برایشان تعیین کرده‌اند. به عبارتی، آن‌ها نمی‌توانند فراتر از خودشان را ببینند. با وجود تمام هیاهوهای پیرامون توانایی‌هایشان در یادگیری و استدلال، مدل‌های هوش مصنوعی درون حصارهایی گرفتارند که انسان‌ها برایشان ساخته‌اند.

هرب لین در اینجا به «استانیسلاو پتروف» (Stanislav Petrov) سرهنگ دوم نیرو هوایی شورویکه در سال ۱۹۸۳ با تصمیمی حیاتی جهان را از نابودی نجات داداشاره می‌کند. پتروف در آن زمان تصمیم گرفت هشدار صادرشده از سوی سامانه هشدار هسته‌ای شوروی را به رده‌های فرماندهی بالاتر منتقل نکند. لین می‌گوید: «برای یک لحظه فرض کنیم پتروف آن پیام را طبق وظیفه‌اش منتقل می‌کرد… و بعد، فاجعه‌ای جهانی آغاز می‌شد. در این سناریو، خطا کجا رخ داده است؟ یک بار، ماشین خطا کرد؛ بار دوم، انسان متوجه نشد که این یک خطاست. اما سؤال این است که چطور یک انسان باید بفهمد که ماشین اشتباه می‌کند؟»

واقعیت این بود که پتروف نمی‌دانست ماشین اشتباه کرده؛ او صرفاً بر اساس تجربه و شهود شخصی‌اش حدس زد. رادار به او نشان داده بود که ایالات متحده پنج موشک پرتاب کرده است؛ اما او می‌دانست که اگر آمریکا قصد حمله واقعی داشته باشد، حمله‌ای همه‌جانبه خواهد بود، نه فقط پنج موشک. از سوی دیگر، رایانه‌های شوروی جدید بودند و سریع‌تر از همیشه عمل کرده بودند. همین موارد باعث شد پتروف تصمیمی مبتنی بر قضاوت انسانی بگیرد. لین ادامه می‌دهد: «آیا می‌توان انتظار داشت که انسان‌ها همیشه چنین عکس‌العملی داشته باشند؟ آیا چنین انتظاری عادلانه و منطقی است؟ نکته این است که برای چنین تصمیمی باید فراتر از داده‌های آموزشی خود حرکت کنید. باید از داده‌های آموزشی خود بیرون بیایید و بگویید: نه، داده‌های آموزشی من اشتباه می‌گویند؛ اما به طور ذاتی، هوش مصنوعی قادر به انجام چنین کاری نیست.»

در همین حال، دونالد ترامپ و پنتاگون آشکارا اعلام کرده‌اند که هوش مصنوعی یک اولویت راهبردی است و حتی برای توصیف آن از استعاره مسابقه تسلیحاتی هسته‌ای استفاده کرده‌اند. در ماه مه، وزارت انرژی آمریکا در پستی درشبکه اجتماعی Xاعلام کرد: «هوش مصنوعی، پروژه منهتن بعدی است و ایالات متحده این رقابت را خواهد بُرد.» همچنین، طرح «برنامه عملیاتی هوش مصنوعی» (AI Action Plan) دولت ایالات متحده، این فناوری را به‌عنوان یک مسابقه تسلیحاتی میان آمریکا و چین تصویر کرده است؛ رقابتی که در تصور دولت آمریکا باید به پیروزی آنان ختم شود.

لین نیز درباره این استعاره‌ها می‌گوید: «من فکر می‌کنم این توصیف‌ها وحشتناک هستند. برای اینکه وقتی پروژه منهتن تمام شد، دقیقاً می‌دانستم چه زمانی موفق بوده است و آمریکا یک سلاح هسته‌ای را منفجر کرد. اما واقعاً نمی‌دانم «پروژه منهتن برای هوش مصنوعی» یعنی چه.»

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.