باید برای پیامدهای ژئوپلیتیکی هوش مصنوعی آماده شویم

در عصر هسته‌ای که پس از ساخت بمب اتم توسط اوپنهایمر آغاز شد، انحصار فناوری آمریکا تنها حدود چهار سال دوام آورد؛ پیش از آن که دانشمندان شوروی به برابری دست یابند. این توازن هراس جهانی، همراه با قدرت ویرانگر بی‌سابقه این سلاح به ظهور رویکرد «نابودی تضمین‌شده متقابل» (Mutual Assured Destruction – MAD) انجامید؛ چارچوبی برای بازدارندگی که با وجود همه نواقصش، برای دهه‌ها از بروز جنگی فاجعه‌بار جلوگیری کرد. تهدید تلافی هسته‌ای مانع از آن شد که هر یک از طرفین ضربه نخست را وارد کند و در نتیجه، نوعی بن‌بست پرتنش اما پایدار ایجاد شد.

رقابت هوش مصنوعی امروز می‌تواند از عصر هسته‌ای نیز پیچیده‌تر باشد؛ زیرا هوش مصنوعی فناوری‌ای با کاربردی بسیار گسترده است که تقریباً تمام حوزه‌ها از پزشکی و مالی تا دفاعی را در برمی‌گیرد. هوش مصنوعی قدرتمند حتی ممکن است پژوهش در خودِ هوش مصنوعی را خودکار کند و بدین ترتیب، نخستین کشوری که به چنین سطحی دست یابد، برتری فراتر از تصوری در قدرت دفاعی و تهاجمی پیدا کند.

کشوری که در آستانه دستیابی به هوش مصنوعی ابرهوشمند (Superintelligent AI) قرار دارد، تهدیدی وجودی برای امنیت ملی رقبای خود به شمار می‌رود؛ رقبایی که شاید ترجیح دهند با تهدید به خرابکاری مانع شوند تا قدرت را واگذار کنند. اگر جهان به سمت ظهور ابرهوش حرکت می‌کند، باید نسبت به خطر بی‌ثباتی ژئوپلیتیکی پیشِ رو آگاه و گوش‌به‌زنگ باشیم.

بیایید تصور کنیم که ایالات متحده چگونه ممکن است به رقبایی که در پی دستیابی به برتری مطلق در حوزه هوش مصنوعی هستند، پاسخ دهد. فرض کنید پکن از آزمایشگاه‌های آمریکایی پیشی گرفته و به آستانه هوش مصنوعی ابرهوشمند با قابلیت بهبود بازگشتی رسیده باشد. صرف‌نظر از این که چین بتواند بر محصول خود کنترل کامل داشته باشد یا نه، امنیت ملی ایالات متحده به طور بنیادین و وجودی تهدید خواهد شد. در چنین شرایطی، آمریکا ممکن است به تهدید خرابکاری مثلاً از طریق حملات سایبری به مراکز داده هوش مصنوعی چین متوسل شود تا مانع دستیابی پکن به اهدافش شود.

به طور مشابه، می‌توان انتظار داشت که «شی جین‌پینگ» یا حتی «ولادیمیر پوتین» که احتمال دستیابی زودهنگام به این فناوری برایش اندک است نیز درصورتی‌که آمریکا به آستانه «ابرهوش بهبود بازگشتی» (Recursively-Improving Superintelligence) نزدیک شود، واکنشی مشابه نشان دهند. هیچ‌یک از آن‌ها در برابر احتمال انحصار قدرت توسط ایالات متحده بی‌تفاوت نخواهند ماند. همان‌گونه که تلاش ناپایدار برای انحصار هسته‌ای، سرانجام به توازن پایدار MAD انجامید، ممکن است در آینده وارد مرحله‌ای مشابه در زمینه هوش مصنوعی شویم. اگر هر کشوری که در پی سلطه کامل بر هوش مصنوعی باشد، بداند در معرض خطر خرابکاری پیش‌دستانه است احتمالاً از تلاش برای قدرت یک‌جانبه بازداشته می‌شود.

ما این وضعیت را «نقض عملکرد تضمین‌شده متقابل در هوش مصنوعی» (Mutual Assured AI Malfunction – MAIM) می‌نامیم. با بیداری دولت‌ها نسبت به این احتمال، انتظار می‌رود این چارچوب به نظام بازدارندگی پیش‌فرض جهانی تبدیل شود و ما باید از همین امروز خود را برای این واقعیت راهبردی تازه آماده کنیم. MAIM چارچوبی بازدارنده است که برای حفظ برتری راهبردی، جلوگیری از تشدید تنش‌ها و محدودکردن جاه‌طلبی‌های رقبای خصمانه طراحی شده است. برای مؤثربودن آن، ایالات متحده باید به‌صراحت اعلام کند که هر پروژه بی‌ثبات‌کننده هوش مصنوعی به‌ویژه پروژه‌هایی که در پی ابرهوش هستند، با واکنش تلافی‌جویانه روبه‌رو خواهد شد. در اینجا، حمله یا دست‌کم تهدید معتبر به حمله، می‌تواند بهترین دفاع باشد.

این امر مستلزم گسترش توانایی‌های حمله سایبری و افزایش نظارت بر برنامه‌های هوش مصنوعی دشمنان است. هم‌زمان با ایجاد این چارچوب بازدارندگی، آمریکا باید در دو جبهه دیگر نیز پیشروی کندعدم اشاعه هوش مصنوعی و افزایش رقابت‌پذیری داخلی.

در حوزه عدم اشاعه، باید کنترل‌های سخت‌گیرانه‌تری بر صادرات تراشه‌های هوش مصنوعی اعمال شود تا توان محاسباتی به دست افراد یا دولت‌های خطرناک نیفتد. تراشه‌های هوش مصنوعی باید همانند اورانیوم تلقی شوند؛ ثبت دقیق مسیر جابه‌جایی محصولات، اعمال محدودیت در کارکرد تراشه‌های پیشرفته و اعطای اختیار قانونی به نهادهای فدرال برای ردیابی و مسدودکردن مسیرهای توزیع غیرقانونی.

در نهایت برای حفظ برتری رقابتی، ایالات متحده باید بر تاب‌آوری زنجیره‌های تأمین در فناوری‌های نظامی و محاسباتی تمرکز کند. وابستگی فعلی به تایوان برای تولید تراشه‌های هوش مصنوعی یک آسیب‌پذیری آشکار و گلوگاه حیاتی است. درحالی‌که غرب همچنان برتری قاطع در حوزه تراشه دارد، رقابت چین می‌تواند این برتری را تهدید کند. بنابراین آمریکا باید طراحی و تولید داخلی تراشه‌های پیشرفته را تقویت کند.

هوش مصنوعی ابرهوشمند، چالشی است به‌سختی هر مسئله‌ای که سیاست‌گذاران تاکنون با آن روبه‌رو بوده‌اند. این همان چیزی است که نظریه‌پردازان «هورست ریتل» (Horst Rittel) و «ملوین وبر» (Melvin Webber) آن را «مسئله بدذات» (Wicked Problem) نامیدند؛ مسئله‌ای که همواره در حال تحول است و هیچ راه‌حل نهایی ندارد.

چارچوب MAIM، در کنار سیاست‌های قوی‌تر برای عدم اشاعه و سرمایه‌گذاری مجدد در صنعت داخلی آمریکا، می‌تواند راهبردی ارائه دهد که بر درس‌های رقابت‌های تسلیحاتی گذشته تکیه دارد. هیچ راه‌حل صرفاً فنی‌ای وجود ندارد که بتواند این نیروها را مهار کند، اما ترکیب مناسب بازدارندگی، کنترل اشاعه و تقویت رقابت‌پذیری می‌تواند به ایالات متحده کمک کند تا در مسیر واقعیت ژئوپلیتیکی نوظهورِ ابرهوش حرکت کند.

دن هندریکس – مدیر مرکز ایمنی هوش مصنوعی
اریک اشمیت – مدیرعامل و رئیس پیشین گوگل

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.