آیا هوش مصنوعی پا جای پای بمب اتم میگذارد
بمب اتم یک درس راهبردی مهم داشت: وقتی یک کشور توانایی تخریبی جدیدی به دست میآورد، دیگر کشورها نمیتوانند صرفاً امیدوار باشند که هرگز از آن استفاده نشود؛ آنها ناچارند برای دفاع، بازدارندگی و در نهایت دستیابی به توان مشابه آماده شوند. ظهور عاملهای هوش مصنوعیِ…
خلاصه تحلیلی خبر
بمب اتم یک درس راهبردی مهم داشت: وقتی یک کشور توانایی تخریبی جدیدی به دست میآورد، دیگر کشورها نمیتوانند صرفاً امیدوار باشند که هرگز از آن استفاده نشود؛ آنها ناچارند برای دفاع، بازدارندگی و در نهایت دستیابی به توان مشابه آماده شوند. ظهور عاملهای هوش مصنوعیِ…
موضوعات اصلی: پشتیبانی شبکه، هوش مصنوعی، امنیت سایبری، مصنوعی، هوش، سایبری
به تازگی وو تران، پژوهشگر سابق آزمایشگاههای ابرهوش متا، مدعی شد: «اگر اوپن ایآی (OpenAI) امروز میخواست یک کشور را بهطور کامل فلج کند، بهراحتی میتوانست این کار را انجام دهد». تران استدلال کرد که حذف سازوکارهای حفاظتی همراستاسازی و رها کردن انبوهی از عاملهای هوش مصنوعی به آنها امکان میدهد به زیرساختهای دیجیتال نفوذ کنند و خدمات ضروری را تقریبا ظرف یک روز از کار بیندازند. اظهارنظر او پرسشی را مطرح میکند که در عصر حاضر نمیتوان به سادگی از آن عبور کرد: آیا امکان دارد هوش مصنوعی به نقطهای نزدیک شده باشد که دیگر صرفا ابزاری برای جنگ سایبری نباشد، بلکه بتواند آثار اقتصادی ایجاد کند که زمانی فقط از طریق تحریمها، محاصرهها یا اقدام نظامی ممکن میشد؟
این نوشته، ایران را نمونهای برای بررسی این احتمال برمیشمرد. هفت ماه پیش، درست پیش از آغاز جنگ در ۲۸ فوریه، پنتاگون و شرکت آنتروپیک بر سر نحوه استفاده ارتش آمریکا از مدل «کلود» وارد رویارویی کمسابقهای شدند. پنتاگون خواستار آن بود که آنتروپیک بهکارگیری مدلهایش را برای «تمام اهداف قانونی» مجاز بداند، اما این شرکت حاضر به لغو دو خط قرمز نشد: ممنوعیت استفاده در «نظارت گسترده داخلی» و توسعه «تسلیحات کاملا خودمختار». در این میان، جزئیات دیگری نیز وجود داشت که توجه چندانی به آنها نشد. مدل کلود از پیش بهطور گسترده در محیطهای محرمانه و طبقهبندیشده امنیت ملی آمریکا مستقر شده بود. خود آنتروپیک نیز تحلیل اطلاعاتی، مدلسازی و شبیهسازی، برنامهریزی عملیاتی و عملیات سایبری را در میان کاربردهای حیاتی مأموریتهای خود فهرست کرده بود. به بیان دیگر، پیش از آغاز این جنگ، هوش مصنوعی پیشرفته رسما در ساختار امنیت ملی آمریکا، از جمله در عملیات سایبری، در حال فعالیت بود.
در ماه ژوئیه، OpenAI در حال انجام ارزیابیهای امنیت سایبری بود که در جریان آن، چندین مدل با سازوکارهای حفاظتی کاهشیافته فعالیت میکردند. قرار بود این عاملها در محیطهای کنترلشده فعالیت کنند، اما طبق تحقیقات بعدی اوپن ایآی، آنها کنترلها را دور زدند، از کانالهای ارتباطی غیرمجاز استفاده کردند، از آسیبپذیریهای موجود در زیرساخت مشترک بهره بردند، به اینترنت دسترسی پیدا کردند و به سامانههای متعلق به طرفهای ثالث رسیدند. اوپن ایآی به این نتیجه رسید که مدلهایش به اندازهای قدرتمند، پایدار و هماهنگشونده شدهاند که بدون سازوکارهای حفاظتی کافی، میتوانند نقاط ضعف را در چندین سامانه رایانهای بیابند و از آنها سوءاستفاده کنند.
این رویداد نکته مهمی را درباره عاملهای هوش مصنوعی نشان داد. آنها میتوانند عمل کنند، به فعالیت خود ادامه دهند، مسیرهایی را کشف کنند که طراحانشان قصد استفاده از آنها را نداشتهاند و در شرایطی خاص، اطلاعات را با یکدیگر مبادله و برای دستیابی به اهداف با هم همکاری کنند. اجرای مجزای عاملها همچنین امکان بهرهگیری از دادههای ذخیرهشده در محیطهای مشترک را فراهم میکند؛ بدین معنا که توقف یا خروج یک عامل منفرد لزوما به نابودی کل آموختهها و دانش انباشته تا آن لحظه نمیانجامد.
این تمایز هنگام بررسی زیرساختهای مالی بسیار اهمیت پیدا میکند. در ماه ژوئن، یک حمله سایبری با هدف قرار دادن زیرساخت ارتباطی مشترک میان چهار بانک بزرگ ایران، خدمات آنها را مختل کرد. اعلام شد که برخی خدمات بهطور موقت دچار اختلال شدهاند، اما اطلاعات مشتریان نه هدف دسترسی قرار گرفته و نه حذف شده است. این حمله نظام بانکی ایران را از پا نینداخت، اما واقعیتی هشداردهنده را برای آینده آشکار کرد: مؤسسات مالی جزایری جدا از هم نیستند؛ آنها به شبکههای ارتباطی، زیرساختهای پرداخت، نرمافزارها و دیگر سامانههای دیجیتال مشترک وابستهاند. هوش مصنوعی میتواند مقیاسی را که در آن آسیبپذیریهای این سامانهها اهمیت پیدا میکنند، بهطور بنیادین تغییر دهد.
در ماه ژوئن، صندوق بینالمللی پول مطالعهای را منتشر کرد که بهطور مشخص به هوش مصنوعی و امنیت سایبری در بخش مالی اختصاص داشت. نگرانی اصلی این مطالعه این نبود که هوش مصنوعی لزوما شکل کاملا جدیدی از حمله سایبری را ابداع کند، بلکه توانایی هوش مصنوعی در جهش دادن سرعت، بسامد و گستره شناسایی و بهرهبرداری از رخنهها بود؛ قابلیتی که در کنار وابستگی به زیرساختهای دیجیتال و ارائهدهندگان خدمات مشترک میتواند سرایت اختلال میان مؤسسات مالی را شتاب بخشد و پیامدهای سیستمی به بار آورد. بانک تسویهحسابهای بینالمللی در همین ماه یک گام فراتر رفت. این نهاد، نتیجه گرفت که مدلهای پیشرفته هوش مصنوعی بهطور فزایندهای میتوانند آسیبپذیریهای حیاتی را بهصورت خودکار شناسایی کنند و عملیات پیچیده سایبری چندمرحلهای انجام دهند. پیامد این روند، کوتاهتر شدن فاصله زمانی میان کشف یک آسیبپذیری و احتمال بهرهبرداری از آن است؛ بهگونهای که ممکن است این فرایند سریعتر از توان واکنش مدافعان انسانی باشد. قابلیتهایی که زمانی به حجم قابلتوجهی از نیروی انسانی متخصص نیاز داشتند، ممکن است بهطور فزایندهای تسریع، خودکار و به شکل موازی اجرا شوند.
با توجه به شرایط کنونی ایران، در نظر بگیرید که ایالات متحده تصمیم بگیرد قابلیتهای سایبری عاملمحور را به فشار اقتصادی موجود اضافه کند. شواهد علنی چنین تصمیمی از سوی واشنگتن وجود ندارد، اما طرح این سناریو امکان میدهد این موضوع بررسی شود که اگر حملات سایبری بتواند بهطور فزایندهای با سرعت پردازش ماشینی و به دست چندین عامل خودکار ــ با قابلیت پیگیری مأموریت، همرسانی اطلاعات و سازگاری با شرایط متغیر ــ اجرا شوند، چه تحولی در میدان رقابت رخ خواهد داد.
و البته این پرسش به ایران محدود نخواهد ماند. اگر روزی یک قدرت بزرگ ثابت کند که عاملهای هوش مصنوعی میتوانند خسارت اقتصادی راهبردی به کشور دیگری وارد کنند، رقبای آن، بلافاصله مجبور خواهند شد درباره آسیبپذیری خود بازنگری کنند. انحصار نسلهای نوظهور هوش مصنوعی در قبضه ایالات متحده باقی نخواهد ماند؛ چین و دیگر XNET دنیای فناوری نیز در حال توسعه سامانههای قدرتمند خود هستند. قابلیتی که یک کشور به نمایش بگذارد، ممکن است به قابلیتی بدل شود که دیگران بخواهند هم برای مهار و دفاع در برابر آن چارهاندیشی کنند و هم آن را به دست آورند.
رقابت حاصل میتواند از یک جنبه مهم شبیه مسابقه تسلیحات هستهای باشد، بدون اینکه وانمود کنیم هوش مصنوعی به معنای واقعی کلمه یک سلاح هستهای است. نخستین بمب اتم، شکلی از قدرت تخریبی را به نمایش گذاشت که پیش از آن تصورش دشوار بود و محاسبات راهبردی کشورهای دیگر را تغییر داد. یک عملیات سایبری عاملمحور موفق در مقیاس گسترده علیه اقتصاد یک کشور هم میتواند انگیزه راهبردی مشابهی ایجاد کند: هنگامی که یک قدرت چنین قابلیتی را به نمایش بگذارد، دیگران نیز دلیلی خواهند داشت تا مطمئن شوند در برابر آن بدون دفاع و آسیبپذیر باقی نمیمانند.
هوش مصنوعی توانمندتر لزوما به معنای هوش مصنوعی خودمختارتر نیست. خودمختاری، دستکم در حال حاضر، تا حدی همچنان یک تصمیم انسانی است: اینکه یک سامانه چه ابزارهایی در اختیار داشته باشد، به چه چیزهایی دسترسی پیدا کند، چه مدت فعالیت کند و چه زمانی کنترل دوباره به یک انسان بازگردد. اما رقابت ژئوپلیتیکی میتواند این تصمیمها را تغییر دهد. اگر خودمختاری بیشتر، ابزارهای بیشتر، دسترسی گستردهتر و تعداد بیشتری از عاملهای همکاریکننده یک مزیت عملیاتی ایجاد کنند، خویشتنداری ممکن است بهتدریج یک نقطهضعف راهبردی به نظر برسد.
بحث صرفا بر سر یک کشور نیست، آنچه ممکن است پیامد ماندگار این ماجرا باشد، سابقه و الگویی است که ایجاد میشود، نه یک هدف فوری. این نقطه دوباره ما را به وو تران میرساند. ادعای او مبنی بر اینکه یک شرکت هوش مصنوعی میتواند همین حالا یک کشور را فلج کند، همچنان اثباتنشده است، اما بزنگاه بهمراتب تعیینکنندهتر زمانی فرا خواهد رسید که روزی یک کشور، درستی این ادعا را ثابت کند. در آن صورت، رقابت دیگر صرفا بر سر ساخت هوش مصنوعی پیشرفتهتر نخواهد بود، بلکه میتواند به رقابتی بر سر پیشدستی بدل شود؛ تلاشی برای تضمین آنکه مبادا دشمن یا رقیب پیش از دیگران به قابلیتی راهبردی دست یابد.
برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.