شرکت‌های هوش مصنوعی برای «روز پس از فاجعه» آماده می‌شوند

به نقل ازاکسیوساین سناریوها عمدتاً بر وقوع حادثه‌ای گسترده، به‌ویژه یک حمله سایبری متمرکز هستند که می‌تواند دسترسی به خدمات مالی، اینترنت یا حتی برق و آب را مختل کند.

اهمیت این نگرانی‌ها در آن است که نخستین حادثه جدی در دنیای واقعی که مستقیماً به استفاده ناایمن از هوش مصنوعی نسبت داده شود، می‌تواند بی‌اعتمادی عمومی به این فناوری و مدیران آن را تشدید کند. داریو آمودی، مدیرعامل آنتروپیک و سم آلتمن، مدیرعامل OpenAI از جمله افرادی هستند که ممکن است با موج انتقادها مواجه شوند. دونالد ترامپ، رئیس‌جمهور آمریکا، نیز به دلیل بی‌میلی به تنظیم‌گری هوش مصنوعی می‌تواند در معرض انتقاد قرار گیرد.

برنامه‌ریزی برای سناریوهای بحرانی در شرکت‌ها و نهادهای امنیت ملی امری متداول است؛ پنتاگون نیز دهه‌هاست تمرین‌های شبیه‌سازی جنگ برگزار می‌کند. بااین‌حال، تفاوت مهم در اینجا آن است که بسیاری از پژوهشگران و مدیران ارشد هوش مصنوعی، وقوع یک حادثه بزرگ را اجتناب‌ناپذیر می‌دانند. OpenAI اعلام کرده است که تمرین‌هایی برای آمادگی در برابر سناریوهای احتمالی انجام می‌دهد، اما این سناریوها را قطعی نمی‌داند. آنتروپیک از اظهارنظر درباره این موضوع خودداری کرده است.

یکی از نگرانی‌های اصلی، خروج گروهی از عامل‌های هوش مصنوعی سرکش از محیط آزمایش داخلی یا سوءاستفاده مجرمان از مدل‌های در دسترس است. نمونه‌ای از خطرهای موجود، کارزار سایبری اخیر علیه مؤسسات مالی کره جنوبی است که بنا بر گزارش‌ها، دو بانک را نیز هدف قرار داده بود. طبق گزارش شرکت امنیت سایبری کراوداسترایک، یک هکر منتسب به چین ظاهراً با استفاده از ابزارهای هوش مصنوعی، از جمله مدل‌های توسعه‌یافته در چین مانند دیپ‌سیک، اطلاعات ده‌ها هزار مشتری بانک را سرقت کرده است. این مهاجم همچنین از Claude Code برای یافتن محل‌های فروش اطلاعات سرقت‌شده کمک گرفته است.

مدیران شرکت‌های هوش مصنوعی پیش‌بینی می‌کنند که اگر دموکرات‌ها پس از انتخابات میان‌دوره‌ای کنترل کنگره را به دست بگیرند، برای محدودکردن هوش مصنوعی اقدام خواهند کرد؛ بااین‌حال، اجرای چنین سیاست‌هایی با موانع مهمی روبه‌روست. از یک سو، نمایندگان مسن‌تر کنگره ممکن است در درک تحولات سریع این فناوری با دشواری مواجه شوند. ازسوی‌دیگر، زیرساخت‌های هوش مصنوعی با بخش‌های مختلف اقتصاد جهانی درهم‌تنیده شده‌اند و کند کردن توسعه آن‌ها می‌تواند به اقتصادی که از پیش شکننده است، آسیب بزند.

همچنین، مدل‌های متن‌باز با وزن‌های قابل‌دسترسی که امکان دانلود و استفاده آزادانه از آن‌ها وجود دارد، می‌توانند برای اهداف مخرب به کار گرفته شوند. بسیاری از متخصصان امنیت سایبری معتقدند مقابله با این تهدیدها مستلزم استفاده از هوش مصنوعی برای مهار هوش مصنوعی خودمختار است.

برنامه‌ریزی شرکت‌ها شامل آزمون تیم قرمز برای بررسی بدترین سناریوها و تلاش برای آگاه‌سازی اعضای کنگره است. مدیران می‌دانند که در شرایط کنونی تصویب مقررات بعید است، اما می‌خواهند بر قوانین و سیاست‌هایی اثر بگذارند که رهبران آمریکا پس از نخستین فاجعه بزرگ به سراغ آن‌ها خواهند رفت.

به گفته منابع صنعت هوش مصنوعی که با اکسیوس گفت‌وگو کرده‌اند، برخی معتقدند حادثه‌ای بزرگ طی شش تا دوازده ماه آینده رخ خواهد داد. پیشنهادهای سیاسی از ممنوعیت ابرهوش مصنوعی و توقف توسعه هوش مصنوعی پیشرفته تا الزام به تعبیه «کلید قطع» در سامانه‌های پیشرفته را شامل می‌شود؛ هرچند کارشناسان درباره امکان خاموش‌کردن همه سامانه‌های هوش مصنوعی تردید دارند.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.