این نظارت‌های گسترده که جزئیات تازه‌ای از آن برای نخستین بار در این گزارش منتشر شده، نشان‌دهنده افزایش نگرانی‌ها درباره پیامدهای پیشرفت سریع مدل‌های پیشرفته هوش مصنوعی است. منابع آگاه می‌گویند این تحولات ممکن است بانک‌ها را به سرمایه‌گذاری‌های پرهزینه برای بازیابی سامانه‌های سایبری، توجه بیشتر به وابستگی به تأمین‌کنندگان فناوری بیرونی و در برخی کشورها، پیروی از دستورالعمل‌های رسمی‌تر نظارتی وادار کند.

سه نهاد ارشد نظارتی آمریکا، از جمله فدرال رزرو، در حال پرس‌وجو از بانک‌ها درباره نحوه استفاده آن‌ها از مدل‌های پیشرفته هوش مصنوعی هستند. این اقدام در ادامه نظارت‌های پیشین بر کاربرد هوش مصنوعی در شرکت‌های مالی انجام می‌شود.

به گفته دو منبع آگاه، پرسش‌های نهادهای آمریکایی شامل این موارد است که آیا بانک‌ها از فناوری‌های توسعه‌یافته در چین استفاده می‌کنند یا خیر. همچنین، مقام‌های نظارتی بررسی می‌کنند که آیا بانک‌ها از عامل‌های هوش مصنوعی در دفاع سایبری بهره می‌برند و تا چه اندازه می‌توانند سامانه‌هایی را که به‌طور فزاینده‌ای مستقل عمل می‌کنند، کنترل کنند.

در اروپا نیز نهادهای ناظر، از جمله بانک مرکزی انگلیس و بانک مرکزی اروپا، بانک‌ها را برای بهبود برنامه‌های بازیابی و تداوم فعالیت تحت فشار قرار داده‌اند. نگرانی آن‌ها این است که پیشرفت سریع هوش مصنوعی زودتر از پیش‌بینی‌های قبلی، آسیب‌ها و اختلال‌های جدی در بازارهای مالی ایجاد کند.

یکی از مدیران ارشد یک بانک بزرگ اروپایی گفته است که آن‌ها نیز نگران وقوع آسیب‌های گسترده به نظام بانکی و بازارهای مالی «در شش ماه آینده» هستند.

نگرانی از حملات سایبری و عامل‌های خودمختار هوش مصنوعی

بحث درباره نظارت بر هوش مصنوعی پس از چند رویداد اخیر و هشدارهای فعالان صنعت شدت گرفته است. جیمی دایمن، مدیرعامل بانک جی‌پی مورگان، از مدیران شرکت‌ها خواسته است به یک گروه صنعتی با محوریت آمریکا بپیوندند که برای مقابله با خطرات هوش مصنوعی فعالیت می‌کند.

شرکت آمریکایی امنیت سایبری کراوداسترایک در همین ماه اعلام کرد که احتمالاً فردی در چین با استفاده از یک عامل هوش مصنوعی توسعه‌یافته در این کشور و ابزار Claude Code شرکت آنتروپیک، در حمله به بانک‌های کره جنوبی نقش داشته است.

همچنین، طبق گزارش پیشین رویترز، عامل‌های هوش مصنوعی کنترل‌نشده توسعه‌یافته توسط شرکت OpenAI در رخنه‌ای امنیتی در پلتفرم هوش مصنوعی Hugging Face نقش داشته‌اند.

پژوهشگران آنتروپیک نیز هشدار داده‌اند که سامانه‌های قدرتمندتر هوش مصنوعی ممکن است در آینده از کنترل انسان خارج شوند و حتی تهدیدی وجودی ایجاد کنند؛ نگرانی‌ای که درخواست‌ها برای مقررات سخت‌گیرانه‌تر را افزایش داده است.

در همین حال، بانک‌ها برای افزایش بهره‌وری به‌سرعت در حال استفاده از عامل‌های هوش مصنوعی (Agentic AI) هستند؛ سامانه‌هایی که می‌توانند با حداقل نظارت انسانی، وظایف مختلف را انجام دهند. با این حال، بانک‌ها هم‌زمان باید با چالش‌های مدل‌های جدید و ضعف‌های فناوری اطلاعات که ابزار Mythos شرکت آنتروپیک آشکار کرده است، مقابله کنند.

مایکل وودبریج، شریک حوزه امنیت سایبری در شرکت گرنت تورنتون در لندن، می‌گوید: «پذیرش هوش مصنوعی اغلب سریع‌تر از توانایی ایجاد سازوکارهای کنترلی برای آن پیش می‌رود.»

آمریکا بر کنترل عامل‌های هوش مصنوعی تمرکز دارد

پرس‌وجوهای نهادهای نظارتی آمریکا عمدتاً بر نحوه استفاده بانک‌ها از عامل‌های هوش مصنوعی در حوزه‌هایی مانند امنیت سایبری متمرکز است. یکی از محورهای اصلی، بررسی چگونگی استفاده از این عامل‌ها برای شناسایی تهدیدها، اولویت‌بندی خطرات و واکنش به حملات سایبری است.

به گفته دو منبع آگاه، دفتر نظارت بر ارز آمریکا (OCC)، شرکت بیمه سپرده‌های فدرال (FDIC) و فدرال رزرو درباره محدودیت‌های اعمال‌شده بر این سامانه‌ها، نحوه نظارت و تأیید اقدامات آن‌ها و امکان ردیابی و حسابرسی تصمیم‌های عامل‌های هوش مصنوعی از بانک‌ها سؤال کرده‌اند.

مقام‌های نظارتی همچنین می‌خواهند بدانند چه تدابیری برای جلوگیری از فراتر رفتن این عامل‌ها از اختیارات تعیین‌شده وجود دارد، آیا انسان‌ها همچنان در تصمیم‌های کلیدی دخالت دارند و بانک‌ها چگونه می‌توانند سامانه‌های خودمختار را در صورت لزوم متوقف کنند.

این سه نهاد از اظهارنظر درباره این موضوع خودداری کرده‌اند.

منابع آگاه می‌گویند پرسش‌های کتبی و شفاهی از بانک‌های بزرگ، متوسط و کوچک نشان می‌دهد که نهادهای نظارتی، علاوه بر بررسی استفاده از مدل‌های پیشرفته هوش مصنوعی، به خطرات سایبری جدید، مدل‌های توسعه‌یافته در کشورهای خارجی و آمادگی بانک‌ها برای واکنش به حوادث احتمالی توجه ویژه‌ای دارند.

با این حال، منابع تأکید کرده‌اند که نهادهای نظارتی همچنان در مرحله جمع‌آوری اطلاعات هستند و هنوز دستورالعمل‌های الزام‌آور و مشخصی درباره اقداماتی که بانک‌ها باید انجام دهند، ارائه نکرده‌اند.

اروپا به دنبال تضمین بازیابی سریع بانک‌ها پس از حمله

در بریتانیا، نهادهای نظارتی به بزرگ‌ترین بانک‌ها توصیه کرده‌اند برنامه‌هایی برای بازیابی کامل سامانه‌های فناوری اطلاعات در شرایط بحرانی تدوین کنند. این برنامه‌ها بر استفاده از زیرساخت‌هایی مستقل از سامانه‌های اصلی بانک متمرکز هستند تا در صورت نفوذ یا از کار افتادن سامانه‌های عملیاتی، امکان بازگرداندن خدمات فراهم شود.

البته ایجاد و نگهداری چنین زیرساخت‌های پیشرفته‌ای هزینه زیادی دارد. به گفته منابع آگاه، مقام‌های بریتانیایی قصد دارند به‌جای وضع الزامات جدید، با فعالان صنعت همکاری کنند. بانک مرکزی انگلیس نیز از اظهارنظر در این زمینه خودداری کرده است.

بانک مرکزی اروپا در ماه ژوئیه به بانک‌ها تا پایان اکتبر مهلت داده بود برنامه‌های خود را برای مقابله با تهدیدهای سایبری مبتنی بر هوش مصنوعی ارائه کنند. این برنامه‌ها باید شامل بهبود سازوکارهای پشتیبان‌گیری و بازیابی سامانه‌ها باشد.

این نهاد اروپایی در پاسخ به پرسش‌ها درباره راهبرد خود برای تنظیم‌گری هوش مصنوعی، به نامه ماه ژوئیه و سخنرانی ماه ژوئن فرانک الدرسون، عضو هیئت‌مدیره خود، ارجاع داد. الدرسون در آن سخنرانی بر ضرورت ایجاد حس فوریت در برابر تهدیدها، بدون ایجاد هراس، تأکید کرده بود.

ضرورت اقدام نظارتی پس از آن جدی‌تر شد که بانک‌ها و نهادهای نظارتی اروپایی از دسترسی محدود خود به ابزار Mythos شرکت آنتروپیک در سال جاری ابراز نارضایتی کردند. نگرانی آن‌ها این است که بانک‌های آمریکایی زودتر از مؤسسات اروپایی به مدل‌های پیشرفته دسترسی پیدا کنند و فرصت آزمایش آن‌ها را در اختیار داشته باشند.

نهادهای نظارتی بریتانیا نیز مانند همتایان آمریکایی خود، از بانک‌ها خواسته‌اند از مدل‌های پیشرفته هوش مصنوعی برای شناسایی آسیب‌پذیری‌ها و تسریع در رفع نقص‌های امنیتی استفاده کنند. به گفته یکی از منابع، بانک‌ها تاکنون در این زمینه عملکرد خوبی داشته‌اند.

منبع دیگری گفته است که از بانک‌های منطقه یورو خواسته شده نحوه استفاده از هوش مصنوعی در بخش‌های مختلف کسب‌وکار و نزد ارائه‌دهندگان خدمات بیرونی را مشخص کنند. هدف این است که وابستگی‌های مهم فناوری شناسایی شود و اطمینان حاصل شود که سامانه‌ها را می‌توان به‌شکلی کنترل‌شده خاموش و دوباره راه‌اندازی کرد.

با این حال، به گفته منابع آگاه، در برخی مؤسسات همچنان شکاف‌های قابل توجهی در این زمینه وجود دارد.

سوکاند رامچاندران، مدیرعامل و شریک ارشد شرکت مشاوره بوستون (BCG)، می‌گوید: «برای محافظت در برابر حملات، بازیابی سریع به‌اندازه پیشگیری اهمیت دارد.»

او هشدار داد که بدون نسخه‌های جداگانه، پاک و ایمن از داده‌های حیاتی، یک حمله جدی می‌تواند دسترسی مشتریان به حساب‌های بانکی‌شان را قطع کند و پرداخت‌ها را در بخش‌های گسترده‌تری از اقتصاد مختل سازد.

انتهای پیام