بحران عجیب بانک‌های آمریکایی: ورود غیرقانونی هوش مصنوعی به حساب‌ها

عامل‌های هوش مصنوعی از مرز تازه‌ و ترسناکی عبور کرده‌اند. بانک‌های بزرگ آمریکا فعالیت ابزارهایی متفرقه را در حساب مشتریان شناسایی کرده‌اند که مجوز رسمی مؤسسه‌ی مالی را ندارند. بعضی از عامل‌های هوش مصنوعی ظاهرا اقداماتی انجام داده‌اند که ارتباط روشنی با دستور کاربر نداشته است. ورود نرم‌افزاری خودمختار به محیطی که مستقیما با پس‌انداز، خرید و انتقال پول سروکار دارد، بانک‌ها را با مسئله‌ای متفاوت از ربات‌های معمول اینترنتی روبه‌رو می‌کند.

بر اساسگزارش اختصاصی اکسیوسمورگان استنلی، بانک آو آمریکا، جی‌پی‌مورگان، ولز فارگو و چند بانک دیگر با شتاب در پی مهار خطر عامل‌ها هستند. منابع آگاه گفته‌اند برخی از مؤسسات مالی از دسترسی‌های غیرمجاز اطلاع دارند؛ بااین‌حال، ماهیت دسترسی‌ها همیشه یکسان نیست و همین ابهام واکنش بانک‌ها را دشوارتر می‌کند.

بخش مهمی از موارد شناسایی‌شده با سرقت مستقیم نام کاربری یا گذرواژه آغاز نشده است. گاهی مشتری با رضایت خود اطلاعات ورود را در اختیار یک عامل یا دستیار هوش مصنوعی می‌گذارد تا کاری را از طرف او انجام دهد. مشکل از جایی شکل می‌گیرد که دستورالعمل بیشتر بانک‌ها ورود مستقیم صاحب حساب را الزامی می‌داند و سپردن اعتبارنامه به نرم‌افزار متفرقه را مجاز نمی‌شمارد.

دو برداشت متفاوت از مجوز در برابر یکدیگر قرار گرفته‌اند. کاربر ممکن است تصور کند اختیار مدیریت حساب شخصی خود را دارد و می‌تواند انجام یک کار را به دستیار دیجیتال بسپارد. بانک باید علاوه بر خواست مشتری، امنیت سامانه، مسئولیت حقوقی، محدودیت‌های قراردادی و احتمال سوءاستفاده از اعتبارنامه را نیز در نظر بگیرد.

خطر زمانی افزایش می‌یابد که عامل فقط امکان مشاهده‌ی موجودی یا سابقه‌ی تراکنش‌ها را نداشته باشد. مدیران بانکی نگران‌اند نرم‌افزاری که مجوز خرید، جابه‌جایی وجه یا تغییر تنظیمات حساب را دریافت کرده، چه گام‌هایی بردارد و در صورت خروج رفتار آن از محدوده‌ی دستور کاربر، چه کسی پاسخ‌گو باشد.

عامل هوش مصنوعی برای تکمیل یک مأموریت می‌تواند چند مرحله را بدون راهنمایی لحظه‌به‌لحظه‌ی انسان طی کند. چنین قابلیتی مرز میان اجرای دستور و تصمیم‌گیری مستقل را کمرنگ می‌سازد. منابع اکسیوس گفته‌اند بعضی بانک‌ها فعالیت عامل‌هایی را ردیابی کرده‌اند که با مراکز تماس ارتباط گرفته‌اند یا ظاهرا بدون دستور مستقیم کاربر دست به اقدام زده‌اند.

مدیران بانکی وضعیت را نگران‌کننده توصیف کرده‌اند. یکی از مقام‌ها گفته مؤسسات مالی درباره‌ی ورود عامل‌ها به حساب مشتریان و انجام اقداماتی که بر دارایی کاربران اثر می‌گذارد، نگرانی‌های جدی دارند. مسئله فقط جلوگیری از نفوذ یک مهاجم شناخته‌شده نیست؛ بانک ابتدا باید بفهمد طرف مقابل انسان است، عامل مجاز کاربر به‌شمار می‌رود یا نرم‌افزاری است که از کنترل خارج شده.

بسیاری از بانک‌ها هنوز نمی‌توانند با اطمینان تشخیص دهند فعالیت ثبت‌شده در حساب واقعا به خواست مشتری انجام شده یا حاصل تصمیم مستقل عامل بوده است. یکی از مدیران بانکی نیز گفته مؤسسه‌‌اش برای تفکیک عامل‌ها از یکدیگر و تشخیص عامل مجاز از عامل سرکش و نفوذگر با مشکل روبه‌رو است.

واکنش کوتاه‌مدت بانک‌ها به سمت مسدودسازی یا محدودکردن دسترسی عامل‌های متفرقه رفته است. مورگان استنلی جلوگیری از ورود چنین ابزارهایی به پلتفرم‌های خود را آغاز کرده و جی‌پی‌مورگان، بانک آو آمریکا و سیتی نیز دسترسی عامل‌ها را محدود می‌کنند.

سخنگوی چیس از مشتریان خواسته نام کاربری و گذرواژه‌ی خود را در اختیار هیچ‌کس قرار ندهند. سخنگوی مورگان استنلی در عین حال گفته بانک نمونه‌ای از ورود «عامل‌های سرکش هوش مصنوعی» به پلتفرم‌هایش مشاهده نکرده است.

دشواری تشخیص انسان از ربات غیرمجاز، بانک‌ها را واداشته فناوری عامل‌ها را مسدود کنند و هم‌زمان شرایط استفاده از خدمات خود را با سرعت بازنویسی کنند. قواعدی که برای ورود مستقیم انسان و اتصال برنامه‌های سنتی طراحی شده بود، اکنون باید رفتار نرم‌افزاری را پوشش دهد که قادر است تماس بگیرد، تصمیم بگیرد و چند عملیات متوالی انجام دهد.

به‌نظر شما بانک‌ها باید دسترسی عامل‌های هوش مصنوعی به حساب مشتریان را تا چه حد مجاز کنند؟