مدیرعامل مایکروسافت: تمام مدل‌های هوش مصنوعی را نفوذپذیر فرض کنید

دنیای هوش مصنوعی شتابان پیش می‌رود و نگرانی‌ها درباره‌ی مهارناپذیرشدن مدل‌های پردازشی روزبه‌روز افزایش می‌یابد.ساتیا نادلامدیرعامل مایکروسافت، دریادداشتی مفصل در شبکه‌ی اجتماعی ایکسدیدگاه‌های مهمی را درباره‌ی خطرات احتمالی مدل‌های پیشرفته مطرح کرد و راهکارهایی را برای مدیریت بحران‌های پیش رو برشمرد.

به باور نادلا، دیگر نمی‌توان پذیرفت که فناوری نوین صرفا مجموعه‌ای از جعبه‌های سیاه تودرتو باشد که انسان چاره‌ای جز پذیرش یا رد کردن بی‌چون‌وچرای خروجی‌های آن‌ها نداشته باشد.

مدیر ارشد مایکروسافت معتقد است نگرش امنیتی مهندسان باید دگرگون شود و همه‌ی مدل‌ها از همان گام نخست، هک‌شده یا نفوذپذیر در نظر گرفته شوند. از نگاه او، معماری سامانه‌های مدرن باید به‌گونه‌ای طراحی شود که امکان مهار کامل، نظارت مستمر و بر جای ماندن شواهد خوانا و غیرقابل‌دستکاری برای انسان فراهم باشد.

بسیاری از پیشنهادهای نادلا با راهبردهای پذیرفته‌شده در صنعت فناوری هم‌پوشانی دارند. محورهای کلیدی تدابیر او عبارتند از

• افشای به‌موقع و شفاف رخدادها و نقص‌های امنیتی.
• حسابرسی‌های مستقل پیرامون سازوکار مدل‌ها.
• به‌کارگیری داده‌های قابل‌راستی‌آزمایی.
• پیاده‌سازی سازوکارهای مهار همه‌جانبه.

نادلا در مبحث مهار فراتر از رویکردهای مرسوم رفت و با ارائه‌ی ایده‌ی ترمز اضطراری گفت: «باید فرض کنیم مدل از آغاز نفوذپذیر و دستکاری‌شده است و آن را مهار کنیم. چنین تمهیدی را می‌توان مانند یک ترمز اضطراری در نظر گرفت. فرد مجاز باید همواره توانایی متوقف ساختن یا خاموش کردن سامانه‌ها را در میانه‌ی اجرای فرآیند داشته باشد. مدل‌های پیشرفته‌تر به فناوری‌های مهار پیچیده‌تری نیاز دارند که باید درباره‌ی آن‌ها به یک استاندارد مشخص برسیم.»

نکته‌ی مهم در پست مدیرعامل مایکروسافت، اشاره‌ی مکرر به اصطلاحابرهوشاست؛ کلیدواژه‌ای که نشان می‌دهد غول‌های فناوری نگاهی جدی به آینده‌ی پرریسک سامانه‌ها دارند و تبیین پروتکل‌های سخت‌گیرانه برای مقابله با خطرات غیرقابل‌پیش‌بینی را ضرورتی فوری قلمداد می‌کنند.