مدیرعامل مایکروسافت: همه مدل‌های هوش مصنوعی را نفوذپذیر فرض کنید

نادلا در یادداشتی در شبکه اجتماعی ایکس تأکید کرد که مهندسان باید از ابتدا فرض کنند مدل‌های هوش مصنوعی ممکن است نفوذپذیر یا دستکاری‌شده باشند. به‌گفته او، سامانه‌ها باید به‌گونه‌ای طراحی شوند که امکان کنترل و توقف آن‌ها در حین اجرا وجود داشته باشد؛ سازوکاری که او از آن با عنوان «ترمز اضطراری» یاد کرد.

نادلا همچنین بر افشای به‌موقع رخدادهای امنیتی، انجام حسابرسی‌های مستقل، استفاده از داده‌های قابل‌راستی‌آزمایی و تدوین استانداردهای مشخص برای مهار مدل‌های پیشرفته تأکید کرد. این پیشنهادها با هدف افزایش امنیت و نظارت‌پذیری سامانه‌های هوش مصنوعی، به‌ویژه با پیشرفت مدل‌های قدرتمندتر، مطرح شده‌اند.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.