مدیرعامل مایکروسافت: باید فرض کنیم همه مدل‌های هوش مصنوعی از کنترل خارج شده‌اند

«ساتیا نادلا»، مدیرعامل مایکروسافت، معتقد است باید مدل‌های هوش مصنوعی را از ابتدا با این چشم ببینیم که خطر دارند و باید برای مهار آن‌ها سازوکارهای کنترلی در نظر گرفت. او در مطلبی بر لزوم شفافیت بیشتر در عملکرد مدل‌ها، ثبت اقدامات آن‌ها و امکان متوقف‌کردن فعالیتشان در هر مرحله تأکید کرد.

نادلا در مطلبی مفصل درایکسنوشت زمان آن رسیده است که معماری اعتماد در هوش مصنوعی دوباره بررسی شود. به اعتقاد او، نمی‌توان مدل‌های پیشرفته هوش مصنوعی را مجموعه‌ای از «جعبه‌های سیاه تودرتو» در نظر گرفت و صرفاً توصیه‌ها، پاسخ‌ها و اقدامات آن‌ها را پذیرفت یا رد کرد.

او خواستار ایجاد ساختاری شد که در آن بتوان مدل‌ها را از سیستم‌های مدیریت و اجرای وظایفشان جدا کرد و کنترل‌ها و سازوکارهای حفاظتی را بیرون از خود مدل قرار داد. چنین رویکردی می‌تواند امکان نظارت مستقل‌تر بر عملکرد مدل‌ها را فراهم کند.

نظرات جدید مدیرعامل مایکروسافت درباره هوش مصنوعی

یکی از توصیه‌های اصلی مدیرعامل مایکروسافت، در نظر گرفتن احتمال به خطر افتادن مدل‌ها از همان ابتدای کار است. او دراین‌باره نوشت

«باید فرض را بر این بگذاریم که مدل از همان ابتدا از کنترل خارج شده است و باید آن را مهار کنیم. به این موضوع مانند ترمز اضطراری نگاه کنید. فردی که مجوز لازم را دارد، باید همیشه بتواند مدل را در میانه انجام یک وظیفه متوقف یا خاموش کند. مدل‌های پیشرفته‌تر به فناوری‌های مهار پیشرفته‌تری نیاز خواهند داشت که باید برای آن‌ها استانداردهای مشترکی تدوین کنیم.»

نادلا همچنین خواستار آن شد که هر اقدام مهم مدل‌های هوش مصنوعی با شواهدی قابل‌خواندن برای انسان و مقاوم در برابر دستکاری ثبت شود. هدف از این رویکرد، فراهم‌کردن امکان بررسی و ارزیابی عملکرد مدل‌ها و اقدامات آن‌هاست.

بخش زیادی از پیشنهادهای او با دیدگاه‌هایی که دیگر فعالان صنعت هوش مصنوعی مطرح کرده‌اند، هم‌راستاست. افشای به‌موقع رخدادها، حسابرسی مستقل، امکان راستی‌آزمایی داده‌ها و مهار مدل‌ها از جمله موضوعاتی هستند که در این بحث مطرح شده‌اند.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.