مدیرعامل مایکروسافت: مدل‌های هوش مصنوعی به ترمز اضطراری نیاز دارند

ساتیا نادلا، مدیرعامل مایکروسافت با تاکید بر ضرورت افزایش ایمنی هوش مصنوعی، خواستار ثبت شفاف اقدامات مدل‌ها، جداسازی آنها از سازوکارهای اجرایی و ایجاد امکان ترمز اضطراری برای مهار خطرات احتمالی شد.

به‌ گزارشسرویس هوش مصنوعی تک‌ناکنادلا تازه‌ترین چهره سرشناس صنعت فناوری است که دیدگاه‌های مفصلی درباره راهکارهای ارتقای ایمنی هوش مصنوعی مطرح می‌کند.

بیشتر بخوانیدآنتروپیک و OpenAI برای مقابله با شورش‌های احتمالی AI آماده می‌شوند

چرا هوش مصنوعی به ترمز اضطراری نیاز دارد؟

حتما بخوانیداز Muse متا تا Dots اوپن‌ای‌آی؛ حریم خصوصی کاربران چقدر امن است؟

مدیرعامل مایکروسافت صبح شنبه در پستی درشبکه اجتماعی Xنوشت که زمان آن رسیده است تا با نگاهی دوباره، «معماری اعتماد» در سامانه‌های هوش مصنوعی را ارزیابی کنیم. او تاکید کرد: «نمی‌توانیم با ابرهوش مانند مجموعه‌ای از جعبه‌های سیاه تودرتو برخورد کنیم و توصیه‌ها، پاسخ‌ها و اقدامات آن را بپذیریم یا رد کنیم.» نادلا در این اظهارات از اصطلاح «ابرهوش» استفاده کرد؛ واژه‌ای که دولت ترامپ برای اشاره به هوش مصنوعی ترجیح می‌دهد. به گفته مدیرعامل مایکروسافت، تحقق این رویکرد مستلزم «جداسازی مدل‌های هوش مصنوعی از سازوکاری است که اجرای وظایف آن را مدیریت و هماهنگ می‌کند»، همچنین «مستقل‌سازی سازوکارهای کنترلی و تدابیر حفاظتی مانند یک ترمز اضطراری» است.

برای مطالعه بیشترهوش مصنوعی آنتروپیک پلیس فیلادلفیا را با گزارش دروغین قتل به دردسر انداخت

غول‌های فناوری به‌ دنبال کنترل مدل‌ها هستند

همچنین نادلا خواستار ثبت «هر اقدام مهم مدل» با استفاده از شواهدی قابل‌ فهم برای انسان و مقاوم در برابر دست‌کاری شد. او معتقد است باید سامانه‌ها به‌گونه‌ای طراحی شوند که «یک فرد مجاز» در هر لحظه بتواند اجرای وظیفه را متوقف کند یا مدل را به‌طور کامل از کار بیندازد. او در ادامه گفت: «باید از همان ابتدا فرض را بر این بگذاریم که مدل هوش مصنوعی به خطر افتاده است و از ابتدا آن را در چارچوبی مهارکننده قرار دهیم، این سازوکار را مانند ترمز اضطراری در نظر بگیرید.» این اظهارات در حالی مطرح می‌شوند که شرکت‌های پیشرو در صنعت هوش مصنوعی، بیش از گذشته از حوادثی پرده برمی‌دارند که نشان می‌دهند کنترل مدل‌های آنها در برخی شرایط با مشکل مواجه شده است. همچنین این موضع‌گیری پس از انتشار برنامه داریو آمودیمدیرعامل آنتروپیکبرای توسعه محتاطانه‌تر هوش مصنوعی صورت می‌گیرد.

نوشتهمدیرعامل مایکروسافت: مدل‌های هوش مصنوعی به ترمز اضطراری نیاز دارنداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.