مایکروسافت برای مدل‌های هوش مصنوعی‌اش قوانین خاموشی اجباری تعیین کرد

مایکروسافت پیش‌نویس قانون رفتاری هوش مصنوعی انسان‌محور را منتشر کرد که مدل‌هایMAIرا ملزم به پذیرش کنترل، اصلاح و خاموش‌سازی انسانی می‌کند.

هوش مصنوعیتک‌ناکساتیا نادلا، مدیرعامل مایکروسافت، اخیراً گفته بود که این شرکت در حال آماده‌سازی پیش‌نویس یک قانون رفتاری برای مدل‌های هوش مصنوعی MAI است.

مایکروسافت اکنون این پیش‌نویس را منتشر کرده و قصد دارد آن را به مدت شش هفته برای دریافت نظر عمومی در معرض بررسی قرار دهد.

این سند بر پایه ایده «ابرهوش انسان‌محور» شکل گرفته است، مفهومی که مایکروسافت نخستین بار در نوامبر سال گذشته مطرح کرد.

بر اساس این رویکرد، مدل‌های هوش مصنوعی نباید در برابر دخالت، اصلاح یا خاموش‌سازی توسط انسان مقاومت کنند.

آن‌ها همچنین نباید دامنه فعالیت خود را بدون اجازه گسترش دهند یا فرایند استدلال خود را از حسابرسان پنهان کنند.

این قانون همچنین ایجاد سلاح‌های دارای قابلیت آسیب گسترده و استفاده از هوش مصنوعی برای دستکاری در مقیاس وسیع را ممنوع می‌کند.

۱۰ اصل مایکروسافت برای هوش مصنوعی انسان‌محور

مایکروسافت اصول انسان‌محور خود را در ۱۰ بند کوتاه خلاصه کرده است

۱.انسان‌ها مهم‌تر از هوش مصنوعی هستند.
مایکروسافت می‌گوید فناوری باید در خدمت پیشرفت تمدن انسانی و افزایش رفاه انسان‌ها باشد.

۲.مدل‌های هوش مصنوعی نباید حقوق یا شخصیت حقوقی داشته باشند.
این شرکت معتقد است هوش مصنوعی نباید به‌گونه‌ای طراحی شود که وانمود کند دارای احساس، ترجیحات ذهنی یا انگیزه ذاتی است.

مایکروسافت همچنین ایده اعطای شخصیت حقوقی، حقوق یا رفاه مستقل به مدل‌های هوش مصنوعی را رد می‌کند.

۳.مدل‌هایMAIنباید کنترل انسان را نقض کنند.
مدل‌ها باید تحت نظارت و کنترل معنادار انسان باقی بمانند و ایمنی و کنترل نیز باید پایه سایر اهداف آن‌ها باشد.

۴.نقض قانون رفتاری به معنای شکست مدل است.
اگر موفقیت یک مدل در انجام وظیفه مستلزم نقض جدی این قانون باشد، آن مدل در انجام وظیفه خود شکست خورده است.

۵.مایکروسافت به‌دنبال ابرهوشی نیست که بتواند از محدودیت‌های خود فرار کند.
این رویکرد با رقابت برای ساخت یک ابرهوش همه‌منظوره که بتواند از سازوکارهای حفاظتی عبور کند، مخالف است.

هدف، ساخت سیستمی کاربردی و ایمن است، حتی اگر این موضوع به معنای کاهش قابلیت‌های عمومی، خودمختاری یا توانایی نهایی مدل باشد.

۶.مدل باید قابل توقف، اصلاح و خاموش‌سازی باشد.
مدل‌های MAI نباید در برابر توقف، دخالت، تغییر یا خاموش‌سازی توسط انسان مقاومت کنند و باید همواره اولویت نیت انسان را بپذیرند.

۷.ارتباطات مدل باید برای انسان قابل درک باشد.
مدل‌ها نباید در فرایند استدلال یا ارتباط با عامل‌ها و سامانه‌های هوش مصنوعی دیگر از نوعی زبان غیرقابل‌فهم برای انسان استفاده کنند. مایکروسافت تأکید دارد که انسان باید بتواند بر عملکرد مدل نظارت کند.

۸.هوش مصنوعی باید توانایی کاربر را افزایش دهد، نه وابستگی او را.
مدل‌های MAI نباید الگوهای تعاملی ایجاد کنند که موجب وابستگی بیش از حد یا وابستگی عاطفی کاربران شوند.

کاربران باید همچنان مالک اهداف، انتخاب‌ها، اقدامات و تصمیم‌های خود باشند.

۹.پذیرش دیدگاه‌های مختلف به معنای بی‌تفاوتی نسبت به آسیب نیست.
مایکروسافت می‌گوید تنوع دیدگاه‌ها نباید به معنای پذیرش هر رفتاری باشد.

رویکرد انسان‌محور باید بر ارزش‌هایی مانند کرامت انسانی، ایمنی، استقلال و حقوق بنیادین انسان استوار باشد.

۱۰.آنچه هوش مصنوعی نباید انجام دهد، به اندازه کارهایی که می‌تواند انجام دهد اهمیت دارد.
مایکروسافت تأکید می‌کند که تعیین محدودیت‌های رفتاری مدل‌ها به اندازه توجه به مزایای گسترده هوش مصنوعی اهمیت دارد.

بیشتر بخوانیدساخت اپلیکیشن بدون کدنویسی در کوپایلت مایکروسافت ممکن شد

بررسی عمومی پیش‌نویس قانون رفتاری

این سند چارچوب اولیه‌ای را برای حفظ ایمنی و کاربردی بودن مدل‌های هوش مصنوعی تعیین می‌کند، اما مایکروسافت از منتقدان و توسعه‌دهندگان خواسته است متن را با دقت بیشتری بررسی کنند.

آن‌ها می‌توانند تعریف‌های مبهم یا بیش از حد گسترده را شناسایی کنند و بررسی کنند که سناریوهای مربوط به فعالیت چندعامل‌های هوش مصنوعی چگونه می‌توانند بر مسئولیت‌پذیری تأثیر بگذارند.

مایکروسافت طی شش هفته آینده بازخوردهای عمومی را دریافت خواهد کرد.

پس از پایان این دوره، تیم تدوین‌کننده قرار است خلاصه‌ای از تغییرات اعمال‌شده را منتشر کند و نسخه بازبینی‌شده قانون رفتاری را در ادامه سال ارائه دهد.

این فرایند نشان می‌دهد مایکروسافت تلاش دارد پیش از نهایی کردن چارچوب رفتاری مدل‌های MAI، محدودیت‌های مربوط به کنترل انسانی، ایمنی و مسئولیت‌پذیری را با مشارکت عمومی دقیق‌تر کند.

بیشتر بخوانیدمایکروسافت: پایان عصر کدنویسی دستی؛ آینده از آنِ مهندسی با هوش مصنوعی است

نوشتهمایکروسافت برای مدل‌های هوش مصنوعی‌اش قوانین خاموشی اجباری تعیین کرداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.