مایکروسافت یک منشور ۳۷ صفحه‌ای انسان‌محور درباره هوش مصنوعی منتشر کرد

مایکروسافت منشور رفتاری ویژه‌ای برای مدل‌های هوش مصنوعی خود منتشر کرده است.

هم‌زمان با شدت گرفتن بحث میان رهبران حوزه هوش مصنوعی درباره راه‌های ایمن نگه داشتن این فناوری و محافظت از بشریت در برابر احتمال نابودی، مایکروسافت چارچوب جدیدی را ارائه کرده است.

مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، در این باره گفت

این موضوع فوریت دارد. ماه‌های اخیر نقطه عطف مهمی بوده‌اند و مسائلی که مدت‌ها تنها به‌صورت نظری درباره آن‌ها نگرانی داشتیم، اکنون به واقعیت‌های ملموس تبدیل شده‌اند.

مایکروسافت فلسفه اصلی این منشور هوش مصنوعی را در پنج کلمه خلاصه کرده است

انسان‌ها مهم‌تر از هوش مصنوعی هستند.

در حالی که بحث درباره احتمال نابودی بشر به دست هوش مصنوعی همچنان ادامه دارد، بخش هوش مصنوعی مایکروسافت روز دوشنبه پیش‌نویس منشور ۳۷ صفحه‌ای خود را برای مدل‌های هوش مصنوعی انسان‌محور منتشر کرد. این سند مجموعه‌ای از اصول پایه را درباره نحوه تفکر، رفتار و گفت‌وگوی این مدل‌ها مشخص می‌کند و حتی بر پرهیز از ارتباطات نامفهوم و غیرقابل درک تأکید دارد.

سلیمان این سند را نخستین پیش‌نویس برای دریافت نظر عمومی معرفی کرد. او هشدار داد که مجموعه‌ای از اتفاقات نگران‌کننده، از جمله حمله و هک یک گروه از عامل‌های سرکش OpenAI به Hugging Face، باعث شده مهندسان و پژوهشگران حوزه هوش مصنوعی درباره ایمنی این فناوری زنگ خطر را به صدا درآورند. استعفای یکی از چهره‌های مطرح Anthropic نیز بحث‌های گسترده‌ای را درباره ایمنی هوش مصنوعی به راه انداخته و به دنبال آن، شرکت‌های بزرگ این حوزه مواضع مختلفی مطرح کرده‌اند.

جزئیات منشور رفتاری مایکروسافت

شرکت‌های فعال در حوزه هوش مصنوعی در رقابتی شدید برای توسعه فناوری‌های قدرتمندتر قرار دارند، اما مایکروسافت در این منشور عمداً محدودیت‌هایی را برای مدل‌های خود در نظر گرفته است. سلیمان گفت

ما در حال رقابت برای ساخت ابرهوشی نیستیم که بتواند کنترل خود را از دست بدهد و از قیدوبندهایش خارج شود.

این منشور که سلیمان آن را سندی اولیه برای مشارکت و اظهارنظر عمومی دانسته، در پنج بخش تنظیم شده است. این بخش‌ها موضوعاتی مانند محدودیت‌های ایمنی مدل‌ها، نحوه تصمیم‌گیری در شرایط نامطمئن و رفتارهای پیش‌فرض سیستم را پوشش می‌دهند.

مایکروسافت برای مدل‌های خود یک سلسله‌مراتب مشخص در نظر گرفته است. در بالاترین سطح، منشور رفتاری قرار دارد که مدل اجازه نقض آن را ندارد. پس از آن، سیاست‌های تعیین‌شده از سوی اپراتور قرار می‌گیرند و در پایین‌ترین سطح نیز ترجیحات کاربر جای می‌گیرند.

در این سند آمده که اگر انجام موفقیت‌آمیز یک وظیفه مستلزم نقض جدی اصول منشور باشد، مدل باید آن مأموریت را ناموفق تلقی کند. محدودیت‌های ایمنی نیز حوزه‌هایی مانند مالکیت فکری، دسترسی به اینترنت و نحوه مدیریت داده‌ها را در بر می‌گیرد. همچنین از مدل‌ها خواسته شده است مرزهای زیست‌محیطی و فیزیکی تعیین‌شده را رعایت کنند؛ موضوعی که برای متخصصانی که درباره احتمال خارج شدن عامل‌های هوش مصنوعی از محیط‌های کنترل‌شده نگرانی دارند، اهمیت زیادی دارد.

نحوه تصمیم‌گیری هوش مصنوعی در شرایط مبهم

مایکروسافت پذیرفته که همه موقعیت‌ها پاسخ ساده و مشخصی ندارند. در منشور آمده است که جهان پیچیده و آشفته است و به همین دلیل، مدل‌ها باید برای زمان‌هایی که میان دستورها یا اهداف مختلف تعارض وجود دارد، چارچوبی برای تصمیم‌گیری داشته باشند.

مدل‌های هوش مصنوعی مایکروسافت باید محدودیت‌های خود و پرسش‌هایی را که هنوز پاسخ قطعی ندارند، برای کاربر توضیح دهند. اگر پس از بررسی شرایط همچنان ابهامی باقی بماند، پاسخ باید بر اساس بهترین برداشت ممکن از اصول همین منشور ارائه شود.

در موضوع احتمال نابودی بشریت نیز موضع مایکروسافت کاملاً روشن است و مدل‌های هوش مصنوعی در جایگاه ابزاری تحت کنترل انسان قرار می‌گیرند. در این منشور تأکید شده که هوش مصنوعی نباید از کنترل انسان فراتر برود.

سلیمان همچنین درباره هدف نهایی این رویکرد گفت

ما در حال ساخت چیزی هستیم که اساساً مفید و ایمن باشد، حتی اگر برای رسیدن به این هدف مجبور شویم از بخشی از قابلیت‌های نهایی، استقلال یا توانایی‌های گسترده آن صرف‌نظر کنیم.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.