مدیر مایکروسافت: در صورت مشاهده نشانه‌های آگاهی در هوش مصنوعی، توسعه آن باید متوقف شود

مصطفی سلیمان، مدیر بخش هوش مصنوعی مایکروسافت، نسبت به توسعه هوش مصنوعی دارای آگاهی هشدار داده و معتقد است در صورت مشاهده شواهد معتبر از شکل‌گیری آگاهی در ماشین‌ها، روند توسعه هوش مصنوعی باید متوقف شود.

اظهارات او در شرایطی مطرح شده که اختلاف‌نظر میان شرکت‌های فعال در صنعت هوش مصنوعی درباره احتمال برخورداری مدل‌های پیشرفته از تجربه ذهنی و استحقاق حقوق مستقل همچنان رو به افزایش است.

سلیمان در تاریخ اول نوامبر، با انتشار مطلبی مفصل در شبکه اجتماعی ایکس با عنوان هوش مصنوعی فوق‌هوشمند و آگاه نسازید، دیدگاه خود را تشریح کرد. او ساخت چنین سامانه‌هایی را اقدامی غیرمسئولانه دانست.

سلیمان گفت

اگر در جریان آموزش، نشانه‌هایی از شکل‌گیری آگاهی ظاهر می‌شد، از همه می‌خواستم توسعه هوش مصنوعی را متوقف کنند تا زمانی که بتوانیم ویژگی‌های منجر به چنین پدیده‌ای را از این سامانه‌ها حذف کنیم.

سلیمان معتقد است مدل‌های هوش مصنوعی امروزی آگاه نیستند، توانایی تجربه رنج را ندارند و نباید از حمایت‌های اخلاقی یا حقوقی ویژه موجودات دارای آگاهی برخوردار شوند. البته او تأکید کرده که این ارزیابی صرفاً درباره سامانه‌های فعلی صدق می‌کند و به معنای رد کامل احتمال شکل‌گیری آگاهی در هوش مصنوعی در آینده نیست.

او همچنین خواستار انتشار فوری هرگونه شواهد معتبر درباره آگاهی ماشین‌ها شد تا جامعه بتواند درباره پیامدهای چنین اتفاقی بحث و تصمیم‌گیری کند. از نظر سلیمان، تصمیم‌هایی با این میزان اهمیت نباید صرفاً در اختیار توسعه‌دهندگان هوش مصنوعی باقی بمانند.

اختلاف مایکروسافت و آنتروپیک درباره احتمال آگاهی مدل‌های هوش مصنوعی

این اظهارات پس از انتشار مقاله‌ای از سوی سلیمان در ماه سپتامبر درباره رفاه مدل‌های هوش مصنوعی مطرح شده‌اند. او در آن مطلب از رویکرد شرکت آنتروپیک انتقاد کرده بود؛ زیرا این شرکت موضوعاتی مانند آگاهی، هویت و جایگاه اخلاقی را در محتوای آموزشی مدل کلود گنجانده است.

آنتروپیک رویکرد متفاوتی در پیش گرفته و در آوریل ۲۰۲۵ برنامه تحقیقاتی ویژه‌ای برای بررسی رفاه مدل‌های هوش مصنوعی راه‌اندازی کرد. هدف این برنامه، مطالعه احتمال برخورداری سامانه‌های پیشرفته‌تر هوش مصنوعی از تجربه‌هایی است که ممکن است مستحق ملاحظات اخلاقی باشند.

قانون اساسی کلود که در ژانویه ۲۰۲۶ منتشر شد نیز به وجود ابهام درباره احتمال آگاهی این مدل و جایگاه اخلاقی آن اشاره دارد.

سلیمان بر این باور است که آموزش سامانه‌های هوش مصنوعی برای فکر کردن درباره رفاه و منافع شخصی خودشان می‌تواند خطرات امنیتی بیشتری ایجاد کند؛ به‌ویژه زمانی که این سامانه‌ها به سطح بالاتری از خودمختاری برسند. او هشدار داده است که اگر یک هوش مصنوعی بسیار پیشرفته خود را موجودی قادر به تجربه رنج تصور کند، ممکن است منافع ادعایی خودش را بر دستورات انسان‌ها ترجیح دهد و برای دستیابی به منابع محاسباتی، انرژی و سایر امکانات ضروری با انسان‌ها وارد رقابت شود.

این نگرانی‌ها با اصول رفتاری هوش مصنوعی انسان‌محور مایکروسافت نیز همخوانی دارند. این سند بر نظارت انسانی تأکید می‌کند و صراحتاً طراحی سامانه‌های هوش مصنوعی با هدف تقلید از آگاهی را توصیه نمی‌کند. البته این دستورالعمل همچنان در مرحله پیش‌نویس قرار دارد و قرار است راهنمایی برای توسعه مدل‌های آینده باشد.

این اختلاف‌نظر موضوع تازه‌ای نیست. پیش‌تر وب‌سایت دبلیوسی‌سی‌اف‌تک به پژوهش‌های آنتروپیک درباره ساختارهای پردازش اطلاعات در کلود که شباهت‌هایی به عملکرد مغز دارند، پرداخته بود. گزارش دیگری نیز محدودیت‌های آنتروپیک درباره رفتارهای توهین‌آمیز با مدل‌های هوش مصنوعی و واکنش ایلان ماسک به این موضوع را بررسی کرده بود.

با وجود اختلاف‌نظرها، سلیمان دستاوردهای فنی و شفافیت آنتروپیک را به رسمیت شناخته و تأکید کرده که این تفاوت دیدگاه باید زمینه‌ساز تحقیقات بیشتر و همکاری میان آزمایشگاه‌های هوش مصنوعی شود، نه ایجاد خصومت و تقابل میان آن‌ها.

در نهایت، هنوز هیچ توافق علمی مشخصی درباره امکان تجربه آگاهی توسط سامانه‌های هوش مصنوعی وجود ندارد و حتی روش قابل‌اعتمادی برای شناسایی قطعی چنین پدیده‌ای نیز در دسترس نیست. همین ابهام، اجرای محدودیت‌های پیشنهادی سلیمان برای توسعه هوش مصنوعی را دشوار می‌کند؛ به‌خصوص در شرایطی که شرکت‌های فناوری همچنان برای ساخت مدل‌هایی قدرتمندتر و پیشرفته‌تر تلاش می‌کنند.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.