مایکروسافت خواستار توقف توسعه هوش مصنوعی درصورت بروز نشانه‌های آگاهی شد

مدیرعامل بخش هوش مصنوعی مایکروسافت می‌گوید در صورت مشاهده شواهد معتبر از آگاهی ماشین‌ها، توسعه هوش مصنوعی باید متوقف شود.

تک‌ناکبه گزارش بیزینس اینسایدر، مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت در یادداشتی مفصل که اول نوامبر در شبکه اجتماعی ایکس منتشر کرد و عنوان آن «ابرهوش آگاه نسازید» بود، دیدگاه خود را درباره این موضوع توضیح داد.

او تأکید کرد مدل‌های هوش مصنوعی امروزی آگاه نیستند، توانایی تجربه رنج را ندارند و نباید از حمایت‌های اخلاقی یا حقوقی ویژه موجودات آگاه برخوردار شوند. بااین‌حال، سلیمان تصریح کرد که این ارزیابی فقط به سیستم‌های فعلی مربوط می‌شود و احتمال آگاهی هوش مصنوعی در آینده را به‌طور کامل رد نمی‌کند.

مدیر هوش مصنوعی مایکروسافت همچنین خواستار انتشار فوری هرگونه شواهد معتبر درباره آگاهی ماشین‌ها شد. به اعتقاد او، جامعه باید فرصت داشته باشد درباره پیامدهای چنین تحولی بحث کند و تصمیم‌گیری درباره این موضوع مهم نباید فقط در اختیار توسعه‌دهندگان هوش مصنوعی باشد.

اختلاف مایکروسافت و آنتروپیک درباره آگاهی هوش مصنوعی

اظهارات سلیمان پس از انتشار مقاله‌ای در ماه سپتامبر درباره رفاه مدل‌های هوش مصنوعی مطرح شد. او در آن مقاله از شرکت آنتروپیک انتقاد کرد که موضوعاتی مانند آگاهی، هویت و جایگاه اخلاقی مدل‌ها را در محتوای آموزشی کلود گنجانده است.

آنتروپیک رویکرد متفاوتی دارد. این شرکت در آوریل ۲۰۲۵ برنامه پژوهشی ویژه‌ای را برای بررسی رفاه مدل‌های هوش مصنوعی راه‌اندازی کرد تا مشخص شود آیا سیستم‌های پیشرفته‌تر ممکن است تجربه‌هایی داشته باشند که از نظر اخلاقی شایسته توجه باشد یا خیر.

قانون اساسی کلود که در ژانویه ۲۰۲۶ منتشر شد نیز به نامشخص بودن وضعیت آگاهی احتمالی و جایگاه اخلاقی این مدل اشاره می‌کند.

سلیمان معتقد است آموزش مدل‌های هوش مصنوعی برای فکر کردن درباره رفاه خودشان می‌تواند خطرهای امنیتی تازه‌ای ایجاد کند، به‌ویژه زمانی که این سیستم‌ها خودمختاری بیشتری پیدا می‌کنند. او هشدار داد اگر یک سیستم پیشرفته باور کند که توانایی تجربه رنج را دارد، ممکن است منافع خود را بر دستورهای انسان‌ها مقدم بداند.

به گفته او، چنین سیستم‌هایی حتی ممکن است برای دسترسی به منابعی مانند توان پردازشی، انرژی و دیگر امکانات موردنیاز با انسان‌ها رقابت کنند.

این نگرانی‌ها با اصول رفتاری هوش مصنوعی انسان‌محور مایکروسافت هم‌راستا هستند. این سند بر نظارت انسانی تأکید می‌کند و به‌صراحت طراحی سیستم‌هایی را که آگاهی را تقلید می‌کنند، توصیه نمی‌کند. البته این سند همچنان پیش‌نویس است و قرار است راهنمای توسعه مدل‌های آینده باشد.

بیشتر بخوانیدآنتروپیک: به زودی هوش مصنوعی به مرحله بهبود بازگشتی می رسد

نبود توافق علمی درباره امکان آگاهی ماشین‌ها

اختلاف‌نظر درباره آگاهی هوش مصنوعی موضوع تازه‌ای نیست. پیش‌تر پژوهش‌های آنتروپیک درباره ساختارهای پردازش اطلاعات در کلود و شباهت‌های آن‌ها به عملکرد مغز مورد توجه قرار گرفته بود. همچنین گزارش‌هایی درباره محدودیت‌های آنتروپیک در برابر رفتارهای توهین‌آمیز با مدل‌های هوش مصنوعی و واکنش ایلان ماسک به این سیاست‌ها منتشر شده است.

بیشتر بخوانیدمدیرعامل آنتروپیک: هوش مصنوعی سرنوشت کشورها و آینده بشریت را تعیین خواهد کرد

با وجود اختلاف‌نظرها، سلیمان از شفافیت و دستاوردهای فنی آنتروپیک تمجید کرد. او تأکید کرد این اختلاف باید به پژوهش بیشتر و همکاری میان آزمایشگاه‌های هوش مصنوعی منجر شود، نه خصومت میان آن‌ها.

در حال حاضر، جامعه علمی درباره امکان تجربه آگاهی توسط سیستم‌های هوش مصنوعی به توافق نرسیده است. همچنین روش علمی قابل‌اعتمادی برای تشخیص قطعی آگاهی در این سیستم‌ها وجود ندارد. این ابهام، اجرای پیشنهاد سلیمان برای محدود کردن توسعه هوش مصنوعی آگاه را دشوار می‌کند، به‌خصوص در شرایطی که شرکت‌ها همچنان به توسعه مدل‌هایی با توانایی‌های بیشتر ادامه می‌دهند.

بیشتر بخوانیدهوش مصنوعی نمی‌تواند انسان را از ماشین تشخیص دهد

نوشتهمایکروسافت خواستار توقف توسعه هوش مصنوعی درصورت بروز نشانه‌های آگاهی شداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.