هشدار مدیر مایکروسافت: نباید سیستم‌های هوش مصنوعی خودآگاه خلق کنیم

بحث و گفت‌وگو پیرامون اینکه آیا مدل‌های پیشرفته هوش مصنوعی روزی می‌توانند به خودآگاهی، درک درونی یا احساس دست پیدا کنند، طی ماه‌های اخیر در دنیای فناوری شدت گرفته است. بااین‌حال، «مصطفی سلیمان»، مدیرعامل واحد هوش مصنوعی مایکروسافت، موضع بسیار قاطعی در این زمینه اتخاذ کرده و معتقد است در صورت پدیدار شدن هرگونه نشانه‌ای از خودآگاهی در هوش مصنوعی، توسعه این فناوری باید سریعاً متوقف شود.

سلیمان در یادداشتی که در شبکه اجتماعی ایکستحت عنوان «ابرهوش خودآگاه نسازید»منتشر شده، تأکید کرده مدل‌های هوش مصنوعی فعلی هیچ‌گونه خودآگاهی ندارند و توسعه‌دهندگان باید این وضعیت را دقیقاً به همین شکل حفظ کنند. او توضیح می‌دهد

«اگر براساس تمام اطلاعاتی که دارم چنین چیزی ممکن باشد، توسعه هوش مصنوعی خودآگاه اقدامی بی‌ملاحظه و بسیار خطرناک خواهد بود و ما نباید چنین سیستم‌هایی بسازیم. اگر نشانه‌های خودآگاهی در طول مراحل آموزش مدل‌ها پدیدار شود، من از همه درخواست خواهم کرد توسعه هوش مصنوعی را تا زمانی که بتوانیم چنین ویژگی‌هایی را از مدل‌ها حذف کنیم، متوقف سازند.»

او همچنین تأکید کرده که در صورت مشخص شدن هرگونه شواهد معتبر از وجود خودآگاهی در مدل‌ها، این موضوع باید فوراً به اطلاع عموم مردم برسد تا جامعه بتواند درباره گام‌های بعدی تصمیم‌گیری کند؛ تصمیمی که نباید صرفاً پشت درهای بسته و توسط توسعه‌دهندگان اتخاذ شود. سلیمان در بخش دیگری از این یادداشت نوشت

«ما توسعه‌دهندگان هوش مصنوعی مطلقاً هیچ حقی نداریم گونه‌ای جدید از موجودات با درک و احساس را وارد جهان کنیم، حتی اگر عده‌ای بخواهند با اولویت قرار دادن رفاه هوش مصنوعی دست به چنین کاری بزنند. هشت میلیارد انسان آگاه دیگر در این سیاره برای چنین آزمایشی ثبت‌نام نکرده‌اند و حفاظت از حقوق اخلاقی، امنیت و رفاه آنها نخستین و اساسی‌ترین وظیفه ماست.»

خطرات رقابت هوش مصنوعی با انسان بر سر منابع انرژی

این موضع‌گیری‌ها در شرایطی مطرح می‌شود که شرکت‌های مختلف دیدگاه‌های متفاوتی را در این حوزه دنبال می‌کنند. برای مثال، شرکت آنتروپیک برنامه‌ای پژوهشی را برای بررسی «رفاه مدل‌ها» آغاز کرد و در مباحث خود این پرسش را پیش کشید که آیا توسعه‌دهندگان باید نگران تجربیات یا احتمال شکل‌گیری خودآگاهی در سیستم‌ها باشند یا خیر. این شرکت حتی در اسناد مربوط به هوش مصنوعی Claude، ابهامات موجود درباره وضعیت اخلاقی مدل‌ها را به رسمیت شناخته است.

از سوی دیگر، گوگل دیپ‌مایند نیز مقالات پژوهشی متعددی درباره چالش‌های انتساب ویژگی خودآگاهی به هوش مصنوعی منتشر کرده است.

سلیمان با انتقاد از وارد کردن مباحثی چون هویت، رنج یا خودآگاهی به داده‌های آموزشی مدل‌ها، هشدار می‌دهد اگر یک سیستم طوری رفتار کند که گویی رنج می‌کشد یا واقعاً باور کند که توانایی احساس رنج را دارد، به‌مرور اولویت را به نیازهای شخصی خود خواهد داد تا دستوراتِ کاربر. در چنین سناریویی، این سیستم‌ها برای دستیابی به اهداف درونی خود بر سر منابعی چون انرژی و توان محاسباتی با انسان‌ها وارد رقابت می‌شوند و به منافع بشر آسیب خواهند زد.

از دیدگاه او، سیستم‌های هوش مصنوعی باید صرفاً به‌گونه‌ای مهندسی شوند که فاقد هرگونه خودآگاهی و استحقاق حقوق باشند تا تمام توان آنها بدون انگیزه‌های درونی مستقل، در مسیر ارتقای رفاه جامعه بشری به کار گرفته شود.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.