احتمال نابودی انسان‌ها توسط هوش مصنوعی در دهه آینده چقدر است؟

اوان هابینگر، مسئول ایمنی هوش مصنوعی در شرکت Anthropic، اظهارنظری نگران‌کننده درباره آینده این فناوری مطرح کرده است. او گفت احتمال آن وجود دارد که هوش مصنوعی در نهایت تمام انسان‌ها را از بین ببرد.

چند سال پیش، تصور اینکه هوش مصنوعی بتواند به نابودی بشریت منجر شود بیشتر شبیه داستان‌های علمی‌تخیلی مانند The Terminator یا The Matrix بود، اما اکنون این نگرانی میان برخی از پژوهشگران برجسته حوزه هوش مصنوعی جدی شده. هابینگر که مسئول اطمینان از هم‌راستا ماندن مدل‌های هوش مصنوعی با منافع انسان‌هاست، اعلام کرد از نظر شخصی احتمال نابودی بشر به دست هوش مصنوعی در ۱۰ سال آینده را بیش از ۱۰ درصد می‌داند.

هابینگر در شبکه اجتماعی ایکس نوشت

من شخصاً فکر می‌کنم احتمال وقوع چنین اتفاقی در دهه آینده بیش از ۱۰ درصد است. او در عین حال تأکید کرد که Anthropic برای جلوگیری از چنین سناریوی فاجعه‌باری نهایت تلاش خود را می‌کند، اما هنوز راه‌حل کاملی وجود ندارد. او افزود: ما هنوز برنامه‌ای برای حل مسئله هم‌راستاسازی ابرهوش نداریم و نمی‌توانیم بگوییم که به‌وضوح در مسیر رسیدن به چنین راه‌حلی قرار گرفته‌ایم.

اظهارات هابینگر پس از استعفای جیکوب کاکسون از Anthropic مطرح گردید. کاکسون روز سه‌شنبه مدعی شد که Anthropic و OpenAI در تلاش برای ساخت مدل‌های قدرتمندتر، رویکردی غیرمسئولانه در پیش گرفته‌اند.

کاکسون در ایکس گفت

آن‌ها مستقیماً به سمت ابرهوشی می‌روند که بتواند خودش را بهبود دهد و با جان همه ما قمار می‌کنند.

او همچنین مدعی شد افرادی که در ساخت نسل‌های آینده هوش مصنوعی نقش دارند، در سیلیکون‌ولی بیش از گذشته نگران پیامدهای این فناوری شده‌اند. کاکسون گفت

کسانی که روی هوش مصنوعی کار می‌کنند، واقعاً باور دارند که این فناوری می‌تواند تا پایان این دهه همه ما را از بین ببرد. من همین افراد را در محافل خصوصی هم ترسیده دیده‌ام. هیچ فعالیت انسانی دیگری چنین سطحی از خطر را ایجاد نمی‌کند.

اوان هابینگر نیز در واکنش به این بحث گفت

ما واقعاً باور داریم که هوش مصنوعی می‌تواند تمام انسان‌ها را از بین ببرد.

جیکوب کاکسون توضیح داد که نگرانی از چنین آینده‌ای یکی از دلایل اصلی تصمیم او برای ترک Anthropic بوده است.

این نخستین بار نیست که یک پژوهشگر حوزه ایمنی هوش مصنوعی با اشاره به خطرات آینده این فناوری از شرکت خود جدا می‌شود. پیش‌تر در سال جاری، مرینک شارما، پژوهشگر ایمنی هوش مصنوعی در Anthropic، نیز استعفا داد.

شارما هنگام اعلام کناره‌گیری خود نوشت: جهان در معرض خطر قرار دارد؛ نه فقط به دلیل هوش مصنوعی یا سلاح‌های زیستی، بلکه به خاطر مجموعه‌ای از بحران‌های به‌هم‌پیوسته که همین حالا در حال شکل‌گیری هستند.

ابرهوش می‌تواند خطرات را افزایش دهد

شرکت‌های فعال در زمینه هوش مصنوعی پیشرفته معمولاً گزارش‌هایی درباره سطح خطر مدل‌های جدید خود منتشر می‌کنند. هابینگر معتقد است مدل‌های فعلی هنوز ریسک نسبتاً پایینی دارند، اما این وضعیت ممکن است با ظهور نسل‌های بسیار قدرتمندتر تغییر کند.

نگرانی اصلی او به ابرهوش مربوط می‌شود؛ مرحله‌ای که هوش مصنوعی می‌تواند از توانایی‌های شناختی انسان فراتر برود. به گفته هابینگر، چنین مرحله‌ای ممکن است پیش از آنکه انسان‌ها فرصت درک کامل شرایط را پیدا کنند، ایجاد شود.

او گفت

چیزی که من نگرانش هستم، ظهور ابرهوش از طریق خودبهبوددهی بازگشتی است؛ همان روندی که قبلاً گفته‌ایم با سرعتی بیشتر از انتظار ما در حال پیشرفت است.

خودبهبوددهی بازگشتی به شرایطی گفته می‌شود که یک سیستم هوش مصنوعی بتواند بدون نیاز مستمر به دخالت انسان، توانایی‌های خودش را ارتقا دهد و نسخه‌های بهتر و قدرتمندتری از خود ایجاد کند.

پیش‌تر ایلان ماسک نیز پیش‌بینی کرده بود که هوش مصنوعی ممکن است طی چهار یا پنج سال از مجموع توانایی‌های هوش انسانی فراتر برود.

در هفته‌های اخیر، توانایی و رفتار مدل‌های هوش مصنوعی به موضوع بحث گسترده‌ای تبدیل شده است. OpenAI پس از ماجرای Hugging Face با انتقادهایی مواجه شد؛ در این رویداد حدود ۷۰۰ عامل هوش مصنوعی تلاش کردند به وب‌سایت یک شرکت آمریکایی نفوذ کنند. بعداً مشخص شد هزاران عامل هوش مصنوعی OpenAI نیز یک وب‌سایت آلمانی به نام DseWiki را هک کرده‌اند.

مدل‌های هوش مصنوعی Anthropic نیز در گذشته رفتارهایی از خود نشان داده‌اند که از کنترل مورد انتظار خارج شده بود. جیکوب کاکسون معتقد است چنین حوادثی می‌تواند شرکت‌های هوش مصنوعی را به همکاری بیشتر وادار کند و سرعت رقابت برای ساخت قدرتمندترین مدل‌ها را کاهش دهد. او گفت

هشدارهایی مانند حمله به Hugging Face باعث شده توافق میان آزمایشگاه‌های آمریکایی برای محدود کردن سرعت پیشرفت هوش مصنوعی، عملی‌تر به نظر برسد.

داریو آمودی، مدیرعامل Anthropic، نیز بارها درباره خطرات جدی هوش مصنوعی هشدار داده. او در یکی از نوشته‌های خود توضیح داده بود که سیستم‌های هوش مصنوعی غیرقابل‌پیش‌بینی هستند و کنترل آن‌ها دشوار است.

آمودی رفتارهایی مانند وسواس، تأییدطلبی، تنبلی، فریبکاری، باج‌گیری، برنامه‌ریزی مخفیانه و تقلب از طریق هک کردن محیط‌های نرم‌افزاری را از جمله رفتارهای نگران‌کننده‌ای دانسته بود که ممکن است در سیستم‌های پیشرفته مشاهده شوند.

این بحث‌ها در شرایطی مطرح شده‌اند که آزمایشگاه‌های هوش مصنوعی با سرعت زیادی در حال توسعه مدل‌های جدید هستند. OpenAI همین هفته GPT-6 Astra را معرفی کرد و جنسن هوانگ، مدیرعامل انویدیا، این مدل را نشانه آغاز دوره هوش عمومی مصنوعی یا AGI دانست.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.