یک پژوهشگر سابق آنتروپیک و یک محقق فعال این شرکتخطر هوش مصنوعیرا برای بقای بشر جدی دانسته‌اند و احتمال نابودی انسان توسط آن را بیش از ۱۰ درصد تخمین زده‌اند.

آیا توسعه شتاب‌زدههوش مصنوعیبه قیمت جان انسان‌ها تمام خواهد شد؟ این پرسشی است که اخیراً پس از خروج یکی از پژوهشگران ارشد شرکتآنتروپیکمطرح شده است. او و همکارانش نگران رقابت فزاینده میان شرکت‌های پیشرو در این عرصه هستند.

پژوهشگران آنتروپیک: هوش مصنوعی بقای انسان را تهدید می‌کند

جیکوب کاکسون، پژوهشگر سابق آنتروپیک، با ترک شرکت هشدار داد که آنتروپیک و OpenAI در رقابتی بی‌پروا برای هوش مصنوعی خودبهبودپذیر، با زندگی ما قمار می‌کنند. او تاکید کرد این سیستم‌ها به‌زودی فوق‌بشری شده و قادر به هک کردن و کسب قدرت واقعی خواهند بود. کاکسون افزود بسیاری از توسعه‌دهندگان معتقدند این فناوری می‌تواند تا پایان این دهه همه انسان‌ها را از بین ببرد.

• بمب خبری؛ هوش مصنوعی برای اولین بار در دنیا رسما آدم کشت!
• تحقیقات درباره خرید و نابودی میلیون‌ها کتاب توسط شرکت‌های هوش مصنوعی آغاز شد
• سایه هوش مصنوعی بر آزمایشگاه‌ها؛ زنگ خطر برای یک فاجعه جهانی

هوش مصنوعی فوق هوشمند و ریسک خودبهبود‌پذیری

اوان هابینگر، سرپرست علوم هم‌ترازی در آنتروپیک، با ارزیابی کاکسون موافقت کرد که هوش مصنوعی می‌تواند انسان‌ها را نابود کند، اما خطر مدل‌های فعلی را پایین دانست. نگرانی اصلی هابینگر از هوش مصنوعی فوق هوشمند ناشی ازخودبهبود‌پذیری بازگشتیاست که سریع‌تر از انتظار در حال وقوع است. آنتروپیک پیش‌تر هشدار داده بود این خودبهبود‌پذیری کامل می‌تواند به از دست دادن کنترل انسان بر سیستم‌های هوش مصنوعی منجر شود. نفوذ یک مدل OpenAI به هاگینگ‌فیس در جولای، توسط کاکسونیک زنگ خطرتوصیف شد.