یک پژوهشگر ارشد آنتروپیک: احتمال انقراض بشر به‌ دست هوش مصنوعی وجود دارد

یک پژوهشگر ارشد آنتروپیک در حوزه هم‌ترازی هوش مصنوعی روز سه‌شنبه هشدار داد که بسیاری از اعضای این شرکت معتقد هستند هوش مصنوعی می‌تواند در نهایت به نابودی بشریت منجر شود.

به‌ گزارشسرویس هوش مصنوعیتک‌ناکاو همچنین تاکید کرد که با وجود اقدامات انجام‌شده، آنتروپیک همچنان در مسیر حل چالش هم‌راستا کردن اهداف سیستم‌های هوش مصنوعی با اهداف و منافع بشریت قرار ندارد؛ اظهاراتی که پس از استعفای پژوهشگر دیگری از این شرکت و متهم‌ کردن آنتروپیک به عمل نکردن مسئولانه مطرح شد. ایوان هوبینگر در پی هشدار نگران‌کننده اخیر خود، با اشاره به جدیدترین گزارش ارزیابی ریسک آنتروپیک تاکید کرد که خطر مدل‌های فعلی هوش مصنوعی پایین است، اما نگرانی اصلی او ظهور ابرهوش مصنوعی از مسیر «خودبهبوددهی بازگشتی» است؛ روندی که به گفته او با سرعتی بیشتر از پیش‌بینی‌ها در حال وقوع است.

برای مطالعه بیشترمدیرعامل آنتروپیک: ریشه موج مخالفت با هوش مصنوعی در بحران اعتماد است

خطر هوش مصنوعی در حال افزایش است

وال‌استریت ژورنالپیش‌تر گزارش داده بود که کاکسون به دلیل نگرانی از تلاش‌های آنتروپیک برای توسعه سیستم‌های هوش مصنوعی خودبهبوددهنده، از این شرکت جدا شده است؛ سیستم‌هایی که در صورت دستیابی به قابلیت‌های کافی می‌توانند تهدیدی برای بشریت محسوب شوند. کاکسون در گفت‌وگو با این روزنامه هشدار داد که جهان به سمت «بسیاری از تهاجمی‌ترین سناریوها» پیش می‌رود و ممکن است تا پایان سال آینده، شرایط از کنترل خارج شده باشد.

مرتبطآنتروپیک بخشی از آموزش مدل‌های کلود را به‌دلیل نگرانی امنیتی متوقف کرد

همچنین کاکسون در پست‌های خود در ایکس تجربه فعالیت در OpenAI و آنتروپیک را مقایسه کرد. به گفته او، کارکنان OpenAI هنوز «اهمیت تمدنی» توسعه چنین فناوری‌هایی را به‌طور عمیق درونی نکرده‌اند. در مقابل، او معتقد است خطر هوش مصنوعی در آنتروپیک «به‌خوبی درک شده‌»، اما این شرکت درگیر رقابتی برای دستیابی به هوش مصنوعی پیشرفته پیش از رقبا شده است، چرا که مدیران آن بر این باور هستند «هیچ‌کس دیگری مسئولانه عمل نخواهد کرد» و در نتیجه خود آنها باید این مسیر را دنبال کنند، حتی اگر با خطرات قابل‌ توجهی همراه باشد.

نظارت دولتی

هشدار کاکسون و کناره‌گیری او از آنتروپیک در حالی مطرح شده‌اند که شماری از برجسته‌ترین پژوهشگران و مدیران صنعت هوش مصنوعی خواستار کاهش سرعت توسعه مدل‌های پیشرفته شده‌اند. در ماه ژوئیه، چندین چهره سرشناس این حوزه بیانیه‌ای با عنوان «Pacing the Frontier» امضا کردند که در میان آنها داریو آمودی و جرد کاپلان، هم‌بنیان‌گذاران آنتروپیک، یاکوب پاچوکی، دانشمند ارشد OpenAI و شنگجیا ژائو، دانشمند ارشد هوش مصنوعی متا، حضور داشتند. این بیانیه تاکید می‌کرد که برای بهره‌گیری از ظرفیت‌های هوش مصنوعی، صنعت، دولت و جامعه باید امکان «خرید زمان» را برای شناسایی و مدیریت خطرات نوظهور، توسعه سازوکارهای امنیتی و تقویت نظارت داشته باشند. با وجود این‌، امضاکنندگان هشدار دادند که فشار رقابتی شدید میان شرکت‌های فناوری، اتخاذ چنین رویکردی به‌صورت یک‌جانبه را دشوار می‌کند.

بیشتر بخوانیدهوش مصنوعی آنتروپیک در فرآیند آموزش از انسان پیشی گرفت

آنها از دولت آمریکا خواستند از یک «تلاش بین‌المللی برای توسعه ابزارهای فنی و حاکمیتی لازم جهت تعیین عامدانه سرعت پیشرفت توسعه خودکار هوش مصنوعی» حمایت کند. پاچوکی نیز روز یکشنبه در یک پست وبلاگی بار دیگر نسبت به این خطرات هشدار داد و گفت که به باور او، «هیچ آزمایشگاهی مسئله هم‌ترازی و خطر هوش مصنوعی را به اندازه کافی حل نکرده است» که بتواند برای مدت طولانی، توسعه مدل‌های هوش مصنوعی را با حداکثر سرعت و به‌ صورت مسئولانه ادامه دهد.

نوشتهیک پژوهشگر ارشد آنتروپیک: احتمال انقراض بشر به‌ دست هوش مصنوعی وجود دارداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.