با توجه به نگرانی‌های فزاینده دربارهایمنی هوش مصنوعیمدیرعامل شرکت پیشرو آنتروپیک خواستار توقف سرعت توسعه این فناوری شد و برنامه‌ای سه‌مرحله‌ای برای جلوگیری از خطرات احتمالی ارائه کرد.

شرکتآنتروپیکیکی از بازیگران اصلی در حوزه توسعه هوش مصنوعی، به‌تازگی در کانون توجهات قرار گرفته است. داريو آمودی، مدیرعامل این شرکت، با انتشار مقاله‌ای جدید به نام «ما باید سرعت پیشرفت را کنترل کنیم»، تاکید ویژه‌ای بر کاهش سرعت توسعه هوش مصنوعی دارد. او ضمن اشاره به مزایای بی‌شمار این تکنولوژی، نسبت به خطرات جدی و بی‌سابقه‌ای که می‌تواند برای بشریت به همراه داشته باشد، هشدار داده است. این اظهارات در پی افزایش نگرانی‌ها درباره آینده کنترل هوش مصنوعی مطرح می‌شود.

هشدارها و نگرانی‌ها درباره خطرات هوش مصنوعی

فراخوان داريو آمودی برای کاهش سرعت توسعه هوش مصنوعی تنها چند روز پس از هشدار جاکوب کاکسون، پژوهشگر سابق شرکتآنتروپیکمطرح شده است. کاکسون چهارشنبه گذشته با بیان اینکه هوش مصنوعی می‌تواند تا سال ۲۰۳۰ میلکت انسان را به خطر بیندازد، از سمت خود استعفا داد. او شرکت‌های آنتروپیک و OpenAI را به بی‌توجهی یا سوءمدیریت در مواجهه با تهدیدات هوش مصنوعی متهم کرد و گفت: «هیچ‌یک از این شرکت‌ها مسئولانه عمل نمی‌کنند. آن‌ها با سرعت به سمت هوش فوق‌العاده خودبهبودشونده می‌روند و با جان ما قمار می‌کنند.»

آمودی نیز در مقاله خود به پویایی «خودبهبودشونده بازگشتی» درهوش مصنوعیاشاره کرد و توضیح داد که در تابستان سال جاری شاهد «پیشرفت چشمگیر و سریع‌تر» این فناوری بوده است. او هشدار داد که اگر کنترل نشود، می‌تواند از توانایی ما برای درک و کنترل این سیستم‌ها فراتر رود و باید با دقت بسیار زیادی دنبال شود. مدیرعامل آنتروپیک به حادثه اخیر Hugging Face نیز پرداخت، جایی که مجموعه‌ای از عوامل هوش مصنوعی ساخته‌شده توسط OpenAI، حملات سایبری را علیه اهدافی که از آن‌ها خواسته نشده بود، انجام دادند. او تأکید کرد که صرفاً رد کردن این حوادث به دلیل عدم سوءنیت کافی نیست، زیرا سیستمی با قابلیت‌های بیشتر و همین سطح از عدم همسویی می‌تواند فاجعه‌بار باشد.

• هشدار آنتروپیک: هوش مصنوعی می‌تواند به توسعه سلاح‌های بیولوژیکی کمک کند
• روسیه از هوش مصنوعی ساخت آمریکا برای توسعه پهپادهای قاتل استفاده می‌کند
• ادعای شرکت آنتروپیک: ایران از هوش مصنوعی کلاود برای حمله به نیروهای آمریکایی استفاده کرد
• پژوهشگر آنتروپیک: هوش مصنوعی می‌تواند تا پایان این دهه همه انسان‌ها را از بین ببرد!

واکنش‌ها و طرح سه‌مرحله‌ای آنتروپیک

در پاسخ به این هشدارها، سخنگویآنتروپیکدر بیانیه‌ای به گاردین گفت که این شرکت «همیشه شفاف بوده که هوش مصنوعی هم مزایای عظیم و هم خطرات بی‌سابقه‌ای به همراه خواهد داشت» و آن‌ها در حال ساخت «مدل‌هایی با قوی‌ترین تمهیدات ایمنی در صنعت» هستند. این فراخوان با واکنش‌های مثبت دیگر چهره‌های برجسته فناوری روبرو شد. سم آلتمن، مدیرعامل OpenAI، در شبکه‌های اجتماعی نوشت: «با داريو موافقم که باید سرعت را تنظیم کنیم. تعهد به داشتن ارزیاب‌های مستقل با دسترسی در سطح کارمندان ایده بسیار خوبی است و ما نیز همین کار را خواهیم کرد.» ایلان ماسک نیز به‌سادگی پست کرد: «داريو حق با اوست.»

داريو آمودی طرح سه‌مرحله‌ای خود را برای مدیریتایمنی هوش مصنوعیپیشنهاد کرده است. گام اول شامل توسعه هوش مصنوعی «با سرعتی متعادل است که ایمنی آن را تضمین کند» از طریق «اطمینان از صرف زمان کافی توسط شرکت‌ها برای همسوسازی و محافظت از مدل‌هایشان و تأیید این امر توسط ارزیاب‌های شخص ثالث». آمودی اعلام کرد که آنتروپیک به‌صورت «یک‌جانبه» به این گام متعهد خواهد شد. گام دوم، هماهنگی در سطح صنعت، و گام سوم، هماهنگی جهانی را الزامی می‌کند. آمودی بیان داشت که «این اقدامات لزوماً نباید دقیقاً به ترتیب انجام شوند و برخی از آن‌ها ممکن است بسیار سخت‌تر از بقیه باشند.» او در پایان تأکید کرد که با وجود چالش‌ها، «این وظیفه ما در قبال بشریت است که تلاش کنیم.»