محقق سابق آنتروپیک: کارکنان شرکت‌های هوش مصنوعی واقعاً از آینده بشریت می‌ترسند

«جیکوب کاکسون»، پژوهشگر سابق آنتروپیک و OpenAI، می‌گوید سرعت پیشرفت هوش مصنوعی و پیامدهای احتمالی آن برای بشریت باعث ترس برخی از افرادی شده است که روی این فناوری کار می‌کنند.

کاکسون که ۲۷ سال دارد، پس ازاستعفا از آنتروپیکدر پستی که در شبکه‌های اجتماعی منتشر کرد درباره خطر خارج‌شدن هوش مصنوعی از کنترل انسان هشدار داد. او حالا در گفت‌وگو باBBCدرباره نگرانی‌های خود صحبت کرده است.

کاکسون می‌گوید

«اگر سرعت فعلی پیشرفت را کاهش ندهیم، احتمال زیادی وجود دارد که همه ما در آینده نزدیک بمیریم.»

او پیش از پیوستن به آنتروپیک در OpenAI کار می‌کرد. کاکسون از پیشنهاد «داریو آمودی»، مدیرعامل آنتروپیک، برای کاهش سرعت توسعه هوش مصنوعی استقبال کرد، اما گفت چنین اقدامی باید با چین نیز هماهنگ شود. آمودی روز شنبه در مقاله‌ایخواستار کاهش سرعت پیشرفت هوش مصنوعیشده بود.

هشدار درباره رقابت هوش مصنوعی

کاکسون معتقد است کارکنان شرکت‌های هوش مصنوعی به‌دلیل قرار گرفتن در یک رقابت فشرده برای توسعه فناوری‌های قدرتمندتر، درباره پیامدهای این رقابت نگران هستند. او گفت

«افرادی که در این شرکت‌ها کار می‌کنند، وقتی درخواست قانون‌گذاری می‌کنند کاملاً جدی هستند، چون خودشان را گرفتار یک رقابت می‌بینند و از نتایج آن رقابت می‌ترسند.»

به گفته کاکسون، «سم آلتمن» و «ایلان ماسک» نیز با ایده کاهش سرعت توسعه موافق بوده‌اند، اما برای جلوگیری از شکل‌گیری رقابت در سطح بین‌المللی، نوعی کاهش سرعت هماهنگ با چین لازم است.

او درباره یکی از سناریوهای احتمالی ناشی از پیشرفت هوش مصنوعی نیز گفت که تشکیل گروهی از بات‌ها که مانند یک ابرکامپیوتر دست به عمل بزنند و بتوانند کنترل اینترنت را به دست بگیرند، ممکن است ظرف شش ماه تا یک سال به واقعیت تبدیل شود.

سخنگوی آنتروپیک در واکنش به استعفای کاکسون به BBC گفت این شرکت همیشه به‌طور شفاف اعلام کرده که هوش مصنوعی در کنار مزایای بسیار زیاد، خطرهای بی‌سابقه نیز خواهد داشت. به گفته این سخنگو، آنتروپیک به توسعه مدل‌هایی با برخی از قوی‌ترین سازوکارهای حفاظتی در صنعت ادامه می‌دهد.

صحبت‌های کاکسون با واکنش‌های انتقادی در سیلیکون‌ولی نیز روبه‌رو شده است. «کلمنت دلانگ»، مدیرعامل هاگینگ فیس، در شبکه اجتماعیایکسدرباره اظهارات او نوشت

«ببخشید ولی پرسیدن درباره خطر انقراض انسان از جیکوب مثل پرسیدن درباره تغییرات اقلیمی از تعمیرکار کولر است.»

دلنگ البته پس از انتشار مقاله آمودی اعلام کرد که حاضر است در راهکارهای احتمالی پیشنهادی مدیرعامل آنتروپیک مشارکت کند. «جنسن هوانگ»، مدیرعامل انویدیا، نیز در یک کنفرانس که هفته گذشته به میزبانی بانک سرمایه‌گذاری گلدمن ساکس برگزار شد، درباره اظهارات کاکسون صحبت کرد. به گفته چند نفر از حاضران که با BBC گفت‌وگو کرده‌اند، هوانگ این اظهارات را نادرست دانسته است.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.