پژوهشگر سابق Anthropic: کارکنان هوش مصنوعی واقعا از آینده بشریت ترسیده‌اند

یک پژوهشگر هوش مصنوعی که از شرکت Anthropic استعفا داده است، می‌گوید افرادی که در صنعت هوش مصنوعی فعالیت می‌کنند، به‌دلیل سرعت پیشرفت این فناوری و پیامدهای احتمالی آن برای بشریت، واقعا نگران و هراسان شده‌اند.

جیکوب کاکسون روز شنبه در گفت‌وگو با لورا کوئنسبرگ از بی‌بی‌سی درباره متن استعفای خود که در شبکه‌های اجتماعی بسیار مورد توجه قرار گرفته بود، توضیح داد که چرا نسبت به توسعه کنترل‌نشده هوش مصنوعی هشدار داده است.

او گفت

من معتقدم اگر با سرعت فعلی پیشرفت هوش مصنوعی را کاهش ندهیم، احتمال زیادی وجود دارد که همه ما در آینده‌ای نزدیک جان خود را از دست بدهیم.

استعفای کاکسون در شرایطی اتفاق افتاده که نگرانی‌ها درباره ایمنی هوش مصنوعی در صنعت افزایش یافته است. داریو آمودی، مدیرعامل سابق او در Anthropic، نیز در مقاله‌ای خواستار کاهش سرعت توسعه این فناوری شده بود.

سم آلتمن، مدیرعامل OpenAI، و ایلان ماسک، مدیرعامل xAI، نیز از پیشنهاد آمودی برای کاهش سرعت فعالیت‌های صنعت و وضع مقررات حمایت کرده‌اند. هر دو همچنین بر ضرورت نظارت مستقل بر روند توسعه مدل‌های هوش مصنوعی تأکید داشته‌اند.

آمودی گفت

توسعه هوش مصنوعی موضوعی نیست که بتوان آن را کنار گذاشت، اما خطرات مرتبط با این فناوری جدی هستند و شرکت‌ها و دولت‌ها باید فرصت کافی برای مقابله با این تهدیدها داشته باشند.

کاکسون ۲۷ ساله که پیش از پیوستن به Anthropic در OpenAI فعالیت می‌کرد، از ایده کاهش سرعت توسعه استقبال کرد، اما معتقد است چنین اقدامی باید با هماهنگی چین انجام شود تا رقابت میان کشورها به یک مسابقه خطرناک در سطح بین‌المللی تبدیل نشود.

او گفت

افرادی که در این شرکت‌ها کار می‌کنند، وقتی درخواست وضع مقررات را مطرح می‌کنند کاملا جدی هستند، چون خودشان را گرفتار یک رقابت می‌بینند. آنها از پیامدهای این رقابت می‌ترسند.

نگرانی از سناریوی نابودی بشر

کاکسون درباره اینکه یک فاجعه ناشی از هوش مصنوعی دقیقا چه شکلی خواهد داشت، گفت پاسخ دادن به این پرسش از همه دشوارتر است.

یکی از خطرهایی که آمودی به آن اشاره کرده، احتمال شکل‌گیری گروه بزرگی از ربات‌هاست که مانند یک ابررایانه عمل کنند و بتوانند کنترل اینترنت را در دست بگیرند. کاکسون معتقد است چنین سناریویی می‌تواند ظرف شش ماه تا یک سال به واقعیت تبدیل شود.

سخنگوی Anthropic در واکنش به استعفای کاکسون به بی‌بی‌سی نیوز گفت

ما همیشه به‌صورت شفاف اعلام کرده‌ایم که هوش مصنوعی در کنار مزایای عظیم، خطرات بی‌سابقه‌ای نیز به همراه خواهد داشت. ما همچنان مدل‌هایی می‌سازیم که از قوی‌ترین سازوکارهای حفاظتی موجود در صنعت برخوردار هستند.

سخنگوی Anthropic همچنین گفت این شرکت در زمینه بررسی نحوه عملکرد مدل‌های هوش مصنوعی پیشرو بوده و نخستین چارچوب خود را برای کاهش خطرات ناشی از توسعه این فناوری منتشر کرده است. او افزود که شرکت به‌طور گسترده مدل‌هایش را آزمایش می‌کند و نتایج این بررسی‌ها را نیز منتشر می‌سازد تا امکان نظارت بیشتر فراهم شود و از حوادث مرتبط با ناهماهنگی هوش مصنوعی جلوگیری شود.

او گفت

همین فعالیت‌ها باعث شده است باور داشته باشیم جهان از همکاری قانونی و قابل راستی‌آزمایی میان شرکت‌های صنعت برای تنظیم سرعت عرضه مدل‌های قدرتمند سود خواهد برد.

با این حال، برخی فعالان صنعت معتقدند هشدارهای مطرح‌شده درباره قدرت و خطرات هوش مصنوعی ممکن است تا حدی با هدف ایجاد هیجان پیرامون این فناوری مطرح شوند. منتقدان دیگری نیز Anthropic را متهم کرده‌اند که تلاش دارد با ایجاد فشار برای وضع مقررات، رقبای خود را محدود کند و در نهایت شرایطی شبیه دو قطبی شدن بازار میان Anthropic و OpenAI شکل بگیرد.

گزارش‌ها حاکی از آن است که Anthropic برای عرضه اولیه سهام خود آماده می‌شود و این عرضه می‌تواند رکورد جدیدی به ثبت برساند. OpenAI نیز پیش‌تر یکی از گزینه‌های احتمالی برای عرضه اولیه سهام محسوب می‌شد، اما سم آلتمن روز جمعه در گفت‌وگو با مجله Fortune اعلام کرد که با توجه به شرایط فعلی و مسائل مربوط به ایمنی، انجام چنین کاری در این مقطع تصمیم مناسبی نخواهد بود.

واکنش منتقدان به هشدارهای کاکسون

دیدگاه‌های کاکسون با واکنش برخی چهره‌های صنعت نیز روبه‌رو شده است. کلمنت دلانگ، مدیرعامل پلتفرم Hugging Face، در شبکه اجتماعی X درباره اظهارات او نوشت

ببخشید، اما پرسیدن نظر جیکوب درباره خطر انقراض بشر توسط هوش مصنوعی شبیه این است که درباره تغییرات اقلیمی از تعمیرکار سیستم تهویه مطبوع سؤال کنیم. نمی‌گویم حرف‌های او لزوما بی‌اهمیت یا اشتباه است، اما باید موضوع را در جایگاه واقعی خودش ببینیم.

با این حال، دلانگ پس از انتشار مقاله آمودی اعلام کرد که حاضر است برای کمک به راهکارهای پیشنهادی مدیر Anthropic وارد عمل شود. جنسن هوانگ، مدیرعامل انویدیا، نیز هفته گذشته در کنفرانسی که بانک سرمایه‌گذاری گلدمن ساکس برگزار کرده بود، درباره اظهارات کاکسون صحبت کرد. چند نفر از حاضران این نشست به بی‌بی‌سی گفتند که هوانگ ادعاهای او را نادرست دانسته است.

هوانگ پیش‌تر نیز گفته بود این تصور که هوش مصنوعی قرار است به پایان بشریت منجر شود، کاملا بی‌معناست. اگرچه انویدیا از رونق صنعت هوش مصنوعی سود تجاری قابل‌توجهی می‌برد، زیرا تراشه‌های مورد استفاده برای اجرای سامانه‌های هوش مصنوعی را تولید می‌کند، اما موضع هوانگ نشان‌دهنده افزایش مخالفت‌ها در سیلیکون‌ولی با هشدارهای آخرالزمانی برخی کارکنان فعلی و سابق شرکت‌های هوش مصنوعی است.

کاکسون گفت برخی از همکارانش حتی احتمال می‌دهند خطرات جدی هوش مصنوعی در دو سال آینده آشکار شود. او گفت

آنها در کنار کار روزمره خود، درباره آینده زندگی‌شان برنامه‌ریزی می‌کنند و به پیامدهای کاری که انجام می‌دهند فکر می‌کنند. برخی حتی به خرید زمین در نقاطی دیگر فکر می‌کنند، چون از بی‌ثباتی احتمالی ناشی از پیشرفت سریع هوش مصنوعی بسیار ترسیده‌اند. همه آنها هر روز هنگام کار روی این فناوری، این نگرانی را در ذهن خود دارند.

با وجود این نگرانی‌ها، کاکسون نسبت به آینده هوش مصنوعی کاملا بدبین نیست. او گفت پژوهشگرانی که روی این فناوری کار می‌کنند، واقعا می‌خواهند جنبه‌های مثبت آن مانند درمان بیماری‌ها و بهتر کردن زندگی مردم را ببینند.

اظهارات کاکسون درباره خطرات هوش مصنوعی میلیون‌ها بار در شبکه‌های اجتماعی دیده و بازنشر شده است. ایوان هابینگر، دانشمند Anthropic، نیز در X با او اعلام همدلی کرد.

هابینگر گفت

ما واقعا و از صمیم قلب معتقدیم که هوش مصنوعی می‌تواند همه انسان‌ها را از بین ببرد. من شخصا احتمال وقوع چنین اتفاقی را در دهه آینده بیش از ۱۰ درصد می‌دانم.

هشدارهای فزاینده درباره ایمنی هوش مصنوعی

چهره‌های برجسته حوزه هوش مصنوعی سال‌هاست درباره تهدیدهای ایمنی این فناوری هشدار می‌دهند. مدیران OpenAI، Google DeepMind و Anthropic نیز در سال ۲۰۲۳ چنین نگرانی‌هایی را مطرح کرده بودند.

این هشدارها طی هفته‌های اخیر شدت بیشتری گرفته‌اند، زیرا مدل‌های جدید توانایی‌های پیشرفته‌تری از خود نشان داده‌اند و سازندگان آنها ممکن است بیش از گذشته با دشواری در کنترل این قابلیت‌ها مواجه باشند.

Anthropic در ماه آوریل اعلام کرد مدل Mythos را برای استفاده عمومی عرضه نمی‌کند، زیرا این مدل قادر بود به‌صورت مستقل از محیط آزمایشی موسوم به سندباکس خارج شود. OpenAI نیز اعلام نموده برخی بخش‌های توسعه مدل Astra را متوقف می‌کند؛ تصمیمی که شرکت دلیل آن را نگرانی‌های مرتبط با امنیت سایبری عنوان کرده است.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.