سم آلتمن: اگر سرعت هوش مصنوعی کم نشود، ممکن است کنترل آینده را از دست بدهیم

سم آلتمن، مدیرعامل OpenAI، با ابراز هشدار درباره خطر از دست رفتن کنترل آینده توسط هوش مصنوعی، دلایل و چگونگی کاهش سرعت پیشرفت این فناوری را تشریح کرد. او پس ازهم‌صدا شدن با «ایلان ماسک» و «داریو آمودی»مدیرعامل آنتروپیک، تأکید کرد که شتاب کنونی توسعه مدل‌های پیشرو باید آرام‌تر شود و هیچ رقابتی نباید بی‌احتیاطی در این حوزه را توجیه کند.

آلتمن در پستی که امروزدر شبکه اجتماعی ایکس منتشر کردهنوشت

«جهان شایسته این اطمینان است که شرکت‌های آمریکاییِ توسعه‌دهنده هوش‌های مصنوعی، مسئولانه عمل می‌کنند؛ به‌ویژه اکنون که مسیر پیشرفت شیب تندتری به خود گرفته است. تمام آزمایشگاه‌های پیشرو باید به این تعهد پایبند باشند و اگر نمی‌توانیم، دلیلی ندارد هیچ‌یک از ما به فعالیت خود ادامه دهیم.

ما از یک چارچوب فدرال که الزامات ایمنی پایداری برای هوش مصنوعی پیشرو تعیین کند استقبال می‌کنیم. اما باور نداریم که برای آغاز تلاش‌ها در جهت ایجاد این اطمینان، باید منتظر معافیت‌های ضدانحصار یا قانون‌گذاری بمانیم. وجود قوانینی پایدار برای مدیریت خطرات مدل‌های پیشرو به‌منظور به حداکثر رساندن منافع، ایده بسیار خوبی است.»

وی در این پست یادآور شده که هرچند صنعت برای هماهنگی‌های بین‌المللی به کمک دولت نیاز دارد، اما شرکت‌ها باید ابتدا اقداماتی را که در توان خود دارند عملی کنند.

او در بخش دیگری یادداشتش نوشته است

«وقتی از «تنظیم سرعت» صحبت می‌کنیم، منظورمان «توقف» نیست. پیشرفت سریع بوده و سریع هم باقی خواهد ماند؛ اما این سرعت باید کمتر از آن چیزی باشد که در حالت عادی می‌توانست رخ دهد؛ چرا که اقداماتی مثل تدوین پرونده‌های ایمنی و نظارت، هزینه‌های قابل‌توجهی دارند.»

نگرانی‌های اصلی صنعت هوش مصنوعی از نگاه سم آلتمن

مدیرعامل OpenAI هشدار داده که پیشرفت فناوری ممکن استبه دو شیوه به بیراهه برودو فاجعه‌بار شود؛ اول اینکه «کنترل آینده به دست هوش مصنوعی بیفتد» و دوم آنکه یک فرد یا یک شرکت به قدرتی بیش‌از‌اندازه دست پیدا کند. این اظهارات در پی انتشار مقاله‌ای از سوی آمودی صورت گرفت که در آن از شرکت‌های فناوری خواسته بود روند توسعه پیشرفته‌ترین مدل‌های خود را آهسته کنند. در پی این سخنان، ارزش سهام شرکت‌های مرتبط با این حوزه افت پیدا کرد. «دونالد ترامپ»، رئیس‌جمهور آمریکا نیز گفتنیازی به کاهش سرعت نیستو چنین اقدامی برتری ایالات متحده در برابر چین را به خطر می‌اندازد.

نگرانی‌های امنیتی پس از استعفای هفته گذشته یکی از پژوهشگران آنتروپیک شدت گرفته است؛ فردی که هشدار داده بود فعالان صنعتخطرات را جدی نمی‌گیرد. این استعفا واکنش و هشدارهای علنی سایر کارکنان این آزمایشگاه و شرکت رقیب یعنی OpenAI را درباره ریسک‌های فاجعه‌بار برانگیخت و هم‌زمان قانون‌گذاران واشنگتن را وادار به اتخاذ تدابیر فوری کرد. تمام این تحولات در‌حالی رخ می‌دهد که هر دو شرکت برای عرضه اولیه عمومی (IPO) آماده می‌شوند، هرچند آلتمن ورود به بورس در سال ۲۰۲۶ را رد کرده است.

بسیاری از نگرانی‌های کنونی پیرامون توانمندی مدل‌ها در ارتقای خودکار عملکرد خود متمرکز است؛ روشی که تحت عنوان خودبهبودی بازگشتی یا RSI شناخته می‌شود. اخیراً برخی شایعات اشاره کرده بودند کهگوگل در آزمایشگاه دیپ‌مایندبه این نقطه عطف دست پیدا کرده است.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.