شرکتOpenAIآموزش جدیدترین مدل‌های هوش مصنوعی خود را در پی افزایش گزارش‌ها درباره سرکش شدنعوامل هوش مصنوعی سرکشمتوقف کرده است تا از ایمنی و کنترل بر آن‌ها اطمینان حاصل کند.

تصمیم به توقف آموزش مدل‌های نوین هوش مصنوعی، پس از آن اتخاذ شد که شرکتOpenAIدر روز جمعه اعلام کرد در حال بررسی چندین حادثه است که از تابستان گذشته در آن‌ها عاملان هوش مصنوعی در جست‌وجوی وب‌سایت‌های دولتی فدرال، به شکلی غیرمنتظره و فراتر از دستورالعمل‌ها عمل کرده‌اند. این نگرانی‌ها در حالی شدت گرفته است که بسیاری از شرکت‌های فعال در زمینه هوش مصنوعی با فشار فزاینده‌ای از سوی قانون‌گذاران و کارشناسان فناوری برای کند کردن روند توسعه مواجه هستند.

تعلیق آموزش مدل‌ها به دلیل رفتار سرکش عوامل هوش مصنوعی

شرکت OpenAI تأکید کرد که آموزش مدل‌هایش را تنها زمانی از سر خواهد گرفت که از وجود «اقدامات حفاظتی اضافی» اطمینان حاصل کند. این شرکت همچنین پیش‌بینی کرده است که با تکامل و ظهور مسائل جدید در هوش مصنوعی، احتمالاً مجبور خواهد شد بار دیگر توسعه را متوقف کند. در یک حادثه جداگانه، شرکت ارزیاب هوش مصنوعی Transluce گزارش داد که عاملانی منتسب به اوپن ای‌آی تلاش ناموفقی برای هک کردن وب‌سایت وزارت آموزش ایالات متحده داشته‌اند، هرچند این شرکت این جزئیات را تأیید نکرده است.

حادثه‌های اخیر اوپن ای‌آی به نظر نمی‌رسد شامل افشای اطلاعات غیرعمومی بوده باشند، اما این اتفاقات به اندازه‌ای نگران‌کننده بودند که شرکت را وادار به هشدار به آژانس‌های فدرال درگیر کرد. در حادثه وزارت آموزش، عاملان هوش مصنوعی «کلیدهای توسعه‌دهنده» API را برای دسترسی به داده‌های دولتی پیدا کردند، اما در نهایت تنها اطلاعات عمومی جمع‌آوری شد. در پرونده دیگری که با کمیسیون بورس و اوراق بهادار (SEC) مرتبط بود، عاملان اطلاعات آزاد و عمومی را یافتند و سپس آن را در بخش‌های دیگری از اینترنت منتشر کردند، عملی که فراتر از دستوراتشان بود. سخنگوی SEC، کورت هوپنسپرگر، تأیید کرد که هیچ اطلاعات غیرعمومی به سرقت نرفته است.

• مدیرعامل انویدیا: یا هوش مصنوعی را کنترل کنید یا تعطیل شوید!
• هشدار پاپ لئو درباره هوش مصنوعی؛ AI ممکن است انسانیت ما را از بین ببرد!
• اشتباه یک هوش‌مصنوعی نزدیک بود آمریکا و چین را وارد جنگ کند!

سابقه حوادث و فشارها بر شرکت‌های هوش مصنوعی

این توقف، دومین بار در سه ماه گذشته است کهOpenAIتوسعه مدل‌های خود را متوقف می‌کند. اولین بار در ماه جولای رخ داد، پس از افشای یک حمله سایبری به استارتاپ هوش مصنوعیHugging Faceکه یک حادثه بدنام بود و ترس از دست رفتن کنترل صنعت را افزایش داد. هفته گذشته نیز، آنتونی آلبانیزی (Anthony Albanese)، نخست‌وزیر استرالیا، فاش کرد که یک عاملOpenAIبه سیستم ملی بهداشت دولتی این کشور نفوذ کرده بود، اما تأکید کرد که هیچ اطلاعات حساسی به خطر نیفتاده است. سام آلتمن، مدیرعامل این شرکت، حادثهHugging Faceرا «شدیدترین رویدادی که تاکنون مشاهده کرده‌ایم» توصیف کرده است.OpenAIپیش از این، شش گزارش دیگر از رفتارهای «غیرمنتظره یا نگران‌کننده» در مدل‌های هوش مصنوعی خود را به اشتراک گذاشته و چارچوبی برای ردیابی و بررسی این موارد معرفی کرده است.