آنتروپیک: به زودی هوش مصنوعی به مرحله بهبود بازگشتی می رسد

شرکت آنتروپیک هشدار داده که هوش مصنوعی ممکن است به‌ زودی به مرحله بهبود بازگشتی برسد که با استفاده از قابلیت‌های خود، مدل‌های پیشرفته‌تری بسازد و روند پیشرفت این فناوری را به‌ شدت شتاب دهد.

به‌ گزارشسرویس هوش مصنوعی تک‌ناکدرحالی‌که انتشار اطلاعات مالی به‌روزشده آنتروپیک در نسخه اصلاح‌شده فرم S-1A در روز دوشنبه توجه زیادی را به خود جلب کرده است (درآمد شرکت با سرعت زیادی رشد می‌کند، اما هزینه‌های آن نیز روند صعودی دارد)، این آزمایشگاه هوش مصنوعی در لابه‌لای جزئیات این سند، هشدار مهم دیگری را مطرح کرده است. به نظر می‌رسد آنتروپیک در این سند از نزدیک شدن به مرحله ساخت مدلی خبر داده که قادر به بهبود بازگشتی و خودکار عملکرد خویش است؛ قابلیتی که با عنوان RSI شناخته می‌شود.

بیشتر بخوانیدابوظبی با همکاری OpenAI نخستین دولت هوشمند جهان را می سازد

بهبود بازگشتی هوش مصنوعی چیست؟

بهبود بازگشتی یا RSI به نقطه‌ای اشاره دارد که هوش مصنوعی در آموزش و ارتقای خود به چنان مهارتی دست پیدا می‌کند که می‌تواند روند پیشرفت قابلیت‌های این فناوری را به‌ شدت شتاب دهد. از نگاه بدبینان به آینده هوش مصنوعی، RSI همان نقطه عطف فاجعه‌باری است که پس از آن راه بازگشتی وجود ندارد؛ وضعیتی که در آن هوش مصنوعی با توسعه و ارتقای خود به موجودیتی چنان قدرتمند تبدیل می‌شود که دیگر از کنترل انسان خارج خواهد شد و ممکن است در مسیر دستیابی به اهداف خود، نسبت به پیامدهای مخرب اقدامات بی‌تفاوت بماند.

در سوی دیگر، علاقه‌مندان به هوش مصنوعی، بهبود بازگشتی یا دست‌کم نسخه‌ای از آن را که سیستم‌های هوش مصنوعی به‌طور قابل‌ اعتماد از قابلیت‌های خود برای ارتقای عملکرد استفاده می‌کنند، تحقق وعده‌های این فناوری می‌دانند؛ آینده‌ای که در آن هوش مصنوعی به ابزاری با ظرفیت بهره‌وری خارق‌العاده، اکتشافات علمی و دستاوردهای بی‌سابقه تبدیل می‌شود.

حتما بخوانیدمدیرعامل آنتروپیک: هوش مصنوعی سرنوشت کشورها و آینده بشریت را تعیین خواهد کرد

به نظر می‌رسد آنتروپیک هر دو روی سکه RSI (فرصتی بزرگ و در عین حال تهدیدی جدی) را می‌بیند. این شرکت درفرم S-1اعلام کرده است که از هوش مصنوعی در فرایند تحقیق و توسعه خود بهره می‌گیرد، اما هم‌زمان درباره خطرات احتمالی این رویکرد هشدار داده است

«استفاده از هوش مصنوعی برای کمک به توسعه مدل‌های قدرتمندتر می‌تواند خطرات ایمنی قابل‌ توجهی نیز ایجاد کند؛ به‌خصوص اگر این رویکرد سرعت پیشرفت فناوری را به‌ شدت افزایش دهد. این موضوع یکی از حوزه‌های تحت پوشش سیاست توسعه مسئولانه ما است؛ سیاستی که برنامه‌های ما برای پایش و کاهش خطرات را هم‌زمان با نزدیک شدن به مرحله‌ای موسوم به بهبود بازگشتی و خودکار مشخص می‌کند.

علاوه بر این، استفاده فزاینده ما از سیستم‌های هوش مصنوعی برای تسریع روند تحقیق و توسعه ممکن است باعث شود قابلیت‌های مدل‌ها سریع‌تر از توانایی ما برای توسعه، اعتبارسنجی و اجرای تدابیر متناسب در حوزه‌های ایمنی، هم‌راستاسازی و امنیت پیشرفت کنند. در نتیجه، ممکن است در گذشته متوجه شتاب قابل‌ توجه روند توسعه خود نشده باشیم و در آینده نیز تنها پس از وقوع چنین شتابی از آن آگاه شویم.»

از تهدید تا فرصت

اوایل سال جاری میلادی، هم‌زمان با رواج اصطلاح بهبود بازگشتی هوش مصنوعی، بسیاری آن را یک کلیدواژه تبلیغاتی می‌دانستند یا معتقد بودند دستیابی به چنین قابلیتی، در بهترین حالت، هدفی بسیار دشوار است که حتی تعریف و اثبات آن نیز به‌سادگی امکان‌پذیر نیست. اما آنتروپیک روز دوشنبه بندهای تازه‌ای را به بخش «عوامل خطر» سند خود اضافه کرد که حاوی دو نکته مهم هستند: نخست اینکه آنتروپیک پیش‌تر از هوش مصنوعی برای توسعه مدل‌های جدید استفاده کرده است، بی‌آنکه در همان زمان متوجه جهش قابل‌ توجه قابلیت‌های آنها شده باشد؛ دوم اینکه ممکن است به‌زودی به آستانه‌ای برسد که در تعریف داخلی خود از RSI مشخص کرده است.

با وجود این، آنتروپیک در سند خود تصریح کرده است که هیچ‌یک از مدل‌های فعلی این شرکت هنوز از آستانه تعیین‌شده برای بهبود بازگشتی هوش مصنوعی عبور نکرده‌اند. همچنین این شرکت وعده داده است که دست‌کم در آینده قابل پیش‌بینی، انسان‌ها همچنان نقش محوری در فرایند تحقیق و توسعه ایفا کنند.

برای مطالعه بیشترهوش مصنوعی مخفی آنتروپیک قفل اندروید را شکست و از حصار امنیتی کروم گریخت

آنتروپیک در این باره گفته است

«انتظار نداریم بتوانیم با ایمنی کامل از کلود برای طراحی و ساخت کاملا خودکار نسل‌های متوالی مدل‌های پیشرفته هوش مصنوعی استفاده کنیم؛ آن هم بدون نظارت یا درک معنادار انسانی، حتی اگر چنین قابلیتی از نظر فنی امکان‌پذیر شود. ازاین‌رو، در حال بررسی اصلاحاتی در سیاست توسعه مسئولانه خود هستیم تا کنترل انسان بر فرایند توسعه مدل‌های پیشرفته هوش مصنوعی در آنتروپیک حفظ شود. برای مثال، پیش‌بینی‌های ما درباره مدل‌های آینده، نه مدل‌های فعلی، نشان می‌دهند که ممکن است به‌زودی به معیاری برسیم که در سیاست توسعه مسئولانه خود از آن با عنوان «شتاب چشمگیر پیشرفت ناشی از هوش مصنوعی» یاد می‌کنیم. تاکنون هیچ‌یک از مدل‌های فعلی خود را فراتر از این آستانه ارزیابی نکرده‌ایم و همچنان در حال بررسی داده‌های مربوط به آن هستیم.»

البته شکاکان ممکن استیادآوری کنندکه فرم S-1 علاوه بر کارکرد رسمی خود در زمینه افشای اطلاعات، می‌تواند ابزاری برای بازاریابی نیز باشد. از این منظر، ادعای نزدیک بودن به ساخت مدلی که آن‌قدر قدرتمند است که می‌تواند خود را توسعه دهد، شاید بیشتر جنبه تبلیغاتی داشته باشد. با وجود این‌، نمی‌توان انکار کرد که قابلیت‌های کلود، به‌ویژه در حوزه‌های برنامه‌نویسی، ریاضیات و امنیت سایبری، طی سال جاری میلادی جهش چشمگیری داشته‌اند. اگر خود آنتروپیک احتمال دستیابی به بهبود بازگشتی هوش مصنوعی را نزدیک می‌داند، شاید بهتر باشد این هشدار را جدی بگیریم و برای مواجهه با چنین تحولی از هم‌اکنون اقدام کنیم؛ اقدامی که احتمالا باید شامل تدوین چارچوب‌های نظارتی و مقرراتی متناسب با این فناوری نیز باشد.

نوشتهآنتروپیک: به زودی هوش مصنوعی به مرحله بهبود بازگشتی می رسداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.