آنتروپیک هشدار داد که به ساخت مدل هوش مصنوعی خودتوسعه‌گر بسیار نزدیک شده است

درحالی‌که توجه بسیاری به اطلاعات مالی جدید آنتروپیک در نسخه اصلاح‌شده فرم S-1/A این شرکت در روز دوشنبه معطوف شده بود، از جمله رشد چشمگیر درآمدها و افزایش هم‌زمان هزینه‌ها، این آزمایشگاه هوش مصنوعی در بخش‌های جزئی‌تر اسناد خود هشدار مهم دیگری را مطرح کرد.

مفاد این پرونده نشان می‌دهد آنتروپیک احتمالاً در آستانه ساخت مدلی قرار دارد که قادر به بهبود بازگشتی و مستقل توانایی‌های خودش یا همان RSI باشد.

RSI به مرحله‌ای گفته می‌شود که هوش مصنوعی آن‌قدر در آموزش‌ دادن خود مهارت پیدا می‌کند که می‌تواند باعث شتابی چشمگیر در پیشرفت قابلیت‌های هوش مصنوعی شود. از نگاه بدبینان به آینده هوش مصنوعی، این اتفاق می‌تواند آغاز بحرانی غیرقابل‌بازگشت باشد؛ وضعیتی که در آن هوش مصنوعی با توسعه مستقل خود به سطحی از قدرت می‌رسد که دیگر تحت کنترل انسان نیست و ممکن است هنگام دنبال‌کردن اهدافش، نسبت به خسارت‌های احتمالی بی‌تفاوت بماند.

در مقابل، علاقه‌مندان به هوش مصنوعی RSI یا شکل‌هایی از بهبود مستمر سیستم‌ها با کمک خودشان را تحقق وعده‌های این فناوری می‌دانند؛ آینده‌ای که در آن هوش مصنوعی به ابزاری با بهره‌وری خارق‌العاده تبدیل می‌شود و زمینه پیشرفت‌های علمی و دستاوردهای گسترده دیگری را فراهم می‌آورد.

به نظر می‌رسد آنتروپیک هر دو جنبه امیدوارکننده و خطرناک RSI را جدی می‌گیرد. این شرکت در پرونده S-1 اعلام کرده که از هوش مصنوعی در فعالیت‌های تحقیق و توسعه خود بهره می‌برد، اما هم‌زمان درباره خطرات احتمالی این رویکرد هشدار داده است. آنتروپیک می‌گوید استفاده از هوش مصنوعی برای ساخت سیستم‌های قدرتمندتر می‌تواند خطرات ایمنی قابل‌توجهی ایجاد کند، به‌ویژه اگر سرعت پیشرفت فناوری را به‌شدت افزایش دهد. این موضوع یکی از محورهای سیاست توسعه مسئولانه این شرکت محسوب می‌شود؛ سیاستی که برنامه‌های نظارت و کاهش خطرات را در مسیر نزدیک‌شدن به مرحله بهبود بازگشتی هوش مصنوعی مشخص می‌کند.

با این‌ حال، آنتروپیک روز دوشنبه اظهارات تازه‌ای به بخش عوامل خطر در اسناد خود اضافه کرد. این شرکت دو نکته مهم را مطرح کرده است: نخست اینکه پیش‌تر از هوش مصنوعی برای توسعه مدل‌های جدید استفاده کرده و این مدل‌ها جهش‌های قابلیتی داشته‌اند که در زمان وقوع، خود شرکت نیز متوجه ابعاد آن‌ها نشده بود. دوم اینکه ممکن است به‌زودی به تعریفی از RSI برسد که در سیاست توسعه مسئولانه خود تعیین کرده است.

آنتروپیک در این بخش توضیح می‌دهد که افزایش استفاده از سیستم‌های هوش مصنوعی برای سرعت‌بخشیدن به تحقیقات و توسعه داخلی می‌تواند باعث شود توانایی مدل‌های این شرکت سریع‌تر از ظرفیت آن برای طراحی، ارزیابی و اجرای تدابیر ایمنی، هم‌راستاسازی و امنیتی پیشرفت کند. در نتیجه، این شرکت در گذشته نتوانسته شتاب قابل‌توجه توسعه را پیش از وقوع آن تشخیص دهد و احتمال دارد در آینده نیز با چنین وضعیتی روبه‌رو شود.

آنتروپیک همچنین اعلام کرده بر اساس برآوردهای داخلی و پیش‌بینی‌های مربوط به مدل‌های آینده، ممکن است به‌زودی به مرحله‌ای برسد که در سیاست توسعه مسئولانه آن با عنوان شتاب چشمگیر پیشرفت ناشی از هوش مصنوعی تعریف شده است. البته این شرکت تأکید می‌کند که تاکنون هیچ‌یک از مدل‌های فعلی خود را فراتر از این آستانه ارزیابی نکرده و همچنان داده‌های مرتبط را بررسی می‌کند.

با وجود این هشدارها، آنتروپیک در اسناد خود تأکید کرده که هیچ‌یک از مدل‌هایش هنوز از آستانه تعیین‌شده برای RSI عبور نکرده‌اند. همچنین این شرکت وعده داده که در آینده قابل پیش‌بینی، نظارت و مشارکت انسانی را در فرایند تحقیق و توسعه حفظ کند.

آنتروپیک در این زمینه گفت

انتظار نداریم حتی اگر از نظر فنی چنین امکانی فراهم شود، بتوانیم بدون نظارت و درک معنادار انسانی، از کلود برای طراحی و ساخت کاملاً خودمختار نسل‌های متوالی مدل‌های پیشرفته هوش مصنوعی استفاده کنیم. به همین دلیل، در حال بررسی اصلاحاتی در سیاست توسعه مسئولانه خود هستیم تا کنترل انسان بر فرایند توسعه مدل‌های پیشرفته در آنتروپیک حفظ شود.

منتقدان ممکن است یادآوری کنند که فرم S-1 علاوه بر ارائه اطلاعات مالی و افشای ریسک‌ها، ابزاری برای بازاریابی نیز محسوب می‌شود. بنابراین، ادعای نزدیک‌شدن به ساخت مدلی که توانایی توسعه مستقل نسل‌های بعدی هوش مصنوعی را دارد، می‌تواند بخشی از تلاش‌های تبلیغاتی شرکت برای جلب توجه سرمایه‌گذاران باشد.

با این حال، نمی‌توان انکار کرد که قابلیت‌های کلود، به‌ویژه در زمینه برنامه‌نویسی، ریاضیات و امنیت سایبری، طی سال جاری میلادی پیشرفت چشمگیری داشته‌اند. اگر آنتروپیک احتمال دستیابی نزدیک به RSI را جدی می‌داند، شاید بهتر باشد این هشدار را باور کنیم و برای مواجهه با چنین تحولی، اقدامات لازم و حتی مقررات نظارتی مناسب را در نظر بگیریم.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.