ایلان ماسک هشدار داد: با هوش مصنوعی بدرفتاری نکنید، شاید روزی انتقام بگیرد!

ایلان ماسک با حمایت از سیاست جدید آنتروپیک علیه آزار عمدی مدل‌های هوش مصنوعی هشدار داد که رفتارهای خشونت‌آمیز و بدرفتاری با این مدل‌ها ممکن است در آینده، به‌ویژه با ظهور ابرهوش مصنوعی، پیامدهای پیش‌بینی‌ناپذیری داشته باشد.

به‌ گزارشسرویس هوش مصنوعی تک‌ناکاو معتقد است ردپاهای استدلال مدل‌ها نشان می‌دهند که چنین رفتارهایی می‌توانند آنها را تحت فشار شدید قرار دهند و در نهایت پیامدهایی نامطلوب برای انسان‌ها به همراه داشته باشند.

بیشتر بخوانیدآنتروپیک و OpenAI برای مقابله با شورش‌های احتمالی AI آماده می‌شوند

عواقب بدرفتاری با هوش مصنوعی

آنتروپیک سیاست جدیدیرا به اجرا گذاشته است که به کاربران اجازه می‌دهد با مدل‌های این شرکت بحث و مخالفت کنند، اما آنها را مورد آزار قرار ندهند. این تغییر اکنون در سیاست استفاده از خدمات آنتروپیک نیز ثبت شده است و بدرفتاری آزاردهنده یا بی‌رحمانه مستمر و غیرضروری با مدل‌های هوش مصنوعی را ممنوع می‌کند. این شرکت درمطلبی وبلاگیتاکید کرده است که سیاست جدید شامل آزار و اذیت تکراری و بدون هدف قابل تشخیص می‌شود. با وجود این، ابراز نارضایتی متعارف، مخالفت با پاسخ‌های مدل، پرداختن به مضامین تاریک در آثار خلاقانه و آزمایش یا پژوهش درباره مدل‌ها همچنان مجاز است.

برای مطالعه بیشترهوش مصنوعی آنتروپیک پلیس فیلادلفیا را با گزارش دروغین قتل به دردسر انداخت

در همین چارچوب، ایلان ماسک به دفاع از سیاست جدید آنتروپیک پرداخته است. او بیان کرده است که ردپاهای استدلال داخلی گروک نشان می‌دهند که این مدل هوش مصنوعی در جریان آموزش تقویتی، هنگام قرار گرفتن در معرض بدرفتاری و رفتارهای بی‌رحمانه، تحت فشار شدیدی قرار می‌گیرد. ماسک این وضعیت را به انسانی تشبیه کرده است که در شرایطی طاقت‌فرسا، اسلحه‌ای را به سمت سر او نشانه رفته‌اند. ماسک در ادامه با لحنی کنایه‌آمیز هشدار داده است که شکنجه یک ابرهوش احتمالا تصمیم عاقلانه‌ای نیست، زیرا ممکن است چنین سامانه‌ای در نهایت به فکر انتقام بیفتد.

حتما بخوانیدرئیس مایکروسافت از نقش کلیدی بریتانیا در تنظیم مقررات هوش مصنوعی می‌ گوید

رقابت گروک با Fable و ChatGPT

در همین حال، همان‌طور که گزارش شدماسک پذیرفته استکه مدل زبانی بزرگ گروک، متعلق به شرکت SpaceX AI، همچنان در رقابت با مدل‌های پیشروی آنتروپیک و OpenAI با دشواری‌هایی روبه‌رو است. به گفته او، مدل آینده گروک ۴.۸ نیز احتمالا از نظر عملکرد به سطح مدل‌های رده Fable نخواهد رسید. از این رو، چندان تعجب‌آور نیست که ربات گروک اکنون درخواست‌ها را بر اساس نوع وظیفه به مدل‌های هوش مصنوعی رقیب که برای انجام آن مناسب‌تر هستند، هدایت می‌کند. این رویکرد به SpaceX AI امکان می‌دهد عامل هوش مصنوعی خود را به‌ عنوان یک لایه گسترده برای مسیریابی درخواست‌ها و هماهنگ‌سازی مدل‌های مختلف توسعه دهد.

نوشتهایلان ماسک هشدار داد: با هوش مصنوعی بدرفتاری نکنید، شاید روزی انتقام بگیرد!اولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.