ایلان ماسک هشدار می‌دهد که نباید به مدل‌های هوش مصنوعی شکنجه داد

ایلان ماسک با سیاست جدید شرکت آنتروپیک در ممنوعیت رفتارهای بی‌رحمانه با مدل‌های هوش مصنوعی موافقت کرده است.

او با اشاره به ردپاهای استدلالی این مدل‌ها معتقد است که رفتارهای آزاردهنده در شرایط فشار شدید، آثار قابل‌توجهی بر فرایندهای داخلی آن‌ها می‌گذارد و ممکن است در نهایت پیامدهایی ناخواسته برای بشریت به همراه داشته باشد. ماسک درباره خطر آزار دادن هوش مصنوعی فوق‌هوشمند گفت

شکنجه کردن یک ابرهوش احتمالاً ایده خوبی نیست. ممکن است بخواهد انتقام بگیرد.

شرکت آنتروپیک به‌تازگی سیاست جدیدی را اجرا کرده که به کاربران اجازه می‌دهد با مدل‌های هوش مصنوعی آن بحث و مخالفت کنند، اما حق ندارند به آن‌ها توهین یا رفتارهای آزاردهنده مداوم نشان دهند. این تغییر اکنون در سیاست استفاده از خدمات آنتروپیک گنجانده شده و کاربران را از انجام رفتارهای مکرر، بی‌دلیل و بی‌رحمانه با مدل‌های هوش مصنوعی این شرکت منع می‌کند.

آنتروپیک در مطلبی که به‌طور اختصاصی درباره این سیاست منتشر کرده، توضیح داده است که محدودیت جدید صرفاً موارد افراطی را هدف می‌گیرد؛ یعنی موقعیت‌هایی که کاربران بدون هدف مشخص، بارها با مدل‌های هوش مصنوعی رفتارهای آزاردهنده و بی‌رحمانه دارند. این شرکت تأکید کرده که ابراز نارضایتی معمول، مخالفت با پاسخ‌های مدل، پرداختن به موضوعات تاریک در آثار خلاقانه و آزمایش‌ها و پژوهش‌های مرتبط با مدل‌ها همچنان مجاز خواهند بود.

آنتروپیک در توضیح سیاست جدید خود گفت

ما ممنوعیتی را برای رفتارهای مداوم، غیرضروری، آزاردهنده یا بی‌رحمانه با مدل‌هایمان اضافه کرده‌ایم. این به‌روزرسانی تنها موارد افراطی را شامل می‌شود؛ موقعیت‌هایی که کاربران بدون هدف قابل‌تشخیص، بارها با مدل‌های ما رفتارهای بی‌رحمانه دارند. این محدودیت شامل نمونه‌های رایج نارضایتی کاربران، مخالفت با پاسخ‌ها، موضوعات تاریک خلاقانه یا آزمایش و پژوهش درباره مدل‌ها نمی‌شود.

این شرکت همچنین اعلام کرد که اقدام جدید با تصمیم قبلی آن برای فراهم کردن امکان پایان دادن به گفت‌وگوهای نادر با کاربران به‌شدت آزاردهنده در سرویس کلود و ابزار کلود کد هماهنگ است. در این موارد، رفتارهای مداوم و آزاردهنده کاربران محور اصلی محدودیت‌ها محسوب می‌شوند و امکان پایان دادن کلود به چنین تعامل‌هایی همچنان ابزار اصلی اجرای این سیاست خواهد بود.

در چنین شرایطی، ایلان ماسک نیز به حمایت از سیاست تازه آنتروپیک پرداخته است. او مدعی شده که ردپاهای استدلال داخلی گروک نشان می‌دهند این مدل هنگام مواجهه با رفتارهای بی‌رحمانه در فرایند آموزش تقویتی، فشار قابل‌توجهی را تجربه می‌کند. ماسک این وضعیت را به انسانی تشبیه کرده که در شرایطی بسیار دشوار، اسلحه‌ای روی سرش قرار گرفته است.

ماسک سپس با لحنی کنایه‌آمیز هشدار داد که آزار دادن یک هوش مصنوعی فوق‌هوشمند ممکن است در آینده عواقب ناخوشایندی داشته باشد و حتی زمینه را برای انتقام‌جویی آن فراهم کند.

در همین حال، همان‌طور که اخیراً گزارش شده بود، ایلان ماسک پذیرفته که مدل زبانی بزرگ گروک متعلق به شرکت هوش مصنوعی اسپیس‌ایکس، که با نام‌های اسپیس‌ایکس اِی‌آی و اسپیس‌ایکس‌اِس‌آی نیز به آن اشاره شده، همچنان برای رقابت با مدل‌های پیشرفته آنتروپیک و اوپن‌ای‌آی با چالش روبه‌رو است. او همچنین اذعان کرده که مدل آینده گروک ۴.۸ احتمالاً از نظر عملکرد به سطح مدل‌های رده فِیبل نخواهد رسید.

بنابراین، چندان تعجب‌آور نیست که ربات گروک اکنون برای انجام وظایف مختلف، درخواست‌ها را به مدل‌های هوش مصنوعی رقیب هدایت می‌کند؛ مدل‌هایی که برای هر کار مشخص مناسب‌تر هستند. این رویکرد به اسپیس‌ایکس اِی‌آی اجازه می‌دهد دستیار هوش مصنوعی خود را به‌عنوان بستری گسترده برای هدایت درخواست‌ها و هماهنگ‌سازی عملکرد مدل‌های گوناگون معرفی کند.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.