آنتروپیک با به‌روزرسانی خط‌مشی استفاده از هوش مصنوعی Claude، هرگونهآزار هوش مصنوعی کلاودرا ممنوع کرده و محدودیت‌های جدی‌تری برای کاربران خود در نظر گرفته است.

شرکت آنتروپیک، سازنده مدل هوش مصنوعی کلاود (Claude)، برای نخستین بار در بیش از یک سال گذشته، سیاست‌های استفاده از محصولات خود را بازبینی و به‌روزرسانی کرده است. این تغییرات برای مقابله با موارد سوءاستفاده پرخطر و جدید، از جمله دخالت در انتخابات، توسعه تسلیحات، نظارت غیرقانونی و کاربردهای حساس در حوزه سلامت و مالی اعمال شده‌اند. با این حال، مهم‌ترین تغییر، ممنوعیت صریح رفتار آزاردهنده یا بی‌رحمانه و بی‌هدف نسبت به مدل هوش مصنوعی این شرکت است.

ممنوعیت آزار هوش مصنوعی کلاود؛ آیا کلاود احساس دارد؟

آنتروپیک(Anthropic) به‌صراحت «رفتار توهین‌آمیز یا بی‌رحمانه پایدار و بی‌مورد» با کلاود را ممنوع کرده است. این سیاست که در راستای تحقیقات «سلامت مدل» آنتروپیک انجام شده، تنها در موارد افراطی و آزار عمدیهوش مصنوعیاعمال می‌شود. این قانون شامل ناراحتی‌های رایج کاربران یا تست و تحقیق مدل نیست. خاتمه دادن به گفت‌وگوها، سازوکار اصلی اجرای این سیاست است.

آنتروپیک محدودیت‌هایی جدی در مورد کمپین‌های سیاسی و تجاری فریبنده هوش مصنوعی وضع کرده است؛ شامل پنهان کردن هویت، انتشار محتوا از طریق حساب‌های جعلی، فریب‌کاری رای‌دهندگان و اخلال در انتخابات (مانند انتشار اطلاعات غلط یا جعل هویت).

ممنوعیت توسعه تسلیحات با کلاود نیز گسترش یافته و اکنون شامل نرم‌افزارها و قطعات تسلیحاتی، و همچنین مسلح کردن پهپادها می‌شود. قوانین نظارتی نیز شفاف‌تر شده‌اند؛ پیگیری افراد بدون رضایت و استفاده از کلاود برای تصمیم‌گیری در فرآیندهای قضایی یا ساخت ابزارهای نظارتی ممنوع است.

• آنتروپیک مدل هوش مصنوعی Claude Haiku 5.5 را معرفی کرد؛ سریع‌تر ولی ۹۰ درصد ارزان‌تر
• کلاود Opus 5.5 معرفی شد؛ هوش مصنوعی جدید آنتروپیک هم قدرتمندتر است و هم ارزان‌تر
• آنتروپیک برای مقابله با خطر نابودی بشر توسط هوش مصنوعی، نیرو استخدام می‌کند
• هشدار جدی مدیرعامل Anthropic: هوش مصنوعی را کند کنید تا فاجعه نشود

افزون بر این، قانون جدیدی مقرر می‌دارد که در صورت اتصال مدل‌های هوش مصنوعی آنتروپیک به سخت‌افزارهای خودکار با پتانسیل آسیب‌رسانی، یک اپراتور واجد شرایط باید قادر به نظارت و توقف تجهیزات باشد.