آنتروپیک کاربران Claude را به دلیل آزار مکرر این هوش مصنوعی محدود می‌کند

آنتروپیک در نسخه بازنگری‌شده سیاست استفاده از محصولات خود که از ۱۲ نوامبر ۲۰۲۶ اجرایی خواهد شد، آزار مکرر مدل‌های Claude بدون هدفی معنادار را ممنوع می‌کند. این محدودیت بُعد تازه‌ای به قوانین ایمنی هوش مصنوعی می‌افزاید و بدرفتاری با چت‌بات‌ها را در کنار ممنوعیت آزار دیگران و سایر رفتارهای آسیب‌زا قرار می‌دهد.

این شرکت مستقر در سان‌فرانسیسکو تأکید دارد که تغییرات جدید موارد افراطی را هدف گرفته‌اند، نه نارضایتی معمول کاربران از پاسخ‌های چت‌بات. کاربران همچنان می‌توانند پاسخ‌های Claude را به چالش بکشند، محدودیت‌های آن را آزمایش کنند و در آثار خلاقانه خود به موضوعات تاریک بپردازند.

سیاست به‌روزشده آنتروپیک، رفتارهای توهین‌آمیز یا بی‌رحمانه مداوم و غیرضروری با مدل‌های این شرکت را ممنوع می‌کند. آنتروپیک قصد دارد این قانون را تنها در مواردی اجرا کند که کاربران به‌طور مکرر و بدون هدف مشخص، رفتارهای بی‌رحمانه‌ای از خود نشان می‌دهند.

آنتروپیک پیش‌تر در اوت ۲۰۲۵ موضوع رفاه مدل‌های هوش مصنوعی را بررسی کرده بود. پژوهشگران این شرکت در آن مطالعه به این موضوع پرداختند که آیا Claude باید مکالمه با کاربرانی را که به‌طور مداوم رفتارهای توهین‌آمیز یا آسیب‌زا دارند، پایان دهد یا خیر.

بر اساس سیاست جدید، قطع مکالمه همچنان اصلی‌ترین ابزار آنتروپیک برای مقابله با این رفتارها خواهد بود. بااین‌حال، این شرکت هنوز مشخص نکرده که تکرار تخلف ممکن است پیامدهای دیگری مانند تعلیق حساب کاربری را نیز به دنبال داشته باشد یا خیر.

بخش گسترده‌تر این سیاست، رفتارهایی را نیز ممنوع می‌کند که به سلامت روان افراد آسیب می‌رسانند. ترویج خودکشی و خودآزاری، تشویق اختلالات خوردن، تمسخر ظاهر افراد، انتشار تصاویر خصوصی و صمیمی بدون رضایت، آزار و اذیت و حیوان‌آزاری از جمله موارد مشمول این محدودیت‌ها هستند.

یکی دیگر از بندهای این سیاست، محصولات و خدماتی را هدف قرار می‌دهد که با استفاده از روش‌های فریبکارانه برای آسیب‌رسانی عاطفی به افراد طراحی شده‌اند. این محدودیت دامنه مقررات را از مکالمات فردی فراتر می‌برد و خدماتی را نیز در بر می‌گیرد که بر پایه تعاملات آسیب‌زا فعالیت می‌کنند.

قوانین جدید برای مقابله با سوءاستفاده

آنتروپیک همچنین محدودیت‌های مربوط به کارزارهای تجاری و سیاسی فریبکارانه را یکپارچه کرده است. طبق مقررات بازنگری‌شده، استفاده از حساب‌های کاربری یا پست‌های جعلی برای پنهان کردن هویت حامی یک پیام یا افزایش مصنوعی میزان انتشار آن ممنوع خواهد بود.

محدودیت‌های انتخاباتی نیز فریب رأی‌دهندگان، جعل هویت نامزدها و تلاش برای کاهش مشارکت مردم در انتخابات را شامل می‌شوند. انتشار اطلاعات نادرست درباره نامزدها و شیوه‌های رأی‌گیری نیز در فهرست رفتارهای ممنوع قرار گرفته است.

مقررات مربوط به سلاح‌ها اکنون به‌صراحت نرم‌افزارها و قطعاتی را نیز در بر می‌گیرد که امکان عملکرد سلاح‌ها را فراهم می‌کنند. این سیاست اقداماتی مانند مسلح کردن پهپادها و سایر وسایل نقلیه خودمختار را هم پوشش می‌دهد.

آنتروپیک در پی نگرانی‌ها درباره ردیابی افراد با کمک هوش مصنوعی، محدودیت‌های نظارتی خود را شفاف‌تر کرده است. کاربران اجازه ندارند از Claude برای ردیابی افراد بدون رضایت آن‌ها استفاده کنند؛ حتی اگر این کار با تکیه بر داده‌هایی انجام شود که پیش‌تر جمع‌آوری شده‌اند.

این سیاست همچنین استفاده از Claude برای توصیه درباره افرادی را ممنوع می‌کند که مقامات باید آن‌ها را تحت تحقیق قرار دهند، بازداشت کنند یا علیه آن‌ها اتهام مطرح کنند. ساخت ابزارهای نظارتی یا ارتقای قابلیت‌های آن‌ها نیز مشمول همین محدودیت‌ها خواهد بود.

بند جداگانه‌ای به مدل‌های هوش مصنوعی متصل به تجهیزات فیزیکی خطرناک و آسیب‌زا اختصاص دارد. آنتروپیک الزام کرده است که یک اپراتور واجد صلاحیت بر چنین تجهیزاتی نظارت داشته باشد و در صورت لزوم، فعالیت آن‌ها را متوقف کند.

بااین‌حال، متن سیاست به‌صراحت مشخص نمی‌کند که این اپراتور الزاماً باید انسان باشد. با وجود این ابهام، الزام نظارت مستقیم بر سامانه‌های هوش مصنوعی کنترل‌کننده ماشین‌آلات بالقوه خطرناک، یک اقدام مشخص برای افزایش ایمنی به شمار می‌رود.

آنتروپیک برای برخی قراردادهای دولتی استثناهایی در نظر گرفته؛ البته به شرط آنکه محدودیت‌های قراردادی و تدابیر حفاظتی، خطر آسیب‌های احتمالی را به‌اندازه کافی کاهش دهند. این شرکت پیش‌تر نیز با ارتش ایالات متحده همکاری داشته است.

سیاست به‌روزشده همچنین بازتاب‌دهنده بحث‌های مداوم درباره احتمال برخورداری هوش مصنوعی از آگاهی است. پژوهشگران آنتروپیک بررسی کرده‌اند که آیا مدل‌های پیشرفته‌تر ممکن است تجربه‌های درونی‌ای داشته باشند که از نظر اخلاقی اهمیت پیدا کنند.

داریو آمودی، مدیرعامل آنتروپیک، در فوریه ۲۰۲۶ و طی یک پادکست به این موضوع و عدم قطعیت موجود درباره آن اشاره کرد و گفت

ما نمی‌دانیم که مدل‌ها آگاه هستند یا خیر.

در مقابل، مایکروسافت ای‌آی موضعی تردیدآمیزتر درباره رفاه مدل‌های هوش مصنوعی اتخاذ کرده. آیین‌نامه رفتاری این شرکت، شخصیت حقوقی و حقوق مستقل برای مدل‌های هوش مصنوعی را رد می‌کند؛ هرچند مایکروسافت همچنان می‌پذیرد که موضوع آگاهی هوش مصنوعی از نظر علمی به نتیجه قطعی نرسیده است.

با فرارسیدن مهلت ۱۲ نوامبر ۲۰۲۶، محدودیت‌های بازنگری‌شده آنتروپیک اجرایی خواهند شد. این سیاست میان نارضایتی معمول کاربران از چت‌بات‌ها و رفتارهای بی‌رحمانه و تکرارشونده تمایز قائل می‌شود و هم‌زمان، تدابیر حفاظتی را به طیف گسترده‌تری از سامانه‌های دیجیتال و ماشین‌آلات فیزیکی گسترش می‌دهد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.