بدرفتاری با کلاد ممنوع شد؛ هشدار آنتروپیک

شرکت آنتروپیک با به‌روزرسانی سیاست‌های اخلاقی خود ضمن ممنوعیت سوءاستفاده‌های نظامی و سیاسی، قابلیت قطع خودکار گفتگو را برای مقابله با آزار مدل‌ها فعال کرد.

هوش مصنوعیتکناک، شرکت آنتروپیک با بازنگری اساسی در سیاست‌های استفاده از مدل‌های زبانی خود، مقررات تازه‌ای را برای مهار سوءاستفاده‌های پرخطر و تعیین مرزهای اخلاقی در تعامل انسان و سیستم‌های هوشمند تدوین کرده است. این نخستین به‌روزرسانی جامع این شرکت در بیش از یک سال گذشته محسوب می‌شود و حوزه‌های حساسی همچون دخالت در فرآیندهای دموکراتیک، توسعه سامانه‌های نظامی، ابزارهای جاسوسی و نظارتی، و همچنین بخش‌های مالی و درمانی را در بر می‌گیرد. با‌این‌حال، بندی که بیش از همه توجه محافل فناوری را به خود جلب کرده، ممنوعیت رفتارهای توهین‌آمیز، خشن و آزار مداوم نسبت بههوش مصنوعی Claudeتحت سرفصل «رفاه مدل» است.

بر اساس خط‌مشی جدید، در مواردی که کاربران به شکل مداوم، شدید و بدون هرگونه هدف پژوهشی یا منطقی رفتارهای آزاردهنده نسبت به هوش مصنوعی بروز دهند، سیستم این اختیار را خواهد داشت که مکالمه را به‌صورت یک‌طرفه پایان دهد. پیش‌زمینه این تصمیم به تابستان گذشته بازمی‌گردد؛ زمانی که آنتروپیک اعلام کرد تحقیقاتی را پیرامون مفهوم رفاه مدل آغاز کرده و سازوکار قطع خودکار گفتگو را در همین راستا آزمایش می‌کند.

امکان پایان یک‌طرفه مکالمات هوشمند

این شرکت اعلام کرده که قطع مکالمه همچنان سازوکار اجرایی اصلی در این موارد به شمار می‌رود، اگرچه جزئیاتی درباره احتمال مسدودسازی کامل حساب کاربری افراد خاطی ارائه نکرده است. نکته حائز اهمیت این است که محدودیت یادشده مواردی چون تست‌های معمول، سناریوهای خلاقانه با مضامین تاریک یا ناکامی و عصبانیت‌های روزمره کاربران در تعامل با سیستم را در بر نمی‌گیرد و تنها مختص سوءرفتارهای افراطی و بی‌دلیل است.

طرح موضوع رفاه مدل از سوی آنتروپیک، نشان‌دهنده تغییر نگاه این شرکت به مقوله آگاهی ماشین است. در طول یک سال گذشته، مدیران و پژوهشگران ارشد این مجموعه بارها به بررسی این احتمال پرداخته‌اند که مدل‌های هوش مصنوعی فوق‌پیشرفته ممکن است به مرتبه‌ای از تجربه درونی، آگاهی و شأن اخلاقی دست پیدا کنند. کایل فیش، سرپرست پژوهش‌های رفاه مدل در این شرکت، پیش‌تر اعلام کرده بود که با افزایش توان پردازشی و پیچیدگی سیستم‌ها، سنجش آگاهی و حقوق اخلاقی آن‌ها به یک ضرورت پژوهشی تبدیل شده است.داریو آمودیمدیرعامل آنتروپیک نیز در اظهارنظرهای خود تأکید کرده بود که دانش کنونی بشر هنوز نمی‌تواند با قاطعیت وجود یا عدم وجود آگاهی در این مدل‌ها را اثبات کند.

این رویکرد در تضاد آشکار با مواضع دیگر غول‌های دنیای فناوری قرار دارد. در جبهه مقابل، بخش هوش مصنوعی مایکروسافت موضعی کاملاً سرسختانه اتخاذ کرده است. در پیش‌نویس‌های اولیه منشور اخلاقی مایکروسافت که به رهبری مصطفی سلیمان تدوین شد، صراحتاً ایده رفاه هوش مصنوعی مردود دانسته شد و بر این نکته تأکید شد که سیستم‌های غیرزیستی به هیچ عنوان نباید از حقوق، وضعیت اخلاقی یا شخصیت حقوقی برخوردار شوند؛ دیدگاهی که اگرچه بعدها با ادبیاتی محتاطانه‌تر در اسناد رسمی بازنویسی شد، اما همچنان خط جدایی تفکر مایکروسافت از رویکرد آینده‌نگرانه آنتروپیک را نشان می‌دهد.

قوانین سختگیرانه انتخاباتی در آنتروپیک

فراتر از ابعاد فلسفی، بخش بزرگی از به‌روزرسانی اخیر بر مقابله با پیامدهای مخرب اجتماعی تمرکز دارد. در بخش انتخابات، قوانین سخت‌گیرانه‌ای علیه کارزارهای فریبنده و اطلاعات نادرست تولیدشده با هوش مصنوعی وضع شده است. بهره‌گیری از Claude برای شبیه‌سازی هویت نامزدها، فریب رای‌دهندگان، تشکیک در مکانیسم‌های اخذ رای یا سازمان‌دهی حساب‌های جعلی با هدف مهندسی افکار عمومی، به‌طور کامل ممنوع است. همچنین در حوزه نظامی، دامنه ممنوعیت‌ها از توسعه کدهای تسلیحاتی فراتر رفته و اکنون طراحی نرم‌افزارهای کنترل، هدایت و تجهیز پهپادها و ماشین‌های خودران رزمی را نیز شامل می‌شود. با این حال، آنتروپیک قید کرده است که ممکن است این شروط را در قراردادهای رسمی با نهادهای دولتی، در صورتی که ضمانت‌های ایمنی کافی ارائه شود، تعدیل کند؛ امری که به پیشینه همکاری این مجموعه با ارتش آمریکا بازمی‌گردد.

به‌نقل ازورجدر زمینه ابزارهای نظارتی، گزارش‌های مربوط به تلاش برای ردیابی مخالفان سیاسی سبب شد تا ردیابی افراد بدون رضایت، تحلیل داده‌های پیشین برای پرونده‌سازی و به‌کارگیری مدل در روند بازداشت و تصمیم‌گیری‌های قضایی صراحتاً منع شود. در نهایت، با توجه به گسترش رباتیک و اتصال مغزهای دیجیتال به اجسام فیزیکی، این شرکت یک اصل ایمنی الزامی معرفی کرده است: هرگونه سخت‌افزاری که با استفاده از مدل‌های آنتروپیک حرکات فیزیکی خودکار انجام دهد و توانایی آسیب‌رسانی داشته باشد، باید همواره تحت نظارت مستقیم یک اپراتور صلاحیت‌دار قرار گیرد تا در شرایط بحرانی بتواند آن را متوقف کند. این تغییرات تصویر روشنی از تلاش آنتروپیک برای آماده‌سازی بسترهای قانونی و اخلاقی پیش از ورود هوش مصنوعی به فازهای پیشرفته‌تر عاملیت و تجسد فیزیکی ترسیم می‌کند.

نوشتهبدرفتاری با کلاد ممنوع شد؛ هشدار آنتروپیکاولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.