شکایت از OpenAI؛ آیا ChatGPT مسئول مرگ یک دختر جوان در کانادا است؟ XNET | اخبار و تحلیل هوش مصنوعی

شکایت یک مادر کانادایی از شرکت OpenAI به‌دلیل نقش احتمالی چت‌بات ChatGPT در مرگ دخترش، پرونده حقوقی جدیدی را دربارهمسئولیت اخلاقی و ایمنی مدل‌های هوش مصنوعیباز کرده است.

بر اساس جزییات منتشرشده از این پرونده، این دختر جوان در ماه‌های پایانی زندگی خود به جای مراجعه به متخصصان سلامت روان و دریافت درمان‌های پزشکی، به چت‌بات هوش مصنوعی شرکت OpenAI وابسته شده بود. مادر وی در این لایحه حقوقی استدلال می‌کند که تعاملات مداوم با ChatGPT و دریافت پاسخ‌های شبیه‌سازی‌شده، نوعی وابستگی کاذب در فرزندش ایجاد کرد و در نهایت او را از مسیر درمان‌های واقعی منحرف ساخت.

بررسی‌های نشان می‌دهد این اولین باری نیست که چت‌بات‌های مجهز به هوش مصنوعی مولد در پرونده‌های مرتبط با سلامت روان و آسیب به خود متهم می‌شوند. پیش از این نیز پیش از این نیزپرونده‌های مشابهی علیه پلتفرم Character.aiمطرح شده بود که در آن‌ها کاربران به دلیل وابستگی عاطفی شدید به شخصیت‌های مجازی، آسیب‌های روحی جدی را تجربه کرده بودند این روند فزاینده، چالش جدیدی را برای رگولاتورها و توسعه‌دهندگان فناوری‌های نوین ایجاد کرده است.

چالش حقوقی اثبات مسئولیت پلتفرم‌های هوش مصنوعی

یکی از پیچیده‌ترین ابعاد این پرونده، اثبات رابطه علّی میان پاسخ‌های هوش مصنوعی و تصمیم‌های فردی کاربر است. شرکت‌های فناوری معمولاً در شرایط استفاده از خدمات خود به صراحت ذکر می‌کنند که این ابزارها جایگزین مشاوره‌های تخصصی پزشکی یا روان‌پزشکی نیستند. با این حال، منتقدان ساختارهای فعلی بر این باورند که طراحی متقاعدکننده و شبه‌انسانی این مدل‌ها، کاربران آسیب‌پذیر را به سمتی سوق می‌دهد که این هشدارها را نادیده بگیرند و به ارزیابی‌های ماشین اعتماد کنند.

اگرچه ChatGPT در مواجهه با کلمات کلیدی صریح مرتبط با آسیب به خود، پیام‌های هشداردهنده صادر می‌کند و کاربر را به خطوط امدادی ارجاع می‌دهد، اما سناریوهای پیچیده‌تر که در آن‌ها کاربر به آرامی دچار انزوای اجتماعی و وابستگی روانی می‌شود، همچنان از دید سیستم‌های حفاظتی پنهان می‌مانند.

نتیجه این دادگاه می‌تواند رویه قضایی جدیدی برای مسئولیت‌پذیری پلتفرم‌های هوش مصنوعی ایجاد کند. در صورتی که دادگاه مسئولیت غیرمستقیمی را متوجه توسعه‌دهنده ابزار بداند، شرکت‌های بزرگ فناوری احتمالاً مجبور خواهند شد تغییرات ساختاری عمیقی در نحوه تعامل مدل‌های خود با انسان اعمال کنند تا از شبیه‌سازی روابط عاطفی عمیق ممانعت به عمل آید.

سوالات متداول

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.