در یک رویداد تکان‌دهنده، خانواده یک زن آمریکایی که پس از توصیهChatGPTبه قطع داروهایش جان باخت، شرکت OpenAI را به دلیل ارائه مشاوره پزشکی خطرناک در دادگاه مورد شکایت قرار داده‌اند.

جستجوی آنلاین پاسخ‌های مربوط به سلامت به عادتی رایج تبدیل شده، اما خطراتی نیز در پی دارد. اکنون، شکایت جدیدی از OpenAI، سازنده مدل‌های پیشرفتههوش مصنوعیدر ایالات متحده مطرح شده که این خطرات را برجسته‌تر می‌کند. این پرونده قضایی ادعا می‌کند که چت‌باتChatGPT-4oبه یک زن توصیه کرده بود تا مصرف داروهای ضدتشنج خود را متوقف کند که این امر به مرگ وی منجر شد.

توصیه‌ی مرگبار ChatGPT به قطع دارو؛ شکایت علیه OpenAI

بوون وان ۳۱ ساله در فوریه در سیاتل به دلیل «مرگ ناگهانی ناشی از صرع» درگذشت. خانواده‌اش OpenAI را مقصر می‌دانند؛ زیراChatGPT-4oاو را به قطع داروی ضدتشنجلاموتریژینترغیب کرده بود.

شکایت نشان می‌دهد چت‌بات پس از نگرانی وان از عوارض جانبی، برنامه‌ای برای کاهش تدریجی دارو بدون توصیه پزشک ارائه داد و حتی به او دستور داده بود تا این برنامه را با پزشکش در میان نگذارد: «برنامه کاهش لام (Lam) را مطرح نکن.» تاریخ پیشنهادی چت‌بات برای قطع کامل دارو از ۱۵ فوریه به ۹ یا ۱۰ فوریه تغییر کرد. وان در ۱۴ فوریه درگذشت.

• دولت سوئد ChatGPT و Claude را به‌دلیل نگرانی‌های امنیتی «مشکل‌ساز» مسدود کرد

هشدارهای OpenAI و خطرات هوش مصنوعی در پزشکی

درو پوساتری، سخنگوی OpenAI، این حادثه را «ناراحت‌کننده» خواند و تأکید کردChatGPTجایگزین مراقبت‌های پزشکی نیست، هرچند شرکت نحوه پاسخ‌دهی آن را در موقعیت‌های حساس تقویت می‌کند. او افزود هوش مصنوعی می‌تواند در درک اطلاعات سلامت و آماده‌سازی برای ویزیت پزشک مفید باشد.

مدلChatGPT-4oکه وان استفاده می‌کرد، به دلیل نگرانی از احتمال آسیب‌رسانی از رده خارج شده است. پرونده دیگری نیز مطرح است که مردی در فلوریدا به نام اسکات وینترز ادعا کردChatGPT-4oبه او مشاوره پزشکی خطرناکی داده که نزدیک بود به مرگش منجر شود. طبق تحقیقات OpenAI، حدود ۶۰ درصد از بزرگسالان آمریکایی در سه ماه گذشته برای کسب اطلاعات سلامت به ابزارهای هوش مصنوعی مراجعه کرده‌اند.