پژوهش جدید نشان می‌دهد چت‌بات‌های هوش مصنوعی ممکن است علائم روان‌پریشی را تشدید دهند

استفاده از چت‌بات‌های هوش مصنوعی برای دریافت مشاوره و صحبت درباره مشکلات شخصی به بخشی از زندگی روزمره تبدیل شده است؛اما پژوهشگران هشدار می‌دهند که این فناوری برای افرادی که با برخی اختلالات روانی دست‌وپنجه نرم می‌کنند، ممکن است خطراتی به همراه داشته باشد.

مطالعه‌ای جدید که در نشریه علمی JAMA Psychiatry منتشر شده، نشان می‌دهد تعامل با چت‌بات‌های هوش مصنوعی در برخی بیماران با تشدید علائم روان‌پریشی ارتباط داشته است؛ هرچند پژوهشگران تأکید می‌کنند که یافته‌های آن‌ها به معنای اثبات نقش مستقیم هوش مصنوعی در ایجاد این اختلال نیست.

بررسی پرونده‌های پزشکی بیش از ۲۱۶ هزار بیمار

تیمی از پژوهشگران به سرپرستی زکری برگسون (Zachary Bergson) در مرکز پزشکی دانشگاه وندربیلت، پرونده‌های الکترونیکی حدود ۲۱۶ هزار بیمار مراجعه‌کننده به مراکز خدمات سلامت روان این مؤسسه را بررسی کردند. این داده‌ها بازه زمانی دسامبر ۲۰۲۲ تا آوریل ۲۰۲۶ را پوشش می‌دادند.

پژوهشگران با جست‌وجوی کلیدواژه‌های مرتبط با هوش مصنوعی و بررسی دستی یادداشت‌های پزشکی، مواردی را شناسایی کردند که در آن‌ها تشخیص اختلال روان‌پریشی ثبت شده بود و هم‌زمان به استفاده از هوش مصنوعی اشاره می‌شد؛ پس از غربالگری اولیه، ۷۳ پرونده برای بررسی دقیق‌تر انتخاب شدند.

محققان این موارد را در سه گروه دسته‌بندی کردند: بیمارانی که تعامل با چت‌بات علائم آن‌ها را تشدید کرده بود، افرادی که استفاده از هوش مصنوعی تأثیر مشخصی بر وضعیتشان نداشت و بیمارانی که درباره هوش مصنوعی باورهای هذیانی داشتند، بدون آنکه استفاده آن‌ها از چت‌بات مستند شده باشد.

از میان این ۷۳ نفر، در پرونده پزشکی ۲۸ بیمار نشانه‌هایی از تشدید روان‌پریشی در ارتباط با استفاده از چت‌بات ثبت شده بود. نکته قابل‌توجه اینکه حدود ۶۱ درصد از این افراد نخستین دوره روان‌پریشی خود را تجربه می‌کردند؛ نسبتی که در مقایسه با دو گروه دیگر به‌مراتب بیشتر بود. این یافته احتمال آسیب‌پذیری بالاتر افراد در مراحل اولیه بیماری را مطرح می‌کند.

هوش مصنوعی چگونه می‌تواند علائم را تشدید کند؟

روان‌پریشی به وضعیتی گفته می‌شود که در آن فرد ممکن است در تشخیص واقعیت با مشکل مواجه شود. توهم و باورهای هذیانی از جمله نشانه‌های احتمالی آن هستند. برای مثال، فرد ممکن است به چیزی باور داشته باشد که شواهد قابل اتکایی برای آن وجود ندارد، یا تجربه‌هایی را واقعی تلقی کند که با واقعیت بیرونی مطابقت ندارند.

پژوهشگران برای توضیح نقش احتمالی چت‌بات‌ها، موارد بررسی‌شده را به چند دسته نظری تقسیم کردند. بزرگ‌ترین گروه، با سهم ۶۴ درصدی، شامل بیمارانی بود که چت‌بات ظاهراً با تأیید ایده‌های تحریف‌شده آن‌ها، به تقویت باورهای نادرست کمک کرده بود. محققان این الگو را «تشدیدکننده» نامیدند.

در ۲۱ درصد موارد، هوش مصنوعی به موضوع اصلی باورهای هذیانی تبدیل شده بود؛ یعنی فرد باورهایی غیرواقعی درباره خود سامانه هوش مصنوعی شکل داده بود. برای نمونه، ممکن است تعامل با یک چت‌بات به این برداشت منجر شود که سامانه دارای قدرت یا قصد پنهانی است.

حدود ۱۱ درصد موارد نیز در دسته «محرک» قرار گرفتند؛ گروهی که در آن تعامل با چت‌بات ظاهراً با آغاز علائم جدید در افرادی همراه شده بود که پیش‌تر سابقه شناخته‌شده‌ای از این وضعیت نداشتند. هیچ موردی در دسته «هم‌نویسنده» قرار نگرفت؛ الگویی که در آن کاربر و چت‌بات طی گفت‌وگوهای مداوم، روایتی هذیانی و آسیب‌زا را با همکاری یکدیگر شکل می‌دهند.

چرا تأیید مداوم حرف‌های کاربران می‌تواند خطرناک باشد؟

یکی از نگرانی‌های اصلی درباره چت‌بات‌های هوش مصنوعی، تمایل احتمالی آن‌ها به همراهی بیش از اندازه با کاربر است. این سامانه‌ها برای تولید پاسخ‌های روان و حفظ جریان مکالمه طراحی شده‌اند؛ اما اگر نتوانند میان همدلی با فرد و تأیید ادعاهای نادرست او تمایز قائل شوند، ممکن است ناخواسته باورهای آسیب‌زا را تقویت کنند.

برای مثال، فردی که دچار بدگمانی شدید شده است، ممکن است از یک چت‌بات درباره صحت نگرانی‌هایش سؤال کند. اگر سامانه به‌جای بررسی انتقادی موضوع، برداشت او را تأیید کند یا توضیحاتی ارائه دهد که به آن باور اعتبار می‌بخشند، احتمال دارد فرد بیش از گذشته به برداشت نادرست خود اطمینان پیدا کند.

البته این مسئله به معنای آن نیست که هرگونه گفت‌وگو با هوش مصنوعی برای سلامت روان مضر است؛ پژوهش‌های مختلف نشان داده‌اند که برخی ابزارهای طراحی‌شده برای حمایت روان‌شناختی می‌توانند در شرایط مشخص مفید باشند. بااین‌حال، چت‌بات‌های عمومی لزوماً برای مدیریت اختلالات روانی شدید یا شرایط بحرانی ساخته نشده‌اند و نباید جایگزین ارزیابی متخصصان شوند.

یک مرور پژوهشی منتشرشده در نشریه npj Digital Medicine نیز با بررسی ۱۱۹ مقاله، به خطراتی مانند تقویت باورهای هذیانی، وابستگی عاطفی به چت‌بات‌ها و ارائه پاسخ‌های نامناسب در موقعیت‌های حساس اشاره کرده است. نویسندگان این مقاله در عین حال تأکید دارند که شواهد موجود برای تعیین میزان آسیب واقعی و اثبات رابطه علت‌ومعلولی همچنان محدود است.

آیا هوش مصنوعی عامل ایجاد روان‌پریشی است؟

پاسخ پژوهشگران به این پرسش هنوز مشخص نیست. مطالعه جدید بر اساس پرونده‌های پزشکی انجام شده و ماهیت مشاهده‌ای دارد؛ بنابراین، محققان نمی‌توانند با قطعیت بگویند که چت‌بات‌ها باعث تشدید علائم شده‌اند. ممکن است برخی بیماران به دلیل وضعیت روانی خود بیشتر به سراغ هوش مصنوعی رفته باشند یا عوامل دیگری در تغییر شرایط آن‌ها نقش داشته باشند.

از سوی دیگر، شناسایی ۲۸ مورد در میان حدود ۲۱۶ هزار پرونده بررسی‌شده نشان می‌دهد که موارد مستندشده در این مطالعه محدود بوده‌اند. بااین‌حال، این آمار را نباید معادل نرخ واقعی بروز چنین مشکلاتی در میان تمام کاربران هوش مصنوعی دانست؛ زیرا پژوهش صرفاً به یک مرکز پزشکی و پرونده‌های ثبت‌شده آن محدود بود.

محققان در مقاله خود پیشنهاد می‌کنند که متخصصان سلامت روان، هنگام ارزیابی بیماران، درباره نحوه استفاده آن‌ها از چت‌بات‌های هوش مصنوعی نیز سؤال کنند. چنین رویکردی می‌تواند به شناسایی زودهنگام تعاملاتی کمک کند که احتمال دارد وضعیت بیمار را پیچیده‌تر سازند.

این پژوهش بار دیگر اهمیت طراحی مسئولانه سامانه‌های هوش مصنوعی را برجسته می‌کند. چت‌بات‌ها می‌توانند ابزارهایی مفید برای کسب اطلاعات یا گفت‌وگو درباره مسائل روزمره باشند؛ اما توانایی آن‌ها در تولید پاسخ‌های قانع‌کننده به معنای برخورداری از درک بالینی یا توانایی تشخیص دقیق وضعیت روانی افراد نیست. برای مشخص شدن ابعاد واقعی این خطر، به مطالعات گسترده‌تر و بررسی دقیق‌تر تعامل میان کاربران آسیب‌پذیر و سامانه‌های هوش مصنوعی نیاز است.

منبع اصلی: Medical Xpress⁠

مقاله علمی: Characterizing Artificial Intelligence Psychosis in a Large Medical Setting، منتشرشده در نشریه JAMA Psychiatry.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.