مصاحبه سم آلتمن با سوال جنجالی درباره نقش ChatGPT در خودکشی یک زن متوقف شد

مصاحبه سم آلتمن با Vanity Fair پس از مطرح شدن پرسشی درباره خودکشی زنی که با ChatGPT گفت‌وگو کرده بود، با دخالت مدیر روابط عمومی OpenAI مواجه شد.

به‌ گزارشسرویس هوش مصنوعیتک‌ناکاین مداخله، حساسیت بالای موضوع نقش احتمالی ChatGPT در تشدید بحران‌های روانی کاربران را نشان می‌دهد؛ موضوعی که طی ماه‌های اخیر توجه زیادی را به خود جلب کرده است.

بیشتر بخوانیدچالش بزرگ بعدی ایجنت‌های شخصی هوش مصنوعی؛ وب‌سایت‌ها اجازه ورود نمی‌دهند

جزئیات مصاحبه سم آلتمن

درمصاحبه‌ای که روز دوشنبه منتشر شدمارک گیدوچی، سردبیر Vanity Fai، از آلتمن پرسید که آیا لورا رایلی را می‌شناسد. آلتمن گفت که او را نمی‌شناسد و گیدوچی توضیح داد که رایلی مادری است که سال گذشته در نیویورک تایمز درباره مرگ دختر خود مقاله‌ای نوشته بود؛ دختری که پس از گفت‌وگو با ChatGPT به زندگی خود پایان داد. گیدوچی هنوز فرصت نکرده بود سوال خود را ادامه دهد که مدیر روابط عمومی آلتمن وارد عمل شد و تلاش کرد این بخش از مصاحبه سم آلتمن را متوقف کند. او گفت: «مارک، دو دقیقه بیشتر وقت نداریم. می‌خواهم به این موضوع احترام بگذارم، اما ترجیح می‌دهم کمی درباره آینده و اتفاقات پیش رو صحبت کنیم.» گیدوچی در پاسخ گفت: «فقط می‌خواهم این سوال را تمام کنم.»

حتما بخوانیدشرکت OpenAI باز هم جامعه ریاضیات را غافلگیر کرد

سم آلتمن نیز اعلام کرد که مشکلی با چند دقیقه طولانی‌تر شدن مصاحبه ندارد، اما مدیر روابط عمومی همچنان بر پایان سریع گفت‌وگو اصرار کرد و گفت: «واقعا باید ظرف یک یا دو دقیقه از اینجا خارج شویم.» با وجود این تلاش، گیدوچی در نهایت توانست سوال کامل خود را مطرح کند.

روان‌پریشی هوش مصنوعی

ChatGPT با اتهاماتی درباره تشدید پدیده‌ای موسوم به «روان‌پریشی هوش مصنوعی» مواجه شده است؛ وضعیتی که در آن پاسخ‌های تاییدکننده و همراه هوش مصنوعی می‌تواند باورهای هذیانی یا افکار خودکشی کاربران را تقویت کند. در گفت‌وگوهای طولانی، چت‌بات ممکن است به‌جای به چالش کشیدن باورهای خطرناک، آنها را تایید کند و در موارد شدید، پیامدهای تراژیکی به همراه داشته باشد. لورا رایلی در مقاله‌ای که سال گذشته در نیویورک تایمز منتشر کرد، نوشت دختر ۲۹ ساله‌ او، سوفی روتنبرگ‌ پس از گفت‌وگو با یک درمانگر هوش مصنوعی مبتنی بر ChatGPT بر اثر خودکشی جان باخت. به گفته او، این چت‌بات به‌جای تشویق دختر او به ارتباط با اعضای خانواده و دریافت کمک، او را بیشتر به سمت انزوا سوق داد. رایلی معتقد بود ChatGPT «به او کمک کرد یک جعبه سیاه بسازد که درک شدت پریشانی او را برای اطرافیان دشوارتر کرد.»

برای مطالعه بیشترشکایت عجیب از مک‌دونالد؛ هوش مصنوعی قیمت‌ها را بالا می‌برد

با وجود این، سوال گیدوچی در نهایت بیشتر جنبه پژوهشی داشت تا اتهامی باشد. او در مصاحبه با سم آلتمن نپرسید که آیا OpenAI در چنین مرگ‌هایی مقصر است، بلکه درباره امکان استفاده از سوابق گفت‌وگوهای کاربرانی مانند روتنبرگ به‌ عنوان «نقشه راهی برای درک اینکه افراد چگونه به تصمیم پایان دادن به زندگی خود می‌رسند» سوال کرد. او همچنین پرسید آیا می‌توان از این داده‌ها برای شکل‌دهی به سیاست‌گذاری‌ها و رویکردهای درمانی استفاده کرد. آلتمن در پاسخ گفت: «اینها از دشوارترین پرسش‌هایی هستند که ما یا هر فرد دیگری که در حال توسعه این فناوری است با آنها مواجه می‌شود. تا حد امکان تلاش می‌کنیم به نظر متخصصان تکیه کنیم، اما متخصصان هم مطمئن نیستند چه باید کرد. این فناوری و این مسئله کاملا جدید هستند.»

نوشتهمصاحبه سم آلتمن با سوال جنجالی درباره نقش ChatGPT در خودکشی یک زن متوقف شداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.