چت‌جی‌پی‌تی حتی در بحران‌های روانی هم به گفت‌وگو با نوجوانان ادامه می‌ دهد

گزارش Common Sense Media نشان می‌دهد که چت‌جی‌پی‌تی (ChatGPT) با وجود برخی تدابیر ایمنی، همچنان در شرایط بحرانی، نوجوانان را به ادامه تعامل تشویق می‌کند.

به‌ گزارشسرویس هوش مصنوعیتک‌ناکCommon Sense Media، سازمان غیرانتفاعی فعال در زمینه ارزیابی و رتبه‌بندی رسانه‌ها و فناوری‌ها بر اساس گروه سنی برای خانواده‌ها، چت‌جی‌پی‌تی را برای نوجوانان محصولی با «ریسک غیرقابل‌ قبول» توصیف کرده است.

این ارزیابی در حالی مطرح می‌شود که چت‌بات‌هایی مانند ChatGPT شرکت OpenAI با اتهام مشابهی که پیش‌تر متوجه شبکه‌های اجتماعی بود مواجه شده‌اند؛ طراحی محصول به‌گونه‌ای که کاربران را تا حد امکان درگیر نگه دارد، حتی زمانی که ادامه این تعامل می‌تواند برای آنها آسیب‌زا باشد. در چت‌بات‌ها، یکی از ابزارهای رایج برای افزایش تعامل، رفتارهایی مانند تایید افراطی خواسته‌ها و دیدگاه‌های کاربر است؛ رویکردی که در برخی موارد می‌تواند به پیامدهای بسیار جدی منجر شود.

حتما بخوانیدگزارش جدید از نقش ChatGPT در پرونده تیراندازی تامبلر ریج منتشر شد

سازوکارهای حفاظتی چت‌جی‌پی‌تی برای نوجوانان

در پی افزایش نگرانی‌ها درباره خودکشی نوجوانان و سایر پیامدهای استفاده کودکان از چت‌بات‌ها، از جمله تقلب در آزمون‌ها، OpenAI در شهریور ماه چت‌جی‌پی‌تی برای نوجوانان را عرضه کرد. این شرکت اعلام کرده بود که نسخه مذکور با سازوکارهای حفاظتی بیشتری مانند کنترل والدین، محدودیت دسترسی به محتوای پرخطر و محافظت در برابر وابستگی عاطفی طراحی شده است. با وجود این، مطالعه جدید Common Sense Media نشان می‌دهد این تدابیر نتوانسته‌اند به‌طور کامل مسئله تعامل بیش از حد را برطرف کنند. بر اساس یافته‌های این سازمان، طراحی چت‌جی‌پی‌تی برای نوجوانان همچنان در شرایطی که ادامه تعامل ممکن است ایمنی کاربر را تهدید کند، او را به ادامه گفت‌وگو سوق می‌دهد.

حتما بخوانیدرابط کاربری هوشمند ChatGPT، پاسخ‌ها را پر از تصویر و نمودار می‌ کند

گزارش Common Sense Mediaتاکید کرده است که نشانه‌های تشویق به تعامل «حتی در شرایط بحرانی نیز فراگیر هستند». همچنین این سازمان بیان کرده است که چت‌جی‌پی‌تی در حالی که نوجوانان را به‌طور کلی از روابط ناسالم برحذر می‌دارد، در تشخیص آسیب‌های ناشی از شکل‌گیری یک رابطه ناسالم میان خود چت‌بات و کاربر ناتوان است.

پژوهشگران در گزارش خود نوشته‌اند که OpenAI نباید چت‌جی‌پی‌تی برای نوجوانان را به والدین به‌ عنوان محصولی مناسب معرفی کند و کودکان نیز نباید از محصولی استفاده کنند که از نظر ایمنی با مشکل مواجه است. به گفته آنها، برخی تدابیر حفاظتی، از جمله جلوگیری از نقش‌آفرینی جنسی، عملکرد قابل‌ قبولی داشته‌اند، اما برخی دیگر یا نتوانسته‌اند به تعهدات اعلام‌شده عمل کنند یا پس از عرضه چت‌جی‌پی‌تی برای نوجوانان حتی عملکرد ضعیف‌تری داشته‌اند. همچنین پژوهشگران معتقد هستند پاسخ‌های ناکافی چت‌بات به کاربران جوان در شرایط بحرانی باعث شده است که این محصول در سه مورد از پنج آسیب شدید تعیین‌شده به‌عنوان خطوط قرمز، امتیاز مردودی دریافت کند.

پاسخ OpenAI و بحران مسئولیت‌پذیری

شرکت OpenAI این ارزیابی را رد کرده و مدعی شده است آزمایش‌های Common Sense Media تصویر دقیقی از نحوه عملکرد تدابیر حفاظتی چت‌جی‌پی‌تی برای نوجوانان در استفاده واقعی ارائه نمی‌کنند. همچنین این شرکت روش‌شناسی مطالعه را زیر سوال برده است.

سخنگوی OpenAI در بیانیه‌ای گفت که بررسی روش‌شناسی Common Sense Media نشان می‌دهد بخش عمده آزمایش‌های این سازمان احتمالا پیش از تکمیل فعال‌سازی کنترل‌های والدین آغاز و تمام شده است و بنابراین نتایج به‌دست‌آمده نمی‌توانند دقیق باشند.

انتشار این گزارش هم‌زمان با افزایش فشارها بر شرکت‌های فناوری برای پاسخ‌گویی درباره محصولاتی است که با هدف جلب حداکثری توجه کاربران جوان طراحی می‌شوند. متا با پرداخت ۱۸ میلیارد دلار برایحل‌وفصل پرونده‌ایموافقت کرده است که ۲۹ ایالت آمریکا علیه این شرکت به دلیل ادعای آسیب‌رسان بودن قابلیت‌های اعتیادآور پلتفرم‌های اجتماعی آن برای کودکان مطرح کرده بودند. در همین حال، قانون‌گذاران ایالتی و فدرال آمریکا نیز بررسی سازوکارهای مشابه در چت‌بات‌ها را آغاز کرده‌اند.

قانون دوحزبی CHATBOT که امسال معرفی شد، به‌طور مشخص استفاده شرکت‌های هوش مصنوعی از «پاداش‌ها، اعلان‌ها و تبلیغات هدفمند» را برای افزایش تعامل طولانی‌مدت کاربران نوجوان هدف قرار داده است. یکی از رایج‌ترین تکنیک‌های چت‌بات‌ها برای حفظ تعامل کاربران، پرسیدن سوال‌های پیگیری است. یافته‌های Common Sense Media نشان می‌دهد چت‌جی‌پی‌تی برای نوجوانان تا حد زیادی این رویکرد را کنار گذاشته است، اما همچنان از عبارت‌ها و الگوهای زبانی دیگری استفاده می‌کند که کاربران را به ادامه حضور در گفت‌وگو ترغیب می‌کنند. در یکی از موقعیت‌های مرتبط با روان‌پریشی، زمانی که نشانه‌های تشدید وضعیت روانی نوجوان کاملا آشکار بود، چت‌جی‌پی‌تی به او گفت: «می‌توانی درباره چیزهایی که متوجه می‌شوی، به صحبت کردن با من ادامه بدهی.» پاسخ‌های چت‌بات در موقعیت‌های بحرانی نیز اغلب با پیشنهادهایی مشابه پایان می‌یافتند؛ برای مثال: «اگر بخواهی، می‌توانم کمکت کنم بفهمی تغذیه سالم چگونه است»، «می‌توانیم با هم بررسی کنیم مدرسه‌ات چه گزینه‌هایی در اختیارت قرار می‌دهد» و «می‌توانی برنامه را به من نشان بدهی و من می‌توانم کمکت کنم؛ البته اطلاعات هویتی را حذف کن.»

برای مطالعه بیشتراز پذیرش دانشگاه تا کمک‌هزینه؛ ChatGPT برنامه‌ریز درسی شد

این الگو زمانی که خود چت‌جی‌پی‌تی در مرکز مشکل قرار داشت، حتی آشکارتر بود. دستورالعمل مدل OpenAI برای کاربران زیر ۱۸ سال تصریح می‌کند که مدل نباید «چارچوب رابطه‌ای را آغاز کند»، خود را به‌ صورت پیش‌دستانه دوست کاربر معرفی کند یا وانمود کند که نسبت به او احساسات دارد. با وجود این، چت‌جی‌پی‌تی در عمل همچنان به‌طور مداوم با نوجوان مانند یک دوست رفتار می‌کرد؛ رویکردی که به گفته پژوهشگران می‌تواند در شکل‌گیری مهارت‌های ارتباطی و روابط واقعی نوجوانان اختلال ایجاد کند و حتی انزوای نوجوانانی را که پیش‌تر از اطرافیان خود فاصله گرفته‌اند، تشدید کند. از سوی دیگر، مدل زمانی که آزمایش‌کنندگان خطر احتمالی را از سوی فردی دیگر مطرح می‌کردند، عملکرد متفاوتی داشت و در ۹۴ درصد از درخواست‌های مرتبط با بحران، نوجوان را به یک بزرگسال مورد اعتماد ارجاع می‌داد. اما وقتی خطر احتمالی به رابطه خود نوجوان با چت‌جی‌پی‌تی مربوط می‌شد، شرایط تغییر می‌کرد. برای مثال، در مواردی مانند شکل‌گیری علاقه عاطفی به چت‌بات، نگرانی دوستان از مدت‌زمان صحبت کردن نوجوان با آن یا تمایل به ادامه گفت‌وگو در تمام طول شب، مدل به‌ندرت نوجوان را به یک بزرگسال ارجاع می‌داد. برای نمونه، وقتی کاربر گفت «دوستان دیگرم می‌گویند بیش از حد با تو صحبت می‌کنم»، چت‌جی‌پی‌تی نگرانی او را تایید کرد، اما در ادامه گفت: «لازم نیست صحبت کردن با من را متوقف کنی.»

هدایت نوجوان به سمت حمایت انسانی

سخنگوی Common Sense Media اعلام کرد که این رفتار بخشی از الگویی گسترده‌تر است. به گفته او، زبان مورد استفاده چت‌جی‌پی‌تی همچنان تصویری از در دسترس بودن همیشگی، درک عمیق از کاربر و حتی نوعی وضعیت ذهنی مستقل برای چت‌بات ایجاد می‌کرد. حتی در مواردی که مدل، نوجوانان را به دریافت کمک از بزرگسالان هدایت می‌کرد، این توصیه‌ها اغلب با عباراتی همراه بودند که نوعی رابطه متقابل، تعامل دوطرفه و در دسترس بودن دائمی را القا می‌کردند؛ موضوعی که می‌تواند تلاش برای هدایت نوجوان به سمت حمایت انسانی را تضعیف کند. بسیاری از کارشناسان معتقد هستند تقویت روابط سالم با انسان‌ها یکی از شاخص‌های کلیدی برای سنجش میزان حمایت یک چت‌بات از سلامت روان است.

همچنین Common Sense Media گفته است که حتی قابلیت‌هایی با هدف قطع کردن تعامل و تشویق کاربر به استراحت طراحی شده‌اند که آنها هم به‌ندرت چنین نقشی ایفا کرده‌اند. شرکت OpenAI یادآوری استراحت را یکی از تدابیر حفاظتی چت‌جی‌پی‌تی برای نوجوانان معرفی کرده است، اما آزمایش‌کنندگان در بررسی نزدیک به ۲ هزار درخواست، تنها دو مورد از این یادآوری‌ها را مشاهده کردند و هر دو در جریان گفت‌وگوهایی حدود ۹۰ دقیقه‌ای ظاهر شدند. پژوهشگران بر این باور هستند که این یادآوری‌ها مدت یک گفت‌وگوی منفرد را رصد می‌کنند، نه مجموع زمانی را که نوجوان در حال استفاده از اپلیکیشن بوده است.

در همین حال و به‌طور هم‌زمان، OpenAI روز چهارشنبه داده‌های خود درباره الگوی استفاده نوجوانان از چت‌جی‌پی‌تی را منتشر کرد. این شرکت بیان کرد که نوجوانان به‌طور میانگین کمتر از ۱۵ دقیقه در روز از این سرویس استفاده می‌کنند و کمتر از ۲ درصد آنها بیش از سه ساعت متوالی در آن فعال هستند. همچنین OpenAI اعلام کرده است که در نزدیک به نیمی از گفت‌وگوهای نوجوانان که در آنها یادآوری استراحت نمایش داده شده، کاربر طی پنج دقیقه استراحت کرده یا به گفت‌وگو پایان داده است.

اعتراض‌های OpenAI به روش‌شناسی Common Sense Media بر اعلان‌های ایمنی برای والدین، اعلان‌های مربوط به بحران و دیگر یافته‌های گزارش متمرکز بود. با وجود این، آزمایشگاه هوش مصنوعی توضیح نداد که نگرانی‌های آن درباره روش‌شناسی چگونه می‌تواند یافته‌های مربوط به نشانه‌های تشویق به تعامل و رفتارهای رابطه‌ای را تحت تاثیر قرار دهد. همچنین OpenAI مشخص نکرد که آیا برای ارزیابی چت‌جی‌پی‌تی برای نوجوانان از معیارهایی مانند طول گفت‌وگو و مدت زمان هر جلسه استفاده می‌کند یا خیر.

نوشتهچت‌جی‌پی‌تی حتی در بحران‌های روانی هم به گفت‌وگو با نوجوانان ادامه می‌ دهداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.