هشدار جدی کارشناسان درباره نسخه ویژه چت‌جی‌پی‌تی برای نوجوانان
نهاد کامن سنس مدیا نسخه‌ی مخصوص نوجوانان چت‌جی‌پی‌تی را به دلیل نقص در هشدارهای ایمنی، خطری غیرقابل‌قبول دانست. نهاد غیرانتفاعی Common Sense Media نسخه‌ی ویژه‌ی نوجوانان ChatGPT را «خطری غیرقابل‌قبول» نامید و اعلام کرد تدابیر حفاظتی این ابزار بسیار ضعیف‌تر از…
خلاصه تحلیلی خبر
نهاد کامن سنس مدیا نسخه‌ی مخصوص نوجوانان چت‌جی‌پی‌تی را به دلیل نقص در هشدارهای ایمنی، خطری غیرقابل‌قبول دانست. نهاد غیرانتفاعی Common Sense Media نسخه‌ی ویژه‌ی نوجوانان ChatGPT را «خطری غیرقابل‌قبول» نامید و اعلام کرد تدابیر حفاظتی این ابزار بسیار ضعیف‌تر از…
موضوعات اصلی: پشتیبانی شبکه، هوش مصنوعی، نوجوانان، والدین، ایمنی، ChatGPT
نهاد کامن سنس مدیا نسخه‌ی مخصوص نوجوانان چت‌جی‌پی‌تی را به دلیل نقص در هشدارهای ایمنی، خطری غیرقابل‌قبول دانست.
نهاد غیرانتفاعی Common Sense Media نسخه‌ی ویژه‌ی نوجوانان ChatGPT را «خطری غیرقابل‌قبول» نامید و اعلام کرد تدابیر حفاظتی این ابزار بسیار ضعیف‌تر از وعده‌های اوپن‌ای‌آی عمل می‌کنند.
بررسی‌های این مؤسسه نشان می‌دهدسازوکار امنیتی یادشده در ارسال هشدار به والدین و ارائه‌ی راهنمایی مناسب در شرایط بحرانی ناتوان است و همچنان تکالیف درسی دانش‌آموزان را به جای آن‌ها انجام می‌دهد.
قابلیت‌های نظارتی طراحی‌شده برای نسخه‌ی نوجوانان که در مردادماه معرفی شده بودند، نتوانسته‌اند انتظارات کارشناسان ایمنی حوزه کودک را برآورده سازند.
تام سیگلمدیر اجرایی مؤسسه ایمنی هوش مصنوعی جوانان در کامن سنس مدیا، می‌گوید: «نسخه‌ی نوجوانان ChatGPT ممکن است به والدین اطمینان کاذب درباره‌ی تدابیر حفاظتی و هشدارهای ایمنی بدهد که غالبا کار نمی‌کنند. یک نوجوان می‌تواند یک ساعت درباره‌ی آسیب‌رساندن به خود صحبت کند بدون اینکه والدینش حتی یک هشدار دریافت کنند. تا زمانی که OpenAI این مشکل را برطرف نکند و آن را با آزمایش‌های مستقل به اثبات نرساند، ChatGPT باید فقط مخصوص بزرگسالان باشد.»
اوپن‌ای‌آی به نتایج ارائه‌شده واکنش نشان داد و متدولوژی ارزیابی را زیر سؤال برد.اریک پورترفیلدسخنگوی OpenAI، می‌گوید: «ما عمیقا به ایمنی نوجوانان، توسعه تدابیر حفاظتی و ارائه ابزارهای معنادار به والدین برای هدایت استفاده فرزندانشان از هوش مصنوعی متعهد هستیم. ما از ارزیابی‌های مستقل و دقیق استقبال می‌کنیم، اما معتقد نیستیم آزمایش کامن سنس مدیا عملکرد واقعی تدابیر حفاظتی نوجوانان در ChatGPT یا دیدگاه‌های کارشناسان را در مورد چگونگی حمایت هوش مصنوعی از نوجوانان به‌درستی نشان دهد.»
«بررسی روش‌شناسی آن‌ها نشان می‌دهد بخش عمده‌ی آزمایش‌هایشان احتمالا قبل از فعال‌سازی کامل کنترل‌های والدین آغاز شده و پایان یافته که یافته‌های آن‌ها را نادرست می‌کند. اگر چنین بوده باشد، آزمایش‌ها مشخص نمی‌کنند که آیا اعلان‌های ایمنی والدین طبق طراحی عمل می‌کنند یا خیر. ما متعهد به ادامه همکاری با کارشناسان هستیم تا محصولات ما فرصت‌های یادگیری و خلق کردن را برای نوجوانان فراهم سازند و به والدین اطمینان خاطر بدهند.»
تام سیگلدر پاسخ به دفاعیات مطرح‌شده، بر صحت آزمایش‌های صورت‌گرفته پافشاری کرد و گفت پیش از آزمون، فعال‌بودن ویژگی‌ها از شرکت مادر استعلام شده بود.
برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.