محققان: تصاویر و متن‌های هوش مصنوعی می‌توانند خاطرات جعلی در ذهن انسان بسازند

پژوهشگران دانشگاه MIT می‌گویند تصاویر و متن‌های تولیدشده با هوش مصنوعی می‌توانند خاطرات انسان را تغییر دهند و باعث شوند افراد رویدادهایی را که هرگز رخ نداده‌اند، به یاد بیاورند. نتایج پژوهش‌ها همچنین نشان می‌دهد افرادی که تحت‌تأثیر این محتوا قرار می‌گیرند، ممکن است به خاطرات نادرست خود اطمینان زیادی داشته باشند؛ چنین مسئله‌ای می‌تواند پیامدهایی برای تصمیم‌گیری انسان داشته باشد.

واشنگتن‌پستدر آزمایش محققان، ۲۰۰ نفر ۲۴ عکس معمولی از صحنه‌هایی مانند مراسم عروسی، خیابان شهری و مسابقه مشاهده کردند. پس از وقفه‌ای کوتاه، برخی شرکت‌کنندگان همان عکس‌ها را دوباره دیدند، اما تصاویر گروه دیگر با هوش مصنوعی تغییر یافته بود.

در این تصاویر، حالت چهره افراد تغییر کرده بود، نیروهای نظامی به صحنه‌ها اضافه شده یا مثلاً آب‌وهوا در تصاویر تغییر کرده بود. نتایج آزمون حافظه نشان داد افرادی که تصاویر دست‌کاری‌شده را دیده بودند، به‌مراتب بیشتر دچار خاطرات نادرست شدند و به یادآوری‌های اشتباه خود نیز اطمینان بیشتری داشتند.

ایجاد خاطرات جعلی با تصاویر و متن‌های هوش مصنوعی

حافظه انسان همیشه در معرض خطا و تأثیرپذیری از اطلاعات بیرونی بوده است. آزمایش‌های روان‌شناختی درباره این موضوع دست‌کم به قرن نوزدهم بازمی‌گردند. همین ویژگی باعث می‌شود اطلاعات نادرست خطرناک باشند.

پژوهشگرانمی‌گویند شکل‌گیری حافظه صرفاً به ذخیره‌سازی اطلاعات در مغز محدود نیست و توجه، تلاش ذهنی، بازیابی اطلاعات و ایجاد ارتباط میان آن‌ها نیز در تثبیت خاطرات نقش دارند. هوش مصنوعی مولد می‌تواند بخشی از این فعالیت‌های ذهنی را حذف کند.

خطر هوش مصنوعی فقط به استفاده عمدی از آن برای فریب افراد محدود نمی‌شود. مدل‌های هوش مصنوعی مولد ممکن است اطلاعات نادرست تولید کنند که به آن‌ها توهم گفته می‌شود. کاربران نیز معمولاً در شناسایی توهم‌های هوش مصنوعی عملکرد خوبی ندارند.

از سوی دیگر، حافظه خطاپذیر انسان و تمایل او به اعتماد به سیستم‌های هوش مصنوعی می‌تواند قضاوت کارشناسان را نیز تحت‌تأثیر قرار دهد. به این ترتیب، حتی اگر خروجی هوش مصنوعی با اطلاعاتی که متخصص از صحت آن‌ها اطمینان دارد در تضاد باشد، احتمال دارد متخصص نیز تحت‌تأثیر اطلاعات نادرست قرار بگیرد و در قضاوت خود دچار خطا شود.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.