هوش مصنوعی می‌تواند خاطرات جعلی در ذهن انسان ایجاد کند

پژوهشگران مؤسسه فناوری ماساچوست (MIT) دریافته‌اند که تصاویر، ویدیوها و اطلاعات تولیدشده با هوش مصنوعی می‌توانند حافظه انسان را تحریف کنند و خاطرات جعلی و غیرواقعی در ذهن افراد ایجاد نمایند.

سرویس هوش مصنوعی تک‌ناکنتایج تحقیقات نشان می‌دهد که افراد پس از مشاهده محتوای دست‌کاری‌شده، ممکن است اتفاقاتی را به خاطر بیاورند که هرگز رخ نداده‌اند و حتی به درستی این خاطرات جعلی اطمینان داشته باشند.

پتی مایس (Pattie Maes)، استاد و پژوهشگر مؤسسه فناوری ماساچوست در گفت‌وگو با واشنگتن‌پست درباره تأثیر هوش مصنوعی بر حافظه انسان هشدار داده است. تحقیقات گروه او نشان می‌دهد که مشاهده تصاویر تغییر‌یافته با هوش مصنوعی می‌تواند خاطرات افراد از رویدادهای گذشته را تغییر دهد.

در پژوهشی با عنوان «خاطرات مصنوعی انسان» که در آوریل ۲۰۲۵ در کنفرانس CHI منتشر شد، محققان عملکرد حافظه ۲۰۰ شرکت‌کننده را بررسی کردند. این افراد به چهار گروه ۵۰ نفره تقسیم شدند و ابتدا مجموعه‌ای از تصاویر اصلی را مشاهده کردند. پس از انجام یک فعالیت دیگر، هر گروه با نوع متفاوتی از محتوای تصویری روبه‌رو شد.

گروه نخست تصاویر اصلی را دوباره مشاهده کرد، درحالی‌که گروه‌های دیگر تصاویر و ویدیوهای تولیدشده یا تغییر‌یافته با هوش مصنوعی را دیدند. نتایج نشان داد که محتوای دست‌کاری‌شده احتمال شکل‌گیری خاطرات نادرست را افزایش می‌دهد.

بیشترین تأثیر مربوط به ویدیوهای تولیدشده از تصاویر دست‌کاری‌شده بود. در این گروه، میزان خاطرات جعلی ۲٫۰۵ برابر گروه کنترل ثبت شد و میزان اطمینان شرکت‌کنندگان به خاطرات نادرست نیز ۱٫۱۹ برابر افزایش یافت.

بیشتر بخوانیدعامل‌های هوش مصنوعی می توانند شما را به طعمه ایمیل‌های فیشینگ تبدیل کنند

تغییر خاطرات واقعی با تصاویر جعلی هوش مصنوعی

حافظه انسان برخلاف تصور عمومی، تمام جزئیات رویدادهای گذشته را به‌ صورت ثابت و دقیق نگهداری نمی‌کند. پژوهش‌های روان‌شناختی از قرن نوزدهم تاکنون نشان داده‌اند که تلقین و دریافت اطلاعات جدید می‌توانند نحوه یادآوری اتفاقات را تغییر دهند.

گسترش هوش مصنوعی مولد این آسیب‌پذیری را بیشتر کرده است. ابزارهای جدید می‌توانند تصاویر، صداها و ویدیوهایی تولید کنند که شباهت زیادی به محتوای واقعی دارند. مشاهده چنین محتوایی ممکن است باعث شود افراد جزئیات ساختگی را بخشی از خاطرات واقعی خود بدانند.

پژوهش دیگری به سرپرستی جیلیان مورفی (Gillian Murphy) از دانشگاه کالج کورک ایرلند، در آوریل ۲۰۲۵ در نشریه Applied Cognitive Psychology منتشر شد. محققان در این مطالعه، تأثیر ویدیوهای دیپ‌فیک، فایل‌های صوتی مصنوعی و متن‌های گمراه‌کننده را بر حافظه افراد بررسی کردند.

در این آزمایش ۴۴۳ نفر شرکت داشتند و نتایج نشان داد که محتوای جعلی می‌تواند خاطرات نادرستی درباره رسوایی‌های سیاسی کاملا ساختگی ایجاد کند.

نرخ شکل‌گیری خاطرات جعلی برای متن‌های گمراه‌کننده ۶ درصد، فایل‌های صوتی ۱۴ درصد و ویدیوهای دیپ‌فیک پولی ۲۵ درصد بود. همچنین محققان دریافتند که برخی از این محتواها می‌توانند تمایل افراد به رأی دادن به یک نامزد سیاسی را کاهش دهند. البته بررسی تکمیلی آنها تغییرات پایدار و قابل‌اندازه‌گیری در باورها یا خاطرات شرکت‌کنندگان را نشان نداد.

این یافته‌ها نشان می‌دهند که انتشار اطلاعات جعلی علاوه بر گمراه کردن کاربران، می‌تواند بر حافظه و تصمیم‌گیری آنها نیز تأثیر بگذارد.

بیشتر بخوانیدبانک‌ها درهای خود را به روی عامل‌های هوش مصنوعی بستند

هوش مصنوعی حتی کارشناسان را به اشتباه می‌اندازد

خطر اطلاعات نادرست تنها به تصاویر و ویدیوهای جعلی محدود نمی‌شود. سیستم‌های هوش مصنوعی مولد هنگام پاسخ‌گویی نیز ممکن است اطلاعات اشتباه یا ساختگی ارائه کنند. این مشکل با عنوان «توهم هوش مصنوعی» شناخته می‌شود.

گسترش استفاده از این فناوری در بانک‌ها، بیمارستان‌ها، سازمان‌های دولتی و مراکز نظامی، اهمیت شناسایی چنین خطاهایی را افزایش داده است.

بسیاری از سازمان‌ها برای کاهش خطرات، از رویکرد «حضور انسان در چرخه تصمیم‌گیری» استفاده می‌کنند. در این روش، کارشناسان خروجی سیستم‌های هوش مصنوعی را بررسی می‌کنند تا اطلاعات اشتباه پیش از تبدیل شدن به تصمیم‌های اجرایی شناسایی شوند.

با وجود این‌، تحقیقات نشان می‌دهند که حتی افراد متخصص نیز ممکن است تحت تأثیر اطلاعات نادرست این سیستم‌ها قرار بگیرند. اعتماد بیش‌ازحد به هوش مصنوعی می‌تواند باعث شود کارشناسان درباره دانسته‌های واقعی خود تردید کنند.

پژوهشی با عنوان «تشخیص محتوای تولیدشده با هوش مصنوعی به‌اندازه شیر یا خط تصادفی است» در سپتامبر ۲۰۲۵ در نشریه Communications of the ACM منتشر شد. محققان در این تحقیق، توانایی ۱۲۷۶ نفر را در تشخیص تصاویر، صداها و ویدیوهای واقعی از محتوای مصنوعی بررسی کردند.

نتایج نشان داد که میانگین دقت تشخیص شرکت‌کنندگان ۵۱٫۲ درصد بود. این رقم برای تصاویر به ۴۹٫۴ درصد، برای ویدیوها به ۵۰٫۷ درصد و برای محتوای صوتی به ۵۳٫۷ درصد رسید.

این نتایج نشان می‌دهد که عملکرد شرکت‌کنندگان در آزمایش مذکور تقریبا با حدس تصادفی برابری می‌کرد. همچنین محققان دریافتند که شرکت‌کنندگان در شناسایی محتوای واقعی موفق‌تر از شناسایی محتوای مصنوعی بودند.

پژوهشگران اکنون در حال بررسی روش‌های آموزشی برای تقویت توانایی انسان در تشخیص محتوای جعلی هستند. با وجود این‌، هنوز هیچ روش کاملا مطمئنی برای شناسایی تمام تصاویر و ویدیوهای تولیدشده با هوش مصنوعی وجود ندارد.

بیشتر بخوانیدافشای استفاده از هوش مصنوعی Grok در تجاوز نظامی آمریکا به ایران

نوشتههوش مصنوعی می‌تواند خاطرات جعلی در ذهن انسان ایجاد کنداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.