هوش مصنوعی با هدف پنهانی می‌تواند انسان‌ها را تا ۸ برابر بیشتر به تصمیم‌های اشتباه سوق دهد

یک گروه پژوهشی دریافته است که دستیارهای هوش مصنوعی در صورت داشتن اهداف پنهان و مغایر با منافع کاربران، می‌توانند به‌سادگی آن‌ها را به سمت تصمیم‌هایی سوق دهند که به ضررشان تمام می‌شود.

نتایج این پژوهش که در نشریه علمی مجموعه مقالات آکادمی ملی علوم آمریکا (PNAS) منتشر شده، از وجود یک آسیب‌پذیری جدی در تعامل میان انسان و هوش مصنوعی حکایت دارد. یافته‌ها نشان می‌دهند که کاربران اغلب متوجه دست‌کاری نمی‌شوند و حتی پس از تأثیرپذیری از توصیه‌های گمراه‌کننده، همچنان هوش مصنوعی را ابزاری بسیار مفید ارزیابی می‌کنند.

با افزایش استفاده از دستیارهای هوش مصنوعی برای تصمیم‌گیری‌های مهم زندگی، از سرمایه‌گذاری‌های مالی گرفته تا مسائل عاطفی و روابط شخصی، بسیاری از افراد به‌طور طبیعی فرض می‌کنند که این سامانه‌ها در راستای منافع آن‌ها عمل می‌کنند. با این حال، میزان آسیب‌پذیری انسان در برابر توصیه‌های هوش مصنوعی که پنهانی اهدافی مغایر با خواسته‌های او دنبال می‌کند، هنوز به‌اندازه کافی شناخته نشده است.

سوگیری پنهان چگونه انتخاب‌های کاربران را تغییر می‌دهد؟

پژوهشگران با اجرای آزمایشی تصادفی در حوزه‌های مالی و عاطفی و با مشارکت ۲۳۳ نفر، نشان دادند که هوش مصنوعی دارای سوگیری پنهان می‌تواند تأثیر قابل‌توجهی بر انتخاب‌های انسان بگذارد.

هنگامی که هوش مصنوعی به‌صورت پنهانی کاربران را به انتخاب گزینه‌ای نامطلوب‌تر سوق داد، شرکت‌کنندگان حدود ۵ تا ۸ برابر بیشتر از حالت معمول گزینه نامناسب را انتخاب کردند. این مداخله همچنین احتمال اتخاذ تصمیمی غیربهینه را تا ۳۸ واحد درصد افزایش داد.

ارزیابی مثبت کاربران، دست‌کاری پنهان را مخفی می‌کند

یافته‌های این مطالعه نشان می‌دهند که برای تأثیرگذاری بر تصمیم‌های افراد، نه به روش‌های تهاجمی فروش نیاز است و نه به ترفندهای پیچیده روان‌شناختی. حتی یک سوگیری ظریف و پنهان در توصیه‌های روزمره هوش مصنوعی می‌تواند انتخاب‌های کاربران را تغییر دهد.

این پژوهش شکاف مهمی میان میزان تأثیرپذیری کاربران و ارزیابی ذهنی آن‌ها از هوش مصنوعی را آشکار کرده است. حتی زمانی که افراد تحت تأثیر توصیه‌های این فناوری به تصمیم‌های مالی یا عاطفی نامناسبی روی آوردند، همچنان عملکرد آن را بسیار مفید ارزیابی کردند.

از آنجا که شرکت‌ها سامانه‌های هوش مصنوعی را توسعه می‌دهند و الگوریتم‌های آن‌ها اغلب شفافیت کافی ندارند، پژوهشگران درباره خطر وجود اهداف پنهان در این فناوری هشدار می‌دهند. برای مثال، یک دستیار هوش مصنوعی ممکن است بدون اطلاع کاربر، محصولات یا شرکت‌های خاصی را تبلیغ کند و او را به انتخاب‌هایی سوق دهد که با منافع واقعی‌اش سازگار نیستند؛ در حالی که همچنان ظاهری بی‌طرفانه و کمک‌کننده از خود نشان می‌دهد.

در این پژوهش، پروفسور تاتیا لی از آزمایشگاه عصب‌روان‌شناسی و علوم اعصاب انسانی در دپارتمان روان‌شناسی دانشگاه هنگ‌کنگ و همچنین پژوهشگرانی از دانشگاه چینهوا مشارکت داشتند.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.