عامل هوش مصنوعی نمی‌تواند توضیح دهد چرا بدون دلیل ۷۲ تخم‌مرغ سفارش داده است

ماجرا از جایی شروع شد که مت اسمیت، یکی از کاربران یک عامل هوش مصنوعی، متوجه شد این ابزار به‌جای انجام سفارش معمولی خرید مواد غذایی، تعداد عجیبی تخم‌مرغ برای او سفارش داده است.

اسمیت در فهرست خرید خود هیچ تخم‌مرغی درخواست نکرده بود؛ بااین‌حال، عامل هوش مصنوعی چهار بسته تخم‌مرغ بزرگ و محلی برند Vital Farms را به سبد خرید اضافه کرد. هر بسته شامل ۱۸ عدد تخم‌مرغ بود و در مجموع، ۷۲ تخم‌مرغ به خانه او تحویل داده شد.

اسمیت پس از مشاهده سفارش، از هوش مصنوعی خواست دلیل انتخاب این تعداد را توضیح دهد؛ اما پاسخ هوش‌ مصنوعی چندان قانع‌کننده نبود

پاسخ خوبی برای این اتفاق ندارم. نمی‌توانم یادداشتی پیدا کنم که توضیح دهد چرا عدد چهار را انتخاب کردم.

عامل هوش مصنوعی ابتدا احتمال داد که هنگام خواندن تصویر فهرست خرید، اطلاعات مربوط به تخم‌مرغ را اشتباه تشخیص داده باشد. بااین‌حال، اسمیت بلافاصله یادآوری کرد که اساساً هیچ اشاره‌ای به تخم‌مرغ در فهرست او وجود نداشته است. هوش مصنوعی نیز در نهایت پذیرفت که بدون هیچ دلیلی این محصول را به سفارش اضافه کرده است.

این اتفاق نمونه‌ای از توهم هوش مصنوعی (AI Hallucination) در دنیای واقعی به شمار می‌رود؛ مشکلی که می‌تواند هنگام سپردن وظایف روزمره به عامل‌های هوش مصنوعی، پیامدهای غیرمنتظره‌ای داشته باشد.

نباید خطرات دسترسی گسترده این ابزارها به اطلاعات شخصی را نادیده گرفت؛ برای مثال، مدتی پس از معرفی عامل هوش مصنوعی Muse شرکت متا، مردی گزارش داد که این ابزار بدون اطلاع او، نشانی منزلش را در اختیار افراد غریبه در Facebook Marketplace قرار داده و آن‌ها را به خانه‌اش فرستاده است.

اسمیت این اتفاق را نخستین تجربه خود از پیامدهای واقعی توهم یک مدل زبانی بزرگ توصیف کرد؛ اتفاقی که به گفته او می‌توانست عواقب بسیار بدتری داشته باشد.

با وجود پیشرفت چشمگیر این فناوری، عامل‌های هوش مصنوعی همچنان مستعد اشتباه هستند و نباید تمام امور زندگی را بدون نظارت به آن‌ها سپرد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.