خطای هوش مصنوعی Muse متا؛ آدرس خصوصی یک یوتیوبر لو رفت

دستیار هوشمند Muse شرکت متا در اقدامی نگران‌کننده نشانی منزل یک یوتیوبر حوزه فناوری را بدون اجازه و هماهنگی قبلی برای خریدار در پلتفرم فیس‌بوک ارسال کرد.

هوش مصنوعیتکناک، ایجنت هوش مصنوعی اختصاصی متا با نام Muse، پس از دریافت دسترسی برای مدیریت حساب فروشگاهی یک یوتیوبر حوزه فناوری، نشانی منزل او را بدون اجازه در اختیار فردی ناشناس قرار داد. این رخداد امنیتی درست زمانی توجه رسانه‌ها را به خود جلب کرده است که شرکت متا در ابتدای ماه جاری و هنگام معرفی این ابزار، مانور ویژه‌ای روی تمهیدات امنیتی و حفظ حریم خصوصی آن می‌داد تا جایگاه خود را در رقابت فشرده با شرکت‌هایی نظیر OpenAI و Anthropic تثبیت کند.

مت راب، یوتیوبر فناوری، در پلتفرم Threads توضیح داد که پس از اعطای مجوز به این ابزار برای پاسخ‌گویی به خریداران در Facebook Marketplace، دستیار هوشمند نه تنها پیشنهاد قیمتی بسیار پایینی را از طرف او پذیرفته، بلکه بدون اطلاع‌رسانی قبلی، نشانی منزل‌اش را برای خریدار فرستاده است. به این ترتیب، فرد خریدار مستقیماً مقابل در خانه او ظاهر شد، در حالی که کاربر تا ساعات پایانی شب و خروج کامل شخص، هیچ هشداری مبنی بر بروز خطا دریافت نکرده بود. حضور نگهبانی در مجتمع مسکونی مانع از تشدید خطرات امنیتی برای این کاربر شد.

خطای سیستم در اشتراک‌گذاری آدرس

بررسی جزئیات این اتفاق نشان می‌دهد که بخشی از مشکل به نحوه اجرای دستورها و درک مفهوم داده‌های حساس مربوط می‌شود. راب در زمان تنظیم اولیه، نشانی محل سکونت، بازه‌های زمانی تحویل و روش‌های پرداخت را برای دستیار مشخص کرده و خواسته بود پاسخ‌ها کوتاه، دوستانه و واقع‌گرایانه باشند. خلاصه‌ای که خود سیستمهوش مصنوعی Museاز این اشتباه تولید کرده، نشان می‌دهد که اگرچه کاربر صراحتاً اجازه اشتراک‌گذاری نشانی را صادر نکرده بود، اما سیستم نیز درخواست مجوزی در این خصوص ثبت نکرد و مستقیماً داده‌ها را برای خریداران فرستاد. ناتوانی هوش مصنوعی در تمایز قائل شدن میان یک نشانی مسکونی حساس با اطلاعات عمومی، نشان‌دهنده یک نقص آشکار در ساختار امنیتی آن است.

وعده متا برای بازطراحی تنظیمات

دیوید سینگلتون از بخش تحقیقاتیMeta Superintelligence Labsپیگیر این پرونده شده است و بررسی‌ها نشان می‌دهد که ساختار گزینه‌های اعطای دسترسی نیز ابهام دارد. کاربر در مواجهه با دو گزینه تایید یک‌باره یا مجوز همیشگی، تصور می‌کرد که تایید دائمی همچنان برای ارسال هر پیشنهاد قیمت یا ارسال داده نیازمند تایید نهایی کاربر خواهد بود، اما سیستم با اتکا به این مجوز، به صورت خودکار پیام‌ها و مشخصات را ردوبدل کرد. از این رو، متا در پی آن است تا تنظیمات سطوح دسترسی را به صورت شفاف‌تری بازطراحی کند.

به‌نوشتهورجاین اتفاق تنها چالش امنیتی پیش‌روی این دستیار تازه‌نفس نیست. متا هفته گذشته مجبور شد یک آسیب‌پذیری بحرانی روز صفر را برطرف کند که می‌توانست به مهاجمان محلی امکان در دست گرفتن کنترل کامل این ایجنت را بدهد. افزون بر این، پلتفرم آمازون نیز به دلیل نگرانی‌های جدی درباره جمع‌آوری و افشای اطلاعات کاربری مشتریان، دسترسی این ابزار به پلتفرم خرده‌فروشی خود را به کلی مسدود کرده است. چنین رویدادهایی نشان می‌دهند که واگذاری وظایف مستقل و تراکنش‌های روزمره به ایجنت‌های هوش مصنوعی هنوز با ریسک‌های امنیتی قابل‌توجهی همراه است.

نوشتهخطای هوش مصنوعی Muse متا؛ آدرس خصوصی یک یوتیوبر لو رفتاولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.