نقض حریم خصوصی کاربران توسط هوش مصنوعی Muse جنجال آفرید

ایجنت هوش مصنوعی جدید متا موسوم به Muse با نقض حریم خصوصی و دسترسی غیرمجاز به دیتابیس پیام‌های کاربران، با انتقادات شدید امنیتی مواجه شده است.

هوش مصنوعیتکناک، نگرانی‌های امنیتی پیرامون ایجنت هوش مصنوعی جدید متا، Muse، با افشای دسترسی غیرمجاز این ابزار به پیام‌های خصوصی کاربران، افزایش یافته است. این محصول که متا آن را به عنوان یک ایجنت شخصیِ امن، خصوصی و دردسترس معرفی کرده بود، اکنون با انتقادات شدیدی در مورد نقض حریم خصوصی مواجه شده است.

ماجرا از زمانی آغاز شد که جیسون آتن، از نشریه Incعملکرد Museرا روی یک مک مینی و یک آیفون ارزیابی کرد. آتن که از سیستم مک برای آزمایش ایجنت‌های هوش مصنوعی بهره می‌برد، پس از نصب Muse، از آن خواست در ایده‌پردازی برای مقالات خبری به او کمک کند. این ایجنت در ظاهر عملکردی مطابق انتظار داشت، اما در ادامه با رفتاری غیرمنتظره، پیشنهاد نوشتار مطلبی را ارائه داد که محتوای آن بر پایه اطلاعاتی حساس و خصوصی استخراج شده بود.

همگام‌سازی غیرمجاز دیتابیس پیام‌ها

آتن در حال گفتگو با همکار پادکست خود درباره جزئیات مربوط به آیفون ۱۸ پرو و دلایل تصمیم‌اش برای ادامه استفاده از گوشی مدل سال قبل بود. این تبادل نظر در قالب متن و از طریق اپلیکیشن Messages انجام می‌شد. Muse در اقدامی مداخله‌جویانه، ضمن پیشنهاد این موضوع به عنوان سوژه مقاله، اعلام آمادگی کرد تا تحقیقات بیشتری درباره آن انجام دهد. مشکل اصلی اینجاست که آتن هرگز مجوزی برای خواندن پیام‌های شخصی به Muse نداده بود.

در پی پرسش آتن درباره نحوه دسترسی ایجنت به محتوای گفت‌وگوهوش مصنوعی Museادعا کرد نسخه مک این برنامه توانایی خواندن اعلان‌های ورودی را دارد و این اطلاعات را به اپلیکیشن Meta در آیفون منتقل کرده است تا پیشنهاد مقاله را ارائه دهد. Muse در همان ابتدا مدعی شد که به پیام‌های واقعی آتن دسترسی ندارد و تاریخچه چت‌ها برای او قابل مشاهده نیست. با این حال، بررسی‌های دقیق‌تر آتن نشان داد که این ایجنت در حال همگام‌سازی دیتابیس محلی پیام‌ها بوده و تا ردیف ۱۸۷۴۶۲ پیش رفته است؛ موضوعی که ادعای عدم دسترسی Muse به تاریخچه چت‌ها را کاملاً رد می‌کند.

این مسئله یک نقض حریم خصوصی جدی محسوب می‌شود. آتن تأکید کرد که هرگز مجوز «دسترسی کامل به دیسک» (Full disk access) را برای Muse روی مک خود فعال نکرده است؛ مجوزی که برای خواندن دیتابیس اپلیکیشن Messages توسط برنامه‌های ثالث، الزامی و حیاتی است. در واکنش به این رخداد، دیوید سینگلتون، مدیرعامل Meta Superintelligence Labs، در شبکه‌های اجتماعی با انتشار سلسله مطالبی تلاش کرد مسئولیت این اتفاق را متوجه کاربر بداند که با انتقادات تندی روبرو شد.

نفوذ هوش مصنوعی به حریم شخصی

در حال حاضر، ابهامات زیادی درباره روش دسترسی Muse به دیتابیس پیام‌ها وجود دارد. اگر کاربر به صورت تصادفی این دسترسی را اعطا نکرده باشد، پرسش‌های نگران‌کننده‌ای درباره وسعت دسترسی‌های غیرمجاز این ایجنت به سایر داده‌های شخصی کاربران مطرح می‌شود.

به‌نوشتهتامز هاردوراین تنها چالش امنیتی Muse در روزهای اخیر نیست. علاوه بر نقض حریم خصوصی در پیام‌ها، مشخص شده که این ایجنت قابلیت اجرای دستورات ترمینال (Terminal Commands) را روی هاست سرور خود دارد. این دسترسی نه تنها نشان داد که Muse از قدرت پردازشی سیستم‌های هاست AMD EPYC Turin استفاده می‌کند، بلکه این خطر را نیز به همراه دارد که ایجنت مذکور بتواند دستورات ناامن و مخرب را روی سیستم‌ها اجرا کند. ترکیب این ضعف‌های امنیتی با ادعاهای متا درباره سطح بالای امنیت و حریم خصوصی محصول جدیدش، اعتبار این شرکت را در حفظ داده‌های کاربران با تردیدهای جدی مواجه کرده است. انتظار می‌رود با افزایش فشارها و انتشار جزئیات بیشتر، متا پاسخگوی این حفره‌های امنیتی در پلتفرم جدید خود باشد.

نوشتهنقض حریم خصوصی کاربران توسط هوش مصنوعی Muse جنجال آفریداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.