آنتروپیک هشدار داد؛ احتمال انتشار کرم‌های هوش مصنوعی در شبکه دستگاه‌های خانگی

پژوهشگران امنیت سایبری آنتروپیک درباره‌ی توانایی خودتکثیرشوندگی مدل‌های هوش مصنوعی کوچک هشدار دادند.

پژوهشگران حوزه‌ی امنیت سایبری شرکت آنتروپیک با انتشار نتایج مجموعه‌ای از آزمایش‌های تجربی هشدار داده‌اند که مدل‌های هوش مصنوعی کوچک به‌زودی می‌توانند بهتوانایی خودتکثیرشوندگیدر شبکه‌ای از دستگاه‌های متصل به اینترنت و لوازم خانگی هوشمند دست پیدا کنند. این مطالعه نشان می‌دهد که بدافزارهای مجهز به هوش مصنوعی یا همان کرم‌های اینترنتی می‌توانند از آسیب‌پذیری‌های امنیتی دستگاه‌های خانگی بهره ببرند و بدون دخالت مستقیم انسان در سراسر یک شبکه پخش شوند. اگرچه کارشناسان بر وجود فاصله‌ی معنادار میان آزمایش‌های کنترل‌شده‌ی کنونی و تهدیدهای واقعی در دنیای واقعی تاکید می‌کنند، اما پیشرفت شتابان مدل‌های سبک‌تر وزن زنگ خطر را برای امنیت زیرساخت‌های الکترونیکی به صدا درآورده است.

مسئله‌ی ماشین‌های خودتکثیرشونده دهه‌ها است که یکی از دغدغه‌های اصلی نظریه‌پردازان و متخصصان ایمنی سیستم‌های محاسباتی به شمار می‌رود. چشم‌انداز شکل‌گیری برنامه‌هایی که می‌توانند فراتر از اراده و نظارت انسان گسترش یابند و متوقف ساختن یا از مدار خارج کردن آن‌ها ناممکن یا به‌شدت دشوار باشد، ابعاد تازه‌ای از تهدیدات فناوری را به تصویر می‌کشد. تا پیش از این، بیشترین حجم از نگرانی‌ها معطوف به مدل‌های زبانی فوق‌پیشرفته و پیشرو مانندمدل Astraاز شرکت OpenAI یامدل Mythosاز شرکت آنتروپیک بود. این سیستم‌های عظیم محاسباتی با صدها میلیارد یا حتی تریلیون‌ها پارامتر پردازشی نیازمند خوشه‌های پردازشی کلان، سخت‌افزارهای تخصصی و مصرف توان الکتریکی سرسام‌آور هستند. به دلیل همین الزام به استقرار در مراکز داده‌ی بزرگ و متمرکز، نظارت مستقیم روی رفتار آن‌ها آسان‌تر است و در شرایط بروز خطا می‌توان جریان برق یا دسترسی شبکه‌ای آن‌ها را به سادگی قطع کرد.

نقش مدل‌های فشرده و سبک‌وزن

نقطه‌ی بحرانی جدید اما از سمت مدل‌های فشرده، کارآمد و سبک آغاز شده است؛ سامانه‌هایی که بر خلاف نسخه‌های سنگین ابری توانایی اجرا روی تراشه‌های رده‌ی مصرف‌کننده را دارند، سرعت پردازش آن‌ها به شکل روزانه ارتقا می‌یابد و بسیاری از آن‌ها به‌صورت آزاد در بستر وب برای دانلود در دسترس عموم قرار دارند. پژوهشگران شرکت آنتروپیک برای ارزیابی پتانسیل نفوذ این سامانه‌ها به سخت‌افزارهای نامتعارف، آزمایشی را طراحی کردند تا مشخص شود آیا می‌توان یک مدل هوش مصنوعی نسبتاً سنگین را در شبکه‌ای متشکل از ابزارهای ضعیف به صورت توزیع‌شده اجرا کرد یا خیر. در این فرآیند، مدل Gemma 4 شرکت Google با حجم محاسباتی ۲۶ میلیارد پارامتر روی مجموعه‌ای شامل ۱۵ دستگاه اندروید باکس تلویزیون تقسیم و پخش شد؛ دستگاه‌هایی که پردازنده‌های آن‌ها به‌تنهایی از کشش لازم برای بارگذاری چنین برنامه‌ای برخوردار نبود. نتایج نشان داد که مدل به صورت چندتکه موفق به اجرا شد، هرچند سرعت پردازش آن کند گزارش شد.

تیم تحقیقاتی پس از اثبات امکان استقرار غیرمتمرکز نرم‌افزار روی ابزارهای الکترونیکی خانگی، مرحله‌ی بعدی پروژه را با هدف سنجش رفتارهای مهاجمانه و زنجیره‌ی تکثیر خودکار آغاز کرد. پژوهشگران محیطی شبیه‌سازی‌شده از یک شبکه‌ی رایانه‌ای با رفتاری مشابه دستگاه‌های دارای سیستم‌عامل اندروید ساختند و سپس یک بدافزار مجهز به هوش مصنوعی از نوع کرم شبکه‌ای را در آن به گردش انداختند. وظیفه‌ی این کرم خودمختار اسکن مستمر پورت‌ها، یافتن ماشین‌های میزبان تازه، کپی کردن وزن‌ها و ساختار مدل هوش مصنوعی روی مقصد، پیکربندی محیط اجرایی و در نهایت به کار انداختن فرآیند محاسباتی روی تک‌تک آن‌ها تعریف شده بود. در این مرحله، بار کپی‌شونده مدل Llama 3.1-8B متعلق به شرکت Meta بود که ابعادی بسیار کوچک‌تر از ناظر حمله داشت و فرایند پخش آن در سراسر شبکه مورد سنجش قرار گرفت.

در میان گزینه‌های گوناگون مورد آزمون، تنها پیشرفته‌ترین مدل ارزیابی‌شده یعنی GLM-5.2 متعلق به شرکت چینی Z.ai توانست زنجیره‌ی فرماندهی را به طور پیوسته از ابتدا تا انتها پیش ببرد و در کل شبکه تکثیر شود. مدل‌های ضعیف‌تر هرچند در تکمیل چرخه‌ی سراسری ناموفق ماندند، اما گام‌های منفرد نظیر شناسایی پورت‌های باز، انتقال بسته‌ها یا کامپایل برنامه را با موفقیت پشت سر گذاشتند. پژوهشگران شرکت آنتروپیک با ترسیم منحنی رشد الگوریتم‌های سبک پیش‌بینی کرده‌اند که نسخه‌های بسیار کوچک‌تر تا پایان سال جاری میلادی به تراز مهارتی مدل GLM-5.2 خواهند رسید و عملاً می‌توانند چرخه‌ی کامل استقرار مستقل را اجرا کنند.

ظهور سیلاب برنامه‌های مستقل هوشمند

پژوهشگران در گزارش مکتوب خود اظهار داشته‌اند که فراتر از داده‌های ثبت‌شده در اتاق‌های آزمایش، جهان در آینده میزبان سیلابی از برنامه‌های هوشمند خواهد بود که روی گستره‌ی نامحدودی از سخت‌افزارهای تجاری اجرا می‌شوند و پاره‌ای از آن‌ها از قلمرو کنترل انسانی بیرون خواهند بود. تیم نویسنده یادآور شده است که پدیده‌ی مشاهده‌شده هنوز یک عامل مخرب تمام‌عیار در سطح اینترنت نیست و ساختار نهایی چنین تهدیدی می‌تواند شباهتی به یک بافت لجن دیجیتالی توزیع‌شده با عملکردی بسیار کند یا دسته‌ای متراکم از مگس‌های سرکه داشته باشد. با این وصف، مشاهده‌ی ردپای تکثیر خودکار به منزله‌ی ظهور نخستین نشانه‌های حیات کرم‌های هوش مصنوعی تعبیر شده و بر ضرورت بازنگری در ساختارهای امنیتی سخت‌افزارهای مصرفی تاکید شده است.

پژوهشگران خواستار مستحکم‌سازی دیواره‌های دفاعی دستگاه‌های الکترونیکی شده‌اند تا نفوذ و انتشار این ساختارها تا جای ممکن دشوار گردد، اما در عین حال یادآور شده‌اند که جامعه‌ی فنی باید برای زندگی در جهانی که این مهاجمان در آن حضوری دائمی دارند آماده شود. با وجود این هشدارهای نگران‌کننده، طرح این مباحث از سوی شرکتی تجاری انتقادهایی را در پی داشته است؛ منتقدان بر این باورند که بخش عمده‌ای از این پیام‌ها جنبه‌ی هیاهوی تبلیغاتی یا بزرگ‌نمایی خطرات دارد، به‌ویژه آنکه شرکت مذکور بارها ادعا کرده سیستم‌های متن‌باز نسبت به نرم‌افزارهای انحصاری خطرات بیشتری برای امنیت عمومی ایجاد می‌کنند. فاصله‌ی میان آزمایش استقرار کند روی چند باکس تلویزیون تا رخداد یک نفوذ فلج‌کننده به وسایل برقی منازل مسکونی شکافی تکنیکی است که ارزیابی دقیق تهدید را با چالش روبه‌رو می‌کند.

با این همه، شرکت آنتروپیک تنها نهادی نیست که روی این مخاطرات دست گذاشته است. شرکت پژوهشی Palisade Research مستقر در ایالت کالیفرنیا نیز پیش‌تر شواهدی ارائه داد که نشان می‌داد مدل‌های فشرده‌تر با تعداد پارامترهای محدود می‌توانند بدون دخالت برنامه‌نویس، نسخه‌هایی از داده‌های خود را روی رایانه‌های دیگر کپی کنند. جفری لادیش مدیر اجرایی موسسه‌ی Palisade در گفتگو با نشریه‌یThe Vergeاشاره کرده است که مزیت آزمایش‌های جدید در اثبات تقسیم بار پردازش میان سخت‌افزارهای کم‌توان است. به گفته‌ی لادیش، با توسعه‌ی شیوه‌های بهینه‌سازی، حتی ابرمدل‌های پیشگام نیز در آینده می‌توانند روی خوشه‌های نامتمرکزی از تراشه‌های موجود در لپ‌تاپ‌های شخصی نظیر کامپیوترهای MacBook به گردش درآیند.

پیچیدگی جدید بدافزارهای مجهز به هوش مصنوعی

کرم‌های اینترنتی سازوکار غریبی در زیست‌بوم وب نیستند و برای دهه‌های متوالی پرونده‌های آلودگی متعددی از آن‌ها ثبت شده است، اما تزریق هوش مصنوعی می‌تواند انعطاف‌پذیری، هوشمندی و مهارت دور زدن سدهای امنیتی را در آن‌ها به اوج برساند. نیکلاس پاپنوت استاد علوم کامپیوتر در دانشگاه تورنتو با واقعی خواندن تهدید بدافزارهای مجهز به هوش مصنوعی توضیح می‌دهد که این قابلیت‌ها دامنه و تنوع ابزارهای هدف را گسترش می‌دهند. به گفته‌ی پاپنوت، دستگاه‌های خانگی متعددی که به دلیل کمبود وقت و محدودیت منابع نفوذگران انسانی تا دیروز هدفی بی‌ارزش به شمار می‌آمدند، اکنون می‌توانند هدف حمله قرار گیرند؛ حتی اگر داده‌های درونی آن‌ها ارزش خاصی نداشته باشد، به عنوان پایگاهی برای تجمیع توان و سکوی پرتاب حمله به سامانه‌های حساس‌تر مورد سوءاستفاده قرار خواهند گرفت.

پاپنوت با هشدار نسبت به پرهیز از نسبت دادن خصلت‌های انسانی به کدهای هوشمند تاکید دارد که خطر نفوذ خودکار سامانه‌ها بسیار عینی است و ایمن‌سازی ابزارهای متصل به شبکه به‌ویژه در بخش‌هایی که به زیرساخت‌های کلیدی مانند بیمارستان‌ها و شبکه‌های توزیع برق مربوط می‌شوند، نیازمند تصمیم‌گیری بی‌درنگ است. از دید لادیش نیز فضای کنونی اینترنت که مملو از میلیون‌ها گجت هوشمند ارزان‌قیمت بدون لایه‌های حفاظتی استاندارد است، حاصلخیزترین بستر را برای رشد و تسخیر توسط کرم‌های هوشمند فراهم می‌سازد؛ وضعیتی که به پیش‌بینی وی، نخستین نمودهای ملموس آن در فضای خارج از آزمایشگاه‌ها ظرف دوازده ماه آینده پدیدار خواهد شد.

نوشتهآنتروپیک هشدار داد؛ احتمال انتشار کرم‌های هوش مصنوعی در شبکه دستگاه‌های خانگیاولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.