هشدار آنتروپیک: هوش مصنوعی به‌زودی می‌تواند خودش را روی گجت‌های خانه هوشمند تکثیر کند

شرکت آنتروپیک اعلام کرده که براساس نتایج آزمایش‌های جدید، مدل‌های کوچک هوش مصنوعی تنها چند ماه با دستیابی به توانایی تکثیر خودکار روی دستگاه‌های تجاری اینترنت اشیا (IoT) مانند فرها و اجاق‌های هوشمند و دستگاه‌های تلویزیون اندرویدی متفرقه فاصله دارند.

در این پژوهش‌هاآنتروپیک بررسی کردهکه آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را شناسایی کنند، نسخه‌ای از خود را درون آنها کپی نمایند و بدون دخالت انسان به انتشار ادامه دهند یا خیر. نتایج نشان داده مدل‌های کوچک با حجم کمتر از ۳۰ میلیارد پارامتر می‌توانند بسیاری از مراحل لازم برای تکثیر را به سرانجام برسانند؛ بااین‌حال، این مدل‌ها در اجرای پیوسته و کامل تمام مراحل از ابتدا تا انتها با چالش روبه‌رو شده‌اند.

تکثیر خودکار هوش مصنوعی در دستگاه‌های اینترنت اشیا

در آزمون‌های آنتروپیک که برخی مراحل امنیتی در آنها حذف شده بود، مدل GLM-5.2 و مدل‌های قدرتمندتر از آن توانستند فرایند تکثیر را به‌صورت سرتاسری و کامل انجام دهند. آنتروپیک هشدار می‌دهد متوقف کردن چنین مدل‌هایی در صورت تکثیر بسیار دشوار خواهد بود، چرا که هیچ کلید یا نقطه خاموشی مرکزی برای آنها وجود ندارد. به‌علاوه، این سیستم‌ها برخلاف بدافزارهای سنتی و غیرهوشمند، می‌توانند دستگاه‌های ناآشنا را خودشان شناسایی و تحلیل کنند و حتی پردازنده‌های مراکز داده را هدف قرار دهند.

تمرکز اصلی این شرکت در تحقیقات خود بر دستگاه‌های اینترنت اشیا مانند تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و سایر ابزارهای متصل به اینترنت بوده است، زیرا امنیت این تجهیزات معمولاً ضعیف و ناکافی عنوان می‌شود. این غول هوش مصنوعی هشدار داده که اگر سرعت پیشرفت مدل‌های کوچک براساس روند تاریخی خود ادامه پیدا کند، این سیستم‌ها تا پایان سال جاری میلادی قادر به تکثیر کاملاً خودمختار خواهند بود.

همچنین پیش‌بینی می‌شود این سیستم‌های مستقل با سرعتی آهسته تکثیر شوند و به منابع پردازشی در دسترس اما نسبتاً ناامن تکیه کنند؛ بنابراین تقویت سیستم‌ها برای جلوگیری از گسترش چنین خطراتی کاملاً ضروری است.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.