زنگ خطر به صدا درآمد؛ آنتروپیک: «خودتکثیری» هوش مصنوعی روی لوازم خانگی به‌زودی شروع می‌شود

سناریوی استقلال ماشین‌ها از دیتاسنترهای عظیم و پراکنده شدن در سراسر وب، از داستان‌های علمی‌تخیلی به آزمایشگاه‌های ارزیابی ریسک منتقل شده است. پژوهشگران دریافته‌اند که زنجیره‌ی تکثیر خودکار کدهای هوشمند، دیگر نیازی به ترافیک سرورهای پردازش ابری ندارد و ریزپردازنده‌های معمولی نیز توانایی میزبانی از چنین فرآیندی را پیدا کرده‌اند.

بر اساسگزارش رویترزبررسی‌های آنتروپیک حاکی است که مدل‌های فشرده و کوچک هوش مصنوعی فاصله‌ی چندانی با توانایی تکثیر خودمختار روی لوازم تجاری متصل به اینترنت اشیا ندارند. ابزارهایی مانند فرهای هوشمند و دستگاه‌های پخش آنلاین مجهز به اندروید، اکنون در معرض تبدیل شدن به بستری مناسب برای گسترش خودبه‌خودی این شبکه‌ها قرار دارند.

کارشناسان در جریان ارزیابی‌های خود تلاش کردند پتانسیل عوامل هوشمند را در شناسایی ابزارهای آسیب‌پذیر، کپی کردن وزن‌های محاسباتی خود در حافظه‌ی مقصد و ادامه‌ی بقا بدون نیاز به دخالت کاربر بسنجند. نتایج اولیه بیانگر آن بود که مدل‌هایی با کمتر از ۳۰ میلیارد پارامتر با موفقیت بخش زیادی از مراحل زنجیره‌ی انتشار را پشت سر می‌گذارند، هرچند تکمیل کل مسیر در شرایط واقعی آزمایشگاهی چالش‌هایی به‌همراه داشت.

حذف چند مانع امنیتی سبک در آزمایش‌های ساده‌سازی‌شده سبب شد مدل GLM-5.2 و معماری‌های پیشرفته‌تر بتوانند فرآیند بازتولید را از ابتدا تا انتها به سرانجام برسانند. ضعف بنیادین ابزارهای اینترنت اشیا و نبود پروتکل‌های پیچیده‌ی نظارتی در سخت‌افزارهای تجاری ارزان‌قیمت، شرایط ایدئالی برای مخفی ماندن این سامانه‌ها فراهم می‌کند.

مهار برنامه‌ای که با بهره‌گیری از توان استدلال خود تکثیر می‌شود، به‌مراتب دشوارتر از پاکسازی بدافزارهای سنتی به‌شمار می‌رود. بدافزارهای متداول طبق الگوهای ثابت عمل می‌کنند، اما الگوریتم‌های هوش مصنوعی می‌توانند با معماری‌های ناشناخته سازگار شوند و در صورت مواجهه با محدودیت، راه‌های فرعی را برای راه‌یابی به پردازنده‌های بزرگ‌تر دیتاسنترها بیابند.

نبود یک کلید خاموشی سراسری برای قطع زنجیره‌ی تکثیر، نگرانی‌ها را دوچندان کرده است. طبق پیش‌بینی آنتروپیک، اگر سرعت بهینه‌سازی و ارتقاء مدل‌های فشرده طبق روند کنونی پیش برود، توانایی کپی‌برداری مستقل تا پایان سال جاری میلادی محقق خواهد شد؛ رویدادی که ایمن‌سازی فوری لایه‌های نرم‌افزاری ابزارهای متصل به اینترنت را به ضرورتی حیاتی تبدیل می‌کند.