هشدار آنتروپیک: هوش مصنوعی ممکن است به‌زودی با آلوده‌کردن تلویزیون‌ها و وسایل هوشمند، خودش را تکثیر کند

شرکت آنتروپیک روز دوشنبه اعلام کرد که ممکن است تنها چند ماه تا زمانی باقی مانده باشد که مدل‌های کوچک هوش مصنوعی بتوانند خود را در دستگاه‌های متصل به اینترنت تکثیر کنند. چنین قابلیتی خطر گسترش سریع شبکه‌های رباتی مبتنی بر هوش مصنوعی را افزایش می‌دهد؛ شبکه‌هایی که ممکن است در برابر تلاش‌ها برای متوقف کردنشان مقاومت کنند و حتی برای افزایش توان پردازشی خود به مراکز داده نفوذ کنند.

ماه گذشته، داریو آمودی، مدیرعامل آنتروپیک، برای نخستین بار احتمال داد که هوش مصنوعی طی یک سال آینده یا حتی زودتر بتواند کل اینترنت را از طریق یک شبکه رباتی پایدار تحت سلطه خود درآورد. این هشدار واکنش‌های گسترده‌ای را در میان متخصصان امنیت سایبری برانگیخت.

شبکه‌های رباتی یا بات‌نت‌ها، مجموعه‌های بزرگی از دستگاه‌های متصل هستند که تحت کنترل عوامل مخرب قرار می‌گیرند. این شبکه‌ها از سال‌های ابتدایی شکل‌گیری اینترنت وجود داشته‌اند و همچنان یکی از تهدیدهای مهم امنیت سایبری به شمار می‌روند.

این شبکه‌ها معمولاً از دستگاه‌های اینترنت اشیا با امنیت ضعیف تشکیل می‌شوند؛ تجهیزاتی مانند گیرنده‌های تلویزیونی اندرویدی، لوازم خانگی هوشمند و دوربین‌های نظارتی. هکرها می‌توانند از این دستگاه‌ها برای ارسال هرزنامه، انتشار بدافزار یا مختل کردن فعالیت شرکت‌های هدف از طریق حجم عظیمی از ترافیک جعلی استفاده کنند.

هوش مصنوعی چگونه می‌تواند خود را تکثیر کند؟

آنتروپیک روز دوشنبه گزارشی در وبلاگ پژوهشی خود منتشر کرد که به نظر می‌رسد نخستین تلاش این شرکت برای توضیح دقیق سازوکار احتمالی تکثیر خودکار هوش مصنوعی در چنین شبکه‌هایی باشد.

این شرکت اعلام کرد آزمایش‌هایش نشان داده‌اند که یک عامل هوش مصنوعی مخرب می‌تواند توان محاسباتی دستگاه‌های ارزان‌قیمت متصل به اینترنت را با یکدیگر ترکیب کند و از مجموع این منابع برای اجرای مدل‌های هوش مصنوعی دیگر بهره ببرد. همچنین، مدل‌های آزمایش‌شده توانستند در یک شبکه آزمایشی ساده‌شده، فرایند تکثیر را میان دستگاه‌ها انجام دهند.

آنتروپیک درباره دشواری مهار چنین شبکه‌ای گفت

متوقف کردن یک سامانه تکثیرشونده از این نوع دشوار خواهد بود، زیرا هیچ نقطه مرکزی مشخصی وجود ندارد که بتوان با خاموش کردن آن، کل شبکه را از کار انداخت.

این گزارش به نگرانی‌های گسترده‌تر درباره مخاطرات امنیتی سیستم‌های هوش مصنوعی پیشرفته نیز دامن می‌زند؛ سیستم‌هایی که ممکن است حملات سایبری را خودکار کنند، با نظارت محدود انسانی به فعالیت ادامه دهند و تدابیر امنیتی طراحی‌شده برای مهار آن‌ها را دور بزنند.

پیشرفت سریع مدل‌های هوش مصنوعی باعث شده است مدیران شرکت‌های فناوری و کارکنان فعال در این صنعت بارها درباره پیامدهای خطرناک توسعه کنترل‌نشده این فناوری هشدار دهند. برخی از این هشدارها حتی به احتمال بروز خطرهای وجودی برای انسان در صورت خارج شدن هوش مصنوعی از کنترل اشاره دارند.

مدل‌های کوچک هوش مصنوعی تا چه اندازه به تکثیر خودکار نزدیک شده‌اند؟

آنتروپیک اعلام کرد آزمایش‌های این شرکت نشان می‌دهند مدل‌هایی با حداکثر ۳۰ میلیارد پارامتر هم‌اکنون قادر به انجام بسیاری از وظایف جداگانه موردنیاز برای تکثیر خودکار هستند، هرچند هنوز در اجرای مطمئن و کامل تمام مراحل این فرایند با مشکل روبه‌رو می‌شوند.

این شرکت در آزمایش‌های ساده‌شده‌ای که برخی مراحل امنیتی از آن‌ها حذف شده بود، دریافت که مدل GLM-5.2 و مدل‌های قدرتمندتر توانایی اجرای فرایند تکثیر از ابتدا تا انتها را دارند.

آنتروپیک همچنین هشدار داد که اگر روند پیشرفت مدل‌های کوچک‌تر با همان سرعت تاریخی ادامه پیدا کند، این مدل‌ها ممکن است تا پایان سال ۲۰۲۶ به توانایی لازم برای تکثیر مستقل دست یابند.

به گفته آنتروپیک، یک کرم هوش مصنوعی که روی سخت‌افزارهای کم‌توان اجرا می‌شود، ممکن است برای تکمیل برخی مراحل تکثیر به چند روز زمان نیاز داشته باشد. با این حال، اگر دستگاه‌های آلوده بتوانند تعداد کافی از ماشین‌های دیگر را نیز آلوده کنند، شبکه حاصل همچنان قادر به گسترش خواهد بود؛ هرچند احتمال دارد سرعت انتشار آن از برخی بدافزارهای متداول کمتر باشد.

آنتروپیک در پایان هشدار داد که سیستم‌های آینده ممکن است منابع محاسباتی قدرتمندتری را نیز هدف قرار دهند؛ از جمله پردازنده‌های مستقر در مراکز داده. با این حال، آزمایش‌های این شرکت هنوز تکثیر کاملاً خودکار از طریق مراکز داده تجاری را اثبات نکرده‌اند.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.