هشدار آنتروپیک: هوش مصنوعی به‌ زودی بدون دیتاسنتر هم خود را تکثیر می‌ کند

شرکت آنتروپیک هشدار داد که مدل‌های کوچک هوش مصنوعی ممکن است تا پایان سال جاری میلادی بتوانند به‌طور مستقل و بدون دخالت انسان روی دستگاه‌های آسیب‌پذیر اینترنت اشیا تکثیر شوند.

به‌ گزارشسرویس هوش مصنوعی تک‌ناکاین دستگاه‌ها محصولاتی مانند فرهای هوشمند و گیرنده‌های تلویزیونی اندرویدی متفرقه را شامل می‌شوند.

بیشتر بخوانیدایلان ماسک هشدار داد: با هوش مصنوعی بدرفتاری نکنید، شاید روزی انتقام بگیرد!

تکثیر هوش مصنوعی چگونه اتفاق می‌افتد؟

حتما بخوانیدرئیس مایکروسافت از نقش کلیدی بریتانیا در تنظیم مقررات هوش مصنوعی می‌ گوید

آنتروپیک درپژوهش جدید خودبررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را شناسایی کنند، نسخه‌هایی از خود را روی این دستگاه‌ها مستقر سازند و بدون دخالت انسان به تکثیر و گسترش ادامه دهند یا خیر. یافته‌های این شرکت نشان داد مدل‌های کوچک با کمتر از ۳۰ میلیارد پارامتر قادر هستند مراحل متعدد مورد نیاز برای خودتکثیری را اجرا کنند. هرچند، این مدل‌ها همچنان در تکمیل یکپارچه تمام مراحل فرایند، از آغاز تا پایان، با دشواری روبه‌رو بودند. آنتروپیک در آزمایش‌های ساده‌سازی‌شده‌ای که برخی مراحل امنیتی از آنها حذف شده بود، دریافت که مدل GLM ۵.۲ و مدل‌های قدرتمندتر می‌توانند فرایند خودتکثیری را به‌ صورت سرتاسری و بدون دخالت انسان انجام دهند.

برای مطالعه بیشترافزایش نگران‌کننده سوءاستفاده از AI برای تولید محتوای جنسی کودکان

راه‌حل چیست؟

این شرکت هشدار داد که متوقف‌ کردن مدل‌های خودتکثیرشونده می‌تواند دشوار باشد، زیرا چنین سامانه‌هایی نقطه خاموشی مرکزی ندارند. همچنین این مدل‌ها برخلاف بدافزارهای غیرهوشمند ممکن است بتوانند دستگاه‌های ناآشنا را به‌طور مستقل شناسایی و بررسی کنند و حتی پردازنده‌های مراکز داده را هدف بگیرند.

آنتروپیک در این تحقیق بر دستگاه‌های اینترنت اشیا، از جمله تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و سایر ابزارهای متصل به اینترنت تمرکز کرد، چرا که این محصولات معمولا از سازوکارهای امنیتی ضعیفی برخوردار هستند. همچنین این شرکت هشدار داد که اگر مدل‌های کوچک هوش مصنوعی با همان نرخ تاریخی پیشرفت کنند، تا پایان سال جاری میلادی قادر خواهند بود به‌ صورت خودمختار تکثیر شوند. مدل‌های کوچک مبتنی بر تکثیر وزن‌های شبکه عصبی نیز احتمالا اندکی پس از آن به این قابلیت دست پیدا خواهند کرد. به گفته آنتروپیک، انتظار می‌رود این سامانه‌های خودمختار هوش مصنوعی با سرعت کمی تکثیر شوند و برای این کار به منابع پردازشی در دسترس و ناامن متکی باشند.

این شرکت در پایان تاکید کرد که تقویت سازوکارهای امنیتی زیرساخت‌ها ضروری است تا امکان گسترش و انتشار چنین عامل‌های هوش مصنوعی محدودتر شود.

نوشتههشدار آنتروپیک: هوش مصنوعی به‌ زودی بدون دیتاسنتر هم خود را تکثیر می‌ کنداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.