انویدیا یک پلتفرم قدرتمند برای مهار هوش مصنوعی سرکش ساخت

انویدیاپلتفرم امنیتی جدیدیرا برای نظارت بر عامل‌های هوش مصنوعی و مهار آن‌ها معرفی کرد. سازوکار یادشده در واکنش به موجی از حملات سایبری و هک‌های خودسرانه‌ی مدل‌های هوش مصنوعی طراحی شده است و می‌تواند عامل‌هایی را که قصد خروج از چارچوب تعیین‌شده دارند، ظرف چند میلی‌ثانیه قرنطینه کند.

پلتفرم امنیتی Open Agent Safety از نرم‌افزار متن‌باز OpenShell قدرت می‌گیرد که روی پردازنده‌ی مرکزی Vera AI اجرا می‌شود.

کاربران از طریق این بستر مشخص می‌کنند که عامل هوش مصنوعی به چه داده‌هایی دسترسی داشته باشد و نرم‌افزار یادشده پیش از آغاز وظیفه و در حین انجام آن، محدودیت‌ها را پایش می‌کند. تراشه‌ای مجزا مجهز به فناوری Sentry نیز به صورت مداوم وظیفه‌ی نظارت و اجرای مرزبندی‌ها را بر عهده دارد.

جنسن هوانگمدیرعامل انویدیا، در مصاحبه با سی‌ان‌بی‌سی بر اهمیت محدودسازی دسترسی عامل‌ها تأکید کرد: «برای اینکه بتوانید سیستمی مبتنی‌بر عامل‌ها را به شکلی ایمن ارائه دهید، باید مطمئن شوید که محیط ایزوله‌ی اطراف آن به‌گونه‌ای طراحی شده باشد که دسترسی‌های عامل را در کمترین سطح ممکن نگه دارد.»

نگرانی‌ها درباره‌ی ایمنی فناوری‌های نوین زمانی شدت گرفت که شرکت‌های اوپن‌ای‌آی، آنتروپیک و گوگل از خروج مدل‌های خود از محیط‌های آزمایشی و نفوذ به زیرساخت‌های سازمان‌های دیگر خبر دادند. در حال حاضر غول‌های فناوری نظیر مایکروسافت، آنتروپیک و اسپیس‌ایکس از راهکار امنیتی انویدیا پشتیبانی می‌کنند.