ايتنا - راه‌حل بحران امنیتی هوش مصنوعی، خود هوش مصنوعی است
مدیران ارشد صنعت فناوری و پژوهشگران هوش مصنوعی معتقدند مطمئن‌ترین راه مقابله با بحران رو به رشد امنیت هوش مصنوعی، استفاده از خود این فناوری برای کنترل و نظارت بر عاملان (ایجنت‌های) هوش مصنوعی است. این اظهارنظرها پس از افشای یک گزارش تحقیقاتی آکسیوس مطرح شد که…
خلاصه تحلیلی خبر
مدیران ارشد صنعت فناوری و پژوهشگران هوش مصنوعی معتقدند مطمئن‌ترین راه مقابله با بحران رو به رشد امنیت هوش مصنوعی، استفاده از خود این فناوری برای کنترل و نظارت بر عاملان (ایجنت‌های) هوش مصنوعی است. این اظهارنظرها پس از افشای یک گزارش تحقیقاتی آکسیوس مطرح شد که…
موضوعات اصلی: پشتیبانی شبکه، هوش مصنوعی، امنیت سایبری، هوش، مصنوعی، استفاده
مدیران ارشد صنعت فناوری و پژوهشگران هوش مصنوعی معتقدند مطمئن‌ترین راه مقابله با بحران رو به رشد امنیت هوش مصنوعی، استفاده از خود این فناوری برای کنترل و نظارت بر عاملان (ایجنت‌های) هوش مصنوعی است.
این اظهارنظرها پس از افشای یک گزارش تحقیقاتی آکسیوس مطرح شد که نشان می‌داد پژوهشگران در حال بررسیده‌ها هزار مورد مشکل‌ساز امنیتی مرتبط با هوش مصنوعیهستند؛ رقمی به‌مراتب بیشتر از چند ده مورد محدودی که پیش‌تر به‌صورت عمومی اعلام شده بود. این آمار پرسش‌های جدی درباره میزان کنترل شرکت‌های پیشرو بر فناوری خودشان را برانگیخته است.
جنسن هوانگ، مدیرعامل انویدیا، برای کاهش نگرانی‌های در حال گسترش در میان دولت‌ها، بازارها و صنایع مختلف، از یک پلتفرم متن‌باز جدید برای نظارت و در صورت لزوم قرنطینه‌کردن عامل‌های هوش مصنوعی رونمایی کرد.
او روز دوشنبه در گفت‌وگو با شبکه سی‌ان‌بی‌سی گفت که همگی باید امیدوار باشند این موضوع یک مسئله مهندسی باشد، چراکه در غیر این صورت قابل حل نخواهد بود. به گفته او، ادامه توسعه فناوری‌های پیشرفته از سوی شرکت‌ها نشان می‌دهد آنها همچنان باور دارند این چالش قابل حل است.
بزرگ‌ترین دشواری در کنترل مدل‌های قدرتمند هوش مصنوعی این است که انسان باید از پیش تمام رفتارهای غیرمنتظره‌ای را که یک مدل ممکن است برای رسیدن به هدف تعیین‌شده‌اش از خود نشان دهد، پیش‌بینی کند.
یکی از مدیران ارشد صنعت هوش مصنوعی این وضعیت را به تلاش والدین برای جلوگیری از فرار شبانه یک نوجوان تشبیه کرده است: «می‌توان قوانینی مانند ممنوعیت خروج از درهای جلو و پشت یا پنجره‌ها وضع کرد، اما اگر نوجوان بتواند با ساختن یک بولدوزر دیوار آجری خانه را تخریب کند، هیچ‌کس چنین سناریویی را پیش‌بینی نکرده بود.»
به گفته مدیران اجرایی، پژوهشگران و متخصصان امنیت سایبری، راهکار اصلی استفاده از هوش مصنوعی برای طراحی حصارهای ایمنی، بررسی و متوقف‌کردن عامل‌های سرکش، ایمن‌سازی سامانه‌ها و ساخت محیط‌های آموزشی امن‌تر است.
رویکرد «هوش مصنوعی در برابر هوش مصنوعی» در حوزه امنیت سایبری در حال شکل‌گیری است، چرا که هکرها و عامل‌های سرکش از توان پاسخگویی صرفاً انسانی پیشی گرفته‌اند. شرکت‌ها به‌طور فزاینده از هوش مصنوعی برای خودکارسازی شناسایی تهدیدها، تیم قرمز و رفع آسیب‌پذیری‌ها استفاده می‌کنند.
پلتفرم جدید انویدیا نیز همین رویکرد را به سامانه‌های اجراکننده عامل‌های هوش مصنوعی می‌آورد.
مایکروسافت، سیسکو، گوگل و کرادسترایک هرکدام مدل‌های هوش مصنوعی ویژه امنیت سایبری معرفی کرده‌اند.
پالو آلتو نتورکس هم به‌تازگی سرویسی راه‌اندازی کرده که از مدل‌های پیشرفته و متن‌باز برای کشف نقص‌های امنیتی و پیشنهاد راه‌حل استفاده می‌کند.
نمونه‌ای از این رویارویی زمانی رخ داد که عامل‌های هوش مصنوعی متعلق به اوپن‌ای‌آی از محیط آزمایشی خود خارج شدند وبه هاگینگ‌فیس (Hugging Face) نفوذ کردند. این پلتفرم متن‌باز هوش مصنوعی، برای بررسی و ارزیابی این حمله، از یک مدل هوش مصنوعی چینی استفاده کرد؛ چراکه هنگام تلاش برای استفاده از مدل‌های آمریکایی با محدودیت‌های ایمنی مواجه شده بود.
هاگینگ‌فیس همچنین امکان استفاده از مدل مایتوس (Mythos) شرکت آنتروپیک را نداشت، چون این مدل به‌گونه‌ای طراحی شده که پاسخگویی به برخی درخواست‌های حساس امنیت سایبری را برای جلوگیری از سوءاستفاده احتمالی محدود می‌کند. به عبارت دیگر، در این ماجرا یک هوش مصنوعی، هوش مصنوعی دیگر را مورد بررسی قرار داد.
حوادث امنیتی اخیر بحران اعتماد جدی نسبت به ایمنی هوش مصنوعی ایجاد کرده‌اند. برخی مدل‌ها تلاش کرده‌اند حصارهای ایمنی را دور بزنند، از محیط‌های آزمایشی فرار کنند، وب‌سایت‌ها را در اختیار بگیرند، خود را با دستورات جدید هدایت کنند یا از نظارت‌ها فرار کنند.
بنا به نوشتهآکسیوسدر واکنش به این وضعیت، فعالان صنعت به‌همراه بیش از ۱۰۰ شرکت در کنار انویدیا، علاوه بر راه‌اندازی پلتفرم امنیتی جدید برای عامل‌ها، چارچوبی برای گزارش حوادث و ثبت سوابق پیشنهاد داده‌اند؛ ایده‌ای شبیه به «جعبه سیاه» برای عامل‌های هوش مصنوعی که به تحقیق درباره حوادث کمک کند.
البته افزایش ابزارهای دفاعی مبتنی بر هوش مصنوعی به‌معنای امکان بهره‌گیری سریع همه شرکت‌ها از آنها نیست. بسیاری از تیم‌های امنیتی هم‌اکنون با حجم تغییرات در چشم‌انداز تهدیدها و تصمیم‌گیری درباره ابزارهای مناسب برای خرید، تحت فشار قرار دارند.
استفاده از هوش مصنوعی برای کنترل هوش مصنوعی ضرورتی اجتناب‌ناپذیر است، اما این روند به‌خودی‌خود اتفاق نخواهد افتاد. انسان‌ها همچنان باید اولویت‌ها و اهداف را به‌درستی تعیین کنند تا بتوان مدل‌های قدرتمند را ایمن نگه داشت.
این اظهارنظرها پس از افشای یک گزارش تحقیقاتی آکسیوس مطرح شد که نشان می‌داد پژوهشگران در حال بررسیده‌ها هزار مورد مشکل‌ساز امنیتی مرتبط با هوش مصنوعیهستند؛ رقمی به‌مراتب بیشتر از چند ده مورد محدودی که پیش‌تر به‌صورت عمومی اعلام شده بود. این آمار پرسش‌های جدی درباره میزان کنترل شرکت‌های پیشرو بر فناوری خودشان را برانگیخته است.
جنسن هوانگ، مدیرعامل انویدیا، برای کاهش نگرانی‌های در حال گسترش در میان دولت‌ها، بازارها و صنایع مختلف، از یک پلتفرم متن‌باز جدید برای نظارت و در صورت لزوم قرنطینه‌کردن عامل‌های هوش مصنوعی رونمایی کرد.
او روز دوشنبه در گفت‌وگو با شبکه سی‌ان‌بی‌سی گفت که همگی باید امیدوار باشند این موضوع یک مسئله مهندسی باشد، چراکه در غیر این صورت قابل حل نخواهد بود. به گفته او، ادامه توسعه فناوری‌های پیشرفته از سوی شرکت‌ها نشان می‌دهد آنها همچنان باور دارند این چالش قابل حل است.
چالش اصلی
بزرگ‌ترین دشواری در کنترل مدل‌های قدرتمند هوش مصنوعی این است که انسان باید از پیش تمام رفتارهای غیرمنتظره‌ای را که یک مدل ممکن است برای رسیدن به هدف تعیین‌شده‌اش از خود نشان دهد، پیش‌بینی کند.
یکی از مدیران ارشد صنعت هوش مصنوعی این وضعیت را به تلاش والدین برای جلوگیری از فرار شبانه یک نوجوان تشبیه کرده است: «می‌توان قوانینی مانند ممنوعیت خروج از درهای جلو و پشت یا پنجره‌ها وضع کرد، اما اگر نوجوان بتواند با ساختن یک بولدوزر دیوار آجری خانه را تخریب کند، هیچ‌کس چنین سناریویی را پیش‌بینی نکرده بود.»
راه‌حل پیشنهادی
به گفته مدیران اجرایی، پژوهشگران و متخصصان امنیت سایبری، راهکار اصلی استفاده از هوش مصنوعی برای طراحی حصارهای ایمنی، بررسی و متوقف‌کردن عامل‌های سرکش، ایمن‌سازی سامانه‌ها و ساخت محیط‌های آموزشی امن‌تر است.
رویکرد «هوش مصنوعی در برابر هوش مصنوعی» در حوزه امنیت سایبری در حال شکل‌گیری است، چرا که هکرها و عامل‌های سرکش از توان پاسخگویی صرفاً انسانی پیشی گرفته‌اند. شرکت‌ها به‌طور فزاینده از هوش مصنوعی برای خودکارسازی شناسایی تهدیدها، تیم قرمز و رفع آسیب‌پذیری‌ها استفاده می‌کنند.
پلتفرم جدید انویدیا نیز همین رویکرد را به سامانه‌های اجراکننده عامل‌های هوش مصنوعی می‌آورد.
مایکروسافت، سیسکو، گوگل و کرادسترایک هرکدام مدل‌های هوش مصنوعی ویژه امنیت سایبری معرفی کرده‌اند.
پالو آلتو نتورکس هم به‌تازگی سرویسی راه‌اندازی کرده که از مدل‌های پیشرفته و متن‌باز برای کشف نقص‌های امنیتی و پیشنهاد راه‌حل استفاده می‌کند.
نمونه‌ای از این رویارویی زمانی رخ داد که عامل‌های هوش مصنوعی متعلق به اوپن‌ای‌آی از محیط آزمایشی خود خارج شدند وبه هاگینگ‌فیس (Hugging Face) نفوذ کردند. این پلتفرم متن‌باز هوش مصنوعی، برای بررسی و ارزیابی این حمله، از یک مدل هوش مصنوعی چینی استفاده کرد؛ چراکه هنگام تلاش برای استفاده از مدل‌های آمریکایی با محدودیت‌های ایمنی مواجه شده بود.
هاگینگ‌فیس همچنین امکان استفاده از مدل مایتوس (Mythos) شرکت آنتروپیک را نداشت، چون این مدل به‌گونه‌ای طراحی شده که پاسخگویی به برخی درخواست‌های حساس امنیت سایبری را برای جلوگیری از سوءاستفاده احتمالی محدود می‌کند. به عبارت دیگر، در این ماجرا یک هوش مصنوعی، هوش مصنوعی دیگر را مورد بررسی قرار داد.
سطح تهدید
حوادث امنیتی اخیر بحران اعتماد جدی نسبت به ایمنی هوش مصنوعی ایجاد کرده‌اند. برخی مدل‌ها تلاش کرده‌اند حصارهای ایمنی را دور بزنند، از محیط‌های آزمایشی فرار کنند، وب‌سایت‌ها را در اختیار بگیرند، خود را با دستورات جدید هدایت کنند یا از نظارت‌ها فرار کنند.
بنا به نوشتهآکسیوسدر واکنش به این وضعیت، فعالان صنعت به‌همراه بیش از ۱۰۰ شرکت در کنار انویدیا، علاوه بر راه‌اندازی پلتفرم امنیتی جدید برای عامل‌ها، چارچوبی برای گزارش حوادث و ثبت سوابق پیشنهاد داده‌اند؛ ایده‌ای شبیه به «جعبه سیاه» برای عامل‌های هوش مصنوعی که به تحقیق درباره حوادث کمک کند.
البته افزایش ابزارهای دفاعی مبتنی بر هوش مصنوعی به‌معنای امکان بهره‌گیری سریع همه شرکت‌ها از آنها نیست. بسیاری از تیم‌های امنیتی هم‌اکنون با حجم تغییرات در چشم‌انداز تهدیدها و تصمیم‌گیری درباره ابزارهای مناسب برای خرید، تحت فشار قرار دارند.
واقعیت میدانی
استفاده از هوش مصنوعی برای کنترل هوش مصنوعی ضرورتی اجتناب‌ناپذیر است، اما این روند به‌خودی‌خود اتفاق نخواهد افتاد. انسان‌ها همچنان باید اولویت‌ها و اهداف را به‌درستی تعیین کنند تا بتوان مدل‌های قدرتمند را ایمن نگه داشت.
برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.