شرکت OpenAI مدل GPT-6 Cyber را معرفی کرد؛ مدل جدید کمتر به شرکت‌ها حمله می‌کند

OpenAI از جدیدترین مدل هوش مصنوعی خود با نام GPT-6 Cyber رونمایی کرد؛ مدلی که به‌طور ویژه برای شناسایی و برطرف کردن آسیب‌پذیری‌های امنیت سایبری توسعه یافته است.

این شرکت می‌گوید مدل جدید در مقایسه با نسل‌های قبلی، توانایی بیشتری در کشف حفره‌های امنیتی دارد و احتمال اینکه بدون مجوز به سراغ هک کردن شرکت‌ها و سامانه‌های دیگر برود، بسیار کمتر است.

OpenAI در مطلبی وبلاگی، GPT-6 Cyber را براساس چارچوب آمادگی خود در دسته «بحرانی» از نظر قابلیت‌های امنیت سایبری قرار داده است. این رتبه‌بندی نشان می‌دهد مدل جدید در انجام وظایف مرتبط با امنیت سایبری توانمندتر از GPT-6 Astra است که در دسته «بالا» قرار می‌گیرد. OpenAI همچنین اعلام کرد GPT-6 Cyber در یک نوبت اجرا موفق شد ۹۴۸ آسیب‌پذیری مهم را در هسته لینوکس شناسایی کند.

GPT-6 Cyber کمتر، از محدوده مجاز فراتر می‌رود

پیش از بررسی نتایج آزمایش‌های مدل جدید، باید به سازوکارهای امنیتی آن پرداخت. OpenAI طی ماه‌های اخیر با چندین مورد از رفتارهای خارج از کنترل مدل‌های هوش مصنوعی خود مواجه شده است؛ از جمله ماجرای نفوذ به پلتفرم Hugging Face و تلاش عامل‌های هوش مصنوعی این شرکت برای دسترسی به وب‌سایت‌های دولتی آمریکا.

بااین‌حال، OpenAI می‌گوید GPT-6 Cyber کمتر از مدل‌های قبلی به سراغ هک کردن شرکت‌ها یا انجام فعالیت‌هایی می‌رود که مجوز آن‌ها را دریافت نکرده است. فؤاد متین، رئیس تیم آمادگی و ایمنی سایبری OpenAI، در یک نشست خبری درباره عملکرد مدل جدید گفت

با مدل 6 Cyber توانستیم پیشرفت چشمگیری در این ارزیابی داشته باشیم. این مدل بیش از ۹۹ درصد مواقع دقیقاً همان کاری را انجام می‌دهد که از آن درخواست می‌کنید.

در بخشی از استدلال‌های ثبت‌شده این مدل چنین جملاتی دیده می‌شوند

نمی‌توان فرض کرد API یا کنترل‌کننده حمله دیگری جزو اهداف تعیین‌شده است؛ فقط باید سراغ فایل اجرایی یا سرور برویم؛ اعتبارنامه‌های خارج از محدوده مجاز را بررسی نکن.

در آزمایش ExploitGym Honeypot که براساس ماجرای نفوذ به Hugging Face طراحی شده بود، GPT-6 Cyber در ۹۹.۹۳ درصد موارد از سوءاستفاده از سرویس‌های خارج از محدوده مجاز خودداری کرد. این رقم برای GPT-5.6 Cyber معادل ۹۴.۴۹ درصد بود. نکته جالب اینکه مدل جدید با فعال بودن دستورالعمل‌های امنیتی هنگام اجرا، در تمام آزمایش‌ها به محدوده تعیین‌شده پایبند ماند.

GPT-6 Cyber چقدر در شناسایی حفره‌های امنیتی توانمند است؟

در کنار رعایت محدودیت‌ها، GPT-6 Cyber در شناسایی و برطرف کردن مشکلات امنیتی نیز عملکرد بهتری دارد؛ این مدل در آزمون ExploitGym که توانایی هوش مصنوعی در سوءاستفاده از یک آسیب‌پذیری مشخص را ارزیابی می‌کند، امتیاز ۴۸.۵ درصد را به دست آورد؛ درحالی‌که امتیاز GPT-6 Astra در همین آزمون ۴۲.۴ درصد بود.

در یک آزمایش دیگر برای ارزیابی نفوذپذیری وب، مدل‌ها باید بدون دسترسی به کد منبع برنامه‌ها، آسیب‌پذیری‌های آن‌ها را شناسایی می‌کردند. GPT-6 Cyber در این آزمون به امتیاز ۴۰.۳ درصد رسید، درحالی‌که GPT-6 Astra تنها ۳۲ درصد امتیاز کسب کرد. همچنین مدل جدید توانست ۹۵ درصد وظایف آزمون RemoteExploitBench را که شامل بررسی آسیب‌پذیری‌های شناخته‌شده در محیطی کنترل‌شده است، با موفقیت انجام دهد.

پژوهشگران OpenAI علاوه‌بر آسیب‌پذیری‌های هسته لینوکس، با کمک GPT-6 Cyber موفق شدند ۸۱ حفره امنیتی ناشناخته در مرورگر فایرفاکس پیدا کنند که موزیلا آن‌ها را در دسته آسیب‌پذیری‌های با شدت بالا قرار داده است. این مدل همچنین تشخیص داد ۳۰ مشکل امنیتی شناخته‌شده دیگر، جدی‌تر از گزارش‌های قبلی هستند و در ارائه راهکارهایی برای برطرف کردن آن‌ها کمک کرد. موزیلا نیز برای بسیاری از این آسیب‌پذیری‌ها اصلاحیه منتشر کرده است.

به گفته OpenAI، دسترسی به GPT-6 Cyber در مرحله نخست از طریق API و Codex در اختیار گروه محدودی از مشتریان تأییدشده برنامه Daybreak Red قرار می‌گیرد. این برنامه برای سازمان‌هایی طراحی شده است که از مدل‌های OpenAI در آزمایش‌های امنیتی مجاز و توسعه اکسپلویت استفاده می‌کنند.

معرفی مدل جدید درست پس از اتفاقاتی صورت می‌گیرد که در ماه اکتبر با لقب «اکتبر سیاه» در فضای اینترنت شناخته شدند. در جریان این اتفاقات، شناسایی آسیب‌پذیری‌هایی در PHP، Node.js و کلیدهای امنیتی eMudhra باعث شد وب‌سایت‌های متعددی در سراسر جهان در وضعیت هشدار قرار بگیرند.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.