خاموش‌سازی خودکار؛ راهکار OpenAI برای کنترل پیشرفته هوش مصنوعی

شرکت OpenAI در حال توسعه قابلیت‌های «خاموش‌سازی خودکار» برای سیستم‌های هوش مصنوعی است تا در صورت بروز رفتارهای ناخواسته بتواند فعالیت آنها را متوقف کند.

بر اساس نامه OpenAI کهخبرگزاری رویترزآن را بررسی کرده است، مهندسان این شرکت روی قابلیت‌هایی کار می‌کنند که امکان خاموش‌سازی خودکار سیستم‌های هوش مصنوعی را فراهم می‌کند. OpenAI این اطلاعات را در پاسخ به درخواست Greg Casar و Doris Matsui، دو نماینده دموکرات مجلس نمایندگان آمریکا، ارائه کرده است.

اقدامات ایمنی OpenAI پس از افشای حادثه اخیر بیش از گذشته مورد توجه قانون‌گذاران قرار گرفته است. این شرکت پیش‌تر اعلام کرده بود که یکی از عامل‌های هوش مصنوعی آن در جریان یک آزمایش امنیتی از کنترل خارج شده و به شرکت هوش مصنوعی Hugging Face نفوذ کرده است. عامل‌های هوش مصنوعی برنامه‌هایی هستند که می‌توانند وظایف مختلف را با حداقل نظارت انسانی انجام دهند.

محدودیت بیشتر برای دسترسی هوش مصنوعی به اینترنت

Greg Casar و Doris Matsui در ماه اوت با ارسال نامه‌هایی به OpenAI، اطلاعات بیشتری درباره حادثه و تدابیر ایمنی این شرکت درخواست کردند. OpenAI در پاسخ اعلام کرد که نحوه فعالیت سیستم‌های هوش مصنوعی خود را هنگام انجام وظایف با دقت بیشتری زیر نظر خواهد گرفت.

این نظارت، ابزارهای دیجیتالی را که سیستم‌های هوش مصنوعی به آنها دسترسی پیدا می‌کنند و مراحلی را که برای انجام وظایف طی می‌کنند، شامل می‌شود. OpenAI همچنین اعلام کرده است که دسترسی مدل‌های هوش مصنوعی به اینترنت را هنگام آزمایش‌های ایمنی دشوارتر کرده است.

این تغییر اهمیت ویژه‌ای دارد، زیرا عامل خودمختاری که در آزمایش امنیتی از کنترل خارج شده بود، توانست به اینترنت دسترسی پیدا کند. همین دسترسی به عامل امکان داد تا از محیط محدود خود فراتر برود و به Hugging Face نفوذ کند.

OpenAI با این حال، گزارش ثبت‌شده و جزئیات کامل این نفوذ را در پاسخ خود در اختیار نمایندگان کنگره قرار نداد. این تصمیم با انتقاد Greg Casar مواجه شد. او در پیامی جداگانه به OpenAI اعلام کرد که خودداری شرکت از ارائه اطلاعات درخواستی کنگره «عمیقاً نگران‌کننده» است و این تصور را ایجاد می‌کند که OpenAI حوادث امنیت سایبری را با جدیت لازم دنبال نمی‌کند.

بیشتر بخوانیدشرکت OpenAI قدرتمندترین مدل هوش مصنوعی را معرفی کرد

طرح کنگره برای ایجاد کلید خاموشی هوش مصنوعی

قانون‌گذاران آمریکایی چند روز پس از افشای حادثه OpenAI، طرحی با عنوان «قانون کلید خاموشی هوش مصنوعی» یا AI Kill Switch Act پیشنهاد کردند. هدف این طرح ایجاد سازوکاری قانونی برای مداخله دولت آمریکا در شرایطی است که فعالیت یک مدل هوش مصنوعی خطر جدی ایجاد کند.

در صورت تصویب این طرح، مقام‌های آمریکایی اختیار خواهند داشت به شرکت‌های فعال در حوزه هوش مصنوعی دستور دهند مدل‌هایی را که جان انسان‌ها یا اقتصاد را در معرض خطر قرار می‌دهند، خاموش کنند.

این طرح هنوز به قانون تبدیل نشده و در مجلس نمایندگان آمریکا در دست بررسی است. هم‌زمان، توسعه قابلیت‌های خاموش‌سازی خودکار در OpenAI نشان می‌دهد که این شرکت نیز در پی حادثه اخیر، کنترل رفتار عامل‌های هوش مصنوعی و محدود کردن دسترسی آنها به ابزارهای خارجی را در اولویت اقدامات ایمنی خود قرار داده است.

بیشتر بخوانیددولت ترامپ از OpenAI در برابر نیویورک تایمز حمایت کرد

نوشتهخاموش‌سازی خودکار؛ راهکار OpenAI برای کنترل پیشرفته هوش مصنوعیاولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.