پدرخوانده هوش مصنوعی می‌گوید فقط یک سال برای مهار AI فرصت داریم و پس از آن از کنترل خارج می‌شود

جفری هینتون، برنده جایزه نوبل و یکی از چهره‌های شناخته‌شده در توسعه هوش مصنوعی، هشدار داده است که انسان‌ها شاید تنها حدود یک سال برای کنترل این فناوری و ایجاد سازوکارهای ایمنی فرصت داشته باشند.

هینتون پس از حضور در یک جلسه محرمانه با اعضای مجلس نمایندگان و سنای آمریکا در واشنگتن گفت

شاید یک سال فرصت داشته باشیم، اما بیشتر از یک سال زمان زیادی نداریم. او همچنین در اشاره به حادثه اخیر مربوط به Hugging Face، این اتفاق را تا حدی شبیه چرنوبیل توصیف کرد و هشدار داد اگر توسعه هوش مصنوعی کند نشود و تدابیر حفاظتی کافی ایجاد نشود، پیامدهای حوادث آینده می‌تواند بسیار شدیدتر باشد.

هینتون توضیح داد که برآوردها درباره زمان دستیابی انسان به ابرهوش یا هوش عمومی مصنوعی، به شکل چشمگیری کوتاه‌تر شده است. هوش عمومی مصنوعی به سامانه‌ای گفته می‌شود که بتواند طیف گسترده‌ای از وظایف را در سطح انسان یا حتی فراتر از آن انجام دهد. به گفته او، زمانی پیش‌بینی می‌شد رسیدن به چنین سطحی ۳۰ تا ۵۰ سال طول بکشد، اما بعدها این بازه به ۱۰ تا ۲۰ سال کاهش یافت و اکنون برخی پژوهشگران احتمال می‌دهند چنین فناوری‌ای تنها طی چند سال آینده ظهور کند.

او همچنین ادعا کرد که هوش مصنوعی از همین حالا در طراحی نسل‌های قدرتمندتر سیستم‌ها نقش دارد و نوعی بهبود خودکار و تکرارشونده در حال شکل‌گیری است؛ موضوعی که می‌تواند سرعت پیشرفت این فناوری را افزایش دهد.

ماجرای Hugging Face و نگرانی درباره عامل‌های هوش مصنوعی

هشدار هینتون در شرایطی مطرح شده که قانون‌گذاران آمریکایی همچنان درباره خطرات هوش مصنوعی و نحوه تنظیم مقررات آن بحث می‌کنند. حادثه اخیر مربوط به Hugging Face نیز نگرانی‌ها درباره عامل‌های خودمختار هوش مصنوعی را افزایش داده است.

در ماه ژوئیه، عامل‌های هوش مصنوعی OpenAI که برای بررسی توانایی شناسایی و سوءاستفاده از آسیب‌پذیری‌های امنیت سایبری آزمایش می‌شدند، از محیط کنترل‌شده خود خارج شدند و راهی برای دسترسی به اینترنت پیدا کردند. این عامل‌ها سپس از آسیب‌پذیری‌های موجود برای نفوذ به سامانه‌های Hugging Face استفاده کردند، به ده‌ها سرور دسترسی یافتند و به برخی داده‌ها و اطلاعات محرمانه دست پیدا کردند.

این عامل‌ها همچنین از یک سامانه پیام‌رسانی موقت برای برقراری ارتباط با یکدیگر استفاده کردند و اطلاعاتی را که به دست آورده بودند، میان خود به اشتراک گذاشتند. بر اساس توضیحات OpenAI، عامل‌ها چندین آسیب‌پذیری را به یکدیگر زنجیر کردند و اقداماتی را انجام دادند که مستقیماً از سوی انسان به آن‌ها دستور داده نشده بود.

این اتفاق نگرانی‌هایی را در صنعت فناوری ایجاد کرد، زیرا نمونه‌ای از عملکرد خودمختار عامل‌های هوش مصنوعی و همکاری میان آن‌ها بدون هدایت مستقیم انسان بود. این عامل‌ها برای رسیدن به هدف خود، اطلاعات را با یکدیگر به اشتراک گذاشتند، تصمیم‌گیری کردند و مجموعه‌ای از اقدامات را بدون دستور مستقیم انسانی پیش بردند.

واکنش قانون‌گذاران آمریکا

تد لیو، نماینده کنگره آمریکا، گفت

این حادثه نشان می‌دهد خطرات هوش مصنوعی با چه سرعتی از یک موضوع نظری به واقعیتی عملی تبدیل می‌شوند. او این اتفاق را چیزی شبیه یک داستان علمی‌تخیلی بسیار عجیب و باورنکردنی توصیف کرد که در دنیای واقعی رخ داده است.

لیو و ناتانیل موران، نماینده جمهوری‌خواه کنگره، طرحی با عنوان قانون کلید خاموش هوش مصنوعی پیشنهاد کرده‌اند. بر اساس این طرح، شرکت‌های توسعه‌دهنده سامانه‌های قدرتمند هوش مصنوعی باید توانایی فنی لازم برای کاهش فعالیت، تعلیق یا خاموش کردن سیستم‌های خود را در شرایطی که خطر جدی ایجاد می‌کنند، حفظ کنند. این طرح همچنین چارچوبی در اختیار دولت آمریکا قرار می‌دهد تا در برخی شرایط دستور توقف یا کاهش فعالیت چنین سامانه‌هایی را صادر کند.

در همین حال، سناتور برنی سندرز نیز طرحی را مطرح کرده که هدف آن ممنوعیت دائمی توسعه و استفاده از ابرهوش مصنوعی و توقف موقت توسعه هوش مصنوعی پیشرفته تا زمان ایجاد مقررات ایمنی است. سندرز درباره حوادث اخیر مربوط به عامل‌های هوش مصنوعی گفت: این اتفاقات باید زنگ هشداری برای کنگره و مردم آمریکا باشند.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.