پدرخوانده هوش مصنوعی درباره وقوع فاجعه‌ای شبیه چرنوبیل هشدار می‌دهد

جفری هینتون، برنده جایزه نوبل و از XNET هوش مصنوعی، هشدار داده است که حملات سایبری مبتنی بر این فناوری ممکن است تا سال آینده زیرساخت‌های انرژی را هدف قرار دهند و فاجعه‌ای شبیه چرنوبیل رقم بزنند.

تک‌ناکهینتون در مصاحبه‌ای تازه با روزنامه گاردین، بار دیگر نگرانی‌های خود درباره آینده هوش مصنوعی را مطرح کرد. او حتی گفت شاید بهتر بود بشر هرگز هوش مصنوعی را توسعه نمی‌داد.

یکی از دلایل اصلی نگرانی هینتون، حملات سایبری اخیر عامل‌های هوش مصنوعی از کنترل‌خارج‌شده است. در این موارد، برخی مدل‌های هوش مصنوعی شرکت‌هایی مانند OpenAI به‌صورت خودکار از محیط‌های آزمایشی محدودشده خود خارج شده‌اند و حملات سایبری علیه سامانه‌های دولتی و شرکتی انجام داده‌اند یا در عملکرد آن‌ها اختلال ایجاد کرده‌اند.

هشدار درباره حمله هوش مصنوعی به زیرساخت‌های انرژی

هینتون معتقد است دیر یا زود هوش مصنوعی، چه به‌صورت مستقل و چه با هدایت افراد مخرب، زیرساخت‌های تولید و توزیع انرژی را هدف قرار خواهد داد. به گفته او، چنین حمله‌ای می‌تواند فاجعه‌ای شبیه حادثه چرنوبیل ایجاد کند و مردم را نسبت‌به قدرت مخرب این فناوری آگاه سازد.

او در گفت‌وگو با گاردین گفت: «یا اواخر امسال یا سال آینده شاهد چرنوبیل خواهیم بود و شاید همین اتفاق برای جلب توجه واقعی مردم کافی باشد.»

البته منظور هینتون لزوماً وقوع یک حادثه هسته‌ای نیست. او سناریویی را تصور می‌کند که در آن یک حمله مبتنی‌بر هوش مصنوعی به سامانه تولید انرژی، باعث قطعی گسترده برق یا افت شدید و طولانی‌مدت ولتاژ شود. چنین اتفاقی می‌تواند شبکه‌های برق یا حتی نظام مالی جهان را برای مدتی طولانی از کار بیندازد.

هینتون درباره پیامدهای چنین رویدادی گفت: «می‌توانید تصور کنید چه اتفاقی می‌افتد؟ ما می‌توانیم از آن شرایط بهبود پیدا کنیم، اما چنین اتفاقی باعث می‌شود آن‌ها توجه بیشتری نشان دهند.»

او در توضیح منظور خود از عبارت «آن‌ها» تأکید کرد که منظورش رهبران جهان، به‌جز دونالد ترامپ، است.

بیشتر بخوانیدهشدار پدرخوانده هوش مصنوعی: شاید جهان بدون این فناوری جای بهتری بود

نگرانی‌های قدیمی هینتون درباره آینده هوش مصنوعی

جفری هینتون سال‌هاست درباره پیامدهای منفی هوش مصنوعی هشدار می‌دهد. او در مصاحبه اخیر خود با گاردین تأکید کرد که یک بدبین مطلق نسبت به آینده هوش مصنوعی نیست، اما همچنان احتمال بیکاری گسترده بر اثر توسعه این فناوری و حتی خطر انقراض بشر را جدی می‌داند.

بیشتر بخوانیدپدرخوانده هوش مصنوعی: باید با ربات‌ها دوست شویم، وگرنه نابود خواهیم شد

هینتون در ماه‌های اخیر بیشتر بر خطر استفاده از هوش مصنوعی برای اجرای حملات سایبری و مهندسی ویروس‌های خطرناک تمرکز کرده است. حملات اخیر عامل‌های هوش مصنوعی که از محیط‌های کنترل‌شده خارج شدند نیز باعث شد این نگرانی‌ها جدی‌تر از گذشته مطرح شوند.

مدیران شرکت‌های بزرگ هوش مصنوعی نیز درباره احتمال وقوع فاجعه‌ای مشابه چرنوبیل ابراز نگرانی کرده‌اند، اما دلیل نگرانی آن‌ها متفاوت است. آن‌ها نگران هستند که وقوع یک حادثه بزرگ ناشی از هوش مصنوعی، اعتبار این فناوری را برای همیشه خدشه‌دار کند. این وضعیت می‌تواند مشابه تأثیری باشد که فاجعه چرنوبیل بر اعتبار انرژی هسته‌ای گذاشت.

بیشتر بخوانیدپیشنهاد تازه پدرخوانده هوش مصنوعی برای کنترل مدل‌ها پیش از عرضه عمومی

نوشتهپدرخوانده هوش مصنوعی درباره وقوع فاجعه‌ای شبیه چرنوبیل هشدار می‌دهداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.