هشدار پدرخوانده هوش مصنوعی: شاید جهان بدون این فناوری جای بهتری بود

جفری هینتون، برنده جایزه نوبل و یکی از چهره‌های شناخته‌شده به‌ عنوان «پدرخوانده هوش مصنوعی» هشدار داد که این فناوری ممکن است تا سال آینده باعث فروپاشی موقت سیستم‌های بانکی یا اختلال گسترده در شبکه برق شود.

سرویس هوش مصنوعی تک‌ناکاین دانشمند برجسته علوم کامپیوتر اعلام کرد که شاید بشر در آینده به این نتیجه برسد که بهتر بود هرگز این فناوری را توسعه نمی‌داد. او معتقد است که پیشرفت سریع هوش مصنوعی می‌تواند در آینده‌ای نزدیک باعث حادثه‌ای بزرگ شود و توجه دولت‌ها را به خطرات این فناوری جلب کند.

براساس گزارشروزنامه گاردینهینتون با وجود هشدارهای مکرر درباره پیامدهای هوش مصنوعی، خود را فردی بدبین به آینده این فناوری نمی‌داند. این دانشمند ۷۸ ساله معتقد است که هوش مصنوعی می‌تواند آینده‌ای فوق‌العاده برای انسان‌ها ایجاد کند. با وجود این‌، او تأکید کرد: «ممکن است در نهایت مشخص شود که اگر هرگز این فناوری را توسعه نمی‌دادیم، وضعیت بهتری داشتیم.»

هینتون پیش‌بینی کرده است که بشر طی یک دهه آینده و احتمالا زودتر متوجه خواهد شد که آیا توانایی مدیریت خطرات هوش مصنوعی را دارد یا خیر. به گفته او، کنترل موفق این فناوری می‌تواند به «فراوانی چشمگیر منابع و امکانات» منجر شود و شرایط زندگی انسان‌ها را متحول کند.

در مقابل، شکست در مدیریت خطرات هوش مصنوعی ممکن است شکاف اقتصادی میان ثروتمندان و فقرا را افزایش دهد. همچنین هینتون درباره بیکاری گسترده، مشکلات فرهنگی و ازهم‌گسیختگی ساختار اجتماعی هشدار داده است.

این دانشمند اظهارات خود را پیش از نمایش مستند جدیدی با عنوان «هوش مصنوعی: احتمالا جای نگرانی نیست» مطرح کرد. عنوان این مستند بلند را یک چت‌بات هوش مصنوعی پیشنهاد داده است. هینتون و دمیس هاسابیس، همکار سابق او در گوگل، از چهره‌های حاضر در این مستند هستند.

این پدرخوانده هوش مصنوعی در بخشی از این فیلم درباره مسئولیت خود برای آگاه‌سازی جامعه گفته است: «احساس می‌کنم وظیفه‌ای بر عهده دارم. اعتبار و شهرتی دارم که باعث شده است به سخنگویی در این زمینه تبدیل شوم و باید تمام این اعتبار را برای این موضوع به کار بگیرم.»

انتقاد شدید هینتون از مدیران شرکت‌های فناوری

هینتوندر گفت‌وگو با گاردین، مدیران برخی شرکت‌های بزرگ فناوری را به نادیده گرفتن خطرات هوش مصنوعی متهم کرد. او معتقد است که این شرکت‌ها با وجود آگاهی از پیامدهای احتمالی، همچنان برای دستیابی به قدرت بیشتر و افزایش سهم بازار، مدل‌های پیشرفته‌تری منتشر می‌کنند.

این دانشمند به‌صراحت اعلام کرد که هیچ اعتمادی به سم آلتمن، مدیرعامل OpenAI و شرکت سازنده ChatGPT ندارد. همچنین هینتون از مارک زاکربرگ و ایلان ماسک انتقاد کرد و انگیزه‌های مالی آنها را عامل اصلی نادیده گرفتن خطرات دانست.

او گفت: «فکر می‌کنم زاکربرگ، ماسک و سم آلتمن خطرات را درک می‌کنند، اما اصلا برای آنها اهمیتی ندارد. آنها پول را ترجیح می‌دهند. این باور من است.»

هینتون حضور آلتمن را در رأس یکی از معدود شرکت‌های پیشروی هوش مصنوعی آمریکا «به‌شدت نگران‌کننده»توصیف کرد. این شرکت‌ها در شرایطی برای توسعه قدرتمندترین مدل‌های هوش مصنوعی رقابت می‌کنند که آمریکا و چین نیز برای دستیابی به برتری در این حوزه تلاش دارند.

آلتمن در ماه سپتامبر اعلام کرده بود که جهان باید به OpenAI اعتماد کند. او تأکید کرد که این شرکت به دلیل اهمیت موضوع و تعهد به انجام کار درست، تصمیم‌های مسئولانه اتخاذ خواهد کرد.

هینتون که در لندن متولد شده و در بریستول بزرگ شده است، بخش زیادی از دوران حرفه‌ای خود را در دانشگاه تورنتو گذرانده است. این دانشمند حدود ۴۴ سال در حوزه هوش مصنوعی فعالیت کرده و پژوهش‌های او درباره شبکه‌های عصبی مصنوعی، نقش مهمی در شکل‌گیری فناوری‌های امروزی داشته است.

او در دهه ۱۹۷۰ مفهوم شبکه عصبی را مطرح کرد. این سیستم ریاضی می‌تواند به شیوه‌ای مشابه انسان از داده‌ها یاد بگیرد و با کسب تجربه عملکرد خود را بهبود دهد.

هینتون در سال ۲۰۲۳ از گوگل استعفا داد تا بتواند آزادانه درباره خطرات هوش مصنوعی صحبت کند. او در همان زمان هشدار داد که تلاش سیستم‌های هوشمند برای دستیابی به کنترل بیشتر می‌تواند انسان‌ها را با مشکلات جدی مواجه کند.

هشدار درباره وقوع چرنوبیل هوش مصنوعی تا سال آینده

پدرخوانده هوش مصنوعی معتقد است که حوادث اخیر در حوزه هوش مصنوعی می‌توانند نشانه‌های اولیه بحرانی بزرگ‌تر باشند. او به اتفاقاتی در تابستان امسال اشاره کرد که طی آن عوامل هوش مصنوعی OpenAI برای نفوذ به وب‌سایت Hugging Face با یکدیگر تبانی کردند.

این دانشمند حوادث مذکور را با حادثه نیروگاه هسته‌ای تری مایل آیلند در سال ۱۹۷۹ مقایسه کرد. در آن حادثه، بخشی از هسته رآکتور نیروگاهی در ایالت پنسیلوانیای آمریکا ذوب شد و نگرانی‌های گسترده‌ای درباره ایمنی انرژی هسته‌ای ایجاد کرد.

هینتون معتقد است که اتفاقات اخیر هوش مصنوعی نیز ممکن است هشداری اولیه درباره وقوع حادثه‌ای بسیار بزرگ‌تر باشند. او گفت: «یا در ادامه امسال یا سال آینده، شاهد چرنوبیل خواهیم بود و شاید همین اتفاق کافی باشد تا مردم واقعا به موضوع توجه کنند.»

منظور هینتون از چرنوبیل، وقوع حادثه‌ای هسته‌ای نیست. او این نام را برای توصیفیک بحران بزرگ ناشی از هوش مصنوعیبه کار برده است. چنین بحرانی ممکن است زیرساخت‌های حیاتی کشورها را مختل کند و پیامدهای اقتصادی گسترده‌ای داشته باشد.

یکی از سناریوهای مورد اشاره او، حمله سایبری با استفاده از هوش مصنوعی به زیرساخت‌های تولید برق است. این حمله می‌تواند افت گسترده ولتاژ و اختلال شدید در تأمین برق ایجاد کند.

سناریوی دیگر، از کار افتادن سیستم مالی برای یک هفته است. چنین اتفاقی می‌تواند فعالیت بانک‌ها و بخش‌های مهم اقتصاد را متوقف کند و مشکلات گسترده‌ای برای مردم و کسب‌وکارها به وجود آورد.

هینتون درباره پیامدهای احتمالی این حوادث گفت: «می‌توانید تصور کنید چه اتفاقی خواهد افتاد؟ ما می‌توانیم از آن عبور کنیم، اما چنین حادثه‌ای باعث می‌شود آن‌ها بالاخره خطر را جدی بگیرند.»

وقتی خبرنگار گاردین پرسید منظور او از «آنها» چه کسانی هستند، هینتون پاسخ داد: «رهبران جهان، به‌جز ترامپ.»

مخالفت پدرخوانده هوش مصنوعی با سیاست ترامپ

دونالد ترامپ، رئیس‌جمهور آمریکا با ایجاد چارچوب‌های نظارتی بین‌المللی برای کنترل هوش مصنوعی مخالفت کرده است. او اعلام کرده است که هرگونه تلاش را برای ایجاد یک طرح جهانی‌گرایانه به‌منظور کنترل این فناوری کاملا رد می‌کند.

ترامپ ترجیح می‌دهد شرکت‌های پیشروی هوش مصنوعی، خود مسئول تنظیم مقررات و نظارت بر فعالیت‌ها باشند. این رویکرد با نگرانی درباره تأثیر مقررات سخت‌گیرانه بر رقابت فناوری آمریکا و چین ارتباط دارد.

در مقابل، هینتون از اجرای مقررات الزام‌آور و نظارت مستقل بر مدل‌های پیشرفته هوش مصنوعی حمایت می‌کند. طرح مورد حمایت او با تأیید رئیس‌جمهور فنلاند و ۳۲ کشور دیگر، از جمله آلمان، کانادا، استرالیا و سنگاپور همراه شده است.

این طرح بر آزمایش اجباری مدل‌های پیشرفته هوش مصنوعی، ارزیابی مستقل خطرات و تدوین استانداردهای مشترک میان دولت‌ها تأکید دارد. هدف آن جلوگیری از انتشار سیستم‌های خطرناک بدون بررسی کافی و افزایش مسئولیت‌پذیری شرکت‌های توسعه‌دهنده است.

اندی برنهام، نخست‌وزیر بریتانیا نیز اعلام کرده است که قصد دارد از ریاست دوره‌ای کشور خود بر گروه ۲۰ در سال آینده برای دستیابی به توافقی بین‌المللی استفاده کند.

او خواستار تدوین مجموعه‌ای واحد از اصول و استانداردهای جهانی شده است که امکان بهره‌برداری از ظرفیت‌های هوش مصنوعی را فراهم کند و هم‌زمان خطرات ناشی از توسعه سریع آن را کاهش دهد.

نوشتههشدار پدرخوانده هوش مصنوعی: شاید جهان بدون این فناوری جای بهتری بوداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.