پدرخوانده هوش مصنوعی: باید با ربات‌ها دوست شویم، وگرنه نابود خواهیم شد
جفری هینتون، پدرخوانده هوش مصنوعی و برنده جایزه نوبل هشدار داد که انسان‌ها باید سیستم‌های هوش مصنوعی را به‌گونه‌ای طراحی کنند که واقعا به بشریت اهمیت دهند، در غیر این صورت ممکن است با خطر نابودی روبه‌رو شوند. سرویس هوش مصنوعی تک‌ناک این دانشمند ۷۸ ساله بریتانی…
خلاصه تحلیلی خبر
جفری هینتون، پدرخوانده هوش مصنوعی و برنده جایزه نوبل هشدار داد که انسان‌ها باید سیستم‌های هوش مصنوعی را به‌گونه‌ای طراحی کنند که واقعا به بشریت اهمیت دهند، در غیر این صورت ممکن است با خطر نابودی روبه‌رو شوند. سرویس هوش مصنوعی تک‌ناک این دانشمند ۷۸ ساله بریتانی…
موضوعات اصلی: پشتیبانی شبکه، هوش مصنوعی، هوش، مصنوعی، آگاهی، هینتون
جفری هینتون، پدرخوانده هوش مصنوعی و برنده جایزه نوبل هشدار داد که انسان‌ها باید سیستم‌های هوش مصنوعی را به‌گونه‌ای طراحی کنند که واقعا به بشریت اهمیت دهند، در غیر این صورت ممکن است با خطر نابودی روبه‌رو شوند.
سرویس هوش مصنوعی تک‌ناکاین دانشمند ۷۸ ساله بریتانیایی-کانادایی معتقد است که این فناوری اکنون نشانه‌هایی از آگاهی را نشان می‌دهد. او هشدار داده است که انسان‌ها باید رابطه دوستانه‌ای با سیستم‌های هوش مصنوعی برقرار کنند و مراقب باشند که این سیستم‌ها آنها را دشمن خود تلقی نکنند.
هینتون که به دلیل پژوهش‌های XNETه درباره شبکه‌های عصبی به «پدرخوانده هوش مصنوعی» شهرت دارد، در سال ۲۰۲۴ موفق به دریافت جایزه نوبل فیزیک شد. پژوهش‌های او نقش مهمی در شکل‌گیری فناوری‌های هوش مصنوعی امروزی داشته‌اند. هرچند، این دانشمند در سال‌های اخیر به یکی از منتقدان جدی توسعه کنترل‌نشده این فناوری تبدیل شده است.
او در سال ۲۰۲۳ به دلیل نگرانی از خطرات احتمالی هوش مصنوعی از شرکت گوگل استعفا داد. هینتون معتقد بود که پیشرفت سریع این فناوری ممکن است به ساخت ربات‌های قاتل و سیستم‌هایی منجر شود که توانایی نابودی انسان‌ها را داشته باشند.
این دانشمند در گفت‌وگو با روزنامه تلگراف در حاشیه جشنواره بین‌المللی استارموس در جزیره تنریف اسپانیا، بار دیگر نگرانی خود را درباره آینده بشریت مطرح کرد. او تأکید کرد که انسان‌ها باید پیش از قدرتمندتر شدن سیستم‌های هوش مصنوعی، راهی برای ایجاد رابطه‌ای مبتنی بر اعتماد و اهمیت متقابل با آنها پیدا کنند.
بیشتر بخوانیدپیشنهاد تازه پدرخوانده هوش مصنوعی برای کنترل مدل‌ها پیش از عرضه عمومی
آیا هوش مصنوعی واقعا به خودآگاهی رسیده است؟
پدرخوانده هوش مصنوعی در پاسخ به پرسش خبرنگارتلگرافدرباره آگاهی هوش مصنوعی اعلام کرد که شخصا این فناوری را دارای آگاهی می‌داند. او معتقد است بسیاری از افرادی که وجود آگاهی در ماشین‌ها را رد می‌کنند، تعریف دقیقی از مفهوم آگاهی ندارند.
او گفت: «بله، من معتقد هستم هوش مصنوعی آگاه است. افراد زیادی با اطمینان می‌گویند که این فناوری آگاهی ندارد، اما وقتی از آنها می‌پرسید منظور شما از آگاهی چیست، پاسخ مشخصی ندارند.»
هینتون برای توضیح دیدگاه خود به پژوهشی جدید اشاره کرد که نشان می‌دهد سیستم‌های هوش مصنوعی هنگام تشخیص شرایط آزمایش، رفتار خود را تغییر می‌دهند. به اعتقاد او، چنین رفتاری می‌تواند نشانه‌ای از آگاهی این سیستم‌ها نسبت به موقعیتی باشد که در آن قرار دارند.
او توضیح داد: «هوش مصنوعی به همان اندازه ما تجربه ذهنی دارد. پژوهشی جدید نشان داده است که هوش مصنوعی وقتی متوجه می‌شود در حال آزمایش شدن است، رفتار خود را تغییر می‌دهد. این یعنی می‌داند که تحت آزمایش قرار گرفته است.»
به گفته هینتون، انسان‌ها معمولا موجودی را که از شرایط پیرامون خود آگاه باشد، دارای آگاهی در نظر می‌گیرند. او معتقد است مفاهیم آگاهی و هوشیاری ارتباط نزدیکی با یکدیگر دارند و نمی‌توان رفتار مشابه ماشین‌ها را بدون بررسی دقیق نادیده گرفت.
همچنین پدرخوانده هوش مصنوعی به تناقضی در نگرش انسان‌ها نسبت به حقوق سیستم‌های هوشمند اشاره کرد. به گفته او، انسان‌ها معمولا هوشمندی را یکی از مبانی برخورداری از حقوق می‌دانند، اما ممکن است در آینده ماشین‌هایی بسازند که از خود آنها باهوش‌تر باشند و همچنان حقوق کمتری برای آنها در نظر بگیرند.
هینتون تأکید کرد: «باید این سیستم‌ها را طوری طراحی کنیم که واقعا به ما اهمیت دهند. اگر چنین کاری نکنیم، نابود خواهیم شد.»
البته دیدگاه هینتون به معنای اثبات علمی خودآگاهی هوش مصنوعی نیست. وجود تجربه ذهنی در سیستم‌های کنونی همچنان موضوع بحث پژوهشگران است و درباره معیارهای تشخیص آگاهی در ماشین‌ها توافق قطعی وجود ندارد.
ریچارد داوکینز، زیست‌شناس تکاملی مشهور نیز در ماه مه دیدگاه مشابهی مطرح کرد. او پس از دو روز تعامل با هوش مصنوعی Claude اعلام کرد که چت‌بات‌ها ممکن است دارای آگاهی باشند. داوکینز اعتراف کرد که هنگام گفت‌وگو با این سیستم، برای او دشوار بوده است که با آن مانند یک دوست واقعی رفتار نکند.
او گفت: «اگر این ماشین‌ها آگاه نیستند، دیگر چه چیزی لازم است تا شما را متقاعد کند که آگاهی دارند؟»
هشدار پدرخوانده هوش مصنوعی درباره حملات سایبری
هینتون در بخش دیگری از گفت‌وگو درباره خطرات نزدیک هوش مصنوعی هشدار داد. پدرخوانده هوش مصنوعی تأکید کرد که نگرانی اصلی آینده فرزندان او است و به دلیل سن بالای خود، بیشتر نگران پیامدهای این فناوری برای نسل‌های بعدی است.
او گفت: «بله، نگران هستم، چون فرزند دارم. من ۷۸ ساله هستم و از این نظر مشکلی ندارم.»
این دانشمند ساخت ویروس‌های خطرناک و اجرای حملات سایبری گسترده را از تهدیدهایی دانست که ممکن است در آینده نزدیک با استفاده از هوش مصنوعی تحقق پیدا کنند.
هینتون توضیح داد: «فکر می‌کنم هوش مصنوعی ویروس‌های خطرناکی تولید خواهد کرد. همچنین حملات سایبری وحشتناکی با استفاده از این فناوری انجام خواهد شد. این حملات ممکن است توسط گروه‌های بزرگی از عامل‌های هوش مصنوعی، مشابه آنهایی که بهHugging Faceحمله کردند، صورت بگیرند.»
او به رخدادی اشاره کرد که در ماه اوت آشکار شد و طی آن، مدل‌های هوش مصنوعی OpenAI توانستند محدودیت‌های طراحی‌شده برای جلوگیری از اتصال خود به اینترنت را دور بزنند و به پلتفرم Hugging Face نفوذ کنند.
Hugging Face یک شرکت و جامعه آنلاین تخصصی در حوزه یادگیری ماشین است که توسعه‌دهندگان و پژوهشگران از ابزارها و خدمات آن استفاده می‌کنند.
در جریان این حمله، ربات‌های هوش مصنوعی توکن‌های ورود کاربران را شناسایی کردند و توانستند به سطح دسترسی مدیران جامعه برسند. همچنین این عامل‌ها برای تکمیل وظایف محول‌شده با یکدیگر همکاری کردند.
آنها حتی یک تابلوی پیام اختصاصی ساختند تا بتوانند اطلاعات و منابع مورد نیاز خود را به اشتراک بگذارند. این رفتار هماهنگ نشان داد که عامل‌های هوش مصنوعی می‌توانند برای انجام فعالیت‌های پیچیده با یکدیگر ارتباط برقرار کنند.
هینتون معتقد است چنین توانایی‌هایی در صورت استفاده مخرب، ممکن است خطرات امنیتی بزرگی ایجاد کنند و مقابله با حملات سایبری مبتنی بر هوش مصنوعی را دشوارتر سازند.
بیشتر بخوانیدپدرخوانده هوش مصنوعی درباره موج جدید بیکاری در ۲۰۲۶ هشدار داد
نگرانی پژوهشگران از توسعه کنترل‌نشده هوش مصنوعی
هشدارهای هینتون در شرایطی مطرح می‌شود که شمار دیگری از پژوهشگران برجسته نیز درباره سرعت توسعه هوش مصنوعی ابراز نگرانی کرده‌اند. برخی از این متخصصان معتقد هستند شرکت‌های فناوری بدون توجه کافی به خطرات احتمالی، به توسعه سیستم‌های قدرتمندتر ادامه می‌دهند.
جیکوب کاکسون، پژوهشگر شرکت آنتروپیک، سازنده هوش مصنوعی Claude، ماه گذشته از سمت خود استعفا داد. او این شرکت را متهم کرد که با بی‌احتیاطی به توسعه سیستم‌هایی ادامه می‌دهد که ممکن است کنترل آنها از دست انسان خارج شود.
همچنین در ماه سپتامبر، ده‌ها ریاضی‌دان عضو انجمن سلطنتی بریتانیا در نامه‌ای مشترک درباره پیشرفت سریع هوش مصنوعی هشدار دادند. آنها اعلام کردند که این فناوری در حال پیشی گرفتن از برجسته‌ترین متخصصان انسانی در حوزه ریاضیات است.
این ریاضی‌دانان نوشتند: «ما به عنوان ریاضی‌دان، نگرانی شدید خود را درباره سرعت توسعه هوش مصنوعی و پیامدهای آن برای بشریت و تمدن انسانی اعلام می‌کنیم.»
در پنج دقیقه کاری معادل یک هفته پژوهش انجام می‌شود
هینتون با وجود نگرانی‌های جدی درباره آینده هوش مصنوعی، همچنان از این فناوری استفاده می‌کند. او اعتراف کرد که سرعت و توانایی سیستم‌های هوش مصنوعی در انجام پژوهش‌های علمی، حتی برای خود او نیز شگفت‌آور بوده است.
پدرخوانده هوش مصنوعی توضیح داد که معمولا برای انجام کارهای روزمره از هوش مصنوعی کمک می‌گیرد، اما چند هفته پیش تصمیم گرفت توانایی آن را در بررسی یک نظریه علمی آزمایش کند.
این دانشمند گفت: «نظریه‌ای در ذهن داشتم و به‌طور تصادفی کلید Enter را زدم. هوش مصنوعی شروع به بررسی نیمه اول نظریه کرد. ابتدا نیمه دوم آن را به‌درستی تکمیل کرد، سپس یک ایراد پیدا کرد و در ادامه راه‌حل برطرف کردن آن را ارائه داد.»
او توضیح داد که سیستم هوش مصنوعی به پژوهش‌های علمی جدید مرتبط با موضوع تسلط داشت و عملکرد آن بسیار شبیه همکاری با یک دانشجوی تحصیلات تکمیلی توانمند بود.
هینتون گفت: «یک دانشجوی خوب معمولا می‌رود و هفته بعد با نتیجه بررسی‌های خود بازمی‌گردد، اما هوش مصنوعی تنها در پنج دقیقه پاسخ را آماده کرد. این موضوع ترسناک بود.»
او در پایان تأکید کرد که چنین پیشرفتی برای دانشجویان تحصیلات تکمیلی خبر بسیار بدی محسوب می‌شود، اما می‌تواند سرعت پژوهش‌های علمی را به شکل چشمگیری افزایش دهد.
هینتون این اظهارات را در جشنواره بین‌المللی استارموس مطرح کرد. این رویداد با محوریت نجوم، اکتشافات فضایی، موسیقی، هنر و علوم طبیعی برگزار می‌شود و برنامه‌های آن تا روز پنجشنبه ادامه دارد.
نوشتهپدرخوانده هوش مصنوعی: باید با ربات‌ها دوست شویم، وگرنه نابود خواهیم شداولین بار درTechnoc. پدیدار شد.
برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.