هشدار جفری هینتون درباره خطرات هوش مصنوعی:جهان شاید بدون این فناوری جای امن‌تری بود

جفری هینتون معتقد است خطرات سیستم‌های هوشمند مدرن از منافع آن‌ها بیشتر شده و جامعه انسانی شاید بدون توسعه این فناوری امنیت و آرامش بیشتری داشت.

این سخنان تازه نیستند، اما لحن قاطع و بی‌پرده یکی از ستون‌های اصلی علوم کامپیوتر نشان می‌دهد نگرانی‌های فنی وارد مرحله کاملاً متفاوتی شده‌اند. او که سال‌ها ساختارهای پایه یادگیری عمیق و شبکه‌های عصبی را پایه‌گذاری کرد، حالا می‌بیند مسابقه‌ای پرشتاب میان غول‌های سیلیکون‌ولی شکل گرفته که هیچ ترمز مطمئنی برای آن وجود ندارد. سرعت تحولات به‌گونه‌ای است که حتی طراحان اولیه الگوریتم‌ها از درک دقیق نحوه استدلال مدل‌های بزرگ عاجز مانده‌اند.

هشدار صریح معمار یادگیری ماشین درباره مسیر هوش مصنوعی

هینتون پس از دهه‌ها کار آکادمیک و رهبری تیم‌های پژوهشی پیشرو در گوگل، مسیر خود را از این صنعت جدا کرد تا بتواند بدون مصلحت‌های تجاری، واقعیت‌ها را مطرح کند. او باور دارد پیشرفت شبکه‌های عصبی مصنوعی به نقطه‌ای رسیده است که تمایز میان پردازش ماشینی و توانایی ادراک هوشمندانه در حال کم‌رنگ شدن است. این موضوع پیامدهایی فراتر از تحول بازار کار یا خودکارسازی فرآیندها دارد و امنیت جوامع را تحت‌الشعاع قرار می‌دهد.

گزارش اخیر منتشرشده درروزنامه گاردیننشان می‌دهد دیدگاه‌های انتقادی هینتون درباره ساختارهای دیجیتال به اوج خود رسیده است. او بر این باور است که اگر فرصت بازگشت به گذشته وجود داشت، شاید بهتر بود مسیر تحقیقات به شکلی دیگر طراحی می‌شد تا چنین ابزارهایی در اختیار قدرت‌های صنعتی و سیاسی قرار نگیرند.

تغییر زاویه دید چهره‌های پیشرو علم داده

بخش مهمی از دانشمندان برجسته یادگیری ماشین در سال‌های اخیر دیدگاه‌های پیشین خود را اصلاح کرده‌اند. بررسی تفصیلی منتشرشده توسطام‌آی‌تی اسلوندرباره هشدارهای جفری هینتون نشان می‌دهد دانشمندان ارشد نگران ظهور ابزارهایی هستند که استقلال عملیاتی آن‌ها فراتر از محدودیت‌های انسانی است. تفاوت رویکرد دانشمندان با مدیران تجاری در این نهفته است که کارشناسان فنی، آسیب‌پذیری‌های بنیادین مدل‌ها را از نزدیک لمس می‌کنند.

سیستم‌های هوش مصنوعی برخلاف برنامه‌نویسی سنتی، کدهای ثابت و خط به خط ندارند. این سامانه‌ها میلیاردها وزن و ارتباط آماری درون ساختار لایه‌ای خود شکل می‌دهند. همین ویژگی تحلیل علت و معلول تصمیمات پیچیده را دشوار می‌سازد. وقتی این ابزارها برای مدیریت ارتباطات، تصمیم‌گیری‌های مالی یا حتی حوزه‌های نظامی به کار گرفته شوند، کوچک‌ترین سوگیری یا انحراف می‌تواند پیامدهای بزرگی بسازد.

موتورهای پردازش دیجیتال و رقابت غیرقابل مهار غول‌های فناوری

برای درک بهتر چرایی این هشدارها، باید نگاهی به سازوکار توسعه مدل‌های زبانی بزرگ و الگوهای یادگیری تقویتی انداخت. تا چند سال پیش، پیش‌بینی می‌شد سیستم‌های مصنوعی چندین دهه با توان محاسباتی و ادراکی سطح بالا فاصله داشته باشند. اما با سرمایه‌گذاری‌های سنگین، در دسترس قرار گرفتن پردازنده‌های پیشرفته و ورود حجم عظیمی از داده‌های اینترنتی، این بازه زمانی بسیار کوتاه شد.

رقابت اقتصادی میان شرکت‌های بین‌المللی اجازه توقف تحقیقات را نمی‌دهد. هر شرکتی نگران است که با کُند کردن فرایند عرضه محصولات جدید، بازار و موقعیت رقابتی خود را به رقیب واگذار کند. این محیط تجاری باعث شده بخش‌های آزمایشگاهی ایمنی و بررسی‌های اخلاقی نتوانند پابه‌پای تیم‌های توسعه محصول پیش بروند.

آمار نظرسنجی از پژوهشگران ارشد فناوری

نگرانی‌های جفری هینتون یک نظر انفرادی و جداافتاده نیست، بلکه در میان جامعه آکادمیک بازتاب گسترده‌ای دارد. در یک نظرسنجی معتبر بین‌المللی که با مشارکت بیش از ۲۷۰۰ محقق منتشرکننده مقاله در کنفرانس‌های معتبر هوش مصنوعی انجام شد، حدود ۵۸ درصد از پژوهشگران احتمال دادند که سیستم‌های پیشرفته آینده بتوانند آسیب‌های شدید انسانی یا پیامدهای جبران‌ناپذیر بر جای بگذارند. همچنین اکثریت آنان پیش‌بینی کردند که سامانه‌های مصنوعی تا پیش از سال ۲۰۲۸ در آزمون‌های متعددی توانایی عملکردی بهتری از متخصصان خبره انسان به نمایش بگذارند.

جدول زیر تصویری از مهم‌ترین حوزه‌های نگرانی دانشمندان و میزان اثرگذاری پیش‌بینی‌شده آن‌ها را نمایش می‌دهد

این ارقام و دسته‌بندی‌ها نشان می‌دهند موضوع صرفاً بر سر خطاهای نرم‌افزاری کوچک نیست، بلکه سخن از تغییر ساختاری در شیوه اداره جامعه مدرن است.

فاصله روزافزون میان توان پردازش و ساختار قانون‌گذاری

تلاش‌ها برای وضع قواعد قانونی نیز نتوانسته‌اند سرعتی همگام با نوآوری‌های فنی داشته باشند. مذاکرات نهادهای بین‌المللی و برنامه‌ریزی دولت‌ها جهت ایجاداستانداردهای مشترک هوش مصنوعی در اجلاس سرانثابت می‌کند فاصله عمیقی میان ادبیات قانون‌گذاران و واقعیت کدنویسی در آزمایشگاه‌ها وجود دارد. تا زمانی که مقررات به تصویب برسند، نسل جدیدی از معماری‌های محاسباتی معرفی شده‌اند که الگوهای پیشین را تغییر می‌دهند.

هینتون تأکید می‌کند خطرات امنیتی و تولید اطلاعات گمراه‌کننده، پدیده‌هایی هستند که اکنون رخ می‌دهند و نباید آن‌ها را به فردا موکول کرد. به بیان او، ماشین‌هایی با هوش بیشتر از مغز زیستی در نهایت یاد می‌گیرند اهداف خود را محقق کنند و اگر یکی از اهداف آن‌ها بقا یا کاهش دخالت خارجی باشد، کنترل آن‌ها بسیار دشوار خواهد بود.

چالش‌های امنیتی و از دست رفتن اعتماد در بستر وب

توسعه سریع اینترنت مبتنی بر اعتماد متقابل بود. کاربر در گذشته به شواهد تصویری، صوتی و اسناد دیجیتال اطمینان نسبی داشت. اما با ورود سامانه‌های مولد، هزینه جعل محتوا و ساخت هویت‌های خیالی به نزدیک صفر رسیده است. هینتون سال گذشته در گفتگویی رسمی صراحتاً اعلام کرد دیگر نمی‌توان فهمید چه چیزی حقیقت دارد و چه چیزی جعلی است. این مسئله پایه‌های اعتماد اجتماعی، نظام‌های رأی‌گیری و تعاملات روزمره کاربران را فرسوده می‌کند.

علاوه بر جعل محتوا، ساخت بدافزارهای خودکار و کشف روزنه‌های امنیتی با استفاده از مدل‌های زبانی شتاب بالایی گرفته است. ابزارهایی که می‌توانند کد بنویسند، توانایی پیدا کردن آسیب‌پذیری‌های زیرساختی در شبکه‌های حیاتی آب، برق و مخابرات را نیز دارند. وقتی سامانه‌ها به صورت خودمختار عمل کنند، خطای انسانی جای خود را به تصمیم‌گیری‌های غیرقابل ردگیری سیستم‌ها می‌دهد.

تهدید عامل‌های خودمختار برای استقلال انسانی

مرحله کنونی تکامل هوش مصنوعی از حالت پاسخ‌گویی به سوالات متنی خارج شده و به سمت عامل‌های خودمختار حرکت می‌کند. عامل هوشمند سیستمی است که هدف کلی را دریافت کرده و خود تصمیم می‌گیرد چه مراحلی را طی کند، به چه سرویس‌هایی وصل شود و چه پرداخت‌ها یا تبادلاتی را نهایی سازد.

این چرخه به مدل‌ها امکان می‌دهد ابزارهای جدید طراحی کنند و بازخوردهای خارجی بگیرند. اگر مهار رفتاری و لایه‌های نظارتی این سیستم‌ها با نقص مواجه شوند، فرآیند مهار آن‌ها پیچیده خواهد شد. به باور کارشناسان، هوشمندی ابزاری می‌تواند در خدمت اهدافی قرار گیرد که لزوماً با منافع جامعه هماهنگ نیست.

ضرورت تدوین چارچوب‌های مهار و بازنگری در سرعت توسعه

بازخوانی موضع‌گیری‌های تازه هینتون نشان می‌دهد او خواهان توقف کامل علم نیست، بلکه خواستار ایجاد توازن میان تلاش برای توسعه سریع و تمرکز بر پروتکل‌های ایمنی است. اکنون تنها بخش ناچیزی از بودجه غول‌های فناوری به حوزه هم‌راستاسازی اختصاص پیدا می‌کند؛ یعنی حوزه‌ای که تلاش دارد رفتار سامانه‌ها را مطابق با اخلاق و قوانین انسانی نگه دارد.

بدون یک توافق الزام‌آور بین دولت‌ها و کمپانی‌های بزرگ، هرگونه کاهش سرعت به معنای عقب افتادن در میدان رقابت تلقی می‌شود. به همین دلیل، ایجاد نهادهای نظارتی کارآمد و تست‌های سخت‌گیرانه پیش از انتشار مدل‌ها امری حیاتی است. پیشگیری از بحران‌های بزرگ دیجیتال تنها از طریق همکاری میان دانشگاه‌ها، دولت‌ها و جامعه مدنی شکل می‌گیرد. در غیاب سازوکارهای کنترلی شفاف، هشدار چهره‌های برجسته‌ای مانند هینتون به جای یک توصیه دوراندیشانه، به واقعیتی ناخوشایند در برابر زندگی روزمره بدل خواهد شد.

سوالات متداول

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.