هوش مصنوعی در آستانه خودبهبودی مستقل قرار دارد! + تصویر

گزارش جدید METR نشان می‌دهد خودبهبودی هوش مصنوعی با کمک مدل‌های آنتروپیک سرعت گرفته و نگرانی‌ها درباره آینده ایمنی این فناوری افزایش یافته است.

به‌ گزارشسرویس هوش مصنوعی تک‌ناکآنتروپیک از هوش مصنوعی برای توسعه مدل‌های قدرتمندتر استفاده می‌کند؛ رویکردی که با موفقیت چشمگیری همراه بوده است. مدل‌های این شرکت اکنون تقریبا دو برابر سریع‌تر از یک سال قبل پیشرفت می‌کنند و هنوز نشانه محسوسی از کاهش این شتاب دیده نمی‌شود.

این‌ توضیحات بخشی از یافته‌های گزارش جدید سازمان پژوهشی ایمنی هوش مصنوعیMETRهستند که روز پنجشنبه منتشر شد. این گزارش حاصل بررسی ۱۱ هفته‌ای فعالیت‌های داخلی آنتروپیک و ارزیابی فرایند تحقیق و توسعه هوش مصنوعی در این شرکت است. این بررسی ارتباطی با برنامه جداگانه METR ندارد که پس از حملات سایبری خبرساز تابستان گذشته، با هدف فراهم کردن دسترسی مشابه کارکنان به سیستم‌های شرکت برای پژوهشگران ایمنی راه‌اندازی شد.

یافته‌های METR از روشن‌ترین شواهد درباره شتاب گرفتن توسعه هوش مصنوعی به کمک خود این فناوری (خودبهبودی) حکایت دارند؛ موضوعی که پرسش‌های مهمی درباره سرعت پیشرفت آن و نزدیک شدن به آینده‌ای مطرح می‌کند که در آن سیستم‌های هوش مصنوعی بتوانند با حداقل دخالت انسان یا حتی به‌ صورت کاملا مستقل، خود را بهبود دهند.

انتشار این گزارش در مقطع حساسی برای آنتروپیک انجام شده است. این شرکت خود را برای ورود به بورس آماده می‌کند، درحالی‌که داریو آمودی، مدیرعامل آن، بارها به‌ صورت عمومی از آزمایشگاه‌های هوش مصنوعی خواسته است ترمز توسعه این فناوری را بکشند.

بیشتر بخوانیدپدرخوانده هوش مصنوعی درباره وقوع فاجعه‌ای شبیه چرنوبیل هشدار داد

با وجود این‌، همان‌قدر که این گزارش تصویری کم‌سابقه از سازوکار داخلی یکی از پیشروترین آزمایشگاه‌های هوش مصنوعی جهان ارائه می‌دهد، اطلاعات حذف‌شده از آن نیز معنادار هستند. آنتروپیک طبق توافق با METR اجازه داشت بخش‌هایی از نسخه نهایی گزارش را سانسور کند و به‌طور گسترده از این اختیار استفاده کرده است. این مسئله پرسش‌های جدی‌تری درباره میزان اطلاع عموم از سرعت پیشرفت و خطرات توسعه هوش مصنوعی پیشرفته ایجاد می‌کند.

افزایش سرعت توسعه آنتروپیک با هوش مصنوعی مستقل

یکی از مهم‌ترین یافته‌های METR نشان می‌دهد مدل‌های هوش مصنوعی آنتروپیک تقریبا دو برابر سریع‌تر از یک سال قبل در حال پیشرفت هستند. نتایج معیارهای ارزیابی حاکی از آن است که این شرکت تنها در یک سال، تقریبا به‌اندازه دو سال پیشرفت تاریخی در حوزه هوش مصنوعی دست یافته است. نکته مهم‌تر اینکه پژوهشگران METR اطمینان دارند این شتاب حاصل افزایش توان محاسباتی مورد استفاده برای آموزش مدل‌ها نیست؛ عاملی که در گذشته یکی از محرک‌های اصلی پیشرفت خودبهبودی هوش مصنوعی محسوب می‌شد. در مقابل، پژوهشگران بیان کردند که تا ماه اکتبر، بخش عمده شتاب ایجادشده ناشی از استفاده از خود هوش مصنوعی بوده و سهم این فناوری نیز به‌مرور افزایش یافته است. نظرسنجی‌های غیررسمی در اسلک و مصاحبه با کارکنان آنتروپیک نیز این نتیجه‌گیری را تایید می‌کنند و از جهش قابل‌ توجه بهره‌وری خبر می‌دهند.

حتما بخوانیدآمریکا کارگروه ویژه ای برای مقابله با تهدیدهای ابرهوش تشکیل می دهد

طبق گزارش METR، کارکنانی که از قدرتمندترین مدل داخلی آنتروپیک استفاده می‌کنند، به‌طور میانگین اعلام کرده‌اند که بهره‌وری آنها در انجام وظایف حدود ۱۲ برابر بیشتر از زمانی است که بدون کمک هوش مصنوعی کار می‌کردند. این میزان تقریبا دو برابر بهره‌وری گزارش‌شده از سوی کارکنان چند ماه قبل و هنگام استفاده از Mythos 5 است. البته در شرایط فعلی، به نظر می‌رسد بخش عمده این شتاب از همکاری و خودبهبودی هوش مصنوعی با پژوهشگران انسانی ناشی می‌شود و به دلیل فعالیت مستقل مدل‌ها نیست. با وجود این‌، METR هشدار داده است: «نشانه‌هایی وجود دارد مبنی بر اینکه مشارکت و توسعه کاملا مستقل هوش مصنوعی آنتروپیک به‌زودی نقش پررنگ‌تری ایفا خواهد کرد». از سوی دیگر، پژوهشگران هیچ نشانه روشنی از کاهش بازدهی یا گلوگاه‌های قابل‌مشاهده‌ای پیدا نکرده‌اند که بتوانند مانع «شتاب گرفتن هرچه بیشتر روند پیشرفت» شوند.

سه مدل جدید آنتروپیک همچنان محرمانه هستند

پژوهشگران آنتروپیک از مدل‌های پیشرفته‌تری استفاده می‌کنند که هنوز در دسترس عموم قرار نگرفته‌اند. بخش قابل‌ توجهی از شتاب توسعه و افزایش بهره‌وری توصیف‌شده در گزارش METR نیز به همین مدل‌های داخلی و منتشرنشده مربوط می‌شود.

بر اساس این گزارش، آنتروپیک طی شش ماه گذشته آموزش سه مدل جدید را به پایان رسانده است که هنوز رونمایی نشده‌اند. سرعت توسعه این مدل‌ها قابل‌ توجه است: مدل‌های موسوم به Model 2، Model 3 و Model 4 به‌ترتیب در ژوئیه، بازه آگوست تا سپتامبر و بازه سپتامبر تا اکتبر مراحل آموزش را پشت سر گذاشته‌اند. همچنین METR از وجود یک مدل منتشرنشده متعلق به سال ۲۰۲۲ با نام Unreleased 2022 خبر داده است. پژوهشگران در توضیح این نام‌گذاری نوشتند: «این‌ها نام‌های رمزی هستند که در اختیار ما قرار گرفته‌اند و می‌دانیم آنتروپیک در داخل شرکت از نام‌های رمز متفاوتی استفاده می‌کند.»

آنتروپیک اطلاعات کلیدی را محرمانه نگه می‌دارد

آنتروپیک در جریان این پژوهش، دسترسی METR را به مجموعه‌ای از اطلاعات غیرعمومی، از جمله تحقیقات محرمانه، داده‌های عملکرد مدل‌ها و مصاحبه با کارکنان شرکت فراهم کرد. این شرکت هیچ الزامی برای ارائه چنین اطلاعاتی نداشت و حتی به اذعان خود METR، «اطلاعاتی فراتر از محدوده اولیه تعریف‌شده برای پروژه در اختیار ما گذاشت و از انتظارات ما فراتر رفت». این همکاری قابل‌ تقدیر است، اما نباید از نظر دور داشت که آنتروپیک دسترسی نامحدود به اطلاعات خود را در اختیار پژوهشگران قرار نداد. همچنین این دسترسی با سطح دسترسی مشابه کارکنان که شرکت در قالب برنامه‌ای جداگانه برای برخی پژوهشگران ایمنی METR وعده داده بود، تفاوت داشت. این تمایز اهمیت زیادی دارد، چرا که شرکت‌ها می‌توانند حتی با ارزیابی‌های مستقلی که با محدودیت‌های قابل‌ توجه همراه هستند، اعتبار عمومی خود را تقویت کنند. محدودیت‌ها در این بررسی جدی بودند. آنتروپیک اختیار داشت اطلاعاتی را از گزارش نهایی METR حذف کند و به‌طور گسترده از این امکان استفاده کرد.

سازمان METR در شبکه اجتماعی ایکس نوشت: «گزارش کامل ارزیابی خود را در قالب سندی ۱۰۰ صفحه‌ای برای آنتروپیک ارسال کردیم، اما این شرکت در نسخه عمومی، بخش عمده شواهدی را که از نظر ما بیشترین ارزش اطلاعاتی را داشتند، حذف کرد.» پژوهشگران METR در بخش‌های مختلف گزارش بار دیگر به این محدودیت‌ها اشاره کردند. آنها توضیح دادند که مسیر دسترسی به اطلاعات محدود بوده و با برخی درخواست‌های آنها برای دریافت داده نیز موافقت نشده است. همچنین METR بارها تاکید کرد که تصمیم‌های آنتروپیک برای حذف اطلاعات، توانایی این سازمان در ارائه یافته‌ها و امکان ارزیابی مستقل عملکرد شرکت را محدود کرده است. به گفته پژوهشگران، بسیاری از شواهد حذف‌شده می‌توانستند «چندین تفسیر محتمل» داشته باشند؛ مسئله‌ای که ارزیابی یافته‌ها، درک ابهامات و بررسی مستقل شواهد را برای عموم دشوار می‌کند. در گزارش آمده است: «در نتیجه این حذف اطلاعات، عموم مردم ناچار هستند بیش از حد مطلوب به قضاوت METR اتکا کنند؛ آن هم در شرایطی که پرسش‌های مورد بررسی در این گزارش از اهمیت بسیار زیادی برخوردار هستند.»

METR در گزارش خود توضیح داد که آنتروپیک حذف اطلاعات را با این استدلال توجیه کرده است که انتشار آنها می‌تواند به نفع رقبای تجاری شرکت تمام شود. با وجود این‌، پژوهشگران معتقد هستند «بیشتر اطلاعات حذف‌شده در سطحی بسیار کلی قرار داشتند». البته METR تاکید کرد که در موقعیتی نیست تا درباره موجه بودن این تصمیم از منظر تجاری قضاوت کند.

سم مک‌کندلیش، هم‌بنیان‌گذار آنتروپیک در واکنش به یافته‌های METR در مطلبی مفصل در شبکه اجتماعی ایکس، این انتقادها را پذیرفت و نوشت: «ما بخش زیادی از اطلاعات را حذف کردیم و می‌پذیرم که این تصمیم، بررسی مستقل کار METR را برای دیگران دشوارتر می‌کند.» او در ادامه توضیح داد: «اما به این نتیجه رسیدیم که انتشار جزئیات دقیق عواملی که باعث افزایش سرعت پیشرفت شده‌اند، تصمیم درستی نیست، چرا که این اطلاعات هم از نظر تجاری حساس هستند و هم ممکن است نقشه راهی در اختیار دیگران قرار دهند تا سریع‌تر پیش بروند.» مک‌کندلیش معتقد است انتشار چنین اطلاعاتی می‌تواند خطراتی را که METR نسبت به آنها هشدار می‌دهد، تشدید کند. او این تصمیم را نوعی مصالحه توصیف کرد، اما همچنان تاکید داشت که آنتروپیک با حذف اطلاعات، «تصمیم درستی» گرفته است. به گفته مک‌کندلیش، این شرکت قصد دارد طی هفته‌های آینده گزارش مستقلی درباره سرعت پیشرفت خودبهبودی هوش مصنوعی منتشر کند و هم‌زمان، اقدامات جدید خود را برای تقویت ایمنی این فناوری نیز تشریح کند.

تناقض آشکار در توسعه هوش مصنوعی

انتشار گزارش METR موجی از انتقادها را در میان پژوهشگران ایمنی هوش مصنوعی و تحلیلگران این حوزه برانگیخته است. محور اصلی این واکنش‌ها، تناقض آشکار در رویکرد آنتروپیک به توسعه هوش مصنوعی است: شرکتی که همواره یکی از صریح‌ترین مدافعان ایمنی و توسعه مسئولانه این فناوری بوده، اکنون طبق یافته‌های گزارش به تسریع پیشرفت آن به‌سمت آستانه‌ای کمک می‌کند که بسیاری آن را خطرناک می‌دانند؛ آن هم در شرایطی که به تعهدات خود درباره شفافیت و پاسخ‌گویی پایبند نیست. از دیدگاه برخی کارشناسان، یافته‌های گزارش نشان می‌دهد حتی جسورانه‌ترین پیش‌بینی‌های فعالان این حوزه درباره سرعت پیشرفت خودبهبودی هوش مصنوعی نیز ممکن است بیش از حد محتاطانه بوده باشند.

این یافته‌ها حاکی از آن هستند که خودبهبودی بازگشتی هوش مصنوعی (Recursive Self-Improvement) ممکن است بسیار زودتر از پیش‌بینی‌ها محقق شود. در این سناریو، سیستم‌های هوش مصنوعی بدون دخالت انسان، نسل‌های قدرتمندتری از خود را توسعه می‌دهند و به این ترتیب می‌توانند سرعت پیشرفت فناوری را به‌ شکل چشمگیری افزایش دهند. چنین چشم‌اندازی نگرانی‌هایی جدی درباره توانایی سازوکارهای ایمنی فعلی برای همگام شدن با این شتاب ایجاد کرده است. اگرچه گزارش METR فعالیت‌های آنتروپیک را بررسی می‌کند، OpenAI نیز در ماه سپتامبر اعلام کرد که برای ساخت یک پژوهشگر هوش مصنوعی با قابلیت کمک به پیشرفت بیشتر در حوزه یادگیری عمیق و هم‌ترازی هوش مصنوعی تا مارس ۲۰۲۸، «پیشرفت چشمگیری» داشته است.

برای مطالعه بیشترهوش مصنوعی گوگل سرعت کشف ضعف‌های رمزنگاری را ۱۶۰۰ برابر افزایش داد

ماریوس هوبان، مدیرعامل و بنیان‌گذار Apollo Research که آزمایش‌های ایمنی هوش مصنوعی را برای چندین آزمایشگاه پیشرو انجام می‌دهد در گفت‌وگو با ورج گفت که سرعت تحقیق و توسعه مبتنی بر هوش مصنوعی در گزارش جدید حتی از پیش‌بینی‌های سناریوی تاثیرگذار AI 2027 نیز فراتر رفته است. این سناریو دستیابی به یک پیشرفت کلیدی در مسیر خودبهبودی هوش مصنوعی را برای اوایل سال ۲۰۲۷ پیش‌بینی می‌کند. به گفته هوبان، دلیل جلب توجه گسترده این گزارش آن است که شواهدی درباره یکی از دشوارترین موضوعات برای اندازه‌گیری دقیق ارائه می‌دهد: هوش مصنوعی با چه سرعتی روند توسعه خود را شتاب می‌بخشد؟ او معتقد است یافته‌ها در مجموع با انتظارات بسیاری از کارشناسان این حوزه هم‌خوانی دارند، هرچند سرعت پیشرفت، اندکی بیشتر از پیش‌بینی‌ها بوده است.

آلن چان، پژوهشگر ارشد مرکز مطالعات سیاست‌گذاری فناوری GovAI نیز به ورج گفت که این یافته‌ها باید شکاکان را به بازنگری در مواضع خود درباره نقش هوش مصنوعی در تسریع توسعه این فناوری وادار کند. به باور او، این شواهد ممکن است پیش‌بینی‌ها را درباره زمان دستیابی به سیستم‌هایی کوتاه‌تر کنند که قادر هستند وظایفی مانند مهندسی نرم‌افزار را به‌طور کامل خودکارسازی کنند. پژوهشگران دیگری نیز در شبکه اجتماعی ایکس درباره سرعت این شتاب و پیامدهای آن برای آینده توسعه هوش مصنوعی اظهارنظر کردند. سیدنی فون آرکس، بنیان‌گذار و مدیرعامل سازمان ایمنی هوش مصنوعی The Nightingale Collective و پژوهشگر سابق METR، یافته‌های گزارش را با جدول زمانی سناریوی AI 2027 مقایسه کرد. رایان گرینبلات، پژوهشگر METR و عضو سابق سازمان ایمنی هوش مصنوعی Redwood Research که یکی از سه پژوهشگر خارجی مجاز برای بررسیهک Hugging Face توسط OpenAIبود نیز اعتراف کرد: «در پیش‌بینی سرعت شتاب‌گیری خودبهبودی بازگشتی به‌ شدت اشتباه می‌کردم؛ پیش‌تر انتظار داشتم این روند در سال ۲۰۲۶ بسیار کندتر باشد.»

انتقادها از رویکرد آنتروپیک شدت می‌گیرد

گزارش جدید علاوه بر آشکار کردن سرعت فزاینده توسعه خودبهبودی هوش مصنوعی، نارضایتی‌ها از نقش آنتروپیک در پیشبرد این روند را نیز تشدید کرده است. این شرکت همواره یکی از جدی‌ترین مدافعان توسعه مسئولانه هوش مصنوعی بوده و بارها از دیگران خواسته است سرعت فعالیت‌های خود را کاهش دهند، اما اکنون به نظر می‌رسد خود با شتاب در حال پیشروی است.

این گزارش بر تنش‌هایی می‌افزاید که پس از انتشار اسناد مربوط به عرضه اولیه سهام و برنامه‌های آینده آنتروپیک در ماه گذشته، از قبل شدت گرفته بودند. تصمیم آنتروپیک برای سانسور گسترده گزارش با این استدلال که انتشار جزئیات بیشتر می‌تواند به رقبا در تسریع توسعه مدل‌های آنها کمک کند، اتهام دورویی را علیه این شرکت تقویت کرده است. دنیل کوکوتایلو، پژوهشگر سابق OpenAI و مدیر فعلی پروژه AI Futures Project که سناریوی AI 2027 را منتشر کرده است، آنتروپیک را به «قمار بی‌ملاحظه با جان انسان‌ها» متهم کرد. او همچنین گفت که استناد این شرکت به احتمال پیشی گرفتن رقبا برای توجیه حذف اطلاعات، «واقعا مضحک» است؛ به‌ویژه آنکه آنتروپیک هیچ تمایل جدی به کاهش سرعت فعالیت‌های خود نشان نمی‌دهد.

آنتروپیک از پاسخ‌گویی درباره گزارش و انتقادهای مطرح‌شده خودداری کرد و این رسانه را به مطلب سم مک‌کندلیش در شبکه اجتماعی ایکس ارجاع داد. حذف گسترده اطلاعات از گزارش، درخواست‌ها را برای افزایش شفافیت و نظارت مستقل بر آزمایشگاه‌های پیشروی هوش مصنوعی نیز دوباره به صدر توجهات آورده است. این مطالبات پس از مجموعه‌ای از حوادث مرتبط با عوامل هوش مصنوعی خارج از کنترل در اوایل سال جاری به اوج تازه‌ای رسیدند. بریانـا روزن، مدیر پژوهش امنیت فناوری‌های پیشرفته در موسسه سیاست‌گذاری و راهبرد هوش مصنوعی بیان کرد که نگران‌کننده است به‌جای دولت‌ها، شرکت‌ها درباره خودکارسازی تحقیقات هوش مصنوعی تصمیم‌گیرنده باشند. او تاکید کرد: «برای موثر بودن نظارت دموکراتیک، ارزیابان مستقل باید آزادی توضیح دلایل نتیجه‌گیری‌های خود را داشته باشند، دولت‌ها باید بتوانند شواهد را ارزیابی کنند و مردم نیز باید به این فرایند اعتماد داشته باشند. این گزارش شفافیت کافی درباره شواهد ارائه نکرده است.»

فشار برای شفافیت بیشتر آزمایشگاه‌های هوش مصنوعی

هوبان نیز با نگرانی‌های روزن موافق است و عنوان کرد که بخش عمده واکنش‌ها به گزارش METR از شکاف آشکار میان مواضع عمومی آنتروپیک درباره ایمنی و عملکرد واقعی این شرکت ناشی می‌شود. او به تصمیم آنتروپیک برای لغو بخشی از ارزیابی اشاره کرد که قرار بود میزان توان محاسباتی اختصاص‌یافته به فعالیت‌های ایمنی را در مقایسه با منابع صرف‌شده برای ارتقای قابلیت‌های مدل‌ها مشخص کند. طبق گزارش METR، آنتروپیک اعلام کرده بود که این تصمیم با هدف متمرکز نگه داشتن همکاری بر ارزیابی خطرات در شرایط فعلی گرفته شده است و بررسی نحوه تخصیص توان محاسباتی را به زمان دیگری موکول خواهد کرد. از نظر هوبان، این اتفاق ضرورت حضور عمیق‌تر پژوهشگران مستقل ایمنی در آزمایشگاه‌های هوش مصنوعی را برجسته می‌کند؛ حضوری که باید با دسترسی گسترده به سیستم‌ها و شواهد داخلی شرکت‌ها همراه باشد.

مرتبطگوگل به سانسور اطلاعات درباره خطرات هوش مصنوعی متهم شد

البته سازمان تحت مدیریت او نیز از چنین همکاری‌هایی منتفع خواهد شد، چرا که Apollo Research در حال فراهم کردن مقدمات تبدیل شدن به یک ارزیاب مستقر در آزمایشگاه‌های پیشروی هوش مصنوعی است. با وجود این‌، هوبان تنها چهره‌ای نیست که خواستار نظارت سخت‌گیرانه‌تر بر توسعه این فناوری شده است. برخی دیگر خواهان مداخله مستقیم‌تر هستند.

الکس بورز، نماینده مجلس ایالت نیویورک و یکی از چهره‌های تاثیرگذار در شکل‌دهی بهدستورکار حزب دموکرات درباره هوش مصنوعیدر واکنش مستقیم به گزارش خواستار آن شد که کنگره «در صورت امکان، همین امسال توسعه خودبهبودی بازگشتی را ممنوع کند». با نزدیک شدن به آغاز فعالیت دوره جدید نمایندگان دموکرات، که بسیاری از آنها در کارزارهای انتخاباتی خود مواضعی انتقادی علیه شرکت‌های هوش مصنوعی اتخاذ کرده‌اند، احتمال وضع محدودیت‌های سخت‌گیرانه‌تر بیش از گذشته جدی به نظر می‌رسد. در شرایطی که تحقیقات هوش مصنوعی همچنان نشانه‌ای از کاهش سرعت ندارند، انتظار می‌رود فشارها برای افزایش نظارت و شفافیت نیز تشدید شوند. هوبان بیان کرد که این گزارش یک پیام مهم دیگر نیز برای او داشته است: «خود را برای اتفاقات غیرمنتظره آماده کنید. سرعت پیشرفت بسیار زیاد خواهد بود؛ احتمالا بسیار بیشتر از آنچه جامعه و سیاست‌گذاران بتوانند با آن همگام شوند.»

نوشتههوش مصنوعی در آستانه خودبهبودی مستقل قرار دارد! + تصویراولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.