هشدار پدرخوانده هوش مصنوعی، مدیران OpenAI و آنتروپیک: خطر انفجار هوش نزدیک است

دو نفر از پدرخوانده‌های هوش مصنوعی مدرن و مدیران ارشد شرکت‌های OpenAI و آنتروپیک در مقاله‌ای به دولت‌ها هشدار داده‌اند که خود را برای «انفجار هوش» (Intelligence Explosion) آماده کنند؛ پدیده‌ای که به گفته آنها می‌تواند مهم‌ترین و سرنوشت‌سازترین تحول فناورانه در طول تاریخ بشر باشد.

گزارشی که با نویسندگی مشترک «جفری هینتون»، برنده جایزه نوبل، و «یاشوا بنجیو»، دانشمند کامپیوتر کانادایی، که هر دو به‌دلیل دستاوردهای بنیادینشان پدرخوانده‌های هوش مصنوعی نامیده می‌شوند، منتشر شده، از سیاست‌مداران می‌خواهد پیش از وقوع پیشرفت‌های مهارناپذیر دست‌به‌کار شوند.

نویسندگان این مقاله نگران وقوع پدیده‌ای به نام «انفجار هوش» هستند؛ رویدادی که آن را به‌صورت «شتاب‌گیری چشمگیر در پیشرفت فناوری با هدایت خودِ هوش مصنوعی» توصیف کرده‌اند که می‌تواند دستاوردهایی را که دستیابی به آنها نیازمند سال‌ها زمان است، به چند ماه یا حتی کمتر کاهش دهد.

این مقاله پژوهشیبا عنوان «چه می‌شود اگر خودکارسازی تحقیق و توسعه هوش مصنوعی جرقه انفجار هوش را بزند؟»، با مشارکت بیش از ۲۰ پژوهشگر از جمله هینتون و بنجیو تدوین شده است. «جک کلارک»، هم‌بنیان‌گذار آنتروپیک، و «یاکوب پاچوکی»، دانشمند ارشد OpenAI نیز در میان نویسندگان این گزارش حضور دارند.

نگرانی اصلی نویسندگان، امکان ارتقا و بهبود خودکار سیستم‌های هوش مصنوعی بدون دخالت انسان است؛ فرایندی که تحت عنوان «خودبهبودی بازگشتی» (RSI) شناخته می‌شود و در این پژوهش به‌طور کلی به خودکارسازی تحقیق و توسعه هوش مصنوعی تعبیر شده است. طبق داده‌های این مقاله، اگر سیستم‌های هوش مصنوعی به سطحی از توانمندی برسند که تحقیق و توسعه را به‌طور تخصصی انجام دهند، تنها یک توسعه‌دهنده منفرد می‌تواند نیروی کاری معادل «میلیون‌ها» پژوهشگر تراز اول انسانی را در اختیار داشته باشد.

به باور نویسندگان، خودکارسازی تحقیق و توسعه محتمل‌ترین محرک انفجار هوش به حساب می‌آید؛ چراکه سیستم‌ها درحال‌حاضر نیز درحال بهبود فناوری خود هستند و مدل‌های ارتقایافته می‌توانند بلافاصله پس از توسعه در مقیاس وسیع مستقر شوند. در بخشی از متن مقاله آمده است

«انفجار هوش می‌تواند تأثیرگذارترین پیشرفت فناورانه تاریخ بشر باشد، سال‌ها پیشرفت را در چند ماه یا کمتر فشرده کند، کنترل انسان‌ها بر سیستم‌ها را به خطر بیندازد و توازن قدرت را در درون و میان دولت‌ها، شرکت‌ها و ارکان حاکمیتی به‌شدت تضعیف سازد. به‌محض اینکه انفجار هوش آغاز شود، ممکن است فرصت ما برای هرگونه اقدام تمام شود.»

ابعاد نامعلوم، ریسک‌های سه‌گانه و مهار انفجار هوش

به گفته نویسندگان، هرچند چنین پدیده‌ای می‌تواند به جهش‌های بزرگ علمی و پیشرفت‌های چشمگیر پزشکی منجر شود، اما هم‌زمان 3 خطر مهم را به همراه دارد. اول اینکه سیستم‌های فوق‌قدرتمند می‌توانند تهدیدهای بیولوژیکی و حملات سایبری پیچیده‌ای ایجاد کنند که سرعت رشد آنها بسیار فراتر از سرعت تدوین اقدامات متقابل و بازدارنده خواهد بود. دوم اینکه با کمرنگ‌شدن نقش انسان در تحقیق و توسعه، فرصت اعمال نظارت و مهار سیستم‌ها از دست خواهد رفت؛ و سوم اینکه دولت‌ها می‌توانند از انفجار هوش برای تبدیل برتری‌های جزئی خود در حوزه‌هایی نظیر فضای سایبری به برتری مطلق و تعیین‌کننده بهره‌برداری کنند.

البته در این گزارش تأکید شده که ابعاد این پیامدها همچنان با «عدم‌قطعیت» روبه‌رو است. برای مثال، اجرایی‌شدن یک پیشرفت علمی ممکن است به دلیل ضرورت ایجاد زنجیره‌های تأمین برای مواد خاص یا انطباق با قوانین و مقررات، نیازمند زمان باشد. از سویی دیگر، خود سیستم‌های هوش مصنوعی نیز می‌توانند سرعت مهار و تعدیل این خطرات را افزایش دهند.

بااین‌حال، نویسندگان هشدار می‌دهند که در صورت تحقق چنین جهشی، سیستم‌های هوش مصنوعی می‌توانند در بیشتر حوزه‌ها به‌سرعت از متخصصان انسانی سبقت بگیرند و شتابی بنیادین برای پیشرفت فناوری ایجاد کنند؛ امری که آمادگی برای آن باید به یک اولویت بسیار فوری در بالاترین سطوح رهبری دولت‌ها تبدیل شود.

برای رویارویی با سناریوی انفجار هوش، پژوهشگران بسته سیاستی جامع‌تری را به دولت‌ها پیشنهاد داده‌اند. براساس این توصیه‌ها، شرکت‌ها باید گزارش‌های شفافی درباره پیشرفت تحقیق و توسعه ارائه دهند و امکان حضور حسابرسان مستقل را فراهم کنند. همچنین باید سقفی معین برای سرعت پیشرفت و ارتقای مدل‌ها در یک بازه زمانی مشخص در نظر گرفته شود. پیشنهاد شده که با همکاری مراکز داده، قابلیت متوقف‌سازی برخی پروژه‌های پرریسک هم فراهم شود. پژوهشگران همچنین بر ایزوله‌بودن کامل سیستم‌های خودکار تأکید کرده‌اند تا هیچ راه فراری از مهار انسان باقی نماند و در نهایت، از دولت‌ها خواسته شده تا طرح‌های واکنش اضطراری دقیقی را برای سناریوهای مختلف ناشی از این پدیده آماده کنند.

در‌حال‌حاضر، OpenAI و آنتروپیک پس از اعلام هشدار نسبت به رسیدن شرایط ایمنی به نقاط بحرانی، با ارزیابی مدل‌های خود توسط ناظران مستقل موافقت کرده‌اند. هم‌اکنون ۸۰ درصد کدهای شرکت آنتروپیک توسط خود هوش مصنوعی تولید می‌شود و OpenAI نیز در حوزه‌هایی نظیر آموزش مدل‌های جدید از ایجنت‌های مستقل استفاده می‌کند. شواهد اولیه نشان می‌دهد که انفجار هوش نرم‌افزاری کاملاً دست‌یافتنی است و می‌تواند مستقیماً به توسعه پرشتاب سیستم‌های مافوق‌انسانی منجر شود.

با وجود برخی نقایص فعلی مانند سرپیچی از دستورها، پیش‌بینی می‌شود پروژه‌های تحقیق و توسعه‌ای که پیش‌تر ماه‌ها زمان انسان‌ها را می‌گرفت، تا سال ۲۰۲۸ به‌طور کامل توسط هوش مصنوعی خودکارسازی شوند. نویسندگان در پایان توضیح داده‌اند

«رشد بهره‌وری حاصل از خودکارسازی تحقیق و توسعه هنوز به آستانه لازم برای کلیدزدن انفجار هوش نرسیده است، اما دستاوردهای مدل‌های جدیدتر به‌سرعت درحال نزدیک‌شدن به این مرز بحرانی هستند.»

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.