نقشه‌برداری از سرنوشت بشر در عصر هوش مصنوعی

آن‌ها می‌گویند این پنج دنیای هوش مصنوعی می‌تواند به فعالان این حوزه کمک کند تا درباره اهداف نهایی و قانون‌گذاری به طور معناداری با یکدیگر صحبت کنند. باراک می‌گوید: «ما لحنی طنزآمیز به کار بردیم، اما در تلاش برای پایه‌ریزی این بحث جدی هستیم.»

شکست هوش مصنوعی؛ وقتی منابع به پایان می‌رسند

پرسش درباره اینکه هوش مصنوعی چگونه آینده ما را شکل خواهد داد با یک سؤال ساده آغاز می‌شودآیا پتانسیل هوش مصنوعی کم‌رنگ خواهد شد؟در حال حاضر این‌طور به نظر نمی‌رسد، اما پیشروی هوش مصنوعی به طور قابل‌قبولی می‌تواند توسط اشتهای سیری‌ناپذیر آن برای منابع متوقف شود. ممکن است تمام برق و آب موردنیاز برای اجرا و خنک‌سازی سرورهای هوش مصنوعی در نهایت منجر به ممنوعیت توسعه بیشتر آن شود. یا ممکن است داده‌هایی که برای آموزش مدل‌های هوش مصنوعی آینده نیاز داریم تمام شود؛ به این معنی که این فناوری هرگز به قدرت تحول‌آفرینی که وعده می‌دهد دست نخواهد یافت و دنیایی را ایجاد خواهد کرد که اسکات آرونسون و بواز باراک، آن را «شکست هوش مصنوعی» (AI-Fizzle) می‌نامند. باراک می‌گوید: «من فکر می‌کنم این سناریو بعید است. من معتقدم که هوش مصنوعی تغییرات بسیار چشمگیری در جهان ایجاد خواهد کرد.»

با فرض اینکه ما در نهایت از «سرزمین شکست» (Fizzlandia)، آن طور که یکی از مفسران توصیف کرده سر در درنیاوریم، باید با سؤال دیگری روبرو شویم: آیا تمدن به توسعه خود به شیوه‌ای قابل‌تشخیص ادامه می‌دهد؟ اگر پاسخ مثبت است، آرونسون و باراک پیشنهاد می‌کنند که ما ممکن است در نهایت در یکی از دو سناریوی دیگر قرار بگیریم. یکی خوب است و آن را به نام سریال انیمیشنی که تمدن آینده‌ای عمدتاً مثبت را به تصویر می‌کشد، «فیوچراما» (Futurama) یا «آینده‌نما» می‌نامند. دیگری نه‌چندان خوب. آن‌ها آن را «پادآرمان‌شهر هوش مصنوعی» (AI-Dystopia) می‌نامند.

کابوس اورولی؛ هوش مصنوعی به مثابه تقویت‌کننده استبداد

پادآرمان‌شهر هوش مصنوعی از داستان‌های علمی-تخیلی بی‌شماری قابل‌تشخیص است که معروف‌ترین آن‌ها رمان «۱۹۸۴» اثر «جورج اورول» (George Orwell) است. در ۱۹۸۴، یک دولت با اعمال نظارت عمیق شهروندان را وادار به پیروی بی‌چون‌وچرا می‌کند. نابرابری‌ها و تعصبات نهادینه شده‌اند، محیط کار نامناسب است و کارمندان به جز تعداد اندکی از نخبگان، دستمزد ناچیزی می‌گیرند. البته آرونسون می‌گوید: «عموم مردم گفته‌اند که سناریوی ۱۹۸۴ هرگز واقعاً عملی نبود؛ زیرا شما هرگز نمی‌توانستید افراد کافی برای تماشای تمام صفحه‌های نمایش داشته باشید؛ اما با هوش مصنوعی چنین چیزی ممکن می‌شود.»

او می‌گوید اگر ما واقعاً به چنین جایی برسیم در واقع هوش مصنوعی مقصر نخواهد بود؛ زیرا فناوری قدرتمند همیشه صرفاً تقویت‌کننده مسائل موجود است. «برخی از مردم می‌گویند اگر می‌دانیم که قرار است از یک فناوری برای اهداف منفی استفاده شود، نباید آن را بسازیم. اما اگر قرار نباشد چیزی را اختراع کنید که بتوان از آن برای اهداف منفی استفاده کرد، شما صرفاً هیچ‌چیزی اختراع نخواهید کرد.»

فیوچراما؛ نسخه‌ای بهبودیافته از امروز

باراک امیدوار است که توسعه هوش مصنوعی منجر به عاقبت بهتر، یعنی سبک فیوچراما شود. به نظر او چنین چیزی خوش‌ترین پایان ممکن است و می‌گوید: «فیوچراما اساساً سناریویی است که اوضاع مانند امروز است، اما بهتر.» در اینجا، هوش مصنوعی برای کاهش فقر و اطمینان از اینکه افراد بیشتری از نوع بشر به غذا، مراقبت‌های بهداشتی، آموزش و فرصت‌های اقتصادی دسترسی دارند، استفاده می‌شود. ممکن است آسیب‌های گاه‌به‌گاهی ناشی از غرض‌ورزی یا سهل‌انگاری انسان وجود داشته باشد، اما ساکنان انسانی این دنیا احتمالاً به‌طورکلی از سهم و سرنوشت خود بسیار راضی خواهند بود.

تکینه‌نما؛ بهشتی در دستان خدایان دیجیتال

اوضاع می‌تواند حتی از این هم بهتر شود. آرونسون امیدوار است که روزی ممکن است در یک آرمان‌شهر تحت مدیریت هوش مصنوعی زندگی کند که او و باراک آن را «سینگولاریا» (Singularia) یا «تکینه‌نما» می‌نامند. این اتفاق زمانی می‌افتد که تأثیر هوش مصنوعی آن‌قدر عمیق باشد که دنیای آینده ما را به شیوه‌ای خوب، غیرقابل‌تشخیص کند. در اینجا، شما در کنار انواعی از هوش مصنوعی زندگی خواهید کرد که عملاً گونه‌ای جدید و فوق‌هوشمند هستند که اداره تمدن را بر عهده می‌گیرند. خوشبختانه، آن‌ها اداره‌کنندگانی خیرخواه هستند که نسبت به انسان‌های فقیر و ناتوان جامعه مدارا دارند. آن‌ها مشکلات مادی ما را حل می‌کنند، فراوانی نامحدود برایمان فراهم می‌آورند، بسیاری از وظایف خسته‌کننده ما را بر عهده می‌گیرند و برای ذهن‌های ما که به‌تازگی دچار کمبود تحریک شده‌اند، سرگرمی فراهم می‌کنند. آرونسون می‌گوید: «این عملاً بهشتی است که توسط هوش مصنوعی ساخته شده است.»

آخرالزمان گیره کاغذ؛ بهای یک اشتباه منطقی

لذت‌بخش است؛ اما اگر هوش مصنوعی رئیس و همه‌کاره چندان سخاوتمندی نباشند چه؟ به «آخرالزمان گیره کاغذ» (Paperclipalypse) خوش آمدید (صفحه بعد را ببینید). دلیل خوبی برای نام عجیب این دنیا وجود دارد. در سال ۲۰۰۳، «الیزر یودکوفسکی» (Eliezer Yudkowsky)، ریاضی‌دان و متخصص اخلاق و هم‌بنیان‌گذار MIRI، یک آزمایش فکری را توصیف کرد که در آن بشریت به یک هوش مصنوعی وظیفه می‌دهد روند تولید برخی چیزهای بی‌ضرر مثلاً گیره کاغذ را بهبود دهد. اگر راجع‌به مشخصات و وظایف به‌درستی فکر نشود، هوش مصنوعی ممکن است در نهایت بشریت را نابود کند؛ زیرا گونه ما بر سر راه استفاده و برداشت تمام منابع زمین و شاید منابع سایر دنیاها، برای ساختن گیره‌های کاغذ بیشتر و بهتر ایستاده است.

استدلال یودکوفسکی ظریف‌تر از این بود؛ اما نکته کلی آن ساده است. تصور سناریوهایی که در آن ایجاد هوش مصنوعی ممکن است آخرین کاری باشد که ما انسان‌ها انجام می‌دهیم، دشوار نیست. ازاین‌رو، نیاز است که به این موضوع عمیقاً فکر کنیم که مدل‌های هوش مصنوعی اجازه دارند روی چه چیزی کار کنند، اتصال آن‌ها به منابع فیزیکی مانند نیروگاه‌ها یا سلاح‌های هسته‌ای چگونه است و شفافیت و پاسخگویی توسعه‌دهندگانشان چگونه است و باید سریع هم فکر کنیم. «گرتا دولبا» (Gretta Duleba) مدیر ارتباطاتMIRI می‌گوید: «تغییر سیاست‌ها و مقررات زمان می‌برد و چرخ‌دنده‌های دولت‌ها به‌کندی می‌چرخند. ما نگرانیم که قبل از اینکه بتوان قوانین معناداری را وضع کرد، وقتمان تمام شود.»

آرونسون و باراک به نوبه خود چندان نگران چشم‌انداز آخرالزمان گیره کاغذ نیستند. درحالی‌که یودکوفسکی یک رویداد فاجعه‌بار را به‌عنوان محتمل‌ترین نتیجه و تقریباً پیش‌فرض تحقیقات هوش مصنوعی بد تدوین‌شده می‌بیند، آرونسون فکر می‌کند این امر بعید است. باراک کمی محتاط‌تر است و می‌گوید: «من به چیزهای بسیار افراطی مثل سینگولاریا یا آخرالزمان گیره کاغذ باور ندارم، اما فکر می‌کنم مهم است که ذهنی باز داشته باشیم.»

چنین چیزی ایده خوبی به نظر می‌رسد؛ همان‌طور که ChatGPT بیان کرد عمدتاً برای اطمینان از اینکه ما درباره «نحوه توسعه، تنظیم و یکپارچه‌سازی هوش مصنوعی» مراقب هستیم. اگر مراقب نباشیم ممکن است خود را بدون هیچ انتخابی در نحوه رقم‌خوردن «ماجراجویی خودت انتخاب کن» (Choose-your-own-adventure) با هوش مصنوعی بیابیم.

حقیقت این است که حتی با قوانین خیرخواهانه، کاملاً ممکن است که ما سر از یکی از دنیاهای تحت‌تأثیر هوش مصنوعی درآوریم که ترجیح می‌دادیم از آن اجتناب کنیم. در این صورت، ما همچنین باید بفهمیم که چگونه بین دنیاها حرکت کنیم. بالاخره، ممکن است روزی بخواهیم راهمان را از پادآرمان‌شهر هوش مصنوعی به سناریوی فیوچراما یا بهتر از آن، سینگولاریا پیدا کنیم. آرونسون می‌پرسد: «آیا من می‌خواهم در دنیایی با شکوفایی نامحدود موجودات دارای ادراک در هر بهشت شبیه‌سازی‌شده‌ای که می‌خواهیم، زندگی کنم؟ بله، من کاملاً طرفدار آن هستم.»

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.