هوش مصنوعی، اوراکل دلفی جدید است و این خبر بدی است

پیش‌بینی به قدمت حیاتِ هوشمند است. در دوران پیش از انقلاب صنعتی، بخشی از عواملی که انسان‌ها را علی‌رغم ضعف‌های جسمانی‌شان قدرتمند می‌ساخت، توانایی پیش‌بینی رفتار سایر حیوانات بود که شکار را برای آن‌ها آسان‌تر می‌کرد.

در دنیای مدرن، پیش‌بینی همچنان مجموعه‌ای از مزیت‌های رقابتی را به همراه دارد. به‌عنوان‌مثال، اگر مدیریت یک شرکت را بر عهده دارید، همه چیز از انتخاب کسب‌وکارهایی برای ورود یا خروج گرفته تا یافتن مکان مناسب برای عملیات، تا حدودی به پیش‌بینی بستگی دارد.

«کاریسا ولیز» (Carissa Véliz) دانشیار فلسفه و اخلاق در دانشگاه آکسفورد و نویسنده کتاب « Prophecy: Prediction, Power, and the Fight for the Future, from Ancient Oracles to AI» است.

عصر هوش مصنوعی شکوفایی عظیمی در حوزه پیش‌بینی به همراه داشته است. یادگیری ماشین در واقع یک دستگاه پیش‌بینی است. این فناوری از داده‌های تاریخی برای پر کردن جاهای خالی استفاده می‌کند، خواه پیش‌بینی یک متن باشد یا تصمیم‌گیری در مورد اینکه آیا یک فرد کارمند خوبی خواهد شد یا خیر. حتی واژه «اوراکل» (Oracle) یک اصطلاح فنی در یادگیری ماشین به معنای سیستمی با پیش‌بینی بی‌نقص است.

الگوریتم‌های پیش‌بینانه همه‌جا حضور دارند و درها را به روی ما باز کرده و می‌بندند. آن‌ها تصمیم می‌گیرند که آیا ما بیمه، وام یا آپارتمان دریافت می‌کنیم یا خیر. سازمان‌های مجری قانون مانند یک پلیس از ابزارهای پیش‌بینی‌کننده استفاده می‌کنند که محله‌ها یا افراد را به‌عنوان موارد پرخطر نشانه‌گذاری می‌کنند. الگوریتم‌های پیش‌بینانه در سیستم قضایی برای هدایت تصمیم‌گیری‌ها در مورد وثیقه، صدور حکم و آزادی مشروط به کار می‌روند. پلتفرم‌های پخش محتوا و فیدهای شبکه‌های اجتماعی نیز برای گزینش و پالایش محتوا به آن‌ها متکی هستند.

استفاده از فناوری پیش‌بینانه برای تصمیم‌گیری در مورد افراد، پرسش‌های اخلاقی‌ای را مطرح می‌کند که بشریت با بی‌توجهی نگران‌کننده‌ای زمان بسیار اندکی را صرف تأمل درباره آن‌ها کرده است. تفکر بیشتر پیرامون این پرسش‌ها به تصمیم‌گیری‌های بهتری در مورد زمانِ استفاده و عدم استفاده از پیش‌بینی منجر خواهد شد.

پیش‌بینی‌ها در بهترین حالت، حدس‌هایی آگاهانه هستند. علی‌رغم تحقیقات و پژوهش‌های بسیار زیادی در مورد سوگیری‌های پیش‌بینانه هوش مصنوعی ناشی از داده‌های آموزشی سوگیرانه یا نقص‌های طراحی الگوریتمی در حال انجام است؛ این پیش‌بینی‌ها اغلب مملو از تعصب و سوگیری هستند. احکام صادرشده توسط پیش‌بینی‌های الگوریتمی همچنین فرایندهایی کافکایی (Kafkaesque) ایجاد می‌کنند که در آن‌ها افراد نمی‌توانند به تصمیمات اعتراض کنند، زیرا این تصمیمات بر اساس معیارهای مشخص و تعریف‌شده‌ای اتخاذ نمی‌شوند؛ بلکه مبتنی بر تطبیق الگوهای جعبه‌سیاه (black-boxed pattern-matching) توسط یک ماشین هستند.

در سطحی عمیق‌تر، نوعی تکبر در پیش‌بینی‌های اجتماعی وجود دارد. هنگامی که آینده افراد را به‌گونه‌ای پیش‌بینی می‌کنیم که گویی وضعیت آب‌وهوا را پیش‌بینی می‌کنیم؛ با آن‌ها به‌عنوان اشیایی بی‌جان رفتار می‌کنیم، نه به‌عنوان عامل‌هایی که در آینده خود حق انتخاب دارند و می‌توانند احتمالات را به چالش بکشند.

خروجی‌های هوش مصنوعی پیش‌بینی‌کننده ممکن است مانند توصیفی از جهان به نظر برسند، اما مبتنی بر هنجار و قاعده‌مند هستند و به طور ضمنی به ما می‌گویند چه کاری انجام دهیم. وقتی یک مدل زبانی بزرگ به من می‌گوید که در آینده همه برای کسب‌وکار خود از LLMها استفاده خواهند کرد، در حال تشویق من است تا وارد عمل شوم و چشم‌انداز سازندگان آن از جهان را محقق سازم. در اصطلاحات فلسفی، پیش‌بینی‌ها «کنش‌های گفتاری» (speech acts) هستند که بیشتر به دستورات شباهت دارند تا توصیف‌ها. وقتی ما به آن‌ها اعتبار می‌بخشیم و بر اساس آن‌ها عمل می‌کنیم، در واقع در حال اطاعت از آن‌ها هستیم.

این امر به این پرسش اخلاقی منجر می‌شود که آیا ممکن است مسائلی وجود داشته باشند که نباید آن را پیش‌بینی کنیم، حتی اگر توانایی آن را داشته باشیم. پیش‌بینی‌ها در مورد انسان‌ها تمایل دارند واقعیت را به سمت خود متمایل کنند. در زمان‌های مختلف در روم باستان، مقامات پیشگویی‌ها در مورد مرگ امپراتور را ممنوع کردند؛ صرفاً به‌این‌علت بدیهی که معمولاً به قتل امپراتور منجر می‌شدند. یک مدل هوش مصنوعی که آینده مالی تیره‌ای را برای یک فرد پیش‌بینی می‌کند می‌تواند با محروم‌کردن وی از دریافت اعتبار، وی را بیش‌ازپیش به سمت محرومیت اقتصادی سوق دهد. پیش‌بینی یک بیماری در آینده ممکن است باعث افزایش حق بیمه‌ها شود، شرایط مالی را دشوارتر کرده و به دلیل استرس منجر به وخامت وضعیت سلامتی گردد.

اکنون که بیش از هر زمان دیگری از پیش‌بینی استفاده می‌کنیم، مایه نگرانی است که هیچ قانونی برای آن نداریم. حتی بحث عمومی چندانی در مورد چارچوب‌های محافظتی وجود ندارد و در مقابل پرسش‌های بزرگ فراوانی وجود دارند. به‌عنوان‌مثال
در زمینه عدالت آیا باید معیارهای شفاف و قابل‌اعتراض را برای تصمیم‌گیری به تطبیق الگوهای آماری ترجیح دهیم؟
در صنعت بیمه، آیا منصفانه است که حق بیمه‌ها را صرفاً بر اساس پیش‌بینی‌های فردی تخصیص دهیم که در تضاد با اصل تجمیع ریسک (pooling-of-risk) در قلب این صنعت است؟

فقدان قوانین به هر کسی این آزادی را می‌دهد تا از هوش مصنوعی برای انجام هر نوع پیش‌بینی در مورد دیگران استفاده کند و براین‌اساس عمل کند؛ بدون اینکه حتی سوژه پیش‌بینی را از پیشگویی‌هایی که بر سرنوشت او تأثیر می‌گذارند مطلع کند. اگر هوش مصنوعی شخصی را برای استخدام نامناسب تشخیص دهد و اکثر شرکت‌ها از هوش‌های مصنوعی مشابهی برای استخدام افراد استفاده کنند، آن شخص هیچ‌گاه شغلی پیدا نخواهد کرد. شاید هوش مصنوعی در حال دستیابی به «دقت» به قیمت ایجاد واقعیتی باشد که ادعای پیش‌بینی آن را دارد. بدتر از آن، پیشگویی‌های خودکام‌بخش (self-fulfilling prophecies) مانند جنایات بی‌نقص عمل می‌کنند؛ زیرا سیگنال‌های خطایی تولید نمی‌کنند. ما هرگز نخواهیم فهمید شخصی که شغلی پیدا نکرده آیا می‌توانست کارمند فوق‌العاده‌ای باشد یا خیر، زیرا آن داده‌ها اصلاً وجود ندارند.

تفکر درباره هوش مصنوعی صرفاً از منظر فناوری اشتباه است. بررسی آن از دیدگاه اخلاقی نیز بسیار حیاتی است؛ نه به‌خاطر روشنفکری، بلکه به این دلیل که عملکرد پیش‌بینانه آن تأثیر ملموس و بحث‌برانگیزی بر نحوه رفتار انسان‌ها و دستاوردهای آن‌ها دارد. اگرچه روش‌های آن با پیشگویی‌های گذشته بسیار متفاوت است، اما کارکرد سیاسی هوش مصنوعی در جلوه‌دادن تصمیمات قابل مناقشه و مبتنی بر ارزش به‌عنوان حقایق، مشابه کارکرد اوراکل‌ها، پیشگویان و منجمان در طول تاریخ است. تلاش‌ها برای پیش‌بینی آینده افراد با تلاش‌ها برای کنترل آن همسو است. اگر بدانیم کسی فردا چه کاری انجام خواهد داد، احتمال زیادی وجود دارد که دلیل آن، تعیین رفتار وی توسط ما باشد.

مراقب پیش‌بینی‌ها باشید. تنها زمانی که بپذیریم نمی‌دانیم آینده چه چیزی در چنته دارد و براین‌اساس عمل کنیم، می‌توانیم از زندگی در یک جامعه آزاد اطمینان حاصل کنیم.

گزارش حاضر در نسخه April 25^th2026 نشریه The Economist منتشر شده است.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.