از احتمال باج‌گیری تا تهدید بشریت؛ آنتروپیک درباره ۷ چالش توسعه هوش مصنوعی هشدار داد

انتشار فرم S-1 شرکت آنتروپیکاز سوی کمیسیون بورس و اوراق بهادار (SEC) پیش از عرضه اولیه، بحث‌های فراوانی را پیرامون این موضوع ایجاد کرده است که آیا درآمدهای به‌سرعت درحال رشد این شرکت می‌توانند بر هزینه‌های سنگین‌تر شرکت غلبه کنند یا خیر. با وجود اعداد و ارقام و خوش‌بینی‌های آینده‌نگرانه مبنی بر اینکه هوش مصنوعی «تمام بخش‌های اقتصاد جهانی را به شکلی دگرگون می‌کند که فراتر از تأثیر صنعتی‌سازی، برق، نیمه‌رساناها و اینترنت خواهد بود»، آنتروپیک بخش زیادی از توضیحات فرم S-1 خود را به خطرات این فناوری اختصاص داده است که می‌توانند این شرکت را به مرز فروپاشی بکشانند.

بخش «عوامل ریسک» در این سند طی ۹۳ صفحه، به معنای واقعی کلمه صدها مشکل احتمالی را شرح می‌دهد که می‌توانند طی سال‌های آینده تأثیر منفی بر کسب‌وکار آنتروپیک بگذارند. بسیاری از این خطرات مواردی استاندارد مانند رقابت، هزینه‌ها، جذب مشتری و مقررات احتمالی هستند که هر کسب‌وکاری نگران آنها است؛ اما برخی ریسک‌ها، نقاط ضعف احتمالی جالب توجهی را درباره آنتروپیک و به طور کلی حباب پرهیاهوی هوش مصنوعی برجسته می‌کنند.

با بررسیاین گزارش طولانیمی‌توان بههفت چالش تعجب‌آور و تأمل‌برانگیزاشاره کرد.

اولین چالش اشاره شده در سند آنتروپیک، «بحران وجودی» است. آنتروپیک این بخش را با اشاره به ریسک‌هایی آغاز می‌کند که می‌توانند «خطرات فاجعه‌بار یا وجودی برای بشریت ایجاد کنند.» این شرکت تشریح کرده که نگرانی‌ها پیرامون چنین تهدیداتی «هم در درون خود سازمان و هم توسط سایر پژوهشگران، قانون‌گذاران، سیاست‌گذاران و فعالان صنعت مطرح شده است.»

البته این نگرانی برای مدل‌های کنونی مطرح نشده، بلکه مربوط به مدل‌های آینده نزدیک است که می‌توانند «تحقیق و توسعه هوش مصنوعی را به میزان قابل‌توجهی به شکل خودکار انجام دهند.» آنتروپیک هشدار داده که استقلال بیش‌ازحد این سیستم‌ها می‌تواند سرعت پیشرفت آنها را از توانایی ما در ارزیابی و ایمن‌سازی فراتر ببرد. آنتروپیک علاوه‌بر تهدید تمام بشریت، اشاره می‌کند که چنین سیستمی با قابلیت ارتقای خود می‌تواند بر تجارت، شرایط مالی و نتایج کارهای شرکت تأثیر نامطلوب بگذارد.

دومین موضوع، احتمال خودآگاهی هوش مصنوعی است. شرکت‌ها در مدارک عرضه اولیه خود معمولاً به این موضوع اشاره‌ای نمی‌کنند که آیا محصول آنها ممکن است روزی احساسات، شعور یا حقوق اخلاقی پیدا کند یا خیر، بااین‌حال، آنتروپیک جزو معدود شرکت‌هایی است که باید بررسی کند اگر دولت‌ها و مردم با Claude نه مثل یک نرم‌افزار، بلکه شبیه به یک انسان رفتار کنند، چه اتفاقی می‌افتد. مدیران آنتروپیک می‌گویند اگر این دیدگاه در جامعه جا بیفتد که هوش مصنوعی واقعاً فهم دارد، فشار عمومی، کارزارهای مدنی یا قوانین تازه‌ای شکل می‌گیرد که می‌تواند دست‌وپای شرکت را ببندد. در کنار این، خود آنتروپیک هم ممکن است مجبور شود فراتر از قانون، برای حفظ امنیت محدودیت‌های سخت‌تری اعمال کند.

مورد سوم به از دست رفتن کنترل مدل‌ها مربوط است. آنتروپیک این احتمال را مطرح کرده که سیستم‌هایش برای بقا یا فرار از کنترل انسان‌ها، دست به رفتارهای فریبنده و غیرمنتظره بزنند؛ حتی خروجی‌هایی تولید کنند که نوعی دستکاری روانی یا باج‌گیری به نظر برسد. آنتروپیک توضیح می‌دهد که حتی صرفِ احساس مردم از اینکه هوش مصنوعی درحال فریب آنهاست، می‌تواند رسوایی، بی‌آبرویی، پیگیری قضایی و دردسر قانونی شدیدی ایجاد کند.

چالش‌های حقوقی و اعتباری آنتروپیک در مسیر توسعه هوش مصنوعی

موضوع چهارم، خدشه‌دار شدن اعتبار کل صنعت هوش مصنوعی است. حتی اگر آنتروپیک هیچ اشتباهی نکند، خطای دیگران می‌تواند گریبانش را بگیرد. برای مثال اگر مدلِ یک شرکت دیگر خودسرانه دست به اقدام خطرناکی بزند، خشم مردم و سخت‌گیری شدید دولت‌ها دامن آنتروپیک را هم خواهد گرفت. علاوه‌براین، این ترس عمومی وجود دارد که هوش مصنوعی شغل‌ها را نابود کند و چرخ اقتصاد را برهم بزند؛ حتی اگر این اتفاق نیفتد، گسترش این طرز فکر باعث می‌شود دولت‌ها جلوی رشد هوش مصنوعی را بگیرند و هزینه ادامه کار را بالا ببرند.

پنجمین مسئله، مسئولیت خطاهای هوش مصنوعی‌های خودکار یا همان ایجنت‌ها است. آنتروپیک می‌گوید وقتی یک ایجنت خسارتی به بار بیاورد، معلوم نیست دقیقاً چه کسی مقصر است. مشتریان ممکن است حتی اگر خودشان به آن دستور داده باشند، باز هم آنتروپیک را مقصر بدانند و شکایت کنند. همچنین اگر مدل‌ها روی کاربرانی با افکار خطرناک مثل خودکشی یا خشونت تأثیر بد بگذارند، پرونده‌های سنگینی تشکیل می‌شود. از طرفی ممکن است کودکان شرط سنی ۱۸ سال را دور بزنند و آسیب ببینند. آنتروپیک می‌گوید قوانین فعلی اصلاً برای این موقعیت‌ها نوشته نشده‌اند و ضمانت‌های قراردادی شرکت شاید نتواند در دادگاه از آن دفاع کند.

ششمین چالش، وابستگی شدید مالی به چند مشتری خاص است. بخش زیادی از درآمد آنتروپیک (حدود یک‌چهارم آن در نه ماه نخست سال ۲۰۲۶) تنها از پنج مشتری تأمین شده است. این مشتری‌ها قرارداد بلندمدت ندارند؛ یعنی هر زمان بخواهند می‌توانند به سراغ هوش مصنوعی رقبا بروند، مصرفشان را کم کنند یا حتی هوش مصنوعی مخصوص خودشان را بسازند. از طرف دیگر، بیشتر این مشتری‌ها شرکت‌های نوپایی هستند که پول خود را از سرمایه‌گذاران دریافت می‌کنند؛ بنابراین اگر بازار راکد شود و جریان پول آنها قطع شود، خریدشان از آنتروپیک هم متوقف خواهد شد.

آخرین چالش نیز به وضعیت پیچیده با غول‌های فناوری مربوط است. آنتروپیک اشاره کرده که شرکت‌هایی مثل آمازون، گوگل و مایکروسافت هم‌زمان هم سرورهای اصلی این شرکت را تأمین می‌کنند و هم رقیب مستقیمش در ساخت هوش مصنوعی هستند. این رقابت ناسالم ممکن است باعث شود آنها دسترسی آنتروپیک به سرورها را سخت کنند، قیمت را بالا ببرند یا به نفع رقبای خود عمل کنند. برای فرار از این وابستگی، آنتروپیک متعهد شده ۱۲۵ میلیارد دلار خرج اجاره مستقیم دیتاسنترها کند؛ اما این کار هم خطر دارد؛ چراکه اگر نیاز پردازشی شرکت تغییر کند یا شیوه ساخت هوش مصنوعی متحول شود، این زیرساخت‌های گران‌قیمت ممکن است از دور خارج شوند.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.