هشدار درباره نابودی بشریت، برگ برنده آنتروپیک برای ورود به بورس!

شرکت آنتروپیک در آستانه عرضه اولیه سهام با ارزش‌گذاری احتمالی ۲ تریلیون دلاری، در اسناد خود درباره خطرات فاجعه‌بار هوش مصنوعی و احتمال نابودی بشریت هشدار داده است.

به‌ گزارشسرویس هوش مصنوعی تک‌ناکاین آزمایشگاه پیشرو در توسعه هوش مصنوعی پیشرفته، در حالی خود را برایورودبه بورسآماده می‌کند، که در نیمه نخست سال ۲۰۲۶ به‌تنهایی۸۰ میلیارد دلارزیان ثبت کرده است. اسناد چندصدصفحه‌ای عرضه اولیه سهام آنتروپیک نیز از مجموعه‌ گسترده‌ای از ریسک‌های ذاتی این تصمیم پرده برمی‌دارند.

بیشتر بخوانیدتکرار نام شرکت یاسمین رضوی در پرونده بورسی آنتروپیک توجه‌ها را جلب کرد

احتمال نابودی بشریت به دست هوش مصنوعی

مشکلات آنتروپیک تنها به انتقادهای فزاینده از گسترش مراکز داده در سراسر کشور، ضعف زیرساخت‌ها، کمبود ظرفیت برق و چالش‌های حقوقی احتمالی ناشی از استفاده نادرست از محصولات محدود نمی‌شود. همچنین این شرکت در اسناد خود، خطرات این فناوری‌ها را برای بشریت برجسته کرده است؛ خطراتی که آنتروپیک از آنها با عنوان «فاجعه‌بار یا وجودی» یاد می‌کند.

این اعتراف در شرایطی مطرح می‌شود که آنتروپیک می‌کوشد خود را به‌ عنوان نامزد تبدیل شدن به ارزشمندترین شرکت هوش مصنوعی جهان معرفی کند؛ شرکتی که حتی ممکن است از اسپیس‌ایکس، متعلق به ایلان ماسک پیشی بگیرد. در واقع، این عرضه اولیه می‌تواند نخستین نمونه از ورود شرکتی به بورس باشد که در همان حال، درباره احتمال نقش‌آفرینی موجودیت خود در نابودی بشریت هشدار می‌دهد.

آنتروپیک در اسناد عرضه اولیه سهام توضیح داده است که برای ارزیابی ایمنی مدل‌های هوش مصنوعی خود بارها ناچار به اتخاذ تصمیم‌های قضاوت‌محور می‌شود. با وجود این‌، شرکت اذعان دارد که هیچ تضمینی برای کفایت اقدامات ایمنی‌ آن وجود ندارد.

در این اسناد آمده است: «این قضاوت‌ها از اهمیت ویژه‌ای برخوردار هستند، چرا که هرچه سیستم‌های هوش مصنوعی توانمندتر می‌شوند، شدت بالقوه آسیب‌های ناشی از مدل‌هایی که با اهداف نادرست عمل می‌کنند یا مورد سوءاستفاده قرار می‌گیرند نیز افزایش می‌یابد. گروه‌های مختلف ذی‌نفع، از جمله پژوهشگران و سیاست‌گذاران هشدار داده‌اند که اگر سیستم‌های هوش مصنوعی به‌اندازه کافی پیشرفته، مسئولانه توسعه داده و مستقر نشوند، ممکن است خطراتی فاجعه‌بار یا وجودی برای جامعه ایجاد کنند.» آنتروپیک در ادامه تاکید کرده است: «رویکرد ایمنی‌محور ما تا حدی با هدف کاهش این خطرات طراحی شده است، اما نمی‌توان تضمین کرد که تلاش‌های ما موفقیت‌آمیز باشند یا سایر شرکت‌های صنعت هوش مصنوعی نیز تدابیر حفاظتی مشابهی اتخاذ کنند.»

حتما بخوانیدآنتروپیک انتظار دارد هوش مصنوعی به دستاوردهای علمی در حد نوبل برسد

به بیان دیگر، حتی یکی از پیشتازان توسعه فناوری‌های پیشرفته هوش مصنوعی نیز نمی‌تواند تضمین کند که محصولات آن باعث فاجعه نابودی بشریت نخواهند شد. جیکوب کاکسون، پژوهشگر سابق آنتروپیک، اوایل سال جاری هنگام استعفا در اعتراض به وضعیت شرکت، در بیانیه‌ای جنجالی هشدار داده بود که این فناوری ممکن است «تا پایان این دهه همه ما را بکشد».

آنتروپیک حتی از کند شدن روند توسعه مدل‌های پیشرفته هوش مصنوعی در سراسر صنعت حمایت کرده است؛ موضعی که بخشی از تلاش این شرکت برای متمایز کردن خود به‌ عنوان گزینه‌ای مسئولانه‌تر در مقایسه با رقبایی مانند OpenAI و اسپیس‌ایکس محسوب می‌شود.

با وجود این‌، نمی‌توان احتمال وجود انگیزه‌های دیگری را پشت این درخواست و هشدارهای پی‌درپی درباره «خطرات فاجعه‌بار یا وجودی برای جامعه» نادیده گرفت. آنتروپیک در نهایت شرکتی است که به دنبال جذب سرمایه‌گذاران است و می‌خواهد خود را بازیگری قابل‌اعتمادتر و احتمالا باثبات‌تر در بازار هوش مصنوعی نشان دهد.

آمودی بر سر یک دوراهی

تناقض ماجرا اینجا است که به اعتراف خود آنتروپیک، حتی رویکردهای آن برای تعیین چارچوب‌های حفاظتی و هم‌راستاسازی هوش مصنوعی با اهداف انسانی نیز ممکن است برای مهار خطرات کافی نباشند. در نتیجه، عرضه اولیه سهام شرکت به آزمونی کم‌سابقه برای سنجش اعتماد سرمایه‌گذاران تبدیل می‌شود. شرکت تحت مدیریت داریو آمودی اکنون میان دو انتخاب دشوار گرفتار شده است: حرکت سریع‌تر که می‌تواند احتمال وقوع نابودی بشریت را افزایش دهد، یا حرکت آهسته‌تر که ممکن است بنیان مالی کسب‌وکار را به خطر بیندازد.

برای مطالعه بیشترآنتروپیک پنج درصد از سهام خود را به صندوقی برای منافع عمومی اختصاص می‌ دهد

آنتروپیک در اسناد عرضه اولیه خود هشدار داده است: «اگر بازار مدل‌ها، پلتفرم و محصولات کاربردی ما کندتر از پیش‌بینی‌ها توسعه یابد یا کوچک شود، ممکن است روند رشد شرکت کند یا متوقف شود. چنین وضعیتی می‌تواند تاثیر نامطلوبی بر کسب‌وکار، وضعیت مالی و عملکرد عملیاتی ما بگذارد.»

آنتروپیک پس از ورود به بورس، به‌ویژه در صورت دستیابی به ارزش‌گذاری نجومی مورد انتظار، با آزمونی جدی روبه‌رو خواهد شد. این شرکت باید از همان آغاز معاملات، دو وعده را هم‌زمان برای سرمایه‌گذاران خرد باورپذیر کند: نخست، اینکه می‌تواند مانع نابودی بشریت به‌ دست هوش مصنوعی شود و دوم، اینکه مدل کسب‌وکار آن مسیر معتبری برای دستیابی به سودآوری دارد. با توجه به پیام‌های متناقضی که آنتروپیک تاکنون درباره خطرات هوش مصنوعی و توانایی خود برای مهار آنها ارائه کرده است، اثبات هم‌زمان این دو ادعا ممکن است بسیار دشوار باشد.

نوشتههشدار درباره نابودی بشریت، برگ برنده آنتروپیک برای ورود به بورس!اولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.