آنتروپیک جدیدترین هوش مصنوعی خود را «بیش از حد خطرناک» نامید

در حالی که رقابت برای خلق هوش مصنوعی عمومی (AGI) به اوج خود رسیده، شرکتآنتروپیک (Anthropic)با تصمیمی بی‌سابقه، ترمز دنیای فناوری را کشید. توسعه‌دهندگان این شرکت اعلام کردند مدل جدید هوش مصنوعی آن‌ها به سطحی از توانایی رسیده است که عرضه عمومی آن می‌تواند امنیت زیرساخت‌های جهانی و حریم خصوصی کاربران را به شکلی جبران‌ناپذیر به خطر بیندازد.

نفوذ به قلب سیستم‌ها؛ فقط با یک دستور ساده

کارشناسان و توسعه‌دهندگان آنتروپیک هشدار می‌دهند که این مدل جدید (که هنوز نام رسمی آن فاش نشده) قادر است تنها با دریافت دستورات متنی ساده (Prompts)، به اکسپلویت کردن سیستم‌های بزرگ و نفوذ به مرورگرXNET بپردازد. بر خلاف مدل‌های قبلی که محدودیت‌های اخلاقی و امنیتی تا حدی جلوی سوءاستفاده را می‌گرفت، این هوش مصنوعی جدید پتانسیل بالایی در شناسایی حفره‌های امنیتی Zero-day و اجرای حملات سایبری پیچیده دارد.

چرا این خبر مهم است؟

• خطر برای امنیت ملیاین مدل می‌تواند به سلاحی برای هکرهای کلاه سیاه تبدیل شود تا زیرساخت‌های حساس را فلج کنند.
• اعتراف سازندهاین نخستین بار است که یک غول هوش مصنوعی، محصول آماده عرضه خود را به دلیل «قدرت تخریبی زیاد» بایگانی می‌کند.
• فشار بر رقبایی مثل OpenAIاین اقدام آنتروپیک، بحث‌های اخلاقی پیرامون ایمنی هوش مصنوعی را در مقابل سودآوری شرکت‌ها دوباره داغ کرده است.

بن‌بست اخلاقی در سال ۱۴۰۵

تصمیم آنتروپیک نشان‌دهنده چرخشی بزرگ در دره سیلیکون است؛ جایی که تا پیش از این، شعار «سریع حرکت کن و همه چیز را بشکن» حکم‌فرما بود، حالا ترس از خلق یک «ابر هوش مصنوعی غیرقابل کنترل» باعث شده تا توسعه‌دهندگان، امنیت را به رقابت ترجیح دهند. با این حال، سوال اساسی اینجاست، اگر آنتروپیک این غول را در چراغ جادو نگه دارد، آیا رقبای دیگر هم همین فداکاری را خواهند کرد؟

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.