آنتروپیک از سوءاستفاده پژوهشگران از Claude برای تحقیقات زیستی خطرناک خبر داد

آنتروپیک اعلام کرده است که در پنج مورد، پژوهشگرانی از Claude به گونه‌ای استفاده کرده‌اند که می‌توانست به پیشبرد تحقیقات مرتبط با تولید سلاح‌های بیولوژیکی کمک کند. این شرکت نتوانسته با قطعیت مشخص کند که این افراد قصد آسیب‌رساندن داشته‌اند، اما به دلیل پیامدهای بالقوه بسیار خطرناک، فعالیت‌های مذکور را متوقف کرده است.

این پنج مورد بین دسامبر ۲۰۲۵ تا اوت ۲۰۲۶ شناسایی شدند. آنتروپیک جزئیات آن‌ها را در گزارش جدید اطلاعات تهدیدات خود درباره سوءاستفاده از مدل‌های هوش مصنوعی منتشر کرده است. به گفته این شرکت، با افزایش توانایی مدل‌های پیشرفته در انجام تحقیقات علمی، خطرات زیستی که تشخیص آن‌ها دشوارتر است نیز اهمیت بیشتری پیدا می‌کنند.

مرز دشوار میان پژوهش علمی و تهدید زیستی

یکی از مهم‌ترین چالش‌های آنتروپیک، تشخیص نقطه‌ای بود که پژوهش علمی مشروع به فعالیتی خطرناک تبدیل می‌شود. تحقیقات زیستی ماهیتی دوکاربردی دارند؛ دانشی که برای ساخت درمان‌های پزشکی به کار می‌رود، در شرایطی می‌تواند برای توسعه عوامل بیماری‌زای خطرناک نیز مورد استفاده قرار گیرد.

جیکوب کلاین، رئیس بخش اطلاعات تهدیدات آنتروپیک، به نیویورک تایمز گفت

در این موارد معمولاً با افرادی مواجه نیستیم که آشکارا اعلام کنند قصد انجام فعالیت مخرب دارند. پژوهشگران می‌توانند اهدافی کاملاً مشروع و علمی مطرح کنند، در حالی که بخشی از فعالیت آن‌ها نگرانی‌های جدی امنیتی ایجاد می‌کند.

آنتروپیک همچنین از تلاش برای دور زدن محدودیت‌های منطقه‌ای و عبور از سامانه‌های ایمنی خبر داده است. این شرکت حساب‌های مرتبط با این فعالیت‌ها را مسدود کرد و یافته‌های خود را با مقام‌های دولتی و سایر شرکت‌های فعال در حوزه هوش مصنوعی در میان گذاشت.

یکی از پرونده‌ها به تحقیقاتی مرتبط با ویروس چیکونگونیا مربوط می‌شد. سامانه‌های آنتروپیک درخواست مربوط به تهیه یک درخواست کمک‌هزینه برای تحقیقات افزایش عملکرد را مسدود کردند. نگرانی شرکت زمانی بیشتر شد که مشخص شد این پروژه با یک مؤسسه تحقیقاتی نظامی ارتباط داشته است.

پژوهشگران پس از مسدود شدن درخواست‌های حساس توسط Claude، کار خود را از مسیرهای دیگری ادامه دادند. آنتروپیک همچنین شواهدی پیدا کرد که نشان می‌داد یک پلتفرم فروش مجدد، درخواست‌های زیستی ردشده را به مدل‌هایی با تدابیر حفاظتی ضعیف‌تر منتقل می‌کرد.

افزایش توانایی مدل‌های پیشرفته

پرونده دوم به تحقیقاتی درباره آنفلوانزای پرندگان با قابلیت بیماری‌زایی بالا مربوط بود. آنتروپیک می‌گوید یک پژوهشگر طی چند هفته از Claude برای برنامه‌ریزی مطالعات، تحلیل داده‌ها و تفسیر یافته‌های علمی استفاده کرده است.

این شرکت اعلام کرد تدابیر حفاظتی آن مانع دسترسی پژوهشگر به قدرتمندترین مدل‌هایش برای انجام بخش‌های حساس تحقیق شد و فعالیت موردنظر در نهایت روی نسخه‌های ضعیف‌تر مدل‌ها ادامه پیدا کرد.

آنتروپیک سه مورد دیگر از تحقیقات زیستی را نیز شناسایی کرده که می‌توانستند پیامدهایی در زمینه توسعه سلاح‌های زیستی داشته باشند. این پرونده‌ها به تحقیقات مربوط به ارتوپاکس‌ویروس‌ها، ترکیبات مرتبط با سموم و مواد سمی مربوط می‌شدند.

این شرکت هویت پژوهشگران، محل فعالیت آن‌ها و جزئیات مشخص زیستی را منتشر نکرده است. آنتروپیک همچنین تأکید کرده که مدعی نیست این دانشمندان حتماً قصد آسیب‌رساندن داشته‌اند.

اهمیت این موضوع از آنجا ناشی می‌شود که مدل‌های قدیمی‌تر Claude توانایی محدودی در پشتیبانی از تحقیقات پیچیده زیستی داشتند. آنتروپیک اکنون می‌گوید دیگر نمی‌توان چنین فرضی را درباره سامانه‌های جدیدتر مطرح کرد.

سوزان مونارز، میکروب‌شناس و مقام پیشین حوزه سلامت عمومی آمریکا، گزارش آنتروپیک را پیش از انتشار بررسی کرده است. او به نیویورک تایمز گفت

مدل‌های پیشرفته می‌توانند به افراد مخرب کمک کنند تا تحقیقات خطرناک را در قالب اهداف علمی و مشروع پنهان کنند.

جاسوسی روسیه با کمک هوش مصنوعی

آنتروپیک در حوزه‌ای جداگانه نیز یک عملیات جاسوسی روسیه را شناسایی کرده که از Claude برای خودکارسازی بخش بزرگی از فعالیت‌های سایبری استفاده می‌کرد. این شرکت این عملیات را به میدنایت بلیزارد، گروهی مرتبط با حملات سایبری تحت حمایت دولت روسیه، نسبت داده است.

هدف این عملیات، دولت‌های اوکراین و کشورهای اروپایی، سازمان‌های اطلاعاتی نظامی، نمایندگی‌های دیپلماتیک و شرکت‌های فعال در حوزه دفاعی بود. مهاجمان از Claude برای خودکارسازی حملات فیشینگ، راه‌اندازی زیرساخت‌ها، توسعه بدافزار و سرقت داده‌ها بهره گرفتند.

مهاجمان حتی از سامانه‌های هوش مصنوعی برای بررسی احتمال شناسایی بدافزارهای خود استفاده کردند. هنگامی که ابزارهای امنیتی بدافزار را تشخیص می‌دادند، فرایندهای خودکار نسخه آن را تغییر می‌دادند و دوباره می‌ساختند تا بتواند از شناسایی مجدد فرار کند.

آنتروپیک اعلام کرده که در برنامه‌ریزی و فعالیت‌های این عملیات، بیش از ۲۰ سازمان شناسایی شده‌اند. این شرکت در واکنش به این تهدیدها، محدودیت‌های دسترسی به درخواست‌های زیستی پرخطر را افزایش داده و تدابیر حفاظتی مربوط به تحقیقات حساس را گسترش داده. با این حال، گزارش نشان می‌دهد صرفاً مسدود کردن درخواست‌های منفرد ممکن است کافی نباشد؛ زیرا کاربران می‌توانند هدف واقعی خود را پنهان کنند یا بخش‌های مختلف یک عملیات را میان ابزارها و سامانه‌های گوناگون تقسیم کنند.

مدل‌های جدید هوش مصنوعی اکنون قادرند در تحقیقات علمی و عملیات سایبری در سطحی مشارکت کنند که پیش‌تر دستیابی به آن دشوار بود. همین پیشرفت، چالش امنیتی گسترده‌تری را پیش روی توسعه‌دهندگان هوش مصنوعی قرار داده؛ آن‌ها باید میان تحقیقات علمی قانونی و فعالیت‌هایی که می‌توانند به تقویت برنامه تولید سلاح‌های زیستی یا عملیات جاسوسی تحت حمایت دولت‌ها منجر شوند، تمایز ایجاد کنند.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.