آنتروپیک مانع استفاده چند دانشمند از Claude برای ساخت سلاح‌های بیولوژیکی شد

براساس گزارش جدیدی که آنتروپیک منتشر کرده، این شرکت چندین دانشمند را که از مدل‌های هوش مصنوعی آن برای ساخت سلاح‌های بیولوژیکی احتمالی استفاده می‌کردند، شناسایی و فعالیت آنها را متوقف کرد.

گزارش آنتروپیکشامل پنج نمونه از استفاده از مدل‌های این شرکت برای توسعه سلاح‌های بیولوژیکی، اقدامات ایمنی که این سوءاستفاده‌ها را شناسایی کردند و واکنش شرکت به آن‌هاست. همان‌طور که آنتروپیک توضیح داده، تشخیص سوءاستفاده احتمالی پیچیده است؛ زیرا تحقیقات برای ساخت یک واکسن جدید می‌تواند بسیار شبیه به فرایندساخت یک سلاح بیولوژیکیباشد. این شرکت می‌گوید در تمام این موارد، به دلیل پیامدهای احتمالی، احتیاط بیش از حد را رعایت کرده است

استفاده از Claude برای تحقیقات سلاح‌های بیولوژیکی

«جیکوب کلین» مدیر اطلاعات تهدیدات آنتروپیک، گفت

«شما با فردی مواجه نیستید که به سبک شخصیت‌های کتاب‌های کمیک بگوید: «می‌خواهم یک سلاح بیولوژیکی بسازم تا همه را بکشم.» این یک موقعیت فوق‌العاده پیچیده و ظریف است.»

آنتروپیک می‌گوید در یکی از نمونه‌های بررسی‌شده سامانه طبقه‌بندی ایمنی زیستی این شرکت درخواستی را شناسایی کرد که از Claude می‌خواست یک پروپوزال پژوهشی برای تحقیقات Gain-of-Function روی ویروس چیکونگونیا تهیه کند. به گفته شرکت، این ویروس هیچ درمان تأییدشده‌ای ندارد و می‌تواند برای هفته‌ها یا ماه‌ها علائم ناتوان‌کننده ایجاد کند.

تحقیقات Gain-of-Function به بررسی روش‌های تغییر ژنتیکی یک موجود زنده می‌پردازد و در مورد این ویروس خاص، طرح پیشنهادی شامل افزایش قابلیت انتقال ویروس و توانایی آن برای فرار از پاسخ ایمنی بدن بود. این ترکیب خطرناک به نظر می‌رسید و آنتروپیک می‌گوید وابستگی پژوهش پیشنهادی به یک مؤسسه تحقیقاتی نظامی، نگرانی‌ها را بیشتر کرده بود.

این شرکت در مورد تحقیقات Gain-of-Function روی آنفلوانزای پرندگان نیز نگرانی مشابهی داشت. در موردی دیگر نیز یک پژوهشگر از Claude برای ایجاد اطلس پپتیدهای سمی موجود در زهر و یک فرایند تولیدی برای بهینه‌سازی ویژگی‌های سموم استفاده کرده بود. گزارش کامل همچنین نمونه‌هایی از استفاده از مدل‌های آنتروپیک به‌عنوان ابزار نظارتی و برای ایجاد آسیب‌پذیری‌های نرم‌افزاری، تبلیغات و سیستم‌های تسلیحاتی را شامل می‌شود.

به گفته آنتروپیک، حساب تمام افرادی که از Claude یا مدل‌های این شرکت سوءاستفاده کرده بودند، مسدود شده است. همچنین یافته‌های این تحقیقات برای بهبود بیشتر چارچوب‌های ایمنی مدل‌ها و جلوگیری از سوءاستفاده‌های آینده مورداستفاده قرار می‌گیرند.

باتوجه‌به ماهیت پیچیده سوءاستفاده‌های بیولوژیکی، آنتروپیک نام افراد یا مؤسساتی را که از مدل‌هایش برایتوسعه این موارد خطرناکاستفاده کرده‌اند، اعلام نکرده است.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.