آنتروپیک چین را به دزدی هوش مصنوعی متهم کرد

شرکت‌های چینی نظیر علی‌بابا با ارسال میلیون‌ها درخواست مشکوک توانستند فرایندهای فکری مدل Claude را برای ارتقای مدل‌های بومی خود مهندسی معکوس کنند.

حملات موسوم به distillation در ماه‌های اخیر و هم‌زمان با رقابت فزاینده در حوزه هوش مصنوعی شدت گرفته‌اند. هدف اصلی این حملات، مهندسی معکوس و استخراج داده‌های استدلالی یا همان chain of thought از مدل‌های پیشرو آمریکایی است تا از این اطلاعات برای آموزش مدل‌های کوچک‌تر از طریق fine-tuning استفاده شود. در این میان، قابلیت‌های حیاتی مدل Claude مانند انجام وظایف خودکار با عامل‌های هوشمند، ابزارنویسی، تحلیل داده و کدنویسی هدف اصلی مهاجمان بوده‌اند.

شیوه‌های دور زدن لایه‌های امنیتی آنتروپیک

مدل‌های مدرن معمولاً فرایند تفکر داخلی خود را مخفی نگه می‌دارند و تنها خلاصه‌ای کلی از محاسبات ذهنی را به کاربران نشان می‌دهند. با وجود این لایه‌های امنیتی، مهاجمان روش‌های خلاقانه‌ای برای دور زدن محدودیت‌ها ابداع کرده‌اند. برای نمونه، در یک شیوه حمله، از سیستم خواسته شده تا حافظه موقت و استدلال‌های درونی مدل را در قالب ترجمه به زبان ژاپنی با خط katakana بازنویسی کند، ترفندی که سیستم محافظتی را فریب داده و باعث افشای ساختار منطقی پاسخ شده است.

بررسی این کمپین‌ها نشان می‌دهد که عمده این فعالیت‌ها از سوی Alibaba هدایت شده است. بین ماه‌های مه و ژوئیه ۲۰۲۶، بالغ بر ۱۵۱ میلیون تبادل داده با اوج سه میلیون درخواست در روز ثبت شده است. این عملیات گسترده از طریق ۳۵۰۰ حساب کاربری مختلف و با استفاده از دستورهای متنی یکسان صورت گرفت تا داده‌های آموزشی لازم برای توسعه و ارتقایخانواده مدل‌های Qwenاین شرکت چینی جمع‌آوری شود.

فعالیت مشکوک استارتاپ چینی Moonshot AI

طبق گزارشتک‌کرانچبخش دیگری از این تهاجم سایبری به Moonshot AI، سازنده مدل Kimi، نسبت داده شده که الگوهای متفاوتی را به نمایش گذاشته است. بررسی درخواست‌های ارسال‌شده از سوی شبکه‌ای شامل ۵۰۰۰ حساب کاربری نشان می‌دهد که این گروه در بازه‌ای ۱۰ روزه، ۳۰۰ هزار درخواست را عمدتاً به سمت مدل قدرتمند Opus هدایت کرده‌اند. در یکی از این موارد، از مدل خواسته شده بود رفتارهای مشکوک را در تصاویر دوربین‌های نظارتی ارزیابی کند، درخواستی که ماهیت استفاده‌های امنیتی و نظامی را آشکار می‌کند.

تلاش‌های مشابهی پیش از این توسط دیگر غول‌های هوش مصنوعی مانند OpenAI علیه شرکت‌های چینی دیگر گزارش شده بود. با این حال، مقیاس و شدت اقدامات اخیر نشان می‌دهد که رقابت در عرصه مدل‌های زبانی بزرگ از مرحله آموزش مستقل فراتر رفته و به فاز برداشت غیرمجاز و انتقال مستقیم دستاوردهای پردازشی تغییر مسیر داده است.

نوشتهآنتروپیک چین را به دزدی هوش مصنوعی متهم کرداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.