اعمال محدودیت انویدیا و پالانتیر برای استفاده از مدل‌های پیشرفته AI

نگرانی شرکت‌های بزرگی مانند انویدیا و پالانتیر درباره حفظ داده‌های محرمانه، باعث محدود شدن استفاده از مدل‌های پیشرفته هوش مصنوعی شده است.

هوش مصنوعیتک‌ناکبرخی از مشتریان بزرگ شرکت‌های هوش مصنوعی مانند آنتروپیک و OpenAI به‌دلیل نگرانی درباره نحوه استفاده از داده‌های اختصاصی خود، محدودیت‌هایی برای استفاده کارکنان از مدل‌های پیشرفته هوش مصنوعی اعمال کرده‌اند.

این شرکت‌ها نگران هستند که اطلاعات محرمانه و مالکیت فکری آن‌ها برای آموزش مدل‌های هوش مصنوعی مورد استفاده قرار گیرد.

افزایش نگرانی درباره مالکیت فکری در مدل‌های هوش مصنوعی

برخی شرکت‌ها برای اطمینان از نحوه مدیریت داده‌هایشان، از ارائه‌دهندگان هوش مصنوعی تضمین‌های مشخصی دریافت می‌کنند.

برخی دیگر نیز استفاده از مدل‌های خاص را برای کارکنان یا وظایف مشخص ممنوع کرده‌اند. در همین حال، سیاست‌های نگهداری صفر داده و استفاده از سرورهای ایزوله یا Air-Gapped به گزینه‌های مهمی برای برخی مشتریان بزرگ تبدیل شده‌اند.

این نگرانی‌ها تا حدی به تغییر سیاست آنتروپیک در ماه ژوئن بازمی‌گردد. پس از تغییر سیاست‌های مدل Fable، آنتروپیک می‌تواند داده‌های مشتریان را نگهداری کند.

این شرکت می‌گوید چنین کاری را فقط برای اطمینان از سوءاستفاده نشدن از Fable انجام می‌دهد، اما برخی شرکت‌ها نگران هستند که اطلاعات حساس تجاری آن‌ها نیز در این فرایند جمع‌آوری شود.

OpenAI و آنتروپیک هر دو تأکید می‌کنند که در قراردادهای سازمانی مشخص، اطلاعاتی را که شرکت‌ها در اختیار مدل‌ها قرار می‌دهند به‌صورت پیش‌فرض برای آموزش مدل‌ها استفاده نمی‌کنند.

با این حال، این موضوع تمام نگرانی‌ها را برطرف نمی‌کند. هر دو شرکت از همین مشتریان سازمانی داده‌های فراداده‌ای جمع‌آوری می‌کنند و جزئیات دقیقی درباره محتوای این فراداده‌ها به‌سادگی در دسترس نیست.

OpenAI اعلام کرده است که این فراداده‌ها تنها برای «درک بهتر نحوه استفاده از خدمات» به کار می‌روند.

آنتروپیک نیز می‌گوید داده‌های مربوط به نحوه استفاده مشتریان از محصولاتش به‌صورت تجمیعی و ناشناس‌سازی‌شده جمع‌آوری می‌شوند و برای آموزش مدل‌ها مورد استفاده قرار نمی‌گیرند.

با وجود این توضیحات، نگرانی درباره شفاف نبودن نوع داده‌های جمع‌آوری‌شده همچنان وجود دارد.

بیشتر بخوانیدساتیا نادلا خواستار کنترل انسانی بر ابرهوش مصنوعی شد

نگرانی شرکت‌ها از نحوه جمع‌آوری داده‌ها

بر اساس این گزارش، شرکت مخابراتی C Spire با هر دو شرکت OpenAI و آنتروپیک قراردادهایی دارد که استفاده از داده‌های این شرکت برای آموزش مدل‌ها را ممنوع می‌کند.

با این حال، قراردادها به OpenAI و آنتروپیک اجازه می‌دهند داده‌های فنی مربوط به نحوه استفاده C Spire از خدمات را جمع‌آوری کنند.

C Spire معتقد است این داده‌ها ممکن است شامل اطلاعاتی درباره برنامه‌هایی باشد که مدل‌های هوش مصنوعی به آن‌ها متصل هستند و همچنین اطلاعات مربوط به نحوه استفاده از این مدل‌ها.

این شرکت همچنین نگران است که شرکت‌های هوش مصنوعی بتوانند اطلاعاتی درباره فعالیت مدل‌های خود در فاصله میان تولید پاسخ‌ها جمع‌آوری کنند.

OpenAI در پاسخ اعلام کرده است که از داده‌های مربوط به «زنجیره استدلال» برای آموزش مدل‌های خود استفاده نمی‌کند. با این حال، C Spire همچنان معتقد است که باید درباره نوع داده‌های جمع‌آوری‌شده اطلاعات بیشتری دریافت کند. این شرکت می‌گوید توضیحات هر دو شرکت هوش مصنوعی درباره این موضوع به اندازه کافی شفاف نیست.

بیشتر بخوانیدمدیرعامل آنتروپیک: ترمز توسعه هوش مصنوعی باید کشیده شود

سرورهای ایزوله برای حفظ اطلاعات محرمانه

یکی از راهکارهای احتمالی برای رفع نگرانی‌های حریم خصوصی، استفاده از سرورهای Air-Gapped است.

شرکت هوافضایی Northrop Grumman چنین رویکردی را انتخاب کرده و به‌جای اعتماد به شرکت‌هایی مانند OpenAI و آنتروپیک ، مدل‌های هوش مصنوعی متن‌باز را روی سرورهای ایزوله خود اجرا می‌کند.

مایکروسافت نیز تلاش می‌کند از نگرانی‌های مربوط به حریم خصوصی داده‌ها استفاده کند و مشتریان OpenAI و آنتروپیک را به سمت پلتفرم‌های امن هوش مصنوعی خود جذب کند.

محیط‌های ابری ایزوله مایکروسافت، مدل‌های هوش مصنوعی را روی سرورهای خصوصی اجرا می‌کنند و هیچ داده‌ای را برای شرکت‌های هوش مصنوعی خارجی ارسال نمی‌کنند.

البته این روش هزینه زیادی دارد و بر اساس گزارش، دست‌کم یکی از مشتریان همچنان در حال بررسی این گزینه است.

شرکت داروسازی Novo Nordisk رویکرد متفاوتی در پیش گرفته است. این شرکت همچنان برای برخی وظایف از Claude شرکت آنتروپیک استفاده می‌کند، اما اجازه نمی‌دهد هیچ داده اختصاصی و محرمانه‌ای در اختیار این مدل قرار گیرد.

محدودیت استفاده از Fable برای برخی مشتریان

مشخص است که کاهش اعتماد به شرکت‌های هوش مصنوعی می‌تواند پیامد مالی قابل توجهی برای آن‌ها داشته باشد و در یک مورد، این اتفاق همین حالا رخ داده است.

بر اساس همین گزارش، یک شرکت بزرگ خدمات عمومی در آمریکا برنامه خود برای آزمایش Fable شرکت آنتروپیک را لغو کرده است.

این شرکت قصد داشت بررسی کند که آیا Fable می‌تواند زیرساخت اصلی شبکه برق آن را مدیریت کند یا خیر، اما پس از آنکه آنتروپیک با سیاست غیرقابل بازگشت «نگهداری صفر داده» یا ZDR موافقت نکرد، شرکت آمریکایی از ادامه آزمایش منصرف شد.

انویدیا نیز تصمیم گرفته است از Fable فقط برای وظایفی استفاده کند که به این مدل امکان دسترسی به داده‌های حساس را نمی‌دهند.

این شرکت نیز به نبود تضمین ZDR به‌عنوان دلیل این تصمیم اشاره کرده است.

انویدیا در عوض برای وظایفی که آن‌ها را بیش از حد حساس می‌داند، از راهکار هوش مصنوعی داخلی خود استفاده می‌کند.

جنسن هوانگ، مدیرعامل انویدیا، پیش‌تر گفته بود کارکنان این شرکت باید هر سال از توکن‌های هوش مصنوعی به ارزشی معادل نیمی از حقوق سالانه خود استفاده کنند.

نوشتهاعمال محدودیت انویدیا و پالانتیر برای استفاده از مدل‌های پیشرفته AIاولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.