آنتروپیک در حال توسعه سیستمی برای اثبات هویت مدل‌های هوش مصنوعی است

شرکت آنتروپیک در حال توسعه یک سامانه متن‌باز برای شناسایی و تأیید مدل هوش مصنوعی تولیدکننده هر خروجی است.

بر اساس مطلبی که روز سه‌شنبه در وبلاگ این شرکت منتشر شد، این سامانه با نام فلش‌پروو (FlashProve) طراحی شده تا قابلیتی موسوم به استنتاج قابل اثبات را فراهم کند. این فناوری در واقع نوعی مدرک رمزنگاری‌شده و تضمین ریاضی ارائه می‌دهد که مشخص می‌کند یک پاسخ مشخص توسط کدام مدل هوش مصنوعی تولید شده است. هدف اصلی آن نیز فراهم‌کردن امکان بررسی صحت هویت مدلی است که کاربر تصور می‌کند با آن در حال تعامل است.

فلش‌پروو شباهت زیادی به امضاهای رمزنگاری‌شده ایمیل دارد که به دریافت‌کنندگان اجازه می‌دهد فرستنده واقعی یک پیام را تأیید کنند. این سامانه در برابر تلاش افراد یا شرکت‌ها برای جا زدن یک مدل به‌جای مدل دیگر مقاومت خواهد داشت؛ حتی اگر این اقدام از سوی آزمایشگاهی انجام شود که خود سازنده و گرداننده مدل موردنظر باشد. پژوهشگران به‌طور ویژه اشاره کرده‌اند که چنین فناوری‌ای می‌تواند مانع جایگزینی مخفیانه یک مدل پیشرفته با مدلی ارزان‌تر برای کاهش هزینه‌ها شود. همچنین از استفاده پنهانی از مدل‌های گران‌تر با هدف بزرگ‌نمایی نتایج عملکردی نیز جلوگیری خواهد کرد.

این فناوری همچنین می‌تواند برای بررسی ادعاهای شرکت‌ها و اشخاص ثالث درباره استفاده از مدل‌های پیشرفته هوش مصنوعی در انجام وظایف مختلف کاربرد داشته باشد. پژوهشگران در این باره گفتند

ممکن است یک توسعه‌دهنده ادعا کند که کتابخانه نرم‌افزاری او برای شناسایی آسیب‌پذیری‌ها توسط یک مدل پیشرفته امنیت سایبری بررسی شده است، یا شرکتی مدعی شود که طرح تجاری‌اش تأیید یک مدل هوش مصنوعی مناسب را دریافت کرده است. کاربران چگونه می‌توانند صحت چنین ادعاهایی را بررسی کنند؟

برای عملکرد صحیح این سامانه، آزمایشگاه‌های هوش مصنوعی باید از هر مدلی که منتشر می‌کنند، یک اثر انگشت دیجیتال در دسترس عموم قرار دهند. این شناسه‌ها در آینده با خروجی‌های مشخص تطبیق داده می‌شوند و از طریق روش‌های رمزنگاری، امکان تأیید اصالت آن‌ها فراهم خواهد شد.

نکته مهم این است که انتشار اثر انگشت دیجیتال، اطلاعات مربوط به وزن‌های مدل را آشکار نمی‌کند. وزن‌ها همان مقادیر عددی داخلی هستند که رفتار و عملکرد یک مدل را تعیین می‌کنند و شرکت‌هایی مانند آنتروپیک و OpenAI آن‌ها را محرمانه نگه می‌دارند. بنابراین، آزمایشگاه‌ها می‌توانند بدون افشای ارزشمندترین دارایی خود، اثر انگشت مدل‌هایشان را منتشر کنند. این ویژگی امکان استفاده از فلش‌پروو را برای مدل‌های تجاری و اختصاصی نیز فراهم می‌آورد. علاوه بر این، سامانه به‌گونه‌ای طراحی شده که سبک و کم‌حجم باشد و فرایند تأیید اصالت خروجی‌ها حتی روی دستگاه محلی کاربران نیز انجام شود.

هم‌زمان با معرفی این پروژه، پژوهشگران مشخصات فنی مفصلی از سامانه و کدهای اجرایی بخش‌های مختلف آن را منتشر کردند. این کدها تحت مجوز متن‌باز در گیت‌هاب در دسترس عموم قرار گرفته‌اند. تحقیقات درباره این فناوری همچنان ادامه دارد و آنتروپیک یا هیچ آزمایشگاه هوش مصنوعی دیگری در حال حاضر برنامه‌ای برای استفاده عملیاتی از آن اعلام نکرده است.

پژوهشگران در توضیح هدف انتشار این پروژه گفتند

این مطلب پژوهشی با هدف به‌اشتراک‌گذاری پیشرفت‌های میانی منتشر شده و به معنای تکمیل برنامه تحقیقاتی ما نیست. این فناوری را به‌صورت عمومی در اختیار دیگران قرار می‌دهیم تا پژوهشگران بتوانند دستاوردهای ما را بررسی کنند، از آن بهره بگیرند و نسخه‌های بهبودیافته‌ای توسعه دهند.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.