کلود اکنون متن تولیدشده توسط مدل‌های قدیمی‌تر را نیز واترمارک می‌کند

شرکت آنتروپیک از ۳ نوامبر، افزودن واترمارک نامرئی به متن‌های تولیدشده با مدل‌های کلود میتوس ۵، اپوس ۴.۷ و سونت ۴.۶ را آغاز کرده است.

مدل‌های اپوس ۴.۶، اپوس ۴.۵، سونت ۴.۵ و هایکو ۴.۵ نیز از ۱۶ نوامبر به این طرح اضافه خواهند شد. مشتریان امکان غیرفعال کردن این نشان را ندارند. در ادامه مشخص می‌شود این واترمارک چه اطلاعاتی دارد، چه کسانی می‌توانند آن را شناسایی کنند و در چه شرایطی از بین می‌رود.

اکنون متن‌های تولیدشده با کلود حاوی نشانه‌ای نامرئی و قابل‌خواندن برای ماشین هستند که کلود را به‌عنوان منبع تولید محتوا مشخص می‌کند. تمام مدل‌های کلود که از ۲ اوت عرضه شده‌اند، از ابتدا به واترمارک نامرئی مجهز بوده‌اند و آنتروپیک اکنون قصد دارد این قابلیت را به مدل‌های قدیمی‌تر نیز اضافه کند.

بر اساس ایمیلی که برای مشتریان رابط برنامه‌نویسی کاربردی (API) ارسال شده و وب‌سایت دیکودر آن را گزارش داده، مدل‌های کلود میتوس ۵، اپوس ۴.۷ و سونت ۴.۶ نیز از ۳ نوامبر خروجی‌های خود را واترمارک می‌کنند. صفحه راهنمای آنتروپیک نیز هر سه مدل را در فهرست مدل‌های پشتیبانی‌شده قرار داده است.

قرار بود اپوس ۴.۶ هم در ۳ نوامبر به این طرح بپیوندد، اما آنتروپیک بدون ارائه توضیحی، زمان اجرای آن را به ۱۶ نوامبر تغییر داد. مدل‌های اپوس ۴.۵، سونت ۴.۵ و هایکو ۴.۵ نیز در همین تاریخ به این قابلیت مجهز خواهند شد. عرضه این ویژگی در سرویس آمازون بدراک چند روز بیشتر زمان می‌برد.

قانون هوش مصنوعی اتحادیه اروپا دلیل این تصمیم است

یکی از دلایل اصلی اقدام آنتروپیک، قانون هوش مصنوعی اتحادیه اروپا یا EU AI Act محسوب می‌شود. این شرکت به آیین‌نامه اجرایی ماده ۵۰ این قانون پیوسته که استفاده از نشانه‌های قابل‌شناسایی توسط ماشین برای محتوای تولیدشده با هوش مصنوعی را الزامی می‌داند.

آنتروپیک برای تکمیل این تغییرات در مدل‌های قدیمی‌تر، به مهلت تعیین‌شده در ماه دسامبر اشاره کرده است. پیش‌تر در ماه اوت، قوانین اتحادیه اروپا درباره برچسب‌گذاری محتوای هوش مصنوعی و تأثیر آن بر کاربران بررسی شده بود.

این واترمارک در سراسر جهان و تمام محصولات آنتروپیک اعمال می‌شود؛ از جمله اپلیکیشن‌های کلود، کلود کد، کوورک و رابط برنامه‌نویسی کاربردی. از آنجا که این نشان در سطح خود مدل قرار می‌گیرد، متن‌های تولیدشده از طریق سرویس‌XNET آمازون، گوگل کلود و مایکروسافت فاندری نیز آن را دریافت می‌کنند. طبق گزارش دیکودر، مشتریان امکان غیرفعال کردن این قابلیت را نخواهند داشت.

واترمارک نامرئی کلود چه اطلاعاتی دارد؟

کلود با ایجاد تغییرات بسیار ظریف در انتخاب واژه‌ها، الگویی آماری در متن به وجود می‌آورد که خوانندگان عادی متوجه آن نمی‌شوند. دیکودر گزارش داده که آنتروپیک از نسخه‌ای تغییریافته از فناوری سینت‌آی‌دی گوگل استفاده می‌کند؛ همان فناوری که برای تصاویر هوش مصنوعی اپل در نسخه آی‌او‌اس ۲۷.۲ نیز به کار رفته است.

آنتروپیک در ایمیل خود به مشتریان اعلام کرده است

این واترمارک هیچ اطلاعاتی درباره کاربر، سازمان متعلق به او یا گفت‌وگوهایش با کلود در بر ندارد.

صفحه راهنمای این شرکت نیز توضیح می‌دهد

این نشان هنگام کپی و جای‌گذاری متن در محیط‌های دیگر نیز همراه آن باقی می‌ماند و حتی پس از انجام برخی ویرایش‌ها ممکن است همچنان قابل‌شناسایی باشد.

با وجود این، بازنویسی گسترده متن، ترجمه آن یا استفاده از بخش‌های بسیار کوتاه ممکن است باعث شود واترمارک دیگر قابل‌شناسایی نباشد.

در حال حاضر، افراد بسیار محدودی امکان بررسی این نشان را دارند. قابلیت تشخیص واترمارک هنوز در مرحله پیش‌نمایش خصوصی قرار دارد و نهادهای نظارتی، نیروهای مجری قانون، رسانه‌ها، راستی‌آزمایان، پژوهشگران، مؤسسات آموزشی و شرکت‌هایی که بر اساس قانون تعهدات مشخصی دارند، می‌توانند برای دسترسی به آن درخواست ارائه دهند.

کلود برای فایل‌های تصویری با فرمت‌های پی‌ان‌جی و جی‌پی‌ای‌جی نیز اعتبارنامه‌های محتوایی مبتنی بر استاندارد سی‌تو‌پی‌ای اضافه می‌کند. هر فردی می‌تواند این اطلاعات را با ابزار رایگان کلود کانتنت چکر بررسی کند.

آنتروپیک همچنین هشدار داده که شناسایی واترمارک لزوماً به معنای اثبات مالکیت یا نویسندگی محتوا نیست. حتی متن‌هایی که کلود صرفاً از نظر نگارشی اصلاح کرده یا به زبان دیگری ترجمه کرده باشد نیز ممکن است این نشان را دریافت کنند.

یک راه فرار که بیشتر توسعه‌دهندگان را تحت تأثیر قرار می‌دهد

در مدل‌های سونت ۴.۶ و اپوس ۴.۶، واترمارک تنها زمانی با اطمینان قابل‌تشخیص خواهد بود که پارامترهای تنظیم دما (temperature)، تاپ‌پی (top_p) و تاپ‌کی (top_k) روی مقادیر پیش‌فرض خود باقی بمانند.

دیکودر گزارش داده که همین محدودیت درباره هر چهار مدلی که در مرحله دوم به این طرح اضافه می‌شوند نیز صدق می‌کند.

بنابراین، توسعه‌دهندگانی که از طریق رابط برنامه‌نویسی کاربردی یکی از این تنظیمات را تغییر دهند، ممکن است متنی تولید کنند که واترمارک آن قابل‌شناسایی نباشد. البته اپلیکیشن‌های کلود چنین تنظیماتی را در اختیار کاربران عادی قرار نمی‌دهند.

رویکرد OpenAI در این زمینه متفاوت است. طبق گزارش دیکودر، واترمارک این شرکت از ماه اکتبر به‌صورت پیش‌فرض تنها برای کاربران ChatGPT و کدکس در اتحادیه اروپا فعال شده است؛ در حالی که مشتریان API باید این قابلیت را شخصاً فعال کنند.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.