چگونه از ابزار تشخیص محتوای هوش مصنوعی SynthID گوگل استفاده کنیم؟

گوگل مدتی پیش ابزار SynthID Detector را در دسترس عموم قرار داد تا کاربران بتوانند تصاویر، ویدیوها و فایل‌های صوتی را از نظر وجود واترمارک نامرئی هوش مصنوعی بررسی کنند. این ابزار با شناسایی نشانگرهای دیجیتالی تعبیه‌شده در محتوای تولیدشده با مدل‌های هوش مصنوعی گوگل و برخی شرکای آن، به کاربران کمک می‌کند منشأ احتمالی محتوا را تشخیص دهند. بااین‌حال، این ابزار تمام محتوای تولیدشده با هوش مصنوعی را شناسایی نمی‌کند و نتیجه آن به‌تنهایی برای اثبات اصالت یک فایل کافی نیست.

گوگل فناوری SynthID را در سال ۲۰۲۳ معرفی کرد. این فناوری با افزودن واترمارکی نامحسوس به محتوای تولیدشده با هوش مصنوعی، امکان شناسایی آن را فراهم می‌کند؛ بدون اینکه نشانگر به‌صورت آشکار روی تصویر یا محتوای نهایی دیده شود. بااین‌حال، تا پیش از عرضه عمومی SynthID Detector، کاربران عادی راه مستقیمی برای بررسی وجود این واترمارک نداشتند.

گوگل در سال ۲۰۲۵ نسخه محدودی از این ابزار را در اختیار گروهی از پژوهشگران و روزنامه‌نگاران قرار داده بود و اکنون دسترسی به آن را برای عموم گسترش داده است.

چگونه از ابزار SynthID Detector استفاده کنیم؟

استفاده از ابزار تشخیص هوش مصنوعی گوگل ساده است و به نصب نرم‌افزار جداگانه نیاز ندارد. برای بررسی یک فایل، مراحل زیر را دنبال کنید

۱. به وب‌سایتSynthID.comبروید (به ابزار تغییردهنده آی‌پی نیاز دارید).

۲. فایل تصویری، ویدیویی یا صوتی موردنظرتان را بارگذاری کنید.

۳. چند ثانیه منتظر بمانید تا ابزار فایل را بررسی کند.

۴. نتیجه را مشاهده کنید تا مشخص شود آیا واترمارک SynthID در فایل شناسایی شده است یا خیر.

برای استفاده از این ابزار باید وارد حساب کاربری گوگل، OpenAI یا اپل خود شوید. همچنین، کاربران به حدود ۱۰ بررسی در روز محدود شده‌اند؛ محدودیتی که ظاهراً با هدف جلوگیری از سوءاستفاده از نتایج ابزار برای یافتن راه‌های حذف واترمارک اعمال شده است.

ابزار SynthID Detector چگونه کار می‌کند؟

این ابزار به‌جای تحلیل الگوهای بصری یا صوتی برای حدس‌زدن استفاده از هوش مصنوعی، به‌دنبال واترمارک دیجیتالی SynthID می‌گردد. مدل‌های هوش مصنوعی گوگل این نشانگر را در محتوای تولیدی خود تعبیه می‌کنند تا شناسایی آن در مراحل بعدی امکان‌پذیر باشد.

یکی از مزیت‌های این روش آن است که ابزار صرفاً براساس شباهت‌های ظاهری یا نشانه‌های آماری درباره منشأ محتوا قضاوت نمی‌کند. بااین‌حال، همین رویکرد محدودیت مهمی دارد: اگر فایلی با مدلی تولید شده باشد که از SynthID استفاده نمی‌کند، این ابزار لزوماً نمی‌تواند آن را شناسایی کند.

آیا ابزار تشخیص هوش مصنوعی گوگل قابل اعتماد است؟

SynthID Detector می‌تواند برای بررسی منشأ محتوا مفید باشد، اما نباید آن را ابزاری جامع برای تشخیص تمام تصاویر، ویدیوها و فایل‌های صوتی تولیدشده با هوش مصنوعی دانست.

مهم‌ترین محدودیت این ابزار آن است که فقط واترمارک‌های پشتیبانی‌شده را شناسایی می‌کند. برای مثال، محتوای تولیدشده با ابزارهای هوش مصنوعی متا که از SynthID استفاده نمی‌کنند، ممکن است از این طریق قابل شناسایی نباشد.

محدودیت دیگر این است که ابزار صرفاً وجود یا نبود واترمارک را گزارش می‌کند و مشخص نمی‌کند کدام بخش‌های یک فایل با هوش مصنوعی ساخته یا دست‌کاری شده‌اند. بنابراین، حتی اگر واترمارک شناسایی شود، کاربر نمی‌تواند از طریق این ابزار به‌تنهایی میزان تغییرات اعمال‌شده روی محتوا را تشخیص دهد.

گوگل می‌گوید نشانگرهای SynthID حتی پس از ویرایش محتوای تولیدشده با هوش مصنوعی نیز می‌توانند باقی بمانند. بااین‌حال، این موضوع به معنای تضمین شناسایی تمام فایل‌های ویرایش‌شده نیست.

البته SynthID Detector تنها ابزار موجود برای شناسایی محتوای تولیدشده با هوش مصنوعی نیست. شرکت‌های دیگر نیز فناوری‌هایی برای نشانه‌گذاری محتوای تولیدی خود توسعه داده‌اند. شرکت‌هایی مانند آنتروپیک و مایکروسافت نیز به‌سمت استفاده از واترمارک در محتوای تولیدشده با هوش مصنوعی رفته‌اند، اما تاکنون ابزار عمومی مشابهی برای شناسایی این نشانگرها ارائه نکرده‌اند.

مشکل اصلی این فناوری‌ها آن است که هرکدام برای شناسایی نشانگرهای مشخصی طراحی شده‌اند. درحال‌حاضر، ابزار عمومی قابل‌اعتمادی که بتواند تمام انواع محتوای تولیدشده با مدل‌های مختلف هوش مصنوعی را تشخیص دهد، وجود ندارد. ابزارهای عمومی دیگری نیز ادعا می‌کنند محتوای هوش مصنوعی را شناسایی می‌کنند، اما نتایج آن‌ها ممکن است قابل اتکا نباشد و حتی محتوای تولیدشده توسط انسان را به‌اشتباه به هوش مصنوعی نسبت دهند.

در نتیجه، SynthID Detectorابزاری برای بررسی وجود واترمارک‌های مشخص است، نه روشی قطعی برای تشخیص تمام محتوای هوش مصنوعی.نبود واترمارک نیز به این معنا نیست که یک تصویر، ویدیو یا فایل صوتی حتماً توسط انسان تولید شده است.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.