گوگل شناسایی محتوای هوش مصنوعی را آسان‌تر می‌کند

گوگل نیز در حال گسترش ابزارهای شفافیت و راستی‌آزمایی محتوای خود در موتور جست‌وجو، چت‌بات Gemini، مرورگر کروم، سری موبایل پیکسل و گوگل Cloud است و مشارکت خود را با گستره وسیع‌تری از صنعت تعمیق بخشیده است.

گوگل سه سال پیشSynthIDرا معرفی کرد؛ فناوری پیشگام واترمارک دیجیتال که سیگنال‌های نامحسوسی را در محتوای تولیدشده توسط هوش مصنوعی تعبیه می‌کند. گوگل از زمان ادغام SynthID در مدل‌ها و محصولات رسانه‌ای مولد خود، تا کنون بیش از ۱۰۰ میلیارد تصویر و ویدئو و به‌اندازه زمانی ۶۰ هزار سال صوت را واترمارک کرده است.

گوگل همچنین ازC2PA Content Credentialsدر ابزارهای خود استفاده می‌کند؛ استانداردی صنعتی که نشان می‌دهد رسانه چگونه با یا بدون هوش مصنوعی ایجاد و اصلاح شده است. Pixel 10 اولین گوشی هوشمندی بود که Content Credentials را برای تصاویر در برنامه دوربین خود ارائه کرد. با استفاده از این فناوری در نقطه ثبت، پیکسل مستند می‌کند که محتوا چه زمانی توسط دوربین ثبت شده است.

هدف گوگل از این اقدام این است که کسب اطلاعات بیشتر درباره محتوایی که به‌صورت آنلاین با آن مواجه می‌شوید را آسان‌تر شود. به همین دلیل است که اخیراً راستی‌آزمایی SynthID برای تصویر، ویدئو و صوت را به Gemini اضافه کرده است. تا کنون، این قابلیت ۵۰ میلیون بار در سطح جهانی استفاده شده است و اکنون در حال گسترش این قابلیت راستی‌آزمایی به موتور جست‌وجو و در هفته‌های آینده به مرورگر کروم است.

می‌توانید با استفاده از ویژگی‌های جست‌وجو مانند لنز (Lens)، حالت هوش مصنوعی (AI Mode)، Circle to Search و همچنین Gemini در Chrome، از منشأ یک تصویر مطلع شوید. فقط کافی است بپرسید: «آیا این با هوش مصنوعی ساخته شده است؟» یا «آیا این تولید هوش مصنوعی است؟».

همچنین یک فرایند راستی‌آزمایی اختصاصی برای C2PA Content Credentials را توسعه داده است تا به‌راحتی بررسی شود که آیا محتوا یک نسخه اصلی و دست‌نخورده از یک دوربین است یا تغییر یافته و توسط چه ابزارهایی این تغییرات اعمال شده است. این ویژگی اکنون در Gemini در حال عرضه است و در ماه‌های آینده به موتور جست‌وجو و کروم نیز افزوده خواهد شد. این قابلیت بر پایه ویژگی‌هایی مانندlabels on YouTubeکه محتوای تولیدشده توسط هوش مصنوعی را شناسایی می‌کنند و همچنین همکاری گوگل با آزمایش‌کنندگان مورداعتماد برای سریع‌تر و قابل‌اعتمادتر کردن ابزارهای تشخیص، استوار است.

برای کمک به سازمان‌های بیشتر در شناسایی رسانه‌های تولیدشده توسط هوش مصنوعی، گوگل در حال راه‌اندازی یک API جدید تشخیص محتوای هوش مصنوعی (AI Content Detection API) در پلتفرم Gemini Enterprise Agent در Google Cloud است. این قابلیت، راهی قدرتمند برای شناسایی محتوای هوش مصنوعی ساخته‌شده توسط گوگل و سایر مدل‌های محبوب را در اختیار کسب‌وکارها قرار می‌دهد و به آن‌ها کمک می‌کند تا تصمیم بگیرند چگونه رسانه‌ها را در پلتفرم‌های خود ارزیابی و مدیریت کنند؛ خواه برای عملیات‌های سمت سرور (backend) مانند مرتب‌سازی فیدها و جلوگیری از کلاهبرداری‌های بیمه‌ای باشد یا برای محتوای سمت کاربر (user-facing) مانند درستی‌سنجی و برچسب‌گذاری رسانه‌های مصنوعی (synthetic media).

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.