ChatGPT به واترمارک نامرئی و قابل‌تشخیص برای ماشین مجهز شد

OpenAIواترمارکنامرئیtextGrainرا برای خروجیChatGPTوCodexدر اتحادیه اروپا فعال می‌کند و امکان استفاده اختیاری از آن را برایAPIمی‌دهد.

هوش مصنوعیتک‌ناکواترمارک نامرئی و قابل‌خواندن برای ماشین به خروجی‌های متنی ChatGPT و Codex اضافه می‌شود، اما این قابلیت در ابتدا فقط برای کاربران اتحادیه اروپا در دسترس خواهد بود.

OpenAI می‌گوید فناوری واترمارک متنی textGrain در آزمایش‌ها «هم‌سطح یا بهتر از» روش‌های دیگر مانند SynthID شرکت Google DeepMind برای واترمارک‌گذاری متن عمل کرده است.

فناوری SynthID همچنین پایه راهکاری است که Anthropic در ماه اوت برای واترمارک‌گذاری متن معرفی کرد.

آنتروپیک نیز مانند OpenAI این قابلیت را برای پاسخ به الزامات قانون هوش مصنوعی اتحادیه اروپا، EU AI Act، توسعه داده است. با این حال، اضافه شدن چنین قابلیتی با استقبال همه کاربران مواجه نشده است.

OpenAI همچنین نتایج برخی آزمون‌های معیار هوش مصنوعی را منتشر کرده که نشان می‌دهند عملکرد متن‌های دارای واترمارک و متن‌های بدون واترمارک مشابه است.

با این حال، این شرکت تأکید می‌کند که textGrain «تشخیص قابل‌اعتماد را تضمین نمی‌کند». OpenAI همچنین می‌گوید واترمارک‌های متنی نمی‌توانند صحت محتوا را تأیید کنند، مالک متن را مشخص کنند، میزان مشارکت انسان در تولید متن را اندازه بگیرند یا ثابت کنند که یک متن توسط انسان نوشته شده است.

عرضه واترمارک متنی در اتحادیه اروپا

OpenAI اعلام کرده است که طی هفته‌های آینده، واترمارک متنی را برای کاربران واجد شرایط ChatGPT و Codex در تمام طرح‌های اشتراکی در اتحادیه اروپا فعال می‌کند.

این شرکت در زمان عرضه، واترمارک متنی را به‌عنوان قابلیت پیش‌فرض جهانی فعال نخواهد کرد.

OpenAI می‌گوید این رویکرد منطقه‌ای به شرکت فرصت می‌دهد استفاده واقعی از فناوری و بازخورد کاربران را بررسی کند.

امکان فعال‌سازی واترمارک برای مشتریان API

از امروز، مشتریان API در سراسر جهان می‌توانند برای برخی مدل‌های منتخب، دریافت خروجی‌های متنی دارای واترمارک را به‌صورت اختیاری فعال کنند.

این قابلیت به مشتریان اجازه می‌دهد درباره نحوه استفاده از واترمارک در راستای تعهدات مربوط به شفافیت و تجربه‌ای که برای کاربران خود فراهم می‌کنند، تصمیم بگیرند.

OpenAI همچنین اعلام کرده است که با شرکای ابری خود همکاری می‌کند تا طی هفته‌های آینده، امکان واترمارک‌گذاری خروجی مدل‌های OpenAI را برای کاربرانی که از این مدل‌ها از طریق سرویس‌های ابری استفاده می‌کنند، فراهم کند.

بیشتر بخوانیدکارمند سابق OpenAI؛ هوش مصنوعی باید مثل نیروگاه اتمی کنترل شود

دسترسی پژوهشگران به ابزار تشخیص

پژوهشگران تأییدشده و سازمان‌های تخصصی نیز از امروز می‌توانند برای دریافت دسترسی به ابزار تشخیص واترمارک درخواست دهند.

OpenAI اعلام کرده است که مطابق با Code of Practice، دسترسی به این ابزار در ابتدا به‌صورت موردی اعطا خواهد شد تا برای ارزیابی و بهبود قابلیت تشخیص منشأ متن مورد استفاده قرار گیرد.

این ابزار فقط اعلام می‌کند که آیا واترمارک OpenAI را در متن شناسایی کرده است یا خیر و اطلاعاتی درباره هویت کاربر، پرامپت‌ها یا مکالمات او ارائه نمی‌دهد.

OpenAI همچنین به احتمال از دست رفتن برخی واترمارک‌ها و ایجاد نتایج مثبت کاذب اشاره کرده است. به همین دلیل، این ابزار در زمان عرضه به‌صورت عمومی در دسترس نخواهد بود.

نوشتهChatGPT به واترمارک نامرئی و قابل‌تشخیص برای ماشین مجهز شداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.