اوپن‌ای‌آی اعلام کرده است برای شناسایی آسان‌تر محتوای تولیدشده توسط هوش مصنوعی، قصد دارد قابلیت واترمارک ChatGPT را در متون تولیدی این چت‌بات در اتحادیه اروپا فعال کند.

این اقدام در راستای پیروی از قانونهوش مصنوعیاتحادیه اروپا صورت می‌گیرد که از ۲ اوت ۲۰۲۶ اجرایی شده و شرکت‌های هوش مصنوعی را ملزم به نشانه گذاری محتواهای تولیدی خود می‌کند. هدف اصلی این قانون، افزایش شفافیت و اعتماد عمومی به محتواهای دیجیتال است.

واترمارک نامرئی ChatGPT چگونه کار می‌کند؟

واترمارکChatGPTبرخلاف یک نماد بصری، به صورت نامرئی عمل می‌کند؛ این قابلیت با تغییرات ظریف در انتخاب کلمات توسط مدل، الگویی پنهان ایجاد می‌کند که برای انسان نامرئی، اما توسط سیستم‌های تشخیص‌دهنده قابل شناسایی است. این واترمارک، به دلیل تعبیه شدن در ساختار کلمات، هنگام کپی و پیست کردن نیز همراه متن باقی می‌ماند و OpenAI اعلام کرده است که هویت کاربر را فاش نمی‌کند و تأثیری بر عملکرد مدل‌های آن ندارد.

محدودیت‌ها و چالش‌های تشخیص محتوای هوش مصنوعی

آزمایش‌هایOpenAIنشان می‌دهد کهواترمارک ChatGPTمی‌تواند با ویرایش متن، از بین برود. برای مثال، جایگزینی تنها ۱۰ درصد کلمات با مترادف‌ها، نرخ تشخیص را به طور قابل توجهی کاهش می‌دهد.

• قابلیت پرو مجازی لباس به ChatGPT آمد؛ لباس‌ها را قبل از خرید روی خودتان ببینید
• OpenAI Dots معرفی شد؛ ایجنت‌های جدید ChatGPT که کارها را به جای شما انجام می‌دهند
• شکست زودهنگام یک اتحاد بزرگ؛ پایان ناموفق ادغام سیری اپل و چت‌جی‌پی‌تی
• آموزش ساخت استیکر با ChatGPT برای آیفون و

علاوه بر این، شناسایی متون کوتاه، پاسخ‌های ریاضی و محتوای ترجمه‌شده دشوارتر است. OpenAI تأکید کرده که عدم وجود واترمارک لزوماً به معنای انسانی بودن متن نیست، زیرا متن ممکن است بیش از حد ویرایش شده باشد یا از یک هوش مصنوعی دیگر تولید شده باشد.