دو ابزار جدید تیک‌تاک برای شناسایی محتوای تولیدشده با هوش مصنوعی

30 آبان 1405 - 09:26 دو ابزار جدید تیک‌تاک برای شناسایی محتوای تولیدشده با هوش مصنوعی تیک‌تاک با راه‌اندازی تدریجی قابلیت «تشخیص شباهت»، به چهره‌های عمومی از جمله سیاستمداران و اعضای دولت امکان می‌دهد محتوای تولیدشده با هوش مصنوعی را که بدون رضایت از تصویر آن‌…

4 دقیقه مطالعه
  • پشتیبانی شبکه
  • هوش مصنوعی
  • امنیت سایبری
  • هوش
  • مصنوعی
  • تیک‌تاک
  • محتوای
  • تولیدشده
دو ابزار جدید تیک‌تاک برای شناسایی محتوای تولیدشده با هوش مصنوعی

خلاصه تحلیلی خبر

30 آبان 1405 - 09:26 دو ابزار جدید تیک‌تاک برای شناسایی محتوای تولیدشده با هوش مصنوعی تیک‌تاک با راه‌اندازی تدریجی قابلیت «تشخیص شباهت»، به چهره‌های عمومی از جمله سیاستمداران و اعضای دولت امکان می‌دهد محتوای تولیدشده با هوش مصنوعی را که بدون رضایت از تصویر آن‌…

موضوعات اصلی: پشتیبانی شبکه، هوش مصنوعی، امنیت سایبری، هوش، مصنوعی، تیک‌تاک

30 آبان 1405 - 09:26

دو ابزار جدید تیک‌تاک برای شناسایی محتوای تولیدشده با هوش مصنوعی

تیک‌تاک با راه‌اندازی تدریجی قابلیت «تشخیص شباهت»، به چهره‌های عمومی از جمله سیاستمداران و اعضای دولت امکان می‌دهد محتوای تولیدشده با هوش مصنوعی را که بدون رضایت از تصویر آن‌ها استفاده می‌کند، شناسایی و برای بررسی به تیم ایمنی این پلتفرم گزارش کنند.

تیک تاک
متن خبر

این قابلیت به‌طور ویژه برای چهره‌های عمومی، از جمله اعضای دولت، سیاستمداران و حساب‌های مرتبط با احزاب سیاسی طراحی شده است تا بتوانند با سوءاستفاده از تصویر خود در محتوای جعلی مقابله کنند.

راه‌اندازی این ابزار در شرایطی صورت می‌گیرد که اروپا با افزایش کارزارهای انتشار اطلاعات نادرست و دیپ‌فیک‌های تولیدشده با هوش مصنوعی مواجه است؛ محتواهایی که در مواردی بر روندهای انتخاباتی تأثیر گذاشته‌اند. با توجه به برگزاری انتخابات در ۹ کشور اروپایی طی ۱۲ ماه آینده، شناسایی و مقابله با این نوع محتوا اهمیت بیشتری پیدا کرده است.

کاربران واجد شرایط برای استفاده از قابلیت «تشخیص شباهت» باید ابتدا هویت خود را از طریق یک شرکت شخص ثالث مورد اعتماد تأیید کنند. پس از ثبت‌نام، در صورتی که محتوایی یا حسابی در تیک‌تاک احتمالاً از چهره آن‌ها استفاده کرده باشد، به آن‌ها اطلاع داده می‌شود و می‌توانند موارد شناسایی‌شده را در این ابزار بررسی کنند.

در ادامه، کاربران امکان دارند محتوای موردنظر را مستقیماً برای بررسی و رسیدگی به تیم‌های ایمنی تیک‌تاک گزارش دهند.

این اقدام در ادامه تلاش‌های تیک‌تاک برای مقابله با محتوای جعلی تولیدشده با هوش مصنوعی انجام می‌شود. اتحادیه اروپا نیز از دوم اوت اجرای تدریجی مقررات شفافیت هوش مصنوعی در چارچوب قانون هوش مصنوعی (AI Act) را آغاز کرده است؛ مقرراتی که برچسب‌گذاری دیپ‌فیک‌ها و دیگر محتواهای تولیدشده با هوش مصنوعی را الزامی می‌کند.

تیک‌تاک پیش‌تر نیز تولیدکنندگان محتوا را ملزم کرده بود تصاویر، صداها و ویدئوهای واقع‌گرایانه تولیدشده با هوش مصنوعی را برچسب‌گذاری کنند؛ اقدامی که در راستای رعایت الزامات قانون هوش مصنوعی اروپا صورت گرفته است.

ابزار رایگان برای شناسایی محتوای تولیدشده با هوش مصنوعی

تیک‌تاک در کنار قابلیت «تشخیص شباهت»، ابزار دیگری را نیز برای افزایش شفافیت در زمینه محتوای هوش مصنوعی معرفی کرده است. این ابزار به کاربران امکان می‌دهد بررسی کنند که آیا یک تصویر یا ویدئو با استفاده از ابزارهای تولید و ویرایش هوش مصنوعی تیک‌تاک یا شرکت مادر آن، بایت‌دنس (ByteDance)، ساخته یا ویرایش شده است.

ابزار «شناسایی محتوای تولیدشده با هوش مصنوعی» به‌صورت رایگان در دسترس عموم قرار دارد و استفاده از آن به داشتن حساب کاربری تیک‌تاک نیاز ندارد. کاربران می‌توانند تصاویر یا ویدئوهای موردنظر خود را بارگذاری کنند تا مشخص شود آیا این محتواها با ابزارهای هوش مصنوعی تیک‌تاک یا برنامه‌های وابسته به بایت‌دنس، از جمله کپ‌کات (CapCut)، دریمینا، هایپیک و پیپیت، تولید یا ویرایش شده‌اند یا خیر.

این ابزار از قالب‌های رایج فایل مانند JPEG، PNG و MP4 پشتیبانی می‌کند. حداکثر حجم مجاز برای بارگذاری هر تصویر ۲۰ مگابایت و برای هر ویدئو یا فایل صوتی ۱۰۰ مگابایت اعلام شده است.

فرایند شناسایی محتوا بر اساس دو نوع نشانه انجام می‌شود: نخست، اطلاعات و گواهی‌های ثبت‌شده در فراداده محتوا که از سوی برنامه‌های تیک‌تاک و بایت‌دنس به آن افزوده می‌شوند و دوم، واترمارک‌های نامرئی که مستقیماً در محتوای تصویری یا ویدئویی جاسازی شده‌اند و حذف آن‌ها دشوارتر است.

تیک‌تاک تأکید کرده است فایل‌های بارگذاری‌شده بلافاصله پس از بررسی حذف می‌شوند و برای آموزش مدل‌های هوش مصنوعی این شرکت مورد استفاده قرار نمی‌گیرند.

با این حال، این پلتفرم هشدار داده است که ابزار یادشده تنها می‌تواند محتوای تولید یا ویرایش‌شده با ابزارهای هوش مصنوعی تیک‌تاک و برنامه‌های بایت‌دنس را شناسایی کند و نباید آن را راهکاری کامل برای تشخیص تمام انواع محتوای تولیدشده با هوش مصنوعی دانست.

انتهای پیام

نظرات خود را با ما درمیان بگذارید

افزودن دیدگاه جدید

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.