انقلاب هوش مصنوعی در فیس‌بوک: یک قدم تا شناسایی کامل سخنان نفرت‌انگیز

طبق ادعای فیس‌بوک، نرم‌افزارهای هوش مصنوعی توانایی شناسایی 94.7% سخنان نفرت‌انگیز که از پلتفرمش حذف می‌شود را دارد.

مایک شروپفر، رئیس فناوری فیس‌بوک، در پستی در یک وبلاگ بیان کرد طبق آمار، در سال 2017 میزان شناسایی سخنان نفرت‌انگیز 24% و در سال گذشته معادل 80.5% بوده است. همچنین این آمار در گزارش تقویت استانداردهای جامعه که توسط فیس‌بوک منتشر می‌شود هم وجود دارد.

شرکت‌های فعال در زمینه شبکه‌های اجتماعی مانند فیس‌بوک، توئیتر و تیک تاک پیش از این مورد انتقاد شدید بودند که توانایی حذف سخنان نفرت‌انگیز مانند فحاشی‌های نژادپرستانه و توهین‌های مذهبی را ندارند. به همین دلیل ضرورت استفاده از نرم‌افزارهای هوش مصنوعی در فیس‌بوک و دیگر شبکه‌های اجتماعی بیشتر شده است.

این شرکت‌ها هزاران ناظر محتوایی را از سراسر دنیا استخدام کردند تا بتوانند این مشکل را در متون، تصاویر و ویدئوهایشان برطرف کنند. اخیرا اما بیش از 200 نفر از ناظران محتوایی فیس‌بوک در نامه‌ای سرگشاده به مارک زاکربرگ، مدیر فیس‌بوک، اعلام کردند که حضورشان در شرکت در شرایط کرونا، باعث شده زندگی‎شان به خطر بیفتد.

اما فقط نیروی انسانی کافی نیست و غول‌های تکنولوژی این روزها بیش از پیش متکی بر هوش مصنوعی و یادگیری ماشین شده‌اند؛ جایی که الگوریتم‌ها به صورت خودکار توسط تجربیات توسعه می‎‌یابند.

شروپفر می‌‎گوید:«تمرکز اصلی فیس‌بوک بر بهره‌وری از هوش مصنوعی است و برای این کار از تکنولوژی‌های پیشرفته یادگیری ماشین استفاده کرده تا محتوای آزاردهنده مردم را ناراحت نکند. میلیاردها نفر در سراسر دنیا کاربر پلتفرم ما هستند و ما می‌خواهیم از هوش مصنوعی استفاده کنیم تا کار بررسی محتوا را مقیاس‌بندی کنند و در شرایط لازم به صورت خودکار تصمیم بگیرند. هدفمان شناسایی سخنان نفرت‌انگیز، اطلاعات غلط و انواع دیگر محتوای مجرمانه با سرعت و دقت خیلی زیاد است و می‌خواهیم این شرایط را برای انواع محتوایمان به هر زبان و برای هر جامعه‌ای در هر گوشه دنیا داشته باشیم».

اما نرم‎افزار هوش مصنوعی فیس‌بوک هنوز هم در شناسایی برخی از این محتواها ناکام است. برای مثال هنوز با برخی از تصاویر کنایه‌آمیز یا متون عامیانه آشنایی ندارد. این در حالی است که انسان‌ها می‌توانند به سرعت این مشکلات را دریابند.

فیس‎بوک اعلام کرده که اخیرا از دوفناوری هوش مصنوعیجدید برای حل این معضلات کمک گرفته است. اولین فناوری «بهینه کننده یکپارچگی تقویت شده» است که از مثال‌های واقعی آنلاین یاد می‌گیرد. دومی هم معماری هوش مصنوعی با نام «لینفورمر» است که به فیس‎بوک توانایی درک مدل‌های پیچیده زبانی که پیش از این بسیار طولانی به حساب می‎آمدند را می‌دهد.

شروپفر می‌گوید:«ما از این دو فناوری در محصولاتمان استفاده می‎‌کنیم تا محتوای فیس‌بوک و اینستاگرام در مذاهب مختلف را تحلیل کنیم».

فیس‌بوک مدعی شده که ابزار جدیدی به کار گرفته تا ویدئوهای تولید شده توسط کامپیوتر که واقعی به نظر می‎رسند (دیپ فیک‌ها) را شناسایی کنند. همچنین این شرکت یک سیستم موجود به نام سیم سرچ‌نت را توسعه داده است. این سیستم یک ابزار مربوط به تصاویر است که وظیفه شناسایی اطلاعات غلط در تصاویر را دارد.

شروپفر می‌گوید:«با این وجود، معنی همه این نوآوری‌ها این است که سیستم‌های هوش مصنوعی ما حالا درک و فهم بهتر و عمیق‌تری از محتوا دارند. این سیستم‌ها به نسبت قبل توجه بیشتری به پست‌های منتشر شده روی پلتفرم‌های ما را دارند. به همین دلیل وقتی یک الگوی رفتاری یا تصویر به طور گسترده منتشر می‎شود، سریع‌تر به آن رسیدگی می‌کنند».

شروپفر مدعی شده چالش‌هایی که فیس‌بوک با آن‌ها مواجه است بسیار پیچیده، ظریف و با سرعت در حال تکامل هستند. در نتیجه طبقه‎بندی اشتباه محتواها و شناسایی آن‌ها به عنوان سخنان نفرت‌انگیز می‌تواند مانع از توانایی افراد برای توصیف خودشان شود.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.