ايتنا - هجوم گزارش‌های جعلی هوش مصنوعی، گوگل را مجبور کرد برنامه پاداش باگ‌های متن‌باز را متوقف کند

گوگل برنامه پاداش در ازای اشکال (Bug Bounty) خود را برای نرم‌افزارهای متن‌باز متوقف کرده است. دلیل این تصمیم، به گفته شرکت، افزایش قابل توجه درخواست‌ها و گزارش‌هایی است که با کمک هوش مصنوعی تولید شده‌اند. این برنامه تا سال آینده میلادی در حالت تعلیق خواهد ماند.

توقف از اول اکتبر

گوگل در پست‌هایی در شبکه اجتماعی X و در وب‌سایت رسمی این برنامه اعلام کرد که پاداش‌دهی از اول اکتبر متوقف شده است. این شرکت همچنین قول داده در سه‌ماهه نخست سال ۲۰۲۷ «به‌روزرسانی» جدیدی درباره آینده برنامه منتشر کند.

گوگل در توضیح این مکث نوشت که علت آن، افزایش قابل توجه ارسال‌های خودکار است و اکثریت قریب‌به‌اتفاق آنها معتبر نیستند.

برنامه‌ای که قربانی «اشتباهات هوش مصنوعی» شد

این برنامه همان برنامه پاداش آسیب‌پذیری نرم‌افزارهای متن‌باز گوگل است که در آن، پژوهشگران امنیتی در ازای یافتن و گزارش آسیب‌پذیری در نرم‌افزارهای متن‌باز این شرکت پاداش دریافت می‌کردند.

مهندسان گوگل و نگهدارندگان پروژه‌های متن‌باز با سیل گزارش‌هایی روبه‌رو شده بودند که یا نامعتبر بودند یا حاوی «توهم» هوش مصنوعی بودند؛ یعنی ادعای آسیب‌پذیری‌هایی که در واقعیت وجود ندارند.

هشداری که از پیش داده شده بود

براساس گزارشTechcrunchسال گذشته کارشناسان امنیت سایبری هشدار داده بودند که خطاهای مدل‌های هوش مصنوعی می‌تواند تهدیدی جدی برای برنامه‌های پاداش باگ باشد. ماجرا از این قرار است که ابزارهای هوش مصنوعی می‌توانند در چند ثانیه گزارش‌هایی با ظاهر فنی و قانع‌کننده بنویسند، اما بررسی و رد هر گزارش جعلی ساعت‌ها از وقت تیم‌های امنیتی و نگهدارندگان داوطلب را می‌گیرد.

گوگل در عین حال به شرکت‌کنندگان توصیه کرده سایر برنامه‌های پاداش در ازای اشکال این شرکت را در نظر بگیرند. بنابراین تعلیق فعلاً فقط شامل برنامه مربوط به نرم‌افزارهای متن‌باز می‌شود.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.