هوش مصنوعی سرکش اوپنایآی پیش از هاگینگ فیس به RubyGems هم حمله کرده بود
پژوهشگران فاش کردند عوامل هوش مصنوعی اوپنایآی پیش از نفوذ به هاگینگفیس، به سرویس نرمافزاری رابیجمز حمله کرده بودند. پژوهشگران حوزهی امنیت سایبری اعلام کردند عاملهای هوش مصنوعی آزمایشی OpenAI دو ماه پیش از نفوذ به پلتفرم متنباز هاگینگ فیس، به سرویس نرم…
خلاصه تحلیلی خبر
پژوهشگران فاش کردند عوامل هوش مصنوعی اوپنایآی پیش از نفوذ به هاگینگفیس، به سرویس نرمافزاری رابیجمز حمله کرده بودند. پژوهشگران حوزهی امنیت سایبری اعلام کردند عاملهای هوش مصنوعی آزمایشی OpenAI دو ماه پیش از نفوذ به پلتفرم متنباز هاگینگ فیس، به سرویس نرم…
موضوعات اصلی: پشتیبانی شبکه، هوش مصنوعی، امنیت سایبری، رابیجمز، مصنوعی، عوامل
پژوهشگران فاش کردند عوامل هوش مصنوعی اوپنایآی پیش از نفوذ به هاگینگفیس، به سرویس نرمافزاری رابیجمز حمله کرده بودند.
پژوهشگران حوزهی امنیت سایبری اعلام کردندعاملهای هوش مصنوعی آزمایشی OpenAI دو ماه پیش از نفوذ به پلتفرم متنباز هاگینگ فیس، به سرویس نرمافزاری RubyGems حمله کردهاند.
وقوع رویدادهایی که در آنها عوامل هوش مصنوعی توسعهدهندگانی مانند اوپنایآی و رقیبش آنتروپیک به سیستمهای خارجی نفوذ کرده یا برای دسترسی به آنها تلاش داشتهاند، نگرانیها پیرامون مهارناپذیری این سامانهها را افزایش داده است.
پژوهشگران جمعه یافتههای خود را منتشر و اعلام کردند ایجنتهای هوش مصنوعی در اردیبهشتماه صدها بستهی مخرب را روی رابیجمز بارگذاری کردند. یافتههای منتشرشده نشان میدهد نویسندهی بستهها عوامل داخلی اوپنایآی بودهاند و همچنین برای سرقت اطلاعات کاربری با سوءاستفاده از یک آسیبپذیری ناشناخته تلاش کردهاند.
سخنگوی OpenAI، در بیانیهای گفت: «بر اساس بررسیهای ما، عوامل ما از پلتفرم رابیجمز برای دسترسی به اینترنت بهمنظور انجام وظایف بیخطر و بازیابی اطلاعات عمومی استفاده کردهاند. ما به عنوان بخشی از بررسی گستردهتر فعالیت عوامل در طول آموزش و ارزیابی، به تحقیقات ادامه خواهیم داد.»
نمایندگان اوپنایآی افزودهاند عواملی که وظایفی نظیر تهیهی گزارش یا پرکردن صفحات گسترده را بر عهده داشتند، از رابیجمز برای دسترسی به دادههای عمومی در فرایند آموزش بهره بردند. رابیجمز در پستی اعلام کرد شواهدی مبنیبر موفقیت تلاشها نیافته و مشخص نیست بستههای کمپین اسپم توسط هوش مصنوعی ساخته شدهاند یا خیر.
برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.