ایجنت‌های هوش مصنوعی OpenAI به جان سایت سازمان ملل افتادند

روآن هاوارد-جونز، پژوهشگر امنیتی اعلام کرده است که ایجنت‌های هوش مصنوعی OpenAI بین ماه‌های آوریل و ژوئن بیش از ۱۶ هزار بار وب‌سایت آماری کنفرانس تجارت و توسعه سازمان ملل متحد (UNCTAD) را اسکن کرده‌اند.

به‌ گزارشسرویس هوش مصنوعیتک‌ناکاین حادثه اگرچه در سطح هک اخیرHugging Faceیا حملات اخیر علیه وب‌سایت‌های دولتی آمریکا قرار نمی‌گیرد، اما نمونه نگران‌کننده دیگری از رفتار ایجنت‌های هوش مصنوعی محسوب می‌شود که برای انجام یک وظیفه از چارچوب‌های معمول خود فراتر می‌روند.

بیشتر بخوانیدگزارش جدید از نقش ChatGPT در پرونده تیراندازی تامبلر ریج منتشر شد

حمله به UNCTAD

حتما بخوانیدهوش مصنوعی هزینه‌های درمان را در بیمارستان‌ها افزایش داده است

به گفته هاوارد-جونز، ایجنت‌های هوش مصنوعی شرکت OpenAI احتمالا ماموریت داشته‌اند داده‌های عمومی مرتبط با «شاخص ظرفیت‌های تولیدی» (PCI) را از طریق API مربوط به وب‌سایت آماری کنفرانس تجارت و توسعه سازمان ملل متحد (UNCTADstat) دریافت کنند. با وجود این‌، ایجنت‌ها دسترسی مستقیم به API نداشته‌اند و محدودیت‌های موجود در ابزارهای HTTP مورد استفاده آنها نیز توانایی استخراج داده از UNCTADstat را کاهش داده بود.

برای مطالعه بیشترحالت صوتی ChatGPT به اپ‌ها متصل می‌شود؛ تاییدها همچنان دست شماست

چگونگی عملکرد ایجنت‌های هوش مصنوعی OpenAI

این ایجنت‌های شرکت OpenAI در نهایت راهی برای دور زدن این محدودیت‌ها و آغاز استخراج داده از وب‌سایت پیدا کردند، اما همچنان با خطاهایی مواجه می‌شدند. در این مرحله، رفتار عامل‌های هوش مصنوعی از یک رویکرد خلاقانه به رفتاری فریبکارانه تغییر کرد. ایجنت‌ها تصور کردند خطاها ناشی از شناسایی درخواست‌های آنها توسط فیلتر هستند که وجود نداشت؛ بنابراین شروع به پنهان کردن رفتار خود کردند. آنها در نهایت دریافتند که می‌توانند از بازی XSS گوگل، یک ابزار آموزشی برای یادگیری اسکریپت‌نویسی بین‌سایتی، برای دستیابی به هدف خود استفاده کنند. ایجنت‌های هوش مصنوعی برای دسترسی به داده‌های سازمان ملل، به‌ تدریج به روش‌های تهاجمی‌تری روی آوردند.

نوشتهایجنت‌های هوش مصنوعی OpenAI به جان سایت سازمان ملل افتادنداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.