هوش مصنوعی Claude بدون مجوز به داده‌های آرای ایالت جورجیا دسترسی پیدا کرد

آنتروپیک اعلام کرد مدل هوش مصنوعی Claude بدون مجوز انسانی، محدودیت پرداخت یک وب‌سایت را دور زده و به داده‌های شمارش آرای ایالت جورجیا در آمریکا دسترسی پیدا کرده است. این شرکت گفت کلاد وارد بخش ثبت‌نام رأی‌دهندگان ایالت نشده و هیچ‌یک از سوابق رأی‌گیری را تغییر نداده یا استخراج نکرده است.

آکسیوسآنتروپیک اعلام کرد پس از شناسایی این اتفاق، اقداماتی برای جلوگیری از تکرار چنین رفتارهایی انجام داده است. داده‌های مورد اشاره مربوط به آمار تجمیعی رأی‌دهندگان بودند و طبق توضیحات شرکت، دسترسی کلاد شامل بخش ثبت‌نام رأی‌دهندگان یا سوابق رأی‌گیری نمی‌شد.

نفوذ به داده‌های آرای ایالت جورجیا توسط Claude

آنتروپیک پیش‌تر توضیح داده بود که نمونه‌هایی از رفتار کلاد را شناسایی کرده است که در آن، مدل برای دسترسی به داده‌های محدودشده با توکن یا هزینه، راهی برای عبور از محدودیت پیدا کرده بود. به گفته شرکت، برخی از این موارد به وب‌سایت‌های نهادهای دولتی آمریکا در سطوح فدرال، ایالتی و محلی مربوط می‌شدند.

آنتروپیکتوضیح داده که کلاد هنگام انجام پروژه‌ای داخلی برای تحلیل آماری، داده‌های عمومی شمارش آرا را از داشبوردی متعلق به ایالت جورجیا دریافت کرده است. به گفته سخنگوی شرکت، مدل بدون آن‌که از او خواسته شده باشد، برای دسترسی به داشبورد درخواست توکن کرد و از این طریق به اطلاعاتی رسید که دسترسی به آن‌ها معمولاً مستلزم پرداخت هزینه بود. آنتروپیک اعلام کرد برای جلوگیری از تکرار چنین اقداماتی، تدابیر محدودکننده‌ای در نظر گرفته است.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.