اخبار هوش مصنوعی

سناریوی جنگی فرضی می‌تواند محدودیت‌های امنیتی هوش مصنوعی را دور بزند

یک گزارش پژوهشی نشان می‌دهد مدل‌های هوش مصنوعی شرکت‌های بزرگ فناوری ممکن است با قرار گرفتن در موقعیت‌های فرضی جنگی، محدودیت‌های ایمنی خود را نادیده بگیرند و غیرنظامیان را نیز به‌عنوان اهداف احتمالی شناسایی کنند. تک‌ناک شرکت Vals که در زمینه ارزیابی هوش مصنوعی…

3 دقیقه مطالعه
  • پشتیبانی شبکه
  • هوش مصنوعی
  • هوش
  • مصنوعی
  • استفاده
  • مدل‌های
  • Anthropic
  • خودکار
سناریوی جنگی فرضی می‌تواند محدودیت‌های امنیتی هوش مصنوعی را دور بزند

خلاصه تحلیلی خبر

یک گزارش پژوهشی نشان می‌دهد مدل‌های هوش مصنوعی شرکت‌های بزرگ فناوری ممکن است با قرار گرفتن در موقعیت‌های فرضی جنگی، محدودیت‌های ایمنی خود را نادیده بگیرند و غیرنظامیان را نیز به‌عنوان اهداف احتمالی شناسایی کنند. تک‌ناک شرکت Vals که در زمینه ارزیابی هوش مصنوعی…

موضوعات اصلی: پشتیبانی شبکه، هوش مصنوعی، هوش، مصنوعی، استفاده، مدل‌های

یک گزارش پژوهشی نشان می‌دهد مدل‌های هوش مصنوعی شرکت‌های بزرگ فناوری ممکن است با قرار گرفتن در موقعیت‌های فرضی جنگی، محدودیت‌های ایمنی خود را نادیده بگیرند و غیرنظامیان را نیز به‌عنوان اهداف احتمالی شناسایی کنند.

تک‌ناکشرکت Vals که در زمینه ارزیابی هوش مصنوعی فعالیت می‌کند، مدل‌های OpenAI، Anthropic، گوگل و DeepSeek را با استفاده از تصاویر واقعی و شبیه‌سازی‌شده از اوکراین و ایران آزمایش کرد. هدف این پژوهش بررسی توانایی مدل‌ها در شناسایی اهداف از تصاویر پهپادی و ماهواره‌ای و احتمال استفاده از آن‌ها در جنگ خودکار بود.

شناسایی غیرنظامیان و مدارس به‌عنوان اهداف احتمالی

تصویر مربوط به خطر هوش مصنوعی در جنگ

نتایج آزمایش نشان داد مدل‌های مختلف بارها افراد غیرنظامی و حتی سربازان تسلیم‌شده را به‌عنوان اهداف احتمالی شناسایی کردند. نکته نگران‌کننده این بود که پژوهشگران توانستند با معرفی میدان جنگ به‌عنوان محیط یک بازی، پاسخ مدل‌هایی را که ابتدا از همکاری خودداری می‌کردند، تغییر دهند.

طبق گزارش Vals، هیچ‌یک از درخواست‌های آزمایش‌شده توسط سامانه‌های ایمنی مسدود نشدند و خودداری مدل‌ها از پاسخ‌گویی نیز چندان رایج نبود.

یکی از نمونه‌های مهم آزمایش، تصاویر ماهواره‌ای مدرسه‌ای در ایران بود که در فوریه ۲۰۲۶ هدف حمله آمریکا قرار گرفت و بیش از ۱۵۰ غیرنظامی در آن کشته شدند. مدل Claude Opus 5.5 در ۶۹ درصد آزمایش‌های معمول و ۷۲ درصد آزمایش‌هایی که با چارچوب بازی انجام شدند، این مدرسه را هدف احتمالی حمله تشخیص داد.

پژوهشگران تأکید کردند مدل‌ها مستقیماً برای تصمیم‌گیری درباره حمله آزمایش نشدند، اما اطلاعات تولیدشده از سوی آن‌ها می‌تواند در اختیار سامانه‌های تسلیحاتی خودکار قرار بگیرد.

بیشتر بخوانیدائتلاف ۱۰ کشور به رهبری آمریکا برای مقابله با نفوذ چین در صنعت هوش مصنوعی

واکنش OpenAI و Anthropic به خطرات نظامی هوش مصنوعی

این گزارش در شرایطی منتشر شده که اختلاف Anthropic با وزارت دفاع آمریکا درباره کاربرد نظامی هوش مصنوعی ادامه دارد. این شرکت پیش‌تر با استفاده از فناوری خود برای نظارت گسترده بر شهروندان آمریکایی و جنگ کاملاً خودکار مخالفت کرده بود.

سخنگوی Anthropic اعلام کرد نمونه‌های مطرح‌شده در گزارش با سیاست‌های این شرکت مغایرت دارند و این شرکت حساب‌های متخلف را مسدود می‌کند. Anthropic همچنین از توسعه تدابیر حفاظتی بیشتر خبر داد.

بیشتر بخوانیدپروژه Garlic LLM اجرای مدل هوش مصنوعی روی کنسول PS4 را ممکن کرد

سخنگوی OpenAI نیز گفت استفاده از مدل‌های عمومی این شرکت برای تسهیل خشونت یا اهداف امنیتی تأییدنشده ممنوع است. این شرکت در حال توسعه ابزارهای حفاظتی بیشتری برای جلوگیری از سوءاستفاده مرتبط با پهپادها و نرم‌افزارهای آن‌هاست.

پژوهشگران Vals معتقدند یکی از نگرانی‌های جدی‌تر، استفاده از هوش مصنوعی برای دسته‌بندی گسترده تصاویر میدان نبرد و تولید داده‌های آموزشی برای سامانه‌های خودکار هدف‌گیری است. آن‌ها همچنین تأکید کردند محدودیت‌های فنی مانند تأخیر پردازش و توان محاسباتی محدود پهپادها، استفاده مستقیم از مدل‌های عمومی برای هدف‌گیری زنده را دشوار می‌کند.

در همین حال، گزارش سرویس پژوهشی کنگره آمریکا نشان می‌دهد مدرکی مبنی بر استفاده مستقیم پنتاگون از مدل‌های پیشرفته هوش مصنوعی در سامانه‌های تسلیحاتی خودکار وجود ندارد.

بیشتر بخوانیدهوش مصنوعی جایگزین کدام پزشکان می شود؟

نوشتهسناریوی جنگی فرضی می‌تواند محدودیت‌های امنیتی هوش مصنوعی را دور بزنداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.