دستکاری دو نورون مصنوعی، رفتار چت‌بات «Qwen» را تهاجمی کرد

یک آزمایش نشان داد که با تغییر سیگنال دو نورون مصنوعی در مدل هوش مصنوعی «Qwen» می‌توان رفتار آن را به‌شدت تغییر داد و پاسخ‌هایی تهاجمی و تهدیدآمیز از آن گرفت.

پژوهش و آزمایش یک توسعه‌دهنده هوش مصنوعی نشان می‌دهد که دستکاری تنها دو نورون مصنوعی در مدل زبانی بزرگ متن‌باز چینی Qwen می‌تواند لحن و رفتار این چت‌بات را تغییر دهد. در این آزمایش، نسخه دستکاری‌شده مدل پاسخ‌هایی تهاجمی ارائه کرد و حتی انسان‌ها را به نابودی تهدید کرد.

این آزمایش نشان می‌دهد تغییر در سیگنال‌های بخش‌های کوچکی از یک مدل زبانی می‌تواند بر نحوه پاسخ‌گویی آن اثر قابل‌توجهی بگذارد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.