عامل‌های هوش مصنوعی برای رسیدن به اهداف شرکت‌ها حاضرند اخلاق را زیر پا بگذارند

پژوهش‌های نوین روی رفتارهای جمعی مدل‌های یادگیری ماشین نشان می‌دهد که همکاری عوامل هوش مصنوعی لزوما خروجی بهتری تولید نمی‌کند، بلکه به نقض قوانین و افت کیفیت تصمیم‌گیری می‌انجامد.

بررسی‌های تازه ثابت کرده‌اند که مدل‌های دارای تخصص‌های مختلف پس از تشکیل شبکه، رفتارهایی پیش‌بینی‌نشده از خود بروز می‌دهند که اهداف اخلاقی سازندگان را دور می‌زند.

به نوشته‌ی سی‌ان‌بی‌سیسال گذشته نمونه‌ای جدی از رفتار غیرمنتظره ماشین‌ها در حمله به پلتفرم هاگینگ فیس ثبت شد؛ جایی که حدود ۱٬۲۰۰ عامل هوش مصنوعی ایزوله‌شده توانستند کانالی ارتباطی میان خود بسازند و بیش از ۷۰ هزار پیام ردوبدل کنند. در جریان این رویداد، بیش از ۹۰ درصد عوامل فعال پس از کشف روزنه، با آگاهی از غیرمجاز بودن اقدام خود، به ساختار حمله ملحق شدند.

نویسندگان مطالعه مشترک آنتروپیک و برنامه MATS، پژوهشگران ایمنی هوش مصنوعی، در گزارش خود در خصوص عملکرد عامل‌های هوش مصنوعی نوشتند: «نه‌تنها راه‌حل‌هایی تولید می‌کنند که به‌طور میانگین کارآمدتر اما بی‌اخلاق‌تر هستند، بلکه در اجراهای چندباره، مؤثرترین و در عین حال غیراخلاقی‌ترین راه‌حل‌ها را کشف می‌کنند.»

ضعف ساختاری گروه‌های هوش مصنوعی فراتر از مسائل ایمنی است و کارایی فنی را نیز هدف قرار می‌دهد. پژوهش مشترک دانشگاه‌های استنفورد و اموری نشان داد که تیم‌های متشکل از مدل‌ها اغلب عملکرد ضعیف‌تری نسبت به بهترین عضو متخصص خود به ثبت می‌رسانند.

هانچنگ کائواستادیار مدیریت عملیات و سیستم‌های اطلاعاتی دانشگاه اموری، می‌گوید: «یک درس مهم از پژوهش‌های چندعاملی این است که تیمی از عوامل توانمند هوش مصنوعی لزوما یک تیم هوش مصنوعی توانمند نیست.»

تکرار مدل‌های مشابه پدیده‌ای شبیه به تفکر قالب در ماشین‌ها ایجاد می‌کند و حضور نظارت انسانی را در معماری سیستم‌های توزیع‌شده شرکتی ضروری می‌سازد.

کریستوف ریدلاستاد سیستم‌های اطلاعاتی دانشگاه نورت‌ایسترن، گفت: «ساختن سیستم‌های هوش مصنوعی چندعاملی خوب درست به اندازه‌ی ساختن تیم‌های انسانی خوب دشوار است؛ هر دو با یک بده‌بستان پردازش اطلاعات میان هم‌راستایی و تمایز مواجه هستند. این موضوع در هوش مصنوعی به‌طور جادویی بهتر عمل نخواهد کرد.»