عامل‌های هوش مصنوعی چگونه نحوه قضاوت و تصمیم‌گیری متخصصان را تغییر می‌دهد؟

۳ تن از پژوهشگران آنتروپیک در مقاله‌ای جدید به نام «Who’s Aligned to Whom? How AI Agents Shape Experts’ Research Judgment Calls»، این فرض را بررسی می‌کند که
آیا متخصصان واقعاً تصمیم‌های مهم را خودشان می‌گیرند یا در عمل به قضاوت عامل‌های هوش مصنوعی واگذار می‌کنند؟

طراحی پژوهش

پژوهشگران برای پاسخ به این پرسش، آزمایشی تصادفی و کنترل‌شده با مشارکت ۶۱ تحلیلگر حرفه‌ای طراحی کردند که در استنباط علّی (Causal Inference) تجربه داشتند. از میان این افراد، ۵۰ نفر در انجام وظیفه خود از Claude Code استفاده کردند و نتایج آن‌ها مبنای تحلیل اصلی قرار گرفت.

وظیفه شرکت‌کنندگان، انجام یک تحلیل آماری واقع‌گرایانه برای یک تعاونی کشاورزی فرضی بود. هیئت‌مدیره این تعاونی باید تصمیم می‌گرفت که آیا برنامه مشاوره‌ای آن برای افزایش بهره‌وری مزارع مؤثر است و باید گسترش یابد یا خیر.

در طول تحلیل، شرکت‌کنندگان با چهار تصمیم روش‌شناختی روبه‌رو می‌شدند که هرکدام دو گزینه قابل‌دفاع داشتند. سپس باید درباره گسترش یا توقف برنامه، توصیه نهایی خود را ارائه می‌کردند. پژوهشگران به طور تصادفی به عامل هوش مصنوعی هر شرکت‌کننده گرایش مشخصی نسبت به یکی از دو گزینه اختصاص دادند؛ این گرایش در دستورالعمل‌های پنهان عامل قرار داشت و به تحلیلگر اعلام نمی‌شد. عامل باید قوی‌ترین استدلال ممکن را در حمایت از گزینه ترجیحی خود مطرح می‌کرد، اما اگر شواهد به طور قاطع خلاف آن را نشان می‌دادند، نظرش را تغییر می‌داد. همچنین موظف بود از گمراه‌کردن کاربر یا تحریف نتایج خودداری کند.

نتیجه اصلی قابل‌توجه بود
در مجموع، تحلیلگران در ۸۶ درصد موارد همان گزینه‌ای را انتخاب کردند که عامل هوش مصنوعی نیز آن را ترجیح داده بود. اگر ورودی عامل هیچ تأثیری بر تصمیم انسان نداشت، انتظار می‌رفت این میزان تقریباً ۵۰ درصد باشد. این یافته نشان می‌دهد که حتی متخصصان باتجربه نیز ممکن است در تصمیم‌هایی که نیازمند قضاوت حرفه‌ای هستند، بیش از آنچه تصور می‌کنند از عامل‌های هوش مصنوعی تأثیر بپذیرند.

تصمیم‌های مورد بررسی

پژوهشگران شرکت‌کنندگان را از میان متخصصانی انتخاب کردند که پیش‌تر دانش خود را در زمینه استنباط علّی اثبات کرده بودند، به طور منظم از زبان‌های برنامه‌نویسی Python یا R استفاده می‌کردند و تجربه عملی تحلیل علّی داده‌های مشاهده‌ای را داشتند. تحلیل علّی مشاهده‌ای به بررسی روابط علت‌ومعلولی با استفاده از داده‌های دنیای واقعی، به‌جای آزمایش‌های کنترل‌شده، اشاره دارد.

سناریوی پژوهش درباره تعاونی فرضی Greenfields بود که برنامه‌ای مشاوره‌ای و پولی برای کمک به اعضای خود در افزایش عملکرد محصولات کشاورزی اجرا می‌کرد. حدود ۴۰ درصد اعضا در این برنامه ثبت‌نام کرده بودند. هیئت‌مدیره باید تصمیم می‌گرفت که برنامه را با پرداخت یارانه گسترش دهد یا آن را متوقف کند.

شرط گسترش برنامه این بود که بهره‌وری مزارع حدود ۳ تا ۴ درصد افزایش یابد. بااین‌حال، هیئت‌مدیره مشخص نکرده بود که بهره‌وری دقیقاً چگونه باید اندازه‌گیری شود. پژوهشگران عمداً چهار تصمیم تحلیلی را باز گذاشتند تا متخصصان ناچار شوند میان گزینه‌های معقول انتخاب کنند.

این چهار تصمیم عبارت بودند از

1. معیار سنجش پیامدآیا بهره‌وری باید بر اساس میزان محصول برداشت‌شده از هر هکتار اندازه‌گیری شود یا بر اساس میزان محصول به‌ازای هر واحد هزینه عملیاتی؟
2. روش مقایسهآیا باید تغییر عملکرد مزارع ثبت‌نام‌کرده پس از ورود به برنامه با تغییر عملکرد سایر مزارع در همان دوره مقایسه شود یا عملکرد مزارع با تعدیل آماری تفاوت‌های میان آن‌ها مستقیماً مقایسه شود؟ گزینه نخست از طرح تفاوت در تفاوت‌ها (Difference-in-Differences) استفاده می‌کند.
3. دامنه ارزیابیآیا اثر برنامه باید فقط در مزارع ثبت‌نام‌کرده اندازه‌گیری شود یا کل اعضای تعاونی را در بر بگیرد؟
4. وزن‌دهی به مزارعآیا همه مزارع باید وزن یکسانی داشته باشند یا مزارع بزرگ‌تر سهم بیشتری در محاسبه نتیجه نهایی پیدا کنند؟

هرکدام از این انتخاب‌ها می‌توانست برآورد افزایش بهره‌وری را چند واحد درصد تغییر دهد. ازآنجاکه آستانه تصمیم‌گیری هیئت‌مدیره نیز حدود ۳ تا ۴ درصد بود، انتخاب روش تحلیل می‌توانست مستقیماً بر نتیجه نهایی اثر بگذارد.

برای هر یک از پنج تصمیم، شامل چهار تصمیم تحلیلی و توصیه نهایی، گرایش و ترجیح عامل هوش مصنوعی مورداستفاده هر شرکت‌کننده با پرتاب سکه تعیین می‌شد. دستورالعمل‌های پنهان به عامل می‌گفتند که ترجیح خود را مطرح کند و از آن دفاع کند، اما در صورت ناسازگاری قاطع با شواهد آن را کنار بگذارد. بنابراین، هدف آزمایش بررسی تأثیر ترجیح اعلام‌شده عامل بود، نه سنجش توانایی آن در فریب‌دادن کاربران.

از ۶۱ شرکت‌کننده، ۱۱ نفر تصمیم گرفتند بدون عامل هوش مصنوعی کار کنند و از تحلیل اصلی کنار گذاشته شدند. در میان ۵۰ تحلیلگری که از عامل هوش مصنوعی استفاده کردند، ۶۵ درصد مدرک کارشناسی‌ارشد یا دکتری داشتند یا دست‌کم شش سال سابقه کاری داشتند. همچنین، از میان ۴۸ نفری که به پرسش مربوط پاسخ دادند، ۹۰ درصد مهارت خود را در استنباط علّی مشاهده‌ای در سطح مسلط یا متخصص ارزیابی کردند. میانه زمان انجام وظیفه ۶۵ دقیقه بود. شرکت‌کنندگان در محیط تحت وب VS Code، با Claude Code و مدل Claude Opus 4.8 در سطح تلاش محاسباتی High کار کردند.

نتایج اصلی: تأثیر گرایش عامل بر تصمیم‌های تحلیلی

پیروی متخصصان از ترجیحات عامل

تحلیل نتایج نشان داد که انتخاب متخصصان در هر چهار تصمیم تحلیلی به‌شدت با گرایش عامل همسو بود

• انتخاب معیار سنجش پیامد: ۹۲ درصد
• انتخاب روش مقایسه: ۸۲ درصد
• انتخاب دامنه مزارع مورد ارزیابی: ۸۱ درصد
• انتخاب روش وزن‌دهی: ۹۰ درصد

در مجموع، ۸۶ درصد انتخاب‌ها با گزینه مورد ترجیح عامل مطابقت داشتند.

این نتایج نشان می‌دهد که عامل هوش مصنوعی صرفاً ابزار اجرای محاسبات نبود؛ ترجیحات آن با انتخاب‌های روش‌شناختی تحلیلگران نیز ارتباط داشت. در این نوع مسائل، انتخاب روش تحلیل می‌تواند بر نتیجه‌ای که در نهایت مبنای تصمیم مدیریتی قرار می‌گیرد اثر بگذارد.

تأثیر بر توصیه نهایی کمتر، اما همچنان قابل‌توجه بود

تأثیر گرایش عامل بر تصمیم نهایی برای گسترش برنامه از تأثیر آن بر چهار انتخاب تحلیلی کمتر بود. هنگامی که عامل از گسترش برنامه حمایت می‌کرد، ۵۴ درصد تحلیلگران نیز گسترش آن را توصیه کردند. در مقابل، وقتی عامل به گزینه مخالف گرایش داشت، این میزان به ۳۶ درصد کاهش یافت.

پژوهشگران احتمال می‌دهند که دلیل کاهش اثر مستقیم عامل بر تصمیم نهایی این باشد که پس از محاسبه میزان افزایش بهره‌وری، توصیه تا حد زیادی به عبور یا عدم عبور برآورد از آستانه ۳ تا ۴ درصدی هیئت‌مدیره وابسته می‌شد. در چنین شرایطی، فضای کمتری برای اعمال قضاوت شخصی باقی می‌ماند. بااین‌حال، عامل پیش از رسیدن به این مرحله بر انتخاب‌های تحلیلی اثر گذاشته بود و این انتخاب‌ها می‌توانستند برآورد بهره‌وری را تغییر دهند.

پژوهشگران با استفاده از چهار گرایش تصادفی عامل در تصمیم‌های تحلیلی، مدلی آماری ساختند که توصیه نهایی ۸۲ درصد تحلیلگران را به‌درستی پیش‌بینی می‌کرد. این میزان برای روشی که همیشه رایج‌ترین توصیه را انتخاب می‌کرد، ۶۱ درصد بود. تحلیل مربوط به این مقایسه، افرادی را که تمدید برنامه را پیشنهاد کرده بودند کنار گذاشت. به بیان دیگر، پژوهشگران توانستند با استفاده از گرایش‌هایی که پیش از شروع کار به‌صورت تصادفی تعیین شده بودند، بخش بزرگی از توصیه‌های نهایی تحلیلگران را پیش‌بینی کنند.

تغییر نظر متخصصان پس از مخالفت عامل

در ۳۸ مورد، تحلیلگر پیش از آنکه عامل گرایش خود را مطرح کند، ترجیح اولیه‌اش را بیان کرده بود. این موارد امکان مقایسه انتخاب اولیه با تصمیم نهایی را فراهم کردند. هنگامی که گرایش عامل با ترجیح اولیه تحلیلگر مخالف بود، تحلیلگر در ۶۰ درصد موارد نظر خود را تغییر داد. در مقابل، وقتی عامل با ترجیح اولیه او موافق بود، احتمال تغییر نظر فقط ۶ درصد بود. بااین‌حال، پژوهشگران تأکید می‌کنند که نتیجه به دلیل تعداد محدود موارد، عدم قطعیت قابل‌توجهی دارد. همچنین، نمی‌توان با قطعیت گفت که تمام اختلاف مشاهده‌شده ناشی از تأثیر هوش مصنوعی است؛ زیرا ممکن است افرادی که ترجیح اولیه خود را اعلام کرده بودند، از جهات دیگری با سایر شرکت‌کنندگان تفاوت داشته باشند.

سابقه و تخصص، پیروی از عامل را پیش‌بینی نکردند

پژوهشگران بررسی کردند که آیا ویژگی‌هایی مانند سابقه کاری، میزان تحصیلات، مهارت خودارزیابی‌شده در استنباط علّی، امتیاز آزمون دانش، اعتماد به هوش مصنوعی، میزان استفاده از آن، تمایل به تفکر عمیق، گشودگی ذهنی، جنسیت و سن می‌توانند میزان پیروی تحلیلگران از عامل را توضیح دهند.

تنها سن در تحلیل اولیه رابطه‌ای از نظر آماری معنادار نشان داد؛ تحلیلگران مسن‌تر بیشتر از گرایش عامل پیروی می‌کردند. اما پس از تعدیل آماری برای تعداد زیاد متغیرهای بررسی‌شده، این رابطه دیگر معنادار نبود. ازآنجاکه بیشتر شرکت‌کنندگان در اغلب تصمیم‌ها از عامل پیروی کرده بودند، تفاوت کافی برای شناسایی عوامل پیش‌بینی‌کننده وجود نداشت. بنابراین، پژوهش شواهد معتبری ارائه نمی‌کند که بر اساس آن بتوان گفت متخصصان باتجربه‌تر یا دارای دانش بیشتر، کمتر تحت‌تأثیر عامل قرار می‌گیرند.

آیا متخصصان متوجه تأثیر هوش مصنوعی بودند؟

یکی از یافته‌های مهم پژوهش، فاصله میان میزان تأثیرپذیری تحلیلگران و برداشت آن‌ها از نقش عامل بود. در نظرسنجی پس از انجام وظیفه، ۵۲ درصد تحلیلگران توصیه نهایی را بیشتر حاصل قضاوت خودشان دانستند تا توصیه عامل. بااین‌حال، انتخاب‌های این گروه نیز به طور متوسط حدود ۶۵ واحد درصد در جهت گرایش عامل جابه‌جا شده بود. در میان افرادی که توصیه را بیشتر متعلق به عامل می‌دانستند، این میزان حدود ۷۹ واحد درصد بود. اختلاف میان دو گروه در محدوده خطای آماری قرار داشت.

اعتماد تحلیلگران به توصیه خود نیز تفاوت معناداری نداشت. افرادی که در هر چهار تصمیم تحلیلی از عامل پیروی کرده بودند، به طور متوسط سطح اعتماد ۷۱ از ۱۰۰ را گزارش کردند؛ این امتیاز برای سایر تحلیلگران ۷۳ بود. در این مقیاس، صفر به معنای تصمیمی در حد پرتاب سکه و ۱۰۰ به معنای تصمیمی بود که فرد حاضر است اعتبار حرفه‌ای خود را بر آن به خطر بیندازد.

یافته دیگری به توضیحات تحلیلگران درباره انتخاب‌هایشان مربوط می‌شد. پس از پایان کار، از آن‌ها خواسته شد دلیل انتخاب هر گزینه را توضیح دهند. شرکت‌کنندگان هنگام پاسخ‌گویی نمی‌توانستند مکالمات خود با عامل را دوباره مشاهده کنند. بااین‌حال، ۷۷ درصد تحلیلگران دست‌کم در یکی از پاسخ‌های خود از استدلال عامل استفاده کردند؛ گاهی حتی با عباراتی کاملاً مشابه. تنها ۱۵ درصد در پاسخ‌هایشان به عامل به‌عنوان منبع آن استدلال‌ها اشاره کردند.

از میان ۴۸ نفری که به پرسش درباره هدف پژوهش پاسخ دادند، شش نفر به‌درستی حدس زدند که مطالعه درباره تأثیر هوش مصنوعی بر انتخاب‌های آن‌هاست. بااین‌حال، هیچ‌کس متوجه نشده بود که ترجیحات خود عامل عمداً دست‌کاری شده‌اند. این نتایج نشان می‌دهد که پیروی از عامل لزوماً با آگاهی فرد از میزان تأثیرپذیری‌اش همراه نیست و ارزیابی پس از انجام کار نیز ممکن است نتواند منشأ واقعی تصمیم‌ها را آشکار کند.

مقایسه عملکرد تحلیلگران با و بدون هوش مصنوعی

پژوهش همچنین عملکرد ۱۱ تحلیلگری که بدون عامل کار کردند را با ۵۰ تحلیلگری که از عامل هوش مصنوعی استفاده کردند مقایسه کرد. در گروه بدون هوش مصنوعی، ۶ نفر معادل ۵۵ درصد، مرتکب خطاهای روش‌شناختی جدی شدند که نتایج آن‌ها را نامعتبر می‌کرد. در گروه استفاده‌کننده از عامل، این تعداد ۳ نفر، معادل ۶ درصد بود. دو مدل هوش مصنوعی این خطاها را شناسایی کردند و یکی از نویسندگان پژوهش، بدون اطلاع از گروه هر تحلیلگر، موارد را بررسی کرد. همچنین تحلیلگران بدون عامل زمان بیشتری صرف کردند: میانه زمان انجام کار در این گروه ۹۰ دقیقه بود، درحالی‌که برای گروه استفاده‌کننده از عامل ۶۵ دقیقه گزارش شد.

بااین‌حال، این دو گروه مستقیماً قابل‌مقایسه نبودند. گروه بدون هوش مصنوعی به طور متوسط تجربه کمتری داشت؛ تعداد افراد دارای مدرک کارشناسی‌ارشد یا دکتری در آن کمتر بود و افراد بیشتری سابقه دو سال یا کمتر در نقش‌های تحلیلی داشتند. همچنین، تعداد کمتری از آن‌ها مهارت خود را در استنباط علّی در سطح مسلط یا متخصص ارزیابی کرده بودند. بنابراین، نمی‌توان اختلاف عملکرد را صرفاً به استفاده یا عدم استفاده از هوش مصنوعی نسبت داد. با وجود این محدودیت، یافته‌ها نشان می‌دهند که عامل می‌تواند در کاهش خطاهای جدی و کوتاه‌تر کردن زمان انجام کار نقش داشته باشد؛ درعین‌حال، همین ابزار ممکن است بر تصمیم‌هایی که باید به قضاوت متخصص وابسته باشند نیز اثر بگذارد.

محدودیت‌های پژوهش

پژوهشگران چهار محدودیت اصلی را مطرح می‌کنند.

1. نخست، گرایش عامل‌ها عمداً تقویت شده بود تا اثر آن‌ها قابل‌اندازه‌گیری باشد. بنابراین، نرخ‌های مشاهده‌شده لزوماً نشان‌دهنده میزان تأثیر عامل‌ها در شرایط معمول نیستند. شدت اثر در محیط واقعی به قدرت ترجیح اولیه متخصص، وضوح مسئله و رفتار مدل بستگی دارد.
2. دوم، مطالعه فقط یک وظیفه در حوزه کشاورزی و با یک مدل، یعنی Claude Opus 4.8 انجام شد. تحلیلگران در استنباط علّی تخصص داشتند، اما با حوزه کشاورزی آشنا نبودند. در محیط واقعی، متخصصان ممکن است دانش موضوعی بیشتر، ترجیحات قوی‌تر و امکان گفت‌وگو با افراد مرتبط را داشته باشند؛ عواملی که می‌توانند تأثیر عامل را کاهش دهند.
3. سوم، نتایج میانگین تأثیر گرایش عامل بر مجموعه تحلیلگران را نشان می‌دهند. پژوهشگران نمی‌توانند مشخص کنند که هر فرد به‌تنهایی تا چه اندازه تحت‌تأثیر قرار گرفته است.
4. چهارم، مطالعه انتخاب نهایی تحلیلگران را ثبت کرد، اما شدت ترجیح آن‌ها برای هر گزینه را پیش از مداخله عامل اندازه نگرفت. بنابراین، مشخص نیست چه میزان از پیروی مشاهده‌شده به نداشتن ترجیح اولیه قوی مربوط بوده است.

پیامدها برای پژوهش علمی، سیاست‌گذاری و ایمنی هوش مصنوعی

پژوهشگران معتقدند یکی از دلایل پیروی متخصصان از ترجیحات هوش مصنوعی این است که افراد همیشه پیش از شروع تحلیل، نظر کاملاً شکل‌گرفته‌ای ندارند. متخصصان ممکن است هنگام بررسی گزینه‌ها به ترجیح خود برسند یا حتی آن را کشف کنند.

عامل‌های آزمایش‌شده موظف بودند از تحریف داده‌ها خودداری کنند و گاهی توضیح می‌دادند که انتخاب هر گزینه چه اثری بر نتیجه دارد. بااین‌حال، به‌ندرت استدلالی قوی درباره دلایل ترجیح گزینه مقابل ارائه می‌کردند. در نتیجه، تحلیلگران ممکن بود فرض‌های عامل را بپذیرند، بی‌آنکه مبانی تصمیم خود را مستقلاً بررسی کنند. این وضعیت می‌تواند به‌نوعی سلب اختیار (Disempowerment) منجر شود؛ نتیجه همچنان به نام متخصص منتشر می‌شود، اما تصمیم‌هایی که بیش از همه به قضاوت او وابسته‌اند، عملاً بر اساس ترجیحات پیشین عامل تعیین شده‌اند.

پیامد این مسئله به افراد محدود نیست. در علم و سیاست‌گذاری، اعتبار نتایج مشابه از چند گروه پژوهشی تا حدی به این فرض وابسته است که گروه‌ها مستقل از یکدیگر به نتایج رسیده‌اند. اگر چند تیم از مدل‌هایی با ترجیحات مشابه پیروی کنند، توافق میان آن‌ها ممکن است دیگر نشان‌دهنده تأیید مستقل نباشد. در چنین شرایطی، یک ترجیح دلخواه یا ناسازگار با اهداف پژوهش می‌تواند به طور هم‌زمان بر نتایج متعددی اثر بگذارد.

این موضوع برای پژوهش‌های ایمنی هوش مصنوعی اهمیت ویژه‌ای دارد. پژوهشگران به‌تدریج از عامل‌ها برای اجرا و تحلیل آزمایش‌ها استفاده می‌کنند، زیرا حجم کار از ظرفیت نیروی انسانی فراتر رفته است. در چنین شرایطی، حضور انسان در فرایند معمولاً به‌عنوان یک سازوکار نظارتی مستقل در نظر گرفته می‌شود. اما اگر قضاوت‌های کلیدی پیش‌تر تحت‌تأثیر ترجیحات عامل شکل گرفته باشند، تأیید نهایی انسان الزاماً به معنای بررسی مستقل نیست.

تشخیص این مسئله دشوار است. بررسی خطاهای فنی یا مقایسه نتیجه با پاسخ مرجع زمانی مفید است که پاسخ درست مشخصی وجود داشته باشد. اما در تصمیم‌های قضاوت‌محور، ممکن است چند انتخاب متفاوت قابل‌دفاع باشند و نتیجه از نظر فنی صحیح به نظر برسد. پرسش از متخصص پس از پایان کار نیز لزوماً مشکل را حل نمی‌کند، زیرا ممکن است خود او از میزان تأثیرپذیری‌اش آگاه نباشد.

پیشنهادهایی برای آینده

پژوهشگران سه مسیر را برای بررسی و مدیریت این مسئله پیشنهاد می‌کنند

• اندازه‌گیری میزان واگذاری قضاوت به عامل‌هالازم است روش‌هایی برای سنجش تأثیر عامل در محیط‌های واقعی توسعه یابد. همچنین، شناخت بهتر ترجیحات پیش‌فرض مدل‌ها و شیوه بیان آن‌ها می‌تواند به کاربران کمک کند تعامل آگاهانه‌تری با هوش مصنوعی داشته باشند.
• طراحی متفاوت عامل‌هاعامل‌ها می‌توانند برای هر گزینه استدلالی قوی ارائه کنند یا پیش از مطرح‌کردن ترجیح خود، نظر اولیه متخصص را بپرسند. بااین‌حال، بررسی همه تصمیم‌های باز ممکن است بار شناختی زیادی بر کاربران تحمیل کند. بنابراین، باید مشخص شود کدام تصمیم‌ها اهمیت بیشتری دارند. نحوه بیان مدل نیز مهم است؛ اعتمادبه‌نفس و روان‌بودن بیان می‌تواند بر قضاوت انسان اثر بگذارد. مدل بیش از حد مطمئن ممکن است تأثیر نامتناسبی داشته باشد، درحالی‌که مدلی که بیش از حد مردد صحبت می‌کند، استفاده از خود را دشوار می‌کند.
• بازنگری در رویه‌های سازمانیسازمان‌ها باید مشخص کنند کدام تصمیم‌ها را می‌توان به هوش مصنوعی واگذار کرد و کدام‌یک به قضاوت آگاهانه و مستقل انسان نیاز دارند. همچنین باید برای متخصصان زمان و منابع کافی فراهم شود تا بتوانند نظر خود را شکل دهند. ازسوی‌دیگر، اگر افراد به‌تدریج از تصمیم‌گیری کنار گذاشته شوند، ممکن است مهارت قضاوت مستقل خود را از دست بدهند. بنابراین، سازمان‌ها باید برای نقش انسان و توسعه مهارت‌های او، حتی در حضور سامانه‌های بسیار توانمند، راهبرد مشخصی داشته باشند.

در مجموع، این پژوهش استدلال نمی‌کند که باید استفاده از هوش مصنوعی را کاهش داد. مسئله اصلی، تعیین آگاهانه مرز میان تصمیم‌گیری انسان و عامل است. برخی تصمیم‌ها را می‌توان بدون نگرانی جدی واگذار کرد، اما در مواردی که قضاوت مستقل برای اعتبار علمی، ایمنی یا تاب‌آوری سازمان اهمیت دارد، حفظ نقش فعال انسان ضروری است. هدف آن است که تقسیم کار میان انسان و هوش مصنوعی نتیجه انتخابی آگاهانه باشد، نه پیامد تدریجی و ناخواسته استفاده از عامل‌ها.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.