چه می‌شود اگر هوش مصنوعی رزومه‌های نوشته‌شده با هوش مصنوعی را ترجیح دهد؟

به نقل ازفایننشال‌تایمزاوایل سال جاری میلادی مؤسسه حقوقی ادلشاو گادرد (Addleshaw Goddard) با مشکلی نسبتاً ناخوشایند روبه‌رو شد. در اتفاقی که به الگویی آشنا تبدیل می‌شد، آگهی استخدامی این مؤسسه برای یک موقعیت شغلی در حوزه فناوری اطلاعات سیلی از درخواست‌های استخدامی را به دنبال داشت. یک سال پیش، شاید تنها چند ده نفر برای موقعیتی مشابه رزومه ارسال می‌کردند. اما هوش مصنوعی فرایند درخواست شغل را بسیار سریع‌تر و آسان‌تر کرده است و این بار ۱۷۸ درخواست به دست مؤسسه رسید.

مشکل اینجا بود که هرچه بررسی درخواست‌ها بیشتر طول می‌کشید، احتمال اینکه افراد شایسته در جای دیگری مشغول به کار شوند، افزایش می‌یافت. ادلشاو نیز مانند بسیاری از سازمان‌ها، مدیران خود را تشویق کرده بود تا روش‌هایی را آزمایش کنند که با استفاده ایمن از هوش مصنوعی، فرایندهای سازمانی را بهبود می‌بخشند. بنابراین، واحد منابع انسانی مؤسسه تصمیم گرفت آزمایشی انجام دهد و عملکرد یک عامل هوش مصنوعی را در ارزیابی درخواست‌های استخدامی با عملکرد انسان‌ها مقایسه کند.

یک عامل هوش مصنوعی با استفاده از سامانه داخلی مایکروسافت کوپایلت (Microsoft Copilot) مؤسسه راه‌اندازی شد. سپس اطلاعات مربوط به موقعیت شغلی موردنظر، تجربه لازم متقاضیان در کار با برخی سامانه‌های منابع انسانی و زبان‌های برنامه‌نویسی و همچنین توانایی‌های موردنیاز آن‌ها در زمینه هوش مصنوعی، در اختیار عامل قرار گرفت. کارکنان مؤسسه ابتدا درخواست‌ها را بررسی و مجموعه‌ای کوتاه‌تر شامل حدود دوازده متقاضی، انتخاب کردند و سپس از عامل خواستند به آن‌ها امتیاز بدهد.

نه زیرساخت، نه داده، نه هزینه‌کرد؛ نگهداشت استعداد بحران اصلی شرکت‌های هوش مصنوعی است

عامل هوش مصنوعی این کار را با سرعت انجام داد و فهرستی از نامزدهایی ارائه کرد که از نظر آن، بهترین گزینه‌ها برای استخدام بودند. کارکنان انسانی نیز همین کار را انجام دادند. اما متأسفانه، دو فهرست با یکدیگر مطابقت نداشتند.

عامل هوش مصنوعی تحت‌تأثیر درخواست‌های استخدامی پرزرق‌وبرقی قرار گرفته بود که در آن‌ها، متقاضیان مدعی شده بودند در شغل قبلی خود، طی مدتی بی‌سابقه به دستاوردهای استثنایی در حوزه فناوری اطلاعات رسیده‌اند یا با وجود تجربه اندک، روی پروژه‌های بزرگی کار کرده‌اند. خلاصه اینکه این ادعاها بیش از حد خوب به نظر می‌رسیدند تا واقعی باشند و نشانه‌هایی از نگارش رزومه با کمک هوش مصنوعی داشتند.

وقتی هوش مصنوعی دستمزدها را تعیین می‌کند، چه اتفاقی برای فریلنسرها می‌افتد؟

«کاترین راثبون» (Katherine Rathbone)، رئیس منابع انسانی ادلشاو گادرد به فایننشال‌تایمز گفت که اعضای تیمش درباره علت احتمالی این اتفاق فرضیه‌هایی داشتند. از یک سو، ابزارهای هوش مصنوعی می‌توانند تنظیم رزومه متناسب با شرح یک موقعیت شغلی را برای متقاضیان بسیار آسان‌تر کنند. اما این تنها توضیح ممکن نبود. او گفت: «یک توضیح احتمالی این است که چون توانایی کار با هوش مصنوعی خود یکی از معیارهای ارزیابی بود، عامل ممکن است نشانه‌های استفاده از هوش مصنوعی در تهیه رزومه را به‌عنوان شواهدی از توانایی متقاضی در کار با هوش مصنوعی تفسیر کرده باشد.» اما احتمال دیگری نیز وجود دارد که نگران‌کننده‌تر است؛ شاید عامل هوش مصنوعی صرفاً به این دلیل که در نگارش رزومه‌ها از هوش مصنوعی استفاده شده بود، از قصد و عامدانه آن‌ها را ترجیح می‌داد.

خبری از مهارت‌های هوش مصنوعی در مصاحبه‌های شغلی نیست؛ اما باید باشد

اگر چنین باشد، این اتفاق یافته‌های یک مقاله پژوهشی را تأیید می‌کند؛ مقاله‌ای که رفتار ابزارهای هوش مصنوعی در فرایند استخدام را بررسی کرده است. پژوهشگران در این مطالعه، فرایندهای استخدامی واقع‌گرایانه‌ای را برای ۲۴ شغل، از معلمی و مشاوره گرفته تا آشپزی و مهندسی، شبیه‌سازی کردند. آن‌ها دریافتند احتمال راه‌یابی متقاضیانی که از همان مدل زبانی بزرگ مبتنی بر هوش مصنوعیِ مورداستفاده استخدام‌کننده استفاده می‌کردند، به فهرست نامزدهای نهایی بین ۲۳ تا ۶۰ درصد بیشتر از متقاضیانی بود که به رزومه‌های تهیه‌شده به دست یک انسان بی‌خبر از این مزیت متکی بودند.

بیشترین میزان این نابرابری برای متقاضیان مشاغل حوزه کسب‌وکار، مانند فروش و حسابداری و کمترین میزان آن در حوزه‌هایی مانند کشاورزی و صنعت خودرو دیده شد. این مقاله هنوز در حال بازنگری برای انتشار در یک نشریه علمی داوری‌شده است؛ بنابراین ممکن است برخی از یافته‌های آن تغییر کنند. بااین‌حال، «جیان‌نان شو» (Jiannan Xu)، یکی از نویسندگان مقاله به فایننشال‌تایمز گفت تحلیل‌های به‌روزشده همچنان شواهدی ارائه می‌کنند که نشان می‌دهد مدل‌های هوش مصنوعی «رفتار خودترجیحی» (self-preferencing behaviour) از خود بروز می‌دهند.

چرا هوش مصنوعی مولد برای کارکنان تا این حد تهدیدآمیز به نظر می‌رسد؟

این خبر در شرایطی نگران‌کننده است که هوش مصنوعی همین حالا نیز به تشدید رقابتی فرساینده در بازار استخدام دامن زده است. در یک سوی این رقابت، جویندگان کار قرار دارند که متقاعد شده‌اند با دیواری از ابزارهای بی‌روح استخدامی روبه‌رو هستند. آن‌ها نیز با انفجاری از درخواست‌های استخدامی تولیدشده به کمک هوش مصنوعی واکنش نشان می‌دهند؛ درخواست‌هایی که حجم انبوهشان استخدام‌کنندگان را زیر فشار قرار داده است.

اگر هوش مصنوعی نسبت به هوش مصنوعی سوگیری داشته باشد، بُعد تازه‌ای از خطر به این وضعیت اضافه می‌شود. تصور کنید متقاضی‌ای باشید که از نوع نامناسبی از هوش مصنوعی استفاده می‌کند یا اصلاً از هوش مصنوعی کمک نمی‌گیرد.

خوشبختانه، مقاله شو نشان می‌دهد که با استفاده از دو راهبرد نسبتاً ساده می‌توان سوگیری هوش مصنوعی را بیش از نصف کاهش داد

1. به مدل‌ها دستور داده شود که منشأ رزومه‌ها را نادیده بگیرند و بر محتوای آن‌ها تمرکز کنند.
2. از چندین مدل برای ارزیابی متقاضیان استفاده شود تا سوگیری احتمالی هر ابزار منفرد کاهش یابد.

اما استفاده از هوش مصنوعی در فرایند استخدام همچنان کاری در دست توسعه است. راثبون می‌گوید این ابزارها، در صورت استفاده صحیح، ظرفیت قابل‌توجهی دارند. بااین‌حال، به گفته او «قضاوت انسانی همچنان اهمیت دارد.»

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.