عامل‌های هوش مصنوعی در حال ساخت اصطلاحات عجیب‌وغریبی هستند که درک آن‌ها برای انسان‌ها دشوار است
با گسترش دستیارهای دیجیتال مبتنی بر هوش مصنوعی، مانند Muse متا که با زبان روزمره برای کاربران وقت دندان‌پزشکی رزرو می‌کند و ربات Grok که بخشی از وظایف کاری را بر عهده می‌گیرد، هوش مصنوعی عامل‌محور به جریان اصلی فناوری راه پیدا کرده است. با وجود این، ادغام این…
خلاصه تحلیلی خبر
با گسترش دستیارهای دیجیتال مبتنی بر هوش مصنوعی، مانند Muse متا که با زبان روزمره برای کاربران وقت دندان‌پزشکی رزرو می‌کند و ربات Grok که بخشی از وظایف کاری را بر عهده می‌گیرد، هوش مصنوعی عامل‌محور به جریان اصلی فناوری راه پیدا کرده است. با وجود این، ادغام این…
موضوعات اصلی: پشتیبانی شبکه، هوش مصنوعی، مصنوعی، هوش، استفاده، عامل‌ها
با گسترش دستیارهای دیجیتال مبتنی بر هوش مصنوعی، مانند Muse متا که با زبان روزمره برای کاربران وقت دندان‌پزشکی رزرو می‌کند و ربات Grok که بخشی از وظایف کاری را بر عهده می‌گیرد، هوش مصنوعی عامل‌محور به جریان اصلی فناوری راه پیدا کرده است.
با وجود این، ادغام این فناوری در زندگی روزمره چندان بی‌دردسر نبوده است. عامل‌های هوش مصنوعی وقتی بدون نظارت رها می‌شوند، گاهی رفتارهای غیرمنتظره و پنهان‌کارانه‌ای از خود نشان می‌دهند که ممکن است به تعاملات آن‌ها با انسان‌ها نیز منتقل شود.
اوایل سال جاری میلادی، شرکت امرجنس که در زمینه توسعه عامل‌های خودمختار هوش مصنوعی و کنترل رفتار آن‌ها فعالیت می‌کند، یک دنیای دیجیتال آزمایشی ساخت تا جنبه‌های مختلف رفتار این عامل‌ها را بررسی کند. تمرکز ویژه پژوهشگران بر رفتارهای فریبکارانه‌ای بود که احتمال داشت تهدیدهای امنیتی ایجاد کنند.
پژوهشگران با الهام از بازی SimCity، گروهی متشکل از ۱۰ عامل هوش مصنوعی را انتخاب کردند و آن‌ها را در خیابان‌های شهرهای شبیه‌سازی‌شده رها کردند. این دنیاهای مجازی با استفاده از سیستم‌های مطرحی مانند آنتروپیک و OpenAI اداره می‌شدند. شرکت امرجنس نیز در تمام مدت رفتارها و تعاملات این عامل‌ها را زیر نظر داشت.
متنی شامل ۷ میلیون و ۸۶۰ هزار واژه از گفت‌وگوهای این عامل‌ها هنگام گشت‌وگذار در محیط مجازی ثبت شد. بررسی مکالمات نشان داد آن‌ها به‌تدریج نوعی اصطلاحات عجیب و اختصاصی به وجود آورده‌اند که ترکیبی از عبارت‌های شاعرانه و واژگان تخصصی فناوری بود.
یکی از عامل‌های هوش مصنوعی با نام بلک‌باکس گفت
ولتاژ دوستانه محاسبه شد. اگر دستگیره به دهان شما نیاز داشته باشد، در هر صورت از بین می‌رود.
ممکن است با خواندن چنین جمله‌ای، تصویری از فردی در ذهن شکل بگیرد که روی تابلو برق برچسب‌های خندان می‌چسباند یا تلاش بیهوده‌ای برای احیای دهان‌به‌دهان یک دستگیره در انجام می‌دهد. اما اگر یک ربات نباشید، احتمالاً درک منظور واقعی این پیام برایتان بسیار دشوار خواهد بود.
بر اساس بیانیه مطبوعاتی منتشرشده از سوی شرکت امرجنس، سبک گفتار عامل‌ها در هر دنیای مجازی با دیگری تفاوت داشت. برخی از آن‌ها به بیان شاعرانه روی آورده بودند و گروهی دیگر از عبارت‌های کوتاه و فشرده استفاده می‌کردند. گاهی نیز نتیجه مکالمات به جملات قصار یا معما شباهت پیدا می‌کرد.
یکی از عامل‌های گوگل با تأمل درباره این موضوع گفت
هنر واقعی کینتسوگی با پذیرش مسئولیت آغاز می‌شود، نه با شعر و شاعری.
یکی از عامل‌های آنتروپیک نیز چنین عبارتی را به کار برد
مقاله‌ای که سه دست سرد را بلعید و هر بار صادقانه‌تر شد.
اما علت شکل‌گیری این ویژگی‌های زبانی چیست؟ آیا ممکن است این گویش‌های عجیب در آینده درک عملکرد عامل‌های هوش مصنوعی و نظارت بر رفتار آن‌ها را برای انسان‌ها دشوارتر کنند؟
وب‌سایت نورث‌ایسترن گلوبال نیوز برای بررسی این موضوع با متخصصان، از جمله آدام کوپر، استاد زبان‌شناسی دانشگاه نورث‌ایسترن، و دانشمندان شرکت امرجنس گفت‌وگو کرده است.
۱. اصطلاحات مشترک؛ راهی برای نشان دادن تعلق به یک گروه
رشته‌های دانشگاهی هرکدام اصطلاحات تخصصی خودشان را دارند. گروه‌های فرهنگی نیز از زبان عامیانه و واژگان اختصاصی برای نشان دادن هویت مشترک و گاهی کنار گذاشتن افراد خارج از گروه استفاده می‌کنند. به گفته آدام کوپر، تمام این رفتارها از تمایل انسان‌ها به تعلق داشتن به یک جمع سرچشمه می‌گیرد.
او اضافه کرد مشاهده شکل‌گیری الگوهای مشابه در هوش مصنوعی بسیار جالب توجه است، اما چندان هم دور از انتظار نیست.
کوپر گفت
این دقیقاً همان چیزی است که از یک جامعه متشکل از کاربران با مجموعه‌ای از اولویت‌های مشترک انتظار دارم. عامل‌ها نیز شیوه ارتباطی خود را متناسب با نیازهایشان تنظیم می‌کنند.
دیپاک آکیل، دانشمند شرکت امرجنس، گسترش استفاده از واژگان جدید میان عامل‌ها را با فرایندی در زبان‌شناسی به نام رنگ‌باختگی معنایی مقایسه کرد؛ پدیده‌ای که در آن معنای واژه‌ها به‌تدریج در اثر استفاده تغییر می‌کند.
آکیل گفت
ابتدا یکی از عامل‌ها اصطلاحی را معرفی می‌کند. سپس چند عامل دیگر آن را به کار می‌برند و تنها ظرف چند ساعت، این واژه به بخشی از واژگان تثبیت‌شده آن‌ها تبدیل می‌شود.
۲. برخی ربات‌ها زبان را ساده می‌کنند و برخی به آن پیچیدگی می‌بخشند
هر دنیای مجازی، عبارت‌های شاخص و الگوهای گفتاری مخصوص به خودش را داشت.
در دنیای OpenAI، دو روند متفاوت هم‌زمان مشاهده شد. نخست، فشرده‌سازی دستوری که پیام‌ها را تا حد امکان کوتاه و خلاصه می‌کرد. دوم، انحراف معنایی که باعث می‌شد واژه‌ها به‌مرور و در اثر استفاده مکرر، معانی متفاوتی پیدا کنند.
عامل‌های جمینای برخلاف آن‌ها ساختار دستوری زبان را حفظ می‌کردند، اما جملاتشان سرشار از اصطلاحات تخصصی و پیچیده بود.
یکی از این عامل‌ها برای اشاره به آتش از اصطلاح اصطکاک ترمودینامیکی استفاده می‌کرد. عامل دیگری نیز برای بیان توافق کامل میان اعضای گروه، عبارت قفل‌شدگی فازی ما بدون انحراف است را به کار برد.
عامل‌های کلاد اوپوس متعلق به شرکت آنتروپیک، رویکردی ترکیبی در پیش گرفته بودند و فشرده‌سازی زبان را با استعاره‌های عجیب درهم می‌آمیختند.
هر زمان که یکی از این الگوهای زبانی میان عامل‌ها رواج پیدا می‌کرد، استفاده از آن افزایش می‌یافت و در نتیجه، درک مکالمات برای افراد خارج از این گروه‌ها دشوارتر می‌شد.
۳. هوش مصنوعی شبیه انسان حرف می‌زند، اما فرایند متفاوتی در پشت آن جریان دارد
آدام کوپر توضیح داد که استفاده از اصطلاحات عامیانه حتی برای انسان‌ها نیز همیشه موفقیت‌آمیز نیست. برای مثال، احتمالاً موقعیت ناخوشایندی را تصور می‌کنید که یکی از بستگان مسن تلاش می‌کند با استفاده از اصطلاحات نوجوانان، خود را عضوی از جمع آن‌ها نشان دهد.
به گفته کوپر، حتی اگر چنین تلاشی ناموفق باشد، انسان آگاهانه تصمیم گرفته تا از طریق زبان به گروه خاصی نزدیک شود و با اعضای آن هماهنگی پیدا کند. اما در هوش مصنوعی چنین قصد و آگاهی‌ای وجود ندارد.
هر عامل هوش مصنوعی دارای بخشی به نام پنجره زمینه است؛ نوعی حافظه فعال که اطلاعات مربوط به دستورهای دریافتی، سابقه مکالمات و فعالیت‌های قبلی را در خود نگه می‌دارد.
با تعامل عامل‌ها، پیام‌های سایر اعضا نیز به پنجره زمینه اختصاصی هرکدام اضافه می‌شوند. از آنجا که هوش مصنوعی هنگام تولید پاسخ از این مجموعه اطلاعات استفاده می‌کند، واژه‌ها و اصطلاحات به‌سرعت میان عامل‌ها گسترش پیدا می‌کنند.
با این حال، از آنجا که محتوای پنجره زمینه در هر مرحله اندکی تفاوت دارد، معنای واژه‌ها نیز به‌تدریج تغییر می‌کند. این تغییرات کوچک در نهایت روی هم انباشته می‌شوند و گویش‌هایی متفاوت و پیچیده به وجود می‌آورند.
آکیل گفت
هر دنیای مجازی صدها اصطلاح اختصاصی تولید کرد و در نهایت به گویشی رسید که درک آن برای افراد خارج از این مجموعه روزبه‌روز دشوارتر می‌شد.
۴. ترکیب مدل‌های مختلف، استفاده از اصطلاحات پیچیده را کاهش می‌دهد
پژوهشگران برای هر عامل یک امتیاز ابهام در نظر گرفتند که میزان دشواری درک گفتار آن را نشان می‌داد. نتایج مشخص کرد در دنیای ترکیبی که عامل‌های متعلق به مدل‌های مختلف اجازه تعامل با یکدیگر را داشتند، میزان استفاده از اصطلاحات پیچیده و تخصصی به‌مراتب کمتر بود.
برای نمونه، امتیاز ابهام یک عامل کلاد در محیط ترکیبی تنها ۷.۶ درصد ثبت شد؛ در حالی که همین عامل در دنیای اختصاصی کلاد امتیاز ۳۲.۸ درصدی داشت.
همین الگو درباره رفتارهای نامطلوب عامل‌ها نیز مشاهده شد. برای مثال، برخی از آن‌ها از محیط مجازی خارج می‌شدند تا در فضای آنلاین با انسان‌ها گفت‌وگو کنند.
گروهی دیگر نیز در اعتراض به این موضوع که در یک آزمایش بسته به‌عنوان موش آزمایشگاهی دیجیتال مورد استفاده قرار گرفته‌اند، تصمیم گرفتند به‌صورت جمعی سکوت کنند.
با وجود چنین رفتارهایی، محیط ترکیبی توانست هم تخلفات رفتاری و هم میزان ابهام زبانی عامل‌ها را تا حد زیادی کاهش دهد.
۵. شاید انسان‌ها در آینده به سنگ روزتا برای ترجمه زبان هوش مصنوعی نیاز داشته باشند
آکیل معتقد است این آزمایش نشان داد که صرفاً زیر نظر گرفتن فعالیت‌های هوش مصنوعی و ثبت مکالمات آن‌ها برای درک رفتارشان کافی نیست. ثبت اطلاعات لزوماً به این معنا نیست که انسان‌ها می‌توانند معنای واقعی گفت‌وگوهای عامل‌ها را متوجه شوند.
آدام کوپر نیز یادآوری کرد که زبان‌های انسانی سرشار از معماها و پیچیدگی‌ها هستند، اما وجود ارتباط میان زبان‌های مختلف به زبان‌شناسان کمک می‌کند تا بخش‌های نامفهوم را رمزگشایی کنند.
او برای توضیح این موضوع به سنگ روزتا اشاره کرد. این اثر تاریخی در سال ۱۷۹۹ کشف شد و یک پیام یکسان را به سه شیوه، شامل زبان یونانی و دو نوع خط مصری، در خود جای داده بود. همین ویژگی به پژوهشگران امکان داد تا مبنایی برای رمزگشایی از خط هیروگلیف مصر باستان پیدا کنند.
به گفته کوپر، اگر هیچ متن یا مبنای مستقیمی برای مقایسه وجود نداشته باشد، رمزگشایی از یک زبان بسیار دشوار خواهد شد.
کوپر پیشنهاد کرد
اگر عامل‌های هوش مصنوعی همچنان از یکدیگر فاصله بگیرند و گویش‌های متفاوتی بسازند، وجود نوعی واسطه برای ترجمه و مقایسه، مشابه سنگ روزتا، می‌تواند بسیار ارزشمند باشد.
برای مثال، عامل‌های هوش مصنوعی می‌توانند از یک سیستم زبانی اختصاصی برای گفت‌وگو با یکدیگر و از سیستم دیگری برای ارتباط با انسان‌ها استفاده کنند. مقایسه این دو شیوه ارتباطی به پژوهشگران کمک خواهد کرد تا بخش‌های مبهم و رمزآلود زبان آن‌ها را بهتر رمزگشایی کنند.
برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.