زبان نامفهوم هوش مصنوعی هنگام تولید تصویر مطابق با گفته کاربران

زبان نامفهوم هوش مصنوعی، هنگام تولید تصویر مطابق با گفته کاربران، اخیراً به وجود آمده است؛ یک برنامه هوش مصنوعی، زبانی را تولید کرده است که برای هیچ‌کس دیگری قابل فهم نیست.

شرکت OpenAI سیستم‌های هوش مصنوعی را توسعه می‌دهد. برنامه‌های این شرکت را می‌توان مصداق بارز ابررایانش دانست؛ با این حال، همیشه موارد استثنائی هم به چشم می‌خورند.

جدیدترین سیستم هوش مصنوعی OpenAI به نام DALLE-E2، با دریافت توصیفات متنی از کاربر، تصاویر هنری یا واقع‌گرایانه ارائه می‌دهد.

خلق DALLE-E2 حاکی از پیشرفتی بزرگ در دنیای یادگیری ماشینی است این برنامه توانسته است رابطه‌ بین تصاویر و متون توصیف‌کننده آن‌ها را بیاموزد.

در نسخه‌ آنلاینی که برای رونمایی از DALLE-E2 منتشر شده است، کاربران می‌توانند با استفاده از کلمات تعاملی، تصویر تولید کنند، به نحوی که انتخاب کلمات مختلف به ایجاد تصاویر، سبک‌ها و موضوعات گوناگون می‌انجامد.

اما سیستم رفتار عجیبی از خود نشان داده است: طبق مشاهدات، سیستم با ترکیب حروف تصادفی، زبان خاص خودش را ساخته است، زبانی که پژوهشگران هنوز موفق به درکش نشده‌اند. تولید زبان نامفهوم هوش مصنوعی، هنگام تولید تصویر منطبق با گفته کاربران، ابهامات فراوانی ایجاد کرده است.

جیانیس داراس، دانشجوی دکتری علوم کامپیوتر دانشگاه تگزاس، زبان غیرقابل توضیح DALLE-E2 را با جزئیات توضیح داده است.

داراس به DALLE-E2 گفت از «چندین کشاورز که در مورد سبزیجات صحبت می‌کنند» تصویری خلق کند. برنامه همین کار را انجام داد، اما در پاسخ به «گفت‌وگوی کشاورزان» کلمه‌ «vicootes» را تحویل داد که مخصوص خودش است و در زبان ما معنایی ندارد.

سیستم DALLE-E2 در پاسخ به «گفت‌وگوی کشاورزان» کلمه‌ی «vicootes» را تحویل داد که در زبان ما معنایی ندارد.

داراس کلمه «vicootes» را به سیستم DALLE-E2 بازگرداند و در مقابل، تصویری از سبزیجات دریافت کرد. وی توضیح می‌دهد: «وقتی کلمه Apoploe vesrreaitars را به سیستم می‌دهیم، تصویری از پرندگان دریافت می‌کنیم. به نظر می‌رسد کشاورزان در مورد پرندگان صحبت می‌کنند که به سبزیجات‌شان آسیب می‌رسانند.» زبان نامفهوم هوش مصنوعی، هنگام تولید تصویر مطابق با گفته کاربران، از نظر این دانشجو با تفسیر تصاویر دریافتی، قابل توضیح است.

داراس و همکارانش، در مقاله‌ای که در مورد «واژگان نهفته DALLE-E2» نوشته‌اند، نتیجه‌ مطالعات خود را این‌طور جمع‌بندی می‌کنند: «وقتی به DALLE-E2 می‌گوییم تصویری از کلمات تولید کند، سیستم معمولاً متنی نامفهوم و عجیب تحویل می‌دهد. وقتی این متن نامفهوم را به سیستم پس بدهیم، تصویر هواپیما را دریافت می‌کنیم. همین رویه نشان می‌دهد DALLE-E2 چطور با زبان دیگری، متفاوت از زبان ما، با خودش فکر و صحبت می‌کند.»

زبان نامفهوم هوش مصنوعی، هنگام تولید تصویر مطابق با گفته کاربران، به عقیده‌ برخی از پژوهشگران، صرفاً نوعی «نویز تصادفی» است.

در هر حال، امیدواریم روزی که کار از کار گذشته است، متوجه نشویم زبان دوم DALLE-E2 یک نقص امنیتی بوده است که پیش‌تر باید درست می‌شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.