هوش مصنوعی با خواندن امواج مغزی اشتباه خود را تشخیص می‌ دهد

پژوهشگران مؤسسه علوم و فناوری پیشرفته کره، KAIST با همکاری مایکروسافت ریسرچ آسیا سیستمی توسعه داده‌اند که می‌تواند با خواندن امواج مغزی تشخیص دهد هوش مصنوعی هدف یا روش مورد نظر کاربر را اشتباه فهمیده است و سپس رفتار خود را در لحظه اصلاح کند.

سرویسهوش مصنوعیتک‌ناکاین فناوری بر پایه یک روش رابط مغز و کامپیوتر با نام «هم‌ترازی ارزش عصبی» یا Neural Value Alignment کار می‌کند. سیستم از الکتروانسفالوگرافی یا EEG برای ثبت واکنش‌های مغزی استفاده می‌کند. این واکنش‌ها زمانی ظاهر می‌شوند که فرد مشاهده می‌کند هوش مصنوعی هدف اشتباهی را دنبال کرده یا برای رسیدن به هدف، روشی برخلاف انتظار او انتخاب کرده است.

پژوهشگران بیان کردند که یکی از مشکلات اصلی در همکاری انسان و هوش مصنوعی، تشخیص دقیق قصد واقعی انسان است. سیستم‌های کنونی بیشتر به داده‌های قابل مشاهده مانند پرامپت، گفتار، حرکات و رفتار کاربر تکیه می‌کنند. این داده‌ها همیشه نمی‌توانند هدف واقعی فرد را نشان دهند، زیرا یک رفتار واحد ممکن است برای چند هدف مختلف انجام شود و یک هدف واحد از طریق چند رفتار متفاوت محقق شود.

برای مثال، فردی که یک فنجان را برمی‌دارد، ممکن است قصد نوشیدن، شستن یا جابه‌جایی آن را داشته باشد. حتی ممکن است بخواهد فنجان را به فرد دیگری بدهد. در مقابل، اگر هدف فرد فقط رفع تشنگی باشد، می‌تواند فنجان را بردارد، بطری آب را انتخاب کند یا از شخص دیگری بخواهد برای او نوشیدنی بیاورد. پژوهشگران این وضعیت را «ابهام هدف و عمل» می‌نامند.

بیشتر بخوانیدکنایه جنجالی آلتمن به آنتروپیک؛ وقتی هوش مصنوعی پای مذهب را وسط می‌کشد

مغز می‌تواند نوع اشتباه هوش مصنوعی را مشخص کند

راهکار تیم KAIST این است که سیستم فقط به رفتار یا دستور مستقیم کاربر وابسته نباشد و تأیید یا مخالفت او را از سیگنال‌های مغزی دریافت کند. مغز انسان نتیجه اتفاقات بعدی را پیش‌بینی می‌کند. زمانی که نتیجه واقعی با این پیش‌بینی تفاوت داشته باشد، واکنش‌های عصبی مشخصی ایجاد می‌شوند که امکان شناسایی خطا را فراهم می‌کنند.

پژوهشگران روی دو واکنش تمرکز کرده‌اند که «خطای پیش‌بینی پاداش» یا RPE و «خطای پیش‌بینی وضعیت» یا SPE نام دارند. هرکدام از این واکنش‌ها نوع متفاوتی از سوءبرداشت هوش مصنوعی را نشان می‌دهند.

خطای پیش‌بینی پاداش زمانی رخ می‌دهد که نتیجه یا هدف نهایی با چیزی که کاربر انتظار داشته است تفاوت داشته باشد. در سیستم NVA، این سیگنال می‌تواند نشان دهد هوش مصنوعی اساسا هدف فرد را اشتباه تشخیص داده است.

برای نمونه، کاربر به یک ربات خانگی می‌گوید: «چیزی برای نوشیدن برایم بیاور.» کاربر آب می‌خواهد، اما ربات برای او قهوه می‌آورد. در این شرایط، هدف نهایی اشتباه است و مغز فرد می‌تواند خطای پیش‌بینی پاداش تولید کند.

خطای پیش‌بینی وضعیت شرایط متفاوتی را نشان می‌دهد. این واکنش زمانی ایجاد می‌شود که هدف نهایی درست باشد، اما اقدام، مرحله میانی یا روش انتخاب‌شده توسط هوش مصنوعی با انتظار کاربر تفاوت داشته باشد. این سیگنال به سیستم می‌گوید که نتیجه درست است، اما روش انجام کار مورد انتظار کاربر نیست.

اگر همان کاربر آب بخواهد و ربات این هدف را به‌درستی متوجه شود، ممکن است هنوز در روش اجرای دستور اشتباه کند. برای مثال، ربات می‌تواند به‌جای برداشتن بطری آب کنار کاربر، به آشپزخانه برود و یک لیوان را با آب شیر پر کند. کاربر در نهایت آب دریافت می‌کند، اما مسیر انجام کار با انتظار او متفاوت است. چنین شرایطی می‌تواند باعث ایجاد خطای پیش‌بینی وضعیت شود.

یادگیری عمیق سیگنال‌های EEG را تفسیر می‌کند

پژوهشگران در آزمایش‌های خود دریافتند که بسته به وجود خطای پیش‌بینی پاداش، خطای پیش‌بینی وضعیت یا ترکیب هم‌زمان این دو، الگوهای متفاوتی در امواج مغزی ایجاد می‌شود. آنها سپس از یادگیری عمیق برای تحلیل سیگنال‌های EEG استفاده کردند تا سیستم بتواند نوع واکنش کاربر به رفتار هوش مصنوعی را طبقه‌بندی کند.

این روش به هوش مصنوعی امکان می‌دهد بدون نیاز به توضیح کلامی تشخیص دهد که آیا هدف را اشتباه فهمیده یا روش رسیدن به هدف را نادرست انتخاب کرده است. در نتیجه، سیستم فقط متوجه وجود خطا نمی‌شود و می‌تواند مشخص کند مشکل دقیقا در کدام بخش تصمیم‌گیری رخ داده است.

تیم پژوهشی، این فناوری را در قالب الگوریتمی برای همکاری انسان و هوش مصنوعی پیاده‌سازی کرده است. این الگوریتم سیگنال‌های عصبی رمزگشایی‌شده را به‌عنوان بازخورد در اختیار سیستم هوش مصنوعی قرار می‌دهد. سپس هوش مصنوعی می‌تواند براساس نوع سیگنال، تصمیم خود را تغییر دهد و مسیر دیگری را انتخاب کند.

این ویژگی می‌تواند همکاری انسان و ماشین را طبیعی‌تر کند. برای مثال، یک ربات خانگی می‌تواند بدون انتظار برای اصلاح شفاهی متوجه شود دستور کاربر را اشتباه تفسیر کرده است و در همان لحظه روش خود را تغییر دهد.

کاربردهای احتمالی خواندن امواج مغزی توسط هوش مصنوعی به ربات‌های خانگی محدود نیست. بازخورد عصبی می‌تواند در ربات‌های صنعتی، خودروهای خودران، ربات‌های پزشکی و توان‌بخشی و سیستم‌های آموزشی مورد استفاده قرار گیرد. چنین روشی می‌تواند برای افرادی مفید باشد که در صحبت کردن یا حرکت کردن مشکل دارند و نمی‌توانند اشتباه سیستم را به‌ صورت کلامی اصلاح کنند.

در خودروهای خودران این فناوری می‌تواند واکنش شناختی راننده را نسبت به تصمیم خودرو شناسایی کند. سیستم‌های آموزشی ممکن است بتوانند وضعیت شناختی دانش‌آموز را بهتر درک کنند و روش ارائه محتوا را براساس این بازخورد تغییر دهند.

بیشتر بخوانیدپژوهشگران رازهای تازه‌ای از الگوهای نوشتاری هوش مصنوعی را فاش کردند

مسیر طولانی تا استفاده واقعی از فناوری ذهن‌خوان

سانگ وان لی، استاد و رهبر این پژوهش می‌گوید که اهمیت این تحقیق در آن است که هوش مصنوعی می‌تواند از مرحله استنباط قصد انسان فقط از نتایج رفتاری قابل مشاهده فراتر برود. به گفته او، سیستم می‌تواند مستقیما از سیگنال‌های شناختی ایجادشده در مغز هنگام همکاری انسان و هوش مصنوعی استفاده کند.

هرچند، این فناوری هنوز فاصله زیادی با استفاده عمومی دارد. پژوهشگران سیستم را در شبیه‌سازی‌ها آزمایش کرده‌اند و هنوز یک ربات مستقل در محیط واقعی را نشان نداده‌اند که بتواند EEG فرد را دریافت کند و رفتار خود را براساس آن تغییر دهد.

EEG برای ثبت فعالیت الکتریکی مغز به الکترود نیاز دارد. سیگنال‌های مغزی هم ضعیف هستند و می‌توانند تحت تأثیر نویز قرار بگیرند. همین موضوع استفاده از چنین سیستمی را خارج از محیط‌های کنترل‌شده آزمایشگاهی دشوار می‌کند.

پژوهشگران باید در مراحل بعدی مشخص کنند NVA هنگام تعامل طبیعی انسان و هوش مصنوعی تا چه اندازه قابل اعتماد باقی می‌ماند. شرایط واقعی شامل حرکت افراد، تغییر محیط و رویدادهای غیرقابل پیش‌بینی است و نسبت به آزمایش‌های کنترل‌شده پیچیدگی بیشتری دارد.

این پژوهش نشان می‌دهد خواندن امواج مغزی می‌توانند به یک کانال جدید برای انتقال بازخورد به هوش مصنوعی تبدیل شوند. این روش تعامل انسان و ماشین را بهبود می‌دهد. در صورت توسعه، ماشین‌ها می‌توانند نه‌تنها دستورات انسان، بلکه واکنش شناختی او به تصمیم‌های خود را درک کنند و از این اطلاعات برای اصلاح رفتار خود استفاده کنند.

نوشتههوش مصنوعی با خواندن امواج مغزی اشتباه خود را تشخیص می‌ دهداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.