چالش بزرگ بعدی ایجنت‌های شخصی هوش مصنوعی؛ وب‌سایت‌ها اجازه ورود نمی‌دهند

ایجنت‌های شخصی هوش مصنوعی با مانع جدی مسدود شدن یا محدودیت دسترسی از سوی وب‌سایت‌ها و شرکت‌هایی مانند دلتا، eBay و Yelp مواجه شده‌اند.

به‌ گزارشسرویس هوش مصنوعیتک‌ناکایجنت‌های شخصی هوش مصنوعی، از جمله Muse متا، Instinct و ChatGPT، موج تازه‌ای از هوش مصنوعی را در جامعه به راه انداخته‌اند؛ موجی که فراتر از پاسخ‌ دادن به پرسش‌های کاربران است. این ایجنت‌ها می‌توانند به نمایندگی از کاربر اقداماتی مانند رزرو پرواز، گرفتن میز رستوران، سفارش مواد غذایی و بسیاری از کارهای دیگر را انجام دهند، بدون اینکه کاربر مجبور باشد دانش فنی لازم را برای راه‌اندازی ایجنت روی رایانه شخصی خود داشته باشد. با وجود این، کاربران این سرویس‌ها اغلب زمانی با مانع مواجه می‌شوند که وب‌سایت مورد نظر آنها، فعالیت ایجنت هوش مصنوعی را مسدود کند.

بیشتر بخوانیدشرکت OpenAI باز هم جامعه ریاضیات را غافلگیر کرد

ایجنت‌های شخصی هوش مصنوعی تایید هویت نمی‌شوند

آمازون، ایجنت هوش مصنوعی Museمتا را در وب‌سایت فروشگاهی خود مسدود کرده؛ اقدامی که باعث شده است Muse دیگر نتواند در کاتالوگ محصولات آمازون جست‌وجو کند یا خریدی انجام دهد. البته این مشکل به آمازون و Muse محدود نیست. گزارش‌ها و شکایت‌های منتشرشده در شبکه‌های اجتماعی نشان می‌دهند ایجنت‌های مختلف نیز با محدودیت‌های مشابه روبه‌رو می‌شوند. برخی از این مسدودسازی‌ها، مانند اقدام آمازون، عمدی هستند اما در موارد دیگر، ایجنت‌ها قربانی سازوکارهای سنتی ضدربات می‌شوند که وب‌سایت‌ها برای مقابله با هرزنامه و فعالیت‌های مخرب طراحی کرده‌اند. مشکل اصلی اینجا است که کاربر معمولا نمی‌داند مسدود شدن ایجنت اقدامی عمدی از سوی مالک وب‌سایت بوده یا نتیجه عملکرد عادی سیستم‌های امنیتی سایت بوده است. در نتیجه، نارضایتی می‌تواند هم متوجه فروشگاه یا سرویس مقصد شود و هم متوجه ایجنتی که قرار بوده است فرایند مورد نظر را برای کاربر انجام دهد.

حتما بخوانیدشکایت عجیب از مک‌دونالد؛ هوش مصنوعی قیمت‌ها را بالا می‌برد

برای نمونهچندین گزارشدر شبکه‌های اجتماعی وجود دارد که در آنها کاربران گفته بودندMuseنتوانسته است خرید خود را در وب‌سایت والمارت تکمیل کند. با وجود این، سخنگوی والمارت اعلام کرده که این مسدودسازی عمدی نبوده است. این شرکت در واقع یکی از شرکای Muse محسوب می‌شود. والمارت عنوان کرده که هدف شرکت این است که در هر جایی که مشتریان حضور دارند، در دسترس باشد و اکنون این نقاط تماس شامل تجربه‌های مبتنی بر ایجنت‌های هوش مصنوعی نیز می‌شود. یکی از موانعی که کاربران والمارت با آن مواجه می‌شوند، سامانه‌ای است که از بازدیدکننده می‌خواهد با کلیک روی یک دکمه ثابت کند انسان است. اگر فرایند تعامل ایجنت با این صفحه مختل شود، تایید هویت ممکن است شکست بخورد و ایجنت از سایت بیرون انداخته شود. این اتفاق نشانه‌ای از یک مشکل بزرگ‌تر است: فناوری‌هایی که امروز برای تشخیص انسان‌ها و محافظت از وب‌سایت‌ها در برابر ربات‌ها و هرزنامه به کار می‌روند، برای نسل جدید وب، که در آن ایجنت‌های هوش مصنوعی نقش محوری دارند، طراحی نشده‌اند.

راه‌حل چیست؟

برای حل این چالش، مجموعه‌ای از شرکت‌های فعال در صنعت از جمله متا، والمارت، Stripe، Sierra، جنسیس، راکت، NiCE و Decagon روی یک استاندارد باز کار می‌کنند که نحوه ارتباط ایجنت‌های هوش مصنوعی با کسب‌وکارها را تعریف خواهد کرد. هدف این استاندارد، تفکیک ایجنت‌های مشروعی است که به نمایندگی از کاربران فعالیت می‌کنند. متا بیان کرد که این پروتکل به‌طور مشخص بر ارتباط ایجنت با ایجنت برای انجام تراکنش‌های تجارت آنلاین تمرکز خواهد داشت. اگرچه والمارت دست‌کم در تلاش است خدمات خود را از طریق ایجنت‌های هوش مصنوعی در دسترس قرار دهد، اما بسیاری از شرکت‌ها هنوز تمایل چندانی به پذیرش این فناوری ندارند یا نتوانسته‌اند زیرساخت‌های خود را برای آن آماده کنند. رزرو پرواز یکی از کاربردهای اصلی است که برای ایجنت‌های هوش مصنوعی در نظر گرفته شده است، اما گزارش‌های متعدد کاربران نشان می‌دهد بسیاری از شرکت‌های هواپیمایی درخواست‌های این ایجنت‌ها را رد می‌کنند.

دلتا در پاسخ به پرسش‌های ما اعلام کرد که اقداماتی برای محافظت از مشتریان در برابر فعالیت‌های خودکار و غیرمجاز انجام می‌دهد و هرگونه پذیرش ایجنت‌های هوش مصنوعی باید با در نظر گرفتن «امنیت و تجربه مشتری» صورت بگیرد. هینا چاودا، مدیرکل ارتباطات جهانی دلتا گفت که این شرکت در حال حاضر هیچ همکاری یا یکپارچه‌سازی‌ ندارد که به یک ایجنت هوش مصنوعی شخص ثالث اجازه دهد از طرف مشتری در پلتفرم‌های دیجیتال دلتا، پرواز جست‌وجو یا رزرو کند، اما همچنان در حال بررسی نقش فناوری‌های جدید، از جمله ایجنت‌های هوش مصنوعی خارجی، در بهبود تعامل مشتریان با این شرکت است.

یونایتد موضع مستقیم و روشنی مانند دلتا اتخاذ نکرد، اما سخنگوی شرکت به قوانین استفاده از خدمات اشاره کرد که استفاده از ربات‌ها، خزنده‌ها، ابزارهای خودکار یا فرایندهای دستی برای پایش یا کپی محتوای وب‌سایت یا هر هدف غیرمجاز دیگری را بدون اجازه کتبی قبلی ممنوع می‌کند. یونایتد نیز به پرسش تکمیلی درباره مسدودسازی ایجنت‌های مشخصی مانند Muse پاسخ نداد.

در همین حال، گزارش‌های کاربران اولیه در شبکه‌های اجتماعی نام برندهای متعددی، از Yelp و eBay گرفته تا Zillow، پیتزا هات، آدیداس و شرکت‌های مختلف هواپیمایی را مطرح کرده‌اند که دسترسی ایجنت‌های هوش مصنوعی را مسدود می‌کنند. حتی برخی کاربران معتقد هستند میزان این مسدودسازی‌ها افزایش یافته است. برخی کاربران مدعی شده‌اند که eBay حساب‌های آنها را به دلیل استفاده از هوش مصنوعی عامل‌محور تعلیق کرده و کاربر دیگری نیز گفته است که گوگل هنگام انجام عملیات پاک‌سازی صندوق ورودی جیمیل توسط Instinct، این ایجنت را از سرویس خارج کرده است.

شرکت Yelp نیز با وجود اینکه استفاده از ایجنت‌ها برای رزرو میز و انجام وظایف تکراری یکی از کاربردهای مهم این فناوری محسوب می‌شود، اعلام کرده است که ترافیک غیرانسانی را در پلتفرم خود نمی‌پذیرد؛ مگر اینکه ایجنت از طریق برنامه صدور مجوز داده Yelp برای دسترسی به محتوا و داده‌های این سرویس هزینه پرداخت کرده باشد. در نتیجه، ایجنتی که بدون همکاری رسمی با Yelp بخواهد قیمت دریافت کند، کاربری را به فهرست انتظار اضافه کند یا میز رزرو کند، احتمالا قادر به تکمیل فرایند نخواهد بود. در میان شرکت‌های تاثیرگذار این حوزه، کلادفلر جایگاه ویژه‌ای دارد؛ شرکتی که زیرساخت‌های محافظتی وب‌سایت‌ها را در برابر ایجنت‌های هوش مصنوعی و سایر فعالیت‌های خودکار فراهم می‌کند. برخی احتمال داده‌اند کلادفلر و دیگر شبکه‌های توزیع محتوا در حال حاضر باعث اختلال در ترافیک Muse شده باشند. این گمانه‌زنی به تغییری در تنظیمات پیش‌فرض خزنده‌ها در ۱۵ سپتامبر مربوط می‌شود که به وب‌سایت‌ها اجازه می‌دهد ربات‌های مورد استفاده برای آموزش هوش مصنوعی را مسدود کنند و در عین حال سایر ربات‌ها را مجاز نگه دارند. در نتیجه، برخی وب‌سایت‌هایی که پیش‌تر برای اهداف امنیتی ربات‌های هوش مصنوعی را مسدود می‌کردند، به مسدودسازی ایجنت‌های هوش مصنوعی در صفحات دارای تبلیغات روی آوردند.

برای مطالعه بیشترآسیب‌پذیری امنیتی Muse می‌تواند اطلاعات حساس کاربران متا را افشا کند

با وجود این، کلادفلر در پاسخ به پرسش درباره مسدودسازی ایجنت‌هایی مانند Muse اعلام کرد که در حال حاضر داده مشخصی برای ارائه درباره این موضوع ندارد و ما را به مرکز داده عمومی کلادفلر رادار ارجاع داد. رادار افزایش فعالیت ربات‌ها را نشان می‌دهد، اما قادر نیست میان ایجنت‌های مشروع و ربات‌های مخرب تمایز ایجاد کند. کلادفلر از سوی دیگر منافع تجاری مستقیمی در کنترل ترافیک هوش مصنوعی دارد؛ این شرکت اکنون بازاری ایجاد کرده است که در آن ربات‌های هوش مصنوعی برای دسترسی به داده‌ها باید هزینه پرداخت کنند و به تازگی آزمایش مرورگر وبی را آغاز کرده که به‌طور اختصاصی برای ایجنت‌های هوش مصنوعی طراحی شده است. با توجه به سرعت تحول این حوزه، رویکرد متا در ایجاد همکاری مستقیم با برندها برای فراهم‌ کردن دسترسی Muse، در کنار تلاش برای تدوین استانداردهای جدید، منطقی به نظر می‌رسد. این مدل به کاربران اطمینان می‌دهد که Muse در وب‌سایت شرکای خود پذیرفته شده است و در صورت بروز مشکل، مسئله را می‌توان به‌ عنوان یک باگ واقعی شناسایی و گزارش کرد.

همچنین متا فهرستی از «کانکتورها» یا شرکای Muse را درون این اپلیکیشن نگهداری می‌کند؛ فهرستی که به‌ سرعت در حال گسترش است و هنوز بسیاری از شرکای جدید معرفی‌شده توسط متا در آن قرار نگرفته‌اند. با توجه به توسعه سریع Muse و اضافه‌ شدن ابزارهای شریک برای کسب‌وکارهای کوچک، احتمالا سازمان‌دهی مجدد گسترده‌ای در این فهرست در پیش است. متا درباره برنامه خود برای توسعه استاندارد جدید نیز تاکید کرده است که رد کردن یک ایجنت شخصی در عمل به معنای رد کردن مشتری‌ است که پشت آن ایجنت قرار دارد. این شرکت معتقد است همکاری با کسب‌وکارها برای رفع نگرانی‌های امنیتی و ایجاد قواعد روشن، می‌تواند مسیری ایجاد کند که هم برای کاربران و هم برای کسب‌وکارها سودمند باشد؛ مسیری که در نهایت به کنترل قابل‌پیش‌بینی‌تر برای شرکت‌ها و تعامل کارآمدتر میان ایجنت‌های هوش مصنوعی منجر خواهد شد.

نوشتهچالش بزرگ بعدی ایجنت‌های شخصی هوش مصنوعی؛ وب‌سایت‌ها اجازه ورود نمی‌دهنداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.