یک‌سوم کاربران رازهای خود را با چت‌بات‌های هوش مصنوعی در میان می‌گذارند

نظرسنجی جدید DuckDuckGo نشان می‌دهد که یک‌سوم کاربران هوش مصنوعی، اطلاعاتی را با چت‌بات‌ها در میان گذاشته‌اند که حتی به نزدیک‌ترین افراد زندگی خود نگفته‌اند.

DuckDuckGo ایننظرسنجیرا با مشارکت ۱۹۴۴ بزرگسال آمریکایی انجام داده است. نتایج نشان می‌دهد که چت‌بات‌های هوش مصنوعی برای بسیاری از کاربران به فضایی برای بیان مسائل شخصی و محرمانه تبدیل شده‌اند. با این حال، بیشتر کاربران نمی‌دانند که مکالمات آنها ممکن است برای آموزش مدل‌ها استفاده شود، توسط کارکنان انسانی بررسی شود یا در شرایط قانونی در اختیار نهادهای مجری قانون قرار گیرد.

بر اساس این تحقیق، ۳۲ درصد کاربران هوش مصنوعی گفته‌اند موضوعی را با یک چت‌بات در میان گذاشته‌اند که آن را از دوست نزدیک، والدین، همکار، پزشک یا درمانگر خود پنهان کرده بودند. این میزان در میان افرادی که خود را از علاقه‌مندان جدی هوش مصنوعی می‌دانند، به ۵۶ درصد افزایش پیدا می‌کند.

DuckDuckGo می‌گوید این روند اهمیت زیادی دارد، زیرا ماهیت تعامل با چت‌بات‌ها با جست‌وجوی معمولی در اینترنت تفاوت دارد. کاربران در یک موتور جست‌وجو معمولاً چند کلمه یا عبارت کوتاه وارد می‌کنند، اما در مکالمه با هوش مصنوعی توضیحات طولانی‌تر، جزئیات بیشتر و اطلاعات شخصی‌تری ارائه می‌دهند. این مکالمات می‌توانند علاوه بر علایق کاربر، شیوه تفکر، سبک ارتباطی و بخشی از مسائل خصوصی زندگی او را آشکار کنند.

بیشتر بخوانیدعینک‌های هوشمند در محل کار، تهدیدی برای حریم خصوصی یا ابزار آینده؟

چت‌بات‌ها به محرم اسرار کاربران تبدیل شده‌اند

نتایج نظرسنجی نشان می‌دهد که بسیاری از کاربران، چت‌بات‌های هوش مصنوعی را محیطی بدون قضاوت تلقی می‌کنند و موضوعاتی را در آنها مطرح می‌کنند که حاضر نیستند با افراد دیگر در میان بگذارند. این رفتار به‌ویژه در میان کاربرانی که به‌طور گسترده از هوش مصنوعی استفاده می‌کنند، بیشتر دیده می‌شود.

در مجموع، ۳۲ درصد کاربران هوش مصنوعی گفته‌اند که دست‌کم یک بار اطلاعاتی را در اختیار یک چت‌بات قرار داده‌اند که از افراد مورد اعتماد خود پنهان کرده بودند. این افراد می‌توانند دوستان نزدیک، اعضای خانواده، همکاران یا حتی پزشکان و درمانگران باشند.

در میان علاقه‌مندان جدی هوش مصنوعی، این رقم به ۵۶ درصد می‌رسد. به عبارت دیگر، بیش از نیمی از کاربرانی که ارتباط بیشتری با ابزارهای هوش مصنوعی دارند، موضوعی را با چت‌بات‌ها مطرح کرده‌اند که حتی افراد نزدیک زندگی آنها از آن اطلاعی نداشته‌اند.

این نتایج نشان می‌دهد که رابطه کاربران با چت‌بات‌ها در حال عبور از استفاده صرفاً کاربردی است. بسیاری از افراد دیگر فقط برای نوشتن متن، یافتن اطلاعات یا انجام کارهای روزمره از هوش مصنوعی استفاده نمی‌کنند، بلکه برای مطرح کردن مسائل شخصی نیز به آن مراجعه می‌کنند.

DuckDuckGo می‌گوید این نوع تعامل می‌تواند حساسیت بیشتری داشته باشد، زیرا یک مکالمه طولانی ممکن است مجموعه بزرگی از اطلاعات درباره کاربر تولید کند. موضوعات مطرح‌شده در گفت‌وگوهای مختلف می‌توانند اطلاعاتی درباره نگرانی‌ها، روابط شخصی، مشکلات خانوادگی، شرایط کاری یا سایر مسائل خصوصی فرد آشکار کنند.

والدین تقریباً دو برابر بیشتر اطلاعات خصوصی خود را با هوش مصنوعی مطرح می‌کنند

یکی از مهم‌ترین یافته‌های این نظرسنجی به رفتار والدین مربوط می‌شود. در میان والدینی که از هوش مصنوعی استفاده می‌کنند، ۴۳ درصد گفته‌اند موضوعی را با یک چت‌بات در میان گذاشته‌اند که پیش از آن هرگز به شخص دیگری نگفته بودند.

این رقم در میان کاربران هوش مصنوعی که فرزندی در خانه ندارند، تنها ۲۵ درصد است. بنابراین والدین تقریباً دو برابر کاربران بدون فرزند، مسائل خصوصی خود را با هوش مصنوعی مطرح می‌کنند.

افراد شرکت‌کننده در این نظرسنجی گفته‌اند که برخی از این اطلاعات را حتی با پزشک، درمانگر، دوست نزدیک، والدین یا فرزند خود در میان نگذاشته‌اند. این اختلاف آماری نشان می‌دهد که والدین ممکن است بیش از گروه‌های دیگر از هوش مصنوعی برای مطرح کردن مسائل شخصی و خانوادگی استفاده کنند.

DuckDuckGo اشاره می‌کند که استفاده از ابزارهای هوش مصنوعی برای مسائل مربوط به فرزندپروری نیز در حال گسترش است. حتی مدیران شرکت‌های فعال در حوزه هوش مصنوعی درباره استفاده از این ابزارها برای موضوعات مرتبط با فرزندپروری صحبت کرده‌اند.

مشکل اصلی از دید DuckDuckGo این است که چنین ارتباطی بر این تصور استوار است که مکالمه کاربر با چت‌بات خصوصی باقی می‌ماند. این شرکت معتقد است که در بسیاری از سرویس‌های هوش مصنوعی نمی‌توان چنین فرضی را به‌طور کامل پذیرفت.

بیشتر بخوانیدعملکرد ضعیف گوگل کروم نسبت به رقبا در حفظ حریم خصوصی کاربران

بیشتر کاربران از نحوه استفاده از مکالمات خود اطلاع ندارند

بخش دیگری از نظرسنجی به میزان آگاهی کاربران از سیاست‌های حریم خصوصی سرویس‌های هوش مصنوعی اختصاص دارد. نتایج نشان می‌دهد که بخش بزرگی از مردم اطلاعات محدودی درباره نحوه ذخیره، بررسی و افشای مکالمات خود دارند.

در این نظرسنجی، ۵۳ درصد پاسخ‌دهندگان نمی‌دانستند یا مطمئن نبودند که مکالمات کاربران در بسیاری از چت‌بات‌ها به‌طور پیش‌فرض برای آموزش مدل‌های هوش مصنوعی استفاده می‌شود.

تنها ۲۵ درصد شرکت‌کنندگان می‌دانستند که گفت‌وگوهای انجام‌شده با هوش مصنوعی ممکن است با حکم قانونی در اختیار دادگاه‌ها یا نهادهای مجری قانون قرار گیرد.

DuckDuckGo شش موضوع اصلی را درباره نحوه مدیریت مکالمات هوش مصنوعی از پاسخ‌دهندگان پرسیده است. یکی از آنها امکان دسترسی دادگاه‌ها و نهادهای مجری قانون به مکالمات با حکم قانونی بود. موضوع دیگر به این مسئله مربوط می‌شد که گفت‌وگوهای هوش مصنوعی ممکن است در جریان یک پرونده قضایی عمومی شوند.

امکان دسترسی کارفرمایان به حساب‌های کاری یا سازمانی هوش مصنوعی نیز یکی دیگر از موارد بررسی‌شده بود. تفاوت سیاست شرکت‌ها درباره حذف مکالمات یا جلوگیری از ذخیره آنها نیز در این پرسش‌ها قرار داشت.

این نظرسنجی همچنین به این موضوع اشاره داشت که حساب‌های رایگان ممکن است در برخی سرویس‌ها سطح پایین‌تری از حفاظت از حریم خصوصی نسبت به حساب‌های پولی داشته باشند. امکان بررسی مکالمات توسط کارکنان انسانی شرکت‌های ارائه‌دهنده خدمات هوش مصنوعی نیز یکی دیگر از مواردی بود که از شرکت‌کنندگان درباره آن سؤال شد.

در مجموع، ۴۳ درصد پاسخ‌دهندگان هیچ‌کدام از این شش موضوع را نمی‌دانستند. این میزان فقط به افرادی که از هوش مصنوعی استفاده نمی‌کنند محدود نبود و حدود یک‌سوم افرادی که خود را کاربران فعال هوش مصنوعی معرفی کرده بودند نیز از این موارد اطلاع نداشتند.

آگاهی از شیوه استفاده از داده‌ها، اعتماد کاربران را کاهش می‌دهد

نتایج نظرسنجی نشان می‌دهد که وقتی کاربران از نحوه استفاده شرکت‌های هوش مصنوعی از مکالمات خود مطلع می‌شوند، بخش قابل توجهی از آنها احساس نارضایتی می‌کنند.

در این تحقیق، ۵۸ درصد پاسخ‌دهندگان گفته‌اند از استفاده از مکالماتشان برای آموزش مدل‌های هوش مصنوعی احساس راحتی نمی‌کنند. از میان آنها، ۳۰ درصد وضعیت خود را «بسیار ناراحت» توصیف کرده‌اند.

میزان اعتماد به شرکت‌های بزرگ هوش مصنوعی نیز پایین گزارش شده است. تنها ۱۴ درصد پاسخ‌دهندگان گفته‌اند که «تا حد زیادی» یا «کاملاً» به شرکت‌های بزرگ هوش مصنوعی برای محافظت از داده‌های خود اعتماد دارند.

در مقابل، ۳۹ درصد گفته‌اند که هیچ اعتمادی به این شرکت‌ها ندارند. این میزان بی‌اعتمادی درباره دولت آمریکا حتی بیشتر است. در این نظرسنجی، ۴۸ درصد پاسخ‌دهندگان اعلام کرده‌اند که هیچ اعتمادی به دولت آمریکا برای محافظت از داده‌های خود ندارند.

DuckDuckGo همچنین به این موضوع اشاره کرده است که مکالمات کاربران در بسیاری از سرویس‌های هوش مصنوعی به پروفایل آنها متصل و توسط شرکت ارائه‌دهنده سرویس ذخیره می‌شوند. در برخی شرایط، این اطلاعات ممکن است برای اهدافی مانند تبلیغات رفتاری مورد استفاده قرار گیرند یا در اختیار نهادهای قانونی قرار داده شوند.

به گفته این شرکت، خطرهای مربوط به حریم خصوصی فقط به سیاست رسمی ارائه‌دهندگان سرویس محدود نمی‌شود. پیش از این نیز مواردی از نشت اطلاعات رخ داده است که در آنها مکالمات شخصی کاربران در دسترس عموم قرار گرفته‌اند.

برخی از این مکالمات شامل اطلاعاتی مانند نام کامل، نشانی و شماره‌های شناسایی بوده‌اند. چنین مواردی نشان می‌دهد که کاربران هنگام وارد کردن اطلاعات حساس در چت‌بات‌ها باید احتمال افشای ناخواسته داده‌ها را نیز در نظر بگیرند.

بیشتر بخوانیدکاهش آزادی اینترنت و قوانین تأیید سن چگونه حریم خصوصی را تهدید می‌کنند؟

فقط از ابزارهای دارای سیاست شفاف استفاده کنید

DuckDuckGo معتقد است که هنوز برای تغییر رفتار کاربران و استفاده از سرویس‌های خصوصی‌تر دیر نشده است. این شرکت می‌گوید بسیاری از مردم هنگام صحبت درباره حریم خصوصی آنلاین تصور می‌کنند که اطلاعاتشان از قبل در اینترنت منتشر شده و دیگر امکان محافظت از آن وجود ندارد.

با این حال، DuckDuckGo تأکید می‌کند که ارزشمندترین اطلاعات برای شرکت‌های بزرگ فناوری لزوماً داده‌های قدیمی نیست، بلکه پرسش بعدی کاربر و اطلاعاتی است که در تعامل آینده خود ارائه می‌کند.

این موضوع درباره چت‌بات‌های هوش مصنوعی اهمیت بیشتری دارد، زیرا این فناوری هنوز در مراحل اولیه گسترش عمومی قرار دارد و بسیاری از کاربران هنوز عادت‌های ثابت و طولانی‌مدتی درباره نحوه استفاده از آن شکل نداده‌اند.

DuckDuckGo توصیه می‌کند که کاربران تا زمان شکل‌گیری قوانین و استانداردهای گسترده‌تر، هنگام انتخاب سرویس‌های هوش مصنوعی به سیاست‌های مدیریت داده توجه کنند. این شرکت استفاده از ابزارهایی را پیشنهاد می‌کند که نحوه جمع‌آوری، ذخیره و استفاده از اطلاعات کاربران را به‌طور شفاف توضیح می‌دهند.

البته نتایج این پژوهش را باید با توجه به نحوه اجرای آن بررسی کرد. خود DuckDuckGo این نظرسنجی را سفارش داده و اجرا کرده است. پاسخ‌ها از ۱۹۴۴ بزرگسال آمریکایی ۱۸ ساله و بالاتر بین ۱۷ تا ۲۷ ژوئن ۲۰۲۶ جمع‌آوری شده‌اند.

نمونه‌گیری به‌صورت آنلاین و از طریق پنل PureSpectrum انجام شده است. پژوهشگران برای نزدیک کردن ترکیب نمونه به جمعیت آمریکا، سهمیه‌هایی را بر اساس سن، جنسیت و منطقه جغرافیایی اعمال کرده‌اند.

نتایج بدون اعمال وزن آماری گزارش شده‌اند. حاشیه خطای کل نمونه در سطح اطمینان ۹۵ درصد، حدود مثبت یا منفی ۲.۲ واحد درصد اعلام شده است. این میزان برای گروه‌های کوچک‌تر افزایش پیدا می‌کند. برای نمونه، حاشیه خطای مربوط به افراد ۱۸ تا ۲۴ ساله حدود مثبت یا منفی ۶ واحد درصد است.

آمار مربوط به پرسش‌های باز نیز فقط بر اساس پاسخ افرادی محاسبه شده که به آن پرسش‌ها پاسخ داده‌اند. همچنین به دلیل گرد کردن اعداد و وجود پرسش‌هایی با امکان انتخاب چند پاسخ، مجموع برخی درصدها ممکن است دقیقاً به ۱۰۰ درصد نرسد.

در مجموع، نتایج این نظرسنجی نشان می‌دهد که هم‌زمان با افزایش استفاده از چت‌بات‌ها، فاصله قابل توجهی میان میزان اطلاعات شخصی ارائه‌شده به این ابزارها و آگاهی کاربران از نحوه مدیریت آن اطلاعات وجود دارد. کاربران بیش از گذشته درباره مسائل خصوصی خود با هوش مصنوعی صحبت می‌کنند، اما بخش بزرگی از آنها هنوز نمی‌دانند این مکالمات چگونه ذخیره، بررسی یا استفاده می‌شوند.

نوشتهیک‌سوم کاربران رازهای خود را با چت‌بات‌های هوش مصنوعی در میان می‌گذارنداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.