سواد هوش مصنوعی از چیستی تا اخلاق

«دکتر محمدصادق افراسیابی»، عضو شورای بنیاد ملی بازی‌های رایانه‌ای، در همایش «هوش مصنوعی: ارتباطات انسان-ماشین و آینده آن»، با تشریح چهار بُعد اصلی سواد هوش مصنوعی، بر لزوم آموزش فراگیر این حوزه از سنین پایین و در همه سطوح علمی تأکید کرد. او گفت بدون درک درست از مفاهیم، کارکردها، رویکردهای انتقادی و ملاحظات اخلاقی هوش مصنوعی، جامعه با تهدیدهایی روبه‌رو خواهد شد که قابل جبران نیستند.

چهار بُعد اصلی سواد هوش مصنوعی از نگاه دکتر افراسیابی

چیستی و ماهیت هوش مصنوعی

در ابتدای سخنان خود، دکتر افراسیابی به این نکته اشاره کرد که اگر می‌خواهیم آموزش سواد هوش مصنوعی را چه در حوزه دانش‌آموزی و چه در حوزه دانشجویی پیگیری کنیم، باید مقالات و پژوهش‌هایی را که به چیستی هوش مصنوعی پرداخته‌اند، مورد توجه قرار دهیم. به گفته او، «اساساً باید برخی از این مقالات تمرکز بیشتری کنند بر اینکه ماهیت و چیستی هوش مصنوعی چیست.»

او تأکید کرد که «باید بدانیم هوش مصنوعی دقیقاً چیست، ماهیت آن کدام است، چه چیزی را باید آموزش دهیم و با چه زاویه‌ای به آن نگاه کنیم.»

کارکردهای هوش مصنوعی در زندگی فردی و تخصصی

دومین بعد مهم سواد هوش مصنوعی از نظر دکتر افراسیابی، بررسی کارکردهای این فناوری است. او گفت: «از نظر کارکرد، ما امروز در حوزه‌های مختلف شاهد تأثیرات هوش مصنوعی هستیم؛ چه در زندگی روزمره، چه در نرم‌افزارهای چت و گفتگو مثل ChatGPT و سایر ابزارهای کاربردی که در اختیار ما هستند.»

وی همچنین افزود: «در حوزه‌های تشخیصی، تولید محتوا، فیلم، سریال، برنامه‌ها و فضاهای مختلف مجازی هم کاربرد دارد. در حوزه‌هایی که به رصد محتوا مربوط می‌شود، مثلاً تشخیص محتواهای مورد علاقه، یا گردآوری نتایج مختلف پژوهش‌ها نیز از آن استفاده می‌شود.»

او تصریح کرد: «این فناوری در سبک زندگی روزمره، در علاقه‌مندی‌های اقشار مختلف، در پزشکی، در حوزه امنیت، در تشخیص تخصصی و در تحلیل کلان داده‌ها نقش دارد و شناخت آن برای ما ضروری است.»

رویکرد انتقادی؛ ضرورت نگاه نقادانه به هوش مصنوعی

دکتر افراسیابی سومین جنبه سواد هوش مصنوعی را «نگاه انتقادی» دانست و اظهار داشت: «زمانی که هوش مصنوعی مورد استفاده قرار می‌گیرد، ما باید بتوانیم نگاه نقادانه داشته باشیم، فرصت‌ها و آسیب‌هایی که این فناوری ایجاد می‌کند را بشناسیم.»

او هشدار داد: «یکی از آسیب‌هایی که ما در جامعه با آن روبه‌رو هستیم، اعتماد بیش از حد به هوش مصنوعی است. من خودم سؤال‌هایی را از ChatGPT پرسیدم و پاسخ‌هایی دریافت کردم که نادرست بودند، چون مبتنی بر داده‌هایی بودند که به‌روز نشده‌اند.»

او مثالی شخصی مطرح کرد: «در سفر به شیراز از ChatGPT خواستم آدرس بستنی‌فروشی‌های خوب نزدیک محل سکونت‌مان را بدهد. یکی از آدرس‌ها تعطیل شده بود. این یعنی نمی‌تواند داده‌های به‌روز را تحلیل کند و این باعث آسیب می‌شود.»

دکتر افراسیابی گفت: «اعتماد کامل به هوش مصنوعی، بدون نگاه انتقادی، باعث از بین رفتن تفکر می‌شود. آنچه که ماشین می‌گوید، لزوماً دقیق‌تر از تفکر انسانی نیست، چون شرایط تغییر می‌کنند و AI قادر به تحلیل سریع این شرایط نیست.»

خلاقیت؛ قربانی وابستگی به خروجی هوش مصنوعی

وی درباره تأثیر منفی این اعتماد بر خلاقیت هشدار داد و گفت: «در نشریه‌ای که مدیر مسئول آن بودم، یکی از نویسندگان مدام مقالاتی می‌فرستاد که همه آن‌ها را رد می‌کردم. او گفت مقالات را با کمک هوش مصنوعی تهیه می‌کند. وقتی بررسی کردم دیدم هیچ حرف تازه‌ای نزده‌اند. صرفاً تجمیع مطالب گذشته‌اند.»

او نتیجه گرفت: «اشکال این‌جاست که وقتی افراد به هوش مصنوعی اعتماد کامل می‌کنند، خلاقیت از بین می‌رود. AI چیزی خلق نمی‌کند، فقط آنچه قبلاً گفته شده را جمع‌آوری و تحلیل می‌کند. ما انسان‌ها باید عنصر خلاقیت را زنده نگه داریم.»

تهدید جعل عمیق؛ ضرورت آموزش سواد رسانه‌ای در کنار AI

افراسیابی در ادامه گفت: «در یکی از شرکت‌هایی که در حوزه هوش مصنوعی فعالیت دارد، قبل از ورود یک وزیر، محتوای جعلی از او با تکنولوژی دیپ‌فیک تولید شد. وقتی آن محتوا را دید، شوکه شد.»

او این موضوع را بسیار جدی دانست و افزود: «در گذشته می‌گفتیم باید منبع را بررسی کنیم، اما حالا در دوره‌ای هستیم که ممکن است حتی محتوای منتشر شده از یک فرد معتبر هم جعلی باشد. در فضای شبکه‌های اجتماعی نمی‌توان به سادگی تشخیص داد که اولین منتشرکننده محتوا چه کسی بوده است.»

او راه‌حل را چنین بیان کرد: «آموزش سواد رسانه‌ای و هوش مصنوعی باید در کنار هم ارائه شود، تا افراد بتوانند محتوای جعلی را تشخیص دهند. نباید به هر محتوایی در فضای مجازی اعتماد کرد، حتی اگر از فردی شناخته‌شده منتشر شده باشد.»

اخلاق در هوش مصنوعی؛ چهارمین بُعد سواد AI

افراسیابی در پایان به چهارمین بُعد سواد هوش مصنوعی، یعنی اخلاق اشاره کرد و گفت: «اخلاق یکی از بخش‌های مغفول‌مانده در آموزش هوش مصنوعی است. در دنیا مقالات و پژوهش‌های زیادی درباره آن نوشته شده، اما در جامعه ما کمتر به آن پرداخته شده است.»

او تأکید کرد: «اگر به این حوزه نپردازیم، نمی‌توانیم با چالش‌های آینده مقابله کنیم. برخی از این چالش‌ها ممکن است در حوزه‌های حساس مانند انتخابات یا امنیت ملی بروز کنند و اگر آموزش نداشته باشیم، مقابله با آن‌ها ممکن نخواهد بود.»

آموزش فراگیر سواد هوش مصنوعی، راهی برای حفظ آینده

در جمع‌بندی سخنانش، دکتر افراسیابی گفت: «ما باید آموزش سواد هوش مصنوعی را از سنین پایین‌تر آغاز کنیم. این آموزش باید شامل شناخت مفاهیم، کاربردها، نگاه نقادانه و اخلاق باشد. در غیر این صورت، با تهدیدهای جدی روبه‌رو خواهیم شد.»

او از نهادهای دانشگاهی و انجمن‌های علمی خواست تا این موضوع را جدی بگیرند و مطالعات گسترده‌ای در این حوزه انجام دهند: «اگر آموزش ندهیم، روزی می‌رسد که با بحران‌هایی مانند جعل عمیق در مسائل سیاسی، امنیتی و اجتماعی مواجه می‌شویم و دیگر دیر خواهد بود.»

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.