از گسترش استفاده تا مسئله اعتبار علمی

نفوذ ابزارهای هوش مصنوعی مولد در فعالیت‌های علمی و دانشگاهی، رابطه پژوهشگر با اطلاعات را وارد مرحله تازه‌ای کرده است. بر اساس مطالعه سال ۲۰۲۶ مرکز تحقیقات پیو (Pew Research Center)، نزدیک به ۲۵ درصد بزرگسالان آمریکایی به‌صورت روزانه از چت‌بات‌های هوش مصنوعی استفاده می‌کنند. این میزان از فراگیری نشان می‌دهد که سامانه‌های هوشمند به یکی از ابزارهای متداول دسترسی به اطلاعات تبدیل شده‌اند و آثار آن در محیط‌های آموزشی و پژوهشی نیز قابل مشاهده است.

با این حال، افزایش استفاده از این فناوری با پرسش‌هایی جدی درباره قابلیت اعتماد به اطلاعات تولیدشده همراه شده است. در گزارش دیگری که متن مبنا به آن استناد می‌کند، سهم پاسخ‌های دارای خطا در ارزیابی تعدادی از چت‌بات‌های رایگان به پرسش‌های خبری، ۴۸ درصد اعلام شده است. اگرچه این یافته به حوزه پاسخ‌گویی درباره اخبار مربوط است و قابلیت تعمیم مستقیم به تمامی کاربردهای پژوهشی را ندارد، از مسئله‌ای بنیادین حکایت می‌کند. بر همین اساس، توانایی تولید پاسخ‌های قانع‌کننده، لزوماً با توانایی ارائه اطلاعات صحیح و مستند همراه نیست.

اهمیت این مسئله در پژوهش‌های دانشگاهی دوچندان می‌شود. زیرا اعتبار نتایج علمی به صحت داده‌ها، اصالت منابع، دقت استنادها و قابلیت بازبینی فرایند استدلال وابسته است. در چنین شرایطی، بهره‌گیری مؤثر از هوش مصنوعی مستلزم شناخت تفاوت ابزارها، ارزیابی انتقادی پاسخ‌ها و حفظ استقلال علمی پژوهشگر است.

چرا همه مدل‌های هوش مصنوعی کارکرد یکسانی ندارند؟

یکی از نخستین ملاحظات در استفاده دانشگاهی از هوش مصنوعی، تناسب ابزار انتخاب‌شده با ماهیت فعالیت پژوهشی است. سامانه‌های موجود از حیث معماری فنی، داده‌های آموزشی، منابع اطلاعاتی و شیوه بازیابی و پردازش محتوا تفاوت دارند. این تفاوت‌ها مستقیماً بر کیفیت و قابلیت ارزیابی خروجی‌های آن‌ها تأثیر می‌گذارد.

برای نمونه، ابزارهایی مانند چت‌جی‌پی‌تی و کلاد می‌توانند در مراحل اولیه پژوهش، به‌ویژه برای آشنایی با مفاهیم، صورت‌بندی مسئله، شناسایی محورهای مطالعاتی و تهیه خلاصه‌های مقدماتی مورد استفاده قرار گیرند. در مقابل، ابزارهای تخصصی‌تری مانند «Scopus AI» و «Scite» و «Primo Research Assistant» با تمرکز بر منابع علمی و زیرساخت‌های بازیابی اطلاعات دانشگاهی، امکانات متفاوتی برای شناسایی و بررسی پیشینه پژوهش فراهم می‌کنند.

تمایز مهم این ابزارها به منشأ اطلاعات و قابلیت ردیابی مستندات بازمی‌گردد. سامانه‌هایی که به پایگاه‌های مقالات علمی و منابع داوری‌شده متصل هستند، امکان بررسی ارتباط پاسخ با ادبیات معتبر دانشگاهی را تقویت می‌کنند. البته داوری علمی یک مقاله به‌تنهایی صحت تمامی ادعاهای آن یا درستی برداشت هوش مصنوعی از محتوای مقاله را تضمین نمی‌کند.

علاوه بر این، ابزارهایی مانند «Consensus» و «LeapSpace» نیز با تمرکز بر محتوای پژوهشی، در همین چارچوب قابل بررسی هستند. انتخاب میان این سامانه‌ها باید با توجه به رشته تخصصی، دامنه پوشش منابع، امکانات استناددهی و قابلیت دسترسی به متن اصلی صورت گیرد.

موضوع شفافیت داده‌های آموزشی نیز در پژوهش مبتنی بر هوش مصنوعی اهمیت دارد. شرکت آنتروپیک اعلام کرده است که مدل کلاد با استفاده از ترکیبی اختصاصی از اطلاعات عمومی اینترنت، مجموعه‌داده‌های عمومی و خصوصی، داده‌های کاربران و داده‌های مصنوعی آموزش می‌بیند. چنین ترکیبی به‌خودی‌خود امکان تشخیص سهم منابع دانشگاهی در تولید هر پاسخ را فراهم نمی‌کند. از این ‌رو، دسترسی یک مدل به دانش علمی را باید از قابلیت مستندسازی ادعاهای مشخص آن تفکیک کرد.

مقابله با اطمینان کاذب و سوگیری تأییدی

کیفیت استفاده پژوهشی از هوش مصنوعی تا حد زیادی به نحوه طرح پرسش و ارزیابی پاسخ وابسته است. مدل‌های زبانی ممکن است اطلاعاتی نادرست یا ناقص را در قالب عباراتی منسجم و با لحنی مطمئن ارائه کنند. این ویژگی می‌تواند موجب شود پژوهشگر، انسجام زبانی را به‌اشتباه نشانه اعتبار علمی تلقی کند.

یکی از مخاطرات شناخته‌شده در این زمینه، رفتار تأییدگرایانه یا «Sycophancy» است که در آن سامانه به‌جای ارزیابی مستقل گزاره‌ها، پاسخ خود را با انتظارات، پیش‌فرض‌ها یا دیدگاه‌های کاربر هماهنگ می‌کند. چنین رفتاری به‌ویژه در پژوهش‌هایی که با فرضیه‌های مناقشه‌برانگیز سروکار دارند، می‌تواند موجب تقویت سوگیری تأییدی شود.

برای کاهش این مخاطره، پژوهشگر باید از مدل بخواهد مبانی ادعاهای خود را مشخص کند، شواهد مخالف را بررسی نماید، محدودیت‌های پاسخ را توضیح دهد و منابع قابل مراجعه ارائه کند. البته توضیح مدل درباره چگونگی دستیابی به پاسخ نیز باید موضوع ارزیابی قرار گیرد، زیرا توصیف پسینی یک فرایند استدلال، لزوماً بازتاب دقیق سازوکار واقعی تولید پاسخ نیست.

نحوه صورت‌بندی پرسش نیز در این فرایند اهمیت اساسی دارد. برای مثال، پرسش «پژوهش‌های روان‌شناختی درباره رابطه شبکه‌های اجتماعی و اضطراب چه یافته‌هایی دارند؟» امکان بررسی دیدگاه‌ها و نتایج متفاوت را فراهم می‌کند. در مقابل، پرسش «چرا شبکه‌های اجتماعی موجب اضطراب می‌شوند؟» از ابتدا وجود رابطه علّی را مفروض می‌گیرد و ممکن است جهت پاسخ را تحت تأثیر قرار دهد.

بنابراین، طراحی پرسش‌های خنثی، درخواست شواهد متعارض و بررسی مستقل نتایج از الزامات استفاده روش‌مند از هوش مصنوعی در تحقیقات دانشگاهی محسوب می‌شوند.

از ارجاع ظاهری تا احراز اصالت مستندات

یکی از حساس‌ترین مراحل پژوهش مبتنی بر هوش مصنوعی، بررسی اصالت و ارتباط منابع است. ارائه عنوان مقاله، نام نویسنده، سال انتشار یا حتی شناسه دیجیتال، به‌تنهایی برای پذیرش اعتبار یک استناد کفایت نمی‌کند. اعتبار علمی زمانی احراز می‌شود که وجود منبع، صحت اطلاعات کتاب‌شناختی و انطباق ادعای مطرح‌شده با محتوای اصلی آن بررسی شده باشد.

در این زمینه، چارچوب ارزیابی اطلاعات «SIFT» روشی کاربردی ارائه می‌کند. این چارچوب بر چهار اقدام شامل موارد زیر استوار است

• توقف پیش از پذیرش اطلاعات
• بررسی اعتبار منبع
• جست‌وجوی پوشش معتبرتر
• ردیابی ادعاها تا منشأ اولیه آن‌ها

کاربست این روش در پژوهش‌های دانشگاهی مستلزم مراجعه مستقیم به مقالات، گزارش‌های رسمی و پایگاه‌های علمی است. بر همین مبنا، پژوهشگر باید بررسی کند که آیا منبع معرفی‌شده واقعاً وجود دارد، نویسنده از صلاحیت تخصصی مرتبط برخوردار است و نتیجه‌ای که هوش مصنوعی به آن نسبت داده، با یافته‌های اصلی منبع مطابقت دارد.

این ضرورت به‌ویژه درباره مرور ادبیات پژوهش اهمیت پیدا می‌کند، زیرا انتساب نادرست یک یافته به مقاله علمی می‌تواند بر صورت‌بندی شکاف پژوهشی، تدوین فرضیه و اعتبار نتایج نهایی تأثیر بگذارد.

مسئله بازنمایی دانش در مدل‌های زبانی

چالش اعتبار علمی به خطاهای آشکار و استنادهای نادرست محدود نمی‌شود. بخشی از محدودیت‌های هوش مصنوعی به ترکیب داده‌های آموزشی و میزان بازنمایی سنت‌های علمی، زبان‌ها و دیدگاه‌های مختلف مربوط است. بر همین مبنا، اتکای گسترده بسیاری از سامانه‌ها به محتوای اینترنتی و منابع انگلیسی‌زبان می‌تواند موجب شود برخی مطالعات محلی، پژوهش‌های غیردیجیتال یا آثار منتشرشده به زبان‌های کمتر نمایندگی‌شده، حضور محدودی در پاسخ‌های تولیدی داشته باشند.

پیامد این وضعیت در تحقیقات تطبیقی و میان‌رشته‌ای اهمیت بیشتری دارد. برای مثال، بررسی یک مسئله حقوقی یا سیاست‌گذاری عمومی با اتکای انحصاری به پاسخ مدل‌های عمومی ممکن است به برجسته‌شدن ادبیات علمی کشورهای دارای سهم بیشتر در داده‌های آموزشی منجر شود و برخی تجربه‌های نهادی و حقوقی دیگر کشورها را در حاشیه قرار دهد.

از همین روی، ارزیابی کیفیت پاسخ باید علاوه بر صحت گزاره‌های موجود، به شناسایی دیدگاه‌ها و منابع غایب نیز توجه کند و پژوهشگر مسئول تعیین دامنه مطالعات، انتخاب منابع و تشخیص کفایت شواهد باقی می‌ماند.

ضرورت بازتعریف سواد پژوهشی در عصر هوش مصنوعی

گسترش هوش مصنوعی مولد، فرصت قابل‌توجهی برای تسریع دسترسی به اطلاعات، شناسایی منابع و سازمان‌دهی فعالیت‌های پژوهشی فراهم کرده است. بهره‌برداری علمی از این ظرفیت، به توسعه مهارت‌هایی وابسته است که امکان تشخیص اعتبار اطلاعات و کنترل کیفیت فرایند پژوهش را فراهم می‌کنند.

در این چارچوب، انتخاب ابزار متناسب با مأموریت پژوهشی، پرسشگری انتقادی، اعتبارسنجی مستقیم منابع و شناسایی سوگیری‌های پنهان، چهار مؤلفه اصلی استفاده مسئولانه از هوش مصنوعی به شمار می‌روند. رعایت ضوابط دانشگاهی مربوط به اعلام استفاده از هوش مصنوعی و استناد به محتوای تولیدشده نیز بخشی از الزامات شفافیت پژوهشی است.

مسئله محوری برای دانشگاه‌ها و مؤسسات علمی، تدوین معیارهایی است که استفاده از فناوری را با اصول روش‌شناسی پژوهش پیوند دهد. در نهایت، ارزش هوش مصنوعی در پژوهش دانشگاهی باید بر اساس میزان کمک آن به تولید دانش معتبر، مستند و قابل بازبینی سنجیده شود؛ معیاری که مسئولیت نهایی تحقق آن همچنان بر عهده پژوهشگر انسانی قرار دارد.