بحران هوش مصنوعی در ریاضیات و تغییر شیوه نمره دهی برنده مدال فیلدز در برکلی

نفوذ ابزارهای هوش مصنوعی به دانشگاه‌ها باعث بحران جدی در ارزیابی دانشجویان و کاهش اعتبار مقالات ریاضی شده و دانشمندان را ناچار به تغییر کامل شیوه‌های آموزشی کرده است.

سرعت سرسام‌آور پیشرفت فناوری در سال‌های اخیر تعادل کلاس‌های درس را به هم ریخته است. درست مانند کاربرانی که برای کنترل فضای مجازی مدام به دنبال سر و سامان دادن بهتنظیمات کوکی و دسترسی‌های تحت وبدر سایت‌های بزرگ هستند، استادان دانشگاه هم تلاش می‌کنند راه‌هایی برای کنترل داده‌های ورودی و خروجی دانشجویان پیدا کنند تا حقیقت از میان نرود. ماجرا از جایی بحرانی شد که سرشناس‌ترین چهره‌های دنیای ریاضی متوجه شدند برگه‌های امتحانی و تمرین‌های تحویلی، دیگر نشان‌دهنده سواد واقعی دانشجویان نیست.

ماجرای تسلیم شدن ریچارد بورچردز در برابر تکالیف ماشینی

ریچارد بورچردزریاضیدان نامدار و برنده مدال فیلدز که در دانشگاه برکلی تدریس می‌کند، به تازگی تصمیمی گرفت که کل جامعه علمی را شوکه کرد. او متوجه شد دانشجویان با پرامپت‌نویسی ساده برای چت‌بات‌ها، پاسخ‌هایی بی‌نقص تحویل می‌دهند؛ پاسخ‌هایی که نمره کامل می‌گیرند اما دانشجو حتی متوجه منطق پشت سطر اول آن هم نشده است.

بورچردز بعد از مواجهه با این بن‌بست عجیب، سیستم نمره‌دهی سنتی را کنار گذاشت. او اعلام کرد از این به بعد تکالیف فقط بر اساس تحویل داده شدن یا همان تکمیل تکلیف بررسی می‌شوند و نمره بر اساس صحت عمیق علمی نخواهد بود. این یعنی یکی از بزرگ‌ترین مغزهای ریاضی جهان عملاً پذیرفت که تفکیک حل تمرین واقعی انسان از خروجی چت‌بات در تکالیف خانگی ناممکن شده است.

وقتی پاسخ‌های عالی بدون فهم واقعی تحویل استاد داده می‌شود

مشکل بزرگ در حال حاضر این است که الگوریتم‌ها شکل ظاهری حل مسئله را عالی شبیه‌سازی می‌کنند. دانشجو بدون اینکه ساعت‌ها روی یک قضیه فکر کند، راه‌حل نهایی را در چند ثانیه کپی می‌کند. در نگاه اول، راه‌حل زیبا و فرمول‌ها بی‌نقص به نظر می‌رسند، اما به محض اینکه پای تخته از همان دانشجو خواسته می‌شود دلیل یک مرحله ساده را توضیح دهد، سکوت برقرار می‌شود. این مسئله پایه‌های آموزش عالی را می‌لرزاند؛ زیرا هدف از حل تمرین ریاضی، ورزیدگی مغز و درک گام‌به‌گام منطق است، نه صرفاً رسیدن به عددی که در انتهای برگه نوشته می‌شود.

توهم محاسباتی؛ بزرگ‌ترین سم برای اثبات‌های ریاضی و استدلال ناب

ریاضیات با هیچ رشته دیگری قابل مقایسه نیست. در این علم چیزی به اسم حقیقت نسبی یا جواب تقریبی وجود ندارد. یک اثبات یا کاملاً درست است یا از ریشه غلط. دقیقاً در همین نقطه است که ورود هوش مصنوعی دردسرهای عظیم می‌سازد. مدل‌های زبانی بزرگ برای حدس زدن کلمه بعدی طراحی شده‌اند، نه فهمیدن عمق منطق. این ابزارها متن‌هایی تولید می‌کنند که در نگاه اول کاملاً دانشگاهی و موجه هستند، اما وقتی یک متخصص با ذره‌بین خط به خط آنها را می‌خواند، متوجه شکاف‌های فاحش منطقی می‌شود.

بازی چت‌بات‌ها با کلمات به جای کشف حقیقت‌های علمی

خطر اصلی اینجاست که ابزارهای عمومی هوش مصنوعی اشتباهات خود را با اعتمادبه‌نفس شگفت‌انگیزی بیان می‌کنند. اگر از یک مدل زبانی بخواهید یک گزاره غلط را اثبات کند، چنان با استفاده از اصطلاحات سنگین و نمادهای پیشرفته برای آن استدلال می‌تراشد که حتی یک دانشجوی ارشد هم ممکن است فریب بخورد. به این پدیده توهم محاسباتی پنهان می‌گویند؛ سیستمی که با لحن محکم و اعتمادبه‌نفس یک استاد برجسته ریاضیات صحبت می‌کند، اما پایه‌های گزاره‌های آن هوا است.

حتی چهره‌های تراز اول این حوزه ماننددمیس هاسابیسمدیر ارشد گوگل دیپ‌مایند و برنده جایزه نوبل، بارها به همین تفاوت اساسی میان بازی با کلمات و درک واقعی ریاضی اشاره کرده‌اند. هاسابیس تاکید دارد که چت‌بات‌های زبانی معمولی فقط استاد چیدن کلمات محتمل در کنار یکدیگر هستند، در حالی که پژوهش واقعی و اثبات‌های ریاضی به استدلال منطقی سفت‌وسخت، راستی‌آزمایی گام‌به‌گام و کشف حقیقت‌های عمیق نیاز دارند، نه تولید متنی که فقط ظاهر علمی دارد. تظاهر این ابزارهای روزمره به دانایی باعث شده انرژی بسیار زیادی از استادان دانشگاه و داوران پژوهشی صرف خواندن مقالاتی شود که پوسته فوق‌العاده شیک دارند اما مغز آنها کاملاً توخالی است.

فاجعه مقاله‌سازی فله‌ای و فروپاشی نظام سنتی داوری همتا

این روزها مجلات معتبر علمی جهان با سیل بی‌سابقه‌ای از مقالات مواجه شده‌اند که با هوش مصنوعی بازنویسی، تولید یا دستکاری شده‌اند. طبق آمارهای اخیر منتشر شده در پایگاه‌های رصد مقالات، ارجاعات ساختگی و جعل استناد در پیش‌نویس‌های ارسالی به بیش از سی درصد افزایش یافته است. داوران علمی که کارشان بررسی درستی پژوهش‌ها به شکل داوطلبانه است، خسته و کلافه شده‌اند. تفکیک یک کار دست‌اول انسانی از متنی که با یک مدل زبانی بازنویسی شده، آن‌قدر زمان‌بر است که نظام داوری همتا به مرز فلج شدن رسیده است. در نتیجه این وضعیت، مقالات بی‌کیفیت و غیرقابل استناد موفق می‌شوند از فیلترها فرار کنند و به مجلات راه پیدا کنند.

تفاوت رویکرد سنتی و دوران هوش مصنوعی در آموزش و پژوهش

برای درک بهتر وضعیتی که دنیای دانشگاه با آن درگیر شده، مقایسه وضعیت گذشته با آنچه امروز در کلاس‌های درس و محیط‌های علمی می‌گذرد بسیار راه‌گشا است. جدول زیر نمای روشنی از این بحران و تغییرات فوری را نشان می‌دهد.

بازنگری بنیادین در سیستم ارزیابی و آینده پژوهش‌های آکادمیک

پژوهشگران به این نتیجه رسیده‌اند که راه‌های رفته قبلی دیگر به مقصد نمی‌رسند. دوران دادن تمرین در منزل و درخواست نوشتن مقاله‌های ترمی به پایان خط رسیده است. وقتی یک ماشین می‌تواند در کمتر از یک دقیقه مقاله‌ای ده صفحه‌ای با فرمت استاندارد آکادمیک بسازد، نمره دادن به متن‌های تحویلی نوعی خودفریبی است. متخصصان بر این باورند که باید ساختار آموزشی شبیه دوران سقراط شود؛ یعنی گفت‌وگوی رودررو، چالش‌های زنده و بازگشت به امتحان‌های شفاهی.

مرگ مقاله‌های خانگی و بازگشت به دفاعیات شفاهی پای تخته

تنها راه مطمئن برای اینکه استاد مطمئن شود دانشجو مطلبی را یاد گرفته، کشاندن او پای تخته سیاه و طرح سوالات پویا است. در این شیوه جدید، دانشجو باید بتواند هر استدلال را به صورت زنده شرح دهد و به پرسش‌های غیرمنتظره پاسخ دهد. اگر دانشجو صرفاً از ابزار دیجیتال برای رسیدن به جواب استفاده کرده باشد، در همان دقیقه اول صحبت کردن پای تخته درمی‌ماند. این شیوه ارزیابی شاید وقت‌گیر باشد، اما یگانه سنگر باقی‌مانده برای دفاع از اعتبار مدارک دانشگاهی و جلوگیری از سطحی شدن نسل آینده دانشمندان به شمار می‌رود.

چالش استنادهای ساختگی و ارجاعات فانتزی در مقالات علمی

بحران بزرگ دیگر، اعتبار مراجع و کتاب‌نامه‌ها است. بررسی‌های اخیر نشان می‌دهد چت‌بات‌ها وقتی برای اثبات یک ادعا منبع کم می‌آورند، به سادگی اسم یک دانشمند واقعی را با عنوان یک مقاله تخیلی و تاریخ انتشار ساختگی ترکیب می‌کنند. این رفرنس‌ها به قدری ماهرانه جعل می‌شوند که حتی شماره صفحه و نام نشریه هم در آنها موجه است. انتشار چنین ارجاعاتی در مقالات معتبر، مسیر علم را به بیراهه می‌برد؛ چرا که پژوهشگران بعدی بر پایه این یافته‌های کاذب تحقیقات جدیدی آغاز می‌کنند که از پایه ویران است. یکی از تحلیلگران ارشد حوزه علم در گزارش خود به صراحت تاکید کرد که اگر جلوی مقالات متوهم گرفته نشود، ده سال آینده را باید صرف تمیز کردن زباله‌های علمی کنیم نه کشف ناشناخته‌ها.

آینده ریاضیات با چت‌بات‌ها؛ ابزار کمکی یا نابودکننده شهود؟

با وجود تمام هشدارها، دانشمندان قصد ندارند فناوری را تحریم کنند. هوش مصنوعی بدون شک ابزاری فوق‌العاده برای جستجو در داده‌های بزرگ و بررسی محاسبات وقت‌گیر است. اما مرز باریکی میان استفاده از ماشین به عنوان یک ماشین‌حساب پیشرفته با واگذاری تفکر مستقل به آن وجود دارد. شهود ریاضی، جرقه‌های ناگهانی خلاقیت در حل مسائل ناممکن و پیوند زدن مفاهیم نامربوط به یکدیگر، مهارت‌هایی هستند که مدل‌های زبانی فاقد آن هستند. اگر دانشجویان تمرین فکر کردن را کنار بگذارند، توانایی مغز برای خلق ایده‌های جدید تحلیل می‌رود و علم به تکرار آموخته‌های گذشته تبدیل می‌شود.

علم چگونه می‌تواند در عصر مدل‌های زبانی زنده بماند؟

بحرانی که با تغییر روش نمره‌دهی ریچارد بورچردز در برکلی علنی شد، فقط نوک کوه یخ است. این زنگ خطری است که نشان می‌دهد سیستم آموزشی قرن بیستم توانایی ارزیابی دانشجویان مجهز به ابزارهای قرن بیست‌ویکم را ندارد. برای حفظ اعتبار و سلامت علم، دانشگاه‌ها باید بدون فوت وقت از ارزیابی‌های متن‌محور کاغذی فاصله بگیرند و به ارزیابی‌های زنده، تعاملی و مهارتی روی بیاورند. تنها در این صورت است که می‌توان اطمینان یافت افرادی که با عنوان پژوهشگر و مهندس فارغ‌التحصیل می‌شوند، خودشان می‌فهمند چه می‌گویند، نه اینکه فقط بلد باشند سوالات را به خوبی در پرامپت چت‌بات تایپ کنند.

سوالات متداول

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.