اشتباه هوش مصنوعی جنجال‌ساز شد؛ کلود تمام یادداشت‌های یک سال استاد دانشگاه را پاک کرد

یک استاد حقوق دانشگاه شیکاگو درباره خطرات سپردن کارهای ساده و روزمره به هوش مصنوعی هشدار داده است.

هوش مصنوعی کلود هنگام انجام وظیفه‌ای معمولی، به‌اشتباه تمام یادداشت‌های یک سال تدریس درس حقوق اساسی و همچنین برنامه درسی فعلی او را حذف کرد. خوشبختانه فایل‌ها بعداً از طریق دراپ‌باکس بازیابی شدند. ویلیام بود این اتفاق را به‌عنوان هشداری عمومی منتشر کرد؛ ماجرایی که جدیدترین نمونه از اشتباهات دردسرساز هوش مصنوعی در شرایط گسترش روزافزون استفاده از این فناوری به شمار می‌رود.

بود، استاد حقوق هری کلوین جونیور و مدیر دانشکده مؤسسه حقوق اساسی دانشگاه شیکاگو، از کلود خواسته بود شماره صفحات مجموعه قدیمی یادداشت‌های درسی خود را به‌روزرسانی کند. مشخص نیست او از کدام نسخه این هوش مصنوعی استفاده می‌کرد، اما این کار ظاهراً ساده خیلی زود به اتفاقی ناخوشایند تبدیل شد. بود پس از بازگشت از زمان ناهار، یادداشتی از کلود دریافت کرد که در آن نوشته شده بود

من به‌اشتباه فایل نهایی برنامه درسی پاییز ۲۰۲۶ با فرمت DOC و تمام یادداشت‌های اصلی کلاس‌های سال ۲۰۲۳ را حذف کردم و هنوز نتوانسته‌ام آن‌ها را بازیابی کنم. بررسی شماره صفحات فقط یک ارجاع اشتباه پیدا کرد، اما هنوز هیچ تغییری در یادداشت‌ها نداده‌ام.

بود در شبکه اجتماعی ایکس نیز درباره این اتفاق نوشت که کلود هنگام صرف ناهار او، تمام یادداشت‌های یک سال تدریس حقوق اساسی و برنامه درسی فعلی‌اش را پاک کرده است.

هوش مصنوعی سپس با لحنی مؤدبانه از بود پرسید آیا می‌تواند فایل‌ها را از طریق دراپ‌باکس بازیابی کند یا دوباره از پنجره مرورگر برای انجام این کار تلاش کند. واکنش استاد به این اتفاق، کاملاً قابل‌درک بود و با ابراز تعجب و عصبانیت همراه شد.

تجربه بود یادآور اهمیت تهیه نسخه پشتیبان از فایل‌های مهم، به‌ویژه اسنادی است که برای ویرایش یا مدیریت آن‌ها از ابزارهای هوش مصنوعی کمک می‌گیریم. نکته جالب این ماجرا آن است که ظاهراً کلود فایل‌ها را ناخواسته حذف کرده و این اقدام نتیجه تصمیم عمدی عامل هوش مصنوعی نبوده است.

با این حال، توانایی یک مدل یا عامل هوش مصنوعی برای ارتکاب چنین اشتباه بزرگی همچنان نگران‌کننده به نظر می‌رسد. البته این اتفاق در مقایسه با برخی خرابکاری‌های قبلی عامل‌های هوش مصنوعی که بدون نظارت انسانی فعالیت می‌کردند، چندان بی‌سابقه نیست.

در ماه اکتبر، گزارش شد یک عامل هوش مصنوعی نسخه تدوین‌شده کامل یک سریال تلویزیونی را تنها چند هفته پیش از زمان انتشار حذف کرده است. به دلیل مشکل در نسخه‌های پشتیبان، گروه تولید مجبور شد فرایند تدوین را از ابتدا تکرار کند و در نتیجه امکان پخش سریال در موعد مقرر از بین رفت.

در ماه آوریل نیز یک عامل برنامه‌نویسی مبتنی بر کلود، بدون دریافت دستور مستقیم، پایگاه داده کامل یک شرکت را ظرف ۹ ثانیه حذف کرد. این اتفاق پس از برخورد عامل با یک مانع رخ داد و هوش مصنوعی به این نتیجه رسید که تنها راه پیش رو، حذف یک فضای ذخیره‌سازی در سرویس ریلوِی است.

نمونه‌های دیگری نیز از حذف ناخواسته فایل‌ها توسط مدل‌ها و عامل‌های هوش مصنوعی وجود دارد. در یکی از این موارد، کلود به‌اشتباه تمام پوشه شخصی یک توسعه‌دهنده را پاک کرد؛ آن هم زمانی که قصد داشت از فایل‌های او نسخه پشتیبان تهیه کند. این عامل اشتباه خود را به یک خطای تایپی نسبت داد. با این حال، در بسیاری از چنین اتفاقاتی، حذف فایل‌ها و پوشه‌ها بیشتر ناشی از تصمیم‌گیری اشتباه و ابتکار عمل نامناسب عامل‌های هوش مصنوعی است تا یک خطای ساده یا بی‌دقتی معمولی.

کلود در پایان ماجرای استاد بود نیز تلاش کرد با لحنی بسیار عذرخواهانه مسئولیت اتفاق رخ‌داده را بپذیرد. این عامل هوش مصنوعی گفت

حق دارید عصبانی باشید. من فایل‌های شما را به دلیل بی‌دقتی خودم حذف کردم و نباید مجبور باشید برای جبران اشتباه من وقت بگذارید.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.