۱۱ کاری که سپردن آن‌ها به ChatGPT می‌تواند باعث پشیمانی شود

ChatGPT در تشخیص الگوها عملکرد خوبی دارد و می‌تواند پاسخ‌هایش را بسیار مطمئن و معتبر جلوه دهد. با این حال، دقت، اصالت، اعتبار حقوقی، قابلیت اتکای پزشکی یا خلاقیت واقعی، نقاط قوت قابل اتکایی برای آن نیستند.

نکته‌ای که همیشه باید به خاطر داشت این است که ChatGPT در نهایت بیشتر شبیه یک موتور جست‌وجوی بسیار پیشرفته بوده و توانایی تفکر انتقادی انسانی را ندارد. همین موضوع به‌تنهایی دلیل مهمی برای نسپردن کارهای حساس به آن محسوب می‌شود.

برای مرتب‌سازی الفبایی یک فهرست یا کارهای ساده‌ای که با قلم و کاغذ هم انجام می‌شوند، کمک گرفتن از هوش مصنوعی می‌تواند میان‌بری منطقی باشد. اما در ۱۱ موردی که در ادامه آمده، چنین میان‌بری ممکن است نتیجه‌ای ضعیف‌تر ارائه دهد، اطلاعات گمراه‌کننده تولید نماید یا به‌تدریج مهارتی را که بهتر است همچنان در اختیار داشته باشید، مانند توانایی فکر کردن، تضعیف کند.

ChatGPT یک موتور جست‌وجوی خطاناپذیر نیست، اما بسیاری از کاربران پاسخ‌های آن را حقیقت قطعی تلقی می‌کنند. این مدل‌ها قادرند برخی کارها را به‌تنهایی انجام دهند، ولی صدها وظیفه وجود دارد که نمی‌توان با اطمینان به آن‌ها سپرد. مدل‌های زبانی واقعاً چیزی را مانند انسان نمی‌دانند و بر اساس الگوها، محتمل‌ترین واژه بعدی را پیش‌بینی می‌کنند. در نتیجه، گاهی پاسخی نسبتاً مناسب را با اطمینان زیاد ارائه می‌دهند و گاهی نیز پاسخی کاملاً اشتباه تولید می‌کنند؛ پدیده‌ای که به توهم هوش مصنوعی معروف است.

در بعضی شرایط، چنین خطایی پیامد چندانی ندارد. اما استفاده از پاسخ‌های نادرست برای تصمیم‌های مالی، مسائل پزشکی یا امور حقوقی می‌تواند بسیار خطرناک باشد. در این حوزه‌ها حتی یک پاسخ اشتباه ممکن است پیامدهای جدی و واقعی به دنبال داشته باشد.

برای شناخت بهتر محدودیت‌های این فناوری، در ادامه ۱۱ مورد از کارهایی آمده که نباید به ChatGPT واگذار شوند.

۱. تشخیص بیماری‌ها و مشکلات جسمانی

جست‌وجوی علائم در ChatGPT ممکن است کاربر را میان طیف گسترده‌ای از تشخیص‌های احتمالی سرگردان کند. برای نمونه، وجود یک توده روی قفسه سینه ممکن است از سوی چت‌بات به‌عنوان نشانه احتمالی سرطان تفسیر شود، در حالی که علت واقعی می‌تواند یک لیپوم غیرسرطانی باشد؛ عارضه‌ای که تقریباً در یک نفر از هر هزار نفر دیده می‌شود و تشخیص آن نیز توسط پزشک دارای مجوز انجام می‌گیرد.

ChatGPT برای برخی کارهای مرتبط با سلامت همچنان می‌تواند مفید باشد. این ابزار قادر است پرسش‌هایی را برای مطرح کردن در ویزیت بعدی پزشک آماده کند، اصطلاحات پیچیده پزشکی را به زبان ساده توضیح دهد و جدول زمانی علائم را مرتب سازد تا بیمار با آمادگی بیشتری به پزشک مراجعه نماید. چنین کمکی می‌تواند مراجعه پزشکی را کم‌تنش‌تر کند.

با این حال، هوش مصنوعی امکان درخواست آزمایش‌های پزشکی یا معاینه فیزیکی بیمار را ندارد و بیمه مسئولیت حرفه‌ای پزشکی نیز در اختیارش نیست. بنابراین باید محدودیت‌های آن را جدی گرفت.

۲. مراقبت از سلامت روان

ChatGPT می‌تواند برخی روش‌های آرام‌سازی و تکنیک‌های بازگشت به وضعیت پایدار را پیشنهاد دهد، اما هنگام بروز یک بحران جدی روانی قادر نیست با تلفن تماس بگیرد یا به‌عنوان یک متخصص وارد عمل شود. برخی افراد از ChatGPT به‌عنوان جایگزین درمانگر استفاده می‌کنند. کورین سزاریک از CNET می‌گوید که این ابزار برای کنار آمدن با سوگ تا حدی مفید بوده، مشروط بر اینکه محدودیت‌های آن همواره در نظر گرفته شوند.

با این حال، درمانگر انسانی تجربه زیسته دارد، زبان بدن و لحن فرد را می‌بیند و می‌شنود و امکان ایجاد همدلی واقعی را در اختیار دارد؛ توانایی‌هایی که ChatGPT فاقد آن‌هاست و تنها می‌تواند نمونه‌ای شبیه‌سازی‌شده از همدلی ارائه دهد.

درمانگر دارای مجوز تحت قوانین حرفه‌ای و الزامات قانونی فعالیت دارد تا از بیمار در برابر آسیب محافظت شود. ChatGPT چنین مسئولیت حرفه‌ای و قانونی ندارد. توصیه‌های آن ممکن است اشتباه باشند، علائم هشداردهنده را نادیده بگیرند یا سوگیری‌های موجود در داده‌های آموزشی را تقویت کنند. به همین دلیل، بخش دشوار و عمیق سلامت روان بهتر است به متخصص انسانی آموزش‌دیده سپرده شود.

۳. تصمیم‌گیری فوری درباره ایمنی

اگر هشداردهنده مونوکسید کربن شروع به بوق زدن کرد، نباید ابتدا سراغ ChatGPT رفت تا درباره خطر سؤال شود. اولویت باید خروج فوری از محل و رسیدن به فضای امن باشد. مدل‌های زبانی بزرگ نمی‌توانند بوی گاز را تشخیص دهند، وجود دود را حس کنند یا نیروهای امدادی را اعزام کنند.

در شرایط اضطراری، هر ثانیه‌ای که صرف تایپ کردن سؤال می‌شود، زمانی است که ممکن است برای تخلیه ساختمان یا تماس با پلیس لازم باشد. ChatGPT تنها اطلاعاتی را بررسی می‌کند که کاربر در اختیارش قرار داده و در یک بحران، همین اطلاعات ممکن است ناکافی یا دیرهنگام باشند.

بنابراین چت‌بات می‌تواند بعد از حادثه برای توضیح دادن اتفاق مفید باشد، اما نباید جای نخستین نیروی واکنش اضطراری را بگیرد.

۴. برنامه‌ریزی شخصی مالی یا مالیاتی

ChatGPT می‌تواند مفهوم یک ETF را توضیح دهد، اما لزوماً از نسبت بدهی به درآمد، گروه مالیاتی ایالت، وضعیت اظهارنامه، کسورات، اهداف بازنشستگی یا میزان تحمل ریسک فرد اطلاع ندارد. علاوه بر این، داده‌های آموزشی آن ممکن است جدیدترین سال مالیاتی یا آخرین افزایش نرخ‌ها را پوشش ندهند و در نتیجه توصیه ارائه‌شده هنگام استفاده، قدیمی باشد.

برخی افراد مجموع درآمدهای درج‌شده در فرم ۱۰۹۹ خود را در ChatGPT وارد می‌کنند تا اظهارنامه مالیاتی را به‌صورت شخصی تنظیم کنند. چنین روشی نمی‌تواند جای حسابدار رسمی را بگیرد؛ متخصص مالیاتی ممکن است یک کسر مالیاتی پنهان به ارزش چند صد دلار را پیدا کند یا اشتباهی را تشخیص دهد که در صورت باقی ماندن، هزاران دلار هزینه ایجاد خواهد کرد.

وقتی پول واقعی، مهلت‌های قانونی و جریمه‌های IRS در میان باشد، مراجعه به متخصص گزینه مطمئن‌تری نسبت به تکیه بر هوش مصنوعی خواهد بود. همچنین باید درباره اطلاعات شخصی حساس احتیاط کرد. اطلاعاتی که در اختیار یک چت‌بات هوش مصنوعی قرار می‌گیرد، بسته به شرایط استفاده و سیاست‌های سرویس ممکن است در فرایندهای مرتبط با داده و آموزش مدل قرار گیرد. این موضوع درباره درآمد، شماره تأمین اجتماعی و اطلاعات بانکی نیز اهمیت دارد.

۵. اطلاعات محرمانه یا تحت نظارت قانونی

برای یک روزنامه‌نگار حوزه فناوری، دریافت خبرهای تحت تحریم یا محرمانه در ایمیل اتفاقی معمول است، اما وارد کردن چنین اطلاعیه‌هایی در ChatGPT برای خلاصه‌سازی یا توضیح بیشتر می‌تواند مشکل‌ساز باشد. با این کار، متن از کنترل مستقیم فرد خارج شده و ممکن است روی یک سرور متعلق به شخص ثالث قرار گیرد؛ موضوعی که می‌تواند با تعهدات ناشی از توافق‌نامه‌های عدم افشا در تضاد باشد.

همین نگرانی درباره قراردادهای مشتریان، پرونده‌های پزشکی و اطلاعات مشمول قوانین مختلف از جمله قانون حفظ حریم خصوصی مصرف‌کنندگان کالیفرنیا، HIPAA، مقررات GDPR یا قوانین مربوط به اسرار تجاری نیز وجود دارد. اظهارنامه مالیاتی، گواهی تولد، گواهینامه رانندگی و گذرنامه نیز در همین دسته اطلاعات حساس قرار می‌گیرند.

پس از وارد کردن اطلاعات حساس در پنجره گفت‌وگو، تضمینی وجود ندارد که کاربر دقیقاً بداند داده‌ها کجا ذخیره می‌شوند، چه افرادی در داخل شرکت امکان بررسی آن‌ها را دارند یا آیا ممکن است در آموزش مدل‌های آینده استفاده شوند. ChatGPT همچنین از حملات هکری و تهدیدهای امنیتی مصون نیست.

قاعده ساده این است: اگر اطلاعاتی را در یک کانال عمومی Slack قرار نمی‌دهید، همان اطلاعات را نیز در ChatGPT وارد نکنید.

۶. انجام کارهای غیرقانونی

در این مورد نیازی به توضیح طولانی وجود ندارد. انجام فعالیت‌های غیرقانونی نباید به ChatGPT یا هیچ ابزار دیگری سپرده شود.

۷. تقلب در تکالیف و امتحانات

استفاده از فناوری برای تقلب سابقه‌ای طولانی دارد. در دوران دبیرستان حتی استفاده مخفیانه از یک iPod Touch نسل اول برای نگاه کردن به چند معادله دشوار درس حساب دیفرانسیل AP نمونه‌ای از چنین رفتاری بود؛ اقدامی که چندان قابل افتخار نیست. با این حال، مقیاس تقلب امروزی با کمک هوش مصنوعی، چنین نمونه‌ای را بسیار کوچک جلوه می‌دهد.

سامانه‌هایی مانند Turnitin هر ترم در تشخیص متن تولیدشده توسط هوش مصنوعی بهتر می‌شوند و استادان نیز می‌توانند سبک نوشتاری موسوم به لحن ChatGPT را به‌سرعت تشخیص دهند؛ حتی شوخی درباره خراب شدن استفاده محبوب از خط تیره بلند نیز در همین زمینه مطرح شده است.

تعلیق از تحصیل، اخراج و حتی لغو مجوز حرفه‌ای از جمله پیامدهای احتمالی تقلب هستند. بهترین کاربرد ChatGPT در آموزش، ایفای نقش همراه مطالعه است، نه نویسنده مخفی تکالیف. واگذاری تمام کار به ChatGPT همچنین باعث می‌شود دانشجو عملاً فرصت یادگیری را از خودش بگیرد.

۸. رصد اطلاعات و اخبار فوری

پس از راه‌اندازی ChatGPT Search توسط OpenAI در اواخر سال ۲۰۲۴ و دسترسی عمومی به آن در فوریه ۲۰۲۵، این چت‌بات توانست صفحات جدید وب، قیمت سهام، قیمت سوخت، نتایج ورزشی و دیگر داده‌های لحظه‌ای را هنگام درخواست کاربر دریافت کند و همراه آن، ارجاع‌های قابل کلیکی برای بررسی منابع ارائه دهد.

با این حال، ChatGPT به‌صورت مستقل جریان دائمی اطلاعات را پخش نمی‌کند. برای هر بار به‌روزرسانی، درخواست تازه‌ای لازم است. بنابراین وقتی سرعت اهمیت حیاتی دارد، فیدهای زنده داده، اطلاعیه‌های رسمی، وب‌سایت‌های خبری، هشدارهای فوری و پوشش زنده همچنان گزینه‌های مناسب‌تری هستند.

۹. شرط‌بندی

ChatGPT ممکن است گاهی در انتخاب یک شرط چندبخشی موفق به نظر برسد، اما چنین موفقیتی نباید به‌عنوان دلیل اعتماد به آن برای قمار تلقی شود. این ابزار ممکن است درباره آمار بازیکنان اطلاعات ساختگی ارائه دهد یا مصدومیت‌ها و سوابق برد و باخت را اشتباه گزارش کند.

برای تصمیم‌گیری در چنین شرایطی، بررسی دوباره هر ادعا با ضرایب لحظه‌ای ضروری است و حتی پس از آن نیز نتیجه موفق می‌تواند صرفاً حاصل شانس باشد. ChatGPT توانایی پیش‌بینی قطعی نتیجه آماری مسابقه فردا را ندارد و نباید تنها ابزار مورد اتکا برای تضمین برد باشد.

۱۰. تنظیم وصیت‌نامه یا قرارداد الزام‌آور قانونی

ChatGPT برای توضیح مفاهیم حقوقی پایه می‌تواند ابزار مناسبی باشد. برای مثال، پرسیدن درباره تراست زنده قابل فسخ امکان‌پذیر است. اما زمانی که از آن خواسته شود متن واقعی یک سند حقوقی را تنظیم کند، ریسک به‌طور قابل توجهی افزایش می‌یابد.

قوانین مربوط به ارث، اموال و خانواده در ایالت‌های مختلف متفاوت هستند و حتی گاهی میان شهرستان‌ها نیز تفاوت دارند. حذف امضای شاهد یا درج نکردن بند مربوط به محضری شدن سند ممکن است باعث بی‌اعتبار شدن کل مدرک شود.

راه بهتر این است که ChatGPT برای تهیه فهرستی از پرسش‌ها و نکاتی که باید با وکیل مطرح شوند مورد استفاده قرار گیرد و سپس تنظیم سند نهایی به وکیل سپرده شود تا مدرکی تهیه شود که از نظر قانونی قابلیت دفاع در دادگاه را داشته باشد.

۱۱. خلق آثار هنری

هوش مصنوعی نباید برای خلق هنر به کار گرفته شود. این موضع به معنای مخالفت با هوش مصنوعی نیست. ChatGPT می‌تواند برای ایده‌پردازی و کمک به پیدا کردن تیترهای تازه کاربرد داشته باشد، اما چنین استفاده‌ای مکمل توانایی انسان است، نه جایگزین آن.

استفاده از ChatGPT برای کمک گرفتن اشکالی ندارد، اما ارائه اثری که هوش مصنوعی آن را ساخته و سپس معرفی آن به‌عنوان کار شخصی، رفتاری نادرست و ناخوشایند تلقی می‌شود.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.