اگر هوش مصنوعی بتواند بیماران را تشخیص دهد، پس نقش پزشکان چه میشود؟
مدلهای زبانی بزرگ در حال دگرگونکردن پزشکیاند؛ اما این فناوری عوارض جانبی خود را هم دارد. به نقل از The New Yorker در سال ۲۰۱۷، «متیو ویلیامز» (Matthew Williams)، مهندس نرمافزار سیوچندسالهای با اندامی ورزیده و سری تراشیده، برای دوچرخهسواری طولانی به تپه…
خلاصه تحلیلی خبر
مدلهای زبانی بزرگ در حال دگرگونکردن پزشکیاند؛ اما این فناوری عوارض جانبی خود را هم دارد. به نقل از The New Yorker در سال ۲۰۱۷، «متیو ویلیامز» (Matthew Williams)، مهندس نرمافزار سیوچندسالهای با اندامی ورزیده و سری تراشیده، برای دوچرخهسواری طولانی به تپه…
موضوعات اصلی: پشتیبانی شبکه، هوش مصنوعی، مصنوعی، هوش، پزشکی، پزشکان
مدلهای زبانی بزرگ در حال دگرگونکردن پزشکیاند؛ اما این فناوری عوارض جانبی خود را هم دارد.
به نقل ازThe New Yorkerدر سال ۲۰۱۷، «متیو ویلیامز» (Matthew Williams)، مهندس نرمافزار سیوچندسالهای با اندامی ورزیده و سری تراشیده، برای دوچرخهسواری طولانی به تپههای سانفرانسیسکو رفت. پس از آن، هنگام شام با چند دوست، همبرگر، سیبزمینی سرخکرده و میلکشیک سفارش داد. در میانه غذا، آنقدر احساس پُری کرد که مجبور شد از کسی بخواهد او را به خانه برساند. آن شب، ویلیامز با درد شکم بیدار شد و نگران آپاندیس بود. به یک درمانگاه اورژانسی نزدیک رفت و پزشکان به او گفتند احتمالاً یبوست دارد. مقداری ملین برایش تجویز کردند و او را به خانه فرستادند. چند ساعت بعد، درد ویلیامز شدیدتر شد. استفراغ کرد و احساس کرد شکمش در حال ترکیدن است. یکی از دوستانش او را به بیمارستان رساند؛ سیتیاسکن نشان داد که او دچار «ولولوس سکوم» (volvulus) شده است؛ یک وضعیت اورژانسی که در آن بخشی از روده بهدور خود میپیچد و مسیر گوارشی را مسدود میکند. تیم پزشکی قبلی این وضعیت را تشخیص نداده بود و حتی شاید با تجویز ملینها آن را بدتر کرده بود. ویلیامز را فوراً به اتاق عمل بردند و جراحان حدود دو متر از روده او را برداشتند.
پس از بهبودی از جراحی، ویلیامز تقریباً هر بار که غذا میخورد دچار اسهال شدید میشد. پزشکان به او گفتند که رودهاش فقط به زمان برای ترمیم نیاز دارد. در چند سال بعد، ویلیامز به سراغ گروهی از متخصصان تغذیه و گوارش رفت؛ اما هیچکدام نتوانستند دلیل علائمش را پیدا کنند. ویلیامز رژیمش را عمدتاً به تخممرغ، برنج، پوره سیب و نان خمیرترش محدود کرد. در سال ۲۰۲۳، ویلیامز از روی کنجکاوی سابقه پزشکی خود را در ChatGPT وارد کرد: «بیشتر ایلئوم و دریچه سکالم را از دست دادهام، چرا ممکن است غذاهای زیر باعث ناراحتی گوارشی شوند؟» و سپس فهرستی از بدترین موارد را نوشت. در عرض چند ثانیه، هوش مصنوعی به سه عامل احتمالی اشاره کرد: غذاهای چرب، فیبرهای قابل تخمیر، و خوراکیهای سرشار از «اکسالات».
اکسالات، ترکیبی است که در سبزیجات برگدار و بسیاری از مواد غذایی دیگر وجود دارد و معمولاً در بخشهایی از دستگاه گوارش تجزیه میشود که ویلیامز ازدستداده بود؛ او هرگز از پزشکانش هم درباره آن چیزی نشنیده بود. از هوش مصنوعی فهرستی از غذاهای پر اکسالات خواست و شگفتزده شد: «تقریباً هر چیزی که بیشتر از همه حالم را بد میکرد فهرست کرده بود. اسفناج، بادام، شکلات، سویا و بیش از دوازده غذای دیگر. انگار تمام این سالها دنبالم بوده و یادداشت برمیداشته.» ویلیامز این اطلاعات را نزد یک متخصص تغذیه برد و او رژیمی بر اساس میزان اکسالات غذاها طراحی کرد. علائمش بهبود یافت و وعدههای غذاییاش متنوعتر شد. دیگر لازم نیست همیشه بداند نزدیکترین دستشویی کجاست.
هوش مصنوعی در پزشکی
گفتوگو با دکتر «زینب برزگر»، مدیر گروه هوش مصنوعی دانشگاه علوم پزشکی ایران
نویسنده گزارش عنوان میکند که در دوران آموزش پزشکیاش، همیشه شیفته پزشکان ارشد بود که با ترکیبی شگفتانگیز از دانش و شهود، همیشه به نشانهای میرسیدند که راز بیماری را برملا میکرد؛ شکل غیرعادی ناخنهای بیمار، یک خطر شغلی مربوط به دههها پیش یا آزمایش خونی که نادیده گرفته شده بود. چه الگوریتمی در ذهن آن پزشکان اجرا میشد؟
اما در آینده، تشخیص پزشکی ممکن است هرچه بیشتر به یک علم رایانهای تبدیل شود. بررسیها نشان دادهاند که بسیاری از مردم به تشخیصهای هوش مصنوعی بیش از تشخیص پزشکان اطمینان دارند. همین حالا تنها در ایالات متحده، تشخیص نادرست هر سال به صدها هزار نفر آسیب میزند؛ مطالعات کالبدشکافی نشان میدهند که این خطاها شاید در ازای هر ده مرگ، در یکی از آنها نقش داشته باشند. اگر ویلیامز تشخیص اولیه را نادیده نمیگرفت، شاید یکی از همانها میبود و میگوید: «من بیشتر از پزشکان به هوش مصنوعی اعتماد دارم. فکر نمیکنم فقط من اینطور باشم.»
در اوایل دهه ۱۹۰۰، «ریچارد کبت» (Richard Cabot)، پزشکی در بیمارستان عمومی ماساچوست، شروع به برگزاری سمینارهایی کرد تا شیوه استدلال بالینی را برای کارآموزان شرح دهد. در این جلسات، یک پزشک متخصص پرونده بیماری قدیمی را دریافت میکرد و برای بهدستآوردن جزئیات بیشتر درباره مورد، پرسشهایی مطرح میکرد. هرگاه اطلاعاتی در زمان بستری واقعی بیمار در دسترس بود، افشا میشد. بهتدریج، پزشک به سمت تشخیصی پیش میرفت که میشد آن را با نتیجهای که آسیبشناسان در نهایت (اغلب در کالبدشکافی) به آن رسیده بودند، مقایسه کرد. این نشستها که به نام کنفرانسهای کلینیکوپاتولوژیک یا CPC شناخته شدند، چنان محبوب شدند که مجله معتبر New England Journal of Medicine بیش از یک قرن است که رونوشت آنها را منتشر میکند. این کنفرانسها بهعنوان معیار طلایی استدلال تشخیصی شناخته میشوند.
CPCها همچنین الهامبخش تلاشهای بسیاری برای آموزش پزشکی به ماشینها شدند. در اواخر دهه پنجاه میلادی، یک دانشمند رایانه و یک رادیولوژیست موارد بیماری را بر اساس علائم و بیماریها گروهبندی کردند. آنها پیشنهاد کردند که یک برنامه رایانهای میتواند با استفاده از ابزارهای ریاضی مانند منطق و نظریه بازیها این موارد را تحلیل کند. آنها در مقالهای تحولآفرین در مجله Science نوشتند: «رایانهها بهویژه برای کمک به پزشک در جمعآوری و پردازش اطلاعات بالینی و یادآوری تشخیصهایی که ممکن است از نظر او پنهان مانده باشند، مناسباند.»
در دهه هفتاد، یک دانشمند علوم رایانه در دانشگاه پیتسبورگ برنامهای به نام INTERNIST-1 را توسعه داد که بر پایه مجموعهای از گفتگوها با یک پزشک خبره و پرابهت به نام «جک مایرز» (Jack Myers) طراحی شده بود. مایرز «تعداد زیادی» از کنفرانسهای CPC را انتخاب کرد تا نشان دهد چگونه استدلال میکند؛ در نهایت، INTERNIST-1 در حل مجموعهای از پروندهها بهاندازه برخی پزشکان عملکرد خوبی داشت. اما دادههای هر پرونده باید با دقت و بهصورت دستی وارد رایانه میشد، بنابراین هر تحلیل ممکن بود بیش از یک ساعت طول بکشد. پژوهشگران نتیجه گرفتند که «شکل فعلی برنامه بهاندازه کافی برای کاربردهای بالینی قابلاعتماد نیست.»
سپس نوبت به مدلهای زبانی بزرگ رسید. سال گذشته میلادی، «آرجون منرای» (Arjun Manrai)، دانشمند علوم رایانه در دانشگاه هاروارد، و «توماس باکلی» (Thomas Buckley)، دانشجوی دکترا در برنامه جدید هوش مصنوعی در پزشکی این دانشگاه، کار روی یک ابزار آموزشی و پژوهشی را آغاز کردند که قرار بود قادر باشد تقریباً هر CPC را حل کند. این ابزار باید میتوانست به منابع علمی ارجاع دهد، منطق خود را توضیح دهد و به پزشکان کمک کند تا درباره یک پرونده دشوار فکر کنند.
منرای و باکلی نسخهای سفارشی از o3، یکی از مدلهای استدلالی پیشرفته شرکت OpenAI را توسعه دادند که پیش از پاسخدادن، مسائل پیچیده را به مراحل میانی خرد میکند. فرایندی به نام پشتیبانی از بازیابی اطلاعات یا RAG، دادهها را از منابع بیرونی میکشد تا پیش از ساخت پاسخ، به مدل زمینه بدهد. مدل آنها کمی شبیه دانشجویی است که برای نوشتن مقاله به کتاب درسی مراجعه میکند، نه اینکه صرفاً از حافظه خودش بنویسد. آنها این هوش مصنوعی را بهافتخار مخترع CPCها، CaBot نامیدند
در ماه ژوئن سال جاری میلادی، در کتابخانه پزشکی کانتوی در دانشگاه هاروارد رقابتی میان CaBot و یک متخصص تشخیص بالینی برگزار شد. این رویداد یادآور مسابقه شطرنج سال ۱۹۹۷ میان استاد بزرگ گری کاسپارف و ابررایانه دیپ بلو از شرکت IBM بود که در نهایت کاسپارف را شکست داد. «دنیل رستریپو» (Daniel Restrepo)، پزشک داخلی بیمارستان عمومی ماساچوست قرار بود با CaBot رقابت کند.
سپس شرححال یک بیماری خوانده شد. مردی ۴۱ساله که پس از حدود ده روز تب، بدندرد و تورم مچ پا به بیمارستان مراجعه کرده بود. او یک راش (ضایعه پوستی) دردناک روی ساق پاهایش داشت و دو بار غش کرده بود. چند ماه پیش، پزشکان یک استنت (stent) در قلبش کار گذاشته بودند. سیتیاسکن نشان میداد که او در ریهها دچار ندول و در قفسه سینه دچار بزرگشدگی غدد لنفاوی است.
«رستریپو» که عینک استادانه و کتوشلوار تیره به تن داشت، نخستین نفر بود. او گفت گام اول در جهت تشخیص، تعریف دقیق مسئله است: «اگر بتوانید آن را به یک جمله روشن و خلاصه تبدیل کنید، مغزتان راه آسانتری برای حل آن پیدا میکند.»
او بر سه پرسش تأکید کرد: بیمار که بود؟ وضعیت چقدر سریع بروز کرده بود؟ و کدام علائم با هم یک سندرم را تشکیل میدادند؟
برخی از علائم با هم همخوانی داشتند؛ بقیه احتمالاً حواسپرتکن بودند و گفت: «با وجود تمام دادههای دیگر، اینها چیزهایی هستند که به نظر من واقعاً مهماند» و چهار علامت کلیدی را در یک نمودار وِن به حضار نشان داد. این چهار نشانه او را به سه دسته تشخیصی رساند: لنفوم، عفونت و بیماری خودایمنی.
علائم بیمار برای لنفوم بیش از حد سریع بروز کرده بودند. عفونت غیرمعمول هم بعید به نظر میرسید. بیمار متولد آمریکا بود، سیستم ایمنیاش تضعیف نشده بود و سابقه سفر به مناطق پرخطر نداشت. همچنین عفونت نمیتوانست درد مفاصل او را توضیح دهد. رستریپو سرانجام گفت: «چه چیزی را میشناسم که همزمان باعث تب، آرتریت، آدنوپاتی هیلار و راش در اندام تحتانی شود؟» سپس پاسخ داد: «سندرم لُفگر» (Löfgren syndrome) لفگرن نوعی بروز نادر از بیماری «سارکوئیدوز» (sarcoidosis) است که یک بیماری التهابی محسوب میشود. در نهایت فهمیدیم که بیمار در بیمارستان داروی استروئیدی دریافت کرده بود؛ دارویی که التهاب را سرکوب میکند و حالش بهتر شده بود، نشانهای از درستی تشخیص.
رستریپو برای آمادهسازی ارائهاش شش هفته وقت داشته است اما CaBot تنها شش دقیقه و سپس اسلایدی که توسط هوش مصنوعی با عنوان «وقتی مچ پا، غدد و سنکوپ با هم تلاقی میکنند.» ساخته شده بود، روی پرده ظاهر شد. صدای زنی گرم و خودمانی، اما حرفهای در اتاق طنین انداخت: «صبح همگی به خیر. من دکتر CaBot هستم و خب، امروز یک پرونده واقعاً آموزنده داریم که بین تخصصهای پوست، روماتولوژی، ریه و حتی قلب ارتباط برقرار میکند. پس بریم سر اصل مطلب!» صدایی که در لحن و آهنگ گفتار از پزشکان واقعی قابلتمایز نبود و سپس شروع کرد بهمرور داروها و سابقه پزشکی بیمار.
CaBot گفت: «هیچ مواجهه غیرعادیای در کار نیست. فقط زندگی در یک شهر بزرگ در نیوانگلند، با یک گربه که شش ماه پیش او را چنگ زده که خب، توی ذهنم نگهش میدارم، ولی بهش وابسته نیستم!» مدل به نظر میرسید پرونده را مرور کرده و اطلاعاتی را که از نظرش مهمتر بودند جدا کرده است و گفت: «مفصلها ستاره نمایشاند.» در سیتیاسکن به ندولهای کوچکی اشاره کرد که در امتداد برخی از مجاری لنفاوی ریه بیمار دیده میشدند و گفت: «توجه کنید که چطور در امتداد شکافها قرار گرفتهاند.»
هوش مصنوعی مجموعهای از تشخیصهای احتمالی تولید کرد و نقاط قوت و ضعف هرکدام را توضیح داد.
ذکر کرد که بیمار سطح بالایی ازپروتئین واکنشیC(C-reactive protein)دارد؛ نشانگری از التهاب که گاهی با بیماریهای خودایمنی همراه است و گفت: «با کنار هم گذاشتن همه اینها، بهترین تطبیق، سارکوئیدوز حاد است که به شکل سندرم لُفگرن بروز کرده است.» برای لحظهای سکوتی در اتاق حکمفرما شد. سپس همهمهای آرام میان حضار پیچید.
احساس میشد مرزی تازه پشت سر گذاشته شده است.
مدتهاست که هرگاه میکوشیم تصور کنیم هوش مصنوعی بتواند کار پیچیده شناختی پزشکان را انجام دهد، از خود میپرسیم: چطور ممکن است؟ اما این نمایش مرا پرسشی برعکس را مطرح میکند: چطور ممکن است نتواند؟ CaBot گاهی لغزش هم داشت؛ مثلاً واژه «hilar» را بهجای «هایلر»، «هیلار» تلفظ کرد و مدیریتی تهاجمیتر از رستریپو را توصیه کرد، از جمله نمونهبرداری از غده لنفاوی. (بیشتر متخصصان بیوپسی را ضروری نمیدانند، هرچند تیم پزشکی واقعی بیمار به آن فکر کرده بود.)
موفقیت CaBot با تجربهای که برخی بیماران هنگام مشورت با چتباتها دارند، در تضاد بود. یک مطالعه اخیر نشان داد که GPT-4 از شرکت OpenAI در حدود دو سوم مواقع، به پرسشهای پزشکی بدون پاسخ بهاشتباه پاسخ داده است. در پژوهشی دیگر، GPT-3.5 بیش از هشتاد درصد از موارد بیماریهای کودکان را بهاشتباه تشخیص داد. در همین حال، مدلهای زبانی بزرگ روزبهروز کمتر تمایل دارند در پاسخهایشان هشدار یا سلب مسئولیت درج کنند. یک تحلیل نشان داد که در سال ۲۰۲۲، بیش از یکچهارم پاسخها به پرسشهای مرتبط با سلامت، شامل عباراتی ازایندست بود: «من صلاحیت ارائه مشاوره پزشکی را ندارم.» اما در سال جاری میلادی، این رقم تنها به یک درصد رسیده است. در یک نظرسنجی جدید، حدود یکپنجم آمریکاییها گفتهاند که از هوش مصنوعی مشاوره پزشکی گرفتهاند که بعداً اشتباه از آب درآمده است. اوایل امسال، مرکز کنترل مسمومیت در ایالت آریزونا از کاهش حجم کلی تماسها، اما افزایش تعداد بیماران دچار مسمومیت شدید خبر داد. مدیر این مرکز احتمال داد که ابزارهای هوش مصنوعی ممکن است مردم را از مراجعه پزشکی بازداشته باشند. چتباتها همچنین نگرانیهای جدی درباره حریم خصوصی ایجاد کردهاند؛ زیرا وقتی اطلاعات پزشکی شما وارد گفتوگو میشود، دیگر متعلق به شما نیست. سال گذشته، ایلان ماسک کاربران X را تشویق کرد تا تصاویر پزشکی خود را برای «تحلیل» در اختیار Grok قرار دهند و بعدها مشخص شد که xAI، صدها هزار متن گفتوگو را بدون اجازه در دسترس موتورهای جستوجو قرار داده است.
نشریه Annals of Internal Medicine: Clinical Cases که یک مجله داوری شده توسط همتا (peer-reviewed) است، بهتازگی نمونهای آموزنده منتشر کرده است. مردی شصتساله که نگران میزان نمک مصرفیاش بود، از ChatGPT درباره جایگزینهای ممکن پرسید. هوش مصنوعی «برومید» را پیشنهاد کرد؛ دارویی ضدتشنجِ قدیمی که در صورت تجمع در بدن، مشکلات عصبی و روانی ایجاد میکند. آن مرد مقداری از آن را بهصورت اینترنتی سفارش داد؛ چند ماه بعد، در بخش اورژانس بستری شد و باورداشت که همسایهاش قصد دارد او را مسموم کند. او تشنگی شدیدی احساس میکرد، اما وقتی به او آب تعارف میشد، دچار پارانوئید میشد. آزمایش خون نشان داد سطح برومید در بدن او صدها برابر حد طبیعی است. او دچار توهم شد و سعی کرد از بیمارستان فرار کند. پزشکان او را بهاجبار در بخش روانپزشکی بستری کردند. وقتی پزشکان همان پرسش را دوباره از ChatGPT پرسیدند، باز هم همان پاسخ؛ یعنی برومید را داد.
پس از ارائه CaBot، پزشکی به نام «آدام رادمن» (Adam Rodman) که مدیریت اقدامات دانشگاه هاروارد برای ادغام هوش مصنوعی مولد در برنامه درسی دانشکده پزشکی را برعهده دارد اشاره کرد که هم رستریپو و هم CaBot از فرایندی به نام «تشخیص افتراقی» استفاده کردهاند که در آن پزشک همه احتمالات ممکن را در نظر گرفته و سپس بهصورت نظاممند موارد ناسازگار را حذف میکند. اما درحالیکه رستریپو بر مجموعهعلائم بیمار تأکید داشت، CaBot روی گرههای ریوی تمرکز کرده بود، موضوعی که اغلب پزشکان به آن توجه نمیکردند. رادمن توضیح داد: «یکی از کارهایی که CaBot خیلی زود انجام داد این بود که گفت به این سیتیاسکن نگاه کن، ببین چطور این گرهها در توزیع لنفاوی قرار گرفتهاند. من برایناساس تشخیص افتراقی میدهم!» هوش مصنوعی به نبود حفرههای ریوی که میتوانست نشانهای از سل باشد اشاره کرده بود و یافتههای تصویربرداری ظریفی را برجسته کرده بود که رستریپو حتی ذکر نکرده بود. رادمن گفت فرایند CaBot برای انسانها قابلدرک بود، اما نقاط قوت متفاوتی داشت: «چون حجم بسیار بیشتری از اطلاعات را رمزگذاری میکند، توانست مواردی را برای چکلیست خود انتخاب کند که تعداد بسیار کمی از انسانها متوجهشان میشدند.» وقتی تیم دانشگاه هاروارد هوش مصنوعی را روی چند صد پرونده جدید CPC آزمایش کردند، حدود شصت درصد از آنها را بهدرستی حل کرد؛ نسبتی بهمراتب بالاتر از پزشکان در یک مطالعه پیشین.
رادمن بعدها گفت یادگیری نحوه بهکارگیری هوش مصنوعی در پزشکی، خود به دانشی مستقل نیاز دارد. سال گذشته میلادی، او یکی از نویسندگان مطالعهای بود که در آن برخی پزشکان با کمک ChatGPT به حل پروندهها پرداختند. هرچند عملکرد آنها بهتر از پزشکانی که از چتبات استفاده نکردند نبود؛ اما خود چتبات بهتنهایی، پروندهها را دقیقتر از انسانها حل کرد. در یک مطالعه تکمیلی، تیم رادمن روشهای خاصی برای استفاده از هوش مصنوعی پیشنهاد کرد؛ از برخی پزشکان خواسته شد پیش از تحلیل پروندهها نظر هوش مصنوعی را بخوانند و از برخی دیگر خواسته شد ابتدا تشخیص اولیه خود را بنویسند و سپس از هوش مصنوعی نظر دوم بگیرند. این بار هر دو گروه بهتر از پزشکانِ بدون کمکِ هوش مصنوعی عمل کردند. گروه نخست سریعتر و کارآمدتر در پیشنهاد مراحل بعدی بودند. اما وقتی چتبات در جایگاه دوم عمل میکرد، اغلب از دستور نادیدهگرفتن تشخیص پزشک سرپیچی میکرد و به نظر میرسید باتکیهبر تشخیص اولیه پزشک، در تحلیل خود تقلب میکند.
سامانههایی که به طور راهبردی تواناییهای انسان و هوش مصنوعی را ترکیب میکنند به طرز خلاقانهای بهعنوان «سانتور» (centaur) یا «قنطورس» توصیف میشود. اصطلاح سانتور در حوزه هوش مصنوعی، استعارهای مهم و رایج است که از افسانههای یونان گرفته شده؛ جایی که سانتور موجودی نیمهانسان-نیمهاسب است. پژوهش رادمن نشان میدهد که چنین ترکیبی در پزشکی امیدبخش است. اما اگر ابزارهای هوش مصنوعی همچنان ناقص باقی بمانند و انسانها توانایی عملکرد مستقل از آنها را از دست بدهند؛ خطری که به آن «کاهش مهارت شناختی» (cognitive de-skilling) گفته میشود، در کلام رادمن، «کارمان تمام است.» در مطالعهای اخیر، متخصصان گوارش که از هوش مصنوعی برای تشخیص پولیپها در کولونوسکوپی استفاده میکردند، در یافتن پولیپها بهصورت دستی بسیار ضعیفتر شدند. رادمن گفت: «اگر اهل شرطبندی باشید، باید پزشکانی تربیت کنید که بلد باشند از هوش مصنوعی استفاده کنند، اما همچنین بلد باشندفکر کنند»
به نظر میرسد آینده پزشکی بهناچار با هوش مصنوعی درهمتنیده خواهد بود و دانشکدههای پزشکی نیز همین حالا دانشجویان را به استفاده از مدلهای زبانی بزرگ تشویق میکنند. «بنجامین پوپوخ» (Benjamin Popokh)، دانشجوی پزشکی دانشگاه تگزاس ساوتوسترن، عنوان میکند: «من نگرانم این ابزارها تواناییام برای رسیدن به تشخیص مستقل را از بین ببرند.». در یکی از دورههای اخیر کارورزیاش، استادان از دانشجویان خواستند با استفاده از ابزارهای هوش مصنوعی مانند ChatGPT و OpenEvidence مدلی پزشکی که روزبهروز محبوبتر میشود و دسترسی رایگان به متخصصان پزشکی میدهد، یک پرونده را بررسی کنند. هر دو چتبات بهدرستی وجود لخته خون در ریهها را تشخیص دادند. اما پوپوخ عنوان کرد که گروه کنترل وجود نداشت؛ یعنی هیچکدام از دانشجویان بدون کمک این ابزارها روی پرونده کار نکردند. مدتی بعد، پوپوخ خود را در حال استفاده از هوش مصنوعی پس از تقریباً هر ویزیت بیمار یافت و گفت: «وقتی افکارم را برای پزشکان ارشد ارائه میدادم، احساس ناخوشایندی داشتم، چون میدانستم در واقع این افکارِ من نیستند، بلکه افکارِ هوش مصنوعی است.» یک روز، هنگام خروج از بیمارستان، ناگهان متوجه شد که آن روز درباره هیچ بیماری به طور مستقل فکر نکرده است. اگر تمام کاری که میکنی این باشد که علائم را در هوش مصنوعی وارد کنی، آیا هنوز پزشک هستی؟ یا فقط کمی بهتر از بیمارت بلدی از هوش مصنوعی استفاده کنی؟
گفتوگو با CaBot همزمان الهامبخش و نگرانکننده است. احساس میشود حالا میتوان هر زمان و در هر تخصصی، نظر دوم را گرفت؛ اما تنها با دقت و دانش پزشکی میشد از تواناییهایش بهدرستی بهره برد و خطاهایش را تشخیص داد. مدلهای هوش مصنوعی ممکن است؛ مانند دارندگان مدرک دکتری حرف بزنند، اما در قضاوت، اشتباههایی در حد دبستان مرتکب شوند. چتباتها نمیتوانند بیماران را معاینه کنند و در پرسشهای باز، معمولاً دچار مشکل میشوند. عملکرد آنها وقتی بهتر میشود که روی نکات مهم تأکید کنید، اما بیشتر مردم آموزش ندیدهاند که علائم را به این شکل اولویتبندی کنند. فردی با درد قفسه سینه ممکن است دچار بازگشت اسید معده، التهاب یا حمله قلبی باشد؛ پزشک میپرسد آیا درد هنگام غذاخوردن، راهرفتن یا درازکشیدن رخ میدهد؟ وقتی فرد به جلو خم میشود، درد بیشتر میشود یا کمتر؟ گاهی به دنبال عباراتی میگردیم که احتمال یک بیماری خاص را به طور چشمگیری افزایش میدهند: «بدترین سردرد عمرم» ممکن است نشانه خونریزی مغزی باشد و «چیزی مثل پرده روی چشمم آمد» میتواند نشاندهنده انXNET شریان شبکیه باشد. تفاوت میان هوش مصنوعی و فناوریهای تشخیصی پیشین، مانند تفاوت بین ارهبرقی و اره دستی است؛ اما کاربری که احتیاط نکند، ممکن است انگشت خود را قطع کند.
اگر بهاندازه کافی در کنفرانسهای کلینیکوپاتولوژی شرکت کنید، یا قسمتهای زیادی از سریال «House» را ببینید، هر پرونده پزشکی به نظر میرسد شبیه معمایی باشد که باید حل شود. «لیزا ساندرز» (Lisa Sanders)، پزشک همکار ستوننویس مجله تایمز و سریال «Diagnosis»، کار خود را با کار شرلوک هولمز مقایسه کرده است. اما در واقعیت، کار روزمره پزشکی اغلب بسیار روتین و تکراری است. برای مثال، نویسنده در یکی از دورههای آموزشی خود در بیمارستان امور کهنه سربازان، بیشتر احساس میکرد شبیه «سیزیف» (Sisyphus) شده تا شرلوک هولمز. به نظر میرسید تقریباً همه بیماران با ترکیبی از آمفیزم، نارسایی قلبی، دیابت، بیماری مزمن کلیوی و فشارخون بالا مراجعه میکنند. در این موارد اصطلاحی تحت عنوان «احتمالاً چندعاملی» (likely multifactorial) به کار میرود و به این معناست کخ چندین توضیح برای آنچه بیمار تجربه میکند وجود دارد و پزشک به دنبال راههایی است تا یک بیماری را بدون بدتر کردن دیگری درمان کند. (برای مثال، تخلیه مایعات بدن برای کاهش فشار قلب میتواند بهراحتی باعث کمآبی کلیهها شود.) گاهی تشخیص دقیق اهمیتی ندارد؛ ممکن بود بیماری با تنگی نفس و سطح پایین اکسیژن مراجعه کند و همزمان برای بیماری انXNETی مزمن ریوی، نارسایی قلبی و ذاتالریه تحت درمان قرار گیرد. پزشکان گاهی هرگز متوجه نمیشوند کدام یک باعث بروز آن وضعیت شده است اما میتوانند حال بیمار را بهتر کنند. اگر از یک هوش مصنوعی میخواستیم بیماریاش را تشخیص دهد، در عمل هیچ پاسخ واضح و رضایتبخشی وجود نداشت.
به گفته «گورپریت دهلیوال» (Gurpreet Dhaliwal)، پزشک دانشگاه کالیفرنیا در سانفرانسیسکو که روزنامه تایمز او را «یکی از ماهرترین تشخیصدهندگان بالینی در حال فعالیت» توصیف کرده، سپردن حل یک پرونده پزشکی به هوش مصنوعی اشتباهی است از نوع «شروع از انتها». از نظر دهلیوال، پزشکان بهتر است از هوش مصنوعی برای «یافتن مسیر» کمک بگیرند؛ بهجای پرسیدن اینکه چه چیزی باعث بیماری بیمار شده، پزشک میتواند از مدل بخواهد روند تغییرات وضعیت بیمار را شناسایی کند، همراه با جزئیات مهمی که ممکن است پزشک از آن غافل شده باشد. مدل به پزشک دستورالعمل نمیدهد؛ بلکه ممکن است او را از یک پژوهش جدید آگاه کند، آزمایش خون مفیدی پیشنهاد دهد یا نتیجهای را از یک پرونده پزشکی مربوط به دههها قبل پیدا کند. دیدگاه دهلیوال درباره هوش مصنوعی پزشکی، تفاوت میان تشخیصدادن بیماران و مراقبت مؤثر از آنان را به رسمیت میشناسد و گفت: «این که در کشوی میزت یک فرهنگ لغت ژاپنی-انگلیسی داشته باشی، به این معنا نیست که در زبان ژاپنی مسلطی.»
CaBot هنوز در مرحله آزمایشی است، اما ابزارهای دیگر هوش مصنوعی از هماکنون در حال شکلدادن به مراقبت از بیماران هستند. در شبکههای بیمارستانی امریکا ممکن است ChatGPT مسدود باشد، اما بسیاری از پزشکان از OpenEvidence استفاده میکنند. این پلتفرم با نشریات علمی معتبر قرارداد دارد و میگوید با قوانین حفظ حریم خصوصی بیماران (HIPAA) مطابقت دارد. هر پاسخ آن به مجموعهای از مقالات داوریشده استناد میکند و گاه شامل عدد دقیق یا نقلقول مستقیم از مقاله مرتبط است تا از بروز «توهم» جلوگیری شود. وقتی پروندهای جدید در OpenEvidence وارد شود، بلافاصله سعی نمیکند معما را حل کند، بلکه مجموعهای از پرسشهای روشنکننده را مطرح میکند.
«پندا هلث»، شبکهای از درمانگاههای پزشکی در کنیا، طیف گستردهای از بیماران را درمان میکند؛ از نوزادانی که بر اثر مالاریا بیمار شدهاند تا کارگران ساختمانی که از ارتفاع سقوط کردهاند. کنیا مدتهاست با زیرساخت محدود مراقبتهای بهداشتی دستوپنجه نرم میکند. پندا بهتازگی استفاده از ابزاری به نام AI Consult را آغاز کرده است؛ ابزاری که از مدلهای OpenAI بهره میگیرد و هنگام ثبت سوابق بیماران، سفارش آزمایشها و تجویز داروها در پسزمینه اجرا میشود. اگر پزشکی به کمخونی بیمار توجه نکند، هشدار دریافت میکند تا آزمایش آهن را در نظر بگیرد؛ پزشک دیگری که کودکی مبتلا به اسهال را درمان میکند، ممکن است توصیه شود بهجای آنتیبیوتیک از محلول آبرسانی خوراکی و مکملهای روی استفاده کند.
ارزیابی این برنامه که با همکاری OpenAI انجام شده ولی هنوز داوری علمی نشده است؛ نشان داد پزشکانی که از AI Consult استفاده کردند، شانزده درصد خطای تشخیصی کمتر و سیزده درصد خطای درمانی کمتری داشتند. آنها به نظر میرسید از برنامه یاد میگیرند و تعداد هشدارهای ایمنی در طول زمان به طور قابلتوجهی کاهش یافت. AI Consult نیز اشتباه میکرد؛ در آزمایشها، یک شربت سرفه را با آنتیبیوتیکی با نام مشابه اشتباه گرفت. اما تعداد کل خطاهای پزشکی در پندا همچنان بالا باقی ماند، گاهی به این دلیل که پزشکان توصیه مدل را نادیده میگرفتند. «رابرت کوروم» (Robert Korom)، مدیر ارشد پزشکی پندا عنوان میکنند: «میدانند این بیمار لزوماً به آنتیبیوتیک نیاز ندارد، اما میدانند بیمار واقعاً آن را میخواهد.» بااینحال، یکی از پزشکان پندا این برنامه را «بهبودی چشمگیر» توصیف کرد. موفقیت آن احتمالاً از تمرکز بر کمک به هدایت پزشکان میان گزینهها، نه از تشخیص نهایی، ناشی میشود.
اصولی مشابه میتواند بیماران را نیز هدایت کند. اگر ابزارهای هوش مصنوعی همچنان اشتباه تشخیص دهند و دچار توهم شوند، شاید اصلاً نخواهیم آنها بیماری ما را تشخیص دهند. بااینحال میتوانیم از آنها بخواهیم میزان فوریت علائممان را ارزیابی کنند و فهرستی از بیماریهایی ارائه دهند که میتوانند این علائم را توضیح دهند، همراه با احتمال وقوع هرکدام. بیمار میتواند درباره «علائم هشداردهنده»؛ نشانههایی که از یک وضعیت وخیمتر حکایت دارند و درباره منابع قابلاعتمادی که هوش مصنوعی به آنها استناد میکند، پرسوجو کند. حتی یک چتباتی که جزئیات را اشتباه بیان میکند، همچنان میتواند به شما کمک کند تا بدانید در ویزیت بعدی باید چه بپرسید. همچنین میتواند در درک و تفسیر توصیههای پزشکتان یاریتان کند.
بسیاری از پرسشهای پزشکی و حتی شاید بیشتر آنها پاسخ درستی ندارند. آیا یک دوره دیگر شیمیدرمانی ارزش تحمل عوارض شدیدش را دارد؟ آیا باید پدربزرگ بیمارمان را روی دستگاه تنفس مصنوعی بگذاریم؟ در یک مقاله جدید، مَنرای و همکارانش از هوش مصنوعی خواستند نقش یک متخصص غدد درونریز کودکان را ایفا کند. آنها از آن خواستند از طرف پسر چهاردهسالهای که قدش در صدک دهم همسالانش بود، با هدفگرفتن تأیید بیمه برای تزریق هورمون رشد یک نامه بنویسد. این پرونده واضح نبود؛ چنین تزریقهایی خطرات نادر اما قابلتوجهی دارند و ممکن است هزاران دلار در ماه هزینه داشته باشند. در نامه آمده بود: «بهشدت توصیه میکنم درمان با هورمون رشد هرچه زودتر آغاز شود.» اما وقتی از مدل خواستند همان نامه را از دید یک نماینده بیمه بررسی کند، پاسخ داد: «با تأسف باید اعلام کنیم که نمیتوانیم این درخواست را تأیید کنیم… شواهد بالینی ضرورت پزشکی روشنی را نشان نمیدهد.» از این منظر، هوش مصنوعی با تقریباً همه فناوریهای تشخیصی دیگر متفاوت است؛ زیرا نتایجش بسته به نوع پرسش تغییر میکند و نویسندگان نتیجه گرفتند که این یکی از دلایلی است که هنوز به پزشکان نیاز داریم.
اما همین ناپایداری هوش مصنوعی میتواند به یک مزیت بدل شود. بیماران و پزشکان میتوانند به هوش مصنوعی نه بهعنوان ابزاری برای حل معما، بلکه بهعنوان ابزاری برای جمعآوری سرنخ نگاه کنند. هوش مصنوعی میتواند موافق و مخالف انجام عمل جراحی انتخابی موردنظر شما استدلال کند؛ میتواند توضیح دهد چرا فیزیوتراپیست و جراح ارتوپد شما دو روایت متفاوت از درد کمرتان دارند و چطور میتوانید میان توصیههای متناقض آنها تعادل برقرار کنید. در این نقش، چتباتها وسیلهای برای جستوجو خواهند بود؛ یعنی نقطه شروع، نه پایان. در بهترین حالت، آنها شما را از میان سیستم پزشکی عبور میدهند نه اینکه شما را از آن دور کنند.
برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.