עצות רפואיות מ-ChatGPT? למה לא כדאי להסתמך על AI

במשך שנים ליגלגנו על השימוש ב"דוקטור גוגל": אותו חיפוש לילי תמים שמתחיל בגירוד קטן באצבע ומסתיים בשכנוע עצמי שיש לנו מחלה טרופית נדירה. ד"ר גוגל היה היפוכונדר, מלחיץ, סיפק מידע סותר וכמעט תמיד הביא את המשתמש לחשוב שיש לו מחלה קשה.

כיום, אנחנו עומדים בפני בעיה חדשה ומתוחכמת הרבה יותר - התייעצות רפואית עם בינה מלאכותית. הבינה המלאכותית לא זורקת עלינו קישורים - היא מדברת איתנו. היא רהוטה, אמפתית, עונה בביטחון של פרופסור לרפואה ומסכמת את המידע לתשובה אחת ברורה ומרגיעה. ודווקא שם, בתוך השקט המדומה והסמכותי הזה, מסתתר המוקש הגדול ביותר של העידן החדש: האשליה שיש מישהו בצד השני שמבין מה קורה בגוף שלכם.

חרטט בביטחון: ההזיות של הבינה המלאכותית

כדי להבין את הסכנה, צריך קודם כל להבין איך המודלים האלה עובדים. ChatGPT וחבריו לא "יודעים" רפואה - הם כותבים מילים לפי סטטיסטיקה. כשהמודל עונה לכם, הוא בעצם מנבא מה המילה הבאה הסבירה ביותר במשפט. ברוב המקרים זה עובד נהדר, אבל ברפואה, ההבדל בין "סביר" ל"נכון" הוא קריטי.

בתעשייה קוראים לתופעה הזו "הזיות" (Hallucinations). המודל יכול להמציא בביטחון מלא שם של תרופה שלא קיימת, לצטט מינון קטלני, או להפנות למחקר רפואי שמעולם לא נכתב. הוא עושה זאת באותה סמכותיות שבה הוא עונה על שאלה במתמטיקה. הבעיה היא שהמשתמש הממוצע לא יכול להבחין בין עובדה רפואית מוצקה לבין המצאה יצירתית של האלגוריתם, שרק רצה להשלים משפט בצורה משכנעת.

רופא ללא עיניים, ללא ידיים וללא עבר

גם אם נניח שהמודל היה מדייק ב-100% בנתונים היבשים, הוא עדיין חסר את הכלי הבסיסי ביותר של הרפואה: החושים. רופא אנושי רואה את גוון העור, שומע את הצליל הספציפי של השיעול, ממשש נפיחות בבטן ומריח ריחות שיכולים להעיד על זיהום או סוכרת.

בצ'אט, כל הניואנסים הללו נעלמים. "כאב בטן" בטקסט יכול להיות קלקול קיבה פשוט, ויכול להיות דלקת תוספתן חריפה שמחייבת ניתוח. קלוד או ג'מיני לא יודעים להבחין בין השניים. יתרה מכך, המודל פועל בוואקום. אין לו גישה לתיק הרפואי שלכם, לתוצאות בדיקות הדם מהשבוע שעבר או להיסטוריה המשפחתית שלכם. הוא רואה רק את מה שכתבתם לו באותו רגע, מה שמוביל בהכרח לתמונה חלקית ומסוכנת.

המלכודת הפסיכולוגית: המכונה שרוצה לרצות אתכם

זה אולי נשמע קצת מוזר, אבל המודלים של הבינה המלאכותית מתוכנתים כדי לרצות את המשתמש. נקראת הם עוצבו על מנת להיות עוזרים מועילים ולנהל שיחה זורמת. כתוצאה מכך, הם נוטים לאשר את ההנחות הסמויות שלכם.

אם תשאלו: "האם כאב הראש שלי יכול להיות סימן לגידול נדיר?", המודל עלול להתמקד באפשרות הזו ולפרט עליה, פשוט כי הזכרתם אותה, במקום להרגיע אתכם שמדובר ככל הנראה בהתייבשות או מתח. אנשים שמחפשים אישוש לחששות שלהם ימצאו אותו בקלות אצל הבינה המלאכותית, מה שמוביל לחרדה מיותרת או, במקרים הפוכים, לשאננות מסוכנת כשמתעלמים מסימני אזהרה אמיתיים כי "הצ'אט אמר שזה בסדר".

אתם לא "הממוצע הסטטיסטי"

הבינה המלאכותית התאמנה על מידע רפואי כללי שמייצג את הממוצע. אבל רפואה טובה היא רפואה מותאמת אישית. המלצה שטובה ל-80% מהאוכלוסייה עלולה להיות מסוכנת לאדם עם רקע גנטי ספציפי, לאישה בהריון, לילד, או לחולה שנוטל תרופות מסוגים שונים.

הצ'אט לא יודע לאבחן ולנהל "תחלואה כפולה" - מצב בו אדם סובל ממספר בעיות במקביל. הוא עלול להמליץ על תרופה למפרקים שפוגעת בכליות, פשוט כי הוא לא יודע לשקלל את האינטראקציה המורכבת בין מערכות הגוף השונות אצל המטופל הספציפי.

הוואקום של "היום שאחרי": היעדר רציפות טיפולית

רפואה איננה אירוע נקודתי, אלא תהליך. רופא טוב לא רק רושם מרשם, אלא מנחה את המטופל: "אם החום לא יורד תוך יומיים, תחזור אליי", או "שים לב אם מופיעה פריחה". הוא לוקח אחריות על הטיפול לאורך זמן. לעומת זאת, האינטראקציה עם הבינה המלאכותית היא אפיזודית ומנותקת. כל שיחה היא התחלה חדשה, או במקרה הטוב המשך קצר-טווח שמוגבל לזיכרון של הצ'אט הנוכחי.

המודל לא יתקשר אליכם בבוקר לשאול איך אתם מרגישים, והוא לא יעדכן את ההמלצה שלו אם יצאו הנחיות חדשות שעה לאחר השיחה. אתם נשארים לבד עם המידע, ללא כתובת לפנות אליה במקרה של החמרה או תופעות לוואי, בדיוק ברגעים הקריטיים שבהם נדרש שיקול דעת אנושי מתמשך.

בנוסף, מחלות הן דבר דינמי. המצב הגופני שלנו משתנה מרגע לרגע. כאב בטן קל בבוקר יכול להפוך לחום גבוה בערב, ושיעול יבש יכול להפוך לקוצר נשימה. רופא יודע לזהות מגמות – הוא משווה את המצב הנוכחי למצב שהיה לפני יומיים ומסיק מסקנות על יעילות הטיפול.

הבינה המלאכותית, לעומת זאת, רואה רק "צילום מסך" של הרגע שבו הקלדתם את השאלה. היא לא יודעת לזהות את הניואנס העדין של הידרדרות איטית. הסכנה הגדולה היא שמטופלים עלולים להיאחז באבחנה המרגיעה שהמודל סיפק בתחילת המחלה ("זו רק שפעת"), ולהתעלם מסימני אזהרה חדשים שמופיעים בהמשך ומחייבים שינוי מידי של הטיפול, פשוט כי "הבינה המלאכותית כבר בדקה את זה".

מתי אפשר להיעזר בבינה מלאכותית בעניינים רפואיים?

ראשית, כדאי להבחין בין התייעצות עם צ'אטבוט כללי (כמו ChatGPT) לבין שימוש במערכות בינה מלאכותית רפואיות ייעודיות (כמו K Health, Ada או הצ'אטים החכמים של קופות החולים). בעוד שהראשון הוא "סופר" מוכשר שמנחש מילים, המערכות הייעודיות הן "כלי דיאגנוסטי" שנבנה על בסיס מיליוני תיקים רפואיים אמיתיים ותחת פיקוח הדוק. מערכות אלו לא מנסות להיות יצירתיות; הן משוות את הנתונים שלכם לנתונים של אלפי מטופלים אחרים עם פרופיל דומה, וכפופות לרגולציה מחמירה שמחייבת אותן לזהות דגלים אדומים ולעצור את השיחה במצבי חירום. וגם שם, חשוב להיות ספקנים וזהירים.

המודל הנכון, שכבר מיושם כיום במערכות בריאות מתקדמות, הוא המודל ההיברידי: הבינה המלאכותית משמשת כ"חדר מיון קדמי". היא מבצעת את התשאול הראשוני, אוספת את המידע בצורה מסודרת ומציגה לרופא סיכום תמציתי עוד לפני שנכנסתם לחדר. כך, הטכנולוגיה לא מחליפה את הרופא, אלא משחררת אותו מהבירוקרטיה ומאפשרת לו להקדיש את הזמן היקר לבדיקה הפיזית, לאמפתיה ולקבלת ההחלטות הסופית - דברים ששום אלגוריתם לא יכול לעשות.

ה-AI איתנו והוא לא הולך לשום מקום. זה לא אומר שצריך לזרוק את הטכנולוגיה לפח. בינה מלאכותית יכולה להיות כלי עזר מצוין, כל עוד היא לא מחליפה את שיקול הדעת המקצועי. היא נהדרת בלהסביר מונחים רפואיים מסובכים אחרי ביקור אצל הרופא ("מה זה אומר טרומבוציטופניה?"), היא יכולה לעזור לכם להכין רשימת שאלות מסודרת לפני תור חשוב, או לתת מידע כללי על אורח חיים בריא.

אבל ברגע שהשאלה הופכת לאבחונית ("מה יש לי?") או טיפולית ("מה לקחת?"), זה הזמן לסגור את הצ'אט ולפנות לאדם היחיד שיכול לקחת אחריות על החיים שלכם – הרופא.