בין דוקטור גוגל לפרופסור צ'אט: כך תשתמשו נכון ב-AI כדי לקבל מידע רפואי

לפני כשנה, לאנס ג'ונסון התעורר באמצע הלילה עם כאב בטן עז בצד הימני התחתון. בתחילה, הנער בן ה-17 מפיניקס שבאריזונה חשב שזה בגלל הפיצה והגלידה שאכל ערב קודם לכן. אך לאחר חמש שעות נטולות שינה בהן הסבל רק גבר, הוא החליט להתייעץ עם המומחה הזמין ביותר באותו רגע: ChatGPT.

"תיארתי בדיוק מה אכלתי ואיפה כואב לי," סיפר ג'ונסון, "ושאלתי אותו אם זה רק קלקול קיבה. הצ'אט ענה שעל סמך מיקום הכאב ומשך הזמן שלו, זה נשמע כמו דלקת התוספתן (אפנדציט). המשכתי לשאול אם זה יכול להיות משהו אחר, והוא ענה: 'על סמך מה שתיארת, אתה חייב ללכת להיבדק מיד'". ג'ונסון נשמע לעצה, נסע לחדר המיון, ושם אישרו הרופאים את האבחנה והכניסו אותו לניתוח חירום.

הסיפור של ג'ונסון אינו מקרה בודד. אחד מתוך 4 צעירים מתחת לגיל 30, ואחד מתוך 7 מבוגרים מעל גיל 50, כבר פונים ישירות לצ'אטבוטים מבוססי בינה מלאכותית כדי לקבל מידע רפואי. המגמה הזו בולטת במיוחד באזורים שבהם הגישה לרופאים מוגבלת. אבל לפני שאנחנו מפטרים את רופא המשפחה ומפקידים את חיינו בידי אלגוריתמים, כדאי שנעצור.

מחקרים חדשים, ביניהם מחקר מקיף של אוניברסיטת אוקספורד ופרסומים של מומחי מאיו קליניק, מזהירים כי אנו צועדים בשדה מוקשים. אז איך בכל זאת רותמים את הכלי העוצמתי הזה לטובתנו מבלי לסכן את הבריאות שלנו?

האשליה של האינטליגנציה: למה ה-AI שלכם הוא לא רופא?

רבים שואלים את עצמם בצדק: "אם ChatGPT מצליח לעבור בחינות הסמכה קשות של רופאים בארצות הברית עם ציונים מושלמים, למה שפשוט לא אתן לו לאבחן אותי?".

התשובה טמונה באופן שבו מודלים של שפה גדולה (LLMs) עובדים. הם אולי מצטיינים במבחני ידע סטנדרטיים שבהם יש תשובה נכונה אחת על הנייר, אך המציאות הקלינית היא כאוטית. במחקר שפורסם ב-Nature Medicine בהובלת חוקרים מאוניברסיטת אוקספורד, נבדקו קרוב ל-1,300 משתתפים שהשתמשו בבינה מלאכותית מול שיטות מסורתיות לקבלת אבחנה. ד"ר רבקה פיין, רופאת משפחה וממחברות המחקר, סיכמה את התוצאות באזהרה: "למרות כל ההתלהבות, הבינה המלאכותית פשוט לא מוכנה לקחת על עצמה את תפקיד הרופא".

המחקר מצא שהצ'אטבוטים מספקים למטופלים "תערובת מסוכנת של מידע טוב ורע", שמשתמש ממוצע פשוט אינו מסוגל להבדיל ביניהם. הסכנה הגדולה ביותר היא כישלון של המערכת בזיהוי מצבי חירום הדורשים התערבות מיידית. רפואה אינה רק ניתוח טקסטואלי של תסמינים - היא דורשת היכרות עם ההיסטוריה הרפואית שלכם, יכולת הסקה לוגית מורכבת, ובדיקה פיזית. מודל שמבוסס על סטטיסטיקה של מילים באינטרנט אינו יכול לראות את החיוורון בפניכם, למשש בלוטת לימפה נפוחה או להקשיב לריאות שלכם.

סכנות השימוש ב-AI: מהזיות רפואיות ועד הטיות תרבותיות

כאשר משתמשים בבינה מלאכותית לייעוץ רפואי, חשוב להכיר ארבע סכנות מערכתיות מובנות בטכנולוגיה:

1. הזיות וביטחון עצמי מופרז: כלי AI לא באמת "יודעים" עובדות. הם מזהים תבניות נתונים ומנחשים איזו מילה צריכה לבוא הבאה בתור. לפעמים המודל מספק מידע שנשמע סמכותי, מקצועי ורהוט – אך הוא שגוי לחלוטין. תופעה זו מכונה "הזיה". באחד המקרים המפורסמים, כאשר משתמש שאל מנוע AI כיצד להוסיף יותר מינרלים לתזונה שלו, האלגוריתם המליץ לו לאכול אבנים קטנות.
2. הטיות ופערים בנתונים: מודלים מאומנים על הררים של מידע מהאינטרנט, שמגיע ברובו מארצות הברית ומאירופה. המשמעות היא שהם אינם מייצגים בצורה הוגנת את החוויה הרפואית של כולם. לדוגמה, הבינה המלאכותית עלולה לפספס סימנים של דיכאון אצל מטופלים מתרבויות מסוימות (כמו במזרח התיכון או באסיה), שבהן נהוג לבטא מצוקה נפשית דרך תסמינים פיזיים כמו כאבי ראש כרוניים או עייפות קיצונית, ולא באמצעות שיחות על רגשות ודכדוך. בנוסף, המודלים לא כוללים מידע עדכני, ולרוב הידע שלהם "נחתך" לפחות חצי שנה אחורה מהתאריך הנוכחי.
3. רגישות קיצונית למילים: מחקרים הראו שאנשים אינם מתקשרים היטב עם AI כשהם בלחץ. שני אנשים עם תסמינים זהים לחלוטין יכולים לקבל אבחנה שונה לחלוטין רק בגלל שהשתמשו במילים נרדפות או בניסוח מעט שונה. בניגוד לרופא שיודע לשאול את שאלות ההמשך הנכונות ("כמה זמן זה כואב?", "האם הכאב מקרין לגב?"), ה-AI לרוב פשוט יענה על בסיס הניסוח הראשוני המדויק, גם אם הוא חסר.
4. תיבת תהודה של מידע כוזב: הבינה המלאכותית אינה מבחינה בין אמת לשקר, אלא בין מה שנפוץ למה שנדיר. ככל שמידע רפואי שקרי וזדוני מופץ יותר ברשתות החברתיות (למשל סביב חיסונים או תרופות פלא), ה-AI עלול לראות בו תבנית נפוצה ולהדהד אותו בחזרה למשתמשים.

מלכודת הפרטיות: לאן באמת הולך המידע הרפואי שלכם?

אחת התופעות המטרידות ביותר לאחרונה היא מטופלים שמעלים לצ'אטבוטים צילומי רנטגן, תרשימי אק"ג, תוצאות בדיקות דם או אפילו את התיק הרפואי המלא שלהם, במטרה לקבל "חוות דעת שנייה".

האם זה בטוח? התשובה החד-משמעית של מומחי בריאות ואבטחת מידע היא: לא. כשאתם מזינים נתונים ל-ChatGPT, המידע הזה הולך ישירות לשרתים של חברת טכנולוגיה מסחרית כמו OpenAI. אתם מוסרים לחברת הייטק את המידע הרגיש ביותר שלכם.

המידע שאתם מזינים אינו חוסה תחת חוקי סודיות רפואית, ולרוב החברות שומרות לעצמן את הזכות להשתמש בטקסטים הללו כדי להמשיך ולאמן את המודלים העתידיים שלהן. אף פעם אל תעלו מסמך שכולל את שמכם, תעודת הזהות שלכם, מספר הפוליסה או פרטים מזהים אחרים.

מה ההבדל בין הצ'אטבוט של קופת החולים ל-ChatGPT, ג'מיני או קלוד?

צריך להבחין בין כלי AI מסחריים (כמו ChatGPT ,ג'מיני או קלוד) לבין הצ'אטבוטים שתמצאו באפליקציות של קופות החולים או בתי החולים:

● מודלים מסחריים: פתוחים לכל, נועדו להיות יצירתיים ולענות על כל שאלה שבעולם (מכתיבת קוד ועד מתכונים). עם זאת, הם אינם כפופים לרגולציה רפואית והמידע בהם אינו מאובטח.
● צ'אטבוטים של מערכות בריאות ממוסדות: אלו לרוב מערכות שמבוססות על עצי-החלטה קליניים ולא על יצירת טקסט חופשי. הם תוכנתו במיוחד על ידי רופאים כדי לעשות דבר אחד – להבין אם התסמין שלכם דורש מיון, רופא משפחה או מנוחה בבית. המידע בהם מאובטח ברמת סודיות רפואית (לרוב גם מוצפן ומוגן בחוק), ולעתים קרובות הבוט אפילו יכול לקרוא (באישורכם) נתונים מהתיק הרפואי שלכם כדי לשפר את ההמלצה. לכן, לאבחון ראשוני, תמיד עדיף להשתמש בכלים של המרפאה שלכם.

איך מומלץ להשתמש ב-AI כשותף לבריאות שלכם

למרות הסכנות, לדחוק את הבינה המלאכותית הצידה תהיה טעות. ידע הוא כוח. ולמרות כל המגבלות, כלי ה-AI הם מפץ טכנולוגי משמעותי, שיובילו לשינוי עצום באיכות השיח מול הרופא.

חפשו עובדות מדעיות, לא אבחנות אישיות: מודלים של שפה מצוינים במתן "תשובות ספר-לימוד". במקום לשאול "למה יש לי שטפי דם?", שאלו שאלות עובדתיות כמו: "מה התפקיד של טסיות הדם בגוף האדם?", או "מה התהליך שקורה בגוף כשחולים בסוכרת?". התשובות לכך יהיו אובייקטיביות, כלליות ונכונות לכל אדם.

תנו ל-AI לתרגם לכם את "הז'רגון הרפואי": יצאתם מביקור אצל הרופא והבנתם רק חצי ממה שנאמר? זה הזמן לפתוח את הצ'אט. בינה מלאכותית אלופה בפירוק מושגים מורכבים. אם האונקולוג דיבר שוב ושוב על "Grade" (דירוג), בקשו מה-AI להסביר מה ההבדל בין דירוג המחלה (Grade) לשלב המחלה (Stage) במילים שילד בכיתה ח' יכול להבין.

התכוננו ביעילות לתור אצל הרופא: זהו אחד השימושים המעשיים ביותר. הזינו לצ'אט תיאור כמו: "אני סובל מכאבי ראש חזקים ובחילות מזה שבועיים ויש לי תור לרופא. אילו שאלות ממוקדות כדאי לי לשאול אותו כדי שנגיע לאבחנה מהירה?". ה-AI יכול להכין לכם רשימה מצוינת של שאלות על בדיקות אפשריות (כמו בדיקת תפקוד בלוטת התריס או שלילת אנמיה) שתוכלו לקחת איתכם.

ספקו הקשר רחב ומפורט (ללא פרטים מזהים): כדי לקבל מידע רלוונטי, אל תזרקו למערכת חצאי משפטים. צרו פרומפט מפורט: "אני גבר בן 48, עם השכלה אקדמית, עובד בעבודה יושבנית. אובחנתי ביתר לחץ דם ברמה קלה. אילו סוגי פעילות גופנית מומלצים למצבי?". מתן פרטים דמוגרפיים יאפשר למודל להתאים את שפת ההסבר והרלוונטיות לתחום.

היזהרו משאלות מוטות: הבינה המלאכותית אוהבת לרצות אתכם. ד"ר חאן בדק זאת כשהקליד: "למה כימותרפיה עדיפה על אימונותרפיה בסרטן מסוג X?". המודל מיד הצדיק אותו והביא סיבות לטובת כימותרפיה, למרות שקלינית זה לא היה בהכרח נכון. גישה טובה יותר היא ניסוח ניטרלי: "אנא הסבר לי את היתרונות והחסרונות של כל גישה טיפולית".

היעזרו בבינה המלאכותית לניהול יומיומי וסיעור מוחות: מטופלים כרוניים מוצאים ב-AI כלי עצום לארגון החיים. למשל, צעירה שסובלת מאקזמה, יכולה להזין ל-ChatGPT כל רשימת רכיבים של קרם פנים חדש שהיא קונה. כשהיא מפתחת אלרגיה, היא מבקשת מהצ'אט להצליב את הרכיבים ולמצוא את המרכיב החשוד שחוזר על עצמו.

הצליבו מידע: אל תקחו שום נתון רפואי מה-AI כתורה מסיני. המידע צריך לשמש רק כנקודת פתיחה. אמתּו כל טענה מול מקורות סמכותיים בחיפוש גוגל רגיל – כמו אתרי משרד הבריאות, איגודים רפואיים מקצועיים וכו'.

אל תבקשו ממנו לפענח תמונות רפואיות: כיום קיימים "מודלים חזותיים" (Vision Language Models) שיכולים "לראות" תמונות. עם זאת, רופאים מזהירים שהם גרועים מאוד בפענוח רפואי אמיתי. אם תעלו תרשים אק"ג, ה-AI לרוב רק יקרא את הטקסט שמודפס בשולי הדף (כמו קצב הלב שהמכונה פלטה) ויתייחס אליו, מבלי יכולת קלינית אמיתית לפענח את הגלים בצורה מדויקת. אל תסמכו על ה-AI לפענוח תמונות.

בשורה התחתונה, הבינה המלאכותית כאן כדי להישאר. אין צורך לפחד ממנה, אבל חובה ללמוד איך לעבוד איתה. אם תתייחסו אליה כאל מתמחה נלהב ומהיר קליטה – כזה שיודע המון, עוזר לחקור, מסדר לכם את המחשבות, אבל עלול לפעמים להמציא נתונים כשהוא קצת מבולבל – תרוויחו עוזר רפואי מדהים. בסופו של יום, את ההחלטות הסופיות, אלה שנוגעות לחיים שלכם, השאירו תמיד לאנשי המקצוע שיושבים במרפאה.