פטריות והזיות: כשה-AI ממציא דברים שמעולם לא אמרתם לרופא

רבקה גרין הגיעה לתור שגרתי אצל האורולוגית שלה. כשנשאלה בפתח הדלת אם היא מסכימה שהפגישה תתועד על ידי בינה מלאכותית, היא השיבה בחיוב וללא היסוס. "לא רציתי להיות המטופלת המעצבנת שגוזלת לרופאה יותר זמן", הסבירה מאוחר יותר. אולם, ההחלטה התמימה הזו עלתה לה בלחץ נפשי כבד. שבועות לאחר מכן, כשעיינה במכתב שחרור רפואי, גילתה גרין לתדהמתה כי בסיכום נכתב שהיא נוהגת ליטול מנות זעירות של פטריות הזיה. הטענה, שהייתה משוללת כל יסוד ומעולם לא נאמרה בחדר, פשוט "הומצאה" על ידי תוכנת הבינה המלאכותית.

המקרה של גרין, שאף חששה כי התיעוד השגוי יפגע בתביעת פיצויים שניהלה באותה עת, אינו רק קוריוז טכנולוגי. הוא מציף סוגיה קריטית שמעסיקה כיום את הקהילה הרפואית בעולם כולו: חדירתם המואצת של "רשמים רפואיים מבוססי בינה מלאכותית" (AI Medical Scribes) לתוך חדרי הטיפולים. המהפכה כבר כאן - וסביר להניח שה-AI לא הולכת לשום מקום, אבל דווקא בגלל שהטכנולוגיה כבשה את העולם בסערה, יש חשיבות גדולה לבקרה ושימת לב קפדנית.

מדוע הרופאים זקוקים לעוזרים דיגיטליים?

כדי להבין מדוע מערכות הבריאות ממהרות לאמץ את הטכנולוגיה, יש להכיר את משבר השחיקה ברפואה. רופאים כיום מבלים שעות ארוכות מדי יום בהקלדת סיכומי ביקור, תופעה המכונה לעיתים "זמן הפיג'מה" – שכן רבים נאלצים להשלים את עבודת התיעוד מביתם, בשעות הלילה המאוחרות. בניגוד לתוכנות הישנות שרק תירגמו דיבור לטקסט, רשמי ה-AI החדשים מאזינים באופן פסיבי לשיחה הטבעית שבין הרופא למטופל. בעזרת עיבוד שפה טבעית מורכב, הם מנתחים את ההקשר ומפיקים אוטומטית סיכום רפואי מובנה, תקני ומסודר.

היתרונות לצוות הרפואי הם פנומנליים. במחקר שפורסם בכתב העת הרפואי JAMA Network Open באוקטובר 2025, נבדקו למעלה מ-260 רופאים שהשתמשו בטכנולוגיה. התוצאות הראו כי בתוך 30 ימים בלבד, שיעור השחיקה המקצועית בקרב הרופאים צנח מ-51.9% ל-38.8%. הרופאים דיווחו על ירידה בעומס הקוגניטיבי, על פחות שעות תיעוד לאחר העבודה, ובעיקר - על היכולת לחזור להביט למטופל בעיניים, להקשיב לו באמת, מבלי לחצוץ ביניהם עם מסך מחשב ומקלדת.

הצד האפל: "הזיות" וטעויות קריטיות בתיק הרפואי

אך לצד ההבטחה, ישנם סיכונים מטרידים. מודלי שפה גדולים נוטים לעיתים לייצר "הזיות" - תופעה שבה הבינה המלאכותית מחברת פיסות מידע בצורה שגויה, מפרשת לא נכון סלנג רפואי, או פשוט בודה עובדות שנשמעות אמינות לחלוטין. דו"ח של ארגון זכויות הדיגיטל (DRW) חשף מקרים שבהם רשמי AI טעו בציון הצד של הגוף (למשל, תיעדו אבחנת סרטן בשד הימני במקום בשמאלי), או ציינו שלמטופל יש אפילפסיה למרות שלא סבל מכך מעולם.

הסכנה המרכזית לא נובעת רק מהמגבלות הטכנולוגיות, אלא גם מהפסיכולוגיה האנושית. מומחים מצביעים על כך שרופאים עלולים לפתח "עייפות אוטומציה". בשבועות הראשונים לשימוש, הרופא יבדוק בקפדנות כל מילה שה-AI כתב. אך ככל שעובר הזמן, מתפתח עודף אמון במערכת והרופאים מפסיקים לתקן או לאתר שגיאות קטנות. טעות כזו שנשארת בתיק הרפואי עלולה לגרור טיפול שגוי בעתיד, להוביל למינונים לא נכונים של תרופות, או לפגוע בכיסוי הביטוחי של המטופל.

רגולציה, זכויות החולה והסכמה מדעת

מבחינה רגולטורית, התחום עדיין נאבק להדביק את הקצב. רשויות בריאות רבות (דוגמת ה-TGA באוסטרליה או ה-FDA בארה"ב) מתקשות לסווג כלי תמלול אלו, שכן רשמית הם אינם בגדר "מכשיר רפואי" הממליץ על טיפול. עם זאת, בעצם היכולת של ה-AI להחליט מה חשוב לסכם ומה להשמיט מהשיחה, הוא מבצע מעין פעולה קלינית.

עבור המטופלים, המציאות החדשה דורשת מודעות צרכנית אקטיבית. ארגוני בריאות ממליצים למטופלים לשאול את השאלות הבאות בכל תחילת ביקור:

1. האם נעשה היום שימוש בבינה מלאכותית? (שלט קטן בחדר ההמתנה אינו מהווה תחליף להסכמה מפורשת).
2. האם הרופא מתחייב לעבור אישית על הסיכום לפני סגירת התיק?
3. האם אוכל לקבל העתק של הסיכום, ומהו התהליך לתיקון טעויות אם יתגלו?

נקודה קריטית נוספת היא שאלת האמון והפרטיות. קיים חשש ממשי שמטופלים יימנעו מלחשוף מידע רגיש - כגון קשיים בבריאות הנפש, התמכרויות או חלילה אלימות במשפחה - כשהם יודעים שאלגוריתם ממחושב מאזין לכל מילה. לכן, שמורה למטופל הזכות המלאה לסרב לשימוש ב-AI, ועל הצוות הרפואי לכבד זאת ללא פגיעה באיכות הטיפול.

ה-AI והבקרה האנושית

הבינה המלאכותית כאן כדי להישאר, והיא כלי הכרחי להצלת רפואת הקהילה מקריסה תחת הנטל הבירוקרטי. יחד עם זאת, רבקה גרין סיכמה את החוויה שלה במשפט מדויק: "אני אוהבת AI, אבל המרכיב החיוני בטיפול הוא האדם". הטכנולוגיה יכולה וצריכה להיות עוזרת מבריקה, אך היא לעולם לא תוכל להחליף את שיקול הדעת, האחריות והבקרה של הרופא האנושי. עד שהמערכות הללו יהיו חסינות מטעויות, האחריות לוודא שאיננו הופכים לקורבנות של "הזיה ממוחשבת" דורשת ערנות משותפת – גם מצד הרופא, וגם מצידנו כמטופלים.