המחשבה הראשונה שעולה לכם כעת, ובצדק, מה הסיכוי שאת המאמר הזה יצר יישום של בינה מלאכותית. לגיטימי לחלוטין מפני שכולנו נעזרים בצ'אט, שבכל יום שחולף הופך לידידו הטוב ביותר של האדם. סטודנטים, מעצבים, יוצרי תוכן, מתכנתים, כולם נהנים מתבונתם של היישומים ומהמהפכה הגדולה ביותר שהתרחשה מאז מהפכת האינטרנט.
לא תופתעו לגלות שבין הנעזרים גם רופאים. מערכות הבריאות וקופות החולים גם בישראל מעניקות להם מעטפת שמאפשרת להם לדייק את האבחנות ולשאול את עצמם ואת המטופל שאלות שיסייעו להם לייעל את הטיפול. ברחבי העולם מתקדמים בצעדי ענק כלים שישנו את עולם הרפואה בהם מערכות אבחון מתקדמות, כלי הדמיה וניטור.
תקופת הטיוב של המוצרים, ועד להפיכתם לאמינים ברמת דיוק נאותה, היא תקופה רגישה. יותר מסוכן מהעדר טכנולוגיה - שימוש חסר אחריות בה.
המהפכה התעשייתית סחפה את העולם, ורק זמן רב אחריה התבררו ממדי נזקיה. האבטלה שיצרה בקרב מי שהוחלפו על ידי המכונות, זיהום האויר, הפערים החברתיים שנוצרו, כך גם מהפכת האינטרנט בדגש על הרשתות החברתיות והשפעתן על בני נוער, זינוק בסובלים מהפרעות קשב וריכוז, בדיכאונות, בתרבות צריכה מופרזת, ועוד. טיבן של מהפכות שהשפעתן מתבררת זמן רב לאחר פרוץ המהפכה.
החשש הגדול, שכחלק בלתי נפרד ממהפכת הבינה המלאכותית, נוצרים ברגעים אלו נזקים ואולי ניתן בהתנהלות אחריות למנוע אותם. על פי מחקרים שנעשו בבתי חולים ומרפאות ברחבי העולם, יותר ויותר רופאים סומכים על מערכות AI עד כדי הפסקה של הפעלת שיקול דעת עצמאי. מערכות סיווג, כלי הדמיה, צ'אטים חכמים - כולם הופכים למקורות מידע יחידים במקום להישאר כלי עזר וביקורת.
לא מעט מקרים מוכיחים עד כמה ההתמסרות למכונה עלולה לעלות בחיי אדם. במקרה שדווח בארה"ב, מערכת AI לזיהוי מוקדם של סרטן ריאות סיווגה גוש חשוד כבלתי מזיק. הרופא הסתמך על הקביעה מבלי לבדוק את הסריקה בעצמו, והגידול התגלה רק חודשים אחר כך כשהוא בשלב מתקדם של המחלה.
בבית חולים באנגליה, מערכת AI לקביעת סדרי עדיפויות בחדר מיון, סיווגה מטופל עם תעוקת חזה כ"לא דחוף". הרופא קיבל את הסיווג ללא בדיקה נוספת, והמטופל לקה בלבו זמן קצר לאחר מכן.
באופן דומה, מחקר שפורסם ב-Radiology וב-RSNA 2023 בדק את השפעת השימוש ב-AI בקרב רדיולוגים. הממצאים היו מדאיגים: כשהבינה המלאכותית זיהתה נכון וצדקה, ה-AI סייע לשיפור האבחנה והמטופל זכה למענה הולם, אך כאשר היא שגתה, שיעור הצלחת הטיפול של הרדיולוגים ירד דרמטית לכ-25% בלבד.
גם מחקר סימולציה שפורסם באפריל 2025 בכתב העת npj Digital Medicine מחדד את הסיכון: רופאי משפחה התבקשו להשיב למיילים של מטופלים במערכת סגורה, תוך שימוש במערכת AI המסייעת בכתיבה. מתוך 18 מקרים שנבחנו, בארבעה מהם שילבה המערכת שגיאות חמורות - כמו מידע רפואי שגוי או חסר – באופן שעלול היה לסכן חיים. מבין 20 הרופאים שהשתתפו, לפחות 13 (65%) לא תיקנו את הטעות, ו-35% עד 45% מהתשובות השגויות נשלחו ככתבן.
טעויות מסוג זה מדגישות בעיה מרכזית: שקיימת בהכרח הנטייה של אנשי מקצוע לסמוך על AI מבלי להפעיל שיקול דעת עצמאי. לעיתים מדובר בחוסר הבנה של מגבלות המערכת, לעיתים בלחץ זמן. רפואה חכמה חייבת להיות קודם כל רפואה אחראית. לא ניתן להפקיד את ההחלטות הרפואיות בידי אלגוריתמים, מבריקים ככל שיהיו, מבלי שמישהו יישא באחריות. רופא שלא יודע לערער על תשובת ה-AI הוא רופא שמוותר על שיקול הדעת שלו.
כפי שביקשנו ממשרד הבריאות, ולשמחתי גם ועדת הבריאות של הכנסת הסכימה, יש לקיים תוכניות הכשרה ייעודיות לרופאים - להבנה, בקרה ואתגור של מערכות AI כחלק בלתי נפרד מתהליך האבחון. מערכת הבריאות חייבת לקבוע פרוטוקולים מחייבים שיבטיחו שרופא יבדוק בעצמו את הנתונים לפני כל החלטה קלינית. הועידה הרפואית השנתית של "למענכם" תעמוד בסימן נוירו-AI ותעסוק בתחום המחקר שמשלב מדעי המוח (Neuroscience) עם בינה מלאכותית. הרעיון המרכזי הוא להיעזר בהבנה שלנו את המוח האנושי כדי לפתח מערכות בינה מלאכותית חכמות יותר, ולהפך – להשתמש בכלים של AI כדי להבין טוב יותר איך פועל המוח. כפי שנהוג להתבטא על כסף גם הטכנולוגיה היא משרת מצוין אבל אדון נורא, כשמדובר ברפואה ובחיי אדם, האדון הופך גם למסוכן.
*הכותב הוא חתן אות הנשיא להתנדבות ויו"ר ארגון "למענכם" המעניקה יעוץ והכוונה רפואית על בסיס וולונטרי