דעות

הצד האפל של הרפואה בעידן הבינה המלאכותית

פלט ללא כל הסבר לאבחנה, ללא COMMON SENSE של הרופא המטפל וללא מגע יד אדם וקשר אישי עם המטופל - אלגוריתמים וטלה-רפואה עומדים בסתירה לבסיס אומנות הרפואה המודרנית ועלינו להבין כיצד נכון יהיה לתעל את ה"קופסה השחורה"

בינה מלאכותית בשימוש הרפואה. אילוסטרציה

בעשור האחרון אנו עדים להתחלתה של מהפכה בתחום הבינה המלאכותית ברפואה והופעת הרפואה הדיגיטלית. בינה מלאכותית או למידת מכונה משולבים היום בתחומים רבים של חיי היומיום שלנו גם אם אנו לא מודעים לכך – הרשתות החברתיות, מנועי החיפוש, הבנקים, חברות הביטוח, מפרסמים שונים ועוד, משתמשים באלגוריתמים שונים על מנת לדעת כיצד לפנות ומה להציע לכל אחד ואחת מאיתנו.

אלגוריתמים אלה מתחילים לתפוס תאוצה גם ברפואה, כאשר החלוץ היה תחום הדימות שבו המכונה/ מחשב מפענחים תצלומי רנטגן, CT ו-MRI בצורה יעילה ומדויקת וזאת לאחר הליך למידה של מאות אלפי ואף יותר דוגמאות עם הצלבה לאבחנה הנכונה.

הבינה המלאכותית מחולקת לכזו שהינה SUPERVISED ולכזו שאינה SUPERVISED וההבדל בפשטות הוא שבראשון האדם נותן למכונה את "נתוני האמת" ואילו בשני המכונה/ מחשב מתחילים ללמוד לבד ומפתחים אלגוריתמים משל עצמם.

בסיס הבינה המלאכותית מתואר על ידי "רשת נוירונים" שבה מצד אחד נכנסים הנתונים, בדרך כלל מתוך מאגר מידע מסוג BIG DATA, עיבוד הנתונים נעשה על ידי רשת הנוירונים עם יציאת פלט שיכול להיות בינארי או הסתברותי. התהליך המתבצע ברשת הנוירונים נקרא "קופסה שחורה", Black Box, וגם מפתחי האלגוריתמים בהרבה מקרים אינם מבחינים כיצד התהליך מתבצע הלכה למעשה.

הבינה המלאכותית מתיימרת לתת אינדיקציה ברמת דיוק גבוהה, על סמך אלגוריתמים שאינם מובנים לנו. האם המטופל צריך להישאר באשפוז או להשתחרר? המחשב ייתן אינדיקציה זו, בלי הסבר, ועל הרופא בחדר המיון לקבל זאת

במקביל, הרפואה המודרנית, ובעוצמת יתר בעקבות המגיפה העולמית, הולכת לכיוון של טלה-רפואה. המשמעות היא כי מטופלים ינוטרו מרחוק, יאובחנו מרחוק ולעתים אף יטופלו מרחוק ללא צורך בהגעת המטופל למרפאה או לבית החולים.

שני אלמנטים אלה של בינה מלאכותית (1) באמצעות אלגוריתמים בתוך "קופסה שחורה" לסיוע לרופא לקבלת החלטות ולאבחנה נכונה וטלה-רפואה (2) יהוו חלק בלתי נפרד מן הרפואה העתידית. הרכבת הזו כבר עזבה את התחנה ועלינו להבין כיצד לנצלה באופן אופטימלי. אולם, יש להבין כי שינויים טכנולוגיים אלה עומדים בסתירה למספר אבני יסוד של הרפואה שאותה למדנו.

רפואה היא מדע המבוסס על הבנת תהליכים ביולוגיים, כימיים ופיזיקליים. החינוך הרפואי והלמידה הממושכת אינם דקלום של קווים מנחים ותרשימי זרימה אלא הבנה יסודית של התהליכים הפתופיזיולוגיים שהינם השורש להתפתחות מחלה. הבנת תהליכי הבסיס גררה המשך מחקר ואת הבסיס להתפתחות הרפואה המודרנית.

לפיכך, קבלת מדע חדש המבוסס בינה מלאכותית, קרי, על תרשימי זרימה ותהליכי קבלת החלטות המבוססים על "קופסה שחורה", היא בניגוד מוחלט לאופי שבו הרפואה התקיימה בעידן המודרני. לצורך המחשה: חולה נכנס לחדר מיון עם כאבי חזה החשודים לאירוע לב. למדנו כי הרופא המטפל בחדר מיון חייב לשקלל היסטוריה רפואית, בדיקה פיזיקלית, אמצעי עזר כגון אק"ג, דימות ומעבדה, על מנת לקבל החלטה האם החולה יאושפז או לא.

האלגוריתמיקה חייבת לשמש אותנו כקו מנחה בלבד. כל חולה חייב להיות מטופל כפרט בודד, וכפרט הבודד, רוב החולים אינם מתאימים לאלגוריתמים בצורה מושלמת כפי שהקווים המנחים מורים לנו

הבינה המלאכותית מתיימרת לתת אינדיקציה ברמת דיוק גבוהה, על סמך אלגוריתמים שאינם מובנים לנו, האם המטופל צריך להישאר באשפוז או להשתחרר. המחשב ייתן אינדיקציה זו, בלי הסבר, ועל הרופא בחדר המיון לקבל זאת. תהליך זה של קבלת החלטות הינו זר לנו ובעצם בא בסתירה עם האומנות שבתוך המקצוע שלנו, שבה הרופא בעל הניסיון משקלל את הנתונים ומגיע לאבחנה הנכונה גם על ידי שימוש בלא מעט פעמים ב-COMMON SENSE.

במהלך כל שנות ההכשרה שלנו מלמדים אותנו להשתמש ברפואה מבוססת מדע (EVIDENCE BASED (MEDICINE ובעתיד יתווספו לכך האלגוריתמים וההחלטות של הבינה המלאכותית. האם זה אומר כי כל חולה יתאים לאלגוריתמים הנכתבים על סמך המדע? זה נכון אולי למחצית מן המקרים.

האומנות ברפואה היא המחצית השנייה והחשובה הרבה יותר. האומנות היא כיצד אנו מיישמים את המידע עבור החולה הבודד. האלגוריתמיקה חייבת לשמש אותנו כקו מנחה בלבד. כל חולה חייב להיות מטופל כפרט בודד, וכפרט הבודד, רוב החולים אינם מתאימים לאלגוריתמים בצורה מושלמת כפי שהקווים המנחים מורים לנו.

טלה-רפואה ומגיפת הבדידות

הנושא השני הוא התפתחות הטלה-רפואה. הצורך בה נוצר משתי סיבות עיקריות. האחת, ירידה בזמינות של שירותי הרפואה הראשונית עם עלייה מתמדת בצריכה הנובעת בין השאר מעלייה בתוחלת החיים. הסיבה השנייה היא התפתחות מגיפות המונעות יכולת ניוד ומגע ישיר עם גורמי הרפואה. נושא זה קשור עם אחת הבעיות המשמעותיות ביותר שהחברה המודרנית תתמודד איתם והוא "בדידות".

טכנולוגיית הטלה-רפואה חייבת לשלב כלים אינטראקטיביים מותאמים לאוכלוסיה המבוגרת בשילוב וידאו ואלמנטים נוספים

בדידות יכולה להיות מצבית בעקבות אירועי דחק או כרונית. הנתונים מ-2014 במדינת ישראל קובעים כי 24%-47% מהאוכלוסיה מעל גיל 65 סובלים מדרגה מסוימת של בדידות. לבדידות השלכה ישירה על מצב הבריאות ועל הרווחה הנפשית. קשר ישיר ואישי עם הרופא המטפל והצוות הרפואי כולו בקהילה, במרפאה או בביתו של החולה, הוא חלק מהדרכים להתמודד עם הבדידות, בוודאי בזמן מחלה או דחק.

טלה-רפואה שבה הניטור והאבחון יהיו מרחוק, ללא מגע יד אדם, תגביר מן הסתם את תחושת הבדידות ויש לתת על כך את הדעת ולמצוא דרכים אחרות לפצות על כך, בין היתר על ידי תכניות התנדבותיות, פתיחת מועדונים ומרכזי יום ועוד. טכנולוגיית הטלה-רפואה חייבת לשלב כלים אינטראקטיביים מותאמים לאוכלוסיה המבוגרת בשילוב וידאו ואלמנטים נוספים.

לסיכום, מהפכת הבינה המלאכותית ברפואה והטלה-רפואה יצאה לדרכה. אנו, כנותני שירותי הרפואה והחברה כולה ניאלץ לפתח כלים חדשים על מנת לשמר אלמנטים חשובים מן הרפואה המסורתית הקלאסית והאומנותית מצד אחד, וכן לפעול במרץ על מנת להתמודד עם מגיפת הבדידות שתתבטא במלוא חומרתה וגודלה בשנים הקרובות.

הכותב הוא מנהל המערך הקרדיולוגי, המרכז הרפואי שיבא, תל השומר

נושאים קשורים:  דעות,  בינה מלאכותית,  אלגוריתמים,  טלה רפואה,  חדשות,  פרופ' עמית שגב
תגובות
16.03.2022, 18:18

תודה על המאמר החשוב. נקודות נוספות שניתן להזכיר כוללות, בין השאר, את נושא הסודיות ואבטחת המידע, היכולת של מודלים של בינה מלאכותית לתת ערך בענפי בריאות שלא נשענים על מדדים פיזיולגיים חד-משמעיים, "חינוך השוק" של הצוותים המטפלים לעשות שימוש מושכל בטכנולוגיה, צמצום הפער הדיגיטלי של מטפלים ומטופלים, ועידוד מודלים של תמחור המבוססים על Value and Measurement based Care שיובילו לאימוץ שיטתי ומבוסס ראיות של הטכנולוגיות השונות. אני מסכים עם הכותב שהשימוש הנכון במענים הקיימים והעתידיים הוא כאוגמנטציה לאבחון ולטיפול האנושי ולא משהו העומד בפני עצמו.

16.03.2022, 18:34

מעניין ומסכם את הנושא,עם זאת לכל היותר הטכנולוגיה תשמש כנותנת חוות דעת שנייה,אולי תקטין טעויות כי היא לא מתעייפת,לקח גדול מתקופת הקורונה אין תחליף לפגישה פיזית עם המטופלים,טלה מדיסין ובינה מלאכותית יהיו כלי עזר אך לא תחליף

16.03.2022, 19:24

''

16.03.2022, 19:30

יישר כח על המאמר החשוב. כמו לקוים המנחים למיניהם, ודאי גם לקופסא השחורה של ה-AI יש להתייחס בזהירות ובחשדנות. דרך אחת היא לבחון בלי הרף, מחדש, את השפעת השימוש ב-AI על בריאות נטו של המטופלים, באמצעות ניסויי הקצאה אקראית. ועדיין, תמיד, ההחלטה הסופית חייבת להישאר בתחום האנושי שבין הרופא למטופל.

אנונימי/ת
18.03.2022, 10:17

ובכל זאת יהיו חולים כמוני לדוגמא שיעדיפו את מערכת הבינה המלאכותית על פני תקשורת עם רופא במיון שנשאר ער מעבר ל-24 שעות ושיכולת השיפוט שלו כנראה תביא למותי או לשחרור מוטעה מבית החולים

אנונימי/ת
18.03.2022, 10:24

חייבים לעשות מחקר השוואתי בין פרוגנוזה טיפול ודיאגנוזה של צוות מבוסס אנושי, לבין אותו הדבר ללא גורם אנושי אשר מבוסס AI ולראות היכן היו יותר מתים, טעויות באבחנה, וטיפול כושל. טיפ - אם הנהגים האנושיים בכביש היו מוחלפים במכוניות אוטונומיות לא היו תאונות.....

18.03.2022, 14:36

כתבת נכון, שללא הבנה של האלגוריתם ml, והרי אין הבנה כזו, קשה ליישם נתונים על המטופל הבודד. שכן תמיד ה ebm שלנו עובר התאמה לחולה הספציפי על ידי common sense. אסור אבל לשכוח, שהמוח האנושי שנותן לנו את שיקול הדעת הקליני, לרוב חשוף להרבה יותר טעויות והטיות מאלגוריתם ממוחשב. בסופו של דבר, האלגוריתמים האלו יהיו טובים בהרבה מההבנה הקלינית מדעית שלנו, בעיקר כי ההבנה מוגבלת ותשאר מוגבלת, והאלגוריתם, דווקא בגלל הקופסא השחורה שלו, מגשר על אותם חורים בהבנה באמצעות סטטיסטיקה.
אנחנו נצטרך להיות מספיק חכמים לדעת היכן מדובר במקרה קצה בו האלגוריתם לא תופס

23.03.2022, 08:50

תודה ! נהניתי לקרוא.