קידום מחקר
המיזם תומך ומעודד מחקר בין-תחומי ובין היתר מוציא קולות קוראים לתמיכה בתלמידי מחקר ובחוקרים. זוכי המענקים בשנת 2024 כוללים סטודנטים לתארים מתקדמים, קבוצות מחקר וקבוצות דיון מקצועיות.
להלן מיזמי המחקר הזוכים לשנים 2023‑2024:
מגנומיקה אחראית לבינה מלאכותית רפואית אחראית
המחקר מבוצע על־ידי:
-
פרופ' נועם שומרון (הפקולטה לרפואה ולמדעי הבריאות, אוניברסיטת ת״א)
-
פרופ' יחזקאל מרגלית (בית הספר למשפטים, המכללה אקדמית נתניה)
הבינה המלאכותית צפויה להפוך בקרוב לחלק בלתי נפרד מהעשייה הקלינית, עם יישומים מגוונים בכל תחומי מערכת הבריאות. מאחר והשימוש האחראי בבינה מלאכותית ברפואה נמצא עדיין בשלבים ראשוניים, קיימת דחיפות ביצירת רגולציה אחראית למערכות בינה מלאכותית רפואיות. רגולציה כזו נדרשת למפות את חוסר הוודאות, היתרונות והסיכונים הכרוכים בטכנולוגיות אלו – הן באופן כללי והן בקשר למגזרים שונים במערכת הבריאות.
מטרת הפרויקט היא לגשר על פער זה באמצעות פיתוח מסגרות עבודה שיבטיחו שימוש אחראי בבינה מלאכותית ברפואה, תוך התייחסות הן להיבטים אתיים והן להיבטים משפטיים.
.png)
רווחה (שלומות) אמפתית: שימוש אחראי בבינה מלאכותית במוזיאון האמנות
המחקר מבוצע על־ידי:
-
ד"ר תמר מאייר (הגלריה לאומנות, אוניברסיטת ת"א)
-
פרופ' ענבל בן־עמי ברטל (פסיכולוגיה ומדעי המוח, ת״א)
-
פרופ' עדי סומר (מדעי המדינה, ת״א)
-
ד"ר ענת פרי (פסיכולוגיה ומדעי המוח, האוניברסיטה העברית)
המחקר בוחן את נקודת המפגש בין אמנות, אמפתיה ובינה מלאכותית בהקשר של חללי מוזיאון, תוך הדגשת ניסוי עדכני שהראה כיצד סביבות של גלריות יכולות לחזק את תחושת האמון של המבקרים – כבסיס לאמפתיה – כלפי יצירות אמנות שנוצרו באמצעות בינה מלאכותית. ממצא זה מעורר צורך בדיון ביקורתי על שימוש אחראי בבינה מלאכותית בהקשרים מסוג זה.
באמצעות דיאלוג אמנותי-מדעי, החוקרים מבקשים ליצור מיצב אמנותי שהוא גם תערוכה וגם מעבדה מחקרית – שמעודדת את המבקרים להתעמת עם קונפליקטים סביב מושג האמפתיה, תוך שהם בוחנים את התפקידים השונים של קול ותמונה בהנעת תגובתיות אנושית ואת מעורבות הבינה המלאכותית בתהליך זה.
הבנה של הקשר בין אמפתיה לבין בינה מלאכותית היא קריטית, במיוחד לאור מחקרים קודמים המראים כי בינה מלאכותית עשויה אף לעלות על רופאים אנושיים בתקשורת אמפתית – ובכך לתרום להבנה עמוקה יותר בתחומים מגוונים.
הערכת מודלים לשוניים ואחיות טיפול נמרץ לצורך תמיכה בקבלת החלטות קליניות
המחקר מבוצע על־ידי:
-
ד"ר מור סבן (הפקולטה לרפואה ולמדעי הבריאות, אוניברסיטת ת"א)
-
פרופ' יכיאל מ. ברילן (הפקולטה לרפואה ולמדעי הבריאות, אוניברסיטת ת״א)
התקדמות בתחום הבינה המלאכותית אפשרה פיתוח של כלים חדשים לתמיכה בקבלת החלטות קליניות, המבוססים על מודלים של עיבוד שפה טבעית (NLP). עם זאת, קיימות גם חששות משמעותיים בנוגע לשילוב בטוח ואחראי של מערכות AI בסביבות רפואיות קריטיות ועתירות-סיכון.
המחקר משווה בין היכולות בקבלת החלטות של מודלים לשוניים מבוססי AI לבין אלו של אחיות טיפול נמרץ, בתרחישים נפוצים בטיפול נמרץ. הדגש הוא על בחינה של מאפיינים מרכזיים כמו שקיפות, עמידות (robustness) והוגנות בתהליכי קבלת החלטות קליניות בסביבה קריטית.
גישה זו שואפת לספק תובנות על הפוטנציאל – אך גם על המגבלות – של יישומי בינה מלאכותית בטיפול נמרץ.
.png)
"קידום בינה מלאכותית אחראית ברפואה לצורך פיתוח מערכות תמיכה בקבלת החלטות מהימנות"
המחקר מבוצע על־ידי:
-
נמרוד הראל, דוקטורנט להנדסה ביו-רפואית
-
בהנחיית: פרופ' רן גלעד-בחרך ופרופ' אורי אובולסקי
המחקר שלי מתמקד בתחום של בינה מלאכותית ניתנת להסבר (Explainable AI – XAI), ובמסגרתו אני שואף לבסס תשתית מתמטית שתסייע בהבנת התחזיות שמייצרים מודלים של בינה מלאכותית. המטרה המרכזית היא לזהות את המגבלות והאפשרויות של ההסברים שמספקים מודלים אלה.
המחקר העיוני שלי עוסק בשאלת הפרשנות של מודלים – תוך בחינת דירוג חשיבות של תכונות, גם בהקשרים מקומיים (כמו אבחנה עבור מטופל מסוים), וגם בהקשרים גלובליים (כמו ההשפעה של גנים על מחלות).
"אני מבחין בין הסבר של הנתונים – בדומה למדען שמסיק מסקנות מתוך מידע מקודד – לבין הסבר של המודל עצמו, שהוא כמו מהנדס שבוחן את אמינות המערכת, דבר קריטי במיוחד בהקשרים רפואיים."
בפן המעשי, המחקר שלי מתמקד בסיכונים הכרוכים בזירוז לידה, במיוחד אצל נשים שבוחרות בזירוז יזום. באמצעות כלים של הסתברות וסיבתיות, אני שואף לחשוף קשרים עדינים בין פרוצדורות הזירוז לבין הצלחת הלידה – ובכך לתרום להבנה טובה יותר של נהלים רפואיים, ואף להשפיע על מדיניות שתקדם תהליכי לידה מודעים, מותאמים ונשענים על צורכי היולדת.
"שיתוף מידע גנומי שמיש, מאובטח ושומר פרטיות לצורכי בינה מלאכותית"
המחקר מבוצע על־ידי:
-
נדב גת, סטודנט לתואר שני במדעי המחשב
-
בהנחיית: ד"ר מחמוד שריף
עידן הבינה המלאכותית שינה תחומים רבים, ובכללם את הרפואה, שבה נעשה בין היתר שימוש במידע גנומי כדי להציע טיפולים מותאמים אישית ויעילים יותר. עם זאת, הפרטיות ממשיכה להיות דאגה מרכזית שעלולה לעכב את הפיתוח והיישום של גישות אלו – כדי להיות מדויקים, מודלים של בינה מלאכותית חייבים להתאמן על כמויות גדולות של נתוני מטופלים אמיתיים, שעלולים לדלוף מהממשקים ומהמודלים עצמם.
"המחקר שלנו שואף לסגור פערים אלו, באמצעות פיתוח מערכת שתאפשר למדוד באופן מדויק את הסיכון האמפירי לפגיעה בפרטיות של מודלים גנומיים מבוססי AI, בתנאים שונים – ולהציג את המידע הזה בצורה נגישה ושמישה."
המחקר יסייע להבין טוב יותר כיצד תופסים משתמשים את סיכוני הפגיעה בפרטיות, ולאתר מנגנוני הגנה יעילים אשר נותנים מענה לדאגות אלה – מבלי לפגוע באיכות הביצועים של המודלים.
בסופו של דבר, המחקר יאפשר למדענים ולאנשי רפואה לקבל תמונה כוללת של היתרונות והסיכונים של מודלים גנומיים מבוססי AI, ובכך לקדם את המדע והרפואה באופן אפקטיבי – תוך שמירה על פרטיותם של המטופלים.
"התקרבות לנתונים ניתנים להסבר במחקרים רפואיים"
המחקר מבוצע על־ידי:
-
חן שיף שחרן, דוקטורנטית לרפואה
-
בהנחיית: פרופ' נועם שומרון
המפגש בין בינה מלאכותית לרפואה יצר אפשרויות מרגשות – לצד שאלות רבות, במיוחד בכל הנוגע לשימוש אחראי ב‑AI. המעבדה שלנו מתמקדת בשיפור מדדי חשיבות של תכונות, כדי לספק הסברים מדויקים יותר לנתונים רפואיים מהעולם האמיתי. מדדים קיימים מתקשים לרוב להתמודד עם האתגרים שביישומים מעשיים.
המחקר שלי עוסק בשכלול גישת חישוב חשיבות התכונות, תוך חקירה ויישום של שיטת Marginal Contribution Feature Importance (MCI) – מדד שמבוסס על תרומת שוליים. באמצעות פיתוח מערכת של אקסיומות שינחו את האופן שבו מעריכים חשיבות תכונות בהסברת נתונים, עולה ה‑MCI כמדד יחיד שמקיים את כל התכונות הרצויות.
הגישה החדשנית הזו לא רק נותנת מענה לאתגר של תכונות בקורלציה (תכונות תלויות), אלא גם מאפשרת הבנה מדויקת ואמינה יותר של תרומתה של כל תכונה לתוצאה רפואית מסוימת. המיקוד ב‑MCI מסמן מגמה חדשה של בינה מלאכותית אחראית ברפואה – כזו שמקדמת שקיפות, פרשנות ברורה, ויישום אתי של מודלים רפואיים.
"עם פתיחת המחקרים העתידיים בתחום זה, המטרה ברורה – לפתח מתודולוגיות שיפרקו את המורכבות של הבינה המלאכותית ברפואה, ויחזקו את שילובה האחראי לטובת שיפור תוצאות רפואיות עבור מטופלים."
