כלי בינה מלאכותית כ"חוות דעת נוספת" ברפואה: נימרוד הראל - מאי 2025
- Responsible AI in Medicine Initiative
- 5 במאי
- זמן קריאה 1 דקות
עודכן: 8 ביולי
מר נימרוד הראל, בהרצאתו "כלי בינה מלאכותית כ"חוות דעת נוספת" ברפואה" שניתנה במסגרת הכנס הארצי של המיזם לבינה מלאכותית אחראית ברפואה, אוניברסיטת תל אביב, שנערך בשיתוף עם משרד החדשנות, המדע והטכנולוגיה, מוזיאון הטבע, 5.5.2025. בהרצאתו הוא מתאר בעיה מהותית עם מודלי שפה גדולים בתחום הרפואה, שלדבריו הם לרוב אינם מכוילים. כלומר, הביטחון שהם מדווחים עליו בתשובותיהם אינו תואם את ההסתברות בפועל שהתשובה נכונה. הוא מסביר שבעוד שמודלים אלו מציגים יכולות מרשימות, חוסר הכיול הופך אותם לפחות אמינים בסיטואציות קריטיות כמו ברפואה. כמענה מסויים לבעיה זו הוא מציע גישה של "חוות דעת שנייה", שבה המודל נשאל שוב ושוב את אותה השאלה, תוך הוספת מידע חיצוני לא רלוונטי, וניתוח מידת ההסכמה בין התשובות השונות ביחס למידת ביטחונו של המודל לעומת התשובה המקורית שלו.
תגובות