שימוש במודלים של שפה (AI) באחריות במכשירים רפואיים

פרסומת
תכנון תשתיות רפואיות


פרסומת
מודלים של שפה גנרטיבית, הידועים בכינויים "AI", עוררו גלים במגזרים רבים ושונים במגוון רחב של תפקידים, החל מצ'טבוטים של תמיכת לקוחות ועד עוזרי תכנותואפילו לגל חדש של כלי חיפוש באינטרנט.
הפלישה של כל כך הרבה מוצרים מבוססי LLM (מודל שפה גדול) עוררה גם ויכוח זועם לגבי מהימנותם, במיוחד ביישומים בסיכון גבוה. בתחום הרפואי, הזדמנויות פוטנציאליות ענקיות מאוזנות מול סיכון חיים ומוות. יש להשתמש בטכנולוגיה חדשה זו באופן אחראי באופן שיכול לשפר את כישורי הרופאים או לשפר את חווית המטופל מבלי לחשוף אף אחד מהם לסיכון מוגבר.

עבור מערכות בסיכון גבוה, כלל אצבע טוב הוא שאף טקסט שנוצר לא צריך להיות פונה למשתמש. זה חשוב מכמה סיבות. ראשית, LLMs הם מחוללי טקסט סטטיסטי, שאין להם שום תחושה של דיוק או ניואנסים של הצהרות. אתה לא יכול לסמוך על LLM כדי לקבל פלט עובדתי, ובזמן שאתה יכול לעסות את הסטטיסטיקה לכיוון הנכוןזה פשוט לא מספיק למשימות קריטיות הדורשות יותר שליטה ודיוק.

שנית, LLMs הם רגישים להזרקה מהירה, טכניקה הכוללת כוונון הקלט שמספק למודל על מנת לשנות את התנהגותו. מתודולוגיית ניצול זו יכולה לעקוף הדרכת בטיחות, או אפילו אילוצים שהוטלו על פעולותיה.

לבסוף, בעיות אלו עלולות לחשוף את בעל המוצר לאחריות משפטית, כפי שנהגו בתי המשפט חברות אחזקות אחראיות על הבטחות שניתנו על ידי סוכנים מבוססי מודל שפה הפועלים לכאורה בשמם.

זה מעלה את השאלה: איך משתמשים בטכנולוגיה החדשה הזו ב- בטוח דֶרֶך?

ביישומים בסיכון גבוה, דטרמיניזם הוא המפתח. זה לא קשה במיוחד להשיג דטרמיניזם בסיסי עם LLMs, אולם דטרמיניזם סמנטי הוא הרבה יותר קשה להבטיח.

DiagnosisBot9000 צריך להגיב באותה צורה לקלטים דומים ללא קשר לעיצוב או פיסוק (או אפילו מילולית), אבל אם שגיאת כתיב, פסיק שגוי או שינוי קטן בטקסט הקלט עלולים להוביל לאבחון שגוי, יהיה קשה למכור את היתרונות של מערכת אוטומטית.

במקום זאת, אפשר להשתמש בנתונים טבלאיים כקלט. העקביות לא רק תגביר את האמינות, אלא גם תאפשר פוטנציאל למודלים פשוטים יותר (או יותר כמותיים) כדי להשיג תוצאות דומות ל-LLM גדול בהרבה הפועל על תשומות מעורפלות יותר. זה עשוי להביא לחיסכון משמעותי בטווח הארוך, בהתחשב במגמת העלייה בעלויות השכרת GPU בשירותי ענן.

יש לשקול גם שימוש בפונקציונליות אחרות של טכנולוגיית מודל השפה, כגון סיווג סמנטי והטמעות, המציעות יתרונות ייחודיים כרכיבים בשרשרת כלים.

סיווג ערכים בקורפוס טקסט גדול הוא משימה מייגעת שניתן לפשט בצורה מסיבית עם LLMs. במקום להסתכל על כל ערך בודד, אפשר להתמקד במקרים קצה שהסווג האוטומטי לא יכול היה לתייג בביטחון.

הטבעות מספקות פונקציונליות דומה, ולמעשה מזקקת משפט או פסקה לוקטור, שניתן להשוות מול וקטורים שנוצרו מפיסות טקסט אחרות כדי לקבוע דמיון סמנטי. מודלים של סיווג והטמעה הם גם בדרך כלל הרבה יותר קלים מ-LLM שמטרתם לחקות כתיבה אנושית.

הימנעות משימוש במודלים של שפה מחוללת הפונים למשתמש באפליקציה שלך בסיכון גבוה לא רק תחסוך כאבי ראש פוטנציאליים של מיתוג ומשפט, אלא גם תחסוך סכומי כסף משמעותיים ליישום מקבילים יעילים יותר שעדיין יש להם את היכולת לפעול בבעיה הקטנה יותר. מֶרחָב.

ישנן נישות רבות מבוקרות היטב שיכולות להפיק תועלת מהטכנולוגיות שפותחו במהלך השנים האחרונות. המשך ההתקדמות בפיתוח של LLMs יגבש עוד יותר את התועלת שלהם ככלים יעילים עבור אלה המסוגלים להפעיל אותם באחריות.

Thor Tronrud הוא מתמקד במחקר וניתוח נתונים מהנדס תוכנה בחברת StarFish Medical המתמחה בפיתוח ויישום של כלי למידת מכונה. בעבר היה אסטרופיזיקאי שעבד עם סימולציות מגנטו-הידרודינמיות, Thor הצטרף ל-StarFish בשנת 2021 ויישם טכניקות למידת מכונה על בעיות כולל פילוח תמונה, ניתוח אותות ועיבוד שפה.





קישור לכתבת המקור – 2024-04-06 00:27:59

Facebook
Twitter
LinkedIn
Telegram
WhatsApp
Email
פרסומת
MAGNEZIX מגנזיקס

עוד מתחומי האתר

בדוק את המבנה הפנטסטי הזה מבית היוצר ארנוב שארמה.שלום לתושבי הכספת, וחזרתי עם פרויקט שעון…