לאן הולך הענף? (2) — כשה-AI נכנס לחדר הוועדה
מאת דור דקל · QuantBridge Finance
תקציר מנהלים
מאמר זה בוחן כיצד כלי בינה מלאכותית ומערכות אנליטיות עשויים להשתלב בתהליכי פיקוח פיננסי וליווי בנקאי. במקום להציג את הדיון כמאבק בין אדם למכונה, הוא מפרק את תהליך העבודה לשלבים שונים: זיהוי דפוסים, פרשנות של ההקשר, גיבוש המלצה ונשיאה באחריות. השאלה המרכזית היא באילו חלקים כלי אנליטי יכול לשפר את איכות הבדיקה, ובאילו נקודות נדרש שיקול דעת מקצועי שאינו ניתן להחלפה בהשוואה סטטיסטית בלבד. המאמר מדגיש כי איכות השילוב תלויה לא רק בדיוק המערכת, אלא גם ביכולת להבין כיצד הגיעה למסקנה, לבקר אותה ולהסביר את ההחלטה למקבלי ההחלטות.
הבהרה
המאמר אינו מציג תחזית ואינו מתיימר לחזות את עתיד הענף. מטרתו להעלות שאלות מקצועיות שלדעתנו ראוי להתחיל לדון בהן כבר היום.
מה קורה כשמערכת אנליטית והמפקח מגיעים למסקנות שונות?
נניח שמפקח מטעם הגוף המממן מגיש דו״ח ובו הוא מציין שעיכוב מסוים בפרויקט דורש מעקב, אך אינו מצדיק בשלב זה שינוי בתנאי הליווי.
במקביל, מערכת אנליטית שבוחנת את נתוני הפרויקט ביחס למקרים היסטוריים מסמנת כי שילוב הנתונים הנוכחי מופיע לעיתים קרובות לפני התארכות משמעותית בלוחות הזמנים.
המפקח אומר: נדרש מעקב.
המערכת אומרת: רמת הסיכון עלתה.
מי צודק?
ייתכן ששניהם.
המערכת יכולה לזהות דפוס שהעין האנושית מתקשה לראות. המפקח, לעומת זאת, עשוי להכיר נסיבות שאינן מופיעות בנתונים: שינוי קבלן שכבר הוסדר, עיכוב תכנוני שנפתר, או מידע עדכני שהמערכת עדיין אינה מביאה בחשבון.
הבעיה מתחילה כאשר אחד משני המקורות מקבל מעמד של אמת מוחלטת.
שלוש דרכים לשלב כלי AI בתהליך מקצועי
במקום לשאול אם AI „מחליף” את המפקח, אפשר לבחון כיצד הוא משתלב בשלבים שונים של העבודה.
1. כלי לסימון מוקדם
המערכת מזהה חריגות ודפוסים ומפנה את תשומת לבו של המפקח לנקודות הדורשות בדיקה.
היתרון ברור: ניתן לעבור על כמות מידע גדולה יותר ולהקטין את הסיכוי שחריגה תיעלם בתוך הדו״ח.
הסיכון גם הוא ברור: אם איש המקצוע מתחיל לבדוק רק את מה שהמערכת סימנה, הוא עלול להפסיק לשאול שאלות עצמאיות.
2. בדיקה מקבילה
המפקח מגיע למסקנה מקצועית על בסיס עבודתו, והמערכת מבצעת ניתוח נפרד. רק לאחר מכן משווים בין הממצאים.
פער בין שתי המסקנות אינו כשל. הוא דווקא נקודת בדיקה חשובה.
השאלה היא מה מסביר את הפער, ואיזה מידע נוסף נדרש כדי להכריע.
3. כלי מאתגר
אפשר להשתמש במערכת לא כדי לספק תשובה, אלא כדי לאתגר את ההנחות שעליהן נשענת ההמלצה.
אם המפקח מעריך שהסטייה אינה מהותית, המערכת יכולה להציג תרחישים שבהם אותה סטייה הופכת לבעיה. אם המערכת מסמנת סיכון גבוה, המפקח יכול לבחון אילו נסיבות ייחודיות לפרויקט אינן מקבלות ביטוי במודל.
במקרה כזה, הטכנולוגיה אינה מחליפה את שיקול הדעת. היא מרחיבה את הביקורת עליו.
דיוק אינו מספיק — נדרשת גם יכולת להסביר
בתהליך של ליווי בנקאי, לא די בכך שמערכת תסמן שהסיכון גבוה.
החלטה מקצועית צריכה להיות ניתנת להסבר.
אם הגוף המממן משנה תנאי אשראי, מעכב שחרור כספים או דורש פעולה מתקנת, עליו להבין על מה נשענת ההחלטה.
„המערכת סימנה אדום” אינה הנמקה מקצועית.
לכן כלי אנליטי שמסוגל להציג את הגורמים שהובילו למסקנה שימושי יותר ממערכת שמספקת ציון בלבד, גם אם הציון עצמו מדויק.
הצורך בהסבר חשוב גם מסיבה נוספת: פרויקט אינו רק אוסף מספרים.
אותה חריגה יכולה לקבל משמעות שונה בפרויקטים שונים, בהתאם לשלב הביצוע, למבנה המימון, לקצב המכירות, לזהות הקבלן וליכולת היזם להתמודד עם שינוי.
ההקשר אינו קישוט למספר. הוא חלק מן הניתוח.
כיצד נכון לחלק את העבודה?
אפשר לחשוב על תהליך הפיקוח כעל שלושה רבדים:
| רכיב | תרומה אפשרית של כלי אנליטי | תרומה של שיקול דעת מקצועי | |------|-----------------------------|----------------------------| | זיהוי דפוסים וחריגות | גבוהה | משלימה | | פרשנות של נסיבות הפרויקט | מוגבלת | גבוהה | | המלצה, הסבר ונשיאה באחריות | תומכת | מרכזית |
הטבלה אינה קובעת חלוקת עבודה מחייבת. היא רק מדגישה שכל שלב דורש סוג אחר של יכולת.
אם כך, השאלה הארגונית אינה רק אילו כלים לרכוש, אלא האם הזמן המקצועי מופנה למקומות שבהם לאיש המקצוע יש יתרון אמיתי.
שלושה תרחישים אפשריים
תרחיש ראשון — כלי תומך החלטה: המערכת מבצעת ניתוח כמותי ראשוני, והמפקח משתמש בתוצאה כדי להעמיק את הבדיקה.
תרחיש שני — בדיקה כפולה: המפקח והמערכת מגיעים למסקנות בנפרד, ופער ביניהן מחייב בירור לפני שהמלצה עוברת למקבל ההחלטות.
תרחיש שלישי — בקרה על החלטות בעלות השפעה גבוהה: ככל שהשימוש ב-AI יגדל, ייתכן שיידרש תיעוד ברור יותר של האופן שבו מערכת אנליטית השפיעה על החלטה מקצועית.
אף אחד מן התרחישים אינו מחייב שהמערכת תהיה הגורם המכריע.
המשותף לכולם הוא הצורך להגדיר מראש מי אחראי להחלטה וכיצד ניתן לבקר את הדרך שבה התקבלה.
שאלה לסיום
אם הגוף המממן יאמר מחר למפקח: „אנחנו מריצים גם ניתוח אנליטי עצמאי על נתוני הפרויקט, ונשווה אותו לממצאים שלך” — האם הדבר יפגע בערך המקצועי של המפקח, או דווקא יחשוף בצורה ברורה יותר היכן נמצא הערך שלו?
התשובה תלויה כנראה במה שאנחנו חושבים שמפקח מקצועי אמור לספק: נתונים, פרשנות — או אחריות לשיקול הדעת.
מעוניינים לשמוע עוד על האופן שבו אנחנו עובדים?
מצאתם את המאמר מועיל?