מיון עובדים ובחירתם הוא אמנות אנושית מורכבת. מה עדיף: טעות אנוש או טעות של אלגוריתם?
X זמן קריאה משוער: 5 דקות
הסרט "מה קרה בגטקה?" (משנת 1997) מתאר את המאבק של גיבור הסרט, וינסנט פרימן, להגשמת חלומו לטוס לחלל, בתרבות עתידנית שבה רק מי שעבר תהליך השבחה גנטי רשאי לטוס. וינסנט נולד שלא באמצעות תהליך ההשבחה, ולפיכך אינו ״כשיר גנטית״ לטוס לחלל ואינו רשאי להתקבל ללימודי הטיס. כדי לוודא שרק המתאימים רוכשים את ההכשרה הנכספת, סורקים באופן תדיר את הדי אן איי של המשתתפים – מתוך תאי העור שנותרו על המקלדות והשערות שנשרו מראשיהם.
הטעויות וההטיות האנושיות בתהליך המיון מובילות לבחירה במועמדים שאינם מתאימים לתפקיד או לארגון
ב-2017 מרבית הארגונים מנהלים את תהליך המיון שלהם באופן מסורתי הרבה יותר ובדיקות די אן איי אינן משמשות (עדיין) ככלי במבחני המיון. לרוב, מועמדים לעבודה עוברים תהליך שמנוהל על ידי בני אדם, אנשי מקצוע או בעלי תפקידים בארגון, שעיקרו מיון קורות חיים וראיונות, מבחנים מקצועיים, מבחני אישיות ולעתים גם בחינות במרכזי הערכה – בהתאם לארגון ולתפקיד. מידת המהימנות והתוקף של כלי המיון מוגבלת, כך שחלק מהכלים טובים יותר מאחרים (ושימוש במספר כלים מציג תוצאות טובות יותר משימוש בכלי אחד). בין המגבלות של כלי המיון היא התלות שלהם בגורם האנושי וההטיות הרבות שאנו חשופים להן באופן כללי ובתהליך המיון בפרט (למשל: שמות המועמדים, רושם ראשוני, הטיית הדמיון, המראה החיצוני, בולטות, מגדר ועוד ועוד).
נוסף על ההטיות בתהליכי המיון, גם חוויית המועמדים בתהליכים אלו, בעיקר במרכזי הערכה, אינה תמיד חוויה נעימה. לעתים היא מלווה בהרגשה של חוסר הוגנות, ופעמים רבות המועמדים חשים שמרכזי הערכה אינם מבטאים נאמנה את יכולתם. הטעויות וההטיות האנושיות בתהליך המיון מובילות לבחירה במועמדים שאינם מתאימים לתפקיד או לארגון, גורמות לעזיבת עובדים לאחר תקופה קצרה, מקשות על המנהלים לבצע את משימותיהם ועולות לארגון כסף רב. מכאן המאמץ המתמיד לפתח ולהשתמש בכלי מיון מדויקים יותר, מהימנים יותר, תקפים יותר וכמובן זולים יותר.
מענה אפשרי לבעיית טעויות המיון עשוי לבוא מטכנולוגיות המבוססות על ניתוח נתוני עתק (Big Data), למידת מכונה (Machine Learning) ובינה מלאכותית (AI). טכנולוגיות אלו – באמצעות היכולת שלהן לנתח כמות נתונים גדולה ולזהות דפוסים – עשויות לשפר משמעותית את תהליכי המיון, ובהתאם את מידת ההתאמה בין האדם לתפקיד. טכנולוגיות אלו משמשות היום במגוון רחב של תחומי קבלת החלטות, החל ממערכות המלצה להחלטות יומיומיות כגון הצעות לקנייה באמזון, הצעות לצפייה בסרטים ובסדרות בנטפליקס ועד מודלים לניבוי ההצלחה של החלטות רפואיות, כמו מתן טיפול רפואי מסוים.
בשנים האחרונות, השימוש בטכנולוגיות אלו מפעפע גם לתחום הערכת ביצועי עובדים. למשל, ישנן חברות המקליטות ומנתחות באופן מקוון את השיחות של נציגי שירות הלקוחות הטלפוני עם לקוחותיהם. המערכות מנתחות את נושא השיחה, את האינטונציה של הלקוח ושל הנציג ומסייעות לנציג לנהל שיחה אפקטיבית יותר, בין היתר בעזרת הצעות מקוונות לניהול השיחה. טכנולוגיות אלו מסייעות לא רק בניטור ביצועים אלא גם בניבוי מידת שביעות הרצון של הלקוחות. בדומה לכך, ישנם אלגוריתמים המאפשרים לזהות סימנים מקדימים לעזיבה של עובדים, עוד לפני שההחלטה לעזוב הבשילה, או בטרם העובד הודיע שהוא עומד לעזוב. שימוש באלגוריתמים מסוג זה מאפשר לארגון ולמנהליו להתערב בשלב מוקדם, כדי לשמר את העובד בארגון, אם יש לארגון עניין בכך.
ומה בתחום המיון והגיוס? כבר זמן מה שלינקדאין מספקת המלצות למשרות על בסיס ניתוח נתוני עתק. מעבר לכך, מניתוח המידע הקיים ברשתות החברתיות ניתן לזהות מאפיינים מסוימים באישיותו של אדם במידת מה של דיוק ומכאן הדרך לשימוש בכך בתהליכי מיון קצרה. ואכן, סנוניות ראשונות של שימוש בטכנולוגיות אלו לעיצוב כלי גיוס ומיון כבר כאן. למשל, ישנן חברות המבצעות אינטגרציה של נתונים הקיימים ברשתות החברתיות ושל עקבות דיגיטליים, לשם המלצה על מועמדים למשרות, לעיתים גם כאלו שאינם מחפשים עבודה. יוניליבר, למשל, משתמשת בבינה מלאכותית בניתוח ראיונות הווידאו שנערכים למועמדים. במסגרת הריאיון המוקלט שפת הגוף, האינטונציה ושימוש במילות מפתח מנוטרות ונרשמות הערות למגייסים. טכנולוגיות אלו עשויות להיות מדויקות יותר מפעילות המיון המבוצעת על ידי אנשי מקצוע ומנהלים. למשל, במחקר אחד נמצא כי יכולת הניבוי על סמך נתונים ומדדים, ללא התערבות אנושית, בעת גיוס עובדים לעיסוקים בסיסיים בעולם השירות, טובה מזו הנובעת משיקול הדעת של המנהלים. המנהלים עשויים לסמוך יותר על המלצות הנובעות מתהליכי מיון מבוססי אלגוריתמים, גם בשל התשתית המתמטית שלהם. אך נשאלת השאלה אם מיון מבוסס אלגוריתמים הוא ניטרלי וחף מטעויות והטיות או שגם תהליכי מיון אלו חשופים להטיות.
ככל הנראה, כדאי להעמיק ולבחון את המשמעויות של החלפת הטעות האנושית בטעויות מבוססות אלגוריתמים. ״הטיית האלגוריתמים״ יכולה להיווצר מכמה סיבות. למשל, בסיסי נתונים מוטים שיפיקו תוצאות למידה והמלצה מוטות בהתאם, ריבוי נתונים שאינם רלוונטיים (נתונים שקל להשיגם אך אינם משמעותיים לניבוי התוצאה) או מיעוט דוגמאות של חריגות מהמדגם, שבהן טמון לעתים המידע החשוב. למשל, הטיה בחיפוש לתפקיד מנכ״ל/ית עשויה להניב המלצות על מנכ"ל גבר בלבד, או תוצאות שיהיו מוטות כנגד קבוצות מיעוט, בשל שקלול תוצאות העבר. הטיה מסוג אחר קשורה במורכבות המערכות עצמן; וכך, גם אם ההטיה של האלגוריתמים ידועה (וזה אינו תמיד המקרה), המורכבות של מערכות אלו, מידת השקיפות של המודלים המתמטיים ותהליכי החישוב והדגש על השורה התחתונה עשויים לגבור על העניין לעדכן ולשכלל את האלגוריתם כנגד הטיות אפשרויות. במילים אחרות: טכנולוגיות אלו ממירות את הטעות האנושית בטעות אחרת, מבוססת אלגוריתמים.
בחירה אנושית ואמפטית עשויה להיות "טעות" או סטייה ביחס לבחירה והמלצה מבוססת נתונים
אם וכאשר ארגונים יעריכו שטכנולוגיות אלו עשויות לנבא את מידת ההתאמה של המועמדים לתפקידים ולארגון טוב יותר מהתהליכים המסורתיים, הרי שתהליכי המיון האנושיים עשויים לקבל משקל נמוך יותר מאלו הממוחשבים ולהיעלם לאיטם. אלא שיחד איתם עשויה להיעלם ההזדמנות למפגש פנים אל פנים, ההזדמנות לדיאלוג אנושי ולהתרשמות שהיא מעבר לנתונים ולציון. באופן פרדוקסלי, מרחב האפשרויות עשוי להצטמצם, ובכך עשויה להיסלל הדרך לדטרמיניזם מסוג אחר. דטרמיניזם שבו סוג הנתונים, אופן הזנתם והמידוּל שלהם ישפיעו מעל ומעבר להזדמנות למפגש האנושי-מיוּני, על ההטיות שבו.
אם כך, תהליכי מיון רדיקלים מבוססי אלגוריתם עשויים לחשוף בעתיד את מבקשי העבודה לשני סוגים שונים של טעויות. טעות האלגוריתם שתיארתי, והיעדר הטעות האנושית במובן רחב יותר. טעות שכזו, אינה רק הטיה, אלא לעיתים גם בחירה אנושית ואמפטית שמהווה "טעות" או סטייה ביחס לבחירה והמלצה מבוססת נתונים. כזו שלוקחת בחשבון (תרתי משמע וגם אם לא באופן מדויק) אנשים פחות מתאימים ומאפשרת שיקול דעת אנושי. זכותה של הטעות עומדת כאשר היא מאפשרת הכללה של אנושיות.
מכאן, שעלינו להיות ערניים לשלל ההזדמנויות המשמעותיות הנובעות מהתקדמות טכנולוגית בכלי המיון, אך גם להיות מודעים לכשלים ולמגבלות הנוכחיים של טכנולוגיות אלו. עלינו לראות את התחום מתקדם במבט מפוכח ולאפשר השפעה אנושית בצמתים שבהם יש להחליט לכאן או לכאן.
תמונה ראשית: התאמה בפסים. תצלום: ברנדון וונג, unsplash.com
Photo by Brandon Wong on Unsplash
תגובות פייסבוק
7 תגובות על בזכות הטעות
כדי שבינה מלאכותית תעבוד היא צריכה משוב שימדוד הצלחה מול כישלון. איזה מדדים נותנים להם?
מעלה רעיון שיוכל להיות שהוא כבר מיושם,הבינה המלאכותית לומדת להעריך יכולות של המועמדים על סמך עובדים שכבר קימים במערכת ויש לגביהם מידע על היכולות שלהם.
מאמר מעניין ומעורר מחשבה. כתוב מדוייק
תודה על מאמר מרתק! מציג באופן בהיר וקולע סוגיות בוערות בתחום המיון!
מאמר מענין העוסק בדילמות יסוד בתחום מיון והערכה. יש לשים לב לשלושה היבטים הדורשים חשיבה נוספת. האחד תפקידים ומקצועות חדשים כיצד מיצרים ידע ותוקף לנתונים הנאספים. השני שימוש בנתונים מחייב יכולות אבחנה בין נתונים איכותים לאחרים ושלישית האם הדבר לא פותח פתח ומוטיבציה להאקרים להשפיע על נתונים ברשת באופן שיכשיל את הניבוי.
יש הרוצים להחיל בישראל עונש מוות כענישה שיפוטית נפוצה, ויש הטוענים (כמו רועי צזנה) שמוטב שאלגוריתמים יחליפו שופטים אנושיים. לאור זאת, המאמר דעיל הוא קריאת אזהרה חשובה מאין כמוה.
מציג את הדילמה בצורה כל כך מדויקת. מרתק
בינתיים אמשיך להרצות בעירום
ויקטוריה בייטמןאין דבר שיגרום לעולם להיות חופשי, הוגן ומשגשג יותר מאשר לתת לנשים...
X רבע שעה
אבודים במאדים
מיכה מדוקרופטגם אם נצא לכוכבי לכת אחרים ואפילו נתיישב בהם, לא נוכל להימלט...
X חצי שעה
דווקא דווקא
קטנה, מסתורית, עיקשת, חיונית וחמקמקה: כזאת היא המלה "דווקא". מובן שדוברי עברית יודעים להשתמש בה ואינם צריכים לתת עליה את הדעת, הרי זה בדיוק מה שמאפיין אותם כבני בית בשפתם. במבט מהצד, מתוך ניסיון לנתח את מופעי המלה ולהבין את משמעויותיה, אנחנו מחויבים לשים לב להקשרים, למיקומה במבנים השונים.
"דווקא רציתי לבוא..." – אומר מישהו, ואנחנו יודעים שמיד תבוא הסתייגות, לא פעם בראשות המלה "אבל", ובכל אופן ברור לנו שהדובר לא בא. "אני דווקא מעדיפה להיפגש בבוקר", אומרת מישהי אחרת, ואנחנו מבינים שהדברים נאמרים בניגוד להנחה שהבוקר היה עשוי לא להתאים כזמן לפגישה. אלו מובנים של הסתייגות וניגוד. הניגוד עשוי להיות רך, לא קוטבי, מתוך הבעה של הבדל עדין או קל ביחס לאפשרות שהוצעה או שהיה אפשר להניח שהיא זאת שתיבחר. "האוכל פה דווקא בסדר" – כלומר, בניגוד למצופה, אבל אולי לא בהבדל קיצוני.
"דווקא" נמנית על קבוצה של מלים שמכונה "מיליות". באנגלית הן מכונות "particles". הן מזכירות תארים, והן קרובות במיוחד לתואר הפועל. כלומר, הן מתארות פועל, או ליתר דיוק מרחיבות אותו, במובן של מתן גוון, הבעת דיוק, הבעה של אופן. אכן, עניין חמקמק, ושונה בשפות השונות שיש להן מיליות. שמה של הקבוצה מביע את הבעייתיות: "מילית", כלומר "מילה קטנה", והחשד שלי הוא שייחוס "קטנוּת" למלים הללו מביע בעיקר את קוצר ידם של מי שמנסים להסביר אותן, לתאר אותן.
בדוגמאות המעטות שראינו כאן, "דווקא" היא אכן מילית, והיא מרחיבה פועל או את הקביעה המובעת במשפט ("האוכל פה דווקא בסדר"). אבל יש "דווקא" במובן אחר: "אתה יודע מה? דווקא, אני לא אתן לך להיכנס לפניי", שבו "דווקא" היא קריאת התרסה, הבעה של התעקשות לוחמנית, דגש מוחצן על הרצון האישי נוכח הנסיבות, ללא התחשבות ברצון של מישהו אחר. ה"דווקא" הזאת מופיעה גם כקריאה מתריסה בסוף המשפט, לרוב יחד עם סימן קריאה. אנחנו מכירים היטב את ה"דווקא" הזאת, המרבה להתגלות ביומיום. היא שונה מן ה"דווקא" במובן הראשון ואפילו מוצדק לקבוע שיש שתי "דווקא" השונות במובנן וגם במקומן ובתפקידיהן במבנים התחביריים שהן מופיעות בהם.
ואם לא די בכך, יש "דווקא" שהיא שם עצם. "הוא עשה לי דווקא": כלומר הוא נהג בניגוד למה שרציתי או למה שהיה מסוכם בינינו, ועשה זאת בידיעה ומתוך כוונה להרגיז, לעצבן או להתעקש מתוך התרסה. מכאן יש לנו גם תואר "דווקאי" כמו ב"גישה דווקאית", כלומר גישה שמתאפיינת בעמדה מנוגדת מתוך כוונה להתריס או להרגיז.
מילית, תואר פועל וגם שם עצם, ואף קריאה. המנעד רחב של משמעות והבעה: מהסתייגות קלה, עדינה וגם מנומסת, עד התרסה מסוג "אצבע בעין" וכמעט קריאת קרב. עניין קשה לתיאור, מורכב ועשיר מאוד. ו"דווקא" דווקא לא שולית או נדירה. היא דווקא נפוצה, ודווקא מתעקשת להערים עלינו קשיים בניתוח, לעשות לנו דווקא. לנו, דוברי השפה, אין כל קושי להשתמש בכל סוגי ה"דווקא", ואנחנו (דווקא) עושים זאת בקלות.
במחשבה נוספת, אפשר להציע מבחן. דומה שבתרגומים מאנגלית (ומשפות אחרות) לעברית, מתרגמים ממעטים מאוד להשתמש ב"דווקא". רומנים רבים מתחילים, מתפתחים ומסתיימים כשבגרסתם העברית אין ולו מופע אחד של "דווקא". באנגלית יש מועמדות סבירות – actually, rather – להיות "דווקא" כהסתייגות קלה או כניגוד עדין. ויש גם מועמדות להיות "דווקאי הדווקאית" המתריסה, החריפה – to spite, on purpose ואחרות. ובכל זאת, דווקא אין דווקא. אם זהו אכן המצב, הרי שהדבר מעיד על הקושי לתרגם מיליות, קושי המוכר לכל מתרגם של ספרות. מקומה של "דווקא" (או של שלוש או ארבע ה"דווקא" שהצגנו כאן) יציב ובטוח בעברית, והיא עצם מעצמותיה ובשר מבשרה, ואין לעניין הזה טעם לומר שהיא "קטנה" או "שולית". האלמנט הלשוני העשיר הזה חי וקיים ומשמש בכתיבה ובדיבור. היעדרו היחסי מתרגומים מעיד עד כמה הוא מושרש בעברית, עד כמה הוא טבעי בה.