אלו שצודקים כמעט תמיד

מדוע איננו סומכים על אלגוריתמים גם כשהם מצטיינים בתחזיות ובהחלטות שלהם?
X זמן קריאה משוער: 5 דקות

המכירות של מכשירי "רומבה" עולות וגואות, והדבר מרמז על כך שאנשים נותנים אמון באלגוריתמים המשמשים את שואבי האבק הרובוטיים לצורך ניווט ושליטה בכוח היניקה המשמעותי שלהם כדי לשמור על ניקיון של הרצפות בבתיהם. בדומה לכך, משתמשי מחשב מעטים בלבד מסתייגים מן המודלים הסטטיסטיים ומן האלגוריתמים למיניהם, שמסייעים לנו לבצע חיפושים ברשת, לראות פוסטים רלוונטיים ברשתות החברתיות ולקבל המלצות מנטפליקס ומספוטיפיי.

אך האם אנחנו מוכנים לאמץ את האלגוריתמים גם לצורך פעולות שהתוצאות שלהן פחות ודאיות ומה שמונח על כף המאזניים בהן חשוב יותר – כמו בחירה במסלולי השקעה, נהיגה במכונית, ביצוע ניתוחים או הערכתם של מועמדים למשרות או ללימודים באוניברסיטאות?

ככל שהשקעות, קבלת החלטות רפואיות ותחומים אחרים מתאפיינים באי-ודאות מעצם מהותם, בני-אדם עשויים לא להיות מוכנים להשתמש אפילו באלגוריתם הטוב ביותר בתחומים הללו

לפי מחקר חדש ב-Psychological Science, התשובה היא שעדיין לא. "ככל שהשקעות, קבלת החלטות רפואיות ותחומים אחרים מתאפיינים באי-ודאות מעצם מהותם, בני-אדם עשויים לא להיות מוכנים להשתמש אפילו באלגוריתם הטוב ביותר בתחומים הללו", כך כתבו ברקלי ג'יי. דיטוורסט (Dietvorst) וסואהאם בהרטי (Bharti), שניהם מבית הספר ע"ש בות' למנהל עסקים באוניברסיטת שיקגו. זאת על אף שחזאים אלגוריתמיים עולים בביצועיהם על חזאים אנושיים בשלושת התחומים הללו, הזכות השימוש שהם עושים בכלים שפועלים על פי כללים עקביים יותר ומבצעים פחות שגיאות מבני-אדם. "חוסר הנכונות הזה לאמץ אלגוריתמים שעולים בביצועיהם על בני-אדם עלול לגבות מחיר אדיר", מציינים החוקרים. למשל, "רוב האמריקנים אומרים שהם לא יחושו בנוח לנסוע במכונית שנוהגת בכוחות עצמה... אך המחקר מעלה שאימוץ מוקדם של מכוניות שנוהגות בכוחות עצמן עשוי לחסוך את חייהם של מאות אלפי בני-אדם..."

מכונית אוטונומית, קונספט

אנחנו אוהבים לדמיין עתיד של מכוניות אוטונומיות (וזאת אף תאתר את הנוסעים ותסיע אותם לפי הזמנה) - אבל מתקשים לאמץ אלגוריתמים עצמאיים. תצלום: Automotive Rhythms

מה מסביר את ההעדפה שלנו את המיומנות האנושית ואת האינסטינקט האנושי על פני טכנולוגיות שהוכיחו שהן טובות מאיתנו בנהיגה, בביצוע ניתוחים ובקבלת החלטות בתחום קבלה לעבודה? בעיקרו של דבר, אנחנו סומכים על עצמנו בכל הקשור לנטילת סיכונים בנוגע להחלטות שיש בהן אי-ודאות שאי-אפשר לצמצם אותה, אך איננו סומכים על מחשבים שייטלו סיכונים כאלו עבורנו, כיוון שהטעויות שלהם – אף אם הן מתרחשות לעתים נדירות בלבד – נראות לנו בולטות יותר.

אנשים מעדיפים שיטות לקבלת החלטות שיש בהן רמת סיכון גבוהה יותר, שיטות שלעתים קרובות ביצועיהן גרועים יותר (כגון השיפוט האנושי), כשהם חשים שלא סביר שאלגוריתם יפיק תשובה כמעט-מושלמת

"אנחנו סבורים שלבני-אדם יש רגישות קטנה יותר לחיזוי של טעויות, שגורמת להם להעדיף שיטות לקבלת החלטות שהם מאמינים שיש להן הסבירות הגבוהה ביותר לספק תשובה כמעט-מושלמת (כלומר שיטות שמאופיינות בכך שהן אינן טועות, או כמעט שאינן טועות)", כותבים שני החוקרים. "אסטרטגיה כזו של קבלת ההחלטות מעודדת נטילת סיכונים, ומובילה לכך שאנשים מעדיפים שיטות לקבלת החלטות שיש בהן רמת סיכון גבוהה יותר, שיטות שלעתים קרובות ביצועיהן גרועים יותר (כגון השיפוט האנושי), כשהם חשים שלא סביר שאלגוריתם יפיק תשובה כמעט-מושלמת".

בתשעה מחקרים, החוקרים הראו שבני-אדם תופשים "הבדלים סובייקטיביים גדולים יחסית בין סדרי גודל שונים של תחזיות כמעט-מושלמות (התחזיות הטובות ביותר האפשריות שמניבות אפס – או כמעט אפס – טעויות), והבדלים סובייקטיביים קטנים יחסית בין תחזיות עם מספר טעויות גדול יותר". כתוצאה מכך, הם פחות נוטים לבחור את מקבלי ההחלטות הטובים ביותר בתחומים שבהם יש פחות אפשרות לחזות את התוצאה (למשל: מקבלי החלטות המפיקים תוצאות אקראיות לעומת כאלו שהתוצאות שלהם נקבעות על ידי משוואה), ובמקום זאת הם נוטים להעדיף מקבלי החלטות המבוססים על מה שהם סבורים שהוא הסיכוי להגיע לבחירה כמעט מושלמת, תוך שונות גבוהה בביצועים. הדבר מוביל בני-אדם להעדיף מקבלי החלטות עם רמת סיכון גבוהה יותר שמשיגים ביצועים נמוכים יותר, כגון השיפוט האנושי, וזאת בתחומים שמתאפיינים באי-וודאות.

"התוצאות הללו מצביעות על כך שכדי לשכנע בני-אדם להשתמש באלגוריתמים בתחומים שיש בהם אי-וודאות מובנית לא צריך לחכות לשיפור בטכנולוגיה או לרגע שבו אלגוריתמים ישיגו ביצועים טובים יותר מאשר היום", סיכמו החוקרים. "ככל שנהיגה, קבלת החלטות רפואיות וחיזוי אירועים פוליטיים וכן קבלת החלטות בתחומים נוספים מכילים מעצם טבעם אי-ודאות מובהקת, בני-אדם אינם מוכנים להשתמש אפילו באלגוריתמים הטובים ביותר כדי לקבל את ההחלטות הללו. ההשלכות של הסירוב הזה משמעותיות, שכן החברה לא תפיק את מלוא התועלת מהקדמה הטכנולוגית בתחומים רבי משמעות אך עתירי אי-ודאות עד שבני-האדם יסכימו להשתמש באלגוריתמים לצורך הפקת תחזיות בתחומים של אי-ודאות מובהקת".

איננו אומרים לנהגים חדשים את מי לדרוס אם ייתקלו במצב שבו הם יאלצו לקבל החלטה. המאמץ העיקרי הוא ללמד אותם לצמצם כל סיכוי לפגוע בכל אדם שהוא - ואת זה יש ליישם ביחס למכוניות ללא נהג

אבל... האם למכונות יש אתיקה?

מאמר נוסף שהתפרסם לאחרונה, בכתב העת Perspectives on Psychological Science, בוחן את הבהלה ביחס למה שמכונה "דילמות של היעדר נהג", שבהן כלי רכב אוטונומיים צריכים לקבל החלטות אתיות רבות סיכון במהלך נסיעתם, כמו למשל להחליט במי לפגוע ואת מי להציל (כלומר הולך רגל או נוסע). לפי ד"ר ג'וליאן דה פרייטס (De Freitas) וחוקרים אחרים, הדאגות הללו הן הסחת דעת מבחינה הנדסית ומבחינת המדיניות: "איננו מלמדים בני-אדם לנהוג על ידי כך שאנחנו אומרים להם את מי לדרוס אם ייתקלו במצב שבו הם יאלצו לקבל החלטה. הסיבה לכך היא שתכנון לקראת מצב לא סביר, שאי-אפשר לאתר אותו וגם אי-אפשר לשלוט עליו יהיה הסטה של המאמץ העיקרי, שהוא ללמד נהגים חדשים את מה שאנחנו אכן מלמדים אותם: לצמצם כל סיכוי לפגוע בכל אדם שהוא". החוקרים טוענים שאותה המטרה צריכה להיות מיושמת בתחום המכוניות ללא נהג.

מקורות

Alvarez, G. A., Anthony, S. E., Censi, A., & De Freitas, J. (2020). Doubting Driverless Dilemmas. Perspectives on Psychological Science, 15(5),1284-1288. https://doi.org/10.1177/1745691620922201

Bharti, S., & Dietvorst, B. J. (2020). People Reject Algorithms in Uncertain Decision Domains Because They Have Diminishing Sensitivity to Forecasting Error. Psychological Science, 31(10), 1302-1314. https://doi.org/10.1177/0956797620948841

המאמר פורסם במקור ב-Association for Psychological Science. כל הזכויות שמורות לאלכסון.

תרגם במיוחד לאלכסון: אדם הררי

תמונה ראשית: באסטוניה מאמינים בכלי רכב ללא נהג - טכס השקת מיניבוס אוטונומי, מטעם נשיאות אסטוניה. תצלום: Arno Mikkor - EU2017EE

מחשבה זו התפרסמה באלכסון ב על־ידי APS Observer.


תגובות פייסבוק

2 תגובות על אלו שצודקים כמעט תמיד

01
תומר

בפועל אנשים יאמינו בתחזיות אם קיימת הסכמה לגבי אמינותן. נניח, אם בדיקת מחלה כלשהי שמערבת אלגוריתם באבחון ידועה כאמינה מאוד (קודם כל בקרב המומחים) רוב האנשים יאמינו לתוצאות.