ידידות לא רציונלית

כהנמן וטברסקי בישרו על עידן חדש שבו האדם יכול להבין את האי-רציונליות שלו ולרתום אותה לטובתו. סיפורה של ידידות מופלאה, וסיפורו של תחום מלא הבטחות, שאלות וגם סכנות
X זמן קריאה משוער: חצי שעה

נוכחותם של מדעי ההתנהגות מורגשת כיום בכל מקום. ממצאי הפסיכולוגיה החברתית והכלכלה ההתנהגותית משמשים כעת לקביעת אילו ידיעות חדשותיות נקרא, אילו מוצרים נקנה, באילו ספֶרות תרבותיות ואינטלקטואליות נימצא ולאילו רשתות אנושיות, מקוונות ואמתיות גם יחד, נתחבר. היבטים אחדים של החברה האנושית, שנקבעו בעבר לפי הרגלים ומסורות, ולעתים דווקא בספונטניות ובגחמה, הופכים כעת יותר ויותר לתוצאות מכוונות או בלתי מכוונות של החלטות המתקבלות על בסיס תיאוריות מדעיות לגבי המוח האנושי והרווחה האנושית.

הטכניקות ההתנהגותיות שבהן משתמשים כעת תאגידים פרטיים וממשלות אינן פונות לשכל הישר שלנו. הן אינן מנסות לשכנע אותנו במודע באמצעות נתונים וטיעונים. הן משנות את ההתנהגות שלנו דווקא על-ידי פנייה למניעים הלא-רציונליים שלנו, לדחפים רגשיים ולהטיות לא-מודעות. לוּ הייתה לפסיכולוגים הבנה שיטתית של המניעים הלא-רציונליים האלה, או אז היה בידיהם הכוח להשפיע הן על ההיבטים הזעירים ביותר של חיינו והן על ההיבטים הרחבים ביותר של החברות שאנו חיים בהן.

ממשלות ותאגידים משנים את ההתנהגות שלנו דווקא על-ידי פנייה למניעים הלא-רציונליים שלנו, לדחפים רגשיים ולהטיות לא-מודעותנראה ש-The Undoing Project, ספרו של מייקל לואיס (Lewis), יהפוך בוודאי להבעת ההערכה הפופולרית ביותר לניסיונות המתמשכים האלה להבין את ההתנהגות האנושית ולתקנהּ. הוא מתאר את החברוּת המורכבת והשותפות האינטלקטואלית יוצאת הדופן של דניאל כהנמן ועמוס טברסקי, הפסיכולוגים שעבודתם הניחה את התשתית למדע ההתנהגות החדש. הממצאים שלהם העלו לראשונה את האפשרות שניתן להבין את האי-רציונליות האנושית באופן שיטתי. הם טענו שניתן לצפות את השגיאות המחשבתיות שלנו. כהנמן אומר לנו שהודות לממצאים מפתיעים שונים שהוא וטברסקי מצאו יחד באמצעות סקרים, "אנחנו מבינים כעת את נפלאותיה, כמו גם את פגמיה, של חשיבה אינטואיטיבית". 1

כהנמן הציג את המודל המחשבתי החדש שלהם בפני ציבור ההדיוטות בספרו "לחשוב מהר, לחשוב לאט" (2011), שם הוא מאפיין את המוח האנושי כמנגנון משולב של שתי מערכות חשיבה: מערכת 1, שבה הכול מהיר ואוטומטי, כוללת את האינסטינקטים, הרגשות, הכישרונות הטבעיים שאנו חולקים עם בעלי החיים, וכן את האסוציאציות והמיומנויות הנרכשות. ומערכת 2, אטית ומחושבת, שבזכותה אנו מסוגלים לתקן את הטעויות שמערכת 1 מבצעת.

לואיס מתחיל את תיאור המהפכה האינטלקטואלית הזאת ב-1955, עם כהנמן בן העשרים ואחת שרוקח מבחני אישיות עבור צה"ל ומגלה שאפשר להשיג דיוק מיטבי על-ידי פיתוח מבחנים המסירים, עד כמה שניתן, את תחושות הבטן של הבוחן. הבוחנים השתמשו באינטואיציות של "מערכת 1", אשר היטו את השיפוטים שלהם, והיה ניתן להימנע מהן אילו המבחנים היו מנוסחים ומבוצעים באופן שאינו מותיר מקום לשיפוטים אישיים ולהטיות. בעיני לואיס, זהו חלק מרתק במיוחד בסיפור, כיוון שספרו רב-המכר Moneyball (משנת 2003), סיפר את סיפורו הדומה של בילי בין (Beane), המנג'ר של קבוצת הבייסבול "אוקלנד אתלטיקס", שהשתמש בטכניקות חדשות של ניתוח נתונים כדי לעקוף את השיפוטים האינטואיטיביים של המגייסים האחראים לבחירת שחקנים לקבוצה.

קרב תרנגולים, פיליפינים

מי טוב יותר? למי יש התכונות המנצחות? - קרב תרנגולים בפיליפינים. תצלום: אדם כהן.

ספרו של לואיס מהלל גם את סיפורו של הפסיכולוג לואיס גולדברג (Goldberg), עמיתם של כהנמן וטברסקי בתקופה שבה עבדו ביוג'ין, אורגון, שגילה כי אלגוריתם פשוט יכול לאבחן סרטן בדיוק רב יותר מאשר מומחים מיומנים, שכושר השיפוט שלהם נפגע בגלל רגשות ואינטואיציות כוזבות. אלגוריתמים – כללים מוגדרים לעיבוד נתונים – הם הגיבורים הלא מסובכים של הספר, זאת בניגוד לגיבוריו האנושיים, הנוטים להיות רגשנים ועקשנים. האלגוריתמים מתקנים בשקט את הכשלים הקטנים אך רבי-ההשפעה של המחשבה האנושית.

אלגוריתמים – כללים מוגדרים לעיבוד נתונים – הם הגיבורים הלא מסובכים של הסיפור, זאת בניגוד לגיבוריו האנושיים, הנוטים להיות רגשנים ועקשנים

אבל התגלית החשובה ביותר של כהנמן וטברסקי היא "תורת הערך", מכיוון שהיא סיפקה את הנדבך החשוב ביותר לגישת "ההטיות וההיוריסטיקות" של מדעי ההתנהגות החדשים. כהנמן וטברסקי בחנו את האופן שבו אנו מקבלים החלטות בתנאים של אי-ודאות וגילו שהתנהגותנו במצבים אלה סותרת את "תורת התועלת הצפויה" – הנחה יסודית בתיאוריה הכלכלית, שלפיה מקבלי החלטות חושבים באופן רציונלי על מקסום רווחיהם. כהנמן וטברסקי הבינו שהם אינם חוזים בשורה של טעויות אקראיות המתרחשות כשאנשים מנסים לחשוב באורח רציונלי, אלא דווקא בעשרות "הפרות שיטתיות של אקסיומות של רציונליות בבחירה בין הימורים". 2 השגיאות האלה הן הסיבה שבגללה ניתן לנבא את האירציונליות האנושית.

לואיס מתאר כיצד הגיעו כהנמן וטברסקי, בתקופה של סערה פוליטית בלתי פוסקת בישראל, להבנה שרגשות משפיעים רבות על ניתוחי ההסתברות והסיכון האינטואיטיביים שלנו. הם הבינו שאנחנו מנסים בראש ובראשונה להימנע מרגשות שליליים כגון חרטה ואובדן. לואיס אומר לנו שלאחר מלחמת יום כיפור, הישראלים חשו חרטה עמוקה על כך שנאלצו להילחם מעמדת נחיתות כתוצאה מההפתעה הצבאית. אבל הם לא התחרטו על חוסר יכולתה של ישראל לנקוט פעולה שלדעת כהנמן וטברסקי גם יחד הייתה עשויה למנוע מלחמה: להחזיר את השטחים שנכבשו במלחמת ששת הימים. כהנמן וטברסקי חשבו שבמקרה זה, כמו במקרים אחרים, אנשים התחרטו על הפסדים שנבעו מפעולותיהם יותר משהתחרטו על אי-נקיטת פעולה שהייתה עשויה למנוע את ההפסדים האלה. ואם כך קורה תמיד, הרי שהדבר משפיע דרך קבע על השיפוטים שלנו בסוגיות של סיכון.

כהנמן וטברסקי חשבו שאנשים התחרטו על הפסדים שנבעו מפעולותיהם יותר משהתחרטו על אי-נקיטת פעולה שהייתה עשויה למנוע את ההפסדים האלה

המחקר הניב בסופו של דבר את מושג ה"היוריסטיקות", או כללי האצבע, שהפכו מאז למונח מוכר המתאר את הכשלים הייחודיים של החשיבה האינטואיטיבית שלנו. נראה שלחלק מהכשלים האלה יש בסיס רגשי משותף: "אפקט הבעלות" (ייחוס ערך מופרז לדברים שכבר ברשותנו), "הטיית סטטוס קוו ("העדפה רגשית לשימור הסטטוס קוו") ו"שנאת הפסד" (הנטייה לייחס משקל רב יותר להפסדים פוטנציאליים מאשר לרווחים פוטנציאליים בעת הערכת סיכונים) – כל אלה קשורים לשמרנות הטבעית שלנו ביחס לדברים שכבר השקענו בהם.

דגל אמריקני, ירח, אפולו

"הירח בידינו"? דגל אמריקני על הירח: אפולו 16. תצלום: NASA Marshall Space Flight Center

רבות מהיוריסטיקות האלה אנחנו מסוגלים לזהות בקלות בכוחות עצמנו. היוריסטיקת הזמינות מתארת את הנטייה שלנו לחשוב שלדבר מסוים יש סיכוי רב יותר להתרחש אם ממש במקרה ניעשה מודעים מאוד לתופעה. לאחר האחד עשר בספטמבר, לדוגמה, הפחד מטרור היה, בלי ספק, לא פרופורציונלי לסיכוי שפיגועים נוספים יתרחשו (בהשוואה לתאונות דרכים או סיבות מוות אחרות שלא הופיעו בטלוויזיה יומם וליל). אנחנו מתקשים לסנן מידע שאינו אמור בהכרח להשפיע רבות על השיפוטים שלנו.

2

אך על אף שלואיס חושף בפנינו את פגמי החשיבה העמוקים האלה, הנרטיב שלו חדור באמונה שאנו מסוגלים להציל את עצמנו מהם. הוא מתעקש שהידע הפסיכולוגי החדש הזה מאפשר לנו לפצות על האי-רציונליות האנושית בדרכים שעשויות לשפר את רווחתנו. תחום הכלכלה ההתנהגותית, שחלוצו היה ריצ'רד ת’אלר (Thaler) ושורשיו טמונים במחקריהם של כהנמן וטברסקי, שואף להבין איך להפוך אותנו לגרסאות טובות יותר של עצמנו. אם היוריסטיקת הזמינות מעודדת אותנו להתגונן מפני התרחשויות בלתי סבירות בעליל, הרי שניתן להשתמש ב"עידודים" (Nudges) שונים, כמו למשל תזכורות מוחשיות לתוצאות רעות אחרות, סבירות יותר, כדי לדרבן אותנו לבצע שיפוטים מציאותיים יותר. אם הטיית הסטטוס קוו מונעת מאנשים לבצע שינויים שיטיבו עמם, כמו למשל להחליף תכנית פנסיה, נוכל להקל עליהם את הבחירה בחלופה המועילה ביותר, אם נרשום אותם באופן אוטומטי לתוכנית פנסיה שבה משולבת האופציה לפרוש ממנה במידה שירצו.

זה בדיוק מה שעשה קאס סאנסטין (Sunstein) כשפיקח על משרד המידע והרגולציה בממשל אובמה (בהמשך הקים אובמה צוות של מדעי החברה וההתנהגות). הוא רקח "ארכיטקטורות בחירה" או "עידודים" שינחו את בחירותיהם של האזרחים לצד עם המנגנון האינטואיטיבי שלהם. בתיאוריו של לואיס, הפוטנציאל לעשיית טוב באמצעים כאלה הוא מעין קסם, המתנגב כאור ירח לבתיהם של האמריקנים הישנים:

"מיליוני אמריקנים, עובדי ממשל ותאגידים, התעוררו יום אחד בשנות האלפיים וגילו שהם כבר לא צריכים להירשם לתוכניות פנסיה כי הם כבר רשומים".

סאנסטין ות’אלר הגדירו את הפילוסופיה הפוליטית שבבסיס המהלכים האלה כ"פטרנליזם ליברטריאני". הפן הליברטריאני שלה נובע מכך שהם אינם כופים עלינו לבחור מטווח מצומצם יותר של אפשרויות, אלא רק מציגים בפנינו את האפשרויות באור מסוים או מספקים לנו תמריצים שנוטים "לשפר את מצבנו לפי אמות המידה שלנו". טענתם היא שסוג זה של השפעה, אף שלעתים תכופות הוא בלתי מודע, אינו בחזקת מניפולציה או כפייה, כי הם אינם מונעים מהאזרח לבחור אחרת. ספרו של לואיס מסתיים כהילולה חד-משמעית לסוג זה של בחירה מונחית, חופשית-כביכול.

לואיס אינו דן בדרכים שבהן מדע ההתנהגות הזה עשוי לשמש במכוון להונאה ומניפולציה, אף שזה אחד היישומים החשובים ביותר שלו. פרנק בּבֶּצקי (Babetski), אנליסט באגף המודיעין של CIA, שעומד גם בראש קתדרת מקצועות האנליזה בבית הספר לניתוח מודיעני ע"ש שרמן קנט באוניברסיטת ה-CIA, אמר ש"לחשוב מהר, לחשוב לאט" של כהנמן הוא "קריאת חובה" לקציני מודיעין.

בבצקי תיאר את אופן השימוש במדעי ההתנהגות לפרקטיקות של הונאה השייכות למקצועו של קצין המודיעין. 3 לשיטתו, השימוש הזה מוגבל על-ידי אילוצי החוק ויעדי המודיעין הנקבעים בסופו של דבר על-ידי ממשלות דמוקרטיות. אבל בכך הוא חושף גם את פוטנציאל הכפייה הטמון בכלים האלה – פוטנציאל שיהיה זמין לכל מי שמוכן להשתמש בהם.

והנה החשש העמוק יותר שהנרטיב העליז של לואיס מתעלם ממנו לגמרי: חוקרי ההתנהגות טוענים שהם פיתחו את היכולות לתמרן את חיינו הרגשיים באופן שמשפיע על ההעדפות, הערכים והרצונות היסודיים שלנו. במחקרו החדש פיתח כהנמן את הרעיון הזה, שהוצג לראשונה במאמריו המשותפים עם טברסקי (שנפטר ב-1996), לפיו איננו יודעים לשפוט היטב את מידת הרווחה שלנו עצמנו. האינטואיציות שלנו סותרות ובלתי יציבות. בדיעבד אנו עשויים לחשוב שחוויה נתונה הייתה מהנה יותר ממה שמשתמע לפי הדיווחים הסובייקטיביים שלנו בזמן אמת. כהנמן, בשיתוף פעולה עם חוקרים אחרים מתחום הפסיכולוגיה החיובית, עזר לייסד תחום חדש בשם "פסיכולוגיה הֶדונית", המודדת לא רק את ההנאה שלנו, אלא גם את רווחתנו באופן רחב יותר, וזאת כדי לייצר תמונה אובייקטיבית יותר של מצבנו מכפי שמשתקף בדיווחינו הסובייקטיביים.

בנג'י

קפיצת בנג'י. כיף? רווחה? איכות חיים? תצלום: טרבור האנטר

התחום החדש הזה עומד בחזית השילוב בין מדעי ההתנהגות ל"ביג דאטה" - פיתוח נוסף שאינו מתואר בספרו של לואיס, אף שמדובר במהלך שהרחיב משמעותית את טווח השימושים ברעיונות של כהנמן וטברסקי. פסיכולוגים מ-World Well-Being Project של אוניברסיטת פנסילבניה שיתפו פעולה עם מייקל קוסינסקי (Kosinski) ודייוויד סטילוול (Stillwell), פסיכולוגים חישוביים מה-Psychometrics Centre באוניברסיטת קיימברידג' ועם מפתחים מ-myPersonality. הם יצרו אפליקציית פייסבוק שבה נבחנו המשתמשים במבחנים פסיכומטריים. שישה מיליון תוצאות מבחנים נאספו, וארבעה מיליון פרופילים אישיים נוצרו. תוצאות המבחנים האלה שולבו עם כמויות עצומות של נתונים מסביבות הפייסבוק שבהן פעלו המשתמשים. לאחר מכן השתמשו החוקרים באפליקציה שלהם, לצד מדדי אישיות כמו "חמש התכונות הגדולות" - פתיחות, מוכוונות, מוחצנות, נועם הליכות ונוירוטיות. לפי מדדים אלה, למילים כמו "כביכול" ו"בעצם", לדוגמה, יש מתאם עם רמה גבוהה של נוירוטיות. אדריכלי myPersonality טוענים שהמבחנים האלה, יחד עם נתונים אחרים, מאפשרים להם לחזות את רמות הרווחה האישיות שלנו.

תמרון ההעדפות של האדם הפשוט הוביל למסחור התובנות ההתנהגותיות האלההרעיון המנחה את World Well-Being Project הוא שאיננו אמורים להסתמך על השיפוטים הסובייקטיביים המוטעים שלנו לגבי הדברים שיסבו לנו אושר, או לגבי הנתיב שיעניק לנו משמעות בחיינו. אבל אם החוקרים שבוחנים השפעה התנהגותית מנסים להבין כיצד להשפיע על סוג הרווחה שאנו מוקירים ועל סוג האושר שאנו מחפשים, הרי שקשה יותר להבין איך העובדה שאנו מצליחים "לשפר את מצבנו לפי אמות המידה שלנו", אכן משמרת את חופש הבחירה. והחשש הזה אינו אקדמי גרידא. תמרון ההעדפות של האדם הפשוט הוביל למסחור התובנות ההתנהגותיות האלה, שהפכו כעת לנדבך יסודי של הכלכלה הדיגיטלית המעצבת חלק גדול מחיינו.

ב-2007, ואחר כך שוב ב-2008, הנחה כהנמן סדנה ב"חשיבה על חשיבה" שבה השתתפו בין היתר ג'ף בזוס (מייסד אמזון), לארי פייג' (גוגל), סרגיי ברין (גוגל) נייתן מירוֹולד (מיקרוסופט), שון פרקר (פייסבוק), אילון מאסק (SpaceX, טסלה), אֶוון ויליאמס (טוויטר) וג'יימי ווילס (ויקיפדיה). 4 בסדנה שנערכה ב-2008 דיבר גם ריצ'רד ת'אלר על "עידודים", ובסרטונים הזמינים ברשת הוא מתאר ארכיטקטורות בחירה שמנחות אנשים להתנהג באופן מסוים – אך שניתן לנטרל אותן במידה שהאדם אינו מרוצה מהתוצאה. אבל בהרצאה של כהנמן הוא מספר לקהל היזמים מעמק הסיליקון שתחום "ההטרמה" (priming) – קרי בחירת האווירה המתאימה – הוא אחד התחומים החשובים ביותר במחקר הפסיכולוגי, טכניקה שבמסגרתה אנו נותנים לאנשים אותות לא-מודעים (למשל הצגת פרצופי "סמיילי" על צג במהירות כה גדולה שלא ניתן להבחין בכך) כדי להשפיע על מצב רוחם ועל התנהגותם. הוא מתעקש שיש לנו אסוציאציות עקביות וברורות שניתן לנצל באמצעות הטרמה. אם המושאים אינם מודעים להשפעה הלא-מודעת הזאת, הרי שהחופש להתנגד לה מתחיל להיראות תיאורטי יותר ואמתי פחות.

ברור שקהל המנהלים מעמק הסיליקון זיהה את הפוטנציאל המסחרי של הטכניקות האלה, שהרי מאז הן הפכו לחלק בלתי נפרד מהמגזר. בפעם האחרונה שבה ת'אלר וסאנסטין עדכנו את אתר nudges.org שלהם, ב-2011, הוא כלל ריאיון עם ג'ון קני (Kenny) מה-Institute of Decision Making, שבו הוא אומר:

"אי אפשר להבין את הצלחתן של פלטפורמות דיגיטליות כמו אמזון, פייסבוק, Farmville, Nike Plus וגרופון בלי להבין את עקרונות הכלכלה ההתנהגותית... הכלכלה ההתנהגותית תספק עוד ועוד מהתובנות ההתנהגותיות שעליהן מתבססות האסטרטגיות הדיגיטליות".

וג'ף בזוס מאמזון, במכתב לבעלי המניות באפריל 2015, הודיע שלמוכרים באמזון יש יתרון עסקי משמעותי מכיוון ש"באמצעות תוכנית Selling Coach [מאמן המכירות] שלנו, אנחנו מייצרים שטף בלתי פוסק של 'עידודים' אוטומטיים שנוצרו בלמידת מכונה (יותר משבעים מיליון בשבוע ממוצע)". קשה להבין איך שבעים מיליון העידודים האלה מותירים ללקוחות אמזון חופש מלא לשנות, לאחר התעמקות ומחשבה מודעת, את הכיוון שבו מעודדים אותם לפעול.

גם פייסבוק אימצה את התובנות ההתנהגותיות המתוארות על-ידי כהנמן ות'אלר, ואף ספגה ביקורת רבה על מחקרי ה-priming שהיא מבצעת. ב-2012, צוות ה-Core Data Science שלה, לצד חוקרים מאוניברסיטת קורנל ומאוניברסיטת קליפורניה בסן פרנסיסקו, התנסה בהטרמה רגשית בפייסבוק. מבלי ששבע מאות אלף המשתמשים המעורבים בניסוי יהיו מודעים לכך, וזאת כדי לראות אם שינויים ב"פיד" האישי שלהם יגבירו את הנימה החיובית או השלילית בפוסטים שהם כותבים. כשהדבר נחשף ב-2014, רבים מאוד ראו בו מניפולציה פסיכולוגית שאינה מתקבלת על הדעת. אבל פייסבוק הגנה על המחקר בטענה שהסכמתם של המשתמשים לתנאי השירות היא בחזקת הסכמה לניסויים מהסוג הזה.

אמזון

אמזון: מי מחליט? תצלום: טים לי

ניית'ן מירוולד (Myhrvold), סמנכ"ל הטכנולוגיה של מיקרוסופט לשעבר, שהשתתף בסדנה של כהנמן ב-2007, הפך אחר כך ליועץ בחברת הייעוץ של כהנמן עצמו, TGG Group, שבראשה עמד ויקראם פנדיט (Pandit), מנכ"ל "סיטיבנק" לשעבר. לפי אתר החברה, היא שואפת "לחלץ את הידע הטמון בביג דאטה", "לתכנן... ארכיטקטורות בחירה", ו"להפחית את הרעש בקבלת החלטות" (כלומר לחסל את חוסר העקביות הנובע משיפוטים סובייקטיביים סותרים בתוך ארגונים).

האתר אינו מונה את לקוחותיה של TGG, אף שמאמרים שפורסמו בשלב מוקדם מזכירים פגישות גישוש עם "דויטשה בנק". לצד הביג דאטה, מדעי ההתנהגות הפכו לכלי חזק להפליא בעולם העסקים והפיננסים, וכהנמן לא התכחש ליישומים האלה. ספרו של לואיס מסתיים בהתרגשות השורה על הסלון של כהנמן כאשר הטלפון מצלצל בוקר אחד בחודש אוקטובר 2002, ואנו מצפים להכרזה על זכייתו זכה בפרס נובל על עבודתו עם טברסקי. אבל הסיפור שבו רעיונותיהם משנים בשקט את עולמנו החברתי, יחד עם הנתונים שאנו מספקים, טרם סופר במלואו.

מאז ההפתעה בבחירות לנשיאות ארה"ב בשמונה בנובמבר 2016, הסיפור הקסום המתאר כיצד מדע ההתנהגות הופך את העולם למקום טוב יותר, התחלף בסיפור אפל יותר שתפס את מקומו בדעת הקהל

מאז ההפתעה בבחירות לנשיאות ארה"ב בשמונה בנובמבר 2016, הסיפור הקסום המתאר כיצד מדע ההתנהגות הופך את העולם למקום טוב יותר, התחלף בסיפור אפל יותר שתפס את מקומו בדעת הקהל. רבות דובר על כך שהצוות של טראמפ, כדברי ג'ארד קושנר, "שיחק Moneyball" עם הבחירות [כלומר פעל בשיטות שתוארו בהקשר זה לעיל]. אתרי חדשות טענו כי בשעה שהצוותים של אובמה וקלינטון השתמשו במדיה חברתית, בניתוח של נתונים ובפילוח מדויק מאוד של מסרים, הצוות של טראמפ – כך לפי פורבס – "התעמק בסוגיות של 'תפירת' מסרים, מניפולציה של תחושות ולמידת מכונה". אם מניפולציות זדוניות מסוג זה נשמעות לכם מופרכות, אפנה את תשומת לבכם להתרברבויותיה של חברת Cambridge Analytica, חברת בת של SCL Group הבריטית, שאותה העסיקו אנשי טראמפ כדי לעשות את כל הדברים האלה בשבילם.

החברה, שבדירקטוריון שלה יושב האסטרטג הראשי של טראמפ, סטיב באנון  (Bannon), הואשמה על-ידי העיתונות גם בתוצאות משאל העם, הברקזיט, שנערך בבריטניה ביוני 2016. אלכסנדר ניקס (Nix), מנכ"ל החברה, טוען במצגת בשם "כוחם של ביג דאטה ופסיכוגרפיקה" ש-Cambridge Analytica השתמשה במבחני האישיות של חמש התכונות הגדולות, לצד נתונים שנכרו מרשתות חבריות, כדי לייצר "פרופילים פסיכוגרפיים" – מודלים שמנבאים תכונות אישיות – לכל אדם בוגר באמריקה. היא עשתה זאת ללא הסכמתם של קוסינסקי וסטילוול, שפיתחו את הטכניקה. ניקס טוען שלאחר שילוב תוצאות מבחן האישיות עם נתונים על אודות "הגישה" של המצביעים – כמו דפוסי הוצאות באשראי, העדפות צרכניות, לייקים בפייסבוק ופעילות אזרחית ופוליטית – יש ברשות החברה 4,000-5,000 "נקודות דאטה" על כל מצביע אפשרי.

במצגת יש מעידה מעניינת: ניקס אומר שמאות אלפי אנשים מילאו את השאלונים של החברה שלו, אבל הוא גם טוען שיש לו מספר כזה של "נקודות דאטה" על כל אמריקני בוגר. כלומר, או שמדובר בדברי רהב ריקים, או שמסתתר כאן סיפור טורד מנוחה בנוגע לאופן השגת המידע הזה. ובכל זאת, ניקס טוען שהם יכולים להשתמש בנתונים האלה, לצד "עוגיות", נתונים מחברות כבלים וכלי מדיה אחרים, כדי לפלח קהלים באופן מדויק ביותר ולתפור להם מסרים משכנעים, שכוחם טמון בכך שהם מתבססים על טכניקות של מדע ההתנהגות.

בתארו את שיטות השכנוע "ההתנהגותיות" של החברה שלו, ניקס נותן דוגמה ובה הוא מספר על בעלים של חוף פרטי שרוצה להרחיק ממנו את הציבור הרחב. אותו אדם יכול, לפי ניקס, להציב שלט "אינפורמטיבי" המנסה להציג גישה מסוימת, כמו למשל: "החוף הציבורי נגמר כאן: שטח פרטי". או שהוא יכול לנסות "לגעת במוטיבציה חזקה ובסיסית הרבה יותר", ולהציב שלט שאומר: "אזהרה: נצפה כריש". לטענת ניקס, איום הכריש יהיה יעיל יותר. בדומה לכך, בסרטונים שיצרה הזרוע המחקרית של החברה, Behavioral Dynamics Institute, מתוארות אסטרטגיות הפונות ישירות לפחדים ולתשוקות הבסיסיים שלנו בשיטות שתואמות את תובנות הכלכלה ההתנהגותית אך שאינן בוחלות, לכאורה, להשתמש בשקרים או בחצאי-אמיתיות כדי להשפיע על המניעים של מערכת 1.

לפי ניקס, שיטה זו לאיתור התנהגותי מדויק של יעדים (microtargeting) היא השיטה שבה השתמשה החברה כשעבדה בקמפיין של טד קרוז. אבל חשוב לזכור שהסרטון הזה, שכבר נדון רבות, הוא בעצם סרטון שיווקי.

טכניקות התנהגותיות, microtargeting וניתוח נתונים – כל אלה אינם תופעות חדשות בקמפיינים פוליטיים, כפי שהראה סשה אייזנברג (Issenberg) בספרו The Victory Lab: The Secret Science of Winning Campaigns (משנת 2012). פרופילים פסיכוגרפיים מדויקים ומפורטים הם מוצר שכל מנהלי הקמפיינים רוצים, ולכן ניקס טוען שזה מה שהוא מוכר. היו שהטילו ספק בכך שהצוות של טראמפ בכלל השתמש בטכניקות האלה, אף שאתר Cambridge Analytica העלה מאמרים הטוענים שכן. ונשמעו גם ספקות לגבי יעילותם בפועל של הטכניקות הפסיכוגרפיות שניקס מתאר. 5

טד קרוז

קריקטורה של טד קרוז. תצלום: DonkeyHotey

בלתי אפשרי לאמת את הטענות של חברות כמו Cambridge Analytica מכיוון שאין לנו קבוצת ביקורת, אלא רק נתונים תצפיתיים מעורפלים מהסוג שניתן להשיג בסביבה "רועשת" מאוד. אבל זה לא אומר שככל שנמעיט את השימוש שלנו במידע שניתן לבחון באופן מדוקדק ונעבור להסתמך על מניפולציות לא-מודעות, לא עלול להתפתח איום על הדמוקרטיה.

בין שטענותיה של Cambridge Analytica נכונות ובין שלא, עצם קיומן של חברות כאלה מלמד אותנו דבר מה חשוב לגבי העלייה במשקלה של השפעה לא-מודעת על הקמפיינים הפוליטיים של ימינו, על חשבון משקלם של טיעונים מושכלים. חברת TGG Group של כהנמן אינה מעורבת בעסקי ההשפעה הפוליטית, אבל לפי אייזנברג, ב-2006 החלה קבוצה פרטית מאוניברסיטת קליפורניה בלוס אנג'לס בשם Consortium of Behavioral Scientists, שנוהלה על-ידי הפסיכולוג קרייג פוקס (Fox) וכללה את כהנמן ות'אלר, לשכנע דמוקרטים שהם צריכים לעשות שימוש במדע ההתנהגות. חשאיותה של הקבוצה נבעה מחששות לגבי האופן שבו יוזמות כאלה יתקבלו בציבור. אבל כעת האסטרטגיות ההתנהגותיות גלויות לכול ונמצאות בכל מקום. המונח "תעמולה" הוחלף ב"גישה התנהגותית לתקשורת משכנעת שמובילה לתוצאות הניתנות לכימות".

חברות כמו SCL Group טוענות שיש ברשותן כלי נשק הנדרשים כדי לנצח במאבקים אידיאולוגיים בקנה מידה גדול. אנחנו יכולים לצפות ברשת בסרטון של נייג'ל אוקס (Oaks), העומד בראש החברה, המציג בפני מחלקת המדינה של ארה"ב מצגת מטעם SCL Defense, אחת מחברות הבת שלה. הוא מציין שאנשי הפרסום המסורתיים שפונים לאינדיבידואלים ומגיעים ל-0.6 אחוז מנתח השוק שלהם, נחשבים מצליחים מאוד. אבל תקשורת אסטרטגית דורשת תקשורת קבוצתית: "אין טעם לגייס תמיכה של 0.6 אחוז מהסורים או 0.6 אחוז מאל-קאעידה... אנחנו צריכים לשכנע קהילות שלמות". החלק שבו הוא מתאר את שיטותיו אינו זמין לצפייה.

הטענה ש-SCL Group מסוגלת לעשות זאת היא יוצאת דופן, אפילו בשביל חברה שצברה ניסיון בתחום באמצעות פעילויות פסיכולוגיות שהוביל סטיב טֵייתם (Tatham), מפקד לשעבר בצי הבריטי. הוא עבד, בין היתר, עם אנדרו מקיי (Mackay), מפקד הכוחות המזוינים של בריטניה באפגניסטן, כדי "לרכוש את תמיכתם ואהדתם" של תושבי אזורים ש"הוחרבו על-ידי פעילות קינטית", זאת באמצעות טכניקות שנגזרו מהכלכלה ההתנהגותית ולוטשו "בזירה". 6

חלק גדול מהטכניקות הרלוונטיות הוצעו על-ידי כהנמן וטברסקי עצמם במאמרם משנת1995, "Conflict Resolution: A Cognitive Perspective". טייתם ומקיי, בספר שכתבו על אודות המיזמים שלהם, Behavioral Conflict: Why Understanding People and Their Motivations Will Prove Decisive in Future Conflict (משנת 2011), מתארים כיצד הם השתמשו בטכניקות האלה במלחמת אפגניסטן. הם בחנו, למשל, את נושא המניעים מנקודת המבט של תורת הערך והבינו שהימנעות מהפסדים חשובה לאוכלוסיות המקומיות יותר מאשר זכייה פוטנציאלית ברווחים. בנייתו מחדש של סכר כּג'כּי בהלמנד, שאמנם הייתה חשובה מבחינה אסטרטגית, נתפשה בעיני המורדים האפגנים כתמריץ רחוק מדי, ולכן הם לא הגבילו את פעילותם סביב הסכר. היה הכרח לייצר תמריצים מידיים יותר. כך הוחלו תובנותיהם של כהנמן וטברסקי בנושא "חכמת ההמון" על סוגיית קבלת ההחלטות ב"שורא" האפגנית ("מועצה", או "אסיפה"), שבמסגרתה הבריטים ניסו לתת את הכוח לבעלי "הרעיונות הנכונים אך הסמכות המועטה ביותר".

שורא, מועצה, אפגניסטן

קבלת החלטות באפגניסטן: מועצת "שורא" כפרית. תצלום: ResoluteSupportMedia

אבל איננו יכולים לאסוף נתונים על הצלחותיהם של היוזמות האלה מכיוון שהגורמים הפסיכולוגים המעורבים כאן מעורפלים, והתרחישים החלופיים שהיו עשויים להתממש מורכבים להפליא. כשהצד המעוניין לשכנע את האוכלוסייה המקומית בצדקת דרכו, מגיע עם טנקים, רובים ורחפנים, וכאשר האוכלוסייה עצמה מפולגת בדעותיה, איננו יכולים לקבוע בקלות עד כמה שיתוף הפעולה עם הכוחות הכובשים נובע מטכניקות התנהגותיות. נכון לעכשיו אין לנו ראיות מדעיות שיעידו כיצד עשוי צבא להשפיע ללא כפייה על התנהגות קבוצתית בקנה מידה גדול באזורי לחימה. והטענות באשר לגיוס תמיכת רוב האוכלוסייה בכל מצב נתון, לא נבחנו כלל.

אף-על-פי-כן, SCL Group, שטוענת כי התמחתה בטכניקות של השפעה התנהגותית ברשת ובשטח גם יחד, חתמה לאחרונה על חוזה בשווי חצי מיליון דולר עם מחלקת ההגנה האמריקנית, ולפי וושינגטון פוסט היא נמצאת כעת במשא ומתן עם ממשל טראמפ לגבי "הגשת סיוע לפנטגון ולסוכנויות ממשל אחרות בנושא תוכנית 'למניעת רדיקליזציה'". 7 החברה טוענת שקיבלה בקשות לשירותיה מכל העולם. וטענה זו, בתורה, תצמיח לבטח מתחרים בכל העולם.

בסביבה לוחמנית יותר, ויציבה פחות, עלינו להקדיש מחשבה רבה יותר ליכולתנו לווסת את השימוש במדע ההתנהגות, ליסודיותו של המחקר הבסיסי בתחום, וכן למניעים הפוליטיים או הפיננסיים של כל יוזמה התנהגותית שאנו שוקלים ליישם או למנוע.

תפישת הפטרנליזם הליברטריאני, שמעוניינת להשאיר את הכלים של מדע ההתנהגות החדש בידיהם של פקידי ממשל ליברלים בלתי מזיקים, נראית כעת מיושנת ותמימה עד מאוד. אין ספק שבסביבה לוחמנית יותר, ויציבה פחות, עלינו להקדיש מחשבה רבה יותר ליכולתנו לווסת את השימוש במדע ההתנהגות, ליסודיותו של המחקר הבסיסי בתחום, וכן למניעים הפוליטיים או הפיננסיים של כל יוזמה התנהגותית שאנו שוקלים ליישם או למנוע.

3

מובן ששיטות שכנוע הפונות למניעים לא-רציונליים אינן תופעה חדשה. ובכל זאת, פסיכולוגים חברתיים רבים חושבים שכהנמן וטברסקי פיתחו תיאוריה מקורית ביותר של נפש האדם, אשר חושפת את מקורותיה הלא-מודעים והשיטתיים של האירציונליות. הדבר מזכיר את האופן שבו דורות קודמים של פסיכולוגיים ראו את מושג הלא-מודע של פרויד. התפישה לפיה הפסיכולוגיה החברתית והכלכלה ההתנהגותית נטועות במחקר יסודי ומקיף מסוג זה, מעניקה תו איכות מדעי למיליוני היוזמות ההתנהגותיות שהושקו ברחבי העולם.

כש"לחשוב מהר, לחשוב לאט" פורסם ב-2011, היו שהשוו בינו לבין הפיתוחים של דקארט, דרווין ופרויד בשעתם. אבל מזה זמן רב פילוסופים מעלים הסתייגויות באשר למודל שתי המערכות שכהנמן מציג בספרו. ב-1981 פרסם ל' ג'ונתן כהן (Cohen) מאמר בשם "האם ניתן להדגים את הרציונליות האנושית בכלים ניסויים?", שבו הוא הציג מספר מהלכים ביקורתיים לגבי עבודתם של כהנמן וטברסקי, אבל הטענה שחילצה מכהנמן תגובה היא זו שאומרת כי איננו יכולים להבחין בקלות בין אינטואיציה לתפקודים קוגניטיביים אחרים – שלמעשה אין לנו ברירה אלא להסתמך על אינטואיציה בתהליכי החשיבה שלנו.

כהנמן דחה את הטענה שישנו סוג של אינטואיציה שאי אפשר להעריך בכלים רציונליים כי "לעתים קרובות אינטואיציות בלתי עקביות מרתקות אותנו". 8

אם האינטואיציות שלנו מתנגשות, יש לפנות לחשיבה רציונלית כדי לברור ביניהן. ובכל זאת, בהגנתו המתמשכת על עמדה זו הוא לא הביא בחשבון את הפרשנות של כהן ופילוסופים אחרים למשמעות המושג "אינטואיציה", ולכן לא הצליח לדבר על סוג האינטואיציה הנדרש [לפי כהן] לצורך קיומו של דיון רציונלי.

כהנמן דחה את הטענה שישנו סוג של אינטואיציה שאי אפשר להעריך בכלים רציונליים

בספרו, כהנמן כותב שהאינטואיציות של מערכת 1 הן מהירות ואוטומטיות, ואילו הניתוח של מערכת 2 הוא אטי ומחושב. במילים אחרות, כאשר הוא מתאר את המהירות והקלות שבה השיפוטים האינטואיטיביים שלנו נוצרים, הוא מציגם למעשה באופן פנומנולוגי. כלומר, הוא מגדירם כשיפוטי בזק. אבל כשפילוסופים מתארים את ההסתמכות שלנו על אינטואיציה, הם אינם עסוקים בפנומנולוגיה של השיפוטים כשלעצמה, אלא בארכיטקטורה של ההצדקה.

הם טוענים שעלינו להסתמך על אינטואיציה במקומות שבהם ההצדקות הדיסקורסיביות שלנו (כלומר הלא-אינטואיטיביות) נתקעות, למשל בחוקי הלוגיקה היסודיים, כמו חוק האי-סתירה, או בחוקי הסקת המסקנות הבסיסיים. איננו יכולים להצדיק את האמונה שלנו בחוקים האלה בלי להעלות שאלות נוספות. ההצדקה שלנו לשימוש בחוקים האלה נסמכת על כך שהם נראים לנו מובנים מאליהם. אי אפשר לקיים דיון רציונלי בלעדיהם. מכיוון שהם הבסיס ההכרחי לכל מהלך מחשבתי מושכל, איננו יכולים לטעון שתפקודים מנטליים שייכים אך ורק למערכת 1 האינטואיטיבית או למערכת 2 המחושבת.

בעיה נוספת מתגלה כאשר אנו מנסים לייחס שגיאות לאוסף מסוים של הטיות שיטתיות, או לכשלים היוריסטיים מסוימים. אם אנחנו רוצים להאשים מישהו שמשתמש במילה כמו "סביר" בכך שהוא מבצע שיפוטים הסתברותיים שגויים, עלינו להיות בטוחים שהוא אכן מתכוון לאותו סוג של הסתברות שתורת ההסתברות המתמטית מתכוונת אליו. אם אנו רוצים להאשים מישהו בביצוע שיפוטים הסתברותיים שגויים כי הוא משתמש בהיוריסטיקה כוזבת, עלינו להיות בטוחים שהסיבה לכך אינה שיש לו אמונות מסוימות המסבכות את העניין, כמו למשל אמונה במזל, או בגורל, או באלוהים.

קובה, דת, אפרו-קובנית, Santería

מאמינה בטקס של דת אפרו-קובנית (Santería). תצלום: מיכייל ון נימווחן

בדומה לכך, כשנדמה שהשיפוטים שלנו מושפעים מגירויים שאינם רלוונטיים – כלומר הטרמות, כמו לדוגמה תזכורת להיותנו בני תמותה שגורמת לנו להימנע מסיכונים – עלינו לשלול מספר גדול מאוד של גורמים סיבתיים פוטנציאליים לפני שנוכל לטעון בביטחון שהטיות אירציונליות כאלה הן מאפיינים יסודיים של מערכת 1. ואם לא פשוט כל כך לחלק את החשיבה לשתי מערכות נבדלות, גם לא יהיה קל כל כך לקחת את האינטראקציה המורכבת שבין הטיות לא-מודעות, אמונות בסיסיות וחשיבה רציונלית, ולפשט אותה לכדי שגיאה שיטתית מובחנת.

אם טיעוני הנגד האלה נכונים, הרי שרבים מהניסויים הפסיכולוגיים שכהנמן מתאר בספרו יהיו בלתי ניתנים לשחזור. ואכן, באותה שנה שבה פורסם הספר התגלע משבר שחזור בתחום הפסיכולוגיה, ובעיקר בתחום הפסיכולוגיה החברתית. הפסיכולוג אולריך שימאק (Schimmack) יצר לאחרונה מדד שחזור המנתח את המובהקות הסטטיסטית של תוצאות מחקרים פסיכולוגיים שהתפרסמו. הוא ושותפיו, מוריץ הינה (Heene) וקאמיני קסאוואן (Kesavan), השתמשו במדד שלהם לבדיקת המחקרים שצוטטו ב"לחשוב מהר, לחשוב לאט" כדי לחזות מה הסיכוי שאפשר יהיה לשחזר אותם, ונתנו ציונים לכל פרק. המחקרים של כהנמן וטברסקי עצמם קיבלו ציונים טובים, אבל רבים מהמחקרים האחרים לא. הפרק העוסק בהטרמה, למשל, קיבל ציון נכשל. 9 כפי שדווח במגזין Slate, הציון הממוצע של הפרקים שנבחנו עד כה הוא C- (נמוך מ-70). 10 כהנמן פרסם תגובה אדיבה לממצאים אלה והביע חרטה על כך שציטט מחקרים שהסתמכו על דגימות קטנות כל כך. 11

נדמה שממצאים אלה הם בגדר קריאת תיגר רצינית על טכניקות שכנוע שמתבססות על גישת "ההטיות וההיוריסטיקות". המחקר הפסיכולוגי עדיין לא זיהה את המנגנונים היסודיים של החשיבה האנושית, ועדיין לא גילה את סודות שטיפת המוח. מכיוון שהמוח האנושי אינו מנגנון יחיד מובחן (בכל אופן, אנחנו עדיין רחוקים מלהוכיח שמדובר במנגנון יחיד מובחן), ומכיוון שאיננו מבינים עדיין את מורכבויותיו, ייתכן שהמחקר הפסיכולוגי לעולם לא יצליח במשימות האלה. חלק מההטיות שזוהו עד כה אפשר לתאר באופן שבכלל לא יגרום להן להיראות כמו נטיות אירציונליות. וחלקן אינן מתקיימות בסביבות שונות ובהקשרים שונים. ההנחה היסודית שקיימות שתי מערכות חשיבה שונות, אינה עומדת במבחן ההוכחה.

מבוך, תלת-ממדי

הדמיה של מבוך תלת-ממדי. תצלום: fdecomite

אבל זה לא אומר שאפשר להתעלם מיוזמות התעמולה המתבססות על מחקריהם של כהנמן וטברסקי. כבר מאות שנים אנו מבינים באופן אינטואיטיבי חלק גדול מטכניקות השכנוע שמיושמות במסגרות תעמולה כאלה. ממשלות, דתות ואמנים השתמשו בהן. 12 אבל עכשיו הטכניקות האלה נבחנות באופן מקיף ומשולבים עם שיטות מתוחכמות לניתוח נתונים. תפישת שתי המערכות הצליחה להקנות מראית עין של לגיטימיות לטכניקות שאחרת היו עשויות להיחשב לכפייה. מערך של מומחים, אלגוריתמים ו"עידודים" מוצג בפנינו כסוג של רציונליות קולקטיבית, שנתמכת באופן מוסדי על-ידי שווקים וממשלות ומתירה בחשאי את התסבוכות האירציונליות שאליהן אנו מכניסים את עצמו באופן בלתי נמנע.

לפי המודל הזה, נראה שמערכת 2, המוטמעת מלמעלה, מסוגלת לשחרר אותנו מכשליה של מערכת 1. אם נדחה את ההבחנה בין שתי המערכות הפסיכולוגיות האלה, הנבדלות-כביכול, ונתמקד במקום זאת במה שאפשר ואי אפשר להצדיק באופן רציונלי, נוכל להכיר בכך שלא רק שהשינוי ההתנהגותי שנכפה עלינו באמצעים בלתי רציונליים אכן שקול לכפייה – לא פחות משינויים הנובעים מהערכות או הצדקות רציונליות – אלא שהוא גם פוגע אט אט ביכולתנו לנתח באופן רציונלי וביקורתי את עולמנו החברתי. מקורות ההשפעה שמעצבים את ההתנהגות החברתית, השווקים והפוליטיקה הולכים ונעשים בלתי נראים, וקשה יותר ויותר לבקרם באופן רציונלי.

תשומת לב מועטה מדי הוקדשה לדרכים שבהן ניתן להתגבר על ההטיות שחוקרי הפסיכולוגיה מזהים – מלבד במקרים שבהם הדבר אמור לעזור לנו לשמור על הביטחון הלאומי ולרפות את ידי הקיצוניים באמצעות כלים לנטרול תופעות כגון הטיית אישור. 13 עדיין אפשר לדמיין כיצד מדע ההתנהגות עשוי לשמש ככלי בניסוי חברתי גדול שמטרתו להעניק לכלל הפרטים בחברה חינוך ציבורי שיפתח את החוש הביקורתי שלהם. אבל ישנו לחץ רב לנצל את האירציונליות של הפרט במקום לחסל אותה, ואולי כבר הגענו למצב שבו לא ניתן לרסן עוד את התוהו שנוצר כתוצאה מהתחרות בין הגורמים המנסים לעשות זאת. בספרו The Undoing Project, לואיס מספר לנו סיפור הטומן בחובו הבטחה להתגברות על הנחות מיושנות. אבל רעיונותיהם של כהנמן וטברסקי זלגו מגבולות חברותם טעונת הרגשות, ועדיין לא ברור מה יהיו ההשלכות.

טמזין שוֹ (Shaw) היא מרצה ללימודי אירופה והמזרח התיכון ולפילוסופיה ב-NYU, ומחברת הספר Nietzsche’s Political Skepticism (משנת 2010).

על הספר:

The Undoing Project: A Friendship That Changed Our Minds, Michael Lewis, Norton, 362 pp.

תורגם במיוחד לאלכסון על ידי תומר בן אהרון

© 2017  New York Review of Books.

תמונה ראשית: רימוני מוח. תצלום: אמיליו גרסיה

מאמר זה התפרסם באלכסון ב על־ידי טמזין שו, The New York Review of Books.

תגובות פייסבוק

תגובה אחת על ידידות לא רציונלית

01
ישלי חוהו

אהבתי
כשה"חשיבה על חשיבה" כוללת את בזוס, את ברין או את פייג' היא מקסימה, שובבה, הם "זיהו את הפוטנציאל" ופייסבוק אפילו קיבלה מכה על גב היד כשניסתה לשחק בנו כך ב2014, עם זאת, כשבאנון המרושע העסיק את קיימברידג' הם גילו שיש לאפשרות הזו השפעה רעה כמו "תוצאות הבחירות בארה"ב או רחמנא לצלן, "הברקזיט באנגליה"

בקיצור - המאמר נהדר, הסאבטקסט פחות, ואני אפילו לא צריך את כהנמן שיספר לי את זה :)