הגיע הזמן לשדרג את הגורילה

בחקר הטבע האנושי אסור לנו לחשוב שהאדם הוא מכונה. בחינה חדשה של ניסוי מכונן דורשת מאיתנו להקדיש תשומת לב לתשומת הלב
X זמן קריאה משוער: 22 דקות

ניסויים מדעיים אינם מושכים לרוב תשומת לב רבה. אבל "הגורילות שבינינו", ניסוי שערכו בשנת 1999 הפסיכולוגים האמריקנים דניאל סימונס (Simons) וכריסטופר שברי (Chabris), ואשר עסק בתשומת לב ויזואלית, הפך לניסוי קלאסי. בספרו "לחשוב מהר, לחשוב לאט", זוכה פרס הנובל דניאל כהנמן הדגיש את הניסוי הזה וטען כי הוא חושף דבר מה מהותי על אודות המוח האנושי – את העובדה שבני אדם "עיוורים למה שגלוי וברור, וכי אנחנו גם עיוורים לעיוורון שלנו". הטענה של כהנמן מתאימה בדיוק לרוח השלטת כיום במחקר הקוגניטיבי, ואפשר אפילו לומר כי היא מספקת הגדרה נאה לכלכלה ההתנהגותית. הכלכלן סטיבן לויט (Levitt) אמר על כלל עבודתו של כהנמן עצמו כי "המשפט האחד הזה מסכם תובנה מהותית ביותר". התחושה כי בני האדם הם עיוורים לחלוטין מזינה גם את ההתלהבות מהבינה המלאכותית (AI), בעיקר מיכולתה להחליף את השיפוט האנושי הפגום והנוטה לטעויות.

האם בני אדם באמת עיוורים מלראות את מה שגלוי וברור בפניהם? מחקרים אחרונים טוענים את ההפך

אבל האם בני אדם באמת עיוורים מלראות את מה שגלוי וברור בפניהם? מחקרים אחרונים טוענים את ההפך. ממחקרים אלה עולה כי טענה זו – שהיא מהותית כל כך בתחום מדעי המוח, הכלכלה ההתנהגותית ועתה גם הבינה המלאכותית – היא שגויה. אז איך יתכן שטענה רבת השפעה כל כך היא מוטעית כל כך?

בוא נתחיל בבחינה זהירה של הניסוי הקלאסי של סימונס וצ'בריס, ונראה כיצד ניתן אולי להגיע ממנו למסקנה אחרת, ואולי חיובית יותר, בנוגע לטבע האדם. בניסוי, הנבדקים מתבקשים להתבונן בסרטון קצר ולספור את מספר מסירות הכדורסל. המשימה נראית פשוטה לגמרי. הצופים נדרשים לספור את ההתמסרויות בין חברי הקבוצה הלובשים חולצות לבנות, אך גם להתעלם ממסירות של לובשי החולצות השחורות – דבר המקשה על המשימה ומייצר הסחת דעת אמיתית. אם לא התנסיתם במשימה הזו בעצמכם, שקלו את האפשרות לנסות לפני שתמשיכו לקרוא.

בניסוי הזה ישנה מלכודת קטנה. בזמן שהנבדקים מנסים לספור את מסירות הכדור, אדם לבוש בתחפושת של גורילה חוצה באיטיות את המסך. העובדה המפתיעה היא שכשבעים אחוזים מן הנבדקים כלל אינם רואים את הגורילה. כשהם מתבוננים בסרטון בפעם השנייה, הם המומים לגלות שהחמיצו משהו כל כך ברור. הסרטון ובו גורילת-ההפתעה נצפה מיליוני פעמים ביוטיוב – מספר מדהים ביחס לניסוי מדעי. גרסאות שונות של ניסוי הגורילה, כמו "דוב המהלך הליכת ירח" זכו גם הן לתשומת לב רבה.

ובכן, קשה להתווכח עם הממצאים של ניסוי הגורילה עצמו. רוב האנשים שצופים בסרטון אכן אינם מבחינים בגורילה. אבל האם מכאן נובע בהכרח כי הניסוי מדגים – כפי שטענו שני עורכי המחקר וגם כהנמן – כי בני אדם "עיוורים למה שגלוי וברור"? ניתן לפרש את ניסוי הגורילה בצורה שונה לחלוטין.

דמיינו שאתם מתבקשים לצפות שוב בסרטון, אבל הפעם מבלי לקבל הנחיות מראש. אחרי שצפיתם, דמיינו שאתם מתבקשים לדווח מה ראיתם. אתם עשויים לומר שראיתם את השחקנים מתמסרים בכדור. סביר מאוד שהבחנתם בגורילה. אבל אם שמתם לב לדברים הללו, מותר להניח שישנם דברים אחרים שלא שמתם לב אליהם. בסרטון נראים דברים רבים ברורים מאוד, שניתן, עקרונית, לשים לב אליהם ולדווח על כך: המספר הכולל של מסירות הכדור, המגדר או המוצא האתני של המשחקים המתמסרים בכדור, מספר הצעדים שכל משתתף במשחק צעד. אם תחפשו, תגלו שיש בקליפ עוד הרבה מאוד דברים גלויים לעין: צבע השיער של המשתתפים, בגדיהם, רגשותיהם, צבע השטיח (בז'), האות S המרוססת ברקע וכן הלאה.

מבחינה מדעית, כשאנו שואלים מה בולט ומה גלוי מאליו, יש להתחשב במידת הרלוונטיות, או במילים אחרות, לתהות למי הדבר גלוי וברור ולאיזו מטרה

בקיצור, רשימת הדברים הברורים והגלויים לעין בסרטון הגורילה ארוכה מאוד. וזו הבעיה: אנחנו יכולים לקרוא לזה כשל המובן מאליו. כשל זה מתקיים, משום שישנם בסרטון הזה דברים רבים שגלויים לעין. אבל החמצה של אחד מהם אינה יכולה לשמש בסיס לטענה כי בני האדם הם עיוורים. הניסוי בנוי כך שבני אדם אינם שמים לב לגורילה, משום שדעתם מוסחת בעת שהם סופרים התמסרויות בכדור. הם שקועים במטלת הספירה, ולכן לא מפתיע שלא שמו לב לגורילה. במבט לאחור, הגורילה בולטת וקל להבחין בה.

אבל מבחינה מדעית קשה מאוד להגן על עצם המושג של היות דבר מה בולט ויזואלית או ברור וגלוי מאליו, משום שיש להתחשב במידת הרלוונטיות, או במילים אחרות, לתהות: למי הדבר גלוי וברור ולאיזו מטרה?

כדי להבין טוב יותר את כשל המובן מאליו וכיצד אפילו מדענים נחשבים מסוגו של כהנמן התקשו להתמודד איתו, נדרש מידע נוסף. ההתמקדות של כהנמן במה שגלוי וברור לעין נובעת ישירות מן הרקע שלו ומהכשרתו המדעית בתחום הקרוי פסיכופיזיקה. הפסיכופיזיקה עוסקת בעיקר באופן שבו המוח ממפה גירויים מהסביבה, בעיקר בהתבסס על מאפיינים ממשיים של הגירוי ולא על מאפייני המוח או טבעו. מנקודת המבט של הפסיכופיזיקה, מה שגלוי וברור – או כפי שנהוג לכנות זאת בספרות המדעית, מה שניחן ב-"בולטות", Salience – נובע ממאפיינים ומתכונות אינהרנטיים לגירויים הסביבתיים עצמם: כמו גודל, ניגודיות, תנועה, צבע או מידת ההפתעה שהם מעוררים. בהרצאה שנשא בעת שהוענק לו פרס נובל בשנת 2002, כהנמן כינה את אלה "אבחנות טבעיות". ומנקודת מבט זו, כן, הגורילה אכן צריכה להיות גלויה וברורה לכל מי שצופה בסרטון. אבל מנקודת מבט כזו, פרטים רבים אחרים בסרטון – כפי שציינתי קודם – אמורים גם הם להתבלט.

נימאייר, אווילס, ספרד, אדריכלות, פרופורציות

לאילו פרטים ולאילו פרופורציות אנחנו מצפים? מרכז נימאייר ב-Avilés, ספרד. תצלום: חואן גומס

אז אם ניסוי הגורילה אינו מדגים את העובדה שבני אדם עיוורים למה שגלוי וברור בפניהם, אז מה בדיוק הוא מוכיח? איזו פרשנות חלופית ניתן להעניק לו, ומה הוא מספר לנו על תפישה, קוגניציה והמוח האנושי?

מה שבני אדם מחפשים – להבדיל ממה שבני אדם רק מביטים בו – הוא שקובע מה ברור וגלוי להם

הפרשנות החלופית אומרת שמה שבני אדם מחפשים – להבדיל ממה שבני אדם רק מביטים בו – הוא שקובע מה ברור וגלוי להם. בולטות אינה ברורה מאליה. או כפי שאמר שרלוק הולמס: "אין דבר מטעה יותר מעובדה מובנת מאליה". זה אינו טיעון נגד עובדות או בעד "עובדות אלטרנטיביות" או משהו כזה. זהו טיעון הנוגע למה שניתן לראות אותו כגלוי וברור, למה וכיצד. תראו, בולטות תלויה במה שנחשב רלוונטי לשאלה או מטלה מסוימות. במקום לדווח בפסיביות או לקלוט כל דבר הניצב מולנו, בני האדם – וכך גם אורגניזמים אחרים, כמובן – מחפשים דברים, בצורה פעילה. המשמעות (המנוגדת לזו שמוצאת הפסיכופיזיקה) היא שהתפישה מונעת בכוחם של תהליכים היוצאים מן המוח אל העולם ולא כאלה היוצאים מן העולם אל המוח. את ניסוי הגורילה עצמו ניתן לפרש באופן שיתמוך בטענה הזו, כניסוי המראה כי מה שאנו רואים תלוי בציפיות ובשאלות שלנו, במה שאנחנו מחפשים, בשאלה שעליה אנחנו מנסים לענות.

לכאורה, נדמה שמדובר בפרשנות שאינה מחדשת הרבה, בעיקר כשמשווים אותה לטענה המרעישה לפיה בני אדם "עיוורים למה שברור וגלוי בפניהם". אבל זוהי פרשנות קיצונית יותר משנדמה. פרשנות כזו של ניסוי הגורילה מציבה את בני האדם במרכז הבמה בכל הנוגע לתפישה, במקום לראות בהם מי שרק קולטים את סביבתם. היא אומרת כי מה שאנו רואים אינו פונקציה ישירה של מה שנמצא מולנו (האבחנות הטבעיות של כהנמן), או מה שאנו קולטים באופן פסיבי כאילו היינו מצלמות – אלא הוא נקבע על ידי מה שקיים במוחנו, למשל על ידי השאלה שעליה אנחנו חושבים. אנשים אינם שמים לב לגורילה, לא משום שהם עיוורים, אלא משום שהם נתבקשו – במקרה זה, על ידי המדענים עצמם – לשים לב למשהו אחר. השאלה – "כמה מסירות כדור" (ממש כמו כל שאלה: "איפה המפתחות שלי?") – מדרבנת אותנו לראות היבטים מסוימים של מה שחשוף לעינינו, על חשבון דברים רבים אחרים.

נחש, פיתון, אוסטרליה, Jungle Carpet

נחש: נראה שאנחנו מחווטים להבחין בו תמיד, גם כשהוא איננו. במקרה זה, פיתון מסוג Jungle Carpet. תצלום: דייויד קלוד

הביולוג יאקוב פון אוקסקול (von Uexküll) טען כי לכל המינים, ובכלל זה לבני האדם, יש צורה ייחודית של Suchbild – המונח הגרמני המציין דימוי מקובע של מה שאנחנו מחפשים. אצל בני אדם, הדימוי הזה כולל את השאלות, הציפיות, הבעיות, התחושות או התיאוריות שאנו מעלים, אשר בתורם בונים ומכוונים את המודעות שלנו ואת תשומת לבנו. בשנת 1966, הפילוסוף קרל פופר ביצע ניסוי לא פורמלי שנועד להוכיח זאת. במהלך הרצאה באוניברסיטת אוקספורד, הוא פנה אל הקהל ואמר: "לצורך הניסוי, אבקש שמדי פעם תסתכלו. אני מקווה שכולם תשתפו פעולה ותסתכלו! אבל אני מרגיש שלפחות חלקכם, במקום להסתכל, תרגישו צורך עז לשאול: 'במה אתה רוצה שנסתכל?'". פופר הסביר לאחר מכן את התובנה שלו באשר לתצפיות: "כי מה שאני מנסה להראות הוא שכדי להסתכל ולהבחין, אנחנו חייב להעלות במחשבתנו שאלה מוגדרת, שבנוגע לה נוכל להכריע באמצעות התצפית שלנו".

העולם אינו אומר לנו מה חשוב, הוא רק מגיב לשאלות. כשאנו מביטים ומבחינים, אנחנו בדרך כלל מכוונים אל משהו, לעבר הצורך להשיב על שאלות מסוימות או לספק סקרנות או לפתור בעיות

במילים אחרות, לא קיימת תצפית ניטרלית. העולם אינו אומר לנו מה חשוב, הוא רק מגיב לשאלות. כשאנו מביטים ומבחינים, אנחנו בדרך כלל מכוונים אל משהו, לעבר הצורך להשיב על שאלות מסוימות או לספק סקרנות או לפתור בעיות. "כל התצפיות חייבות לאשש או לשלול הנחה", כך ניסח זאת צ'רלס דארווין בשנת 1861. בדומה לו, חוקר תולדות האמנות ארנסט גומבריך הדגיש בשנת 1956 את תפקיד "חלקו של הצופה" בתצפיות ובתפישה.

במילים פשוטות, ראיית האדם כמרכזי לתפישה אינה יכולה להתיישב עם ההנחות המוקדמות של כהנמן בנוגע למה שברור וגלוי, על פיהן הבולטות היא פונקציה של מאפיינים אמיתיים של הדברים שמולנו (גודלם, צבעם, הניגודיות שלהם) מבלי להכיר ב-Suchbild, בנטייה הקוגניטיבית או בטבעו של התופש. כהנמן צודק באומרו שלטבע יש תפקיד, אבל זהו טבעו של האדם או של האורגניזם התופש, ולא האיכויות הטבעיות או המהותיות של האובייקט או של הדבר הנתפש. זהו שינוי קיצוני. המספר העצום של "דברים" שנמצאים מולנו אינו מאפשר קליטה מקיפה או אובייקטיבית של מה שנמצא בשדה הראייה שלנו. הבעיה, כפי ששרלוק הולמס ניסח זאת, "נמצאת בעובדה שישנן יותר מדי ראיות. הנתונים החשובים כוסו והוסתרו על ידי המידע הלא רלוונטי". לכן, נוכח הבעיה של יותר מדי ראיות – שוב, חשבו על כל מה שניתן למצוא בסרטון הגורילה – בני אדם מנסים להתמקד במה שעשוי להיות רלוונטי כדי להשיב לשאלות מסוימות. אנחנו מקדישים את תשומת לבנו למה שעשוי להיות חשוב ושימושי.

חור, מנהרה

במה אנחנו מבחינים? תלוי מה אנחנו מחפשים: מנהרה? חור? לבנים במבנה פתוח? סל קלוע? גרם שמים? תצלום: ולנטן לקוסט

גישות התנהגותיות מעניקות למדענים עצמם נקודת מבט אלוהית כמעט, שממנה הם יכולים להצביע על הכשלים האנושיים

אם נראה בעיוורון או בהטיות את המאפיין העיקרי של הטבע האנושי, לעולם לא נוכל להגיע אל התובנות העמוקות יותר. עם זאת, כדאי להכיר בכך שניתן לראות את התמקדותו של כהנמן בעיוורון ובהטיות האנושיות – שהתבססה על עבודתו של הרברט סיימון משנות החמישים על רציונליות מוגבלת – כשיפור למודלים הכלכליים המייחסים יכולות תפישה כמעט אלוהיות לפעילים בשדה הכלכלי. ההנחה הזו מוטמעת בתוך היפותזת השוק היעיל, אשר – כפי שטען הכלכלן ג'יימס ביוקנן בשנת 1959 – מניחה "שהצופה הוא יודע כל". תפישותיהם של השניים מייצגות שני קצוות, ומגחיכות את ההכרה והשיפוט האנושיים. בקצה אחד אנו מוצאים את הכלכלה שמניחה ידיעת כל מתמשכת, שבה לכל מה שגלוי וברור (ורלוונטי) יש מחיר. כמאמר השנינה: אין על המדרכות שטרות של 500 דולר, משום שפועלים כלכליים רואי-כל ממהרים לחטוף אותם משם. בקצה השני ישנה הכלכלה ההתנהגותית, שמתמקדת בהטיות ובעיוורון האנושי, על ידי כך שהיא מצביעה על ההטיות או על הדברים הגלויים שבני האדם אינם רואים.

אבל גישות התנהגותיות מעניקות למדענים עצמם נקודת מבט אלוהית כמעט, שממנה הם יכולים להצביע על הכשלים האנושיים. אפשרות שלישית – שנידונה קודם לכן – מתמקדת בתפקיד התבונה האנושית בהעלאת שאלות, ציפיות, הנחות ותיאוריות שמסבירות את הסביבה. גישה זו היא שמעניקה לאנושות מעמד ראוי, במקום להיכנע לתפישות מגוחכות – יודעות כל או עיוורות – של ההכרה ושל הטבע האנושי. וגישה זו גם נקשרת לגישה שהציע אדם סמית' בשנת 1759, כשטען כי "על לוח השחמט הגדול של החברה האנושית, לכל כלי יש עיקרון משלו המנחה את תנועותיו". או כפי שאמה רוטשילד סיכמה בספרה משנת 2001 Economic Sentiments, סמית' ניסה למצוא "תיאוריה של אנשים עם תיאוריות". ניתן להנגיד זאת בקלות לתיאוריות התנהגותיות שמתמקדות בטיפשות האנושית הנפוצה, במקום להניח שאנשים הם בעלי היגיון או אינטליגנציה בעלי משמעות.

למעשה, ההתמקדות הנוכחית בעיוורון ובהטיות אנושיות – בכל תחומי הפסיכולוגיה, הכלכלה וחקר המוח – תרמה לנטייה הנפוצה לייחס למחשבים ולבינה מלאכותית עליונות על פני השיפוט האנושי. כפי שטען כהנמן בהרצאה שנשא בשנה שעברה: "קשה מאוד לדמיין שעם מספיק נתונים, יישארו דברים שרק בני אדם יוכלו לעשות". הוא אפילו הציע תפישה לפיה עלינו "להחליף בני אדם באלגוריתמים בכל מקום שאפשר". משום שבני אדם הם עיוורים ומוטים, ואינם מסוגלים להפריד תפל מעיקר, קבלת החלטות אנושית צריכה להימסר יותר ויותר לידי מחשבים ואלגוריתמים. האתוס הזה עודד את ההתלהבות הגדולה באשר לבינה מלאכותית וכליה הנלווים כמו הרשתות העצביות או הלמידה העמוקה. חסידי המחשבה הזו אף טוענים שביג-דאטה ושיטות חישוב הקשורות בו ישנו את טבע המדע. למשל, בשנת 2008 כריס אנדרסון, שהיה אז עורך כתב העת Wired העז להכריז על "קץ התיאוריה", משום ש"שטפון הנתונים הופך את השיטה המדעית למיושנת". מה שנניח על אודות הטבע האנושי, יקבע, כמובן, את סוג המדע שבו נעסוק, וגם יעצב את סוגי השאלות שעליהן נבקש ממנו לענות.

מחשבים ואלגוריתמים – אפילו המתוחכמים ביותר – לעולם לא יוכלו לדעת מה עשוי להיות רלוונטי

אולם מחשבים ואלגוריתמים – אפילו המתוחכמים ביותר – אינם יכולים להתמודד עם הטיית המובן מאליו. במילים אחרות, הם לעולם לא יוכלו לדעת מה עשוי להיות רלוונטי. חלק מן החסידים הראשונים של הבינה המלאכותית הבינו את המגבלה הזו (למשל, מדעני המחשב ג'ון מקארת'י ופטריק הייס, במאמרם משנת 1969, הדן ב'ייצוגיות' ובבעיית המסגרת). אבל בעיה זו נשכחה נוכח האופוריה הנוכחית שעוררו תהליכים של עיבוד נתוני עתק ושטפי מידע עצומים. ניתן לראות זאת בדוגמאות פשוטות כמו מה שקורה למכונית ללא נהג של גוגל הפוגשת בצומת רוכב אופניים שעומד במקום ומדווש בלי להתקדם. מחשבים עושים רק את מה שהמתכנתים אומרים להם לעשות, ואין להם יכולות לדמיין או יצירתיות שיאפשרו להם לאלתר. ניתן, כמובן, לשנות אלגוריתמים עוד ועוד כדי להתמודד עם מצבים חדשים ולא צפויים. אבל הדבר תובע התערבות אנושית, וכמעט שאינו קורה באופן עצמאי.

אופניים, BMX, פעלולים

מה יראה אלגוריתם של בינה מלאוכתית? רוכב אופניים? איש מהלך? מסה מעופפת באוויר? תצלום: גוסטבו סמבלי

הידיעה במה להתבונן, מה עשוי להיות רלוונטי ואיזה מידע ללקט בכלל, אינה מטלה למחשב – זוהי מטלה אנושית. מצדדי הבינה המלאכותית כיום מתעלמים מכך שתצפיות ותפישה מונעות בכוחן של שאלות ותיאוריות. השיטה המדעית מדגימה זאת היטב. וכך גם ההיסטוריה של המדע. הרי רבות מן התגליות המדעיות החשובות ביותר נולדות לא כתוצאה מהררי מידע או יכולות חישוב אדירות, אלא משאלה או מתיאוריה.

אלברט איינשטיין אמר: "האפשרות להבחין בדבר תלוי בתיאוריה שבה משתמשים. התיאוריה היא שקובעת מה אפשר לראות"

כדי להדגים זאת, חשבו על אייזק ניוטון. התצפית שלו, כשראה תפוח נופל – כפי שסיפר לחברו ויליאם סטקלי (Stukeley) – הייתה שגרתית ופשוטה לגמרי. מותר להניח שעוד לפני ניוטון, לא מעט תפוחים וחפצים אחרים נראו נופלים. אבל רק בזכות השאלה של ניוטון וההנחה שלו, התצפית הפשוטה הזו הפכה פתאום לרלוונטית ומשמעותית. המדע גם מדגיש כי אפילו הדברים הגשמיים הנראים ברורים וגלויים לעין אינם פשוטים ומובנים מאליהם. ניוטון הראה כיצד אור שמש "לבן" הוא מטעה, ומורכב ממשהו אחר. במקום לסמוך על ביג-דאטה או על מחשבים, ניוטון ביצע את מה שמכונה experimentum crucis, תצפית יחידה מבעד לפריזמה, במקום לעבד מיליוני נתונים – הוא פעל על סמך תחושה, היפותזה ותיאוריה. בשיטה זו, הוא הראה כי ספקטרום של צבעים מרכיב את האור הלבן. התיאוריה הקדימה את הנתונים ואת התצפית, ולא להפך. באותו אופן, תיאוריות על יקום הליוצנטרי העניקו לתצפיות "הברורות" שאמרו כי השמש מקיפה את כדור הארץ – או למסלולי הכוכבים הנסוגים (כפי שהם נראים מכדור הארץ) – משמעות חדשה ושונה לגמרי.

בקיצור, כפי שאלברט איינשטיין אמר בשנת 1926: "האפשרות להבחין בדבר תלוי בתיאוריה שבה משתמשים. התיאוריה היא שקובעת מה אפשר לראות". הדבר נכון לגבי גורילות החובטות בחזן בכוח ממש כמו שהוא נכון לגבי המאמצים לחקור את טבעה של המציאות.

האופן שבו אנחנו מפרשים את ניסוי הגורילה עשוי להיראות כמו סוג של מבחן רורשאך. האופן שבו מפרשים ממצאים תלוי במה שמחפשים. מצד אחד, ניתן לראות בניסוי הוכחה לעיוורון. אך מצד שני, הוא מראה כי בני אדם בוחנים מראות בצורה מונחית, בהתבסס על שאלות ותיאוריות שעולות במחשבתם (או כאלה שנמסרו להם). האופן שבו אנחנו מפרשים את הניסוי אינה עניין שולי כלל וכלל. החשש הוא שהעיסוק ההולך וגדל של מדעני התנהגות רבים – בתחומי הפסיכולוגיה, הכלכלה וחקר המוח – בעיוורון ובהטיות גורם למדענים לחפש הוכחות לעיוורון ולהטיות אנושיות. הדגשת ההטיות והעיוורון היא בהחלט עיסוק מדבק ונחמד. והטענה כי בני האדם לוקים בעיוורון למה שגלוי וברור כמובן נחרטת בזיכרון בקלות רבה יותר מפרשנות שפשוט אומרת כי אנשים עונים לשאלות. אבל ישנה סכנה כי העיסוק הבלתי פוסק של מדענים בעיוורון יכתיב את סוגי הניסויים שהם יבצעו, ואת מה שיראו, יחפשו, את מה שיתמקדו בו ואת מה שיגידו. וכשיחפשו אישוש לעיוורון ולהטיות, הם ימצאו אותם.

אגס

גם הוא נצפה נופל מעץ, לפניו ניוטון ועד ימינו. תצלום: אמירול אסלאם

תכנון וביצוע ניסויים מדעיים כמו ניסוי הגורילה מעלים בעיה. ממש כפי שכהנמן, במכתב גלוי שפורסם בכתב העת Nature בשנת 2012, העלה תהיות בנוגע למספר ממצאים בספרות המדעית הנוגעים להטרמה, ניתן להעלות שאלות בנוגע לפרשנות ולבניית מחקרים המצביעים על עיוורון והטיות אנושיות. אבל בעוד שכהנמן קורא לשחזור רחב היקף של מחקרים בתחום ההטרמה, הטיעון כאן אינו שאנו צריכים מחקרים או נתונים נוספים כדי לוודא שאנשים אכן מתעלמים לגמרי מגורילות גלויות לעין. במקום זאת, אנחנו צריכים פרשנות טובה יותר ותיאוריות טובות יותר. הרי מידע ומחקרים נוספים יאששו את ממצאי הגורילה. אבל הנושא החשוב יותר הוא הפרשנות של ממצאי הגורילה, ושל מבנה הניסוי שהניב אותם.

ישנם מאפיינים של המוח האנושי שהם מהותיים יותר מעיוורון והטיות

הנחת יסוד לפיה קיים בטבע האנושי "עיוורון למה שגלוי וברור לעין" מטה מראש את סוג הניסויים שיוצרים החוקרים, את מה שמדענים יוצאים לראות ולחפש, ואת האופן שבו הם מפרשים את ממצאיהם. וחשוב מכל, ההנחות בדבר עיוורון או הטיות אנושיות הופכות את המדענים עצמם לעיוורים והם אינם יכולים לראות את ההיבטים האחרים, החיוביים יותר, של הטבע האנושי וההכרה האנושית. מכאן שהבעיה נמצאת בשלב קדום, בשאלות שנשאלות מראש ובהנחות המוקדמות של המדע. כלומר, אם התיאוריה שלנו מתמקדת בהיבט מסוים של העיוורון וההטיה האנושיים, ואם אנחנו יוצרים ניסויי מעבדה שנועדו להוכיח זאת (או לחפש אירועים שבהם הדבר מתרחש באופן טבעי), אז כן, סביר שנמצא הוכחות. אבל ברור שישנם מאפיינים של המוח האנושי שהם מהותיים יותר מעיוורון והטיות. והמרדף אחר הטיות ועיוורון גם הוביל לעיוורון מגוחך, כמו הטענה שהשמיע בשנת 2013 הפסיכולוג קית' סטנוביץ' (Stanovich) ולפיה, "בני אדם הם לעתים פחות הגיוניים מדבורים" וחיות אחרות. סוג כזה של היגיון עמד מאחורי ספרים כמו Nudge (משנת 2008) שכתבו ריצ'אד טאלר (Thaler) וקאס סאנסטין (Sunstein) או The Rationality Quotient (משנת 2016) שכתבו ריצ'ארד ווסט (West), מגי טופלק (Toplak) וסטנוביץ', המנסים ללמד יחידים להיות פחות עיוורים ומוטים.

ברור כי יש לשבח מאמצים לתקן התנהגות ולדחוף אל הכיוון הנכון תהליכי קבלת החלטות המועדים לטעויות. אבל במקרים רבים, קשה לבטוח בהמלצותיהן של תיאוריות המתמקדות בהטיות באשר להתנהגות הנכונה או ההגיונית. חשבו על דוגמה פשוטה. משחק האולטימטום הוא משחק נפוץ המשוחק במעבדות שבהם נערכים ניסויים בכלכלה ובפסיכולוגיה. אנשים מתחלקים לזוגות ולאחד מבני הזוג ניתן סכום כסף, נניח עשרה דולרים. האיש שקיבל את הכסף צריך החליט איזה חלק ממנו יקצה לאיש שאליו צוּות. אם האחר יקבל את הכסף, שניהם יוכלו לשמור את חלקם – אם ידחה אותו, איש מהם לא יקבל כסף.

ישנם כלכלנים האומרים כי הסכום ההגיוני או הנכון שיש לתת לאדם האחר הוא הסכום המזערי, אולי רק סנט אחד. המעשה ההגיוני או הנכון של המקבל יהיה לקבל את הסכום, אפילו אם מדובר בסנט בודד. אחרת הוא אינו נוהג בהיגיון. הרי סנט אחד טוב יותר משום דבר. בחיים האמתיים, כמובן, בתרבויות ובהקשרים רבים, אנשים חורגים מאוד ממה שכלכלנים רואים כהתנהגות הגיונית – נותנים סכומים גדולים יותר ומסרבים לסכומים קטנים. חלק מהכלכלנים יכנו התנהגות זו חסרת היגיון ומוטה. אבל פרשנות יותר הגיונות היא שהאנשים הללו מתנהגים בהתאם לנורמות המתאימות, להקשרים תרבותיים, למצבים ולאנשים שעימם הם מוצאים את עצמם מתקשרים. ממש כמו בניסוי הגורילה, אותו מידע ואותם ממצאים מתאימים לטיעונים מנוגדים, לאישוש ההטיות או להבנת המצב במבט אנושי יותר.

אגוז קוקוס, חלב קוקוס, קוקוס

עניין של הקשר: אגוז קוקוס הוא מקור לחלב קוקוס, כלי קיבול, חומר גלם לבנייה וגם כסף. תצלום: דרק סטורי

המאמצים הכנים לתיקון העיוורון האנושי צריכים להכיר בכך שתיקונים אלה כרוכים במחיר ובתמורות. הנקודה הטריוויאלית כאן היא שאם אנחנו רוצים לתקן את העיוורון שבגללו איננו מבחינים בדבר מה (כמו הגורילה), אז התיקון יעלה לנו במחיר תשומת הלב לדברים ברורים וגלויים אחרים (למשל, מספר מסירות הכדורים). אבל הנקודה החשובה בהרבה היא שעלינו גם לזהות ולחקור את היכולות האנושיות המופלאות להעלאת שאלות ותיאוריות, שמכוונות מראש את המודעות שלנו ואת התצפיות שלנו. מחקרים שאינם מרפים מהטיות ועיוורון לעולם לא יובילו אותנו להכרה החיונית הזו. במילים אחרות, אם נמשיך לבנות ניסויים שמחפשים ומציגים הטיה ועיוורון – ונוסיף אותם לרשימה הגדולה והגדלה של הטיות קוגניטיביות וצורות של עיוורון – נחמיץ תמיד את היכולות האנושיות המופלאות לשאול שאלות וליצר תיאוריות. במקרה הגרוע, ההיקסמות שלנו מן העיוורון וההטיות משטיחה את בני האדם והמדע למשחק "תופסת" מפוקפק מוסרת.

עלינו לחשוש מכך שמרבית המושגים הללו של בינה מלאכותית מבוססים מלכתחילה על תפישה מוגבלת להחריד של האנושיות, יכולת השיפוט וההיגיון האנושי

כדי להראות עד כמה אנו לועגים כיום ליכולות האנושיות, בשנת 2017, כהנמן סיים את אותה הרצאה בפני ציבור של חוקרים, בטענה כי מחשבים או רובוטים טובים מבני אדם בשלושה מישורים חשובים: הם טובים בהיקשים סטטיסטיים ונכבשים פחות על ידי סיפורים; יש להם אינטליגנציה רגשית גבוהה יותר; והם מפגינים חוכמה גדולה בהרבה מבני האדם. אלה טענות קיצוניות. אמנם אין ספק שפיתוחים בתחום המחשבים והבינה המלאכותית – למשל, למידת מכונה ולמידה עמוקה, רשתות עצביות וניתוח של ביג-דאטה – הם מבטיחים ומלהיבים. מרגש לחשוב על דברים כמו מכונות ללא נהג ותהליכי עבודה אוטומטיים, שבוודאי ישחררו את היכולות האנושיות לטובת מטלות אחרות, יצירתיות יותר. והמחשבה על בינה מלאכותית היא גם מאיימת, ומעוררת חששות בנוגע לאבטלה רחבת היקף, או פחדים ממחשבים בעלי תבונת-על שיחסלו את האנושות (ראו את ספרו של ניק בוסטרום משנת 2004 בנושא זה). כך שישנה סיבה לאופטימיות אבל גם לדאגה.

אבל עלינו לחשוש מכך שמרבית המושגים הללו של בינה מלאכותית מבוססים מלכתחילה על תפישה מוגבלת להחריד של האנושיות, יכולת השיפוט וההיגיון האנושי. הגישות הללו מניחות שחישוביות היא כל מה שיש במוח האנושי. למשל, ראו את ספרו של ריי קורצווייל How to Create a Mind (משנת 2012). הן מניחות שאינטליגנציה ורציונאליות עוסקות בעיקר בהיתכנות סטטיסטית ובחישובים מתמטיים. אם נשווה את יכולת החישוב של בני אדם ומחשבים, ברור שביצועי המחשבים יהיו עליונים. אבל אינטליגנציה ורציונאליות הן יותר מרק חישובים, והן קשורות יותר ביכולת האנושית לראות ולזהות את מה שרלוונטי ביותר.

ההחלטה מה חשוב ומשמעותי, ומה אינו כזה, חיונית לאינטליגנציה ולרציונאליות. וחשיבות ומשמעות נמצאות עדיין מחוץ לתחומי הבינה המלאכותית (כפי שמדגימה הבעיה המכונה בעיית המסגרת). ניתן לתכנת מחשבים לזהות ולטפל במרכיבים מסוימים של העולם – שצריכים להיות מוגדרים בבירור ומתוכננים מראש. אבל לא ניתן לתכנת אותם לייצר תצפיות חדשות, לשאול שאלות חדשנית או להתאים את עצמם באופן משמעותי לנסיבות משתנות. היכולת האנושית לשאול שאלות חדשות, לייצר השערות, לזהות ולמצוא חידושים, היא ייחודית ואינה ניתנת לתכנות. אין חישובים סטטיסטיים שמאפשרים לראות פתאום את מה ששגרתי ולגמרי מובן מאליו באור חדש ושונה קיצונית. זה מקומם של בני האדם.

גאוצנטרי, תלמי, מודל, גרמי שמיים

אינספור תצפיות אישרו זאת: העולם במרכז היקום. מפת היקום לפי המודל הגיאוצנטרי של תלמי, מאת ברטולומאו וליו (1568), הספרייה הלאומית של צרפת. תצלום: ויקיפדיה

האובססיה הנוכחית הנוגעת לעיוורון ולהטיות האנושיות גרמה למדענים עצמם להיות עיוורים להיבטים היותר מועילים ויצירתיים של הטבע והמחשבה האנושיים

אין ספק שהאינטראקציות שלנו עם מחשבים יימשכו בדרכים חדשות ורבות עוצמה. אולם הטענות הבלתי פוסקות כי הבינה המלאכותית עולה על התובנה האנושית – או שהמוח אינו אלא מחשב – מושפעות מאופוריית הבינה המלאכותית שהתפשטה באקדמיה מאז שנות החמישים של המאה העשרים. רבות מן הבעיות הברורות שיש באופטימיות הזו ובמטפורת המחשב נידונו על ידי יוברט דרייפוס לפני שנים רבות בספרו What Computers Can’t Do (משנת 1972). והבעיות ומגבלות המחשוב הוכרו עוד הרבה קודם לכן, למשל על ידי חלוצת המחשוב הוויקטוריאנית אדה לאבלייס (ראו מאמרו של דייוויד דויטש).

לסיכום, דאגתי המרכזית היא שהאובססיה הנוכחית הנוגעת לעיוורון ולהטיות האנושיות – המאפיינת את הכלכלה ההתנהגותית וחלקים גדולים מן המחקר בתחום מוח, הפסיכולוגיה והמחשבים – גרמה למדענים עצמם להיות עיוורים להיבטים היותר מועילים ויצירתיים של הטבע והמחשבה האנושיים. נכון, בני האדם אמנם מחמיצים דברים רבים "ברורים", ונראה כאילו הם עיוורים, כפי שטענו כהנמן ואחרים. אבל לא כל מה שברור הוא גם רלוונטי ומשמעותי. לכן ניתן לראות את העיוורון האנושי כתכונה, ולא כתקלה.

בני אדם מצטיינים להפליא בהעלאת שאלות, יצירת ציפיות, פיתוח השערות ותיאוריות שמכוונות את תשומת ליבם אל מה שרלוונטי, שימושי וחדש. והתכונות הללו של המוח האנושי – היצרנות והיצירתיות – הן שראויות לתשומת לב נוספת. אחרי הכול, היבטים כאלה של המחשבה אחראים בוודאי ליצירתיות משמעותית, התקדמות טכנולוגית, המצאות ושגשוג רחב היקף שאנו רואים כל העת סביבנו. בני האדם ממשיכים, כמובן, לטעות והם אחראים למספר רב של בעיות ופתולוגיות קטנות וגדולות ברחבי תבל. אבל הבנה של היכולות היותר גנרטיביות ויצירתיות של המוח האנושי ראויה לתשומת לב קפדנית, משום שהתובנות שיעלו מכך יסייעו לפתרון בעיות נוספות ויובילו לפיתוחים טכנולוגיים והתקדמות נוספת.

 

אם הגעת עד לכאן....

...יש לנו בקשה קטנה. קוראים רבים נהנים מהתכנים האיכותיים ש'אלכסון' מציע ללא כל תמורה. הפקת כתב העת ברמה כזאת כרוכה בהשקעה רבה של עבודה וכסף: עריכה, תרגום ורכישת זכויות פרסום בחו'ל. אם הערכים והרעיונות ש'אלכסון' מקדם קרובים לליבך ואם יש בך הערכה לעבודתנו אנו מבקשים את תמיכתך כדי להבטיח את הקיימות ארוכת הטווח של כתב העת.

לתמוך באלכסון

טפו פלין (Teppo Flin) מלמד אסטרטגיה בבית הספר סעיד למנהל עסקים של אוניברסיטת אוקספורד. מאמרים רבים שלו פורסמו בכתבי עת המוקדשים לניהול. מאמר זה מבוסס על מחקר בינתחומי בשיתוף מספר חוקרים, ובהם יאן קונדריק (Jan Koenderink), יואכים קרוגר (Joachim Krueger) וטוד צנגר (Todd Zenger). מאמרים נוספים שלו ניתן לקרוא כאן, כאן וכאן.

AEON Magazine. Published on Alaxon by special permission. For more articles by AEON, follow us on Twitter.

תורגם במיוחד לאלכסון על ידי דפנה לוי

תמונה ראשית: קליעה טובה לסל. תצלום: אלין דה נדאי, unsplash.com

Photo by Aline de Nadai on Unsplash

מאמר זה התפרסם באלכסון ב על־ידי טפו פלין, AEON.


תגובות פייסבוק

3 תגובות על הגיע הזמן לשדרג את הגורילה

01
שוגון

לחקור כמה אנשי ייחוס ולהשליך על כל האדם זאת תהיה טעות , אם ניתבונן ניראה שרוב האנשים לא שואלים שאלות ואף עובדים על תגובות משמע בני האדם ברובם עובדים על אוטומט ללא חשיפה למיתרחש באמת וזה שישנם אנשים כגון איינשטין ניוטון או כל אדם אחר ששאל שאלות לא אומר שזה תקף לכלל האדם שרובו תקוע בשיגרת חייו ללא ידיע שיש אפשרות להביט ימינה או שמאל ממסך מחשבו המוצב במרכז שולחנו במשרדו איפה שהוא מעביר 14 שעות ביממה ומה שאני אומר זה שבמיקרה והרוב רדום עיוור לגמרי למציאות האמיתית והרוב קובע ולכן האדם עיוור ברובו וישנם בודדים פחות מאחוז הבטל בשישים מכלל האוכלוסיה אשר שואלים את עצמם ועונים לעצמם וכל השאר רובוטים רדומים העובדים על אוטומט ולא משנה איזה מחקר יעשו זה יהיה רק מידגם שיקרי המסלף את המציאות הברורה שהאדם עיוור כלכך שהעולם מדבר שנים ואומר לאדם להיתעורר ולחדול מלראות את העולם כמשאב ואף להפך להיות מודעים לסביבה לתפחה דרך יצירת פתרונות ומענה לשאלות שמופנות כלפינו רק נותר לשים לב לפתרון=( הגורילה שאיש לא ראה) תודה וסליחה על
התגובה והקבלה

03
משה

כמה כבר יעלה לבצע הניסוי ההפוך ?
לתת לנסיינים לצפות באותו סירטון עצמו , עם הנחייה
לספור כמה אנשים לבושים בתחפושת חולפים ,
ובסוף לשאול אותם כמה מסירות כדור התבצעו .
אין לי ספק ששוב יתגלה שמאה אחוזים מבני האדם
מסוגלים להבחין בגורילה , ולהתעלם ממסירות הכדור ,
למרות שזו רוב הפעילות המתרחשת בסירטון .

אין לי ספק שיהיו גם האידיוטים שיטענו שלנחש
שהיו 5 , 10 , או בערך 20 , זוהי ההוכחה שבני האדם
הינם בורים מתימטית ועדיף להחליפם ברובוטים .
מה לעשות , לא כל האנשים חכמים , וחלק גם צריכים
לפרסם משהו , כל דבר כלשהו , כדי לקבל הפרופסורה .
וכששתי עובדות אלו מתלכדות ...

דרך אגב , אם מישהו כבר הולך לשחזר משהו ,
אולי היה כדאי לצלם סירטון דומה , שבו הגורילה
לבושה לבן (אולי דב קוטב) , לניטרול ההסוואה .
ואם עדיין הנסיינים שעסוקים בספירת המסירות
לא מזהים ברובם את החיה החוצה את המסך ,
לצלם סירטון נוסף בו החיה מכדררת (אך לא מתמסרת) בכדור דומה לכדורים שמופיעים בסירטון ,
כך שתתקבל פעילות דומה לפעילות שצריך לנטר .
בצורה כזו נקבל מידרג של "הפרעות" , ונוכל לראות
מתי נבנסת ההפרעה לתחום הקשב של הנסיינים .

מצלמה , צלם , שבעה סטודנטים , מקסימום שעה ,
לא יכול לעלות יותר מאלף ש"ח .
המחקר שמנפץ מסקנות "מחקר הגורילה" -
בטוח יותר ממיליון צפיות ביו-טיוב .