אין נביא במוחנו

תאגידים ומדענים כאחד רואים במוח מכונת חיזוי: לטוב וגם לרע המודל הופך למציאות
X זמן קריאה משוער: רבע שעה

המכונה שהם בנו רעבה. כבר בשנת 2016, המהנדסים של פייסבוק יכלו להתפאר כי היצירה שלהם ״מעכלת טריליוני יחידות מידע בכול יום״ ומפיקה ״למעלה משישה מיליוני תחזיות בשנייה״. ברור שהיום היכולת של פייסבוק להפיק תחזיות גדולה עוד יותר, והאלגוריתמים שלה מייצרים ללא הרף הנחות הנוגעות למוצרים שאתם מעדיפים, החשקים שלכם ועקומת התשוקות שלכם.  עיקר השוק של החברה הוא מה שהפסיכולוגית החברתית שושנה זובוף מתארת כ״מוצרי חיזוי״: ניחושים על אודות העתיד, המלוקטים באמצעות נבירה הולכת ומעמיקה בחיינו ובתודעתנו, ונמכרים לכל מי שרוצה לתמרן את העתיד הזה.

לפי מודל "המוח המנבא", כל התחזיות שהמוח מפיק נארגות לכדי מרקם המציאות שלנו – במילים אחרות, הניחושים שלנו על אודות מה שנראה בעולם הופכים להיות העולם שאנו רואים

עם זאת, פייסבוק ודומותיה אינן הישויות היחידות המקדישות משאבי עתק בניסיון להבין את מנגנוני החיזוי. בדיוק ברגע שהו הרעיון של שליטה באמצעות ניבוי קנה לו אחיזה בתחום התאגידים, הוא גם החל לצבור מספר מרשים של מאמינים בתחום חקר המוח. על פי אחת מאסכולות חקר המוח שהשפעתה הולכת וגוברת – אסכולה שחוקריה עוסקים במה שהם מכנים ״המוח המנבא״ – עיקר הפעילות של האיבר החשוב ביותר בגופנו היא ליצור זרם בלתי פוסק של תחזיות: תחזיות על אודות הרעשים שנשמע, התחושות שנרגיש, האובייקטים שנתפוש, הפעולות שנבצע וההשלכות שיגיעו בעקבותיהן. כל התחזיות הללו יחדיו נארגות לכדי מרקם המציאות שלנו – במילים אחרות, הניחושים שלנו על אודות מה שנראה בעולם הופכים להיות העולם שאנו רואים. לפני כ-400 שנה, כשדקארט הצהיר ״אני חושב משמע אני קיים״, הוא טען כי ההכרה היא בסיסו של המצב האנושי. היום, תחזיות תפסו את מקומה. כפי שניסח זאת חוקר המוח אניל סת׳ (Anil Seth): ״אני חוזה (את עצמי) משמע אני קיים״.

פייסבוק, מסנג'ר

הם חושבים שאנחנו מכונות, וכך הם מתייחסים אלינו - כאל מוצר אלגוריתמי. תצלום: אלכסנדר שאטוב

משום מה, ההיגיון שמתברר כי הוא מפעיל את גופנו, הוא אותו היגיון שמשנה את פוליטיקת הגוף שלנו. מחולל התחזיות (The prediction engine) – הכלי המושגי המשמש את חוקרי המוח המובילים כיום כדי להבין את המהות העמוקה ביותר של אנושיותנו – הוא גם זה שמשתמשים בו התאגידים והממשלות החזקים ביותר. איך זה קרה ומה משמעות הדבר?

פעמים רבות בהיסטוריה בני האדם הבינו את מערכת העצבים במונחים של הטכנולוגיות הנפוצות בתקופתם

הסבר אחד להתלכדות המשונה הזו מקורו בנטייה היסטורית רחבה יותר: לעתים קרובות, בני האדם הבינו את מערכת העצבים במונחים של הטכנולוגיות הנפוצות בתקופתם, כפי שההיסטוריון של המדע מאת׳יו קוב (Cobb) הסביר בספרו משנת 2020 The Idea of the Brain. תומאס הובס, בספרו ״לוויתן״ (משנת 1651), השווה את גוף האדם לבובה מכאנית ״מנועים הזזים בכוחות עצמים באמצעות קפיצים וגלגלים כפי שקורה בשעון״. מהו הלב, שאל הובס, אם לא ״קפיץ, והעצבים האם אינם רק מיתרים רבים...?״ באורח דומה, דקארט תיאר את הרוח החיה הנעה דרך העצבים על פי אותן תכונות פיזיקליות ששימשו לתיאור המכונות ההידראוליות שהוא ראה בתצוגה בגנים המלכותיים הצרפתיים.

הופעתן של מערכות התקשורת האלקטרוניות האיצו את הנטייה הזו. באמצע המאה ה-19, המנתח והכימאי אלפרד סמי (Smee) אמר כי המוח עשוי מסוללות ומעגלים פוטו-חשמליים, המאפשרים למערכת העצבים לנהל עם הגוף ״תקשורת אלקטרו-טלגרפית״. לקראת מפנה המאה ה-20, חוקר המוח סנטיאגו ראמון אי קחאל תיאר את מיקומי המבנים העצביים השונים כ״דומים במידת מה לעמוד טלפון שתומך בכבל המוליך״. ובמהלך מלחמת העולם הראשונה, סדרת ההרצאות החגיגית של המכון הבריטי המלכותי למדעים כללה הרצאה של האנתרופולוג והמומחה לאנטומיה ארתור קית׳ (Keith), שהשווה את תאי המוח למפעילות של מרכזיית טלפונים.

החלטות משמעותיות בתחום אכיפת החוק, הצבא והכלכלה מושפעות יותר ויותר על ידי הערכת אוטומטיות שנפלטות ממחוללי תחזיות

רוב הטכנולוגיות השולטות ברבים מתחומי החיים שלנו כיום אינן הידראוליות או פוטו-חשמליות ואפילו לא טלפוניות או אלקטרו-טלגרפיות. הן אפילו לא חישוביות במובן הפשוט של המילה. הן עוסקות בניבוי, והתשתית שלהן קובעת ומגבילה התנהגויות בכל תחומי החיים. השכבות הישנות נותרו – חיווט חשמלי מעצבב בתים ומקומות עבודה, ומים זורמים אל הכיורים והמקלחות באמצעות צנרת נסתרת מן העין. אבל התשתיות האלה נשלטות כעת על ידי טכנולוגיות חיזוי, ואלה מנחות הובלה לא רק של חומרים אלא גם של מידע. מודלים של תחזיות בונים את מה שאנחנו רואים ברשתות חברתיות; הם משלימים אוטומטית את הטקסטים והמיילים שלנו, מזכירים לנו לצאת לעבודה בזמן ובוחרים את רשימות ההשמעה – שהם הרכיבו עבורנו – אשר להן אנחנו מאזינים בדרך – שהם התוו עבורנו. החלטות משמעותיות בתחום אכיפת החוק, הצבא והכלכלה מושפעות יותר ויותר על ידי הערכת אוטומטיות שנפלטות ממחוללי תחזיות.

אובר, אופניים

האם האופניים של אובר "יודעות" שנזדקק להן כעת ועכשיו? האם הן "יודעות" לאן נרצה לנסוע? תצלום: Nicolas Savignat

"מה שכל מחנך, כל סוהר, כל רופא כל איש כמורה וכל אח בבית משוגעים מבקש מן הפסיכולוגיה הוא כללים מעשיים" - ויליאם ג'יימס

מחוללי התחזיות הללו הכינו אותנו לקבל את רעיון המוח המנבא. כך גם מדע הפסיכולוגיה עצמו, אשר מראשיתו עסק בתחזיות ובשליטה בבני אדם. ״כל מדעי הטבע מכוונים לתחזיות מעשיות ולשליטה, וכיום אין בהם אחד שעושה זאת יותר מן הפסיכולוגיה״, כתב הפסיכולוג ויליאם ג׳יימס בספרו משנת 1892 A Plea for Psychology as a Natural Science. בעיני ג׳יימס, פסיכולוגים יכלו לתרום לחברה אילו, ורק אילו, היו עוזרים לחברה לנהל את חבריה. ״אנו חיים מוקפים בגוף עצום של בני אדם, שמעוניינים ללא ספק בשליטה במצבי התודעה״, אמר ג׳יימס. ״מה שכל מחנך, כל סוהר, כל רופא כל איש כמורה וכל אח בבית משוגעים מבקש מן הפסיכולוגיה הוא כללים מעשיים״.

החזון הזה של האנושיות כצפויה וניתנת לכימות במהותה נוצר במהלך העימות הצבאי במלחמת העולם השנייה. האויב אופיין מאז ומתמיד כחיית פרא או חרק, שיש לצוד או להשמיד, או כנתון סטטיסטי מרוחק. אבל כעת היה משהו חדש שתבע התמודדות: טייס הקרב, המפציץ, משגר הטילים. ״זה היה אויב״, כתב ההיסטוריון פיטר גאליסון (Galison) בשנת 1944, ״שהתמצא בעולם האסטרטגיה, הטקטיקה והתכסיסים, ובו בזמן גם היה בלתי נגיש לחלוטין עבורנו, מופרד מאיתנו באמצעות מרחק, מהירות ומתכת״. תקיפה של אויב כזה, המצויד בטכנולוגיה, חיישנים ומעבדים, היה רעיון מסוכן. בכל פעם שניסת ללמוד על אודותיו, בכל פעם שניסית לחזות את מסלולו ולהרוג אותו, הוא למד יותר על אודותיך. האויב הזה, הסביר גאליסון, לא היה איזו חיה תת–אנושית, אלא ״אויב שהוא אחר ממוכן, תוצר של מדע שמקורו במעבדות המלחמה של MIT ומגוון אוניברסיטאות ברחבי ארצות הברית ובריטניה״. הוא היה בחלקו אדם ובחלקו מכונה – מה שהיו מכונה בשם סייבורג.

בעלות הברית גייסו כל מדע שיכלו נגד האויב הזה, ובכלל זה את מדעי ההתנהגות ומדעי המחשב. אחד הרעיונות המשפיעים ביותר של אותה עת היה מכשיר הקרוי ״חוזה נגד מטוסים״ (anti-aircraft predictor), שנועד לדמות טייס אויב, לצפות את מסלולו ולירות. הגה אותו נורברט וינר (Weiner), מתמטיקאי ומדען מ-MIT. ביחד עם עמיתו ג׳וליאן ביגלו (Bigelow), וינר פיתח לא רק מכשיר אלא תפישה שנודעה בשם ״קיברנטיקה״: דרך להבנת העולם באמצעות לולאות משוב חוזר של סיבה ותוצאה, שבה התוצאות של מעשה משמשות כנתונים לפעולה נוספת, כדי לתקן אוטומטית את הטעויות. כפי שכתב גאליסון:

״הטייס האויב היה כל כך משולב במכונה, שמעמדו האנושי/לא אנושי היה מעורפל. כשנלחמו באויב הקיברנטי הזה, וינר וצוות החלו להגות את מפעילי ההגנה נגד מטוסים של בעלות הברית כדומה לאויב, ומשם הייתה הדרך קצרה לנטישת האנושי והלא אנושי וטשטוש של הגבול בין אדם למכונה. האויב הסרבומכאני הפך, על פי התפישה הקיברנטית של שנות הארבעים [של המאה ה-20], לדגם עבור הפיזיולוגיה האנושית ובסופו של דבר עבור כל הטבע האנושי״.

מסרשמיט 109

במכונה הגרמנית הזאת ישבה מכונה אנושית שמהלכיה נצפו על ידי מכונה אנושית אחרת שהפעילה נגדה מכונה... תצלום: Clemens Vasters, ויקיפדיה

במהלך המלחמה, עוד ועוד מכונות וכלי נשק שילבו בתוכם מערכות היזון חוזר: ״מגוון של מכונות חדשות הופיעו, ופעלו עם כוחות של כיוונון עצמי ותיקון טעויות שכמותו לא היה בעבר״, אמר הפסיכיאטר וחוקר הקיברנטיקה רוס אשבי (Ashby) בספרו Design for a Brain (משנת 1952). אלה היו ״תותחים, טילים ורקטות נגד מטוסים״, והם הותירו בחיילים ובמדענים כאחד את הרושם שלפיו מכונות יכולות לפעול מתוך כוונה. נסו להסיט אותן ממסלולן, וכמו טייס האויב במטוסו, הן יתקנו מסלול ויעוטו עליכם. כשהמשיכו לחקור את תהליכי ההיזון החוזר, וינר ועמיתיו החלו לראות במכונות המסדירות את עצמן ובהתנהגויות אנושיות מכוונות את אותו הדבר עצמו – ואפילו הסבירו דינמיקות ביולוגיות (כמו הומיאוסטזיס) ותופעות חברתיות, במונחים של קיברנטיקה. ובכלל זה את המוח – אשר ״כל תפקודו״, לדברי אשבי, ״הוא תיקון טעויות״.

האויב היה סוג אחד של נושא לתחזיות ושליטה. הצרכן היה סוג נוסף

האויב היה סוג אחד של נושא לתחזיות ושליטה. הצרכן היה סוג נוסף. ג׳ון ב. ווטסון, אבי הפסיכולוגיה הביהביוריסטית בראשית המאה ה-20, טען כי ״מטרתה התיאורטית״ של הדיסציפלינה שלו היא ״חיזוי ושליטה בהתנהגות״ – לטובת צרכיהם של ״המחנך והרופא, המשפטן ואיש העסקים״. לאחר שנתבקש להתפטר מאוניברסיטת ג׳ונס הופקינס בשנת 1920, בעקבות רומן שניהל מחוץ לנישואיו, ווטסון הפך בעצמו לאחר מאותם אנשי עסקים, והצטרף למשרד הפרסום J Walter Thompson  בשדרות מדיסון.

לפני הגעתו של ווטסון, הפסיכולוגיה והפרסום היו רחוקים זה מזה מרחק שמים וארץ. אולם כעבור שנים ספורות בלבד בחברה של ווטסון, כך אומר הביוגרף שלו דייוויד כהן, נשיא החברה נהג להרצות בפני פוליטיקאים ואנשי עסקים בלונדון כי ״פעולות בני האדם ככלל מצייתות לחוקים ממש כמו חומרים גשמיים בבית חרושת״. הביהביוריסטים הראשונים חשבו כי בני האדם הם מכונות קלט-פלט, הפועלים בהתאם לחוקי גירוי ותגובה. הם לא חשבו שיש לבנות דגם של התודעה, אלא רק של הקלט והפלט ההתנהגותי של בעלי חיים וצרכנים שניתן לצפות מראש. ״הקונים הפוטנציאליים היו סוג של מכונה״, כתב כהן. ״תנו לו גירוי מתאים והוא יגיב בתגובה הנכונה, ויכניס את היד לכיס״. משרדי פרסום נהגו לממן ניסויים משלהם שנערכו על ידי מדענים כמו ווטסון, כדי לבחון את החוקים של הצרכנים-מכונות שהיו קהל היעד שלהם, ולהסביר תופעות כמו הרגלי שימוש במוצרים, מסרים ייעודיים ונאמנות למותג.

משרדי פרסום השתמשו בעקרונות אלה כדי למכור לא רק דגני בוקר וסיגריות, אלא גם מועמדים פוליטיים. הפרסומאי הבכיר הארי טריליוון (Treleaven) למשל, בילה כמעט שני עשורים בעולם הפרסום עד שעזב כדי לעזור לג׳ורג׳ וו. בוש לנצח בבחירות הראשונות שלו לנשיאות בשנת 1986. כל כך הרבה פרסומאים הלכו בעקבותיו, עד שהניו יורק טיימס נהג לתאר זאת כ״אחד ממקורות אספקת כוח האדם הגדולים של ממשל ניקסון״.

ניקסון

ריצ'רד ניקסון: הפסיד למערכת סימולציה ב-1960, ולאחר מכן ניצח בעזרתה. כאן הוא נראה לקראת נפילתו (1974). תצלום: ויקיפדיה

הניסיון הראשון של ניקסון להיבחר לנשיאות בשנת 1960 סימל פנייה משמעותית למפעל התצפיות והשליטה התאגידי. חייה ומותה של חברת Simulmatics Corporation המתוארים בספרה של ההיסטוריונית ג׳יל לפור (Lepore) If Then (משנת 2020), מסמלים במובן מסוים את המסלול הזה. כשהחברה פתחה את שעריה בפברואר 1959, במרחק קטנטנן ממשרדי J Walter Thompson, מייסדי התאגיד היו מוכנים למלחמה. הפוליטיקה הייתה שדה הקרב שלהם, וניקסון היה ״האויב הנורא״. כדי להביס אויב חזק כל כך, נשיא החברה אדוארד ל. גרינפילד (Greenfield) היה בטוח שהמועמד הדמוקרטי ג׳ון פ. קנדי זקוק לנשק סודי. ״הפוליטיקה האמריקנית המודרנית החלה עם הנשק הסודי הזה״, כתבה לפור: סימולציות של תחזיות, המכוונת להשפיע על הכול מהתנהגות השוק ועד להצבעה.

הסימולציה נועדה לספק תחזיות ממוקדות על האופן שבו פלחים של האוכלוסייה עשויים להצביע, בהתחשב ברקע שלהם, ובנסיבות הקמפיינים הפוליטיים

כדי לבנות את הנשק הזה – ה״סימולציות האוטומטיות״ שהעניקו לחברה את שמה – סימולמטיק כינסה מדענים בכירים מ-MIT, ג׳ונס הופקינס וליגת הקיסוס. על פי לפור, רבים מן החוקרים ״הוכשרו במדעי הלוחמה הפסיכולוגית״. התוצאה הייתה יצירה של ״מכונת התנהגות מצביעים, סימולציית המחשב של בחירות 1960״, אשר הייתה ״אחד הפרויקטים הגדולים שנערכו אי פעם בתחום מדעי המדינה״. הסימולציה נועדה לספק תחזיות ממוקדות על האופן שבו פלחים של האוכלוסייה עשויים להצביע, בהתחשב ברקע שלהם, ובנסיבות הקמפיינים הפוליטיים. החברה טענה כי ניצחונו של קנדי נגרם בזכותה, אבל נציגיו של הנשיא הנבחר הכחישו כל קשר ל״מוח האלקטרוני״, כפי שכינו זאת העיתונים. סימולמטיקס המשיכה לבצע תחזיות רבות נוספות: היא ביצעה הדמיות של הכלכלה בוונצואלה בשנת 1963 מתוך כוונה למנוע מהפכה קומוניסטית, והפכה מעורבת במחקר פסיכולוגי בווייטנאם, מתוך כוונה לחזות מהומות על רקע גזעי. מיד לאחר מכן, החברה הותקפה על ידי מפגינים שהתנגדו למלחמה, ובסופו של אותו עשור פשטה את הרגל.

ג'ון פ. קנדי, זכויות אזרח

אירוניה אלגוריתמית? הנשיא קנדי נואם על זכויות האזרח (יוני 1963). תצלום: Abbie Rowe, ויקיפדיה

אולם החזון העולמי של סימולמטיקס עדיין חי וקיים. מייסדיה האמינו כי באמצעות מדעי המחשב, הכול אפשרי, וכי ״יום אחד, ניתן יהיה לחזות את הכול – לגרות כל מוח אנושי ואז לכוון אותו באמצעות מסרים ייעודיים כמו טיל מונחה״. תאגידי התחזיות הבינלאומיים של ימינו כמעט הגישו זאת, בעודם קוצרים מידע בקנה מידה עצום ומשתמשים במושגים מדעיים כדי להסביר את הניצול שלהם. היום, הרעיון שהניע את מייסדי סימולמטיקס הפך, במילותיה של לפור:

״למשימתו של כמעט כל תאגיד. לאסוף מידע. לכתוב קוד: אם/אז/כל השאר. לזהות דפוסים. לחזות התנהגות. להורות על פעולה. לעודד צריכה. להשפיע על הבחירות״.

אם התוכנה בלעה את העולם, מחוללי התחזיות שלה עיכלו אותו, ואנחנו חיים בחברה שהם הקיאו מתוכם.

הקשר בין האופן שבו אנחנו מבינים את הביולוגיה שלנו והאופן שבו אנחנו מארגנים את החברה נותר כשהיה, והוא דו כיווני. כשאנשים מתכנסים כקולקטיב, הגוף שהם מרכיבים מובן לעתים קרובות תוך שימוש באותם מושגים וחוקים שאנחנו מחילים על יחידים; באנגלית, המילים ״תאגיד״, ״ארגון״ ואפילו ״שיתוף פעולה״ הגיעו מן השורש הלטיני שממנו הגיעה המילה ״גוף״. ב״לוויתן״, למשל, הובס מאשר כי החברה כי סוג של גוף שבו:

״הריבונות היא נפש מלאכותית, המעניקה חיים ותנועה לגוף כולו; בתי המשפט וגופי שיפוט וביצוע אחרים הם המפרקים המלאכותיים; גמול ועונש (באמצעותם מניעה הריבונות כל מפרק ואיבר כדי שיבצע את תפקידו) הם העצבים, שפועלים כמו בגוף הטבעי״.

לעומת זאת, לעתים קרובות אנחנו כופים את ההיגיון השולט בחברה שלנו על גופנו. ב- Creation: A Philosophical Poem (משנת 1712), הרופא והמשורר ריצ׳רד בלקמור רואה ברוחות חיות פנימיות את הגורם לפעולות ולתחושות של האדם. בשירה של בלקמור חיות כאלה הן ״התצפיתנים של המוח״, שמקבלים פקודות לפטרל באזורים המרוחקים יותר של מערכת העצבים ומאיישים את עמדותיהם בכל ״מעבר אל החושים״. אחרי ששמרו על ״אזורי הספר״, ״הזקיפים העומדים על משמרתם״ של בלקמור חזרו אל המוח רק כדי לדווח ולקבל פקודות חדשות, על סמך מה שראו וחוו. הגוף, בעיני בלקמור, מונע על ידי אותם אזרחים וחיילים המניעים את העולם הפוליטי שהוא היה חלק ממנו, כפי שהחוקרת ג׳ס קייזר (Keiser) טענה.

בעיני חוקרים כיום המוח שלכם הוא סוג של מחלקה פיננסית של חברה אשר בהתאם לתחזיותיה היא מקצה משאבים, מוציאה אנרגיה, מבצעת ספקולציות והערכות ומקווה לקבל רווחים מהשקעות. וכך, לחץ הוא מין ״גירעון״ או ״משיכה״ מתקציב הגוף, ואילו דיכאון הוא פשיטת רגל

היום, חוקרי מוח רבים החוקרים את המוח המנבא משתמשים בכלכלה מודרנית בדומה להיוריסטיקת ההסבר. מדענים התקדמו מאוד בהבנת האופן שבו אנחנו ״מוציאים כספים מטבוליים כדי לבנות מוחות מורכבים המשלמים דיבידנדים בחיפוש אחר התאמה מוצלחת״, כפי שאומר הפילוסוף אנדי קלארק ( Clark) בסקירתו החשובה את המוח המנבא. רעיון המוח המנבא הוא הגיוני משום שהוא רווחי, מבחינה מטבולית. באופן דומה, הפסיכולוגית ליסה פלדמן בארט (Feldman Barett) מתארת את התפקיד המרכזי של המוח המנבא כניהול של ״תקציב הגוף״. על פי ראייה כזו, היא אומרת, ״המוח שלכם הוא סוג של מחלקה פיננסית של חברה״ אשר בהתאם לתחזיותיה היא מקצה משאבים, מוציאה אנרגיה, מבצעת ספקולציות והערכות ומקווה לקבל רווחים מהשקעות. בעיניה בארט ועמיתיה, לחץ הוא מין ״גירעון״ או ״משיכה״ מתקציב הגוף, ואילו דיכאון הוא פשיטת רגל. בתקופתו של בלקמור, המוח היה עשוי מזקיפים וחיילים, שהמלנכוליה הקולקטיבית שלהם הפכה לעצבות של האדם שבתוכו התקיימו. היום, במקום חיילים, אנחנו מדמיינים את המוח כמורכב מסטטיסטיקאים העורכים תחזיות, שהטעויות שלהם הופכות לנוירוזות שלנו. כפי שחוקר המוח קארל פריסטון (Friston) אמר: ״אם המוח הוא ״מכונת היסקים״, איבר של סטטיסטיקה, אז כשהוא טועה, הוא יטעה את אותן טעויות שסטטיסטיקאים היו טועים.

פסל, סלולרי, דייג

אבל מה אנחנו באמת יודעים על המוח? קצת ענווה וזהירות לא יזיקו. תצלום: לורנציו מוראריו.

כוחו של החיבור זה בין כלכלת תחזיות ובין מדעי המוח הוא משמעותי משום שאם לא ניזהר, הוא עלול לעודד אותנו לצמצם את אחינו בני האדם ללא יותר ממכונות. המוחות שלנו לא היו מעולם מעבדי מחשב, גם אם הדימוי הזה הועיל לנו מאוד פה ושם. הם גם אינם, כיום, מחוללי תחזיות והם לא יהיו בעתיד מחשבים קוונטיים. הגופים שלנו אינם אימפריות שמשנעות זקיפים ממקום למקום וגם לא תאגידים שצריכים להרוויח מההשקעות שלהם. במהותנו איננו צרכנים שיש לרמות אותם, אויבים שיש להתקיף או נתינים שיש לחזות ולשלוט בהם. בין אם מדובר בזירת המחקר המדעי או בזירת הריגול התעשייתי, קל היום יותר ויותר לראות את בני האדם כאויבים שיש לנצל. כפי שכתב גאליסון, ״הקישור בין קיברנטיקה (והסייבורג) לנשק, טקטיקות נגד ותפיסת הטבע האנושי כקופסה שחורה אינו מתפוגג לו סתם כך״.

בני האדם אינם רק מכונות, ואפילו לא מכונות מתוחכמות מאוד. אבל כשאנו מדברים על עצמנו ככאלה, אנחנו מסכימים בשתיקה עם התאגידים והממשלות שמחליטים לנהוג בנו כך

האופן שבו אנו רואים את עצמנו הוא משמעותי. כפי שהחוקרת הפמיניסטית דונה האראוויי (Haraway) הסבירה, מדע וטכנולוגיה הם ״הישגים אנושיים הקשורים באינטראקציות עם העולם. אבל בנייתה של כלכלה טבעית על פי יחסים קפיטליסטיים, וניצולה למטרות של שכפול שליטה, היא עמוקה״. בני האדם אינם רק מכונות, ואפילו לא מכונות מתוחכמות מאוד. אבל כשאנו מדברים על עצמנו ככאלה, אנחנו מסכימים בשתיקה עם התאגידים והממשלות שמחליטים לנהוג בנו כך. כשנביאי עיבוד התחזיות מריעים לתחזיות כאילו מדובר בהישג המגדיר את המוח, הם מסתכנים בהענקת אישור חסר ביסוס למערכות שהופכות את הפעולה לאוטומטית – הם מעניקים חזות של אינטליגנציה לחזאים מלאכותיים, בלי קשר למידה שבה התחזיות שלהם גולמיות, מזיקות ומגשימות את עצמן. הם מאיימים בשתיקה להכשיר את האמצעים שבאמצעותם מחוללי תחזיות מעצבים ומתמרנים את הסובייקט האנושי, ובתורם, הם מעודדים אותנו להתאים את עצמנו לתדמית הזו.

שיעור האנטומיה של ד"ר ניקולס טולפ, רמברנדט

"שיעור האנטומיה של ד"ר ניקולס טולפ" (1632), רמברנדט. תצלום: ויקיפדיה

האם אנו ממשיכים להזין את המכונה בחלקים נוספים מעצמנו, רק כדי לראות מה היא תפלוט? מי שולט בכך ומי מרוויח ולאיזו מטרה?

מדענים אולי מאמינים כי הם פשוט בונים כלים מושגיים ומכאניים לתצפית והבנה – את הטלסקופים והמיקרוסקופים של העידן הנוירו-מדעי. אבל קל מאוד להשתמש בכלי התצפית כבכלי נשק ולכוון אותם אל המוני אדם. אם מערכות ניבוי החלו ככלי נשק שנועדו להפוך את בני האדם לבני שליטה בשדה הקרב ובשוק, הדבר מעניק לנו סיבה נוספת לפקפק במי שמעוניינים להשתמש כיום בכלי נשק כאלה. מדענים צריכים לחשוב בזהירות רבה על השימוש הכפול בתיאוריות ובפרשנויות שלהם – בעיקר כשהדברים נוגעים ל״תכנון מחדש של המדע ברוח הקפיטליזם״, כפי שההיסטוריון והפילוסוף פיליפ מירובסקי (Mirowski) טען.

סת׳ כתב כי ״התפישה תעוצב תמיד על ידי יעדים תפקודיים: תפישת העולם (והעצמי) לא ׳כפי שהוא׳ אלא כפי שמועיל לראות אותו״. כל עוד הדבר נמשך, עלינו לשאול: מהו היעד התפקודי של ניסיונותינו לתפוש כעת את התודעה האנושית באורח מדעי? האם הוא עדיין נטוע בגנאלוגיה של התחזית והשליטה? האם אנו ממשיכים להזין את המכונה בחלקים נוספים מעצמנו, רק כדי לראות מה היא תפלוט? מי שולט בכך ומי מרוויח ולאיזו מטרה?

ג׳וזף פרידמן (Fridman) הוא חוקר, מרצה, כותב ומפיק בתחום הוראת המדעים. הוא מומחה בכיר בחברת הביו-טכנולוגיה Ginkgo Bioworks, ומשמש מפיק ומתאם פרויקטים במחלקה לפסיכולוגיה של אוניברסיטת נורת׳ווסטרן.

AEON Magazine. Published on Alaxon by special permission. For more articles by AEON, follow us on Twitter.

תורגם במיוחד לאלכסון על ידי דפנה לוי

תמונה ראשית: מבוך בקובייה. תצלום: TonyMaj, אימג'בנק / גטי ישראל

מאמר זה התפרסם באלכסון ב על־ידי ג׳וזף פרידמן, AEON.


תגובות פייסבוק