האדם החכם בתולדות העולם

ההמצאה המסוכנת ביותר שנולדה במלחמת העולם השנייה היא פצצת האטום, אך כעת נדמה שהמחשב הולך ומדביק את הפער הודות להתפתחויות האחרונות בתחום הבינה המלאכותית. אי אפשר לזקוף את הפצצה וגם לא את המחשב לזכותו או לאשמתו של מדען אחד בלבד. אבל אם מתחקים אחר שני הסיפורים האלה, רואים שבנקודה כלשהי בעבר הם מצטלבים אצל ג'ון פון נוימן (von Neumann), איש אשכולות יליד הונגריה המכונה לעתים האדם החכם ביותר בתולדות העולם. אף שהוא פחות מפורסם כיום ממדענים אחרים בני תקופתו – אלברט איינשטיין, רוברט אופנהיימר, ריצ'רד פיינמן – רבים מעמיתיו חשבו שדווקא הוא המרשים מכולם. הנס בֶּתֶה (Bethe), חתן פרס נובל לפיזיקה ב־1967, אמר: "לפעמים אני תוהה אם מוחו של פון נוימן אינו מרמז לנו על קיומו של מין העולה ביכולותיו על בני האדם".

פון נוימן, שנולד בבודפשט ב־1903, הגיע לארצות הברית ב־1930, וב־1933 הצטרף למכון ללימודים מתקדמים בפרינסטון, ניו ג'רזי. כמו פיזיקאים מהגרים רבים, הוא שימש כיועץ בפרויקט מנהטן ועזר לפתח את מנגנון הפיצוץ של פצצות האטום הראשונות. שבועות ספורים לפני הטלת הפצצה על הירושימה הוא גם פרסם מאמר המציג מודל למחשב דיגיטלי שניתן לתכנות, והמחשב הראשון שהופעל במעבדה הלאומית בלוס אלמוס ב־1952, נבנה לפי אותה "ארכיטקטורת פון נוימן". המחשב ההוא כונה בבדיחות הדעת MANIAC ("מטורף") ורק אחר כך נרקח השם המלא שיתאים לראשי התיבות: Mathematical Analyzer, Numerical Integrator, and Computer ("מנתח מתמטי, אינטגרטור נומרי, ומחשב").

מפעילות מחשב מול מחשב MANIAC I במעבדת לוס אלמוס בשנת 1952. על העמוד מימין תלויה פרסה, למזל. תצלום: המעבדה הלאומית לוס אלמוס (LANL), ארכיון, ויקיפדיה

וזה לא הכול. פון נוימן גם הניח את היסודות המתמטיים למכניקת הקוונטים, תיאר את מנגנון השכפול העצמי הגנטי עוד לפני גילוי הדנ"א, וייסד את תחום תורת המשחקים, שהפך להיות נדבך מרכזי גם בכלכלה וגם בגאו־אסטרטגיה של המלחמה הקרה. כשמת מסרטן ב־1957, אולי בשל חשיפה לקרינה בלוס אלמוס, הוא כבר היה אחד מהיועצים החשובים ביותר של הממשל האמריקני בנושא נשק גרעיני ואסטרטגיה גרעינית. חוליית מאבטחים שמרה על מיטת האשפוז שלו במרכז הרפואי הצבאי וולטר ריד כדי לוודא שלא יחשוף סודות מדינה מתוך הזיותיו.

האם האיש שעזר ליצור את הנשק הגרעיני והבינה המלאכותית ידע שהוא מציב את עתיד האנושות בסכנה? או שמא הריגוש שבגילוי המדעי סחף אותו כל כך עד שלא היה אכפת לו?

מהרומן החדש The MANIAC (משנת 2023) מאת הסופר הצ'יליאני בנחמין לָבָּטוּט (Labatut), עולה כי כינויו של המחשב שפון נוימן עזר לפתח הולם היטב גם את הפיזיקאי עצמו. הרי לעתים קרובות העולם נראה לנו מטורף – אנו מתקשים להבחין בין אמיתי לווירטואלי, כמהים לכוח טכנולוגי שאיננו יודעים כיצד להשתמש בו בתבונה, ומוצאים שוב ושוב דרכים חדשות להרוס את עצמנו – אז אולי בעצם המוחות הגדולים שהמציאו את עולמנו לא היו שפויים לחלוטין בעצמם. אבל האם האיש שעזר ליצור את הנשק הגרעיני והבינה המלאכותית ידע שהוא מציב את עתיד האנושות בסכנה? או שמא הריגוש שבגילוי המדעי סחף אותו כל כך עד שלא היה אכפת לו?

ספרו של לבטוט מנסה לפצח את התעלומה הזאת באמצעות עדויות דמיוניות של אנשים אמיתיים – אחים ומורים, עמיתים ומאהבות – שהכירו את פון נוימן בשלבים שונים בחייו. לבטוט מערבב עובדות ביוגרפיות עם אירועים ופרטים בדיוניים בכל אחד מהשלבים האלה: מימיו של פון נוימן כילד פלא בבודפשט, ועד שהפך לאיש זועם שמוחו הולך ומתפורר על ערש דווי בבירה וושינגטון. לאורך הדרך הסופר גם מתווה בשביל קוראיו ההדיוטות את הרקע המדעי והמתמטי לעבודתו של פון נוימן.

לבטוט מבהיר לנו מתחילת הספר שפון נוימן אינו אדם מן השורה. אימו מנהלת מעקב אחר התפתחותו, כפי שעושים לעתים לתינוקות: "לא בכה אחרי הסטירה של הרופא / מטריד / נראה יותר כמו גבר בגיל העמידה מתינוק". המורה שלו למתמטיקה מספר לכיתה על משפט "קשה להפליא" שאיש לא הצליח להוכיח עדיין, אבל אז הילד מרים את ידו, ניגש ללוח וכותב הוכחה שלמה: "בשנייה אחת הוא עקף את כל שנות עבודתי, שנים רבות... מאותו רגע פחדתי מפון נוימן".

ג'ון פון נוימן, דיוקן מתקופת פרויקט מנהטן. תצלום: LANL, ארכיון רשמי של ארה"ב, ויקיפדיה

'ראיתי בו את היופי הזה, אבל ראיתי גם משהו אחר. תבונה מפלצתית, דמוית מכונה, שהיה חסר לה הרסן שכובל את כל שאר בני האדם' - המורה הפרטי למתמטיקה של פון נוימן

אבל גם כשהרומן מתמקד בדמותו של פון נוימן, המבנה של הרומן משאיר אותו במרחק מה מהקוראים. הוא אינו אדם שאנחנו לומדים להכיר, אלא בעיה שאנחנו צריכים לפתור. הבעיה, כפי שמסכימים כל המסַפרים, היא שגאונותו הייתה מלהיבה ומאיימת בה במידה. "הדברים שהוא היה יכול לעשות. זה היה נדיר כל כך ויפהפה כל כך שהוא העלה דמעות בעיניך", אומר המורה הפרטי שלו למתמטיקה. "ראיתי בו את היופי הזה, אבל ראיתי גם משהו אחר. תבונה מפלצתית, דמוית מכונה, שהיה חסר לה הרסן שכובל את כל שאר בני האדם".

לבטוט נחוש להציג את פון נוימן כדמות פאוסטיאנית, אדם שחרג מגבולות הידע והפך לעל־אנושי, ובה בעת לאנושי פחות. זוהי ההתרחקות הגדולה ביותר של לבטוט מהביוגרפיה האמיתית של פון נוימן, שכן במציאות, נראה ש"המטורף" דווקא הרשים את הסובבים אותו בשמחת החיים שלו. בביוגרפיה שפרסם אנאניו בהטצ'ריה (Bhattacharya) ב־2022, The Man From the Future, פון נוימן מתואר על ידי חברו ועמיתו יוג'ין ויגנר (Wigner) כ"אדם שמח, אופטימי, שאהב כסף והאמין באמונה שלמה בקדמה האנושית". הוויגנר שמופיע בספרו של לבטוט, לעומת זאת, מתאר את פון נוימן כאדם "לוציפרי" ש"חרג מגבולות הסבירות עד שלבסוף איבד את עצמו".

לבטוט מציג לפנינו חזון אפל של המדע המודרני, והוא מעוות את הביוגרפיה של פון נוימן במיומנות רבה כדי לשקף לנו את האפלה הזאת. הגישה הזאת תזכיר ודאי לקוראיו את ספרו הראשון שתורגם לאנגלית, ב־2020, "כשאנו מפסיקים להבין את העולם". ברומן ההוא, לבטוט ערבב עובדות ביוגרפיות עם בדיות מרחיקות לכת ורקם חמישה דיוקנאות קטנים של חמישה גאונים מהמאה ה-20, כולל פריץ הבר (Haber), כימאי שהמציא גם חומרי דישון חדשים וגם כלי נשק כימיים, וּורנר הייזנברג (Heisenberg), מחלוצי מכניקת הקוונטים. הטכניקה הנרטיבית הזאת שואבת השראה רבה מ-ו' ג' זבאלד (Sebald), שאהב להרהר בפרקים משונים ומטרידים מההיסטוריה ולטשטש את הגבול בין עובדה לבדיון.

אבל לבטוט הרבה יותר משוחרר בעיוותים שלו, והם נעשים מופרכים וסוריאליסטיים יותר ככל שהספר מתקדם. הוא מתאר אחדים מהאישים החשובים ביותר במדע במאה ה-20 כאנשים רדופים, שטירופם הוביל אותם למרדף אחר ידע מוחלט. כשאנו מגיעים אל הפיזיקאי הצרפתי לואי דה בּרויי (Broglie), שחווה טראומה בשל התאבדות חברו הטוב ומשלם לאמן מטורף כדי שייצר העתק של קתדרלת נוטרדאם מצוֹאה אנושית, כבר אין ספק שחצינו את הגבול אל מחוזות הדמיון.

לבטוט מספר לנו את סיפורו של המדע במאה ה-20 כמעין משל אפל, אך המשל שלו אינו בדוי יש מאין, אלא עומד על יסודות היסטוריים אמיתיים

אבל הדבר המחריד באמת הוא הזוועות האמיתיות לגמרי שמתוארות ב"כשאנו מפסיקים להבין את העולם". במתקפת הגז הראשונה בהיסטוריה, שהתרחשה במהלך קרבות איפּר (Ypres) ב־1915, באמת צנחו "מאות אנשים לקרקע כשהם מפרכסים ונחנקים מהליחה של עצמם, ריר צהוב עולה מפיהם, ועורם מכחיל ממחסור בחמצן". ואשתו של פריץ הבר, קלרה, באמת ירתה לעצמה בלב ודיממה למוות בזרועות בנה, ככל הנראה בשל האשמה שחשה על חלקו של בעלה בפיתוח נשק כימי. לבטוט מספר לנו את סיפורו של המדע במאה ה-20 כמעין משל אפל, אך המשל שלו אינו בדוי יש מאין, אלא עומד על יסודות היסטוריים אמיתיים.

"כוחות צרפתיים - מצרפת וממושבותיה, מותקפים בגז בידי הגרמנים ב-22 באפריל 1915" (1918), ויליאם רוברטס. תצלום: ויקיפדיה

הספר החדש של לבטוט נפתח בנרטיב קצר בגוף שלישי שאין לו קשר מפורש לחייו של ג'ון פון נוימן, אבל יכול היה להשתלב היטב בספרו הקודם. זהו סיפורו האמיתי של פאול ארנפסט (Ehrenfest), פיזיקאי אוסטרי שהיה חברו של איינשטיין, ושחייו באו אל קצם במעשה מחריד: ב־1933 הוא הרג את בנו ואסיק בן ה־15, שגר במוסד לילדים עם תסמונת דאון, ואז התאבד. ארנפסט חי בהולנד, אך לבטוט טוען שאולי הוא עשה מה שעשה כי פחד מהנאצים, שעלו לשלטון בגרמניה באותה שנה והעבירו חוק חדש המחייב עיקור של בעלי מוגבלויות. לפי ספרו של לבטוט, המעשה של ארנפסט ניבא לא רק את פשעי הנאצים, אלא גם את ההתפתחויות המבעיתות של המדע המודרני. ארנפסט הגיע למסקנה כי זאת הדרך הטובה ביותר להגן על בנו מפני "הרציונליות המשונה החדשה שהתחילה להתרקם סביבם, בינה בלתי אנושית בעליל האדישה לחלוטין לצרכים העמוקים ביותר של המין האנושי". מבחינת ארנפסט, הדבר המטריד ביותר ברוח הזדונית החדשה הזאת הוא שמקורה במדע עצמו, ושהיא "מרחפת מעל ראשי עמיתיו בפגישות ובכנסים, ומביטה מעבר לכתפיהם... השפעה מפלצתית המבוססת על לוגיקה אך בה בעת אין בה גרם של רציונליות, ואף שהיא עודה בחיתוליה, אף שהיא עודה רדומה, אין להכחיש שהיא צוברת כוח ומשתוקקת להגיח אל העולם".

כמו שוליית הקוסם, פון נוימן עוזר לרוח הזדונית של המדע המודרני 'להגיח אל העולם' בלי לחשוב על המחיר שהעולם עתיד לשלם

תגובתו של ארנפסט אמנם מטורפת, אבל לבטוט טוען כי אדישותו של פון נוימן ל"אל־אנושיות" הזאת משקפת טירוף עמוק אף יותר. כמו שוליית הקוסם, פון נוימן עוזר לרוח הזדונית של המדע המודרני "להגיח אל העולם" בלי לחשוב על המחיר שהעולם עתיד לשלם. "הבעיה במשחקים האלה, בכל אותם משחקים נוראים שצצים מתוך דמיונה משולח הרסן של האנושות", מהגגת קלרה, אשתו, "היא שכאשר אנו משחקים בהם בעולם האמיתי... אנחנו מתמודדים עם סכנות שאולי אין לנו הידע או החוכמה להתגבר עליהן".

ספרו של לבטוט ממחיש את הנקודה הזאת בכל מיני דרכים, כולל זיכרון ילדות שניקולס, אחיו של פון נוימן, חולק עמנו. ערב אחד, אביהם הבנקאי הביא הביתה נול ז'אקאר שאפשר "לתכנת" בו דוגמאות אריגה שונות באמצעות כרטיסי ניקוב, שהם גלגול מוקדם של המחשב. יאנוש הצעיר – שמו ההונגרי המקורי של פון נוימן, שאונגלז אחר כך לג'ון – מפתח אובססיה למכשיר הזה. הוא מסרב לאכול ולישון ורוצה רק לשחק איתו כדי להבין איך הוא עובד. עד מהרה, אוחזת בהלה בילד כי הוא מפחד שלא יצליח להרכיב מחדש את הנול, ושייקחו אותו ממנו: "הוא רק אמר שהוא אינו יכול להיפרד מהמכונה". פרטי המקרה בדויים, אבל לבטוט משתמש באירוע כדרך נוחה להציג בפנינו את הפגם המהותי של פון נוימן, וגם לתת לנו שיעור קטן בתולדות המחשב.

מנגנון שליטה בנול דמוי נול ז'אקאר, באמצעות כרטיסים מנוקבים. אוטאר פרדש, הודו. תצלום: סטיב קימברלי, ויקיפדיה

הבדיות שלבטוט טווה כאן מתוך המסגרת העובדתית הרבה פחות פרועות מאלה שמופיעות ב"כשאנו מפסיקים להבין את העולם", ובאופן כללי, The MANIAC הוא יישום הרבה יותר נגיש וקונבנציונלי של הרעיון הבסיסי של קודמו – הניוון המוסרי שביסוד המדע המודרני. אחת הסיבות לכך היא שלבטוט הציב לעצמו הפעם אתגר נרטיבי הרבה יותר קשה: הצגת סיפור חייו של אדם בודד באריכות ולעומק. הוא צריך לספר פרטים על חייו של פון נוימן לקוראים שמעולם לא שמעו עליו, להציג מושגים מורכבים ממגוון תחומי מדע, וגם לקחת את כל המידע הזה ולשזור ממנו משל עגום על ידע ועל חריגה מגבולות.

כל זה אומר שהכישוף הספרותי מופר לעתים בגלל משפטים שנשמעים כאילו הם נלקחו מספר לימוד ("ב־1901, ברטרנד ראסל, אחד הלוגיקנים הבולטים באירופה, גילה פרדוקס חמור בתורת הקבוצות"), ואחרים שהיו מתאימים לקדימונים לקולנוע ("הוא היה האדם החכם במאה ה-20... שמו היה נוימן יאנוש ליוש, אבל הוא מוכר גם כג'וני פון נוימן"). ייתכן כי חוסר האחידות בנימה נובעת גם מכך ש־The MANIAC הוא הספר הראשון שלבטוט כתב באנגלית, ולא בספרדית.

הספר מתאר את עבודתו של פון נוימן על פצצת האטום, אך טוען בתוקף שהישגו האל־אנושי המטריד ביותר הוא הכשרת הקרקע לפיתוח הבינה המלאכותית

הספר מתאר את עבודתו של פון נוימן על פצצת האטום, אך טוען בתוקף שהישגו האל־אנושי המטריד ביותר הוא הכשרת הקרקע לפיתוח הבינה המלאכותית. לקראת סוף הרומן, אנו לומדים על עבודתו של נוימן בנושא "אוטומטים תאיים", המשלבת שניים מתחומי העניין המרכזיים שלו: מחשוב ותורת המשחקים. בספרו Theory of Self-Reproducing Automata, הוא מתאר רשת או "סריג" של תאים שבו כל תא משנה את מצבו – למשל מ"דולק" ל"כבוי", או מצבע אחד לאחר – בהתאם לקלט שהוא מקבל משכניו. ביסודו של דבר, זו הייתה דרך למדל את האופן שבו מערכות יכולות להתפתח מפשטוּת למורכבוּת על בסיס מה שאנו מכנים כיום אלגוריתם, שהוא יישום חזרתי של מערך כללים. לקונספט הזה שלו הייתה השפעה רבה מאוד הן על חקר החיים הביולוגיים והן על הבינה המלאכותית.

לבטוט לא רק מסביר את הבסיס של נושא האוטומטים התאיים, אלא גם הופך את הקונספט הזה לסמל המייצג את חוסר ההבחנה של פון נוימן בין ההפשטה המשחקית של המתמטיקה לרצינות התהומית והמבולגנת של החיים האנושיים. לכן יש תחושה של צדק פואטי כשקלרה, הזועמת על עקשנותו של בעלה, לוקחת עותק מודפס של עבודתו – "רקמה מרהיבה של נקודות וקווים שהצטלבו, התמזגו ואז נתלשו זה מזה כמו שיניו של רוכסן מקולקל" – ומבעירה אותו בפח אשפה. גם זה אירוע מומצא שנועד להמחיש לקח מוסרי: כשהמדע אינו אנושי, לאנושות יש זכות לנקום בו.

אך לבטוט טוען כי בטווח הארוך, ייתכן שלאנושות לא תהיה ברירה אלא להיכנע. אחרי שהוא מסכם את סיפורו של פון נוימן, הרומן עובר לאפילוג ארוך העוסק ב"גו", המשחק הסיני העתיק שבו השחקנים ממקמים בתורות אבני משחק שחורות ולבנות על לוח, כשהמטרה היא לכתר את השטח של היריב וכך להשתלט עליו. ב־2016, לי סה-דול (Se-dol) מדרום קוריאה, אחד המדורגים הבכירים בעולם ב"גו", הוזמן לשחק נגד AlphaGo, בינה מלאכותית שפותחה על ידי חברת DeepMind של אלפבית. גארי קספרוב הפסיד בשחמט ל"כחול עמוק" של איי־בי־אם עשרים שנה לפני כן, אבל שחקני "גו" היו משוכנעים שהמשחק שלהם כל כך מורכב ששום מכונה לא תוכל להשתלט עליו. כמו ספקנים רבים לפני כן ומאז, גם הם התבדו. AlphaGo ניצחה את לי 4-1.

לי סי-דול נגד AlphaGo' שני המתמודדים, זה מול זה, מרץ 2016. תצלום: פרצ'טאי

אחרי שלבטוט מספר את סיפור חייו של נוימן בכמאתיים עמודים, הוא מקדיש את שמונים העמודים האחרונים של ספרו למשחק בין לי ו־AlphaGo. אף שברור לגמרי שמבחינת לבטוט יש כאן נפילת מתח דרמטית, זהו הסיום הראוי לעלילה הטראגית שמתווה הספר. ארנפסט פחד מבואה של תבונה שאינה אנושית, פון נוימן אפשר את בואה, וכעת לי רואה כיצד היא משאירה אותו מאחור.

'מקור הסכנה אינו הרסנותה האדירה של המצאה כזאת או אחרת', אומר אחד הדוברים ברומן, בהתייחס לפון נוימן. 'הסכנה שזורה בדבר עצמו. אין תרופה לקדמה המדעית'

"כשההיסטוריונים של העתיד יחקרו את ימינו וינסו לשים את האצבע על ההבזק הראשון של בינה מלאכותית אמיתית", כותב לבטוט, "ייתכן שהם ימצאו אותו במהלך בודד במשחק השני בין לי סה-דול ו־AlphaGo". המהלך הזה היה כל כך בלתי צפוי עד שנדמה היה כי הוא רומס אלפי שנות מסורת של "גו". אף בן אנוש שצפה במשחק לא הבין מה הצידוק למהלך הזה, ואף על פי כן הוא הוביל לניצחונו של המחשב. בסוף המשחק החמישי, לי כבר איבד כל תקווה לניצחון, ולא היה יכול אלא לדחות את התבוסה. לבטוט מדמיין את תגובתו של אחד משופטי המשחק, שאומר, "אין טעם לשחק עד הסוף אם אתה יודע שאתה תפסיד, נכון?" עכשיו שהבינה המלאכותית מאיימת לייתר את כולנו, ממתכנתים ועד נהגי משאיות, השאלה הזאת רלוונטית ומטלטלת מאי פעם.

ספרו של לבטוט אינו מכריז מפורשות שכל זה באשמתו של ג'ון פון נוימן, ומובן שהוא אינו אשם. מה שמפחיד באמת הוא שאפילו מוח דגול כשלו אינו מסוגל להאיץ או להאט באופן משמעותי את הקדמה המדעית. לולא נולד פון נוימן, מישהו אחר היה כנראה מגלה את תגליותיו בערך באותו זמן, כפי שגוטפריד לייבניץ ואיזק ניוטון המציאו שניהם את החשבון אינפיניטסימלי וכמו שצ׳רלס דארווין ואלפרד ראסל וולאס פיתחו שניהם את תורת האבולוציה. "מקור הסכנה אינו הרסנותה האדירה של המצאה כזאת או אחרת", אומר אחד הדוברים ברומן, בהתייחס לפון נוימן. "הסכנה שזורה בדבר עצמו. אין תרופה לקדמה המדעית".

אדם קירש (Kirsch) הוא עורך מוסף סוף השבוע Review של וול סטריט ג'ורנל, ומחבר הספר The Revolt Against Humanity: Imagining a Future Without us (משנת 2023).

Copyright 2023 by The Atlantic Media Co., as first published in The Atlantic Magazine. Distributed by Tribune Content Agency. The original article was published here.

תורגם במיוחד לאלכסון על ידי תומר בן אהרן.

תמונה ראשית: ישר לתוצאה, כשכולם עוד נבוכים. תצלום: cagkansayin, אימג'בנק / גטי ישראל