יש אלוהים בגו

כשמערכת אינטליגנציה מלאכותית גברה על גדול שחקני הגו בעולם, זכינו להביט במראה אל מה שמעבר לנו
X זמן קריאה משוער: 9 דקות

אנחנו כל כך עסוקים באינטליגנציה שלנו. מזה עידנים אנו מנסים למפות אותה, למדוד אותה, לאפיין אותה וגם לשלב בה או לצדה גורמים שנראים לנו חיצוניים כגון אינטואיציה, מזל ואינספור היבטים של מה שאנחנו תוחמים באזורים המסתוריים של הנפש ומכנים בשם פסיכולוגיה. מתוך כל המאמץ הזה, ואולי בדיוק בגללו, יתכן מאוד שאנחנו מחמיצים לא מעט ממה שיש לנו לדעת בנושא שמסקרן אותנו מאוד ונראה לנו, בצדק, כחיוני להתפתחות המין האנושי והחיים של בני הדורות הבאים.

כי בחודש מרץ 2016, זכינו לראשיתה של הצצה אל הבלתי נודע, אל המחוזות שהוגי דעות, מיסטיקנים, מדענים, אנשי דת, משוררים וחכמים מכל סוג לאורך הדורות ניסו להתמקד בו. אך מרץ 2016 – לפחות עד כה – לא נרשם בתודעה הקולקטיבית של האדם כתאריך סמלי, בעל חשיבות, הראוי להצטרף לתאריכים שמבקשים לשנן אותם בבתי הספר ולחצוב אותם על לוח לבנו המשותף.

מספר המצבים האפשריים בגו גדול יותר ממספר האטומים ביקום, והוא לאין ערוך מורכב יותר ממשחק השחמט

והכול החל בגלל משחק. גו, משחק הלוח העתיק ביותר המשוחק ברציפות, וככל הנראה גם משחק הלוח המורכב ורב האפשרויות ביותר, הציע לנו הצצה אל החרך האינסופי של הלא נודע, הזדמנות נדירה לשקף לנו את עצמנו עד מעבר לידיעה שלנו. מספר המצבים האפשריים בגו גדול יותר ממספר האטומים ביקום, והוא לאין ערוך מורכב יותר ממשחק השחמט.

גו, שושלת טנג, אישה, משחק לוח

אישה משחקת גו (שושלת טנג, סביבות 744 לספירה), ציור שהתגלה בקברי Astana, שינג'יאנג, סין. תצלום: ויקיפדיה

לכן, היה טבעי לשאול אם מכונה תוכל ללמוד לשחק גו ולעשות זאת טוב יותר משחקן אנושי, מקצוען מהדרגות העליונות, אולי אפילו אלוף עולם. השאלה העסיקה חבורה בראשותו של בריטי בשם דמיס הסאביס, שחמטאי מחונן לשעבר ואיש אלגוריתמים בהווה, חוקר מוח, איש אינטליגנציה מלאכותית ומי שעומד בראש חברת DeepMind. הסאביס וחבריו שאלו את השאלה ויצאו למסע מחקרי-טכנולוגי ארוך, שבמהלכו הם יצרו מערכת אינטליגנציה מלאכותית המבוססת על רשתות נוירונים, כלומר בעלת יכולת למידה עצמית, בשם AlphaGo, ובמרץ 2016 העמידו את המערכת להתמודדות בת חמישה משחקים מול השחקן הטוב בעולם, בעל הדירוג הגבוה ביותר האפשרי בגו, דאן 9, לי סדול (Lee Sedol) מדרום קוריאה.

ככל שהמערכת לומדת, כך הם מנסים להבין את התפתחותה, וככל שהיא מתפתחת כך היא פחות תלויה ביכולתם, תובנותיהם ומסקנותיהם של המפתחים שלה והיועצים שלהם, שחקני גו מקצוענים בעלי ניסיון רב

במהלך פיתוחה והתפתחותה של אלפאגו, היא הוזנה באלפים רבים של משחקים של שחקנים מוצלחים, למדה מהם כיצד לשחק גו ברמה משביעת רצון, ולאחר מכן הועמדה לשחק נגד עצמה מספר עצום של פעמים ולצבור ידע על המשחק, מהלכיו, מצביו, ועל מה שמוביל לניצחון. יש במערכת יסוד סטטיסטי, כלומר יכולת לחשב את ההסתברות שמצב לוח מסוים יוביל לניצחון, על יסוד מה שאלפאגו מכירה ממשחקים של שחקנים אנושיים ומהישגיה שלה, אך היות שמדובר במערכת לומדת, במידה רבה היא גם קופסה שחורה מבחינת מפתחיה. ככל שהמערכת לומדת, כך הם מנסים להבין את התפתחותה, וככל שהיא מתפתחת כך היא פחות תלויה ביכולתם, תובנותיהם ומסקנותיהם של המפתחים שלה והיועצים שלהם, שחקני גו מקצוענים בעלי ניסיון רב.

בדרום קוריאה וברחבי מעצמות הגו האחרות באסיה, הכול צפו שסדול ינצח בקלות בחמשת המשחקים. הוא הפסיד בשלושת המשחקים הראשונים, לעיניהם של עשרות מיליוני צופים מכל העולם שצפו בהתמודדות בשידור חי. במשחק הרביעי סדול ניצח, ובחמישי הוא שוב הפסיד: ההתמודדות הוכרעה לטובת אלפאגו, 4:1.

הדרמה תועדה בסרט נהדר, שאנחנו מציעים לכם בחום לצפות בו, ומובא עבורכם בתחתית המאמר. כי הסיפור אינו רק התוצאה, על אף שיש בה ערך סמלי גדול עבור עולם הגו, והיא הכתה גלים. מה שחשוב בהתמודדות הוא כל מה שהתגלה לנו בדרך, לנו – בני האדם, אפילו אלו שאינם משחקים גו.

גו, לי סדול, אלפאגו, AlphaGo

שני המתמודדים, זה מול זה, מרץ 2016. תצלום: פרצ'טאי

משחק הגו, כמו משחק השחמט, כמו משחק הכדורגל, כמו הגאופוליטיקה, כמו ההתנהגות האנושית, כמו המערכת העצבית – אינו רק סדרה של כללים, סיבות ותוצאות, שיקולי כדאיות מדויקים, הסתברויות שמשוקללות יחד לדרך פעולה מועדפת

כדי להרהר בכך מעט, כדאי להתרחק לרגע מן הלוח, מהכלים, משני השחקנים, מהמשחק וגם מן האלגוריתמים. גו הוא יצירה אנושית. גם מערכת האינטליגנציה המלאכותית אלפאגו היא יצירה אנושית. השנייה מנסה לדמות את הראשונה. זהו האתגר הבסיסי שהסאביס וחבריו התמודדו איתו. אלא שמשחק הגו, כמו משחק השחמט, כמו משחק הכדורגל, כמו הגאופוליטיקה, כמו ההתנהגות האנושית, כמו המערכת העצבית – אינו רק סדרה של כללים, סיבות ותוצאות, שיקולי כדאיות מדויקים, הסתברויות שמשוקללות יחד לדרך פעולה מועדפת. כל אלו, ובהם גם משחק הגו, הם גם הֶצבר כל הפעולה של המערכות המעורבות בהם מאז ומעולם. משחק הגו הוא גם כל משחקי הגו ששוחקו אי-פעם, בין אם תועדו ובין אם לא נותר להם זכר מוחשי. הדבר הפשוט במשחק הגו הוא שקל לנו להגדיר את המטרה: לנצח. וניצחון הוא הקפה של שטחים באמצעות הכלים שלכם כך שסך השטחים שהקפתם יהיה גדול מסך השטחים שהקיפו מי שאתם משחקים נגדם. כמו שכדורגל הוא משחק שמטרתו להבקיע שערים רבים יותר ממספר השערים שמבקיעה הקבוצה היריבה.

כאמור, את הלא נודע אנחנו אוהבים לכנות בשמות: פסיכולוגיה, אינטואיציה, מזל, טעויות, מקריות ועוד. אך היות שכל מה שקרה אי פעם במשחקי הגו ששוחקו משחר המשחק, לפני אלפי שנים, מגולם במשחק הגו המשוחק כעת, ברגע זה, אין לנו דרך לדעת את מלוא ההיקף של "גו". ולכן, כל ניסיון שלנו למפות את כל הידע, נדון להיכשל. מוחנו אינו מסוגל לעבד באורח מודע את כל המידע שיש ברשותו של המין האנושי על משחק הגו, מה גם שחיינו האינדיבידואליים סופיים, אפסיים לעומת היקום, ואפילו לעומת תולדות המשחק.

אלפאגו מציעה לנו הצצה אל התחום המצוי מעבר לעצמנו, מעבר להיכרותנו עם האדם והבנתנו אותו

אלפאגו מציעה לנו הצצה אל התחום המצוי מעבר לעצמנו, מעבר להיכרותנו עם האדם והבנתנו אותו. בהתמודדות ההיסטורית בין מערכת האינטליגנציה המלאכותית והיריב האנושי העילאי, סדול, קרה שאלפאגו קיבלה החלטה שנראתה לא סבירה, לא הגיונית, החלטה שהיא עצמה העריכה שרק 1 מתוך 10,000 שחקנים אנושיים טובים היה מקבל. וקרה גם שהיא עשתה מהלך שנראה יצירתי במיוחד – לעיניים האנושיות הרבות שעקבו אחריה – ובסופו של דבר התגלה כמהלך הגיוני ומוצלח, שגם הותיר את בני האדם תוהים שוב, כתמיד, מהי יצירתיות. יכולתם של המומחים להסביר את המהלכים של אלפאגו הצטמצמה ככל שההתמודדות התקדמה. שחקן סיני-צרפתי מעולה, פאן הואי (Fan Hui), שהתמודד עם אלפאגו חודשים אחדים קודם לכן והובס 5:0, שימש יועץ לצוות של הסאביס והתובנות שלו מאירות עיניים. הואי אומר שאלפאגו היא כמו מראה: כשמתמודדים נגדה היא משקפת את מי שאתם באמת. דרך אחרת לומר זאת היא שסך כל הידע האנושי, המפורש והנסתר, המנוסח והמוטמע, המשתמע, הקולקטיבי, משקף לנו את עצמנו בדרכים שאיננו בהכרח רגילים לראות. השלם גדול מסכום חלקיו.

אין לאלפאגו כל עניין בצבירת יתרון בדרך, רק בהכרעה בסוף. ואילו אנו, בני האדם, שבויים באגו ובתדמיות, מוטים ללא תקנה כמעט, אוהבים ״להרגיש על הסוס״, גם אם שנייה לאחר מכן נושלך מעל גבו ופינו יתמלא עפר

והשיקוף הזה עשיר ומגוון ורב תובנות. למשל, חשוב לזכור שאלפאגו בנויה לנַצח. מה שהיא בוחנת בכל רגע, הוא את הסיכוי שלה לנצח אם היא תעשה מהלך מסוים. לנַצח פירושו להגיע לסוף המשחק במצב של יתרון. זה אמנם די ברור לנו, אבל הנה התובנה הגדולה: לא חשוב מה קורה קודם, לא חשוב איזה פער נוצר בין מי שמוביל ומי שמפגר בתוצאה. אין לאלפאגו כל עניין בצבירת יתרון בדרך, רק בהכרעה בסוף. ואילו אנו, בני האדם, שבויים באגו ובתדמיות, מוטים ללא תקנה כמעט, אוהבים ״להרגיש על הסוס״, גם אם שנייה לאחר מכן נושלך מעל גבו ופינו יתמלא עפר. מערכת משחקת גו, משחק קדום ודל בחוקים – יש בו רק ארבעה חוקים עיקריים – והנה היא משקפת לנו את עצמנו באורח ישיר, עמוק ומביך.

סדול ניסה מולה את הכול: להיות אגרסיבי, להיות זהיר, לשחק אחרת מכפי שהוא רגיל או להיצמד לשיטת המשחק שהוא חש בה בנוח. הוא למד מכך דבר ששנוי במחלוקת בשורה ארוכה של תחומים – מעסקים ועד כדורגל – והוא ששינוי דרך הפעולה שלך בגלל היריב, מכשיל אותך, פוגע במיצוי היכולת והיתרונות שלך. הוויכוח בוודאי יימשך בתחומים השונים, אבל גו, 3,000 שנות חוכמה וניסיון אנושי צבורים, אמר את שלו בקול צלול.

ליונל מסי, כדורגל, אלוהים

ליאו מסי לא לבד, והכדורגל לא התחיל איתו וגם לא ייגמר איתו. תצלום: סוכנות הידיעות אנדס, אקואדור נגד ארגנטינה, אוקטובר 2017, ויקיפדיה.

העבר והמסורת מגולמים בכל מה שאנו עושים ובכל מה שניצב בפנינו. אנו תוצאה של כל מה שהיה, ואנו תורמים את תרומתנו בזמן המוגבל שניתן לנו, והיא תתגלם אל הבאים אחרינו – ואיננו יכולים באמת לאמוד אותה או להעריך את משמעותה

אפשר וצריך ללמוד מההתמודדות בין אלפאגו ויריבה האנושי כי לעולם איננו לבד. העבר והמסורת מגולמים בכל מה שאנו עושים ובכל מה שניצב בפנינו. אנו תוצאה של כל מה שהיה, ואנו תורמים את תרומתנו בזמן המוגבל שניתן לנו, והיא תתגלם אל הבאים אחרינו – ואיננו יכולים באמת לאמוד אותה או להעריך את משמעותה. ענווה היא שיקוף הוגן של הבנתנו ביחס למקומנו בנצח, אך היא מתגלה גם ככלי קיומי ממש ואף כתנאי הכרחי לחוכמת אמת ולסיפוק. סדול, ענק מנטלי שצמח במשחק הגו ומתוכו, ניצב מול עשרות מיליוני צופים מעריצים, נושא על גבו את תולדות המשחק, את גאוות האומה שהוא מחריפי השכל מקרב בניה, וגם את כבודו כדמות ציבורית, כגיבור הישגי. כילד מאזור כפרי נידח, הוא למד לשחק גו ובמשך שנים הכשיר את עצמו. שתים-עשרה שעות ביום, שבעה ימים בשבוע, עד שהיה לגאוות המורים שלו, עד כי בסרט אומרים עליו ״לי סדול הוא בגו מה שרוג׳ר פדרר הוא בטניס״. אלפאגו הביסה אותו לעיני כל. לאחר שהתאושש קמעה, אמר הגיבור הקוריאני שהוא חושב שהוא הבין כעת משהו על עצמו, הוא הבין מדוע הוא למד לשחק גו.

המשחקיות היא חלק עיקרי, בלתי נפרד וחיוני מהאנושיות שלנו. הבנת המגבלות שלנו והכרה ענווה בגבולותינו הן שעשויות לאפשר לנו להפיק את המיטב מן ההשתקפות שלנו בגופי ידע וחוכמה שהם המורשת האנושית שאנו בניה ובנותיה. המורשת מזומנת לנו ומזמינה אותנו ליטול בה חלק. איננו יכולים להקיף את כולה או להטמיע אותה בשכלנו ובתודעתנו, ובוודאי לא לנסח ולתאר אותה באורח מלא. המוני בני אדם תרמו לה, ובממוצע הם היו כמונו – בידיעה, באי-הידיעה, בצלילות המאפשרת לנו להגביה עוף ובעכירות המגבילה את כולנו.

לפער הזה בינינו ובין המוחלט, המקיף-כל, אפשר לקרוא בכל מיני שמות

מאז ההתמודדות במרץ 2016 חלו התפתחויות: מפתחי אלפאגו פיתחו גרסה בשם AlphaGo Zero, שלמדה רק מכך שהיא שיחקה נגד עצמה, ללא הזנה של משחקים אנושיים מן העבר. התוצאה היא מערכת עוד יותר חזקה. אם נזכור כי משחק הגו וגם התוכנה הם יצירות אנושיות, יתכן ששוב ניתנה לנו הצצה אל מה שמעבר לנו: כוחו של המשחק גדול בהרבה מכל המשחקים שבני אדם שיחקו בו. יש בו משהו שחוצה את גבולות יכולתנו, משהו שנסתר מאיתנו בעיקרו ונותר מסתורי ליכולת של השכל לתאר או להסביר.

לפער הזה בינינו ובין המוחלט, המקיף-כל, אפשר לקרוא בכל מיני שמות. עוד לפני המצאת משחק הגו מצאו לו בני האדם שם, הדביקו לו כינוי, העניקו לו את הבכורה ואת הממשל על מה שמעבר להם, וקראו לו אלוהים.

תמונה ראשית: שחקן גו מניח אבן על לוח המשחק. תצלום: פיטר דאלגרן

מחשבה זו התפרסמה באלכסון ב


תגובות פייסבוק

> הוספת תגובה

8 תגובות על יש אלוהים בגו

01
אברהם

לא בדיוק, אלפא גו אינה מייצגת שום ידע או זיכרון אנושי, יש לה מערכת למידה עצמאית של המשחק, אדרבא, גילו שככל שמעניקים לה פחות ידע אנושי, כך התוצאות שלה משתפרות, מה שבאמת מפחיד שמרגע ששיחררנו אותה ללמוד את המשחק, איננו יכולים יותר לפענח את דרכי פעולתה, שכן היא אינה תלויית אלגוריתם.
בעבר התפרסם באתר זה מאמר מצוין בנושא של אחד הנרי קיסינג'ר, מומלץ.

    02
    אורנת

    אני חושבת שאתם מדברים על שנידברים שונים. הכותב מתייחס כאן לגו כיצירה אנושית כי את הכללים המציאות בני אדם וגם כל המשחק הוא מעשה של בני אדם. גו זה לא תופעה בטבע, נניח.

04
ד.ה.

העובדה שהיכולות האנושיות מוגבלות אינה אומרת שקיים "מוחלט מקיף כל".
זו רק דוגמה לאופן שבו המאמר לוקח את הפיתוח הטכנולוגי למחוזות הדמיון והחששות שאינם רלוונטיים כלל, בעוד שלפנינו בעיה קונקרטית, ואפילו לא חדשה: כיצד להפעיל את הטכנולוגיות באופן מיטיב ולא באופן מזיק.
אם נגדיר את הבעיה כך - נוכל למצוא לה פתרון, אבל אותו הלך-רוח של מסתורין ופחד אין לו כל עניין בפתרון המייתר גם את המסתורין וגם את הפחד. העדפת ה"מרתק ומרחיק לכת" (כפי שכתב רביב בתגובה לפני) על המחשבה הסדורה והתכליתית היא חלק מן הבעיה.

05
אורלי ניצן

ל-יורם מלצר. תודה. רשומה עשירה ומרתקת בהיקף ובתוכן.
אבל אני רוצה לצטט דמות מתוך ספרו (הראשון) של אריאל גרייזס - "מזהה פנים" (ספר מתח מרתק שדן כחלק מהסיפור ב-בינה מלאכותית ובאנשים העוסקים בתחום): "...אף אחד לא יודע בדיוק מה זאת באמת בינה... מחשבים היום מסוגלים לייצר... יש מאין, אבל תודעה? זה כבר עניין אחר." (שם. עמ' 164).
ואני מסכימה עם הדמות הזו.
גם 'בינה מלאכותית' הכוללת בתוכה 'מכונות לומדות' ו-'אלגוריתמים אבולוציוניים' (מושגים אוקסימורוניים, לתפיסתי) הנם תוצרים של בנות/בני אדם (קרי: מוחות אנושיים) בבחינת what you put in - that what comes out!). כל מכונה (ומחשבים הנם מכונות - סופר מתוחכמות - אבל - מכונות לכל דבר ועניין) לעולם לא יכולה לעלות על התבונה של התודעה האנושית (שיצרה וגם מפתחת אותם) ובוודאי שלא להשתמש ב'חשיבה' (על כל משמעות המושג 'חשיבה' וכלל השימושים וההשלכות שלה בכל תחום ומסגרת התייחסות).
אכן "...תודעה? זה כבר עניין אחר". בהחלט.
המשך שבת יפהפייה.

יורם, כדרכך, זה מאמר מלמד יפיפה, אך דומני שכל השוואה של החיים לתחרות גו היא בעייתית וכך גם המסקנות שמתבקשות ממנה לגבי החיים האנושיים.

אתה כותב, "אין לאלפאגו כל עניין בצבירת יתרון בדרך, רק בהכרעה בסוף. ואילו אנו, בני האדם, שבויים באגו ובתדמיות, מוטים ללא תקנה כמעט, אוהבים ״להרגיש על הסוס״, גם אם שנייה לאחר מכן נושלך מעל גבו ופינו יתמלא עפר".

אכן אנחנו בני האדם שבויים באגו שהגו לא שבוי בו כי אין לו אגו, אך המשחק האנושי שונה במהותו ממשחק הגו. החיים הם לא תחרות. אין בהם ניצחון. אנחנו לא דוהרים בהם מקו ההתחלה A על מנת להגיע לקו הסיום B. לחוש את החיים זה לדעת לחיות אותם לרוחב, לא באורך. זה מסע ללא נתיב שהוא מלא הפתעות ותפניות לא צפויות וזה היופי שבו ובמה שאנחנו מנסים להבין מתוך ההתנסות שלנו בו על עצמנו ועל עולמנו.

זה כיף אנושי מיוחד שעל מנת לחגוג אותו יש צורך בתבונה אנושית שאין במשחק הגו.
שבת שלום.

07
יוסף להמן

הצוות של אלפאגו המציא, פיתח ונעזר בטכנולוגיה על מנת לנצח את אלוף העולם שהיה ללא טכנולוגיה. גם הכובשים הספרדים עם רובים ניצחו את האינדיאנים עם קשתות. זה שצוות חזק עם טכנולוגיה ניצח אדם אחד חזק מהם אבל ללא טכנולוגיה, אינו גורר למסקנה שטכנולוגיה יכולה לגבור על האדם גם ללא אדם שיעמוד לעזרתה. בהנתן זמן והשקעה, ניתן היה למצוא חולשה באלפאגו כפי שמוצאים חולשות בתוכנות לצורך תקיפות סייבר, ואחר כך ניתן היה לגבור על אלפאגו עד שהיה אולי עובר עדכון גרסת תוכנה. טענה אחרת בסרט הייתה שהמחשב היה יצירתי ומקורי. ספק אם זה נכון. המחשב מקבל נתונים, מעבד אותם ומוציא פלט, בהתאם לכללי התוכנה שלו. האדם מוסיף משהו אחר - "קפיצה המצאתית" שמאפשרת הווצרות יש מאין.

08
דורון מרגיטאי

מאמר יפה ומעורר מחשבה.
בראשית דברי אני מרגיש צורך לצטט משפטים הנוגעים למשחק הגו מאת הסופר טרוויניאן בספרו "שיבומי".הסיפור מתרחש בשנות הארבעים של המאה ה 20 שם מצוטט שחקן גו צעיר שהתחנך ביפן וספג את תרבותה בכל רמ"ח אבריו ולמד את המשחק אצל אומן גו יפני מפורסם.לטענתו "הגו הוא לפילוסופים כשם שהשחמט הוא לסוחרים".
אומן הגו ומדריכו האישי מתקן וטוען : " מנומס יותר יהיה לומר שמשחק הגו מתייחס לפילוסוף בכל אדם,ואילו השחמט לסוחר שבו".תשובת שחקן הגו הצעירהיא: "אכן יהיה זה מנומס יותר,אבל נכון פחות.
שחקן הגו הצעיר מצליח להגיע באמצעות יכולותיו האינטקטואליות והמתמטיות לרמות משחק גבוהות ביותר.כאשר מדריך הגו שלו המשמש גם כמחנך ומנטור לחיים שוכב על ערש דווי הוא מבקר את השחקן הצעיר במילים הבאות
"אתה שחקן מבריק ביותר,יחסית לגילך אך יש משהוא מטריד במשחק שלך ,אתה מתרכז רק במצבים שעל הלוח ,ותעלם מהנוכחות של יריבך".
יש במשחק שלך את הצלילות והברק של בדולח !
אבל חסרה לו יופייה של הפריחה"!!
נקודה למחשבה : החשיבה היפנית המסורתית המופשטת מול אופן החשיבה המערבית הקפטליסטית.
האם שחקני גו מודרנים שנחשפו מילדותם לחשיבה מערבית ישחקו שונה ?
אני ממליץ בחום לקרוא את הספר "שיבומי" מאת טרוויניאן,יש שם תובנות מעניינות .