של מי הבינה הזאת?

המדענים שהעלו למחשב את תודעתו של ויל קאסטר בסרט התעלות בכיכובו של ג'וני דפ, כנראה הותירו רושם עמוק על סטיבן הוקינג. במאמר לאינדיפנדנט מתחילת מאי הוקינג התייחס לסרט, הוסיף כמה דוגמאות לטכנולוגית AI עכשווית, ואז הביע את חששותיו כי התפתחות בינה מלאכותית אמיתית בעתיד עלולה "פוטנציאלית, להיות הטעות האיומה ביותר שלנו בהיסטוריה. לרוע המזל, זו עלולה גם להיות טעותנו האחרונה, אלא אם כן נלמד להימנע מהסיכונים... אילו ציביליזציה חייזרית מתקדמת היתה שולחת לנו מסר כי היא מגיעה לביקור, האם היינו פשוט עונים 'אוקיי, תתקשרו כשתגיעו, נשאיר לכם את האורות דלוקים'? נראה שלא – אך זה פחות או יותר מה שקורה עם AI".

דבריו של הוקינג עולים בקנה אחד עם ההתייחסות הנפוצה ל"סינגולריות הטכנולוגית", כלומר החזון לפיו אובייקט טכנולוגי כלשהו (או מספר אובייקטים מרושתים) יכנס לתהליך עצמאי של למידה, תהליך בו תודעתו והאינטליגנציה שלו יתפתחו בקצב אקספוננציאלי שיביא אותו לרמה מתקדמת כל כך, עד שהוא ישנה את האנושות כפי שאנחנו מכירים אותה- יכניע אותה, יהפוך אותה למיותרת, או לחילופין, יטמיע את תודעתה בזו שלו. לעיתים הסינגולריות מתוארת בתור שיא התפתחותו של מחשב-על, ולעיתים זוהי גישה טרנס-הומניסטית בה האדם הוא זה שהולך ונהפך למכונה מתפתחת. לעיתים זהו קיבורג (סינתזה בין אדם למכונה) שנעשה מעין סופרמן, ולעיתים זוהי התלכדות תודעתית של בני אדם מרושתים (למשל בתרחיש בו החיבור לרשת האינטרנט יתאפשר ישירות מהתודעה וייצור קולקטיב שיתפתח כמוח גדול ומודע לעצמו, בעוד בני האדם יהיו רק תאי-העצב של אותו מוח). כל התסריטים הללו מקבלים ביטוי (די שטחי, צריך להודות) בסרט שהוקינג מזכיר.

דבריו של הוקינג ספגו ביקורת על הנאיביות שספוגה בהם. עיקר הטענות היה שהדוגמאות שהוקינג הביא (כמו סירי של אפל או המכונית ללא נהג של גוגל) הן פשוט מביכות, כי דווקא הן ממחישות עד כמה אנחנו רחוקים ממימוש AI. בהתחשב בעובדה שאפילו שפה טבעית לא ניתן עדיין ללמד מחשב, המבקרים טוענים, במידה רבה של היגיון, שאנחנו שנות אור ממכונה בעלת מודעות עצמית ותודעה אינטליגנטית עצמאית. אבל נדמה שיש כמה כשלים בסיסיים מעניינים יותר בחששותיו של הוקינג בפרט וברעיון הסינגולריות בכלל.

אחד ההיבטים הבסיסיים העולים ברעיון הסינגולריות, הוא המתח בין היקסמות מפוטנציאל יכולות ה"סופרמן" של המכונה האינטליגנטית או הקיבורג, לבין החרדה כי הטכנולוגיה הזו תפגע בנו או גרוע מכך, תגרום לנו לאבד את אנושיותנו. רובוקופ, ניאו (במטריקס), ויל קאסטר ואחרים הם דרכה של הוליווד לבטא את המתח הזה, אך הוא אינו חדש בהיסטוריה האנושית. המהפכה התעשייתית הציתה מתח אדיר בין התשוקה להשתחרר ממגבלות אנושיות באמצעות הטכנולוגיה (כמו הגברת איכות הייצור ותפוקתו הרבה מעבר למה שידיים אנושיות מסוגלות), לבין החשש הגובר שמא אותה טכנולוגיה תדחק את מקומו של האדם לשוליים במקרה הטוב, או תסייע להשמדתו במקרה הרע (חשש שהגיע לשיאו עם פרוץ מלחמות העולם והטלת פצצות האטום). עוד קודם לכן, בתחילת המאה ה- 17 סופרים אירופיים הביעו חשש עמוק כי המצאת הדפוס מייצרת עומס מידע שאיש אינו מסוגל להתמודד עמו וכך הוא עלול לאבד ממשמעותו. וכמה מאות שנים לפני כן, סוקרטס הביע דאגה מכך שכתיבה על נייר תדלדל את הזיכרון האנושי עם השנים.

מפתה לומר עתה שכל החששות הללו התבדו כי הנה, למרות כל אותן טכנולוגיות וחידושים, האנושות עודנה כאן. אבל זו תהיה רק חצי אמת; האנושות אכן עוד כאן, אך ממש לא באופן שהיתה. החשש כיום כי AI ומגמות של טרנס-הומניזם ישנו את מה שאנושי בעינינו הוא חשש מוזר, לא מפני שהוא מוטעה. הוא אכן מוצדק, אך האין זה מה שקרה תמיד עם כל מהפיכה טכנולוגית? חשוב מכך, ההיסטוריה מראה לנו פעם אחר פעם כי אין שום דרך לנבא כיצד מהפכה טכנולוגית תשנה את פני האנושות ואילו סכנות היא טומנת בחובה. סביר להניח, למשל, שהמצאתו של גוטנברג נועדה בעיקר כדי לחסוך שעות עבודה אנושיות במחי פעולתו של מכבש הדפוס. אפשר היה אולי לנחש גם שזה יוביל לריבוי של מידע. אך האם ניתן היה לשער את השפעת הדפוס על הפצת רעיונות מהפכניים תוך חשיפת השחיתות של הכנסיה והאצת תהליכי חילון? האם אפשר היה לצְפות שריבוי הלשונות בהן הודפסו ספרים ועיתונים יתרום להתפתחות הלאומיות ובהמשך להתגבשות "קהילות מדומיינות", כלשונו של בנדיקט אנדסון, להן אנו קוראים כיום מדינות? לפי הוגים שונים (כמו מרשל מקלוהן וניל פוסטמן) צמיחתה של תרבות אוריינית אף שינתה באופן מרחיק לכת גם דפוסי תודעה אנושית: המשמעת שדורשת קריאה ממושכת והרצף הלוגי שהטקסט מבנה הביאו להתפתחות סגנון חשיבה מופשט יותר, חידדו את כושר הדדוקציה וחיזקו את תחושת החשיבות ההיסטורית. כיום, במבט לאחור, שאיפות לרסן את התפשטות המצאת הדפוס או את ההתפתחויות הטכנולוגיות במהפיכה התעשייתית נתפסות בעינינו כבלתי מוסריות. האם מוסרי, אם כן, לרסן התפתחות טכנולוגית אחרת שאיננו מודעים עדיין להשלכותיה האמיתיות?

בהקשר הזה, הייתי מעוניין להתמקד בבינה המלאכותית. נדמה שהתסריט הנפוץ ביותר הוא שהמכונות ישתלטו עלינו בכוח. אבל מדוע דווקא זו ברירת המחדל? מדוע אף תסריטאי אינו מדמיין מצב בו מכונות בינה מלאכותית ימשיכו לשתף פעולה עם האנושות מתוך אינטרנס משותף? העדויות המדעיות וההיסטוריות מצביעות על כך שעם התפתחות התרבות האנושית, האלימות על כל סוגיה הולכת וצונחת. מאין היומרה, אם כן, להניח שבינה מלאכותית שתתעלה על זו שלנו תחקה דווקא דפוסי התנהגות אנושיים אלימים, שממילא הולכים ומצטמצמים?

אבל הבעיה המעניינת ביותר, לטעמי, טמונה בקלות בה חזון הסינגולריות מניח כי התודעה של AI תתפתח עד כדי כך שהיא תגיע לזו האנושית ואף תתעליה עליה. אתמול אף התפרסם כי לראשונה הצליחה מערכת ממוחשבת לשכנע בני אדם כי היא בעצם יצור אנושי בן 13, ובכך לעבור את מבחן טיורינג. אבל עד כמה ההתפתחות הזו מקרבת אותנו לבינה ברמה אנושית? אפשר לשער כי גם אותם שלושים אחוז מהנבדקים שהשתכנעו שהם מדברים עם ילד בן 13, אילו היתה ניתנות להם עוד כמה הזדמנויות בהקשרים קצת שונים, גם הם היו עולים על התרמית.

בחזון הבינה המלאכותית, התפתחות תודעתה בדרך כלל מצטיירת כמעין מעשה קסם שצומח מאליו במהירות, תהליך למידה שדוחף את עצמו כמו פרפטום מובילה. אולם אחד התנאים הבסיסיים להתפתחות הפנומנלית של התבונה והתרבות האנושית, הוא דווקא תהליך יחסי הגומלין ההדרגתי בין אדם לסביבה: אמנות וטכנולוגיה הופכות את העולם למורכב יותר עם הזמן, מה שמכשיר את הקרקע להתייחסות אמנותית והתפתחות טכנולוגית חדשות וכן הלאה. אין סיבה להאמין, אם כן, שהתפתחות AI ממשית תתרחש באופן עצמאי וללא תלות באינטראקציה עם העולם והאדם. בתהליך כזה ההשפעה האנושית על התפתחות AI בכל שלב תהיה עצומה, ולא כפי שמצטייר בנרטיב הסינגולריות.

בנוסף, אינטליגנציה ומודעות עצמית טומנות בחובן מורכבות שממנה חזון הסינגולריות מתעלם. ברוב התרחישים, בינה מלאכותית מצטיירת כישות קרה, אחידה, בעלת מערכת קבלת החלטות מהירה וחד משמעית. אך נדמה שהתפיסה הזו נובעת מהאופן בו אנחנו תופסים את המחשב כיום, ולא כפי שהוא עשוי להיות בעתיד. שכן התפתחות התבונה, יותר משהיא מספקת תשובות, היא מייצרת שאלות שהולכות ונעשות מורכבות. מכונה שתצליח ללמוד שפה אנושית על בוריה, למשל, תיאלץ להתמודד עם בעיות כמו עמימות, רב משמעיות, סתירות לוגיות ועוד. תפיסת העולם תחת בעיות אלה ואחרות, אינה יכולה להיות מוחלטת כמו פלט פעולת חיבור במחשבון, חישוב הדרך המהירה ביותר על ידי Waze, או קבלת החלטות של מכונית ללא נהג. בניגוד לרוב הדימויים המוכּרים של AI בעתיד, סביר יותר להניח כי מכונת AI עשויה להתחרט, למשל, או להתווכח עם דעותיה של מכונה אחרת.

לרוע המזל, השיח סביב הסינגולריות משפיע לא רק על תסריטאים הוליוודים, אלא גם על העיתונות וגופי מחקר שונים (הוקינג מזכיר למשל את המרכז של קיימברידג' לחקר סיכונים קיומיים, מכון עתיד האנושות, המכון לחקר אינטליגנציית מכונות, ומכון עתיד החיים). סביב הנבואה מלאת הפאתוס הזו נשמעים כיום שני קולות עיקריים: החרדים מפני הסינגולריות (דוגמת הוקינג) והנלהבים המצפים לבואה (כמו ריי קורצווייל, עתידן ובכיר בגוגל). אך אולי דווקא תסריט מתון יותר עשוי להעמיק את הדיון. ולאור הסיכוי הקלוש לנבא לאן כל זה יתגלגל, אולי מוטב להסתפק בינתיים בבחינת השלכות הטכנולוגיה בהווה, תוך ניסיון להשפיע עליה תוך כדי תנועה.