רוח חדשה בוא תבוא

ב־13 ביולי 1833, במהלך ביקור באגף ההיסטוריה של הטבע בז'ארדן דה פלאנט, הלוא הוא הגן הבוטני בפריז, ראלף ולדו אמרסון חווה התגלות. הוא התבונן במוצגים – פרפרים, גושי ענבר ושיש, חתכים של צדפות – ולפתע הציפה אותו התחושה שכל הדברים בטבע מחוברים זה לזה, ושהמין האנושי הוא חלק מהסיפור.

החוויה הזאת דרבנה אותו לכתוב את "שימושי ההיסטוריה של הטבע" (The Uses of Natural History) ולנסח פילוסופיה שמציבה את הנטורליזם במרכז החיים האינטלקטואליים דווקא בעידן טכנולוגי סוער – פילוסופיה שהובילה אותו, וקולקטיב של כותבים והוגים רדיקליים בשם הטרנסצנדנטליסטים, אל מערכת אמונה רוחנית חדשה. לשיטתו של אמרסון, כל אדם המבצע תצפיות אמפיריות בטבע יוכל לקחת חלק ב"הגדרה ומיפוי של קווי הרוחב והאורך של מצבנו", כלומר לרכוש לו עצמאות־פעולה, אינדיבידואליות ואת היכולת להשתאות מן העולם גם בעידן של מיכון.

לקראת אמצע המאה ה-19 הטלגרף קישר בין בני אדם יותר מאי פעם, והצילום הראשון צולם ושינה לעד את האופן שבו האנושות רואה את עצמה. הלך הרוח הלאומי היה תמהיל של התרגשות, חרדה ואימה

בבינתו הטבעית, הבין שכל הדברים קשורים: ראלף וולדו אמרסון (העתק עמילן מ-1880 של דגרוטיפ מ-1857, שניהם מאת J.J. Hawes). תצלום: ויקיפדיה

בשנים ההן אחזה באמריקה רוח ההמצאה, וכפועל יוצא נדמה היה שהכול מאיץ. מפעלים וטחנות סוכר צצו כפטריות אחרי הגשם, ספינות קיטור דהרו בין נמלים, רכבות חרכו את המסילות בכל הארץ, הטלגרף קישר בין בני אדם יותר מאי פעם, והצילום הראשון צולם ושינה לעד את האופן שבו האנושות רואה את עצמה. הלך הרוח הלאומי היה תמהיל של התרגשות, חרדה ואימה.

החיזיון שהבזיק במוחו של אמרסון בפריז לא היה דחייה של השינויים האלה, אלא גישה חדשה למימוש הפוטנציאל האנושי בתקופה שבה נדמה כי העולם נכנס לסחרור חסר שליטה. התגובה של אמרסון לרנסנס הטכנולוגי של המאה ה-19 יכולה לשפוך אור גם על המהפכה הטכנולוגית הגדולה של המאה שלנו: בואה של בינת העל המלאכותית.

את השיבושים הראשונים גרמו האלגוריתמים של הדירוג, שהפכו למאפיין הבולט של הרשת המודרנית – כלומר, הקוד הסתום שזולל נתונים על אודותיכם כדי לדעת מה לירוק בחזרה החוצה: אילו תוצאות להראות לכם בגוגל, או איך להתאים את הפיד בפייסבוק, אינסטגרם או טיקטוק להעדפותיכם

כבר שנים שהבינה המלאכותית משנה את זרמי ים המידע שאנו שוחים בו, הרבה לפני הזינוקים הטכנולוגיים של התקופה הנוכחית. את השיבושים הראשונים גרמו האלגוריתמים של הדירוג, שהפכו למאפיין הבולט של הרשת המודרנית – כלומר, הקוד הסתום שזולל נתונים על אודותיכם כדי לדעת מה לירוק בחזרה החוצה: אילו תוצאות להראות לכם בגוגל, או איך להתאים את הפיד בפייסבוק, אינסטגרם או טיקטוק להעדפותיכם.

ועכשיו דמיינו את אותה תשתית אינטרנטית רק עם תוכנות שמצופות לייצר טקסט, אודיו ווידאו מקוריים ומתוחכמים במעטה של סמכותיות ויכולות, ולחקות אנשים באופן משכנע כל כך שאיש לא ידע עוד מה אמיתי. המודלים האלה, של בינה מלאכותית שמלמדת את עצמה, לומדים ומשתפרים במה שהם עושים אחרי כל אינטראקציה. אבל לפעמים הם גם הוזים ומתמרנים ובודים. ואי אפשר לחזות מה הם יעשו או מדוע. אם מנוע החיפוש של גוגל הוא הגרסה המודרנית לספרייה הגדולה של אלכסנדריה, אז הבינה המלאכותית החדשה תהיה נביא הפכפך.

הבינה המלאכותית הגנרטיבית מתקדמת במהירות שלא תיאמן, ובעתיד ישתמשו בה כמעט בכל דיסציפלינה ותעשייה. ענקיות הטכנולוגיה – כולל אלפבית (שבבעלותה גוגל), אמזון, מטא (שבבעלותה פייסבוק) ומיקרוסופט – נמצאות במרוץ לשילוב הבינה המלאכותית במוצרים הקיימים שלהן, כולל מפות, מייל, רשתות חברתיות ותוכנות לניהול תמונות.

"ציור של ון גוך" שנוצר בידי תכנת בינה מלאכותית גנרטיבית. תצלום: דורון שמיע שדה

הנורמות וההרגלים הטכנו־תרבותיים שחלחלו לחיינו במהלך המהפכה המשולשת של האינטרנט, הסמארטפונים והרשתות החברתיות זקוקים בכל מקרה לעריכה מקיפה, כי יותר מדי אנשים הרשו לטכנולוגיות האלה לסחוף אותם ללא התנגדות

הנורמות וההרגלים הטכנו־תרבותיים שחלחלו לחיינו במהלך המהפכה המשולשת של האינטרנט, הסמארטפונים והרשתות החברתיות זקוקים בכל מקרה לעריכה מקיפה, כי יותר מדי אנשים הרשו לטכנולוגיות האלה לסחוף אותם ללא התנגדות. טוב נעשה אם נתקן את שגיאות העבר הקרוב, אך בה בעת עלינו לצפות – ולעצב באופן יזום – את השפעתן של הטכנולוגיות הקיצוניות יותר שמתהוות כיום, הן על חיינו הפרטיים והן על דמותה של הציביליזציה.

התאגידים הצפויים להרוויח מהטכנולוגיה החדשה הזאת כבר משננים בעל פה את הסיסמאות הנדרשות כדי להדוף את הביקורות. הם ישתמשו בעגה אופטימית כמו "הרחבת היכולות האנושיות", ו"בינה מלאכותית בדגש על בני אדם". אלה מילים ערטילאיות ולא מספקות. הטכנולוגיה הקרבה ובאה עומדת לגמד כל יצירה טכנולוגית אחרת שבני האדם של ימינו ידעו בחייהם: האינטרנט, המחשב האישי, פצצת האטום. יכול להיות שזאת הטכנולוגיה הרת הגורל ביותר בתולדות האנושות.

בני האדם ידועים לשמצה בחוסר יכולתם לחזות נכונה את העתיד, ולעתים תכופות הם כושלים בזיהוי מהפכות – אפילו כשאלה כבר בעיצומן. אבל פרק הזמן שבין התהוותה של טכנולוגיה חדשה והתגבשות אמות המידה והנורמות נוטה להיות קצר. במילים אחרות, המערב הפרוע הוא ארעי. בסופו של דבר פסי הרכבת מובילים לסטנדרטיזציה של הזמן, נורת הלהט מביסה את הקשת החשמלית, והחלום על רשת פתוחה מת.

החלון ליצירת שינוי בממלכת הבינה המלאכותית עדיין פתוח. אך אנשים רבים שעומלים כבר זמן רב על הקמת חסמים לטכנולוגיה החדשה הזאת, מקוננים כעת שהחלון ייסגר בעוד רגע.

הבינה המלאכותית הגנרטיבית, בדיוק כמו מנועי החיפוש, הטלפונים ומנוע הקיטור לפניה, תאפשר לנו לעשות דברים ביעילות אדירה ועמוקה כל כך שזה ייראה לנו כמו קסם

הבינה המלאכותית הגנרטיבית, בדיוק כמו מנועי החיפוש, הטלפונים ומנוע הקיטור לפניה, תאפשר לנו לעשות דברים ביעילות אדירה ועמוקה כל כך שזה ייראה לנו כמו קסם. יכול להיות שקטגוריות שלמות של שוק העבודה, ובמקרים מסוימים גם תעשיות שלמות, יימחקו במהירות מדהימה. האוטופיסטים שבינינו רואים במהפכה הזאת הזדמנות למסור עבודות חסרות חשיבות למכונות, כדי לפנות לבני האדם זמן להגשים תכלית גבוהה יותר של מימוש עצמי. הקסם החדש הזה אכן עשוי לייצר יותר זמן לעניינים הראויים לתשומת לבנו – חיפוש עמוק יותר אחר ידע, נתיבים מהירים יותר לתגליות מדעיות, זמן נוסף לפנאי ולבילוי בחברת בני משפחה וחברים. מצד שני, הוא עלול גם להוביל לאבטלה נרחבת ולאובדן הביטחון התעסוקתי, שכן הבינה המלאכותית היעילה יותר תנשוף כל הזמן בעורפנו.

פקידי ממשל ומנהיגים טובי־כוונות מגששים אחר הניסוח המתאים לעקרונות אתיים לבינה מלאכותית – ראו לדוגמה את "תוכנית לכתב זכויות לבינה המלאכותית" של הבית הלבן (למרות הכותרת המגושמת, הכוונה היא לנסח עקרונות שיגנו על זכויות אדם, אף שגם שאלת זכויות האזרח של המכונות תצוץ בסופו של דבר). הניסיונות האלה הכרחיים, אך הם אינם מצליחים לתת מענה הולם לגודל המעמד.

הוא יפקח על עצמו? על בינה מלאכותית גנרטיבית שתכניס לו עוד מיליארדים? מרק צוקרברג צוחק מזה שנים רבות. תצלום: TNS Sofres

בשלב הזה אנחנו כבר אמורים להבין שאופן הטיפול של הממשל בטכנולוגיות חדשות והרגולציה העצמית של ענקיות הטכנולוגיה אינם יכולים לעמוד בקצב השינוי הטכנולוגי או ביכולתו של עמק הסיליקון לחתור לרווח ולגודל על חשבון בריאות החברה והדמוקרטיה. הגדרת השלב הבא בהיסטוריה האנושית חייבת להתחיל בפרט.

התנועה החדשה הזאת צריכה להעניק לבני האדם מקום חשוב יותר מזה של המכונות, לנסח השקפה חדשה באשר למערכת היחסים האנושית עם הטבע והטכנולוגיה, ובה בעת להמשיך לקדם את מה שהטכנולוגיה הזאת מסוגלת לעשות במיטבה

בדיוק כפי שהמהפכה התעשייתית הולידה את הטרנסצנדטליזם בארצות הברית ואת התנועה הרומנטית באירופה – שתי תנועות שיצאו נגד הקונפורמיזם והעניקו מקום מרכזי לאמת, לטבע ולאינדיבידואליזם – אנו זקוקים כיום למהפכה תרבותית ופילוסופית משלנו. התנועה החדשה הזאת צריכה להעניק לבני האדם מקום חשוב יותר מזה של המכונות, לנסח השקפה חדשה באשר למערכת היחסים האנושית עם הטבע והטכנולוגיה, ובה בעת להמשיך לקדם את מה שהטכנולוגיה הזאת מסוגלת לעשות במיטבה. אין ספק שהבינה המלאכותית תעזור לנו להגיע לתגליות מופלאות שיצילו חיים. הסכנה היא מיקור חוץ חסר בקרה של אנושיותנו לטכנולוגיה הזאת, שרק תלך ותאפיל עלינו בכל הקשור ליכולות תפישתיות. אנו זקוקים לרנסנס אנושי בעידן המכונות התבוניות.

נוכח המצאה המשנה סדרי עולם, כשכוחם של ברוני הטכנולוגיה מרוכז כל כך, עלול להתעורר הרושם כי לאנשים מן השורה אין שום סיכוי להשפיע על המכונות שבקרוב יתעלו על כולנו מבחינה קוגניטיבית. אבל יש כוח אדיר בהגדרת אידיאלים, אפילו אם בסופו של דבר הם אינם בהישג ידינו. בהתחשב במה שמוטל על הכף, אנחנו חייבים לפחות לנסות.

שקיפות אמורה להיות עמוד תווך בחילופי הרעיונות האנושיים החדשים – אנחנו אמורים לדעת בכל פעם שבינה מלאכותית נוכחת או משמשת בתקשורת בינינו. כלל הבסיס הזה עשוי להנחיל לנו משמעת בעת יצירת מרחבים אנושיים יותר (או בלבד), וגם לייצר רשת פחות אנונימית

שקיפות אמורה להיות עמוד תווך בחילופי הרעיונות האנושיים החדשים – אנחנו אמורים לדעת בכל פעם שבינה מלאכותית נוכחת או משמשת בתקשורת בינינו. כלל הבסיס הזה עשוי להנחיל לנו משמעת בעת יצירת מרחבים אנושיים יותר (או בלבד), וגם לייצר רשת פחות אנונימית. כל עיתונאי יכול לספר לכם שבאנונימיות יש להשתמש רק כמוצא אחרון ובתרחישים הנדירים הקשורים לטובת הכול. נורמות תרבותיות שדורשות מבני אדם להציג לא רק את דעותיהם אלא גם את שמותיהם האמיתיים מועילות לנו.

כמו כן, עכשיו הזמן להתחייב מחדש ליצירת קשרים עמוקים יותר עם בני אדם אחרים. אמנם, שיחות הווידאו מוחקות את הזמן והמרחק, אבל הטכנולוגיות האלה הן תחליף עלוב לתקשורת פנים אל פנים, בייחוד בהקשרים שבהם יש חשיבות עליונה לשיתוף פעולה יצירתי או ללמידה. בתקופת המגפה למדנו זאת על בשרנו. אי אפשר לתחזק מערכות יחסים בעולם הדיגיטלי בלבד, והדבר ייעשה קשה יותר ויותר ככל שהבינה המלאכותית תשחק את יכולתנו להבין מה אמיתי. "לייק" אינו חברות, ושיחה עם בינה מלאכותית היא חד־צדדית – זו רק אשליה של קשר.

דור שלם רוצה "לייק", והכול וירטואלי, כלומר ממש לא ממשי. תצלום: קלי סיקמה

יום אחד, בקרוב, לילדים לא יהיה רק "חבר" בינה מלאכותית אחד, אלא יהיו להם יותר חברי בינה מלאכותית מחברים אנושיים. ולא זאת בלבד שבני הלוויה האלה ינטרו את בני האדם המשתמשים בהם, אלא שהם יהיו בעלי נטייה מסחרית חזקה – הם יתוכננו להגביר את הפעילות המסחרית ואת הרווחים. תמריצים כאלה מעוותים את מערכות היחסים שאנחנו אמורים לקיים.

כותבים של עלילות בדיוניות – פיודור דוסטוייבסקי, רוד סרלינג (Serling), ז'וזה סראמאגו – מזהירים אותנו כבר כמה וכמה דורות מפני כפילים שיגנבו את דמותנו וישאבו כך את אנושיותנו. עולמנו החדש הוא חור תולעת המוביל אותנו אל המרחב האלביתי הזה, שנדמה לנו כה מוזר.

במהפכה האלגוריתמית הראשונה, החלו להשתמש בנתונים האישיים שלנו כדי לארגן בשבילנו את העולם, אך במהפכה הבאה ישתמשו בהם כדי לפצל את תחושת המציאות המשותפת שלנו, ויתרה מזאת, כדי להמציא לה העתקים סינתטיים. מנהל של אולפן מוזיקה שמעוניין להרוויח יותר כסף,עשוי  להתלהב מקול המיוצר על ידי בינה מלאכותית, בשירים המיוצרים על ידי בינה מלאכותית, שאינם משויכים לשום אדם עם קניין רוחני. אמנים, סופרים ומוזיקאים צריכים להיות מוכנים להיאבק בניסיונות להתחזות להם. וזה נכון לכולנו. חוקרת מתחום מדעי המחשב סיפרה לי לאחרונה שהיא מתכננת ליצור מילת קוד סודית שרק היא והוריה הקשישים יידעו, כדי שאם הם ישמעו אותה בטלפון מתחננת לעזרה או לכסף, הם ידעו אם מדובר בחיקוי של בינה מלאכותית שהתאמנה על הרצאותיה הפומביות כדי להישמע בדיוק כמוה ולהונות אותם.

לא חייבים לתעד כל דבר ולשתף כל דבר, ובארעיות יש גם חופש לפרט. רוב התקשורת  האנושית אמורה להתקיים רק בין האנשים המעורבים, כי פרטיות היא הסוד לשמירה על אנושיותנו

תלמידי בתי הספר היסודיים של ימינו כבר לומדים לחשוד בכל מה שהם רואים או שומעים על המסך. אבל מגיעה להם סביבה מודרנית של טכנולוגיה ומידע שמושתתת על ערכי הנאורות: תבונה, אוטונומיה אנושית וחילופי רעיונות על בסיס כבוד הדדי. לא חייבים לתעד כל דבר ולשתף כל דבר, ובארעיות יש גם חופש לפרט. רוב התקשורת  האנושית אמורה להתקיים רק בין האנשים המעורבים, כי פרטיות היא הסוד לשמירה על אנושיותנו.

לבסוף, יש גם שיקול קיומי יותר שיש לתת עליו את הדעת: עד כמה החתירה לידע מנחה אותנו הן כלפי פנים הן כלפי חוץ. הבינה המלאכותית של העתיד הקרוב תעצים את יכולותינו האמפיריות, אבל היא עלולה גם לעמעם את סקרנותנו. הסכנה היא שהעולמות הסינתטיים שאנו יוצרים – מערכי הנתונים, ההעתקים, לולאות המשוב – יקסימו אותנו כל כך, עד שההתבוננות בלא נודע לא תעורר בנו עוד אפילו שמץ של השתאות או מחשבה מקורית.

עלינו לבטוח בכושר ההמצאה האנושי ובאינטואיציה היצירתית שלנו, ולא להישען יתר על המידה על כלים שמקהים את תבונתנו האסתטית והשכלית. אמרסון כתב פעם שאייזק ניוטון "השתמש באותו שכל כדי לשקול את הירח ולשרוך את נעליו". יש לציין גם שניוטון השתמש בשכל הזה גם כדי להמציא את הטלסקופ מחזיר האור, שהיה צעד ראשון בדרך לטכנולוגיה רבת עוצמה, שבאמצעותה הצליח המין האנושי לחזות במקורות היקום. אבל הרוח שבבסיס המחשבה של אמרסון עודה בעלת חשיבות מכרעת:להתבונן בעולם, לחוש אותו בחושינו הרגילים, הרי זה תרגיל חיוני בדרך לרכישת ידע. אנחנו יכולים וצריכים להמשיך לפתח כלים טכנולוגיים שיסייעו לנו במפעל הזה, אך אין להרשות להם לבוא על חשבון יכולתנו לראות את עצמנו, להרגיש את עצמנו, ובסופו של דבר לדעת את עצמנו.

השאיפה לעתיד שבו מכונות בעלות ביטחון עצמי מופרז יודעות את התשובות לכל השאלות הקוסמיות של החיים היא שאיפה מוטעית ומסוכנת, ולא זאת בלבד, אלא שעתיד כזה יגזול מאיתנו את מה שעושה אותנו לאנושיים

השאיפה לעתיד שבו מכונות בעלות ביטחון עצמי מופרז יודעות את התשובות לכל השאלות הקוסמיות של החיים היא שאיפה מוטעית ומסוכנת, ולא זאת בלבד, אלא שעתיד כזה יגזול מאיתנו את מה שעושה אותנו לאנושיים. בעידן של כעס, של תגובות מהירות מדי ושל בינה מלאכותית שלכאורה יודעת הכול, טוב נעשה אם נקדש את ההרהור כאורח חיים. עלינו לאמץ לנו הלך מחשבה שאינו מושלם, שדוחף אותנו לקרוא תיגר ללא הרף על ההנחות המוקדמות שלנו, לחתור לקשר עם אנשים שאנו חולקים עליהם, ולפעמים פשוט להשלים עם אי הידיעה. אנו בנות ובני תמותה, ובוער בנו הדחף לדעת יותר מכפי שנדע אי פעם, יותר מכפי שאנו יכולים לדעת.

לחלוף הזמן יש היכולת למחוק את הידע האנושי: שפות נמחקות בשלמותן, חוקרי ארצות מאבדים את מיומנות הניווט באוקיינוסים לפי הכוכבים. הטכנולוגיה מחוללת תמורות בלתי פוסקות ביכולות השכלית שלנו. מה שנשאר קבוע הוא העובדה שבאנו לעולם הזה לחפש ידע, אמת ויופי – וניתן לנו זמן מוגבל בלבד לעשות זאת.

"הטבע לובש את צבעי הרוח"; "וישנו הוורד, והוא מושלם בכל רגע מרגעי קיומו" - ראלף וולדו אמרסון, תצלום: Photos from Terry

אף ספר, אף תמונה, אף שידור טלוויזיוני, אף ציות, אף מם, אף מציאות רבודה, אף הולוגרמה, אף תוכנית או הזיה שיוצרה על ידי בינה מלאכותית – אף אחד מאלה אינו יכול להחליף את מה שבני האדם חווים

בילדותי, בקונקורד, מסצ'וסטס, ראיתי את ביתו של אמרסון מחלון חדרי. לאחרונה חזרתי לביקור. ביתו של אמרסון תמיד ריתק אותי. הוא גר בו 47 שנה עד מותו ב־1882. כיום מתחזקים אותו יורשיו וצוות קטן שאמון על מורשתו. הבית הוא בן כמאתיים שנה, וחושף את גילו בחריקותיו ובכתמיו. אבל יש בו גם איכות הנדירה מאוד במבנים בעלי חשיבות היסטורית: 141 שנה אחרי מותו של אמרסון, עדיין יש תחושה שזהו הבית שלו. ספריו מונחים על המדפים. אחד מכובעיו תלוי על וו ליד הדלת. הטפט הירוק המקורי שעיצב ויליאם מוריס בכניסה הכרכרות עודו עז צבע. גרסה של "שלוש הגורלות" של פרנצ'סקו סַלוויאטי (Salviati), האוחזות בחוט הגורל, עומדת על המשמר על המדף שמעל האח בחדר העבודה של אמרסון. זהו החדר שבו כתב אמרסון את חיבורו "טבע". השולחן שלידו ישב לכתוב את הספר עודו שם, ליד האח.

כשעמדתי בחדר העבודה של אמרסון, חשבתי על כך ששום טכנולוגיה אינה תחליף לביקור במקום עצמו, יהיה היעד אשר יהיה. אף ספר, אף תמונה, אף שידור טלוויזיוני, אף ציות, אף מם, אף מציאות רבודה, אף הולוגרמה, אף תוכנית או הזיה שיוצרה על ידי בינה מלאכותית – אף אחד מאלה אינו יכול להחליף את מה שבני האדם חווים. זאת הסיבה שאנחנו יוצאים לטיול, חוצים האוקיינוס, צופים בשקיעה, מאזינים לצרצרים, מבחינים במופעי הירח. זאת הסיבה שאנו נוגעים בזרועו של אדם שהצחיק אותנו. וזאת הסיבה שאנו עומדים נפעמים בז'ארדן דה פלאנט ומשתאים מהיקום המגלה לנו את צפניו הסודיים.

אדריאֶן לפראנס (LaFrance) היא העורכת הראשית של כתב העת ״האטלנטיק״. בעבר הייתה עורכת בכירה וחברת מערכת באטלנטיק, והעורכת של  TheAtlantic.com.

Copyright 2023 by The Atlantic Media Co., as first published in The Atlantic Magazine. Distributed by Tribune Content Agency. The original article was published here.

תורגם במיוחד לאלכסון על ידי תומר בן אהרן

תמונה ראשית: פעימת הטבע והחיים על עלה במסצ'וסטס. תצלום: אטול סלוג'ה, אימג'בנק / גטי ישראל