אחינו הרובוטים

אנו מוקפים במכשירים חכמים ודיגיטליים בכל עת. אז מדוע רובוטים שנראים "אנושיים" מציפים אותנו ברתיעה ודחיה?
X זמן קריאה משוער: 10 דקות

בבתי הקולנוע בארה"ב בנובמבר 2004, התחרו שני סרטי אנימציה מרכזיים על תשומת הלב של קוני הכרטיסים. הראשון מביניהם היה "משפחת סופר על" מבית היוצר של אולפני פיקסאר, המתמחים בסרטי אנימציית תלת-מימד ומספקים בעקביות להיטים כמו "צעצוע של סיפור", "מפלצות בע"מ" ו"מכוניות". השני היה "רכבת לקוטב" של אולפני הענק האחים וורנר - סרט שהתהדר בשחקן ובמאי מפורסמים (טום הנקס ורוברט זמאקיס, זוכי אוסקר על פורסט גאמפ) ובטכנולוגיה חדשנית המתיימרת להעניק לאנימציה מראה ריאליסטי בעזרת הקלטה של שחקנים בשר ודם והפיכתם, בעזרת המחשב, ליצורים מונפשים. שני האולפנים בנו על יתרונותיהם היחסיים והצטיידו בציפיות גדולות לרווחים מרשימים. אך בעוד שמשפחת סופר על התגלה כאחד מלהיטיה הגדולים של האולפנים וגרף 70 מיליון דולר בשבוע הראשון לצאתו, רכבת לקוטב זכה לתגובה קרה מהקהל ופתח עם 23 מיליון מאכזבים בלבד.

הצופים שנהנו מהאנימציה החיננית של המשפחה עם הכוחות המיוחדים והפרצופים החמודים, רצו לחנויות לקנות מזכרות ממותגות עם תמונותיהן של גיבורי הסרט. לעומת זאת , הצופים ב"רכבת" התחלחלו מדמויות האנשים "הריאליסטיות" על המסך והשוו את המראה שלהן לבובות חלון ראווה, גוויות ובמקרה הטוב יותר, לזומבים. הגדיל ועשה מבקר הקולנוע ג׳ף פבר, שציין בביקורתו ש"אם הייתי ילד, הייתי חוטף מהסרט סיוטים, במחשבה שנייה, זה קרה לי גם ככה".

האם פיקסאר ידעו משהו שוורנר לא? בשנת 1988, הרבה לפני שפיקסאר הפכו לאולפני קולנוע, הם הוציאו סרט קצר Tin Toy בכיכובו של תינוק בשם בילי. באותה תקופה, פיקסאר היתה חברת טכנולוגיה יחסית חדשה ובחזונה, הרצון להיות חוד החנית בעולם הגרפיקה הממוחשבת. על כן, הסרט העלילתי הקצר היה למעשה דרך יצירתית להרשים את המדענים בכנס האקדמי SIGGRAPH בדבר יכולת התוכנה שלה. כדי להראות את יכולותיהם המתקדמות, פיקסאר בחרו לברוא על המסך דמות תינוק ריאליסטית ככל האפשר. הסרט זכה לשבחים על המורכבות הטכנולוגית שבו אך דמות התינוק זכתה לתגובות פחות נחמדות בלשון המעטה. במקום לחבב את התינוק, אנשים דיווחו על תחושת גועל ודחיה. כאשר נשאלו, הצופים לא יכלו בהכרח לתת סיבה אחת ברורה אך היה ניתן להבין שהתינוק הפיקסרי נתפש על ידם כתינוקי ולא תינוקי בעת ובעונה אחת. מאותה נקודה, פיקסאר חדלו מהנסיונות לריאליזם בסרטיהם ודמויותיהם "האנושיות" מאז נראות יותר כמו בובות חמודות מאשר כמו בני אדם.

בשנת 1970, דיווח הרובוטיקאי מאשירו מורי על תופעה בה כאשר רובוטים נראים כמו העתקים דומים למדי אך לא מושלמים של אנשים, הצופים מגיבים ברתיעה ודחיה. כדי להדגים הוא צירף למאמרו גרף אשר הציר האופקי מייצג "דמיון יחסית לאדם" והציר האנכי "תחושת מוכרות". כאשר אנו מתקרבים לדמיון מושלם לאדם (80-90% דמיון), קיימת ירידה תלולה בתחושת המוכרות לאדם. מבחינה גרפית, הדבר נראה כמו עמק בגרף ומכאן מגיע שמה של התופעה - The Uncanny Valley. אך מהיכן מגיע המושג הראשון?

The Uncanny הינו מושג המתאר משהו המעורר בנו יחס כפול של תחושות מוכרות וזרות. המושג נטבע ע"י הפסיכיאטר ארנסט ינטש ב-1906 אך מיוחס לרוב לפרויד וזכה לשלל ניסיונות תרגום בעברית המאירים פנים שונות בתופעה הפסיכולוגית. התרגום הראשוני של מושג זה היה "המאוים" המדגיש את תוצר הדיסוננס שנוצר משילוב התחושות. בתרגום החדש לעברית של פרויד הוא זוכה לכינוי "האלביתי" (בתרגומה של ד"ר רות גינזבורג), תרגום העושה חסד למילה המקורית בגרמנית המדברת על דבר המוכר מ-בית אך גם זר לו. תרגום נוסף עם שמירה מיוחדת על המצלול הוא "האל-כני" (בתרגומו של המשורר ערן הדס) המתאר אובייקט שהוא בו זמנית כן ולא-כן לגבי היותו ומהותו. לאורך המאמר אבחר להתייחס לתופעה כפי שתורגמה בעבר, כ-"עמק המוזרות". תרגום לא מילולי אמנם, אבל כזה שמדגיש את אזור הדמדומים של הזר שהינו מוכר (על כן – מוזר).

בגרף שהציג מורי ב-1970, הציר האופקי מסמל את מידת הדמיון לאדם והציר הימני את תחושת המוכרות של האדם בעת הצפיה באובייקט. מורי רושם על הגרף מגוון דוגמאות אשר היו אפיינו את הטכנולוגיה המתקדמת בתקופתו. לדוגמא, רובוט תעשייתי המופיע בצד שמאל של הגרף, אינו דומה לאדם ואינו מעורר בנו מוכרות רבה. מורי אף מחלק את האובייקטים לבעלי וחסרי תזוזה, רובוטים זזים דמויי אנוש וחיות מפוחלצות חסרות תזוזה מתקרבים לעמק המוזרות. איברים מלאכותיים זזים השואפים לחקות באופן קרוב את גוף האדם כבר נמצאים בתוך העמק. ובתחתית העמק, שני האובייקטים המעוררים בנו את הרתיעה הרבה ביותר, הגוויה והזומבי.

התופעה המדוברת מהווה את אחד האתגרים הגדולים בתחום הרובוטים החברתיים והגרפיקה הממוחשבת, אך לא זכתה עד היום להסבר מדעי ברור. סברה ראשונה מתחום הפסיכולוגיה האבולוציונית גורסת שאנו נרתעים מדמויות בעמק המוזרות, שכן בראשינו הן נדמות לנו כאנשים העשויים לפגוע בסיכוי הישרדותינו והישרדות צאצאינו. האבולוציה לימדה אותנו לקרוא שלא במודע את הסימנים הגופניים העשויים להעיד על פוריות נמוכה או על בעיות בריאות פנימיות אצל האחר ולהימנע ממגע עימו. התנועה המקוטעת של הרובוט או העור החיוור של דמות האנימציה יוצרים בנו רתיעה דומה לזו של היתקלות במזון מקולקל אשר במגע איתו אנו מקמטים את אפינו. הסבר נוסף בהקשר דומה הוא שמינים אשר דומים לנו יחסית במטענם הגנטי הם בעלי סיכוי רב יותר להדביק אותנו במחלותיהם. כאשר אנו ניצבים מול מין מוכר וזר זה, אנו מזהים אותו כדומה לנו ועל כן הוא יאיים על הישרדותנו אם רק ניתן לו ולטפילים אותם הוא נושא להתקרב ולשהות במחיצתנו. רמז להסבר אבולוציוני שלישי אפשר למצוא מקריאת כתבותיהם של מבקרי הקולנוע שהבחינו שטום הנקס ב"רכבת לקוטב" נראה כל הסרט כיצור מת מהלך. גוויות, כידוע, הן כר פורה למחלות, סיבה טובה לשבטים בהם חיו אבות אבותינו להתרחק מהן קולקטיבית ולכוהני הדת לאורך ההיסטוריה להזהיר את העם מפני טומאת המת. בהיתקלות בעיניו הלא נוצצות של רובוט או עורן המצוייר של דמויות התלת מימד אשר אינן משקפות כהלכה את קרני השמש (הדמיוניות בסרט), מתקבלת התחושה שיש לנו כאן עסק עם בר מינן.

אך אם ההסבר הראשון לתופעה מתמקד במפגש עם החולה והמת, קיים הסבר נוסף שרואה דווקא ברובוט כנצחי. הסבר זה גורס שמבט פנים אל פנים מול דמות על-אנושית שכזו מזכירה לנו את נחיתותנו שלנו. במקרה זה הרובוט מייצג יצור אשר במגע איתו אנו עדים לדבר שישרוד אחרי לכתנו. בתקשורת איתו אנו מודעים למוגבלותינו שלנו ולזמננו הקצוב על הכוכב. החוקרים מקדורמן ואישיגורו מציינים במאמר מ2006 שהרובוט מציף אצלנו פחדים רבים וביניהם: הפחד שיום אחד יבוא ומין אחר יחליף אותנו במקום העבודה ובמערכות היחסים שלנו . בנוסף, כאשר הרובוט נע בצורה מקוטעת מולנו, צף בנו גם הפחד שיום אחד גם אנו נאבד את השליטה בגופנו. אולי הסבר זה יכול גם ללמד אותנו מדוע אנו נתקלים בסיטואציות בהן אנשים "משפרים" את גופם באמצעות הוספה של רכיבים טכנולוגיים לגופם. אנשים שהוסיפו לגופם אמצעי ראיה מתקדמים, שבבי מחשב המושתלים לזרוע או ידיים ביוניות, מקבלים את הכינוי "טראנס הומניסטיים" שכן בתהליך זה הם מצמצמים את ההפרדה בין האדם למכונה ומקדמים תהליך בו גופם (או לפחות חלקו) ישרוד את זמניותו של הגוף הביולוגי.

מדענים רבים לא השתכנעו שהמקור לתופעה הינו ביחס כזה או אחר למוות ובחרו להסביר את התופעה באופנים קוגניטיביים. "הבעיה", כך הם טוענים, היא שהמוח שלנו אוהב לשים דברים בקטגוריות מובחנות ואילו הרובוטים והיצורים ב"עמק המוזרות" מאתגרים כל חלוקה שכזו. התוצאה היא קונפליקט בו חוסר ההתאמה במוח מתרגם לרתיעה פסיכולוגית ותגובה רגשית קשה. בשנת 2011, חוקרים מאוניברסיטת סן דייגו מדדו פעילות במוח בעת צפייה באובייקטים ב"עמק" ואיתרו הבדלים המתרכזים באונה הקודקודית. אונה זו כוללת את הזרם הגבי של מערכת הראייה ומאפשרת לקליפת המוח לבצע עיבוד ויזואלי של האובייקטים שניצבים מול הגוף. החוקרים פירשו את התצפיות כעדויות לאי התאמה שמרתחשת כאשר מראה האובייקט (רובוט שנראה כבן אנוש) הינו בחוסר הלימה עם אופן תנועתו (תנועה לא חלקה כמו רובוט).

פרופ' סייגן מראשי הניסוי, טען בראיונות לאחר פרסום תוצאות הניסוי ש"המוח לא בוחר להתכוונן בהתאם למראה או לתנועה באופן ספיציפי. מה שנראה שהוא עושה זה מנסה לתאם בין הציפיות המתגבשות – הוא מצפה שהמראה והתנועה יהיו מתואמים". תובנה מעניינת היא שחוסר היכולת לתאם בין הציפיות השונות מתרחשת כאשר האובייקט שלפנינו מספק למוחנו דווקא מידע רב. כאשר אנו צופים באנימציה פשוטה, אנו מסוגלים להתייחס לדמות "כאנושית" בעזרת רמזים ויזואליים בודדים. שתי נקודות הן עיניים, הקו הזה הוא הפה וכו'. מוחנו מבין שאנו מסתכלים על ייצוג של אדם אבל במובנים רגשיים רבים, אנו דוחים את אי האמון שלנו ומוכנים להתמכר להרפתקאות הרגשיות שעוברות הדמויות כאילו הם חברינו וחברותינו האנושיים. לעומת זאת, כאשר נוסיף לתמונה פרטים רבים וננסה להגיע לדיוק, נגיע למצב בו כל פרט מידע שאינו מתיישב עם התנהגות של אדם כפי שמוחנו תופש אותה, יצרום לנו ויפגע בחוויה.

מחקר שהתקיים ב-2009 באוניברסיטת פרינסטון, מאשש ש"עמק המוזרות" אינה תופעה אנושית דווקא. החוקרים חשפו קופים לשלושה סוגי תמונות, הראשונה היתה צילום של קוף, ואילו השנייה והשלישית היו הדמיות תלת מימדיות של קופים, אחת נוצרה באופן לא ריאליסטי והשנייה באופן ריאליסטית ככל האפשר. הקופים הנבדקים העדיפו להסתכל זמן ממושך יותר על הצילום והציור הלא ריאליסטי ולהסתכל פחות זמן על הציור הריאליסטי התלת מימדי. גם כאן, הוספת מידע נוסף מרחיקה את הצופה, גם אם הצופה אינו בן אנוש. כמו כן, המחקר מהווה הוכחה לטענתו של מורי ש"העמק" מתקיים, גם אם בצורה פחותה, גם כשהאובייקט הנצפה מחוסר תנועה. החוקרים מדגישים שהתשובה אינה נמצאת דווקא באדם. הסבר שמתייחס למנגנונים אנושיים קוגנטיביים או תרבותיים אינו יכול לספק והתשובה ל"עמק" עשויה להיות בהתפתחות מוחנו לאורך האבולוציה.

***
בעוד מדענים מנסים להבין את "עמק המוזרות" ורובוטיקאים מנסים לחצות אותו בהצלחה בהמצאתם החדשה, קיימת שאלה אחת שלא נשאלת מספיק: מדוע בכלל אנו רוצים ליצור רובוטים שיראו כמו העתק מושלם של אדם? מדוע אי אפשר להסתפק ברובוטים פונקציונליים למדי שנראים כמו שאר המכשירים שלנו בבית?

הרעיון בדבר שימוש ביכולתנו היצירתיות כדי ליצור ייצוג מדוייק של בני האדם אינו חדש. ציור הרנסאנס קבע סטנדרט של דיוקנות מפורטים וריאליסטיים שנחשבו לפסגת האמנות במשך מאות שנים. סטנדרט זה נשבר רק עם המצאת הצילום, בו החל הציור לחפש לו כיוונים מופשטים יותר. תהליך דומה קורה גם בתחום הרובוטיקה. רובוטיקאים רבים משוכנעים שרובוט אנושי (humanoid) הוא בגדר הפסגה המיוחלת. לדעת המדענים, יש לכך כמה סיבות פרקטיות: רובוט אנושי מאתגר את המדע ומצריך ממדענים סינתזה של הנדסה ורפואה, פיזיקה ומתמטיקה כדי להבין מודלים כגון יציבות ותנועה. סיבה נוספת היא שרובוטים אמורים לנוע בסביבות המיועדות לאדם ועל כן עיצובם כבני אנוש אמור להקל על התנהלותם במרחב . סיבה שלישית היא שמדענים מסוימים חשים שבני אדם יחושו סימפטיה והבנה גדולה יותר לרובוט דמוי אדם, דבר אשר עומד בסימן שאלה לאור "עמק המוזרות".

אך כאשר מנתחים את המגמה לעומקה, יש לקחת בחשבון גם את הסיבות שמדענים פחות אוהבים להזכיר. ניתן להבחין שמדענים רבים שאבו השראה רבה מספרי המדע הבדיוני (אסימוב לדוגמא) בבואם לתכנן רובוטים. מספיק למעשה להיכנס למעבדות באוניברסיטאות ולראות שרובוטים רבים קרוים על שמם של רובוטים מפורסמים בהסטוריה הספרותית והקולנועית. אפשר לראות בכך רצון נאיבי להחיות את הדימויים אשר גדלו עליהם אותם מדענים בתור ילדים והיו ככל הנראה אלו שהובילו אותם לבחור מלכתחילה במקצוע הרובוטיקה. בנוסף, אפשר לראות במגמה זו ביטוי לרצון לקחת את תפקיד האל ולברוא "בצלמו, בדמותו" משלנו. המעגלים האלקטרונים הם החימר החדש של המדענים והם משחקים הלכה למעשה את אותו תפקיד של פרומותיאוס במיתולוגיה או של ד"ר פרנקנשטיין אצל מרי שלי.

במאמר קודם שלי ב"אלכסון" התייחסתי למגמה שמתקיימת בעולם הוירטואלי בה אנשים עברו מתחזוקת זהויות מגוונות לניסיון ליצירת ייצוג מדויק ככל האפשר של "האני הפיזי" שלהם ברשת. טענתי הייתה שככל שאנו מנסים לדייק, ככה אנו משקרים יותר. זאת עקב ההבדלים המהותיים בין ייצוג למציאות. מה שאנו כן מקבלים בתמורה הוא עיסוק נרקיסיסטי במי אנחנו ואיך אפשר לייצג את עצמנו בדרכים יותר ויותר מחמיאות. בדרך אנו מוותרים על החופש היצירתי ועל פתרונות שהיו יכולים להיות פתוחים בפנינו אם היינו מצליחים להשתמש בצורה חכמה במגוון האפשרויות של המרחב הווירטואלי. טענה דומה ניתן לומר על הבחירה ברובוטים אנושיים. המדענים יוצרים אותם כי אנו שקועים כל היום בלחשוב ולהתעסק בנו, להתעסק בבני האנוש עצמם. קיים סיכוי רב שקיימים ייצוגים מעניינים יותר, פונקציונליים יותר ויצירתיים יותר לרובוטים, כאלו שידרשו חשיבה שונה על הבעיות המטרידות בעולם, הפעלת דמיון אמיתית מצד המדענים ולא צמצומם לידי גפיים וראש. ייצוגים חדשים אלו עשויים לפתוח צוהר אל עולם של פתרונות שלא חשבנו שאפשריים בכלל אם רק נפסיק להיות כה מרוכזים בעצמנו.

מאמר זה התפרסם באלכסון ב


תגובות פייסבוק

> הוספת תגובה

14 תגובות על אחינו הרובוטים

01
כרמל

ואולי פשוט, כמו שקתרין היילס טוענת, הפוסט הומניזם לא באמת מצליח להיפטר מההומניזם. אנחנו לא באמת יכולים לקבל צורת חיים אחרת שאינה מהמוכרות לנו, אנחנו לא רוצים אינטליגנציה במשהו שלא מהווה שיקוף שלנו. אנחנו רוצים ולא רוצים וה"אל-כני" זה העמק שאנחנו רוצים להשאר תקועים בו כי ההר שלפני מוצה וההר שאחרי מפחיד.

02
ליאור זלמנסון

תודה כרמל! במקום פוסט הומניזם - כלומר חשיבה שמאתגרת את מקום האדם ביקום, אנו נתקעים עם טראנסהומניזם, חשיבה שכולה עוסקת באיך ה"אני" יכול לשפר את עצמו באמצעות טכנולוגיה. בזמן האחרון אני רואה הרבה יותר שיח על איך להאריך חיי אנוש מאשר איך להאריך את חיי הפלנטה הזו :) (ובכך גם את עתיד האנושות והטבע כולו).

03
הערה

אבל.. שכחת את הצפי שנתערבב ברובוטים בכך שלרבים יהיו חלקים ביוטכנולוגים בגופם ממש כמו לרובוטים, והתוצר הביוטכנולוגי יהיה זהה מכול בחינה לביולוגי, כולל שבירת האור עד לפרט האחרון. חכה מעט, אנו פשוט באמצע הדרך שלא ברור לאן היא מובילה, כרגיל.

04
ליאור זלמנסון

צפי לחוד ומדע לחוד. זה נכון שיש המון משקיעים ששמים את כספם על זה והמון התפתחויות מרגשות ומפחידות בעת ובעונה אחת, אך הדרך לביוטכנולוגי הזהה לביולוגי לא בדיוק מעבר לפינה. לכן אכן אחכה, לא בטוח שמעט. ואנחנו לא תמיד באמצע של איזו דרך?

05
איתמר נחום

מעניין מאוד ומעלה הרבה מחשבות, ויותר מזה, גם משלב סרטונים של פיקסאר! אחרי הסרטון של התינוק לא יכולתי שלא להמשיך עם קישורי היוטיוב לעוד סרטונים :)

07
הערה

דבר ראשון תודה על המאמר המעניין והרלבנטי, לא ציינתי בהערה קודמת, הוא בנושא שמעניין אותי מאוד. אבל שוב עלי לחלוק על הדעה שיש "עמק" בלתי ניתן למילוי. קראתי נדמה לי אצל קורצווייל (שמצטט מישהו אחר) את הדעה המקובלת (שהייתה), שלתאר לעצמו, להיות מודע לקיומם של השלד והאיברים הפנימיים של האישה, "זה חילול השם וחילול האהבה". האם אנו מרגישים כך כיום? הרשו לי לענות שלא, בכלל לא. זה בעצם תיעוד מעניין מאוד של התחושות והרגשות בשלב של התקבלות הידע בביולוגיה כדבר שנוכח בתודעה, והרגש למד להשלים אתו, ולא לייחס לו חשיבות כמו שהייתה לפני אולי 100 שנה. גם הרובוטים מצדם יהיו יותר ויותר זהים לאנשים, ועשויים מאותם חומרים. אותי דווקא מדאיג שהאנשים יגלו שהם בעצמם סוג של רובוטים. זה כבר כך, זוכה פרס נובל צרפתי לפיזיקה נדמה לי, התבטא מזמן שכנראה האדם הוא סוג של מכונה. האמת זה לא מפריע לאנשים כי הם לא קולטים.. נראה לי שכשהאנשים ישודרגו הם כן יוטרדו מכך (לא השידרוג יהפוך אותם למכונה, "הטבע" הוא סוג של מיכון).

08
איתמר נחום

עד קריאת המאמר התייחסתי להקצנה הזו כאל קריקטורה שמטרטה להמחיש ולהעצים תכונות בדמות ש"יוצרים". באמת בניסיון לדמיין את הדמויות "ריאליסטיות" יותר, אני משער שהנאת הצפיה הייתה נפגמת.

09
מיכל

מאמר מעניין מאוד. הן מעצם נושא החקירה והן מהדוגמאות השונות. אני מסכימה עם עניין הגוויה. יש בנו, בני האדם ,יותר מהגוף והתנועה המכנית. יש בנו אנרגיה וגופים נוספים, בלתי נראים. כשאני עומדת ליד אדם אני מריחה אותו, חשה את חומו, ובתנועתיות עצמה יש חיות שניכרת בתנועות ומחוות קטנות מאוד. לפעמים אני יכולה לחוש גם את מצב רוחו לפני שדיבר ואפילו לפני שבחנתי את פניו. כאשר רובוט או דמות מתוכנתת לובשת גוף אנושי - בעצם גופה אנושית, זה מרתיע ומבלבל.
בתור ילדה, ככל שלבובות היו פחות פרטים, כך יכולתי ליצור את הדמות מתוך דמיוני ומתוך הרגשות שהיו לי. המשחקים המוצלחים יותר היו דווקא עם צי מכוניות קטנות שקיבלו דמויות ותפקידים.
לדעתי, זו סיבה נוספת לכך שאנו אוהבים רובוטים שאינן מרמזים על אדם מאוד מסוים, אלא מעוררים את דמיוננו. הדמיון שלנו מאפשר את ההשתתפות שלנו ביצירה.

10
הערה

היה איזה סרט על אנדרואידים שמיוצרים ע"י חברה, שאנשים קונים אותם לשירותים שונים. לא אנימציה, סרט עם שחקנים. את האנדרואידים שיחקו שחקנים, בלי שום ניסיון להיראות דמויי רובוט או משהו. הם נראו והתנהגו לגמרי כמו האנשים. הם היו בעצם עבדים ולדעתי זה עורר בצופה אמפתיה. החברה שייצרה אותם רצתה לאסוף ולפרק אותם כי הם היו מודל ישן. גם זה עורר בצופה אהדה לגורלם. היו אנשים שעזרו להם לברוח. לא זכור לי הסוף אז אולי הוא היה רע (כלומר שתפסו אותם והם פורקו במפעל). קיצר, החמלה האנושית (יש בנו צד כזה) לא תיתן שרובוטים דמויי אדם ינוצלו, יתבעו עבורם שוויון זכויות. אנשים לא ישנאו אותם או יחושו חרדה מהם. אפילו בסרט של שפילברג על ילד רובוט (עם שחקן ילד) ש'האימא המאמצת' זורקת אותו מהבית כי הוא רצה להרוג את בתה הביולוגית מרוב קנאה בבתה (על שהוא כבר לא בן יחיד), הצופה אוהד את הרובוט ילד, בעל האובססיה הבלתי נגמרת ל'אימא' שלו שמזמן כבר מתה מזקנה, מעולם לא ראה אותה מאז שזרקה אותו, והוא כרובוט נותר 'ילד'. עם כול המוזרויות האלה, ולא בטוח שהסרט כ"כ איכותי, בכ"ז הרובוט ילד אהוד על הצופה.

11
ליאור זלמנסון

מיכל - תודה על השיתוף! אנו מקבלים המון המון סימנים מבני האדם מולנו, אני משער שרק למעטים מהם אנו באמת מודעים. מדהים לחשוב על כל מה שנקלט במוחנו ללא מחשבה.

הערה - יש לי אלייך שתי הערות. הראשונה לגבי מה שכתבת מקודם. אני לא יודע איזה זוכה פרס נובל אתה מצטט אבל הדימוי של הגוף כמכונה הוא גישה מאד מאד עתיקה. למעשה כל דור נוטה לדמות את הגוף (ואולי אף יותר מזה את המוח) לדומה לטכנולוגיה הכי מתקדמת המוכרת לנו כיום. אנו לא מבינים את המוח לאשורו אבל נוטים להאמין היום שלחשוב עליו כעל "מחשב" יקדם אותנו. האם זה אומר שאנו נהיים יותר "מחשביים" כחלק מהתהליך הזה? ייתכן.

ולגבי הסרטים שהזכרת כעת - ובכן, בשני המקרים ההיפותטיים אלה רובוטים שעברו את "עמק המוזרות" - הם העתקים די מושלמים של בני אדם ולכן אין רתיעה. ולראיה, שחקנים אנושיים משחקים אותם :) שחקן אנושי (אלא אם כן אתה מחבל בו בכוונה באמצעות אפקטים כמו ברכבת לקוטב) לא יעורר בך רגשות של רתיעה מהסוג שסקרתי כאן ואכן גם התיאוריה של מורי גורסת שרובוטים מושלמים אלו יתקבלו בצורה פתוחה יותר ע"י בני האדם.

בגרף המפורסם של מורי, כמו בשאר הדוגמאות במאמר הזה ובמרבית הדיונים סביב "עמק המוזרות", מופנה המבט לתגובה פסיכולוגית (שלנו) נוכח תופעה פיזיולוגית. אך מה לגבי מופעים של האל-כני שאינם גופניים?

אותי מסקרן לקרוא דיון ב"עמק המוזרות הפסיכולוגי" - כלומר כיצד אנו חשים נוכח תודעה שהיא קרובה לתודעה אנושית אך אינה *בדיוק* תודעה אנושית. הנה כמה הצעות:

קחו למשל ייצוגי בינה מלאכותית *ללא גוף* שאנחנו מכירים מהתרבות הפופולרית. GLaDOS, הבינה המלאכותית המטורפת מסדרת משחקי Portal, אמנם מנסה להרוג אותנו אך אינה מרתיעה כי היא מדברת ומתנהגת כאדם לכל דבר (נבזית אמנם, אך אנושית). לעומתה HAL, הבינה המלאכותית מהסרט "אודיסיאה בחלל 2001", מעורר רתיעה קשה, עך אף שהוא נבזי הרבה פחות מגלאדוס - מכיוון שהוא מפגין אנושיות ובו-זמנית הגיון חישובי קר.

הדבר הזה קורה גם כשאנחנו רואים אנשים בשר ודם עם תודעה אל-אנושית. האנטגוניסט הראשי בסרט "המטריקס" הוא הסוכן סמית'. אנחנו יודעים שהוא לא יותר מתוכנת מחשב אך במהלך הסרט הוא מפגין שאיפות פרטיות ורגשות כמו זעם, תשוקה וחרדה, ולכן אינו מעורר רתיעה. לעומתו ג'וב, האנטגוניסט בסרט "מכסח הדשא" נע בין מצבי תודעה אל-אנושיים שונים: הוא מתחיל את הסרט כמפגר, כלומר בעל תודעה שנתפסת כתת-אנושית, ומסיים אותו כגאון בעל כוחות טלפתיים - כלומר על-אנושי. גם שאיפותיו זזות מ"כלום" בהתחלה (שאיפה חייתית) ל"הפיכה לאנרגיה והתמזגות עם הסייברספייס" בסוף (שאיפה טראנסהומניסטית). כל זה משאיר אותו מרתיע ואל-כני במהלך כל העלילה, על אף גופו האנושי.

ולמעשה, האם לא ניתן לומר כי מתעורר בנו האל-כני בכל מפגש עם אדם בעל גוף תקין ונפש שאינה נורמלית? נדמה לי שישנה רתיעה כזו, לפחות באופן אינסטינקטיבי, כשאנחנו באים במגע עם בגירים שסובלים מפיגור קשה או ממצב נפשי שמשפיע על התנהגותם באופן כרוני.

הדוגמה האחרונה שעולה לי לראש היא זו של תכנת השיחה "עליזה" ודומותיה. התוכנות הללו מיועדות כמובן לחקות שיחה אנושית במחשב - והן נפוצות היום באתרים מסחריים המציעים מענה אוטומטי על ידי נציג ממוחשב. אך תמיד ישנו איזה רגע של שבר בשיחה, כשהרצף שהיה יכול להיאמר על ידי שני בני אדם נשבר כשה"נציג" משיב לך באופן שאינו הולם את התגלגלות השיחה עד כה, או איזה ביטוי או רגש מצדינו שאינם מצויים במאגר המשפטים של התוכנה. המשבר הזה, גם אם אנחנו מצפים לו (כי הרי אנחנו יודעים שאנו מדברים עם מחשב), תמיד מעורר איזו רתיעונת. נדמה לי שזה האלביתי שמציץ שם - הוא מתקשה לערבב את הדיבור המוכר עם ההגיון הזר.

14
ליאור זלמנסון

שלו, אני מסכים לגמרי שתחושות רתיעה קורות בעוד נסיבות של מפגש עם האחר, השונה או הבלתי ניתן להגדרה. ייתכן ואחד או יותר מההסברים שכתבתי תקפים. הרתיעה שלנו מחריגות פיזית היא ככל הנראה אבולוציונית והחשש שלנו מהתודעה העל-אנושית נובע אולי מהמניעים הפסיכולוגיים שציינתי. אולי מה שמעניין ספיציפית ברובוטים האנושיים הוא הקושי להגיד בדיוק איזה הסבר תקף פה כי יש פה כל כך הרבה גורמים וטריגרים שנכנסים לפעולה.