סירי, יש לנו בעיה

מה בדיוק חושבים ילדים כשהם מדברים עם סירי? ילדים קטנים מאד לוחצים לפעמים לחיצה ארוכה על הכפתור העגול ושומעים קול אנושי תוהה איך אפשר לעזור להם; ילדים גדולים יותר כבר יכולים לנסות את יכולותיה של "העוזרת האישית החכמה", לבקש ממנה דברים ולשאול אותה שאלות. מי בדיוק הם חושבים שעונה להם מן הצד השני, ואילו יכולות הם מייחסים לו?

אלה חלק מהשאלות שעלו אצל ג'ודית שולביץ' מהניו רפבליק כששמעה את בתה מנהלת שיחות קיומיות עם מערכת ההפעלה של האייפון שלה. השיחות האלה התדרדרו במהרה להטחת עלבונות, כשסירי לא עמדה בציפיות. למרות זאת, היא אומרת, הקול של סירי ודומותיה הוא משהו שאנחנו לא ממש יכולים להתנגד לו. מעולם לא היינו צריכים להבדיל בין קולות אנושיים אמיתיים וקולות שרק נשמעים אנושיים, ולכן בעצם אין לנו ברירה אלא לסווג את סירי כבן אדם, למרות מגבלותיה הבולטות.

השילוב בין קול אנושי להבעת רגשות מחמירה את המצב עוד יותר: בניסוי שערך הפסיכולוג פיטר קאן, שיחקו ילדים משחק ניחושים עם רובוט. שמישהו בא לקחת אותו בחזרה לארון לפני שהספיק להשלים את תורו. בתגובה התלונן הרובוט ש"זה לא פייר" ושהעובדה שרוצים לסגור אותו בארון "פוגעת ברגשותיו". רוב הילדים חשבו שרגשותיו של הרובוט אכן נפגעו, ושהרובוט "חצי חי וחצי לא", אבל לא היו מוכנים להעניק לו זכות להצביע או לשלם לו תמורת עבודתו. בעקבות כך מביע קאן חשש שמערכת היחסים בין ילדים והרובוטים או מערכות ההפעלה החדשות יהיו "כמו מערכת היחסים שבין אדון ועבד".

קשה בהחלט להתייחס לסירי כאל לא אנושית, וראיתי גם אנשים מבוגרים שלא בדיוק מבינים את גבולות הידע שלה. יכול להיות שהמגבלות של סירי אפילו מחזקות את הזהות האנושית שלה – מה יותר אנושי מלומר "אני לא יודע" – וההומור שמשולב בה מכוון לבנות את האנושיות שלה, לגרום לנו לחשוב שהיא יודעת יותר ממה שהיא יודעת וגם לסלוח לה על התפקוד הבלתי-מזהיר שלה.

כשהתנסיתי בשחזור כמה מהתגובות המשעשעות של סירי שמצוטטות בטאמבלר הזה לא יכולתי שלא להרגיש שאני מציקה למישהו. סביר להניח שילדים, שמיומנים עוד פחות בהבדל בין מציאות ודמיון, מצליחים עוד פחות.

עם זאת, דווקא הניסוי של קאן מראה שילדים כן מסוגלים להבדיל בין רובוט לאדם. החשש מהאופן שבו חיים בחברה של עבדים ואדונים תשפיע על נפשות הילדים מתעלמת מההבדל המהותי – הרובוט אכן אינו אדם ולכן אין שום סיבה שילד יתייחס אליו כשווה לו.

השאלה היא כמובן אם האבחנה הזו תוכל להיעלם לגמרי יום אחד. בביקורת שכתב על הסרט "היא" צופה העתידן הבלתי נלאה ריי קורצווייל שמערכות הפעלה יוכלו לתפקד כחברים שלנו בעוד כחמש עשרה שנה, אבל לדעתו לא נסתפק בקול בלבד – העובדה שלסמנתה אין גוף היא "רעיון לא מציאותי" כי "לא תהיה כל בעיה טכנית ליצור נוכחות ויזואלית וירטואלית שתתאים לנוכחות הקולית הוירטואלית שלה", על ידי שימוש בדימויים המוקרנים על משקפיים למשל. גם אוקולוס, הרכישה הגדולה האחרונה של פייסבוק, מראה שהקול של סירי הוא רק ההתחלה בהתמודדות שלנו עם מציאות וירטואלית.

אולם לפעמים נדמה שהעיסוק המבוהל בטכנולוגיה ובעתידנות הוא פשוט דרך נפלאה להתחמק מבעיות עכשוויות. בואו נדבר על חיי נצח כאילו פתרנו את כל הבעיות בחיינו הקצרים והמוגבלים. בואו נדבר על סירי כאילו פתרנו את כל שאר הבעיות בגידול ילדים, וחכו שרובוטים יתחילו לעשות בייביסיטר. קאן מודאג מההשלכות של רובוט שיעשה את כל מה שהילד יאמר לו. אפשר לתכנת את הרובוט לומר לילד לא, הוא אומר, אבל הידיעה מתי לומר כן ומתי לומר לא היא עניין מורכב מדי לרובוט.

ובכן נראה שמדובר בעוד מקרה של תסמונת העתידנות מעבר לפינה, שלא לוקחת בחשבון דברים טריוויאליים בהרבה שעומדים בינינו ובין הרובוטים-השמרטפים. קודם שימציאו רובוט שיוכל להלביש ילדים, להפשיט אותם, לנגב להם ולהחזיק אותם על הידיים, ואחר כך נדאג לגבי הסמכות ההורית שלהם. כנראה שבינתיים נצטרך להאשים רק את עצמנו.