לחלוק את החיים עם רובוט

האם רובוטים אחראים למעשיהם? כמה שאלות על עתיד היחסים בין אנשים ורובוטים, שהולכים ונעשים מורכבים יותר
X זמן קריאה משוער: 6 דקות

בעיצומו של הדיון האופנתי סביב סופר-בינה מלאכותית, סינגולריות ורובוטיקה אני שומע לעתים קרובות דאגה שבני האדם יהפכו למיותרים. בתוך כך, עולה השאלה האם אנחנו נישאר בשליטה על ההחלטות שמנהלות את חיינו, או שמא בסופו של דבר הרובוטים ״יפעלו באופן עצמאי״. שאלת השליטה ביחסי אדם-מכונה אינה שאלה דו-קוטבית, אלא רצף הנע משליטה מלאה לאובדן שליטה מוחלט. לכן עלינו להחליט לגבי כל מקרה של בינה מלאכותית ורובוטיקה, באילו היבטים של היחסים אנחנו רוצים להמשיך לשלוט ובאיזו מידה. בכלל, עמיתיי בתחום הרובוטיקה ואני לא תופסים את העתיד במונחים ספרותיים או קולנועיים של "בני האדם נגד המכונות"; להיפך, אנחנו חוזים עולם שבו בני אדם ורובוטים יעבדו יחד. לשם כך רבים מאיתנו חוקרים מנגנונים של שיתוף פעולה בין בני אדם לרובוטים, הן בפן המקצועי והן בפן האישי.

בפן המקצועי אנחנו מדברים על צוותים עתידיים של בני אדם ורובוטים; לדוגמה, פועל במפעל שעובד לצד רובוט בייצור או בהרכבה, או אחות בבית חולים המפקחת על צוות של רובוטים שמחלקים תרופות לחולים. דוגמה נוספת היא מורה בבית הספר עם עוזר הוראה רובוטי שמסייע לתלמידים כשהם זקוקים לעזרה, או עובד משרד הנעזר ברובוט שתפקידו להעביר הודעות ולתאם פגישות. בנוסף אנחנו רואים לנגד עינינו בני-לוויה רובוטיים שישתתפו בחיינו האישיים בבית. גם כאן ייתכן מגוון רחב של יישומים: רובוטים ביתיים יעזרו לנו במטלות הבית, כמו בישול וניקיון; הם יוכלו לבדר אותנו, או לעודד אותנו להתעמל; רובוטים יסייעו לנו בתחביבים כמו נגרות או תכשיטנות, ויעזרו לילדים בשיעורי הבית ובתרגול הנגינה.

בשני המקרים – המקצועי והאישי – המחקר שלנו מתבסס על האפשרות ליצירת מערכות יחסים ארוכות טווח, צמודות ואישיות בין רובוטים לבני אדם. לתחום המחקר שעוסק בחזון הזה קוראים "אינטראקציית אדם-רובוט" (Human-Robot Interaction או HRI). בתוכו, הנושא שמעניין אותי אישית הוא התפקיד של שפת גוף ותזמון במערכות היחסים בין בני אדם ורובוטים. בעיניי, שפת גוף ותזמון הם גורמים מרכזיים ליצירת חוויות משותפות באיכות גבוהה, ויתרה מזו – יש להם השפעה רגשית מהותית על בני אדם. זאת כי בני אדם רגישים עד מאוד לתזמון פיזי ולתקשורת לא-מילולית.

ניסויים המחישו את הכוח הטמון בשפת גוף ומחוות של רובוטים. כשהיה נדמה לאנשים שרובוט נהנה משיר מסוים (אם הוא רוקד או רוקע ברגליו לפי הקצב), הם יחשבו שהשיר עצמו טוב יותר מאשר אם הרובוט נע באופן דומה אבל בלי להתייחס לקצב

בניסויים שערכתי ראיתי, למשל, שאנשים מעדיפים רובוט שחוזה את כוונותיהם ופועל זמן-מה מראש, גם אם זה אומר שהוא יטעה לפעמים כי הוא ניסה לנחש מה האדם עומד לעשות. בהתבסס על כך, אנחנו חוקרים רעיון של אלתור רובוטי כמודל לאינטראקציה. לפי המחקר שלי, רובוט ייתפס כאינטליגנטי יותר, מסור יותר ויעיל יותר אם הוא ייקח סיכונים מושכלים, כלומר יתנהג בצורה פחות מבוקרת ויותר מאולתרת.

זה נכון בייחוד כשמדובר במטלות שגרתיות חוזרות ונשנות. במעבדה שלנו אנחנו רואים שבמצבים כאלה אנשים רוצים שהרובוטים שלהם ינקטו יוזמה ולא יהיו סתם "מכשיר טיפש" שעושה רק את מה שאומרים לו לעשות. הממצא הזה הפתיע אותנו, כי ציפינו שאנשים ירצו שרובוטים יהיו מדויקים וצפויים ככל האפשר, שימלאו פקודות ותו לא. אבל מצאנו שבמקרים מסוימים העברת השליטה לידי המכונה מעשירה את חוויית עבודת הצוות עם הרובוט ומשפרת את דעתם של בני אדם על המכונה.

ניסויים אחרים המחישו את הכוח הטמון בשפת גוף ובמחוות של רובוטים. כשהיה נדמה לאנשים שרובוט נהנה משיר מסוים (אם הוא רוקד או רוקע ברגליו לפי הקצב), הם יחשבו שהשיר עצמו טוב יותר מאשר אם הרובוט נע באופן דומה אבל בלי להתייחס לקצב. במילים אחרות, דעתם של אנשים על שיר מושפעת מהנאתו-כביכול של הרובוט. בסדרת ניסויים אחרת, ביקשנו מאנשים לספר לרובוט על אירוע אישי שהיה להם קשה מבחינה רגשית. ראינו שדעתם של אנשים על הרובוט חיובית יותר כשהוא מגיב לסיפורם במחוות גוף עדינות ובמשפטים קצרים המעידים כי הם (המשתתפים בניסוי) וחווייתם חשובים לו.

ובסדרה נוספת של ניסויים ראינו שעצם נוכחותו של הרובוט משנה את התנהגותם של אנשים. במחקר שנערך לאחרונה הצבנו את הנבדקים במצב שבו יש להם הזדמנות להרוויח יותר כסף אם לא יצייתו להוראות הביצוע של משימה משעממת וחזרתית. כשבחדר היה רובוט שהביט בנבדקים מדי פעם, הם הקפידו יותר להישמע להוראות. וכשבמקום הרובוט הכנסנו לחדר בן אדם, שהביט גם הוא בנבדקים, התברר שהרובוט לא פחות יעיל בשינוי התנהגותם מאשר מחליפו האנושי.

מהמחקרים האלה אנו לומדים שבני אדם מוכנים במידה מסוימת להשעות את הספק שלהם (suspension of disbelief) כשזה מגיע לרובוטים. הם משליכים תפיסות חברתיות ובין-אישיות על הרובוט, ובמובנים מסוימים תופסים אותו כדומה לבן אדם. נוסף לכך, כשאנשים חוזרים על פעולה מסוימת שוב ושוב עם אותו רובוט (קל וחומר כשהם ממש מורגלים לעבוד איתו) הם מתחילים לצפות מהמכונה לנקוט יוזמה ולקבל החלטות בעצמה, במקום לחכות לפקודות. לתפיסתי, מדובר בהיבט מרכזי של ציפיות אנושיות מבינה מלאכותית.

כאן הייתי רוצה לחזור לשאלה המקורית: עד כמה אנחנו מוכנים לוותר על השליטה שלנו, וכמה החלטות יש לאפשר לרובוט לקבל בעצמו? כרובוטיקאי, אני נשאל את השאלות האלו לא מעט. אבל לעניות דעתי זו בכלל לא שאלה טכנולוגית שיש להפנות למהנדסים ולמדעני מחשב, אלא שאלה שיש להפנות לחברה כולה.

בני אדם צריכים לברר עד כמה הם מוכנים לוותר על השליטה בתהליך קבלת ההחלטות הממוכן, ובאילו מצבים. כיום, עם טכנולוגיית GPS, אנחנו מעניקים לתוכנה שלנו את הכוח להחליט באיזו דרך ניסע הביתה. זאת החלטה שהיינו יכולים לקבל בעצמנו, אבל בחרנו שלא

חשוב להבין שאין גבול ברור בין מכניקה לרצון חופשי. גם דלת אוטומטית שנפתחת כשמישהו מתקרב אליה מקבלת את ההחלטה לתת לו להיכנס. מה יקרה אם הדלת תשתמש בטכנולוגיית זיהוי פנים כדי לראות אם האדם שמתקרב אליה שייך למגזר דמוגרפי בעל סיכוי גדול יותר לגנוב מהחנות, ואז "תחליט" שלא להיפתח? זה עדיין מנגנון מתמטי או סטטיסטי, אבל לפתע הוא הופך למנגנון של אפליה. האם יש לאפשר לרובוט לקבל החלטות כאלה באופן עצמאי? מה אם איננו מבינים עד הסוף למה הוא מחליט אותן?

בני אדם צריכים לברר עד כמה הם מוכנים לוותר על השליטה בתהליך קבלת ההחלטות הממוכן, ובאילו מצבים. כיום אנחנו משתמשים בטכנולוגיית GPS כדי להעניק לתוכנה שלנו את הכוח להחליט באיזו דרך ניסע הביתה. זאת החלטה שהיינו יכולים לקבל בעצמנו, אבל בחרנו שלא. אף על פי כן, אני לא מאמין שאנשים יאפשרו למכונה או לאלגוריתם להחליט בשמם על ניתוק קרוב משפחה חולה ממכשירי החייאה.

שאלת השליטה, אם כן, אינה שאלה בינארית, אלא רצף, ועלינו לבחון כל מקרה לגופו ולקבוע מתי אנחנו רוצים לשמור על שליטה ומתי אנחנו מרגישים בנוח לוותר עליה. כדי לבחון את השאלות האלה לעומק, פתחנו בישראל ביוזמה שנקראת "רובוטים בחברה האנושית", פרויקט משותף עם פרופסור דן הלפרין וליאור זלמנסון מאוניברסיטת תל אביב. ישנן יוזמות דומות במדינות נוספות. היוזמה שלנו היא פורום שנתי בו דנים בשאלות של רובוטיקה ושליטה עם מומחים ממגוון תחומים, החל מספרות, עבור באתיקה ובכלכלה, וכלה במשפטים ובמדעי החברה. הפורום משקף את תפיסתי, לפיה אנו מתמודדים עם שאלות הנוגעות לכל היבטי החברה.

במפגשים שלנו אנחנו נתקלים בשאלות משפטיות לגבי האחריות של רובוטים למעשיהם; דנים בשאלות תרבותיות לגבי הקשר בין בינה מלאכותית למגדר; ומעלים שאלות כלכליות הנוגעות לעתיד שוק העבודה בחברה שהולכת ונעשית אוטומטית יותר ויותר. לדוגמה, כלכלנים צופים ששילובם של חברי צוות רובוטיים במקומות העבודה יחריף את האי-שוויון הכלכלי, ובייחוד ישפיע לרעה על קבוצות סוציו-אקונומיות נמוכות, שכלל לא משתתפות כיום בדיון הזה.

לסיכום, מידה מסוימת של ויתור על שליטה תהפוך את הרובוטים לחברי צוות ובני לוויה טובים יותר, ותתן לנו את מרחב החשיבה הדרוש לקבלת החלטות משמעותיות ומעניינות יותר. אך חשוב להבין שכמה מהשאלות המהותיות שנוגעות לבינה מלאכותית ורובוטיקה, כולל מידת השליטה שעליה נוותר, אינן שאלות טכנולוגיות או הנדסיות, אלא שאלות חברתיות ותרבותיות, ואין להשאיר אותן בין כותלי מחלקות הרובוטיקה.

ד”ר גיא הופמן הוא מרצה וחוקר בבית הספר לתקשורת במרכז הבינתחומי הרצליה, ומנהל משותף של המעבדה לחדשנות במדיה במרכז. הופמן בעל דוקטורט מ-MIT ומחקרו עוסק באינטראקציה בין בני אדם לרובוטים ובבינה מלאכותית. זכה במספר פרסים אקדמיים בינלאומיים על מאמריו, הציג את הצגת התיאטרון הראשונה בה שיחקו רובוטים לצד בני אדם, בנה רובוט שמאלתר ג’ז אשר זכה לפרסום בינלאומי, ופרסם את עבודותיו האקדמיות והאמנותיות בכנסים וגלריות ברחבי העולם. בשנת 2010 הוכרז ד”ר הופמן כאחד מ-5 החוקרים המבטיחים של מגזין דה-מרקר, ובשנת 2012 כאחד משני החוקרים המבטיחים של מגזין גלובס.

מחשבה זו התפרסמה באלכסון ב על־ידי גיא הופמן.


תגובות פייסבוק

> הוספת תגובה

9 תגובות על לחלוק את החיים עם רובוט

02
BULDOZER

קצת קשה לי לראות איך רובוט מבדיל בין שינאה לאהבה או בין חמלה לנקמה ונותן לזה ביטוי!!!
אנחנו, הבני האדם, יצור מאוד תחרותי!!! כל ההתקדמות שהייתה בעולם הזה עד עכשיו היא פרי ייצר ההשרדות, אגואיזם, התחרות והרצון לדעת!!! האם גם הרובוטים ידעו את כל התחושות האלו ולפענח אותם???
ומה אייזק אסימוב היה אומר על זה, לפיו רובוט תמיד יהיה כפוף לאדם ולא שיווני אליו???

מעניין!!!

03
מעוז צור

אם לומר את האמת, אמנם רובוטיקה מאוד מעניינת ומגניבה אותי. זה אדיר לראות רובוטים עושים פעילויות שונות שלא היית מאמין שהם מסוגלים לעשות, ואין ספק שזה חלום לתת להם את העבודות שאין ברצוננו לבצע, שמעמיסות עלינו ושתופסות לנו את הזמן. יחד עם זאת, כשנאי חושב על זה, אני מאוד מסתייג מהרעיון להכניס רובוטים בצורה משמעותית כל כך לחיינו. גם אם חזון העבודה המשותפת יתקיים, אני חושב מעבר- עד לאן אנחנו רוצים להגיע? הוזכר במאמר הרצון להכניס אותם לעבודה לצד בני אדם- במשרדים, בעבודות בחוץ ואפילו בבתים- לניקיון, בישול וכו'. אבל האם הדברים האלה כולם הם לא מה שעושה אותנו אנושיים? האם הדברים האלה- העבודה, הלחץ, המטלות וכו'- אין הם אותם הדברים המאפשרים לנו ליהנות מהחופש כשהוא מזדמן לנו? אם ניקח זאת לקיצוניות- נניח שניתן לרובוטים את כל ה"עבודות" ונשאיר לעצמנו את כל מה שאנחנו נהנים ממנו. האם באמת נהנה באותה מידה לעשות זאת כל יום מימינו, מרגע הלידה עד רגע המוות?

04
מאיר גוטמן

חברה, שכחתם את העיקר!

מה זה "לעבוד לצידו של האדם?" זה במקום (שוב: במקום!) אדם אחר! ומי ישלם את מחייתם של אותם עוזרים אנושיים שיוחלפו על ידי רובוט?

לפני עשרות שנים ראיתי קריקטורה שהכיתוב היה "הראה אנושי! אתה עלול להיות מוחלף בלחצן!"

סתם מחשבה חולפת...

    05
    BULDOZER

    כמו בסרט ההוא עם ברוס וויליס בשם Surrogate. לכל אדם ששוכב לו בביטחה בביתו מתפעל רובוט בדמותו וכך דואג לעינייניו!!!
    אופציה שניה, רובוט שאינו תלוי במשאבים בהם בני האדם תלויים, המערכת תתייעל. כל דבר יהיה באיכות גבוהה יותר (כגון: אוכל מהונדס, כלל מוצרי מחייה, אפילו אכיפת חוקים וכו׳...) ובהתחשב בעובדה שלכסף כבר מזמן אין באמת איזשהו ערך חומרי וכל המוסדות הממשלתיים יתפקדו ללא תקלות. בני האדם, כולם, יהיו פילוסופים, מהנדסים, אומנים (או כל דבר אחר בו הם חפצים), כושר שיא תמידי וחיים על קיצבה ״שווה״ של ביטוח לאומי לכל החיים!!!:-)

06
חיים

כל זה מאד מענין. אבל האם רובוט הוא חלק מ'ממלכת התכליות' המוסרית של קאנט? ובכן, לא. ולכן כל השאלה על 'לחלוק' איתו את העולם מראה שיש כאן נקודת מוצא אנטי-הומניסטית. וחלק מהטיעונים הבאים לבסס זאת הם מופרכים, וחוטאים בהשלכה של אנושיות על הרובוט. למשל, זה שאנשים מבצעים משימה באופן מוקפד יותר כשיש רובוט ש'צופה' בהם, לעומת אדם. מה בזה קשור לרובוט, או ל'יחסים' שלו עם האדם? זה קשור בעיקר לעובדה שהאדם נצפה ומתועד.

07
סבא

אנחנו מוקפים ברובוטים אך איננו קוראים להם כך.ממטוסים ללא טייס ועד אנדרואיד המזהה את מיקומו דרך מכשיר המבצע ניתוח בהפעלה מרחוק ועד צוללת המגלה ספינות אבודות.אין שום סיכוי לדעתי כשכדור הארץ יכיל 10 מיליארד בני אנוש למכשירים דמויי אדם .מה שחסר עדיים ועלפי כללי אסימוב הינם מערכות הסעה ומערכות המונעות תאונות מטוסים דרכים כולל מטוס שמתאבד מנסה לרסק .א. המדוכאים בחברה יפגעו בהם ב.האלימים ינצלו אותם למעשה שוד רצח ופגיעות בקהל תוך כדי שהרובוטים העצמם מושמדים.ג. ייבנו אזורים מוגני רובוטים בשל כך על ידי מנגנונים אלקטרו מגנטיים.

09
רמי פריד

השאלה "האם רובוטים אחראים למעשיהם?" היא שאלה שגויה מעיקרה כמו גם הקביעה המוזרה שרובוטים מקבלים החלטות. האחריות לביצועיה של מכונה כלשהי (מכונה מעשה ידי אדם, ורובוט הוא מכונה גם אם היא בעלת הרבה דרגות חופש) היא על האדם המפתח אותה ואו היצרן שלה. "החלטות" המיוחסות בטעות למכונה או לרובוט הן אינן אלא ביצוע של פעולות המבוססות על אלגוריתמים והוראות שמקורם באדם המפתח (גם אם הפיתוח נעשה בעזרתן של מכונות).