האגודה לזכויות הרובוט

בשנת 1976 פרסם סופר המדע הבדיוני האמריקאי הנודע, אייזק אסימוב (Asimov), סיפור קצר בשם "איש המאתיים" (“The Bicentennial Man”). הספר זכה בפרס הוגו ובפרס נבולה לסיפור המדע הבדיוני הטוב ביותר לשנה זו. בשנת 1992 חברו יחדיו אסימוב ורוברט סילברברג (Silverberg), אף הוא סופר מדע בדיוני אמריקאי בעל שיעור קומה, כדי לכתוב את הספר "האדם הפוזיטרוני", המבוסס על הנובלה המקורית של אסימוב. הספר זכה להצלחה רבה, תורגם לשפות רבות (בהן לעברית, בהוצאת כתר), ובשנת 1999 אף עובד לסרט בשם איש המאתיים (בבימויו של כריס קולומבוס ובכיכובו של השחקן המנוח רובין ויליאמס בתפקיד אנדרו האנדרואיד). בבסיסו זהו סיפור מהנה ומעורר מחשבה. הסיפור מעלה, בין השאר, שאלות אתיות ומשפטיות שעשויות להיות רלוונטיות בעתיד שבו אינטליגנציה מלאכותית תאפשר ייצור של אנדרואידים (רובוטים דמויי אדם), עתיד שאולי איננו רחוק כל כך.

האנדרואיד ששאף להיות בן אנוש

סיפורו של אסימוב מתאר רובוט בשם אנדרו, בעל מוח פוזיטרוני (מושג שאסימוב מרבה להשתמש בו בסיפורי הרובוטים שלו), שכפוף לשלושת חוקי הרובוטיקה:

הוא אינו רשאי לפגוע בבן אנוש.

עליו לציית להוראותיהם של בני אדם.

עליו להימנע מפגיעה בו עצמו.

אם החוקים מתנגשים, עליו לציית להם בסדר זה. כלומר, אם אדם יצווה עליו להשמיד את עצמו הוא יעשה זאת משום שלחוק השני משקל גדול יותר מאשר לחוק השלישי.

אנדרו משמש כמשרת בביתו של אדם בשם ג'רלד מרטין, ומפתיע אותו ביכולתו היצירתית (גילוף בעץ), שאיש אינו מסוגל להסביר את מקורה, גם לא בחברה שסיפקה את הרובוט. אנדרו עצמו, משנשאל על המניע שלו לגלף בעץ, עונה שהוא נהנה מכך. ג'רלד מעודד את אנדרו להמשיך וליצור ואף דואג להעמיד לרשותו חלק מהכסף שהתקבל ממכירת עבודותיו. הרובוט משתמש בכסף זה לשדרג בהדרגה את מערכותיו, כך שיהיו יותר ויותר דומות למערכות ביולוגיות אנושיות.

לאחר שנים רבות, כשג'רלד כבר מבוגר מאוד, ואף נכדתו (שאנדרו מכנה כל השנים "עלמה קטנה") כבר נשואה עם ילד, אנדרו מבקש לקנות את חירותו, וג'רלד מעניק לו אותה ללא תמורה כספית. אנדרו מתחיל ללבוש בגדים ומרחיב את השכלתו באמצעות קריאת ספרים. בעקבות ניסיונות פגיעה של אנשים שונים באנדרו נחלצים לעזרתו בנה ונכדה של "עלמה קטנה", שניהם משפטנים, ומצליחים להביא לחקיקת חוקים האוסרים על פגיעה ברובוטים.

בהמשך, לאחר מותה של "עלמה קטנה", אנדרו מבקש להחליף את גופו המתכתי בגוף ביולוגי והופך לאנדרואיד. בהמשך אנדרו משפץ את גוף האנדרואיד שלו כך שיתפקד כגוף של אדם, ומתחיל לנהל מערכה משפטית כדי שיוכר כבן אנוש. מאחר שמוחו הפוזיטרוני אינו מתנוון עם השנים, והאלמוות שלו אינו תואם את הגדרת האדם, עובר אנדרו שינוי משמעותי אחרון, שמאפשר למוחו הפוזיטרוני להתנוון כמוח אנושי. כשהוא כבר בן מאתיים שנה ועל ערש דווי, אנושיותו מוכּרת באופן חוקי והוא מוכרז כ"איש המאתיים" (אנדרו שבע רצון מההחלטה, אך מחשבתו האחרונה טרם פטירתו היא דווקא על "עלמה קטנה", מה שמרמז אולי על אנושיותו יותר מכל קביעה משפטית).

שאלות אתיות ומשפטיות

שלושת חוקי הרובוטיקה של אסימוב, אשר מוטמעים במעגלי "המוח הפוזיטרוני", מעמידים ללא ספק את האדם במעמד גבוה יותר מאשר רובוטים. החוק הראשון אוסר על רובוט לפגוע פגיעה מכוונת בבני אדם, והחוק השני מחייב אותו לציית לבני אדם. אפילו החוק השלישי, שמחייב אותו למנוע פגיעה בעצמו (בתנאי שאין הדבר מתנגש עם אחד משני החוקים הראשונים), לא נועד להגן על הרובוט מ"סבל" אפשרי (ואם מן הראוי להסיר ממילה זו את המירכאות נדון בהמשך), אלא להגן על רכושו של האדם, שכן לרובוטים מטרה אחת בלבד: לשרת את בני האדם. לשם כך הם יוצרו בסיפוריו של אסימוב, ואם חזונו יתממש, ובעתיד ייווצרו רובוטים בעלי אינטליגנציה מלאכותית, יש להניח שזו אכן תהיה מטרתם.

האם יש היגיון בהענקת חירות למכונה שתוכננה על לוח השרטוטים ויוצרה באופן שאינו שונה ממכונית או ממקרר? נכון שהיא דומה לבני אדם (אם מדובר באנדרואיד), היא בעלת חיישנים (בתפקיד חושים) וביכולתה לפעול לפי אלגוריתמים מסובכים שמדמים התנהגות אנושית, אך האם יש היגיון בחקיקת חוקים להגנת מכונות כאלו מבני אדם (ולא רק במובן של הגנה על רכוש פרטי)?

לכאורה נראה שהתשובה המתבקשת היא שלילית. מכונה היא מכונה, ובניגוד לבני אדם, שפגיעה בהם גורמת סבל אמיתי, הן לאדם והן לבני משפחתו, מכונה אינה חשה כאב ואינה סובלת, גם אם מידת הדמיון שלה לבני אדם עשויה לעורר בנו את האשליה שמדובר בכאב ובסבל אמיתיים. גם היום קל לכתוב תוכנת מחשב (או אפליקציה לטלפונים "חכמים") שתגיב בקול גניחה כאשר לוחצים על מקש מסוים, או שתשמיע קול בכי כאשר כותבים לה משפט "מעליב". אולם קולות שמכונה משמיעה אינם מעידים על רגשות אמיתיים או על כאב אמיתי. מן הסתם, אנדרואיד שיתנהג כנעלב ויפרוץ בבכי (ואפילו יזיל דמעה משקי דמעות שנשתלו בעיניו המלאכותיות), לא באמת יחווה "עלבון", ואף נראה שלא יחווה דבר. כל התנהגותו, "אנושית" ככל שתהיה, תהיה לא יותר מאשר תגובה שתוכתב לו על ידי אלגוריתמים משוכללים (ראו בהרחבה בפרק 10 בספר זה).

מצד שני, אפשר לטעון שההיסטוריה האנושית רצופה בהתפתחות מוסרית של החברה, שאחד מביטוייה הוא הענקת זכויות לקבוצות שקודם לכן היו משוללות זכויות: לפני כמה מאות שנים הובאו לאמריקה בכפייה אפריקאים שנוצלו כעבדים חסרי זכויות, אך ברבות השנים הוענקו להם זכויות השוות לאלו של "האדם הלבן". גם אם יש עדיין בארצות הברית לבנים המסרבים לראות באפרו־אמריקאים בני אדם השווים להם, מבחינת החוק הם נחשבים לבעלי זכויות מלאות. העבדות עצמה הפכה במרבית מדינות העולם לבלתי חוקית, וזאת לאחר היסטוריה ארוכה שבה עבדות הייתה נפוצה ומקובלת במרבית החברות.

מיעוטים רבים במקומות שונים בעולם עדיין זוכים ליחס הדומה לזה שקיבלו אפרו־אמריקאים בארצות הברית, וחקיקה המגנה על זכויות המיעוטים היא בימינו אחד הסממנים לחברה מתוקנת. במקומות רבים בעולם, ובכלל זה באמריקה ובאירופה, נשללה מנשים זכות הבחירה עד המאה העשרים. את הזכות הזו, שנראית לנו היום טבעית ובסיסית, השיגו נשים בעולם באמצעות מאבקים רבים; בשוויץ נשים קיבלו את זכות הבחירה רק בשנת 1971! ובסעודיה רק בשנת 2011! במהלך ההיסטוריה ילדים מגיל תשע או עשר כבר נחשבו לבוגרים מספיק לעבודה, ואף הועסקו בעבודות קשות בחקלאות ובתעשייה מזריחת החמה עד שעת ערב מאוחרת. רק בתהליך הדרגתי הוענקה לילדים ילדוּת, דבר שבעולם המערבי כיום נראה מובן מאליו, אך עד סוף המאה התשע־עשרה עבודת ילדים נחשבה נורמלית ואף חיונית. תפיסה זו, לצערנו, עדיין קיימת בארצות מסוימות, למרות המאמצים של גופים שונים בעולם להקטין את ממדיה. במהלך ההיסטוריה היחס להומוסקסואלים היה שונה מחברה לחברה, ובחברות רבות, בעיקר בחברות שבהן שולטת דת מונותיאיסטית (אך לא רק), היחס אליהם הוא מחפיר, ויש מקומות שבהם מרחפת מעל הומוסקסואלים סכנת עונש מוות (ראו בהרחבה בפרק 1 בספר זה). ההכרה בכך שהומוסקסואלים אינם ראויים לגנאי ושיש להעניק להם את מלוא הזכויות שמוענקות לשאר האוכלוסין, ואשר במשך שנים ארוכות נמנעו מהם, מחלחלת בהדרגה לחברות רבות בעולם, ואף היא נחשבת לסממן של חברה מתוקנת ונאורה.

בימינו יש אף קבוצות רבות שנאבקות על זכויותיהם של בעלי חיים. המאבק הוא על זכותם לחיים ללא סבל וללא התאכזרות מצד בני האדם, ובמידת האפשר לצמצום הרבעתם לצורך מאכל. אפשר שביום מן הימים נתקשה להאמין כיצד התייחסו בעבר (כלומר — בימינו אלה) לבעלי חיים (ראו בהרחבה בפרקים 5 ו־6 בספר זה), בדיוק כפי שקשה לנו להבין כיצד בעבר התייחסו אל אנשים כהי עור, נשים, ילדים והומוסקסואלים באופן בלתי מתקבל על הדעת. מכיוון שמדובר בתהליך הדרגתי של התפתחות מוסרית שבמוקדה היחס לזולת, אין זה בלתי נמנע שהיחס לרובוטים בעלי אינטליגנציה מלאכותית יעבור התפתחות דומה, ובמשך הזמן יוענקו להם זכויות שיגנו עליהם מפני אכזריות של אנשים, יעניקו להם מידה זו או אחרת של חירות, ואולי בסופו של דבר יאפשרו להם לחיות כשווי זכויות לצדנו.

עם זאת, ההתפתחות המוסרית שעברה החברה הייתה מכוונת כלפי בני אדם ובעלי חיים בשר ודם, החשים ומסוגלים לכאוב, לסבול ולחוש עלבון ותסכול. האם יש הצדקה להחיל זאת אף על מכונות שאינן מסוגלות לחוש, שאולי באומרן "הייתי רוצה להיות חופשי" אינן מביעות רצון של ממש אלא פועלות על פי אלגוריתם משוכלל, שמאפשר להן ללמוד ולהתפתח, אך אינו הופך אותן ליצורים בעלי תודעה במלוא מובן המילה?

שאלת התודעה

בסופו של דבר, שאלת המפתח לקביעת יחסנו לרובוטים עתידיים עשויה להיות האם מוחם המלאכותי (מן הסתם לא "מוח פוזיטרוני" אלא איזושהי רשת נוירונים מלאכותית שמדמה אולי את פעולת המוח האנושי) מסוגל לייצר תודעה, כלומר, האם רובוטים או אנדרואידים יהיו בעלי מנעד תחושות מסוים, ולוּ מצומצם. אם לא, נראה (לפחות לכאורה) שאין הצדקה להעניק להם זכויות כלשהן ולהגן עליהם מפגיעה מעבר להגנה המקובלת בחוק על רכוש. אולם אם יהיה במוח מלאכותי זה ולו זיק של תודעה, המוסר יחייב אותנו להתייחס אל בעליו לפחות באותה מידה של אנושיות שבה אנו מתייחסים אל חיות המחמד שלנו (ראו בהרחבה בפרקים 5 ו־8 בספר זה).

מן הסתם, הקושי הגדול יהיה להחליט אם מאחורי הבעות הפנים האנושיות לכאורה של אנדרואידים (או תגובות מסוימות של רובוטים) עומדות תחושות אמיתיות של כאב, שמחה, עצב, שביעות רצון וכדומה. קושי זה נובע מכך שאין לנו שמץ של מושג איך המוח האנושי (או מוח בכלל) מייצר מצבי תודעה. באמצעות מכשור משוכלל אנו מסוגלים כיום להראות שפעילות מוחית מסוימת, ואפילו ברמת הפעילות של נוירונים בודדים, תואמת דיווחים על התנסויות נפשיות מסוימות. אפשר להראות שגירוי חשמלי של אזורים מסוימים במוח מעורר תחושות מסוימות, או שאצל אדם שמדווח על תחושת כאב יש פעילות של קבוצת נוירונים במקום מסוים במוח, אולם לאיש אין מושג כיצד פעילות מוחית כלשהי מסוגלת לייצר התנסות נפשית (ראו בהרחבה בפרק 7 בספר זה). לאיש לא ברור איך פעילות של נוירון (או קבוצת נוירונים) מייצרת בנו תחושת כאב, או התנסות של אדום, או צליל של גיטרה, או ריח של קפה, או תחושת עונג, או תחושת עצב עמוקה. יתרה מכך, אין לחוקרי המוח כיום אפילו קצה חוט איך לקשר בין פעילות מוחית למצבים נפשיים, למעט הצבעה על מתאמים ביניהם. מיטב התיאוריות הקיימות כיום בנושא מתארות קשרים אלו אך לא מסבירות אותם.

אחת התפיסות המודרניות לגבי הקשר בין המוח להתנסויותינו הנפשיות מכונה פונקציונליזם, והיא מתבססת על תובנות מאופן פעולת המחשב. בפעולת המחשב אפשר לזהות שתי רמות פעולה: רמת החומרה, שכוללת רכיבים אלקטרוניים שמחוברים ביניהם, ורמת התוכנה, שהיא הצגה מופשטת של פריטי מידע ותהליכי עיבוד מידע. בסופו של דבר מה שחשוב למשתמש זה לא איך עיבוד המידע ממומש פיזית, אלא הקשר שנקבע בין הקלט לפלט. מבחינה עקרונית, החומרה יכולה להיות מבוססת גם על מנגנונים מכניים (מוטות, גלגלי שיניים, גלגלות וכו', כפי שהוצע עוד במאה התשע־עשרה), שפופרות ריק (שהיו הבסיס לחומרת המחשב טרם הומצא הטרנזיסטור), מעגלים מודפסים, כפי שנהוג כיום, או אמצעים טכנולוגיים מתקדמים יותר שאולי יעמדו לרשותנו בעתיד, כמו רכיבים אופטיים או ביולוגיים, אבל מה שקובע את הקשר בין הקלט לפלט זה האלגוריתם המופשט של התוכנה, שאינו תלוי באופן שבו הוא ממומש.

אם כן, אפשר שהקשר בין המוח לנפש דומה לקשר בין החומרה לתוכנה. על פי עמדה זו, משולה הנפש לרמה המופשטת של תהליכי עיבוד המידע, והיא יכולה להיות ממומשת באמצעות חומרות שונות: מוח האדם, מוחו של תמנון, מוחו של חייזר ואולי אפילו מוח מלאכותי של אנדרואיד עתידי. ניתן לומר כי הרעיון הפונקציונליסטי טוען כי מצבינו הנפשיים נקבעים על ידי רשת מופשטת של קשרים בין המצבים השונים, שמיקומם ברשת קובע את אופיים, וכן בין קלטים חישתיים לפלטים מוטוריים, ורשת קשרים זו יכולה להיות ממומשת באופנים שונים.

באופן מפתיע אולי, בשל היותם של המצבים הנפשיים פרטיים (כלומר, לכל אחד יש גישה ישירה למצביו הנפשיים בלבד, ולגבי מצבי נפש של אנשים אחרים אנו מקישים), אין לנו דרך לדעת בוודאות אם גם לאנשים אחרים ולבעלי חיים אחרים יש התנסויות נפשיות (בעיה זו מכונה בעגה המקצועית בעיית הנפשות האחרות — ראו בהרחבה בפרק 8 בספר זה). בהיעדר ודאות, אנו מניחים שהדמיון במבנה המוח ובתפקודו מעיד על כך שגם לזולת התנסויות נפשיות דומות לאלו שלנו: שאנקת כאב מלווה בתחושת כאב, שהקשבה לניגון מלווה בחוויית צליל, שחיוך מאוזן לאוזן מלווה בתחושת שביעות רצון וכן הלאה.

ומה לגבי בעלי חיים אחרים? בעבר היו שסברו שלבעלי חיים אחרים אין נפש (רנה דקארט, למשל, אחד הפילוסופים הבולטים במאה השבע־עשרה), ושתגובותיהם אוטומטיות כשל מכונה משוכללת. כיום מקובלת יותר הדעה שגם מוחם של בעלי חיים, אם הוא מפותח דיו, מסוגל להפיק התנסויות נפשיות, ולגבי בעלי חיים בעלי מוח קטן ופשוט הדעות חלוקות.

אם כן, כיצד נוכל לדעת אם מוחם של אנדרואידים מפיק חוויות נפשיות, ולו במנעד מצומצם? התשובה היא שכנראה לא נוכל לדעת זאת. מצד אחד, התנהגות מתוחכמת של אנדרואיד לא תוכל להעיד על מצבים נפשיים מכיוון שאפשר יהיה להסביר את התנהגותו כמופעלת על ידי אלגוריתם משוכלל. מצד שני, האם אין בני האדם עצמם פועלים על פי אלגוריתמים מסוימים שהטבע חיווט במוחנו? האם אין אנו מגיבים באופן צפוי למדי למגוון מצבים?

התנהגות מבוססת אלגוריתם אין בה כשלעצמה כדי להבטיח שליצור שמפגין התנהגות מסוימת אין התנסויות נפשיות. ובנוסף לכך, אם ההשערה הפונקציונליסטית לגבי מהותם של המצבים הנפשיים נכונה, אין זה מן הנמנע שגם רשת נוירונים מלאכותית תייצר מצבים נפשיים. אך כאמור מדובר בהשערה בלבד, ואם הדבר היחיד שאמור לקבוע את יחסנו לרובוטים ואנדרואידים עתידיים הוא התשובה לשאלה אם מוחם המלאכותי יהיה מסוגל להפיק מצבי תודעה, נראה שיקשה עלינו להחליט אם מן הראוי להעניק להם הגנה וזכויות כלשהן, או להתייחס אליהם כאל לא יותר מאשר מכונות משוכללות. אבל אפשר שיש שיקול נוסף שיכריע את הכף לגבי אופיים הראוי של יחסי אדם־אנדרואיד.

מוסר של העתיד

כשבוחנים את ההתפתחות המוסרית האנושית ואת ההכרה ההדרגתית בזכויותיהם של מיעוטים, נשים, ילדים, הומוסקסואלים ובעלי חיים, אפשר לראות שלא רק האוכלוסייה שמקבלת את זכויותיה וזוכה בהגנת החברה מרוויחה מהתהליך. החברה כולה הופכת נאורה יותר, מחנכת את ילדיה לקבלת הזולת במקום להדרתו, ויוצרת מקום טוב יותר לחיות בו.

אפשר שהענקת זכויות בסיסיות לאנדרואידים והקפדה על יחס הולם כלפיהם תהיה דבר חשוב לחברה גם אם לא נוכל לקבוע שהם מסוגלים לחוש כאב, צער או שמחה (או אפילו אם נוכל לקבוע שאין הם מסוגלים לחוש דבר). ילדים, ואף לא מעט מבוגרים, מזילים דמעה כאשר בסרט מלך האריות מופסה האריה, אביו של סימבה, מת. עצם העובדה שמדובר בדמות מצוירת אינה מונעת את התגובה הרגשית שמקורה ביכולת ההזדהות הטבועה בנו. בחברה עתידית ילדים יבכו כאשר הם יראו שמתייחסים באופן משפיל או אכזרי לאנדרואיד האהוב עליהם, וגם מבוגרים יגיבו רגשית על היחס לאנדרואידים, ותגובות אלה יהיו טבעיות ומבוססות רגש, לא היגיון. גם ההבנה שמדובר בסך הכול במכונות משוכללות לא תמנע את התגובה הרגשית שלנו לנוכח אנדרואיד פצוע או מושפל, ובוודאי שלא נוכל להרגיע ילדים במשפט מהסוג "זו בסך הכול מכונה" ("זה בסך הכול אריה מצויר..."). ילדים יגדלו להיות אנשים טובים יותר אם הם יבינו שהם אינם רשאים לפגוע באנדרואיד שמסתובב בבית או ברחוב בדיוק כפי שהם אינם רשאים לפגוע בבעל חיים חסר אונים. השלמות המוסרית של הבנת האיסור לפגוע בזולת עלולה להיפגם מרגע שמאפשרים תנאים מקלים: "אסור לפגוע בזולת, אלא אם כן הזולת הוא..."

בחברה עתידית שבה אנדרואידים שממלאים תפקידים לטובת האנושות יסתובבו בקרבנו, יהיה עלינו להתייחס אליהם באופן הוגן, להימנע מפגיעה בהם ולהגן עליהם ועל זכויותיהם באמצעות חקיקה, וכל זאת גם אם לאנדרואידים אלו לא תהיה נפש (על אחת כמה וכמה אם כן תהיה להם), משום שיחס כזה יהפוך את החברה שלנו לטובה יותר, וייצור מקום שטוב יותר לחיות בו. התנהגות של שביעות רצון וביטויי שמחה מצד האנדרואידים, גם אם יהיה מדובר בהתנהגות מכנית שאין מאחוריה מצבי נפש, תגרום לנו להרגיש טוב יותר, ותהפוך את ילדינו לאנשים טובים יותר.

מתוך: "העידן הפוסט אנושי: בין פנטזיה לחיי נצח לבהלה קיומית", בעריכת יוחאי עתריה ועמיחי שלו, הוצאת פרדס,2016

המקור: "איש המאתיים: מחשבות על המוסר של העתיד", גליליאו, 200, מאי 2015. תוספת מתוך "פונקציונליזם" (מדור "העולם הפנימי"), גליליאו, 188, מאי 2014.

מריוס כהן הוא חבר סגל במחלקה למדעי הקוגניציה והמוח באוניברסיטת בן גוריון בנגב. כותב בנושאי מדע ופילוסופיה בכתב העת גליליאו. בעבר לימד במספר בתי ספר תיכוניים בארץ וכן בבית הספר החופשי "סאמרהיל" באנגליה, שבו מיושמת שיטת חינוך ליברלית, שתואמת את משנתו החינוכית.

תמונה ראשית: רובוט צעצוע מחוטי ברזל. תצלום: Wunderfool, אימג'בנק / גטי ישראל