זכור את הרובוט

הם התחילו בספרות ובקולנוע, אבל מזמן הגיעו גם למציאות. קרב היום שבו יהיו להם תכונות אנושיות. מה מחויבותנו המוסרית כלפי הרובוטים שאנחנו יוצרים?
X זמן קריאה משוער: 10 דקות

בשנת 1920, הסופר והמחזאי הצ'כי קארל צ'אפק כתב את המחזה "R.U.R." ("הרובוטים האוניברסליים של רוסום") שבו חברת רוסום מייצרת "רובוטים", יצורים מלאכותיים שחושבים ומרגישים. הרובוטים נבדלים רק בקושי מבני אדם, אבל נועדו לשרת את האנושות כעבדים. המילה "רובוט" נולדה במחזה הזה, ומקורה במילה צ'כית שמשמעותה "עבודה כפויה" ו"עבד". היצורים המלאכותיים האלה מתמרדים כנגד שעבודם, מחסלים את האנושות ובסוף המחזה הם מתכוונים להתרבות וליצור כך גזע חדש.

אם נוכל לייצר יצורים מלאכותיים, מה יהיו המחויבויות המוסריות שלנו כלפיהם, ואילו מחויבויות מוסריות יהיו להם כלפינו?

R.U.R. זכה לפרסום רב אחרי הצגת הבכורה שלו בפראג, בשנת 1921, והפקות חדשות שלו עולות מאז ללא הפסקה, משום שהנושא שהוא עוסק בו נותר בלתי פתור: אם נוכל לייצר יצורים מלאכותיים, מה יהיו המחויבויות המוסריות שלנו כלפיהם, ואילו מחויבויות מוסריות יהיו להם כלפינו? השאלות הללו הפכו משמעותיות יותר משהיו בימיו של צ'אפק, אז הרובוטים היו בגדר פנטזיה בלבד. בימינו עשויה להיות לנו היכולת ליצור יצורים כאלה, הודות להתפתחות בתחומי הרובוטיקה, הבינה המלאכותית וההנדסה הגנטית.

כמעט מאה שנה לאחר הצגת הבכורה של R.U.R.. הסרט "בלייד ראנר 2049" דן באותו נושא. עלילת הסרט משנת 2017, בבימויו של דני וילנב, דומה להפליא לעלילת המחזה של צ'אפק. ב"בלייד ראנר 2049", תאגיד ואלאס מייצר "רפליקנטים", העתקים, יצורים סינתטיים שחושבים ומרגישים וכמעט לא ניתן להבדיל בינם ובין אנשים אמיתיים, אלא שהם נועדו לשרת את האנושות. הם מתמרדים ובהמשך הסרט אנחנו מגלים שכמו הרובוטים ב-R.U.R. הם מסוגלים להתרבות כדי ליצור גזע חדש.

פרנקנשטיין, מפלצת

"פרנקנשטיין, המפלצת", תצלום: Khánh Hmoong

ל-R.U.R. עצמו קדמו סיפורים דומים, כמו "פרקנשטיין" מאת מרי שלי. אבל המחזה היה פורץ דרך. הוא התרחש בשנת 2000 והרובוטים שלו היו אנדרואידים דמויי אדם, ששימשו כוח עבודה זול לכלכלת העולם. הם יוצרו בפס ייצור, בבית חרושת שבנה כבדים ומוחות, עצבים ועורקים, מחומר ש"מתנהג בדיוק כמו חומר חי [וגם] ניתן היה בקלות לחבר או לערבב אותו". מיצרי הרובוטים מתייחסים אליהם במחזה כמו אל מכונות חסרות רגש, אבל אקטיביסטים אנושיים מרגישים שהרובוטים מנוצלים ורוצים לשחרר אותם. בסופו של דבר, רובוט אחד, מתוחכם במיוחד, אינו מסוגל יותר להשלים עם השעבוד ומוביל מהפכה אלימה, שמחסלת את האנושות. סוד בניית הרובוטים הושמד, אבל כשהמחזה מסתיים אנחנו רואים שרובוט זכר ורובוט נקבה, שלמדו לאהוב ולשנוא, מתעתדים להמשיך את הגזע.

נשמע מוכר? "בלייד ראנר 2049" נשען כמובן על "בלייד ראנר" של רידלי סקוט משנת 1982. בזמנו, הסרט זכה להערכה מצד מבקרים ספורים בלבד, אבל היום הוא נחשב לסרט קלאסי. בסרט, תאגיד טיירל מייצר רפליקנטים שמשרתים את האנושות כשהם מבצעים את העבודה הקשה: התיישבות בכוכבים רחוקים. כדי לשלוט ברפליקנטים, ניתנת להם תקופת חיים קצרה בלבד, ארבע שנים. הרפליקנט רוי באטי (בגילומו של רוטגר האוור) וחבריו מתמרדים נגד הגזירה, רוצחים צוות של ספינת חלל אנושית וחוזרים באורח בלתי חוקי לכדור הארץ, כדי להביא לכך שחייהם יוארכו. בתגובה, הסוכן המיוחד ריק דקארד, המכונה "בלייד ראנר" (בגילומו של הריסון פורד), נשלח לחסל אותם, והוא אכן מחסל אותם – מלבד את באטי. בסצנה המפורסמת, דקארד מתבונן בבאטי גווע כשתקופת החיים המוקצבת לו מגיעה לסיומה, אחרי שבאטי הוכיח שהשאיפות האנושיות שלו, ביחד עם תכונותיו המהונדסות, הפכו אותו לגרסה נעלה של בני האדם.

כשדקארד צד את הרפליקנטים, הוא פוגש את רייצ'ל (שון יאנג) ומתאהב בה. רייצ'ל היא דגם משוכלל יותר של רפליקנט, והושתלו בו זיכרונות ילדות שאינם שלה, אך הם גורמים לה לחשוב שהיא אנושית. הסרט המקורי וגם גרסאות ערוכות מאוחרות יותר מסתיימים כשדקארד ורייצ'ל בורחים לעבר גורל בלתי ידוע. השאלה שנותרה פתוחה – ועדיין מעסיקה את המעריצים – היא האם דקארד עצמו הוא אדם או רפליקנט שנוצר כדי לחסל רפליקנטים.

אם עבדים מיוצרים נראים ומתנהגים כמו בני אדם, באופן טבעי נשליך עליהם את הרגישויות שלנו – ואנחנו עשויים להזדהות איתם

"בלייד ראנר 2049" ממשיך את הסיפור שלושים שנה לאחר מכן. כעת הרפליקנטים מיוצרים על ידי התעשיין ניאנדר ואלאס (ג'ראד לטו), שחושב שמוכרחים לשעבד אותם לטובת האנושות. ואלאס אינו מסוגל לייצר די רפליקנטים כדי לענות על הביקוש. בו זמנית, רפליקנטים מדגם בלייד ראנר, כמו הסוכן K (ריאן גוסלינג) ממשטרת לוס אנג'לס, צדים ומחסלים רפליקנטים אחרים. הסיפור נכנס להילוך גבוה כשהסוכן K מחסל רפליקנט סורר, ולאחר מכן מוצא שלד הקבור בסמוך ועליו סימנים המעידים על ניתוח חירום קיסרי. אבל המספר הסידורי על שלד האם מעיד על כך שהיא הייתה רפליקנטית נקבה ולא אישה.

Blade Walker, בלייד ראנר

"Blade Walker", מתוך סרט בן דקה בהשראת "בלייד ראנר", 2017. תצלום: Oiluj Samall Zeid

זוהי תגלית מזעזעת, משום שלכאורה, הרפליקנטים אינם מסוגלים להתרבות. אילו יכלו להתרבות, זה היה מזעזע את האנושות, משום שהם היו הופכים לגזע שהוא "יותר אנושי מאנושי". K מורה להשמיד את הראיות ללידה ויוצא בעקבות הילד שנולד. הוא מגלה שהשלד שייך לרייצ'ל. כש-K מצליח בסופו של דבר לאתר את המאהב לשעבר של רייצ'ל, דקארד (שוב, הריסון פורד), דקארד מאשר שרייצ'ל אכן נכנסה להיריון. כדי להגן עליה הוא השאיר אותה בחברת קבוצה של רפליקנטים מורדים והוא מעולם לא ראה את התינוק. המורדים מכנים את הלידה "נס", שמאשש את אנושיותם ומאבקם לקבל חירות וזכויות מלאות מתעצם.

קשה לדעת האם ואיך המודעות עשויה להתבטא ביצור מיוצר

במקביל, ניאנדר ואלאס מחפש גם הוא את הילד ואת סוד ההתרבות של הרפליקנטים, כדי שיוכל לבנות גזע של עבדים המתרבים מעצמם. שליחיו תוקפים ופוצעים את K וחוטפים את דקארד, אבל K מציל אותו. בסופו של דבר, K מבין שהמומחית להשתלת זיכרונות שעימה התייעץ קודם לכן, היא בתו של דקארד שבגרה בינתיים. הסרט מסתיים כש-K מפגיש בין דקארד לבת שלו בפעם הראשונה.

המחזה R.U.R. וסרטי בלייד ראנר מציגים השערות מסוימות בנוגע לטבעם של יצורים מלאכותיים ומעניקים להם מודעות ל'עצמי' שלהם, הבאה לידי ביטוי בהתמרדות וברצון שלהם לחיות. אלא שהמדע והפילוסופיה מתחבטים כבר זמן רב בשאלת המשמעות והערך ההישרדותי של המודעות – אפילו זו שלנו. קשה לדעת האם ואיך המודעות עשויה להתבטא ביצור מיוצר. לאחר בחינה מעמיקה של הנושא, הפילוסוף האמריקני הילרי פטנאם לא הצליח לפתור את הבעיה, והגיע למסקנה ש"אין תשובה נכונה לשאלה: האם אוסקר [רובוט] הוא בעל מודעות?" ואם ליצורים מלאכותיים אין חיים פנימיים, כיצד אפשר "לנצל" אותם, במובן הציני של שימוש לרעה? או במונחים של התיאוריה המרקסיסטית, כמעמד פועלים שהיצרנות שלנו מועילה רק למי שמנהלים אותו?

למרות זאת, היצורים המלאכותיים ב-R.U.R. ובסרטי בלייד ראנר נתפשים כבעלי מודעות עצמית, וזו אינה הפעם הראשונה שבה מוזכרות ישויות עצמאיות שנבנו כדי לשרת את האנושות. במאה הרביעית לפני הספירה, אריסטו ציין כי מכונות בעלות כוח רצון משל עצמן יכולות להפחית את העבודה שנדרשים בני אדם לבצע, ואת הצורך במשרתים ובעבדים. בהערתו המפורסמת, כתב אריסטו:

"אילו כל כלי יכול היה לבצע את עבודתו, לציית או לצפות את רצון האחרים... אם, באותו אופן, מתקן האריגה היה אורג את המיתרים והמפרט היה נוגע בלירה ללא יד המדריכה אותו, פועלים לא היו רוצים משרתים וגם לא עבדים מסורים".

מובלע כאן טיעון כי אילו מכונות אוטונומיות היו מכונות של ממש, הן היו מוחות את הכתם המוסרי המלווה את אחזקת עבדים. אבל אם עבדים מיוצרים נראים ומתנהגים כמו בני אדם, באופן טבעי נשליך עליהם את הרגישויות שלנו – כפי שאנו עושים כשאני מייחסים תכונות אנושיות לבעלי חיים ולחפצים דוממים – ואנחנו עשויים להזדהות איתם. וכשיש ליצורים כאלה אינטליגנציה, מודעות ורצון חופשי, הם עלולים להתמרד נגד אדוניהם האנושיים. בשני המקרים, נצטרך להגדיר את טבע מערכת היחסים ההדדית שלנו, ולשם כך אנו צריכים לדעת האם יצורים אלה הם יצורים מוסריים.

סופר המדע הבדיוני אייזק אסימוב בחן חלק מהאפשרויות הללו בסיפורו הקצר הקלאסי "אני, רובוט" (1950), שבו הופיע לראשונה הקוד המוסרי המכתיב את התנהגות הרובוטים ביחד לבני אדם, שלושת חוקי הרובוטיקה:

  1. רובוט לא יפגע לרעה בבן אדם, ולא ייתן שיפגעו בבן אנוש.
  2. רובוט יהיה חייב לציית לפקודות האדם, בתנאי שפקודות כאלה אינן סותרות את החוק הראשון, כלומר אינן פוגעות באדם אחר.
  3. רובוט ידאג לשמור על קיומו שלו ועל שלמותו, כל עוד אין סתירה בין ההגנה על עצמו לבין החוקים השני והשלישי.

המבנה המוגדר היטב הזה מופיע במספר מסיפוריו החכמים של אסימוב, אבל הוא מבטא מחויבות חד צדדית שמגינה על בני האדם מפני אלימות של רובוטים, ובחוק השני היא גם מציבה את הרובוט במעמד דומה לזה של עבד. מנגד אין שלושה חוקי אנושות, המפרטים את המחויבות האנושית כלפי הרובוטים.

רובוט, לדרוך, נעל התעמלות

"הרובוט שמסרב להיכנע", תצלום: ג'יימס פונד, unsplash.com

קושי נוסף נובע מכך שהחוקים הקשיחים אינם יכולים להתאים לכל הדקויות הכרוכות בהחלטות מוסריות. צורה אחת של בעיה כזו הועלתה בסימפוזיון הבינלאומי הראשון על רובוטיקה, שהתקיים בשנת 2004 בסן רמו שבאיטליה, וכיום היא נידונה בבהילות גדולה יותר: כיצד להעניק לסוג החדש של כלי נשק צבאיים עצמאיים את היכולת להבדיל בין עמית ואויב, בין אזרח וחיל או בין מה שנראה כמו כלי נשק ומה שהוא כלי נשק בפועל – בבואם להחליט מתי ואת מי להרוג? הבחירות הללו מורכבות הרבה יותר מסתם ציות לחוק הראשון הכללי "רובוט לא יפגע לרעה בבן אדם".

מהן המחויבות שלנו אלה כלפי אלה, כבני אדם? כל עוד איננו יכולים לענות על השאלה הזו בנוגע לעצמנו, לא נוכל לענות עליה בנוגע ליצורים אחרים

בין אם מכונה מסוגלת להיות מוסרית ובין אם לא, אנחנו בני האדם חושבים על עצמנו כעל יצורים מוסריים. האם החוש המוסרי הזה יכול וראוי להיות מוחל גם על יצורים מלאכותיים? ישנם לכך תקדימים. אמונות דתיות או אישיות מעוררות ברבים תחושה של חוב מוסרי למינים של בעלי חיים, גם אם לאלה אין אינטליגנציה או חוש מוסרי – או, ככל הידוע לנו, מודעות עצמית פנימית מורכבת כמו שלנו. אנחנו לא רוצים לגרום להם כאב או לקצר את חייהם, והעובדה שהם חסרי אונים ואינם מסוגלים להגן על עצמם רק מעצימה את התחושה הזו.

עדיין מוקדם לחשוב שרובוטים נזקקים לקבוצה של אקטיביסטים שתישא את השם "אנשים למען התנהגות מוסרית כלפי רובוטים". לעת עתה עדיין לא קיימים יצורים מלאכותיים שהדמיון שלהם לבני אדם והיכולות שלהם אפילו מתקרבים לאלה של הרפליקנטים מ"בלייד ראנר" – כאלה שיעוררו אותנו להגן או לחמול עליהם בגלל מעמדם כעבדים. אבל החברה מתחילה לשים לב למעמד החדש הזה.

האיחוד האירופי שוקל להסדיר את הפיקוח על רובוטים ובינה מלאכותית ולהעניק להם סוג של מעמד חוקי, הדומה לזה שמקבלים תאגידים. זה יספק את המסגרת החוקית המסדירה זכויות וחובות למערכות כאלה וליוצריהן, ונקודת מוצא לשיפוטים מוסריים. באוקטובר 2017, רובוט בשם סופיה – בגודל אדם ובעל סממנים נשיים – נשא את דבריו באו"ם. למרות יכולתה לדבר ולשנות את הבעות הפנים, ברור היה שסופיה היא עדיין יותר מכונה מאדם. היא ענתה על שאלות והפגינה יכולת תנועה מרשימה. ערב הסעודית גם העניקה לסופיה אזרחות, בכנס על טכנולוגיה שהתקיים שם (בהתחשב בהפרות זכויות האדם וזכויות הנשים של המשטר שם, זה לא ממש שדרוג, אפילו לגבי יצור מלאכותי).

עם זאת, הדיון העוסק ברובוטים וגם בזכויות אדם מדגיש אפשרות חשובה בנוגע ליצירת סוגים חדשים של יצורים, רובוטים ובינה מלאכותית שאינם תוצר של בתי חרושת אלא גרסאות מהונדסות גנטית של דגמים אנושיים קיימים. הדבר עשוי להניב יצורים "נעלים" שיראו בעצמם מנהיגי הגזע שלנו, או גרסאות "נחותות" שייווצרו כדי לשרת את שאר האנושות. בכל מקרה, המחויבויות בין בני האנוש הישנים והחדשים לא יהיו שונות מאלה הקיימות כיום.

מהן המחויבות שלנו אלה כלפי אלה, כבני אדם? כל עוד איננו יכולים לענות על השאלה הזו בנוגע לעצמנו, לא נוכל לענות עליה בנוגע ליצורים אחרים.

 

אם הגעת עד לכאן....

יש לנו בקשה. "אלכסון" הוא כתב עת לא פוליטי המחויב להפצת ידע וערכים הומניסטיים. בחמש שנות קיומו הפך כתב העת לנווה מדבר לגולשי הרשת היגעים: מקום להתרווח בו לאחר שצלחתם את הערימה המתעדכנת של חדשות, פיתויי הרשתות החברתיות ומיזמים מסחריים אחרים המבקשים לחטוף את תשומת ליבכם.

החזון שלנו הוא לקיים מקום של קריאה שקטה ובלתי מופרעת ולעודד חשיבה רצינית בעידן של קיצורי דרך, תיוג אוטומטי וטוקבקים של מילה אחת.

לא תמצאו כאן כל פרסומות, מודעות חסות או קליקים של הסחת דעת, רק רעיונות מעוררי מחשבה של מיטב הכותבים בעולם ובארץ. התכנים חופשיים לכולם, אבל לא נוכל לעשות זאת בלעדיכם: 

לתמוך באלכסון

מקורות:

R.U.R., ALANA QUINN, Science Fiction Studies, Vol. 41, No. 3 (November 2014), pp. 688-689, SF-TH IncReview: Blade Runner by Ridley Scott,  MICHAEL DEMPSEY, Film Quarterly, Vol. 36, No. 2 (Winter, 1982-1983), pp. 33-38, University of California PressRobots: Machines or Artificially Created Life?,  HILARY PUTNAM, The Journal of Philosophy, Vol. 61, No. 21, American Philosophical Association Eastern Division Sixty-First Annual Meeting (Nov. 12, 1964), pp. 668-691, Journal of Philosophy, Inc.

הקטע המקורי הופיע באתר JSTOR Dailyכאן.

סידני פרקוביץ (Prekowitz) כותב על מדע, טכנולוגיה ותרבות. בשנה הבאה עתידים להתפרסם שני ספרים נוספים מפרי עטו: Frankenstein: How a Monster Became an Icon ו-Physics: A Very Short Introduction. הוא גם יופיע בתכנית James Cameron’s Story of Science Fiction, שתשודר בארה"ב החל מפברואר 2018.

תורגם במיוחד לאלכסון על ידי דפנה לוי

תמונה ראשית: יד רובוטית אוחזת לב מכני. תצלום: Westend61, אימג'בנק /גטי ישראל

 

מחשבה זו התפרסמה באלכסון ב על־ידי סידני פרקוביץ , JSTOR Daily.


תגובות פייסבוק

> הוספת תגובה

5 תגובות על זכור את הרובוט

02
נדב

המחויבות של אדם כלפי רובוט זניחה לעומת מחויבות של אדם לחתול. רובוט אינו יצור חי, ולכן אינו סובל או יודע שמחה. זה מה יש, גם אם יהיו רובוטים שבני אדם יצרו עם תכונות "משוכללות". ברור שאין סיבה לפגוע ברובוט, יותר משיש סיבה לפגוע בקופסת נעלים, אך אין לו מעמד מוסרי כמו של אדם. עצם המחשבה שיש לו מעמד מוסרי, היא מסימניה של אלילות הזמן הנוכחי. אנשים שסוגדים לעץ, אבן וסיליקון.

    03
    עודד

    אלא שרובוט הוא לא שואב אבק או מחשב. רובוט נוצר כמערכת המדמה אדם. הוא משקף צדדים של האדם, והאחריות שלנו היא לעצמנו, כלומר גם למה שיש בנו שאנחנו שמים בו. אתה מסוגל לאכול קציצת בשר שתעוצב בדיוק כמו אדם? ספק.

    04
    יותם

    המעמד המוסרי של רובוט (כמו של בעל חיים) תלוי במורכבות הרגשית שהאדם הצליח להנחיל לו. כמו שהיחס המוסרי שלנו ליתוש לא שווה ערך (כלומר, לא צריך להיות שווה ערך) לזה של בעל חיים מורכב יותר כמו פרה, כך היחס המוסרי לרובוטים העתידיים עלול להשתנות. סבל או כאב הם תוצאה של המכונה הביולוגית המורכבת שהיא האדם ויין סיבה נראית לעין להאמין שלא ניתן לחקות תכונות אלו גם במכונה הבנויה מחומרים אחרים (זה לא אומר שבהכרח נרצה לעשות את זה, אבל זה כבר דיון אחר).