כשנהיה הורים לרובוטים

הרובוט HotBot יורד היישר לתוך לוע הר הגעש. השנה היא 2050 או 2150, ורמת הבינה המלאכותית שהתפתחה דיה מאפשרת בניית רובוט בעל אינטליגנציה אנושית, יצירתיות ורצונות. HotBot ייהרס בעת מילוי משימתו המדעית. האם יש לו זכויות? האם עשינו מעשה שאינו מוסרי?

המעמד המוסרי של רובוטים הוא נושא שמופיע תדיר במדע הבדיוני. בסיפורי הרובוטים של אייזיק אסימוב, העמדה מאוד ברורה: אם יום אחד נצליח ליצור רובוטים בעלי חיים מנטליים דומים לאלו שלנו, בעלי רצונות ותחושת עצמיות כולל היכולת לחוש שמחה ועצב, אזי הם יהיו זכאים ליחס הדומה לזה של בני האדם. מרבית החוקרים והפילוסופים שעסקו בנושא שותפים לדעה הזאת.

אני מאמין שאם בעתיד נייצר רובוטים בעלי יכולות קוגניטיביות ורגשיות אנושיות, נהיה מחויבים להעניק להם יחס מוסרי מועדף
אני רוצה לאתגר את הקונצנזוס בנושא, אך לא בדרך שאתם אולי משערים. אני מאמין שאם בעתיד נייצר רובוטים בעלי יכולות קוגניטיביות ורגשיות אנושיות, נהיה מחויבים להעניק להם יחס מוסרי מועדף. הסיבה לכך נובעת מהעובדה שאנחנו נהיה האחראים לתכנון וליצור שלהם. מכאן שאנחנו נהיה אחראים לקיומם ולאושרם. אם רובוט מסוים יסבול שלא לצורך או לא יצליח לממש את פוטנציאל ההתפתחות שלו, יהיה זה בחלקו הגדול כישלוננו – כישלון שמקורו בשלב הייצור, התכנון או הטיפול בו. הקשר המוסרי לרובוטים ידמה יותר לקשר של הורים לילדיהם, או של האל כלפי ברואיו, מאשר לקשר בין אנשים זרים.

במובן מסוים מדובר ביחס של שוויון. אם אגרום למצב שבו אנשים אחרים יהיו נתונים בסכנה – למשל, אהרוס את יבולי השדה שלהם כדי לבנות שדה תעופה – תהיה לי אחריות מוסרית לפצות אותם, אחריות מוסרית זאת תהיה גדולה יותר מאשר האחריות שלי כלפי אנשים זרים שאין לי עימם כל מגע. אם אכן ניצור רובוטים בעלי מודעות, נצטרך להיות קשורים עמוקות אליהם, ומכאן גם אחראים באופן משמעותי על רווחתם. זהו שורשה של מחויבותנו המיוחדת.

המפלצת של פרנקנשטיין אומרת ליוצרה, ויקטור פרנקנשטיין:

 

"אני היצור שלך, ואני אהיה צייתן ומעודן כלפי מלכי ובוראי, אם תואיל גם אתה למלא את חלקך כלפי. הו פרנקנשטיין, אל תנהג צדק עם אחרים ואותי תזנח לאנחות [...] ,גם כאשר חיבתך וחסדייך ניכרים. זכור שאני היצור שלך: אני אמור להיות האדם שלך...

 

יתכן שיהיה עלינו לייצר רובוטים פשוטים שלא יזדקקו ליחס מוסרי – כמו הרובוטים הקיימים כיום – אחרת נצטרך ליצרם בתשומת לב ובזהירות.

במקביל נהיה חייבים לדעת מי מהרובוטים הברואים שלנו הוא אכן בעל מודעות. למי מהם יש רצף של חוויות סובייקטיביות, המסוגלים לחוש שמחה וצער, או שהם בעלי יכולת קוגניטיבית כמו יצירתיות ותחושת עצמיות? ללא היכולת לזהות זאת לא נוכל לדעת מהן המחויבויות שלנו כלפי היצורים שבראנו.

כיצד נוכל לרכוש את הידע הרלבנטי? כיצד אפשר להבחין, לדוגמא, בין רצף של חוויות רגשיות אותנטיות לבין הדמיה רגשית בתוך תודעה מלאכותית? אין די בתכנת סימולציה רגשית פשוטה. אם אכניס מעבד מחשבים סטנדרטי המיוצרב-2015 לתוך בובת דינוזאור, ואתכנת אותו לומר "אוי!" כשאלחץ על המתג, אין זה אומר שיצרתי רובוט המסוגל לחוש סבל. מהו התהליך והמורכבות הנדרשים כדי אכן ליצור תודעה אנושית מדומה?

הפילוסוף ג'ון סרְל (Searle) טוען שבלתי אפשרי ליצור תודעה בישות מתוכנתת. ייתכן שיידרש מבנה ביולוגי הדומה יותר למוח האנושי. ישנן דעות אחרות, שהן ליברליות יותר באשר לתנאים הנדרשים ליצירת תודעה מלאכותית. המחקר המדעי אודות התודעה הינו בחיתוליו. הנושא עדיין פתוח.

אם נמשיך לפתח צורות מתוחכמות של אינטליגנציה מלאכותית, יש לנו מחויבות מוסרית לשפר את הבנתנו באשר לנסיבות האמתיות שבמסגרתן תודעה אמתית יכולה להופיע. אם לא כן, אנו מסתכנים בקטסטרופה מוסרית – או שתהיה זו קטסטרופה שבה אנו מקריבים את האינטרסים שלנו, ומצטיירים כמי שחווים רגשות שמחה ועצב מלאכותיים ולכן איננו ראויים ליחס מוסרי, או שהקטסטרופה תהיה הכשל להכיר בסבל הרובוטי, מה שיוביל אותנו בשוגג לבצע זוועות שוות ערך לעבדות ורצח נגד יצורים שיש לנו כלפיהם מחויבות ודאגה כמעט הורית.

אם כך, יש לנו מחויבות ישירה לנהוג ביצורים שבראנו תוך הכרה באחריות המיוחדת שלנו על אושרם, סבלם, מחשבותיהם והפוטנציאל היצירתי שלהם. אולם יש לנו גם מחויבות אפיסטמית ללמוד היטב את הבסיס המהותי והתפקודי של אושר, סבל, מחשבה ויצירתיות, כדי לדעת מתי, והאם, יצורי העתיד שבראנו ראויים ליחס מוסרי.

אריק שוויצגבל הוא פרופסור לפילוסופיה באוניברסיטת ריברסייד קליפורניה. הוא כותב בלוג בשם The Splintered Mind וספרו האחרון, Perplexities of Consciousness, פורסם ב-2011.

AEON Magazine. Published on Alaxon by special permission. For more articles by AEON, follow us on Twitter.

מחשבה זו התפרסמה באלכסון ב על־ידי אריק שוויצגבל, AEON.


תגובות פייסבוק

2 תגובות על כשנהיה הורים לרובוטים

01
חיים

סבל רובוטי? אין הבדל בין רובוט, משוכלל ככל שיהיה,
לבין המכנסיים שלי. מי שטוען שצריך להשוות ביניהם, כמובן על חשבון הרגישות לסבל של בני אדם, הוא לא יותר מניהיליסט.