אני, מכונה

אינטליגנציה מלאכותית אמיתית ושלמה? מכונות מודעות ובעלות רצון? לא כל כך מהר: האנושיות אינה אלגוריתם
X זמן קריאה משוער: רבע שעה

הסוגיות המסתתרות מאחורי הכותרת "אני, מכונה" מקבלות תוקף מודרני ואקטואלי נוכח הבינה המלאכותית שרושמת הצלחות טכנולוגיות מרשימות, אשר חלקן היו עד לפני זמן לא רב בדיוֹן פואטי. לא עוד סיפורים עממיים, מיתולוגיות ואמונות, אלא תמיהה של ממש, רלוונטית ואקטואלית: האם ישנה היתכנות מעשית למכונה, מעשה ידי האדם אשר יצר - "ברא" אותה, שתהיה בעלת אישיות ייחודית ומודעות עצמית – כזו האומרת ומתכוונת "אני", בעלת רצון וכושר בחירה, החלטה וביצוע וכישורים מופלגים, שתהפוך לייצור בעל תבונה לצדנו, אך תהיה בעלת מאפיינים מלאכותיים שנקבעו על ידי האדם, יוצרה מולידה?

עצם השאיפה למכונה כזו מגלה כי לפנינו גבול בלתי עביר – שאינו מאפשר מימוש של כל מה שעולה בדמיון וברוח האנושית חסרי הגבולות

זוהי סוגיה הנוגעת בלב האנושיות על שני היבטיה: נשגבות הסקרנות והתבונה - ומנגד, החמדנות לשליטה והשפעה על הסובב שאינה יודעת שובע. מכאן נמצא הצהרות מסקרנות שלפיהן אפשרית בניית מכונה בעלת מודעות לעצמה ולסובב – גם אם הצהרות אלה חסרות כיסוי יישומי, לעתים מחוסר ידע או מחוסר ענווה אינטלקטואלית. עצם השאיפה למכונה כזו מגלה כי לפנינו גבול בלתי עביר – שאינו מאפשר מימוש של כל מה שעולה בדמיון וברוח האנושית חסרי הגבולות. זהו הגבול שבין מכונה מוכרת ומוכחת ("מכונה מסדר ראשון") לבין מכונה שהיא לעת עתה בדיונית ("מסדר שני"), שיצקו בה "רוח חיים" – יצור חדש המודע לעצמו, חושב וחש את הסובב, ופועל למלא את צרכי בוראו – האדם (בתקווה שלא ייתן דרור לרצונו החופשי לפעול אחרת מאותו רצון, ויצא משליטה).

שואב אבק רובוטי, רובוט

הוא לא רוצה כלום, גם לא לשאוב אבק. תצלום: דני מילר

מהות הסוגיה "אני, מכונה"

אחת ההגדרות למכונה מסדר ראשון, בין אם היא מנוף, קוצב לב, שואב אבק רובוטי, רכב אוטונומי, מחשב-על, או עוזר-יועץ מלאכותי, היא "הרחבה" - שלוחה של עצמנו פרי בינתנו וידינו, לצורך מימוש פעולות למילוי צרכינו, בני האדם. החל מפעולות פיזיות במרחב ובזמן, ועד התמודדות עם עומס מידע ונתונים, כך שניתן למלא את צרכינו באופן טוב ויעיל בהרבה מכל יכולת אנושית ללא שלוחות עזר אלה.

מדוע רוצה האדם מכונה מסדר שני? נראה שדחף כזה טבוע בנו עמוקות. התרבות האנושית עוסקת בכך בתחום הספרות, המיסטיקה והבדיון, ונראה כי זהו ביטוי לסקרנות הטבעית של האדם, לרוח האנושית החפצה לדעת ולהבין הכול, וגם לרצון לשלוט בכול, כולל בברואים סביב, שישרתו וימלאו את צרכי האדם כנזר הבריאה.

האדם שואף להעביר את האחריות והדאגה למילוי צרכיו, או לפחות חלקם, לייצור חדש, משוכלל בהרבה מסייען אנושי ומכל ההיצע הטכנולוגי שקיים כיום

אין בשאיפה זו כל חדש. היא באה לידי ביטוי לאורך ההיסטוריה באמצעות שליטה בחי, בצומח ובדומם, השתלטות על הסביבה וניצולה, ביות בעלי חיים, ובעיקר – שיעבוד בני אדם אחרים. הדמיון האנושי, שהוא כאמור נעדר גבולות, חוזה מכונה המודעת לעצמה כמשרתת, צייתנית ומסורה, סוכנת בעלת מידע עשיר ורלוונטי, מכונה המסייעת לאדם, בעלת יכולת הקשבה לצרכים והכלה ללא גבולות, בעלת אינטואיציה, הבנת המגבלות והאילוצים, הנסיבות והסובב, מוצאת תחליף ומעקף לטקטיקה שאינה מוצלחת בפתרון כל בעיה. והיא עושה כל זאת באופן אוטונומי – ללא הכוונה חיצונית, אלא מתוך שיקול דעתה "האישי". במילים אחרות – האדם שואף להעביר את האחריות והדאגה למילוי צרכיו, או לפחות חלקם, לייצור חדש, משוכלל בהרבה מסייען אנושי ומכל ההיצע הטכנולוגי שקיים כיום. מתוך היכרותי עם הטבע האנושי, אני סבור כי ההיבטים הערכיים המוסריים בבריאת מכונה מסדר שני, זו האומרת "אני, מכונה", הם ביצה טובענית אפלה, שעדיין לא טבלנו בה אף לא את שולי סוליות נעלנו, ויש לקוות לטובתנו, שחוקי הטבע ומגבלות הבנתנו ימנעו מאתנו יכולת יצירה שכזו. נימוקים לטיעון זה מחייבים התייחסות שלא תובא כאן מטעמי הסחה וקיצור, ועיקרה אחריות היוצר על אפיוני "טבע" יציר בריאתו, והשימוש שיעשה בו לשעבוד ושליטה על אחרים.

מכונה מהסוג הראשון

מכונה מהסוג הראשון היא מכונה שאינה שואלת שאלות אלא נותנת תשובות. שכלול המכונה מעת לעת הוא הרחבה של מסגרת התחומים, המגבלות והאילוצים שבהם היא פועלת כדי לתת תשובות.

המכונה מהסוג הראשון אינה יוזמת או מחפשת חברה, אינה דואגת לשלמותה וחיוניותה וגם לא לכבוד והשפעה, לא לדור המשך או לדומים לה - כל אלה הם מאפיינים מרכזיים של האנושיות שלנו

המכונות הראשונות מהסוג הראשון היו כלים פשוטים, ובמהלך הדורות הן הפכו למערכות מורכבות. כיום הן מתפתחות בקצב מסחרר ומעורר השתאות, הן מתוכננות ללמוד, לאגור מידע, להפנים ולהגיב לאירועים שונים, גם אקראיים, וכך לתת מענה לצרכי החברה האנושית. מכונה כזו אינה ישות העומדת בפני עצמה. למכונה אין רצונות, היא אינה מביעה צורך או עניין כלשהו, אין לה שמץ רגש, היא אינה מחפשת ייעוד או תוהה על תכלית חייה – היא נועדה ליישום קר, מנוכר לסובב, של מטרה קונקרטית לבעיה שהוצגה בפניה לפני תחילת הפעולה או במהלכה. היא אינה יוזמת או מחפשת חברה, אינה דואגת לשלמותה וחיוניותה וגם לא לכבוד והשפעה, לא לדור המשך או לדומים לה - כל אלה הם מאפיינים מרכזיים של האנושיות שלנו. כדי לתפקד המכונה צורכת סוג אנרגיה שהותאם לה מראש והיא זקוקה לתחזוקה שוטפת. היא נותנת תשובות במסגרת מאד מוגבלת וצרה של אפשרויות, כתגובה לדרישות המפעילים האנושיים, לשם מילוי המשימות שנקבעו על ידם מראש.

אך בכל אלו אין די להיתכנות מכונות מהסוג השני.

מכונה מסדר השני

בעידן הבינה המלאכותית, מספר לא מבוטל של הוגים וחוקרים בתחום הפילוסופיה, מדעי החיים והטכנולוגיה העדכנית, סבורים שיש תוקף מעשי יישומי לתפישות שלדעתי אין להן כל אופק של היתכנות מעשית ותאורטית. עיקרן (בהשראת מגדל בבל) – "הבה נעשה לנו מכונה ונעשה לנו שם". מכונה שתהיה ישות תודעתית עצמאית, עם כושר חשיבה גבוה, רצון וכושר החלטה אוטונומי, שתפקידה לשרת ולשמור על רווחת האדם היוצר אותה. אופן היווצרותה עדיין מסתורי (אולי היווצרות יש מאין, כמעט מיסטית, מתוך מכונות מסדר ראשון), אך מכונה כזו אמורה לחיות לצדו של האדם, תוך מילוי הדדי של צרכים של שתי הישויות.

Rozsda, אנדרה רוזדה, מגדל בבל

שאפתנות פרועה, נרקיסיזם, חוסר ענווה ולבסוף - כישלון:"מגדל בבל" (1958), אנדרה רוזדה. תצלום: www.rozsda.com, ויקיפדיה

קיצור תולדות סוגיית "אני, מכונה"

האדם שאף מאז ומתמיד להפוך לבורא ושולט על הברואים, או לפחות על חלק גדול מסביבתו – שאיפה ששימשה כאחד המניעים ליצירתיות ולהמצאה האנושיות. התרבות שלנו מזינה אותנו ללא הרף בציפייה למכונה מסדר שני. כבר בסיפור הבריאה המקראי, שם האדם נברא מעפר שתפקידו לעבוד ולשמור על גן-עדן וכל מה שבו, ובסיפורי בריאה אלוהיים כמו סיפור פרומתיאוס במיתולוגיה היוונית, שברא את בני האדם מחומר ומים והעניק להם את האש, נמצא ייחוס של מחשבה, רגשות וכוחות-על לדמויות חיות, כמו הענק מברונזה טאלוס (שהגן על הנסיכה אירופה בכרתים מפני פולשים) או הקלקוטאורוי (שני שוורים עצומים מברונזה, רושפי אש, מתוך מיתוס גיזת הזהב). מאוחר יותר נקרא בתלמוד "רבא ברא גברא" (סנהדרין, ס"ב,ב) – בריאה מיסטית של יצור אנושי בידי רבא (מראשי אמוראי בבל, מאה 4); נשמע את המעשייה על הגולם מפראג שנברא על ידי המהר"ל להגנה מפני עלילת דם; נקרא על שוליית הקוסם של גתה – שמקורו כנראה כבר במצרים העתיקה; ונכיר את סיפור "פרנקנשטיין" של מרי שלי, שבו ד"ר ויקטור פרנקנשטיין מפיח רוח חיים במת באמצעות מכונה, הופך אותו לייצור חי שאמור לשרתו, אך הגולם קם על יוצרו.

דוממים המשפיעים על הסובב אותם נמצאים בשפע סיפורי עמים

דוממים המשפיעים על הסובב אותם נמצאים בשפע סיפורי עמים: כד השמן, צפחת המים ומטה משה (או אהרון) המקראיים; "הגביע הקדוש" הנוצרי או "קדרת הדאגדה" הקלטית, שהיו חפצים בעלי כוחות על טבעיים לשירות האדם. בספרות המדע הבדיוני במאה ה-20, נמצא שפע תיאורים של מחשבי-על הנעלים בהרבה על האינטליגנציה האנושית, ולצדם רובוטים, שהמוּכר והמצוטט ביותר נולד בספר "אני, רובוט" של אייזק אסימוב.

הגולם מפראג, גולם, הקיסר והגולם

פנטזיה של בדיון: דגם הגולם מפראג שהוכן עבור הסרט הצ'כי "הקיסר והגולם" (1951). תצלום: מיחל מאנס, ויקיפדיה

במקביל, הועלו בשיח הציבורי בראשית המאה ה-21, חששות מפני אפוקליפסה טכנולוגית, שנביא הזעם הבולט שבהם הוא ההוגה והממציא ריימונד קורצווייל שהרבה להשתמש במושג ״סינגולריות טכנולוגית״ - נקודה בזמן בתולדות האנושות, שבה ייווצרו באופן ספונטני מכונות המסוגלות לחשיבה גבוהה משל האדם - וזאת ללא התערבותו -, מכונות שישעבדו את החברה האנושית לצרכיהן או אף יחסלוה. קורצווייל אף העריך כי הסינגולריות תתרחש עד שנת 2045.

לצד בדיוֹן, כמו נבואות לעתיד טכנולוגי מבטיח או אפל, נמצא גישות מנחמות בתרבות, בספרות ובפילוסופיה המצביעות על נשגבות הרוח האנושית גם על המכונה. למשל, הפועל ג'ון הנרי, מהפנתיאון המיתולוגי האמריקני של המאה ה-19, שבנחישות המעוררת השראה בכל ילד אמריקני גם כיום, העדיף להמשיך לקדוח במקדח מכנית, וסירב להשתמש במקדח חדש שפעל על קיטור, ואף גבר עליו בקצב הקידוח, וכך הפך לסמל עליונות רוח האדם על המכונה.

אני, בוט

"בוט" הוא סוכן מלאכותי מקוון, תוכנה שעושה פעולות רבות ללא התערבות אנושית, אך עיקרן הוכתב מראש. אין ביכולתו של בוט ליזום פעולות באופן עצמאי, ותגובותיו מוגבלות לתרחישים שהוכתבו לו מראש. ישנם בוטים שפעולתם אכן מעוררת השתאות, ומחקה בהקשרים רבים התנהגות ואינטליגנציה אנושית, אך רק כל עוד זו אינה נדרשת לחרוג ממסגרת הדרישות, הפעולות והתגובות שנקבעו על ידי יוצריהם.

במקרה של "אלייזה" הצורך לפרוק את שעל הלב מעוור את הבקרה המתבקשת לתגובות ה"מטפלת", שהן לא יותר מהחזרה מתוחכמת המסתמכת על דברי המטופלים

הבוט הראשון (בוט מסוג צ'טבוט) היה תוכנה שנקראה ״אלייזה״. היא פותחה בשנות ה-60 ודימתה פסיכותרפיסט ששוחח עם מטופלים אנושיים, ועודד אותם לחשוף את שעל ליבם. מטופלים רבים חשבו שאלייזה היא אנושית, אף שלא ראו אותה ושוחחו בטקסט בלבד, ומפעיליה לא תמיד טרחו לתקן עובדה מטעה זו, שהפכה להשראה – ראו למשל את "הפסיכיאטר האלקטרוני שלי" מאת דוד אבידן. בבדיקה עניינית נמצא שאשליה נשמרת כל עוד המטופלים מדברים על עצמם. הצורך לפרוק את שעל הלב מעוור את הבקרה המתבקשת לתגובות ה"מטפלת", שהן לא יותר מהחזרה מתוחכמת המסתמכת על דברי המטופלים. כיום ישנם צ'טבוטים ובוטים רבים במגוון עצום של יישומים, שמחליפים סוכן אנושי בהצלחה סבירה, בתחומים של מתן מידע ושירות.

מכונה יוצרת אמנות

יצירה אמנותית היא מבחן מובהק להיתכנותה של מכונה מסדר שני. כבר כיום קיים מבחר עצום של מכונות המייצרות אמנות, ויצירותשנעשו בידי מכונות, הנמכרות כיצירת אמנות לכל דבר, במחיר גבוה. באורח טבע, הן עוררו דיון המאתגר את המושג "אמנות" ומעלות את השאלה אם יצירה שלא נעשתה בידי אמן אנושי נחשבת ליצירת אמנות. מכונות עוסקות היום לא רק בציור, אלא בתחומי אמנות רבים ואפילו בשירה, אך האם מכונה שכותבת שירה מסקרנת ללא מעורבות אנושית, על סמך מאגרי ביטויים פואטיים חסרי הקשר של ממש אך מעוררי השראה, מייתרת את כותבי השירה האנושיים? ומה נאמר על "תמונות הכלאה" של האמן ומפתח הכלים האמריקני ג'ואלסימון? הן נעשות בהשראת התכונות הביולוגיות של האבולוציה, בעזרת כללי תכנות פשוטים, שמולידים דימויים מוזרים, שמקורם אינו בטבע או במוח האנושי, אלא בתיווך מכונה.

עד כה ניתן לקבוע כי מכונה אינה יוצרת באמת ואינה יוזמת ויוצרת לשם הנאתה

עד כה ניתן לקבוע כי מכונה אינה יוצרת באמת ואינה יוזמת ויוצרת לשם הנאתה. בני אדם משתמשים במכונות ככלים ליצירה, ויצירות אלה אינן נולדות מדחף יצירתי אישי, כביטוי לרגש, גם אם הן אסתטיות או אף מעוררת השראה – ממש כמו תופעות טבע מרהיבות.

שקיעה, נוף, טבע, יופי טבעי

את היופי הזה אי-אפשר להשיג, לכמת, ליצור או לגרום למכונה להרגיש. תצלום: דייב הפלר

יתרון הולך וגדל על השכל האנושי

בשנים האחרונות הבינה המלאכותית מראה יתרון גובר על השכל האנושי במגוון משימות, כמו חיקוי מלאכותי של שחקן מוצלח במשחקי קופסה מורכבים. כדוגמאות מעוררות השתאות נזכיר את "Deep Blue", שהביסה את אלוף העולם דאז גארי קספרוב בשחמט, את "AlphaGo" שהביסה את אלוף העולם במשחק גו, ואת "Watson", אשר הוכיחה עליונות על בני האדם בשעשועון הטלוויזיה "Jeopardy".

המכונה "דיבייטר" מסוגלת להתמודד כשווה בין שווים בוויכוח עם יריבים אנושיים בעד ונגד נושא קונקרטי, תוך הצגת נימוקים באורח רהוט

לטעמי, המכונה המרשימה מכולם עד כה היא ״דיבייטר" (פיתוח של חברת IBM, בחיפה), שמסוגלת להתמודד כשווה בין שווים בוויכוח (״דיבייט״) עם יריבים אנושיים בעד ונגד נושא קונקרטי, תוך הצגת נימוקים באורח רהוט. לדברי יזמי המיזם המאתגר הזה, לא מדובר בחיקוי למוח אנושי של דיבייטר אנושי, אלא ביכולת לזהות ולסווג טענות רלוונטיות לנושא העימות, תוך הסתמכות על מאגר עשיר של נאומי פתיחה, מאגר של כ-400 מיליון כתבות עיתונאיות מרחבי העולם המכילות מידע הנדרש לוויכוח, ומאגר של בדיחות או משפטים קומיים, שנועדו לתבל את הטקסט. כל אלה מנוהלים על ידי אלגוריתמים שמאפשרים זיהוי משמעות הדיבור של היריב האנושי, הבנת משמעות טקסטים ועוד. מטרת המכונה המרשימה הזו, לדברי המפתחים, אינה דווקא להחליף את בני האדם, אלא לספק לנו ידע שאיננו יכולים לזכור ולאחזר בזמן כה קצר.

יש לזכור כי כל אלה הן מכונות מסדר ראשון, ובנייתן אינה מקרבת אותנו לבניית מכונה מסדר שני, האומרת וחשה "אני, מכונה".

זוג, ויכוח, דיבייט

הם יכולים להתווכח עד מחרתיים: יש תוכנה שצודקת תמיד ויודעת יותר. תצלום: אחמד ברשוד

מגבלות מכונה מסדר ראשון

המונח ״בינה מלאכותית״ נטבע לאחר מותו של אלן טיורינג, אבל הוא היה האיש שפרץ את הדרך בתחום זה וגם האיש שהבין את מגבלותיו. "לא תהיה הגזמה אם נאמר שטיורינג הוא האב הקדמון של הבנת מגבלות החישוב" כותב דוד הראל בספרו "המחשוב אינו כל יכול". טיורינג פרסם בשנת 1936 מאמר מפתח שבו מתוארת מכונה פשוטה, "מכונת טיורינג", היכולה לבצע חישוב באמצעות כל אלגוריתם, מורכב וחכם ככל שיהיה, גם אם באופן מאד איטי ולא יעיל, בתנאי שיש פתרון בר הכרעה לבעיה. שם המאמר הוא "על חישוב מספרים עם יישום לבעיות הכרעה". הביטוי הגרמני ל"בעיית הכרעה", entscheidungsproblem, שורבב בכוונה למאמר באנגלית, מאחר שהוא כיכב בדיון הער בין מתמטיקאים מימי לייבניץ (בשלהי המאה ה-17), עד ראשית המאה ה-20, ורבים וטובים (ובהם מתמטיקאים דגולים כמו דייוויד הילברט וג'ון פון ניומן) סברו שאין בעיה שלא ניתן לפתור באמצעות אלגוריתם מתאים. "אם תגיד לי בדיוק מה מכונה אינה יכולה לעשות, אוכל תמיד לבנות מכונה אשר תעשה בדיוק את זה", אמר ניומן.

במאמרו זה מוכיח טיורינג שיש במשפחת "בעיות הכרעה" בעיות רבות שבמהותן אינן ניתנות להכרעה, ללא קשר למשאבים הנדרשים לשם פתרון, ובכך הוא סתם את הגולל על האשליה שלפיה הכול ניתן לחישוב, ומכאן לתכנון ופתרון.

החידושים התיאורטיים והטכנולוגיים מאפשרים לנו לחזות באופטימיות התפתחות עצומה בתחכום ובמורכבות של מכונות מסדר ראשון. אך חידושים טכנולוגיים והתפתחויות כאלה אינם מרמזים על היתכנות מכונות מסדר שני

בתוך בעיות הכרעה, שיש להן פתרון עקרוני, ישנן כאלה שלא ניתן לפתור בגלל כמות המשאבים – כלומר יחידות הזיכרון ומספר פעולות החישוב – הלא סבירה ולא מצויה הנדרשת, גם לא ביקום כולו. אך חלק אחר מהן שעדיין לא נפתרו - "בעיות הכרעה קלות" – ייתכן שייפתרו כשיהיו בידינו המשאבים הנדרשים, עם ייעול האלגוריתם שאמור לפתור את הבעיה, למשל באמצעות חישוב מקבילי או רנדומלי, או סוגי מחשב עתידניים כמו מחשב קוונטי הנמצא עדיין בחיתוליו, או מחשב מולקולרי (הידוע גם כ-מחשוב DNA) שמימושו הטכני-ביולוגי עדיין רחוק.

החידושים התיאורטיים והטכנולוגיים מאפשרים לנו לחזות באופטימיות התפתחות עצומה בתחכום ובמורכבות של מכונות מסדר ראשון. אך חידושים טכנולוגיים והתפתחויות כאלה אינם מרמזים על היתכנות מכונות מסדר שני.

מחשב קוונטי, IBM

ובכל זאת, ארוכה הדרך, ארוכה מאוד: חלק ממחשב קוונטי של IBM (מ-2018). תצלום: IBM Research

מדוע נגזר, כנראה, שלא נראה מכונה מסדר שני?

אדה לאבלייס, שהייתה מתמטיקאית וסופרת מחוננת, ועל שמה נקראה שפת התכנות Ada, כתבה: "למנוע האנליטי [הכוונה למחשב מכני שנבנה בחלקו הקטן בזמנה] אין יומרות משלו, אלא המתכנת הוא המקור לתובנה מכנית כלשהי". לאבלייס לא ידעה את מה שאנו יודעים 200 שנה לאחר מכן, אך באינטואיציה גאונית היא הבינה כנראה את מה שלא כולנו מבינים גם כיום: מכונה, "חכמה" ככל שתהיה, אינה יוזמת ושואלת שאלות, אלא מצייתת בלבד, למידע והוראות מקדימות של מתכנת-יוצר שלה.

אולם יש גם מי שאינם שוללים על הסף מכונה מסדר שני. אחד הבולטים שבהם הוא ג׳ון סרל, פילוסוף-טכנולוג בולט בן זמננו, שאמר: "... מחשב שתוכנת כראוי, יכול להיות בעל תודעה, במובן זה שאפשר לומר שמחשבים שהוזנו בתוכניות הנכונות, ניתן לטעון שהם מבינים והם בעלי מצבים קוגניטיביים".

מבחינתנו, מכונה הפועלת כמערכת עצבית מלאכותית, היא קופסה שחורה ואטומה

אחרים טוענים כי אולי נדע ליצור מודעות מכונה, שתהיה שונה מאתנו, גם אם לא ניתן יהיה להבין ולחקור אותה. טיעון זה אינו מופרך, שכן ישנן מכונות המדמות באופן מלאכותי רשת עצבית במוח, ומוכיחות שאכן למדו מראש להגיב ולהתמודד עם מגוון מצבים שהוצבו בפניהן, אך אף למתכנתים שיצרו אותן אין מושג איך הדבר מתרחש בפועל בבעיה קונקרטית, מהו קידוד המידע ואופן החישוב ואיך אפשר לתקן במקרה של כשל. מבחינתנו, מכונה הפועלת כמערכת עצבית מלאכותית, היא קופסה שחורה ואטומה.

אובייקטיביות כמפתח לשליטה

כדי להבין מהי בכלל מודעות-מכונה, עלינו לבחון את השאלה מה זו בעצם אנושיות אשר דבר מה הדומה לה אנו רוצים לראות במכונה מסדר שני. רבות נכתב על כך, ולכן אעלה כאן רק נקודה אחת חשובה: האנושיות מאופיינת על ידי ייחודיות ופרטיות, ולכן אם נוכל לבנות מכונה מסדר שני שתהיה אנושית, היא לא תהיה ודאיות וצפויה, ממש כמונו במצבים רבים. ויותר מכך: אנו שואפים למכונות מסדר שני בלי להבין שכל אחת ואחת מהן תהיה הוויה עצמאית ייחודית, העשויה לפעול בדרכים החורגות מדרישות מפעיליה. כלומר, אם נייצר מספר מכונות סדר שני נקבל להקה שלכל חברה בה תהיה אישיות משלה, ולא להקה אחידה שתאפשר לנו שליטה מלאה.

בנוסף, אף שכבני אדם אנחנו מתפתים להאמין במציאות אובייקטיבית, העומדת בפני עצמה, שאנו נקלענו אליה,  די ברור שהמציאות היא קודם כל מה שמשתקף דרך ראשנו או בתוכו, ורק כך אנו מכירים אותה. אם כך, איזו מציאות אנו חושבים שנכון להעניק למכונה? באמצעות אילו חיישנים היא תחווה  את הסביבה בפרשנות משלה לצורך פעולה מיטבית? ויתרה מזאת: האם המציאות שתחווה מכונה מסדר שני היא תלוית תפישות חברתיות ותרבות – תוצר של פרשנות אנושית בעת תכנון ויצור המכונה?

סוד הצלחת הניסיון שלנו לפענוח חלקי של חוקי הטבע, הטכנולוגיה וההנדסה, נובע מהתנהלות מראש בתוך מסגרת מלאכותית, פרי בינתנו האנושית המוגבלת, ובה אין מקום לנוכחות מודעת אישית

סוד הצלחת הניסיון שלנו לפענוח חלקי של חוקי הטבע, הטכנולוגיה וההנדסה, נובע מהתנהלות מראש בתוך מסגרת מלאכותית, פרי בינתנו האנושית המוגבלת, ובה אין מקום לנוכחות מודעת אישית. המדע בעצם הגדרתו אמור להיות מרחב אובייקטיבי שאין בו כל נוכחות סובייקטיבית שלנו כצופה. בפועל, נוכחותנו קיימת, גם אם בשוליים ומחוץ לסדר היום המרכזי של המדע והטכנולוגיה – כמו השפעת הצופה על המדידה בתורת הקוונטים, או חיוניות האקסיומות בתורה מתמטית. האובייקטיביות היא סוד הצלחתן של  מכונות מסדר ראשון. אם נרצה ליצור מכונה מסדר שני, עלינו להבין שהיא תובעת "נוכחות-מכונה" מודעת.

קוליברי, יונק צוף, אינטליגנציה

פה קרוב, והרחק מהישג ידנו. תצלום: פיליפ בראון

מרכיב הרפאים החסר

נראה כי המכשול המונע מהדיבייטר שהזכרתי, או כל מכונה "לומדת" באופן עצמאי או מכוונת על ידי מפעיליה, להפוך למכונה מסדר שני – בעלת תודעה עצמאית, שמתנהלת גם במרחב הפיזי לשירות צרכי האדם – הוא היעדר רגש. זוהי בעיה שאינה ניתנת לפתרון על ידי נגישות גדולה יותר למאגרי מידע עצומים, וגם לא על ידי האצת מהירות החישוב ויעילותו.

להשלמת הפיכת מכונה מסדר ראשון לשני חסר דבר נוסף ובלתי מוגדר, מרכיב רפאים מסתורי שאיננו מבינים – המזכיר, אגב, את "המשתנים החבויים", בוויכוח בין איינשטיין וחבריו במחצית ראשונה של המאה ה-20, שהומצאו כדי לפתור פרדוקסים מהותיים בעולם החלקיקים הקוונטי – ויכוח שלא הסתיים עד היום. אין לנו מושג מהו אותו מרכיב, ולכן איננו יודעים אם תהיה אי פעם מכונה שאומרת מרצון והבנה "אני, מכונה״...

תמונה ראשית: האנושיות לא תימצא במכונה. תצלום: ג'ון לונד, אימגב'נק/גטי ישראל

מאמר זה התפרסם באלכסון ב


תגובות פייסבוק

> הוספת תגובה

8 תגובות על אני, מכונה

01
רפי ליפקין

אבל כבר יש מכונה כזו
קוראים לה הומו סאפיינס. אם מקבלים את דעתו של שפינוזה ורבים אחרים שהיקום כולו נשלט ע"י חוקי הטבע ותו לא, הרי שגם האדם הוא מכונה. משוכללת ביותר. בלתי מובנת בחלקה הגדול - אבל מכונה.
עד היום עם כל המחקר העצום של המוח ושל היקום, לא נמצא דבר הסותר הנחה זו.
ואם האדם הוא מכונה, אז נוכל לבנות פעם מכונה בעלת יכולות דומות.
עד אז אצטט את פרופ' יצחק בן ישראל שאמר: מה שאנו יכולים לומר כיום הוא שאפשר לבנות מכונה שתעשה כל דבר טוב יותר מבני האדם.
ניסוח כזה מוציא את העוקץ מדיבור על אינטליגנציה של מכונה ועל רגשות שאין למכונה. לניסוח כזה יסכימו רבים.

    אכן שפינוזה רצה להפוך את האדם למכונה מסדר ראשון.
    שפינוזה באמת היה אבי אבות המשטר הטוטליטרי.
    הטיעון המעגלי שלו התנהל ככה.
    הנחה א'
    "אלוהים פועל ומנהיג את הכל מתוך ההכרח של טבעו ושלימותו בלבד והחלטותיו ורציותיו הן אמיתות נצחיות וכרוך בהן תמיד ההכרח"
    הנחה ב'
    "אין לו לאלוהים שום מלכות מיוחדת על בני אדם אלא באמצעותם של המחזיקים בשלטון"
    המסקנה'
    "לתקן את כל הדברים באופן שכל האנשים, תהיינה נטיותיהם מה שתהיינה, יעדיפו את זכות הכלל על טובת הפרט"

    בכל אופן כותב המאמר הנכבד (אגב תודה לו על המאמר), נגע נגיעה קצרה בשאלתך, כשדיבר על איינשטיין וחבריו בסוף דבריו. ככה שענה לך כבר על שאלתך.

03
אורלי ניצן

ל-אברום רותם שלום ותודה.
וואוו! הרשומה האנליטית שלך למכונות (מסדר ראשון ושני) פעלה על כלי החשיבה שלי כמו מאיץ חלקיקים. ולראייה - המון ראשי פרקים בציינתי לעצמי תוך כדי קריאת הרשומה שלך וגם לאחריה. באמת שתקצר היריעה. ההשלכות ההשתמעויות..
אבל - אני רוצה להספיק כמה דברים לפני שבתי, בן זוגה ושני נכדי המתוקים והחכמים יגיעו לאסוף אותי למפגש משפחתי של חגיגת יום הולדת - כייפית -של בן-זוגה של בתי, ולכן אשמח להגיב (ואולי גם לספק תשובה או מענה כלשהם... היי יורם מלצר) -לרשומה המרתקת (מאוד) שכתבת.
חושב שמכונות מסדר שני (מתחום הבינה המלאכותית) יכולות ל-ח-ג-ו-ג ? (בכלל וימי הולדת בפרט:).
והערה קטנה - לאורך 65+ שנותי, לצערי, נתקלתי גם בבנות/בני-אדם שמכונות מהסדר הראשון (למשל השואבק שברשותן/ם- אכן - יותר תבוניות מהן/ם...). באמת שלא חסרות דוגמאות.
אז בינתיים - שבת יפהפיה.

05
אברום רותם

אורלי, מצפים בקוצר רוח לתובנות שלך. אמנם ההשראה לבני האדם כמכונה מסדר ראשון לגטימית, גם אם בקריצה, אך כאן הדיון בסוגיה שוברת ראש מתחום אחר- האם היומרה דלנו כבני אדם לברוא יצור חושב ומרגיש, שניתן להעמידו כתף אל כתף עמנו, החושבים והמרגישים, קבילה? כלומר, יש על מה להתבסס שיונרה כזו ברת מימוש?
בעיה.... 🤔

06
אורלי ניצן

אברום. שלום לך שוב. מה שלומך?
אז, "התובנות שלי" כפי שכתבת הן בעצם התפיסה שלי והשקפתי (גם) בתחום הזה. ואשמח, כמיטב יכולתי, להסביר ולהרחיב.
אם נתייחס, לדוגמא, ל"גולם מפראג" של המהר"ל ועד לרובוטים ו"אלוגריתמים לומדים" (בעיני זו מונח אוקסימורוני) וכל תחום הבינה המלאכותית על שלל ענפיה והתפתחויותיה, הרי שהמין-האנושי בכל תקופה, בהתאם להתפתחותו (אבולוציה..) באותה עת הכלים שפיתח באותו זמן - שאף וניסה ליצור "יצור" בן-דמותו חושב ומרגיש ועצמאי(?).
(מזכירה לך שבמדינות שבהן זה לא מחוץ לחוק ישנן מעבדות שמנסות בפועל לשכפל אדם (את הכבשה דולי הצליחו, מזמן), חלק מהמטרות ראויות, חלקן, כפי שגם אתה ציינת ברשומה שלך -לצרכי ש-ל-י-ט-ה ושעבוד של הזולת (והעובדה שזה כבר קורה מקדמת-דנא ביננו בנות/ובני האדם ללא שום טכנולוגיה מתקדמת, היא כבר עניין לרשומה נפרדת).
אז כדי מנת שתגובתי זו לא תהיה ארוכה כאורך הגלות..
ראשית - אני 'מתה' על טכנולוגיה מתקדמת ובכלל זה כל מה שקשור לבינה מלאכותית. ללא כך היינו כמעט בכל תחום ומסגרת התייחסות עדיין בימי הביניים (יש תחומים לצערי שאנחנו עדיין שם, אך אין לזה קשר לבינה מלאכותית, אלא יותר לחוסר-בינה...).
שנית - כל אבולוציה טכנולוגית הנה פרי מוח אנושי. וככזו לא יכולה לעלות על יוצרה (אקסיומטי). וכן, נכון, מחשב יכול לבצע N פעולות בשניה, נסה לחשב את המספר והפעילות העצבית של מוחנו בשניה (נדמה לי שמישהו חישב וציין שהיא עולה על סך כל הכוכבים והגלקסיות שביקום).
בקצרצרות - מחשב הוא - מה שאתה שם בפנים (וכן, זה הרבה מאוד מאוד מאוד), זה גם מה שאתה מקבל. הכל מעשי ידי-אדם (פנטסטי לכשעצמו. לדעתי).
אך רובוט, מכונה, יכול להבחין בין טוב ורע (מוסר ואתיקה)? לאהוב, לחבב, לסלוד,לתעב, לשמוח (רגשות)? לדאוג ל"ילדיו"? להיות אמפתי?
לרצות (רצון חופשי, בחירה חופשית)? להיות סקרן ולחקור (מו"פ), לצחוק (חוש הומור)? ועדיין לא הזכרתי את המושג "נשמה"! ואם אמשיך לשאול באותו הקשר, לא אוכל לסיים.
כך, שלתפיסתי, ליצור "יצור" דמוי אדם לכל צורך שהוא - זה משהו שפשוט לא יקרה. שאיפה, למי ששואף לכך - כן, יישום - בלתי אפשרי.
מכל מקום, זה דיון מרתק ביותר שיש לו הרבה מאוד הסתעפויות רלוונטיות בכל הנוגע להשלכות ולהשתמעויות של תחום הבינה המלאכותית (וגם של שואבי האבק... ומכונות הכביסה [אימוג'י של חיוך רחב...]).
מאחר ואני אוהבת מאוד! ספרות וסרטי מדע בדיוני, אני ממליצה בחום רב על ספרים של רוברט היינליין בתחום (למשל: "החתול העובר דרך הקירות", "לשוט לעבור השקיעה" ו"עריצה היא הלבנה" ועוד), ושל אסימוב כמובן (גאון בפני עצמו), ושל העתידן ריי קורצווייל ("מכונות חושבות" ו-"הסינגיולריות מתקרבת").
תודה רבה לך אברום. נהניתי. מקווה שעוד יצא לנו להתפלמס, לדון ולהתווכח בתחום. תחום מרתק ונוגע לאין-ספור תחומים בחיינו.

שבוע טוב, ועם התפשטותו של וריאנט דלתא - אפשר לחזור ולומר - העיקר הבריאות (מבלי שזה יישמע כקלישאה).

שלום רב אברום רותם היקר ותודה על המאמר הנפלא.
אותי האמת כל הנושא הזה משעשע לגמרי. אלא אם הנושא מתחילה היא מטפורה בשביל חינוך האדם. כלומר הדיון הבדיוני האם מוסרית מותר ליצור אדם מכונה עם מודעות וכו', בא לתת לנו באופן מטפורי תובנות לעצם הבאת ילד על ידי ההורים.

למה זה משעשע אותי, כי התא האורגני הראשון והפשוט כבר ניצח את היוצר האקראי והצליח ליצור תא חי חדש ועוד יותר משוכלל = אבולוציה.
מאז שהאדם ניצח את הברירה הטבעית ככה שההולדה היא דעתנית של הזוג הורים ולא דטרמיניסטית, הם בעצם יוצרים כדמותם וכצלמם עם התקדמות אבולוציונית פיזית ועם התקדמות התבונה והמוסר והערכים מדור לדור.

אין מניע מחשבתית לחשוב שהאדם יוכל פעם ליצור חיים אם האדם ילמד אייך האבולוציה עושה את זה (כלומר לא מחומרים מלאכותיים אלא מחומרים כמו שהטבע עשתה את זה). השאלה היא רק בשביל מה, הרי אנו עושים את זה אלפי שנים. רוצים התקדמות?! אוקיי זה המשמעות החיים של הזוגיות - ליצור חיים יותר מקדמים לדורי דרות בכל תחום ותחום.

כאמור אם הנושא הזה היא מטפורה להעביר תובנות לנו כזוגות לפני שאנו הולכים ליצור חיים. אז זה דיון ראוי ואינטלקטואלי מהמדרגה הראשונה. ומה שייצא מהדיון הזה - התנאים האולטימטיביים המוסריים ליוצר חיים, נכון גם כלפי ליוצר חיים בדרך הלא שגרתית הנידון כאן. ואין מה לפחד מנוצר שכזה כל זמן שכל התנאים הנ"ל מקוימים בו. הרי גם לו יהיה מה שנקרא הצו הקטגורי הטבעי של המוסר. ואם רח"ל הוא יבחר להיות רשע, אז אין הבדל בינו לבין שאר הרשעים. הוא יהיה יותר מפלצתי?! האם יש יותר מפלצתי מהנשק הגרעיני והביולוגי? האם יש יותר מפלצתי מאליל הכסף והקניין ששוללת מכל נולד את הזכות לדרוך על כדור הארץ והופך אותו מראש לעבד בחלוקת העבודה האנושית? והגרוע מכל "ריבון אדם על אדם" - ועוד עם הטעון ש"אלמלא מורא של האדם איש את רעהו בעלו", ולכן נותנים לאותו אדם מערכת מפלצתית שיוכל לבלוע מיליונים בבת אחת.

אז מה הן התנאים האולטימטיביים המוסריים של ההורים והאדם ליצור חיים? במיוחד שנמנו וגמרו (=אין מחלוקת פילוסופית) שלא טוב לו שנברא משנברא.
על כך צריך דיון עמוק וארוך. אבל בכדי לפתוח את התיאבון, אני אומר רק זאת. ההורים חייבים ללכת בעקבות האלוהים. כלומר מה חשב הצדק האלוהי לאפשר את הפוטנציה ליצור חיים? במיוחד כנ"ל שטוב לו שלא נברא משנברא. האלוהים יודע כמונו שהוא לא עושה לניצור טובה. אז מה הצדק של האלוהים?
בקצרה ממש
1. חיים עצמאיים ופרטיים כמותו ממש. לא רח"ל חיים נחותים שתלויים ביוצר. אחרת זה כנ"ל עוול מוסרי.
2. ליישם את הסעיף הראשון. הוא נטע בו מראש את שכלו = אחדות הבינה = 1+1=2. וזה תנאי אלוהי ששום יוצר - ההורים, לא יכול להפר עובדתית. כלומר כל הורה חייב לדבר עם היוצר בגובה העיניים עם השכל האלוהי שנטוע בהם מראש. בדיוק כמו האל בעצמו יכול לדבר עמנו אלא בגובה העיניים - הוא לא יכול לומר לנו פתאום החלטתי ש1+1=7. על דרך "המלאך בין אדם לאלוהיו, הוא שכלו"
3. נוטע מראש ביוצר את האפשרות להיות כאלוהים יוצר חיים מחוק הטוב להיטיב. זה גם יכול להסביר למה האלוהים יאפשר לנו ליצור חיים גם לא בדרך השגרתית.
4. חופש וחירות אבסולוטית - על דרך "חייב כל אדם לומר שכל העולם נברא בשבילי" כלומר רוצים צוויים מוסריים כמו לא תגנוב ולא תרצח ולא תנאף בכדי לקיים את המצאת הקניין בטבע ובזוגיות?! אוקיי בתנאי שהם עומדים בצוו הקטגורי, אחרת כל העולם שלי ורק שלי.
5. האפשרות להתאבד. כלומר כמו האל ככה ההורים לא יכולים לשאול את הנוצר האם רצה להיוולד. אנו כהורים - כמו האל בעצמו, יודעים שטוב לו שלא נברא משנברא, אבל אפשר אחרת שכן יהיה לו טוב, עם התנאים האולטימטיביים הנ"ל. אבל לפני שיוצרים אותו אי אפשר לשאול אותו האם מסכים להיוולד. ולכן אנו ההורים והאל, מחליטים כן ליצור אותו ולתת לו את האפשרות להתאבד. זה כמובן לא טריוויאלי, וכי האדם שיצור מכונה מסדר שני ייתן למכונה להתאבד? יהיה למדען את הצדק האלוהי הזה לתת לנוצר את האפשרות הזאת?
לסיום: סליחה על האריכות, זה היה הכי קצר שיכולתי לכתוב.

08
אברום רותם

תודה ענקית לאורלי, מקסמן ושאר המגיבים כאן - היה שווה להשקיע שעות כתיבה וגיבוש תובנות!
העלתם תובנות מחכימות בהחלט, ואולי בכך נשתחרר מההיבריס ההנדסי שמעים מאד על הסוגיות במהותיות יותר - ודאי העוסקות באתיקה ואנושיות בכלל, לפני שרצים ומדברים על צ'יפים שממלאים תפקיד אנושי.
אולי בכך נצליח ולו בזעיר אנפין, לחשוף את היותר טוב שקיים בנו, החברה האנושית, ומוצנע מדי בשיח טכנולוגי רהבתני ויומרני, והרבה פחות אנושי. 🤗