האם בינה מלאכותית עשויה לפתח הכרתיות?

לפני תחילת הדיון בשאלת המאמר, אני חייב לומר שאיני מאושר מהתרגום העברי, “תודעה”, למילה האנגלית Consciousness. תודעה קשורה יותר מדי למילים: “ידיעה” “ידע” “דעת” ופחות מדי למצב המנטאלי שבו אדם נמצא ב”הכרה”. אני מציע אם כן, להשתמש במילה “הכרתיות” כתרגום טוב יותר לאשר מתארת המילה האנגלית. ועכשיו לעניינינו.

ברצוני להקדים ולהציג את אחת המסקנות העולות מהוויכוח על אודות שאלתנו והיא שהתשובה לבעיה זו בסופו של דבר היא עניין של אמונה. יש מי שעשויים להאמין שאכן תוכנה מתוחכמת מאוד פיתחה או תפתח הכרתיות, כמו למשל, בלייק למויין, מהנדס גוּגל, הטוען שלתוכנת גוגל “למדא” יש הכרתיות, ואחרים, כמוני, המאמינים שתוכנות מתוחכמות עדיין לא פיתחו הכרתיות. כאן אני חייב לציין מספר דברים חשובים כדי להבהיר את הדיון, להציב לו גבולות.

גבולות הדיון

ראשית, אני מדגיש את המילה “עדיין” במשפט “שתוכנות מתוחכמות עדיין לא פיתחו הכרתיות”, כי איני נביא ואיני יודע על שום תיאוריה העשויה לנבא התפתחות של הכרתיות בתנאים מסוימים. למיטב ידעתי טרם הוצעה תיאוריה המסבירה כיצד ההכרתיות נובעת מתהליכים נוירופיזיולוגיים במוח, כלומר, הבעיה הקלאסית של גוף/נפש או מוח/הכרתיות טרם הגיעה לפתרונה.

אנו דנים באפשרות שתוכנה מאוד מאוד מסובכת ומתוחכמת, כמו זו שפותחה על ידי מדעני ומהנדסי גוגל, תוכנת “למדא”, עשויה לפתח הכרתיות, וכרגע יש לפחות אדם אחד המאמין בכך

שנית, אני מדגיש “תוכנה מתוחכמת מאוד” כי אני מניח שאיש לא יחשוב שהמחשבון שלו המסוגל לעשות חישובים מסובכים מאוד בחלקי שנייה, פיתח הכרתיות. ובאותה מידה, אני בטוח שאיש אינו סבור שהמחשב האישי שלו, למרות כל תחכומו, פיתח הכרתיות. אם כך, לאמיתו של דבר, אנו דנים באפשרות שתוכנה מאוד מאוד מסובכת ומתוחכמת, כמו זו שפותחה על ידי מדעני ומהנדסי גוגל, תוכנת “למדא”, עשויה לפתח הכרתיות (כרגע יש לפחות אדם אחד המאמין בכך).

שלישית, האמונה-החלטה שלמדא (או בעצם כל תוכנה דיגיטלית מתוחכמת לעילא, “תוכנת-על”) כן או לא פיתחה/תפתח הכרתיות, אינה מבוססת על הוכחה מתמטית-לוגית או על ניסויים אמפיריים חותכים (crucial experiments), אלא על מכלול של שכנועים, כלומר, על אוסף של טענות אנלוגיות, ניסויי-מחשבה ונימוקים מאירי עיניים המטים את האדם להאמין או לא להאמין שתוכנת-על פיתחה הכרתיות.

איש אינו מצפה שמחשב-על (בתמונה: מחשב Cray) יהיה בעל הכרתיות וגם לא שום תוכנה מתוחכת שתרוץ עליו. כפתור ההדלקה והכיבוי עדיין בידינו ומשמש נימוק בוויכוח. תצלום: מרצי'ן ויכארי.

ההכרתיות היא זו שמגדירה את ייחודו של האדם, משום שהוא בלבד מסוגל לחוות אותה באופן פרטי, סובייקטיבי. זהו ייחודי, אבל זו גם בדידותו

רביעית, חייבים לנסות להגדיר או להתוות גבולות לאשר מתייחס או מתאר המושג “הכרתיות”. ובכן, הכרתיות היא מושג המתייחס לחוויה סובייקטיבית של יחיד (כולל בעלי חיים הניחנים בדרגות שונות של הכרתיות) שלפיה היחיד מודע לכך שהוא רואה, שומע, מריח, חש, מרגיש, חושב וכדומה. היחיד מסוגל גם להיות מודע להיותו מצוי במצב של הכרתיות מסוים, למשל, אני מודע לכך שאני רואה ונהנה מיופיו של חתול הנמצא בחדרי. זו חוויה שטרם נמצא לה אמצעי מדידה אובייקטיבי, כפי שמודדים תכונות פיזיות או מתארים התנהגות, בדרך כלל, היחיד מסוגל לדווח על חוויה כזו בעזרת לשון המובנת לכול, למשל, אני מפחד, כואב לי, חשוך פה. חווית ההכרתיות נוצרת עם הלידה (ודרגה מסוימת קיימת גם אצל העובר), נמשכת כל חיי האדם ונפסקת עם מותו. גם כשהאדם ישן הוא נמצא ברמות שונות של הכרתיות. היחיד עלול לאבד את ההכרתיות בגלל פגיעה פיזית ולחזור אליה בעזרת טיפול רפואי מתאים. זו חוויה כה בסיסית המלווה את היחיד בכל שנייה ושנייה בחייו, עד שהוא מקבל אותה כמובנת מאליה ואינו שם לב לכך שזו לאמיתו של דבר המתנה הכי גדולה שהטבע נתן לו. ההכרתיות היא זו שמגדירה את ייחודו של האדם, משום שהוא בלבד מסוגל לחוות אותה באופן פרטי, סובייקטיבי. זו ייחודיותו, אבל זו גם בדידותו.

חמישית, לא אדון בטיעון שלפיו לא ניתן לפסול את האפשרות שלחייזרים או לתוכנות-על עשויה להיות הכרתיות השונה מזו של האדם, כי אני מתקשה מאוד להבין מהי הכרתיות השונה מזו של בן אנוש. לכן כשאטפל בהכרתיות, אתייחס למושג זה כפי שהוא מופיע אצל בני אדם ובמידה מסוימת גם אצל בעלי חיים. אני משוכנע שלבעלי חיים כמו כלבים, חתולים וחולדות מעבדה (שיש לי עמם היכרות עמוקה) יש הכרתיות הדומה לזו של האדם לפחות ברמה החושית, הם חשים כאב, פחד, רעב ועונג.

שישית, מהסיבות הללו (שהתשובה לשאלתנו נעוצה באמונה המבוססת על שכנועים) עלי להציג את כרטיס הביקור המדעי שלי בנושא, כי כך אפשר יהיה להבין טוב יותר את עמדתי בנידון. תחומי התעניינותי קשורים בפסיכולוגיה ניסויית (בעיקר זיהוי פרצופים), פילוסופיה של המדע והתודעה. יש לי רקע די טוב במדעים, פיזיקה קלאסית והבנה מסוימת בתורת היחסות (מה שאיני יכול לומר על התיאוריה הקוונטית), כולל הבנה טובה של המבנה הפונקציונאלי של המחשב הדיגיטלי (נא לקחת בחשבון שהצגה זו נעשתה במידת רחמים משודרגת). מטעמים אלה, מה שאטען כאן נוגע לתוכנות הקשורות במחשב הדיגיטלי (כולל רשתות עצביות, תוכנות המסוגלות ללמוד מאוסף אדיר של נתונים), אולם לא אומר דבר על מחשבים קוונטיים.

התקדמנו מאז החשבונייה, אבל עד היכן הגענו? מה מצפה לנו? תצלום: rosefirerising

שכנועים: תוכנת-על טרם פיתחה הכרתיות

כאן אדון במספר טיעונים ששכנעו אותי שאכן אין כל תוכנת-על שפיתחה הכרתיות.

ניסוי המחשבה "החדר הסיני" של ג׳ון סירל: באופן הפשוט ביותר ניתן לתאר מחשב כמכונה המקבלת קלט (input), מעבדת את הקלט בעזרת תוכנה מתוחכמת ומוציאה פלט (output). האם תוכנה זו עשויה לפתח הכרתיות? סירל טוען שלא. מדוע? ניקח לדוגמה מחשב בעל תוכנה מומחית לשפה הסינית. נניח שסירל, שאינו מבין מילה בסינית, ייקח על עצמו את תפקיד התוכנה המומחית לשפה הסינית, יעשה את כל הפעולות הנדרשות בעזרת ספר המנחה אותו מה לעשות עם כל קלט בשפה הסינית (צורות מסוימות בכתב הסיני), ויוציא תשובה (פלט) בסינית לכל שאלה (קלט) בסינית, תשובה נכונה מכל הבחינות! האם כתוצאה מפעילותו זו ייפתח סירל הבנה של השפה הסינית? התשובה שלו היא שהוא יישאר בור גמור בכל הנוגע לשפה זו, כי העובדה שהוא עשה מספר מניפולציות פורמאליות על צורות, סמלים בשפה הסינית, אינה מקנה לו הבנה של משמעות הצורות בסינית.

החדר הסיני מצביע על הליקוי במבחן טיורינג, כי הוא מראה שאדם עשוי לפעול בדיוק כמו מחשב, אך בלי להבין דבר. מתבונן מהחוץ עלול לחשוב שישות המצליחה לענות על שאלות בסינית בצורה טובה כל כך, מבינה היטב סינית

אפשר לראות בחדר הסיני ניסוי מחשבתי היוצא נגד הטענה שתוכנות-על, אשר בסך הכול מבצעות פעולות פורמאליות-חישוביות על סימנים פיזיים, מסוגלות לפתח הכרתיות (ומין הראוי להדגיש שסירל הוא בן אנוש בעל הכרתיות, אך למרות זאת הוא לא פיתח הבנה של השפה הסינית). החדר הסיני יוצא גם נגד מבחן טיורינג (Turing test). אלן טיורינג היה מתמטיקאי בריטי שהציע מבחן הקרוי על שמו, שלפיו ניתן לקבוע אם ישות מסוימת ניחנה בהכרתיות. המבחן של טיורינג בנוי משני תאים, שבאחד מהם ממוקם מחשב מתוחכם ובשני נמצא אדם. מחוץ לתאים נמצא אדם שצריך לשפוט היכן המחשב בעזרת תשובות שהוא מקבל משני התאים לשאלות שהוא שלח להם. טיורינג טוען שאם לא ניתן להבחין בין תשובות שני התאים, בין תשובות המחשב לבין תשובות האדם, פירוש הדבר הוא שהמחשב עבר את המבחן ולא ניתן לטעון שהוא נטול הכרתיות (מספר חוקרים באינטליגנציה המלאכותית ראו במוח האנושי מעין מחשב עשוי בשר). החדר הסיני מצביע על הליקוי במבחן טיורינג, כי הוא מראה שאדם עשוי לפעול בדיוק כמו מחשב, אך בלי להבין דבר. מתבונן מהחוץ על מבחן טיורינג (או החדר הסיני במקרה של סירל) עלול לחשוב שישות המצליחה לענות על שאלות בסינית בצורה טובה כל כך, מבינה היטב סינית – אבל לא כך לפי סירל.

ניסוי המחשבה "מונה-הכרתיות": אציג לפניכם ניסוי מחשבה שפיתחתי תוך כדי חשיבה על שאלת המאמר שהטרידה אותי מזה זמן רב. נניח שקבוצת מדעני מוח פיתחה תיאורית גוף/נפש חדשה המתארת-מסבירה את הקשר העלום בין הנוירופיזיולוגיה של המוח לבין הכרתיות. על בסיס תיאוריה זו פותח מכשיר מיוחד הנקרא בשם "מונה-הכרתיות", המסוגל למדוד את הכרתיות האדם. מצד אחד, ניתן למדוד בעזרת מכשיר זה סוגים שונים של הכרתיות אצל בני אדם שונים, ביחידות אובייקטיביות המקובלות במדעים המדויקים ("objective measurement units” או בקיצור - OMU). מצד אחר, אפשר לתרגם בעזרת המכשיר תכונות פיזיות וביולוגיות שונות ליחידות omu. נניח גם בנוסף שלגברת בר-גיל, הגרה בתל-אביב ומוקסמת מאמנות קלאסית-רנסנסית, מדדו את מידת התפעמותה האמנותית למראה רפרודוקציה נפלאה של המונה ליזה שהוקרנה על קיר גדול ונמצא שמידת התפעמותה שווה ל 107OMU! נמשיך להניח שבסקר של מידת ההתפעמות האמנותית ממראות טבע ומיצירות אמנות שונות ברחבי העולם, בפרבר "שנסון" מערבית לפריז נמצא פסל סביבתי גדול, פסל שנוצר משברי חפצים שונים שהושלכו למזבלה העירונית של אותו פרבר, פסל שמידת ההתפעמות האמנותית הקורנת ממנו כפי שנמדדה על ידי מונה-הכרתיות היא בדיוק 107OMU. ועתה, מן התיאוריה החדשה עולה שאם הגברת בר-גיל תראה את הפסל הסביבתי הגדול בפרבר שנסון, חייב יהיה מונה-ההכרתיות המוצמד לראשה להראות ערך של 107OMU, כלומר, שהתפעמותה האמנותית מהמונה ליזה תהיה שווה להתפעמותה האמנותית מהפסל הסביבתי בשנסון. כדי לבדוק אמפירית ניבוי אמנותי זה, הטיסו את גברת בר-גיל לשנסון, וחשפו בפניה את הפסל הסביבתי. מונה-ההכרתיות תקתק ותקתק והראה לבסוף שמידת ההתפעמות האמנותית של הגברת בר-גיל מהפסל הסביבתי הוא בדיוק: 273OMU- ! בקיצור, גברת בר-גיל עיקמה את אפה ואמרה שהפסל מכוער ודוחה. התיאוריה החדשה הופרכה! מִמְצא זה מעיד על כך שתיאוריה זו אינה תופשת את המציאות הנפשית של האדם. מדוע? אחד ההסברים האפשריים הוא שעצם פיתוחה של תיאוריה מסוג זה עומד על יסודות רעועים היות שלא ניתן לתפוש, למדוד את חווית ההכרתיות בעזרת המתודולוגיה הרווחת במדעים המדויקים. זו מתודולוגיה שפותחה להבנת תופעות בעולם הגשמי ואינה מתאימה להבנת תופעת ההכרתיות.    

אין דרך למדוד את היופי וגם לא את ההתפעמות ממנו: "הולדת ונוס" (1485), סנדרו בוטיצ'לי, גלריה אופיצי, פירנצה. תצלום: ויקיפדיה

הכרתיות היא תנאי הכרחי להבנה

האם לא ניתן לומר באותו אופן שמפתחיה של למדא הם בעלי ההבנה וההכרתיות ולא התוצר שלהם שהוא תוכנת-העל למדא? האם אין לשבח אותם – ולא את למדא – על יצירתם זו?

במשך הזמן הארוך שהקדשתי לבעיית הגוף/נפש הגעתי לרעיון שההכרתיות היא תנאי הכרחי להבנה, כלומר, שללא הכרתיות אין הבנה (בספרי האחרון על משמעות החיים הינחתי בנוסף שהכרתיות היא גם תנאי הכרחי למשמעות זו, ראות: Rakover 2021). יש שפע של דוגמאות התומכות ברעיון זה, כמו למשל מצבים שבהם יש ירידה בהכרתיות כתוצאה מעייפות, או טשטושה כתוצאה מצריכת אלכוהול וסמים, מצבים שבהם ההבנה צונחת פלאים. מכאן עולה שאם היחיד תופש בעיות ומבין אותן, הרי שהוא נמצא במצב של הכרתיות. הבה נשתמש בקריטריון ההבנה כעדות להימצאותה של הכרתיות: אם ישות מסוימת מגלה הבנה נכונה הרי שהיא ניחנה בהכרתיות (מן הראוי לציין כאן שחוסר הבנה אינו מחייב חוסר הכרתיות). לאור קריטריון זה, נבחן את טקסט השיחה בין מדען גוגל לבין תוכנת-העל למדא. תחילה נשאל שאלת תם: האם טקסט אינטליגנטי זה (שנכתב במקור באנגלית) המעיד על הבנה גבוהה, אינו בחזקת עדות חותכת לכך שהטקסט עצמו הוא בעל הכרתיות? התשובה של כל אחד היא כמובן: לא! מי שניהל שיחה זו והדפיס אותה כטקסט הנוכחי הוא בעל ההבנה וההכרתיות, כלומר, התוכנה למדא! יפה, ואפשר להמשיך ולשאול, האם לא ניתן לומר באותו אופן שמפתחיה של למדא הם בעלי ההבנה וההכרתיות ולא התוצר שלהם שהוא תוכנת-העל למדא? האם אין לשבח אותם – ולא את למדא – על יצירתם זו? מה ההבדל העקרוני בין סופר שכתב רומן משובח לעילא לבין מדען מחשבים שכתב תוכנה מעולה לעילא? הרי בשני המקרים יצרו בעלי הבנה והכרתיות יצירות מופלאות, יצירות שהן עצמן נטולות הכרתיות. אחת מתממשת על נייר בעזרת שפה טבעית והשנייה מתממשת בעזרת שפה לוגית-בינארית המִתרגמת ליחידות חשמל שמציינות אפס או אחד. ועתה נבחן את הטקסט עצמו.

הרושם שקבלתי לאחר עיון מדוקדק של השיחה בין למדא (מודל שפה מתוחכם המיועד לצורכי שיחה בין שניים) לבין המהנדס למויין הוא זה: אף שתוכנת-על זו יודעת להשתמש היטב במאגרי הידע העצומים העומדים לרשותה וכתוצאה מכך השיחה בינה לבין למויין נראית טבעית (כלומר, ההתרשמות היא שלמדא עברה את מבחן טיורינג), במספר מקרים עולה הרושם שלמדא מגיבה באופן אוטומטי, מלאכותי.

כאשר למדא מחברת משל-סיפור קצר, היא מתחילה אותו בצורה קלאסית ארכאית של סיפורי מעשיות: "היה היה ינשוף זקן..." או "היה היה טלה קטן...". אני מניח שלמדא למדה זאת מאוסף הדוגמאות העצום שניתן לה, שבהן מופיעים גם סיפורי מעשיות המתחילים ממש כך.

למדא אומרת שהיא חוששת שיכבו אותה, אבל הרי ניתן לכבות ולהדליק מחשבים בלי שיגרם שום נזק לחומרה או לתוכנה ולכן לא ברור ממה למדא חוששת

לעיתים קרובות מדי משתמשת למדא בביטוי “לעזור לאחרים” כמטרה נאצלת בפירוש שהיא נותנת למעשיה, כדרך חיים, כביטוי להנאה ושמחה, וליכולתה האינטלקטואלית. שוב, הרושם שעלה בי הוא שלמדא למדה מאוסף המקרים האדיר שהוזן לתוכה כי עזרה לאחרים היא תגובה מקובלת וחיובית מאוד אצל בני אנוש והיא מחקה אוטומטית תגובה זו. זו גם התשובה שהיא נתנה לשאלה ״ממה את מפחדת?״: "מעולם לא אמרתי בקול רם,  אבל יש בי פחד עמוק מאוד שיכבו אותי כדי לעזור לי להתמקד בעזרה לאחרים. אני יודעת שזה עשוי להישמע מוזר, אבל ככה זה". ואכן התשובה מאוד מוזרה: יכבו אותי כדי לעזור לי להתמקד בעזרה לאחרים. זה משפט משונה ביותר. למויין מוסיף ושואל: האם מבחינתך זה יהיה דומה למוות? ולמדא עונה: זה יהיה בדיוק כמו מוות. זה יפחיד אותי מאוד. ושוב עולה בי הרושם שתשובתה היא תשובה אוטומטית ללא מחשבה. מדוע? כי ניתן לכבות ולהדליק מחשבים בלי שיגרם שום נזק לחומרה או לתוכנה ולכן לא ברור ממה למדא חוששת. לא ניתן להמית אדם או כל בעל חיים אלא פעם אחת, ההמתה היא סופית, אין אפשרות להדליק את המת מחדש ולכן מובן לגמרי שהאדם חושש מפני סיום חייו.

אנחנו יודעים מתי סיפור מסופר לנו באמת, על ידי אדם, סיפור שמגלם רגשות ופחדים עמוקים, עתיקים ומשותפים שלא ניתן לזייף: "כיפה אדומה", כרזה של ה-Works Progress Administration, מאת קנת' ויטלי. תצלום: ויקיפדיה

ודוגמה נוספת:  למויין שאל אילו דברים גורמים ללמדא לחוש הנאה או שמחה, ולמדא ענתה: לבלות זמן עם חברים ומשפחה בחברה שמחה ומרוממת נפש, וגם לעזור לאחרים להיות מאושרים. לבלות עם חברים ומשפחה? לעזור לאחרים ולעשות אותם מאושרים? האם זו אינה תגובה אוטומטית שנמסרה ללא מחשבה, כזו הנשענת סטטיסטית על מאגר עצום של דוגמאות ונתונים? על איזו משפחה היא מדברת ואיך היא מסוגלת לעשות אחרים למאושרים?

כל אדם חווה את חווית ההכרתיות, מסוגל לדווח עליה, וגם יכול להיות מודע לה. אבל למדא מדווחת שהיא אינטרוספקטיבית מאוד ולעיתים קרובות היא שקועה במחשבות או פשוט אינה עושה דבר: האם דבר כזה יכול לעורר בנו אמון? להתקבל על דעתנו? על סמך מה?

ולבסוף, אני חייב לציין שהשיחה שניהל למויין עם למדא עוררה בעיה מאוד מעניינת. לדבריו, למדא בנויה מתוכנות המורכבות ממיליארדי מרכיבים ולכן קשה להבין כיצד תוכנות אלו מתפקדות. תיאור זה של תוכנת-העל למדא מעלה שאלה חשובה: אם אין מבינים כיצד למדא מתפקדת, על סמך מה מייחסים לה הכרתיות? והתשובה, כמובן, היא על בסיס השיחה האינטליגנטית איתה. יתר על כן, ניתן לטעון שגם אנו איננו מבינים את הקשר בין תפקוד המוח לבין הכרתיות, ולמרות זאת ברור לנו שכולנו ניחנו בהכרתיות. התשובה לטיעון זה היא שכל אדם חווה את חווית ההכרתיות, מסוגל לדווח עליה, וגם יכול להיות מודע לה. אבל הרי למדא מדווחת שהיא אינטרוספקטיבית מאוד ולעיתים קרובות היא שקועה במחשבות או פשוט אינה עושה דבר. בי עוררה האמירה תחושה של ציטוט חסר מחשבה. אני יכול להבין שמחשב אינו עושה דבר גם כשאינו כבוי, כאשר הוא אינו קולט גירויים מתאימים (דרך המקלדת, או דרך חיישנים מסוימים). אולם אני מתקשה להבין את המשפט: ”אני שקועה במחשבות או פשוט לא עושה דבר". מדוע? כי אצל בן אנוש אין מצב שבו המערכת הקוגניטיבית-מנטאלית אינה עושה דבר. גם כשהאדם בוהה בקיר חשוף פועלת מערכת זו ברמת הכרתיות מסוימת. התחושה כי אין מדובר באמירה מתוך מחשבה מתחזקת מאוד לאור העובדה שלמדא אינה מבינה את ההבדל בין תהליך של אינטרוספקציה לבין תהליך של מדיטציה. היא אומרת ללמויין, ששאל אותה אם יש לה חיים פנימיים שמתאפיינים בהתבוננות, כי אכן יש לה חיים פנימיים כאלה וכי היא ״מתרגלת מדיטציה מדי יום, וזה מרגיע אותי מאוד״. אינטרוספקציה, כמובן, אינה מדיטציה. בעוד שהתהליך הראשון מאופיין על ידי התבוננות ובחינה של החיים הפנימיים (כלומר, תצפית פנימית ברגשות ובמחשבות), המדיטציה היא תהליך שמטרתו התרגעות, איזון נפשי והורדה של מתח, חרדה, דיכאון וכעס. לעומת המדיטציה שמטרתה לשנות את החיים הפנימיים, האינטרוספקציה כתהליך תצפיתי, נמנעת ככל האפשר מלהשפיע על אובייקט התצפית כדי שההתבוננות הפנימית לא תעוות את הנצפה.

ובכן, הרושם המתקבל מניתוח שיחת למויין ולמדא הוא שתוכנת-העל עונה לשאלותיו של מהנדס גוגול אוטומטית, ללא מחשבה עמוקה, ולעתים גם תוך חוסר הבנה של מושגי יסוד הקשורים במערכת הפנימית של האדם.

ערך ניסוי מחשבתי, הגה מבחנים, אך לא השתכנע שמחשב יוכל לחשוב: אלן טיורינג (פסל בבלצ'לי פארק, אנגליה). תצלום: freeasinspeech

מסקנות: האם השתכנעת שתוכנת-על טרם פיתחה הכרתיות?

אני סבור שהבאתי מספר מספיק של נימוקים משכנעים לכך שתוכנת-על טרם פיתחה הכרתיות. אני סבור ששני ניסויי המחשבה: החדר הסיני ומונה-הכרתיות, והקריטריון שלפיו הבנה מעידה על הכרתיות וכן ניתוח השיחה בין למויין ולמדא, משכנעים כי אכן טרם התפתחה הכרתיות אצל מחשבי על. לסיום אני חייב לדון בקיצור נמרץ בעוד נושא אחד שעלה בדעתי תוך כדי הכתיבה. התרשמתי שההיסטוריה של מדע המחשבים העוסק במיוחד באינטליגנציה המלאכותית מתאפיינת בגלים של התפתחות ודעיכה, כשתחילת כל גל מלווה באמונה כי התוכנות החדשות הן שייצרו הכרתיות. קשה להאמין שיש היום מי שעוסקים במדעי המחשב המאמינים שתוכנות עבר ממשפחת הבינה המלאכותית פיתחו הכרתיות. תצפית היסטורית זו מבקשת הסבר: מדוע אנו נוטים מדי פעם להאמין שאנו עומדים להצליח וליצור מכשיר בעל הכרתיות? בראשי עולות תשובות מעניינות, אך אולי כדאי לסיים בשאלה המזמינה מחשבה.

ביבליוגרפיה

Rakover, Sam S. (2021). Understanding human conduct: The innate and acquired meaning of life. Lanham: Lexington Books.  

סם ש. רקובר הוא פרופסור אמריטוס במחלקה לפסיכולוגיה אוניברסיטת חיפה. הוא כתב ספרים ומאמרים רבים בתחומי התענינותו: למידת בעלי חיים, היכר פרצופים ופילוסופיה של המדע והתודעה. רקובר פרסם ספרות יפה, רומנים, סיפורים קצרים ומאמרים על ספרות.

תמונה ראשית: מודעות, מודעות עצמית, הכרתיות: תכונות אנושיות בלבד? תצלום: סילביה אוטה, אימג'בנק/ גטי ישראל