המכונה שלא ידעה להכין חביתה

בינה מלאכותית יצרה את התמונה שלפניכם.

״הבינה המלאכותית היא הסכנה הגדולה ביותר לעתיד הציוויליזציה האנושית״.

אלון מאסק, מייסד טסלה,
דובאי, 2023

ב-30 בנובמבר 2022 הכריזה חברה קטנה המעסיקה כ-500 עובדים על פיתוחו של כלי ששינה את הצורה שבה תפש העולם את הבינה המלאכותית – ChatGPT. תוך חמישה ימים השתמשו בו כמיליון בני אדם, וכעבור חודשיים המספר עמד על מאה מיליון. העיתונות יצאה מדעתה, וכמוה הרשתות החברתיות. מיליוני אנשים פרסמו מדי יום טקסטים שהופקו על ידי המכונה, לצד דעות ודעות שמנגד על כוחה, חסרונותיה, המודעות העצמית שפיתחה (או לא פיתחה) ועתידו של המין האנושי.

כרגיל, רובם טעו.

כדי להבין למה עלינו לחזור לשנת 2017.

ב-6 בדצמבר 2017 פרסמו חוקרים מגוגל מאמר שכותרתו: "תשומת לב הוא כל מה שאתם צריכים". המאמר שינה את עולם ניתוח השפה הטבעית והיה, ועודנו, הבסיס למה שנקרא כיום בינה מלאכותית יוצרת (Generative AI). החוקרים תיאורו במאמר ארכיטקטורה חדשה של רשת נוירונים: הטרנספורמר.

המכונה הלומדת

בשל טבעה של השפה והצורה שבה אנחנו מעבדים אותה, נדרשו יותר מחמישים שנה כדי להביא את תרגום המכונה מהמקום הפשטני שהוא היה בו אל המקום שבו הוא נמצא כיום

כדי להבין את אופן פעולתן של אותן רשתות נזדקק לדוגמה מעולם תרגום המכונה, תחום מחקר העוסק בתרגום ממוחשב משפה לשפה. סיפור מפורסם מתחילת עידן התרגום הממוחשב, בתחילת שנות החמישים של המאה הקודמת, מספר על תוכנת תרגום שקיבלה את המשימה הפשוטה לכאורה של תרגום מרוסית לאנגלית. המשפט שניתן לה היה: "The spirit is willing, but the flesh is weak" שבתרגום חופשי לעברית משמעו: "הרוח נכונה, אבל הגוף חלש". המכונה תרגמה את המשפט לאנגלית כך: "הוודקה מצוינת אבל הבשר רקוב". בשל טבעה של השפה והצורה שבה אנחנו מעבדים אותה, נדרשו יותר מחמישים שנה כדי להביא את תרגום המכונה מהמקום הפשטני ההוא אל המקום שבו הוא נמצא כיום.

כאשר אדם מתרגם (למשל) שירה הוא נדרש להבנה מעמיקה של ההיבטים השונים המשולבים ביצירה. הטקסט עצמו, החריזה, הניגון, היחסים בין הרבדים השונים ועוד. ניתן לומר במידה רבה של דיוק שהמתרגם מפיק במוחו מודל מופשט ולא מילולי של השיר המכיל את כל רבדיו, וכותב שיר חדש לחלוטין בשפת היעד, המשחזר את האילוצים שהציב השיר המקורי. זה אינו תרגום מילולי, זהו פירוק של השיר המקורי למרכיביו ויצירתו של שיר חדש בשפת היעד.

כך בדיוק עובדת בינה מלאכותית יוצרת (גנרטיבית). רשת הנוירונים הזו (הטרנספורמר) מפרקת את הטקסט לייצוג מופשט שממנו היא יוצרת טקסט חדש. הייצוג הזה הוא המודל החבוי ה"תופש" לכאורה את משמעותו של הטקסט ואת היחסים הסמנטיים בין מרכיביו ומאפשר לשכבה היוצרת להפיק בהתאם טקסט חדש לחלוטין. כך פועלות מכונות המתרגמות משפה אחת לאחרת, כך גם פועלות מכונות המייצרות תמונה על פי משפט או שניים (פרט לעובדה שהשכבה היוצרת מפיקה תמונה ולא טקסט חדש).

ChatGPT מבוסס גם הוא על טכנולוגית הטרנספורמרים, אם כי פעולתו שונה מעט. בניגוד לרשת המקבלת, למשל, טקסט בשפה אחת ומתרגמת (יוצרת) אותו לשפה אחרת, ChatGPT הוא מכונה המייצרת המשך לטקסט הניתן לה.

דמיינו את הטקסט הבא: ״ברד ירד בדרום ספרד הערב״.

תגובה אפשרית של ChatGPT תהיה: ״זו תחילתו של השיר ׳ברד ירד בדרום ספרד הערב׳. השיר מתאר את המצב שבו ברד יורד בדרום ספרד״.

הסיבה למשפט זה ולא אחר היא שהמודל בבסיסו של ChatGPT "קרא" ו-"למד" את היחסים הסטטיסטיים בין מילים ומשפטים מהטקסטים באינטרנט, וכיון שהמשפט הזה מופיע במקרים רבים בקשר למחזמר ״גבירתי הנאווה״ (ולשיר המפורסם מתוכו), קבע המודל שזה ההמשך הסביר ביותר לטקסט שקיבל כקלט.

במאמרים בעיתונות נטען כי ChatGPT הוא מודל המסוגל להבין טקסט, במובן העמוק של המילה, ואף שהוא פיתח מודעות עצמית. הטענה הזו מעידה יותר מכל על אי הבנה בסיסית של אופן פעולתו של המודל

במאמרים בעיתונות נטען כי ChatGPT הוא מודל המסוגל להבין טקסט, במובן העמוק של המילה, ואף שהוא פיתח מודעות עצמית. הטענה הזו מעידה יותר מכל על אי הבנה בסיסית של אופן פעולתו של המודל. למשל – המודל קיבל בקשה פשוטה: "מתכון לחביתה". כיון שהרשת מלאה במתכונים כאלה היה ניתן לצפות שהטקסט שיופק יהיה מתכון פשוט לחביתה. התוצאה (בעברית, ומן הראוי להודות שהמודל אינו שולט בה כפי שהוא שולט באנגלית) משעשעת, אבל בוודאי אינה מעידה על הבנה כלשהי בדבר מהותו של מתכון לחביתה.

באנגלית, שפה שטקסטים נרחבים הרבה יותר בה הוזנו למודל, התקבלה תשובה נכונה, ותשובות נכונות התקבלו גם לשאלות או הערות מורכבות יותר מתחומי הפילוסופיה והמדע. אבל גם באנגלית המודל נכשל במשימות יומיומיות הדורשות הבנה של המתואר בטקסט, הבנה שילד כבן חמש מסוגל לה ללא מאמץ.

ילד כבן חמש היה מסיק שאני עומד להכין למשפחתי חביתה לארוחת הערב. אבל המודל, בהיותו מעין תוכי המשלים מילים לפי סבירותן הופעתן בטקסטים שמהם למד, אינו בעל הבנה סמנטית של הסיטואציה

המודל נשאל: "אם אני שובר שלוש ביצים בשעה שמשפחתי יושבת בסלון הסמוך, מה עלי לעשות כעת?"

סביר להניח שילד כבן חמש היה מסיק שאני עומד להכין למשפחתי חביתה לארוחת הערב. אבל המודל, בהיותו מעין תוכי המשלים מילים לפי סבירותן הופעתן בטקסטים שמהם למד, אינו בעל הבנה סמנטית של הסיטואציה, ולכן תשובתו: "הישאר רגוע, תאונות קורות, אל תכנס לפניקה. נקה את הבלגן, וכו' ".

וטרם נדרשתי לשאלת הרגש.

רגשות, למה זה טוב?

מכונות, בניגוד לבני אדם, אינן נזקקות למושג הרגש או להבנה רגשית. ניתן ללמד אותן להפיק תמונות, סרטים, קול וטקסט על בסיס אוסף דוגמאות שאין לו כל הקשר רגשי. לעומתן, בני אדם מקבלים החלטות ומגיבים למצבים בשילוב בין חשיבה רציונלית וטריגרים רגשיים (ויש שיאמרו בעיקר רגשיים). המנגנונים הרגשיים המוטבעים בגוף האנושי נמצאים בכל מקום. החל מהגנגליון העצבי הממוקם בקיבה ושולח אותות אל המוח, דרך אוטוסטרדת המידע שבעצב הוואגוס, וכלה באמיגדלההממוקמת בעומק האונה הרקתית התיכונה.

למרות שרגשות נתפשים לעתים כחלק הפרימיטיבי במוחנו, כסרח עודף היסטורי, יש להם תפקיד מרכזי ביכולת שלנו לתפוש את המציאות ולהגיב לה

למרות שרגשות נתפשים לעתים כחלק הפרימיטיבי במוחנו, כסרח עודף היסטורי, יש להם תפקיד מרכזי ביכולת שלנו לתפוש את המציאות ולהגיב לה. אינטואיציות ותחושות בטן הן מנגנוני תגובה מהירים, מכניזם שנוצר בתקופה שבה בני האדם חיו בסביבה עוינת בהרבה מזו שבה אנו חיים כיום. תגובה רגשית מקודדת קלט רב-מערכתי באופן יעיל לרצף גירוי-תגובה מידי המופעל עם הופעת איום (אמיתי או מדומה) או אירוע בעל משמעות מן העבר. מעבר לכך, לרגשות יש תפקיד מרכזי בסוציאליזציה (חיברות) שלנו.

במוח האנושי (וגם בזה של בעלי חיים רבים אחרים, למשל ציפורים) קיימים נוירונים ייחודיים המאפשרים לשחזר את רגשותיו של העומד מולנו, אלה נקראים נוירוני מראה. הנוירונים הללו עומדים בבסיס היכולת שלנו לחוש אמפתיה ולכן גם בבסיסה של היכולת האנושי לקיים חברה. בלעדיהם לא היינו חשים חמלה או אמפתיה, לא היינו יכולים להבין את התנהגותם של אחרים, ובוודאי לא היינו יוצרים אוסף חוקים המאפשר לנו להתקיים יחד.

חישבו לרגע על עשרת הדיברות. האם הכלל "לא תרצח" היה נקבע במסמרות לולא היה מוטבע בנו מנגנון רגשי המאפשר אמפתיה? האם היינו אוסרים על גניבה או ניאוף ללא ההבנה הרגשית של הכאב שייגרם לאחר? מנגנונים כאלה אינם בנמצא במודלים הנוכחים, הם אינם מסוגלים לתפוש את הכאב האנושי (וכפי שהם בנויים כיום הם גם לא יוכלו לעשות זאת בעתיד), או את הצורך בחוקים כאלה (אף על פי שהם מסוגלים לצטט אותם במדויק).

המודלים הקיימים אינם נדרשים להכיל מרכיב רגשי מהסיבה הפשוטה שאין להם צורך בו

המודלים הקיימים אינם נדרשים להכיל מרכיב רגשי מהסיבה הפשוטה שאין להם צורך בו. בניגוד לבני האדם, שהתפתחו תחת לחץ אבולוציוני ונדרשו לפתח מנגנונים שיגיבו במהירות לאיומים על סמך מידע חלקי ועמום, המכונות אינן לוקחות לחץ כזה בחשבון בתהליך האימון, אלא נדרשות להכליל בלבד. הדבר דומה לתלמיד שקדן שלרשותו זמן רב והוא משנן בנחת את כל ספרי ההיסטוריה לקראת מבחן הבגרות. בהנחה שהתלמיד הוא בעל זיכרון מצוין, הוא יידע לענות על כל השאלות במבחן ויקבל ציון מרשים בלי שהמידע ששינן על אודות האירועים ההיסטוריים יעורר בו תגובה רגשית. אם חלילה ייתקל בעתיד באירועים המזכירים את שואת אירופה, הוא יוכל לצטט בקלות את האירועים ההיסטוריים, וגם לתאר את הזעזוע שחשו רבים, אך בהיותו צופה-משנן ספק רב אם ירגיש צורך לפעול כדי למנוע את הישנותה.

אמנות בעידן המכונה

האם זה ציור של ואן גוך?

ובכן, כן ולא. הציור שלפניכם הופק על ידי מנוע בשם Midjourney בתגובה לבקשה: "צייר לי ציור של ואן גוך". כיון שהמנוע למד את הקשר בין הצורה שבה נראים ציוריו של ואן גוך לבין הטקסט שהצגנו בפניו, הוא יכול היה ליצור ציור בסגנונו של האמן המפורסם. בלי להיכנס לוויכוח הנושן בדבר ההבדל בין מקור להעתק (שלא אוכל ליישב כאן) אומר שמדובר בהחלט בציור "בסגנון" ואן גוך, אבל לא בציור "של" ואן גוך, שהרי וואן גוך לא צייר אותו.

כשצייר מצייר ציור מקורי, הוא יוצר אותו מתוך חווית חייו השלמה, עולמו הרציונלי והרגשי, היחסים שלו עם העולם ושלל האינטראקציות האנושיות שלו

כשצייר מצייר ציור מקורי, הוא יוצר אותו מתוך חווית חייו השלמה, עולמו הרציונלי והרגשי, היחסים שלו עם העולם ושלל האינטראקציות האנושיות שלו. החוויות הללו מעצבות את היצירה בצורה שמורכבותה עולה בהרבה על מה שמנוע ש"מיצע" (מלשון ״ממוצע״) את יצירות העבר של ואן גוך יכול להפיק, ולו רק בשל העובדה שזהו כלי סטטיסטי חסר תודעה.

חידת התודעה והמוח הקוונטי

מי שאינו מצוי בתחום רשתות הבינה המלאכותית המודרניות עלול לדמיין אותן כמבנים עצומים העשויים נוירונים ביולוגיים המקושרים זה לזה בדומה למבנה המוח האנושי. אין דבר רחוק יותר מן המציאות. רשתות נוירונים, כפי שהן קרויות, אינן אלא תוכנה הכתובה במחשבים רגילים לחלוטין. תוכנה המבצעת הדמיה של התנהגותם של דמויי-נוירונים פשוטים. יחידות עיבוד, המסוגלות לסכם מספר קלטים ו"לירות" את תוצאת הסיכום במידה ועבר סף מספרי מסוים.

נדרשת מידה רבה של עזות מצח מדעית כדי להשוות בין המוח הפיזי וההדמיה שלו

מה שלא נלקח בחשבון במודל הפשטני הזה הוא הפיזיקה של המוח הביולוגי, היחסים האלקטרו-כימיים והקוונטיים בין הנוירונים הביולוגיים המצטופפים בגולגולת האנושית. זה יהיה אבסורדי להניח שלמבנה הפיזיקלי הזה אין השפעה על אופן פעולתו של המוח האנושי, ונדרשת מידה רבה של עזות מצח מדעית כדי להשוות בין המוח הפיזי וההדמיה שלו (עד שיש מי שדיברו על היווצרותה של תודעה).

בתחילת שנות הששים, יוג'ין ויגנר, הפיזיקאי חתן פרס נובל וממשתתפי פרויקט מנהטן (פרויקט הפיתוח של הפצצה הגרעינית), העלה השערה בדבר הקשר בין תודעה ומכניקת הקוונטים. לביסוס טענתו הוא הגה ניסוי מחשבתי פרדוקסלי במיוחד. לפני שאפרוש בפניכם את הניסוי אתאר (לטובת מי שאינם בקיאים במכניקת הקוונטים) את סיפורו של החתול של שרדינגר.

זהו ניסוי מחשבתי שהגה הפיזיקאי האוסטרי ארווין שרדינגר: נניח שמניחים חתול בתיבה אטומה; בתוך התיבה נמצא מתקן ובו אטום בודד של חומר רדיואקטיבי, שיש לו הסתברות של 50%  (אין חשיבות לדיוק) להתפרק במהלך הניסוי. בתיבה נמצא גלאי קרינה המחובר לכמוסת-רעל חשמלית, ובמקרה שהאטום מתפרק – מפעיל הגלאי את הכמוסה שממיתה את החתול. אם האטום אינו מתפרק עד לפתיחת התיבה, יישאר החתול בחיים. בתום הזמן הקצוב לניסוי פותחים את התיבה (כלומר "מבצעים מדידה" של מצב החתול), ומגלים אם החתול התיאורטי חי או מת. השאלה שאין לה תשובה ברורה היא – מה מצבו של החתול כל עוד התיבה סגורה. התשובה היא: "לא חי ולא מת, אלא חצי מזה וחצי מזה"; ובניסוח מדויק יותר: החתול נמצא בסופרפוזיציה של "חי" ושל "מת".

כשזוכרים שאחת מאבני היסוד של תורת הקוונטים היא מקומו הייחודי של הצופה והשפעתו על העולם נראה שייתכן ויש ממש בתאוריה שלפיה המוח המודע (הצופה) מסוגל להשפיע על התופעה הנצפית בדרכים שעדיין איננו מבינים

בניסוי שהציע ויגנר הוא מתאר סיטואציה שבה מודדת פיזיקאית בשם דבי, הנמצאת במעבדה מבודדת, את הספין של אלקטרון, שעשוי להיות באחד משני המצבים, מעלה, או מטה. בוב, שנמצא מחוץ למעבדה של דבי אינו יודע מה הספין של האלקטרון, והוא יידע אותו רק כשיפתח את הדלת ודבי תספר לו מה היו תוצאות המדידה שלה. מתי אם כך נקבע הספין? כשדבי מדדה אותו או כשבוב פתח את הדלת? ברור שלכל אחד מהמדענים, דבי ובוב, תשובה אחרת, הנובעת מהתודעה האישית של כל אחד מהם.

האם הפרדוקס של ויגנר מעוגן במציאות? כדרכם של ניסוי מחשבה, קשה לקבוע אם תנאי הניסוי עומדים במבחן המציאות, אם כי כשזוכרים שאחת מאבני היסוד של תורת הקוונטים היא מקומו הייחודי של הצופה והשפעתו על העולם נראה שייתכן ויש ממש בתאוריה שלפיה המוח המודע (הצופה) מסוגל להשפיע על התופעה הנצפית בדרכים שעדיין איננו מבינים.

הקדים את זמנו, באינטליגנציה רבת ממדים: לאונרדו דה וינצ'י (דימוי שנוצר בעזרת Midjourney). תצלום ועיבוד: ג'ון קארל

רוג'ר פנרוז, פיזיקאי מפורסם גם הוא, טוען שהמוח האנושי יכול לחשב פונקציות שאינן ניתנות לחישוב במחשב (ורשת נוירונים הרצה על מחשב היא תוכנה לכל דבר), שהיכולת הזו קשורה באופן ישיר לקיומה של תודעה ושלשתי התופעות הללו יש בסיס משותף, הנעוץ בתאוריה שטרם הוכחה (ואולי טרם הבשילה) העוסקת בגרביטציה קוונטית ובתפקידם של הצינורונים (Microtubule) כשערים קוונטים (שער קוונטי הוא סוג של שער לוגי, המסוגל לבצע פעולות כגון "גם", ו"או" בהתאם לחוקי מכניקת הקוונטים) בתאי המוח.

אם ההנחה שפעולתו של המוח האנושי, ובמיוחד התודעה, מבוססת על אפקטים קוונטים היא נכונה, הרי שהפער בין הרשתות המלאכותיות למוח האנושי גדול ממה ששיערנו

אם ההנחה שפעולתו של המוח האנושי, ובמיוחד התודעה, מבוססת על אפקטים קוונטים היא נכונה, הרי שהפער בין הרשתות המלאכותיות למוח האנושי גדול ממה ששיערנו. בלי לקבוע עמדה חד משמעית בנושא, ניתן לומר שהשאלות הפתוחות רבות מן התשובות ונדרשת מידה של ענווה לפני שאפשר יהיה להכריז שמודלים של שפה ורשתות הנוירונים של תקופתנו הם אינטליגנטים או מודעים.

פילוסופיה פוגשת מדע

אחת התופעות הקוונטיות המרתקות היא השזירה הקוונטית, ההשפעה ההדדית של שני חלקיקים מרוחקים זה על זה (ברגע שבו נערכת מדידה על אחד העצמים היא משתקפת מיד גם בעצם האחר). קשה שלא להקביל את השזירה הקוונטית למושג ההתהוות המותנית (או "היווצרות תוך תלות גומלין"), שהוא מושג חשוב במטפיזיקה הבודהיסטית. על פי השקפה זו, המשותפת לכל הזרמים בבודהיזם, כל תופעה מתהווה בזכות הימצאותן של תופעות אחרות, אשר שזורות זו בזו ברשת מורכבת של השפעה הדדית. סמל נפוץ המשמש לייצוג עיקרון "ההתהוות המותנית" הוא "רשת אינדרה": רשת קורי עכביש רב-ממדית, הזרועה באינספור טיפות-טל (או אבני-חן) המשקפות את שאר הטיפות ואת ההשתקפויות שבהן, בתהליך רקורסיבי אינסופי.

פריצות הדרך הגדולות נובעות כמעט תמיד מסינתזה בין מספר תחומי דעת הנראים על פניהם כלא קשורים. וזו גדולתו של המוח האנושי

האם הבודהיזם הבין דבר מה עמוק ויסודי על טבעו של העולם והתודעה שנים רבות לפני הפיזיקה המודרנית? האם תיתכן שזירה קוונטית בין מוחות? האם תופעות ברמה הקוונטית יכולות להשתקף בעולם המקרו? מה אם כן מהותו של החִברות האנושי?

נראה ששאלות רבות מבקשות מענה ואל לנו להמעיט בחשיבותן בעודנו מסונוורים מפריצות הדרך המרשימות, אך המוגבלות, בתחום הבינה המלאכותית. מוטב היה לחוקרים בתחום לו היו מתרכזים מעט פחות במכניקה המפעילה את מנועי השפה העצומים ויותר בהרחבת הדעת לתחומים אזוטריים לכאורה כגון אלו שהזכרתי. שהרי פריצות הדרך הגדולות נובעות כמעט תמיד מסינתזה בין מספר תחומי דעת הנראים על פניהם כלא קשורים. וזו גדולתו של המוח האנושי.

תמונה ראשית: מתוך תמונה שנוצרה על ידי Midjourney.

"The future of academic education, futuristic, photography by Man Ray, photorealistic, black and white" - Sitfterverband, lizenziert unter CC BY-SA 4.0, באמצעות Hochschulforum Digitalisierung