טיפשות מלאכותית

עליית הבינה המלאכותית והטמעתה בשורה ארוכה של סביבות יומיומיות וכלים שהכול משתמשים בהם, לוותה בגל אדיר של התלהבות, ולצידו חשש עמוק. כגובה גלי ההייפ כך הייתה עזה תהודת הישברותם על סלעי הדאגה. על הנושא נכתבו תלי-תלים של מילים, ובוודאי אפשר כבר לאכלס ספרייה גדולה בכל מה שנכתב, שלא לדבר על חוות שרתים מכובדת לאחסון כל החומר שנכתב על הנושאים הללו באינטרנט.

בתוך כך, דומה שתשומת הלב נתונה לכלים ולהשפעתם עלינו ועל סביבתנו. אנחנו, בני האדם, הפכנו להיות הסטטיסטים בדרמה עולמית גדולה. הכול מניחים שאנחנו "יש" נתון, והשאלות נוטות לעסוק באופנים שבהם נספוג את הטכנולוגיות, ניבנה מהן, נסבול בגללן או נימצא בסכנה בשל התפתחותן שלוחת הרסן. תועלת במספרים גדולים? גאולת היחיד ממצוקותיו? כותבים וכותבות משורה ארוכה של תחומים עוסקים בשאלות הללו ומתווים לנו נתיבות של תקווה לצד קווים אדומים בוהקים של אזהרה.

אלא שיש מקום גם למבט אחר.

מהפכת האינטרנט, בוודאי בשלושים השנים האחרונות, גילתה לנו שלצד הופעתם, עלייתם, נפילתם, התפשטותם, השתכללותם והשתלטותם של כלים, ששינו את חיינו כליל, חלים שינויים משמעותיים גם בנו, בני האדם

מהפכת האינטרנט, בוודאי בשלושים השנים האחרונות, גילתה לנו שלצד הופעתם, עלייתם, נפילתם, התפשטותם, השתכללותם והשתלטותם של כלים, ששינו את חיינו כליל, חלים שינויים משמעותיים גם בנו, בני האדם. חלק מהשינויים הללו נגרם באורח מחושב על ידי מעצבים ומתכננים של כלים – על הדעת עולה מיד עולם הרשתות החברתיות שמווסת את תשומת לבנו ושולט במצב רוחנו בהתאם למדידות מדויקות – וחלקם נגרם באורח מצטבר, שלא מדעת ואולי לא מתוך שום כוונה ישירה.

כך או אחרת, אם חושבים על "מבחן טיורינג", היום, יותר משבעים שנה לאחר ניסוחו, הדברים נעשים ברורים יותר. מבחן טיורינג מגדיר תסריט פשוט: צופה אנושי יהיה עד לשיחה בין מחשב ואדם. אם הצופה-המעריך לא יוכל להבדיל בין המכונה והאדם, כששניהם עונים על אותן השאלות, הרי שהמכונה הפגינה התנהגות תבונית, כלומר תבונית דיה מבחינת הצופה-המעריכה.

ערך ניסוי מחשבתי, הגה מבחנים, אך לא השתכנע שמחשב יוכל לחשוב: אלן טיורינג (פסל בבלצ'לי פארק, אנגליה). תצלום: freeasinspeech

פה טמון לב העניין: מבחן טיורינג מניח שהצופה-המעריכה היא אדם אינטליגנטי כפי שטיורינג חשב עליו בשנת 1950. האדם הזה רואה את התשובות של המחשב, רואה את התשובות של האדם, וכשאינו יכול להבדיל ביניהן, ההנחה הבלתי-נמנעת, המתבקשת, היא שהמחשב הגיע לרמה דומה לזאת של הצופה-המעריך.

כיום אנחנו עומדים מול מצב דומה בשורה ארוכה של תחומים שבהם המבחן לאיכות המערכות הוא יכולתן לגרום לנו – ועוד יותר מכך לצופה מהצד – לא להבדיל בין המכונה ובין אדם. אם המערכת מצליחה בהונאה המתוחכמת הזאת, היא תבונית או בכל אופן תבונית דיה.

דרך שנייה פתוחה בפני מי שמקדמים את היכולת בתחום הבינה המלאכותית, דרך עקיפה, אולי שטנית, אך בהחלט מוכרת: להטפיש את הצופה

הגיונית, יש שתי דרכים להתקדם מבחינת היכולת המבוקשת הזאת. האחת היא לשכלל את יכולתן של המערכות עד כי הצופים-המעריכים יוטעו באחוז משמעותי מספיק של המקרים, למשל שהם יוטעו ביותר מ-50 אחוז מהמקרים. או-אז, מול דמות על מסך, שאנו אמורים לתהות אם היא אמיתית או תוצר של מערכת בינה מלאכותית, אם ברוב המקרים הדמות היא מלאכותית וברוב המקרים רובנו נטעה ונחשוב שהיא אנושית, המערכת הצליחה. ואם הדמות היא אנושית ונחשוד, נאמר ב-30 או 40 אחוז מהמקרים, שהיא מלאכותית, בוודאי שהמערכת הצליחה. העניין האחרון הזה, הקריטריון השני, מצביע על הדרך השנייה הפתוחה בפני מי שמקדמים את היכולת בתחום הבינה המלאכותית, דרך עקיפה, אולי שטנית, אך בהחלט מוכרת: להטפיש את הצופה.

הביטוי עשוי להישמע חריף, ואפשר להחליפו למשל בביטוי "לטשטש את יכולת ההבחנה" של הצופה-המעריך. מדובר בתהליך מוכר שמתרחש לנגד עינינו ממש ולא רק בשנים האחרונות. כלי התקשורת, עולם הפרסומת, השיח הציבורי, האופן שבו מידע נארז ו"מונגש" לנו, הערפול המתרחב בין מידע, ידע והבנה – אלו רק חלק מהסימנים לתהליך הארוך והעמוק החורש בנו ומותיר אותנו מעורפלים, מטושטשים ומוחלשים מול המבול האדיר של הגירויים והמסרים הארוזים. הדבר נכון לכל סוגי המסרים: הטקסטואליים הכתובים, המדוברים, וגם החזותיים. כל אלו הם חלק מהכרסום המערער, הנמשך, באמונה הבסיסית בקיומה של אמת, אמת שיש בכוחנו להתקרב אליה, לעבוד כדי להשיגה ובסופו של דבר גם להשיגה בשכלנו. שכלנו, כמה פרדוקסלי, ניזוק מכך שמוטל ספק מתמיד ביכולותיו הבסיסיות, משל היה זה פרויקט הדגל של העידן הנוכחי. והדבר הוא פרדוקסלי כי התהליך בנוי כך שתוצאתו ידועה מראש. כמו הכחול החולני של פייסבוק, אנו אמורים להישאר מוחלשים אך לא חסרי יכולת, עגמומיים ומעורפלים בספקותינו. במצב כזה, האם נוכל להבחין שדמות שמופיעה מולנו היא תוצר של מערכת טכנולוגית ש"למדה" אותנו די הצורך כך שלא רק שהיא מטעה אותנו באחוזי הצלחה גוברים והולכים, אלא שהיא גם תורמת תרומה שולית מצטברת לכך שלא נוכל להתגונן מפניה, כלומר ללמוד אותה בחזרה?

אחת התכונות העיקריות של מערכות הבינה המלאכותית היא שהן בנויות באמצעות למידת מכונה. והתכונה העיקרית של למידת מכונה, מבחינת הדברים הנאמרים כאן, הוא שאנו, בני האדם, איננו יכולים לשחזר לאחור את מהלכיה או לצפות במלואם את כיווני התנהלותה בתוך תהליך הלמידה.

על הלימוד, ההבנה, ההעמקה והסקת המסקנות שכדאי לאדם להוסיף לעצמו לקראת חיים בעולם שבו הבינה המלאכותית פועלת סביבו, ולא תמיד בידיעתו, ממעטים לדבר

על הזילות שהדבר מקרין ביחס למונח "למידה" לא אאריך כאן. אך כן יש טעם לומר שגם בחירת המונחים בתחומים הללו נעשית מתוך מטרות שיווקיות, החל מגיוס הון ראשוני וכלה בדחיפת התוצרים לשימוש גורף, לא מבוקר. על הלימוד, ההבנה, ההעמקה והסקת המסקנות שכדאי לאדם להוסיף לעצמו לקראת חיים בעולם שבו הבינה המלאכותית פועלת סביבו, ולא תמיד בידיעתו, ממעטים לדבר. הדבר אינו מקרי. קל יותר לתכנת מערכות בינה מלאכותית מאשר לקדם את חוכמתם – האנליטית, ההיסקית והאתית - של בני אדם, גם המוכשרים ביותר. מה גם שהתועלת מ"למידת אדם" אינה כלכלית-מיידית, ובמובנים מסוימים היא גם עלולה לסכן את מתקפת הבינה המלאכותית, להאט אותה ולהקהות אחדות משיניה. הרי הכשרתו האמיתית של אדם להיות אדם חושב, חופשי, ביקורתי ובעל כלים להתמודד עם מה שהחיים יעמידו מולו – התהליך הסוקראטי – יוצרת בהכרח אדם מורד, אדם שמרים ראשו מתוך ההמון, ומניף את ידו מעל לים המספרים הגדולים. כדי להצביע על כך שהמלך הוא עירום נדרש רק ילד אחד, חופשי ובעל יכולת להתבטא, שאינו מפקפק במה שעיניו רואות ובמה ששכלו אומר לו.

האם שכחנו את ערכו של ההיגיון הבריא? ציור קיר ובו דמותו של סוקרטס, מבית באפסוס (המאות הראשונה עד החמישית לספירה), מוזיאון אפסוס (Efes). תצלום: Pvasiliadis, ויקיפדיה

גם על הדיון האתי אי-אפשר וממש אסור לוותר. מערכות בינה מלאכותית שפועלות במקומנו אינן פוטרות אותנו מאחריות עליהן ועל מעשיהן, שכן כל אלו נובעים מאיתנו ומממשים כוונות ראשוניות שלנו. הדיון על מחיר הפעלתן של מערכות כאלו הוא דיון אנושי חיוני. לשולחן הדיונים אי-אפשר להגיע שיכורים מרשתות חברתיות או מוטפשים משצף של מסרים שמעוצבים על פי המבנה הנוירולוגי האינטימי ביותר שלנו.

הבינה המלאכותית המסחרית אינה מלך עירום. היא גם אינה מלך לבוש. למעשה, ליוצריה השונים בדרך כלל לא אכפת האם המלך לבוש או לא, העיקר שהוא יהיה מלך. ולשם כך, מופעל מכבש אדיר שאמור לסחוף את כולנו אל העתיד הזוהר המצפה לנו ממש בקרוב. לשם כך, מופעלות שתי הדרכים. אכן נבנים כלים מעוררי השתאות, שרבים מהם יכולים לשמש אותנו כפרטים, כקבוצות וכמין האנושי כולו, ולהועיל לנו מאוד – בגילוי תרופות, בחיזוי האקלים, בהתאמת פתרונות לעולם צפוף ובעל משאבים מוגבלים, וגם כדי לעזור לנו להגיע למידע (לא לידע, לא להבנה). אך לצד זאת, מסתמנת החובה להבחין שגם הדרך השנייה מופעלת, דרך הקיצור הדורסנית, הרודנית, שמוחדרת אלינו כמו פלואור למערכת המים, בלי לכוון לאף אחד מאיתנו אישית, דרך הטשטוש, העכרת התודעה, ההטפשה.

תמונה ראשית: פסל היפר-ריאליסטי בתערוכה ברוטרדם (2018). תצלום: bertknot