ההתרסקות הקרובה

בליל ה-12 בפברואר, 2009, עשתה טיסת "קונטיננטל קונקשן" את דרכה מניוארק לבאפלו ברוחות עזות. כנהוג בטיסות מסחריות כיום, לטייסים לא היו מטלות רבות בזמן הטיסה בת השעה. הקפטן, מרווין רנסלו, שלט בהגאים לזמן קצר בזמן ההמראה, הנחה את מטוס הטורבו-פרופ מדגם Bombardier Q400 אל האוויר, ואז עבר לטייס אוטומטי ונתן לתוכנה לנהל את הטיסה. הוא והטייסת הנוספת, רבקה שו, פטפטו – על המשפחות שלהם, הקריירות, על פקחי התעופה השונים – בשעה שהמטוס שייט ללא תקריות מיוחדות במסלול צפון-מערבי בגובה 16,000 רגל. המטוס כבר התקרב לשדה התעופה בבאפלו, ואף הוריד את כן הנסע שלו ופתח את מדפי הכנפיים, כשהסטיק התחיל לרעוד בקול, סימן לכך שהמטוס מאבד כוח עילוי ושיש סכנה להזדקרות אווירודינמית.

הטייס האוטומטי התנתק, והקפטן השתלט על ההגאים. הוא הגיב במהירות, אבל עשה בדיוק את הדבר שלא היה צריך לעשות: הוא משך את הסטיק לאחור, הרים את אף המטוס והפחית את המהירות האווירית שלו, כשלמעשה היה צריך לדחוף את הסטיק לפנים כדי לצבור מהירות. במקום למנוע הזדקרות, פעולותיו של רנסלו גרמו לה. המטוס הסתחרר, ואז צנח. "אנחנו נופלים," אמר הקפטן, רגע לפני שה-Q400 התרסק לתוך בית בפרבר בבאפלו.

ההתרסקות, שבה נהרגו כל 49 האנשים שהיו במטוס וכן אדם אחד על הקרקע, לא היתה צריכה לקרות. חקירה של המועצה הלאומית לבטיחות בתעבורה הסיקה שסיבת התאונה הייתה טעות טייס. תגובת הקפטן להתראת ההזדקרות, דיווחו החוקרים, "היתה אמורה להיות אוטומטית, אבל קלטי בקרת הטיסה השגויים שלו לא תאמו את ההכשרה שלו," ובמקום זאת הצביעו על "בהלה ובלבול." מנהל מהחברה שהפעילה את הטיסה, "קולגן אייר" המקומית, הודה שבמהלך האירוע נראה כי לטייסים חסרה "מודעות מצבית."

ההתרסקות בבאפלו לא היתה תקרית מבודדת. אסון דומה להפליא, עם כמות נפגעים גדולה הרבה יותר, התרחש כמה חודשים מאוחר יותר. בליל ה-31 במאי, איירבוס A330 של אייר פראנס המריא מריו דה ז'נרו אל פריז. מטוס הג'מבו נקלע לסערה מעל האוקיינוס האטלנטי, כשלוש שעות לאחר ההמראה. חיישני המהירות האווירית שלו, שהתכסו בקרח, התחילו לנפק קריאות שגויות שגרמו לטייס האוטומטי להתנתק. הטייס פייר-סדריק בונין היה בהלם ומשך את הסטיק. המטוס התרומם, והתראת ההזדקרות נשמעה, אבל הוא המשיך למשוך לאחור ברשלנות. כשהמטוס טיפס בחדות, הוא איבד מהירות. חיישני המהירות האווירית התחילו לעבוד שוב וסיפקו לצוות מספרים מדויקים. אבל בונין המשיך להאט את המטוס. הוא הזדקר והחל לצנוח. לו היה הטייס עוזב את הסטיק, סביר להניח שה-A330 היה מיישר את עצמו. אבל הוא לא עזב. המטוס צנח 35,000 רגל בשלוש דקות לפני שהתרסק לתוך האוקיינוס. כל 228 הנוסעים וחברי הצוות נהרגו.

שימוש יתר באוטומציה שוחק את המיומנות של הטייסים, מקהה את הרפלקסים שלהם ומוביל למה שיאן נויז, מומחה לארגונומיה מאוניברסיטת בריסטול, מתאר כ"דה-הכשרה של הצוות"

הטייס האוטומטי הראשון, שבמאמר משנת 1930 במגזין Popular Science כונה "אוויראי המתכת" (metal airman), הורכב משני גירוסקופים, אחד אופקי והשני אנכי, שהיו מחוברים למערכת הבקרה של המטוס ותופעלו על-ידי גנרטור מבוסס-רוח שנמצא מאחורי המדחף. הגירוסקופ האופקי דאג לכנפיים, והאנכי היה אחראי לניווט. מערכות טייס אוטומטי מודרניות שונות מאוד מאותו מכשיר בסיסי. הן נשלטות על-ידי מחשבים הנמצאים במטוס ומריצים תוכנות מורכבות להפליא. מערכות אלה אוספות מידע מחיישנים אלקטרונים ועורכות ללא הרף התאמות במצב האף, המהירות וכיוון הטיסה. טייסים כיום עובדים בתוך מה שהם מכנים "תאי זכוכית" (Glass Cockpits).

המחוונים והמונים האנלוגיים הישנים נעלמו כמעט לגמרי. הם הוחלפו על-ידי סוללות של צגים דיגיטליים. האוטומציה נעשתה מתוחכמת כל כך עד שבטיסת נוסעים רגילה, הטייס האנושי מחזיק בהגאים למשך שלוש דקות בסך הכול. מה שהטייסים עושים במשך זמן רב הוא לעקוב אחרי המסכים ולהקליד נתונים. הם הפכו, וזו אינה הפרזה, למפעילי מחשב.

וזו, מסיקים מומחי תעופה ואוטומציה רבים, בעיה. שימוש יתר באוטומציה שוחק את המיומנות של הטייסים, מקהה את הרפלקסים שלהם ומוביל למה שיאן נויז (Noyes), מומחה לארגונומיה מאוניברסיטת בריסטול, מתאר כ"דה-הכשרה של הצוות." אף אחד לא מפקפק בכך שטייסים אוטומטיים תרמו לשיפורים בבטיחות הטיסה לאורך השנים.

הם מפחיתים את עייפות הטייסים, מספקים התראות מקדימות לבעיות ומסוגלים להשאיר את המטוס באוויר במידה והצוות מנוטרל. אבל הירידה ההדרגתית הכללית במספר התרסקויות המטוסים מסתירה את הגעתו של "סוג חדש להפליא של תאונה," אומר ראג'ה פרסוראמאן (Parasuraman), מרצה לפסיכולוגיה מאוניברסיטת ג'ורג' מייסון וסמכות בכירה בנושא אוטומציה. כשמערכת טייס אוטומטי כושלת, טייסים רבים מדי, הנזרקים בפתאומיות לתפקיד שנעשה נדיר, טועים. רורי קיי, טייס יונייטד ותיק ששירת כראש תחום הבטיחות של איגוד הטייסים הבינלאומי, תיאר את הבעיה בבוטות בראיון משנת 2011 עם AP: "אנחנו שוכחים איך לטוס." הדאגה ברשות התעופה הפדרלית גברה כל כך עד שבינואר היא שלחה "התראת בטיחות" לחברות התעופה ודחקה בהן לדאוג שהטייסים יתנסו יותר בטיסה ידנית. הסתמכות יתר על אוטומציה, הזהירה הרשות, עלולה לסכן מטוסים ונוסעים.

אימון של טייסים בחיל האוויר הבריטי

עלינו לבחון בקפידה את ניסיונן של חברות התעופה. הוא מגלה שאוטומציה, על כל תועלותיה, עלולה לגבות מחיר מהביצועים והכישרון של אלה שמסתמכים עליה. ההשלכות אינן רק בתחום הבטיחות. מכיוון שאוטומציה משנה את האופן שאנו פועלים, האופן שאנו לומדים ומה שאנו יודעים, יש לה ממד אתי. הבחירות שאנו עושים או לא עושים, לגבי המשימות שאנו מטילים על מכונות, מעצבות את חיינו ואת המקום שאנו תופסים לעצמנו בעולם. זה תמיד היה נכון, אבל בשנים האחרונות המוקד של הטכנולוגיות חוסכות העבודה עובר ממכונות לתוכנות והאוטומציה פולשת עוד יותר לחיינו, אף על פי שדרכיה נסתרות מאיתנו יותר מתמיד. בחיפוש אחר נוחות, מהירות ויעילות אנו ממהרים להטיל עבודה על מחשבים בלי להרהר במה שאנו מקריבים כתוצאה מזה.

רופאים משתמשים במחשבים כדי לאבחן ולנתח. בנקאים בוול סטריט משתמשים בהם כדי לאסוף מכשירים פיננסיים ולסחור בהם. אדריכלים משתמשים בהם כדי לתכנן בניינים. עורכי דין משתמשים בהם בגילוי מסמכים. ולא רק מטלות מקצועיות עוברות לידי המחשבים. תודות לסמארטפונים ומחשבים קטנים וזולים נוספים, אנחנו תלויים בתוכנות לביצוע חלק גדול מהשגרות היומיומיות שלנו. אנחנו משיקים יישומים שיעזרו לנו בקניות, בישול, יצירת קשרים חברתיים, אפילו גידול ילדינו. אנחנו עוקבים צעד צעד אחרי הוראות ה-GPS. אנחנו ניגשים למנועי המלצות כדי שיאמרו לנו במה לצפות, מה לקרוא ולמה להאזין. אנחנו פונים לגוגל, או סירי, כדי שיענו לנו על שאלות, או יפתרו לנו בעיות. יותר מאי פעם, בעבודה ובמנוחה, אנחנו חיים את חיינו בתוך תא זכוכית.

מיתוס התחליף

לפני מאה שנה, המתמטיקאי והפילוסוף הבריטי אלפרד נורת' וייטהד כתב, "הציביליזציה מתקדמת על-ידי הרחבת מספר הפעולות החשובות שאנו מסוגלים לבצע ללא מחשבה." קשה לדמיין הבעת אמון עזה יותר באוטומציה. ממילותיו של וייטהד משתמעת אמונה בהיררכיית הפעולות האנושיות: בכל פעם שאנו מעבירים מטלה לכלי או מכונה, אנחנו מתפנים לטפס אל עיסוק גבוה יותר, כזה שדורש מיומנות רבה יותר, אינטליגנציה עמוקה יותר, או נקודת מבט רחבה יותר. אנו עלולים לאבד משהו עם כל צעד נוסף למעלה, אבל מה שאנו מרוויחים, בטווח הארוך, גדול הרבה יותר.

מכשיר חוסך-עבודה אינו רק תחליף לרכיב מבודד כלשהו במשימה או פעילות כלשהי. הוא משנה את אופייה של המשימה כולה, כולל התפקידים, הגישות והכישורים של האנשים המשתתפים בה

ההיסטוריה מספקת ראיות רבות התומכות בווייטהד. אנו, בני האדם, מעבירים מטלות פיזיות ומנטליות למכשירים מאז המצאת המנוף, הגלגל והחשבונייה. אבל אין לטעות ולחשוב שהערתו של וייטהד היא אמת אוניברסלית. הוא כתב בתקופה שבה אוטומציה היתה מוגבלת למטלות מסוימות, מוגדרות היטב וחזרתיות – אריגת בד עם נול מבוסס קיטור, חיבור מספרים עם מחשבון מכני. האוטומציה שונה עכשיו. אפשר לתכנת מחשבים לבצע פעולות מורכבות שבהן רצף של מטלות מתואמות היטב מבוצע על-ידי הערכה של משתנים רבים. תוכנות רבות מבצעות עבודה אינטלקטואלית – בחינה וחישה, ניתוח ושיפוט, אפילו קבלת החלטות – שעד לאחרונה נחשבה לנחלתם של בני אדם בלבד. זה עשוי להותיר את האדם המפעיל את המחשב עם תפקיד של פקיד היי-טק – להכניס נתונים, לנטר פלטים ולחכות להתראות כשל. במקום לפתוח חזיתות חדשות של מחשבה ופעולה, התוכנות מצרות את המיקוד שלנו. אנחנו ממירים כישורים מתוחכמים וייחודיים בכישורים שגרתיים ומובחנים פחות.

רובנו רוצים להאמין שהאוטומציה מפנה לנו זמן לחתור לשאיפות גבוהות יותר, אך לא משנה את צורת ההתנהגות או החשיבה שלנו. התפיסה הזו שגויה – ביטוי למה שחוקרי אוטומציה מכנים "מיתוס התחליף" (substitution myth). מכשיר חוסך-עבודה אינו רק תחליף לרכיב מבודד כלשהו במשימה או פעילות כלשהי. הוא משנה את אופייה של המשימה כולה, כולל התפקידים, הגישות והכישורים של האנשים המשתתפים בה. כפי שפרסוראמאן ועמית הסבירו במאמר משנת 2010, "האוטומציה לא רק באה במקום פעילות אנושית; היא משנה אותה, לעתים קרובות בדרכים שמתכנני האוטומציה לא התכוונו ולא ציפו להן."

פסיכולוגים גילו שלעתים קרובות, כאשר אנו עובדים עם מחשבים, אנו נופלים קורבן לשתי מחלות קוגניטיביות – שאננות והטיה – שעלולות לפגוע בביצועים שלנו ולהוביל לטעויות. שאננות אוטומציה מתרחשת כאשר המחשב נוטע בנו תחושת ביטחון מוטעית. בביטחוננו שהמכונה תעבוד ללא פגם ותטפל בכל בעיה שתצוץ, אנו מאפשרים לתשומת הלב שלנו לגלוש. אנו נעשים מנותקים מעבודתנו, והערנות שלנו לגבי מה שקורה מסביבנו, נמוגה. הטיית אוטומציה מתרחשת כאשר אנו בוטחים יותר מדי בדיוק של המידע המופיע על הצגים שלנו. האמון שלנו בתוכנה גדל כל כך עד שאנו מתעלמים או שוללים מקורות מידע אחרים, כולל העיניים והאוזניים שלנו. כשמחשב מספק נתונים שגויים או חלקיים, אנחנו לא מודעים לטעות.

מימין: ממגורמה לא תקינה. משמאל: ממוגרמה תקינה

דוגמאות לשאננות והטיה תועדו לא אחת במצבים שבהם רמות הסיכון גבוהות – במטוסים ובשדות הקרב, בחדרי בקרה של מפעלים – אבל מחקרים שנערכו לאחרונה מראים שהבעיות האלה עשויות לרדוף כל מי שעובד עם מחשב. רדיולוגים רבים כיום משתמשים בתוכנה אנליטית כדי להדגיש אזורים חשודים בממוגרמות. לרוב, הדגשים האלה עוזרים בגילוי מחלה. אבל הם עלולים גם ליצור את האפקט ההפוך. בהתבסס על המלצות התוכנה, רדיולוגים עלולים להקדיש רק תשומת לב שטחית לאזורים שלא הודגשו, ולפעמים להתעלם מגידול בשלב מוקדם. רובנו חווינו שאננות מול המחשב. כשאנו משתמשים במייל או במעבד תמלילים, אנחנו הופכים למגיהים דקדקנים פחות כי אנו יודעים שבודק האיות פועל.

האוטומציה הופכת אותנו משחקנים לצופים. במקום לשלוט בסטיק, אנחנו מביטים בצג. ייתכן שהשינוי מקל על חיינו, אבל הוא עלול גם להגביל את יכולתנו לפתח מומחיות

האופן שבו מחשבים עלולים לפגום בערנות ובקשב שלנו מצביע על בעיה עמוקה יותר. האוטומציה הופכת אותנו משחקנים לצופים. במקום לשלוט בסטיק, אנחנו מביטים בצג. ייתכן שהשינוי מקל על חיינו, אבל הוא עלול גם להגביל את יכולתנו לפתח מומחיות. מאז שנות השבעים המאוחרות פסיכולוגים מתעדים תופעה המכונה "אפקט ההפקה" (generation effect). היא נראתה לראשונה במחקרים של אוצר מילים שבהם התברר כי אנשים זוכרים מילים הרבה יותר טוב כשהם מעלים אותן אקטיבית – כשהם מפיקים אותן – מאשר כשהם פשוט קוראים אותן. מאז התברר שהאפקט הזה משפיע על למידה בנסיבות רבות ושונות. כשאנחנו עוסקים אקטיבית במטלה, אנחנו מפעילים תהליכים מנטליים מורכבים שמאפשרים לנו לשמר יותר ידע. אנחנו לומדים יותר וזוכרים יותר.

כשאנו חוזרים על אותה מטלה במשך פרק זמן ארוך, המוח שלנו בונה מעגלים עצביים ייחודיים המוקדשים לפעילות הזו. הוא בונה מאגר מידע עשיר ומארגן את הידע בצורה המאפשרת לנו לשלוף אותו מידית. בין שמדובר בסרינה ויליאמס על מגרש הטניס ובין שמדובר במגנוס קרלסן ליד לוח השחמט, מומחה מזהה דפוסים, מעריך סימנים ומגיב לנסיבות משתנות במהירות ודיוק שמדהימות אותנו. מה שנראה כמו אינסטינקט הוא למעשה מיומנות שנרכשה בעמל רב, מיומנות שדורשת בדיוק את סוג ההתמודדות שתוכנות מודרניות חוסכות לנו.

בשנת 2005, קריסטוף ואן נימווייחן (van Nimwegen), פסיכולוג קוגניטיבי מהולנד, פתח בחקירה של השפעות התוכנה על התפתחות הידע. הוא גייס שתי קבוצות של אנשים לשחק במשחק מחשב המבוסס על החידה הלוגית הקלאסית שנקראת "מיסיונרים וקניבלים." כדי לפתור את החידה, על שחקן להעביר חמישה מיסיונרים וחמישה קניבלים (או בגרסה של ואן נימווייחן, חמישה כדורים צהובים וחמישה כחולים) מעבר לנהר, בעזרת סירה שמסוגלת להכיל לא יותר משלושה אנשים בו-זמנית. החלק הבעייתי הוא שאסור לעולם שיהיו יותר קניבלים ממיסיונרים, בסירה או על אחת מגדות הנהר. אחת הקבוצות של ואן נימווייחן עבדה על החידה בעזרת תוכנה שסיפקה הנחיות, צעד אחר צעד, והראתה אילו מהלכים מותרים ואילו לא. הקבוצה השנייה השתמשה בתוכנה בסיסית שלא הגישה עזרה.

כפי שאפשר לצפות, האנשים שהשתמשו בתוכנה המסייעת התקדמו מהר יותר בהתחלה. הם פשוט עקבו אחרי ההוראות במקום לעצור לפני כל מהלך, להיזכר בכללים ולהבין איך הם מתאימים למצב החדש. אבל ככל שהמבחן נמשך, הקבוצה עם התוכנה הבסיסית התקדמה מהר יותר. חבריה פיתחו הבנה קונספטואלית חדה של המשימה, רקחו אסטרטגיות טובות יותר ועשו פחות טעויות. שמונה חודשים לאחר מכן ביקש ואן נימווייחן מאותם אנשים לעשות את החידה שוב. אלה שהשתמשו בתוכנה הבסיסית בפעם הקודמת פתרו את החידה כמעט פי שניים מהר מהאחרים. הם נהנו מאפקט ההפקה, והידע הוטבע אצלם בצורה טובה יותר.

מה שוואן נימווייחן ראה במעבדה שלו – שכאשר אנו עושים אוטומציה לפעולה, אנו פוגעים ביכולתנו לתרגם את המידע לידע – מתועד גם בעולם האמיתי. בעסקים רבים, מנהלים ואנשי מקצוע אחרים נעשו תלויים במערכות לקבלת החלטות בכל הנוגע לניתוח מידע ובחירת אופן פעולה. רואי חשבון, למשל, משתמשים במערכות האלה בעת ביקורות ספרים. היישומים מאיצים את העבודה, אבל סימנים מסוימים מראים שככל שהתוכנה צוברת יכולות, כך רואי החשבון מאבדים אותן.

מחקר שנערך לאחרונה על-ידי חוקרים אוסטרלים בחן את השפעותיהן של המערכות בשלוש חברות בינלאומיות לראיית חשבון. שתיים מהחברות השתמשו בתוכנות מתקדמות מאוד הממליצות, על בסיס תשובותיו של רואה החשבון לשאלות בסיסיות על הלקוח, על מערך של סיכונים עסקיים רלוונטיים שיש לכלול בתיק הביקורת של הלקוח. החברה השלישית השתמשה בתוכנה פשוטה יותר שדורשת מרואה החשבון להעריך רשימה של סיכונים אפשריים ולבחור ידנית את הרלוונטיים ביותר. החוקרים העבירו לרואי חשבון משלוש החברות מבחן למדידת המומחיות שלהם. רואי החשבון מהחברה עם התוכנה הפשוטה יותר הפגינו הבנה הרבה יותר טובה בצורות שונות של סיכון מאשר רואי החשבון משתי החברות האחרות.

תסתכל, בלי ידיים

פרומת של חברת חשמל אמריקאית ב-1956 המציגה את העתיד עם מכוניות ללא נהג

הדבר המדהים ביותר, והמטריד ביותר, בנוגע לאוטומציה ממוחשבת, הוא שהיא עדיין בשלביה המוקדמים. מומחים נהגו להניח שיש גבולות ליכולתם של מתכנתים ליצור אוטומציה למשימות מורכבות, במיוחד אלה הדורשות חישה, זיהוי דפוסים וידע קונספטואלי. הם העלו את דוגמת הנהיגה במכונית, שדורשת לא רק את היכולת לפרש מידית ערבוביה של סימנים חזותיים, אלא גם את היכולת להסתגל בצורה חלקה למצבים בלתי צפויים. "פנייה שמאלה על פני מכוניות הבאות מהכיוון השני," כתבו שני כלכלנים בכירים בשנת 2004, "כוללת כל כך הרבה גורמים עד שקשה לדמיין מערך של כללים המסוגל לשחזר התנהגות של נהג." רק שש שנים מאוחר יותר, באוקטובר 2010, הודיעה גוגל שהיא בנתה צי של שבע "מכוניות הנוהגות בעצמן," שהספיקו לצבור ביניהן יותר מ-225,000 קילומטר על כבישי קליפורניה ונבדה.

מכוניות ללא נהג מספקות לנו הצצה מוקדמת לאופן שבו רובוטים יוכלו לנווט ולבצע עבודות בעולם האמיתי, ולהיות אחראים למשימות הדורשות מודעות סביבתית, תנועה מתואמת וקבלת החלטות שוטפת. התקדמות מהירה לא פחות נעשית בתחום הפעילות המחשבתית. רק לפני כמה שנים, הרעיון שמחשב יתחרה בשעשועון כמו Jeopardy נראה מגוחך, אבל בהתמודדות ידועה משנת 2011, מחשב העל של IBM, ווטסון, ניצח את אלוף כל הזמנים של התוכנית, קן ג'נינגס. ווטסון לא חושב באותה צורה שאנשים חושבים בה; הוא לא מבין מה הוא עושה או אומר. היתרון שלו טמון במהירות יוצאת הדופן של המעבדים המודרניים.

ב-Race Against the Machine, ספר אלקטרוני משנת 2011 על ההשלכות הכלכליות של המחשוב, החוקרים אריק בריניולפסון ואנדרו מקאפי טוענים שווטסון של IBM והמכונית ללא נהג של גוגל הם דוגמאות לגל חדש של אוטומציה המתבסס על ה"צמיחה מעריכית" בכוח המחשוב ועומד לשנות את טבעה של עבודה כמעט בכל משרה או מקצוע. כיום, הם כותבים, "מחשבים משתפרים כל כך מהר עד שיכולותיהם עוברות מממלכת המדע הבדיוני לממלכת היומיום לא במהלך חייו של אותו אדם, ואף לא במהלך הקריירה שלו, אלא תוך כמה שנים."

מי צריך בכלל בני אדם? השאלה הזו, בצורה רטורית כזו או אחרת, עולה לעתים תכופות בדיונים על אוטומציה. אם יכולותיהם של מחשבים מתפתחות במהירות גדולה כל כך, ואם אנשים, בהשוואה, נראים אטיים, מגושמים ומועדים לטעויות, למה לא לבנות מערכות עצמאיות מושלמות שרצות ללא פגם וללא שום פיקוח או התערבות אנושית? למה לא להוציא את הגורם האנושי מהמשוואה? תיאורטיקן הטכנולוגיה, קווין קלי (Kelly), התייחס לקשר בין אוטומציה לטעות טייס וטען שהפתרון הברור מאליו הוא לפתח טייס אוטומטי אוטונומי לחלוטין: "טייסים אנושים לא צריכים להטיס מטוסים בטווח הארוך." וינוד קושלה, איש ההון-סיכון מעמק הסיליקון, טען לאחרונה שמערכת שירותי הבריאות תשתפר רבות כשהתוכנה הרפואית – שאותה הוא כינה "דוקטור אלגוריתם" – תתפתח ותהפוך מכלי העוזר לרופאים בביצוע אבחנות לכלי שמחליף אותם לחלוטין. התרופה לאוטומציה לא מושלמת היא אוטומציה מוחלטת.

אנשים הופכים להיות מנטרים, צופים פסיביים בצגים. זו משימה שבני אדם, עם מחשבותינו הנודדות הידועות לשמצה, גרועים בה במיוחד

הרעיון מפתה, אבל אין מכונה נטולת פגמים. במוקדם או במאוחר, גם הטכנולוגיה המתקדמת ביותר תקרוס, תפספס, או במקרה של מערכת ממוחשבת, תתקל בנסיבות שמתכנניה לא צפו. בעוד שטכנולוגיות האוטומציה הולכות ונעשות מורכבות יותר, ומסתמכות יותר ויותר על תלויות הדדיות בין אלגוריתמים, בסיסי נתונים, חיישנים וחלקים מכניים, המקורות הפוטנציאליים לכשלים הולכים ומתרבים. הם נעשים גם קשים יותר לגילוי. ייתכן שכל החלקים עובדים באופן מושלם, אבל טעות קטנה בתכנון המערכת עדיין עלולה לגרום לתאונה רצינית. וגם אם יהיה אפשר לתכנן מערכת מושלמת, היא עדיין תאלץ לפעול בתוך עולם שאינו מושלם.

במאמר קלאסי משנת 1983 בכתב העת Automatica, תיארה ליזאן ביינברידג' (Bainbridge), פסיכולוגית הנדסית מיוניברסיטי קולג' בלונדון, בעיה של אוטומציה ממוחשבת. מכיוון שמתכנני מערכות רבים מניחים שהמפעילים האנושיים הם "בלתי אמינים ובלתי יעילים," לפחות בהשוואה למחשב, הם שואפים לתת למפעילים האלה תפקיד קטן ככל האפשר. אנשים הופכים להיות מנטרים, צופים פסיביים בצגים. זו משימה שבני אדם, עם מחשבותינו הנודדות הידועות לשמצה, גרועים בה במיוחד. מחקרים בתחום הערנות, כולל מחקרים של מפעילי מכ"ם עוד במהלך מלחמת העולם השנייה, מראים שאנשים מתקשים להתמקד בתצוגת מידע יציבה במשך יותר מחצי שעה. "זה אומר," ציינה ביינברידג', "שבלתי אפשרי מבחינה אנושית לבצע את הפעולה הבסיסית שהיא מעקב אחר חריגות." ומכיוון שכישוריו של האדם "מידרדרים כשהם לא בשימוש," גם מפעיל מנוסה יתחיל בסופו של דבר להתנהג כמו מפעיל בלתי מנוסה אם כל מה שהוא ייעשה זה להתבונן בצג. חוסר הערנות והידרדרות המיומנות מגבירים את הסיכון שבעת תקלה, המפעיל יגיב בצורה שאינה הולמת את המצב. וכך מגשימה את עצמה ההנחה שהאדם הוא החוליה החלשה ביותר במערכת.

פסיכולוגים גילו כמה דרכים פשוטות למתן חלק מהשפעותיה השליליות של האוטומציה. אפשר לתכנת תוכנה שתעביר את השליטה בחזרה למפעילים האנושיים לעתים תכופות, אך בזמנים משתנים; הידיעה שאנחנו נצטרך לתפוס פיקוד בכל רגע מכריחה אנשים להיות מעורבים ומגבירה את המודעות המצבית וכושר הלמידה. אפשר להגביל את היקף האוטומציה כדי לוודא שאנשים העובדים עם מחשבים מבצעים מטלות מאתגרות ולא רק מתבוננים. ריבוי משימות עוזר בשימור אפקט ההפקה. אפשר לשלב בתוכנה שגרות חינוכיות הדורשות מהמשתמשים לחזור על מטלות ידניות ומנטליות קשות המעודדות יצירת זיכרון ופיתוח מיומנויות.

יש מתכנתים שלוקחים הצעות כאלה ברצינות. בבתי הספר, תוכנות ההדרכה הטובות ביותר עוזרות לתלמידים להתמחות בנושא מסוים בעזרת עידוד הקשב, דרישה לעבודה קשה וחיזוק הכישורים הנלמדים בערת תרגול. התכנון שלהן משקף את התגליות האחרונות לגבי האופן שבו המוח שלנו מאחסן זיכרונות ושוזר אותם בידע הקונספטואלי והמיומנות המעשית. אבל רוב יישומי התוכנה לא מטפחים למידה ומעורבות. למעשה, הם יוצרים את האפקט ההפוך, כי כדי לפתח ולשמר מומחיות עלינו להקריב מהירות ויעילות. למידה דורשת אי-יעילות. עסקים, שחותרים למקסם את היעילות והרווח שלהם, לא מוכנים לשקלול התמורות הזה. גם אנשים בודדים חותרים תמיד ליעילות ונוחות. אנחנו משתמשים בתוכנה שמקלה את עומס העבודה שלנו, לא בזו שמכריחה אותנו לעבוד קשה יותר למשך זמן רב יותר. חששות מופשטים לגבי גורל הכישרון האנושי לא מסוגלים להתחרות בפיתוי הטמון בחיסכון של זמן וכסף.

האי הקטן איגלוליק, לא רחוק מחצי האי מלוויל שבטריטוריית נונאווט שבצפון קנדה, הוא מקום מבלבל בחורף. הטמפרטורה הממוצעת היא כעשרים מעלות מתחת לאפס, שכבות עבות של קרח מכסות את המים המקיפים אותו, והשמש כמעט ולא מפציעה. למרות התנאים הקשים, כבר 4,000 שנה שציידי האינואיט יוצאים מבתיהם על האי וצועדים לאורך קילומטרים של קרח וטונדרה כדי לחפש ציד. יכולתם של הציידים לנווט במרחבים אדירים של אדמה ארקטית עקרה עם מעט ציוני דרך, כאשר צורת השלג משתנה ללא הרף והשבילים נעלמים במהלך הלילה, מדהימה חוקרים ומדענים כבר מאות שנים. כישורי ההתמצאות יוצאי הדופן של האינואיטים לא נובעים מכוחם הטכנולוגי – הם נמנעו במשך זמן רב ממפות ומצפנים – אלא מהבנה מעמיקה של הרוחות, דפוסי ההיווצרות של תלוליות השלג, התנהגות החיות, הכוכבים, והגאות והשפל.

התרבות האינואיטית משתנה כעת. הציידים באיגלוליק התחילו להסתמך על מפות ממוחשבות כדי להתמצא בשטח. אימוץ טכנולוגיות ה-GPS בולט במיוחד אצל אינואיטים צעירים, ולא קשה להבין למה. הקלות והנוחות של ניווט אוטומטי גורמים לטכניקות המסורתיות של האינואיטים להיראות ארכאיות ומסורבלות.

אך ככל שהתרבו מכשירים ה-GPS באיגלוליק, כך התרבו גם הדיווחים על תאונות בזמן הציד. צייד שלא פיתח כישורי התמצאות עלול ללכת לאיבוד בקלות, במיוחד אם מכשיר ה-GPS שלו מתקלקל. הדרכים ששורטטו בקפידה רבה כל כך על מפות לווייניות עלולות גם לגרום לציידים לאבד את הראייה המרחבית שלהם ולהוביל אותם לקרח דק או סכנות אחרות שנווט מיומן לא יקלע אליהן. האנתרופולוג קלאודיו אפורטה מאוניברסיטת קרלטון באוטווה, חוקר את ציידי האינואיט יותר מ-15 שנה. הוא אומר כי אמנם לניווט לווייני יש יתרונות מעשיים, אך האימוץ שלו הוביל להידרדרות בכישורי ההתמצאות, ובאופן כללי יותר, לפגיעה בחוש לאדמה. אינואיט על אופנוע שלג עם GPS אינו שונה מאוד מתושב פרברים עם SUV: הוא מקדיש את תשומת לבו להנחיות של המחשב ולא שם לב לסביבתו. הוא נוסע "כשעיניו מכוסות," כפי שאומר אפורטה. כישרון שייחד קבוצת אנשים במשך מאות שנים, עלול להיעלם תוך דור.

צילום של ספינתו של ארנסט שקלטון, שנתקעה בקרח בקוטב הדרומי באחד מהמסעות הראשונים לאנטארקטיקה בתחילת המאה ה-20

בין שמדובר בטייס בתא, ברופא בחדר הבדיקות או בצייד אינואיטי על יריעת קרח, ידע דורש עשייה. אחד הדברים המדהימים ביותר בבני האדם הוא גם אחד הדברים שהכי קל להתעלם מהם: בכל פעם שאנו מתעמתים עם המציאות, אנחנו מעמיקים את ההבנה שלנו בעולם ונטמעים בו בצורה מלאה יותר. כשאנו מתמודדים עם מטלה קשה, ייתכן שפרי עמלנו הצפוי מחדיר בנו מוטיבציה, אבל העבודה עצמה היא זו שעושה אותנו מי שאנחנו. אוטומציה ממוחשבת מפרידה את העמל מפִּרְיוֹ. האוטומציה מקלה עלינו להשיג את מה שאנחנו רוצים, אבל גם מרחיקה אותנו מעבודת הידיעה. בשעה שאנו הופכים את עצמנו ליצורי המסך, אנו ניצבים בפני שאלה קיומית: האם מהותנו עדיין טמונה במה שאנו יודעים, או שמא אנו שמחים להיות מוגדרים על-ידי מה שאנו רוצים? אם לא נתמודד עם השאלה הזו בכוחות עצמנו, הגאדג'טים שלנו ישמחו לענות עליה בשבילנו.

©2013 The Atlantic Media Co., as first published in The Atlantic Magazine. Distributed by Tribune Media Services, Inc.