נעשה לנו נתונים

המחשבה לפיה אם רק נאסוף את כל הנתונים וניתן אותם בידי אלגוריתמים, העולם יהיה טוב, יעיל, צודק והוגן, ואנחנו נחיה בו באושר, היא אשליה ואף עבודת אלילים. האם נדע להתעורר בזמן?
X זמן קריאה משוער: 24 דקות

שריף חדש הגיע לעיירה – דאטהאיזם (Dataism, מילולית: אידיאולוגית הנתונים). האזרחים המשולהבים, שהתאכזבו מקודמיו, כי אלה לא עמדו בציפיות בכל הנוגע לרווחה ולביטחון אישי וציבורי, תולים בו תקוות גדולות, גם אם טרם הכירו אותו והבינו מה עומד בפניהם. מקום מושבו הלא נגיש לאזרחים, המגדל הרם החדש, מייצג את פסגת הטכנולוגיה – הבינה המלאכותית, היודעת כל דבר אודות המתרחש בכל תא בודד בגופו של כל אזרח, דרך בריאותו, רגשותיו ותפישות עולמו, בגופים, בארגונים ובמדינות, במעגלים הולכים ומתרחבים, המקיפים את העולם, ואף מגיעים אל מחוצה לו. תושבי העיירה מצפים שהשריף יחליף את מקור הסמכות, החוק והסדר החברתי של קובעי ההחלטות אשר פעלו עד היום, ויהפוך לסמכות החדשה. שכן הדאטהאיזם יודע מה טוב בצורה מדויקת ונכונה יותר מהאזרח עצמו, שספק עד כמה הוא בכלל יודע ומכיר את עצמו.

הטכנולוגיה החדשה והמסקרנת מתיימרת ליישם שלטון שוויוני מושתת נתונים ואלגוריתמים חכמים מאתנו, שלטון שישמור על הסדר והביטחון החברתי-כלכלי, ואף ינהל את כל האנשים ואת כל "הדברים"

האזרחים סקרנים ונרגשים לבואו. הם תולים בו את התקוות הכמוסות ביותר, כאמצעי שישליט סדר וצדק מוחלטים ללא מגע יד ארגון או אדם. הטכנולוגיה החדשה והמסקרנת תיישם שלטון שוויוני מושתת נתונים ואלגוריתמים חכמים מאתנו, שלטון שישמור על הסדר והביטחון החברתי-כלכלי, ואף ינהל את כל האנשים ואת כל "הדברים" באמצעות "רשת גדולה", באופן נכון ומוצלח אשר שום איש או ארגון לא עשה זאת לפניו.

השמועות, הציפיות והסיפורים על אודות מוצאו של הדאטהאיזם לוטים בערפל של דמיון ללא גבולות וביסוס, באי הבנה ובאי ידיעה. אך לא ניתן לבלום את התקווה, את הכמיהה למימוש אוטופי של החלום האנושי מקדמת דנא, חלום של סדר מוחלט וצודק על פני האדמה מידי אל חדש, על-אנושי, אך הפעם מוצלח מקודמיו שהכזיבו.

יש הרואים בבשורה זו את קץ ההיסטוריה האנושית, שכן כששלטון הדאטהאיזם יתבסס על כסאו הדיגיטלי, כל אזרח ואזרחית יוכלו לעסוק רק בעניינים המסבים להם עונג ושלווה, ממש כמו בעידן ה-קְרִיטָה ("עידן הזהב") ההינדי, או בגן העדן ובחזונות אחרית הימים המקראיים, שבהם בני האדם ובעלי חיים אינם צריכים לדאוג למחייתם, למזונם, לביטחונם האישי והמשפחתי, וגם לא לפרנסה ולגג מעל ראשיהם, כי אפילו הטבע עצמו מתאים לחיים שכאלה, ללא טרדות הגוף והנפש.

מקינטה, מכונת קפה

בסכנת הכחדה: מכשיר ביתי שלא יודע עלינו דבר ואינו מדווח עלינו. תצלום: מילאדה ויגרובה

קיצור תולדות הדאטהאיזם

המושג דאטהאיזם (Dataism) הוזכר לראשונה על ידי הוגה דעות ועיתונאי דיויד ברוקס, במאמר מכונן בתחום "הפילוספיה של הנתונים" שראה אור בניו-יורק טיימס בפברואר 2013. מאז נחקר והורחב אל  מעבר לעיבוד נתונים חכם, והתחבב על קבוצת הוגים הולכת וגדלה, שהבולט שבהם כיום הוא ההיסטוריון וההוגה יובל נח הררי.  ב"ההיסטוריה של המחר", שראה אור ב- 2015 (והמוכר יותר כרב מכר עולמי בשם Homo Deus), מתאר הררי את הדאטהאיזם כדת או כאל חדש, המבוססים על בינה מלאכותית ועיבוד חכם של נתוני העתק (Big- Data).

במקום אלוהים ובמקום ההומניזם, זורח עתה בעולם חזון של מכונה שתספק תשובות הולמות בהרבה, על סמך המידע שהיא אוגרת, מידע הנדרש להתנהלות פרטנית, חברתית, ארגונית וכלכלית של העולם כולו

בהברקה הגותית, גם אם כזו המלווה בביקורת הטוענת ליומרה וזחיחות אינטלקטואלית, מתאר יובל נח הררי את חזון הדאטהאיזם: בעבר מקור הסמכות היה האל – התאיזם, החל מהמאה ה-18 מרכז הכובד עבר אל האדם – ההומניזם, ומשהכזיב אף הוא, לנוכח ערעור הדמוקרטיה, הסדר הציבורי בעולם, האתיקה והחוק, זורח עתה, בעשור השני של המאה ה- 21 ואילך, חזון הדאטהאיזם. במרכזו, לא אל שמימי ולא אדם, כי אם מכונה בעלת בינה מלאכותית, שתספק תשובות הולמות בהרבה, על סמך המידע שהיא אוגרת, מידע הנדרש להתנהלות פרטנית, חברתית, ארגונית וכלכלית של העולם כולו.

הרעיון המרכזי של הדאטהאיזם, המתעדכן על ידי קהילת חוקרים והוגים גדלה והולכת, הוא עיבוד מדויק וקר של נתוני-עתק, באמצעות בינה מלאכותית שאינה חיקוי של הבנה ותודעה אנושית, שכן לזו האחרונה אין פוטנציאל לקבלת החלטות אופטימלית, כי היא נגועה ברגשות, ובמאוויים, ובקיצור, באנושיות.  הדאטהאיזם גורס שמה שאינו משותף עם האחרים, במערכת משתפת ומכלילה, אינו רלוונטי להתנהלות העולם. רגשות, צרכים ומאווים אישיים רק מזהמים את תהליך קבלת ההחלטות ומכאן שהדאטהאיזם הוא התחליף הנכון להומניזם ולליברליזם, שלוקים בדאגה לרווחת האדם, רגשותיו, דיעותיו וגחמותיו כמרכז הייעוד החברתי.

לב העניין הוא מערכת מבוזרת בכל מקום, מושתת על IOT (ה"אינטרנט של הדברים"), חיבור כל צרכני הנתונים ומעבדיהם זה לזה וזרימה חופשית של נתונים מכל דבר לכל דבר, ברשת שיתופית עצומה של מרכזי מידע ועיבוד, "דברים" ואנשים.

ניהול מקצועי של האדם החושב הופך לאמצעי מיושן ולא רלוונטי. שכן מערכת אוטונומית מלאכותית תנחה בהחלטות אופטימליות על סמך עיבוד נתוני העתק שהיא מקבלת ומאחסנת, החלטות הוגנות ונכונות בהרבה מכל חלופה של סמכות אנושית ארגונית שהכרנו בעבר ומוכרת לנו גם כיום.

באמצעות הדאטהאיזם תיפטר האנושות מסכסוכים בין אנשים, גופים ומדינות, שמקורם בחולשות אנושיות, כמו כוחנות ורדיפה סיזיפית אחר רכוש, כבוד ואהבה. לא יהיה כל צורך במסגרות מדיניות, לאומיות ודתיות. הפשע ייעלם, שכן המערכת האוטונומית תדע לזהות פשע פוטנציאלי עוד בטרם בוצע, כי כל הסביבה, האדם, הבית, הרחוב והעולם כולו, ינוטרו ויפוקחו ברציפות, ובמקרה הצורך יבוצעו פעולות מניעה. האדם יאבד את דמותו המוכרת. הוא יאריך ימים, הרבה מעבר למאה שנים (כיום בני המאה ומעלה הם כ- 0.02% מהאוכלוסייה), מרבית אבריו יהיו מיזוג או תחליף מלאכותי ומצבו הנפשי והגופני  יטופל בזמן אמת ויישמר במצב אופטימלי. המערכת המלאכותית תייתר את הצורך להתרבות, לעבוד ולהתפרנס, ותיתן מענה אופטימלי לצרכי הפרט והחברה האנושית, על פי הבנתה, הנקייה מלבטים, מסקרנות, מיצריות, מיצירתיות ומכמיהות נפשיות. השלמת יישום אידיאולוגיית הדאטהאיזם תיעשה באמצעות מכונה, אשר במינוח עדכני היא מערכת בינה מלאכותית המנהלת אותנו ואת העולם כולו, במין גן-עדן חדשני.

רחפן

ציפור גן העדן החדש? תצלום: ג'ונתן למפל

מעמד הדאטהאיזם לקראת 2020

לקראת 2020, השימוש במערכות מלאכותיות, אוטונומיות למחצה לצורך סיוע בקבלת החלטות, כלומר תוך מעורבות של המתייעץ האנושי ובכלל זה קבלת ההחלטה הסופית, הפך לחלק בלתי נפרד מעולמנו. כבר כיום נתקשה לתאר את המציאות ללא אמצעי הנגשת מידע המסונן על פי הצורך, כולל הצעה לפתרונות ולהחלטות לסוגיות שונות בעולם התקשורת, הפרסום, הרפואה, התחבורה, הכלכלה, תכנון וביצוע פרויקטים בכל תחום. מדובר במידע רלוונטי ובהמלצות אישיות, בהיקפים ובתחומים הנוגעים לכל היבט בחיינו הפרטיים והתעסוקתיים. אך בניגוד להכרזות חסידי הדאטהאיזם, שאצה להם הדרך, עדיין מדובר במערכת עזר, העומדת לרשות בעל הסמכות האנושי שההחלטה הסופית נתונה בידיו. פני המחקר במדעי החיים, בפיזיקה ובמדעי החברה השתנו ללא הכר תודות למערכות המעבדות נתוני עתק ומוצאות בין פיסות המידע, קשרים שהשכל האנושי אינו חושף. מערכות אוטונומיות לגמרי הן עדיין מיעוט מתפתח, וקוצרות הצלחות יחסיות כל עוד התחומים שבהן הן עוסקות אינם קשורים ישירות לאתיקה, כלומר לאנושיות.

חזון הדאטהאיזם המלא הוא מעבר הדרגתי בין מערכת מלאכותית לומדת, מעבדת ואוגרת מידע כתמיכה למקבלי החלטות אנושיים לבין מערכת אוטונומית, שמחליפה מגע יד אדם בקבלת ההחלטות, והופכת לסמכות העליונה והמוחלטת.

"זהו ההבדל, למשל, בין הצבת מצלמות ברחובות העיר להקטנת הפשיעה, ושליחת התרעה למוקד בקרה ואכיפה בכל התנהגות חריגה, לבין מצב שבו לצד כל מצלמה מוצב מקלע, שיורה באדם או באובייקט כלשהו, שלדעת המערכת מבצע פשע חמור" [ציטוט משיחת מסדרון בין חוקרים בתחום].

כבר כיום מסתמנת מגמה מדאיגה של הבנה שגויה, טועה ומטעה, או התעלמות מודעת מהיבטים שליליים של השפעות מערכות הבינה המלאכותית על השיח התקשורתי, העסקי והחברתי. אסור לנו להתעלם מכך או לתרץ זאת כמחלות ילדות.

ערכי יסוד כמו חופש הדיבור, חופש המידע ושקיפות נרתמים ככלי לניגוח ולקעקוע הדמוקרטיה, באמצעות שימוש במערכות מלאכותיות אוטונומיות למחצה ואף אוטונומיות לגמרי, על ידי מדינות, גופים ואנשי שררה וממון

כבר כיום נמצאות מערכות בינה מלאכותית בידי גופים ואנשים המשתמשים בהם לטובתם האישית על חשבון הציבור. ערכי יסוד כמו חופש הדיבור, חופש המידע ושקיפות נרתמים ככלי לניגוח ולקעקוע הדמוקרטיה, באמצעות שימוש במערכות מלאכותיות אוטונומיות למחצה (שבהן מעורב מפעיל אנושי), ואף אוטונומיות לגמרי, על ידי מדינות, גופים ואנשי שררה וממון, המשתלטים על השיח הציבורי. כך הופך כבר כיום חזון הדאטהאיזם לכלי שתלטני טורד מנוחה ואף מאיים.

מבחינה טכנולוגית יישומית מצטברים מקרים שבהם כושלת מערכת אוטונומית בהפקת החלטות. גם אם נתעלם מאי מקצועיות מובנית בהטמעת מערכות כאלה, שהיא גורם מרכזי בכישלון של כל הטמעת טכנולוגיה, נמצא כשלים מהותיים של ממש הנוגעים ללב חזון הדאטהאיזם, במיוחד בכל הקשור להחלטות ולטיפול באנשים לאור ערכי מוסר יסודיים. בשיח האקדמי והציבורי אנו נתקלים יותר ויותר בהכרזה בנוסח "אלגוריתם יכול להיות סקיסקט וגזען" או "האם אלגוריתם יכול להיות לא אתי?", ואף החלו לראות אור ספרים בנושא שמציפים כשלים מהותיים אלה. בכך מובלטת התפישה השגויה של הדאטהאיזם בעצם ההתייחסות למכונה כאל ישות בפני עצמה, שמנהלת את חיינו באמצעות אלגוריתמים חכמים. בנוסף נמצא שחסידי מערכות בינה מלאכותית מוסיפים נופך של מסתורין, יוקרה ואף ייראה, כדי להרחיק במודע ושלא במודע את הביקורת הציבורית על החזון המכניסטי הזה, ועל הפוטנציאל השלילי הטמון בו.

הצלחות יחסיות רבות של מערכות בינה מלאכותית המעבדות נתוני עתק נרשמות במשימות שבני אדם מתקשים לבצע, וזאת בתחומים רבים ובהם משימות מוגדרות ומוגבלות כמו מחקר וסוגיות ארגוניות פשוטות יחסית, הדורשות עיבוד נתוני עתק. למשל, מערכת משטרתית של בינה מלאכותית VeriPol (המופעלת בגרנדה, ספרד) שמזהה בהצלחה גדולה בהרבה מעין אנושית, דיווח כוזב למשטרה על שוד וגניבות, בהתבסס על לימוד עצמי של ניתוחי דיווחים כאלה, ובכך היא חוסכת שעות עבודה רבות וכוח אדם רב ויקר.

לעומתן נמצא כישלון בכל יומרה טכנולוגית ליישום ערכים אנושיים על ידי מערכת בינה מלאכותית אוטונומית. למשל: חוקרים בחנו מספר מכונות לומדות, שמקבלות באופן אוטונומי החלטות בנוגע לזיהוי ומיון בני אדם, על סמך ניתוח אלגוריתמי של המידע שצברו. בלטה לרעה תוכנת Tay של מיקרוספט, תוכנת צ'טבוט שפיתחה שיח גזעני ואלים במיוחד שהתבסס על סגנון דיבור של משתמשים בטוויטר. החוקרים השתוממו לגלות הטיות אנושיות בהחלטות במערכות שנבדקו. בסיכום המחקר נכתב: "כשאנו נתקלים בהטייה אישית, אנו יודעים מהי ההחלטה הנכונה. אך לרוע המזל, למכונה אין מודעות עצמית מתאימה כדי לעשות זאת".

כך הביכה ונכשלה תוכנת זיהוי פנים של גוגל כשתייגה פנים של אנשים ונשים כהי עור כגורילות, ותוכנה לומדת בשם COMPAS המבוססת על מערכת עצבית מלאכותית, שפותחה עבור משטרות בארצות הברית במטרה לזהות ואף לנבא פוטנציאל פלילי עוד לפני שבוצעו פשעים –  נכשלה גם היא כשניבאה ותייגה באופן מובהק פוטנציאל לפשע דווקא בקרב כהי עור.

קוף, קפוצי'ן

אתגר לזיהוי פנים. רמז: זה לא אדם לבן. תצלום: ג'וי ארנסט

נפלאות התבונה והעיוורון למגבלותיה

בכל אידיאולוגיה חובקת כול המחליפה את הסמכות האנושית בניהול החברה והפרט, טמונים זרעי הכישלון, בגלל עיוורון מודע למגבלות, שמתורצות כזמניות, כאילו הפתרון להן נמצא מעבר לפינה

בכל אידיאולוגיה חובקת כול, וכך גם בדאטהאיזם, המחליפה את הסמכות האנושית בניהול החברה והפרט, טמונים זרעי הכישלון, בגלל עיוורון מודע למגבלות, שמתורצות כזמניות, כאילו הפתרון להן נמצא מעבר לפינה. אך תירוץ כזה מונע מאתנו לראות את המגבלות באופן מפוכח.

ארכימדס מניף את העולם בחישוב על החול

שורשי תפישת הדאטהאיזם נמצאים בעקבות שהותירו אבותינו, שהבינו את היכולות המדהימות של התבונה האנושית לדמיין פעולות אנושיות, גם אם לא ניתן ליישמן בפועל בגלל מגבלות חומריות. נקודת ציון בולטת היא ארכימדס (בן המאה השלישית לפני הספירה), שנחשב עד היום לאחד לבעלי המוחות המבריקים בתולדות האנושות. פלוטרכוס מצטט מכתב של אריכמדס אל המלך הירו הסיציליאני, שבו הוא מתפאר שאם ישנו עולם אחר להישען עליו, הוא יוכל באמצעותו להזיז את עולמנו, בהכללה של מושג המנוף.

למעשה, הסיפור על אודות ארכימדס ניצב בבסיס הדאטהאיזם ומשמש תשובה למבקריו. היכולת האנושית להבין, לדעת ואף ליישם עקרונית באמצעים מלאכותיים אינה מוגבלת, גם אם המצאי החומרי אינו מאפשר זאת ופירות הדמיון נותרים בדיוק שם, בדמיון האנושי,  כמו "להניף את העולם". אך בהסתמך על דוגמאות רבות מהעבר הקרוב והרחוק יותר, ובמיוחד על הדמיון המפרה של סופרי מדע בדיוני לדורותיהם, הוגים בולטים, ושיתופיות בין כלל מדענים, חוקרים ומהנדסים מכל העולם, יגיע יום שבו ניתן יהיה להתגבר על חלק גדול מהמגבלות החומריות. אלא שכשאנו דבקים בטיעון שדברים בלתי אפשריים הפכו לאפשריים, אנו מסיחים את דעתנו ממגבלות תאורטיות עקרוניות, שטוב שנהיה מודעים להן, ואין כמו "השד של לפלס" להדגים זאת.

כישלון השד של לפלס

נקודת ציון חשובה, המהווה עד היום השראה לכוחה של התבונה, גם לחזון הדאטהאיזם העכשווי בקרב חלק גדול מחסידיו, גם אם לא במודע, נמצא בראשית המאה ה-19, בכתבי פייר סימון לפלס, והיא מוכרת בשם "השד של לפלס" ( "השד" – יצור פלאי, שבכוחו ליישם פעולה תאורטית שלא כפופה למגבלות החומר).

"לפלס טען שמאחר שמשוואות ניוטון מחשבות את התנועה של כל הגופים, בהינתן ברגע נתון המהירות והמיקום של כל חלקיק וחלקיק ביקום, ניתן בעיקרון לחשב את מיקום כל החלקיקים, ומכאן את העתיד בכל רגע שנחפוץ, ממש כפי שניתן לחשב את מקומו ומהירותו של מאדים בכל רגע בעתיד. נוכל גם, על סמך המצבים בהווה בכלל היקום, לדעת איך, באיזה קצב ומתי, השתנה היקום. בחישוב העבר או העתיד אין  מקום לאי-וודאות, טוען לפלס. הלידה, החיים והמוות של כל אוביקט חומרי, כולל בני האדם, ניתנים לחישוב באופן מוחלט. היקום הוא מכונה שניתן לדעת את ההיסטוריה ואת העתיד שלה".

 [מתוך- (1998) The Ascent of Science, Brian L. Silver, Oxford Press]

נראה שהטבע – הכללים עליהם מושתת העולם –  מהתל בנו. הקביעה המוחלטת שביכולת הבינה האנושית לדעת את שהיה ואת שיהיה, גם אם לשם כך עלינו לגייס שד לא אנושי ולא חומרי, שגויה ואינה אלא יהירות אינטלקטואלית

הקביעה החד משמעית של לפלס, לפיה ניתן עקרונית לדעת הכול מראשית ועד אחרית, על אודות כל אובייקט חי או דומם ביקום, גם אם אינה ישימה מעשית, היא הגיונית ומרתקת. עצם ההבנה האינטלקטואלית הזו היא כיבוש נשגב של התבונה האנושית את סודות הבריאה. אבל נראה שהטבע – הכללים עליהם מושתת העולם –  מהתל בנו. הקביעה המוחלטת שביכולת הבינה האנושית לדעת את שהיה ואת שיהיה, גם אם לשם כך עלינו לגייס שד לא אנושי ולא חומרי, שגויה. בעצם יהירות אינטלקטואלית זו, גם אם היא מוצדקת בהישג התבוני המרתק שבה, אנו מתעלמים ממכשולים שאינם עבירים. כך נמצא את "עקרון אי הוודאות של הייזנברג" שפוגג את השד של לפלס כמאה שנים לאחר קביעתו הנחרצת של לפלס. הייזנברג הראה שלא ניתן בעקרון למדוד בו זמנית את מהירות החלקיק ואת מיקומו, וגם שד על-טבעי לא יוכל לעשות זאת. במילים אחרות, עצם נוכחות המודד משנה את מצבו המקורי של החלקיק, ומשוואות התנועה שבידינו לחישוב מצבו בעתיד כלשהו, הן חסרות תועלת.

כדורי ביליארד

היקום מסובך יותר ואי-אפשר לחשב הכול. תצלום: רוברט זונקוף.

אך השד לא נגוז. הדאטהאיזם מעלה מחדש שד חדש או עדכני, אמנם בתלבושת שונה מזו של המאה ה-19. למעשה, קובעים חסידי הדאטהאיזם, הרצון החופשי האמיתי אינו אלא אשליה אנושית והוא אינו קיים, וכך גם מעורער בסיס הסמכות העליונה המסדירה את התנהלות החברה, כדת או כחוק וסדר אזרחיים, כי הוא נגוע בדמיון אנושי חסר בסיס, בהטיות, ברגשנות, בחמדנות, בטראומות אישיות ולאומיות, ובשאיפות שאינן מאפשרות קבלת החלטות אופטימליות, נטולות פגמים אנושיים. רק רשת של בינה מלאכותית, שמשתפת את כלל המידע הדרוש, האישי, החברתי והעולמי, עם אלגוריתמים חכמים ולמידה שקדנית אוטונומית של מכונה, ללא מגע אדם, תפיק את ההחלטות הדרושות והנכונות ביותר, ותעקור מן העולם את פגמי האנושיות כדי להפכו לעולם סטרילי ומדויק. טיעון שראוי לבדיקה מעמיקה יותר מבחינת היתכנותו הטכנולוגית, ואז גם מבחינת היתכנותו התאורטית.

היתכנות חזון הדאטהאיזם

בדיקת היתכנות חזון הדאטהאיזם מתחילה בשאלה: כמה מידע יש לאתר, לאחסן ולעבד, כדי שישמש תחליף ראוי לסמכות הבינה האנושית? לאחר מכן, נשאל, האם יתכן בכלל תחליף לבינה האנושית המושתתת כידוע על תודעה אישית, כי אליבא ד'דאטהאיזם, בינה ללא תודעה עדיפה ומדויקת יותר.

נקודת מוצא חשובה בסוגיית ההיתכנות היא ההבנה שמידע ניתן לכימות ולאחסון, ומכאן שהוא סופי. כשארכימדס קבע כי הכול סופי, הוא התכוון לכל דבר חומרי. אין דבר בעולמנו שהוא "עד אין מספר", כלשון איוב המקראי. ארכימדס שם גבול לכל דבר בעולמנו ואת מושג האינסוף הוא הותיר למתמטיקאים, למיסטיקנים ולבעלי הדמיון ללא גבולות. הוא הראה למשל, שניתן לאמוד את מספר גרגרי החול –  שגם אם ימלאו את היקום המוכר אז (מכדור הארץ עד השמש) מספרם יהיה סופי –1063 (1 ו-63 אפסים) –  באמצעות ספירת גרגרי החול התופסים גודל של גרגרי פרג, את מספר גרגרי פרג התופסים רוחב אצבע, את מספר האצבעות התופסות מרחק של סטדיה (כ-200 מטר) וכך הלאה, בהכפלה לכל מרחק שנחפוץ.

אי היתכנות בשל כמות המידע הנדרש

כמות המידע המצוי ביקום כולו מוערכת כיום משיקולים הקשורים לתורת הקוונטים, גם אם יש כמה גרסאות לגודל זה. בהערכת "שטח הפנים" של היקום, נוקבים במספר הבלתי נתפש 10123 בייט  שזהו, לטענת מי שמחשבים, הגבול העליון של כמות המידע ביקום.

הרעיון שיגיע יום שבו רשת בינה מלאכותית תכיל את כל המידע הרלוונטי האצור בכלל אוכלוסיית העולם, ואת כל המתחולל בכל אחד מפרטיה, בכל רגע, לשם קבלת החלטות מושכלות ללא רגשות והטיות אנושיות הוא חזון לא ישים. כאז כן עתה, הוא יפה רק לספרי המדע הבדיוני

כדי שמערכת אוטונומית תדע עלינו את כל הנדרש לניהול נכון של כל אחד מאיתנו במהלך חיינו, וכך על החברה האנושית בכלל, עלינו לשאול כמה מידע אצור בגופנו, ולגלות שאנו מגיעים לסמטה ללא מוצא –  לחוסר סבירות מעשית של אחסון ועיבוד של כמות מידע כזו ברשת מרכזי חישוב גדולה ככל שתהיה: גוף האדם מכיל על פי הערכות גסות כ-150 זטה-בייט (זטה בייט הוא 10 בחזקת 21 בייט), פי 100 לערך מסך המידע הקיים כיום ברשת האינטרנט כולה. אך אומדן זה, אף שהוא כולל כל אטום בגופנו, אינו כולל את הרגשות, הדמיון, הרצונות, היצירה והביטוי– מידע שחיוני להבנת האדם לשם קבלת החלטות, כי מידע זה אינו ניתן לכימות חומרי. בנוסף, נגלה שאין לנו מושג על אודות רוב האינטראקציות בין חלקי תאים, תאים, אברונים ואברים בגופנו, וחסר לנו מידע בסיסי להבנת פעולת הגוף. כדי להבין את  גודל האתגר הבלתי סביר למימוש, נציין למשל, שבגוף האדם יש כמאה מיליון מולקולות חלבון בכל תא, שמקיימות ביניהן אינטראקציה בלתי פוסקת, וכ-30 מיליארד תאים. נוסיף לכך את ההשערה שהרוב מסכימים לה כיום, שמקור המיטוכונדריה (הגופיפים ממירי האנרגיה של המזון והחמצן בתא) הוא בחידקים השוכנים כדיירי משנה בתא, שמספרם הכולל בגוף הוא 40 מיליארד, והמידע אודות האינטראקציה ביניהם, שאין לנו כל מושג אודותיו, חיוני להבנת אופן פעולת התא הבודד והגוף כולו. מכאן נבין שהרעיון שיגיע יום שבו רשת בינה מלאכותית תכיל את כל המידע הרלוונטי האצור בכלל אוכלוסיית העולם, ואת כל המתחולל בכל אחד מפרטיה, בכל רגע, לשם "קבלת החלטות מושכלות ללא רגשות והטיות אנושיות" הוא חזון לא ישים. כאז כן עתה, הוא יפה רק לספרי המדע הבדיוני. הבינה האנושית, משולבת בתודעה, אינה משתמשת בכל המידע העצום הזה, בתהליך שאינו נהיר כלל. מכאן רק ניתן לשאול, על מה תסתמך מערכת מלאכותית לשם קבלת החלטות על אודותינו?

מעבד

לא נוכל להכיל את כל המידע ביקום. תצלום: בריאן קוסטיוק.

אי היתכנות אנרגטית

גם אם נשכח לרגע את כמות המידע הבלתי נתפשת האצורה רק בגופנו, ומכפלתה במספר תושבי העולם בכל רגע נתון, ונניח שרשת נתוני העתק תתנהל בצורה היעילה ביותר, רק עם המידע הנחוץ באמת לצורך קבלת החלטות רלוונטיות על אודותינו ועל אודות התנהלות החברה, ניפגש מיד במחסום אי היתכנות אנרגטית: כבר כיום (בשלהי העשור השני של המאה ה-21) האנרגיה הנדרשת לאחסון, עיבוד והעברת נתונים דיגיטליים היא כ-20% מכלל האנרגיה המופקת והנצרכת בעולם. על פי התחזיות, האנרגיה שתידרש להפעלת מרכזי המידע העצומים (Data Center) של גוגל, פייסבוק, אמזון, מרכזי כריית מטבעות דיגיטליים (שצרכו ב-2018 בלבד אנרגיה בכמות זהה לצריכה של אירלנד כולה), מערכות הממשל והביטחון של כל המדינות, תגדל פי שלוש בעשור הקרוב, בעוד שהגידול המעשי בכלל האנרגיה המופקת בעולם צפוי לעמוד על עשרות בודדות של אחוזים. גם אם נניח שכלול ויעילות יוצאי דופן בכל הקשור לאחסון, עיבוד והעברת נתונים (האנרגיה החיונית היא לשם הזרמת המידע ממקום למקום), ניתן להראות בחישוב פשוט למדי שאין בעולם די אנרגיה לכך, ובוודאי אין די אנרגיה לתמיכה באינטרנט של הדברים בגודל ובפרישה המדוברים –  על פי הערכות שונות, מדובר בכ-ZB 40 בשנים הקרובות, פי 20 – 30 מסך המידע האצור באינטרנט כיום. כך אילוצי האנרגיה מצמצמים את חזון הדאטהאיזם לממדים קטנים בהרבה מהרצוי, ודאי בעתיד הנראה לעין.

וגם אם יתממש החזון המספרי הפרוע ביותר באשר לנתונים, יעמוד בפנינו המכשול הבלתי-עביר: אי ההבנה והידיעה המובנות בנו בכל הקשור למהות המודעות ולאופן החשיבה האנושי, שמונעות כל אפשרות לחקות אותן באמצעים מלאכותיים

אך גם אם נתגבר על המכשול האנרגטי למימוש חזון הדאטהאיזם השלם, באמצעות מקורות אנרגיה יעילים ונקיים מהיתוך גרעיני, או באמצעות הקמת מרכזי מחשוב עצומים על אחד מהעצמים במערכת השמש, הקרובים יחסית לארץ, עם מקור אנרגיה גדול וזמין, קיים מכשול עקרוני, שאינו במרחב האמצעים החומריים והוא  אי-וודאות דאטהאיסטית –  אי ההבנה והידיעה המובנות בנו בכל הקשור למהות המודעות ולאופן החשיבה האנושי, שמונעות כל אפשרות לחקות אותן באמצעים מלאכותיים.

אי-הוודאות הדאטהאיסטית

אי הוודאות הדאטהאיסטית, הכשל המובנה של החזון, מוזכרת בדברי ההוגה הבולט של הדאטהאיזם כיום, יובל נח הררי עצמו, שמעלה טענה מטרידה ומרחיקת לכת, לפיה כדי להגיע להחלטות קונקרטיות, רלוונטיות לפרט ולחברה, באמצעות שימוש בבינה מלאכותית אין צורך בתודעה. במילים אחרות: יתכן מימוש של  סמכות מקצועית, החפה מכל אנושיות החשה את הדברים במקום לחשב, שתנהל את העולם. כך הוא כותב בספרו "21 מחשבות על המאה ה-21":

 "המדע הבדיוני נוטה לבלבל בין אינטליגנציה לבין תודעה, ולהניח כמובן מאליו שכדי להתעלות על חוכמתם של בני האדם, מחשבים יצטרכו לפתח תודעה... במציאות, אין שום סיבה להניח שבינה מלאכותית תפתח אי פעם תודעה, כי בינה ותודעה הן דברים שונים לגמרי. בינה היא היכולת לפתור בעיות. תודעה היא היכולת לחוש דברים... אנחנו נוטים לבלבל ביניהן..."

אולי יש טעם להזכיר למי שהוגה טיעון כה שרירותי, שתודעה היא האמצעי שמחבר ומשלב את האדם עם העולם. התודעה האישית היא פרשנות, הדמיה של העולם כפי שהוא משתקף בעיני האדם, באופן אישי וייחודי. הרעיון שבינה מלאכותית תנהל ותחליט מה טוב לאדם והולם אותו, ללא תיווך התודעה האישית של אותו אדם, ולחילופין, ללא מתווך אנושי בעל רגישות ואינטואיציה שאינן ניתנות לכימות ולהכלה בשיקולי מכונה, חורג בהרבה מהאפשרות הסבירה הרבה יותר –  שלא ניתן לשכפל, לחקות, ללמוד ולהבין אדם ככלל, וודאי כפרט אישי, באמצעות מידע גדול ומפורט ככל שיהיה. חסר עוד ממד, מודעות אנושית, שלגביה ישנה אי ודאות מובנית, ואשר ללא שימוש בו, לא מסתמנת כל דרך להקיף את הפרט האנושי.

ילדה, עלה, שלכת

יש לה בינה, יש לה תודעה, ויש לה מסתורין אנושי שלא נוכל להקיפו. תצלום: גבי אורקט.

נראה שהרעיון המכניסטי, הקר, המנוכר והמדויק לכאורה, לפיו תודעה אישית מסיטה אותנו מהטוב האופטימלי שאנו מסוגלים לקבל באמצעות מכונה יודעת כול, הוא מרחיק לכת מדי, ואין לקבלו.

האם קיימת מערכת של ערכים מוסריים, חוקים המסדירים התנהגות אזרחים בחברה אנושית מורכבת ומגוונת, שאינה נובעת ממודעות אנושית?

עיקור המודעות האישית מתהליך קבלת החלטות קונקרטיות לגבינו, גם אם אין לנו באמת מושג על מהותה ודרך פעולתה –  זו היוצרת, מדמיינת, רואה למרחוק גם דברים הנסתרים מעינינו באמצעות חוויות, השראה, תובנה עמוקה של ענווה, חמלה והשלמה – הוא אולי נושא יפה לשיח מהנדסי מכונות, בניין וסביבה, או לשם הפרחת סברות הגותיות בעלמא. ויותר מכך- לפנינו מגבלה של ממש בחיזוי על סמך המידע הקיים, מפורט ומדויק ככל שיהיה: העולם, החברה והפרט מוּנעים אחרת, בתהליכים חברתיים, כלכליים ותרבותיים בלתי צפויים, ששום מגמה מושכלת של ניתוח לא תצפה אותם קודם להתרחשותם. אין כל שביב ראיה לכך שניתן בתאוריה, וודאי לא במעשה, לעקוף את חוקי הטבע, המתירים כאוטיות במידה מסוימת, אי ודאות בהתפתחות תהליכים, גם לא על ידי מערכת אוטונומית שהחכימה בעצמה מהמידע שאספה על אודותינו, ויודעת מה טוב עבורנו.

ונוסיף על כך: האם קיימת מערכת של ערכים מוסריים, חוקים המסדירים התנהגות אזרחים בחברה אנושית מורכבת ומגוונת, שאינה נובעת ממודעות אנושית? האם בתוך המידע הקר על עצמנו, מוכמנים צרכי החברה האוביקטיביים, ללא נוכחות אנושית, שמערכת מלאכותית פלאית תחלץ אותם משם? נראה שהתשובה מצויה בגוף השאלה, והטיעון של הררי, שנראה עתה מוזר הרבה יותר, גם אם אינו ניתן להפרכה ממש, לא ניתן לאישוש, אפילו עקרוני, גם אם תמיד ניתן לטעון שאי שם בעתיד, חברה מתקדמת טכנולוגית תוכל להראות שלצרכי סדר, משטר וחוק, אין צורך באנושיות – עוד לפני שיבוא מי שיאמר, במידה לא קטנה של צדק, שטענה כזאת סותרת את עצמה, והיא בלתי אנושית בעליל.

אי היתכנות בנסיונות ליישם אתיקה באמצעים מלאכותיים

סוגיית האינטליגנציה המלאכותית והאתיקה הופכת לנושא דיון מרכזי בזרם גדל והולך של ספרים ומאמרים אקדמיים, שגולשים גם לחדרי תכנון של מערכות אוטונומיות. ערכים אתיים המונחלים למכוניות אוטונומיות למשל, מתחילים כמובן, עם כללים המוכרים לנו מספרי המדע הבדיוני העוסקים ברובוטים כאמצעי עזר בחברה: "חיי אדם עדיפים תמיד על פני שלמות נכס או בעלי חיים", אך מיד גולשים למתווה של קביעות שרירותיות, שעלולות להזיק ולפגוע בהקשרים שלא ניתן לחזות אותם מראש בהיעדר מוח ולב אנושיים במעגל קבלת ההחלטות. *

הכישלון המובנה בכל ניסיון להעניק למכונה מערכת של ערכי מוסר איתנה וחד משמעית, מציב את מתכנני המערכות האוטונומיות במבוי סתום, למרות מעורבותם של הוגים וחוקרים רבים מכל העולם בדיונים, ולמרות הצעות ואף ניסיונות לגבש מתווה ליישום בפועל. נראה שהרעיון להתוות מערכת ערכים אתיים שלמה וצודקת נידון לכישלון מראש.

משפט שלמה, גספר דה קראייר

"משפט שלמה" (1620), גספר דה קראייר. תצלום: ויקיפדיה

אחד מתמרורי ההזהרה לכישלון המובטח, הוא עיסוק מופרז בשיח הציבורי בסוגיה המכונה "בעיית הקרונית" כאבן דרך בתכנון מערכת אוטונומית. הרעיון הוא שלשם התמודדות עם בעיות אתיות שעל מערכת או על כלי רכב אוטונומיים להתמודד עמן, יש לבחון מצבי קיצון בלתי סבירים ומתוך אלה להסיק מערכת מוסרית מחייבת. דווקא עיסוק באזוטריה אתית שכזו מצביע על הכישלון המובטח מראש.

בבעיית הקרונית, כלי הרכב עומד בפני שתי אפשרויות בלבד: אם ימשיך בנתיב המקורי הוא יהרוג מספר אנשים או יפגע בהם, ואם יסטה יהרגו או ייפגעו יותר אנשים, או (בגרסה אחרת) שהרכב יתרסק על יושביו כדי להציל חיי אחרים. אגב, בקוד האתי הגרמני למכוניות אוטונומיות, משהבינו שהסיבוך האתי גדול מדי ואינו ניתן לפתרון, ממש כמו בסוגיות אתיות אנושיות, הרכב האוטונומי אינו מתחשב במאפיין אישי כלשהו, ומתייחס לכל האנשים בסביבה באופן שוויוני לגמרי, כך למשל, הוא לא יעדיף לדרוס מבוגר על פני ילד ולא יציל אישה הרבה לפני חוקר סרטן, או להיפך.

לאור היומרה הדאטהאיסטית להעמיד תחליף מלאכותי לניהול העולם, נראה שדי אם נדגים כישלון מובטח זה, בהתיחסות למערכת המשפט. האם יעלה על הדעת שניתן תאורטית ליצור מערכת אוטונומית מלאכותית, עם מערכת חוקים מפורטת שתדע להבחין בהקשר האנושי-חברתי, ובכך לייתר את השופטים האנושיים? האם יתכן עיסוק בחוק ללא התייחסות להקשר המפורט של מניעים פנימיים וחיצוניים של האדם? האם ניתן לדמיין אלגוריתם מלאכותי מוסרי וצודק, נקי ממאווים אנושיים כתחליף לשפיטה אנושית?

ניתוק ממודעוּת, התעלמות מרגשות ללא בחינת ההקשר האנושי במקרה קונקרטי נדון, מבטיח שהכשלונות של מערכות אוטונומיות, שצצים לצד פיתוחם כבר עתה, יועצמו מאוד, ויכשילו את האפשרות ליישום  מעשי לטובת החברה, השוויון, הצדק והחמלה.

מדוע עלינו לחשוש מהדאטהאיזם כבר היום?

כבר עתה ניתן לראות נזקים מובהקים של מיזמים לא מציאותיים, שמבזבזים תקציבי עתק משום שמקבלי החלטות סבורים שהדאטהאיזם מעניק להם יוקרה, כבוד ותקוות עסקיות, אך בפועל מתרחשת פגיעה של ממש ברווחת האזרחים ובטובתם

החשש העיקרי מחזון הדאטהאיזם, חורג מדיון אקדמי מלומד ואינו קשור לכשלים הטכניים והתיאורטיים במימושו. מדובר בסכנה מוחשית ומידית.

כפי שלמדנו מההיסטוריה, כל אמצעי טכנולוגי אומץ קודם כול על ידי מעטים, רודפי שררה ושליטה, שבאמצעותו הם שלטו בחברה והמיטו עליה אסונות.

כבר כיום אנו עדים להשתלטות עוינת המשפיעה על זירות השיח הציבורי, לרמיסה חסרת גבולות של הפרטיות, לפגיעה בזכויות יסוד של אזרחים בשם הדמוקרטיה  והחזון המבעית של ארוול, בספרו "1984" שנכתב לפני כ-70 שנה, מחוויר לעומת "האח הגדול" הסיני, שמתממש כאן ועכשיו.

אך גם אם מודעות עמוקה לחסרונות ולסכנות ואכיפה נחושה של רגולציה מתאימה יקטינו תופעות כאלה, ישנן סכנות האורבות בטווח הרחוק יותר, המוכמנות כבר עתה בחזון הדאטהאיסטי. חזון זה חותר לחברה נקיה מאנושיות, קרה ומדויקת, שבה האזרחים הם מספרים, מקורות מידע, מוצרים בפני עצמם וגם צרכני מידע המקוטלגים במערכת, ואשר עולמם הפנימי אינו רלוונטי. חברה נטולת רצונות, יצירה, יצריות, דמיון והשראה, הנשלטת על ידי אל חדיש ונוצץ, שהוא רשת בלתי נראית שחיישניה מצויים בכל מקום ואתר, והיא קולטת, מנטרת, אוגרת ומעבדת מידע.

גם אם חברה המנוהלת בידי מכונה היא צודקת והוגנת לכול, לא נראה שמישהו מאתנו ירצה לחיות בה.

אין כל ספק שתרומתן של מערכות בינה מלאכותית לחברה האנושית המונה מיליארדי פרטים מגוונים היא חיונית. ביקורת זו נועדה לקרוא לבעלי החזון להקטין את היומרה לשימוש לא מציאותי בהן. שיח כה חד משמעי על אודות בינה מלאכותית שתחליף בקרוב את זו האנושית, שיח שאינו מותיר מקום לספקות, הוא מזיק ומטעה. כבר עתה ניתן לראות נזקים מובהקים של מיזמים לא מציאותיים, שמבזבזים תקציבי עתק משום שמקבלי החלטות סבורים שהדאטהאיזם מעניק להם יוקרה, כבוד ותקוות עסקיות, אך בפועל מתרחשת פגיעה של ממש ברווחת האזרחים ובטובתם.

איננו זקוקים לאל חדש ולדת חדשה בדמות מכונה שתחליף את ההנהגה האנושית. נכון, מנהיגות אנושית משופעת בחולשות ובפגמים, התאיזם הוא ישן ומסואב, ההומניזם ורוח האדם מאכזבים בכל פעם מחדש, המציאות רבת פנים, פגמים וניגודים שיש ללמוד להכילם ולא להעלימם. כל אלה עדיפים על השלמות המכניסטית של הדאטהאיזם, ששומר נפשו האנושית ירחק ממנה.

 

אם הגעת עד לכאן....

...יש לנו בקשה קטנה. קוראים רבים נהנים מהתכנים האיכותיים ש'אלכסון' מציע ללא כל תמורה. הפקת כתב העת ברמה כזאת כרוכה בהשקעה רבה של עבודה וכסף: עריכה, תרגום ורכישת זכויות פרסום בחו'ל. אם הערכים והרעיונות ש'אלכסון' מקדם קרובים לליבך ואם יש בך הערכה לעבודתנו אנו מבקשים את תמיכתך כדי להבטיח את הקיימות ארוכת הטווח של כתב העת.

לתמוך באלכסון

ד"ר אברום רותם הוא פיזיקאי, מהנדס אלקטרוניקה ויזם הייטק. בשני העשורים האחרונים עסק בייעוץ אקדמי בשילוב טכנולוגיות בחינוך, לצד כתיבה ענפה בתחום המקצועי, ופירסם 3 רומנים.  שנים רבות עוסק באינטגרציה בין תחומי עניין וידע באתיקה, פילוסופיה, תאולוגיה (יהדות, הינדואיזם, נצרות), היסטוריה ומדעים.

תמונה ראשית: לאור הנתונים. תצלום: רישי דיפ, unsplash.com

Photo by Rishi Deep on Unsplash

מאמר זה התפרסם באלכסון ב על־ידי אברום רותם.


תגובות פייסבוק

> הוספת תגובה

10 תגובות על נעשה לנו נתונים

01
בעד הררי

הכותב מניח שלא תתכן החלטה מוסרית ע"י בינה מלאכותית בגלל שהיא לא מבינה את שקול הדעת של התודעה האנושית, אבל, בנגוד להנחתו הסמויה, אין המוסר שמקובל בחברה תלוי בתודעה האנושית שהיא שונה אצל פרטים שונים. המוסר תלוי בהסכמות שבין בני אדם ואת אלה אפשר להזין למחשב גם בשאלות כגון את החיים של מי המכוניות האוטונומיות צריכות להעדיף.
שופטים, למשל, מוזנים גם כיום, בחוקים ובתקדימים מחיבים ובמסורת משפטית שמחליפה אמת עובדתית ב"אמת משפטית". דוגמה אחת מרבות לכך היא הודאתם של השופטים שהרשיעו את משה קצב באונס, וכתבו בפסק הדין שאינם יכולים לדעת אם אכן אנס או שיחסי המין היו מרצון הדדי, והם מרשיעים אותו בגלל שתקדים מסוים (ע"ש "עובד") אסר עליהם לבחון את האמת בענין זה (כך כתבו בפרוש) בגלל שהאפשרות הזאת הועלתה ע"י ההגנה רק בשלב מאוחר של המשפט. האם פסק דינם מבטא את שקול הדעת המוסרי האישי שלהם? אני בספק.

    02
    גרגמל

    בא נאמר שמצב בו אדם מציל עצמו על ידי הרג אחרים מגיע לשופט שהוא מחשב, ועכשיו המחשב צריך לשפוט האם עבר עבירה, פסק הדין תלוי שלו יהיה תלוי לא רק בהערכת מודעות הנהג אלא גם בהערכת מודעות השופטים אנושיים. עכשיו תשים את השופט הממוחשב בתור נהג במקום הנהג ואז החוק יהפוך לאלגוריתם שאין לו שום קשר לתפיסה אנושית.
    לגבי קצב אפילו אם נניח רק לצורך העניין שהטיעון שלך מדוייק מדובר בקיום יחס מין תחת יחסי מרות של מעסיק ועובדת, בפני עצמה עבירה, וכולי.

03
אל דאגה, אין עתיד

"להרגיע" את הדואג להדרדרותה המוסרית של האנושות, אומר רק שאין לך סבה לדאוג לעתידה של האנושות כי היא ממילא תחדל מלהתקים בטרם הדבר שאתה חושש ממנו, והבעות דאגה לעתידה של האנושות מסיחות את הדעת מהבעיה היותר חשובה שהיא קוצר ימיה.
סופה של האנושות יתקרב ככל שיתקדם המדע, ואתו, בהכרח, תשתפר הטכנולוגיה לצרכי לחימה של מעצמות ושל פרטים שנסתרים באוכלוסיות של מגינים אנושיים, עם תחמושת לאלפי ק"מ.

04
השפויים והנאורים

"אשר יאמר 'ראה זה חדש', כבר היה לעולמים" –
דאטהאיזם הוא רק שלוב של שפור טכני נוכחי בהשקפה עתיקה לפיה ההחלטה מה היא התנהגות נכונה תלויה בהחלטות תבוניות בלבד. אם אינני טועה אז כבר סוקראטס סבר כך, ותרבות הנאורות שבחה זאת, שהרי זאת היא מהות ה"נאורות".

05
ליאור

כשמסתכלים רחוק מספיק אחורה רואים, שהטבע לא נזקק, לא לתבונה ולא למודעות, אנושית או אלוהית, על מנת לפתור בעיות. ניתן לקרוא לעצם היווצרות החיים פתרון בעיה. גם לפיתוח נשימה מבוססת חמצן בעולם בו אחוז החמצן היה כזה גבוה שהוא חיסל את רוב החיים בזמנו ניתן לקרוא פתרון בעיה. כך מעטפת התא, האנזים, שת״פ עם מיטוכונדריה. ברירת המחדל של הטבע לאורך מיליארדי שנים ב״פתרון בעיות״ היתה בעצם... גישת ביג דאטא: ניסוי עם מספרים גדולים מאד, עם קומבינציות רבות מאד, לאורך זמן ארוך מאד.
הגישה של פתרון באמצעות תבונה, ויותר מאוחר גם באמצעות מודעות, היא חדשה, והיא אולי מספיקה אבל ממש ממש לא הכרחית, לשם פתרון בעיות.
זה - לגבי העבר. לגבי העתיד, דיון עתידני טוב שיתחיל בהנחה שהמגמה לכיוון ביג דאטא קיימת והיא בלתי נמנעת, בלי קשר לאם זה טוב לנו או מה רמת ההיתכנות, וימשיך בשאלה איך אנחנו מתכוננים לזה הכי טוב. כל גישה אחרת תהווה רק שליפה מהמותן וככזו ממילא תצדיק... גישת ביג דאטא :-)

06
איל

קריאה מעניינת. בסופו של דבר לא מצרתי שדאטאיזם הוא מושג ממש מעניין. דיבורים על אי היתכנות לא עומדים מול מבחן המציאות. במקומות שבהם הכתבה התקרבה לאיך ומי משתמש בדטה התפספסה הזדמנות לדבר על דטה וקפיטליזם (Survaillance Capitalism) וזה באמת הנושא המעניין (אותי) - איזה דטה אנחנו מרשים לאסוף עלינו ואיך אנו מרשים להשתמש בדטה הזה. במובנים רבים האדם הוא חומר הגלם של "התעשיה" הזאת.

07
אברום רותם

טיעון מעניין, ליאור.
אך המלכוד מתחיל בטרמינולוגיה כמו "הטבע לא נזקק לא לתבונה ולא למודעות...".
המממ... אז מה זה הטבע הזה שלא נזקק?
חכמים ותיקים בהרבה מאתנו הראו אינסוף פעמים, שגם אם נניח שהכל ניסוי, תהייה ותְּעִיָּה, ונחשב את הסיכוי לאורך הזמן של מאות מליוני שנים ואף יותר, לא ניתן להסביר ולנמק את מגוון ומורכבות המצאי החי הצומח והדומם, הכולל את המעטפת הקוסמית בו אותו 'טבע לא נזקק' פועל ומפעיל הקיים. שלא לדבר על התודעה האישית שלך ושלי, שהיא ---?? תוצר ניסוי ותהייה?
וגם אם נניח לכל זאת, האם הדטאיזם שישלוט בנו, יעשה אף הוא ניסוי ותהייה? מי יאמר לו שהניבוי הצליח או כשל? היעלמות האנושות בגלל טעויות אלה?

    08
    שמואל

    בעיני בלי ספק שתעלומת התהוות החיים קיומם והתפתחותם על האדמה, טרם פוענחה. נדמה שעוד רחוקה מאוד מפיענוח. על כך קיימים סיפורי מיתוס ובריאה בקרב האנושות. מצד שני נדמה שהאנושות מתקדמת בקצב לפענח יותר ויותר סודות בריאה. מה שהכי צריך להעסיק אותנו היא השאלה, כיצד תצליח לשמר את עצמה מפני אסונות פוטנציאליים של הכחדה עצמית.

    09
    גיא

    אברום - הרשה לי לתרגם את טיעונך לעיל, אתה בעצם טוען ל- creationism
    הבנתי נכון?
    מאמרך לוקה בכמות נכבדת של טעויות לוגיות, וחבל.
    עכשיו הבנתי מדוע. מצער שלא מצאת לנכון להצהיר מראש על ההטייה שלך.

נביאי עמק הסיליקון המתייחסים לסמכות האלגוריתמית כסמכות בלתי-מעורערת שבה בני האדם עומדים לאבד את סמכותם למערכות עיבוד נתונים חיצוניות (Bosch 3.8.2018 ,Harari 26.8.2016) , נובעת מהתפיסה כי המדע והטכנולוגיה אינה אלא סוג חדש של תיאולוגיה Bogost 15.1.2015)) והאלגוריתמים מהווים "תיאוקרטיה חישובית" (Computational Theocracy) עם גישה פולחנית (Worship) .
כחלופה לתפיסה התיאולוגית יש גם תפיסה אידיאולוגית (Mager 2012) כמרכיב ב"תרבות האלגוריתמית" (“("Algorithmic Culture שבה האלגוריתמיים מהווים אפשרות של בחירה ולא כסמכות ואינם בהכרח עומדים לשלוט בעולמנו ( (Ungerleider 13.2.2017