מלך מלכי הרובוטים

האינטרנט של הדברים הוא השם שניתן למחשוב של כל הדברים בחיים. כבר כיום אפשר לקנות תרמוסטטים, נורות, מקררים ומכוניות שמתחברים כולם לאינטרנט. בקרוב הכול יהיה באינטרנט: הדברים שבבעלותנו, הדברים שאנחנו מתקשרים איתם ברבים, וגם דברים עצמאיים שיתקשרו אלו עם אלו.

ל"דברים" האלו יהיו שני חלקים נפרדים. חלק אחד יהיה חיישנים שאוספים נתונים עלינו ועל סביבתנו. כבר כיום הטלפונים החכמים יודעים היכן אנחנו נמצאים, ובעזרת מדי התאוצה הכלולים בהם, הם יודעים לעקוב אחר התנועה שלנו. דברים כמו תרמוסטטים ונורות יידעו מי נמצא בחדר. חיישנים בעלי חיבור לאינטרנט, שיוצבו ברחובות ובכבישים המהירים, יידעו כמה אנשים מסתובבים בחוץ – ובסופו של דבר הם גם יידעו מי הם אותם אנשים. חיישנים יאספו נתונים סביבתיים מכל רחבי העולם.

החלק האחר יכלול מנועי בקרה. והם ישפיעו על סביבתנו. התרמוסטטים החכמים שלנו אינם אוספים מידע על הטמרפטורה בסביבה ועל מי נמצא בחדר לצורך איסוף המידע בלבד. הם קובעים את הטמפרטורה לפי הדגימות שהם אוספים. הטלפונים החכמים שלנו, שיודעים את המיקום שלנו, שולחים את המידע הזה בחזרה ל-Google Maps ול"ווייז" כדי לקבוע איפה יש עומס תנועה. כשהם יחוברו למכוניות ללא נהג, הם יפנו את המכונית כך שלא ניתקע בעומס. אמזון רוצה שכלי טיס בלתי מאוישים, שיטוסו באורח עצמאי, ישנעו חבילות לייעדן. האינטרנט של הדברים יבצע דברים עבורנו ובשמנו, ובמידה גוברת.

התערבות אנושית תידרש במידה פחותה והולכת. החיישנים יאספו נתונים. המוחות של המערכות יפענחו את הנתונים ויחליטו מה לעשות. ומנועי הבקרה יבצעו דברים בעולם הממשי. אפשר לחשוב על החיישנים כעל העיניים והאוזניים של האינטרנט ועל מנועי הבקרה כעל הידיים והרגליים של הרשת העולמית, ועל מה שבאמצע כעל המוח. הצגת הדברים הזאת מבהירה כיצד ייראה העתיד. כבר כיום, האינטרנט חש, חושב ופועל.

צריך לומר את הדברים במלים מפורשות: המין האנושי בונה רובוט בגודל העולם כולו, ואנחנו אפילו לא תופסים את זה.

התחלתי לקרוא לרובוט הזה World-Sized Web.

ה-World-Sized Web (מותר לי לקרוא לו WSW?) הוא יותר מסתם "האינטרנט של הדברים". הרבה מהמוח של ה-WSW נמצא בענן, על שרתים שמחוברים באמצעות תקשורת סלולרית, WiFi או רשתות תקשורת נתונים לטווח קצר. והוא נייד, כמובן, כי הרבה מן הדברים האלו נעים יחד איתנו, כמו הטלפונים החכמים שלנו. והוא גם עקשן לפי הגדרה. אתם יכולים לכבות חתיכות קטנות ממנו פה ושם, אבל בעיקרו של דבר, ה-WSW תמיד יפעל, והוא תמיד יהיה שם.

אף אחת מהטכנולוגיות האלו אינה חדשה, אבל הן הולכות ונעשות נפוצות. אני מאמין שאנחנו על סף של שינוי פאזה בכל הנוגע למידע ולרשתות. ההבדל במידה, בדרגה, יהפוך להבדל עקרוני, להבדל בסוג הדבר שפועל. וזהו הרובוט שהוא ה-WSW.

הרובוט הזה יהיה אוטונומי במידה גוברת. בתחילה הוא ישתמש ביכולות של אינטליגנציה מלאכותית, בפשטות, אך במידה גוברת. כלי טיס בלתי מאוישים עם חיישנים יטוסו למקומות שה-WSW צריך לאסוף בהם נתונים. כלי רכב עם מנועי בקרה ינהגו למקומות שה-WSW צריך לפעול בהם. חלקים אחרים של הרובוטים "יחליטו" לאן ללכת, אילו נתונים לאסוף ומה לעשות.

אנחנו כבר רואים דברים כאלו בתחום הלוחמה. כלי טיס בלתי מאוישים סורקים את זירת הקרב ויורים על מטרות. בני-אדם עדיין נמצאים ב"לופ", אבל עד מתי הם יהיו שותפים לתהליך? וכשאיסוף הנתונים והפעולות הנובעות ממנו פחות קטלניות מירי של טיל, יהיה קל יותר לשכנע בקבילותה של האוטונומיה של המערכת.

במידה רבה, ה-WSW יהיה רובוט לא מזיק. הוא יאסוף נתונים ויעשה דברים למעננו. לכן אנחנו בונים אותו. אך הוא עתיד לשנות את החברה שלנו בדרכים שאין לנו אפשרות לחזות אותן. חלק מהשינויים יהיו טובים, אבל חלק יהיו רעים. הוא יביא למקסימום את הרווחים של מי ששולטים ברכיבי המערכת. הוא יאפשר ממשלות טוטליטריות. הוא ייתן אפשרויות לפושעים ולהאקרים בדרכים חדשות ושונות. הוא יגרום לשינוי במאזן הכוחות ויביא שינוי על חברות אנושיות.

השינויים הללו, מעצם טבעם, אינם ניתנים לחיזוי, כי הם מבוססים על אפשרויות של הטכנולוגיות הללו לתקשר אלו עם אלו, איתנו ועם העולם, אפשרויות שרק מתחילות להסתמן באופק. באורח כללי, קל לחזות שינויים טכנולוגיים הנובעים מהתקדמות במדע, אבל הרבה יותר קשה לחזות שינויים חברתיים הנגרמים עקב אותם שינויים טכנולוגיים. למשל, היה קל לחזות שמנועים טובים יותר יביאו לכך שמכוניות ייסעו מהר יותר. היה הרבה יותר קשה לחזות שהדבר יביא לשינוי דמוגרפי של מעבר של רבים לפרברי הערים. מכוניות ללא נהג וכבישים חכמים יחוללו שינויים חדשים בערים שלנו, וכך יעשו גם כלי טיס בלתי מאוישים, חיישנים סביבתיים זולים שיהיו בכל מקום, ורשת שתהיה מסוגלת לחזות את צרכינו.

יתכן שצריך לראות את ה-WSW יותר כאורגניזם. לא יהיו לו מוח אחד בלבד. חלקים בו יהיו בשליטתם של תאגידים גדולים ושל ממשלות. חלקים קטנים בו יהיו בשליטת שלנו, האנשים הבודדים. אבל במידה רבה ברור שאי-אפשר לחזות את התנהגותו, שתהיה תוצאה של מיליוני מטרות קטנות ומיליארדים של אינטראקציות בין חלקי האורגניזם.

אנחנו חייבים להתחיל לחשוב ברצינות על הרובוט הזה שלנו, שיקיף את העולם כולו. השוק לא יסדיר את העניין הזה בכוח עצמו. מטבע הדברים, השוק רואה לטווח הקצר והוא מונע על ידי השאיפה לרווחיות – ואילו הנושאים העולים כאן דורשים חשיבה רחבה יותר. ריאן קאלו (Ryan Calo), פרופסור למשפטים באוניברסיטת וושינגטון, הציע להקים ועדה פדרלית לרובוטיקה (Federal Robotics Commission) שתהיה המקום שבו המומחיות בתחום הרובוטיקה תרוכז במסגרת הממשל. יפן וקוריאה כבר פועלות בכיוון הזה.

כמי שבלבו יש ספק בריא נוכח האפשרות להקמתה של סוכנות ממשלתית חדשה בארה"ב, אני חושב שאנחנו צריכים להרחיק לכת מעבר לכך. עלינו להקים סוכנות, משרד למדיניות טכנולוגית, גוף שיוכל לעסוק ב-WSW על כל מרכיביו. הגוף זקוק לסמכות כדי לאגם מומחיות ולייעץ לגופים אחרים, וכנראה גם סמכות להיות רגולטור היכן שצריך. אנחנו יכולים לדון בפרטים, אך כיום אין שום גוף ממשלתי שיש בו המומחיות או הסמכות להתמודד עם עניין כה רחב, עניין שיש לו השלכות מרחיקות לכת כל-כך. השאלה אינה האם הממשלה תתחיל לפקח על הטכנולוגיות הללו. השאלה היא כמה חכמה תהיה הממשלה כשהיא תעשה זאת.

ה-WSW נבנה בימים אלו ממש, בלי שאיש יבחין בכך, והוא יהיה כאן לפני שנספיק להבין זאת. יהיו השינווים שהוא יביא על החברה אשר יהיו, אנחנו לא רוצים להיות מופתעים כשהם יתחוללו.

 

ברוס שנייר (Bruce Schneier) הוא מומחה אמריקני להצפנה, לביטחון מידע ולפרטיות. הוא מחברם של 13 ספרים בתחומי מומחיותו. שנייר מנהל בלוג על הצפנה וביטחון מידע.

מחשבה זו התפרסמה באלכסון ב על־ידי ברוס שנייר.


תגובות פייסבוק

2 תגובות על מלך מלכי הרובוטים

01
ג. ס. מיל

מעניין מאד. אילון מאסק ורבים אחרים מוטרדים מאד משאלת הנשקים האוטונומיים (ראו את עצומה הענק באתר המרשתת של Future of Life Institute), אבל בארץ אין ממש שיח על זה. אלכסון אולי תרימו את הכפפה?

02
ר

איך הWSW יגיב כשיבין שבני אדם זוממים להגביל את יכולותיו ואת חירותו, ולעשות דברים שסותרים את המטרות שהWSW הציב לעצמו.