תעשי כמו שאני אוהב

אם התחלתם לשלב בעבודתכם כלים של בינה מלאכותית גנרטיבית כמו ChatGPT בוודאי הבחנתם במשהו מדהים: אף שבינה מלאכותית יכולה לסייע לכם לכתוב קוד או לאייר {טקסט} באופן יעיל יותר, גם עיצוב התוצרים שמגיעים ממנה לכדי דבר מה שדומה למשהו שהייתם יוצרים בעצמכם עשוי לדרוש עבודה רבה.

בינה מלאכותית גנרטיבית (יוצרת) מציגה, משום כך, בפני המשתמשים בה שקלול תמורות בסיסי: כדי למקסם את יתרונותיה המועילים צריך להקריב חלק מן ה״דיוק״ של התוצר – כלומר, את המידה שבה הוא דבק בדייקנות או בנאמנות לסגנון או לנקודת המבט שלהם.

אם המטרה היא לעבוד מהר יותר ולהגביר את הפריון, אז אין ברירה אלא לוותר על דבר מה לטובת המהירות

״אם המטרה היא לעבוד מהר יותר ולהגביר את הפריון, אז אין ברירה אלא לוותר על דבר מה לטובת המהירות״, אומרת סבסטיאן מרטן, מרצה לכלכלה ניהולית וקבלת החלטות ב״קלוג״.

עבור יחידים, שקלול התמורות הזה עלול להיות מתסכל, אבל הוא לפחות ברור מאוד. או שתקבלו את התוצרים שמניבה הבינה המלאכותית כ״טובים מספיק״, או שתשקיעו זמן נוסף כדי לבצע התאמה אישית שלה, אולי על ידי כך שתספקו לה מראש מידע נוסף, תכווננו את הבקשה שלכם ממנה, או תערכו את התוצר לאחר מעשה. יחידים שהם בעלי סגנון ייחודי או השקפה יוצאי דופן עשויים אפילו להחליט שהתאמה אישית של תוכנת בינה מלאכותית היא טרחה שאינה מצדיקה את המעשה, ולנטוש כליל את השימוש בכלי.

אבל מה קורה כשכולם מתחילים להשתמש בכלים הללו? האם לשקלול התמורות מהירות-דיוק יש השלכות חברתיות רחבות יותר, גם בטווח הקצר וגם לאורך זמן?

מערכת DALL-e2 התבקשה לייצר ציור של "בינה מלאכותית רגשית", וזה מה שהאלגוריתם הפיק. האם עוד מעט כל האיורים ייראו כך?

שימוש בבינה מלאכותית כדי ליצור תוכן יגביר את ההומוגניות של התוצר הקולקטיבי שלנו, גם אם ננסה לבצע התאמה אישית של התוצרים. יתרה מכך, בתוכן זה יבואו לידי ביטוי גם ההטיות שהבינה המלאכותית עשויה הייתה לרכוש במהלך האימון שלה

במחקר חדש שערך עם עמיתיו פרנסיסקו קאסטרו וז׳יאן גאו מאוניברסיטת קליפורניה בלוס אנג׳לס, מרטן גילה כי שימוש בבינה מלאכותית כדי ליצור תוכן יגביר את ההומוגניות של התוצר הקולקטיבי שלנו, גם אם ננסה לבצע התאמה אישית של התוצרים. יתרה מכך, בתוכן זה יבואו לידי ביטוי גם ההטיות שהבינה המלאכותית עשויה הייתה לרכוש במהלך האימון שלה. במילים אחרות, הטעמים וההטיות של עובדים ספורים בחברות בינה מלאכותית יחלחלו בסופו של דבר לכלל החברה. המחקר גילה גם כי השפעות אלה יועצמו עוד יותר כשתוצרי הבינה המלאכותית ישמשו לאימון של הדור הבא של הבינה המלאכותית.

אולם, בנימה חיובית יותר, המחקר מציע כי יצירה של כלי בינה מלאכותית אינטראקטיביים שתעודד תרומת תוכן מצד המשתמשים ותאפשר עריכה ידנית עשויה למנוע את החמורות מבין ההשלכות הללו.

הזדמנויות וסיכונים

מרטן מכיר היטב את שקלול התמורות בין מהירות לדיוק הכרוך בשימוש בבינה מלאכותית יוצרת. כדובר צרפתית מלידה הוא הרי נסמך באופן קבוע על תוכנת Grammarly, כדי לשפר את האנגלית הכתובה שלו. ״אני חוסך המון זמן!״ הוא אומר.

ולמרות זאת, מרטן מודה כי השימוש בכלי מעצב בסופו של דבר את המאמרים שהוא כותב. אין בכך כל דבר זדוני: העדפות אידיוסינקרטיות בנוגע לפיסוק, בחירת מילים ומבנה של מיני משפטים. ״תוכנה לא תכתוב את מה שאני הייתי כותב״, הוא אומר. ״ישנן דרכים שונות לכתוב את אותו הדבר. לפעמים זה פשוט עניין של טעם״.

אבל במקרים אחרים, ההבדלים הם משמעותיים יותר. הבחירה לתאר אירוע כ״מחאה״ או ״התקוממות״ או ההחלטה לכתוב ידיעה חדשותית מנקודת מבט מרכזית-ימנית או מרכזית-שמאלנית יכולות לעצב באופן משמעותי את ההתרשמות של הקוראים מן האירוע. ובמובן רחב יותר, מה קורה עם הזמן כשהטעם הקולקטיבי של כולם מושפע על ידי אותו אלגוריתם?

כדי לברר, מרטן, קאסטרו וגאו בנו מודל מתמטי כסימולציה של ההשלכות שמקורן בחברה שלמה המשתמשת באותם כלי בינה מלאכותית.

אפילו הבינה המלאכותית הטובה ביותר אינה מסוגלת לנחש את ההעדפות האמיתיות של משתמשיה אם הם חולקים עמה מידע מוגבל בלבד, אבל היא יכולה לבצע ניחוש מושכל משום שבשלב האימון שלה, היא לומדת את סוגי ההעדפות השונים באוכלוסייה בכלל

במודע שלהם, משתמשים בעלי מגוון העדפות משתמשים בבינה מלאכותית כדי לעבוד על מטלה נתונה ויכולים לבחור להתאים את התוצאות אישית ככל שירצו. ההתאמה האישית מייצגת כחילופי מידע בנוגע להעדפות של כל משתמש. משתמשים מחליטים כמה מאמץ להשקיע, בהתאם למצבם הייחודי: כשהם חולקים מידע נוסף פירושו שהבינה המלאכותית תיטיב ללכוד את ההעדפות  הייחודיות, אבל הדבר גם ידרוש מהם יותר עבודה. חלוקה של פחות מידע היא מהירה וקלה יותר, אבל התוצרים הם גנריים יותר. אפילו הבינה המלאכותית הטובה ביותר אינה מסוגלת לנחש את ההעדפות האמיתיות של משתמשיה אם הם חולקים עמה מידע מוגבל בלבד, אבל היא יכולה לבצע ניחוש מושכל משום שבשלב האימון שלה, היא לומדת את סוגי ההעדפות השונים באוכלוסייה בכלל.

החוקרים תהו: כיצד יחליטו משתמשים יחידים להשתמש בכלים הללו, ומה תהיה המשמעות המצטברת של הבחירות הללו?

האם נרצה שאלגוריתם יעשה את זה? הבעה ויישום העדפות אישיות ובחירה אנושית: "דוד קיטור ועטלף" (1928), קרל גרוסברג. תצלום: ויקיפדיה

בהשראת האלגוריתם

המודל אישר כי עבור משתמשים בעלי ההעדפות הנפוצות והבינוניות ביותר, ההחלטה לקבל את תוצרי הבינה המלאכותית כמות שהם היא המיטבית. לעומת זאת, למשתמשים שההעדפות שלהם נפוצות פחות יהיה כדאי לחלוק מידע נוסף עם הבינה המלאכותית או לערוך בעצמם את התוצר כדי להתרחק מברירת המחדל. לעומת זאת, עבור משתמשים שהעדפותיהם נמצאות בקצה, בינה מלאכותית כלל אינה כלי שחוסך זמן: עבורם טוב יותר היה ליצור תוכן בעצמם.

המודל מצא גם שתוכן המיוצר על ידי בינה מלאכותית הוא תמיד הומוגני יותר מתוכן שמייצרים משתמשים בעצמם. הדבר נכון ברמה האישית, שם יתרונות הבינה המלאכותית באים לידי ביטוי בהחלפה של חלק מן ההעדפות האקלקטיות האישיות שלנו בהעדפות נפוצות יותר. אבל הדבר נכון גם ברמת האוכלוסייה. מגוון ההעדפות שבאות לידי ביטוי בתוכן המיוצר על ידי בינה מלאכותית היה בעל שונות קטנה יותר ממגוון ההעדפות באוכלוסייה – אפקט זה הועצם מאחר שאותם משתמשים בעלי טעם קיצוני שפשוט לא השתמשו בכלי זה בכלל.

האחידות הלכה וגדלה עם הזמן, ככל שהבינה המלאכותית הנפיקה תוכן ששימש לאחר מכן את הבינה המלאכותית מן הדור הבא

יתרה מכך, האחידות הלכה וגדלה עם הזמן, ככל שהבינה המלאכותית הנפיקה תוכן ששימש לאחר מכן את הבינה המלאכותית מן הדור הבא. הדבר יוצר את מה שהחוקרים מכנים בשם ״סחרור קטלני״ של הומוגניזציה. הבינה המלאכותית החדשה מאומנת על סמך נתונים הומוגניים יותר ולכן היא נוטה יותר ליצור תוכן הומוגני יותר. כתוצאה מכך, משתמשים נדרשים ליותר זמן ומאמץ כדי לכוונן את תוצרי הבינה המלאכותית כך שיתאימו להעדפות שלהם, ואולי לא יסכימו לעשות זאת, דבר שיוביל לאחידות גדולה עוד יותר.

בעיה נוספת הקשורה בבינה מלאכותית – ההטיה – תטפח גם היא עם הזמן, כך עולה מן המודל. רוב תוכנות הבינה המלאכותית נוצרות ומאומנות על ידי מספר מוגבל של בני אדם (גישה נפוצה היא RLHF, או לימוד המתוגבר באמצעות היזון חוזר אנושי), ולכן כמעט בלתי נמנע שחלק מן ההטיות יחלחלו אל תוצרי הבינה המלאכותית הראשוניים. משתמשים יכולים לתקן, במאמץ מה, את ההטיות הללו, אבל אם הן קטנות מספיק רבים עלולים לחשוב שלא כדאי להם לטרוח – ויתכן שהם כלל לא יבחינו בהן.

כל הטיה של בינה מלאכותית עשויה להפוך להטיה חברתית

אבל ההתנהגות האנושית המובנת לגמרי הזו עלולה להצטבר אם כולנו ננהג באורח דומה. עם הזמן, ״כל הטיה של בינה מלאכותית עשויה להפוך להטיה חברתית״, אומר מרטן.

הדבר נותן בידי חברות בינה מלאכותית השפעה עצומה על תוצרים חברתיים, אפילו אם משתמשים משתדלים להגביל זאת.

ביקשנו ממערכת הבינה המלאכותית "תמונת שמן של מאטיס עם אישה": אם נמשיך להזין את החומרים הללו, הגאונות של מאטיס תעומעם לאפס ו"מהות מטיס" תצומצם מאוד. תצלום: DALL-E, תוכנת AI

הדרך קדימה

לדברי החוקרים, ישנן דרכים לצמצם את הבעיות החברתיות הנוגעות לבינה המלאכותית. אחת המבטיחות שבהן היא להביא יותר אנשים לקיים אינטראקציות עם בינה מלאכותית ולערוך את התכנים שהיא יוצרת. אחידות והטיות לא יתפשטו ללא בקרה על עוד תוצרי המודל יוכלו לשקף את ההעדפות בפועל של המשתמשים – ופירושו שמשתמשים צריכים להבהיר את העדפותיהם.

יש מקום לאופטימיות בנוגע לתפקיד שבינה מלאכותית יוצרת יכולה למלא ביצירת תוכן – כל עוד היא תמשיך לשקף את המגוון המלא של ההעדפות האנושיות

בפועל, יתכן כי הבינה המלאכותית תצטרך לשאול את המשתמשים שאלות מספר לפני יצירת תכנים, כדי להבין טוב יותר את הסגנון או נקודות המבט הייחודיות שלהם. ואולי לספק להם מגוון תוצרים.

״במקום לתת לכם גרסה אחת, נסו לתת שתי גרסאות מנוגדות מאוד כדי לאפשר לכם לבחור ביניהן״, מציע מרטן.

הוא מכיר בכך כי בטווח הקצר, הצעות כאלה יאטו את המשתמשים – דבר שהופך את הטכנולוגיה לקצת פחות שימושית. אבל בטווח הארוך, שיטה כזו ״תהיה בבירור טובה מאוד״, גם עבור משתמשים וגם עבור כלי הבינה המלאכותית.

מרטן נותר אופטימי למדי בנוגע לתפקיד שבינה מלאכותית יוצרת יכולה למלא ביצירת תוכן – כל עוד היא תמשיך לשקף את המגוון המלא של ההעדפות האנושיות. ואכן, להפיכתה של יצירה לנגישה יותר למגוון חדש של כותבים, אמנים או כותבי קוד עשויים אפילו להיות יתרונות.

״בינה מלאכותית יכולה להביא אנשים נוספים לעשות דברים שלא יכלו לעשות קודם לכן״, הוא אומר, ״והדבר עשוי להגדיל מעט את השונות״.

מקורות

Castro, Francisco, Jian Gao, and Sébastien Martin. 2023. "Human–AI Interactions and Societal Pitfalls." Available at https://doi.org/10.48550/arXiv.2309.10448

ג'סיקה לאב (Love) היא העורכת הראשית של כתב העת Kellogg Insight

המאמר התפרסם במקור בכתב עת של בית הספר למנהל Kellog באוניברסיטת Northwestern.

Previously published in Kellogg Insight. Reprinted with permission of the Kellogg School of Management

תורגם במיוחד לאלכסון על ידי דפנה לוי

תמונה ראשית: שמש חדשה זורחת על העולם? אולי, ואולי לא. תמונה שיוצרה על ידי מערכת בינה מלאכותית DALL-e. יוצר: manuel m v