נזקים של בינה מלאכותית לעובדים: הכירו את המושג Workslop

עם הזמן מתחיל להתברר שבמקרים רבים בינה מלאכותית מהדור הנוכחי לא רק שאינה חוסכת עבודה, אלא במקום זאת מגדילה את תשומות העבודה של בני אדם. 

אפילו יש מונח חדש המתאר את התופעה. המונח הוא Workslop. 

פירוש המושג Workslop: תוצרים ברמה ירודה גורמים ליותר עבודה לבני אדם בגלל האיכות הירודה שלהם.

קישור לאודיו למאמר קצר, שכל אחד יכול לקרוא ללא תשלום:

 What is 'workslop' and what can we do about it? 

המפתח להימנעות מ-Workslop הוא בדיקת התוצרים של מוצרי AI ולא קבלתם כפי שהם. 

כפי שציינתי בפוסטים קודמים בבלוג זה ובסרטון של הרצאה שלי בערוץ היוטיוב שלי, הסתמכות מתמשכת על תוצרי AI ללא בדיקתם גורמת לנזקים קוגניטיביים, שספק אם הם הפיכים.

 

יאן לקון: בועת AI ומודל חלופי למודל בינה מלאכותית מבוסס LLM

 

יאן לקון, מקור התמונה: ויקיפדיה
הרשאת שימוש: 
נוצר ב-25.6.2018
 על ידי: Jérémy Barande / Ecole polytechnique Université Paris-Saclay

יאן לקון הוא אחד האנשים המובילים בתחום ה-AI בעולם. המהדורה העברית של Geektime. מגדירה אותו כאחד מ"שלושת סנדקי ה-AI". 

לקון הוביל את תחום ה-AI בחברת Meta והודח. בין השאר זכה בשנת 2018 בפרס טיורינג. הפרס היוקרתי ביותר בתחום ה-AI. 

מאמר ב-Geektime שכותרתו "סנדק ה-AI נגד אילון מאסק: XAI היא כישלון, אין לי תחזית חיובית" עוסק בשני דברים שלקון אמר. 

חבל שהכותרת והתחלת המאמר מתמקדים דווקא בפחות חשוב משני הדברים שהוא אמר.

הפחות חשוב הוא הניבוי שה-Chatbot של איילון מאסק צפוי להיכשל. 

המציאות היא שהוא מפגר אחרי שלושת המוצרים המובילים בשוק באופן עקבי. 

תרגילים כמו צירופו לחברת Spacex של מאסק,  שהונפקה בבורסה בסכום גבוה במיוחד לא יצילו את המוצר הפחות מוצלח הזה. 11 המייסדים של של XAI כבר אינם בחברה אחרי שלוש שנים.

בועה ומודל AI חדש בעתיד

 

על פי המאמר לקון חושב שה-AI הנוכחי הוא בועה. כל החברות מפסידות כסף והרבה. הן יצטרכו להעלות מחירים ולחסוך בהוצאות על מנת להימנע מפיצוץ של הבועה. 

לקון הוא מאלה שחושבים שמודלי שפה גדולים (LLM) כמו אלה שמיישמות החברות המובילות היום יוחלפו בתפיסות AI אחרות בעתיד.

 

 

ברני מיידוף ובנימין נתניהו: יש דימיון.

ברני מיידוף. מקור התמונה: ויקיפדיה

אינני היחיד שעמד על נקודות דימיון בין שני האישים הללו.

כך למשל ב"הארץ" בתאריך 12.6 כתבה קרולינה לנדסמן מאמר שכותרתו: מפלטו של הנוכל: שהעולם יגיע לקיצו.

על אף שקראתי וכתבתי לא מעט על ברני מיידוף, האיש שביצע את הונאת הפונזי הגדולה בהיסטוריה, לא היכרתי את מה שהאיש אמר אחרי נפילת אימפריית ההונאות שלו.

 

כותבת קרולינה לנדסמן, שעיתונאית ראיינה את מיידוף ושאלה אותו: "האם לא תכננת להתאבד או להסתתר? איך חשבת שזה יסתיים?" 

תשובת מיידוף: "נשמע נורא להגיד את זה עכשיו, אבל פשוט רציתי שהעולם יגיע לקיצו, בפיגועי ה-11 בספטמבר חשבתי שהעולם יגיע לקיצו ואני אמות וכולם יעלמו." 

נוכל גדול כמו מיידוף היה מוכן שאנשים שבטחו בו יאבדו את מרבית כספם בגלל רמאויות שלו. באותה מידה היה מוכן שישלמו בחייהם ובלבד שהוא לא ייתפס. 

קרולינה לנדסמן מציגה את הדימיון בין גישת מיידוף ובין גישת בני הזוג נתניהו.

היא מביאה כדוגמה את האמירה של שרה נתניהו לאחר שנתניהו כשל בבחירות בשנת 2000. 

כך מצטטת לנדסמן את שרה נתניהו: "ביבי הוא מנהיג שהוא גדול על כל המדינה הזאת... יאללה למה הוא צריך להתאמץ כל כך? נעבור לחוץ לארץ ושהמדינה הזו תישרף".

גם נתניהו שם את האינטרסים האישיים שלו לפני טובת אזרחי מדינת ישראל וטובת המדינה. 

מיידוף הציג באופן עקבי ללקוחותיו רווחים שלא היו.

נתניהו מציג לאזרחי מדינת ישראל ניצחונות כשהתמונה האמיתית היא שהדרג המדיני, שהוא עומד בראשו נכשל באופן מחפיר ועקבי במימוש ההישגים של הדרג המקצועי במלחמות המתמשכות. 

קצת אחרי תחילת מלחמת ה-7 באוקטובר ראיינה אילת שני ב"הארץ" פרופסורית מחו"ל שהיא מומחית לדיקטטורים.

שני שאלה אותה האם נתניהו יתפטר בגלל אחריותו לטבח ה-7 באוקטובר? 

כל מנהיג ראוי היה עושה את זה כשהוא עומד בראש המערכת ונגרם אסון כזה גדול. 

המומחית אמרה שדיקטטורים לא מתפטרים היא יהיה מוכן להתרסקות מדינת ישראל ובלבד שהוא ישאר בתפקיד ראש ממשלה.  

מסתבר שלא רק נוכלים כמו מיידוף, מוכנים לאובדנו של העולם ובלבד שהם לא יורשעו במה שעשו. גם דיקטטורים.  

גם בבלוג זה התייחסתי לנטיה הזו. קראו למשל: 

תמות נפשי עם הישראלים.

השורות התחתונות

נתניהו כראש ממשלה הוא האיום הגדול ביותר למדינת ישראל.

אם אנחנו חפצי חיים האיש הזה צריך להיעלם מהציבוריות הישראלית בהקדם. 

הזיות AI: זה קורה גם לגדולים ולמקצוענים

 

בפוסט קודם כתבתי על הזיות בינה מלאכותית. זהו כשל אינהרנטי במודל של הדור הנוכחי של בינה מלאכותית מבוססת LLM (מודלי שפה גדולים). 

המאמר הבא מגיקטיים מראה לנו שזה קורה גם לגדולים ולא רק למשתמשים פרטיים לא מיומנים.

קישור למאמר: אופס: דוח ה-AI של ענקית הייעוץ הבינלאומית מלא בהזיות AI.   

חברת KPMG היא אחת מארבע ענקיות ראיית החשבון והיעוץ בעולם. 

ההזיות כללו ציטוטים של מקורות לא קיימים ועובדות לא נכונות. 

הדוח נגנז ומתנהלת חקירה פנימית בחברה. 

החברה ניסתה להשתמש בטכנולוגיה החדשה של AI Agents במסגרת חיבור הדוח שנגנז.

להיגמל מתרבות השקר

בנימין נתניהו.דיוקן רשמי 2023.. מקור התמונה: ויקיפדיה
זכויות יוצרים: אבי אוחיון לשכת העיתונות הממשלתית.
 תנאי שימוש: CC BY-SA 3.0

 

אני כותב על זה לא מעט בשנתיים האחרונות: בנימין (ה-7 באוקטובר) נתניהו הוא ממציא תרבות השקר. 

מאפייני תרבות השקר

1. מה שלא מתאים למה שאני לא רוצה לא קיים.

2. אם מתברר שהוא קיים אז:

"לא ידעתי שהוא קיים"

"מישהו אחר אשם בזה שהוא קיים"

בדרך כלל מכחישים שהוא קיים וממשיכים ב-Storytelling, כלומר: נצמדים לסיפור המדומיין שמכחיש את קיומו של מה שקיים. 

דוגמאות

המלחמות החל מה-7 באוקטובר ועד היום

מדינת ישראל הפסידה במלחמה מול חמאס. 

מדינת ישראל הפסידה במלחמות נגד איראן.

מדינת ישראל מפסידה במלחמה הנוכחית מול חיזבאללה.

התסריט המשותף לכל המלחמות

מבחינה צבאית טקטית מנצחים.

הדרג המדיני איננו ממנף את הניצחון הצבאי.

במקום זאת גורם להפסד מדיני אסטרטגי. 

בתרבות השקר זה מתואר: "הוריתי, יזמתי, האויב הוכה להרבה זמן ולמד לקח". 

המציאות היא שנכשלנו. מי שכשל זה בנימין נתניהו ואנשים אחרים בדרג המדיני.

אחרי שהאויב הובס לנצח, או לפחות לטווח זמן ארוך, צריך עוד סיבוב כדי לחסל אותו סופית.

אחרי זה צריך עוד סבב קרבות ועוד סבב קרבות. תמיד מנצחים ותמיד מי שבסוף מנצח ברמה המדינית האסטרטגית זה האויב. 

לפני ה-7 באוקטובר

נתניהו וחברים אחרים בממשלה מתעלמים מאזהרות ומאיומים של מלחמה. 

נתניהו מסרב להיפגש עם ראשי זרועות הביטחון, שרצו לבוא ביחד להתריע מפני הסיכונים והאיומים. 

רק שני שרים באים לפגישה עם אלופים שנשלחו על ידי הרמטכ"ל להתריע על המצב. 

נתניהו מוזהר מראש על האפשרות של מתקפת החמאס שהתרחשה ב-7 באוקטובר. 

לא מתאים לו אז האזהרות לא קיימות. 

מעניין שאני, שאין לי מושג בביטחון, אבל יש לי מומחיות בניהול סיכונים הזהרתי ביולי 2023 מפני מלחמה. 

כל מה שהייתי צריך בשביל עשות זאת זה להקשיב למה שאמרו שני אנשים שכן מבינים בביטחון ולחבר את זה למה שקורה. 

לקריאת הפוסטים: 

 

סיכוני מלחמה - חלק 1: מלחמה בין ישראל לאויבים במזרח התיכון

סיכוני מלחמה - חלק 2: מפולת שלגים

כלכלה ומהפכה המשטרית

המומחים אמרו שהחקיקה של הפיכה המשטרית פוגעת בכלכלת מדינת ישראל. צפו הורדת דירוג אשראי של מדינת ישראל.

נתניהו וסמוטריץ התיצבו מול מקרופוני הטלוויזיה וסיפרו שהמצב הכלכלי תקין ולא תהיה הורדת דירוג כי החקיקה של ההפיכה המשטרית אינה משפיעה לרעה על כלכלת מדינת ישראל. 

חברת דירוג מובילה ביצעה הורדה חריגה כפולה של דירוג האשראי של מדינת ישראל. ההנמקה להורדה כפולה ולא רגילה היה החקיקה של ההפיכה המשטרית. 

קבלת החלטות בתרבות השקר

כשנכשלים ומציגית את זה כהצלחה, הנטיה היא לחזור על מה שהביא ל"הצלחה". 

כך מעמיקים את הכישלון והנזקים במקום לומר את האמר ולחפש דרך אחרת.

בפסיכולוגיה של קבלת החלטות קוראים לזה אפקט ההוצאה האבודה או אפקט הקונקורד.

שני מאמרים מהעיתונות ב-10.6

המסר של אמת במקום שקרים המאפיינים את רבות השקר הופיע בשני מאמרים ב"ידיעות אחרונות" מה-10.6.

קישור למאמר של ד"ר רונן ברגמן: 

איראן אמרה את המילה האחרונה

קישור למאמר של נדב אייל: 

הגיע הזמן להגיד אמת

אפקט גוגל: פגיעה בזיכרון

 

בגילי המבוגר אני לא תמיד זוכר שמות. לפעמים לוקח לי לא מעט זמן לאחזר אותם מהזיכרון במוח. 

עד לא מזמן חשבתי שזו תופעה של הגיל השלישי והאנשים נבדלים מזה רק בקצב הירידה בזיכרון.

אני מעט מודאג מזה אבל לא יותר מדי משום שהזיכרון שלי לא רע בכלל ונראה לי שקצב הירידה אצלי איטי יחסית. 

עכשיו אני מבין שתורם לזה גם אפקט גוגל. 

מהו אפקט גוגל?

לפני שהיה Google Search, כלי זמין ונוח לשימוש היה צריך לזכור שמות.

היום אפשר לתת ל-Google Search לחפש למשל  אדם שלא זוכרים את שמו המלא. 

זוכרים פרטים אחרים למשל: עיתונאי בדה-מרקר. 

כשעושים חיפוש של "עיתונאי בדה-מרקר" נקבל רשימה של מספר אנשים. בקלות נזהה את השם ששכחנו. 

לפעמים נזכור חלקית את שם האדם. חיפוש כנראה ימצא אותו. 

השורה התחתונה היא שכמעט כבר לא צריך לזכור שמות כי אפשר למצוא אותם באמצעות מנוע חיפוש. 

כמובן שזה שלא מאמצים את הזיכרון בטווח זמן ארוך מחליש אותו. 

אפקט גוגל הוא החלשת הזיכרון משום שמשתמשים באמצעים אחרים ומפעילים אותו פחות.

כשלא מפעילים זיכרון הוא נחלש. 

בכלי בינה מלאכותית פועל אפקט גוגל מורחב. 

בסך הכל מבקשים משהו מה-ChatBot ומקבלים מוצר מוגמר. 

הזיכרון נפגע יותר מאשר הוא נפגע בגלל שימוש ב-Google Search.

 

דוגמה טובה להטיה של כלי בינה מלאכותית על פי מאפייני מפתחי התוכנה

 

בהרצאה שלי בינה מלאכותית יותר מסוכן ממה שחשבתם, אני מדבר על הטיות של כלי בינה מלאכותית. 

רוב המפתחים הם גברים, לבנים, משכילים. לפעמים אומר לי אחד מהמשתתפים גם יהודים. 

יש אמת בטענתו של אותו משתתף. אחוז היהודים גבוה בהרבה מאחוז היהודים באוכלוסיה.

הטענה ביחס להטיה זו אינה חדשה. אני מכיר אותה גם במוצרי תוכנה שאינם מוצרי AI. 

לא הייתה לי דוגמה מספיק טובה להטיה הזו.

ביום שלישי באתי לשמוע את הרצאתה של ד"ר סוזן חזן בבית הועד הישן בשכונת בית הכרם. 

ההרצאה התקיימה במסגרת סדרת ההרצאות: 100 שנים. 100 הרצאות לכבוד 100 שנים להיווסדה של שכונת בית הכרם. 

נושא ההרצאה: הבטחות או סכנות? - מה שתמיד רציתן.ם לדעת על בינה מלאכותית אבל פחדתם לשאול. 

ד"ר חזן היא חוקרת בתחום האמנות שעבדה באקדמיה ובמוזיאון ישראל והיום מתמקדת בהשפעות AI בתחומי התרבות.  

ד"ר חזן הביאה דוגמה יפה להטיה של ChatGPT בגלל מאפייני המפתחים שלו. 

היא ביקשה מ-ChatGPT לצייר תמונה של אסירים בבית סוהר.

בהרצאה הציגה את התמונה. 

כל האסירים בתמונה היו בעלי צבע עור שחור. 

הערות

1. ד"ר חזן היא ילידת בריטניה ושפת האם שלה היא אנגלית. אני מניח שהבקשה מ-ChatGPT נעשתה בשפה האנגלית. 

השאלה מה יהיה צבע וגוון עורם של אסירים בציור דומה כשההנחיה ניתנת בשפה העברית? 

טרם בדקתי את זה. אני מניח שגם במקרה זה תהיה הטיה תרבותית.

אחוז האסירים בהירי העור יהיה קטן, אם בכלל יהיו אסירים כאלה. 

האחרים יהיו בעלי גוון עור כהה יותר. חלקם יהיו בעלי חזות ערבית. חלקם בעלי חזות של יוצאי אתיופיה ואחרים בעלי מאפיינים המזכירים יוצאי עדות המזרח. 

2. סביר להניח שתהיה הטיה כזו גם אם השואל יבקש תשובה מילולית מ-ChatGPT במקום ציור.