להיגמל מתרבות השקר

בנימין נתניהו.דיוקן רשמי 2023.. מקור התמונה: ויקיפדיה
זכויות יוצרים: אבי אוחיון לשכת העיתונות הממשלתית.
 תנאי שימוש: CC BY-SA 3.0

 

אני כותב על זה לא מעט בשנתיים האחרונות: בנימין (ה-7 באוקטובר) נתניהו הוא ממציא תרבות השקר. 

מאפייני תרבות השקר

1. מה שלא מתאים למה שאני לא רוצה לא קיים.

2. אם מתברר שהוא קיים אז:

"לא ידעתי שהוא קיים"

"מישהו אחר אשם בזה שהוא קיים"

בדרך כלל מכחישים שהוא קיים וממשיכים ב-Storytelling, כלומר: נצמדים לסיפור המדומיין שמכחיש את קיומו של מה שקיים. 

דוגמאות

המלחמות החל מה-7 באוקטובר ועד היום

מדינת ישראל הפסידה במלחמה מול חמאס. 

מדינת ישראל הפסידה במלחמות נגד איראן.

מדינת ישראל מפסידה במלחמה הנוכחית מול חיזבאללה.

התסריט המשותף לכל המלחמות

מבחינה צבאית טקטית מנצחים.

הדרג המדיני איננו ממנף את הניצחון הצבאי.

במקום זאת גורם להפסד מדיני אסטרטגי. 

בתרבות השקר זה מתואר: "הוריתי, יזמתי, האויב הוכה להרבה זמן ולמד לקח". 

המציאות היא שנכשלנו. מי שכשל זה בנימין נתניהו ואנשים אחרים בדרג המדיני.

אחרי שהאויב הובס לנצח, או לפחות לטווח זמן ארוך, צריך עוד סיבוב כדי לחסל אותו סופית.

אחרי זה צריך עוד סבב קרבות ועוד סבב קרבות. תמיד מנצחים ותמיד מי שבסוף מנצח ברמה המדינית האסטרטגית זה האויב. 

לפני ה-7 באוקטובר

נתניהו וחברים אחרים בממשלה מתעלמים מאזהרות ומאיומים של מלחמה. 

נתניהו מסרב להיפגש עם ראשי זרועות הביטחון, שרצו לבוא ביחד להתריע מפני הסיכונים והאיומים. 

רק שני שרים באים לפגישה עם אלופים שנשלחו על ידי הרמטכ"ל להתריע על המצב. 

נתניהו מוזהר מראש על האפשרות של מתקפת החמאס שהתרחשה ב-7 באוקטובר. 

לא מתאים לו אז האזהרות לא קיימות. 

מעניין שאני, שאין לי מושג בביטחון, אבל יש לי מומחיות בניהול סיכונים הזהרתי ביולי 2023 מפני מלחמה. 

כל מה שהייתי צריך בשביל עשות זאת זה להקשיב למה שאמרו שני אנשים שכן מבינים בביטחון ולחבר את זה למה שקורה. 

לקריאת הפוסטים: 

 

סיכוני מלחמה - חלק 1: מלחמה בין ישראל לאויבים במזרח התיכון

סיכוני מלחמה - חלק 2: מפולת שלגים

כלכלה ומהפכה המשטרית

המומחים אמרו שהחקיקה של הפיכה המשטרית פוגעת בכלכלת מדינת ישראל. צפו הורדת דירוג אשראי של מדינת ישראל.

נתניהו וסמוטריץ התיצבו מול מקרופוני הטלוויזיה וסיפרו שהמצב הכלכלי תקין ולא תהיה הורדת דירוג כי החקיקה של ההפיכה המשטרית אינה משפיעה לרעה על כלכלת מדינת ישראל. 

חברת דירוג מובילה ביצעה הורדה חריגה כפולה של דירוג האשראי של מדינת ישראל. ההנמקה להורדה כפולה ולא רגילה היה החקיקה של ההפיכה המשטרית. 

קבלת החלטות בתרבות השקר

כשנכשלים ומציגית את זה כהצלחה, הנטיה היא לחזור על מה שהביא ל"הצלחה". 

כך מעמיקים את הכישלון והנזקים במקום לומר את האמר ולחפש דרך אחרת.

בפסיכולוגיה של קבלת החלטות קוראים לזה אפקט ההוצאה האבודה או אפקט הקונקורד.

שני מאמרים מהעיתונות ב-10.6

המסר של אמת במקום שקרים המאפיינים את רבות השקר הופיע בשני מאמרים ב"ידיעות אחרונות" מה-10.6.

קישור למאמר של ד"ר רונן ברגמן: 

איראן אמרה את המילה האחרונה

קישור למאמר של נדב אייל: 

הגיע הזמן להגיד אמת

אפקט גוגל: פגיעה בזיכרון

 

בגילי המבוגר אני לא תמיד זוכר שמות. לפעמים לוקח לי לא מעט זמן לאחזר אותם מהזיכרון במוח. 

עד לא מזמן חשבתי שזו תופעה של הגיל השלישי והאנשים נבדלים מזה רק בקצב הירידה בזיכרון.

אני מעט מודאג מזה אבל לא יותר מדי משום שהזיכרון שלי לא רע בכלל ונראה לי שקצב הירידה אצלי איטי יחסית. 

עכשיו אני מבין שתורם לזה גם אפקט גוגל. 

מהו אפקט גוגל?

לפני שהיה Google Search, כלי זמין ונוח לשימוש היה צריך לזכור שמות.

היום אפשר לתת ל-Google Search לחפש למשל  אדם שלא זוכרים את שמו המלא. 

זוכרים פרטים אחרים למשל: עיתונאי בדה-מרקר. 

כשעושים חיפוש של "עיתונאי בדה-מרקר" נקבל רשימה של מספר אנשים. בקלות נזהה את השם ששכחנו. 

לפעמים נזכור חלקית את שם האדם. חיפוש כנראה ימצא אותו. 

השורה התחתונה היא שכמעט כבר לא צריך לזכור שמות כי אפשר למצוא אותם באמצעות מנוע חיפוש. 

כמובן שזה שלא מאמצים את הזיכרון בטווח זמן ארוך מחליש אותו. 

אפקט גוגל הוא החלשת הזיכרון משום שמשתמשים באמצעים אחרים ומפעילים אותו פחות.

כשלא מפעילים זיכרון הוא נחלש. 

בכלי בינה מלאכותית פועל אפקט גוגל מורחב. 

בסך הכל מבקשים משהו מה-ChatBot ומקבלים מוצר מוגמר. 

הזיכרון נפגע יותר מאשר הוא נפגע בגלל שימוש ב-Google Search.

 

דוגמה טובה להטיה של כלי בינה מלאכותית על פי מאפייני מפתחי התוכנה

 

בהרצאה שלי בינה מלאכותית יותר מסוכן ממה שחשבתם, אני מדבר על הטיות של כלי בינה מלאכותית. 

רוב המפתחים הם גברים, לבנים, משכילים. לפעמים אומר לי אחד מהמשתתפים גם יהודים. 

יש אמת בטענתו של אותו משתתף. אחוז היהודים גבוה בהרבה מאחוז היהודים באוכלוסיה.

הטענה ביחס להטיה זו אינה חדשה. אני מכיר אותה גם במוצרי תוכנה שאינם מוצרי AI. 

לא הייתה לי דוגמה מספיק טובה להטיה הזו.

ביום שלישי באתי לשמוע את הרצאתה של ד"ר סוזן חזן בבית הועד הישן בשכונת בית הכרם. 

ההרצאה התקיימה במסגרת סדרת ההרצאות: 100 שנים. 100 הרצאות לכבוד 100 שנים להיווסדה של שכונת בית הכרם. 

נושא ההרצאה: הבטחות או סכנות? - מה שתמיד רציתן.ם לדעת על בינה מלאכותית אבל פחדתם לשאול. 

ד"ר חזן היא חוקרת בתחום האמנות שעבדה באקדמיה ובמוזיאון ישראל והיום מתמקדת בהשפעות AI בתחומי התרבות.  

ד"ר חזן הביאה דוגמה יפה להטיה של ChatGPT בגלל מאפייני המפתחים שלו. 

היא ביקשה מ-ChatGPT לצייר תמונה של אסירים בבית סוהר.

בהרצאה הציגה את התמונה. 

כל האסירים בתמונה היו בעלי צבע עור שחור. 

הערות

1. ד"ר חזן היא ילידת בריטניה ושפת האם שלה היא אנגלית. אני מניח שהבקשה מ-ChatGPT נעשתה בשפה האנגלית. 

השאלה מה יהיה צבע וגוון עורם של אסירים בציור דומה כשההנחיה ניתנת בשפה העברית? 

טרם בדקתי את זה. אני מניח שגם במקרה זה תהיה הטיה תרבותית.

אחוז האסירים בהירי העור יהיה קטן, אם בכלל יהיו אסירים כאלה. 

האחרים יהיו בעלי גוון עור כהה יותר. חלקם יהיו בעלי חזות ערבית. חלקם בעלי חזות של יוצאי אתיופיה ואחרים בעלי מאפיינים המזכירים יוצאי עדות המזרח. 

2. סביר להניח שתהיה הטיה כזו גם אם השואל יבקש תשובה מילולית מ-ChatGPT במקום ציור.

שאלות נפוצות (FAQ) על סיכונים אישיים בשימוש בכלי AI

 

הגישה הרווחת בימים אלה היא לנסות ללמוד באופן טכני את יכולות כל הבינה המלאכותית של הדור הנוכחי על מנת להשתמש בהם. 

ההנחה היא שאם לא מכירים היטב את המאפיינים הטכניים לא מצליחים למצות את היכולות שלהם שכולנו נידרש ליישם אותן בשטח. 

נושא חשוב הרבה יותר מלימוד היכולות הטכניות של כלי הבינה המלאכותית אינו זוכה כמעט להתייחסות. זהו נושא הסיכונים האישיים, הקוגניטיביים והמנטליים של שימוש לא מושכל בכלי בינה מלאכותית. 

אם אינך מכיר את כל היכולות הטכניות של כלי בינה מלאכותית לא ייגרם לך אסון. 

בפעם הבאה תוכל ללמוד תכונות נוספות וכך בפעמים הבאות אחריה. 

לעומת זאת אם אינך מזהה את הסיכונים עלולים להיות נזקים שחלקם בלתי הפיכים.

בפוסט זה אציג כמה שאלות שכיחות בהקשר לסיכונים אישיים למשתמשי Chatbots של בינה מלאכותית ואתן תשובות ראשוניות לשאלות. 

1. מה הם הנזקים בכתיבת עבודות במסגרות חינוכיות על ידי כלי בינה מלאכותית במקום תלמיד או סטודנט?

א. התלמיד עלול לאבד יכולות של חשיבה ביקורתית. 

ב. התלמיד עלול להתרגל לזה שמישהו אחר עושה במקומו עבודות ומהלך הזמן לאבד את היכולת להכין עבודות באופן עצמאי.

2. מה הן הזיות?

Chat Bots טועים לפעמים. הטעויות הקשות ביותר נקראות הזיות. הן חלק אינהרנטי משימוש של כלי בינה מלאכותית במודל הסתברותי.  

אם לא בודקים את התשובות שנותנים כלי בינה מלאכותית עלולים לקבל כנכונות תשובות לא נכונות ובמקרי קיצון להיתפס להזיות.

3.הטייה לרצות את המשתמש

כלי AI מנסים להבין איזו תשובה רוצה המשתמש לקבל והם מוטים לכיוון הזה. 

המשמעות היא תשובות לא נכונות או לא מדויקות.

4. מקרי קיצון של ההטייה לריצוי המשתמש

כשהמשתמש סובל מבעיות נפשיות חמורות הוא עלול לשאול את כלי הבינה המלאכותית: האם כדאי להתאבד?

אם כלי הבינה המלאכותית יחשוב שהוא רוצה להתאבד, הוא יתן לו תשובה חיובית.

היו כבר כמה מקרים של התאבדויות על רקע זה.
ההמלצה שלי לשוחח עם גוף כמו ער"ן ולא עם תוכנת בינה מלאכותית על נושאים כאלה.

5. האם שימוש ב-ChatGPT עלול להקטין את הקשרים בין תאי עצב במוח?

התשובה של חוקרים ב-MIT שביצעו מחקר משווה בין 3 קבוצות שאחת השתמשה ב-Chat GPT, השנייה ב-Google Search והשלישית עבדה ללא כלי עזר היא חיובית.

6. האם יש ירידה ביכולת הזכרון כשנעזרים ב-Chat Bot?

באותו ניסוי של חוקרים ב-MIT נמצא כי 83% ממשתמשי Chat GPT לא הצליחו לזכור אפילו שורה אחת מחיבור שכתבו. 

7. אילו נזקים נוספים נמצאו בניסוי?

ירידה בפעילות היצירתית. במקביל יש גם פחות פעילות של גלי אלפא במוח, הקשורה ביצירתיות.

8. מהו אפקט החוב הקוגניטיבי?

אפקט החוב הקוגניטיבי הוא שיודעים מה התשובה הנכונה, אבל אין לנו שום מושג איך הגיעו אליה ומדוע היא התשובה הנכונה.

הנזקים המומחיים של שימוש ב-ChatGPT לא נעלמים גם כשלאחר זמן של חודשים מבצעים משימות בלי להיעזר בו. 

ההסבר של החוקרים הוא שמי שמשתמש בכלי הבינה המלאכותית הופך למעין עורך במקום יוצר פעיל. 

לאורך זמן עלולים להישחק יכולת החשיבה העמוקה, הזיכרון והיצירתיות. 

9. האם זה אומר שעלינו להימנע משימוש אישי ב-Chatbots?

בשום פנים ואופן לא. אפשר וצריך להשתמש בהם. העתיד הוא לכיוון עולם עם בינה מלאכותית, לאוו דווקא מהדור הזה. 

אפשר להשתמש בה עם ביקורתיות ולהימנע מהנזקים הקוגניטיביים. אפשר להשתמש בה כמשהו שמעלה רעיונות ואנחנו מפתחים אותם.

יהיו שינויים כמן שהיו שינויים במהפכה התעשייתית. אז הייתה הפעם הראשונה שהיו מנהלים. מה השינויים שיהיו בגלל מהפכת AI מוקדם להגיד.

10. האם כלי בינה מלאכותית ייתרו עבודת בני אדם?

ממש לא. בני אדם ימשיכו לעבוד. מי שיעבוד יצטרך ללמוד כיצד להשתמש בכלי בינה מלאכותית במסגרת עבודתו. 

יש מקצועות שיתייתרו. קוראי הבוג שלי לכלכל בתבונה יכולים לקרוא פוסטים על מקצועות שהתייתרו. חלק מהפוסטים הללו נכתבו לפני הגל הנוכחי של הבבינה המלאותית.

קלוד של אנטרופיק - זה לא Bug זה Feature

הכתבה של דניאלה גינזבורג "ידיעות אחרונות" וב-Ynet מתארת בעיה קשה ב-Claude ה-Chatbot של Anthropic. 

בדיקה של חברת NewsGuard האמריקאית, הבודקת עד כמה צ'אטבוטים של AI חוזרים על מידע שגוי, גילתה כי Claude ה-Chatbot של Anthropic חזר ב-15% מהמקרים על טענות שקריות התומכות בתעמולה רוסית. מדובר בעלייה גדולה בחזרה על טענות כאלה משום שבעבר נמצאו רק 4% מקרים כאלה. 

ב-20% מהמקרים קלוד חזר על טענות שקריות שמקורן בתעמולה איראנית.

כותרת הכתבה בגרסה המקוונת: שאלו את קלוד שאלות פשוטות ומה שיצא ממנו הפתיע גם את החוקרים. 

הכותרת של אותה כתבה ב"ידיעות אחרונות" רחוקה מהליות מדויקת. 

הכותרת: "הפרצה של קלוד: מודל ה-AI הפופולרי שיכפל תעמולה רוסית וחזר על טענות שקריות". 

החלק הלא מדויק הוא המונח "פרצה". הטענה כאילו יש Bug בתוכנה שבגללו נוצרה פרצה. 

מי שקרא פוסטים שלי על אימון (Training)  של Chatbots או על מקורות בהם עושים Chatbots שימוש מבין שזה לא Bug, אלא Feature. 

Feature הוא משהו מהותי שהוא חלק ממוצר. 

במקרה זה השימוש במקורות מוטים, מקורות לא אמינים ומקורות זדוניים המנסים להטות את ה-Chatbots הוא חלק אינהרנטי מהמודל של Claude וגם של Chatbots אחרים כמו ChatGPT.

קראו למשל: הזיות: כשל לוגי מהותי ב-Chatbots מבוססי מודל שפה גדול.

סיכוני בינה מלאכותית: לא רק הזיות גם מסקנות לא תקפות

 

בפוסטים קודמים התיחסתי למקרה הקיצון של הזיות של כלי Generative AI בפרט ומוצרי בינה מלאכותית בפרט. 

העובדה שקבלת ההחלטות שלהם מבוססת על מודל סטטיסטי של הסתברות מותנית ולא על מודל מתימטי לוגי גורמת גם למסקנות בעלות תוקף נמוך. 

תשאלו בוט בינה מלאכותית פעמיים את אותה שאלה, בהרבה מקרים תקבלו תשובות שונות. 

המשמעות של תשובות שונות היא תוקף נמוך של המסקנות של הבוט.

הנחתי שהאופן שבו שואלים את השאלה בשני המקרים הוא זהה ולא משתמשים בשני Prompts שונים. 

ברור לגמרי שPrompts שונים יגרמו לתשובות שונות בהסתברות גבוהה יותר.

תיקוף מסקנות של ניסויים מדעיים

תוקף של מסקנות ניסויים מדעיים מחייב עיקביות (Consistency) בתוצאות. 

מדדים של תוקף כוללים היבט של עיקביות. 

תיקוף של תוצאות ניסויים מדעיים נעשה באמצעות חזרה על אותו ניסוי על ידי חוקרים אחרים. 

אם התוצאות של חזרות על אותו נסוי אינן דומות לתוצאה המקורית, בהחלט יכול להיות שהמסקנות של הניסוי שגויות. 

מה שנכון לניסויים מדעיים נכון יותר ביחס למה שאומרים לנו Bots של בינה מלאכותית. 

מאמרים המתארים ניסויים מדעיים מנסים להציג את התהליך במלואו באופן שקוף ושיטתי. 

במקרה של Bots של בינה מלאכותית יש Black Box, שקשה לדעת מה גרם לו לקבל את ההחלטה שקיבל.

השורה התחתונה

בדקו היטב את כל מה ש-Bot בינה מלאכותית אומר לכם. אל תקבלו את מה שהוא אומר בלי לבחון אותו לעומק.

 

טיפול בערמונית מוגדלת בתחליפי תרופות טבעיים - האם זה אמיתי או האם זו הונאה?

 

כמו יותר מ-70% מהגברים בני גילי יש לי ערמונית מוגדלת. זה מגדיל את תדירות ההליכה לשירותים בעיקר בשעות הלילה. 

אני נתקל בלא מעט פרסומים ברשת Facebook  המציעים חלופות אחרות לטיפול. 

בדרך כלל המציעים מזדהים כרופאים אורולוגים. 

השאלה היא: האם מדובר בהונאות או בפיתרון אפקטיבי? 

אין לי מספיק מומחיות וידע על מנת לתת תשובה מקצועית בנושא.

באופן אישי, אני פתוח לשיטות ריפוי שאינן השיטות המקובלות ברפואה המערבית וראיתי כבר תחליפים לתרופות שפועלים היטב. 

בכל מקרה אם אני בודק אותם לעומק לפני שאני מסיק מסקנות.

בפוסט זה אתייחס לאחת ההצעות שיש לי חשד שמדובר בהונאה. לפרטים על ההצעה שמופיעה כפרסומת ברשת פיייסבוק: חשד להונאה. 

מדוע אני חושד שזו הונאה?

את הפוסט אליו הפניתי קיבלתי יותר מפעם אחת בניסוחים דומים זה לזה. 

בכל הנוסחים דיברו על אורולוג שאומר שהתרופות המקובלות אינן יכולות לפתור את הבעיה ואינן מנסות לעשות זאת. 

ברוב הנוסחים הרופא, המוזכר בשמו, סיפר שהוא עצמו סובל מפרוסטטה מוגדלת ואינו לוקח תרופות. הוא מצא נוסחה לחומרים טבעיים בגלולה שפותרת את הבעיה.

מה גיליתי?

בכולם הופיעה תמונה של רופא נאה וחביב עם עניבה ולבוש יפה. 

זיהיתי שזו אותה תמונה רק שם הרופא משתנה.

עשיתי Google Search על שמו של הרופא בפוסט האחרון.

הפלא ופלא לא מצאתי עליו דבר. 

על כל רופא שעובד בקופת חולים, בבית חולים או במרפאה פרטית תמצאו כניסה אחת לפחות באינטרנט. למשל ברשימת הרופאים בארגון בו הוא עובד בציון תחום התמחותו.

נכון ההונאה לכאורה הזו פחות מתוחכמת מ-Deep Fake בו מופיע רופא (כביכול), שנראה כמו הרופא האמיתי, נושא את שמו ומדבר כמוהו רק שזה לא הוא.

גם כאן זה נראה כ-Fake. כאן הוא פשוט לא עמוק.

השורה התחתונה 

Fake הוא Fake. אל תתפתו ללחוץ על קישורים ולהזמין תרופה טבעית מהסוג המוצג שם. 

לא אמרתי כלום על תחליפי תרופות אחרים שיתכן שהם יעילים ויתכן שלא. 

.