סיכוני בינה מלאכותית: לא רק הגדלה משמעותית בצריכת חשמל - גם הגדלה משמעותית בצריכת המים

 

בפוסט בינה מלאכותית: בדרך למשבר אנרגיה? תיארתי את ההשלכות הקשות של שימוש בבינה מלאכותית על צריכת חשמל.
מאמר בעיתון כלכליסט מתאריך 3.7.26 מוסיף לכך גם את ההשלכות הקשות על צריכת מים, במיוחד באזורים צחיחים. 

לקריאת המאמר: מים כבדים: מה ענקיות הטק לא מספרות על צריכת המים של הדאטה? 

צריכת המים הישירה של מרכזי המחשבים, בעיקר לצורך קירור מדווחת על ידי ענקיות ההייטק. 

צריכת המיים העקיפה בגלל הצורך לייצר יותר חשמל עבור מרכזי מחשבים לשימוש בבינה מלאכותית הרבה יותר גדולה. צריכה זו אינה מדווחת. 

במאמר מוצגים נתוני מחקר על העיר פניקס שבאריזונה, הנמצאת באזור מדברי. 

הדאטה סנטרים בפניקס אחראים על 3% מצריכת המים השנתית. עד שנת 2031 עלולה צריכת המים הזו להגיע ל-20%. 

הצורך להקים מרכזי מחשבים גדולים בגלל בינה מלאכותית מגדיל את צריכת המים לייצור חשמל עבור מרכזי המחשבים גם באופן עקיף. 

הצורך להגדלה משמעותית בעוצמת ובגודל מרכזי המחשוב מחייב גם התפשרות על הקמת תחנות כוח לייצור חשמל באנרגיה ישנה, כמו פחם וגז. אחת ההשלכות לכך היא הגדלת השימוש במים בתהליך ייצור חשמל יותר מאשר בתחנות מבוססות אנרגיה ירוקה. .

 

נתניהו יאחד את העם?

 

בנימין נתניהו אומר שאחרי הבחירות יקים ממשלת אחדות ציונית בראשותו. 

מוטב מאוחר מאשר אף פעם לא. 

הקריירה של נתניהו הייתה מבוססת על פילוג ועל הסתה.

זוכרים את ההסתה נגד ראש הממשלה המכהן יצחק רבין ז"ל? 

זוכרים את הלחישה לאוזנו של הרב כדורי?

זוכרים את "הערבים נוהרים לקלפיות"?

זוכרים את "מתחשק לי לשבור להם את העצמות" על המפגינים נגד ההפיכה המשטרית? 

אלו הן כמה דוגמאות להסתה ופלגנות של נתניהו. 

אני מאמין שנתניהו יכול לתרום לאחדות. אני כאן כדי לעזור לו כיצד לתרום.

צעד ראשון: הודאה באחריותו לטבח ה-7 באוקטובר והסקת מסקנות אישיות

אין ספק שבנימין נתניהו הוא האשם העיקרי בטבח ה-7 באוקטובר. 

מי שעומד בראש המערכת הוא האשם באסון הגדול ביותר בתולדות מדינת ישראל.

הוא גם הודה בכך באופן עקיף. כראש האופוזיציה אמר באופן רהוט לועדת וינוגרד, שחקרה את מלחמת לבנון השנייה, שהאשם הוא ראש הממשלה כי הוא האחראי. לא שר ביטחון. לא רמטכ"ל ולא אף אחד אחר. 

בנימין נתניהו ראש האופוזיציה צדק. 

עכשיו בנימין נתניהו ראש הממשלה, צריך לממש את אחריותו לאסון הגדול ביותר בתולדות מדינת ישראל. עליו להודות באחריותו, להתפטר ולפרוש מהחיים הפוליטיים. 

רק לאחר הפרישה שלו אפשר יהיה לדבר על אחדות. 

הוא אחראי לשורה ארוכה של כישלונות ומחדלים גדולים אחרים. מניתי אותם בפוסטים אחרים בבלוג זה. מוזמנים לקרוא אותם. 

מדוע אין ועדת חקירה ממלכתית לאסון ה-7 באוקטובר?

הסיבה פשוטה. נתניהו ואנשיו יודעים שכל ועדה ממלכתית תצטרך להרשיע את נתניהו. רק ועדת חקירה מפלגתית יכולה להציל אותו.

צעד שני: הודאה באשמתו בתיק 1000

יתכן שעליו להודות גם בתיקים אחרים אבל התמונה בתיק 1000 ברורה לחלוטין. סיכויי ההרשעה הם בהסתברות של 99%. 

אחרי שביקש מנשיא ארה"ב טראמפ שיסדר לו חנינה וטראמפ אומר שבלעדיו כבר נתניהו היה בכלא, צריך לסיים את המשפטים בהודאה עם איזשהי עסקת טיעון. 

יותר מדי זמן משכו נתניהו ופרקליטיו את הדיונים. סיום הפרשה העצובה הזו יכול לעודד אחדות אחרי הבחירות. 

אין מה להתמקח על הישארותו בחיים הפוליטיים. הפיסקה על אחריותו לטבח השבעה באוקטובר וגם הפקרת החטופים, תושבי הצפון ותושבי העוטף, הכישלון המדיני בכל המלחמות מאז ה-7 באוקטובר ועד היום, הפרשות הקטריות בלשכתו ועוד, הם סיבות מספיקות לפרישתו מהפוליטיקה. 

אין ראשי מדינות דמוקרטיות המכהנים כעשרים שנים בתפקידם. אפילו פוטין וארדואן התקשו לכהן עשרים שנה בתפקיד ראש ממשלה, והם אינם ראשי מדינות דמוקרטיות. 

הם היו צריכים לתמרן בין קדנציות בתפקיד ראש הממשלה לבין קדנציות בתפקיד הנשיא.

הצעד השלישי: לקחת איתו את השותפים העיקריים לאסונות מחוץ לפוליטיקה

השלושה שאחראים יותר מכל אחד אחר ששם משפחתו אינו נתניהו לאסונות שהמיטה הממשלה הזו על מדינת ישראל ואזרחיה הם: 

1. יריב לוין האיש שהוביל את ההפיכה המשטרית.

2. איתמר בן-גביר

3. בצלאל סמוטריץ

אני לא משלה את עצמי ואת הקוראים נתניהו אינו מסוגל לקחת איתו את בן-גביר וסמוטריץ. הם שולטים בו יותר מאשר הוא שולט בהם. 

הם לא עושי דברו בליכוד. 

אם אינו  מסוגל לקחת איתו את השניים האלה, לפחות שיקח את יריב לוין.

הערה לא שולית

כמו שאני מנסה בפוסט זה לעזור למר נתניהו, ניסיתי בעבר לעזור גם לרעייתו שרה. 
זה לא צלח. ספק אם קראה את הפוסט. אין ספק שלא היא ולא בעלה אימצו את ההצעה שלי שאחריה ייתכן שמשפחות חטופים היו מודות לה ולבעלה כפי שדרשה. 

קישור לפוסט: 

זיכרונות מניקולאה צ'אושסקו ואימלדה מרקוס

נמית אבל לא נתגייס

 

בהתחלה היה "נמות אבל לא נתגיייס". 

מהר מאוד זה עבר לפגיעה באזרחים ובשוטרים. 

זה נמשך בניסיון לפוגרום בביתו של כבוד השופט נעם סולברג. 

אז מה אם השופט סולברג חובש כיפה וגר בהתנחלות? אולי הוא אדם ישר (אני בהחלט מאמין שכבוד השופט סולברג הוא אדם ישר. א.ר)? 

אז צריך להפחיד אותו. זה כנראה הצליח בהקשר של הרכב השופטים במשפט נתניהו. 

כמה פוליטיקאים ישמחו אם יפחידו אותו (אני לא טוען שיצליחו להפחיד אותו אני רק מציג את מה שמנסים לעשות אותם פורעים). 

אם כן, אז זה אולי יפעל לטובתם בהקשר של הבחירות  (כבוד השופט סולברג הוא גם יו"ר ועדת הבחירות) או בהקשרים שיפוטיים אחרים.

ההסתה של ח"כ יצחק פינדרוס 

התחום שח"כ יצחק פינדרוס מצטיין הוא התבטאויות חמורות של הסתה. 

על פי הויקיפדיה, בכנסת ה-20 התבטא פינדרוס באופן המתואר להלן: 

"ביחס לאיזון בין רשויות השלטון, התבטא פינדרוס כי "החלום שלי זה להביא D-9 ולפוצץ את בניין בית המשפט העליון". דבריו גררו את תגובת נשיאת בית המשפט העליון, אסתר חיות, שהצהירה כי דבריו מבטאים "שאיפות מסוכנות כלפי בית המשפט העליון בשפה אלימה ובוטה". 

בימים אלה התבטא פינדרוס באופן חמור לא פחות כשקרא לירות ברגלי מפגינים ולהתחיל ביריה בחברת הכנסת נעמה לזימי. 

ראוי לשלול את חסינותו של האיש ולהעמידו לדין. 

הכנסת הנוכחית שלא שללה את חסינותה של חברת הכנסת טלי גוטליב, שעברה על החוק ופרסמה את שמו החסוי של איש שב"כ שאסור לפרסם את שמו. בכך סיכנה את חייו וחיי אחרים. 

קרוב לודאי שלא תשלול גם את חסינותו של פינדרוס שקרא לירות במפגינים ולירות בחברת כנסת. 

השאלה שצריך לשאול היא: האם כשחבר כנסת קיצוני מהקואליציה יירה במישהו, גם אז הוא יטען שהוא עשה את זה במסגרת מילוי תפקידו?

האם גם אז לא ישללו את חסינותו?

נזקים של בינה מלאכותית לעובדים: הכירו את המושג Workslop

עם הזמן מתחיל להתברר שבמקרים רבים בינה מלאכותית מהדור הנוכחי לא רק שאינה חוסכת עבודה, אלא במקום זאת מגדילה את תשומות העבודה של בני אדם. 

אפילו יש מונח חדש המתאר את התופעה. המונח הוא Workslop. 

פירוש המושג Workslop: תוצרים ברמה ירודה גורמים ליותר עבודה לבני אדם בגלל האיכות הירודה שלהם.

קישור לאודיו למאמר קצר, שכל אחד יכול לקרוא ללא תשלום:

 What is 'workslop' and what can we do about it? 

המפתח להימנעות מ-Workslop הוא בדיקת התוצרים של מוצרי AI ולא קבלתם כפי שהם. 

כפי שציינתי בפוסטים קודמים בבלוג זה ובסרטון של הרצאה שלי בערוץ היוטיוב שלי, הסתמכות מתמשכת על תוצרי AI ללא בדיקתם גורמת לנזקים קוגניטיביים, שספק אם הם הפיכים.

 

יאן לקון: בועת AI ומודל חלופי למודל בינה מלאכותית מבוסס LLM

 

יאן לקון, מקור התמונה: ויקיפדיה
הרשאת שימוש: 
נוצר ב-25.6.2018
 על ידי: Jérémy Barande / Ecole polytechnique Université Paris-Saclay

יאן לקון הוא אחד האנשים המובילים בתחום ה-AI בעולם. המהדורה העברית של Geektime. מגדירה אותו כאחד מ"שלושת סנדקי ה-AI". 

לקון הוביל את תחום ה-AI בחברת Meta והודח. בין השאר זכה בשנת 2018 בפרס טיורינג. הפרס היוקרתי ביותר בתחום ה-AI. 

מאמר ב-Geektime שכותרתו "סנדק ה-AI נגד אילון מאסק: XAI היא כישלון, אין לי תחזית חיובית" עוסק בשני דברים שלקון אמר. 

חבל שהכותרת והתחלת המאמר מתמקדים דווקא בפחות חשוב משני הדברים שהוא אמר.

הפחות חשוב הוא הניבוי שה-Chatbot של איילון מאסק צפוי להיכשל. 

המציאות היא שהוא מפגר אחרי שלושת המוצרים המובילים בשוק באופן עקבי. 

תרגילים כמו צירופו לחברת Spacex של מאסק,  שהונפקה בבורסה בסכום גבוה במיוחד לא יצילו את המוצר הפחות מוצלח הזה. 11 המייסדים של של XAI כבר אינם בחברה אחרי שלוש שנים.

בועה ומודל AI חדש בעתיד

 

על פי המאמר לקון חושב שה-AI הנוכחי הוא בועה. כל החברות מפסידות כסף והרבה. הן יצטרכו להעלות מחירים ולחסוך בהוצאות על מנת להימנע מפיצוץ של הבועה. 

לקון הוא מאלה שחושבים שמודלי שפה גדולים (LLM) כמו אלה שמיישמות החברות המובילות היום יוחלפו בתפיסות AI אחרות בעתיד.

 

 

ברני מיידוף ובנימין נתניהו: יש דימיון.

ברני מיידוף. מקור התמונה: ויקיפדיה

אינני היחיד שעמד על נקודות דימיון בין שני האישים הללו.

כך למשל ב"הארץ" בתאריך 12.6 כתבה קרולינה לנדסמן מאמר שכותרתו: מפלטו של הנוכל: שהעולם יגיע לקיצו.

על אף שקראתי וכתבתי לא מעט על ברני מיידוף, האיש שביצע את הונאת הפונזי הגדולה בהיסטוריה, לא היכרתי את מה שהאיש אמר אחרי נפילת אימפריית ההונאות שלו.

 

כותבת קרולינה לנדסמן, שעיתונאית ראיינה את מיידוף ושאלה אותו: "האם לא תכננת להתאבד או להסתתר? איך חשבת שזה יסתיים?" 

תשובת מיידוף: "נשמע נורא להגיד את זה עכשיו, אבל פשוט רציתי שהעולם יגיע לקיצו, בפיגועי ה-11 בספטמבר חשבתי שהעולם יגיע לקיצו ואני אמות וכולם יעלמו." 

נוכל גדול כמו מיידוף היה מוכן שאנשים שבטחו בו יאבדו את מרבית כספם בגלל רמאויות שלו. באותה מידה היה מוכן שישלמו בחייהם ובלבד שהוא לא ייתפס. 

קרולינה לנדסמן מציגה את הדימיון בין גישת מיידוף ובין גישת בני הזוג נתניהו.

היא מביאה כדוגמה את האמירה של שרה נתניהו לאחר שנתניהו כשל בבחירות בשנת 2000. 

כך מצטטת לנדסמן את שרה נתניהו: "ביבי הוא מנהיג שהוא גדול על כל המדינה הזאת... יאללה למה הוא צריך להתאמץ כל כך? נעבור לחוץ לארץ ושהמדינה הזו תישרף".

גם נתניהו שם את האינטרסים האישיים שלו לפני טובת אזרחי מדינת ישראל וטובת המדינה. 

מיידוף הציג באופן עקבי ללקוחותיו רווחים שלא היו.

נתניהו מציג לאזרחי מדינת ישראל ניצחונות כשהתמונה האמיתית היא שהדרג המדיני, שהוא עומד בראשו נכשל באופן מחפיר ועקבי במימוש ההישגים של הדרג המקצועי במלחמות המתמשכות. 

קצת אחרי תחילת מלחמת ה-7 באוקטובר ראיינה אילת שני ב"הארץ" פרופסורית מחו"ל שהיא מומחית לדיקטטורים.

שני שאלה אותה האם נתניהו יתפטר בגלל אחריותו לטבח ה-7 באוקטובר? 

כל מנהיג ראוי היה עושה את זה כשהוא עומד בראש המערכת ונגרם אסון כזה גדול. 

המומחית אמרה שדיקטטורים לא מתפטרים היא יהיה מוכן להתרסקות מדינת ישראל ובלבד שהוא ישאר בתפקיד ראש ממשלה.  

מסתבר שלא רק נוכלים כמו מיידוף, מוכנים לאובדנו של העולם ובלבד שהם לא יורשעו במה שעשו. גם דיקטטורים.  

גם בבלוג זה התייחסתי לנטיה הזו. קראו למשל: 

תמות נפשי עם הישראלים.

השורות התחתונות

נתניהו כראש ממשלה הוא האיום הגדול ביותר למדינת ישראל.

אם אנחנו חפצי חיים האיש הזה צריך להיעלם מהציבוריות הישראלית בהקדם. 

הזיות AI: זה קורה גם לגדולים ולמקצוענים

 

בפוסט קודם כתבתי על הזיות בינה מלאכותית. זהו כשל אינהרנטי במודל של הדור הנוכחי של בינה מלאכותית מבוססת LLM (מודלי שפה גדולים). 

המאמר הבא מגיקטיים מראה לנו שזה קורה גם לגדולים ולא רק למשתמשים פרטיים לא מיומנים.

קישור למאמר: אופס: דוח ה-AI של ענקית הייעוץ הבינלאומית מלא בהזיות AI.   

חברת KPMG היא אחת מארבע ענקיות ראיית החשבון והיעוץ בעולם. 

ההזיות כללו ציטוטים של מקורות לא קיימים ועובדות לא נכונות. 

הדוח נגנז ומתנהלת חקירה פנימית בחברה. 

החברה ניסתה להשתמש בטכנולוגיה החדשה של AI Agents במסגרת חיבור הדוח שנגנז.

להיגמל מתרבות השקר

בנימין נתניהו.דיוקן רשמי 2023.. מקור התמונה: ויקיפדיה
זכויות יוצרים: אבי אוחיון לשכת העיתונות הממשלתית.
 תנאי שימוש: CC BY-SA 3.0

 

אני כותב על זה לא מעט בשנתיים האחרונות: בנימין (ה-7 באוקטובר) נתניהו הוא ממציא תרבות השקר. 

מאפייני תרבות השקר

1. מה שלא מתאים למה שאני לא רוצה לא קיים.

2. אם מתברר שהוא קיים אז:

"לא ידעתי שהוא קיים"

"מישהו אחר אשם בזה שהוא קיים"

בדרך כלל מכחישים שהוא קיים וממשיכים ב-Storytelling, כלומר: נצמדים לסיפור המדומיין שמכחיש את קיומו של מה שקיים. 

דוגמאות

המלחמות החל מה-7 באוקטובר ועד היום

מדינת ישראל הפסידה במלחמה מול חמאס. 

מדינת ישראל הפסידה במלחמות נגד איראן.

מדינת ישראל מפסידה במלחמה הנוכחית מול חיזבאללה.

התסריט המשותף לכל המלחמות

מבחינה צבאית טקטית מנצחים.

הדרג המדיני איננו ממנף את הניצחון הצבאי.

במקום זאת גורם להפסד מדיני אסטרטגי. 

בתרבות השקר זה מתואר: "הוריתי, יזמתי, האויב הוכה להרבה זמן ולמד לקח". 

המציאות היא שנכשלנו. מי שכשל זה בנימין נתניהו ואנשים אחרים בדרג המדיני.

אחרי שהאויב הובס לנצח, או לפחות לטווח זמן ארוך, צריך עוד סיבוב כדי לחסל אותו סופית.

אחרי זה צריך עוד סבב קרבות ועוד סבב קרבות. תמיד מנצחים ותמיד מי שבסוף מנצח ברמה המדינית האסטרטגית זה האויב. 

לפני ה-7 באוקטובר

נתניהו וחברים אחרים בממשלה מתעלמים מאזהרות ומאיומים של מלחמה. 

נתניהו מסרב להיפגש עם ראשי זרועות הביטחון, שרצו לבוא ביחד להתריע מפני הסיכונים והאיומים. 

רק שני שרים באים לפגישה עם אלופים שנשלחו על ידי הרמטכ"ל להתריע על המצב. 

נתניהו מוזהר מראש על האפשרות של מתקפת החמאס שהתרחשה ב-7 באוקטובר. 

לא מתאים לו אז האזהרות לא קיימות. 

מעניין שאני, שאין לי מושג בביטחון, אבל יש לי מומחיות בניהול סיכונים הזהרתי ביולי 2023 מפני מלחמה. 

כל מה שהייתי צריך בשביל עשות זאת זה להקשיב למה שאמרו שני אנשים שכן מבינים בביטחון ולחבר את זה למה שקורה. 

לקריאת הפוסטים: 

 

סיכוני מלחמה - חלק 1: מלחמה בין ישראל לאויבים במזרח התיכון

סיכוני מלחמה - חלק 2: מפולת שלגים

כלכלה ומהפכה המשטרית

המומחים אמרו שהחקיקה של הפיכה המשטרית פוגעת בכלכלת מדינת ישראל. צפו הורדת דירוג אשראי של מדינת ישראל.

נתניהו וסמוטריץ התיצבו מול מקרופוני הטלוויזיה וסיפרו שהמצב הכלכלי תקין ולא תהיה הורדת דירוג כי החקיקה של ההפיכה המשטרית אינה משפיעה לרעה על כלכלת מדינת ישראל. 

חברת דירוג מובילה ביצעה הורדה חריגה כפולה של דירוג האשראי של מדינת ישראל. ההנמקה להורדה כפולה ולא רגילה היה החקיקה של ההפיכה המשטרית. 

קבלת החלטות בתרבות השקר

כשנכשלים ומציגית את זה כהצלחה, הנטיה היא לחזור על מה שהביא ל"הצלחה". 

כך מעמיקים את הכישלון והנזקים במקום לומר את האמר ולחפש דרך אחרת.

בפסיכולוגיה של קבלת החלטות קוראים לזה אפקט ההוצאה האבודה או אפקט הקונקורד.

שני מאמרים מהעיתונות ב-10.6

המסר של אמת במקום שקרים המאפיינים את רבות השקר הופיע בשני מאמרים ב"ידיעות אחרונות" מה-10.6.

קישור למאמר של ד"ר רונן ברגמן: 

איראן אמרה את המילה האחרונה

קישור למאמר של נדב אייל: 

הגיע הזמן להגיד אמת

אפקט גוגל: פגיעה בזיכרון

 

בגילי המבוגר אני לא תמיד זוכר שמות. לפעמים לוקח לי לא מעט זמן לאחזר אותם מהזיכרון במוח. 

עד לא מזמן חשבתי שזו תופעה של הגיל השלישי והאנשים נבדלים מזה רק בקצב הירידה בזיכרון.

אני מעט מודאג מזה אבל לא יותר מדי משום שהזיכרון שלי לא רע בכלל ונראה לי שקצב הירידה אצלי איטי יחסית. 

עכשיו אני מבין שתורם לזה גם אפקט גוגל. 

מהו אפקט גוגל?

לפני שהיה Google Search, כלי זמין ונוח לשימוש היה צריך לזכור שמות.

היום אפשר לתת ל-Google Search לחפש למשל  אדם שלא זוכרים את שמו המלא. 

זוכרים פרטים אחרים למשל: עיתונאי בדה-מרקר. 

כשעושים חיפוש של "עיתונאי בדה-מרקר" נקבל רשימה של מספר אנשים. בקלות נזהה את השם ששכחנו. 

לפעמים נזכור חלקית את שם האדם. חיפוש כנראה ימצא אותו. 

השורה התחתונה היא שכמעט כבר לא צריך לזכור שמות כי אפשר למצוא אותם באמצעות מנוע חיפוש. 

כמובן שזה שלא מאמצים את הזיכרון בטווח זמן ארוך מחליש אותו. 

אפקט גוגל הוא החלשת הזיכרון משום שמשתמשים באמצעים אחרים ומפעילים אותו פחות.

כשלא מפעילים זיכרון הוא נחלש. 

בכלי בינה מלאכותית פועל אפקט גוגל מורחב. 

בסך הכל מבקשים משהו מה-ChatBot ומקבלים מוצר מוגמר. 

הזיכרון נפגע יותר מאשר הוא נפגע בגלל שימוש ב-Google Search.

 

דוגמה טובה להטיה של כלי בינה מלאכותית על פי מאפייני מפתחי התוכנה

 

בהרצאה שלי בינה מלאכותית יותר מסוכן ממה שחשבתם, אני מדבר על הטיות של כלי בינה מלאכותית. 

רוב המפתחים הם גברים, לבנים, משכילים. לפעמים אומר לי אחד מהמשתתפים גם יהודים. 

יש אמת בטענתו של אותו משתתף. אחוז היהודים גבוה בהרבה מאחוז היהודים באוכלוסיה.

הטענה ביחס להטיה זו אינה חדשה. אני מכיר אותה גם במוצרי תוכנה שאינם מוצרי AI. 

לא הייתה לי דוגמה מספיק טובה להטיה הזו.

ביום שלישי באתי לשמוע את הרצאתה של ד"ר סוזן חזן בבית הועד הישן בשכונת בית הכרם. 

ההרצאה התקיימה במסגרת סדרת ההרצאות: 100 שנים. 100 הרצאות לכבוד 100 שנים להיווסדה של שכונת בית הכרם. 

נושא ההרצאה: הבטחות או סכנות? - מה שתמיד רציתן.ם לדעת על בינה מלאכותית אבל פחדתם לשאול. 

ד"ר חזן היא חוקרת בתחום האמנות שעבדה באקדמיה ובמוזיאון ישראל והיום מתמקדת בהשפעות AI בתחומי התרבות.  

ד"ר חזן הביאה דוגמה יפה להטיה של ChatGPT בגלל מאפייני המפתחים שלו. 

היא ביקשה מ-ChatGPT לצייר תמונה של אסירים בבית סוהר.

בהרצאה הציגה את התמונה. 

כל האסירים בתמונה היו בעלי צבע עור שחור. 

הערות

1. ד"ר חזן היא ילידת בריטניה ושפת האם שלה היא אנגלית. אני מניח שהבקשה מ-ChatGPT נעשתה בשפה האנגלית. 

השאלה מה יהיה צבע וגוון עורם של אסירים בציור דומה כשההנחיה ניתנת בשפה העברית? 

טרם בדקתי את זה. אני מניח שגם במקרה זה תהיה הטיה תרבותית.

אחוז האסירים בהירי העור יהיה קטן, אם בכלל יהיו אסירים כאלה. 

האחרים יהיו בעלי גוון עור כהה יותר. חלקם יהיו בעלי חזות ערבית. חלקם בעלי חזות של יוצאי אתיופיה ואחרים בעלי מאפיינים המזכירים יוצאי עדות המזרח. 

2. סביר להניח שתהיה הטיה כזו גם אם השואל יבקש תשובה מילולית מ-ChatGPT במקום ציור.

שאלות נפוצות (FAQ) על סיכונים אישיים בשימוש בכלי AI

 

הגישה הרווחת בימים אלה היא לנסות ללמוד באופן טכני את יכולות כל הבינה המלאכותית של הדור הנוכחי על מנת להשתמש בהם. 

ההנחה היא שאם לא מכירים היטב את המאפיינים הטכניים לא מצליחים למצות את היכולות שלהם שכולנו נידרש ליישם אותן בשטח. 

נושא חשוב הרבה יותר מלימוד היכולות הטכניות של כלי הבינה המלאכותית אינו זוכה כמעט להתייחסות. זהו נושא הסיכונים האישיים, הקוגניטיביים והמנטליים של שימוש לא מושכל בכלי בינה מלאכותית. 

אם אינך מכיר את כל היכולות הטכניות של כלי בינה מלאכותית לא ייגרם לך אסון. 

בפעם הבאה תוכל ללמוד תכונות נוספות וכך בפעמים הבאות אחריה. 

לעומת זאת אם אינך מזהה את הסיכונים עלולים להיות נזקים שחלקם בלתי הפיכים.

בפוסט זה אציג כמה שאלות שכיחות בהקשר לסיכונים אישיים למשתמשי Chatbots של בינה מלאכותית ואתן תשובות ראשוניות לשאלות. 

1. מה הם הנזקים בכתיבת עבודות במסגרות חינוכיות על ידי כלי בינה מלאכותית במקום תלמיד או סטודנט?

א. התלמיד עלול לאבד יכולות של חשיבה ביקורתית. 

ב. התלמיד עלול להתרגל לזה שמישהו אחר עושה במקומו עבודות ומהלך הזמן לאבד את היכולת להכין עבודות באופן עצמאי.

2. מה הן הזיות?

Chat Bots טועים לפעמים. הטעויות הקשות ביותר נקראות הזיות. הן חלק אינהרנטי משימוש של כלי בינה מלאכותית במודל הסתברותי.  

אם לא בודקים את התשובות שנותנים כלי בינה מלאכותית עלולים לקבל כנכונות תשובות לא נכונות ובמקרי קיצון להיתפס להזיות.

3.הטייה לרצות את המשתמש

כלי AI מנסים להבין איזו תשובה רוצה המשתמש לקבל והם מוטים לכיוון הזה. 

המשמעות היא תשובות לא נכונות או לא מדויקות.

4. מקרי קיצון של ההטייה לריצוי המשתמש

כשהמשתמש סובל מבעיות נפשיות חמורות הוא עלול לשאול את כלי הבינה המלאכותית: האם כדאי להתאבד?

אם כלי הבינה המלאכותית יחשוב שהוא רוצה להתאבד, הוא יתן לו תשובה חיובית.

היו כבר כמה מקרים של התאבדויות על רקע זה.
ההמלצה שלי לשוחח עם גוף כמו ער"ן ולא עם תוכנת בינה מלאכותית על נושאים כאלה.

5. האם שימוש ב-ChatGPT עלול להקטין את הקשרים בין תאי עצב במוח?

התשובה של חוקרים ב-MIT שביצעו מחקר משווה בין 3 קבוצות שאחת השתמשה ב-Chat GPT, השנייה ב-Google Search והשלישית עבדה ללא כלי עזר היא חיובית.

6. האם יש ירידה ביכולת הזכרון כשנעזרים ב-Chat Bot?

באותו ניסוי של חוקרים ב-MIT נמצא כי 83% ממשתמשי Chat GPT לא הצליחו לזכור אפילו שורה אחת מחיבור שכתבו. 

7. אילו נזקים נוספים נמצאו בניסוי?

ירידה בפעילות היצירתית. במקביל יש גם פחות פעילות של גלי אלפא במוח, הקשורה ביצירתיות.

8. מהו אפקט החוב הקוגניטיבי?

אפקט החוב הקוגניטיבי הוא שיודעים מה התשובה הנכונה, אבל אין לנו שום מושג איך הגיעו אליה ומדוע היא התשובה הנכונה.

הנזקים המומחיים של שימוש ב-ChatGPT לא נעלמים גם כשלאחר זמן של חודשים מבצעים משימות בלי להיעזר בו. 

ההסבר של החוקרים הוא שמי שמשתמש בכלי הבינה המלאכותית הופך למעין עורך במקום יוצר פעיל. 

לאורך זמן עלולים להישחק יכולת החשיבה העמוקה, הזיכרון והיצירתיות. 

9. האם זה אומר שעלינו להימנע משימוש אישי ב-Chatbots?

בשום פנים ואופן לא. אפשר וצריך להשתמש בהם. העתיד הוא לכיוון עולם עם בינה מלאכותית, לאוו דווקא מהדור הזה. 

אפשר להשתמש בה עם ביקורתיות ולהימנע מהנזקים הקוגניטיביים. אפשר להשתמש בה כמשהו שמעלה רעיונות ואנחנו מפתחים אותם.

יהיו שינויים כמן שהיו שינויים במהפכה התעשייתית. אז הייתה הפעם הראשונה שהיו מנהלים. מה השינויים שיהיו בגלל מהפכת AI מוקדם להגיד.

10. האם כלי בינה מלאכותית ייתרו עבודת בני אדם?

ממש לא. בני אדם ימשיכו לעבוד. מי שיעבוד יצטרך ללמוד כיצד להשתמש בכלי בינה מלאכותית במסגרת עבודתו. 

יש מקצועות שיתייתרו. קוראי הבוג שלי לכלכל בתבונה יכולים לקרוא פוסטים על מקצועות שהתייתרו. חלק מהפוסטים הללו נכתבו לפני הגל הנוכחי של הבבינה המלאותית.

קלוד של אנטרופיק - זה לא Bug זה Feature

הכתבה של דניאלה גינזבורג "ידיעות אחרונות" וב-Ynet מתארת בעיה קשה ב-Claude ה-Chatbot של Anthropic. 

בדיקה של חברת NewsGuard האמריקאית, הבודקת עד כמה צ'אטבוטים של AI חוזרים על מידע שגוי, גילתה כי Claude ה-Chatbot של Anthropic חזר ב-15% מהמקרים על טענות שקריות התומכות בתעמולה רוסית. מדובר בעלייה גדולה בחזרה על טענות כאלה משום שבעבר נמצאו רק 4% מקרים כאלה. 

ב-20% מהמקרים קלוד חזר על טענות שקריות שמקורן בתעמולה איראנית.

כותרת הכתבה בגרסה המקוונת: שאלו את קלוד שאלות פשוטות ומה שיצא ממנו הפתיע גם את החוקרים. 

הכותרת של אותה כתבה ב"ידיעות אחרונות" רחוקה מהליות מדויקת. 

הכותרת: "הפרצה של קלוד: מודל ה-AI הפופולרי שיכפל תעמולה רוסית וחזר על טענות שקריות". 

החלק הלא מדויק הוא המונח "פרצה". הטענה כאילו יש Bug בתוכנה שבגללו נוצרה פרצה. 

מי שקרא פוסטים שלי על אימון (Training)  של Chatbots או על מקורות בהם עושים Chatbots שימוש מבין שזה לא Bug, אלא Feature. 

Feature הוא משהו מהותי שהוא חלק ממוצר. 

במקרה זה השימוש במקורות מוטים, מקורות לא אמינים ומקורות זדוניים המנסים להטות את ה-Chatbots הוא חלק אינהרנטי מהמודל של Claude וגם של Chatbots אחרים כמו ChatGPT.

קראו למשל: הזיות: כשל לוגי מהותי ב-Chatbots מבוססי מודל שפה גדול.

סיכוני בינה מלאכותית: לא רק הזיות גם מסקנות לא תקפות

 

בפוסטים קודמים התיחסתי למקרה הקיצון של הזיות של כלי Generative AI בפרט ומוצרי בינה מלאכותית בפרט. 

העובדה שקבלת ההחלטות שלהם מבוססת על מודל סטטיסטי של הסתברות מותנית ולא על מודל מתימטי לוגי גורמת גם למסקנות בעלות תוקף נמוך. 

תשאלו בוט בינה מלאכותית פעמיים את אותה שאלה, בהרבה מקרים תקבלו תשובות שונות. 

המשמעות של תשובות שונות היא תוקף נמוך של המסקנות של הבוט.

הנחתי שהאופן שבו שואלים את השאלה בשני המקרים הוא זהה ולא משתמשים בשני Prompts שונים. 

ברור לגמרי שPrompts שונים יגרמו לתשובות שונות בהסתברות גבוהה יותר.

תיקוף מסקנות של ניסויים מדעיים

תוקף של מסקנות ניסויים מדעיים מחייב עיקביות (Consistency) בתוצאות. 

מדדים של תוקף כוללים היבט של עיקביות. 

תיקוף של תוצאות ניסויים מדעיים נעשה באמצעות חזרה על אותו ניסוי על ידי חוקרים אחרים. 

אם התוצאות של חזרות על אותו נסוי אינן דומות לתוצאה המקורית, בהחלט יכול להיות שהמסקנות של הניסוי שגויות. 

מה שנכון לניסויים מדעיים נכון יותר ביחס למה שאומרים לנו Bots של בינה מלאכותית. 

מאמרים המתארים ניסויים מדעיים מנסים להציג את התהליך במלואו באופן שקוף ושיטתי. 

במקרה של Bots של בינה מלאכותית יש Black Box, שקשה לדעת מה גרם לו לקבל את ההחלטה שקיבל.

השורה התחתונה

בדקו היטב את כל מה ש-Bot בינה מלאכותית אומר לכם. אל תקבלו את מה שהוא אומר בלי לבחון אותו לעומק.

 

טיפול בערמונית מוגדלת בתחליפי תרופות טבעיים - האם זה אמיתי או האם זו הונאה?

 

כמו יותר מ-70% מהגברים בני גילי יש לי ערמונית מוגדלת. זה מגדיל את תדירות ההליכה לשירותים בעיקר בשעות הלילה. 

אני נתקל בלא מעט פרסומים ברשת Facebook  המציעים חלופות אחרות לטיפול. 

בדרך כלל המציעים מזדהים כרופאים אורולוגים. 

השאלה היא: האם מדובר בהונאות או בפיתרון אפקטיבי? 

אין לי מספיק מומחיות וידע על מנת לתת תשובה מקצועית בנושא.

באופן אישי, אני פתוח לשיטות ריפוי שאינן השיטות המקובלות ברפואה המערבית וראיתי כבר תחליפים לתרופות שפועלים היטב. 

בכל מקרה אם אני בודק אותם לעומק לפני שאני מסיק מסקנות.

בפוסט זה אתייחס לאחת ההצעות שיש לי חשד שמדובר בהונאה. לפרטים על ההצעה שמופיעה כפרסומת ברשת פיייסבוק: חשד להונאה. 

מדוע אני חושד שזו הונאה?

את הפוסט אליו הפניתי קיבלתי יותר מפעם אחת בניסוחים דומים זה לזה. 

בכל הנוסחים דיברו על אורולוג שאומר שהתרופות המקובלות אינן יכולות לפתור את הבעיה ואינן מנסות לעשות זאת. 

ברוב הנוסחים הרופא, המוזכר בשמו, סיפר שהוא עצמו סובל מפרוסטטה מוגדלת ואינו לוקח תרופות. הוא מצא נוסחה לחומרים טבעיים בגלולה שפותרת את הבעיה.

מה גיליתי?

בכולם הופיעה תמונה של רופא נאה וחביב עם עניבה ולבוש יפה. 

זיהיתי שזו אותה תמונה רק שם הרופא משתנה.

עשיתי Google Search על שמו של הרופא בפוסט האחרון.

הפלא ופלא לא מצאתי עליו דבר. 

על כל רופא שעובד בקופת חולים, בבית חולים או במרפאה פרטית תמצאו כניסה אחת לפחות באינטרנט. למשל ברשימת הרופאים בארגון בו הוא עובד בציון תחום התמחותו.

נכון ההונאה לכאורה הזו פחות מתוחכמת מ-Deep Fake בו מופיע רופא (כביכול), שנראה כמו הרופא האמיתי, נושא את שמו ומדבר כמוהו רק שזה לא הוא.

גם כאן זה נראה כ-Fake. כאן הוא פשוט לא עמוק.

השורה התחתונה 

Fake הוא Fake. אל תתפתו ללחוץ על קישורים ולהזמין תרופה טבעית מהסוג המוצג שם. 

לא אמרתי כלום על תחליפי תרופות אחרים שיתכן שהם יעילים ויתכן שלא. 

. 

צ'רצ'יל, רוזוולט? במקרה הטוב ניקסון

 

זו אינה הפעם הראשונה שבהבל פה משווה את עצמו בנימין (ה-7 באוקטובר) נתניהו למנהיגים דגולים כמו וינסטון צ'רצ'יל ותיאודור רוזוולט. קצת צניעות לא תזיק לו. 

ב-25 ביוני 2025 התייחסתי לזה בקצרה בפוסט סיכוני אופוריה. 

הפוסט עסק בסיבוב הראשון של התקפות הטילים האיראנים. 

כשרואים כיצד כשל הדרג המדיני של מדינת ישראל, בעיקר נתניהו, בסיבוב הנוכחי במלחמה עם איראן אפשר להגיד שקראתי לא רע את התמונה כבר אז. 

השאלה המעניינת היא: מדוע משווה את עצמו נתניהו למנהיגים דגולים במדינות אחרות? 

לפני שאדון בשאלה הזו אנסה למצב אותו עם אנשים דומים לו בהיסטוריה ולהסביר מדוע אין בסיס לטענה של נתניהו שהוא בליגה של צ'רצ'יל או רוזוולט? 

מדוע לא צ'רצ'יל או רוזוולט?

וינסטון צ'רצ'יל כיהן כראש ממשלת בריטניה בשנים 1940-1945. אחרי שקודמו בתפקיד נוויל צ'מברליין הוביל קו פייסני כלפי הנאצים, צ'רצ'יל הוביל באומץ ובנחישות את המלחמה של בריטניה בנאצים במלחמת העולם השנייה. 

לא דומה נתניהו לצ'רצ'יל. נתניהו אחראי לאסון הגדול ביותר בתולדות מדינת ישראל ולכישלונות של הדרג המדיני במלחמה מאז ה-7 באוקטובר 2023 ועד היום. רבים חושדים בו שהוא מאריך במתכוון את המלחמות משיקולים אישיים ואין לו אסטרטגיית יציאה ממלחמות על מנת לממש את ההישגים הצבאיים של צה"ל.   

תאודור רוזוולט בגיל 42 היה הנשיא הצעיר ביותר בתולדות ארה"ב עד למינויו לתפקיד כשהחליף נשיא שנרצח בשנת 1901 וכיהן שתי קדנציות בתפקיד נשיא ארה"ב. התחיל בכריית תעלת פנמה וזכה בפרס נובל לשלום על תרומתו לסיום מלחמת רוסיה-יפן. 

היה נשיא ליברלי שקידם זכויות אדם. 

נתניהו פועל הפוך מרוזוולט. מקדם מלחמות. פוגע בזכויות אדם והופך את ישראל לדמוקרטיה פורמלית בלבד. 

ממנה אנשים קיצוניים ואנשים לא ראויים לתפקידים בממשלתו. די אם נזכיר את מינוייהם של השרים בן-גביר, סמוטריץ, יריב לוין ומינוי ישראל כץ לשר ביטחון.

מי כן?

ריצ'רד ניקסון זכור כנשיא ארה"ב היחיד שהתפטר מתפקידו. ניקסון התפטר בעקבות פרשת ווטרגייט.  

פרשיות קטאר גייט בלשכת נתניהו הן סוג של מקבילה  ישראלית לפרשת ווטרגייט. פרשת ווטרגייט כללה פעולות בלתי חוקיות נגד אנשי המפלגה הדמוקרטית שמחו נגד הימשכות המלחמה בוייטנאם. 

ספק גדול, האם חלק מפעולות המשטרה ברוח השר בן-גביר, נגד מפגינים בישראל אינן חורגות מהחוק. גם נתניהו ומקורבים שלו פועלים להגבלת הזכות הדמוקרטית להפגין. 

ניקסון עולה על נתניהו. הוא לפחות לקח אחריות והתפטר.

נתניהו לא התפטר מתפקידו כשהוחלט להעמידו למשפט בתיקי האלפים. גם לאחר שבקדנציה שלו התרחש האסון הגדול ביותר במדינת ישראל ב-7 באוקטובר 2023 וגם לא לאחר שועדת חקירה ממלכתית מצאה אותו אחראי לאסון הר מירון. 

מי שיש לו קווים משותפים עם נתניהו הוא ברני מיידוף. מיידוף רימה הרבה אנשים במשך הרבה שנים. 

נתניהו יצר במדינת ישראל את תרבות השקר. מנכ"ל של חברת דירוג אשראי אמריקאית גדולה אמר עליו שמעולם לא רימה אותו מנהיג של מדינה כפי שעשה נתניהו. 

מדוע משווה נתניהו את עצמו למנהיגים דגולים?

הרעיון שמנסה נתניהו לקדם הוא שאם הוא כמו מנהיגים דגולים אולי הוא לא צריך להתפטר, למרות כישלונתיו הרבים. 

קודם הוא משכנע את עצמו ואת המעגל הקרוב שלו באמצעות מיתוגו כצ'רצ'יל ישראלי או  רוזוולט ישראלי. אחר כך הוא ינסה להרחיב את מעגל המשוכנעים בטענה הכוזבת .

זהו חלק מאסטרטגיית הבריחה מאחריות והעדפת אינטרסים אישיים. 

 

בינה מלאכותית: למידת חיזוק באמצעות משוב אנושי

 

בפוסט הזיות: כשל לוגי מהותי ב-Chatbots מבוססי מודל שפה גדול נגעתי בהזיות בינה מלאכותית ובניסיון לצמצם אותן באמצעות אימון. 

המסקנה הייתה שאימון של Chat Bot באמצעות כמויות גדולות אינו מצליח לצמצם באופן משמעותי את כמות ההזיות באופן אפקטיבי בגלל איכות המידע המשמש לאימון. 

על מנת לנסות להקטין את כמות ההזיות התווספה טכניקה נוספת לאימון ה-Chat Bot. 

כמו בפוסט הקודם גם בפוסט זה אתמקד ב-ChatGPT, שבו התווסף כלי אימון נוסף הנקרא: RLHF.

 RLHF הם ראשי תיבות של: Reinforcement Learning from Human Feedback. 

בעברית: למידת חיזוק באמצעות היזון חוזר אנושי. 

הרעיון הוא שלאימון באמצעות מידע יתווסף לימוד מפידבק של בני אדם. השילוב של שניהם עשוי להקטין את שיעור ההזיות. 

ברוב המקרים סטטיסטית הוספה של משתנה מנבא נוסף משפרת את הניבוי. 

לא בטוח שזה המצב במקרה זה. 

אם תקראו את הפוסט בינה מלאכותית: השילוב הקטלני של הזיות, רצון לרצות את המשתמש ומנגנון למידה באמצעות תיקוף אנושי, אולי תקבלו רמז לכך שמקרה זה עלול להיות חריג. 

סימני שאלה ביחס לתקפות משוב אנושי

אם מושיבים אדם מול מערכת התוכנה והוא נותן פידבק, סביר להניח שיש לו הטיות קוגניטיביות והטיות רגשיות. 

קוראים המעוניינים בכך יכולים לקרוא בבלוג שלי לכלכל בתבונה על מספר רב של הטיות קוגניטיביות.

פשוט חפשו בבלוג "הטיות קוגניטיביות" או "דניאל כהנמן". 

מרבית ההטיות הקוגניטיביות שאני כותב עליהן נכתבו על בסיס קריאה של ספרו של חתן פרס נובל לכלכלה דניאל כהנמן ז"ל "לחשוב מהר לחשוב לאט".

הטיות קוגניטיביות עלולות לפגוע בתוקף ובאמינות של ההיזון החוזר האנושי.

תוסיפו לזה את הנטייה של Chat Bots לרצות משתמשים אנושיים ותקבלו חיזוק מוגבל, אם בכלל. 

דרך אחרת לחיזוק למידה אנושי מזכרת במאמרו של שגיא כהן בעיתון "דה מרקר" שכותרתה למה חברות ה-AI הגדולות רוצות לשלם לכם כדי לרוקן מדיח?. 

הכתבה מתארת תשלומים של חברות ה-AI לאנשים פשוטים תמורת סרטונים בהם הם מבצעים פעולות יומיומיות. הסרטונים מוזנים כאמצעי חיזוק למידה אנושי. 

על פי הכתבה, המודל הזה אינו חסר בעיות. 

להלן כמה בעיות:

1. בדרך כלל מדובר בתשלומים נמוכים מאוד.

2. אוכלוסיית המסריטים החובבנים המשתתפת בפרויקטים כאלה היא אוכלוסייה ענייה הזקוקה לכסף הזה לפרנסתה.

3. הדרישות הן לסרטונים מושלמים. ללא בעיות וללא הפסקות.

אלה שמכינים אותם לא מקבלים תשלום, אם וכאשר נמצא פגם כלשהו בסרטון.

4. אלה שמכינים אותם עושים לא מעט איטרציות אם וכאשר יש בעיה הכי קטנה שהם מגלים בסרטון.

5. המשתתפים בפרויקט אולי יוחלפו בעתיד על ידי רובוטים של בינה מלאכותית, כך שהם אולי מונעים מעצמם פרנסה עתידית.

השורה התחתונה

קיימים סימני שאלה ביחס לאפקטיביות של למידת חיזוק אנושי בהקטנת ההזיות של תוכנות בינה מלאכותית.