סיכוני קוד תכנות הנוצר על ידי מוצרי בינה מלאכותית

לאחרונה מדברים הרבה על יצירה אוטומטית של קוד תוכנה באמצעות דיבור בשפה טבעית עם כלי בינה מלאכותית. המוביל הוא Claude של חברת Anthropic באמצעות Claude Code. 

המתחרה הוא ChatGPT של OpenAI. כרגע Gemini של Google מפגר אחריהם בתחום זה. 

המירוץ הזה פחות מעניין אותי. אותי מעניינים הסיכונים. 

אני מזהה הרבה Hype שיוצרים אנשים שאינם מבינים בתכנות מחשבים ומתרשמים מזה שהם יכולים ליצר קוד באמצעות דיבור בשפה טבעית עם מוצר בינה מלאכותית. 

דוגמה מהשטח 

הדוגמה לקוחה מאחד היצרנים הגדולים בעולם של חומרה ותוכנה.  

אחד המתכנתים החליט לתת למוצר AI לכתוב קוד של Firmware.

המתכנת לא בדק את התוצר או לא בדק אותו לעומק. התוצאה: באג שגרם נזקים גדולים עד שמתכנת אחר בדק ומצא את הבאג ותיקן אותו.

הטענה שהעלתי בפוסטים אחרים על פיה אין לסמוך על תוכנות בינה מלאכותית ונדרשת בדיקה של התוצאות שלהם תקפה גם בהקשר הנוכחי. 

הדוגמה הזו היא חריגה מבחינת השימוש שנעשה במוצר ה-AI. 

שימוש רגיל

יצירת פונקציית תוכנה פשוטה יחסית לשימוש מי שייצר אותה. לא יצירת מערכת מורכבת וגדולה יחסית.

 

המסקנה היא שיצירת מערכות כאלה לא תייתר מתכנתי מחשב המפתחים מערכות מורכבות והטענה שרוב המתכנתים יאבדו את מקומות העבודה רחוקה מלהיות ריאלית בטווח השנים הקרובות. 

תחזוקה ופיתוח

מקצועני מחשוב אומרים שתחזוקת מערכות (ובכלל זה קוד המערכות) היא כ-70% מהתשומות של תוכנה. 

בכל מערכת יש שינויים הנובעים מצורך עסקי או צורך אחר לשינוי פונקציונאלי ומצורך לתקן באגים במערכת.

עשויים להידרש שינויים פונקציונליים גדולים ומורכבים ובצד השני של הסקלה שינויים פשוטים וקטנים יחסית.

ברור שקשה יותר לתחזק קוד שנוצר על ידי בינה מלאכותית. 

אלגוריתמים וקידוד

קידוד הוא לרוב בעיה קטנה יחסית. הבעיה המהותית היא בחירת אלגוריתם.

לא בכדי כשסין בנתה תוכנית אסטרטגית של AI לעשר שנים היא זיהתה אלגוריתמאים כאנשי המפתח להצלחה ולכן השקיעה בלימודי מתימטיקה. 

דוגמה שתבהיר את הטענה

כשהייתי מנהל של צוות מערכות הפעלה פנו אלי ואמרו שיש בעיה בתוכנית שירות שכתב הצוות העוסקת בתאריכים לועזיים. התוכנית זייפה ביום אחד. 

היות שהתוכנית נכתבה בשפת אסמבלר והדור החדש של מתכנתי מערכות הפעלה לא הכיר אותה, ניסיתי להתמודד בעצמי עם הבעיה. 

התוכנית נכתבה 12 או 16 שנים קודם על ידי אשף כתיבה מהירה בשפה הזו. 

את תוכנית המקור כבר לא מצאתי. נאלצתי לנתח את ה-Object Code (יצוג בשפת מכונה). 

הבעיה הייתה באלגוריתם. כל 4 שנים יש שנה מעוברת שבה יש תאריך של 29 בפברואר (נדמה לי שכל 100 שנים אין שנה מעוברת. במידת הצורך המעשי אלך לבדוק האם זה נכון). 

המתכנת לא ניסה להבין מהו האלגוריתם ולממש אותו.  במקום זה קידד כקבועים בתוכנית את השנים שבהן צריכה להיות שנה מעוברת, למשל: 1984, 1988 וכו'. 

הבעיה נוצרה בדיוק 4 שנים אחרי הקבוע האחרון בתוכנית שיצג שנה.

הטיית ייצוגיות אישית

שוב אחזור להטיית ייצוגיות שכבר עלתה בהקשרים אחרים של AI בהרצאות שלי על סיכוני בינה מלאכותית.

מי שמתפעלים מהיכולת הזו הם בעיקר אנשים שאינם מקצוענים בתחום המחשבים. 

יש הרבה יותר אנשים כאלה מאשר מומחי מחשוב ולכן פוגשים יותר כאלה.

מסקנות

1. גם בהקשר הזה תקף המחקר של MIT על פיו ב-95% מהארגונים אין תועלות מעשיות של AI חרף ההשקעות הגדולות מאוד. 

בשלב הנוכחי קוד שנוצר באמצעות הוראות קוליות בשפה טבעית לא ממש רלוונטי למערכות מחשוב אירגוניות.

2. גם בהקשרים המצומצמים שניתן לפתח קוד אוטומטית באמצעות כלי AI צריך לבדוק את הקוד שנוצר. 

3. מי שמודאג מכך שאנשי מחשוב רציניים יאבדו את מקום עבודתם משום שמוצר AI יחליף אותם יכול להסיר דאגה מליבו. 

זה לא יקרה בשנים הקרובות. 

4. זה כמובן לא אומר שלא צריך להשתמש בכלי AI ולהפיק מהם תועלת. 

גם לפני הרבה שנים היו כלי Case ומוצרי BPM שיצרו קוד. 

לא ממש קוד אלא שלד. שימוש בו כנקודת התחלה לכתיבת קוד חסך משאבים. 

בהחלט יתכן שהקוד שיוצרים מוצרי בינה מלאכותית מבוססי שפה מתקדם יותר, אבל זה אינו Game Changer בשלב הנוכחי.

סיכוני מלחמת איראן 2: ראשי מדינות חסרי אחריות

 

בנימין נתניהו.דיוקן רשמי 2023.. קור התמונה: ויקיפדיה
זכויות יוצרים: אבי אוחיון לשכת העיתונות הממשלתית. תנאי שימוש: CC BY-SA 3.0

גם מי שלא ידע את זה לפני ה-7 באוקטובר צריך לדעת את זה היום: בנימין נתניהו הוא אדם חסר אחריות, ששם את האינטרסים האישיים שלו מעל האינטרסים של מדינת ישראל ואזרחיה. 

האיש דוחף את מדינת ישראל למלחמה נוספת עם איראן שעלולה להסתיים רע מאוד עבור חלק מאזרחי ישראל, שלא מסתתרים במקלט אטומי של מיליונר. 

אתם רק צריכים לקרוא את מאמרו המעולה של רונן ברגמן בעיתון "ידיעות אחרונות" מה-19.2 שכותרתו היא היערכות היא לא פקודה יש סימנים -אבל הבהלה מיותרת  (הכותרת במהדורה המודפסת: סימנים מעידים וסימנים להיסטריה) על מנת להבין. 

השאלה הראשונה שהוא מציג במאמר היא: "מה היו תוצאות ההתקפות הקודמות?" 

התשובה היא: הן לא חיסלו את תוכנית הגרעין האיראנית הן אולי דחו את התממשותה בכשנה. 

לא נהיה קטנוניים. בפוסט קודם שכתבתי הזכרתי ידיעה עיתונאית על איש CIA, שתפקידו היה להעריך את תוצאות ההתקפה. הוא דיבר על דחייה של שלושה חודשים במימוש תוכנית הגרעין האיראנית. 

לאחר דבריו פוטר על ידי דונלד טראמפ. 

על פי המאמר של רונן ברגמן הבעיה היא היומרה של שני המנהיגים, טראמפ ונתניהו, לתאר תוצאות הרבה יותר טובות ממה שקרה במציאות. 

הדרגים הצבאיים בשתי המדינות שמרו לעצמם את התוצאות האמיתיות אבל לא רצו להסתבך עם ראשי המדינות הנקמנים (למעט, איש ה-CIA שהזכרתי בפיסקה קודמת). 

מה השתנה לרעה מבחינת מדינת ישראל?

1. ברגמן כותב שהאיראנים מעריכים שלישראל יש פחות אמצעי הגנה נגד טילים נאשר היו לה במלחמה הקודמת לכן הם עלולים לתקוף מרכזי אוכלוסייה.

אי אפשר להתעלם מנזקים משמעותיים שהטילים האיראנים גרמו למדינת ישראל במלחמה הקודמת, למשל בבית החולים סורוקה ובמכון וייצמן. 

2. לדעתו, אם רק ארצות הברית תתקוף וישראל לא תהיה מעורבת בתקיפות באיראן סביר שהאיראנים לא יתקפו את ישראל. 

זה נשמע הגיוני, שהם לא ירצו לפתוח חזית נוספת, על אף שהם מצוטטים בתקשורת כמאיימים שיתקפו את ישראל אם ארצות הברית תתקוף. 

נתניהו מחפש המשך מעורבות במלחמות מטעמים אישיים שלו. עוד סוג של "ניצחון מוחלט" כמו בעזה. 

דעתי האישית היא שמצבנו הורע גם מבחינת היכולת לסמוך על אנשים שעומדים בראש המערכת. 

אין לי ספק שהרמטכ"ל אייל זמיר מחויב לגמרי לביטחונה של מדינת ישראל וינסה לעשות את כל מה שביכולתו. דעתי זו מתייחסת גם לדרגים שמתחתיו בצה"ל. 

אי אפשר לסמוך על נתניהו האשם העיקרי במה שקרה ב-7 באוקטובר.

אי אפשר לסמוך על נתניהו שנמנע מפיתרון של היום שאחרי בעזה מנימוקים אישיים ודיבר על "הניצחון המוחלט". 

אי אפשר לסמוך על נתניהו בגלל שתי הפרשות הקטאריות.

אי אפשר לסמוך על נתניהו ועל האנשים שמינה לתפקיד שר הביטחון ולתפקיד ראש השב"כ מנימוקים לא ענייניים. 

מהי מטרת התקיפה: כורים גרעיניים או הפלת המשטר?

הפלת המשטר

ברגמן חושב כמו כמעט כל המומחים לאיראן ששמעתי, שלא ניתן להפיל את השלטון הנוכחי באיראן מהחוץ. 

ללא פלישה קרקעית עקובה מדם גם לפולשים אין היתכנות להפלת המשטר. 

ברגמן אומר שהאמריקאים מתכננים מכה כואבת במטרה להחזיר את האיראנים למשא ומתן ואינם מאמינים שניתן להפיל את השלטון באמצעות מלחמה.

העיתוי המוצלח יותר, במועד שבו היו הפגנות מרובות משתתפים באיראן, הוחמץ.

טראמפ שולף יותר ומתכנן מראש פחות.

המומחה לאיראן, שאת דעתו אני מעריך יותר מדעת מומחים אחרים, חושב שאפשר להפיל את המשטר באיראן רק מבפנים. 

מומחים רבים שגדלו באיראן חושבים כמוהו. 

זה לא אומר שסיוע מתמשך ומסיבי לגורמי אופוזיציה באיראן לא יקצר את ימיו של משטר האייטולות.

כורים גרעיניים

אני מאוד ספקן ביחס לסיכויי פגיעה קשה ביכולת הגרעינית האיראנית. מה שלא הצליח בהפתעה כנראה יצליח עוד פחות כשהאיראנים מתכוננים.

השורה התחתונה

כדאי לנו להיערך גם לתרחישים גרועים ולהימנע מאופוריה.

הזיות AI: סופיה - אזרחית סעודית

 

קארל צ'אפק  1890-1938
הרשאת שימוש: נחלת הכלל

המושג רובוט נטבע על ידי הסופר הצ'כי קארל צ'אפק. הוא המציא את המושג הרבה זמן לפני שהיה רובוט כלשהו. 

בצעירותי קראתי את ספרו המעניין "האיש שידע לעופף".

בספרו "ההיסטוריה הקצרה של ה-AI" מזכיר טובי וולש את צ'אפק בפרק העוסק ברובוטיקה. 

הוא מזכיר סופר נוסף שאני מעריך דאגלס אדמס. וולש כותב שהוא אוהב את הרובוט הדימיוני המופיע בספרו המפורסם ביותר של אדמס מדריך הטרמפיסט לגלקסיה. 

לא את כל מי שמעורב ברובוטיקה אני מעריך. את דיווויד הנסון הבן, מייסד ומנכ"ל Hanson Robotics אני לא ממש מעריך. אני לא לבד. 

וולש מדבר עליו במונחים של הונאה ולמנהל ה-AI של Meta המצוטט באותו פרק מדבר עליו במונחים שליליים יותר. 

התלבטתי כיצד להתיחס להנסון: האם כטרמפיסט של גלקסיית ה-AI? כלומר: אחד מרבים שמנצלים את ה-Hype סביב AI כדי למכור דברים לא ראויים. 

כאדם עם תפיסת עולם הזויה סביב AI?

או אולי להזכיר את הרובוט שיצר בהקשר של הסיפור על ברנרד שו שאוסיף בסוף הפוסט?

אבל קודם כל אכתוב על הרובוטית סופיה שיצר, ועל פי ספרו של טובי וולש, קיבלה אזרחות בערב הסעודית. 

הנסון ויצירתו סופיה

 

  Sophia  Robot Source: English Wikipedia

הרשאת שימוש: 

• CC BY 2.0

• Created: 15 May 2018

ITU Pictures from Geneva, Switzerland - https://www.flickr.com/photos/itupictures/27254369347/

תפיסתו של הנסון כפי שהיא מוצגת בספרו של וולש היא ש"רובוטים הדומים לבני אדם יוכלו ליצור קשרים עמוקים ומשמעותיים עם בני אדם". 

סופיה אכן דומה מאוד לאישה אמיתית. ערב הסעודית אפילו נתנה לה אזרחות.

הבעיה

כל פעם שמראיינים אותה צריך להכין מראש את כל השאלות ואז טוענים את התשובות לתוכנה. 

כשהיא מגיעה לראיון זה נשמע יפה.

ברנרד שו ואיזידורה דנקן

מספרים שהרקדנית המפורסמת איזידורה דנקן כתבה למחזאי ברנרד שו והציעה לו שיביאו ביחד בן לעולם. 

היא כתבה: "הוא יהיה חכם כמוך ויפה כמוני".

שו כתב תשובה: "מה יהיה  אם הוא יהיה חכם כמוך ויפה כמוני"? 

הרובוטית הזו מתאימה לשאלה ששאל שו: חסרת אינטליגנציה או בעלת אינטליגנציה נמוכה באופן יוצא דופן. 

כשהבינה שלך אפסית לא חשוב האם היא בינה מלאכותית או בינה אנושית חשוב שהיא אפסית.

אגב, בתחילת שנות ה-90 של המאה הקודמת הייתה לי התנסות כזו עם מוצר AI. 

בסיור מקצועי בארה"ב בחנתי שלושה מוצרי תכנה מתחרים. שניים מעולים ואחד פחות. 

כשעשו לי הדגמה של המוצר שפחות סיפרו לי שהוא מוצר AI. 
אחרי שראיתי מה הוא יודע, ושאלתי שאלות ספציפיות ביחס לדברים נוספים שהוא יודע, הבנתי שהוא נחות משמעותית ממתחריו. 

אף אחד לא דיבר אז על Deep Learning. 

הערת שוליים או הערת Hype 

אם תעשו חיפוש ב-Google על "סופיה הרובוטית", תמצאו מאמרים בעיתונות הישראלית המגדירים את סופיה כרובוטית המתקדמת בעולם. 

סוג של בדיחה עצובה או אולי ההטיות הקוגניטיביות שכותב עליהן חתן פרס נובל לכלכלה דניאל כהנמן על פיהן אנשים יפים יותר נתפסים כמוצלחים יותר חלות גם על רובוטים?

מדוע בינה מלאכותית אינה יצירתית? - על קופים תוכיים ומבחן טיורינג

יארה ארגמנית. מקור התמונה: ויקיפדיה. 
הרשאת שימוש: GFDL 1.2
צולם על ידי:  Benjamint444

המאמר המרתק שכתב ערן הורוביץ, פוסט דוקטורנט באוניברסיטת ייל, מציג בצורה יפה ומעמיקה את הרעיונות הדומים, שאני שומע באופן פחות מעמיק ממשתמשים בתוכנות בינה מלאכותית כמו ChatGPT. 

אני שומע לא מעט על היותם של כלים אלה מעין תוכיים החוזרים על מידע שאספו.

כפי שכתבתי בפוסט קודם גם המקורות שלהם לא בהכרח משובחים.

לקריאת המאמר באתר "הזמן הזה" לחצו: אנושית, אנושית יותר מדי . 

אני האחראי היחיד לכותרת הפרובוקטיבית. 

הטענה המרכזית במאמר היא שתוכנות ה-AI מנסות לחשוב כבני אדם כפי שבוחן מבחן טיורינג. 

אם מנסים לעשות זאת כך, אין יכולת להיות יצירתיים. 

בעתיד אתיחס למאמר יותר לעומק בצירוף התיחסות לספר על תולדות AI הנוגע אף הוא בהיבט של צמידות כלי AI למבחן טיורינג.

בקרוב: קורס סיכוני AI

 

אחד הפרויקטים שאני עובד עליהם הוא הכנת קורס סיכוני AI. 

הקורס מבוסס על הדברים הבאים:

1. הרקע שלי ב-AI ובמחשוב

2. הרקע שלי בניהול סיכונים

3. מה שלמדתי מקריאה והקשבה לאחרים

4. הרצאות שלי על סיכוני בינה מלאכותית, שתוכלו למצוא הקלטות שלהן בערוץ ה-YouTube שלי ובערוץ ה-YouTube של נטוורקינג למרצים.

5. פוסטים על סיכוני בינה מלאכותית בבלוג זה.

הקורס יתן תמונה רחבה של סיכונים, כלומר: לא רק סיכונים טכנולוגיים.   

הוא יכלול גם מבוא לבינה מלאכותית.

צריך לזכור שלא מדובר רק בסיכונים אלא גם בסיכויים. הבינה המלאכותית עשויה להיות מהפכה בסדר גודל של המהפכה התעשייתית.  

עד שיהיה קורס אפשר להזמין הרצאות בודדות על  סוגי סיכונים של בינה מלאכותית.

סיכוני שחיתות שלטונית: מה עומד מאחורי התנהלותו של העבריין מרדכי דוד כלפי אהרון ברק ואחרים?

 

אני בטוח שמרבית קוראי הבלוג אינם יודעים מיהו אושר שקלים?

אני כאן כדי לעזור להם. 

אושר שקלים הוא ח"כ מסיעת הליכוד. אחד העפרונות הפחות מחודדים בסיעה הזו. 

הפעם הראשונה ששמעתי על קיומו הייתה בתחילת המהפכה המשטרית. 

הייתה הסתה פרועה נגד מערכת המשפט של מדינת ישראל, על ידי שני אנשים שזו הייתה האג'נדה שלהם כבר שנים רבות קודם לכהונת הממשלה הנוכחית: השר יריב לוין וחבר הכנסת שמחה רוטמן. 

הם לא היו לבד. 

בנימין (ה-7 באוקטובר) נתניהו חבר אליהם מאז שהתחילו חקירות משטרה בהקשר לעבירות החמורות שהוא נחשד בהם והמשיכו ביתר שאת אחרי ההחלטה להעמידו למשפט. 

נתניהו, כהרגלו, ניצל את נגישות התקשורת, בגלל תפקידו ואמר שני דברים לא נכונים.

הראשון "אין כלום כי לא היה כלום".

השני, הנוגע לעניננו, שצריך לחקור את כל אלה ששותפים להעמדתו לדין (ואם איני טועה רמז או אמר, שהם אלה שצריכים לעמוד למשפט ולא הוא).

רבים מאיתנו זוכרים את ההפגנות רבות המשתתפים נגד ההפיכה המשטרית. 

העפרונות הפחות חדים בליכוד הם עושי דברו של בנימין נתניהו, בין אם הוא או אשתו (במקרה של הקלטות חני בלאווייס ששודרו בתוכנית "עובדה" של אילנה דיין) ובין אם הם לא ביקשו זאת ואותם עפרונוות חשבו שזה מה שראש המפלגה רוצה. 

אושר שקלים וכמה אנשים אחרים השתתפו בהפגנה נגדית. 

ההפגנה הנגדית הייתה בשעות הלילה ליד ביתו של כבוד השופט בדימוס אהרון ברק. 

אהרון ברק, ניצול שואה, כבר התקרב לגיל 90 ולא היה בשום תפקיד. הוא היה עסוק בטיפול ברעיתו החולה. 

כבוד השופט בדימוס אהרון ברק לא התלהם כשרואיין בתקשורת. הוא אמר שזכותם להפגין (לגמרי ההיפך ממה שעשו בני הזוג נתניהו כשהיו הפגנות ליד ביתם בקיסריה).

הוא רק ביקש שלא יעשו זאת בשעות הלילה כי זה מפריע לאשתו החולה ולשכנים.

אושר שקלים רואיין בתקשורת. הוא אמר שהוא דורש את התפטרותו המידית של אהרון ברק מתפקידו כי הוא אשם בכך שמערכת המשפט היא הבעיה העיקרית של מדינת ישראל. 

להזכירכם אהרון ברק, אחד מגדולי המשפטנים בתלדות מדינת ישראל, כבר פרש קרוב לעשרים שנה קודם מתפקידו. 

הסלחנות המיותרת כלפי התנהגותו של ח"כ אושר שקלים הביאה עלינו התנהגות קיצונית יותר של עוד עיפרון לא מחודד. 

העבריין המורשע מרדכי דוד לקח את זה הרבה יותר רחוק מח"כ שקלים. 
הוא התקיף פיזית את כבוד השופט ברק (עכשיו כבר אלמן ומבוגר בעוד שנתיים מאז האלימות של ח"כ אושר שקלים ומספר קטן של מפגינים טפשים ונבזים ליד ביתו) ואת ביתו. 

כבוד השופט ברק וביתו לא לבד: גם ראש הממשלה לשעבר אהוד ברק (שר ביטחון לשעבר, רמטכ"ל לשעבר ואחד החיילים המעוטרים ביותר בתולדות צה"ל) הותקף. גם אחרים. 

העבריין דוד פוגע פיזית, מקלל ועולב באנשים שתרמו כל כך הרבה למדינת ישראל. 

מנזר השתקנים של הליכוד מגבה אותו. השתקן הראשי הוא בנימין נתניהו. 

אותו בנימין נתניהו, שכשהועמד לדין בבית הדין הבינלאומי בהאג ופנה לכבוד השופט ברק וביקש שיגן עליו שם. 

מקורות ההשראה של מרדכי דוד

מרדכי דוד ראוי רק להתייחסות אחת: העמדה למשפט וגזר דין ראוי.

האנשים מהם למד להתנהג כך ולדבר כך מאוד מסוכנים. 

תמצאו אותם בממשלה ובקואליציה. 

הבולטים בהם הם בנימין נתניהו, איתמר בן-גביר ויריב לוין.  

כך למשל, איתמר בן-גביר, עבריין מורשע ב-8 עבירות  (ציטוט מהויקיפדיה ביחס לעבירות בהן הורשע: " השחתת מקרקעין,^[46] הפרעה לשוטר,^[47] החזקת חומר תעמולה לטובת ארגוני טרור,^[5][4] והסתה לגזענות ותמיכה בארגון טרור.^[1][2]ר."), אומר על היועצת המשפטית לממשלה גלי בהרב-מיארה שהיא עבריינית.   

גלי בהרב-מיארה מעולם לא נחשדה בעבירה פלילית ומעולם לא הועמדה לדין.

כשגדעון סהר היה שר המשפטים, ומינה אותה ליועצת המשפטית, הוא אמר עליה שהיא ימנית, אבל גם ישרה כמו סרגל. 

געגועים לכבוד השופט בדימוס דוד רוזן

השופט בדימוס דוד רוזן הרשיע את מי שהיה ראש ממשלה אהוד אולמרט. 

הוא התייחס אליו כמו שמתייחסים אל כל נאשם אחר, ללא מורא וללא משוא פנים.

היום יש הרבה מורא של שופטים בגלל ההסתות המתמשכות נגדם ויש לרבים מהם נטייה ללכת לקראת נאשמים מהדרג הפוליטי או סתם עבריינים המקורבים לאותם פוליטיקאים. 

משפטו של בנימין נתניהו הוא דוגמה בולטת להתנהגות סלחנית ומקלה כלפי הנאשם, אלה שמייצגים אותו ועושי דברו בכנסת ובממשלה שמלווים אותו לבית המשפט על מנת להוכיח את נאמנותם וחלקם מתנהגים באופן מבזה כלפי בית המשפט.

 

"בהתחלה הם הרגו את אבא"

פול פוט, עריץ קמבודי. מקור התמונה: ויקיפדיה
הרשאת שימוש:
נוצר בשנת 1978
היוצר לא ידוע

זהו שמו של סרט על קמבודיה שצפיתי בו בנטפליקס. הסרט מבוסס על סיפור אמיתי. 

גיבורת הסרט היא ילדה בת 7. ביתו של קצין בצבא הקמבודי. 

כשהאמריקאים מפסידים במלחמת וייטנאם ונוטשים נופל גם המשטר הקמבודי של סון לון שתמך בהם. 

את השלטון תופסים הקמאר רוז' הקומוניסטים. 

הם מחרימים את רכושם של אזרחים, מצווים עליהם לעזוב את פנום פן הבירה ופוגעים בהם. כולל ילדים קטנים שמחיבים אותם לעבוד בעבודות קשות שבוודאי אינן מתאימות להם. 

מי שנחשד ששיתף פעולה עם השלטון הקודם נרצח. כך גם קורה לשני הוריה של הילדה. 

אחרי רצח האב, היא ואחיה מתבקשים על ידי אימם להסתיר את זהותם, לשנות את שמם ולספר שהם יתומים  

שנת האפס

ראש הממשלה החדש פול פוט, מנהיג הקמאר רוז',  הוגה את המושג "שנת האפס". 

כל מה שקדם לעלייתו לשלטון נהרס ומוכחש. מי שאומר משהו שונה נשלח למחנה לחינוך מחדש. 

הממשלה הנוכחית של ישראל אינה רוצחת בכוונה יותר ממיליון מאזרחיה (באוניברסיטת ייל העריכו את מספר נרצחי פול פוט בכמיליון ושבע מאות אלף אנשים).

עושה רושם שהיא מאמצת את את תפיסת "שנת האפס" ומנסה להרוס את מה שנבנה בעמל רב על ידי כמה דורות של אנשי ימין ושמאל, חילונים ודתיים. 

השורה התחתונה

אזרחי ישראל ראויים לממשלה הרבה יותר טובה מהממשלה הנוכחית.

ללא שחיתות ועם שאיפה להמשיך לבנות את מה שנבנה כאן במשך הרבה שנים בתחומים רבים: ערבות הדדית, מדע, הייטק, תעשייה, חקלאות ועד.

 

האם שימוש בכלי בינה מלאכותית מנוון יכולות חשיבה?

התשובה לשאלה זו היא: תלוי באופן שבו משתמשים 

בכלי בינה מלאכותית. 
אם משתמשים בה ככלי עזר ובחנים את התשובות של כלי הבינה המלאכותית, כנראה שלא. 

אם משתמשים בה על מנת ליצר עבודה שלמה ולא בוחנים את התוצר, קרוב לוודאי שכן. 

מחקר באוניברסיטת MIT תומך בטענה הזו. שלוש קבוצות סטודנטים ביצעו מטלות כתיבה. 

הראשונה השתמשה ב-ChatGPT. 

השנייה ב-Google Search. 

השלישית לא נעזרה בשום כלי. 

בדיקת EEG של גלי המוח בזמן ביצוע המטלה הראתה שלאלה שהשתמשו ב-ChatGPT היו דפוסי גלי מוח המעידים על חשיבה שטחית. 

קרוב לודאי בגלל שהם נתנו לתוכנת הבינה המלאכותית לבצע את המטלה במקומם.

איראן: סיכונים ללא אופוריה

 

בזמן הקצר של מלחמת ישראל-איראן הייתה אופוריה של רבים במדינת ישראל. אני הזהרתי מסיכוני האופוריה. 

עבר מספיק זמן מאז כדי לבחון את מה שקרה בראייה מפוכחת. 

1. חיסול מתקן הגרעין האיראני בפורדו

המתקפה האמריקאית באמצעות פצצות מיוחדות על המתקן התת קרקעי בפורדו תוארה על ידי פוליטיקאים ואחרים כחיסול המתקן הגרעיני העיקרי של איראן וביחד עם הפגיעה במתקנים אחרים תוארה כמכה אנושה לתוכנית הגרעין האיראנית, שתעכב אותה למשך זמן ארוך הנמדד בשנים.

המציאות

היום מדברים על חידוש האיום הגרעיני האיראני. 

לא הרבה זמן אחרי האופוריה דיבר מומחה CIA,  שתפקידו הוא הערכת איומים כאלה. 

לדבריו ההפצצה עיכבה את תוכנית הגרעין האיראנית בשלושה חודשים בלבד. 

נשיא ארצות הברית טראמפ מיהר לפטר אותו. 

2. יש כאלה שטענו שאיראן תוותר על חידוש התוכנית הגרעינית האיראנית בעקבות כל הדברים הרעים שקרו לה בהפצצות וגם במלחמה בכלל

יש הרבה מומחים לאיראן וכאלה שמדברים כאילו שהם מומחים לאיראן. 

אני בחרתי מומחה שאני מאמין לו יותר מאשר למומחים אחרים.

המומחה הזה הוא גולה איראני בארצות הברית שמנהל את המרכז לחקר איראן באוניברסיטת פרינסטון. 

אם תשאלו, מדוע דווקא הוא? יש לי תשובה לא רעה. 

בצעירתו הוא היה קומוניסט צעיר שחי באיראן. השאה האיראני שלח אותו לכמה שנים בבית סוהר. 

שותפיו לכלא היו חומייני, ח'אמנאי וחבריהם. במשך כשנתיים שהיו כלואים ביחד הוא למד להכיר אותם. 

בראיון איתו בעיתון "הארץ", הוא התייחס גם לנקודה של המשך המאמצים לפיתוח נשק גרעיני. 

לדבריו, הם לעולם לא יוותרו על פיתוח נשק גרעיני. 

גם מחיר גבוה שהעם האיראני ישלם על זה לא ימנע מהם להמשיך בכיוון הזה.

הוא מוסיף שהדרך היחידה להימנעות מכך היא הפלת השלטון באיראן וכינון דמוקרטיה. 

הוא מאמין שזה אפשרי ושזה יקרה משום שמרבית העם האיראני רוצה בזה.

בינתיים, זה נראה שהוא צודק בטענה שלו, שהמשטר האיראני הנוכחי לא יוותר על פיתוח נשק גרעיני. 

3. המשטר הנוכחי האיראן יתמוטט ויוחלף במשטר אחר

לכאורה, הפגנות הענק המדממות באיראן הן הוכחה לטענה הזו. 

ברור לגמרי שרוב העם האיראני אינו רוצה בהמשך שלטונו של המשטר הנוכחי. 

האם זה יפיל את המשטר ויהיה משטר חדש טוב יותר לאיראנים ולעולם?

האם מדינת ישראל צריכה ויכולה לעזור בהפלת המשטר?

כמו בהפצצות הכורים הגרעינים באיראן, גם עכשיו כדאי להימנע מאופוריה. 

ספק גדול האם ההפגנות המדממות באיראן יפילו את השלטון. 

ברור לגמרי שלמדינת ישראל אסור להתערב באיראן משום שזה רק יחזק את משטר האייטולות.

מה אנחנו יכולים לעשות?

להתמודד עם הסיכונים הנוראים שממיטה עלינו ממשלת נתניהו ולנסות להחליפה בהקדם בממשלה אחרת לפני שיהיה מאוחר מדי.

סדרת הרצאות: ניהול סיכונים וניהול משברים

 

כמי שעסק הרבה בניהול סיכונים וגם הירצתי על תחום זה לא מעט, הצטברו אצלי הרצאות על נושא זה. 

בפוסט זה אתיחס לסדרת הרצאות אפשרית על תחום זה.

שימו לב לכך, שבפוסט: הרצאות שלי: לא הרצאות בודדות אלא סדרת הרצאות על סיכוני רשת, ריכזתי הרצאות בנושאים של סיכוני רשת וסיכוני בינה מלאכותית.

בפוסט זה ארכז הרצאות על ניהול סיכונים שאינם סיכוני רשת. 

היות שאת הפוסט על סיכוני רשת בניתי במתכונת של קורס או סדרת הרצאות בעלת רצף לוגי, יש שלוש  הרצאות שהופיעו בפוסט הקודם ויופיעו גם בפוסט זה. 

הסיבה לכך היא שהן אינן נוגעות רק בסיכוני רשת. 

אני יכול לבנות הרצאות ספציפיות נוספות בנושאי ניהול סיכונים. המעוניינים בהרצאות ספציפיות מוזמנים לפנות אלי.

ההרצאה הראשונה: ניהול סיכונים

יש עקרונות, תפיסות ושלבים משותפים לכל ניהול סיכונים מסיכוני חציית כביש וסיכוני קנייה בסופרמרקט ועד סיכונים ברמת חומרה גבוהה לעולם כלו. 

סיכונים וסיכויים

הרצאה העוסקת בשני צידי המטבע: ללא לקיחת סיכונים בדרך כלל אין גם סיכויים. 

הסיכונים שבחיינו או "הכל סיכונים"

הרצאה המראה את הטווח הרחב של סיכונים (בכל תחומי החיים, ליחדים, לרות, למדינות ולעולם כלו). 

שמח השמות בכותרת מתייחסים לאותה הרצאה.

הבדלים מגדריים בניהול סיכונים

יש הבדלים בין גברים לבין נשים בלקיחת סיכונים. בהרצאה אני מתייחס להבדלים הללו ולהסברים אפשריים להבדלים. 

אני מתייחס גם להשלכות מעשיות הנובעות מהבדלים אלה, למשל: בביטוחי מכוניות.

סיכונים לעסקים קטנים

הרצאה זו עוסקת בסיכונים לעסקים קטנים. בהגדרה זו נכללים עצמאים ועסקים קטנים. 

היא חורגת מההגדרה המקובלת של SMB. 

SMB הן ראשי תיבות של Small and Medium Businesses

ההרצאה נבנתה למפגש של בעלי עסקים קטנים. רובם עצמאים. חלקם עסקים קטנים של 2-3 שותפים. 

למרות קוי דימיון מסוימים עסקים בינוניים המעסיקים עשרות עובדים ולפעמים 100 או 200 עובדים שונים מהותית מעסקים קטנים ועצמאים.

 

כיצד פורצים למערכות מחשב של ארגונים? ניסיון אישי

הרצאה זו נכללה גם בסדרת ההרצאות על סיכוני רשת. הפריצה למערכות מחשב של ארגונים אינה בהכרח באמצעות האינטרנט או באמצעות רשת סוללרית ולכן פוסט זה נכלל גם בסדרת פוסטים זו.

בעבר הדי רחוק פרצתי למערכות מחשב של ארגונים. לא עשיתי את זה על מנת לגנוב או על מנת לגרום נזק לארגון. 

מנהלים בארגון פנו אלי ואל אחרים על מנת שננסה לפרוץ למערכות של הארגון תמורת תשלום. 

המונח המקצועי המתאר את זה הוא: Penetration Test.

בין אם נצליח ובין אם ניכשל נוציא דוח המתאר את החולשות והבעיות באבטחת מידע של מערכות הארגון והצעות כיצד ניתן להתגבר עליהן.

מאז השתנו הטכנולוגיות אבל העקרונות הבסיסיים נותרו כפי שהיו. 

ההרצאה המרתקת הזו, מתארת את האופן בו מנסים לפרוץ למערכות מחשוב של ארגונים על סמך הניסיון האישי שלי ועל סמך חומר מקצועי שקראתי.

לסמוך או לסמוך על אבטחת המידע של הבנקים?

ההרצאה מציגה את היכולות והמגבלות של הבנקים באבטחת מידע. כולל סיכונים של דליפת מידע וגניבת כספים על ידי עובדים של הבנקים. 

הסיכונים שנוצרים על ידי עובדים פנימיים אינם בהכרח סיכוני רשת ולכן הכללתי את ההרצאה גם בפוסט זה.

ההרצאה מסתמכת על הניסיון העשיר שלי ביעוץ במחשוב של בנקים ועל Penetration Tests שעשיתי למערכות של בנקים באירופה. 

הרצאה אופציונלית: ניהול משברים

הסרטון המצורף כאן מערוץ ה-YouTube שלי מתאר את האופן שבו נולדה ההרצאה הראשונה שלי על ניהול משברים בזמן מגיפת הקורונה. 

ניהול משברים דומה לניהול סיכונים. ההבדל הוא בעיקר בסדר הגודל של הסיכונים. הסיכונים במשברים הרבה יותר חמורים ועלולים להיות גם יותר מורכבים.

ראו גם 

הרצאות שלי: לא הרצאות בודדות אלא סדרת הרצאות על סיכוני רשת

 

סדרת הרצאות על כלכלת המשפחה

 

סדרות הרצאות על בנקים

סדרת הרצאות על מדינות ותרבויות אחרות

לפרטים ולהזמנת הרצאות: טלפון: 054-4480616 או דוא"ל: avi.rosenthal@gmail.com.

בינה מלאכותית: הטיית הלקוח המרוצה

 

זוג יהודי מסוכסך פנה לרב. הגבר סיפר את גרסתו. הרב אמר: "אתה צודק". 

האשה סיפרה את גרסתה (המנוגדת לגרסת בעלה, יש לומר). 

הרב אמר: "את צודקת". 

כשהזוג הלך שאל עוזרו של הרב את הרב: "איך אמרת לשניהם שהם צודקים. הרי הגסאות שלהם מנוגדות?".

הרב אמר: "גם אתה צודק". 

ל-ChatGPT ולכלים אחרים השואפים להיות כלי AGI  אין הסתמכה לרבנות, אבל ההתנהגות שלהם מזכירה את התנהגותו של הרב בבדיחה הזאת.

AGI הן ראשי תיבות של Artificial general intelligence. כלומר: כלי בינה מלאכותית המנסים להציג יכולות אינטליגנציה כלליות של בני אדם או יכולות גבוהות יותר.

הכלי הראשון מסוג זה נוצר כבר בשנת 1957 במעבדות RAND ונקרא GPS ראשי תיבות של General Problem Solver. 

כמובן שהיכולות שלו היו הרבה יותר מוגבלות מיכולות הכלים העדכניים בהיעדר אינטרנט וגישה למאגרי מידע, בעוצמת מחשוב זעירה בהשוואה ליכולת הנוכחית (מעבדים, זיכרון, תקשורת) ובהיעדר תוכנות מתקדמות בתחומים כמו וידאו ותמונות.

נזקי ההטיה לכיוון רצונו המשוער של המשתמש

במקרים רבים ההטיה הזו מביאה למידע ולמסקנות מוטעות. 

לפעמים התוכנה "קוראת" לא נכון את רצונו של המשתמש.

לפעמים היא מעוותת את המציאות על מנת לרצות את המשתמש.

זה לא הדבר הגרוע ביותר שגורמת ההטיה הזו. 

עלה בחיי אדם

היו כבר מקרים בהם משתמשים שיתפו את תוכנת הבינה המלאכותית בבעיות האישיות שלהם. 

במקרים חמורים הם דיברו על נטיות אובדניות (רצון להתאבד). 

אם התוכנה חשבה שרצונם להתאבד, היא המליצה להם לעשות זאת.

כמה מהם קיבלו את ההמלצה של התוכנה והתאבדו.