יום שלישי, 16 בספטמבר 2025

הצהרת בלצילי

 


Bletchley Park Mansion המקום בו נערכה הועידה ונחתמה ההצהרה. מקור התמונה: ויקיפדיה אנגלית 
הרשאת שימוש.: 
CC BY-SA 4.0
נוצרה על ידי:  DeFacto - Own work
ב-4.3.2017

הצהרת בלצ'לי באנגלית Bletchley Declaration היא הצהרה עליה חתומות 28 מדינות על מנת להתמודד ביחד עם סיכוני בינה מלאכותית. 

בין המדינות החתומות על ההצהרה: ארצות הברית, סין ומדינות האיחוד האירופי.

גם מדינת ישראל חתמה עליה.

ההצהרה היא תוצר של ועידת פסגה שנערכה בבריטניה בנובמבר 2023. 

מטרתה היא התמודדות משותפת עם סיכוני בינה מלאכותית. וקביעת רגולציה לבינה מלאכותית. 

הועידה נערכה ב-Bletchley Park בבריטניה ומכאן נגזר שם ההצהרה. 

 

ערך בויקיפדיה האנגלית הנקרא AI Safety Summit  מתאר את הועידה בה נחתמה ההצהרה וכולל גם שמות של משתתפים בולטים בה.

 

 

שמות משתתפים בולטים


רשימה חלקית שלא כוללת את כל אלה שצוינו בערך בויקיפדיה האנגלית.


מדינאים


רישי סונאק  

קמלה האריס 

ג'ורג'ה מלוני  



Wu Zhaohui  סגן שר המדע והטכנולוגיה של סין


יזמי הייטק




Mustafa Suleyman  אחד ממייסדי  DeepSeek   



על מה מעידה ההצהרה והועידה?



קיום הועידה ורשימת המשתתפים החשובים, כמו גם ההצהרה המשותפת, מעידים על חומרת הסיכונים של בינה מלאכותית ועל היעדר רגולציה מספיק טובה להפחתתם.



הערת שוליים



אולי זה לא מקרי שהבריטים אירחו את הועידה במקום בו פענחו את צופן האניגמה של הנאצים במלחמת העולם השנייה.

 


יום שני, 8 בספטמבר 2025

צפו לגל מתקפות סייבר בגלל חוסר מודעות לסיכונים בשימוש בכלי AI

 


הנכונות המוגזמת של אנשים לעשות שימוש במוצרי AI בכלל וב-ChatGPT בפרט חושפת אותם לסיכונים גדולים. 


שני הקישורים להלן נותנים מושג בהקשר זה. 

באתר מרכז הסייבר הלאומי:




הבעיה



משתמשים ב-ChatGPT על מנת שיבצע מטלות במקומם.
כשהם מזינים מידע פרטי משמעותי, למשל: מספר חשבון בנק, שם משתמש וסיסמה, לא בטוח שהם אינם חושפים את המידע לגורמים שיעשו במידע שימוש זדוני. 

אגב, לא תמיד ניתן להעריך את גודל הסכנה של ריכוז מידע איש רב במאגר של כלי AI גם אם אין מדובר במידע שהוא קריטי.
לפעמים דפוסי המידע הרב הופכים את המידע לקריטי בגלל שילוב בין חלקי מידע לאו דווקא קריטי. 

אין להוציא מכלל אפשרות גם את האפשרות של פעילות זדונית של כלי ה-AI עצמו, בין אם מי שפיתח אותו רצה בכך (למשל: GROK) ובין אם כלי ה-AI פיתח מידה של עצמאות. 

יום שישי, 5 בספטמבר 2025

מספר חסוי המתחזה מהתיכון - הטרדות ברשת נזק גדול יותר ממה שאפשר לתאר



אתמול (4.9.25) צפיתי בסרט דוקומנטרי בנטפליקס. שם הסרט: מספר חסוי המתחזה מהתיכון

מהסרט הזה אפשר ללמוד הרבה דברים על הרבה נושאים: כלכלת המשפחה, יחסים במשפחה ובקהילה, פסיכולוגיה, אבל בעיקר על סיכונים ברשת

מסתבר שהסיכונים עלולים להיות הרבה יותר גדולים ממה שאדם ממוצע חושב. 


כשאני כותב על הסרט הזה, שאני מאוד ממליץ לצפות בו, אני הולך על חבל דק. 

אני לא רוצה לעשות Spoiler ולגלות מי היה המטריד? 
כתוצאה מכך יש היבטים מרתקים וחשובים שאינני יכול להתיחס אליהם.



תקציר האירועים 



תלמיד ותלמידה באותה כיתה יוצרים קשר זוגי שנראה טוב. אהבה ראשונה של שניהם.

מדובר בעיירה קטנה בארצות הברית בה כל אחד מכיר את כל אחד. 

לבני הנוער אין בה הרבה מה לעשות בזמן הפנוי.

עיסוקי פנאי עיקריים הם ספורט ובעיקר פעילות ברשתות חברתיות באמצעות הטלפונים. 


הלקח הראשון, שתקף לכולנו ולא רק בעיירות קטנות בארה"ב, הוא שאנחנו מאבדים את הקשב בגלל שימוש יתר ברשתות חברתיות


בשלב מסוים הנער והנערה התחילו לקבל הודעות מאימות ממספר לא מזוהה.


הנערה קיבלה הודעות שהחבר שלה לא מעוניין בקשר איתה והוא רוצה קשר עם שולחת ההודעה. 

הנער קיבל הודעות שהציעו לו לנתק את הקשר עם החברה. 

כמות ההודעות ורמת האיום הסלימו. זה הגיע להצעה לנערה להתאבד. 

הנער והנערה לא עמדו בלחץ והקשר ביניהם נותק. זה לא סיים את ההטרדות. 


עם ההסלמה נעשתה פנייה למשטרה המקומית, שהתחילה לחקור. 

הופנו חשדות נגד בנות אחרות באותה כיתה, שנחקרו במשטרה. 

בקהילה קטנה היו כאלה שהיו בטוחים בשלב כזה או אחר באשמתה של נערה מסוימת והשמועה עברה בקהילה כולה. 

כשלא נמצאו ראיות, קרה תהליך דומה של האשמת נערה אחרת. 

ההטרדות נמשכו יותר משנתיים. כולל הטרדה של אם של נערה מעיירה אחרת שהנער הכיר. 

הוא מיד ניתק את הקשר בגלל ההטרדה. 


רק כשהמשטרה המקומית העבירה את החקירה למחלקת הסייבר של ה-CIA הייתה פריצת דרך ונמצא המטריד המפתיע. 


נזקים


גם לנער וגם לנערה נגרמו נזקים ברמה הפסיכולוגית שילוו אותם כל החיים. 

גם לנערות שנחשדו על לא עוול בכפן נגרמו נזקים מתמשכים מבחינת אמון באנשים ואמון בקהילה. 


כמובן שנגרמו נזקים גם להורי התלמיד, להורי התלמידה ולהורי התלמידות שנחשדו.



לקחים בהקשר של סיכוני רשת



1. סיכוני פגיעה חברתית והטרדות ברשת עלולים להיות גדולים. במיוחד לילדים ובני נוער

בסרט לא היו התאבדויות של בני נוער, למרות שהיו כאלה שהעלו מחשבות אובדניות. 

במקרים אחרים זה הסתיים בהתאבדויות.  

גם ללא התאבדויות עלולים להיגרם נזקים חברתיים ופסיכולוגיים קשים לבני נוער ולילדים בגלל הטרדות ברשת.


2. צריך מיומנות ומקצועיות בתחום הסייבר על מנת לטפל באירועי סיכון.

לשריף המקומי היה הרבה רצון טוב והוא ניסה להתמודד עם הבעיה כמיטב יכולתו. 

לא הייתה לו מיומנות טכנית ולכן לא היה לו סיכוי לפתור את הבעיה. 

רק אחרי שנתיים העביר את הטיפול למחלקת הסייבר של ה-FBI. 

הם פתרו את זה מהר.

א. הם זיהו את המקור של ההודעות שקיבלו הנער והנערה. 

ב. המקור היה אתר שבו ניתן להסתיר את זהות שולח ההודעה. 

ג. הם הוציאו צו משפטי המחייב את החברה לתת להם את כתובת ה-IP ממנה נשלחו ההודעות.

ד. מסתבר שאלה שתי כתובות של ספק האינטרנט הגדול Verizon

ה. צו בית משפט חייב את Verizon לתת לחוקרי ה-FBI את שמות המשתמשים שהשתמשו בכתובות אלה. 

הם מצאו משתמש שהשתמש באותן כתובות בכל פעם שנשלחה הודעה לנער או לנערה. 

כך התגלתה זהות השולח. השולח נשבר בחקירה וסיפר את כל הידוע לו. 



הזווית של כלכלת המשפחה



למצבים של פגיעה באנשים ברשת יש  גם השלכות כלכליות.

כך למשל, בני נוער שנפגעים עלולים להזדקק לטיפול פסיכולוגי, שיש לו עלות כלכלית למשפחה. 


במקרה קיצוני, כמו המקרה הזה, עלולים בני נוער שנפגען להתקשות לצור קשר עם אנשים אחרים,  במסגרת של הקמת משפחה וגם במסגרת של עבודה משותפת, ולאבד את האמון בבני אדם. 

לתוצאה כזו עלולות להיות השלכות מעשיות על יכולתם ללמוד, לעבוד ולשתף פעולה עם אחרים. 

להשלכות אלה עלולה להיות גם השפעה כלכלית מצטברת ארוכת שנים. 


איך מנהלים כלכלת משפחה?


דפוסי ההתנהלות הכלכלית של אחת המשפחות שהופיעו בסרט היו גרועים במיוחד. 

הבעיות המהותיות:


1. רק אחד מבני המשפחה ניהל את הנושאים הכלכליים 

כשרק אחד מבני המשפחה מנהל את הנושאים הפיננסיים ואינו משתף את בן-הזוג (במקרה חריג זה) או את בת הזוג (במקרים רבים) קל יותר לבצע טעויות. 


2. הסתרת מידע על בעיות כלכליות

בני המשפחה האחרים שלא שותפו בהחלטות ולא שותפו במידע ירגישו מרומים כשהוסתרו בעיות כלכליות. 

במקרה הזה הוסתרו פיטורים והפסקת עבודה במשך פרק זמן ארוך. 

התוצאה: משבר כלכלי שחייב החלפת בית מגורים. 



הזווית שלא אעסוק בה בפוסט זה



הזווית הפסיכולוגית היא משמעותית. איני מתכוון לגעת בה בפוסט זה. 

גם מהסיבה שלהערכתי לא נכון לעשות את זה על במה זו וגם משום שאיני רוצה לעשת Spoiler ולשתף תכנים מהסרט. 


השורה התחתונה


טפלו מיד במצבים של איומים והטרדות ברשת. במיוחד כאשר מדובר בילדים או נערים המוטרדים. 

ההמלצה שלי היא לערב מיד מומחים מוקדם ככל האפשר ולא לתת לכאלה שאינם מומחים לנסות לפתור את הבעיה.


הערת שוליים


בפוסט: המכונים "קייטי היגינס" מכים שנית - הפעם אני כבר לא יכול לפתור את הבעיה תיארתי מקרה של בחור צעיר שפנה אלי לעזרה באיחור. זה עלה לו הרבה כסף.




יום שלישי, 2 בספטמבר 2025

בינה מלאכותית בבתי ספר ובאוניברסיטאות: האם יכולת חשיבה ביקורתית נפגעת?

 

תחילת שנת הלימודים ב-1.9 היא מועד מתאים לדון בסיכוני בינה מלאכותית לתלמידים ולסטודנטים. 

כבר היום השימוש בכלי בינה מלאכותית כמכיני עבודות במקום תלמידים או סטודנטים הוא רבהוא צפוי להתרחב עוד יותר. 

מאמר שפורסם בעיתון  European Research Studies Journal מתאר תוצאות סקר שנעשה על שימוש בכלי AI במסגרת לימודים. 


קישור למאמר: 
   
משתתפי הסקר היו סטודנטים והם העידו על אופני והשפעות השימוש בבינה מלאכותית על תפקודם בלימודים. 

שאלת המחקר העיקרית הייתה השאלה בכותרת: האם יכולת חשיבה ביקורתית נפגעת?   
כמעט מחצית ממשתפי הסקר חשבו שיכולות להיות לשימוש השלכות של פגיעה בחשיבה ביקורתית. 

חשוב לזכור שזה סקר שבו המשתתפים מעידים על עצמם. סביר להניח שתהיה להם הטיה קוגניטיבית של אופטימיות. במקרה זה היא תפעל לכיוון של המעטת הפגיעה בחשיבה הביקורתית. 
    





יום ראשון, 31 באוגוסט 2025

בינה מלאכותית בארגונים: מחקר מאשש בועה

 

 
מקןר התמונה: ויקיפדיה אנגלית 
הרשאת שימוש: 


בפוסט קודם שכותרתו כיצד השפיעה האכזבה מ ChatGPT 5 על האופן בו תופסים בינה מלאכותית? התיחסתי לבועת ה-AI שמזכירה לי את בועת הדוט קום. 


התיחסתי ל-AI בעיקר מהזווית של משתמשים אישיים. 

מאמר של אדם שמוס מייסד ומנכ"ל TimeVerse, מומחה ב-AI Scheduling, תורגם לעברית בעיתון כלכליסט.

המאמר עוסק ביישום AI בארגונים. שמוס מצטט דוח של מחקר שבוצע באוניברסיטת MIT.

מממצאי המחקר תומכים בטענה שאנחנו בבועת AI. על פי הציטוט שלו של תוצאות המחקר, ארגונים השקיעו בבינה מלאכותית ג'נרטיבית 40 מיליארד דולר. 95% מהם לא הפיקו תועלת מעשית כלשהי מההשקעה.

אם זו לא בועה, כנראה שאינני יודע מה זו בועה.


Shadow AI



בשנת 2013 כתבתי פוסט שכותרתו:

Will Shadow IT fill the Business-IT Gap or widen it?

בפוסט תיארתי תופעה שבה עובדי ארגון מביאים לארגון תוכנות שהם משתמשים בהן בבית ומתקינים אותן גם בארגון.
לאחר שהתקינו אותן הם משתמשים בהן למטלות בארגון במקום בתוכנה רשמית, שרכש הארגון והגדיר אותה כמוצר אסטרטגי שלו.

ברוב המקרים היה מדובר במוצרי Open Source ששימוש בהם אינו דורש תשלום.

במקביל בחר הארגון במוצרים אחרים כמוצרים בהם יש להשתמש בארגון ושילם עבורם כסף.
נוצר סוג של כאוס ארגוני.

המאמר מתאר תופעה שמתרחשת היום בארגונים ומזכירה את התופעה שכתבתי עליה בשנת 2013. הוא מכנה אותה Shadow AI.

במקום להשתמש במוצרי AI שהארגון בחר ומנסה להטמיע, עובדים מביאים איתם לארגון מוצרי AI שהם משתמשים בהם בביתם.
גם כאן נוצר סוג של כאוס ארגוני, שצפוי להקשות גם בעתיד על הטמעת מוצרי AI בארגונים.


שוק ברמת התפתחות של תחילת ה-Hype Cycle



תופעת ה-Shadow AI מעידה על כך שיש הרבה מוצרים בשוק. כנראה יותר מדי מוצרים.

הבועה ממנת אותם. השימוש בכל כך הרבה מוצרים מעיד על רמת בשלות נמוכה (תחילת ה-Hype Cycle בגרף).
ברמת בשלות גבוהה יותר נותרים בשוק מספר קטן יותר של מוצרים. מוצרים אחרים הופכים ל-Niche Players (מתמקדים בנישה צרה ספציפית) או שנעלמים מהשוק.







יום שבת, 30 באוגוסט 2025

סיסמאות Gmail נפרצו

 


מאגר הסיסמאות של Gmail באתר של חברת Salesforce נפרץ. 

החברה ממליצה למשתמשים לשנות את הסיסמה. 

אני בהחלט מצטרף להמלצת החברה. 

השתלטות לא רצויה של מישהו על כתובת ה-Gmail שלכם מסוכנת.

מי שאין אצלו חומות סיניות בין סיסמאות לאתרים עלול להיפגע יותר מאחרים.

לא רק הצטרפתי להמלצה אלא גם שיניתי את הסיסמה שלי.


קישורים לדוגמה




להזמנת הרצאה שלי "ליפול ברשת"? לא אני צרו איתי קשר באמצעות טלפון 054-4480616

יום חמישי, 28 באוגוסט 2025

היגיון של שופרות: יצחק רבין, בנימין זאב הרצל ומשה רבנו אשמים באסון ה-7 באוקטובר

למעלה: שופר איל של עדות אשכנז.
למטה: שופר קודו של יהדות תימן.. מקור התמונה: ויקיפדיה
הרשאת שימוש: 

נוצר על ידי:  User:Olve Utne, processing by User:MathKnight - File:Liten askenasisk sjofar 5380.jpg by User:Olve Utne File:Jemenittisk sjofar av kuduhorn.jpg by User:Olve Utne

בתאריך: 15.9.2015

ינון מגל הוא אחד השופרות ההזויים במיוחד של בנימין (ה-7 באוקטבור) נתניהו

מגל הוא זה שהעניק את הבמה בערוץ 14 לאביעד פריג'ה נער גבעות שהרג או רצח את עו"ד יובל קסטלמן

עו"ד קסטלמן ז"ל, ששרת בעבר במשמר הגבול, הרג מחבל שביצע פיגוע בטרמפיאדה בכניסה לירושלים. קצין ביחידה מובחרת חיסל מחבל שני. 

נער הגבעות פריג'ה, שגויס צה"ל לתפקיד לא קרבי, הרג את יובל קסטלמן. 

קסטלמן דיבר עברית. הרים את ידיו כדי להראות שאין בידו נשק. 

פריג'ה ירה בו ורץ לתכנית של ינון מגל בערוץ 14 על מנת להגיד ש"כל אחד רוצה לסמן X בקת הרובה שלו". 


אתמול התעלה מגל לשיא חדש. על פי פרסומים בעיתונות, הוא האשים את ראש הממשלה יצחק רבין ז"ל שנרצח בשנת 1995 באחריות לאסון ה-7 באוקטובר 2023. 

על פי אותו ההיגיון אפשר להאשים בכך גם את בנימין זאב הרצל ואת משה רבנו. 


זהו חלק ממסע מתמשך של נתניהו ומקורביו להעביר את האחריות של נתניהו לאסון הגדול ביותר במדינת ישראל (בינתיים. יכול להיות שממשלת נתניהו- בן-גביר תביא אסונות גרועים יותר) לאחרים.


זה התחיל במקורבים שרצו להטיל את האחריות של נתניהו על הרמטכ"ל לשעבר הרצי הלוי ועל ראש השב"כ לשעבר רונן בר, שלא ברחו מהאחריות לחלקם במחדל. 


נמשך באי-הקמת ועדת חקירה ממלכתית. הסיבה ברורה: האשם העיקרי הוא בנימין נתניהו, שכבר הודה בכך בעקיפין בדבריו על ראש הממשלה לשעבר אהוד אולמרט בועדת וינוגרד לחקירת מלחמת לבנון ה-2.


זה נמשך במינוי, ישראל כץ, לשר ביטחון פוליטי ללא הבנה בביטחון ועם עבר של חוסר שיתוף פעולה עם דרגים מקצועיים. 


נתניהו, המקורבים והשופרות פועלים באופן עקבי ומתמשך על מנת להנדס את תודעת הציבור כדי  שישכח מי האחראי העיקרי למחדל.


זה לא יעזור להם. נתניהו כבר נרשם בהיסטוריה כאשם העיקרי באסון הגדול בתולדות מדינת ישראל.


 

מדוע הפוסט הזה מופיע בבלוג על ניהול סיכונים?



מאחורי הרצון להטיל את האשמה על אחרים מסתתרת תרבות השקר שיצר נתניהו.

בתרבות השקר מה שלא מתאים למי ששיך אליה לא קיים. 

ברור שלא מתאים לבנימין נתניהו לקחת אחריות על חלקו, יש לומר הגדול, במה שקרה ב-7 באוקטובר ולהתפטר.

תרבות השקר היא סיכון גדול. 


הדוגמה הכי דומה שאני מכיר במדינת ישראל היא תרבות השקר של השב"כ בשנת 1984. 

מדובר בפרשת קו 300

אנשי שב"כ הרגו שני מחבלים שנתפסו חיים וניסו להטיל את האשמה על האלוף במילואים איציק מרדכי. מרדכי היכה את המחבלים על מנת להוציא מהם מידע, אבל אנשי השב"כ היו אלה שהרגו את המחבלים. את ההוראה להרוג אותם נתן ראש השב"כ אברהם שלום, שהיה שותף גם למאמצי הטיוח. 


לאחר תקופה של טיוח נמצאו שלושה בכירים אמיצים בשב"כ שחשפו את האמת במחיר של פגיעה בקריירה האישית שלהם. 


האם גם היום יהיו בכירים אמיצים שיחשפו את האמת?