ב-31.7.25 הרציתי במוטקה לגילאי 50 פלוס על סיכוני בנייה מלאכותית - האם אנחנו בבועה?
על פי הפידבק של המשתתפים בהרצאה, ההרצאה הייתה מעניינת, חשובה ומועילה.
אשמח להרצות אותה במסגרות נוספות באופן פרונטלי או באופן מקוון.
המעוניינים מוזמנים לפנות אלי בטלפון 054-4480616 או באמצעות דוא"ל: avi.rosenthal@gmail.com.
לאחר סיום ההרצאה עניתי לשאלות. לחלק מהשאלות וההערות שנכתבו ב-Chat של Zoom לא הספקתי לענות.
החלטתי להתיחס אליהן בפוסט זה.
ההערות והשאלות מופיעות כפי שנכתבו. מטעמי שמירה על פרטיות המשתתפים השמטתי את שם המעיר או השואל.
לצפייה להקלטה קודמת של ההרצאה (בהרצאה ביום חמישי היו תוספות שלא מופיעות בהקלטה).
סיכוני בינה מלאכותית - האם אנחנו בבועה?
שאלות
1. "תוכנה של אילון מאסק האם התמיכה בהיטלר ימ"ש שתולה על ידי הנטיה של המפתח?
מדובר בבוט Grok ברשת החברתית X. אינני יודע מה הנטיה של המפתח ונטיה של מי זה משקף.
אני יודע שאילון מאסק הוא מנהל מאוד ריכוזי, הוא מתנגד קיצוני להגירה לארה"ב ולגיוון תעסוקתי.
אני גם יודע, על פי עדותו העצמית של מאסק, שהוא סובל מתסמונת אספרגר, כלומר: אוטיזם ברמת תפקוד שכלית גבוהה.
אינני מומחה לאוטיזם אבל למי שיש לו אוטיזם עשוי להיות קושי בקריאת מצבים חברתיים.
2. "AI יחליף עובדים ברמת מתמחים בראיית חשבון"
בהחלט עשוי להתרחש. לא בטוח שרק מתמחים. בכל מקרה הייתי ממליץ שמומחה בתחום יעבור על התוצר של תוכנת ה-AI ויוודא שהוא נכון. יכולה להיות תועלת בקיצור זמן ביצוע תהליכי הפקת דוח שנתי או דוח אחר. גם אם מוצר AI יבצע את זה ומומחה יבדוק זה עשוי להיות תהליך קצר יותר וזול יותר, בהשוואה לאי-שימוש ב-AI.
3. "איך התוכנה בודקת עבודה שמגישים לה?"
אני מניח שהיא קוראת אותה כמו בודק אנושי ומעריכה את התשובות בהשוואה לקריטריון שבחרה.
כנראה שהיא תהיה פחות מוטה מחלק מהבודקים האנושיים. כמתרגל באוניברסיטה העברית יכולתי לנחש לפי כתב היד וסוג העט מי הסטודנט או הסטודנטית (הגישו לי תרגילים לבדיקה). אני ניסיתי לא להיות מוטה למרות שניחשתי לפעמים במי מדובר.
4. "איך באוניברסיטאות מטפלים בעבודות שנכתבו על ידי בינה מלאכותית? (שתי שאלות זהות בניסוח שונה)
אני לא יודע. זו שאלה חשובה. אני מניח שכפי שמטפלים בהעתקות אחרות.
ראשית, צריך לתפוס את המעתיק או המשתמש בעבודה שנוצרה לא על ידו.
אם תופסים, כל מוסד אקדמי פועל לפי הכללים שלו. הטווח נע בין פסילת העבודה לבין הפסקת לימודים לתקופה.
5. האם הקורסים השונים ללמודי AI הם לא בוסריים ויתפתחו בהמשך כמו באינטרנט?
לא מספיק מכיר את הקורסים. הרושם שלי הוא שבגלל שמדובר בשלב התפתחות מוקדם (Hype) בו אין תקנים ברורים לתכני קורסים ובגלל שיש אנשים וארגונים "התופסים טרמפ" על נושא חם יהיו פערים גדולים בין קורסים שונים. תנסו לבחור בקפידה קורסים.
זה מזכיר לי את שנות ה-70 בהן למדתי תכנות מחשבים וראיתי פערים אדירים בין קורסים שונים.
למידע נוסף קראו: קיצור תולדות ההעתקה - Revisited.
6. "האם יש חשש ב AI של פייק ואיוקים?"
לא הבנתי מה זה "איוקים". כנראה אי-דיוקים. בוודאי שיש חשש כזה ויש מקרים כאלה. הבאתי כמה דוגמות ל-Fake בהרצאה.
9. "איך מגיעים לבלוג שלך?"
בארבעה מחמשת הבלוגים שלי התייחסתי ל-AI.
מצורפים שמותיהם והקישורים אליהם
בלוג על ניהול סיכונים: Risk and Crisis
בלוג על כלכלת המשפחה: לכלכל בתבונה
בלוג אישי: הישורת האחרונה - לאו דזה וזקנים אחרים
בלוג על מחשבים (באנגלית): SOA filling the Gaps
10. "מה שם הבלוג שלך הברידג'?"
התייחסויות
1. "נושא חשוב"
מסכים לגמרי.
2. "לבנים משכילים והרבה יהודים"
ההערה הזו מתיחסת לשקף שבו ציינתי שתוכנות AI עשויות להיות מוטות לכיוון אוכלוסייה שממנה באו מרבית המפתחים. זה נכון גם כשלמפתח אין כוונה להטות.
ציינתי שהמפתח הטיפוסי הוא גבר, לבן, צעיר ומשכיל.
לא בדקתי את שיעור היהודים בקרב המפתחים. לא אתפלא אם ההערה הזו נכונה ושיעור היהודים בין המפתחים גבוה משיעור היהודים באוכלוסייה.
3. "הוכחה בניסויים בפסיכולוגיה הטיה כמו של אלטמן"
סם אלטמן הוא מנכ"ל חברת OpenAI שפיתחה וממשיכה לפתח את ChatGPT. הוא צעיר, משכיל ולבן. בהמשך לשאלה הקודמת הוא גם יהודי.
ברור שהוא משתייך לאוכלוסייה המייצגת מפתח AI טיפוסי.
מההיכרות שלי עם ניסויים בפסיכולוגיה התוצאות של הניסויים עשויות להיות מוטות לכיוון שמבצע המחקר חשב שהן יהיו. אני, וכנראה גם השואל, מתייחס להטיות ללא כוונה לבצע הטיה.
חוקר ידוע במיוחד בתחום הזה היה רוברט רוזנטל.
4. "אתה ממש מדכא משהו חיובי לסיום?" "זה שיעור לדיכאון"
אני מתאר סיכונים, אבל הזכרתי גם את הערך הגבוה והפוטנציאל הגבוה עוד יותר של בינה מלאכותית.
לא הטפתי לאי-שימוש בבינה המלאכותית.
הצעתי להיות מודע לסיכונים ולא לקבל באופן אוטומטי אמירות ומסקנות של כלי בינה מלאכותית.
5. "כל כלי נשק מימי האדם הקדמון שימשו גם להתקפה וגם להגנה"
אני חולק על הטענה. היו כלי נשק כמו מגן שתפקידם רק להגן. גם טילי "כיפת ברזל" היום בישראל.
הטענה האמיתית היא שבאותה טכנולוגיה אפשר להשתמש למטרות טובות ולמטרות הרסניות. במקרה של AI, למשל באותה טכניקה אפשר לבצע Deep Fake למטרות רעות והנצחה דיגיטלית למטרות טובות.
6. "יש המון דברים חיוביים - אבל הסה"כ מסוכן והם עלולים להשתלט על העולם ועלינו... אולי לטובה ... אנחנו ממילא היצור הכי אכזרי על כדור הארץ - לא רק לסביבתו - חיות וצמחים אלא גם אחד על השני ועם לעם - בדיוק כפי שקורה שוב היום"
הסיכון הגדול ביותר הוא שרובוטי בינה מלאכותית יותר מפותחים מבני אדם יחליטו להשמיד את בני האדם. מצאתי את הסיכון הזה במאמר שפורסם לפני 10 שנים והקישור ניתן לי על ידי Gemini כלי ה-AI של Google.
7. "בינה מלאכותית מסייעת מאוד ברפואה ע"י ניתוח נתונים רבים"
נכון. לא רק ברפואה. יש גם כלי ניתוח נתונים ממוחשבים שעשו את זה בלי להיות כלי בינה מלאכותית מסוג Generative AI אבל הם אינם מסוגלים לנסח את המסקנות שלהם בשפה טבעית.
8. "גם בעצות רפואה אישיות. ניסיתי. קיבלתי תשובות ולבסוף גם אזהרה -= פני גם לרופא"
אני ממליץ על Second Opinion גם כאשר הרופא הוא רופא אנושי ויש לכם ספק או חשש שהוא טועה. קל וחומר כשמדובר בכלי AI.
אגב, אפשר לשאול את אותה שאלה גם שני כלי AI ולקבל מכל אחד דעה שונה.
נכון למצב היום אני ממליץ לא לקבל החלטות רפואיות על סמך כלי AI בלי לקבל חוות דעת של רופא אנושי.
9. "אבל כמו שאמר המרצה - גם בבתי חולים אפשר להתשמש בזה לרעה"
נכון ולא רק ברפואה. אפשר לתכנת כלי AI על מנת לפגוע במזיד.
10. "אמינות של צילומים היום היא 0 !!! כבר הרבה זמן. כבר לפני שלושים שנה אפשר היה להפוך תמונת יום לאותה תמונה בלילה בלחיצת כפתור בלבד וכו וכו - למדתי אז גרפיקה ממוחשבת... לא מאמינה שבבתי משפט עוד מסתמכים על צילומים"
אינני מומחה לצילום. אני יודע שגם ללא AI ניתן לשנות צילומים כפי שכתבה הגברת.
כנראה שלא קל לתפוס צילומים משני מציאות.
11. "תודה על ההרצאה המאלפת" "
"תודה רבה, הרצאה מעניינת וחשובה"
"להרצאה יש טעם של "עוד""
"תודה רבה,מרתקקק"
"תודה רבה . הרצאה מעולה"
"תודה רבה !!! על כל ההפחדות שלא ניפול בהם 🍄"
"תודה להרצאה מרתקת ומרחיבת אופקים מאוד"
אין תגובות:
הוסף רשומת תגובה