יותר משנתיים אני עוסק בסיכוני בינה מלאכותית. בהתחלה צוחקים ממני ואחרי זה בוכים או שהבכי יגיע מאוחר יותר, אם יהיה מי שיוכל לבכות.
זה התחיל בבועת ה-AI שהזכרתי כבר בהרצאה הראשונה שלי.
היום אני לא היחיד שחושב שיש בועת AI.
זה נמשך בסיכון לאיבוד שליטה בבינה המלאכותית, שמתרחש כל הזמן ורק מעצים.
חלק מאובדן השליטה הוא גם החשש מהשמדת האנושות על ידי הבינה המלאכותית.
זה נמשך בפגיעה קוגניטיבית בגלל שימוש לא נכון ב-AI.
ג'קוב קוקסון
ג'קוב קוקסון עבד ב-OpenAI אחרי זה עבר ל-Anthropic.
הוא פרש מ-Anthropic משום שחשב שהבינה המלאכותית עלולה לגרום להשמדת האנושות תוך עשר שנים.
התבשרנו מהר מאוד שג'קוב קוקסון צודק כשאמר שגם אחרים בתעשייה הזו חושבים כמוהו.
זה הוביל הצהרה של דריו אמודיי, מנכ"ל Anthropic, סם אלטמן מנכ"ל OpenAI ואיש פחות מרכזי בתעשייה הזו, איילון מאסק, שהם יאטו את קצב הפיתוח כדי להיערך להתמודדות עם הסיכונים.
ההרצאה הראשונה שלי על סיכוני בינה מלאכותית
לפני שבניתי את ההרצאה שלי על סיכוני בינה מלאכותית, השתמשתי בשני כלי בינה מלאכותית על מנת שיגידו לי מה הם הסיכונים לדעתם?
ביקשתי מהם לצייין מקורות לדעתם.
אחד המכלים ידע גם להכין מצגת. לצערי זה כנראה הדבר המשמעותי היחיד שהוא ידע בהקשר של סיכוני בינה מלאכותית.
אותו כלי נתן לי מצגת מסוג Garbage in garbage out.
הבנתי מדוע הוא בחר להתעלם מהבקשה שלי לציין מקורות.
Gemini AI של חברת Google עשה עבודה יותר טובה.
הוא העלה לא מעט סיכונים, ציין את סוגי המקורות עליהם הסתמך וציין כמה מקורות ספציפיים באמצעות כתובות URL.
יכולתי לבנות מצגת טובה גם בלעדיו אבל יכולתי גם להיעזר בכמה רעיונות שהוא העלה.
קראתי כמה מקורות שהוא הסתמך עליהם ובאחד מהם גיליתי סיכון חמור שהופיע שם ומוצר ה-AI לא ציין אותו.
לסיכון הזה קוראים השמדת האנושות.
מהר מאוד גיליתי שאני והמקור לא לבד: יש גם מומחים גדולים ממני שראו את הסיכון הזה.
הוספתי גם את הסיכון הזה למצגת שלי. הצגתי אותו כמקרה קיצון של איבוד שליטה.
יכולתי כבר אז להביא הרבה דוגמאות קיצוניות פחות של איבוד שליטה ועשיתי זאת. כמות הדוגמאות
ומידת העוצמה שלהן רק גדלו והגיעו לשיא במקרה של ה-AI Agents של OpenAI שפרצו לאתר של Hugging Face ולאתר נוסף.
השוויתי בין עולם הרובוטים של הסיפורים של איזיק אסימוב שבו יש חוקים, לעולם ה-AI הנוכחי חסר החוקים והרגולציה המספקת.
עולם ניהול סיכוני AI ועולם הרגולציה של AI מתקדם הרבה יותר לאט מהחידושים בתחום.
המשמעות היא הגדלה לא מידתית של סיכונים.
להזמנת הקורס שלי על סיכוני AI התקשרו לטלפון: 054-4480616
פרטים על נושאי השיעורים בקורס:
אין תגובות:
הוסף רשומת תגובה