אולי הסיכון הגדול ביותר הוא אובדן שליטה בתוכנות AI וברובוטים מבוססי AI.
בהרצאת הזום שלי לא נגעתי בתסריט הקיצון של אובדן שליטה.
מאמר בו נתקלתי במסגרת ניסוי של השוואה בין כלי AI מתייחס לתסריט כזה.
זהו מאמר שצויין על ידי Gemini של חברת Google כאחד המקורות לתשובה שלו לשאלה שלי על סיכוני AI. זהו מאמר שנכתב בשנת 2015.
שם המאמר: Benefits & Risks of Artificial Intelligence.
תסריט הקיצון
כלי AI, כולל רובוטים, יהיו חכמים בהרבה מבני אדם. במצב כזה לא בני האדם ישלטו ברובוטים אלא רובוטים ישלטו בבני אדם.
המאמר טוען שאנו נוטים לחשוב, שתסריט כזה בלתי אפשרי משום שאנחנו יצורים חיים ורובטים הם מלאכותיים ונוצרים על ידנו.
כותב המאמר טוען שבני אדם שולטים בחיות שרמת האינטליגנציה שלהם נמוכה בהרבה משלנו.
הוא אינו רואה הבדל עקרוני בין מערכת היחסים בין רובוטים עתידיים חכמים בהרבה מבני אדם לבין מערכת היחסים בין בני אדם לבין חיות בית.
דעתי היא שאף לא אחד המבין בניהול סיכונים יכול לשלול היתכנות של תסריט כזה.
אין תגובות:
הוסף רשומת תגובה