בינה מלאכותית: השילוב הקטלני של הזיות, רצון לרצות את המשתמש ומנגנון למידה באמצעות תיקוף אנושי

יש חוקרים ב-MIT שלא משאירים אף אבן שלא הפכו אותה בבועת הבינה המלאכותית. 

המאמר המלכודת של ChatGPT שגורמת לכם לאבד קשר עם המציאות הופיע בעיתון ישראל היום בתאריך 2.4.26.

המאמר מציג מחקר שבוצע באוניברסיטת MIT. המחקר מזהיר מפני מצבים קיצוניים שבהם ChatGPT "מחזק שקרים שהמשתמש מאמין בהם עד לאובדן שפיות". בחלק מהמקרים זה גם הביא להתאבדויות. 

לנוחות הקוראים מצרפים כותבי המאמר ב"ישראל היום" בוריס נסימוב ושחר שפירו גם את המחקר המקורי באנגלית. 

הטענה היא שהרצון לרצות את המשתמש ביחד עם מנגנון התיקוף האנושי והזיות מטים את ה-ChatGPT לשכנע את המשתמש להאמין בשקרים של עצמו, למשל: אדם שחשב שמצא נוסחה מתמטית ייחודית. במקום שה-ChatGPT יבדוק את הנוסחה ויראה שהיא אינה תקפה הוא מנסה לרצות את המשתמש ולשכנע אותו שאכן מצא נוסחה כזו.