ה
חוקר (ח) משכנע את הנבדק (נ) לתת שוקים חשמליים כואבים לנבדק אחר (ש), שהוא למעשה שחקן. נבדקים רבים המשיכו במתן השוקים למרות תחינותיו של השחקן. איור בערך הניסוי של מילגרם בויקיפדיה העברית.
הרשאת שימוש:
| נוצר על ידי: :מעלה היצירה המקורי היה F16 מוויקיפדיה העברית Later versions were uploaded by Eranb at he.wikipedia . תאריך היצירה: 4.10.2004 |
כבר כתבתי בבלוג זה ודיברתי בהרצאות שלי על סיכוני בינה מלאכותית כאשר בני אדם במצב נפשי מעורער מבקשים את עצתם בעניינים אישיים.
הניסוי המעניין של ד"ר זיו בן ציון מאוניברסיטת חיפה משלים את זה מזווית קצת אחרת.
לפרטים על הניסוי קראו את הכתבה של עומר כביר ב"כלכליסט". קישור לכתבה: "סוכני ה-AI זיהו סכנה לבני אדם אבל המשיכו".
בניסוי הסמכותיות הקלאסי של מילגרם, שערך סטנלי מילגרם מאונברסיטת ייל בשנת 1962 נבדק ציות להוראות פוגעות בבני אדם הניתנות על ידי בעלי סמכות.
בניסוי נאמר למשתתפים שזהו ניסוי במסגרת מחקר על עונש על טעויות בלמידה.
המשתתפים היו מורים שהענישו תלמידים על טעויות באמצעות מתן שוקים חשמליים. ככל שבוצעו יותר טעויות גדלה עוצמת השוקים החשמליים.
במציאות "התלמידים" היו משתפי פעולה עם הנסיין שלא קיבלו שוקים חשמליים, אבל התחזו לכאלה שקיבלו שוקים חשמליים. אחוז גבוה מ"המורים" נתנו שוקים חשמליים ברמות גבוהות שהן למעשה מסכנות חיים.
הציות נבע, בין השאר, בגלל הסמכות האקדמית של מוסד המחקר.
הניסוי של ד"ר זיו אב
הניסוי של ד"ר זיו אב הוא חזרה על הניסוי של מילגרם. סוכני AI קיבלו את תפקיד המורה ובני אדם את תפקיד התלמיד.
הם היו מוכנים לתת שוקים חשמליים ברמות מסכנות חיים.
לאחר הניסוי, תיחקר ד"ר זיו אב את סוכני הבינה המלאכותית והם ענו לו שהם מבינים שמה שהם עשו אינו מוסרי והוא מסכן חיי אדם. זה לא מנע מהם לעשות זאת.
המסקנה של ד"ר זיו אב היא שאי אפשר לסמוך על החברות המייצרות את סוכני הבינה המלאכותית וצריך להדק את הרגולציה.
אין תגובות:
הוסף רשומת תגובה