האנשת מוצרי AI

 

Source: English Wikipedia 
 הרשאת שימוש:  

• CC BY 2.0

• Created: 15 May 2018
• TU Pictures from Geneva, Switzerland - https://www.flickr.com/photos/itupictures/27254369347/

אחד הסיכונים של מוצרי בינה מלאכותית, הוא שבגלל מודל השפה הגדול (LLM) ממנו נובעת יכולת הדיבור של אותם מוצרים, מייחסים להם תכונות אנושיות. 

בני אדם חושבים שהתוכנה או התוכנה והחומרה שמולם הם בן אדם ומתיחסים אליהם בהתאם. 

מקרה קיצון, הגובל בהונאה, היא הרובוטית סופיה שקיבלה אזרחות סעודית.  

מקרה אחר הוא של ילדה או נערה ישראלית, שאמרה להוריה בכל ערב לפני השינה: "אני לא הולכת לישון לפני שקלוד יגיד לי לילה טוב". 

גיקטיים מביא מחקר שערך דה וינטר, חוקר במעבדות מיקרוסופט. באמצעות המחקר ניסה להוכיח שמודלי ה-LLM אינם תבוניים. לטענתו אין להם תכונות אנושיות כמו אינטליגנציה וכוונות.

כל מה שעשה זה לקחת את המשחק Age of Empire 2. משחק בן 30 שנה. במשחק מופיעות עיזים, והממשק שלו הרבה פחות אלגנטי. באמצעות המחקר הזה נתמכה הטענה "שאם למודלי שפה גדולים יש תכונות אנושיות אז גם ל-Age of Empire 2 יש תכונות כאלה". 

לקריאת המאמר בגיקטיים לחצו: חוקר במיקרוסופט השתמש בעיזים ומשחק בן 30 כדי להוכיח שלמודל AI לא באמת איכפת מכם.