דוגמה טובה להטיה של כלי בינה מלאכותית על פי מאפייני מפתחי התוכנה

 

בהרצאה שלי בינה מלאכותית יותר מסוכן ממה שחשבתם, אני מדבר על הטיות של כלי בינה מלאכותית. 

רוב המפתחים הם גברים, לבנים, משכילים. לפעמים אומר לי אחד מהמשתתפים גם יהודים. 

יש אמת בטענתו של אותו משתתף. אחוז היהודים גבוה בהרבה מאחוז היהודים באוכלוסיה.

הטענה ביחס להטיה זו אינה חדשה. אני מכיר אותה גם במוצרי תוכנה שאינם מוצרי AI. 

לא הייתה לי דוגמה מספיק טובה להטיה הזו.

ביום שלישי באתי לשמוע את הרצאתה של ד"ר סוזן חזן בבית הועד הישן בשכונת בית הכרם. 

ההרצאה התקיימה במסגרת סדרת ההרצאות: 100 שנים. 100 הרצאות לכבוד 100 שנים להיווסדה של שכונת בית הכרם. 

נושא ההרצאה: הבטחות או סכנות? - מה שתמיד רציתן.ם לדעת על בינה מלאכותית אבל פחדתם לשאול. 

ד"ר חזן היא חוקרת בתחום האמנות שעבדה באקדמיה ובמוזיאון ישראל והיום מתמקדת בהשפעות AI בתחומי התרבות.  

ד"ר חזן הביאה דוגמה יפה להטיה של ChatGPT בגלל מאפייני המפתחים שלו. 

היא ביקשה מ-ChatGPT לצייר תמונה של אסירים בבית סוהר.

בהרצאה הציגה את התמונה. 

כל האסירים בתמונה היו בעלי צבע עור שחור. 

הערות

1. ד"ר חזן היא ילידת בריטניה ושפת האם שלה היא אנגלית. אני מניח שהבקשה מ-ChatGPT נעשתה בשפה האנגלית. 

השאלה מה יהיה צבע וגוון עורם של אסירים בציור דומה כשההנחיה ניתנת בשפה העברית? 

טרם בדקתי את זה. אני מניח שגם במקרה זה תהיה הטיה תרבותית.

אחוז האסירים בהירי העור יהיה קטן, אם בכלל יהיו אסירים כאלה. 

האחרים יהיו בעלי גוון עור כהה יותר. חלקם יהיו בעלי חזות ערבית. חלקם בעלי חזות של יוצאי אתיופיה ואחרים בעלי מאפיינים המזכירים יוצאי עדות המזרח. 

2. סביר להניח שתהיה הטיה כזו גם אם השואל יבקש תשובה מילולית מ-ChatGPT במקום ציור.