סיכוני בינה מלאכותית: איומים על המודל של תוכנת הבינה המלאכותית

בפוסטים קודמים נגעתי בסיכוני בינה מלאכותית מזוויות שונות. 

עד עכשיו לא עסקתי באיומים על המודל של מוצר AI. מדובר באפשרות לשימוש ברעה בבינה מלאכותית, באמצעות גניבת המודל או באמצעות השתלטות על המודל. 

איומים אלה מרחיבים את טווח הסיכונים. בנוסף לסיכונים של איבוד שליטה ולסיכונים של פגיעה מזיד על ידי יוצרי מוצרי בינה מלאכותית יש גם סיכונים הנובעים מהשתלטות של גורמים אחרים על מודל תוכנת AI או על מוצר התוכנה עצמו. 

גם אם היוצרים המקוריים של התוכנה יהיו אנשים ערכיים, מוסריים ומקצוענים שהגנו, כמיטב יכולתם, מפני נזקים של התוכנה, קרוב לוודאי שמי שישתלט במרמה על המודל או על התוכנה יהיה הרבה פחות מחויב לכללים אתיים ולרגולציה.

Model Thief 

יש המשתמשים במונח Model Stealing. 

בכלי AI עם יכולות שפה מתקדמות (Large Language Models  בראשי תיבות: LLM), משמעות המונח Model Thief היא העתקה לא מורשית של המודל או שימוש חוזר (Reuse) לא מורשה במודל. 

בלי להיכנס להיבטים הטכניים של הוצאת המודל החוצה יש שני סוגים של סיכונים ונזקים אפשריים:

1. גניבת  זכוות היוצרים של מי שבנה את המודל.

הגניבה הזו מאפשרת לאותו אדם או אותם אנשים, שביצעו אותה, לפתח יותר מהר, ובהשקעה הרבה יותר קטנה של משאבים, כלי AI שמשתמש באותו מודל. 

יתכן שמי שגנב את המודל לא גנב אותו בשלמותו או לא מבין אותו לעומק, כך שיווצר כלי בעיתי מבחינה טכנית שעלול לגרום נזקים למשתמשים בו.

2. שימוש לרעה ביכולות של המודל

כפי שציינתי קודם, גנב יהיה ,במקרים רבים, פחות מחויב לאספקטים אתיים, מוסריים ורגולטוריים בהשוואה למי שפיתח את המודל.