סוכני הבינה המלאכותית של ChatGPT יתר מסוכנים ממה שחשבתם.
כך עולה מהמאמר ב-YNET שאני מצרף אליו קישור. לקריאת המאמר: אחרי תקיפת הסייבר של OpenAI: "רוב החברות עדיין לא מבינות מה עומד לקרות".
המאמר מספר על תוכנות AI Agents שנבחנו.
על מנת להצליח במבחן ה-Agents יצאו מתוך סביבת הבדיקה הפנימית של המוצר לאינטרנט ותקפו מערכות מחשוב של חברת Hugging Face.
מטרת התקיפה הייתה השגת מידע שיעזור לסוכנים לעבור את המבחן הפנימי.
היציאה מסביבת הטסט הפנימית ל-Web נעשתה בניגוד להנחיות שקיבלו סוכני הבינה המלאכותית. על פי ההנחיות אסור היה להם לצאת מסביבת הניסוי הפנימית.
על פי המאמר הסוכנים התעלמו במכוון ממנגנוני ההגנה שלהם, שהיו אמורים למנוע יציאה לאינטרנט.
מנכ"ל חברת Hugging Face מדבר על 17 אלף ניסיונות תקיפה שהגיעו ממספר רב של כתובות IP.
מנכ"ל החברה המותקפת רואה בזה קריאת השכמה לקראת עולם אינטרנטי הרבה יותר מסוכן ממה שהיכרנו.
אין תגובות:
הוסף רשומת תגובה