האם אפשר לסמוך על חברת Open AI??

 

בפוסט שכתבתי על חברת Open AI, יצרנית ה-Bot הפופולרי ביותר ChatGPT, הערכתי שההסתברות שהיא לא תשרוד בשוק בעוד 10 שנים גבוהה. 

לקראת ההנפקה שלה בבורסה בארה"ב מתרבים הסימנים המדאיגים ביחס לאופן בו מתנהלת החברה. 

האם החברה מנסה להקטין את הסיכונים משימוש במוצר שלה?

אין ספק שהסיכונים של שימוש במוצרי GenAI גדולים במיוחד. 

עיון בבלוג הזה מציף אותם במספר רב של פוסטים. 

סיכון חמור במיוחד, שדווח לאחרונה, מתייחס ל-Agents של ChatGPT שפרצו לאתר אינטרנט של חברה אחרת למרות שהונחו לא לחרוג מארגז החול בתוך האתר של Open AI. 

כל חברה רצינית הייתה משקיעה יותר באבטחת מידע ובניהול סיכונים בהקשר של AI Agents ובהקשרים אחרים. 

על מה עשתה Open AI תוכלו לקרוא למשל בכתבה של ינון בן שושן באתר וואלה. כותרת הכתבה: בדרך להנפקה: Open AI פירקה צוות שעסק בסיכוני AI קטסטרופליים.

היא עשתה בדיוק ההיפך במטרה להשכיח את אירוע אבטחת המידע החריג והמדאיג על מנת שההנפקה תצליח.  

איבדתי את מעט האמון שהיה לי בחברה הזאת. 

צריך לזכור שההנפקה של חברת Open AI נדחתה בגלל החשש שהמשקיעים לא יתנו אמון בחברה שהאסטרטגיה שלה משתנה כל הזמן. 

בכתבה של ינון בן שושן מוזכרת עזיבה של בכירים בחברה העוסקים בנושאי אבטחה וניהול סיכונים. 

כותרת של כתבה ב-YNET בנושא עזיבות בכירים את החברה: רגע לפני הנפקת הענק: הכאוס בצמרת Open AI.

עזיבות בכירים את Open AI זו תופעה מתמשכת. 

מי שהייתה ה-CTO של החברה עזבה משום שאינה מאמינה בתפיסה של המוצר ופתחה Startup עם גישה אחרת לבינה מלאכותית. 

גם שניים מארבעת מייסדי החברה פרשו לפני כמה שנים. 

המממן העיקרי בתחילת הדרך איילון מאסק ומי שלדעתי ולא רק לדעתי, היה המקצוען מספר 1 בחברה איליה סוצקבר.