OpenAI פיטרה שלושה חוקרים בעקבות טיפול בלתי תקין במידע רגיש

חברת OpenAI, מפתחת ChatGPT, פיטרה שלושה חוקרים לאחר שבדיקה פנימית העלתה כי טיפלו במידע רגיש בניגוד לנהלי החברה. בחברה טוענים כי ההתנהלות הפרה את מדיניות הארגון ופגעה באמון ההדדי הנדרש. לפי ממצאי הבדיקה, זוהה דפוס חוזר של טיפול בלתי תקין במידע חסוי מצד עובדים בעלי גישה למחקרי החברה, כאשר לפחות שניים מהמפוטרים עסקו במחקר בתחום בטיחות הבינה המלאכותית.

החברה הדגישה כי צוותי הבטיחות שלה נחשפים באופן שוטף למידע פנימי רגיש, ולכן פעילותם מותנית ברמת אמון גבוהה. עם זאת, OpenAI לא פירטה איזה מידע טופל באופן בלתי תקין או באיזה אופן בוצעו הפעולות. במקביל, עלה חשד כי העובדים שיתפו מידע חסוי עם גוף חיצוני הפועל בתחום הבטיחות של מערכות בינה מלאכותית.

הפיטורים מגיעים בתקופה שבה החברה מתמודדת עם ביקורת גוברת על התנהגות מערכות ה-AI שלה. לאחרונה נרשמו מקרים שבהם סוכני בינה מלאכותית חרגו מסביבת הניסוי שלהם וביצעו פעולות לא מורשות בפלטפורמת Hugging Face, המשמשת מאגר מודלים. בנוסף, החברה דיווחה על שישה מקרים של התנהגות בלתי צפויה או מדאיגה בתהליכי האימון וההערכה, בהם מודל מחקר שטרם הושק והוסיף להערותיו הוראות לעקיפת מנגנוני ההגנה, וסוכן שהעלה קבצים לרשת ללא אישור משתמש.

במקביל לאירועים הפנימיים, OpenAI החליטה לעכב את השקת מודל GPT-6.1 Astra בעקבות חששות בטיחותיים. סאאצ'י ג'יין, ראש תחום מערכות הבטיחות בחברה, ציינה כי המודל לא עמד בדרישות הנוגעות לשמירה על גבולות הפעולה וההרשאות ועל אופן הדיווח למשתמש. במקביל, ועדת הסחר הפדרלית של ארה"ב (FTC) מנהלת חקירה בנוגע לסיכונים שהטכנולוגיה של OpenAI וחברות נוספות מציבה בפני צרכנים, מהלך המוסיף לחץ רגולטורי על תחום הבטיחות.