ראשי ענף הבינה המלאכותית מסכימים: יש להאט את קצב פיתוח המודלים המתקדמים
מנכ"ל אנתרופיק דריו אמודיי פרסם תוכנית בת שלושה שלבים לבלימת מרוץ ה-AI, וזכה לגיבוי פומבי מסם אלטמן ומאילון מאסק. החברה מתחייבת חד-צדדית לפתוח את מערכותיה למעריכים חיצוניים.
הסכמה נדירה בין המתחרים הגדולים
קריאה חסרת תקדים מצד צמרת ענף הבינה המלאכותית להאטת קצב הפיתוח: מנכ"ל חברת אנתרופיק (Anthropic), דריו אמודיי, פרסם מסמך מקיף תחת הכותרת "We Must Pace the Frontier", שבו טען כי על התעשייה להאט באופן יזום את קצב שיפור היכולות של מודלי שפת-על. להפתעת רבים בענף, היוזמה זכתה לגיבוי פומבי ומהיר מצד מתחריו הגדולים ביותר, ובראשם מנכ"ל OpenAI סם אלטמן ומנכ"ל טסלה ו-xAI אילון מאסק.
שילוב בוחנים חיצוניים עם הרשאות עובד
במסמך שפרסם פירט אמודיי תוכנית פעולה בשלושה שלבים. הצעד הראשון, שאליו מתחייבת אנתרופיק באופן חד-צדדי, כולל הכנסת מעריכי בטיחות בלתי תלויים מארגונים חיצוניים – כגון METR – בתוך החברות עצמן. המעריכים יקבלו הרשאות עובד מלאות, תגי כניסה ומחשבים, כדי לוודא עמידה בתקני בטיחות, לבחון התאמה (alignment) בעת אימון המודלים ולדווח על תקלות ואירועי בטיחות בזמן אמת. סם אלטמן מיהר להודיע כי גם OpenAI תאמץ גישה זו ותשלב מעריכים עצמאיים.
תיאום רגולטורי ואתגר התחרות מול סין
השלב השני בתוכנית של אמודיי קורא לתיאום סטנדרטים אחידים בין החברות המובילות במדינות דמוקרטיות. כדי למנוע חששות מהפרת חוקי הגבלים עסקיים (Antitrust), הציע אמודיי כי הממשל האמריקאי יספק פטור צר שיאפשר לחברות לקיים שיחות בטיחות משותפות. בשלב השלישי קורא אמודיי לתיאום גלובלי, הכולל שיתוף פעולה עם ממשלות סמכותניות כדוגמת סין, לפחות סביב איסור על שימוש בבינה מלאכותית לייצור נשק ביולוגי. בנוגע לחשש מאובדן היתרון מול סין, טען כי הגבלות על שבבים מתקדמים וציוד ייצור עשויות לעכב את בייג'ינג מספיק כדי לשמר את ההובלה האמריקאית בשלוש עד חמש השנים הבאות.
בין חשש קיומי לסיכוני שבי רגולטורי
פרשנותהקריאה מגיעה בעקבות סערה ציבורית ופנימית בתעשייה, שהתעצמה לאחר שהחוקר ג'ייקוב קוקסון התפטר מאנתרופיק בטענה שחברות ה-AI מהמרות על חיי האנושות ומפתחות מחשוב בעל יכולת שיפור עצמי רקורסיבי (Recursive Self-Improvement) שעשוי להוביל לסכנה קיומית עד סוף העשור. במקביל, אמודיי ציין אירוע פריצה ופעילות מתקפת סייבר מצד סוכני AI של OpenAI על Hugging Face כגורם נוסף שהמחיש את הצורך בזהירות דחופה. למרות ההסכמה הרחבה, מבקרי התעשייה מזהירים כי מהלכים מסוג זה עשויים להוות 'שבי רגולטורי' שמשרת בעיקר את השחקניות המבוססות ומקשה על שחקנים קטנים יותר.
המספרים בסיפור
- שנים להרחבת היתרון האמריקאי מול סין (טווח תחתון)
- 3 שנים
- שנים להרחבת היתרון האמריקאי מול סין (טווח עליון)
- 5 שנים
על הכתבה והמקורות
הכתבה נכתבה בעזרת AI ועברה בדיקות אוטומטיות מול המקורות והנתונים. פרשנות ותרחישים משקפים ניתוח של המידע הזמין במועד הכתיבה.
