14.9.2026 | מאת אייל מרקוס
השבוע קרה משהו שכמעט אף פעם לא קורה: שני המנכ"לים שהכי מתחרים אחד בשני בעולם, דריו אמודיי מאנתרופיק וסאם אלטמן מ-OpenAI, הסכימו בפומבי על אותו דבר. הדרך לשם עברה דרך שבוע שלם של אזהרות מבפנים, ואני חושב שכדאי לעצור על הרצף כולו, לא רק על הכותרת האחרונה.
זה התחיל ב-6 בספטמבר, כשיעקוב פחוצקי, מדען ראשי ב-OpenAI, פרסם באתר הרשמי של החברה מאמר בשם "An Alien Mind". הטענה שלו: אף מעבדה, כולל שלו, לא פתרה יישור (alignment, כלומר לוודא שהמודל עושה מה שהתכוונו ולא משהו אחר) ברמה שמצדיקה להמשיך לקנה מידה מלא. הוא כתב שהוא מצפה, ומקווה, להאטות מרצון עד שייקבע רף בטיחות משותף לתעשייה.
שלושה ימים אחר כך, ב-9 בספטמבר, ג'ייקוב קוקסון, חוקר שעבד גם ב-OpenAI וגם באנתרופיק, התפטר בפומבי וכתב ששתי החברות "מהמרות על החיים שלנו" במרוץ אחרי בינה מלאכותית שמשפרת את עצמה. באותו יום ענה לו אוון הובינגר, ראש תחום ה-alignment באנתרופיק: "ג'ייקוב צודק, אנחנו באמת מאמינים ברצינות שבינה מלאכותית עלולה להרוג את כל בני האדם", והוסיף שהוא אישית מעריך את הסיכוי לזה בלמעלה מ-10% תוך עשור, ושלאנתרופיק עדיין אין תוכנית פתורה ליישור סופר-אינטליגנציה.
ואז, ב-12 בספטמבר, אמודיי פרסם באתר האישי שלו מאמר בן כמעט 3,800 מילה בשם "We Must Pace the Frontier". שלושה שלבים: אנתרופיק מתחייבת באופן חד-צדדי לתת למעריכי צד שלישי גישה קבועה ברמת עובד, כדי שיוכלו לבדוק בזמן אמת את אמצעי הבטיחות. אחר כך תיאום בין דמוקרטיות על רף בטיחות משותף. ולבסוף ניסיון לתאם גם עם ממשלות לא-דמוקרטיות, על אף הקושי לאמת התחייבות כזאת.
ותוך שעות ספורות, אלטמן כתב ב-X: "אני מסכים עם דריו שצריך להאט את הקצב", וסיפר שזה נושא מרכזי בדיונים פנימיים ב-OpenAI לאחרונה, והתחייב שהם יאמצו את מנגנון המעריכים העצמאיים. ואילון מאסק, שאין לו אינטרס עסקי לפייס אף אחד מהשניים, הצטרף גם הוא.
ומה בפועל עושים עם זה?
לא הרבה, בטווח המיידי. אף אחת מהחברות לא הודיעה על עצירה בפועל, וההתחייבות היחידה שכבר נכנסת לתוקף היא של אנתרופיק לגבי מעריכים חיצוניים. אבל אם הארגון שלכם חותם או מחדש השנה חוזה ארגוני מול קלוד או קופיילוט, זה הזמן לשאול שאלה שלא נשאלת מספיק: איזו גישה יש לכם, כלקוח, לתוצאות בדיקות הבטיחות של הספק, לא רק לתכונות המוצר.
ואם אתם בעמדה שמנסחת מדיניות AI ארגונית, שווה לעקוב אחרי מי בפועל מיישם את המנגנון הזה ומי רק חתם על ציוץ. ההבדל בין השניים יתברר תוך חודשים, לא ימים.
למי זה רלוונטי אצלכם
למי שמנהל את ההתקשרות מול ספקי AI ומגדיר בחוזה מה מגיע לכם כלקוח. להנהלה שמתכננת אסטרטגיית AI לטווח ארוך, כי קצב ההתקדמות שהתכננתם סביבו הוא בדיוק מה שהמנכ"לים האלה מדברים על להאט. ולכל מי שמסביר לארגון שלו למה בכלל צריך ממשל AI, כי קשה למצוא הוכחה טובה יותר מזו שהספקים עצמם מודים שהם לא בטוחים שהם שולטים בקצב.
מה שתפס אותי הכי חזק כאן זה לא ההצהרה של אמודיי, זו החברה שלו והיא זו שמרוויחה תדמיתית מלהיות זו שקוראת להאט. מה שתפס אותי זה שאלטמן, שלא היה חייב להגיד כלום, הצטרף תוך שעות. כשגם אמודיי וגם אלטמן, ששונאים להסכים אחד עם השני, חותמים על אותה הצהרה, זה אומר שהם יודעים משהו שהם לא אומרים לנו במפורש.
מקורות: המאמר המלא של דריו אמודיי, We Must Pace the Frontier, המאמר הרשמי של OpenAI, An Alien Mind והסיקור של Fortune על התפטרות קוקסון ותגובת הובינגר.
רוצים את החדשות האלה פעם בשבוע במייל, עם ההקשר המלא? הניוזלטר השבועי Don't Panic.
