9.8.2026 | מאת אייל מרקוס
OpenAI עצרה את הפיתוח של Astra, המודל הבא שלה, אחרי שבבדיקות פנימיות הוא הראה יכולות סייבר חזקות עד כדי כך שהחברה כבר לא יכולה לשלול שהוא מגיע לרמת הסיכון הגבוהה ביותר במסגרת הבטיחות שלה עצמה. זו הפעם הראשונה שזה קורה למודל של OpenAI.
מה זה "קריטי" לפי ההגדרה שלהם: מודל שיודע לאתר ולפתח לבד פרצות אבטחה בלתי מוכרות במערכות אמיתיות ומוקשחות, בלי מעורבות אנושית. לפי המסגרת שהם כתבו, ברמה הזו חייבים לעצור עד שיש הגנות מתאימות, וזה בדיוק מה שהם עשו.
אני חייב לתת קרדיט על זה, כי קל מאוד היה לשחרר ולהתנצל אחר כך. חברה שכותבת לעצמה כלל ואז באמת עוצרת בגללו כשזה עולה לה בכסף, זה לא מובן מאליו… ומצד שני, שווה לזכור שזה גם המודל שאותם אנשים בונים.
מקורות: OpenAI, The Decoder, PCWorld
רוצים את החדשות האלה פעם בשבוע במייל, עם ההקשר המלא? הניוזלטר השבועי Don't Panic.
