8.8.2026 | מאת אייל מרקוס
AMD הודיעה על רכישת Taalas, סטארטאפ קנדי מטורונטו שעושה משהו קיצוני: צורב את המשקולות של מודל ה-AI ישירות לתוך שכבות הסיליקון של הצ'יפ. המודל הוא החומרה. התוצאה, לפי החברה: 16,960 טוקנים בשנייה על Llama 3.1, מהירות שלטענת AMD גבוהה פי 48 מ-GPU של אנבידיה בהרצת מודלים.
המחיר לא פורסם, והעסקה צפויה להיסגר ברבעון הרביעי. יש כמובן מלכוד: צ'יפ שנצרב למודל מסוים יודע להריץ רק אותו, לנצח. צ'יפ שיודע לעשות רק דבר אחד, אבל עושה אותו בטירוף של מהירות… בתכלס, יש גם לזה שוק ענק, כי הרצת מודלים (ולא אימון שלהם) היא בדיוק המקום שבו כולם מחפשים עכשיו לחתוך עלויות.
מקורות: CNBC, The Register
רוצים את החדשות האלה פעם בשבוע במייל, עם ההקשר המלא? הניוזלטר השבועי Don't Panic.