מלחמת עזה ו-AI: כשלון גדול, הרבה הצלחות והקשר לקטאר
29 באוקטובר, 2023 |
הייתי, ואני עדיין, באבל, כמו המדינה כולה (וגם הישראלים והיהודים בחו״ל).
ברגע שהכרחתי את עצמי טיפה לחקור את הקשר בין AI לחלום הבלהות שכולנו בתוכו, מצאתי דברים מעניינים.
הכישלון הגדול: הטכנולוגיה נכשלה בענק (גם היא) בפרוץ המלחמה הזו. ויש פה שיעור חשוב לכולנו.
ההצלחות: כלים לזיהוי פנים שמצאו נעדרים, כלי להדהוד פוסטים חיוביים, כלי לכתיבת תגובות לפוסטים באמצעות ChatGPT ועוד ועוד.
פייק ניוז: סיפורים הזויים של פייק ניוז, וסכנה חדשה – זיהוי תמנות אותנטיות כפייק. פייק פייק ניוז אם תרצו.
חייבים להחזיר את החטופים והחטופות, כמה שיותר מהר.
זה לא קשור לכל מה שכתבתי, אבל זה הדבר הכי חשוב שיש כרגע.
אם יצא ניוזלטר ולא קראו אותו, האם הוא יצא באמת?
תעשו פורוורד לחברים וחברות שיתעניינו במה שקראתם.
שלושה דברים גדולים
הכשלון ולקחו
בתחקירון שעשיתי על השימוש ב-AI במלחמה נתקלתי בידיעה מפתיעה.
ב-27 לספטמבר, כשבוע לפני השבת השחורה, אירחו הרמטכ״ל והנשיא את יו״ר הוועדה הצבאית של נאט״ו. הגנרל רוברט באוור מנאט״ו בא כדי לראות את הגדר הפיזית והטכנולוגית שחצצה בינינו לבין עזה, ולשמוע על פתרונות ה-AI, ה-Drones, מערכות הזיהוי ושאר הטכנולוגיות.
באמת.
הוא בא ללמוד על החדשנות שלנו בגבול עם עזה.
ישראל נחשבת לאחת מחמשת המדינות המתקדמות בעולם בפיתוחי AI.
הצבא שלנו נחשב לאחד המתקדמים טכנולוגית בעולם.
הכל קרס ב-7.10, מערכות ה-AI, המצלמות והרחפנים לא הצליחו לתת לנו התראה מספקת. תחשבו מה התראה של עשר דקות יכולה היתה לעשות בישובים שמסביב.
סדרה שלמה של כשלונות אפפו את הזוועות של אותה שבת, והטכנולוגיה ביניהן.
ואולי אפילו ההיפך – ההסתמכות שלנו על הטכנולוגיה הפכה אותנו לשאננים?
אין כלי בעולם שיכול לבדוק את השאננות שלנו, אבל מה שבטוח – הטכנולוגיה והבינה המלאכותית לא עמדו בפני המון רצחני עם מכשירים פשוטים לחיתוך גדר.
הטכנולוגיה נכשלה בענק, זה לקח לכולנו – בשורה התחתונה אנחנו חייבים לסמוך על עצמנו, לא על בינה מלאכותית או טכנולוגיה אחרת.
הצלחות
כן היו ויש הצלחות בשימושי AI במלחמה הארורה הזו.
היינו אולי מצפים לראות גל של עיצובי AI במידג׳רני, והאמת שראינו מעט יחסית.
למה?
התשובה המדכאת היא שהתמונות והסרטונים מהמציאות שלנו הם נוראיים מספיק. נוראיים מדי.
תוצרי ה-AI פחות עוצמתיים מהמציאות.
באסה.
נחזור להצלחות?
גדודי מתנדבים התאחדו יחד לאחר השבת השחורה והתחילו להרים מערכות וכלים. סטארטאפים על ספידים ואדרנלין.
1. סגן ראש מערך הסייבר הלאומי לשעבר רפאל פרנקו הקים מיזם לזיהוי נעדרים.
הכלי שפיתח צוות המתנדבים בראשות פרנקו סרק והוריד תמונות וסרטונים מטלגרם, טיק-טוק וטוויטר, ונעזר גם בטכנולוגיה של סטארטאפ ישראלי נוסף בשם Tagbox, שיכל לסרוק את כל אלפי החומרים, ולסווג אותם לקטגוריות. גם כאן, השוואה לתמונות של נעדרים סייעה לזהות עשרות אנשים שגורלם לא היה ברור בימים הראשונים.
2. בית החולים סורוקה השתמש בטכנולוגיה של Corsight AI הישראלים כדי להתאים בין הפצועים שהגיעו לבית החולים לעשרות אלפי התמונות ששלחו משפחות מפוחדות שקרוביהן נעדרו. Corsight נתנו לבית החולים שימוש חינם (הגיוני, ועדיין – כל הכבוד).
3. יוזמת ״חרבות ברזל״ שהקים יובל קשטצ׳ר המלך, שעלתה לאוויר בשבת השחורה בערב, הציאה דאטהבייס למציאת נעדרים, שהצליב עדויות וחומרים והפך למקור מרכזי למידע למשפחות הנעדרים והחטופים. מיזם מטורף בעוצמתו ובכמות האנשים שנרתמו לטובתו.
4. כלי Generative AI בשם Savee, שנולד בהאקתון במרץ האחרון, עשה הסבת מקצוע לטובת הסברה לישראל. במקור נועד הכלי לכתיבת תגובות לפוסטים מכחישי שואה, באמצעות ChatGPT ומידע נוסף שעוזר לתת תשובות מושכלות.
5. יובל אבידני יצר בימים הראשונים למלחמה כלי שמאפשר להשוות בין שתי תמונות וכך לסייע בחיפושים אחר הנעדרים.
6. חברת AI21 Labs יצרה מאגר עדויות, פתוח לכל שימוש, בשם The Iron Lions (והצדיקה את זה שאני גרופי שלהם).
7. יוזמת Words of Iron (גילוי נאות, אני מתנדב בה) מכניסה AI בכלי פשוט וגאוני – הכלי מציג למשתמשים סרטוני טיק-טוק, פוסטיאינסטגרם וטוויטים מ-X, ומאפשר להגיב בשניים-שלושה קליקים (עם תגובה אוטומטית וכמובן משוייפת).
8. חברת D-ID המהממת מציעה גישה חינם לסטודיו (יצירת סרטונים באמצעות תמונות פרצופי אנשים או אווטרים) לכל מי שרוצה לסייע בהסברה הישראלית עם Generative-AI.
יש עוד דוגמאות, הכנסתי חלק מהן (את המרכזיות).
הקפדתי לא לתת פרטים מעמיקים מדי, למרות שיש לי אותם, כדי לא לתת יותר מדי השראה למפלצות.
פייק ניוז
אני אתחיל דווקא מה״פייק-פייק״ ניוז.
טוויט שהעלה הפרשן בן שפירו, עם תמונת התינוק שנשרף (כואב לי לכתוב את המילים הזה) צוטט על ידי ג׳קסון הינקל, משפיען אנטישמי עם יותר מחצי מיליון עוקבים, שהראה תוצאות מכלי שנקרא Ai or Not של חברת Optic, שקבע שהתמונה הופקה על ידי AI.
כך התמונה שממחישה את הזוועה קיבלה תיוג כפייק, שהדהד בעולם.
בבדיקות של כלי תקשורת עלה כמובן שהתמונה לא עברה זיוף או מניפולציית AI.
זה לא מנע מהטענה שהתמונה היא פייק להגיע למיליוני אנשים ברחבי העולם.
מפתח הכלי, אגב, אמר בראיון שהכלי נוצר כדי לסייע לאמנים להבין אילו יצירות נוצרו על ידי AI, והוא לא שיער שיהיה שימוש שכזה בכלי. הוא הודה שהוא חושב פעמיים אם להמשיך ולפתח את הכלי שלו.
תינוק אחר, שתמונתו בהריסות התרוצצה ברשתות כהמחשה למה שקורה בעזה, דווקא כן התברר כזיוף שנוצר על ידי AI. זה לא הפריע לתמונה לרוץ ברשתות, כולל בשיתופים של עיתונאים.
התינוק הוא יחסית חריג, כי הסתבר שוב שלא צריך AI בשביל לעשות פייק. מרבית הסרטונים והאימג׳ים שהתרוצצו בצד של תומכי החמאס הם סרטונים ממלחמות של השנים האחרונות אצל שכנים שלנו, או ממבצעים צבאיים קודמים שלנו.
לוקחים סרטון, משנים לו את הכתוביות, והנה פייק ש-AI לא יכול לייצר כמותו.
עוד פייק ניוז שרצו (לא צירפתי לינקים, הם הורדו מהרשת, בטח אפשר למצוא אותה בביוב של הרשתות כולן):
1. שני סרטונים הציגו את פוטין מזהיר את ארה"ב להימנע מהמלחמה בין ישראל לחמאס.
הסתבר שאלה תיעודים ישנים של פוטין מדבר על מלחמת אוקראינה, לא על הסכסוך במזרח התיכון.
2. סרטון של לוחמי חמאס צונחים למגרש ספורט לפני התקפה בישראל גם הוא התפשט בקרב שונאינו הרבים.
הסתבר שהסרטון הוא ממצרים והציג תרגול צניחה, ללא קשר לתקיפה של חמאס.
3. טענה שהתרוצצה ביומיים הראשונים לאחר הטבח היא שהאלוף נמרוד אלוני, שהיה בעבר ראש אוגדת עזה, נלכד על ידי חמאס. תמונות ששחרר דובר צה״ל הראו שאלוני בפגישות צבאיות ולא נחטף.
5. סרטון מזויף של חדשות BBC הציג ״הוכחות״ שאוקראינה סיפקה נשק לחמאס.
הסתבר שהסרטון זויף.
6. סרטון של האמיר של קטאר הראה אותו מאיים לעצור ייצוא גז הטבעי אם ישראל לא תפסיק את התקיפות בעזה.
הסתבר שהאמיר לא אמר דבר כזה, הווידיאו ישן וקטאר הכחישה כל אמירה שכזו.
עוד על קטאר – באייטם הבא. זה חשוב.
3. תעקבו אחרי הכסף – הוא מוביל לקטאר
קטאר מארחת את מנהיגי חמאס, ותומכת בחמאס כספית.
אין ספק שיש לה את הכח והיכולת לגרום לשחרור החטופים.
מה הקשר ל-AI?
Qatar Investment Authority (QIA) היא קרן ההשקעות של קטאר, שמנופפת בשנים האחרונות בצ׳ק שמן של 425 מיליארד דולר (קטאר היא אחת משלושת יצואניות הנפט הגדולות בעולם).
קטאר השקיעה בשנים האחרונות בנדל״ן, בנקים ועסקים באירופה וארה״ב. אגב, קטאר השקיעה 375 מיליון דולר ברכישה של טוויטר על ידי אילון מאסק (שתופס צד במלחמה בין ישראל לחמאס. וזה לא הצד שלנו).
בשנים האחרונות קטאר הכתירה את הבינה המלאכותית ככיוון נוצץ להשקעות.
היא השקיעה בשנתיים האחרונות במספר סטארטאפים בתחום ה-AI. ההשקעה האחרונה שלה היה בחברת Builder.ai – הקרן הקטארית הובילה סיבוב גיוס בסך של 250 מיליון דולר.
הקטארים משחקים משחק מסוכן – התמיכה בחמאס עלולה לעכב את התוכניות שלהם להכנס מתחת למטריית הלגיטימציה העולמית, ומסכנת את התשוקה להשתחל חזק יותר למירוץ החימוש של ה-AI.
אם היתה לי יכולת השפעה, הייתי מפעיל לחץ על קטאר. אולי חרם של השותפות שלה להשקעות או של החברות שבהן השקיעה.
