חלקה של הבינה המלאכותית במחדל השביעי באוקטובר
המחליט איננו בוט
על חלקו של AI במחדל השביעי באוקטובר, והקשר להטמעת AI בארגונים וללמידה הארגונית.
שני תחקירים שנעשו בחודשים האחרונים על המחדל במודיעין וב 8200 חושפים תמונה מצמררת.
הם מצביעים על "אפקט פרפר" שנוצר מהטמעה נרחבת של טכנולוגיה על חשבון עבודה ידנית של בני אדם.
מיהם האלחוטנים?
ביחידת 8200 התפקיד הנמצא בבסיס פירמידת המודיעין הוא של האלחוטנים.
זהו תפקיד די שחור וסיזיפי (כינו אותם ביחידה "קופי שמע").
הם נדרשים להאזין למאות שיחות ביום, לסכם אותן ולהעביר הלאה לגורמים בכירים יותר שיחברו את המידע עם מקורות אחרים ויחליטו האם להעביר הלאה ולמי.
היתרונות בעבודה כזאת:
נוצרת היכרות אינטימית עם הדמויות הקבועות אחריהן עוקבים, ומתחילים להבין את הנאמר גם בין המילים.
החסרונות:
זה לא Scalable. כלומר, קשה להגדיל את כמות הכיסוי המודיעיני בלי גידול משמעותי בכ"א.
שלא לדבר על ההכשרה הארוכה, ועל זמן השירות הלא מאוד ארוך.
הפתרון? בינה מלאכותית!
כבר ב 2014 התחילו להטמיע ביחידה כלים טכנולוגיים שיבצעו את התפקיד של האלחוטנים.
באמצעות יכולות speech to text תמללו שיחות, תרגמו לעברית, והעבירו אותן הלאה לגורם אנושי שרק נדרש לבצע מיון וסינון.
לכאורה- פתרון מושלם!
לא נדרשת הכשרה מאסיבית, רק ידע בעברית.
הטכנולוגיה איפשרה כיסוי גדול לאין ערוך מכל מה שהיה עד קודם. מקבלים יותר בפחות.
אז איפה הבעיה?
מתוך התחקיר:
"למה הטכנולוגיה הזו מפספסת? בגדול, התוכנה מתרגמת את השיחות, ומחפשת בתוכן אחרי סימנים שהוזנו לה. למשל מילים. כן, יש לה יכולת "ללמוד", אבל כעיקרון, אם מילות המפתח שהוזנו לה לא נמצאו, השיחה לא תסומן כחשובה, ותאופסן אי שם בשרתי הענק של היחידה, בין מיליוני שיחות כמוה. "עכשיו בא אלחוטן – לכאורה אלחוטן, מישהו שלא שולט בכלל או לא מספיק טוב בשפה – ומחפש לדוגמה בתוכנה אם עלתה מילה מסוימת, נגיד טיל", מסביר דני. "אבל בשיחה לא נאמרה המילה טיל, כי השתמשו במינוח אחר. אז התוכנה, גם אם תימללה את הכל במדויק, לא הייתה מקפיצה את השיחה הזאת כי לא נאמרה בה המילה טיל"
כאן בדיוק הכשל של ה AI:היכולות להתמודד עם תרחישים חדשים שלא היו בעבר.
היכולת להבין סלנג, סנגון דיבור אישי, וביטויים חדשיםהיכולת להבין שמע לא ברור, באיכות נמוכה, מקוטע מאוד.
היכולת היצירתית לחבר בין עולמות שונים, ולהרים דגלים לגבי דברים חריגים שלא נצפו בעבר.
מתוך התחקיר על "הנגדת ו'" המפורסמת, שלפני השביעי באוקטובר:
"היא כותבת שכל מה שהיא רואה בחומר "מתכתב" עם מה שכתוב בתוכנית. היא שומעת בשיחות פסוקי קוראן שלא שמעה מעולם. היא הולכת לחקור וללמוד ומגלה שהפסוקים האלה נאמרים לפני מלחמה"
ה AI מצוין בתחקור לאחור, בניתוח החומר הקיים, במענה לשאלות מוגדרות מראש.
נכון להיום הוא עוד לא מסוגל לבצע את העבודה של "הנגדת ו'" שמכירה את הזירה לאורך שנים, מכירה את התרבות וההקשרים, ויודעת להרים דגלים כשמשהו לא מסתדר לה.
ומה לגבי אינסטגרם?
הדבר היה נכון גם לגבי יחידת "חצב" -
היחידה שעקבה אחר מודיעין גלוי, ועקבה אחרי מידע חשוב ויקר ברשתות חברתיות.
גם כאן ה AI הראה ככל הנראה יכולות עדיפות פי 100 מיכולות של בני אדם (מבחינת הספקים וכיסוי) והיחידה נסגרה.
אך גם פה כנראה ה AI כשל בניתוח הניואנסים, בחיבור בין הנקודות, בחיזוי משהו שלא נצפה מראש.
מהכתבה:
"כשמדובר בפוסטים באינסטגרם, הבעיה חמורה אף יותר. "חומרים ברשתות חברתיות כתובים בצורה תחבירית מדוברת-כתובה. הם משלבים אמוג'יז והמבנה שלהם שונה מטקסטים כתובים ערוכים", אומרת חיילת לשעבר ששימשה כמתרגמת בחצב ולה רקע אקדמי בבלשנות ובמזרח התיכון. "אני לא בטוחה שקל להתמודד עם חומר כזה".
מסקנות ראשוניות:
"הִלֵּל אוֹמֵר: אַל תָּדִין אֶת חֲבֵרְךָ עַד שֶׁתַּגִּיעַ לִמְקוֹמוֹ". (פרקי אבות)
אני די בטוח שכל מנהל בכיר, יועץ ארגוני או יועץ להטמעת AI, בעולם של לפני ה 7.10 היו נותנים את אותן ההמלצות:
בארגון הנמצא בלחץ מתמיד להתייעלות, לקיצוץ בתקנים, להעלאת התפוקה, הטמעת יכולות AI היא פתרון מושלם.זה יאפשר לקבל יותר (מודיעין) בפחות (כ"א, הכשרות ארוכות).
הבעיה היא, שגילינו בדרך הכי קשה ונוראית שאפשרית, מהו מחיר הטעות, כאשר הבינה המלאכותית נמצאת בקו הראשון ולא האדם.
מה יקרה מחר בעולם בו בינה מלאכותית תוכל לעשות תפקידים "שחורים" בעולם הרפואה? העזרה הנפשית? הביטחון שוטף?
מה יגבור על מה? הלחץ הכלכלי-ארגוני או הפחד מטעות אנוש חמורה?
קשה לענות על השאלה.
אני ממליץ בינתיים לאמץ את העיקרון הבא בכל הקשור בהטמעת AI:
KEEP HUMAN IN THE LOOP
לקריאת התחקירים המלאים:
https://www.ynet.co.il/news/article/yokra13942551
https://rotter.net/forum/scoops1/851265.shtml
https://www.maariv.co.il/journalists/Article-1078519
הפוסט נכתב ע"י בן אנוש. טל"ח.
