המסע להבנת שפה טבעית על ידי מכונות התחיל לפני יותר מחמישים שנה, הרבה לפני שהמונח "בינה מלאכותית ג'נרטיבית" הפך לחלק מהשיח היומיומי. בשנות השישים והשבעים נעשה ניסיון לגרום למחשבים לזהות מילים ולנתח משפטים בשיטות סטטיסטיות פשוטות שהתבססו על שכיחות. המערכות חישבו הסתברויות, אך לא הצליחו להבין משמעות, אירוניה או הקשר רחב. החוקרים באותה תקופה האמינו שעם מספיק נתונים וכוח חישוב, הבעיה תיפתר מאליה. אבל המציאות הייתה מורכבת יותר. רק בעשורים האחרונים, עם כניסת רשתות נוירונים מלאכותיות ויכולת חישוב גבוהה, החל להתקרב הרגע שבו מכונה מסוגלת לנסח משפט באופן כמעט אנושי. אבל לפני שנולד הטרנספורמר (Transformer), הדרך הייתה מלאת מגבלות, טעויות ושיטות שלא הצליחו לפתור את הקושי המרכזי – הבנת משמעות המשפט בשלמותו. מה רע בשפה שמבוססת רק על סטטיסטיקה המודלים הראשונים ניתחו מילים על בסיס הופעתן ולא על בסיס משמעותן. אם המילים 'גשם' ו'עננים' הופיעו יחד לעיתים קרובות, המערכת הסיקה קשר ביניהן, אך לא ידעה להסביר אותו. כאשר הופיע משפט כמו "ירד עליו גשם של טענות", המחשב פירש זאת כמשהו מטאורולוגי. הבנת שפה אנושית מחייבת ניתוח הקשר, כוונה וסרקזם – דברים שהשיטות הסטטיסטיות לא הצליחו ליישם. הן היו מהירות, אך לא חכמות. המסקנה הייתה ברורה: כדי להתקדם, יש לזנוח את הגישה הסטטיסטית לטובת גישה קוגניטיבית יותר. הקהילה המדעית הבינה שצריך לחקות לא רק את התוצר הלשוני, אלא את התהליך המנטלי עצמו. המודלים הראשונים ניתחו מילים על בסיס הופעתן ולא על בסיס משמעותן. כאשר הופיע משפט כמו "ירד עליו גשם של טענות", המחשב פירש זאת כמשהו מטאורולוגי הבקבוק הצר של העיבוד הסדרתי רשתות RNN (ר"ת Recurrent Neural Networks – רשתות נוירונים רקורנטיות) סימנו את תחילת המעבר להבנה ממוחשבת מתקדמת יותר. הן עיבדו משפטים שלב אחר שלב, מילה אחר מילה, בדיוק כמו שאדם קורא משמאל לימין. בהמשך הופיעו וריאציות משופרות כמו LSTM (ר"ת Long Short Term Memory – זיכרון לטווח קצר וארוך) ו-GRU (ר"ת Gated Recurrent Unit – יחידת רקורנט מבוקרת). הן אפשרו שמירה חלקית של מידע לאורך זמן והיוו שיפור משמעותי. אולם גם אם המשפט היה ארוך, המודל התקשה לזכור את תחילתו כשהגיע לסופו. כמו אדם שמנסה להבין פסקה תוך קריאה מבלי להרים את הראש, עומס המידע גרם לירידה ביכולת ההבחנה. בנוסף, העיבוד היה איטי כי נעשה באופן טורי – כל מילה חייבה לחכות לקודמתה. זה מנע מהמכונות לפתח הבנה עמוקה של המשפט, והפך את האימון למאתגר במיוחד. כשניסו להבין שפה כמו תמונה רשתות CNN (ר"ת Convolutional Neural Networks – רשתות נוירונים קונבולוציוניות), שנוצרו במקור לניתוח תמונות, יושמו גם בטקסט. הן זיהו תבניות מקומיות, כמו שמזהים צורות בפיקסלים. הדבר סייע לניתוח תחביר ולזיהוי מבני משפט, אך לא סיפק הבנה של המשמעות הרחבה. המודלים הסתכלו על "חלונות" מילים מצומצמים ולא יכלו לראות את "התמונה המלאה". משפט כמו "ההחלטה שהתקבלה אתמול תשפיע על העתיד" דרש הבנה רחבה, אך המודל התייחס רק לחלקיו הקרובים. השיטה הייתה יעילה לזיהוי דפוסים חוזרים, אך לא להבנת משמעות סמנטית מורכבת. למרות שיפור בביצועים, אף אחת מהשיטות הללו לא פתרה את הליבה: להבין את המשפט כיחידה אחת, עם כל הקשריו ותלויותיו הפנימיות. החוקר נועם שזיר, סמנכ"ל הנדסה, מנהל שותף של ג'מיני ב-גוגל דיפ מיינד. צילום: לכידת מסך מחשבון הלינקדאין של שזיר המשפט שעשה היסטוריה: "Attention Is All You Need" בשנת 2017 פורסם מאמר שנשא שם זה, ואחד ממחבריו הוא נועם שזיר, חוקר יהודי אמריקני שעבד אז בגוגל (Google). הוא הציג גישה מהפכנית: במקום לעבד את המשפט בצורה סדרתית, אפשר לבחון אותו כולו במקביל. מנגנון ה-Attention (הקשב) מאפשר למודל להעריך אילו מילים חשובות יותר זו ביחס לזו, בדיוק כמו שאנחנו מפנים תשומת לב לחלקים שונים במשפט. לדוגמה, במשפט "הילד שתה את המים כי הוא היה צמא", המערכת מזהה ש-"הוא" מתייחס ל-"הילד" ולא ל-"מים". היכולת להתייחס לכל חלקי המשפט בו-זמנית ביטלה את מגבלת הזיכרון הסדרתי והאיצה את האימון באופן דרמטי. מכאן נולדה ארכיטקטורת הטרנספורמר, שהפכה לבסיס של מודלים מתקדמים כמו GPT, BERT ו-ג'מיני (Gemini). השינוי לא היה רק טכני – הוא היה תפישתי. המאמר הפך לאחד המצוטטים ביותר בהיסטוריה של למידת מכונה. היום כבר לא מנסים להבין מילים, אלא להבין כוונה הטרנספורמר אפשר למכונות לדמות תהליך חשיבה לזה של בני האדם: לראות את המשפט בשלמותו, לפרש כוונות ולהסיק מסקנות. כיום, מודלים מבוססי טרנספורמר משמשים לכתיבת תוכן, לתרגום אוטומטי, לניתוח רגשות, למתן המלצות ואפילו לתמיכה בהחלטות עסקיות. הם מסוגלים לכתוב קוד, לסכם ישיבות, לנתח חוזים ולהבין שאלות מורכבות בעשרות שפות. ההתקדמות בתחום לא נעצרה – החוקרים בוחנים כיצד לשלב חשיבה לוגית, למידה עצמאית ואמפתיה. הם חוקרים דרכים לגרום למודלים להבין לא רק מה נאמר, אלא גם מה לא נאמר – את הרמזים, את השתיקות, את המשתמע. עדיין לא ידוע מה תהיה הפריצה הבאה, אך ברור שהטרנספורמר הפך לנקודת מפנה היסטורית. המכונות התחילו להבין, לא רק לחשב. הכותב הוא יועץ טכנולוגי לארגונים, בעיקר בתחום האשראי החוץ בנקאי

חברת הסטארט-אפ בוטסטראפ הישראלית Warmy.io – המפתחת פתרונות לשיפור מסירת דואר אלקטרוני – ציינה באחרונה את סוף השנה המתקרב באירוע מושקע. Warmy.io, אשר מעסיקה כ-90 עובדים ב-12 מדינות, הזמינה את עובדיה מאירופה לאירוע, שנערך בסניף החברה באוקראינה וכלל הוקרת עובדים מצטיינים, הגרלות, מתנות, מוזיקה וסקירת הישגי 2025, ולצידם הצגת החזון והיעדים לשנת 2026. עובדי החברה שלא הגיעו לאירוע קיבלו תקציב לארוחה משפחתית במסעדה לבחירתם והתחברו לאירוע באופן מקוון, כך שהאירוע הפך למסיבה מקוונת משותפת, אשר חיזקה את תחושת השייכות של כלל העובדים והמשפחות. דניאל שניידר, מייסד ומנכ"ל החברה, אמר במהלך האירוע: "Warmy.io היא סיפור הצלחה בוטסטראפי והכול בזכות הצוות שלנו. הכפלנו את עצמנו השנה, והיעד לשנה הבאה שאפתני לא פחות. האירוע המיוחד של Warmy.io מדגים כיצד חברות גלובליות מצליחות למצוא פתרונות יצירתיים ומרחיבי לב כדי לשמר את הקשר האישי והקהילתי גם במודל עבודה מבוזר, תוך שימת דגש על הישגים עסקיים וגאוות יחידה כבסיס לחגיגה". דיילי ציפי צפתה בחגיגה וחזרה עם תמונות באירוע סוף שנה 2025. דניאל שניידר, מייסד ומנכ"ל Warmy.io. צילום: יח"צ

מנכ"ל אנבידיה (Nvidia), ג'נסן הואנג, הציג לאחרונה ניתוח מורכב של התחרות בין ארה"ב לסין בכל הקשור במירוץ הבינה המלאכותית, וטען כי סין עלולה לעקוף את ארה"ב, אף שהאחרונה מובילה עדיין בתחום שבבי ה-AI. דברים האחרונים אלו של הואנג הושמעו באירוע שאירח המרכז האמריקני למחקרים אסטרטגיים ובינלאומיים (CSIS). במפגש זה ניתח הואנג את ה"מירוץ" באמצעות מודל "עוגת חמש שכבות" הכולל לדבריו אנרגיה, שבבים, תשתית, מודלים ויישומים, כפי שהציג בכנס CSIS. לטענתו, אסור לראות את תחום הבינה המלאכותית כ"דבר הוליסטי המצטמצם ל-'ChatGPT מול דיפסיק (DeepSeek)'". האם טראמפ הוא הסיבה להצלחה או לכישלון? כידוע שבבי ה-AI של אנבידיה מיצבו את החברה כמובילת שוק חסרת תקדים, כפי שמשתקף בהפיכתה לחברה הציבורית בעלת השווי הגבוה ביותר בעולם, נכון לתחילת נובמבר 2025, כשהיא הוערכה בשווי של 5 טריליון דולר ימים ספורים לפני ש-הואנג  נשאאת דבריו בנושא סין. הצלחת אנבידיה נשענת על הובלתה בשוק שבבי ה-AI המתקדמים, תחום בו ארה"ב מקדימה את סין ב"דורות קדימה". הואנג עצמו הפך לדמות מרכזית ומשפיעה בתעשייה – כשהוא מצויד בהון אישי המוערך ב-158.4 מיליארד דולר כיום. עם זאת, הצלחה זו עומדת מול אתגרים משמעותיים הנובעים ממדיניות הממשל האמריקני, ובפרט יחסי אנבידיה והואנג עם הנשיא דונלד טראמפ. הואנג נשמע כמתנגד להגבלות הייצוא האמריקניות על שבבי AI לסין, אותן כינה "כישלון", וטען כי הן גרמו לצניחה של נתח השוק של אנבידיה בסין מאחיזה של 95% לפני כארבע שנים, ל-50% בלבד כיום. הוא רואה בהגבלות אלו "אזעקת שווא אינטרסנטית" שפוגעת בחברה, בעוד שהן נועדו במקור לפי תוכניות ממשל טראמפ למנוע מסין וממדינות אחרות גישה לשבבי ה-AI המתקדמים ביותר של אנבידיה. ואולם על פי הואנג ההגבלות הללו מכוונות לחסום את יכולת אנבידיה להתחרות בסין – השוק השני בגודלו בעולם לטכנולוגיה וה-AI. יצוין כי מנכ"ל אנבידיה עצמו אמר רק בקיץ האחרון כי: "היתרון הייחודי של אמריקה, שאף מדינה לא יכולה להשיג, הוא הנשיא טראמפ". הוא אמר את הדברים במהלך הופעה בכנס All-In Summit ובפודקאסט "All-In ביולי 2025. Nvidia CEO Jensen Huang on winning the AI race: "America's unique advantage that no country could possibly have is President Trump." pic.twitter.com/Q5U5pZRVaH — Rapid Response 47 (@RapidResponse47) July 24, 2025 היתרון המכריע של סין טמון דווקא בתשתיות ובאנרגיה בדבריו האחרונים בכנס של CSIS הואנג הדגיש כי היתרון המכריע של סין טמון דווקא בתשתיות ובאנרגיה. הוא ציין כי לסין יש "כמות כפולה של אנרגיה" בהשוואה לארה"ב, וכי הצמיחה בתחום זה בסין "עולה ישר למעלה, בעוד שאצלנו (בארה"ב – ג"פ) היא די שטוחה כרגע".  מחסור זה עלול, לדבריו, לעכב את מאמצי התיעוש מחדש של ארה"ב, הדורשים אנרגיה רבה להקמת מפעלי שבבים, מתקני מחשוב-על ו"מפעלי AI". יתרה מכך, הואנג הצביע על כך שסין מפגינה מהירות בנייה יוצאת דופן: בעוד שלוקח כשלוש שנים לבנות מרכז נתונים בארה"ב, סין יכולה לבנות בית חולים בסוף שבוע, אמר מנכ"ל אנבידיה. מומחה תעשייתי בשם מא ג'יהואה, שצוטט ב-גלובל טיימס, אמר כי התמקדותו של הואנג במגבלות האנרגיה והתשתיות של ארה"ב משקפת אילוצים מבניים עמוקים שלא ניתן לתקנם במהירות. מתקוטטים על הובלת תחום ה-AI. נשיא ארה"ב, דונלד טראמפ ו-ראש ממשלת סין, לי צ'יאנג. צילום: אילוסטרציה. Shutterstock AI "הפקרנו את שוק ה-AI השני בגודלו" למרות שארה"ב עדיין מובילה – כאמור "דורות קדימה" בהגדרת הואנג – בטכנולוגיית שבבי AI, המנכ"ל הזהיר כי "מי שחושב שסין אינה יכולה לייצר, מחמיץ בגדול", משום שמדובר בתהליך ייצור. ואכן, בקרת הייצוא האמריקנית גרמה, כאמור, לירידה דרסטית בנתח השוק של אנבידיה בסין: כאשר מתחרים מקומיים ממהרים לתפוס את החלל שנוצר. הואנג אף כימת את הנזק שנגרם כתוצאה מהגבלות הייצוא העדכניות ותיאר אותו כפגיעה בשווי של 15 מיליארד דולר. בהתייחס לשכבת המודלים – ארה"ב מובילה ב"מודלי חזית" (frontier models) בפער של כשישה חודשים. עם זאת, הואנג ציין שסין "ממוקמת היטב קדימה" בתחום הקוד הפתוח, אשר הכרחי עבור חוקרים באוניברסיטאות וחברות סטארט-אפ.  סין גם מציגה כוח מחקרי עצום: 50% מחוקרי ה-AI בעולם הם סינים, ו-70% מפטנטי ה-AI בשנה שעברה פורסמו על ידי סין. אך בעניין זה מנכ"ל אנבידיה הדגיש כי מי שינצח במהפכה התעשייתית של ה-AI הוא "מי שיחיל את הטכנולוגיה ראשון ובהיקף הגדול ביותר".  יצוין כי בסין קיים הבדל חברתי מהותי בתפישת הטכנולוגיה – כ-80% מהציבור הסיני מאמין כי ה-AI תביא "יותר טוב מאשר רע", בניגוד לתשובה המקובלת בארה"ב. הואנג התייחס לכך והוסיף כי "אתה לא הולך להחליף את סין" בשום שוק אחר, והביע צער על כך שאנבידיה "פשוט לא מתחרה בסין". הוא ציין ש-"הפקרנו את שוק ה-AI השני בגודלו".  הואנג הדגיש כי ללא גישה לשוק זה, אנבידיה חווה "חרדה אסטרטגית גוברת". הוא אף הזהיר כי סין תשאף בקרוב לייצא את טכנולוגיות הבינה המלאכותית שלה ברחבי העולם, אם חברות אמריקניות ימשיכו לאפשר למתחרות כמו וואווי (Huawei) לברוח קדימה עם השוק.