סוד ה-LLM הגדול: הקונטקסט הוא המלך!! 👑

אני לקראת מספר הרצאות מאוד חשובות שמיועדות לצוותי פיתוח, מנהלי מוצר, אנשי Q.A ו-DevOps בארגונים גדולים. יושב וחושב על התוכן כדי לספר את הסיפור כמו שצריך, סטוריטלינג טוב הוא המפתח להבנה מעמיקה.

מפה לשם, הגעתי לשלב שבו אדבר בע"ה על עניין ההקשר, ה-Context. התחלתי לחשוב על דוגמאות שממחישות את זה, עלו כל מיני רעיונות, כדי לחדד דיברתי עם גרוק שנתן כיוונים מעניינים, אחרי זה גם עם GenSpark ולבסוף עם קלוד שעזר לי לפתח אתר זריז שממחיש את החשיבות בצורת דוגמאות פרקטיות מובנות.

גם אם אתם לא בהרצאות הקרובות שלי, כדאי שתדעו את הסוד הגדול: LLM לבד הוא לא מספיק אמין. אי אפשר לסמוך על התשובות שהוא נותן לנו סתם כך. כדי לקבל תשובות איכותיות אנחנו צריכים לתת לו הקשר. תחשבו על זה כמו שופט. אם הוא יושב וצריך להכריע מה הדין ואין לו הקשר - הוא לא יצליח לקבל החלטה טובה, וגם אם יצליח - היא החלטה ללא בסיס. חסרת בסיס.

מנגד, אם לשופט הזה הוגשו כל הראיות בתיק, לרבות פסקי דין קודמים, אסמכתאות, רקע, הוא יוכל להכריע בנקל. זה כל הסיפור עם LLM-ים. אם נגיש להם את ההקשר, ה-Context, הרלוונטי - נקבל הכרעה טובה - שגם אותה נצטרך לבחון. ואיך מגישים את ההקשר הזה?

1. או בפרומפט עצמו (ואז מוגבלים לגודל חלון ההקשר) באמצעות טקסט מקדים או צירוף מסמכים
2. או באמצעות "קונקטורים", חיבורים לצד ג', כמו חיבורים ל-Jira או Confluence
3. או באמצעות שרשור של היסטוריית השיחה
4. או באמצעות RAG קלאסי שפירושו חיבור לבסיס נתונים וקטורי שיודע לשאוב מידע שנשמר, אונדקס (מלשון Index), גם אם הוא רב

ומה גודל חלון ההקשר? לכל מודל שפה גדול יש את המגבלה שלו. המגמה היא להגדיל את החלון ההקשר הזה יותר ויותר, אך ממה שרואים זה לא אומר בהכרח שנקבל תשובות טובות יותר. זה לא רק גודל חלון ההקשר שקובע - אלא בעיקר הדרך שבה אנחנו שולפים את המידע ומדרגים אותו ומנגישים אותו ל-LLM. לועסים לו את האוכל - והוא נותן את הטון בסוף.

את השאר נשמור כבר להרצאות והסדנאות, יהיה מאוד מעניין!
מקווה שקיבלתם ערך.
יובל

ב-48 השעות האחרונות אני עובד במקביל ובו-זמנית על כלי פיתוח ו-AI ויש משהו אחד שבולט לי יותר מכל

בואו נניח שגם אתם מקליטים קורס על AI ופיתוח עם או בלי קוד. אתם רוצים לתת את היסודות ולא סתם רשימת מכולת של כלים. ואתם רוצים גם לתת את הכלים שיש להם את הכי הרבה ערך ותמורה טובה לכסף, אז אתם בוחנים את כולם במקביל.

מי אלה כולם? כמעט כולם ממש:
Cursor
Windsurf
VSCode + GitHub Copilot
Trae
Creatr
Lovable
Base44
Claude Artifacts
Llama Coder
Open Hands
Claude Code
Bolt New
v0 dev

אותו פרומפט לכולם. במקביל. מספר פעמים. במספר תרחישים. כולם משתמשים בקלוד 3.7 - אבל התוצאה שונה משמעותית בין הכלים. מוזר!

ואז הגיע מיני קורס חדש של DeepLearning AI על Windsurf, וגם שיחה שקיימתי עם ראש זרוע החדשנות של גיטהאב שהמציא את הקופיילוט - וזה הכה בי:

אמנם כל כלי יכול לאפשר לנו שימוש במודל שפה גדול של קלוד 3.7, אבל המשחק האמיתי הוא לא רק חיבור לקלוד - אלא מה עושים אחרי שיש תשובה מקלוד? האם מחזירים אותה ישר כפי שהיא? או האם עוצרים שניה ומחזירים את התשובה יחד עם הבקשה המקורית - שוב למודל השפה כדי לוודא שהפיתרון אכן הושג - ורק אז ממשיכים? זאת אומרת, האם יש תהליך של שימוש בסוכן AI מתחת למכסה המנוע, וכל כלי מיישם זאת אחרת?

ומה לגבי הבנה מעמיקה של כל הקוד שלנו בעת הפיתוח? לרוב מודל השפה לא יוכל להכיל את כל הקוד שלנו בבת אחת בכל בקשה, וגם כאן רואים בבירור הבדלים בין הכלים השונים. למה? כי מסתבר שגם פה יש הבדל בדרך שבה הכלים מבצעים את תהליך האינדוקס, שזה תהליך הפיכת כל קוד המקור לרשימות של וקטורים ושמירה שלהם בבסיס נתונים מיוחד, וקטורי. כדי שזה יעבוד צריך להחליט איך חותכים את הקוד, איך ממירים לווקטורים, איך שומרים בבסיס הנתונים, איך שולפים (מאחזרים) תשובות? ואיך מחשבים האם השאלה שלנו מקבלת מענה בבסיס הנתונים שלנו?

כל אחד מהפרמטרים האלה זה כמו כפתור שאפשר לסובב קצת ולשנות את הערך שלו. כל כלי החליט לכוון את הכפתורים שלו אחרת. כרגע מבחינת החוויה שלי, Windsurf ו-GitHub Copilot יודעים להשיב על שאלות שקשורות לכל הקוד בצורה מאוד מאוד טובה. גם קרסר במקום גבוה, אבל ל-Windsurf יש טכניקה מאוד מיוחדת לשמירת הקוד כווקטורים - וזה ניכר בתוצאות.

מבחינת כתיבת הקוד - בייס44 הכי נוח בהיבט של כלי קל ונוח, ואילו Lovable מנצח ברמת הממשק היפה שמקבלים באופן מיידי. לגבי עבודה מקומית על המחשב, Cursor עם מצב YOLO מופעל + הגדרות ספציפיות של חוקי AI זו חוויית פיתוח ברמה אחרת לגמרי. כאן כן צריך להבין מה עושים ברמת הלוגיקה, זה לא שגר ושכח. וגם פה צריך להגיד שהעצלות של להריץ פקודות בעצמנו, כפי שמצפים מאיתנו Windsurf ו-Copilot, גורמים פחות להשתמש בהם, אם כי לי מרגיש שגיטהאב קופיילוט פשוט עושים עבודה מצוינת בהבנה של הפרומפט לעומק, משהו שם פשוט עובד.

ובקיצור:
ווינדסרף מבין הכי טוב (כנראה ה-RAG שלהם פשוט מוצלח מאוד)
קרסר חבר אמת שנותן לנו לנוח ועדיין להיות בשליטה, טייס אוטומטי
בייס 44 הוא כמו ביצת הפתעה: מזינים פרומפט ומקבלים משהו ארוז יפה ומפתיע

ובפינת הכלי המפתיע מבחינתי ניצב לו בגאון GitHub Copilot בשילוב VSCode. הוא מבין, יש קרדיטים חינמיים בכמות יפה, כך שלא הייתי מוותר עליו בקלות.

על זה ועוד אני מדבר בקורסים ובסדנאות ובהרצאות הקרובות שלי, כדי שנזכור שבסוף היום הכל אפשרי - רק צריך לתת לדימיון לפרוח עם הרעיונות - ולמצוא את הכלי שמתאים לנו כדי לייישם את החלומות!

ערב טוב בתפילה לבשורות טובות,
יובל

כל סיפור ההצלחה של סוכני ה-AI תלוי בהקשר, ב-Context. אם יש הקשר רלוונטי - תהיה תשובה מושלמת, אם אין הקשר רלוונטי - נקבל תשובה לא משהו.

אחת הטכניקות המעניינות להנגיש הקשר למודלים גדולים של שפה היא באמצעות פרוטוקול של הקשר למודלים שפותח ע"י חברת אנת'רופיק, שנקרא באנגלית MCP, שזה ראשי תיבות של Model Context Protocol.

לא חייבים להשתמש בו, אבל פרוטוקול מגיע לעולם כדי לעשות סדר. וכאן אנת'רופיק מנסה לעשות סדר בדרך שבה מומלץ לנו לחבר את מודל השפה לתוכנות שונות. זה יכול להיות תוכנת תלת המימד Blender, זה יכול להיות חיבור לאתר ניהול גרסאות הקוד GitHub, זה יכול להיות אפילו לסביבות פיתוח.

פה למשל הדגימו שימוש מאוד יפה: לקחו את מערכת ניהול המשימות הידועה JIRA והגדירו מה שצריך כדי לחבר את קלוד לג'ירה באמצעות MCP. במקוםן להשתמש בג'ירה, מבקשים מקלוד ליצור משימות לפי טקסט שנותנים - והוא יוצר זאת בג'ירה ואף מעדכן סטטוסים בהתאם. טירוף!

אז מסתבר שגרוק (מודל השפה של טוויטר) הוסיף יכולות עריכת תמונות באמצעות פרומפטים כמו שעשו זאת גוגל לאחרונה. בחנתי אותו (וגם את של גוגל) - ומשום מה מאוד התאכזבתי בהקלטה כי התוצאות היו גרועות, שזה הפתיע אותי כי בפעמים הקודמות המודל של גוגל דווקא עבד יפה מאוד.

גם אתם נתקלתם בהתנהגויות מוזרות? או שעבד לכם כמו שצריך? שואל גם לגבי גרוק וגם לגבי גוגל

שבוע גדול בפתח! 🇬🇧 בעזרת השם השבוע אבקר באנגליה ואשתתף בפורום AI מיוחד, שם אדבר ואדגים בפועל טכניקות בינה מלאכותית למפתחים.

נסקור את תהליך הפיתוח מתחילתו ועד סופו ונבחן דרכים לשימוש בסוכני AI לביצוע פרויקטים, כולל יצירת קוד, בדיקות, הטמעה ועוד.

אם אתם בלונדון בואו להגיד שלום 🍻

זה וואו! המודל הראשון שהצליח לשלב את הדמויות האהובות עלי בפריים אחד - וריאליסטי - ולשלב טקסט.

על המודל הזה המליץ Daniel Trabelsi אלוף האלופים ושמו reve (חפשו בגוגל reve art). ביקשתי את אד שירן, מורגן פרימן, הג׳וקר, ויו ג׳קמן כוולברין, מסיבים על שולחן עגול כאשר ברקע גשר לונדון בשקיעה, ומדורת אש על השולחן.

זה פריים שמזכיר לי את הגדת פסח שקוראים בליל הסדר ובו אומרים: ״כנגד ארבעה בנים דיברה תורה: אחד חכם, אחד רשע, אחד תם ואחד שאינו יודע לשאול״, ולהבדיל אלף אלפי הבדלות, כאן אצלי כנגד ארבעה כלי פיתוח עם AI תדבר ההרצאה שלי השבוע בלונדון. אחד הוא רק פרונט ודורש הגדרות ידניות כדי לחבר בסיס נתונים, אחד לא מצריך שום הגדרות אבל מגביל אותנו רק אליו, אחד שמאפשר לנו להריץ אפילו מודלים מקומיים ולפתח איתי לוקאלית, ואחד שיכול לעשות הכל מהכל אם זורמים איתו ומכוונים אותו קלות.

יכולים לנחש מי זה מי? וגם אם לא, אל דאגה. אני בטוח שעוד תשמעו על זה אחרי הסשן. בעזרת השם נעשה ונצליח! 🇬🇧 🇮🇱

אני מתחמם על הקווים בלונדון והחלטתי לחשוף את מהלך ההרצאה שלי על Gen AI לעולם הפיתוח! 🤯


רקע: מפתחים עוסקים בפיתוח שירותים, אתרים, אפליקציות, טיוב קוד, שיפור הקוד. כלים שעומדים לרשותם לרוב הם סביבות פיתוח מקומיות, כמו VSCode או JetBrains, יחד עם גישה לתוספים שעוזרים לקודד כמו השלמות אוטומטיות וכדומה. את ניהול גרסאות הקוד הם יכולים לבצע דרך GitHub או BitBucket או GitLab, מה שדורש מהם לבצע Commits ולאחר מכן PRs. בשלב הזה מפתחים נוספים, בכירים, עוברים על הקוד שנכתב, מציעים תיקונים במידה וצריך או המלצות לייעל ולשפר את הקוד. את כל מהלך העבודה של המפתחים הם עשויים לתעד במאגר מידע פנימי, Confluence, ואת המשימות לנהל דרך מערכת ניהול משימות כמו JIRA.

תצורת העבודה הקיימת כרוכה בביצוע משימות רבות, רובן מאוד אינטנסיביות. כאן ה-AI יכול לסייע באמצעות:
* כתיבת קוד מאפס או פונקציות חדשות
* הבנת והסבר הקוד
* שיפור הקוד
* המרת קוד משפת פיתוח א’ לשפת פיתוח ב’ או אופטימיזציה לקוד להשתמש בחבילות פנימיות
* כתיבת מבדקים לקוד על מנת לוודא שהוא חסין מפני שגיאות ופגיעויות
* כתיבת תיאורים של Commits
* ביצוע Code Review

הנ״ל מתאפשר על ידי שילוב של 2 דברים:
הגדרת הקשר, Context
הגדרת הנחייה, Prompt
השילוב דלעיל יכול להישלח למודל שפה גדול, בדגש על כזה שמומחה בקוד, ובהינתן ההקשר וההנחיה הנכונה - נוכל לקבל סיוע ולקצר זמן רב. איך? באפשרותנו להתאים אישית את הדרך שבה אנחנו פונים ל-AI כדי לקבל מענה.

בעולמות הפיתוח אנחנו יכולים להוסיף: Knowledge Base וגם AI Rules. ידע הוא ידע, שעוזר ל-AI להשיב, ואילו חוקים הם חוקי יסוד שאנו רוצים שה-AI ייקח בחשבון, כמו הנחיות להתקנת חבילות בצורה מסוימת, ״זיכרון״ של איזו מערכת הפעלה ברשותנו, פירוט תהליך העבודה - למשל: הקמת סביבה וירטואלית בתחילת פרויקט, תיעדוף חבילות פיתוח מסוימות על פני אחרות.
את כל הנ״ל אפשר לבצע באמצעות סוכני קוד שמוטמעים בכלי פיתוח - והמובילים שבהם לעניות דעתי הם:

Lovable
Base44
Cursor
GitHub Copilot / AI Assistant via JetBrains IDE / VS Code
ה-2 הראשונים הם פתרונות ענן

ה-2 האחרונים הם פתרונות מקומיים

כאשר אנו בוחרים באיזה מוצר להתשמש אנחנו צריכים לקחת בחשבון גם היבטים של אבטחת מידע והגנת פרטיות. כך למשל, כאשר אנחנו מדברים על תוכנה שבה נעבוד כדי לכתוב את קוד המקור שלנו יהיה לנו חשוב מאוד לוודא שספקי התוכנה עומדים בתקינה כגון ISO27001 SOC 2 TYPE II
דבר מעניין שכדאי לדעת: קרסר מבצע Indexing לכל ה-Codebase שלנו. המידע על המידע נשמר בענן, דרך Turbopass, והקוד עצמו נשמר אצל הלקוח על המחשב.

דוגמאות לשימושים פרקטיים:
1. אנו יכולים לחפש פרויקטים קיימים ולהעתיק אותם אלינו למחשב ולאחר מכן לפתוח את הפרויקט עם סוכן AI שיוכל להסביר לנו את הפרויקט בצורה טובה
2. בקרסר, אחת היכולות הכי חזקות ומתקדמות היא היכולת להוסיף תיעוד API, דוקומנטציות. אפשר להדביק את הקישור וקרסר ישמור את הדוקומנטציות
3. אנו יכולים לחבר את Ollama או LMStudio לכלי הפיתוח - ואז נוכל להשתמש במודלים שהם קוד מקור פתוח בחינם, מקומית על המחשב שלנו
4. פיתוח כלי שמקבל משימה -> וכותב תיאור לג'ירה + שבירה לתתי משימות (כפי שפרסמתי לאחרונה, אפשר ממש לבצע את זה בפועל עם MCP)
זהו. בלתי אפשרי לכסות הכל לפרטי פרטים בהרצאה בלבד, אבל זה כל כך מעניין ואי אפשר להפסיק לצלול עוד ועוד! אשמח לקרוא מה דעתכם, במה הייתם מתמקדים? מה הייתם מוסיפים ואולי אפילו משמיטים לגמרי?

זה שקרסר כותב קוד שעובד - לא אומר שהוא לא יקרוס. ואם יש קוד שעבד - ועכשיו קרס, יהיה בלתי אפשרי לתקן אותו אם לא הבנו מה עשינו במהלך הפיתוח

נתחיל מהסוף: זה פשוט. כותבים לקרסר לפתח - והוא מפתח. לי אישית לא קרה שקיבלתי תוצר מושלם על הפרומפט הראשון אבל קיבלתי אב-טיפוס ראשוני ראוי מאוד.

ועכשיו מתחיל משחק התרחישים:
תרחיש ראשון: ביקשנו מקרסר לפתח, והוא החליט להתקין כל מיני חבילות כדי לפתח *אבל אין לנו מושג מה הוא התקין ולמה*

במקרה כזה:
אם האתר שלנו סטטי או שהוא לא מצריך חיבורי API לצד ג' כלשהו וגם לא צריך ״להסתבך״ עם חיבור לבסיס נתונים - כנראה נקבל מה שנרצה.
אם האתר שלנו דינאמי, כזה שצריך להתעדכן ברמת התוכן שלו או להתחבר לשירותי צד ג' ולבסיסי נתונים - במקרה כזה ניתקע מהר מאוד תוך כדי הפרומפטינג שלנו כי לא יפסיקו להיות תקלות וניכנס ללופ שלא נדע איך לצאת ממנו.

תרחיש שני: ביקשנו מקרסר לפתח, והוא החליט להתקין כל מיני חבילות כדי לפתח, אבל אנחנו כן *מבינים קצת בפיתוח*
במקרה כזה:
או שניתן לו לרוץ לבד כמה שאפשר במידה ותהיה תקלה כלשהי נתחיל לשבור את הראש על מה עובד ומה לא. זה יכול לקחת שעות גם אם משתמשים ב-AI לשם כך.

או שנגדיר לו מה אנחנו רוצים לפתח וגם נעקוב אחרי מה שהוא מחליט להתקין ולפתח. לא נקבל הכל ״על עיוור״ אלא נלווה אותו בדרך, וגם אם אנחנו לא כל כך מבינים למה הוא בוחר במה שהוא בוחר - נוכל לעצור, לבדוק ולהנחות אותו. הזמן שנקדיש ל״פיקוח״ הזה - ייחסך מאיתנו בהמשך בתיקוני שגיאות.
תרחיש שלישי: ביקשנו מקרסר לפתח, והוא החליט להתקין כל מיני חבילות כדי לפתח, אבל אנחנו כן *יודעים לחפור באינטרנט גם אם אנחנו לא מבינים בפיתוח, ויודעים לשאול את השאלות הנכונות*

במקרה כזה:
אם קרסר יחליט להתקין חבילות מסוימות, אנחנו לא נסתפק בזה. אנחנו נחקור וננסה להבין מהן. למה. למשל, אם הוא בחר ללכת על Vite, לשאול מה זה? ולמה? ומה זה נותן? ובמה זה שונה מ-Next? ואם הוא בחר ב-Vue אז למה? ומי המתחרה של Vue? אה, React? אז למה לא לבחור ב-React? וכך הלאה, התהליך הזה בהתחלה מייגע אבל הוא גם מרתק ומלמד וכך לטווח הארוך נוכל להבין טוב יותר מה אנחנו עושים.
תרחיש רביעי ואחרון: ביקשנו מקרסר לפתח אבל אנחנו כן *מבינים קוד* ולכן לא ניתן לו לפתח בעצמו אלא ממש ננחה אותו ונסביר לו מראש מה המוצר שאנחנו רוצים לפתח ובאיזה טכנולוגיות אנחנו רוצים שהוא ישתמש, ובמהלך הפיתוח גם נפקח אחריו

במקרה כזה: נצליח להגיע לתוצרים מתקדמים מהר מאוד יחסית, וגם כאן נצטרך לדעת איך להתמודד עם האתגרים של מגבלת גודל חלון ההקשר במודלים גדולים של שפה, למנוע מקרסר להיכנס ללופים בלתי נגמרים, לדעת מתי להתערב ידנית בתקלות ומתי לתת לו לבד. בתרחיש כזה לרוב נציין בפירוש: לצד לקוח תשתמש ב-React, לצד שרת תשתמש ב-NextJS או Django וכדומה.
קרסר ניחן בעוד דברים מעניינים כמו לתת לו תיעודי API לשילוב בקוד במקום לקרוא אותם בעצמנו (כפי שעשיתי בווידאו המצורף) או לחבר לו שרת MCP, שזה סה״כ שיטה לתת למודלים גישה לכלים חיצוניים, כמו למשל גישה לבסיס הנתונים Supabase כדי שקרסר יוכל בעצמו לנהל עבורנו את בסיס הנתונים.

ומילה על קוד מוגן: קרסר טועה בכמויות, וגם אם זה עובד כנראה שזה לא מוגן. אחרי שהכל עובד - ממליץ להשתמש ב-GitHub Workspaces ולבקש לסרוק את הקוד, לחפש חורי אבטחה ולהיות מאוד קשים איתו. לאחר מכן, את הממצאים נחזיר לקרסר - שיתקן את הליקויים, וכך נבדוק שוב.
בקיצור, אחלה שיש כלים נוחים. פחות אחלה לסמוך עליהם בפרודקשן ״על עיוור״.

הרכב ישראלי בתפוצות: סיימנו להרצות בפורום AI מטורף בלונדון 🤩🇬🇧

הפורום, שכולו AI, הוא יוזמה של Gilad G. Amir התותח שמקבץ את כל חברות הפורטפוליו מכל רחבי אירופה ומצליח להביא את גדולי החברות להרצות בפניהן. כך למשל בעבר היום OpenAI, AWS, Perplexity, והיום היו Anthropic ו-GitHub, וגם Ishay Tubi הגאון שהראה מקרי בוחן מרתקים ופתרונות שהוא פיתח עם RAG כמו סוכן של 6 מיליון פסקי דין!! בנוסף זכינו לפגוש את Inbar Ravid ואת Michal Karnibad שסיפרו על הדרך שבה הן מממשות AI בחברת הפורטפוליו, לסיוע בתמלולים ועוד. מדהים!!!

בין המכובדים היה גם Tomer Guriel מייסד ומנכ״ל EZBob, שזכינו לדבר גם בפניו ובעיקר להביא הרבה כבוד לעם היושב בציון 🇮🇱

אני דיברתי על פיתוח ו-AI, מגמות, טרנדים, כלים, והמון דוגמאות פרקטיות הלכה למעשה של Vibe Coding עם מגוון כלים, בהם Base44, Lovable, Cursor, GitHub Copilot ועוד. תודה רבה לחברת Pollen Street Capital המדהימה ולגלעד התותח, על הזכות ועל ההזדמנות!

תודה מעל לכל לאשתי היקרה, שאלמלא היא זה לא היה אפשרי, כל מה שאני זוכה - הוא שלה ובזכותה! אין עלייך בעולם! ♥️ וכמובן תודה להשם יתברך שמנהל הכל, ותודה רבה לכל החיבורים שלי ולקהילה המדהימה שלי!

ויאללה חזרה הביתה, אל אל ישראל! 🇮🇱

וקצת מהדברים שלי

אחד המורים שלי בתיכון אמר שהשם ״יובל״ זה שם של אדם שמובילים אותו, הוא לא מוביל. כמה אני שמח להוכיח אחרת, שגם השם יובל מסוגל להיות מוביל, וברוך השם זכיתי להוביל סשן AI בלונדון, הכל על AI למפתחים בפני הבכירים מחברות מכל אירופה שעפו על התוכן שלי תודה לאל 🙌

כמה שאני מודה לה׳ ולאשתי ומעריך כל דבר. אצלי דברים לא התנהלו עם קשרים ומשיכות בחוטים. הכל עבודה קשה, באתי מלמטה בעבודה קשה, ממשכורות של 5000₪ לחודש עבור 220 שעות עבודה, והנה היום אני זוכה להתארח בלב אוקספורד של לונדון היפהפיה ולהתחכך בשועי טכנולוגיה. התחושות שלי הן שגם במצבים שמורידים אותנו, ולא רואים את האופק, ומרגישים שעובדים קשה וחינם לשווא - בסוף ההבטחה של חז״ל ש״סוף הכבוד לבוא״, ו״הזורעים בדמעה ברינה יקצורו״, מתקיימת בגדול. אין נוסחאות פלא, אין דרכי קיצור, אין תחליף לעבודה קשה.

ואם מישהו או מישהי אחת קוראים את המילים האלה - ואני זוכה לעודד או לחזק, דיינו.

כחלק מהפרגון לגאווה הישראלית, הצגתי בלונדון גם את Base44 של Maor Shlomo הגאון, בפני כ-50 מנכ״לים וסמנכ״לי טכנולוגיות של חברות עם אלפי עובדים. ההתלהבות נרשמה, ותוך כדי ההרצאה מאור הספיק להעלות גרסא חדשה שתומכת גם בהיבטי אבטחה - מה שחיזק את הטענה שלי בתחילת ההרצאה: בעידן ה-AI הסיפור הוא לא לדבר רק על כלים כי כל רגע יוצא כלי חדש, אלא בעיקר להבין את העומק ואיתו לרוץ בכל כלי.

אז מה הסיפור של Base44 ואיך הוא עוזר לנו? והאם אנחנו יכולים לשלוט בכל הפרטים כשאנחנו מפתחים עם AI? בואו נדבר על זה >>> 🇬🇧 🇮🇱

שבוע טוב עם הכרזה מעניינת של חברת Assembly AI: מודל דיבור-לטקסט (תמלול) שאפשר *להתאים אישית לתחומי ידע ספציפיים*! 🤯

מה זה אומר? שבמקרים בהם אנחנו רוצים לקבל תמלול מקצועי אבל מודל התמלול לא מכיר את עולם המונחים (למשל דברי תורה, או מונחים רפואיים או מונחים משפטיים וכדומה) - כרגע אנחנו מקבלים מונחים לא נכונים עם שגיאות, אך בזכות תהליך אימון המודל החדש, שכלל אימון שכבה חכמה מעל המודל שעבר Fine Tune שמסוגל גם להבין לפי פרומפטינג!

המשמעות היא שנוכל *לדייק ולאמן* את המודל *בהתאמה אישית* לצרכים שלנו! הם קוראים לזה Promptable Speech Language Model שזו חשיבה גאונית!! בדוגמאות המצורפות ניתן לראות בפירוש את התוצאות של התמלול עם המודל החדש, בכל פעם הוסיפו לו שכבת ידע אחרת - פעם על תחום הרפואה, המשפט, פיננסי ואפילו תעופה!

אני עוקב אחריהם תקופה ארוכה מאוד ומדובר בחברה באמת מדהימה, מחכה שישיקו כבר מודל בעברית, אך מלבד זאת הם פשוט אדירים. הם גם ישיקו מודל Streaming מהיר מאוד שיתאים לסוכנים קוליים.

ההרשמה לרשימת ההמתנה למודל החדש שהזכרתי נפתחה, שמו Slam-1 ואפשר להירשם ע״י חיפוש בגוגל של Assembly AI Slam-1 Waitlist והרשמה שם.

שבוע טוב, חודש טוב ובשורות טובות!!