מתפוצץ לי המוח מהשוואות בין חבילות של פיתוח סוכני AI. אני מקליט על זה קורס ואני מוצא את עצמי משווה את עצמי לדעת. איזה כאב ראש. החלטתי לצמצם את הרעש והרי הוא לפניכם.



המטרה שלי: להבין באיזו חבילת פיתוח הכי כדאי לי להתרכז. אני רוצה חבילה שיש בה הרבה דברים שמקבלים ישירות, בלי יותר מדי לשבור את הראש על הגדרות, אבל שלא תהיה כזו שגוררת עלויות כבדות של טוקנים (כמו לנגצ'יין למשל ששם יש הכל אבל משלמים יפה יפה כי מאחורי הקלעים יש פרומטים מפלצתיים). ניסיתי להבין איזו חבילה תתן לנו:



- יכולת לעבוד עם ריבוי סוכנים

- אינטגרציה קלה ומהירה לכלים מובנים או כאלה שנרצה לפתח (לרבות שרתי MCP), כמו כלים שמאפשרים חיפוש באינטרנט, הרצת קוד במסוף וכדומה

- ניהול סשן כדי לשמור על זיכרון עם המשתמשים

- שמירה על היסטוריה של שיחות בצורה סבירה או קלה

- נקיות קוד, קל להבנה

- עם אפשרות לקבל נתונים, מטריקות, על מה שקורה לנו עם הסוכנים (Open Telemtry, Observability)

- שיהיה קל לפרוס את הסוכן או הסוכנים לאוויר העולם (Deploy)



זה לא היה כזה פשוט. השוויתי בין: Langchain, Langraph, Autogen, Google Agent SDK, Claude Agent SDK, OpenAI Swarm, PyDantic AI, AWS Strands ועוד



שורה תחתונה, אחרי *המון* בדיקות וחפירות, מבחינתי הסיכום של שלושת הגדולים הוא כזה:



3. מקום שלישי - Langraph. יהיו שיצעקו על זה. ויגידו מה פתאום. לנגרף זו חבילה משגעת שבאה עם כל כך הרבה דברים. אבל עקומת הלמידה שלה מאוד לא פשוטה. היא גורמת להתייאש מהר מאוד. משהו שם מאוד לא ידידותי, לא כיפי, ובדרך כלל כאלה דברים גורמים לייאוש מהר מאוד. אז אפשר לנהל הכל אבל זה לא קל. זה מזכיר את היכולת לתכנת באסמלי כדי לנהל את הזיכרון. אבל למה שנעשה את זה אם יש שפות עיליות קלות וטובות? אז פה יש המון כלים אבל בעיני זה המוצא האחרון (מבין הטובים)



2. מקום שני - זה די מפתיע אבל Claude Agent SDK. אנת'רופיק שינו לחבילה של Claude Code SDK את השם. מאוד אהבתי את החבילה הזו כי היא באה עם ים של פיצ'רים, כולל ניהול סשנים, כלים לשליטה על המחשב ובכלל יש כאן הפתעה גדולה מאוד. החיסרון הוא שאין עבודה עם ריבוי סוכנים בצורה אינטואיטיבית, וגם יש נעילה רק למודלים של אנת'רופיק. שזה בסדר למי שרוצה את האקו-סיסטם של קלוד.



1. מקום ראשון בעיני - וזה גם הפתיע אותי, אבל Strands של AWS. יש מגוון מדריכים שמוסברים היטב, יש ארסנל של כלים שמקבלים בצורה מובנית, אפשר לבחור איזה LLM אנחנו רוצים, יש ניהול סשנים, זיכרון, והקוד לכתיבת סוכנים הוא כל כך נקי ביחס לכל האחרים. הקלות שבה אפשר להגדיר עבודה עם ריבוי סוכנים, לנטר אחר מה שקורה, וכל זה מבלי החיוב לעבוד בכלל עם AWS - זה ממש מטורף, ומאוד מאוד נוח. לעניות דעתי, היות שהמון ארגונים אוהבים את AWS וגם ככה רוצים בפרודקשן לעבוד איתם - יש כאן כוח גדול מאוד כפול: גם חבילה Open Source מטורפת, וגם אפשר להשתמש ב-AgentCore במעטפת שלה כדי לבצע Deploy בצורה הכי נוחה שיש.



לגבי יתר החבילות, כרגע הן לא שם מבחינתי. זו רק דעתי. פרודקשן. נוחות. קלות. הבנה של מה מקבלים. קוד נקי. אין ספק ש-Strands ניצחה. ואגב, השילוב עם קלוד אייג'נט דווקא יכול להיות משגע. שניהם ביחד זה פגז.



כל הכבוד לכם Amazon Web Services (AWS) !!

Keshet Brosh Mor Lankry Eldar Gili Nachum Boaz Ziniman Maish Saidel-Keesing Tal Panchek

למה צריך "גורם אנושי" באמצע העבודה של סוכן AI? איך מיישמים את זה? ובונוס: יצרתי ריפו תרגול - מצורף קישור בתגובה.

כשסוכן AI עובד, במקרים מסוימים מומלץ ואפילו חובה לשלב גורם אנושי באמצע כדי לבקר על מה שקורה. זה נקרא "אדם בתהליך" או Human in the Loop (HITL). הרעיון הוא מאוד פשוט ונמחיש באמצעות דוגמא קלאסית: סוכן AI שעובר על המייל שלנו ומשיב בשמנו.

אם אין גורם אנושי באמצע, מה שיקרה הוא שה-AI ינסח מענה וישלח אותו בעצמו. גם אם יש טעויות. גם אם אין. זה לא משנה. הוא מנהל הכל לבדו.

מנגד, אם משלבים גורם אנושי באמצע, אפשר לבקש מהסוכן שלפני שליחה בפועל - להעביר קודם לאישור גורם אנושי ורק לאחר אישור שכשזה - להפיץ את המייל.

מובן לחלוטין למה זה קריטי במקרה הזה. עכשיו תחשבו על דוגמאות נוספות: אבחנה רפואית, סיוע בכתב הגנה משפטי או אפילו בכתיבת פסק או גזר דין, כתיבת תוכן לסושיאל או ניהול תקציבים. אם הכל אוטומטי - בטוח שנאכל אותה. אם אנחנו משלבים תחנות עצירה - יש לנו יותר סיכוי להצליח.

בהמשך לפוסט שלי מאתמול על סוכני AI, אם נקח לדוגמא שוב את Strands של AWS כי זו החבילה שבחרתי להתמקד בה (זו וקלוד אייג'נט SDK) בקורס שלי, יש משהו שנקרא "פסיקות" (מלשון "להפסיק באמצע"). אנחנו יכולים להגדיר לסוכן שלפני שהוא מריץ כלי מסוים, כמו למשל שליחת מיילים, או מחיקת קבצים או כל מה שאנחנו רוצים - להוסיף עצירה ולפנות לגורם אנושי. רק לאחר האישור - הסוכן יתקדם לפעולה.

אגב, פה יש הבדל בין קלוד אייג'נט לבין סטרנדז. לקלוד אין Human in the loop מוכן, צריך לעבור כמה שלבים כדי להשתמש בכזה. מנגד, לסטרנדז יש יכולת מובנית להמתין למענה (צריך להגדיר כמה דברים אבל זה יותר מובנה). בנוסף, לנגרף תוכננה כדי לאפשר Human in the loop בצורה יעילה, אבל כאמור זו חבילה מאוד מורכבת ופחות כיף להתעסק איתה. ולסיכום, הכנתי לכם את התרשים המצורף ואני מזכיר למי שרוצה - הכנתי גם ריפו של מעבדה ל-AWS Strands, מוזמנים לחקור את הדוגמאות. קישור בתגובה.

מתי כן צריך סוכן ומתי לא? בואו נראה כמה דוגמאות פרקטיות (ותודה לבננה על עוד אינפוגרפיקה שהצלחתי ליצור איתה - רואים שהתאהבתי? איך לא קיבלתי ג׳ינרוטים בחינם מגוגל עדיין אני לא יודע):

1. אני רוצה לערוך וידאו באמצעות ffmpeg, תוכנה שמריצים בטרמינל עם פקודות מסוימות. רק מה? אין לי מושג מה הפקודות, התחביר די מורכב מכדי לזכור בעל פה, וסביר להניח שיהיו שגיאות לאחר הרצה שאצטרך לתקן שוב ושוב. במקרה כזה, כיוון שיש הרבה משתנים - נוח לתת לסוכן שיודע להריץ תוכנות בטרמינל (כמו קלוד אייג׳נט) להתמודד עם זה.

2. לחברה יש המון דאטה. הדאטה מאוד מבולגן. ניסו להשתמש בביטויים רגולטוריים (regex) כדי לחלץ מידע מסוים ממה שמתקבל. למשל, אם מתקבלת פנייה בשירות הלקוחות - נרצה לחלץ את שם הלקוח, כמו פרטים נוספים. כאן אפשר להשתמש במודלים שיודעים לחלץ מידע (למשל עם NER), או שאפשר לתת לסוכן את המשימה.

3. ארגון רוצה לפתח API שמקבל קובץ שמשתמש מעלה - ושומר אותו בבסיס נתונים וקטורי. יש כאן פעולות מוגדרות וברורות. אין צורך בסוכן לשם כך.

4. אנחנו רוצים לג׳נרט תמונה בסגנון מסוים עם מספר אלמנטים מאוד מוגדר בתמונה. אם לא יהיה לנו סוכן - לא נוכל לוודא ״אוטומטית״ שהתוצר לשביעות רצוננו. אם כן נגדיר סוכן, הוא יוכל להסתכל בתוצר ולהכריע האם הוא הסגנון שרצינו או לא. אם כן - אחלה, אם לא - תחזיר לביצוע, עד שנקבל מה שרצינו.

5. אנחנו רוצים ליצור תכנית עבודה שנתית או לערוך Performance Review. אנחנו נרצה סוכן שמבין את המשימה, מעניין בקונטקסט - מבצע את המשימה ומוודא שהיא עמדה בדרישות.

מבינים לאן אנחנו חותרים פה?

כל מקום שבו יש עמימות (קלט מבולגן, לא יודעים בדיוק איזה פקודות להריץ, צורך להפיק תובנות מדאטה מורכב, הרצת תוכנות עם תיקון שגיאות אוטומטי) - סוכן יעזור לנו מאוד.

מנגד, כל פעולה שאפשר להגדיר עם סט חוקים קבוע ומוגדר - לא רק שלא צריך סוכן, אלא עדיף אפילו שלא להשתמש בכזה כלל. זה סתם בזבוז זמן כסף ומאמצים.

דוגמא טובה לזה: מתכון של מנה במסעדה. אם יש מתכון עם שלבים ברורים - לא צריך את השף. זה מיותר.

מנגד, אם יש מצרכים ואין מושג מה להכין - אז פה צריך את השף שיגיע עם הידע שלו וימציא מנה טעימה.

אם יש לכם דוגמאות פרקטיות לסוכנים אשמח לקרוא בתגובות. מסתבר שבגלל הטרנד שהחל לפני כשלוש שנים, שקשור לסוכני AI, המון פיתחו סוכנים כשלא היה בהם כלל צורך. והיום קיימת מגמה הפוכה - לנסות להסיר סוכנים מיותרים ולחזור ללוגיקה פשוטה יותר איפה שאפשר.

ממשיכים עם הסוכנים: מהן אבני הבניין של סוכן AI? ממה הוא מורכב? התרשים לפניכם. ובקיצור:

1. מודל שפה גדול לבחירתנו - בין אם זה גיפיטי, קלוד או מודל אחר כרצוננו
2. כלים, לרבות שרתי MCP, כאן נותנים לסוכן כוח לפעול באמת. כמו חיבור ל-Figma או Jira וכדומה
3. זהות. שזה פרומפט מערכת. הגדרה ברורה של מי הוא ומה תפקידו בעולם
4. בניית מאגר ידע (והגדרת הטכניקה לשמירת זיכרון)
5. חומות הגנה - שכבה שעוזרת לוודא שהתוכן שמוחזר מהסוכן מדויק לצורך, אינו פוגעני ואינו כולל הטיות וכדומה
6. הערכות, Evaluations, כאן נרצה שכבה שמסתכלת על הביצוע של הסוכן ויודעת להעריך האם הוא טוב או לא
7. שחרור לאוויר העולם! Deploy

יש כל מיני חבילות לפיתוח סוכנים, אבל על זה בפעם הבאה בלי נדר בעזרת השם 💪

תמיד שואלים: האם זה אמיתי או AI? על זה בדיוק התראיינתי לחדשות 13 בכתבה שלפניכם, שבה הופיעה גם אדית שטיינברג מקהילת ה-AI שיצרה את החיבור לחדשות.

מוזמנים לצפות בכתבתה של מיר יונה, שביחד עם שיר אייזן מהחדשות עשו עבודה מאוד יפה (וכל כך מאתגר לצמצם את כל מה שדיברנו עליו!) - כל הכבוד לכן וגם לאבי הצלם היקר.

זה קצה הקרחון ויש עוד המון מה לדבר על זה, אבל ״תפסת מועט - תפסת״, ״תפסת מרובה - לא תפסת״. 🙏🤩

⁨ אנחנו בעידן שאי אפשר להאמין לכלום יותר. תסתכלו היטב - האם בחלק התחתון של המסך אני אוואטר או שהפעם זה באמת אני? מוזמנים לכתוב בתגובות את הניחוש שלכם 💪⁩

האם ה-AI סופסוף גילה איך נראה בני גורן?!

בחיים לא מצאתי תמונה של בני גורן, מחבר הספרים האייקונים של תרגול מתמטיקה לתלמידי ותלמידות ישראל מזה מספר עשורים, אז ביקשתי מננו בננה לחקור אודותיו וליצור תמונה שלו. המודל לא מצא תמונות שלו, אז אמרתי לו - לפי החומר שקראת עליו, צור תמונה של איך שלדעתך הוא אמור להיראות, מחזיק את הספרים שלו (וצירפתי כמה תמונות של כריכה של הספרים האייקונים שלו)

והנה, האם הוא דמיין הוא קלע? אין לי מושג אבל נראה משכנע 🤣🤣🤣

ננו בננה פרו: מדריך מהיר וחינמי למתחילים!!

ננו בננה פרו הוא מודל יצירת ועריכת התמונות מבית גוגל שסוחף את העולם - ובצדק! בסרטון הזה נדבר עליו ונראה איך אפשר לעבוד איתו. מדריך מהיר למתחילים עם דוגמאות מפתיעות וטעימות. בואו לצפות ואל תשכחו לתת לייק אם אהבתם - ולהגיב עם התובנות שלכם. אשמח לקרוא.

https://youtu.be/paTZQenNGXk