למה צריך "גורם אנושי" באמצע העבודה של סוכן AI? איך מיישמים את זה? ובונוס: יצרתי ריפו תרגול - מצורף קישור בתגובה.

כשסוכן AI עובד, במקרים מסוימים מומלץ ואפילו חובה לשלב גורם אנושי באמצע כדי לבקר על מה שקורה. זה נקרא "אדם בתהליך" או Human in the Loop (HITL). הרעיון הוא מאוד פשוט ונמחיש באמצעות דוגמא קלאסית: סוכן AI שעובר על המייל שלנו ומשיב בשמנו.

אם אין גורם אנושי באמצע, מה שיקרה הוא שה-AI ינסח מענה וישלח אותו בעצמו. גם אם יש טעויות. גם אם אין. זה לא משנה. הוא מנהל הכל לבדו.

מנגד, אם משלבים גורם אנושי באמצע, אפשר לבקש מהסוכן שלפני שליחה בפועל - להעביר קודם לאישור גורם אנושי ורק לאחר אישור שכשזה - להפיץ את המייל.

מובן לחלוטין למה זה קריטי במקרה הזה. עכשיו תחשבו על דוגמאות נוספות: אבחנה רפואית, סיוע בכתב הגנה משפטי או אפילו בכתיבת פסק או גזר דין, כתיבת תוכן לסושיאל או ניהול תקציבים. אם הכל אוטומטי - בטוח שנאכל אותה. אם אנחנו משלבים תחנות עצירה - יש לנו יותר סיכוי להצליח.

בהמשך לפוסט שלי מאתמול על סוכני AI, אם נקח לדוגמא שוב את Strands של AWS כי זו החבילה שבחרתי להתמקד בה (זו וקלוד אייג'נט SDK) בקורס שלי, יש משהו שנקרא "פסיקות" (מלשון "להפסיק באמצע"). אנחנו יכולים להגדיר לסוכן שלפני שהוא מריץ כלי מסוים, כמו למשל שליחת מיילים, או מחיקת קבצים או כל מה שאנחנו רוצים - להוסיף עצירה ולפנות לגורם אנושי. רק לאחר האישור - הסוכן יתקדם לפעולה.

אגב, פה יש הבדל בין קלוד אייג'נט לבין סטרנדז. לקלוד אין Human in the loop מוכן, צריך לעבור כמה שלבים כדי להשתמש בכזה. מנגד, לסטרנדז יש יכולת מובנית להמתין למענה (צריך להגדיר כמה דברים אבל זה יותר מובנה). בנוסף, לנגרף תוכננה כדי לאפשר Human in the loop בצורה יעילה, אבל כאמור זו חבילה מאוד מורכבת ופחות כיף להתעסק איתה. ולסיכום, הכנתי לכם את התרשים המצורף ואני מזכיר למי שרוצה - הכנתי גם ריפו של מעבדה ל-AWS Strands, מוזמנים לחקור את הדוגמאות. קישור בתגובה.

מתי כן צריך סוכן ומתי לא? בואו נראה כמה דוגמאות פרקטיות (ותודה לבננה על עוד אינפוגרפיקה שהצלחתי ליצור איתה - רואים שהתאהבתי? איך לא קיבלתי ג׳ינרוטים בחינם מגוגל עדיין אני לא יודע):

1. אני רוצה לערוך וידאו באמצעות ffmpeg, תוכנה שמריצים בטרמינל עם פקודות מסוימות. רק מה? אין לי מושג מה הפקודות, התחביר די מורכב מכדי לזכור בעל פה, וסביר להניח שיהיו שגיאות לאחר הרצה שאצטרך לתקן שוב ושוב. במקרה כזה, כיוון שיש הרבה משתנים - נוח לתת לסוכן שיודע להריץ תוכנות בטרמינל (כמו קלוד אייג׳נט) להתמודד עם זה.

2. לחברה יש המון דאטה. הדאטה מאוד מבולגן. ניסו להשתמש בביטויים רגולטוריים (regex) כדי לחלץ מידע מסוים ממה שמתקבל. למשל, אם מתקבלת פנייה בשירות הלקוחות - נרצה לחלץ את שם הלקוח, כמו פרטים נוספים. כאן אפשר להשתמש במודלים שיודעים לחלץ מידע (למשל עם NER), או שאפשר לתת לסוכן את המשימה.

3. ארגון רוצה לפתח API שמקבל קובץ שמשתמש מעלה - ושומר אותו בבסיס נתונים וקטורי. יש כאן פעולות מוגדרות וברורות. אין צורך בסוכן לשם כך.

4. אנחנו רוצים לג׳נרט תמונה בסגנון מסוים עם מספר אלמנטים מאוד מוגדר בתמונה. אם לא יהיה לנו סוכן - לא נוכל לוודא ״אוטומטית״ שהתוצר לשביעות רצוננו. אם כן נגדיר סוכן, הוא יוכל להסתכל בתוצר ולהכריע האם הוא הסגנון שרצינו או לא. אם כן - אחלה, אם לא - תחזיר לביצוע, עד שנקבל מה שרצינו.

5. אנחנו רוצים ליצור תכנית עבודה שנתית או לערוך Performance Review. אנחנו נרצה סוכן שמבין את המשימה, מעניין בקונטקסט - מבצע את המשימה ומוודא שהיא עמדה בדרישות.

מבינים לאן אנחנו חותרים פה?

כל מקום שבו יש עמימות (קלט מבולגן, לא יודעים בדיוק איזה פקודות להריץ, צורך להפיק תובנות מדאטה מורכב, הרצת תוכנות עם תיקון שגיאות אוטומטי) - סוכן יעזור לנו מאוד.

מנגד, כל פעולה שאפשר להגדיר עם סט חוקים קבוע ומוגדר - לא רק שלא צריך סוכן, אלא עדיף אפילו שלא להשתמש בכזה כלל. זה סתם בזבוז זמן כסף ומאמצים.

דוגמא טובה לזה: מתכון של מנה במסעדה. אם יש מתכון עם שלבים ברורים - לא צריך את השף. זה מיותר.

מנגד, אם יש מצרכים ואין מושג מה להכין - אז פה צריך את השף שיגיע עם הידע שלו וימציא מנה טעימה.

אם יש לכם דוגמאות פרקטיות לסוכנים אשמח לקרוא בתגובות. מסתבר שבגלל הטרנד שהחל לפני כשלוש שנים, שקשור לסוכני AI, המון פיתחו סוכנים כשלא היה בהם כלל צורך. והיום קיימת מגמה הפוכה - לנסות להסיר סוכנים מיותרים ולחזור ללוגיקה פשוטה יותר איפה שאפשר.

ממשיכים עם הסוכנים: מהן אבני הבניין של סוכן AI? ממה הוא מורכב? התרשים לפניכם. ובקיצור:

1. מודל שפה גדול לבחירתנו - בין אם זה גיפיטי, קלוד או מודל אחר כרצוננו
2. כלים, לרבות שרתי MCP, כאן נותנים לסוכן כוח לפעול באמת. כמו חיבור ל-Figma או Jira וכדומה
3. זהות. שזה פרומפט מערכת. הגדרה ברורה של מי הוא ומה תפקידו בעולם
4. בניית מאגר ידע (והגדרת הטכניקה לשמירת זיכרון)
5. חומות הגנה - שכבה שעוזרת לוודא שהתוכן שמוחזר מהסוכן מדויק לצורך, אינו פוגעני ואינו כולל הטיות וכדומה
6. הערכות, Evaluations, כאן נרצה שכבה שמסתכלת על הביצוע של הסוכן ויודעת להעריך האם הוא טוב או לא
7. שחרור לאוויר העולם! Deploy

יש כל מיני חבילות לפיתוח סוכנים, אבל על זה בפעם הבאה בלי נדר בעזרת השם 💪

תמיד שואלים: האם זה אמיתי או AI? על זה בדיוק התראיינתי לחדשות 13 בכתבה שלפניכם, שבה הופיעה גם אדית שטיינברג מקהילת ה-AI שיצרה את החיבור לחדשות.

מוזמנים לצפות בכתבתה של מיר יונה, שביחד עם שיר אייזן מהחדשות עשו עבודה מאוד יפה (וכל כך מאתגר לצמצם את כל מה שדיברנו עליו!) - כל הכבוד לכן וגם לאבי הצלם היקר.

זה קצה הקרחון ויש עוד המון מה לדבר על זה, אבל ״תפסת מועט - תפסת״, ״תפסת מרובה - לא תפסת״. 🙏🤩

⁨ אנחנו בעידן שאי אפשר להאמין לכלום יותר. תסתכלו היטב - האם בחלק התחתון של המסך אני אוואטר או שהפעם זה באמת אני? מוזמנים לכתוב בתגובות את הניחוש שלכם 💪⁩

האם ה-AI סופסוף גילה איך נראה בני גורן?!

בחיים לא מצאתי תמונה של בני גורן, מחבר הספרים האייקונים של תרגול מתמטיקה לתלמידי ותלמידות ישראל מזה מספר עשורים, אז ביקשתי מננו בננה לחקור אודותיו וליצור תמונה שלו. המודל לא מצא תמונות שלו, אז אמרתי לו - לפי החומר שקראת עליו, צור תמונה של איך שלדעתך הוא אמור להיראות, מחזיק את הספרים שלו (וצירפתי כמה תמונות של כריכה של הספרים האייקונים שלו)

והנה, האם הוא דמיין הוא קלע? אין לי מושג אבל נראה משכנע 🤣🤣🤣

ננו בננה פרו: מדריך מהיר וחינמי למתחילים!!

ננו בננה פרו הוא מודל יצירת ועריכת התמונות מבית גוגל שסוחף את העולם - ובצדק! בסרטון הזה נדבר עליו ונראה איך אפשר לעבוד איתו. מדריך מהיר למתחילים עם דוגמאות מפתיעות וטעימות. בואו לצפות ואל תשכחו לתת לייק אם אהבתם - ולהגיב עם התובנות שלכם. אשמח לקרוא.

https://youtu.be/paTZQenNGXk

פיתוח עם קלוד קוד, עיצוב עם *ננו בננה bro* (יעני האח, איזה מיתוג חזק נכון?!), וחזרה לקלוד קוד, ואחרי קצת פינג פונג: פלטפורמת הלימוד שלי לסוכני AI באוויר!

הרעיון התחיל מהקורס שאני מקליט וגם מסדנאות שאני מעביר על סוכני AI ואני רוצה שכולם יוכלו להריץ קוד של סוכני AI בקלות בדפדפן כדי להבין היטב הכל. התחלתי לגלגל את זה עם קלוד קוד, הכיוון היה ממש נחמד, התקדמתי עם הוספת סקיל של קלוד קוד המעצב, frontend-designer, זה היה גם נחמד, אבל אז אמרתי בואו ננסה לעצב מחדש עם ננו בננה ברו, אז העליתי צילום מסך של מה שקלוד יצר, קיבלתי סקיצה שאהבתי מאוד (אחרי כמה ג'ינרוטים), החזרתי את צילום המסך לקלוד קוד והתחלתי להתכתב איתו ו"לאלץ" אותו ליישם את העיצוב הוויזואלי שיתאים 100% למה שמופיע בסקיצה.

זה היה קצת מאתגר, אבל לבסוף הכל עבד, ואז ביקשתי מקלוד קוד לפרסם את האתר לאוויר העולם דרך GitHub Pages (סוכני הקוד יודעים לעשות את זה אוטומטית עבורנו עם 0 מאמץ), לאחר מכן הוספתי את הדומיין שלי כדי שהאתר יהיה זמין בכתובת agents.yuv.ai וזהו, הכל באוויר! כמה שעות, וזה באוויר. אני אמשיך לתחזק את התרגילים והכל, איזה כיף! וגם שחררתי את זה כקוד מקור פתוח למי שרוצה. איזה לילה היה פה, כמה כיף לדמיין וליצור!