גם גוגל לא מאמינה בג׳ימיני! לפי מסך פנימי, בגוגל הזינו שאלות למשרת תכנות לצ׳אט GPT, שעבר בהצלחה רבה את המבחן והתקבל למשרה שהשכר הכולל שלה הוא 183,000 דולר בשנה!

אז אף אחד לא שאל את זה, אבל אני שואל - למה גוגל לא השתמשו בג׳ימיני כדי לקבל את התוצאות? למה הם השתמשו ב ChatGPT? אולי זה בגלל שגם גוגל לא מאמינה במודל שלה?

*יובל אבידני*

https://www.pcmag.com/news/chatgpt-passes-google-coding-interview-for-level-3-engineer-with-183k-salary

זה הקישור https://epomaker.com/products/feker-alice

סוכני AI הם סך הכל פרומפט מערכת נפרד. אם זה לא אומר לכם כלום - תקראו את הפוסט ⬇️

כשאנחנו אומרים ״סוכני AI״, לרוב אנחנו מדברים על שימוש בשיחה עם קלוד או GPT באמצעות קוד, ומתן זהות נפרדת בחלק של השיחה שאחראי על הזהות של הצ׳אטבוט.

כדי שנבין: שיחה עם צ׳אט GPT או קלוד מתחלקת למרכיב של השיחה עצמה, אך גם למרכיב נוסף, שלא כולם מודעים אליו, שנקרא System Prompt. זה החלק שבו אנחנו אומרים לצ׳אט: שומע? אתה נציג מכירות, או שירות, או רופא, או מהנדס בניין. זה החלק שבו אנחנו אומרים לצ׳אט מי הוא, מהו, מה הוא יודע לבצע ומה בכלל הידע שלו. את כל זה אנחנו אורזים יפה ומכנים בשם ״סוכן״ לתחום מסוים.

כך בכל פעם שנרצה סוכן חדש, נבצע אותו דבר, נגדיר זהות אחרת, וניתן שם אחר, והופ: יש לנו עוד סוכן. ובשלב מסוים הם יכולים לייצר אינטראקציה ביניהם. שזה שלב מאוד מעניין.

אבל זה הרעיון: להגדיר System Prompt = להגדיר זהות לסוכן. החידוש בכך הוא שעל ידי כך, יש לנו אפשרות גם לטעון מאגר ידע נפרד לכל סוכן, וזו יכולת מאוד עוצמתית. גם System Prompt וגם ידע בלעדי.

למען הסר ספק, פרומפט זה הטקסט שאנו מזינים בשיחה עם מודל שפה. פרומפט מערכת זה טקסט שאנו מזינים במקום אחר, בקוד זה ממש מוגדר ידנית בחלק מסוים, שמגדיר את זהות המערכת. את המוח. המנוע.

ואיך אפשר בפועל להגדיר זאת?
בקוד אפשר כמובן עם LangChain המלך,
ועם CrewAI,
ועם AutoGen של מייקרוסופט,
ועם ה-API הרגיל של GPT או קלוד

וללא קוד?
כמובן עם Officely האדירים והישראלים שיש להם גם הנחה מיוחדת עם הקופון YUVALAI20
עם uchat האוסטרלים
עם botpress
עם voiceflow
עם flowiseai
עם AutoGen Studio

זה באמת עד כדי כך פשוט, ועד כדי כך עוצמתי. מקווה שקיבלתם ערך, ואם כן - תנו בלייק, תגובה, שיתוף! כל מעשה טוב יעזור! 🙏

*יובל אבידני*

נ.ב - התמונה נוצרה עם הגרסא החדשה של מחולל התמונות המדהים IDEOGRAM AI שמצליח לשלב טקסט מושלם! (לא, טרם בעברית)

דרמה שקטה אך רועשת: OpenAI משחררים לאוויר העולם כלי אדיר וחדש שאמור לעזור לנו להבין, מתחת למכסה המנוע, איך עובד מודל הטרנזפורמרים במודלים קטנים של שפה. הוא נקרא Transformer Debugger.

יש פה משמעות אדירה: נוכל סופסוף לנסות לחקור *למה* מודל שפה מבוסס טרנזפורמרים כמו GPT מתנהג בצורה שבה הוא מתנהג, להבין איך מנגנון תשומת הלב עובד, למה הוא נותן דגש במשפט מסוים ואיך, ואולי גם לחקור לעומק את היכולת של השפה העברית!

שלא במקרה, שחרור הקוד הזה בחינם לכולם, מתבצע לאחר הפרסום של אילון מאסק להפוך את מודל השפה שלו, גרוק, לקוד מקור פתוח. ב OpenAI מזהים את הסכנה ומגיבים במהירות האור כיאה לחברה בסדר הגודל שלהם.

הכלי דורש הבנה בלמידת מכונה וידע טכני די נרחב. אבל יש פה דרמה טכנית, ומאוד משמעותית.

לכלי: https://github.com/openai/transformer-debugger

*יובל אבידני*

הפצצתם אותי בפרטי אז הקלטתי סרטון זריז של השוואה בין GPT לקלוד בשאלות מתמטיות, על מודל שפה ומתמטיקה, על WOLFRAM ALPHA, על כמה נשאר נטו מברוטו למען השם ועוד! הקרנת בכורה ממש עכשיו:

https://youtu.be/g57R5lqOrVI

הקבוצה השקטה התמלאה מבלי ששמתי לב, ובשעה טובה פתחתי קבוצת עדכונים שקטה נוספת. אם יש מישהו/י שלא הצליח להצטרף אשמח אם תוכלו להעביר את הלינק, ובכלל אשמח על כל שיתוף 🙏

אנחנו מונים כבר אלפים בקבוצות השונות וזה כיף גדול אז תודה רבה לכם, בואו נצמח ב-AI ביחד!

קישור לערוץ השקט הנוסף - https://chat.whatsapp.com/Ds20o8yNmEuGdFaJcdHjYN

ספונטניים? אני מגיע לדובאי בשבוע הבא ואשמח לעזרה במציאת מקום להעביר בו הרצאה כיפית על AI, ואם אתם ספונטניים\ות ורוצים להצטרף להרצאה - עדכנו אותי ואשמח לפגוש אתכם!

יובל

הבנו שAI הוא מגניב, אבל במה תכלס הוא יכול לעזור לנו שיהיה גם שימושי? בואו נדבר על זה >>>

הרגע הגדול הגיע: מודל השפה גרוק של אילון מאסק שוחרר בקוד פתוח וזמין להורדה דרך גיטהאב!

אזכיר שגרוק הוא מודל שפה מבוסס דאטה של טוויטר, יש לו מצב של ציניות כדי להוסיף הומור, והוא אמור להיות מסוגל לפתור בעיות קשות ש OpenAI או מודלים אחרים לא מצליחים לפתור.

קישור: https://github.com/xai-org/grok-1

*יובל אבידני*

קבלו איך הפכתי תמונה משעממת שלי בנתב״ג - לתמונה יפהפיה בדובאי!

#בינהמלאכותית #אדובי #אינפיינט #גרפיקה #עריכה #ai #inpaint #adobe #firefly #generativefill #פיירפליי

🐸 שמעתם על הסטארטאפ JFROG? אז מסתבר שאני משפיען טכנולוגי וקיבלתי מהם חבילה מגניבה, ואיך לא - הזמנתי את מורגן פרימן להסביר מי הם בכלל ומה הם עושים, וכל זה ב-37 שניות!

כדי ליצור את הסרטון השתמשתי ב:
- צילום חלקים מהספר והנפשה באמצעות CapCut / Pika
- יצירת הקול עם Play.ht
- כתוביות עם Captions AI
- אני כתבתי את הטקסט, וערכתי עם CapCut ושם בחרתי אפקטים של AI
- קטעי השילוב של הבובה הם מסרטון מדהים שמצאתי

מה דעתכם? מה חושבים? והכרתם את JFROG?

@JFrog IL
#jfrog #ai #frog #artificialintelligence #גייפרוג #צפרדע #בינהמלאכותית #capcut

מתנה לפורים: איך החלפתי את הפנים והקול שלי לשל דמות אחרת? צפו וגלו את הסוד!

תודה לישי רזיאל התותח על המודל של אביב גפן, ועל ההמלצות השוות!! @Yishay Raziel

#בינהמלאכותית #החלפתפנים #שינויקול #מידול #שיבוט #דיפפייק #ai #deepfake #df #voicecloning #favwswap #facefusion

למה כשאנו מנסים ליצור מסמך מפורט - אנו מקבלים מה-AI תוכן דל וקצר בלבד? בואו נבין את זה באמצעות דיון על ANI ו-AGI.

בינה מלאכותית צרה, הקרויה Artificial Narrow Intelligence, היא כזו שיודעת לבצע משימה באופן צר. יש משימה מוגדרת - מבצעים אותה. כמו להזיז חייל של שחמט צעד אחד קדימה.

מנגד, בינה מלאכותית כללית, Artificial General Intelligence, היא כזו שיודעת לבצע משימה בשלמותה עם יכולות חשיבה הבנה הסקה ניתוח תיקון. כמו לשחק שחמט מהתחלה ועד סוף. לקחת בחשבון את כל המהלכים, לחשוב לפני כל צעד, לקחת את הזמן לחשוב, להחליט, לתקן תוך כדי.

אנחנו מרגישים טוב מאוד את ה-ANI כשאנחנו מבקשים מChatGPT או קלוד לכתוב לנו מאמר ארוך ומפורט. מהר מאוד אנו מגלים שאנו מקבלים מאמר קצר ממה שרצינו, שהתוכן ממש לא מספיק עמוק כפי שביקשנו, ושהתוצר פשוט לא מספיק טוב, ואז אנחנו צריכים לבנות איזשהו קו כללי, וכל פעם לבקש מידע על נושא מסוים. כמו לבנות תוכן עניינים ואז לחפור לצ׳אט לקבל מידע על כל כותרת. זה לא מספיק טוב וזה לא כיפי.

ה-AGI אמור לתת לנו את היכולת הזו. לקבל באמת מסמך עם עומק ועושר כפי שאנו מצפים לקבל. זה יתאפשר על ידי העמקה של המשימה, ניתוח והבנה. הקשר כללי וזיכרון רחב יותר. זה השלב שאליו כולם רוצים ומנסים לדהור קדימה.

דוגמא נוספת - קמפיינים של משרדי פרסום. דמיינו שאתם חברת תעופה ואתם רוצים לצאת בקמפיין. אבל אתם לא רוצים סתם לשרוף כסף. אז לקחתם משרד פרסום, משרד הפרסום בונה עבורכם את האסטרטגיה, את התכנית, את הפירוט התקציבי, ממליץ על קניית מדיה, על קמפיינים בתקשורת, בדפוס, ברדיו, בטלוויזיה, מבטיח תוצאות, מבטיח החזר על ההשקעה ואף רווחים.

האם היום הכלים הקיימים מסוגלים לבצע את כל זה? ודאי שלא. הם שם בצורה רדודה ושטחית מאוד. הם יכולים לעזור, אבל הם לא שם עד הסוף. הם ANI אבל לא AGI.

אז איך מתגברים על זה שאנחנו עוד לא שם? איך אנחנו יוצרים מסמך עבה מספיק עם עומק? תכנית עבודה פרקטית לפרסום? הנה כמה רעיונות:

שלב ראשון: ליצור תוכן עניינים, קווים מנחים, ראשי פרקים של המשימה אותה נרצה לבצע. בכל שאלה לצ׳אט נזכיר בהתחלה את המטרה: יצירת מסמך / קמפיין בנושא X. ונצרף את השאלה.

שלב שני: בכל פעם נפנה לצ׳אט עם כותרת אחת ונבקש העמקה. כמה שצריך על כל פסקה אפילו. סיזיפי ומתיש. אבל זה מה יש כרגע. אפשר להיעזר גם ב Perplexity וזה נחמד.

טיפ: לא להילחם עם GPTs, הם רעיון נחמד אבל גם בזבוז זמן בהמון מקרים.

שלב שלישי: לאסוף דוגמאות לקמפיינים, בריפים, תכניות אסטרטגיה, ולבצע Fine Tune למודלים יחד עם החומרים האלה. זה מה שיכול לתת ערך מוסף אמיתי לשימוש במודל שפה לצורך ספציפי. לא רק תשאול על בריף קיים, אלא ממש לימוד של מודל על חומרים ספציפיים.

במצב אידיאלי, אם נוכל אפילו לבנות טבלה עם מדדים על כל קמפיין, תיוג של מה מוצלח ומה לא, נוכל גם ליצור מודל משל עצמנו שינבא את סיכויי ההצלחה של קמפיינים עתידיים ואף לקבל המלצות על פילוח קהלי יעד מראש, גם ללא תלות במשרדי פרסום או מערכות פרסום של פייסבוק וכדומה.

שלב רביעי: להתעקש על יצירת 2 גרסאות למשימה. מה שנקרא A/B Testing. לגרום למודלים ליצור תוכן בגרסאות שונות כדי שניתן יהיה לבדוק מה יותר אפקטיבי. במצב אידיאלי נחזור למודל ונלמד אותו מה עבד יותר טוב ומה פחות וכך נשפר עוד ועוד את המודל שלנו.

שלב חמישי: יצירת ״תבניות״ פרומפט. ממש ליצור תבנית למשל - שואלים שאלה מסוימת, יודעים שהתשובה תחזור ומשבצים אותה מראש בשאלת המשך, שולחים את שאלת ההמשך וגם עליה מקבלים תשובה וגם אותה מקבלים בשאלת המשך וכך הלאה. זה נקרא בלנגצ׳יין Prompt Template, יש לזה כוח עוצמתי מאוד אם כי זה לא תצורת עבודה הכי חסכונית כיוון שבכל שאלה כל התבנית נשלחת.

שלב שישי: שילוב קריאות למודלים שגם יוצרים מוקאפים / ויזואליה. אם יש לנו בריף או תכנית, אז לבנות מראש תבנית שגם תבנה לנו קובץ מסודר אבל גם לשלב בין לבין קריאות API ליצירת ויזואל להמחשה. כמו למשל פניות ל ClipDrop / Leonardo / StabilityAI ועוד.

יש עוד המון מה להגיד, אבל באמת כקו כללי, כל עוד אנו מבינים שאנו רק ב ANI, אנו נדע שצריך להתנהג אליו בהתאם כדי למקסם את התוצרים. אם נחשוב שאנחנו ב AGI כנראה נישאר מתוסכלים וחבל. עוד נגיע לשם, אבל כרגע בואו נזכור שאנחנו בעולם צר למרות הכל.

בעצם AGI זה כמו נשר שרואה הכל במבט על ומבין לעומק איך הכל מתחבר, לעומת ANI שזה כמו שחקן שחמט שמרוכז רק במהלך אחד מבלי לחשוב על יתר המשחק.

ככל שנשכיל לזכור זאת, כך נצליח יותר בעבודת הפרומפטים שלנו, מקווה שנהניתם!

*יובל אבידני*

יש מעין סינרגיה בין תחום מדע הנתונים ללמידת מכונה. אי אפשר להיות מומחה ללמידת מכונה מבלי להבין דאטה אבל אפשר להיות מומחה לנתונים גם מבלי להשתמש בהכרח בלמידת מכונה.

המשחק האמיתי של למידת מכונה הוא להבין טוב את הנתונים ואת הבעיות שצריך לפתור, להבין האם אנחנו משתמשים בנתונים מסודרים בטבלאות או בנתונים אחרים כמו קבצי אודיו וידאו וכדומה. בסוף, כל המידע עובר המרה למספרים, המספרים מוזנים למודל כלשהו שלומד דפוסים במספרים, וכך יודע לנבא. נתונים אנחנו יכולים לנתח באמצעות שימוש בפייתון, בדגש על Pandas NumPy, הוספת ויזואל להבנת הנתונים באמצעות MatplotLib וחשיבה לאן לקחת את זה משם בהיבטי למידת מכונה.

אגב, מקובל לעבוד עם סביבת למידת מכונה של מיני קונדה, שהיא בעצם סט כלים שימושיים למדעני נתונים ולמהנדסי למידת מכונה. יש חבילה גדולה יותר שנקראת אנקונדה אבל יש בה המון כלים ולא תמיד משתמשים בהם.

אז לסיכום, דאטה ולמידת מכונה - חד הם. לא לפחד מדאטה. לא לפחד מלצלול לעומק. אבל ככה זה מתחת למכסה המנוע - וזה מרתק!

*יובל אבידני*

שוב OpenAI נותנת טעימות ממודל SORA שלה שמייצר וידאו מטקסט, אבל הפעם היא מציגה סרטונים ארוכים, כולל קריינות, מה שאומר בגדול שאפשר לזרוק הרבה חברות ומשרדי פרסום לפח המחזור הקרוב. זו רמה שלא נראתה מעולם וזה לא נתפס בשום קנה מידה.

העולם משתנה ממש ברגעים אלה, יש רעידת אדמה ומהפכות כבר שנה, מי שלא יתחיל להיכנס לעניינים ימצא את עצמו מתקשה מאוד להדביק את הפער מול מי שקפץ למים מההתחלה. אנו עדים למהפכה שלא הייתה כמותה מאז האינטרנט והמהפכה התעשייתית!

תחשבו כמה הייתם צריכים לעבוד כדי ליצור את הפתיח הזה של דמות שהראש שלה הוא בלון צהוב שנע בסצנות שונות. כל זה עם סורה. הכל. פסיכי!

סורה עוד לא שוחררה לכולם, עוד לא ברורה הטכנולוגיה מאחוריה עד הסוף, המחקר ששוחרר מאוד כללי, לא ברור מספיק, דרוש כוח עיבוד רב, ולכן בטח המחיר יהיה גבוה.

*יובל אבידני*