זה חזק ממני ואני חייב לשתף ולכן: וובינר *חינם* של על Devin. מהנדס התוכנה הראשון בהיסטוריה שכולו AI!

אסביר עליו הכל לעומק. תקבלו חשיפה בלעדית מהגישה הבלעדית שקיבלתי ותבינו את המהפכה בעיניים.

הערב, סביב 21:00 בזום. אשלח קישור בערוץ החדש של הקהילה שלי בוואצאפ. רוצים גם? הצטרפו לערוץ!

https://whatsapp.com/channel/0029Vaf1TtmLikg7KtQOrI27

יאללה לייב על דווין - מתחילים!!
https://youtube.com/live/EeiV9S95yLk?feature=share

הייתה תקלה בקישור הקודם, הכל פה:
https://youtube.com/live/EPhem_MFZjA?feature=share

סיכום ההכרזה הערב של גוגל:

מודל יצירת תמונות חדש - שלא זמין לאף אחד
מודל וידאו חדש - שלא זמין לאף אחד
מודל מוזיקה חדש - שלא זמין לאף אחד
משאבי ענן חדשים יותר - שלא זמינים לאף אחד
יכולת של ג׳ימיני לחפש באמצעות סימונים על תמונות - זמין לאנדרואיד בלבד
יכולת של ג׳ימיני לנתח וידאו בזמן אמת בדומה למה שהוצג אתמול ע״י OpenAI - לא זמין לאף אחד
יכולת של ג׳ימיני לראות את העולם עם משקפיים של גוגל ולהשיב - מוצר שלא קיים ותוכנה שלא זמינה לאף אחד

מה כן היה? אחלה דמואים מוכנים מראש, קישור להרשמה לבקשת גישה מוקדמת לכלים, שלא זמינים לאף אחד וספק מתי בכלל יהיו. לדברי גוגל רק מעטים מאוד יקבלו גישה בשבועות הקרובים.

אחלה אירוע השקה ואחלה הכרזות!!!!

רעידת אדמה הלילה: איליה סוצקבר, ממייסדי OpenAI, המדען הראשי, עוזב את החברה.

להערכתי, הקרב שהתגלע בין אלטמן לסוצקובר הישראלי, הגיע לרתיחה עם פיטורי אלטמן שהסעירו את הרשת. החברה החזירה את אלטמן וכעת איליה הוא זה שעוזב. מדובר בצעד מאוד קשה מהטעמים הבאים:

1. לאיליה באמת אכפת מבינה מלאכותית שפועלת לטובת האנושות. בעוד שאלטמן מקדם אג׳נדות מסחריות מובהקות, איליה פועל מתוך רצון לשנות את האנושות לטובה.
2. ⁠איליה מתנגד לשימוש ב-AI במתכונתה המסחרית הגורפת, ומאוד לא אוהב את ה״מסחרה״ סביב המודלים ואת ההינעלות על חוזים עם מייקרוסופט ושות׳, אלטמן בעד וגם דוחף לזה.
3. ⁠איליה התנגד להכרזה של אלטמן על מונטיזציה מ GPTs, ובכלל - סבור שמסוכן שכל הכח יהיה בידיים של חברה מסחרית, שזה פתח לצרות צרורות ומנוגד לעקרונות החברה
4. ⁠מדובר בתחילתה של הדרדרות מוסרית היות וכעת אין מבוגר אחראי ברמה של איליה שיכול לבלום את קצב ההתמסחרות. זו פגיעה קשה באיזונים והבלמים של הבינה מול הרצון להתעשר ולהתמסחר. נוסיף לכך את פרישתם של צוות מהנדסי OpenAI שהקימו את אנתרופיק וקלוד, וגם את פרישתו של אנדרי קפארתי הגאון, ובשקט בשקט אנו עדים להפיכה שלטונית אמיתית. זה אירוע דרמטי ברמות שקשה להסביר.
5. ⁠לא יחלוף עוד זמן רב עד שמנהיגי החברה יזומנו לשימוע בפני הקונגרס האמריקאי על ריכוזיות בדומה למה שצוקרברג עובר בפייסבוק

לדעתי מישהו צריך להתעורר בדחיפות. לא מן הנמנע שמאסק, שהוא זה שעודד את איליה מלכתחילה לעזוב את Google Brain ולהקים את OpenAI ישקיע בו שוב עם כל רעיון שיהיה לו.

שתמיד נזכור לא להיות מסונוורים מאף חברה ולהישאר מאוד ביקורתיים למהלכים משמעותיים כאלה.

יובל.

יש לנו פה 905 מנויים אבל בקבוצת הדיונים בטלגרם יש רק 156! בואו תצטרפו לקבוצת הדיונים פה, יש פה תותחים!!!

https://t.me/yavidani

מסע הלמידה שלי נמשך והפעם אני מאתגר את עצמי ליצור מודל שמסוגל להטמיע טקסט על תמונות - בעברית.

כבר תקופה ארוכה מאוד שאני מתמוגג מנחת מהיכולת של אידאוגרם להטמיע טקסטים כחלק מתהליך הדיפיוז׳ן של יצירת תמונות עם בינה מלאכותית. הרבה פעמים תהיתי לעצמי למה אין עדיין עברית ומתי תהיה אם בכלל?

אז לפני כמה דקות נתתי לדווין משימה ואני מאוד סקרן לראות מה יעלה בגורלה, אבל על הדרך למדתי המון דברים. למשל, שלאידאוגרם יש מדריך מאוד מסודר שמסביר איך ליצור פונטים שונים, להטמיע נכון טקסטים בתמונה. או גם שיש חבר׳ה מאוד מוכשרים בעולם שכידוע, עוד מזמן, אימנו מודל (לורה) על לוגואים וטקסטים, כמו Harroglass או AnyText ודומיהם.

אני מניח שאני לא מחדש הרבה לכולם פה, אבל לידע כללי, כדי לאמן מודל על סגנון מסוים, נניח על תמונות שלנו, יש לנו כלים כמו Kohya ו DreamBooth, שמה שהם עושים בסוף זה לנצל את המחקר שהוכיח ש-LoRA, קרי: שימוש ביחסית מעט דאטה להמשך אימון של מודל קיים, עובד מצוין על אף היות משקל הלורה קטן פי 10 ממשקל המודל.

מה זה אומר? שאפשר לאמן מודל ״קטן״ ולהשתמש בו תוך כדי הרצת מודל ״גדול״. אנו בעצם מעשירים את היכולת של מודל הבסיס ומעניקים אפשרות להוסיף סגנונות בין אם זה טקסט או דברים אחרים. קהילת המאמנים פיתחה המון מודלים - ובחינם.

אז אם אנחנו רוצים לאמן סגנון משלנו, או טקסטים משלנו, אנחנו צריכים קודם כל לאסוף תמונות. לוודא שהתמונות מדברות בשפה אחת כדי שהמודל יתאמן בהצלחה על הסגנון. לאחר מכן יש עוד תהליך מייגע של יצירת טקסט תואם לכל תמונה, תיאור שלה, ועוד כמה תהליך טכנים מתישים, עד שבסוף מאמנים ומקבלים קובץ לורה, שבו נשתמש בעת הזנת פרומפט למודל, ואז, בשאיפה הקסם יקרה.

הלורה שומרת מילת קסם, שאם נזין אותה לפרומפט הלורה תשתלב ותיכנס לפעולה מיד, ונקבל תמונה עם סגנון הלורה שלנו - בין אם מדובר בתמונות שלנו או טקסט.

יש עוד המון מורכבות, וזה לא רעיון חדש, אבל יהיה מעניין לראות אם דווין ואני נצליח ליצור מודל לורה על עברית. יש למה לצפות!!

ערב נפלא,
יובל.