במקום להעתיק מאחרים - תהיו עסוקים בלייצר תוכן שייחודי לכם ושאף אחד לא יוכל לגנוב מכם
כמות הפעמים שאני רואה שאני כותב על כלי מסוים ואז באורח פלא הוא מועתק - ללא קרדיט - לפוסט של מישהו אחר, היא בלתי נתפסת. עכשיו אני מבין שאין לי בעלות על אף כלי וזה באמת בסדר שעוד מפרסמים, אבל כשזה בסמיכות מיידית לפרסומים קודמים שלי ועוד ללא שום אזכור, זה גורם לי להתעורר מהאוטופיה שיש לפעמים בקהילת ה-AI.
אני עובד אחרת לגמרי מזה. אותי מניעה אמרת חז״ל: ״כל האומר דבר בשם אומרו - מביא גאולה לעולם״. למה? כי כאשר מצטטים מי אמר משהו, זה גם מקבל תוקף, אבל גם אותו אחד שאמר את הדבר מרגיש שלא גנבו לו, ואם גונבים לו - הוא כועס. אז כדי למנוע מצבים של כעס ותככים, אומרים דברים בשם אומרם, ומביאים כך גאולה לעולם כי אנשים רגועים יותר ויש שלום ביניהם.
לכן אני מאוד מאוד מאוכזב כשאני רואה פעם אחר פעם את אותו הדבר. כל פעם במקום אחר, בין אם זה כלפיי אישית (שזה קורה המון) ובין אם זה כלפי תוכן של אחרים שאני רואה שפשוט מעתיקים להם וגונבים להם ללא שום אזכור.
זה גורם לי להבין משהו פשוט אבל עקרוני מאוד: אנשים יעתיקו את התוכן שלי בכל מה שקשור לכלים עליהם אני מפרסם, וגם לא יתנו קרדיט. ושוב, אני לא אומר שאסור להם לפרסם ושיש לי בעלות או בלעדיות, ממש לא, אני מדבר נטו על הסמיכות. פרסמתי -> באותו יום או למחרת פתאום מפרסמים אותו הדבר (ולרוב עם מידע כוזב ומוטעה). אבל! למרות שמעתיקים את התוכן שלי, הכי חשוב מבחינתי זה להבין שאת הידע וההסברים שלי אף אחד לא יוכל לגנוב לי כי מה שלמדתי הוא שלי, והדרך שבה אני מסביר על דברים היא שלי. אז על אף שיש מי שגונב, הוא לא באמת יצליח לתת ערך חדש אף פעם ותמיד יהיה עם תקרת זכוכית של מיחזור דברים, בעוד שאצלי, אני כל הזמן מנסה לחשוב מחוץ לקופסא ולמצוא לא רק כלים חדשים אלא בעיקר מקרי בוחן מעניינים ופרקטיים שבהם אפשר להשתמש.
אני גם חושב שמי שמעתיק ואפילו לא נותן קרדיט, צריך להיות כל כך חסר ביטחון כדי להראות שהוא זה שפרסם והוא זה שיודע את התוכן, בעוד שמי שמלא בתוכן - דואג לתת, להזכיר, לתייג, לפרגן. אני חושב שגם זה המסר: במקום להעתיק מאחרים - תהיו עסוקים בלייצר תוכן שייחודי לכם ושאף אחד לא יוכל לגנוב מכם.
כמות הפעמים שאני רואה שאני כותב על כלי מסוים ואז באורח פלא הוא מועתק - ללא קרדיט - לפוסט של מישהו אחר, היא בלתי נתפסת. עכשיו אני מבין שאין לי בעלות על אף כלי וזה באמת בסדר שעוד מפרסמים, אבל כשזה בסמיכות מיידית לפרסומים קודמים שלי ועוד ללא שום אזכור, זה גורם לי להתעורר מהאוטופיה שיש לפעמים בקהילת ה-AI.
אני עובד אחרת לגמרי מזה. אותי מניעה אמרת חז״ל: ״כל האומר דבר בשם אומרו - מביא גאולה לעולם״. למה? כי כאשר מצטטים מי אמר משהו, זה גם מקבל תוקף, אבל גם אותו אחד שאמר את הדבר מרגיש שלא גנבו לו, ואם גונבים לו - הוא כועס. אז כדי למנוע מצבים של כעס ותככים, אומרים דברים בשם אומרם, ומביאים כך גאולה לעולם כי אנשים רגועים יותר ויש שלום ביניהם.
לכן אני מאוד מאוד מאוכזב כשאני רואה פעם אחר פעם את אותו הדבר. כל פעם במקום אחר, בין אם זה כלפיי אישית (שזה קורה המון) ובין אם זה כלפי תוכן של אחרים שאני רואה שפשוט מעתיקים להם וגונבים להם ללא שום אזכור.
זה גורם לי להבין משהו פשוט אבל עקרוני מאוד: אנשים יעתיקו את התוכן שלי בכל מה שקשור לכלים עליהם אני מפרסם, וגם לא יתנו קרדיט. ושוב, אני לא אומר שאסור להם לפרסם ושיש לי בעלות או בלעדיות, ממש לא, אני מדבר נטו על הסמיכות. פרסמתי -> באותו יום או למחרת פתאום מפרסמים אותו הדבר (ולרוב עם מידע כוזב ומוטעה). אבל! למרות שמעתיקים את התוכן שלי, הכי חשוב מבחינתי זה להבין שאת הידע וההסברים שלי אף אחד לא יוכל לגנוב לי כי מה שלמדתי הוא שלי, והדרך שבה אני מסביר על דברים היא שלי. אז על אף שיש מי שגונב, הוא לא באמת יצליח לתת ערך חדש אף פעם ותמיד יהיה עם תקרת זכוכית של מיחזור דברים, בעוד שאצלי, אני כל הזמן מנסה לחשוב מחוץ לקופסא ולמצוא לא רק כלים חדשים אלא בעיקר מקרי בוחן מעניינים ופרקטיים שבהם אפשר להשתמש.
אני גם חושב שמי שמעתיק ואפילו לא נותן קרדיט, צריך להיות כל כך חסר ביטחון כדי להראות שהוא זה שפרסם והוא זה שיודע את התוכן, בעוד שמי שמלא בתוכן - דואג לתת, להזכיר, לתייג, לפרגן. אני חושב שגם זה המסר: במקום להעתיק מאחרים - תהיו עסוקים בלייצר תוכן שייחודי לכם ושאף אחד לא יוכל לגנוב מכם.
❤18🔥3💯3👏2👍1
ל-Amazon Web Services (AWS) יש שני גני עדן של AI שעוזרים לנו לפתח מוצרים וסוכנים מבוססי Gen AI או Machine Learning - והגיע הזמן להכיר אותם: הראשון נקרא BedRock והשני נקרא SageMaker
שניה של רקע: כאשר אנחנו רוצים להחצין מוצר שפיתחנו הכל מתחיל להסתבך. איפה שומרים אותו? איך דואגים שהוא יהיה נגיש לכולם? איך עוקבים אחר תקלות? כמה כל זה יעלה?
בעבר הכל היה יחסית ברור. קונים מחשב חזק ומתקינים עליו תוכנה שהופכת אותו ממחשב רגיל לשרת שמסוגל להתמודד עם אחסון, אירוח ועוד דברים יפים וטובים. כאשר היה צורך להגדיל את זיכרון המחשב בשל תנועה גדולה יותר לאתר שלנו, פשוט קנינו עוד חומרה והוספנו אותה פיזית. מהר מאוד הכל החל להסתבך - מה שנתן את המוטיבציה להקים שירותי ״ענן״, שזה בעצם לסמוך על ספקי טכנולוגיה שיעשו את כל הדברים המסובכים עבורנו מבלי שנצטרך לקנות בעצמנו חומרה פיזית. אנחנו רק צריכים להתחבר לאתר שלהם, לענן שלהם, להגדיר כמה הגדרות, והופ: אנחנו משלמים על צריכת יחידות עיבוד מחשוביות, כוח מחשובי, מבלי לקנות בורג אחד פיזי. ולא רק זה, הענן מאפשר לנו גם לגדול לפי הצורך בקלות, לחבר שירותים מגוונים כמו אבטחה, התאוששות מאסון ועוד.
העוד הזה הוא מעניין. כי ספקיות ענן, כמו מייקרוסופט גוגל ואמזון, הרחיבו את סל השירותים שנכלל בענן. כך למשל, מייקרוסופט פיתחה סטודיו שלם ל-Machine Learning ול-Generative AI בענן שלה שנקרא Azure, גוגל גם הרחיבה את סל השירותים שלה בענן שלה שנקרא Vertex ומאפשר חיבורים למודלים השונים של Gemini, וכך גם אמזון שהשיקה את AWS, פלטפורמת שירותי הענן שלה שמכילה כמות אדירה של פתרונות מחשוב, לרבות פתרונות Generative AI.
חזרה לגני העדן. הראשון, בדרוק, נגיש דרך ממשק הניהול הגרפי שנקרא Console, או דרך חבילת הפיתוח של אמזון שנקראת Boto. בבדרוק אפשר להתנסות במודלים של אמזון או בקטלוג עצום של מודלים, בין אם זה לטקסט, לתמונות, לווידאו, לקוד או אפילו לייעוץ אופנה. אפשר גם להקים סוכני AI, להגדיר מאגרי ידע, לתת להם כלים, לחבר בסיסי נתונים וקטוריים, להגדיר הרשאות, להקים תשתיות ולאפשר למוצר שלנו לעבוד בסקייל גדול. Out of the box!
גן העדן השני, הוא SageMaker, אפשר לפתח בו מודלים משלנו, של LLM, לבצע Fine Tune, לאמן מודלים בקלות יתירה, להכין ולתייג דאטה לאימון, לבצע את כל תהליך האימון גם מבלי להיות מדעני נתונים, ואפילו לקבל את כל המטריקות של האימון כדי להבין מה עבד טוב ומה פחות. ב-SageMaker יש לנו גם יכולת להריץ קוד במחברות, בדומה ל-Jupyter או Databricks וכדומה. קל נגיש ונוח.
צריך לומר שיש עקומת למידה כשעוברים לעבוד עם ענן, בין אם הוא גן עדן של AI או לא. אבל ברגע שעוברים את המשוכה הזו, הכל הופך להיות הרבה יותר קל כי אז השאלות הקשות של איך להפוך את אב הטיפוס שלי למוצר אמיתי של ממש שעובד בסקייל גדול - הופכות למיותרות (כמעט) כי הכל נתמך ישירות ב-AWS או בענן של החברות האחרות, אז זה כיף גדול ומקל עלינו מאוד.
התחרות בין שירותי הענן פועלת לטובתנו. איפה שלא תבחרו תמצאו קטלוג אדיר של שירותי AI, בין אם זה טקסט לדיבור, וידאו, אודיו, טקסט, מדיה, כל מה שעולה על דעתכם - קיים, וזה כיף גדול שאין כמותו (במיוחד אם יש תקציב 🤣)
צריך גם לציין ש-AWS זכתה במכרז נימבוס, המכרז הממשלתי לספק שירותי תשתית ענן לכל משרדי הממשלה, עומדת בתקינה מחמירה ונחשבת בעולם כאחד הפתרונות המובילים לחברות בכל הגדלים. זה לא פוסט ממומן ואני לא איש מכירות, זה נטו כדי לתת ערך, ומקווה שקיבלתם כזה!
ערב טוב,
יובל
שניה של רקע: כאשר אנחנו רוצים להחצין מוצר שפיתחנו הכל מתחיל להסתבך. איפה שומרים אותו? איך דואגים שהוא יהיה נגיש לכולם? איך עוקבים אחר תקלות? כמה כל זה יעלה?
בעבר הכל היה יחסית ברור. קונים מחשב חזק ומתקינים עליו תוכנה שהופכת אותו ממחשב רגיל לשרת שמסוגל להתמודד עם אחסון, אירוח ועוד דברים יפים וטובים. כאשר היה צורך להגדיל את זיכרון המחשב בשל תנועה גדולה יותר לאתר שלנו, פשוט קנינו עוד חומרה והוספנו אותה פיזית. מהר מאוד הכל החל להסתבך - מה שנתן את המוטיבציה להקים שירותי ״ענן״, שזה בעצם לסמוך על ספקי טכנולוגיה שיעשו את כל הדברים המסובכים עבורנו מבלי שנצטרך לקנות בעצמנו חומרה פיזית. אנחנו רק צריכים להתחבר לאתר שלהם, לענן שלהם, להגדיר כמה הגדרות, והופ: אנחנו משלמים על צריכת יחידות עיבוד מחשוביות, כוח מחשובי, מבלי לקנות בורג אחד פיזי. ולא רק זה, הענן מאפשר לנו גם לגדול לפי הצורך בקלות, לחבר שירותים מגוונים כמו אבטחה, התאוששות מאסון ועוד.
העוד הזה הוא מעניין. כי ספקיות ענן, כמו מייקרוסופט גוגל ואמזון, הרחיבו את סל השירותים שנכלל בענן. כך למשל, מייקרוסופט פיתחה סטודיו שלם ל-Machine Learning ול-Generative AI בענן שלה שנקרא Azure, גוגל גם הרחיבה את סל השירותים שלה בענן שלה שנקרא Vertex ומאפשר חיבורים למודלים השונים של Gemini, וכך גם אמזון שהשיקה את AWS, פלטפורמת שירותי הענן שלה שמכילה כמות אדירה של פתרונות מחשוב, לרבות פתרונות Generative AI.
חזרה לגני העדן. הראשון, בדרוק, נגיש דרך ממשק הניהול הגרפי שנקרא Console, או דרך חבילת הפיתוח של אמזון שנקראת Boto. בבדרוק אפשר להתנסות במודלים של אמזון או בקטלוג עצום של מודלים, בין אם זה לטקסט, לתמונות, לווידאו, לקוד או אפילו לייעוץ אופנה. אפשר גם להקים סוכני AI, להגדיר מאגרי ידע, לתת להם כלים, לחבר בסיסי נתונים וקטוריים, להגדיר הרשאות, להקים תשתיות ולאפשר למוצר שלנו לעבוד בסקייל גדול. Out of the box!
גן העדן השני, הוא SageMaker, אפשר לפתח בו מודלים משלנו, של LLM, לבצע Fine Tune, לאמן מודלים בקלות יתירה, להכין ולתייג דאטה לאימון, לבצע את כל תהליך האימון גם מבלי להיות מדעני נתונים, ואפילו לקבל את כל המטריקות של האימון כדי להבין מה עבד טוב ומה פחות. ב-SageMaker יש לנו גם יכולת להריץ קוד במחברות, בדומה ל-Jupyter או Databricks וכדומה. קל נגיש ונוח.
צריך לומר שיש עקומת למידה כשעוברים לעבוד עם ענן, בין אם הוא גן עדן של AI או לא. אבל ברגע שעוברים את המשוכה הזו, הכל הופך להיות הרבה יותר קל כי אז השאלות הקשות של איך להפוך את אב הטיפוס שלי למוצר אמיתי של ממש שעובד בסקייל גדול - הופכות למיותרות (כמעט) כי הכל נתמך ישירות ב-AWS או בענן של החברות האחרות, אז זה כיף גדול ומקל עלינו מאוד.
התחרות בין שירותי הענן פועלת לטובתנו. איפה שלא תבחרו תמצאו קטלוג אדיר של שירותי AI, בין אם זה טקסט לדיבור, וידאו, אודיו, טקסט, מדיה, כל מה שעולה על דעתכם - קיים, וזה כיף גדול שאין כמותו (במיוחד אם יש תקציב 🤣)
צריך גם לציין ש-AWS זכתה במכרז נימבוס, המכרז הממשלתי לספק שירותי תשתית ענן לכל משרדי הממשלה, עומדת בתקינה מחמירה ונחשבת בעולם כאחד הפתרונות המובילים לחברות בכל הגדלים. זה לא פוסט ממומן ואני לא איש מכירות, זה נטו כדי לתת ערך, ומקווה שקיבלתם כזה!
ערב טוב,
יובל
👍6🔥5
מבטיח - ומקיים: בחנתי את היכולת החדשה של Lovable להתממשק ל-Figma ולהפוך עיצוב למוצר של ממש - וסיכמתי לכם את כל מה שאתם צריכים לדעת!
קצת רקע:
אתר Lovable מאפשר לנו לפתח מוצרים עם AI על ידי הנחיות טקסטואליות (פרומפטים) בלבד, הוא שונה מהכלים האחרים בכך שהוא מצליח לפתח אתר מקצה לקצה, לרבות חיבור לבסיסי נתונים ופרסום האתר באוויר - בצורה פשוט מצוינת וחלקה שחוסכת המון זמן וכאבי ראש. יש הגבלה של 5 בקשות ביום במסלול החינמי - וגם זה לפעמים יספיק לנו.
הכלי Figma הוא כלי עיצובי. מעצבי ממשקי משתמש (UX/UI) חיים ונושמים את הכלי הזה, מעצבים בו כל מה שאפשר להעלות על הדעת בעולמות המוצר. קיימות תבניות חינמיות שאפשר להשתמש בהן, או לעצב מאפס. חשוב להבין: זה כלי למעצבים, לא כלי למפתחים.
אתר Builder io פיתח תוסף, פלאגין, שנכנס בתווך, בין Lovable ל-Figma, ומה שהוא עושה זה לקחת תבנית שנוצרה בפיגמה - וממיר אותה לקוד. זאת אומרת, ממקום עיצובי - אפשר להמיר את העיצוב לקוד - ואז המפתחים יכולים לקחת את זה מכאן. זה מאפשר למפתחים להשתמש בתבניות יפות, ומאפשר למעצבים להתקדם לעבר פיתוח המוצר שלהם.
ועכשיו ליופי: לאחרונה Lovable הכריזו על חיבור בין Figma ל-Lovable דרך Builder io. מה שזה אומר: אם נתקין את התוסף של Builder io ב-Figma, נבחר תבנית ונלחץ על Export to Code, התוסף ייפתח, ימיר את העיצוב לקוד, ואז יאפשר לנו לבחור ב-Open in Lovable, לפתוח את הקוד ב-Lovable כדי שהוא יקח את זה מכאן.
ואז הקסם קורה: כאשר לוחצים על פתיחה ב-Lovable, הפרומפט להפוך את האתר לעיצוב אוטומטית נשתל בממשק, הקוד מצורף אוטומטית, וברגעים ספורים העיצוב שלנו קורם עור וגידים והופך למוצר של ממש, לקוד, ובלחיצות ספורות נוספות אפשר לשמור את הקוד שלנו ב-GitHub ולפרסם אותו לכל העולם ע״י לחיצה על Deploy וכך האתר מוחצן דרך שרתי Lovable, וכל מה שנשאר הוא לשנות את כתובת האתר, מה שנקרא את הפניות ה-DNS כדי שדומיין (שם אתר) בבעלותנו ינגיש את המוצר שפיתחנו תחת הכתובת שלנו ולא תחת כתובת רנדומלית של Lovable.
צריך לציין שכמובן אפשר לייצא את הקוד הסופי מ-Lovable ולאחסן את האתר איפה שאנחנו רוצים: בין אם זה ב-AWS, Azure, GCP, שרת פרטי, ענן פרטי וכדומה.
את הווידאו הזה לקחתי מיוטיוב והשארתי רק את ההמחשות של מה שכתבתי פה (ניסיתי להקליט ברכבת אבל לא הלך לי בגלל האינטרנט לצערי), אתם יכולים לצפות בסרטון המלא של הבחור אם תחפשו ביוטיוב: Brand NEW Lovable x Figma Integration (Build Amazing UI)
ולגבי ההעתקות של התוכן שלי - אני מניח לעצמי שזה יקרה גם כאן, אבל אני יודע שהיכולת להסביר, לחשוב מחוץ לקופסא, לדמיין וליצור - אותה אי אפשר לגנוב לי, אז גם אם תראו תוכן דומה ומועתק, תזכרו שמה שחשוב זה לעקוב אחר יצירתיות ולא אחר רשימות כלים.
מקווה שקיבלתם ערך, אותי הדבר הזה העיף!!!
יובל
קצת רקע:
אתר Lovable מאפשר לנו לפתח מוצרים עם AI על ידי הנחיות טקסטואליות (פרומפטים) בלבד, הוא שונה מהכלים האחרים בכך שהוא מצליח לפתח אתר מקצה לקצה, לרבות חיבור לבסיסי נתונים ופרסום האתר באוויר - בצורה פשוט מצוינת וחלקה שחוסכת המון זמן וכאבי ראש. יש הגבלה של 5 בקשות ביום במסלול החינמי - וגם זה לפעמים יספיק לנו.
הכלי Figma הוא כלי עיצובי. מעצבי ממשקי משתמש (UX/UI) חיים ונושמים את הכלי הזה, מעצבים בו כל מה שאפשר להעלות על הדעת בעולמות המוצר. קיימות תבניות חינמיות שאפשר להשתמש בהן, או לעצב מאפס. חשוב להבין: זה כלי למעצבים, לא כלי למפתחים.
אתר Builder io פיתח תוסף, פלאגין, שנכנס בתווך, בין Lovable ל-Figma, ומה שהוא עושה זה לקחת תבנית שנוצרה בפיגמה - וממיר אותה לקוד. זאת אומרת, ממקום עיצובי - אפשר להמיר את העיצוב לקוד - ואז המפתחים יכולים לקחת את זה מכאן. זה מאפשר למפתחים להשתמש בתבניות יפות, ומאפשר למעצבים להתקדם לעבר פיתוח המוצר שלהם.
ועכשיו ליופי: לאחרונה Lovable הכריזו על חיבור בין Figma ל-Lovable דרך Builder io. מה שזה אומר: אם נתקין את התוסף של Builder io ב-Figma, נבחר תבנית ונלחץ על Export to Code, התוסף ייפתח, ימיר את העיצוב לקוד, ואז יאפשר לנו לבחור ב-Open in Lovable, לפתוח את הקוד ב-Lovable כדי שהוא יקח את זה מכאן.
ואז הקסם קורה: כאשר לוחצים על פתיחה ב-Lovable, הפרומפט להפוך את האתר לעיצוב אוטומטית נשתל בממשק, הקוד מצורף אוטומטית, וברגעים ספורים העיצוב שלנו קורם עור וגידים והופך למוצר של ממש, לקוד, ובלחיצות ספורות נוספות אפשר לשמור את הקוד שלנו ב-GitHub ולפרסם אותו לכל העולם ע״י לחיצה על Deploy וכך האתר מוחצן דרך שרתי Lovable, וכל מה שנשאר הוא לשנות את כתובת האתר, מה שנקרא את הפניות ה-DNS כדי שדומיין (שם אתר) בבעלותנו ינגיש את המוצר שפיתחנו תחת הכתובת שלנו ולא תחת כתובת רנדומלית של Lovable.
צריך לציין שכמובן אפשר לייצא את הקוד הסופי מ-Lovable ולאחסן את האתר איפה שאנחנו רוצים: בין אם זה ב-AWS, Azure, GCP, שרת פרטי, ענן פרטי וכדומה.
את הווידאו הזה לקחתי מיוטיוב והשארתי רק את ההמחשות של מה שכתבתי פה (ניסיתי להקליט ברכבת אבל לא הלך לי בגלל האינטרנט לצערי), אתם יכולים לצפות בסרטון המלא של הבחור אם תחפשו ביוטיוב: Brand NEW Lovable x Figma Integration (Build Amazing UI)
ולגבי ההעתקות של התוכן שלי - אני מניח לעצמי שזה יקרה גם כאן, אבל אני יודע שהיכולת להסביר, לחשוב מחוץ לקופסא, לדמיין וליצור - אותה אי אפשר לגנוב לי, אז גם אם תראו תוכן דומה ומועתק, תזכרו שמה שחשוב זה לעקוב אחר יצירתיות ולא אחר רשימות כלים.
מקווה שקיבלתם ערך, אותי הדבר הזה העיף!!!
יובל
👍4🔥3❤1
בזכות הסינים: חברת HuggingFace הצליחה לשחזר את תהליך האימון של DeepSeek!
נזכיר, מדובר במודל שסחף את העולם לאחרונה וגרם למניות של Nvidia לצנוח בכ-20 אחוזים, וגם סתם את הגולל על הטענות של OpenAI שנאלצו להעלות מחירים ולהציע מנוי חודשי בתשלום של 200$ לחודש בגלל עלויות המודל החדש.
באו הסינים ואמרו: אוקיי, קבלו מודל כמו שלכם - בחינם, פתוח להורדה, והנה גם הדרך שבה אימנו את המודל שלנו.
אז עכשיו באים נגד המודל בטענה שהוא מושתל של המשטר הקומוניסטי (כאילו הטלפונים הסיניים והשואבים האוטומטיים ויתר הדברים לא משדרים לסין), שהוא מצנזר יתר על המידה, ועוד כל מיני טענות תלושות. למה תלושות? כי כולם יודעים שיש מודלים מצונזרים ויש לא, יש הטיות למודלים ויש פחות, אבל לבוא בטענה לחברה שפיתחה מודל כל כך עוצמתי ומנגישה אותו בחינם גם להורדה כקוד מקור פתוח וגם מגלה איך אימנו אותו (במקום סתם לחזות טוקנים, הוא מאומן על לנבא שלבי פיתרון, איך לפתור בעיות)
אז לא ניכנס להסבר הטכני על איך שילבו מספר סוגים של למידת מכונה מבוססת חיזוקים, אבל כן נגיד שבלעדי DeepSeek, לא היה לנו את השחזור הזה בחינם דרך HuggingFace והיינו נעולים ליצרן אחד בלבד, OpenAI ולמודל ה-Reasoning שלו, ולמחיר הגבוה שהוא דורש עבורו - ועוד ימשיך להעלות אותו.
אז לא יודע מה אתכם, אבל אני את DeepSeek מעריך מאוד ואפילו חיברתי אותו ל-Raspberry Pi שלי כעוזר קולי! Raspberry 🥧
נזכיר, מדובר במודל שסחף את העולם לאחרונה וגרם למניות של Nvidia לצנוח בכ-20 אחוזים, וגם סתם את הגולל על הטענות של OpenAI שנאלצו להעלות מחירים ולהציע מנוי חודשי בתשלום של 200$ לחודש בגלל עלויות המודל החדש.
באו הסינים ואמרו: אוקיי, קבלו מודל כמו שלכם - בחינם, פתוח להורדה, והנה גם הדרך שבה אימנו את המודל שלנו.
אז עכשיו באים נגד המודל בטענה שהוא מושתל של המשטר הקומוניסטי (כאילו הטלפונים הסיניים והשואבים האוטומטיים ויתר הדברים לא משדרים לסין), שהוא מצנזר יתר על המידה, ועוד כל מיני טענות תלושות. למה תלושות? כי כולם יודעים שיש מודלים מצונזרים ויש לא, יש הטיות למודלים ויש פחות, אבל לבוא בטענה לחברה שפיתחה מודל כל כך עוצמתי ומנגישה אותו בחינם גם להורדה כקוד מקור פתוח וגם מגלה איך אימנו אותו (במקום סתם לחזות טוקנים, הוא מאומן על לנבא שלבי פיתרון, איך לפתור בעיות)
אז לא ניכנס להסבר הטכני על איך שילבו מספר סוגים של למידת מכונה מבוססת חיזוקים, אבל כן נגיד שבלעדי DeepSeek, לא היה לנו את השחזור הזה בחינם דרך HuggingFace והיינו נעולים ליצרן אחד בלבד, OpenAI ולמודל ה-Reasoning שלו, ולמחיר הגבוה שהוא דורש עבורו - ועוד ימשיך להעלות אותו.
אז לא יודע מה אתכם, אבל אני את DeepSeek מעריך מאוד ואפילו חיברתי אותו ל-Raspberry Pi שלי כעוזר קולי! Raspberry 🥧
👍2
קבלו איך אלברט, יציר AI, לומד ללכת לגמרי לבדו!
הכירו את אלברט. פיתחו אותו כדי ליצור סימולציה שממחישה איך הבינה המלאכותית לומדת לבד - ומשתפרת תוך כדי ריצה. זה מה שנקרא ״למידת מכונה מבוססת חיזוקים״, כאשר ב״חיזוקים״ הכוונה לחיזוק התנהגות ״טובה״ על ידי מתן ״פרס״, ומנגד הרחקה מהתנהגות ״לא טובה״ על ידי מתן ״קנס״.
אלברט נבנה מחוליות על גבי חוליות, על כל אחת הוא יכול לשלוט בנפרד. הוא מתחיל את המשחק במעין בית עם קומות, וכל קומה מלמדת אותו דבר אחר: איך להרים את החזה, איך לפסוע, עד שהוא לומד איך ללכת. בהתחלה הוא רק זוחל, אחרי זה מנסה להתרומם - ונופל - אבל המשחק ממשיך והוא מתאמן עוד ועוד, עד שלבסוף הוא מתחיל ללכת כל כך יציב שאפילו כאשר זורקים עליו פריטים - הוא לא נופל כי הוא שולט מצוין בהליכה!
הסוג הזה של למידת מכונה מבוססת חיזוקים הוא הדבר האמיתי. זה מה שמאפשר למודלים להשתפר מהפידבקים שלנו, וזה מה שנותן את האנושיות למודלים. ככל שהיכולת הזו הולכת ומשתפרת - כך נגיע למודלים חכמים שלומדים לבד איך להתנהל - ולהצליח. והאמת היא שאלברט הוא דוגמא אמיתית לסוכן AI, כי זה בדיוק סוכן אמיתי: נכנס לסיטואציה מסוימת ולומד איך להצליח בה - לגמרי לבד.
איזה מלך אלברט!
הכירו את אלברט. פיתחו אותו כדי ליצור סימולציה שממחישה איך הבינה המלאכותית לומדת לבד - ומשתפרת תוך כדי ריצה. זה מה שנקרא ״למידת מכונה מבוססת חיזוקים״, כאשר ב״חיזוקים״ הכוונה לחיזוק התנהגות ״טובה״ על ידי מתן ״פרס״, ומנגד הרחקה מהתנהגות ״לא טובה״ על ידי מתן ״קנס״.
אלברט נבנה מחוליות על גבי חוליות, על כל אחת הוא יכול לשלוט בנפרד. הוא מתחיל את המשחק במעין בית עם קומות, וכל קומה מלמדת אותו דבר אחר: איך להרים את החזה, איך לפסוע, עד שהוא לומד איך ללכת. בהתחלה הוא רק זוחל, אחרי זה מנסה להתרומם - ונופל - אבל המשחק ממשיך והוא מתאמן עוד ועוד, עד שלבסוף הוא מתחיל ללכת כל כך יציב שאפילו כאשר זורקים עליו פריטים - הוא לא נופל כי הוא שולט מצוין בהליכה!
הסוג הזה של למידת מכונה מבוססת חיזוקים הוא הדבר האמיתי. זה מה שמאפשר למודלים להשתפר מהפידבקים שלנו, וזה מה שנותן את האנושיות למודלים. ככל שהיכולת הזו הולכת ומשתפרת - כך נגיע למודלים חכמים שלומדים לבד איך להתנהל - ולהצליח. והאמת היא שאלברט הוא דוגמא אמיתית לסוכן AI, כי זה בדיוק סוכן אמיתי: נכנס לסיטואציה מסוימת ולומד איך להצליח בה - לגמרי לבד.
איזה מלך אלברט!
❤2
Media is too big
VIEW IN TELEGRAM
בואו נדבר בקטנה על איך AI יכול ללמוד דברים לבד, בעצמו?
(הסבר קצר, חלק מהצילום נדפק כי חצובת ה-AI שלי שעוקבת אחרי לא זיהתה את הפנים של וולברין 🤣)
(הסבר קצר, חלק מהצילום נדפק כי חצובת ה-AI שלי שעוקבת אחרי לא זיהתה את הפנים של וולברין 🤣)
👍3😁3🔥2👏1
אז הנה זה קורה, אנו יוצאים לדרך עם הרשמה לאירוע בריאקטור מיקרוסופט ת"א בנושא קופיילוט לעסקים.
שימו לב 💚: ההרשמה מוגבלת והיא תסגר כשנגיע למכסה. נכון להיום אנו נותנים קדימות לקהילת ה AI
אנא הרשמו רק אם אתם בטוחים שתוכלו להגיע לאירוע (5.3.25 17:30). לאחר כ 3 ימים ההרשמה תיפתח לציבור רחב יותר.
יהיה קפה ומאפה, בופה חלבי בהפסקה ועוד פינוקים בהמשך (הכל חינם כמובן).
האג'נדה לאירוע נמצאת בדף ההרשמה עם דבר המרצים בניחוח AI.
מחכים לכם... 🍻
יובל אבידני ורונן ארנרייך
https://copilot-conference-hub.lovable.app/
שימו לב 💚: ההרשמה מוגבלת והיא תסגר כשנגיע למכסה. נכון להיום אנו נותנים קדימות לקהילת ה AI
אנא הרשמו רק אם אתם בטוחים שתוכלו להגיע לאירוע (5.3.25 17:30). לאחר כ 3 ימים ההרשמה תיפתח לציבור רחב יותר.
יהיה קפה ומאפה, בופה חלבי בהפסקה ועוד פינוקים בהמשך (הכל חינם כמובן).
האג'נדה לאירוע נמצאת בדף ההרשמה עם דבר המרצים בניחוח AI.
מחכים לכם... 🍻
יובל אבידני ורונן ארנרייך
https://copilot-conference-hub.lovable.app/
copilot-conference-hub.lovable.app
Lovable Generated Project
קהילת קוד המקור הפתוח עושה את זה שוב: הכירו את Open Deep Researcher - סוכן AI שיודע לבצע מחקר מעמיק ברשת - והקוד שלי זמין בחינם!
הגישה שלו מאוד פשוטה, הוא מקבל שאילתא מהמשתמש ואז:
1. מבצע חיפוש באמצעות שימוש ב-SERPAPI, מעיין בתוצאות ומנסה להבין לבד מה התוצאות הרלוונטיות
2. לאחר מכן הוא מחלץ את התוכן של העמודים הרלוונטיים
3. אם הוא חושב שצריך להעמיק אז הוא פונה שוב לעמודים הרלוונטיים עם שאילתא חדשה שהוא יוצר לעצמו
4. לבסוף הוא משתמש בכל הקונטקסט שנאגר בתהליך כדי לייצר דוח
5. הוא משתמש ב-OpenRouter, אתר שמנגיש המון מודלים, כך שאפשר לשלב איזה מודל שרוצים, ולמתקדמים אפשר אפילו לשלב טכניקות בחירת מודל בצורה אוטומטית
תחשבו על זה, בלי קהילת קוד המקור הפתוח היינו נעולים ליצרנים מסחריים. בזכות הקהילה הזו, תמיד לוקחים את היכולות הכי חדשות והופכים אותן לזמינות לציבור ובחינם.
עכשיו דמיינו שאתם רוצים ליצור אפליקציה משלכם שבה משתמש מזין שאילתא וסוכן AI מבצע מחקר מעמיק על אותו נושא ומחזיר את התשובה. אפשר לתחום את הסוכן לתחומי ידע נישתיים, כמו שירות לקוחות למוצר מסוים, או אפילו לתחומים טיפוליים - למשל, מומחה לוגותרפיה, פסיכואנליטיקאי, פסיכותרפיסט, יועץ לענייני הגירה, יועץ מיסוי, יועץ משפטי וכדומה. כל מה שצריך לעשות הוא ליצור ״פרסונות״, שזה נורא פשוט כי זה סה״כ כתיבת הגדרת ה-System Prompt (החלק בפרומפט שנותן זהות למודל השפה), וחיבור לקוד החינמי הזה, והופ: יש לכם ישות שיודעת לחשוב ממש. עכשיו חברו את זה ליכולת לדבר עם המודל הזה, באמצעות תמלול דיבור לטקסט ושליחתו למודל, או הפיכת התשובות הטקסטואליות לקוליות, ואתם על הגל.
אנחנו חיים בעידן תור הזהב של הפיתוח וה-AI.
כל הכבוד ל-Matt Shumer על הפיתוח, מי שרוצה להתנסות: https://github.com/mshumer/OpenDeepResearcher
הגישה שלו מאוד פשוטה, הוא מקבל שאילתא מהמשתמש ואז:
1. מבצע חיפוש באמצעות שימוש ב-SERPAPI, מעיין בתוצאות ומנסה להבין לבד מה התוצאות הרלוונטיות
2. לאחר מכן הוא מחלץ את התוכן של העמודים הרלוונטיים
3. אם הוא חושב שצריך להעמיק אז הוא פונה שוב לעמודים הרלוונטיים עם שאילתא חדשה שהוא יוצר לעצמו
4. לבסוף הוא משתמש בכל הקונטקסט שנאגר בתהליך כדי לייצר דוח
5. הוא משתמש ב-OpenRouter, אתר שמנגיש המון מודלים, כך שאפשר לשלב איזה מודל שרוצים, ולמתקדמים אפשר אפילו לשלב טכניקות בחירת מודל בצורה אוטומטית
תחשבו על זה, בלי קהילת קוד המקור הפתוח היינו נעולים ליצרנים מסחריים. בזכות הקהילה הזו, תמיד לוקחים את היכולות הכי חדשות והופכים אותן לזמינות לציבור ובחינם.
עכשיו דמיינו שאתם רוצים ליצור אפליקציה משלכם שבה משתמש מזין שאילתא וסוכן AI מבצע מחקר מעמיק על אותו נושא ומחזיר את התשובה. אפשר לתחום את הסוכן לתחומי ידע נישתיים, כמו שירות לקוחות למוצר מסוים, או אפילו לתחומים טיפוליים - למשל, מומחה לוגותרפיה, פסיכואנליטיקאי, פסיכותרפיסט, יועץ לענייני הגירה, יועץ מיסוי, יועץ משפטי וכדומה. כל מה שצריך לעשות הוא ליצור ״פרסונות״, שזה נורא פשוט כי זה סה״כ כתיבת הגדרת ה-System Prompt (החלק בפרומפט שנותן זהות למודל השפה), וחיבור לקוד החינמי הזה, והופ: יש לכם ישות שיודעת לחשוב ממש. עכשיו חברו את זה ליכולת לדבר עם המודל הזה, באמצעות תמלול דיבור לטקסט ושליחתו למודל, או הפיכת התשובות הטקסטואליות לקוליות, ואתם על הגל.
אנחנו חיים בעידן תור הזהב של הפיתוח וה-AI.
כל הכבוד ל-Matt Shumer על הפיתוח, מי שרוצה להתנסות: https://github.com/mshumer/OpenDeepResearcher
GitHub
GitHub - mshumer/OpenDeepResearcher
Contribute to mshumer/OpenDeepResearcher development by creating an account on GitHub.
👍3
היום קלוד איבד את הכתר לטובת o3-mini-high של OpenAI - והסיבה דרמטית למפתחים! 🤯
אחד הדברים הכי חשובים - וגם הכי פחות מדוברים - זה היכולת שלנו לשלוט במבנה התשובה שאנחנו מקבלים ממודל השפה. נניח שאנחנו כותבים הנחיה כלשהי, מודל השפה מחזיר תשובה בשפה חופשית אבל אנחנו צריכים שהתשובה תחזור בצורה ספציפית. לדוגמא: נניח שאנחנו בונים אפליקציה שמנבאת מחירי טיסות על בסיס תקופה, חברות תעופה פעילות, אטרקטיביות היעד וכדומה.
אנחנו יכולים לכתוב הנחיה כזו:
אתה מומחה תעופה. אתה מקבל מידע על נמל התעופה שממריאים ממנו, היעד, תאריך, ועל בסיס זה אתה מחזיר לי הערכה של עלות.
לאחר מכן אנחנו מעבירים למודל גם נתונים מהקלט של המשתמש, כמו: אני רוצה לטוס מישראל לניו זילנד במרץ 2025.
בשלב הזה, בהנחה שמודל השפה יודע לבד את שמות שדות התעופה לפי קודים רשמיים, ואת המחירים ההיסטוריים, הוא ישיב לנו משהו כמו: בהחלט, על בסיס הנתונים שסיפקת אני רואה ש… בלה בלה בלה.
זה בסדר. אבל! אם אנחנו רוצים לקבל את התשובה במבנה ספציפי כמו:
מוצא (כשדה טקסט)
יעד (כשדה טקסט)
מחיר משוער בדולרים (כשדה מספרי)
וכל זה בתור מבנה שנקרא JSON שבעצם מחזיר תשובה מסודרת:
{ destination: NZ, Departure: TLV, Predicted Price: 1200$}
למה זה חשוב? כי אז אנחנו יכולים לקחת כל ערך בתשובה ולשלב אותה גם הלאה בפרומפטים נוספים, כמו למשל פרומפט המשך שמוודא שהתוצאות תקינות, לא מכילות ביטויים פוגעניים, ורלוונטיות וכדומה.
ולאחר מכן גם נוכל להחזיר את התוצאה ולהציג אותה למשתמש שלנו. היכולת לעשות את זה ולשלוט גם במבנה שחוזר אלינו אבל גם לוודא ולאמת את סוג מבנה הנתונים שאנחנו מקבלים, מתאפשר ביתר קלות בעזרת Structured Output של OpenAI בשילוב PyDantic שיודע לשלוט בסוג המשתנה המוחזר (להגדיר מה טקסט, מה מספר וכדומה - ולוודא שזה מה שחוזר בפועל)
בדוקומנטציה של OpenAI מפורט איך אפשר להגדיר את זה. בעבר היינו משתמשים ב-Function Calling או ב-JSON Mode, אבל Structured Output עם PyDantic זה ה-דבר!
וחזרה לרישא. כהרגלי, ניסיתי עם קלוד האהוב לבנות את הקוד, והופתעתי לגלות כמה הוא נכשל. שוב ושוב. מנגד, השתמשתי ב-o3-mini-high החדש של OpenAI, שלמרות שטעה בפעם הראשונה, היות והוא יכול לקבל קישורים ולגלוש - הפניתי אותו לדוקומנטציה והוא הבין ותיקן. לקלוד אין אפשרות לצאת החוצה כרגע. חיסרון מובהק.
יתירה מכך, גם לאחר שניסיתי לתקן עם קלוד, כרגיל, הוא לא הצליח להבין. מנגד, o3 כבר נתן לי פתרונות שלמים שעובדים. הופתעתי, ובצער רב נראה שנכון לעת הזו אני והמנוי של קלוד ניאלץ להיפרד כל אחד לדרכו. אני גם שמח לראות שמודל החשיבה o3 עובד טוב בקוד כי בסוף GPT ארגוני נפוץ בחברות, ומודל שסופסוף עובד - עוזר לנו עם פרטיות, כפי שנדרש.
אז תזכרו: o3-mini-high עובד יפה מאוד עם קוד, ו-Structured Output בשילוב PyDantic זה וואו לשליטה בפלט של LLMs. אלה בעיות של העולם האמיתי, וזה מה שמבדיל בין משחקים וקשקושים לבין מציאת פתרונות למוצרים אמיתיים מבוססי AI, וכך מטמיעים LLM הלכה למעשה.
מקווה שקיבלתם ערך,
יובל
אחד הדברים הכי חשובים - וגם הכי פחות מדוברים - זה היכולת שלנו לשלוט במבנה התשובה שאנחנו מקבלים ממודל השפה. נניח שאנחנו כותבים הנחיה כלשהי, מודל השפה מחזיר תשובה בשפה חופשית אבל אנחנו צריכים שהתשובה תחזור בצורה ספציפית. לדוגמא: נניח שאנחנו בונים אפליקציה שמנבאת מחירי טיסות על בסיס תקופה, חברות תעופה פעילות, אטרקטיביות היעד וכדומה.
אנחנו יכולים לכתוב הנחיה כזו:
אתה מומחה תעופה. אתה מקבל מידע על נמל התעופה שממריאים ממנו, היעד, תאריך, ועל בסיס זה אתה מחזיר לי הערכה של עלות.
לאחר מכן אנחנו מעבירים למודל גם נתונים מהקלט של המשתמש, כמו: אני רוצה לטוס מישראל לניו זילנד במרץ 2025.
בשלב הזה, בהנחה שמודל השפה יודע לבד את שמות שדות התעופה לפי קודים רשמיים, ואת המחירים ההיסטוריים, הוא ישיב לנו משהו כמו: בהחלט, על בסיס הנתונים שסיפקת אני רואה ש… בלה בלה בלה.
זה בסדר. אבל! אם אנחנו רוצים לקבל את התשובה במבנה ספציפי כמו:
מוצא (כשדה טקסט)
יעד (כשדה טקסט)
מחיר משוער בדולרים (כשדה מספרי)
וכל זה בתור מבנה שנקרא JSON שבעצם מחזיר תשובה מסודרת:
{ destination: NZ, Departure: TLV, Predicted Price: 1200$}
למה זה חשוב? כי אז אנחנו יכולים לקחת כל ערך בתשובה ולשלב אותה גם הלאה בפרומפטים נוספים, כמו למשל פרומפט המשך שמוודא שהתוצאות תקינות, לא מכילות ביטויים פוגעניים, ורלוונטיות וכדומה.
ולאחר מכן גם נוכל להחזיר את התוצאה ולהציג אותה למשתמש שלנו. היכולת לעשות את זה ולשלוט גם במבנה שחוזר אלינו אבל גם לוודא ולאמת את סוג מבנה הנתונים שאנחנו מקבלים, מתאפשר ביתר קלות בעזרת Structured Output של OpenAI בשילוב PyDantic שיודע לשלוט בסוג המשתנה המוחזר (להגדיר מה טקסט, מה מספר וכדומה - ולוודא שזה מה שחוזר בפועל)
בדוקומנטציה של OpenAI מפורט איך אפשר להגדיר את זה. בעבר היינו משתמשים ב-Function Calling או ב-JSON Mode, אבל Structured Output עם PyDantic זה ה-דבר!
וחזרה לרישא. כהרגלי, ניסיתי עם קלוד האהוב לבנות את הקוד, והופתעתי לגלות כמה הוא נכשל. שוב ושוב. מנגד, השתמשתי ב-o3-mini-high החדש של OpenAI, שלמרות שטעה בפעם הראשונה, היות והוא יכול לקבל קישורים ולגלוש - הפניתי אותו לדוקומנטציה והוא הבין ותיקן. לקלוד אין אפשרות לצאת החוצה כרגע. חיסרון מובהק.
יתירה מכך, גם לאחר שניסיתי לתקן עם קלוד, כרגיל, הוא לא הצליח להבין. מנגד, o3 כבר נתן לי פתרונות שלמים שעובדים. הופתעתי, ובצער רב נראה שנכון לעת הזו אני והמנוי של קלוד ניאלץ להיפרד כל אחד לדרכו. אני גם שמח לראות שמודל החשיבה o3 עובד טוב בקוד כי בסוף GPT ארגוני נפוץ בחברות, ומודל שסופסוף עובד - עוזר לנו עם פרטיות, כפי שנדרש.
אז תזכרו: o3-mini-high עובד יפה מאוד עם קוד, ו-Structured Output בשילוב PyDantic זה וואו לשליטה בפלט של LLMs. אלה בעיות של העולם האמיתי, וזה מה שמבדיל בין משחקים וקשקושים לבין מציאת פתרונות למוצרים אמיתיים מבוססי AI, וכך מטמיעים LLM הלכה למעשה.
מקווה שקיבלתם ערך,
יובל
🔥12❤2👍2
This media is not supported in your browser
VIEW IN TELEGRAM
איך אפשר ליצור אפליקציית AI שהופכת לסוכן טיסות, ב-2 דקות, ברכבת?
אמנם כבר כתבתי כמה פעמים על PartyRock של AWS שמאפשרת ליצור אפליקציות מבוססות LLM ברגעים ספורים, אבל החלטתי להקליט פרק חדש של ״פרודוקטיביות ברכבת עם יובל״ (אחלה שם תודו), הפעם עם סאונד, כדי להדגים איך הקסם הזה קורה ברגעים ספורים ובחינם. אם טרם ניסיתם - למה אתם מחכים?
אמנם כבר כתבתי כמה פעמים על PartyRock של AWS שמאפשרת ליצור אפליקציות מבוססות LLM ברגעים ספורים, אבל החלטתי להקליט פרק חדש של ״פרודוקטיביות ברכבת עם יובל״ (אחלה שם תודו), הפעם עם סאונד, כדי להדגים איך הקסם הזה קורה ברגעים ספורים ובחינם. אם טרם ניסיתם - למה אתם מחכים?
👍3❤2🔥1
Media is too big
VIEW IN TELEGRAM
הקלטתי לכם במיוחד: 3 דקות עם כל מה שאתם צריכים לדעת על GenSpark! הכלי שלדעתי *הכי מוצלח* במשימו של מחקר מעמיק והצלבת עובדות!! 🤩
רוצים להלביש את עצמכם בבגד מסוים? אפשרי
רוצים לקבל מקורות עם אסמכתאות ממורקרות? אפשרי
רוצים שהוא יבצע מחקר מקיף בעצמו על נושא מסוים ויקרא עשרות ומאות מקורות ויסכם לכם? אפשרי
רוצים להתכתב על המחקר שהוא יצר עבורכם? אפשרי
רוצים להשתמש בזה בחינם בכפוף לכמות מוגבלת? אפשרי
רוצים ליצור תמונות יפות עם AI? גם אפשרי
אחרי שכל זה אפשרי איתו, מה שנשאר זה רק לצפות ב-3 דקות, להירשם אליו וליהנות! זה המקום גם לציין לשבח את Avihai Eliasi היקר, מרצה ה-AI הנפלא, שבזכותו נחשפתי מלכתחילה לכלי המצוין הזה שרק הולך ומשתפר כל הזמן!!
מקווה שקיבלתם ערך, אם כן - אשמח לפרגון בלייק.
יובל
רוצים להלביש את עצמכם בבגד מסוים? אפשרי
רוצים לקבל מקורות עם אסמכתאות ממורקרות? אפשרי
רוצים שהוא יבצע מחקר מקיף בעצמו על נושא מסוים ויקרא עשרות ומאות מקורות ויסכם לכם? אפשרי
רוצים להתכתב על המחקר שהוא יצר עבורכם? אפשרי
רוצים להשתמש בזה בחינם בכפוף לכמות מוגבלת? אפשרי
רוצים ליצור תמונות יפות עם AI? גם אפשרי
אחרי שכל זה אפשרי איתו, מה שנשאר זה רק לצפות ב-3 דקות, להירשם אליו וליהנות! זה המקום גם לציין לשבח את Avihai Eliasi היקר, מרצה ה-AI הנפלא, שבזכותו נחשפתי מלכתחילה לכלי המצוין הזה שרק הולך ומשתפר כל הזמן!!
מקווה שקיבלתם ערך, אם כן - אשמח לפרגון בלייק.
יובל
👍16❤2🔥1
כשאנחנו בונים פתרונות AI אנחנו בלא מודע דוהרים אל תוך סוגיה חשובה: Vendor Lock, אנחנו נועלים את עצמנו ליצרן אחד בלבד
תחשבו על זה. תכננתם מוצר, אפיינתם אותו, התחלתם פיתוח, הכל עובד כמו שעון, כל התלויות שבקוד שלכם מנגנים ביחד בהרמוניה. אבל אז, מודל השפה שבחרתם להשתמש בו, החליט שקריאות ה-API ישתנו. המבנה יהיה אחרת, המודל הנוכחי כבר הופך ללא נתמך, כדי לשדרג למודל החדש צריך לעדכן את הקוד, המחיר משתנה, ואתם - לא רוצים לזעזע את המערכת - ממשיכים להשתמש בו. משנים מה שצריך בקוד, וממשיכים עם המערכת הנוכחית. איזה באסה!
במקרים יותר קיצוניים: אולי מי שמנגיש את המודלים בכלל סוגר את העסק? ואז מה יהיה עלינו? ומה אם השתמשנו עד עכשיו ב-GPT אבל אנחנו רוצים את קלוד או DeepSeek?
כדי להתמודד עם הבעיה הזו, צריך מראש, עוד בשלבי התכנון להחליט אם מלכתחילה בצורה מודעת משתמשים במודל שנועל אותנו ליצרן מסוים?
או שאולי נרצה להשתמש בשירותי LLM מוחצנים. זאת אומרת, חברות כמו Together AI או OpenRouter או DataBricks או AI Foundry של Microsoft או BedRock של AWS - כל אחת מהחברות האלה עשו משהו מאוד יפה: אנחנו פונים בקוד לכתובת אחת בלבד, וכל מה שצריך לשנות זה את שם המודל. לא את אופן פניית ה-API בפועל, אלא רק את שם המודל. זה הכל. למה זה טוב?
כי אנחנו יכולים לעבור בין מודלים ולא להישבר מכל עדכון. נכון, אנחנו עדיין נעולים לחברה מסוימת, אבל אנחנו יכולים בתוך החברה הזו לבחור מודלים אחרים כרצוננו, ובמקרי קיצון לעבור חברה.
ההבנה של Vendor Lock היא חשובה כשמנסים לתכנן מוצר אמיתי שמשלב מודל שפה גדול בתוכו. זה, לצד הצורך לבחון את איכות התשובות של המודל באמצעות כלי Evaluation כפי שפירטתי בפוסט נפרד, עוזרים לנו להתקדם משלב המשחקים לשלב המעשים. משלב שמו לשלב של מוצר פעיל שמוכן לשימוש ההמונים.
כרגיל, שמח לשתף בתהליך הדברים שאני לומד ומקווה שגם אתם מוצאים בכך ערך, בין אם אתם מפתחים, מאפייני מוצר, מעצבי מערכות או כל תפקיד אחר.
שתהיה שבת שלום בתפילה לבשורות טובות לכולנו.
יובל
תחשבו על זה. תכננתם מוצר, אפיינתם אותו, התחלתם פיתוח, הכל עובד כמו שעון, כל התלויות שבקוד שלכם מנגנים ביחד בהרמוניה. אבל אז, מודל השפה שבחרתם להשתמש בו, החליט שקריאות ה-API ישתנו. המבנה יהיה אחרת, המודל הנוכחי כבר הופך ללא נתמך, כדי לשדרג למודל החדש צריך לעדכן את הקוד, המחיר משתנה, ואתם - לא רוצים לזעזע את המערכת - ממשיכים להשתמש בו. משנים מה שצריך בקוד, וממשיכים עם המערכת הנוכחית. איזה באסה!
במקרים יותר קיצוניים: אולי מי שמנגיש את המודלים בכלל סוגר את העסק? ואז מה יהיה עלינו? ומה אם השתמשנו עד עכשיו ב-GPT אבל אנחנו רוצים את קלוד או DeepSeek?
כדי להתמודד עם הבעיה הזו, צריך מראש, עוד בשלבי התכנון להחליט אם מלכתחילה בצורה מודעת משתמשים במודל שנועל אותנו ליצרן מסוים?
או שאולי נרצה להשתמש בשירותי LLM מוחצנים. זאת אומרת, חברות כמו Together AI או OpenRouter או DataBricks או AI Foundry של Microsoft או BedRock של AWS - כל אחת מהחברות האלה עשו משהו מאוד יפה: אנחנו פונים בקוד לכתובת אחת בלבד, וכל מה שצריך לשנות זה את שם המודל. לא את אופן פניית ה-API בפועל, אלא רק את שם המודל. זה הכל. למה זה טוב?
כי אנחנו יכולים לעבור בין מודלים ולא להישבר מכל עדכון. נכון, אנחנו עדיין נעולים לחברה מסוימת, אבל אנחנו יכולים בתוך החברה הזו לבחור מודלים אחרים כרצוננו, ובמקרי קיצון לעבור חברה.
ההבנה של Vendor Lock היא חשובה כשמנסים לתכנן מוצר אמיתי שמשלב מודל שפה גדול בתוכו. זה, לצד הצורך לבחון את איכות התשובות של המודל באמצעות כלי Evaluation כפי שפירטתי בפוסט נפרד, עוזרים לנו להתקדם משלב המשחקים לשלב המעשים. משלב שמו לשלב של מוצר פעיל שמוכן לשימוש ההמונים.
כרגיל, שמח לשתף בתהליך הדברים שאני לומד ומקווה שגם אתם מוצאים בכך ערך, בין אם אתם מפתחים, מאפייני מוצר, מעצבי מערכות או כל תפקיד אחר.
שתהיה שבת שלום בתפילה לבשורות טובות לכולנו.
יובל
👍9🔥2