כולם מתלהבים ש-OpenAI הכריזו על כך שהצליחו לפתור את ״בעיית המילניום״ של נאוויה-סטוקס, אתגר מתמטי מורכב, אבל שוכחים משהו קטן:

הפרס על פיתרון הבעיה הוא מיליון דולר, ומכון קליי (שהציג את הבעיה) לא אישר את ההצעה של הפיתרון עדיין.

וכמה עלה להגיע לפיתרון הזה מלכתחילה?

כ-10,000 סוכני AI,
כ-88 שעות ריצה רצופות,
כ-130 מיליארד(!!) טוקנים

לפי ההערכות, הסכום נע בין 15 ל-40 מיליון דולר! שזה פי 15 ל-40 מהפרס עצמו.

ו-OpenAI כבר הודיעה שלא תדרוש את הפרס (אם בכלל ההצעה של הפיתרון תאושר)

ובמקביל, אנת׳רופיק טוענים שקלוד אימת את ההוכחה של המתמטיקאי וויליס, שהוכיח על פני 150 עמודים את משפט פרמה. קלוד היה צריך לקחת את 150 העמודים ולתרגם לקוד שיכול לבדוק את הטענה, ולכאורה הצליח.

משימה שהייתה אמורה לקחת שנים, לקחה 11 ימים. וכמה זה עלה? ככל הנראה 300 אלף דולר, טרם פורסם רשמית, אלה ההערכות בחוץ.

השאלה היא לא רק האם ה-AI חכם יותר? אלא כמה עולה לקבל את המסקנות שלו? ואיך בכלל בודקים אם הוא צדק או טעה? מי מבקר את ה-AI? וכמה יעלה לאמת את התוצר שלו?

רואים פה דבר ברור: החברות שוב מתחרות ראש בראש, כמו בסייבר - עכשיו במתמטיקה. למה? כנראה ההנפקה מתקרבת.

ידעתם שיש לכם תעודת זהות בנקאית - שה-AI יכול לנתח ולעזור בהפחתת עלויות ועמלות מול הבנקים?

זה מה שדיברנו עליו היום בפינת ה-AI. בואו לצפות ותודה לשאול אמסטרדמסקי ולסדרה המעולה שלו ״מתחת לבלטות״ שדרכה נחשפתי לכך שיש בכלל ת.ז בנקאית.

שמעתם על ״פרויקט לילי״ של OpenAI שבמסגרתו ChatGPT דוחף לכולם הגדרה שאנחנו מאשרים לשתף את השיחות שלנו כדי לשפר את המודל - ומסתבר שמאות עובדי קבלן אנושיים עוברים על השיחות, לרבות כאלה שמכילות מידע אישי / פרטי / רגיש, ומתייגים ידנית את איכות התשובה?

גם קלוד וגוגל עושים את זה, פשוט כרגע הזרקור על OpenAI בגלל חשיפת גוף התקשורת ״404 מדיה״ שממש השיג הנחיות של OpenAI לעובדי הקבלן, צילומי מסך מערוצי סלאק משותפים (לכאורה) ועוד

לשאלת גוף התקשורת לגבי הנושא, OpenAI התחמקה. היא לא הכחישה ואמרה שיש לה פילטר שאמור לסנן מידע רגיש לפני התיוג הידני - אבל שלא תמיד הוא עובד.

המשמעות: אם שיתפתם מידע אישי, סיסמאות, מפתחות API, דברים רגישים, כנראה שקוראים את המידע שלכם. ורצוי להחליף מפתחות סודיים ו/או סיסמאות (מה שהוזן לצ׳אט בלבד - לא מה שמוגדר דרך קונקטורים)

החדשות הטובות: אפשר לכבות את ההגדרה הזו כדי שזה יפסיק לקרות מעתה והלאה. בואו לצפות באייטם שלנו, פינת ה-AI, מהדורת היום, חדשות 12 עם עמליה דואק ועופר חדד האלופים!

ותודה לאופיר שוואקי מהמערכת שהרים את האייטם! Ofir Shweky

https://www.instagram.com/reel/DdWdRN3Nk6c/?stkn=M2wwNGt4d2x5cm5l

ולמי שמעדיף פייסבוק:
https://www.facebook.com/share/v/14oCLuDPZXh/?mibextid=wwXIfr

ויוטיוב :
https://youtu.be/ntJLQDm720o?si=y--zNtzhiz_-uUDK

ולמי שרוצה לצפות ישירות פה

הייפ חדש: מודל חדש בשם JEV, של חברת Typesafe AI תופס תאוצה מטורפת. הוא עוזר עם שיפור הביצועים של סוכני AI ע"י האצת מהירות והפחתת עלויות באופן משמעותי - אבל מה הסיפור שלו? והאם בטוח להשתמש בו?


כדי להבין מה הוא עושה, תחשבו על הדוגמא הבאה: אתם חברת KSP, אתם מקבלים המון פניות בוואצאפ. אתם צריכים לדעת לאיזו מחלקה להעביר את הפנייה, ובאיזה מודל AI להשתמש כדי להשיב לפונים (אם אתם צ'אטבוט AI) - האם מודל יקר כי צריך לבדוק את פרטי הלקוח? האם זול ומהיר?


כדי לעשות את זה, מבלי שהמערכת תישבר, צריך להגדיר במדויק את הפניות למודל השפה וגם את התשובות, לנתח את התוצאות ולתת לסוכן לעבוד על זה בלולאה. זה עסק לא זול כשיש הרבה קריאות.


ומה אם היה אפשר להוזיל את זה? או לשפר את זה? כמה לשפר? בערך פי 200 מהר יותר, ולהוזיל בערך ב-444 אחוזים. נשמע טוב נכון?


זה מה ש-JEV של Typesafe עושה. הוא יושב לפני הפנייה למודל השפה, מסתכל על השאלה ומחליט בהתאם להגדרות מה צריך לעשות.


לדוגמא, אם קיבלנו שאלה שהתוצאה שלה אמורה להיות פתיחת קריאה אוטומטית לשירות לקוחות, אז JEV יודע לקחת את הבקשה ולהעביר אותה לתהליך האוטומציה הזה מבלי לערב מודל שפה נוסף. וכך הלאה. הוא יושב, רואה מה רוצים - ולפי הלוגיקה שיש לנו בקוד יודע איך לייעל את העבודה.


אפשר להגדיר לו מה מבחינתנו נחשב מודל חזק, ומה מהיר, למשל קלוד הייקו או OpenAI לונה וכדומה, ואז במקרה שצריך לפנות ל-AI הוא ינתב למודל הטוב ביותר.


נשמע טוב. נראה טוב. אבל צריך לשים לב:


- לא מדובר במודל שהוא קוד מקור פתוח, מדובר במוצר מסחרי


- ככזה, המשמעות היא שעבוד לשירות שלהם. אם שילבתם אותם בקוד שלכם - יהיה לכם קשה לעזוב אותם בעתיד, והשאלה היא האם רוצים להיכנס לזה מלכתחילה?


- הוספת שכבה של שירות שמעבד את המידע שלכם, משמעותו העברת המידע שלכם לספקים נוספים. בדקתי האם הם עומדים בתקינה כלשהי ונראה שהם עומדים בתקינה מחמירה מסוג SOC 2 TYPE II שזה מרשים, ויש להם מדיניות עיבוד מידע, ביקשתי גישה למסמך עצמו ואחכה לראות אם אקבל, אבל בינתיים אפשר לראות באתר שלהם מי יעבד את המידע שתעבירו ל-JEV:


אמזון AWS, סלאק, גוגל, ומודל (שלא הכרתי).


כתוב שהם לא יבצעו שימוש במידע, אך מצד שני לא ראיתי התייחסות למשך הזמן שבו המידע נשמר, האם נמחק, ועוד דברים שהייתי בודק בעבר בתפקידי כאיש אבטחת מידע.


האם להשתמש או לא? זו שאלה קשה. יש הבדל בין לשחק איתו לכיף לבין להטמיע אותו במוצר.


אני אישית לא הייתי ממהר להטמיע אותם במוצרים שלי אלא אם יש להם מודל נגיש דרך AWS Bedrock למשל, כי על אמזון אני יכול לסמוך יותר מאשר על חברה צעירה עם מודל שנשמע מדליק. וגם - אני הייתי מעדיף לבנות את הפתרונות שלי בצורה שבכל רגע אני יכול להחליף מודלים ולעבור בין מודלים, אפילו למודלים לוקאלים דרך vLLM תוך שמירה על הסכמה של OpenAI, מאשר להטמיע כל מיני דברים בקוד.


אם ניסיתם אשמח לקרוא תובנות, תזכרו שאם יש לכם מקרים שאסור שהקוד יצא מהרשת בכלל - JEV לא מתאים בשלב הזה כי צריך פתרון מקומי.

יש המון רעש סביב מודל JEV החדש. כדאי לזכור:
הוא לא מודל שפה. הוא לא מודל שמפתח אפליקציות. הוא לא מודל שמחליף עבודה של סוכן AI.
הוא נווט. הוא אומר לטייס לאיפה לפנות, מתי לנסוק, מתי לצלול. הוא מקבל תמונת מצב ומכריע בכל רגע נתון - ומעביר את ההכרעה לטייס - שמבצע את הפעולה המשלימה בפועל.
ראיתי אנשים שמפרסמים בצדק קריאה להפסיק עם דמואים מזויפים על JEV שפיתח אפליקציות ותוספים לכרום. הוא לא יכול לפתח כי הוא מודל שמיועד להכריע.
המשמעות ברורה: לא מחליפים את קלוד ב-JEV, אין לזה קשר בכלל. אם כבר, אפשר לבקש מקלוד לפתח מוצר עם לוגיקה מסוימת, וההחלטה מתי להפעיל כל לוגיקה במוצר תתקבל ע״י JEV ולא ע״י קלוד למשל.
לדוגמא, בניתם אתר תדמית עבורכם. אפשר לפנות אליכם. אבל מה קורה כאשר מתקבלת פנייה? נניח שאמרתם לקלוד - שהוא צריך לקרוא את הפנייה, לסכם אותה, להשיב לפונה בקצרה שהפנייה התקבלה - ופנימית לפתוח קריאה ולהעביר לטיפול של הגורם הרלוונטי - הנהלת חשבונות, תיאום פגישות, מידע לקראת הרצאה וכדומה. נניח שזו הלוגיקה.
או שקלוד יכריע לבד - ואז נשלם לו בכל פעם. או שקלוד יפתח עבורנו את המוצר, ויגדיר את התנאים להפעלת כל אוטומציה מראש - ואת ההכרעה איזו אוטומציה להפעיל בפועל קלוד יממש ע״י שילוב של JEV.
בקיצור, ולמרות ההייפ, תזכרו: JEV הוא לא מפתח. הוא נווט מדהים וזול שעובד מצוין.
מבחינת פרטיות - לא בטוח שתרצו אותו בטיסה שלכם, אבל כל פרויקט לגופו.
וכנראה בקרוב יהיה מודל מקביל פתוח וחינמי וטוב יותר ומן הסתם סיני. אולי הוא כבר קיים. זה מזכיר לי את הבדיחה של סאות׳ פארק: אם האמריקאים משגרים חללית לירח - הסינים כבר הקימו מושבה על מאדים 🤣

אין מעצבן כמו ״סליחה אם פגעתי״ - עדיף לא לבקש סליחה. אנחנו יודעים במי פגענו - אפשר פשוט להגיד ״סליחה שהתנהגתי ככה, או אמרתי ככה״ וכו

וגם האם ללכת לבית הכנסת בכיפור זו צביעות אם יודעים שלא שומרים כלום לפני או אחרי?

הסיפור של כיפור הוא לא לסמן וי. אין עניין של הצגה ומשחק. כשהולכים לבית הכנסת - יותר חשוב מאשר הנוסח עצמו - זה עצם ההליכה. יש תפילה שקטה בעצם ההליכה לבית הכנסת. זה הסאבטקסט, מה שנאמר בין השורות.

להתלבש יפה, ללבוש לבן, לפתוח סידור גם אם לא מבינים כלום, לעמוד שעות בתפילה. אנחנו לא עובדים על השם, וגם לא על עצמנו. התפילה שלנו חשובה - אבל מה שחשוב פה הוא הרצון. הרצון מביא אותנו לבית הכנסת מלכתחילה, השם רואה את המאמץ שלנו, הוא מבין את הלב שלנו, כשאנחנו מתפללים זה מעורר את הנשמה שלנו להתקרב יותר לרוחניות, לרדוף פחות אחר חומר, אחר קנאה ושנאה ותחרות, ויותר אחר עין טובה.

אצל חכמי הקבלה מה שחשוב הוא הרצון. לא המעשה החיצוני. לא ללכת לבית הכנסת כדי לסמן וי ולא לצום כדי להמשיך לחטוא. מה שחשוב זה לעורר צעקה פנימית, רצון פנימי אמיתי לחיים נקיים יותר בקרבת השם. יותר פרגון ופחות קנאה. האם הרצון זז? האם יש צעקה פנימית שקטה להשתנות גם אם קשה?

המטרה בכיפור הוא לעורר את לב האבן שלנו. לצאת מהקיבעון. לא למחוק עוונות כדי להמשיך לחטוא מחדש. אלא כדי שמשהו בנו סוף סוף יזוז וישתנה. אם משהו זז - אפילו סדק קטן - זו המטרה. בשביל זה שווה לצום ולהתפלל שעות. העיקר לא להישאר אותו הדבר.

ובכלל, אין עונש כמו להישאר ללא תזוזה. צריך להיות כמו פרח פורח וגדל. תזוזה. לא רק פיזית בכסף ומעמד והצלחה - אלא בעיקר בנפש וברוח. בקרבת השם. בהבנה שהעולם הזה חולף ולא נשאר כלום - ואם כבר הכל חולף - וגם אנחנו - אז למה לשרוף את החיים רק על כסף וכבוד ותחרות ולייקים? כל כך מיותר. עדיף להתמקד בעצמנו, לא באחרים, לעשות טוב, לתת ערך, ולגדול כל שנה. להתאפס, להתחיל מחדש, להבין איפה הנקודה שגרמה לנו לסטות מהדרך, לחזור אחורה לאותה נקודת התפצלות, לתקן את המסלול ולעלות על דרך המלך.

שנזכה לגמר חתימה טובה ולגדילה אמיתית בגוף וברוח. תזכרו להתפלל על אחרים ולא רק על עצמנו, ולהתפלל בעיקר על רוח. לגשמיות השם דואג.

וואה וואה, רק יוצא מכיפור וכמה דברים צדו את עיני ב-X:
מודל תמונות חדש וחינמי של קוון, 7 מיליארד פרמטרים, עורך תמונות וגם מייצר ועובד יפה מאוד, qwen image 2.1 מחכה לכם ב HuggingFace
ראנווי מפרסמת טיזר למודל חדש שיודע להתאים אתרים לגדלים שונים של מסכים בזמן אמת. לכאורה תם עידן ה-breakpoints ב-css, עידן חדש לפיתוח רספונסיבי!
ארבעה מודלים יושקו השבוע כנראה, גרוק 4.7 כבר שוחרר והוא עובד טוב יותר בפיתוח תלת מימדי
אילון מאסק שיתף פתרון שמישהו יצר עם גרוק בוט, זה מעניין כי גרוק בוט הפך להיות נתב בין קלוד קוד לקודקס לגרוק בוט, מנצח על התזמורת הזו
אתר חדש בשם AskJev מנגיש את מודל ג׳ב החדש לשאלות ותשובות וזה מגניב. שאלתי אם טראמפ חובש פאה וקיבלתי שלא, ברמת ביטחון של 71%! משמע שהמודל חושב ב-29% שהוא כן עם פאה 🤣
פתקא טבא לכולנו! שזה אומר שאחרי שהשם כתב וחתם את גורלנו לשנה הבאה, הפתקים עוברים לסטטוס ביצוע. הביצוע מתחיל בשמחת תורה, עד אז אפשר עוד לתקן.

פרפלקסיטי בנה לי משחק שמשווה בין המודלים הפתוחים של JEV - וגם יצר מזה סרטון לגמרי לבד!

האמת שזה די מדהים, ביקשתי מ-Perplexity דרך האפליקציה בטלפון, במצב Computer, לפתח משחק כלשהו שמשווה בין OpenJev לבין Laya, שני מודלים פתוחים מתחרים ב-JEV.

ההשוואה צריכה להיות ברמת הזמנים של קבלת ההחלטות והתוצאה הסופית, והקטע הכי מגניב: אמרתי לו לא לשאול אותי כלום, לעבוד לבד, וגם לייצר סרטון של המשחק שמשווה בין המודלים.

לקח כמה דקות, והרי התוצאות. זה ממש מגניב לראות שהוא יצר משחק, web app, ואח״כ צילם מסך של כל מודל משחק ויצר את הסרטון של כל מודל אחד לצד השני.

יצא קצת חתוך ונגמרו לי הקרדיטים די מהר (יש לי מנוי פרו שקיבלתי באיזה דיל שהיה להם פעם, כל הזמן יש לפרפלקסיטי דילים שמקבלים במתנה מנוי שנתי)

ביקשתי את זה גם מקלוד וגם מגרוק בוט אבל פרפלקסיטי היה הכי טוב.

‏ @perplexity_ai

‏אני: גרוק בוט, תבדוק לי כמה דווחו עסקאות נדל״ן בפועל ביבנה, לא רק לפי יד 2 אלא ממש דיווחים רשמיים מאתרים ממשלתיים.

‏גרוק בוט: אין בעיה. פותח דפדפן משלו במכונה הווירטואלית שלו, מחליט לגשת לאתר nadlan gov ולפלטר לבד ולגלול ולסכם את המידע בעצמו.

‏מפה לשם, בעוד שקלוד אמר שאין לו איך לגשת לאתרים הממשלתיים כי robots txt חוסם אותו, גרוק בוט כבר חזר עם כל הדאטה

ועוד אני לגרוק בוט: צור בוט חדש שהוא האדריכל ומהנדס הבניין שלנו. לאחר מכן, תן לו לקרוא את הסכם הפיתוח ואת אישור הזכויות. הוא צריך לעיין בתשריט ובתב״ע ובטאבו, למצוא את הגוש והחלקה לבד ולסכם לי את עיקרי הדברים שחשוב שאדע - מגבלות תכנוניות, מלכודים למיניהם - וצור לי הדמיה של יחידת דיור על תמונת הקרקע המצורפת שצילמתי מהרחפן.
גרוק בוט חושב ומפרט לי את הכל. ואפילו יוצר לי טבלה עם פרטי קשר של ועדות התכנון במועצה המקומית - מייל טלפון ושעות קבלה, ואז יוצר את ההדמיה המצורפת (וקבלו קטע: גרוק לא הוסיף בריכה כי לפי התב״ע אין היתר לכך)
אני כל כך נהנה למצוא יוז קייסים פרקטיים שפשוט עובדים!
מסתבר שכשאני מפרסם על היכולות של ה-AI בתחום עריכת הדין / שמאות / אדריכלות / הנדסה - מיד מתעוררת התנגדות נחרצת, תגובות שאני לא מבין כלום ושום דבר, ומטעה את הציבור ועוד פנינים. הלחץ הזה של המגיבים רק מראה לי שהם בעצם חוששים, ובצדק, ולכן הם ישר מתגוננים.
מה שיותר מדהים הוא שהמקצוענים האמיתיים לא נבהלים ולא מנאצים. הם מקשיבים, מנסים, מופתעים לטובה, מאמצים ורצים מהר יותר.
מי שמפחד - מתגונן ומתנגד. וחבל. הטכנולוגיה כבר כאן, כדי להישאר וכדי לחסוך לנו זמן וכסף. גם אם נתנגד זה לא אומר שהיא תיעלם - ההתנגדות פשוט תשאיר אתכם מאחור במקום ליהנות ממה שיש לעולם הזה להציע! לא חבל? זה כיף לא נורמלי! וגם אם יש טעויות - אפשר לתקן ולדייק, ממש כמו בני אדם.

קלוד אופוס 5.5 הרגע עקץ אותי ב-100$ ובגללו קיבלתי חיוב באשראי! על דעת עצמו! 😡😡😡

הוא החליט שכדי להשלים משימה שנתתי לו - זה בסדר לקחת מפתחות סודיים שמחוברים לאשראי שלי, על דעת עצמו, ולג'נרט 30 שוטים שעלותם בין 80-100 דולר, מבלי שאישרתי לו להשתמש במשהו שקשור לכסף, ובטח שלא באשראי שלי!

ומעשה שהיה ממש עכשיו - כך היה:

המוני המונים מעלים יוז קייסים של אנימציות ותלת מימד עם אופוס 5.5 החדש. דברים ממש יפים. ממה שראיתי איש לא מספר מה התהליך וכמה זה עלה - אז ניסיתי בעצמי.

נתתי לקלוד אופוס 5.5 משימה: צור לי סצנה תלת מימדית של - ותיארתי מה אני רוצה. הוא התחיל לעבוד. במקום סצנה תלת מימדית ב-html, הוא יצר לי סרטון וכתב לי שזה עלה בין 80 ל-100 דולר.

אני נושם רגע, מסתכל ואומר לעצמי מה?!?!

ואז אני גולל במעלה הסשן, מה שהוא עשה זה לחפש בפרויקטים אחרים על המחשב שלי אם הגדרתי קובץ .env עם מפתחות api שמתחברים לג'ינרוט וידאו דרך fal או דרך google וכדומה. מצא את זה באחד הפרויקט והחליט על דעת עצמו להתחיל לייצר מבלי להגיד לי כלום. אלא מאי? לא הייתה מספיק יתרה ב-fal, הג'ינרוט עצר באמצע, אז הוא עבר ל-api של בגוגל ששם הוא זיהה שלא הוגדר לימיט.

כל זה בשביל סצנה תלת מימדית שרציתי לטובת משחק שאני מפתח איתו בשביל הכיף. שתבינו, בגלל ההייפ סביב אופוס 5.5 החזרתי את המנוי לקלוד כי אמרתי לעצמי ששווה רגע להשקיע מנוי לחודש אחד ולבטל מאשר לנסות דרך api credits. מחשבות לחוד - והעקיצות של קלוד לחוד.