ToCode
1.43K subscribers
4.03K links
טיפים קצרים למתכנתים מאת ינון פרק
Download Telegram
📌 שרת לא עלה. צ'אט ג'יפיטי להצלה

לינוד הפתיעו במיגרציית חירום לשרת שמארח את האתר הזה ואחרי שהם סיימו השרת לא עלה. זה קרה בתזמון מושלם אחרי הוובינר על אחסון מערכות על שרת שלכם ובדיוק אחרי שסיפרתי כמה זה כיף לארח דברים על שרת שלי. הודעת השגיאה הזו בקונסול היא חלק מהכיף הזה:

linode performed an emergency update on my server and now my VPS isn't responding. In its lish console I see

Begin: Loading essential drivers ... done.
Begin: Running /scripts/init-premount ... done.
Begin: Mounting root file system ... Begin: Running /scripts/local-top ... done.
Begin: Running /scripts/local-premount ... done.
Begin: Will now check root file system ... fsck from util-linux 2.41
fsck: fsck.swap not found; ignore /dev/sda
done.
mount: mounting /dev/sda on /root failed: No such device
Failed to mount /dev/sda as root file system.


BusyBox v1.37.0 (Debian 1:1.37.0-6+b7) built-in shell (ash)
Enter 'help' for a list of built-in commands.

(initramfs)


אני מודה שבדיעבד קל לראות מה קורה שם. בזמן אמת זה היה מלחיץ. מה פתאום הוא לא מוצא את הדיסק? מה לינוד שברו במיגרציה? ולמה הם לא עונים לי ל Ticket שפתחתי?

ניסיתי את הצ'אט וכמובן שהוא לא אכזב. התשובה:

My leading suspicion is that your VPS is trying to boot from the swap disk instead of the actual Linux filesystem.


אחרי זה הוא נתן לי המון פקודות להריץ ופקודה אחת שמסדרת את הבעיה ובעקבותיה השרת עלה. הבעיה בעברית פשוטה:

1. השרת הוירטואלי מחבר דיסקים לפי סדר לבחירתו.
2. במקרה שלנו אחרי המיגרציה הסדר התחלף, הדיסק שקודם החזיק את הקבצים זוהה שני והדיסק ששימש ל swap זוהה ראשון. השרת התלונן שהוא מנסה לעלות מהדיסק הראשון אבל לא מוצא שם מערכת הפעלה.
3. כל מה שהיה צריך לעשות זה להכנס לתפריט האתחול grub ולבקש מהשרת לעלות מהדיסק השני.

שני דברים ChatGPT לא הזכיר והיה צריך שאני אשאל עליהם ספציפית:

1. איך יודעים מה יהיה הסדר? האם אפשר לטעון "מהדיסק עם מערכת ההפעלה" במקום "מהדיסק הראשון" ? (תשובה: כן, יש לכל דיסק UUID ואפשר לציין אותו במקום את מספר הדיסק).
2. מה לינוד ממליצים לעשות? (תשובה: להשתמש ב kernel שלהם שמותאם לעבודה בתוך הסביבה שהם יצרו ולא נשבר ככה).

סך הכל אני שמח ש ChatGPT היה שם בשביל לעזור לפתור את זה ואני שמח שאני יודע מספיק על תחזוקת שרתים בשביל להבין את כל מה שהצ'אט כתב.
👍1
📌 ארבעה תיקונים לפרומפט כדי לקבל קוד טוב יותר מ AI

קיבלתם קוד שלא רציתם או שלא תואם לדרישות? אלה 4 סוגי השינויים ששווה לנסות לבצע בפרומפט כדי לשפר את התוצאה:

1. עדכנו את הקונטקסט - הוספת קבצים, צילומי מסך, הפניות לדיונים, הפניות ללוגים, מידע מבסיס הנתונים. מיטיבי לכת יקחו צעד קדימה ויתנו לסוכן כלים באמצעותם הוא יגיע לבד למידע הרלוונטי.
2. הגבילו את כללי המשחק - הורידו גישה לדברים, מחקו tools, הגדירו קבצים מסוימים לקריאה בלבד (אפשר בהגדרות הסוכן לסמן את זה), הוסיפו הוראות שבחלקים מסוימים מהפרויקט אסור לגעת. הרחיקו את הסוכן ממקומות שאתם לא רוצים שהוא ישנה.
3. דייקו את ההוראות - במקום להגיד "תקן את X" הסבירו "תקן את X באמצעות ביטול הכפתור אחרי לחיצה כדי שמשתמשים לא ילחצו פעמיים". מיטיבי לכת יוסיפו פילוסופיית פרויקט לקובץ AGENTS.md כדי שהסוכן מראש יבחר בפתרון שמתאים למערכת שלכם.
4. תנו ל AI דרך לבדוק את עצמו - צרו בדיקות אוטומטיות, הוסיפו בדיקות, כתבו הגדרות ל Code Style, תנו לסוכן גישה לדפדפן, גישה למערכת, גישה ל DB.
📌 הצהרת כוונות

אנתרופיק פרסמו פוסט מפורט איך הם מבצעים Code Review. הקו המוביל מתואר בפתיחה:

We want to preserve human time and attention for issues only humans can solve and make sure automated checks catch the rest


הנה עוד כמה דרכים להצהיר כוונות שעשויות להוביל למסקנות שונות כשאתם בונים את תהליך ה Code Review אצלכם:

1. אנחנו לא יכולים להרשות לעצמנו בעיות בתוכנה ומוכנים לשחרר רק קוד שנבדק לעומק.
2. אנחנו רוצים לבנות סביבה בה המכונה תנתח את הקוד ואת המערכת שרצה ותייצר תיקונים בזמן אמת, כמו מכונית שנוסעת לבד.
3. חשוב לנו שלכל מוצר יהיה מוביל טכני שיכיר את כל ההיבטים של המוצר ויהיה אחראי על המוצר, איכותו ועמידתו בתקנים. אנחנו משתמשים ב Code Review כדי שהמובילים הטכניים יכירו את המוצר.
4. שיתוף פעולה בין מפתחים בצוות הוא ההיבט הכי חשוב של העבודה אצלנו. אנחנו מאמינים שרק סיעור מוחות של בני אדם על Pull Request יכול להוביל ליצירתיות וחשיבה ביקורתית.
5. אנחנו מוכנים לקחת סיכונים אבל לאורך זמן קוד איכותי הוא ייתרון תחרותי. מפתחים אצלנו לא קוראים PR-ים אלא מנטרים את המערכות הרצות וכשדברים נשברים צוללים לקוד של אותם מנגנונים כדי לשפר ולבנות אותם מחדש.

כוונות שונות מכתיבות שיטות עבודה שונות וסטנדרטים שונים. לפני שאתם רצים להעתיק את שיטת העבודה של אנתרופיק (או של כל אחד אחר שמפרסם איך הוא עובד) ודאו שיש לכם את אותן מטרות.
👍1
📌 שלושה דולרים ושבעה סנט

היום בשעה טובה התחלתי חודש חדש במנוי Ollama, בדיוק בזמן לקראת הוובינר מודלים פתוחים שמתוכנן לחמישי. בחודש שעבר Ollama עברו למודל של חיוב חודשי בו אני משלם 20$ לחודש על מנוי ומקבל טוקנים בשווי 60. מודל זה לדעתי משמעותית פחות טוב מההצעה הקודמת שלהם שהיתה מנוי של 20 בחודש, מגבלת "האטה" אם אתה לוקח יותר מדי טוקנים והגבלת Session של 4 שעות בלי הגבלה חודשית. שיטת ה 60$ אומנם פוטרת אותנו מהגבלת ה Session שזה כיף אבל היא גם גורמת לכל העסק של מנוי להישמע יותר קר ורוב הזמן יותר יקר מ Deepinfra.

את הטוקנים של חודש שעבר גמרתי על לולאת רלף כושלת. ניסיתי לכתוב סוכן שיכתוב פוסטים לבלוג וישייף אותם והלכתי על ארכיטקטורה של LLM As a judge, כלומר סוכן אחד כותב, שני משפר ושלישי בודק אם זה מספיק טוב ואם הפוסט לא מספיק מעניין מחזירים אחורה. נושא אחד שלא היה מספיק מעניין טחן את הלולאה. לא עזר כלום הסוכן לא הצליח לכתוב פוסט טוב על הנושא ושלושתם רק אכלו טוקנים עד שגמרו את התקציב החודשי. בבוקר מצאתי את הארנק ריק והסוכנים מעוכים על הרצפה אז נתתי להם עוד 20$, תנאי עצירה יותר טובים וסגרתי את הניסוי כי גם הפוסטים הטובים שיצאו מהמערכת ההיא לא היו מספיק מעניינים. מה שכן יצא ממנה זה סוכן חוקר שסורק את האינטרנט ושולח כל בוקר תקציר חדשות תכנות יומי (בהמשך כשהוא יהיה מספיק טוב אפתח אותו שתוכלו גם לקבל אל דאגה). המשכתי בבניית עוד מספר סוכנים והיום כשהגיע החודש החדש של מנוי ה Ollama קיבלתי תמונה טובה של ההוצאות:

1. הסוכן החוקר התחיל את הבוקר בקריאת אתרי חדשות ושלח לי סיכום חדשות יומי של דברים שמעניינים אותי.
2. בונה הוובינרים זיהה שיש לו טוקנים ושהוובינר הקרוב יהיה ממש ביום חמישי אז הוא קפץ על ההזדמנות וכתב לי פוסט מבוא (תוכנית) לוובינר וגם פוסט סיכום לוובינר. הוא חמוד שהוא כותב פוסט סיכום לוובינר שלא קרה רק לפי הפורמט.
למתעניינים זה הסיכום מחר נגלה אם הוא צדק.
3. הסוכנת האוטומטית "נועה מטוקוד" שיושבת בפינה של קורס AI פה באתר ענתה לפניות שלכם. רובכם שאלתם אותה כמה הקורס עולה (למרות שזה כתוב בדף) או ביקשתם הנחה אבל לא השארתם פרטים אז אפילו אם היא היתה רוצה לתת הנחה לא היה לה איך. בכל מקרה אני חושב שהיא ענתה בנימוס המתבקש ממודל סיני.
4. סוכן הטיולים שלי התחיל לתכנן לי את הטיול לאוגוסט הבא ושלח לי גם הבוקר טיפ קטן על היעד וגם יצר רשימת משימות לביצוע לקראת הנסיעה, כל זה בעזרת סקיל של מתכנן טיול לחו"ל שמצאתי ב skills.il.
5. סוכן בתי הספר קרא 5 קבוצות ווטסאפ של 3 ילדים וריכז לי את כל המשימות לביצוע בתוכנת המשימות שלי.

כל העסק הזה לקח 500 בקשות ל deepseek flash, מודל פתוח סיני שרץ על השרתים של Ollama Cloud ועלה 3 דולרים ושבעה סנט או במחיר מנויים דולר ושני סנט. אם העתיד הולך להיות מורכב מסוכני AI אין ספק שנצטרך ללמוד לשלב מודלים בגדלים ומחירים שונים כדי לבנות מערכות תחרותיות.
📌 האם יש טעם להתאמן על פתרון בעיות ביצועים במערכת?

חבר שואל "כשיש לי בעיית ביצועים במערכת אני כותב ל AI והוא מסביר לי מה לא בסדר ופותר את הבעיה. למה אני צריך להתאמן על זיהוי, מניעה ותיקון של בעיות ביצועים? לא מספיק היום להגדיר תקציב ביצועים בהוראות לסוכן ולתת למכונה לעבוד?"

זו שאלה יותר קשה מהצורך ב Code Review או לימוד ארכיטקטורה. ביצועים זה משעמם. ביצועים צריכים להיות טובים וזהו. בעיות ביצועים זה פשוט באגים, תקן את הבעיה והאתר נטען מהר. או שלא?

אם נתקדם מהרמה של "בעיות ביצועים הן באגים" נוכל לגלות את השאלות המעניינות של ביצועים, שאלות ש AI לא יכול לפתור:

1. אינדקס מאיץ את הקריאות אבל מאט כתיבות. האם פתרון בעיה במקום אחד יגרום לבעיה במקום אחר?
2. מטמון יאיץ את החיפוש אבל עלול להחזיר נתונים שגויים (stale) או בקירוב. האם אנחנו מוכנים לחיות עם ההתנהגות השונה?
3. טעינת מידע לזכרון וחישוב מקדים יכולים להאיץ את החישוב על חשבון זמן עלייה איטי יותר של המערכת.
4. הקצאה מחדש של זכרון כשחוצץ גדל דורשת העתקה של כל האלמנטים לחוצץ חדש. שימוש ברשימה מקושרת מאפשר חוצץ ללא הגבלת גודל אבל מאט את הגישה לאלמנטים.

אחת הבעיות עם AI היא הנחישות שלו להגיע לתשובה. כשאנחנו מתאמנים על שיפור ביצועים אנחנו לומדים לשים לב לשיקולים שהולכים לאיבוד בממשק הצ'אט כדי שנגיע למערכת שלנו מוכנים לשאול את השאלות הקשות.

אנחנו מתאמנים על פתרון בעיות ביצועים כדי ללמוד לאתגר את ה AI. לא כדי שהוא יסביר לנו מה לא בסדר, אלא כדי שאנחנו נבחר את הגישה והוא יממש.
👍1
📌 לא תחרות

סת׳ גודין כותב:

AI gives bosses a cheaper (and often more compliant) alternative to hiring humans to do some tasks.


סת׳ רואה מה שאני רואה ומה שאתם רואים. המשימה שלנו היא לא להיות יותר מהירים מ AI, לא יותר זולים מ AI, לא יותר צייתנים מ AI ולא יותר מדויקים מ AI.

המשימה שלנו היא להיות יותר יצירתיים מ AI, להיות יותר יזמיים מ AI, להיות יותר משכנעים מ AI, לשים לב לפרטים יותר טוב מ AI ולקחת אחריות טוב יותר מ AI.

זה כבר לא נשמע כל כך מסובך.
👍1
📌 רמה 1

במחשבה לאחור אני לא מבין איך אנשים אהבו כל כך ליצור אפליקציות עם בוני אפליקציות כמו בייס44, אבל קל לראות למה לאורך זמן היה קשה לייצר איתם מערכות אמיתיות. עבדתי היום על מערכת שהיתה "ברמה 1", בלי אופטימיזציה לסוכנים בכלל:

1. אני מחליף תיבת בחירה כדי שתכלול אפשרות חיפוש, ואז צריך לחפש בשאר היישום איפה עוד התיבה הזאת מופיעה ואיפה הסוכן שכח לשים את העדכון.
2. אני מבקש מהסוכן להחליף עורך טקסט לעורך HTML עשיר וצריך להסביר איזה חלקים בעורך יהיו ואיך בדיוק שומרים את התמונות.
3. אני מבקש מהסוכן להוסיף פיצ'ר והוא מכניס תרגום רק של חצי מהטקסטים.
4. הסוכן כותב לי שהוא סיים עבודה אבל בבדיקה שלי הפיצ'ר לא עובד.

וכמובן הקלאסי - סוכן מתקן דבר אחד ושובר שלושה אחרים. כל זה עם סוכן די מתקדם אבל אני מודה שהשקעה מועטה שלי בפרומפטים. כל כך הייתי רגיל לעבוד על מערכות ידידותיות לסוכנים ששכחתי איך זה להתחיל מהבסיס.

התאמת קוד לסוכן היא תהליך וזה אפילו לא מכסה את כל המערכת כלומר בדרך כלל נראה חלקים מסוימים במערכת שקל לעבוד עליהם ואז חלקים אחרים שדורשים יותר תשומת לב. הפתרון הקל הוא תמיד להשקיע את תשומת הלב ולתקן כל פיצ'ר ואני מודה שזה גם מה שאני עשיתי באותו ספרינט. לטווח הארוך נשים לב שזמן שאנחנו משקיעים בתיקון ושיפור המערכת נותן תמורה וחסכון משמעותי בזמן בפיצ'רים הבאים.

וכן האבסורד הוא שקל לשכוח מזה. כשאני משקיע זמן בשיפור המערכת בשוטף הסוכנים כותבים קוד מצוין ואני מדמיין שסוכני AI הם הדבר הכי חכם בעולם. אולי צריך מדי פעם להגיע עם הסוכן לקוד גרוע כדי להבין כמה חשובה ההשקעה בשיפור בשוטף.