Як краще створювати код за допомогою LLM
29 subscribers
39 photos
173 links
Корисні поради, приклади, інструкції та інші матеріали на тему LLM, які допоможуть вам у програмуванні.

https://aicode.danvoronov.com/

З приводу онлайн чи офлайн (Київ) лекцій - @dan_voronov
Download Telegram
Тренуватися використовувати API ключі? Mistral MoE на https://console.groq.com/playground поки що безкоштовно та без номеру телефону.
Як краще створювати код за допомогою LLM pinned «Слайди з моєї лекції https://speakerdeck.com/danvoronov/iak-krashchie-stvoriuvati-kod-za-dopomoghoiu-llm-v5-naukma»
У відео розглядається використання LangGraph для генерації коду. Основна ідея полягає в тому, щоб генерувати набір рішень, ранжувати їх і вдосконалювати на основі тестування без участі людини

https://youtu.be/MvNdgmM7uyc
https://youtu.be/pGqUYwmfgv4
Порівняння Codeium та GitHub CoPilot

Мені не подобаються неясні формулювання розробників Codeium про те, що вони використовують, адже це система для програмістів які зрозуміють. Скоріш за все тому що можут це давати безкоштовно, для автодоповнення використовується трансформер малого розміру щось типу 2b, а для чату у безкоштовній версії - GPT-3.5:

Codeium Autocomplete використовує власні моделі, навчені з нуля власними силами. Немає залежності від відкритих моделей, OpenAI або інших сторонніх API. Codeium Search використовує невелику, локальну модель. Для пошуку не використовуються сторонні API. Codeium Chat наразі використовує комбінацію нашої власної пропрітарної моделі чату та сторонніх API OpenAI.
https://youtu.be/L1o808YQ2vI

GitLab Duo
— набір інструментів для спрощення робочих процесів розробки програмного забезпечення (не тільки написання коду) за допомогою GitLab Chat.

Серед функцій - підказки коду, автоматичні перевірки коду, прогнозування продуктивності, резюме змін коду, пояснення вразливостей та допомога в їх виправленні, генерація тестів та багато іншого.
Компанія Anthropic оновила свої моделі до версії 3 - тепер вони можуть розпізнавати зображення.

У кейсах є конвертація простого дизайну у html код за запитом "Convert this design into a react component using tailwind css" - на VUE теж все ок
Хочу поділитися своїми думками про LLM лідерборди. Справа в тому, що точно протестувати та оцінити моделі досить складно. Продуктивність може варіюватися залежно від типу завдання, контексту.

Вважаю, що немає сенсу надто заглиблюватися в детальне порівняння позицій моделей у лідербордах. Натомість краще поділити їх на декілька груп: лідери, середнячки та відстаючі. Це дасть більш реалістичне уявлення про їхні можливості та допоможе уникнути надмірної фіксації на незначних відмінностях у балах.

🤗 На bigcode-models-leaderboard лише відкриті моделі, на скріні відфільтрував instruct з якими можна взаємодіяти як у чаті, надаючи інструкції.

Загалом DeepSeek та Phind-CodeLlama розмірів 33B та 34B, продемонстрували найкращу продуктивність. В таблиці поки що немає Phind-CodeLlama 70B та ще невідомо чи викладуть її розробники у відкритий доступ
Pi.AI 7 березня оновили свою модель до версії 2.5 ("ми додаємо IQ до виняткової ЕQ"). Вона згенерувала для мене працюючий HTML-калькулятор так що правду кажуть.

Фішка Пай ще з самого початку була в імітації короткими відповідями розмови. Безкоштовно.

Chat GPT намагалися зробити так, щоб на мобільних клієнтах можна було спілкуватися голосом, і тоді вивід моделі ставав трохи іншим більш як розмова - тут спочатку це є ідея системи. Зараз Chat GPT може читати голосом повідомлення у браузері лише за Plus підписку, а тут це безкоштовно.
👍1