Як краще створювати код за допомогою LLM
29 subscribers
39 photos
173 links
Корисні поради, приклади, інструкції та інші матеріали на тему LLM, які допоможуть вам у програмуванні.

https://aicode.danvoronov.com/

З приводу онлайн чи офлайн (Київ) лекцій - @dan_voronov
Download Telegram
https://www.youtube.com/watch?v=5poVsIeq3TM

Snapdragon презентували чіпи X не для телефонів, а для комп'ютерів Windows. Крім звичайного та графічного ядра, в них буде також NPU (нейронне процесорне ядро). Вони обіцяють, що програми працюватимуть швидше, і великі мовні моделі (LLM) можна буде запускати локально та нативно без проблем.

VSCode на 17:53
з Qualcomm AI Code Completion
з llama-chat-v2-7b
Як краще створювати код за допомогою LLM
🥳 Llama 3 вийшла! Моделі були навчені на двох нещодавно анонсованих кластерах із спеціально побудованими 24K GPU на понад 15T токенів даних - навчальний набір даних у 7 разів більший, ніж той, що використовувався для Llama 2, включаючи у 4 рази більше коду.…
https://youtu.be/eR855VNPjhk

У Groq на їх ютуб каналі є демо проекта iter на моделі mixtral-8x7b-32768 у терміналі на nix-shell. Я не тестував - його підхід усе друкувати й мати мінімум контролю над генерацією.

1:53 Зате є крута фішка команда reflextion - коли у модель зайде 6 запитів з інструкією подумати над проблемою.

Відео з 8 березня, а теперь ще є llama3-70b-8192 - але 8к проти 32к контекстне вікно.

Для VSCode у каталозі розширень я знайшов Groqopilot v0.0.81, але зараз він скоріш не працює ніж працює.
https://github.blog/2024-04-29-github-copilot-workspace/

GitHub представляє Copilot Workspace у TechPreview - нове середовище розробки на базі ШІ

GitHub Copilot Workspace - це оновлене середовище розробки, де програмісти можуть працювати з кодом звичайною мовою 💬. Система може допомогти розробникам від самого початку - планування завдання , написання специфікацій 📄 та генерації коду 💻.
Усе це можна відредагувати та доопрацювати ✏️.

Середовище інтегроване з GitHub Issues 📥, Pull Requests 🔃 та репозиторіями 🗃.

Розробники можуть запустити та протестувати код прямо в Copilot Workspace 🚀. Це дозволяє спростити і пришвидшити весь цикл розробки програмного забезпечення .

Для професійних розробників Copilot Workspace дозволить більше зосередитися на системному мисленні 🧠 та відійти від рутинної роботи, яку можна автоматизувати ⚙️.
На скріншоті показано результати "сліпого" порівняння людьми двох варіантів конвертації дизайну в код: різноманітних доступних інструментів та живої людини

JACoB (Just Another Coding Bot)
- схоже під впливом Devin зробленний ШІ асистент, який перетворює дизайни на робочий код 💻, розуміє репозиторій 📂

🔄 Інтегрується з GitHub репозиторіями та дизайнами Figma
🤝 Розумний діалог з людиною через огляд та внесення змін до коду
(буде) 🔓 Відкритий код для розширення функціоналу
👥 Пристосований до робочого процесу існуючої команди

Цікаво, що, подібно до нової версії GitHub Copilot, вони прешочергово зосереджуються на визначенні людиною переліку завдань для ШІ агента

Перевірити не зміг, на мій GitHub акк пишуть "Try signing in with a different account."
Як краще створювати код за допомогою LLM
https://github.blog/2024-04-29-github-copilot-workspace/ GitHub представляє Copilot Workspace у TechPreview - нове середовище розробки на базі ШІ GitHub Copilot Workspace - це оновлене середовище розробки, де програмісти можуть працювати з кодом звичайною…
https://www.youtube.com/watch?v=75Hv0RUFIrQ

Автор відео висловлює своє глибоке скептичне ставлення 🤨 до нової системи GitHub Copilot Workspaces, яка представлена як "революційний" спосіб розробки програмного забезпечення за допомогою штучного інтелекту.

Розглядається приклад з демонстрації використання Copilot Workspaces для додавання додаткової перевірки URL-адрес 🌐. Автор критикує те, що запропонований Copilot план включав в себе невідповідні зміни, такі як оновлення README-файлу та додавання файлу CONTRIBUTING.md, чого не вимагала початкова задача. 🤦‍♂️ Цей простий патч ШІ генерував годину.

Автор також звертає увагу на те, що Copilot Workspaces не змогла перевірити наявність субдоменів у GitHub URL-адресах, що було необхідною частиною специфікації. 🤯 Це наводить його на думку, що або інструмент недостатньо протестований, або його можливості все ще дуже обмежені.

Далі автор ділиться своїм альтернативним баченням того, якими повинні бути AI-інструменти для розробників. 💡 Він вважає, що ці інструменти мають доповнювати, а не замінювати існуючі робочі процеси. Як приклад, він демонструє свій досвід використання Super Maven - альтернативи Copilot (теж $10 на місяц), яка, на його думку, є значно швидшою та надійнішою в автодоповненні коду. 🚀

До речі, він використовує хайповий браузер Arc, який щойно став доступний і на Windows.

Радить почитати https://paulgraham.com/articles.html
https://www.phind.com/code?home=true

Phind запустив режим роботи з кодом у браузері

Експериментальний режим дозволяє зареєстрованим користувачам розмовляти з кодом, а тим у кого Phind Pro запускати та тестувати код у браузері (поки лише Python).

Окрім того, з 30/04 у Phind з'явилася можливість обирати модель phind instant, яка є моделью малого розміру. Вона базується на моделі Llama-3-8B і є дуже, дуже швидкою.

Режим запитів Phind ASK тепер розумно вирішує, коли шукати, а коли не шукати в інтернте. Він налаштований на пріоритетний пошук, але автоматично уникаватиме цього, коли ви змінюєте код. Режим Chat тепер має назу Playground.
https://youtu.be/BxKXSlc759Y

На даний момент ШІ використовується лише як помічник при написанні коду, але не може повністю замінити людину.

🤔 - Незважаючи на маркетинговий хайп навколо "ШІ-програмістів", вони не досягли очікуваного результату.

🚨 - Основні складнощі:

1) Користувацькі інтерфейси - необхідно враховувати динамічні елементи, залежності та контекст.

2) Інтеграція сервісів - необхідно коректно налаштовувати комунікацію з зовнішніми системами, специфікації яких змінюються.

3) Окремі функції - ШІ може успішно генерувати тільки прості функції.

🎮 - Ігри є більш контрольованим середовищем для ШІ, оскільки їм не потрібно вирішувати реальні проблеми, а неочікувана поведінка програми не приведе к виликим фінансовим збиткам користувачів.

Зараз ШІ-асистенти (автору подобається Continue) корисні для допомоги у роботі над кодом, але вони не здатні в автоматичному режимі повністю замінити людину-програміста.
https://www.youtube.com/watch?v=zzw2OSFw9xI

У відео показано проект OpenUI, який автоматично створює фронтенд за описом - потім код можна завантажити чи скопіювати у різних форматах. Покроково пояснено процес встановлення проекту та його використання.

Тестував - дійсно працює як треба.
https://youtu.be/dLaOQLXTM10

Тиждень тому був представлений Amazon Q - помічник програміста, який спеціалізується на генерації коду, тестуванні, налагодженні та може використовуватися на різних етапах життєвого циклу розробки програмного забезпечення.

У відео демонструється, як легко встановити Amazon Q у VS Code та скористатися ним для створення стартового проекту FastAPI, додати новий раут, який повертає випадкове число (система автоматично оновила й тести), а також пояснити наявний код.

Інструмент безкоштовний
👍1
https://youtu.be/rz3foHGcnWY

Виступ на тему Replit Ghostwriter

🎙 Mik Kasta, який відповідає за напрямок AI в Replit, провів презентацію, де розповів про ключові особливості та можливості платформи, зосередившись на функції Ghostwriter - AI-помічника для програмування.

🤖 Основна ідея, яку просував Mik, полягає в тому, щоб максимально спростити процес створення програмного забезпечення за допомогою AI-технологій. Він зазначив, що Replit прагне "перетворити ідею на продукт" максимально швидко, використовуючи голосове введення, яке потім конвертується в текст і стає основою для роботи AI-генератора коду Ghostwriter.

💻 Mik продемонстрував, як Ghostwriter може допомогти користувачам Replit у різних задачах, від написання базового парсера веб-сторінок до розгортання додатку на основі Python з використанням фреймворку Flask. Він також розповів про плани щодо розвитку цієї технології, назвавши її "Штучним інтелектом розробника" (Artificial Developer Intelligence), який зможе не лише генерувати код, а й самостійно планувати та налагоджувати виконання завдань.

Сгенерований код парсера насправді не працював, а система відмовилася його доробити...

🧠 Ключовим моментом виступу стало переконання Mika, що співпраця людини з AI-помічником у програмуванні - це не щось, чого слід боятися, а навпаки, нова можливість для підвищення продуктивності. Він закликав аудиторію не соромитися використовувати такі інструменти, адже зміни в галузі IT - це природний процес, як і в інших сферах діяльності людини.

модель replit-code-v1_5-3b на ollama
зараз презентація ChatGPT апп для комп'ютера з яким можна голосом розмовляти про код. Також можна буде зашарити екран
До речі, у веб-версії ChatGPT є хоткей, щоб скопіювати останній згенерований блок коду.
Як краще створювати код за допомогою LLM
До речі, у веб-версії ChatGPT є хоткей, щоб скопіювати останній згенерований блок коду.
Кілька днів тестую GPT-4o для генерації html сайтів і якість, все ж, не на рівні GPT-4, але швидкість вражає і майже дотягує до ллами 70b на groq.
https://youtu.be/cogrixfRvWw

Реклама від Google (для конференції I/O), у якій розробників дивує те, що хоч щось, що зробила компанія Google (у даному випадку велике контекстне вікно), - працює.

Кейс: json з фото книжкової полиці - прикольний
Хоча на https://cursor.sh/pricing ще написано GPT-3.5 в мене вона вже замінилася на GPT-4o який значно краще працює

Phind у Pro плані теж додали цю модель до 4 трубо та опусу.
Як краще створювати код за допомогою LLM
зараз презентація ChatGPT апп для комп'ютера з яким можна голосом розмовляти про код. Також можна буде зашарити екран
Така аппка від OpenAI доступна вже, але тільки на мак.
Під Виндовс MS презентовали оновлення десктопного Copilot, але поки у мене стара версія без голосового чату
TED виступ Томаса Домке (GitHub CEO):

🤖 Революція штучного інтелекту в програмуванні: від складних "ієрогліфів коду" до простого і природного спілкування з машиною, наче з LEGO.

🧠 "Сьогодні будь-яка людина, незалежно від мови, матиме силу говорити з машиною".

💻 Новий продукт "Copilot Workspace" дозволяє створювати програмне забезпечення простою розмовною мовою, без потреби писати код.

🔮 "До 2030 року, а можливо й раніше, ми матимемо понад мільярд розробників програмного забезпечення на GitHub. 10% світового населення контролюватиме комп'ютери та зможе створювати програми, наче їздити на велосипеді".

🎨 "Відкриваються шлюзи для нового ренесансу людської креативності за допомогою програмного забезпечення".

"Будувати програмне забезпечення стане таким же простим і приємним, як збирати LEGO".
https://github.blog/2024-05-21-introducing-github-copilot-extensions/

GitHub представив Copilot extensions. Це розширення співпрацює з такими партнерами як Microsoft Azure, Docker та інші, що дозволяє здійснювати розгортання у хмарі, отримувати контекст помилок та швидко розв'язувати проблеми у звичному середовищі розробки.