Юрий Петров | ai engineering
1.57K subscribers
456 photos
46 videos
16 files
701 links
Привет! 👋
Я руководитель отдела разработки.
Здесь мы изучаем LLM, автоматизацию с n8n, делаем крутые приложения на Flutter и учим их думать с помощью ИИ.
Новости, лайфхаки, интересные кейсы, присоединяйся.
#flutter #dart #llm #ai #ollama #n8n #agent #go
Download Telegram
Moonshot AI, как и обещали, дропнули в open-source свою топовую нейронку.

https://huggingface.co/moonshotai/Kimi-K3

Что реально интересно:
1. Первая в мире открытая модель класса 3T — 2,8 триллиона параметров.
2. Революционная архитектура внимания. Модель построена на новых механизмах Kimi Delta Attention и Attention Residuals (надо будет на курсе изучить эти подходы).
3. Встроенный автономный агент для разработки.
4. Нативная мультимодальность + 1 миллион токенов. Модель из коробки понимает текст, изображения и видео в рамках единого контекстного окна

В итоге это полноценный автономный инженер-агент с триллионами параметров, нативным зрением, которая за раз может взять контекст огромного репозитория и которая теперь официально доступна сообществу.

😄 где то вместе грустят антропики и openai
👍14
Еще один удар по американской гегемонии в области LLM.
Компания Alibaba выпустила Qwen 3.8.
На что можно обратить внимание:
1. Модель имеет 2,4 триллиона общих параметров.
2. Появилась поддержка режимов «Thinking» и «Non-Thinking» для гибкого контроля над балансом.
3. Это первая мультимодальная модель семейства, преодолевающая барьер в триллион параметров.
4. Модель задает новую планку в программировании и способна автономно работать над сложными проектами до 10 дней подряд.
5. Alibaba подтвердила, что, так же как и Kimi, модель скоро будет выпущена с открытыми весами.

Ознакомиться можно здесь https://chat.qwen.ai/
🔥5
Интересно конечно, имея неограниченный доступ к своим моделям, не могут обеспечить нормальный uptime😏
😁3
Борис Черный, инженер Anthropic и создатель Claude Code, показывает, как работать с инструментом на практике. Историю и теорию почти не затрагивает.

Переведено, специально для себя))

Речь о том, почему освоение незнакомой кодовой базы занимает дни вместо недель.
Дальше про передачу контекста через файлы CLAUDE.md и команду /memory, про то, как принять из предложенной правки только часть строк, чем опасен Bash и почему агенту стоит выдать отдельный сервер для проверок.
Ближе к концу речь заходит о тех, кто применяет инструмент вне инженерных задач.

Всем обязательно к просмотру, кто использует Claude Code.

https://vkvideo.ru/video-193881724_456239157
🔥6👍3
Уф, закончил модуль по обучению модели для того, чтобы она отвечала как реальный ChatGPT.

И на самом деле это очень классно — смотреть, как отвечает модель, которую ты сам создал и обучил. При этом понимая, что лет 10 назад такое даже представить себе было трудно).

Я понимаю, что сейчас все крутые специалисты в ИИ, знают, как подключить Harness, использовать тот или иной скилл, меряться, у кого агент больше, у кого быстрее))

Но, ребят, это же основа основ. Понимая, как работает математика LLM, можно понять, как лучше с ней работать. Та магия, которая была раньше, улетучится, вы поймете, что это всего лишь чистая математика, не больше не меньше.

Понять как это все работает можно здесь ☺️ https://stepik.org/a/276236

В итоге в модуле:

✔️ Почему модель не отвечает?
✔️ Pretraining и Fine-tuning
✔️ Формат данных
✔️ Маска Loss
✔️ Контекст
✔️ Код. Реализация
✔️ Проверка знаний.

Добавлен сертификат о прохождении курса, если набрали необходимое количество баллов. 😊
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥3
Любителям антигравити), тут гугл выкатил плагин для VSCode
https://antigravity.google/blog/antigravity-ide-extensions

Ну сейчас дело пойдёт 😁
GitHub переписал рантайм Copilot с TypeScript на Rust руками агентов
832 тысячи строк продакшен-кода и 469 тысяч строк тестов за май–август, 128 пулл-реквестов, курировал всё один инженер. Агенты читали код в 10 раз чаще, чем правили, а 96% промтов уходило в кеш.
https://github.blog/ai-and-ml/generative-ai/migrating-the-github-copilot-runtime-to-rust-using-copilot/
🔥5
Сейчас все хайпуют на мозге мухи дрозофилы) Для тех, кто не в курсе: 3 сентября Google Research вместе с Janelia выложили MaleCNS, полную карту нервной системы дрозофилы. 166 тысяч нейронов, 125 миллионов связей, десять лет работы. Вот пост Google: https://research.google/blog/a-connectomics-milestone-mapping-the-complete-male-fruit-fly-brain/

Сразу скажу: это прям очень круто. И сейчас исследователи и просто энтузиасты пытаются обучить этот коннектом играть в Doom или Minecraft. Вот, например, репозиторий, где парень учит муху играть в Doom: https://github.com/nftechie/doomfly

Когда я начал копаться в этой теме и до меня наконец дошло, что там вообще происходит, я реально был поражен. Обязательно поизучайте этот репозиторий, там все открыто, автор честно описывает и что получилось, и что нет.

Но я хотел рассказать немного о другом. Есть ранее исследование о котором я еще читал пару лет назад и которое может прям раскачать всю эту тему и здорово помочь ребятам с мемными мухами. Это flyvis. Лаборатория Тураги, та же Janelia, статья в Nature еще в 2024-м: https://www.nature.com/articles/s41586-024-07939-3. Про них почему-то никто не пишет.
Что они сделали. Взяли коннектом зрительной системы мухи и, разрешили только менять силу связей. Задача одна: научиться видеть движение. А потом сравнили, что делают нейроны в модели и что делают настоящие нейроны у живой мухи под микроскопом. И оно сошлось, причем на данных из 26 разных экспериментальных работ. Вот это меня реально зацепило. Получается, карту мухи имеет смысл не просто запускать, а обучать под её родные задачи, и тогда есть шанс получить модель, которая ведёт себя как реальный мозг.
И второй проект, другого рода. Там пошли с другой стороны: сначала дали мухе тело. Нормальную физическую модель со всеми суставами И учат ее ходить и летать, а нейронные контроллеры потихоньку привязывают к реальным цепям из коннектома. Пока привязка частичная, понятно, что это еще дорабатывать и дорабатывать. Но муха там ходит как муха) И походку сверяют с видеозаписями живых. https://github.com/TuragaLab/flybody
Если сложить все вместе: с одной стороны, что коннектом можно запустить и подключить к чему угодно. С другой, flyvis показал, как подгонять параметры, чтобы модель вела себя как настоящий мозг, а flybody дал телу физику.

Если кто соберет это все воедино, то тут уже не до мемов будет ))

В целом это, конечно, потрясает. Я даже боюсь представить, к чему это приведет. Но изучать эту тему точно стоит.
🔥5👍1
Вышла Claude Opus 5.5

Anthropic вчера выкатила Opus 5.5. При выходе новой модели обычно все смотрят, насколько она дороже, но тут как будто наоборот. Новая модель, но дешевле.

Как-то так:
- $4 за миллион входных токенов, $20 за выходные. У Opus 5 было $5 и $25. Плюс модель тратит меньше токенов на ту же задачу, поэтому на практике стоимость падает примерно на 40%.
- Чтение кэша подешевело больше всего, с $0.50 до $0.20. https://www.anthropic.com/claude-opus-5-5#performance-and-cost-effectiveness
Если вы гоняете агентов по большим кодовым базам, это будет прям ощутимо.

При этом Anthropic ставит Opus 5.5 на уровень Fable 5.1, куда более дорогой модели. На части бенчмарков Opus 5.5 её даже обгоняет.
Из примеров, которыми делится компания:
- миграция кода на 680 тысяч строк за день,
- порт HAProxy с C на Rust за 9.5 часов (у Fable 5.1 ушло 12), аудит 200 тысяч строк за три часа вместо двадцати. Скорость вывода выросла где-то на 30%.

Интересно то, что это первая модель после того, как Дарио Амодей публично попросил всех сбавить темп в развитии ИИ.

Режим размышлений отключить нельзя, это защита от дистилляции.
Компания открыто пишет, что кибервозможности у модели самые сильные из всего, что она когда-либо выпускала.

И главный вопрос? Компания две недели назад просила быть осторожными с ИИ. А потом выпускает новую модель и делает ее дешевле. К чему бы это?
Благодарю ребят за такие тёплые слова, модули про Hugging Face добавлю, я думаю будет очень интересно и познавательно 😏
8👍2