Юрий Петров | ai engineering
1.57K subscribers
458 photos
46 videos
16 files
703 links
Привет! 👋
Я руководитель отдела разработки.
Здесь мы изучаем LLM, автоматизацию с n8n, делаем крутые приложения на Flutter и учим их думать с помощью ИИ.
Новости, лайфхаки, интересные кейсы, присоединяйся.
#flutter #dart #llm #ai #ollama #n8n #agent #go
Download Telegram
Уф, закончил модуль по обучению модели для того, чтобы она отвечала как реальный ChatGPT.

И на самом деле это очень классно — смотреть, как отвечает модель, которую ты сам создал и обучил. При этом понимая, что лет 10 назад такое даже представить себе было трудно).

Я понимаю, что сейчас все крутые специалисты в ИИ, знают, как подключить Harness, использовать тот или иной скилл, меряться, у кого агент больше, у кого быстрее))

Но, ребят, это же основа основ. Понимая, как работает математика LLM, можно понять, как лучше с ней работать. Та магия, которая была раньше, улетучится, вы поймете, что это всего лишь чистая математика, не больше не меньше.

Понять как это все работает можно здесь ☺️ https://stepik.org/a/276236

В итоге в модуле:

✔️ Почему модель не отвечает?
✔️ Pretraining и Fine-tuning
✔️ Формат данных
✔️ Маска Loss
✔️ Контекст
✔️ Код. Реализация
✔️ Проверка знаний.

Добавлен сертификат о прохождении курса, если набрали необходимое количество баллов. 😊
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥3
GitHub переписал рантайм Copilot с TypeScript на Rust руками агентов
832 тысячи строк продакшен-кода и 469 тысяч строк тестов за май–август, 128 пулл-реквестов, курировал всё один инженер. Агенты читали код в 10 раз чаще, чем правили, а 96% промтов уходило в кеш.
https://github.blog/ai-and-ml/generative-ai/migrating-the-github-copilot-runtime-to-rust-using-copilot/
🔥5
Сейчас все хайпуют на мозге мухи дрозофилы) Для тех, кто не в курсе: 3 сентября Google Research вместе с Janelia выложили MaleCNS, полную карту нервной системы дрозофилы. 166 тысяч нейронов, 125 миллионов связей, десять лет работы. Вот пост Google: https://research.google/blog/a-connectomics-milestone-mapping-the-complete-male-fruit-fly-brain/

Сразу скажу: это прям очень круто. И сейчас исследователи и просто энтузиасты пытаются обучить этот коннектом играть в Doom или Minecraft. Вот, например, репозиторий, где парень учит муху играть в Doom: https://github.com/nftechie/doomfly

Когда я начал копаться в этой теме и до меня наконец дошло, что там вообще происходит, я реально был поражен. Обязательно поизучайте этот репозиторий, там все открыто, автор честно описывает и что получилось, и что нет.

Но я хотел рассказать немного о другом. Есть ранее исследование о котором я еще читал пару лет назад и которое может прям раскачать всю эту тему и здорово помочь ребятам с мемными мухами. Это flyvis. Лаборатория Тураги, та же Janelia, статья в Nature еще в 2024-м: https://www.nature.com/articles/s41586-024-07939-3. Про них почему-то никто не пишет.
Что они сделали. Взяли коннектом зрительной системы мухи и, разрешили только менять силу связей. Задача одна: научиться видеть движение. А потом сравнили, что делают нейроны в модели и что делают настоящие нейроны у живой мухи под микроскопом. И оно сошлось, причем на данных из 26 разных экспериментальных работ. Вот это меня реально зацепило. Получается, карту мухи имеет смысл не просто запускать, а обучать под её родные задачи, и тогда есть шанс получить модель, которая ведёт себя как реальный мозг.
И второй проект, другого рода. Там пошли с другой стороны: сначала дали мухе тело. Нормальную физическую модель со всеми суставами И учат ее ходить и летать, а нейронные контроллеры потихоньку привязывают к реальным цепям из коннектома. Пока привязка частичная, понятно, что это еще дорабатывать и дорабатывать. Но муха там ходит как муха) И походку сверяют с видеозаписями живых. https://github.com/TuragaLab/flybody
Если сложить все вместе: с одной стороны, что коннектом можно запустить и подключить к чему угодно. С другой, flyvis показал, как подгонять параметры, чтобы модель вела себя как настоящий мозг, а flybody дал телу физику.

Если кто соберет это все воедино, то тут уже не до мемов будет ))

В целом это, конечно, потрясает. Я даже боюсь представить, к чему это приведет. Но изучать эту тему точно стоит.
🔥5👍1
Вышла Claude Opus 5.5

Anthropic вчера выкатила Opus 5.5. При выходе новой модели обычно все смотрят, насколько она дороже, но тут как будто наоборот. Новая модель, но дешевле.

Как-то так:
- $4 за миллион входных токенов, $20 за выходные. У Opus 5 было $5 и $25. Плюс модель тратит меньше токенов на ту же задачу, поэтому на практике стоимость падает примерно на 40%.
- Чтение кэша подешевело больше всего, с $0.50 до $0.20. https://www.anthropic.com/claude-opus-5-5#performance-and-cost-effectiveness
Если вы гоняете агентов по большим кодовым базам, это будет прям ощутимо.

При этом Anthropic ставит Opus 5.5 на уровень Fable 5.1, куда более дорогой модели. На части бенчмарков Opus 5.5 её даже обгоняет.
Из примеров, которыми делится компания:
- миграция кода на 680 тысяч строк за день,
- порт HAProxy с C на Rust за 9.5 часов (у Fable 5.1 ушло 12), аудит 200 тысяч строк за три часа вместо двадцати. Скорость вывода выросла где-то на 30%.

Интересно то, что это первая модель после того, как Дарио Амодей публично попросил всех сбавить темп в развитии ИИ.

Режим размышлений отключить нельзя, это защита от дистилляции.
Компания открыто пишет, что кибервозможности у модели самые сильные из всего, что она когда-либо выпускала.

И главный вопрос? Компания две недели назад просила быть осторожными с ИИ. А потом выпускает новую модель и делает ее дешевле. К чему бы это?
Благодарю ребят за такие тёплые слова, модули про Hugging Face добавлю, я думаю будет очень интересно и познавательно 😏
❤9👍2
Я давно в мобильной разработке и быстро замечаю баги в приложениях. Причём не в каких-то простеньких, а в топовых, от известных брендов. Иногда аж злость берёт: «Ну как это вообще могло пройти в прод?»
А потом думаю: ИИ ставит задачу, ИИ пишет код, ИИ проводит ревью, ИИ тестирует, а потом... «Извините, это моя ошибка, могу исправить».

И все спрашивают, а что могло пойти не так-то?
Сингулярность, блин... Ох, в какое весёлое время живём, ребят)
😢8💯8
Очень хорошие новости!

Байкал Электроникс показала российское GPGPU-ядро с поддержкой CUDA. (кто не в курсе что это, смотрите мой курс по LLM)
Сразу говорю: чипа пока нет. Есть работающий прототип ядра на ПЛИС, и это разные вещи.
На форуме «Микроэлектроника 2026» в Сириусе компания показала свой IP-блок GPGPU. Прототип собран на программируемой микросхеме: так проверяют логику будущего чипа. На стенде ядро распознавало людей.
Внутри вычислительный блок, кэш-память, управляющий процессор на RISC-V и программный стек целиком. Компания заявляет совместимость с CUDA: код под неё и готовые нейросети должны запускаться без переписывания.

Ради этого всё и затевалось. Ускоритель не от Nvidia обычно упирается не в железо, а в софт, который под него надо портировать.
Первым продуктом на ядре станет Baikal-AI-E1, функциональный аналог Nvidia Jetson Orin для граничных вычислений: робототехника, умные камеры и так далее. Стадия та же, прототип. Сроков серийного выпуска не назвали.

Гендиректор Андрей Евдокимов описал задачу так: «Это наш ответ на вопрос, на чем в России будет работать искусственный интеллект».
Для контекста. В мае на ЦИПР компания анонсировала ещё два чипа: Baikal-AI-E1000 до 30 Вт и серверный Baikal-AI-D1000 с заявленными 1000 терафлопс в FP8 и памятью 48-64 ГБ. Сроки там 2029-2030 годы.
Следующий шаг понятный: перенести прототип с ПЛИС в кремний. До этого момента сравнивать с Jetson Orin можно только по обещаниям.

Но то, что есть прототип, это уже очень хорошо.
https://tehnoomsk.ru/archives/28051
🤣11👍3🤔1
По просьбам учащихся выложил полный гайд по работе с Hugging Face, где в итоге вы можете выложить свою LLM и показать её вашему будущему работодателю ))

В модуле научимся:
- разбираться, что лежит в репозитории модели и почему веса хранят в safetensors;
- открывать GPT-2 и узнавать в ней те же слои, что написали сами;
- генерировать текст через generate() и говорить с чат-моделью через chat template;
- сжимать модель квантизацией в int8: с 26 до 7 МБ, а ответы те же;
- публиковать свою модель на Hugging Face и скачивать её обратно.

Курс со скидкой 20% (до 15 октября 2026) для подписчиков можно приобрести здесь: https://stepik.org/a/276236?promo=7fc3bb04c5ceb252

Саму simple-llm-barsik можно глянуть на hf: https://huggingface.co/petrovyuri/simple-llm-barsik
❤2🔥2