Яндекс любезно пригласили меня посетить deep tech night, который пройдет в Москве в Красной Розе ровно через неделю.
Как человек, который работает в эпицентре внедрения ИИ в одном из бигтехов, и рассказывал про будущее ИИ инженерии еще за год до того, как она вообще появилась в России - не могу не пропустить такое событие. На мероприятии соберутся эксперты и руководители, практики AI трансформации и развития ML.
В моем календаре такие события записаны как "сходить попить пива с CTO", чем я там обычно и занимаюсь. Правда, в моем случае это все же кофе и другие напитки.
Как обычно - пишите, ловите меня в кулуарах, пообщаемся на самые горячие темы сезона.
Как человек, который работает в эпицентре внедрения ИИ в одном из бигтехов, и рассказывал про будущее ИИ инженерии еще за год до того, как она вообще появилась в России - не могу не пропустить такое событие. На мероприятии соберутся эксперты и руководители, практики AI трансформации и развития ML.
В моем календаре такие события записаны как "сходить попить пива с CTO", чем я там обычно и занимаюсь. Правда, в моем случае это все же кофе и другие напитки.
Как обычно - пишите, ловите меня в кулуарах, пообщаемся на самые горячие темы сезона.
🔥5
Астрологи объявили неделю AGI и смерти профессии AI инженера - которая, впрочем, даже не успела родиться как следует.
Вы там держитесь.
Вы там держитесь.
Forwarded from запуск завтра
О, новые типы моделей, наконец-то!
Один из ранних разработчиков ChatGPT представил модель нового класса, которая на вопрос с заданными вариантами ответов, возвращает набор вероятностей.
То есть если обычные языковые модели пишут текст в ответ на открытые вопросы, то эта супер быстро и качественно выбирает правильные ответы из multiple choice (выбери один правильный).
Если обычные большие языковые модели (LLM) предсказывают токены (слова) последовательно, то тут ты получаешь все распределение сразу.
И работает она супер быстро, за сотни миллисекунд. В демо, модель играет в Doom, отвечая на вопрос «какую из клавиш на клавиатуре нажать?» 10 раз в секунду.
И стоит она как копье, в примере с Doom — 7$ в час (при 10 запросах в секунду)! Пока только API доступ, по инвайтам, заявки оставлять по ссылке.
Очень хорошее описание с кучей интерактивных примеров и видео, образцовый технический анонс, короткий и емкий, рекомендую почитать первоисточник.
Один из ранних разработчиков ChatGPT представил модель нового класса, которая на вопрос с заданными вариантами ответов, возвращает набор вероятностей.
То есть если обычные языковые модели пишут текст в ответ на открытые вопросы, то эта супер быстро и качественно выбирает правильные ответы из multiple choice (выбери один правильный).
Если обычные большие языковые модели (LLM) предсказывают токены (слова) последовательно, то тут ты получаешь все распределение сразу.
И работает она супер быстро, за сотни миллисекунд. В демо, модель играет в Doom, отвечая на вопрос «какую из клавиш на клавиатуре нажать?» 10 раз в секунду.
И стоит она как копье, в примере с Doom — 7$ в час (при 10 запросах в секунду)! Пока только API доступ, по инвайтам, заявки оставлять по ссылке.
Очень хорошее описание с кучей интерактивных примеров и видео, образцовый технический анонс, короткий и емкий, рекомендую почитать первоисточник.
Media is too big
VIEW IN TELEGRAM
AI/ML Engineer | Владимир Маслов
Завтра встречаемся на Practical ML Conf 2026, друзья. Будет много интересного про ИИ-агентов, инференс и не только.
Друзья, сентябрьский сезон конференций получился максимально насыщенным на новости, знакомства, важные личные инсайты и кулуарные инсайды.
• Моя личная ставка на AI Engineering полтора года назад раскрылась на 100%.
• Скорее всего, если вы увлекаетесь агентским кодингом и архитектурой - вам сейчас очень нескучно, и в ближайшем будущем у вас всё будет хорошо. Как выразился в личной беседе один крутой СТО - "наступает ваша прайм эра".
• С управлением и чистыми кодерами скоро всё станет сложно.
• Classic backend начинает сводиться к оркестрации ИИ-агентами в 5 потоков 24х7. Tiny Teams из 1 человека, который закрывает 5х задач как фуллстек + продакт - уже не шутка.
• Окно возможностей сделать свои ИИ стартапы короткое, 1-2 года по прогнозам.
• Яндекс вслед за Сбером провел полный претрейн своей собственной большой модели - это хорошо. С железом у энтерпрайза всё очень плохо в сравнении в США и Китаем - это факт.
Как рассказывать вам про всё остальное - отдельный вопрос, буду думать.
• Моя личная ставка на AI Engineering полтора года назад раскрылась на 100%.
• Скорее всего, если вы увлекаетесь агентским кодингом и архитектурой - вам сейчас очень нескучно, и в ближайшем будущем у вас всё будет хорошо. Как выразился в личной беседе один крутой СТО - "наступает ваша прайм эра".
• С управлением и чистыми кодерами скоро всё станет сложно.
• Classic backend начинает сводиться к оркестрации ИИ-агентами в 5 потоков 24х7. Tiny Teams из 1 человека, который закрывает 5х задач как фуллстек + продакт - уже не шутка.
• Окно возможностей сделать свои ИИ стартапы короткое, 1-2 года по прогнозам.
• Яндекс вслед за Сбером провел полный претрейн своей собственной большой модели - это хорошо. С железом у энтерпрайза всё очень плохо в сравнении в США и Китаем - это факт.
Как рассказывать вам про всё остальное - отдельный вопрос, буду думать.
👍2
This media is not supported in your browser
VIEW IN TELEGRAM
Agentic Engineering и инженерная культура
1. Компании в РФ активно оплачивают сотрудникам подписки на зарубежные фронтир нейросети.
2. Компании ввели KPI по количеству закрытых PR/сторей и привязали его к перформанс ревью.
3. Сотрудники забирают максимальные подписки за $200 на Claude Code и Codex и стремятся тратить каждый часовой лимит в ноль. Рабочий день из 8 часов превратился в 10-12 часовой, и работа теперь всегда продолжается по вечерам, ночам и выходным. 996 превращается в 007, проблема выгорания решена как класс с помощью performance review (простая математика - нежелание сотрудников попадать в нижнюю четверть рейтинга).
4. Звучат оптимистичные внешние заявления: с 1 месяца запуск новых инициатив снизился до 2-3 дней, стоимость разработки сжимается до 0 в сравнении с остальными этапами процесса SDLC.
5. По внутр. исследованиям западных компаний, результат немного иной: несмотря на кратный рост трат на ИИ индивидуального разработчика, внешние метрики продуктов сейчас остаются плоскими и не растут.
1. Компании в РФ активно оплачивают сотрудникам подписки на зарубежные фронтир нейросети.
2. Компании ввели KPI по количеству закрытых PR/сторей и привязали его к перформанс ревью.
3. Сотрудники забирают максимальные подписки за $200 на Claude Code и Codex и стремятся тратить каждый часовой лимит в ноль. Рабочий день из 8 часов превратился в 10-12 часовой, и работа теперь всегда продолжается по вечерам, ночам и выходным. 996 превращается в 007, проблема выгорания решена как класс с помощью performance review (простая математика - нежелание сотрудников попадать в нижнюю четверть рейтинга).
4. Звучат оптимистичные внешние заявления: с 1 месяца запуск новых инициатив снизился до 2-3 дней, стоимость разработки сжимается до 0 в сравнении с остальными этапами процесса SDLC.
5. По внутр. исследованиям западных компаний, результат немного иной: несмотря на кратный рост трат на ИИ индивидуального разработчика, внешние метрики продуктов сейчас остаются плоскими и не растут.
👍1
Forwarded from Kantor.AI
Свершилось: свой претрейн
Я уже ранее писал, почему в России всё ещё нет своей конкурентоспособной LLM со своим pretrain. В посте, как тексте на массовую аудиторию, я осторожничал и говорил, что на горизонте нескольких лет ситуация может измениться. На живых выступлениях был чуть более категоричен: рано или поздно появится, уж как минимум когда наваливание вычислительных мощностей перестанет быть геймчейнджером.
Но вот с моего поста прошли никакие не несколько лет, а всего два месяца, а Яндекс уже выпустил AliceAI-Foundation-80B-A3B-Base (которую я уже вскользь упоминал пару дней назад). Это обученная с нуля модель с открытыми весами на 80 млрд параметров всего и 3 млрд активных на токен. В общем, теперь у нас есть результат своего претрейна. Причем у всех компаний разом (я про веса, конечно, а не процесс), потому что компания заопенсорсила модель. Так что давайте разбираться.
Во-первых, модель БЕЗ пост-трейна, и в этом в том числе её ценность. Её еще не испортили файнтюном под конкретные тексты и аллайнментом на какой-то определенный подход к выдаче реворда, поэтому все те, кто баловались дообучением, могут продолжить уже с Alice-AI-Foundation.
Во-вторых, уже видел первые отклики на модель: Turing Post включил модель в подборку моделей недели, а Аман Чадха из Google DeepMind отметил релиз в контексте перехода от размера моделей к эффективности. А японский разработчик уже портировал модель на MLX и подготовил экспериментальную GGUF-версию с патчем для llama.cpp.
В-третьих, любителей вопросов "у вас ML или AI", "а сколько у вас работает AI-агентов" и "а что это у нас 80 млрд параметров, если у всего мира уже триллионники пошли" тоже можно успокоить: задач, в которых реально для автоматизации или оптимизации бизнес-процесса нужен триллионник не то чтобы много, ведь экономика внедрения, как мы уже обсуждали с вами в недавнем посте, зависит еще и от затрат.
Я уже ранее писал, почему в России всё ещё нет своей конкурентоспособной LLM со своим pretrain. В посте, как тексте на массовую аудиторию, я осторожничал и говорил, что на горизонте нескольких лет ситуация может измениться. На живых выступлениях был чуть более категоричен: рано или поздно появится, уж как минимум когда наваливание вычислительных мощностей перестанет быть геймчейнджером.
Но вот с моего поста прошли никакие не несколько лет, а всего два месяца, а Яндекс уже выпустил AliceAI-Foundation-80B-A3B-Base (которую я уже вскользь упоминал пару дней назад). Это обученная с нуля модель с открытыми весами на 80 млрд параметров всего и 3 млрд активных на токен. В общем, теперь у нас есть результат своего претрейна. Причем у всех компаний разом (я про веса, конечно, а не процесс), потому что компания заопенсорсила модель. Так что давайте разбираться.
Во-первых, модель БЕЗ пост-трейна, и в этом в том числе её ценность. Её еще не испортили файнтюном под конкретные тексты и аллайнментом на какой-то определенный подход к выдаче реворда, поэтому все те, кто баловались дообучением, могут продолжить уже с Alice-AI-Foundation.
Во-вторых, уже видел первые отклики на модель: Turing Post включил модель в подборку моделей недели, а Аман Чадха из Google DeepMind отметил релиз в контексте перехода от размера моделей к эффективности. А японский разработчик уже портировал модель на MLX и подготовил экспериментальную GGUF-версию с патчем для llama.cpp.
В-третьих, любителей вопросов "у вас ML или AI", "а сколько у вас работает AI-агентов" и "а что это у нас 80 млрд параметров, если у всего мира уже триллионники пошли" тоже можно успокоить: задач, в которых реально для автоматизации или оптимизации бизнес-процесса нужен триллионник не то чтобы много, ведь экономика внедрения, как мы уже обсуждали с вами в недавнем посте, зависит еще и от затрат.
Отопительный сезон в Москве стартовал со сгоревших жоп от выхода первой подписки на нейросеть за $500, которая делает всё то же, что раньше делала подписка за $200.
🔥5
Сегодня я на Tech Community Fest, про планы Сбера на A2A-трансформацию в 2027 году
🔥6👍1
В последнее время я слишком часто слышу про omp. Не исключено, что вам тоже стоит его попробовать в деле для своих задач. Для всех остальных любителей красивого - посмотрите, как прекрасен очередной Терминал на Rust.
omp
omp — a coding agent with the IDE wired in
Subagents, plan mode, LSP, DAP, hindsight memory, hashline edits, time-traveling rules — with a native Rust engine doing the heavy lifting.
30/09 - 01/10 прошла очередная массовая волна банов аккаунтов Claude, причем на этот раз зацепило известных руководителей и IC из бигтехов.
Анализ постов и комментариев по теме показывает следующее: поиск причин бана - это гадание по кофейной гуще, самая правдоподобная теория - дело в максимальных тарифах и регулярном tokenmaxxing.
Анализ постов и комментариев по теме показывает следующее: поиск причин бана - это гадание по кофейной гуще, самая правдоподобная теория - дело в максимальных тарифах и регулярном tokenmaxxing.