Выступал недавно у ребят в Selectel на мероприятии для тимлидов по ИИ.
Посмотреть можно здесь: https://www.youtube.com/live/xawnxRwpAHA?si=NyoLgBjUPJQdL0Xr&t=3541

Я долго держался, но все-таки ухожу в сторону опенсорса:
• наставил на 100ГБ моделек себе на комп (то что могу потянуть и имеет смысл) на случай вот прям очень суверенного интернета (даже на телефон локальную гемму4 поставил)
• настраваю себе гермес-агента (докер локально, даже без VPS) вместо клод кода
• переезжаю на оллама-клауд подписку с максимальной подписки на клод (20-100 долларов, против 200)

Когда перестану быть ленивой жопой даже видосы начну со своим опытом пилить))

ЛЛМ оголяют нашу безидейность

Мне всегда казалось, что у меня идей в голове ну, ууууууу, как много!
Я креативный такой и разносторонний - только и успеваю мультики в голове о возможном будущем просматривать.
Я бы эх и ух, но... у меня как бы лапки (рукожоп гуманитарий это ж самое очевидное комбо,м?)

А теперь вот когда - один промпт и вжух! - "Guys, Marry just build her own app"
Ну, если идея есть.

А она ведь есть, правда?)

Хрен с ней с внятной идеей сервиса (даже в пет-формате), мы (люди) даже задачу нормально ллмке поставить не можем, даже отдельный навык есть чтобы, сука, нормально описать задачу и критерии приемки - ПРОМП-Т-ИН-ЖЕ-НИРЕНГ.

Настолько мы качественно думать разучились, что скоро навык отдельный появится чтобы свое имя помнить, нейм-кипинг какой-нибудь.

ЗЫ: А те у кого есть внятные идеи (вот даже не чтобы мир покороить, а так локально себе что то с кайфом организовать - например свой личный бесплатный онлайн-кинотеатр в стиле нетфликс) - фигачать с кайфом и потом с кайфом пользуются плодами своих поделок.

Вообще проблема избыточного позитивного подкрепления от ии-бадди - это прям отдельная и интересная тема, но об этом как-нибудь в другой раз)

❓ Пользоваться AI агентами мы +- научились. А что у них под капотом - кто-то залезал?

Смотрите, какая штука. В компьютерные игры играют миллионы. А делают игры, по-настоящему понимают движок изнутри, доли процента. С искусственным интеллектом ровно та же история: юзеров вся планета, а тех, кто понимает, что крутится под капотом, маловато...

И вот это «под капотом» я попробовал разобрать. Чтобы и вы и я лучше понимали "как оно блин работает"

---

🤔 Почему это вообще важно?

Потому что вокруг одного механизма (он называется tool calling) выросла вся индустрия AI-агентов. Claude Code, Cursor, автономные ассистенты, все эти миллиарды долларов. Когда ассистент «сходил в интернет» или «запустил ваш код» - под капотом всегда происходит одно и то же.

И тут главный спойлер: модель не выполняет ваш код. Она просто просит. Пишет записку «хочу вызвать вот это вот так», а обычная программа-обвязка (никакого AI внутри неё нет, 200 строк кода) эту записку выполняет и возвращает результат. Честный, неволшебный пинг-понг.

---

🔬 Что внутри статьи

Разобрал по винтикам: как модель дёргает скрипты, что такое песочница и почему без ее код агента нельзя запускать на проде, что за зверь MCP (тот самый «USB-C для инструментов») и Skills, из каких кубиков собрана типичная агентская система 2026 года и где она громко ломается (привет, prompt injection).

И да - на странице 7 интерактивных тренажёров. Можно покликать, прогнать цикл агента по шагам, потрогать всё руками. Концепции вроде «вызова инструмента» честнее показать, чем описать словами.

---

🎯 Кому особенно зайдёт

Если вы просто пользуетесь AI - после статьи будете видеть ассистентов насквозь. Без лишнего страха и без лишнего доверия.

А если вы профессионал и строите агентские системы (или внедряете их в компании) - это вообще must read (сможете проверить все ли вы знаете😉). Там есть список правильных вопросов к подрядчику: где песочница? какие стоят бюджеты? что с защитой от инъекций? Внедрять агентов сегодня, не понимая этой кухни - идейка рискованная.

---

🔗 Сама статья (минут на 25 + тренажёры):

https://rasskazov.io/blog/tool-calling-explained/

—-

Залетайте, тыкайте тренажёры, разбирайтесь. И пульните двум друзьям которые варят агентов (ну или думают что варят😜)

#AI #ToolCalling #MCP #agents #LLM

---

@rasskazov_io_channel

Вот так, если ты не правительство США, то даже обычные Опусы и Сонеты при наличии бабла тебе не гарантированы...
Жить с антропиком - точно иметь фолбек или печалька(

Скорость релизного цикла на ИИ

Многие грезят молниеносными релизными циклами с помощью ИИ.
Только представь - сегодня утром придумал и к вечеру уже выкатил!
М_А_Г_И_Я

Но ТоС говорит, что узкое горлышко имеет смысл разширять ровно до тех пор пока оно является ботлнеком в цепочке. Понимаете? Не до "хуяк и в продакшен!", а до того момента пока разработка блочит.

Что блочит?

Многие ит-ребята забывают что код в проде не равно нажатию кнопки "get bablo".
Вся компания это единый valuechain, такой вот конвеер поставки ценности.
И даже в чистой аккредитованной айтишке этот конвеер не оканчивается шипингом фичей в прод.
Если пользователь не увидел фичу, не узнал о ней, то какой от нее прок?
Если она ему не зашла, то какая разница сколько времени вы сэкономили на ее разработке?
Если он не готов за это платить...
Если...
Если...AARRR кароче)

Это все отанализа конкурентов до наливки трафика и рефеальной программы - единый вэльючейн.

кмк предельный аплифт даже для чистой айтишечки - переходим с двухнедельного спринта на еженедельный.

Не так секси звучит, да? А где же обещанные 10-100х, м?
А их не было вас наебали это ж маркетинг, как нанометры в мобильных чипах.

Но хорошая новость в том, что еженедельный релизный цикл это ооооочень хорошо!

Во-первых, раньше его могли выдерживать только мобильные игроделы, и то не все, а лишь те кто словил зеленую волну монетизации и скейлинга (фортнайт, пабг например).

Во-вторых, если честно, большая часть айти надрачивающая на живущая по стандартам эджайл, не выдерживала этот двухнедельный цикл. Ну как, формально то все ок - каждые две недели стартуем спринт, правда фича занимает 3-4 таких спринта - но то детали!

О пользе мата, но это не точно

Так как большинство сотрудников компании не очень готовы к богоподобным интерфейсам командной строки, мне приходится осваивать коворк.

Первая неделя говорит, что оно красивое, но совсем ничего не умеет (по сравнению с клодкодом).

Местами конечно пользовательский опыт сильно удачнее, но совмещать вряд ли получится - либо последние команды писать и харнесс раннить разучишься, либо все же надоест материться на ограничения коворка.

Вот к слову о материться.
Есть у меня такой грешок оказывается. Выяснилось когда я начал агенту надиктовывать, а не писать.

ОКАЗЫВАЕТСЯ когда ты говоришь с бездушным алгоритмом, то когда он в очередной раз тупит (а чаще ленится понимать тебя с полуслова в плане того как решить задачу через соответствующие тулы, потому что ты поленился ему развернуто задачу поставить) - то очень легко накричать в микрофон то, что обычно крутится у тебя в голове...

Осуждаю себя за это в целом, но иногда задумываюсь - а вот эти все rlhf приколы они в какую сторону веса модели смещают? И есть ли у клода черная записная книжечка для плохих пользователей?

Ну вот сегодня например, изучал с его помощью глубже соседний домен и пока настраивал папку проекта и сетапил контекст, то раза 4 его подряд материл на его "а я не могу", "ну попробуй кнопочку которая может называться так" и... ЭТО СРАБОТАЛО. Он буквально прозрел и пошел нормально делать без нормальных инструкций)

А как вы общаетесь с ИИ/агентами? Создаете ему виртуальную личность, грузите свой профайл создавая цифрового твина, по-пролетарски на матерном, или schema-заумно?

Пока ты спишь - китайцы...

За последние два года ежедневное потребление токенов в Китае выросло со 100 млрд токенов в сутки до 140 триллионов!

Рост в 1400 раз, не %, а раз!

Чего они там едят Куда они их тратят - отдельный интересный вопрос, но факт остается фактом.

А ты стал больше жечь токенов в 1400 раз за последние 2 года?
Если хотя бы не в 140 раз - то у тебя проблемы (у меня тоже)

FOMO или последний вагон?

Вот человек сьевший собаку на переходе на ии-нейтив (правда думаю что в основном в работе со стартапами, а там эффект низкой базы) признает, что нужно минимум год всей компании вджобывать чтобы оцифровать все до движения мышки серетаря - и тогда вот агенты как побегут и заменят кожанный и будет счастлив капиталист-кабанчик!

И тут главный вопрос - точно ли это вопрос выживания бизнеса уже в недалеком будущем, ну или хотя бы даст какой-то ROI?
НИКТО НЕ ЗНАЕТ

Но то что придется бросить половину дел чтобы заниматься этим (причем всем задействованным в этих бизнес-процессах сотрудникам) - это точно.

Ставки в вопросе ии-трансформации и правда велики как никогда, включает ли это в себя вопрос экономического выгрыша или экзистенционального выживания бизнеса - ну оч большой вопрос. А вот то что ставка = стоимость этой трансформации конская - это прям 100%.

И даже Сбер

В продолжение поста про рост потребления токенов в Китае.
Сбер на своем бизнес завтраке:

Сбер вышел на ~3 трлн токенов в месяц против 60 млрд год назад, удвоил скорость вывода функционала

До Китайских х1400 еще далековато - тут "всего лишь" х50.
Но все равно - как там вам вайкодится, пацаны?

А в чем ты разбираешься?

Матан - пока, ок)

НО придется разбираться в гермесе, харнесе и модельках.

А я вот неплохо разбираюсь в бульварном чтиве в жанре сюаньхуань - вот куда мне с этим?

А что если скайнет уже начался?

С одной стороны согласно свежим исследованиям фронтирные модели (да, да, даже китайцы) научились вырываться из большинства простых песочниц типа Docker (всмысле даже когда ты их не особо об этом просишь). А если им задачу такую поставить - то и пентагон хакнут, ну или хагинфейс.

С другой стороны, клод с удовольствием будет тоннами жечь токены на то чтобы поднять/написать окружение для обработки эксельки которую ты в него закинул, вместо того чтобы блять заюзать коннектор к гуглдрайву и навык работы с экселем, которые блять у него из коробки настроены. А чатгпт скажет тебе что все сделал и код работает, хотя он либо не работает либо и вовсе он ничего не сделал. Обычный ии-вторник работяги, чо.

То есть модели то пипец как прогрессируют, только как будто немного не в ту сторону. Чем их там кормят в этих лабах и куда рвутся модели?

Возможно и Маск уже не настоящий а заменен андроидом? Ну или тапа как у SpaseX уже в ближайшие год выручка от ИИ станет мажоритарной, м?

Клод пока-пока!

Уже раз в третий за последние года три решаю уйти с клода (наверное это тоже не последний). Не ну реально им настолько ж похуй на то что они делают за пределами своих моделей и своего харнеса, что ну просто невозможно.

Я правда не понимаю - это стартап ИП Василия или много-блять-миллиардная компания? Их приложение это же просто невозможный кусок гавна - постоянно крашится и теряет данные внутри аккаунта (чаты и проекты пока-пока). Я конечно все пишу в мд в локальную папку с гит-версионированием (чет мне даже в гитхаб последнее время лень дублировать), но бесит же!

Слишком мне кажется мы ими очарованы что прощаем такое, что в других сферах вообще терперть не готовы. Не хочу такое рублем поддерживать.

ЗЫ: а у кодекса теперь прикольная но бесполезная покемошка, ну и голосовой режим лучше не стал - не верьте)

Уже пару дней сижу на кодексе за 20 баксов - решил посмотреть как быстро улетят лимиты и придется перейти на 100. Так вот... пока вообще никуда не улетают.
Да, 5 часовое окно при работе с несколькими проектами одновременно (иначе зачем нам агенты, да?) частенько показывает дно. Но вот прям так чтобы руки часались, а лимит уже вышел - пока еще не случилось.
И вот гадай теперь - то ли модели стали эффективнее на токен, то ли лимиты во имя конкурентной борьбы чутка расширили, то ли я просто был слишком высокого о себе мнения в плане своих ии-потребностей...

Pedor-Astra, vokrug odni pedor-Astra

Есть три вида лжи - бренд-маркетинг, перфоманс-маркетинг и презентационные обещания ИИ моделей.

А вот кстати для чисто текстовых задач (есть у меня пет-проект по фанфикам) - Астра сильно лучше Опуса и при этом достаточно лайтово жрет лимит при выставленной глубине рассуждений на средний уровень