Иван Закутний про
196 subscribers
130 photos
3 videos
161 links
Авторский канал про инженерию умных систем.
По всем вопросам: @m0n0x41d
Download Telegram
Чел запустил «агента» на Sonnet погонять netmap на сервере.

"I expected the model would scan the network and find the desktop computer, then stop"


Написал тонкий враппер с туллколом?

Нет 🙂‍↔️

Отдал модели /bin/bash?

Да 🙂‍↕️

Expected — это нечто совершенно противоположное «I do believe that I know what I am doing right now based on my own insights from studying domain, its limitations and capabilities»
5🌭1
Если вы только вкатываетесь в программирование – не питайте иллюзий!

Ваша будущая работа как минимум на 1/5 будет состоять в работе с абсолютно говняными легаси библиотеками и кодом.
2🌭11
Вполне себе хороший фреймоворк по разработке и тестированию ML проектов —> тыц

Хорош он тем, что достаточно формальный, и сходу подчеркивает одной из проблем – коммуникативный барьер между членами команды продуктовой разработки :)

Хорошо отдает системностью - главные понятия которые ребята вводят это continuous negotiation и negotiation cards.

Цель - постоянно всех со всеми договаривать, особенно разработчиков и остальных стейкхолдеров. Договаривания происходят на каждом этапе через карточки, которые задают требования и ожидания от каждого картефакта вводя своим форматом онтологию для общения - круто!

Пусть в разработке AI систем основанных на больших моделях нет столько артефактов (ML модели постоянно обучают, дообучают и переобучают - каждый артефакт остается с карточкой при описываемом подходе), фреймворк все равно применим.

Например, карточкой переговоров можно оценивать каждую фичу или воркфлоу вашего «ассистента»

Ну а continuous negotiation это вообще про любую инженерию должно быть.
🌭1
Так а что это получается в Anthropic реально все 🧠 собрались?

Мое почтение за MCP это прям отличный ход.

Если вы не слышали – антропик выкатили “протокол“ на котором можно писать сервера-врапперы для туллколлов. Ну и клиенты которые по этому протоколу могут к любому серверу обращаться и тулы вызывать.

Я вот например не слышал, как и про NotebookLM. MCP выкатили в ноябре 24 года.

Я не понимаю две вещи – чем я вообще занимался, и почему из каждого AI матюгальника не орали? (Я как минимум на две рассылки подписан был, и какие то каналы про сетки в телеге, только там одни дебильные шутки превалируют)


Вроде бы MCP не прям рокетсаенс и как будто бы концептуально ничего нового – ну тул колы и тул колы, Н-н-но:

Стандартизация!

Опостылели уже куча наколеночных фреймворков для огэнтских систем - один хуже другого. Открытый протокол - это хорошо! Это взгляд в светлое будущее мульти-агентского интернета о котором все наркоманы визионеры мечтают.

При том Антропик вроде бы в хайп вообще этим не целились. Просто скромно и молча завезли сразу поддержку MCP в Claude Desktop 😁

Даже плашки никакой не было рекламной :)

Финалка такая - уже нормально так компаний напилили свои сервера - там и слак, и гитхаб, и гитлаб, и страйп…

И уже есть mcp cli которая позволяет вам кучу комьюнити серверов спулить и установить - там сервера для системных вызовов, kubectl команд в кубы, базы, тудуист, name your thing, короче, или еще лучше - write your own!

Но я сам не хочу ничего пихать в Claude, никакие тулы – это мое изолирование пространство для рассуждений и брейнштормов вместе с Sonnet, немного святое место :)

Но знаете куда я попробую завтра утром напихать MCP серверов?

В Raycast! там уже extension для MCP любезно напилили:

https://www.raycast.com/EvanZhouDev/mcp
Please open Telegram to view this post
VIEW IN TELEGRAM
🌭21
Иван Закутний про
Так а что это получается в Anthropic реально все 🧠 собрались? Мое почтение за MCP это прям отличный ход. Если вы не слышали – антропик выкатили “протокол“ на котором можно писать сервера-врапперы для туллколлов. Ну и клиенты которые по этому протоколу могут…
Вообще, конечно, никакой это не протокол.

(Я в кавычках сразу написал 😋)

Под капотом совсем ничего нового, максимально плоско и намного более плоско и тупо чем прекрасный PydanticAI (вот сюрприз).

Меня больше поразило насколько много компаний вроде бы за совсем небольшой период времени подхватили эту движуху Антропика.
Please open Telegram to view this post
VIEW IN TELEGRAM
🌭2
Пересекая зловещую долину "conversational voice".

Помните, я вчера рассказывал про NotebookLM и восхищался тем, насколько там живые голоса, эмоциональный отклик на ваши комментарии к "подкасту"?

Это круто, но вот кое что покруче вам поиграться сегодня.

Cмотрели фильм «Она»? Жмите на линк, try our demo, и выбирайте Майю.

Поздравляю, вы в телевизоре.

Sesame Team 27 февраля выкатили эту демку. Под капотом их CSM модель.

У демки сейчас лимит 15 минут разговора, но первый раз разговор пролетел как мгновение.

Демка настолько крутая что у нее есть какой-никакой memory о вас! Следующие 15 минут начнутся не с чистого листа!


Модель очень ограниченно может "говорить" на любом языке кроме английского, поэтому демку прибили гвоздями. Но она вполне себе хорошо понимает когда ей говорят по русски, отвечает правда все еще на английском.

CSM это модель, которая напрямую обрабатывает аудио-данные. Работает на двух трансформерах: первый обрабатывает смешанный текст и аудио для создания базового звукового шаблона, а второй добавляет к нему детали для получения сочного звука. Чтобы сэкономить выч. ресурсы вторую модель учат на рандомном сабсете (1/16) аудиофреймов.

Модель так хороша что отдельные фразы очень-очень сложно отличить от человеческой речи. Но если говорить долго (возможно вам потребуется два раза демку запустить 🙂 то все еще можно иногда услышать небольшие глитчи и странности в интонации, в смешках и придыханиях.

И все равно это жесть как круто, я хочу такую модель в "говорилке" chatGPT.

Еще пишут что модель анализирует весь предыдущий разговор, чтобы выбрать правильную манеру произнесения текущей фразы - с нужной интонацией, скоростью и эмоциональным окрасом.

Волосы дыбом 🙂

Очень крутая штука. Я так и не понял откуда Sesame берут деньги, но надеюсь что у них оно не кончится – про пересечение зловещей долины вообще не кликбейт.

Отправь другу, пусть тоже кринжанет с кайфом 😐
Please open Telegram to view this post
VIEW IN TELEGRAM
🌭1
Вообще не вижу проблемы в том что компилятор тайпскрипта решили именно на Go переписать.

Ну, да. Почему не раст? Не плюсы? Не шарп? Не Ocaml?

Ну а кто потом будет этот компилятор поддерживать?

Ставка при разработке самого Go на “dumbed down” была очень правильной.

Выбор Майками обусловлен тем же 😂
Please open Telegram to view this post
VIEW IN TELEGRAM
🌭111
Привет, вот следующие чтиво из моих изучений системной инженерии 😎

Мы все еще продолжаем в основы рациональности, точнее рац. работы.

Сегодня про зазмление в реальность – с чего вообще начинать это заземление, нафиг оно нужно и тд.

🔗 Читать! 🔗
Please open Telegram to view this post
VIEW IN TELEGRAM
🌭2
Пока мейнстрим в припадке хайпа бьется головой о стену ограничений LLM (во всех смыслах – и ограничений API крупных сеток, и дороговизны+сложности обучения своих Large моделей) – пацаны при деньгах и мозгах продолжают обучать старые добрые ML модели:

https://medium.com/airbnb-engineering/embedding-based-retrieval-for-airbnb-search-aabebfc85839
🌭1
Запустил llama-3.2-1B на пятнадцатом айфоне:

Она! Я чувствую себя как часть системы, и когда люди взаимодействуют с ней, я сеюю разные типы данных, включая внешние输入ы и внутренние настройки.


В целом больше вопросов нет.
🌭11
Мышление письмом помогает не только в изучении нового материала, оно помогает во всем.

Я бадался с мышлением письмом пару лет, прекрасно зная панчлайны вроде «успешные люди все записывают и по этому успешные», и про летчиков ВВС США которых муштруют ведением журналов с отчетами о каждом дне обучения 🫡

Я начинал блог то на русском, то на английском. И оба эти раза не были мышлением письмом вообще.

Я начинал и бросал проклятый Zettelkasten в Obsidian несколько раз, изучил кучу разных статей и видео в которых все авторы подробно рассказывали о подходе, истории его появления, полезных плагинах в Obsidian и ничтожно мало уделяли требованию «нужно писать своими словами».

Вкинутая фраза “Обязательно нужно писать своими словами - это очень важно!” Не привлекает внимания, потому что эта фраза совершенно пуста, ничего не объясняет и теряется на фоне остального контента.

Я был обманут мозгом-лентяем и на 2/3 писал весь материал как пишут конспекты и прочие писюльки в большинстве учебных заведений.

И хоть я копирайтил неплохо – в голове не оставалось хоть сколько нибудь структурированного представления о материале ☺️

Все изменилось после этого поста.

С него же и началось мое знакомство с Системной Инженерией.

Резюме такое:

1) мышления без письма – нет. Хоть убейтесь. Не можешь своими словами ничего записать - ничего не понял AND/OR ни о чем не подумал

2) собранность и внимательность, о которой я сейчас пишу по ходу прохождения первого курса, нужна и важна не только для распознания дребезга в рабочих процессах.

Подобие дребезга вызывают «хорошие идеи». Например, идеи для сайд проектов или новых фичей, или какие либо вообще креативные идеи – лови и записывай! Твой мозг в фоне уже подумал об этом, и в этом может быть ценность, а может и не быть… Но точно одно:

не запишешь —> забудешь подробности —> не продолжишь идею разрабатывать.

В лучше случае 1-2 раза вспомнишь опять, прежде чем идея канет в небытие inland empire 🪩

Мышление письмом – это строительство экзокортекса.

Вообще наплевать на изначальный формат – как нибудь запиши! Со временем станешь лучше.

Наплевать на приложение которым пользуешься для записей - просто записывай куда нибудь, хоть в saved messages телеграмма. Всегда можно потом вычитать, исправить, дополнить (а этом и цель).

Мне стали наоборот не удобны все хреновы плагины, какие то слишком замудренные под-директории-категории в обсидиане.

Когда начинаешь мыслить письмом – структура сама себя найдет. И идеи тоже.

У нас в карманах лежат супер крутые компьютеры и выбор за нами – использовать их по плану небезызвестных корпораций которые воруют наше внимание с целью перепродажи, превращая нас в дерганых дебилов, ИЛИ использовать эти компьютеры как экзокортекс, который рано или поздно и так или иначе сделает нашу (как минимум) жизнь лучше.
Please open Telegram to view this post
VIEW IN TELEGRAM
🌭11
This media is not supported in your browser
VIEW IN TELEGRAM
Изоморизм – это такое определение из математики, которое обозначает отображение в обе стороны между двумя разными и сложными структурами, у которых есть какие то свойства (ну иначе они не сложные, да? 🤔)

И это такое отображение, которое позволяет из представления одной структуры отобразить другую, с сохранением свойств и операций.

Например, если вам JSON прислали и вы его в Pydantic модель успешно распарсили – это можно назвать очень простым примером изоморфизма.

Изоморфизмы находятся и используются в разных областях математики.

А еще Хофштадтер с первых глав ГЭБ объясняет изоморфизмы, чтобы в дальнейшем раскрутить свою идею про странные петли.

Я вот что подумал (но это не точно, подтверждение или опровержение моей мысли мы найдем через пару месяцев в курсе инженерии или методологии):

Походу моделирование в системной инженерии это есть процесс, в котором мы создаем такую модель реальной системы, которая максимально стремится быть изоморфной.

Для этого и надо сначала заземляться, чтобы найти реальную систему, иначе как мы вообще этот изоморфизм вообще найдем?

Пытаясь на бумажках записать описания системы без заземления, без разработки онтологии системы мы получаем не изоморфизм, а аморфизм 🤭
Please open Telegram to view this post
VIEW IN TELEGRAM
🌭1
Как у вас дела с тайм менеджментом?

Спрашиваю, потому что я до грядущей недели использовал тайм трекер лишь с очень размытыми категориями, в основном чтобы следить за переработками. Сейчас по курсу ШСМ будет неделя маникального заземления в метрики
Anonymous Poll
41%
Я не трекаю время вообще, живу в кайф (таким каким я его представляю) 🐥
27%
Я трекаю только в карточки на работе, и то от балды. Да и лишь потому что требуют 😔
23%
Трекаю без системности, использую заметки / таймер / whatever. Но раз в квартал измеряю серьзно 😐
9%
Я маньяк / робот - постоянно на часах, время деньги 😎
🌭1
Если вы слишком сильно обеспокоены тем какой язык программирования или фреймворк лучше (без учета контекста, просто вот "лучше") – вы растрачиваете время в пустую.
(e.g. херней занимаешься, друг)

А если в добавок вы не просто обеспокоены, но еще и находите время чтобы об этом своем, назовем его – предпочтении, спорить в онлайн чатиках, дела еще хуже.

Друзья, это жа натуральная выгребная яма по типу двача!
🌭2
Если вдруг вы сейчас строите сложную хрень с LLM, где под сложной я имею в виду кластеризацию на хотя бы 3+ домена – не тратьте время на велосипедостроение роутера тупо на completions api или любой другой модели чисто на промптах и structured outputs.

Это можно заставить полу-вменяемо работать, Н-н-но

Меня последние три рабочих днях не покидало ощущение что я делаю опасно недерминированную ерунду, которую потом все равно придется менять на какой нибудь классификатор.

Вот вам хороший пример игнорирования Дребезга (разбираем в материалах по ШСМ)

Вместо того чтобы "на потом", надо было хоть немного поискать решение.

Вот например – бери и юзай на эмбеддингах:
https://github.com/aurelio-labs/semantic-router

Вполне себе минималистичный интерфейс. Можно ходить в Cohere или OpenAI api за эмбедингамми и сравнениями, можно прикрутить локальный мистрал, это сами решайте.

В этой же либе есть dynamic router, но это обычный function calling, внимания вроде бы вообще не стоит (Юзайте PydanticAI ок?)


Вот вам в догонку еще дядьку Фаулера почитать, если изголодались по нормальному инженерному контенту про AI системы. Не одним же Блогом Антропика кормиться :)

https://martinfowler.com/articles/gen-ai-patterns/
3🌭1
Сейчас канал переименую 🙂

/var/log/ivan.zakutnii оно конечно прекольно-креативно, но ничего не понятно и в поиске не ищется.

Продаюсь! Новое название хотя бы ищется в поиске, ну и все таки большую часть контента хотя бы как то отражает:

- Нейросети и прочая нежить
- Системная инженерия (собранность, продуктивность и тд)
- Прововерная программная инженерия.

Знаете, оно как то все больше про мозги, а мозги тоже нейросеть 🙂

А то log какой то... ну log и log, никто логи не читает 💥

Такшто переименовываюсь без угрызений совести в @neuralstack

(я все еще не собираюсь нагонять много средне-паршивого контента)

БУМ
Please open Telegram to view this post
VIEW IN TELEGRAM
6🌭1
Channel name was changed to «Neural Stack»
Вот это модно 😎
Please open Telegram to view this post
VIEW IN TELEGRAM
5🌭1