VoiceInk - opensource альтернатива для SuperWhisper
Некоторое время назад я посетил семинар, посвященный вайб-кодингу. Там коллега в лайв-режиме показывал, как он создает код с помощью нейросети, используя голосовой ввод. Я очень удивился, потому что стандартный голосовой ввод на маке часто путает слова. Когда ты диктуешь ему по-русски, он часто неправильно воспринимает текст, если в нем используются английские термины, например, названия функций. Голосовой ввод на маках все это путает и выводит в лучшем случае что-то неразборчивое или далекое от того, что ты просил.
После семинара я спросил коллегу, что он использует для голосового ввода. Оказалось, что он использует программу SuperWhisper. Я посмотрел на эту программу и увидел, что она требует подписки, а платежи из России, как понимаете, выполняются сложно. Кроме того, мне не хотелось вязываться в какой-то vendor-lock, когда производители программы могут просто отказаться принимать платежи от россиян или как-то иначе заблокировать свой продукт на нашей территории. Поэтому я решил поискать open-source решение, аналогичное SuperWhisper.
И такое решение я нашел! Программа называется VoiceInk. VoiceInk выполняет похожую задачу и достаточно качественно разбирает текст. Настолько хорошо, что после того, как я надиктовал сообщение для блога, мне требуется всего лишь немного его отредактировать, поправив кое-где формулировки.
Самый большой прикол обеих этих программ в том, что они позволяют использовать специальный режим, когда сначала ваш голос распознается, а потом прогоняется дополнительно еще через нейронку с использованием отдельного промпта. И промпты могут быть разными для разных режимов.
Например, вы можете сделать отдельный промпт для того, чтобы писать заметки в блог. Можно сделать отдельный промпт для того, чтобы отвечать на e-mail коллегам или для того, чтобы твиты писать. Вот, например, я для VoiceInk сделал себе промпт, который вы видите на скриншоте к этому посту.
И этот промпт помимо того, что обрабатывает текст нужным мне образом, еще и добавляет к нему дополнительно хэштеги автоматически. И добавляет промпт для создания картинки. То есть я могу надиктовать пост в блог, потом взять, скопировать этот промптик для нейронки, который умеет генерировать картинки, и тут же сделать себе иллюстрацию к этому промпту.
Возможно, можно даже дальше пойти и научиться сделать какого-то агента, в котором можно просто целиком этот текст надиктованный закидывать и получать готовую публикацию в Телеграме уже с картинкой. Но эту автоматизацию я, может быть, сделаю позже. У меня есть идея попробовать N8N сервис для того, чтобы делать подобные штуки. Так что следите за обновлениями в блоге. Пока-пока!
#ai #automation #voice
Некоторое время назад я посетил семинар, посвященный вайб-кодингу. Там коллега в лайв-режиме показывал, как он создает код с помощью нейросети, используя голосовой ввод. Я очень удивился, потому что стандартный голосовой ввод на маке часто путает слова. Когда ты диктуешь ему по-русски, он часто неправильно воспринимает текст, если в нем используются английские термины, например, названия функций. Голосовой ввод на маках все это путает и выводит в лучшем случае что-то неразборчивое или далекое от того, что ты просил.
После семинара я спросил коллегу, что он использует для голосового ввода. Оказалось, что он использует программу SuperWhisper. Я посмотрел на эту программу и увидел, что она требует подписки, а платежи из России, как понимаете, выполняются сложно. Кроме того, мне не хотелось вязываться в какой-то vendor-lock, когда производители программы могут просто отказаться принимать платежи от россиян или как-то иначе заблокировать свой продукт на нашей территории. Поэтому я решил поискать open-source решение, аналогичное SuperWhisper.
И такое решение я нашел! Программа называется VoiceInk. VoiceInk выполняет похожую задачу и достаточно качественно разбирает текст. Настолько хорошо, что после того, как я надиктовал сообщение для блога, мне требуется всего лишь немного его отредактировать, поправив кое-где формулировки.
Самый большой прикол обеих этих программ в том, что они позволяют использовать специальный режим, когда сначала ваш голос распознается, а потом прогоняется дополнительно еще через нейронку с использованием отдельного промпта. И промпты могут быть разными для разных режимов.
Например, вы можете сделать отдельный промпт для того, чтобы писать заметки в блог. Можно сделать отдельный промпт для того, чтобы отвечать на e-mail коллегам или для того, чтобы твиты писать. Вот, например, я для VoiceInk сделал себе промпт, который вы видите на скриншоте к этому посту.
И этот промпт помимо того, что обрабатывает текст нужным мне образом, еще и добавляет к нему дополнительно хэштеги автоматически. И добавляет промпт для создания картинки. То есть я могу надиктовать пост в блог, потом взять, скопировать этот промптик для нейронки, который умеет генерировать картинки, и тут же сделать себе иллюстрацию к этому промпту.
Возможно, можно даже дальше пойти и научиться сделать какого-то агента, в котором можно просто целиком этот текст надиктованный закидывать и получать готовую публикацию в Телеграме уже с картинкой. Но эту автоматизацию я, может быть, сделаю позже. У меня есть идея попробовать N8N сервис для того, чтобы делать подобные штуки. Так что следите за обновлениями в блоге. Пока-пока!
#ai #automation #voice
Forwarded from DevFM
Как проводить встречи эффективно
Существуют общепринятые практики организации встреч, но в больших командах даже очевидные правила теряются. Один из лидов недавно задокументировал процесс в виде чеклиста. Этот чеклист выравнивает подходы всей команды и повышает эффективность встреч. Публикую сокращенную версию.
Подготовка
– Избегай звонков без необходимости – большинство вопросов решаются в чате
– Не дергай “на минутку” – если прод не упал, значит не срочно
– Анонсируй: кто, когда, зачем. Иногда достаточно треда в чате
– Проверяй доступность участников через календарь
– Ограничивай время – 30 минут обычно хватает, 1 час — максимум
– Готовь повестку заранее: тема, пункты обсуждения, цель встречи, уважай чужое время
– Рассылай материалы и документы до встречи
– Предупреждай об отмене или задержке как можно раньше
– Опаздываешь? Не опаздывай 🙂
Старт встречи
– Начинай вовремя – без «ждём ещё кого-то»
– Проверь комнату ожидания и список участников
– Напомни повестку – это фокусирует команду
Фасилитация
– Держись повестки и возвращай к цели встречи
– Дай слово молчунам, притормози болтунов.
– Подводи итоги каждые 10–15 минут: «Итак, договорились, что…»
– Следи за чатом и поднятыми руками
– Делись экраном, глаза – тоже канал восприятия
– Включай камеру по возможности
– Не перебивай – сначала дослушай, потом задавай вопросы.
– Паркуй спорные темы после трёх заходов
– Уважай выделенный слот – если нужно больше времени, спроси
– Веди пост-мит в реальном времени
После встречи
– Напиши постмит, опубликуй до конца дня, тегнув участников
#devfm
Существуют общепринятые практики организации встреч, но в больших командах даже очевидные правила теряются. Один из лидов недавно задокументировал процесс в виде чеклиста. Этот чеклист выравнивает подходы всей команды и повышает эффективность встреч. Публикую сокращенную версию.
Подготовка
– Избегай звонков без необходимости – большинство вопросов решаются в чате
– Не дергай “на минутку” – если прод не упал, значит не срочно
– Анонсируй: кто, когда, зачем. Иногда достаточно треда в чате
– Проверяй доступность участников через календарь
– Ограничивай время – 30 минут обычно хватает, 1 час — максимум
– Готовь повестку заранее: тема, пункты обсуждения, цель встречи, уважай чужое время
– Рассылай материалы и документы до встречи
– Предупреждай об отмене или задержке как можно раньше
– Опаздываешь? Не опаздывай 🙂
Старт встречи
– Начинай вовремя – без «ждём ещё кого-то»
– Проверь комнату ожидания и список участников
– Напомни повестку – это фокусирует команду
Фасилитация
– Держись повестки и возвращай к цели встречи
– Дай слово молчунам, притормози болтунов.
– Подводи итоги каждые 10–15 минут: «Итак, договорились, что…»
– Следи за чатом и поднятыми руками
– Делись экраном, глаза – тоже канал восприятия
– Включай камеру по возможности
– Не перебивай – сначала дослушай, потом задавай вопросы.
– Паркуй спорные темы после трёх заходов
– Уважай выделенный слот – если нужно больше времени, спроси
– Веди пост-мит в реальном времени
После встречи
– Напиши постмит, опубликуй до конца дня, тегнув участников
#devfm
Telegram
DevFM
Оперативный постмит
Качественная встреча всегда завершается постмитом. Я обычно тезисно фиксирую ключевые моменты в своих заметках по ходу обсуждения. В конце озвучиваю их вслух для подтверждения, затем немного шлифую текст и отправляю участникам в мессенджер.…
Качественная встреча всегда завершается постмитом. Я обычно тезисно фиксирую ключевые моменты в своих заметках по ходу обсуждения. В конце озвучиваю их вслух для подтверждения, затем немного шлифую текст и отправляю участникам в мессенджер.…
Forwarded from Задачи DS - Собеседования, Соревнования, ШАД
Tralalero Vision 2025: роадмап по компьютерному зрению
1️⃣ Python. Без него - никуда: циклы, ООП, исключения, numpy, pandas, matplotlib, надо знать азы pytorch, tensorflow
2️⃣ OpenCV — "мотор" компьютерного зрения. Тут важно понимать, как работают изображения (пиксели, каналы, цветовые пространства), ну и освоить морфологию, фильтры, поиск контуров. В качестве практики можно сделать проекты с распознаванием объектов или AR-фильтрами
3️⃣ Без линейной алгебры глубокие модели — "черный ящик". Надо потренироваться в задачках на SVD и преобразования с матрицами
4️⃣ В качестве начальных шагов разберитесь в архитектурах: LeNet и EfficientNet + пригодятся знания градиентов и методов оптимизации
5️⃣ Спец-темы CV — ваш профайл Углубляйтесь в то, что цепляет: есть задачи на 3D Vision/обнаружения/сегментации итд. Ключ к успеху понимать от и до именно ваше направление
6️⃣ Теория без практики имеет нулевой импакт на ваше развитие. После каждого этапа — проект/кейс/задача
материалы 👇
@zadachi_ds
материалы 👇
документация OpenCV
Standford course по нейронкам
Multi-Object Tracking
Anomaly Detection
3D Reconstruction
Real-Time Gesture Control для AR
данные: Kaggle, COCO dataset
тестовые вопросы по DL от Дьяконова, курс по DL тоже от Дьяконова А.Г.
@zadachi_ds
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Рыба-шарп
London Tech Week и q/kdb
На прошлой неделе в Лондоне проходила London Tech Week - выставка/конференция, посвященная технологиям. Основной темой, конечно же, был искусственный интеллект. Из неожиданных спикеров там был Christian Horner, CEO Red Bull Racing - команды Формулы-1.
Он рассказывал, что в гоночной машине больше 600 сенсоров, а вычислительный кластер их команды просчитывает 25 миллионов симуляций в минуту (мне кажется, что звучит нереалистично, скорее в день или в час).
А еще, оказывается, Red Bull Racing использует q/kdb - базу данных и язык программирования для работы с time series. Этот же язык лежит в основе инфраструктуры многих банков и хедж-фондов.
https://kx.com/customer-stories/aston-martin-redbull/
#лондон
#хеджфонды
@rybasharp
На прошлой неделе в Лондоне проходила London Tech Week - выставка/конференция, посвященная технологиям. Основной темой, конечно же, был искусственный интеллект. Из неожиданных спикеров там был Christian Horner, CEO Red Bull Racing - команды Формулы-1.
Он рассказывал, что в гоночной машине больше 600 сенсоров, а вычислительный кластер их команды просчитывает 25 миллионов симуляций в минуту (мне кажется, что звучит нереалистично, скорее в день или в час).
А еще, оказывается, Red Bull Racing использует q/kdb - базу данных и язык программирования для работы с time series. Этот же язык лежит в основе инфраструктуры многих банков и хедж-фондов.
https://kx.com/customer-stories/aston-martin-redbull/
#лондон
#хеджфонды
@rybasharp
KX: Vector Database, Time Series And Real Time Analytics
Aston Martin Red Bull Racing | KX
Forwarded from Всеволод Викулин | AI разбор
Как общаются агенты и что такое MCP
Microsoft на своем мероприятии объявила, что они уже видят "open agentic web". Идея не нова — агенты общаются друг с другом, решают задачки, люди отдыхают, о дивный новый мир.
Чтобы этот дивный мир состоялся, нужна фундаментальная вещь —протокол. Давайте вместе разберёмся, что это.
И не забудьте, что в конце, как обычно, список обязательной литературы.
Издалека, зато по порядку
Интернет стал интернетом, потому что компьютеры научились разговаривать друг с другом. Правила этого общения называются протоколами, например, HTTP (для сетевого общения, кстати, нужно много протоколов). Благодаря протоколам есть все, что мы с вами так любим. В конце концов, этот телеграм канал.
Чтобы мы перешли к дивному миру, нам агентов также надо всех соединить в сеть, научить "разговаривать друг с другом". Ваш личный агент "общается" с агентом, который записывает на ноготочки, а второй уже бронирует вам слот.
Есть MCP от Anthropic, A2A от Google и, наверное, куча еще других. Дальше поговорим про MCP, потому чтоя другого не знаю он самый популярный.
MCP
Сделано в Anthropic.
15 к звездочек на Гитхабе, его уже приняла во все свои продукты Microsoft, и даже окнул Сэм из OpenAI, что как бы намекает на его лидерство.
Основан на клиент-серверной архитектуре. Сервер предоставляет клиенту набор различных tools (базы данных, методы или других агентов, неважно), клиент их с умом использует. Конкретнее:
1) Вы запускаете клиент MCP, отправляете запрос нужному вам MCP-серверу (по HTTP) — "друг, дай список своих tools"
2) Сервер отвечает: «умею вот такое, вызывай их так»
3) LLM на клиенте читает про инструменты, понимает, что вызывать и с какими аргументами. Отправляет свой запрос на сервер.
4) Сервер выполняет, отправляет результат клиенту. Клиент уже делает, что хочет с результатом.
Очень понятный-свободный протокол, примерно так все всегда и делали LLM-приложения. Поэтому он такой популярный. Уже есть 4700 MCP серверов (список).
Более известные люди ругаются на MCP за его простоту, но я до конца претензию не осознал. Если поняли — дайте знать в комментариях.
Смерть SAAS
Агенты с протоколами реальная угрозу классическому Software as a service. Гендиректор Microsoft тоже любит так говорить.
Зачем платить за подписку на простой soft, когда хочется платить за результат? Хочется не просто иметь CRM в облаке, а чтобы CRM-агент, к которому ты подключаешься, сразу нашел тебе перспективных клиентов. MCP значительно ускорит этот переход.
Я не настоящий стартапер, но посмотрите мнение ребят из YC и почитайте мнение ребят из Andreessen Horowitz. Outcome-based pricing мне видится реальной перспективой.
Что обязательно читать
- Почему MCP победил
- Оригинальный пост Anthropic про MCP
- MCP против API В чем разница проектирования
- Пример создания MCP приложения
И еще обязательно задавать вопросы в комментариях.
Если нужна консультация под ваш вопрос — пишите уже в личные сообщения.
Microsoft на своем мероприятии объявила, что они уже видят "open agentic web". Идея не нова — агенты общаются друг с другом, решают задачки, люди отдыхают, о дивный новый мир.
Чтобы этот дивный мир состоялся, нужна фундаментальная вещь —протокол. Давайте вместе разберёмся, что это.
И не забудьте, что в конце, как обычно, список обязательной литературы.
Издалека, зато по порядку
Интернет стал интернетом, потому что компьютеры научились разговаривать друг с другом. Правила этого общения называются протоколами, например, HTTP (для сетевого общения, кстати, нужно много протоколов). Благодаря протоколам есть все, что мы с вами так любим. В конце концов, этот телеграм канал.
Чтобы мы перешли к дивному миру, нам агентов также надо всех соединить в сеть, научить "разговаривать друг с другом". Ваш личный агент "общается" с агентом, который записывает на ноготочки, а второй уже бронирует вам слот.
Есть MCP от Anthropic, A2A от Google и, наверное, куча еще других. Дальше поговорим про MCP, потому что
MCP
Сделано в Anthropic.
15 к звездочек на Гитхабе, его уже приняла во все свои продукты Microsoft, и даже окнул Сэм из OpenAI, что как бы намекает на его лидерство.
Основан на клиент-серверной архитектуре. Сервер предоставляет клиенту набор различных tools (базы данных, методы или других агентов, неважно), клиент их с умом использует. Конкретнее:
1) Вы запускаете клиент MCP, отправляете запрос нужному вам MCP-серверу (по HTTP) — "друг, дай список своих tools"
2) Сервер отвечает: «умею вот такое, вызывай их так»
3) LLM на клиенте читает про инструменты, понимает, что вызывать и с какими аргументами. Отправляет свой запрос на сервер.
4) Сервер выполняет, отправляет результат клиенту. Клиент уже делает, что хочет с результатом.
Очень понятный-свободный протокол, примерно так все всегда и делали LLM-приложения. Поэтому он такой популярный. Уже есть 4700 MCP серверов (список).
Более известные люди ругаются на MCP за его простоту, но я до конца претензию не осознал. Если поняли — дайте знать в комментариях.
Смерть SAAS
Агенты с протоколами реальная угрозу классическому Software as a service. Гендиректор Microsoft тоже любит так говорить.
Зачем платить за подписку на простой soft, когда хочется платить за результат? Хочется не просто иметь CRM в облаке, а чтобы CRM-агент, к которому ты подключаешься, сразу нашел тебе перспективных клиентов. MCP значительно ускорит этот переход.
Я не настоящий стартапер, но посмотрите мнение ребят из YC и почитайте мнение ребят из Andreessen Horowitz. Outcome-based pricing мне видится реальной перспективой.
Что обязательно читать
- Почему MCP победил
- Оригинальный пост Anthropic про MCP
- MCP против API В чем разница проектирования
- Пример создания MCP приложения
И еще обязательно задавать вопросы в комментариях.
Если нужна консультация под ваш вопрос — пишите уже в личные сообщения.
Forwarded from LLM is all you need
Запилил на Степике курс - Разработка LLM с нуля
В курсе вам предстоит с нуля реализовать все основные компоненты LLM:
- Токенизатор (BPE)
- Эмбеддинги (Токенов и Позиционные)
- Блок Декодера:
- Multi-Head Attention
- FeedForward-слои
- Остаточные связи
- Вероятностная генерация
После чего мы соберем и подготовим датасет и обучим свою LLM (pre-train).
Разработка будет вестиcь на Python и низкоуровневых компонентах PyTorch.
Курс платный. Следующие две недели по промокоду FIRST предоставляется скидка 50%.
В курсе вам предстоит с нуля реализовать все основные компоненты LLM:
- Токенизатор (BPE)
- Эмбеддинги (Токенов и Позиционные)
- Блок Декодера:
- Multi-Head Attention
- FeedForward-слои
- Остаточные связи
- Вероятностная генерация
После чего мы соберем и подготовим датасет и обучим свою LLM (pre-train).
Разработка будет вестиcь на Python и низкоуровневых компонентах PyTorch.
Курс платный. Следующие две недели по промокоду FIRST предоставляется скидка 50%.
Forwarded from Тимлид Очевидность | Евгений Антонов
Я принес. Умение разбираться в людях как ключевой ресурс руководителя. Менеджер-стоик: античные практики современного управления.
Сегодня я принес вам две записи со своих майских приключений на кодфесте. Признаюсь честно, для меня это было очень особенное мероприятие по ряду причин:
1. Codefest в Новосибирске, а это родина моих родителей.
2. Я в ПК менеджерской секции кодфеста и полгода мы с ребятами готовили всю эту секцию. Я туда очень много труда и сердечка вложил.
3. Я не думал делать этот доклад 🙂 Изначально я пришел к Диме Болдыреву звать его на конференцию как спикера, но он меня попросил/уговорил/убедил сделать с ним парный доклад. Я очень не люблю делать парные доклады, но и ради темы, которую я считаю важной, и ради Димы, которого я очень уважаю, я в эту штуку вписался.
4. Я в начале доклада шучу про то, что у нас оттянут зрителей, и я реально думал, что так оно и произойдет, но у нас оказался полный зал людей, и я очень благодарен всем пришедшим. Для меня вообще уже третий год большое удивление, как радушно меня привечают участники кодфеста!
5. Отдельный кайф, что мы с Никитой Ульшиным, с моим единомышленником по любительскому увлечению стоицизмом, сумели зазвать профессионалов стоического дела. Александр Саликов и Ирина Райт из Школы Стоицизма поговорили с нами про эту философию 50 минут, и я без преувеличения вас уверяю, что я думал, будто прошло минут 15, когда нам объявили, что время закончилось. Очень рад, что с ребятами некоторое время назад познакомились, только теплые товарищеские чувства к ним испытываю.
И отдельно я хочу сказать про сам Кодфест.
Я на многих конференциях бывал, со многими тесно сотрудничал.
Есть конференции-«лакшери», типа вход только для особо отобранных, «высокоранговый нетворкинг» и всё такое (плюс много кальянов почему-то).
Есть конференции-профессионалы. Много специализированного контента, профессиональные докладчики, отбор докладов, чтобы никто не инфоцыганил, а только полезное и проверенное рассказывали.
Есть конференции-энтузиасты. Отлаженных процессов там маловато, презу твою может даже никто не посмотреть перед выходом на сцену, но атмосфера такой кипучей студенческой самодеятельности. В этом есть свой прикол.
Есть конференции-бренды. Когда одна компания делает свою конференцию, но при этом в хорошем случае старается хорошо соблюсти диверсификацию докладчиков из разных компаний (а кто-то и не старается, или кулуарно банит неугодные компании, например).
Но Codefest для меня – единственная конференция-друг❤️ Самобытный товарищ, со своими специфичными словечками и особыми приколами, типа доширачной станции или рюмочек рассола на утро после афтепати, а до него пакетики с алказельцером и патчами против отеков под глазами 🙂
И люди такие же интересные приходят. Три года подряд я вижу, как одна и та же девушка занимает место в первом ряду секции менеджмента и слушает большинство докладов, но иногда уходит, заботливо оставляя записку, что к такому-то времени и докладу она вернется. Что-то в этом всём есть особенное и неповторимое.
Теперь ссылки на доклады 🙂
https://vkvideo.ru/video-65336816_456239732?list=ln-IpUGleJsLQCAEFeDwp – Евгений Антонов, Дмитрий Болдырев. Умение разбираться в людях как ключевой ресурс руководителя.
https://vkvideo.ru/video-65336816_456239847 – Никита Ульшин, Ирина Райт, Евгений Антонов, Александр Саликов. Менеджер-стоик: античные практики современного управления.
Сегодня я принес вам две записи со своих майских приключений на кодфесте. Признаюсь честно, для меня это было очень особенное мероприятие по ряду причин:
1. Codefest в Новосибирске, а это родина моих родителей.
2. Я в ПК менеджерской секции кодфеста и полгода мы с ребятами готовили всю эту секцию. Я туда очень много труда и сердечка вложил.
3. Я не думал делать этот доклад 🙂 Изначально я пришел к Диме Болдыреву звать его на конференцию как спикера, но он меня попросил/уговорил/убедил сделать с ним парный доклад. Я очень не люблю делать парные доклады, но и ради темы, которую я считаю важной, и ради Димы, которого я очень уважаю, я в эту штуку вписался.
4. Я в начале доклада шучу про то, что у нас оттянут зрителей, и я реально думал, что так оно и произойдет, но у нас оказался полный зал людей, и я очень благодарен всем пришедшим. Для меня вообще уже третий год большое удивление, как радушно меня привечают участники кодфеста!
5. Отдельный кайф, что мы с Никитой Ульшиным, с моим единомышленником по любительскому увлечению стоицизмом, сумели зазвать профессионалов стоического дела. Александр Саликов и Ирина Райт из Школы Стоицизма поговорили с нами про эту философию 50 минут, и я без преувеличения вас уверяю, что я думал, будто прошло минут 15, когда нам объявили, что время закончилось. Очень рад, что с ребятами некоторое время назад познакомились, только теплые товарищеские чувства к ним испытываю.
И отдельно я хочу сказать про сам Кодфест.
Я на многих конференциях бывал, со многими тесно сотрудничал.
Есть конференции-«лакшери», типа вход только для особо отобранных, «высокоранговый нетворкинг» и всё такое (плюс много кальянов почему-то).
Есть конференции-профессионалы. Много специализированного контента, профессиональные докладчики, отбор докладов, чтобы никто не инфоцыганил, а только полезное и проверенное рассказывали.
Есть конференции-энтузиасты. Отлаженных процессов там маловато, презу твою может даже никто не посмотреть перед выходом на сцену, но атмосфера такой кипучей студенческой самодеятельности. В этом есть свой прикол.
Есть конференции-бренды. Когда одна компания делает свою конференцию, но при этом в хорошем случае старается хорошо соблюсти диверсификацию докладчиков из разных компаний (а кто-то и не старается, или кулуарно банит неугодные компании, например).
Но Codefest для меня – единственная конференция-друг❤️ Самобытный товарищ, со своими специфичными словечками и особыми приколами, типа доширачной станции или рюмочек рассола на утро после афтепати, а до него пакетики с алказельцером и патчами против отеков под глазами 🙂
И люди такие же интересные приходят. Три года подряд я вижу, как одна и та же девушка занимает место в первом ряду секции менеджмента и слушает большинство докладов, но иногда уходит, заботливо оставляя записку, что к такому-то времени и докладу она вернется. Что-то в этом всём есть особенное и неповторимое.
Теперь ссылки на доклады 🙂
https://vkvideo.ru/video-65336816_456239732?list=ln-IpUGleJsLQCAEFeDwp – Евгений Антонов, Дмитрий Болдырев. Умение разбираться в людях как ключевой ресурс руководителя.
https://vkvideo.ru/video-65336816_456239847 – Никита Ульшин, Ирина Райт, Евгений Антонов, Александр Саликов. Менеджер-стоик: античные практики современного управления.
Forwarded from Pavel Zloi
Chat Tank
Решил окунуться в web-интерфейсы для работы с моделями в формате чатика, прежде всего было интересно найти аналог Open WebUI, мне он очень нравится, но есть пару фатальных недостатков, в частности:
- нельзя вызывать хук при регистрации новых пользователей
- нет prometheus экспортера
- агенты там называются моделями, что создаёт путаницу
- до сих пор не добавили MCP, единственный вариант подключиться к ним - через костыль в виде обёртки mcpo
Ещё один недостаток Open WebUI в том, что он с недавних пор стал закрытым проектом и если у вас больше 50 пользователей придётся прикупить лицензию.
Ну так вот, другие ю-ай'ки...
» LibreChat
Первой пощупал систему LibreChat (рис.1), внешне красиво, но там очень много всяких крутилочек, вертелочек и настроек выставленных по умолчанию, явно навайбкодили, так как в нормальных, доИИреволюционных, проектах в настройках обычно только самое важное.
После Open WebUI проект LibreChat смотрится очень перегружено (рис.2), ощущения от LibreChat словно от Miranda IM (олды поймут).
Ну да ладно, полез запускать всё это дело, скачал docker-compose.yml, он к слову состоит из пяти подсистем: librechat, RAG, mongodb, pgvector и meilisearch.
Отдельно хочу отметить проект meilisearch, если кратко то это поисковый движок, который реализует логику гибридного поиска (векторный и полнотекстовый), само собой собирает "анонимную" статистику, вероятно в будущем станет платным.
» AnythingLLM
Приятная на первый взгляд оболочка (рис.3), простой docker-compose.yml из одного сервиса anythingllm, настроек по минимуму, но есть всё необходимое. По дефолту авторизация отключена (single-user), юзер в роли админа подключается, далее в настройках можно включить авторизацию юзеров (multi-user). Механизма регистрации в системе не предусмотрено, что возможно не так уж и плохо, ведь можно реализовать регистрацию через какую-нибудь внешнюю систему аккаунтинга.
Само собой есть телеметрия, которую очень просто отключить, так что походу этот проект тоже в скором будущем станет платным.
Из странного пожалуй только крайне упоротая логика чатов, то есть workspaces, у юзера может быть одна из трёх ролей:
- admin - тут понятно, может всё
- manager - видит все workspaces, видит многие системные настройки
- default - видит только те workspaces в которые был добавлен
Для построения сервиса нужна роль default, но в ней модель нелья выбрать, разрешена только дефолтная, нет возможности создать агента, можно только чатиться в разрешённых workspace, как говорится "ешь что дают".
Перевод partially реализован, то тут то there you will созерцать english лангуяге ин ёр бравзер.
To be continued...
Решил окунуться в web-интерфейсы для работы с моделями в формате чатика, прежде всего было интересно найти аналог Open WebUI, мне он очень нравится, но есть пару фатальных недостатков, в частности:
- нельзя вызывать хук при регистрации новых пользователей
- нет prometheus экспортера
- агенты там называются моделями, что создаёт путаницу
- до сих пор не добавили MCP, единственный вариант подключиться к ним - через костыль в виде обёртки mcpo
Ещё один недостаток Open WebUI в том, что он с недавних пор стал закрытым проектом и если у вас больше 50 пользователей придётся прикупить лицензию.
Ну так вот, другие ю-ай'ки...
» LibreChat
Первой пощупал систему LibreChat (рис.1), внешне красиво, но там очень много всяких крутилочек, вертелочек и настроек выставленных по умолчанию, явно навайбкодили, так как в нормальных, доИИреволюционных, проектах в настройках обычно только самое важное.
После Open WebUI проект LibreChat смотрится очень перегружено (рис.2), ощущения от LibreChat словно от Miranda IM (олды поймут).
Ну да ладно, полез запускать всё это дело, скачал docker-compose.yml, он к слову состоит из пяти подсистем: librechat, RAG, mongodb, pgvector и meilisearch.
Отдельно хочу отметить проект meilisearch, если кратко то это поисковый движок, который реализует логику гибридного поиска (векторный и полнотекстовый), само собой собирает "анонимную" статистику, вероятно в будущем станет платным.
» AnythingLLM
Приятная на первый взгляд оболочка (рис.3), простой docker-compose.yml из одного сервиса anythingllm, настроек по минимуму, но есть всё необходимое. По дефолту авторизация отключена (single-user), юзер в роли админа подключается, далее в настройках можно включить авторизацию юзеров (multi-user). Механизма регистрации в системе не предусмотрено, что возможно не так уж и плохо, ведь можно реализовать регистрацию через какую-нибудь внешнюю систему аккаунтинга.
Само собой есть телеметрия, которую очень просто отключить, так что походу этот проект тоже в скором будущем станет платным.
Из странного пожалуй только крайне упоротая логика чатов, то есть workspaces, у юзера может быть одна из трёх ролей:
- admin - тут понятно, может всё
- manager - видит все workspaces, видит многие системные настройки
- default - видит только те workspaces в которые был добавлен
Для построения сервиса нужна роль default, но в ней модель нелья выбрать, разрешена только дефолтная, нет возможности создать агента, можно только чатиться в разрешённых workspace, как говорится "ешь что дают".
Перевод partially реализован, то тут то there you will созерцать english лангуяге ин ёр бравзер.
To be continued...