Вот как называется проблема, над которой я уже 2 дня думаю. Оказывается, еще не решена. Что ж, значит имеет значение.
Суть в том, как сделать память агента более "по человечески эффективной"
Проблема в том, что при каждом запросе загружать всю историю вселенной компании, даже все сообщения из чатов компании - будет перегрузка контекстного окна и перерасход токенов
Если загружать только то, что достается векторным поиском - можно пропустить что-то важное
Мы, люди, используем смесь детерменированной и "примерной" памяти, плюс постоянно перезаписываем свою память, и еще забываем-вспоминаем какое то время. И у этого есть свои плюсы.
Банальный подход: резюмировать каждый день организации, из дней - недели, месяцы, из них - кварталы, годы.
Но как резюмировать, через какие "линзы"(роли) смотреть, как сохранять ссылки на исходную информацию, чтобы ИИ ассистент всегда мог ответить на вопрос "откуда ты это знаешь" - это открытые вопросы...
Суть в том, как сделать память агента более "по человечески эффективной"
Проблема в том, что при каждом запросе загружать всю историю вселенной компании, даже все сообщения из чатов компании - будет перегрузка контекстного окна и перерасход токенов
Если загружать только то, что достается векторным поиском - можно пропустить что-то важное
Мы, люди, используем смесь детерменированной и "примерной" памяти, плюс постоянно перезаписываем свою память, и еще забываем-вспоминаем какое то время. И у этого есть свои плюсы.
Банальный подход: резюмировать каждый день организации, из дней - недели, месяцы, из них - кварталы, годы.
Но как резюмировать, через какие "линзы"(роли) смотреть, как сохранять ссылки на исходную информацию, чтобы ИИ ассистент всегда мог ответить на вопрос "откуда ты это знаешь" - это открытые вопросы...
❤1
На рынке памяти для и-агентов разгорается битва стартапов:
MEM-0 утверждает, что его мульти-суммаризация — самая быстрая и надежная.
Zep делает ставку на графовую память, заявляя о своей скорости и надежности.
MEM-0 в продвинутой версии добавил и графовую память, не уступая конкуренту по функциональности.
Сегодня MEM-0 сделал стратегический ход:
Запустил Chrome-расширение, которое сохраняет вашу память для всех и-агентов.
Теперь MEM-0 конкурирует не только за разработчиков через API, но и за конечных пользователей, предлагая прикладные инструменты.
Одним нажатием можно синхронизировать всю память о себе из ChatGPT в MEM-0 — и использовать её в облаке и любых других приложениях и сайтах.
Понравилось, пробую - https://openmemory.app/
Думаю, надо ли пилить чтото для б2б или подождать несколько месяцев - и "само появится"
MEM-0 утверждает, что его мульти-суммаризация — самая быстрая и надежная.
Zep делает ставку на графовую память, заявляя о своей скорости и надежности.
MEM-0 в продвинутой версии добавил и графовую память, не уступая конкуренту по функциональности.
Сегодня MEM-0 сделал стратегический ход:
Запустил Chrome-расширение, которое сохраняет вашу память для всех и-агентов.
Теперь MEM-0 конкурирует не только за разработчиков через API, но и за конечных пользователей, предлагая прикладные инструменты.
Одним нажатием можно синхронизировать всю память о себе из ChatGPT в MEM-0 — и использовать её в облаке и любых других приложениях и сайтах.
Понравилось, пробую - https://openmemory.app/
Думаю, надо ли пилить чтото для б2б или подождать несколько месяцев - и "само появится"
OpenMemory
OpenMemory Chrome Extension
OpenMemory is a personal AI memory manager that allows you to manage your preferences across ChatGPT, Claude, Perplexity, and more.
кусок памяти про меня в мем0 - видно, что сохраняют всякую метадату и категоризируют сниппеты они hard-coded тегами
user_preferences
professional_details
hobbies
health
family
entertainment
travel
technology
misc
Имхо(черновой вариант), для организации нужны как минимум такие:
- SOP (procedures/guidelines - для людей и роботов, уже можно на одном языке с markdown)
- OrgRolesStructure - какие роли кто исполняет, какие задачи в каких ролях, по каким срезам - в связке с SOP
- Actionable distinctions - task / project / kpi / objective / key result
- Meeting notes / chats summary
- Presentations and Reports
Metadata:
- valid_from, valid_to, (как в Zep),
- Approvals,
- Departments, etc
user_preferences
professional_details
hobbies
health
family
entertainment
travel
technology
misc
Имхо(черновой вариант), для организации нужны как минимум такие:
- SOP (procedures/guidelines - для людей и роботов, уже можно на одном языке с markdown)
- OrgRolesStructure - какие роли кто исполняет, какие задачи в каких ролях, по каким срезам - в связке с SOP
- Actionable distinctions - task / project / kpi / objective / key result
- Meeting notes / chats summary
- Presentations and Reports
Metadata:
- valid_from, valid_to, (как в Zep),
- Approvals,
- Departments, etc
Иногда бывает смутное чувство... что что-то упускаешь... не просто FOMO.... а что-то важное забыл...
И тогда нужно погулять на природе, заняться спортом, переключиться с мозга на физику (или наоборот), или даже на душу (о божечки)... ИИ с таким не поможет... но признаки утомления и начала выгорания, а также всяких пограничных состояних, может подсказать, и это полезная фича корпоративного ассистента-трекера тоже ... будет...
И тогда нужно погулять на природе, заняться спортом, переключиться с мозга на физику (или наоборот), или даже на душу (о божечки)... ИИ с таким не поможет... но признаки утомления и начала выгорания, а также всяких пограничных состояних, может подсказать, и это полезная фича корпоративного ассистента-трекера тоже ... будет...
❤1
Новый юз-кейс для корпоративного бота - "Терпеливый объяснятель"
Одного меня бесит, когда сотрудники не вдупляют элементарных вещей, ну типа того что если им подрядчик сказал "сегодня не могу, смогу дня через 3", и они разговор закончили, а задача важная, и другие подрядчики отказались - то надо бляха-муха позвонить еще раз и сказать что нам очень важно, скажите КОГДА вы КОНКРЕТНО сможете приехать?
Ну и еще тысяча мелочей из базовых правил коммуникации и делания дел/управления проектами
Еще вариант промпта к агенту "Проверь по сообщениям за сегодня, следуем ли мы написанным инструкциям, и если отклоняемся то от каких и где"
Одного меня бесит, когда сотрудники не вдупляют элементарных вещей, ну типа того что если им подрядчик сказал "сегодня не могу, смогу дня через 3", и они разговор закончили, а задача важная, и другие подрядчики отказались - то надо бляха-муха позвонить еще раз и сказать что нам очень важно, скажите КОГДА вы КОНКРЕТНО сможете приехать?
Ну и еще тысяча мелочей из базовых правил коммуникации и делания дел/управления проектами
Еще вариант промпта к агенту "Проверь по сообщениям за сегодня, следуем ли мы написанным инструкциям, и если отклоняемся то от каких и где"
🔥1
Очень важно помечать в своих заметках контент "созданный ИИ" чтобы не забывать его перепроверять
Иначе заметки будут похожи на сборник случайных статей из интернета
А очень важно доверять своей библиотеке, вернее, отделять "Библиотеку" чужих книг от своих, переваренных, знаний
Иначе заметки будут похожи на сборник случайных статей из интернета
А очень важно доверять своей библиотеке, вернее, отделять "Библиотеку" чужих книг от своих, переваренных, знаний
Переименовал канал, как напоминание - что мы аналоговые куски мяса с нематериальными душами
А то так легко про это забыть, в нашем цифровом мире... Будучи подгоняемыми аудио-дигитальным каналом, работающем на нейрокортексе...
А то так легко про это забыть, в нашем цифровом мире... Будучи подгоняемыми аудио-дигитальным каналом, работающем на нейрокортексе...
Кому лучший deep research?
Из последних не пробовал, вчера делал по юридическому вопросу, результат показал
1. Grok 3 вообще не понял входных данных, хотя там чётко в PDF по русски написано
2. Openai только o3 как то разобрался, но результат слабенький
3. Gemini 2.5 pro и Claude opus зажгли, 95% вводных поняли Без объяснений, чётко логично собрали по 500 сайтов и объяснили
Потом я обоим дал ответ другого и попросил оцени критически и улучшить, стало ещё лучше
Что порадовало особо, это то что gemini сделал даже повторный deep research в том же чате, когда я его попросил критически оценить собственный ответ с разных точек зрения. Составил план и сделал такое, что ни один юрист бы не сделал дешевле чем за штуку баксов, и то без гарантий.
Из последних не пробовал, вчера делал по юридическому вопросу, результат показал
1. Grok 3 вообще не понял входных данных, хотя там чётко в PDF по русски написано
2. Openai только o3 как то разобрался, но результат слабенький
3. Gemini 2.5 pro и Claude opus зажгли, 95% вводных поняли Без объяснений, чётко логично собрали по 500 сайтов и объяснили
Потом я обоим дал ответ другого и попросил оцени критически и улучшить, стало ещё лучше
Что порадовало особо, это то что gemini сделал даже повторный deep research в том же чате, когда я его попросил критически оценить собственный ответ с разных точек зрения. Составил план и сделал такое, что ни один юрист бы не сделал дешевле чем за штуку баксов, и то без гарантий.
👍1
Мужчины 30-45 наиболее подвержены влиянию ИИ (в среднем больше доверяют), следует из исследования.
Может, потому что именно эта возрастная группа создала ИИ по своему подобию в текущей фазе жизни? (идея от Кена Уилбера, его мысли про ИИ на ютубе)
Может, потому что именно эта возрастная группа создала ИИ по своему подобию в текущей фазе жизни? (идея от Кена Уилбера, его мысли про ИИ на ютубе)
https://semianalysis.com/2025/07/03/deepseek-debrief-128-days-later/#speed-can-be-compensated-for
Листая эту интуресную статью, наткнулся на парадокс
"Gemini 2.5 Pro and DeepSeek R1-0528 are more than 3 times as wordy as Claude."
Люди сравнивают эффективность по количеству выходных слов
Это понятно, когда результат тот же
Но результат вероятностен. Всегда есть риск ошибки.
И в некоторых вопросах, цена ошибки высока, и я хотел бы чтобы модель получше подумала
В своём последнем кейсе с юридическим вопросом, клод мне выдал не оптимальное решение. многословный гемини 2.5 pro дал другое решение. Когда я каждого попросил оценить решение другого, оба сошлись что решение гемини лучше.
Клод облажался именно потому, что мало "думал" - экономил токены.
Листая эту интуресную статью, наткнулся на парадокс
"Gemini 2.5 Pro and DeepSeek R1-0528 are more than 3 times as wordy as Claude."
Люди сравнивают эффективность по количеству выходных слов
Это понятно, когда результат тот же
Но результат вероятностен. Всегда есть риск ошибки.
И в некоторых вопросах, цена ошибки высока, и я хотел бы чтобы модель получше подумала
В своём последнем кейсе с юридическим вопросом, клод мне выдал не оптимальное решение. многословный гемини 2.5 pro дал другое решение. Когда я каждого попросил оценить решение другого, оба сошлись что решение гемини лучше.
Клод облажался именно потому, что мало "думал" - экономил токены.
Semianalysis
DeepSeek Debrief: >128 Days Later
Traffic and User Zombification, GPU Rich Western Neoclouds, Token Economics (Tokenomics) Sets the Competitive Landscape
За думание и глубокий анализ надо платить.
Ещё одна идея для нашего агента бизнес помощника в телеграме, оценивать цену вопроса, и в зависимости от этого выбирать модель, режим, лимит токенов, или вызов того или иного под агента
И в живых компаниях, мы ведь не дергаем ген директора закупить ручки в офис? Это логично
Ещё одна идея для нашего агента бизнес помощника в телеграме, оценивать цену вопроса, и в зависимости от этого выбирать модель, режим, лимит токенов, или вызов того или иного под агента
И в живых компаниях, мы ведь не дергаем ген директора закупить ручки в офис? Это логично
Вангую, через 20 лет будут зрелища "битва человекоподобных роботов", наподобие гладиаторских боев, бокса, битв петухов, как нибудь придумают
👎1😁1
Как работает ИИ, на простых примерах. На скриншоты последний ответ от чатгпт)
https://chatgpt.com/share/6868ccec-e280-8009-a621-05e125320261
https://chatgpt.com/share/6868ccec-e280-8009-a621-05e125320261
👏1😁1
Helpful prompt after AI completed any task:
PS When i want best results - i run Claude-Opus-4 & Extended Thinking mode
check yourself, didn't forget anything?
PS When i want best results - i run Claude-Opus-4 & Extended Thinking mode
People too much believe what "new god" (ChatGPT/AI/LLMs) are telling them
For that reason, I would like to add to "system prompt" of my ai agents:
For that reason, I would like to add to "system prompt" of my ai agents:
Always start your response with "I guess, "
🔥1
Человеческая память не затухает "Постепенно", и тем более не резко, как обрезается контекстное окно LLM в типичном chatGPT
У нас людей все по хитрому
1. Да, мы базово помним лучше то, что недавно (фактор времени - учтем)
2. Но также мы хорошо запоминаем то, что нам дает эмоции (не важно даже какие, важна амплитуда-сила эмоций)
3. Еще, мы перед сном и в трансе, неосознанно, перекладываем недавнюю память в долгосрочную (суммаризация, делание выводов, построение новых связей. Возможно, также изменение старых)
4. Возможно, какие-то еще процессы
Но сосредоточимся для начала на пункте 2:
Хорошо ли мы запоминаем свои обязанности, например? своей Роли?
Ну, так себе
Мои сотруднии точно факапят
А когда у меня самого куча ролей, я тоже забываю
А что я помню хорошо?
Как натренированный за уже 12 лет бизнеса предпринимателский мозг, я четко осознаю, когда тема "пахнет деньгами" (получением или потерей) - и такие темы держу "на карандаше". Например, если в диалоге что-то упомянули 5 минут назад и это зацепило подобные мои триггеры - я могу забыть все что говорилось с 4й до текущей минуты, но то что зацепило - буду помнить, "держать в памяти" (иногда это также вызывает трансвое состояние)
Другой пример от сотрудников - слово "ответственность" для большинства не значит НИ-ЧЕ-ГО, до того момента, когда их нахлобучивают последствия (часто не приятные - штраф и потеря). Тогда возникает эмоция, и в следующий раз то, что ассоциируется (подобные ситуации) будут запоминаться, а не пропускаться мимо ушей
Как бы это смоделировать для ИИ игента? ну, не все, но только лучшее из подобного свойства
Банально, как минимум, чтобы если в длинном диалоге начинается обрезатсья контекстное окно с конца(то есть с самого дальнего) - чтобы он ВСЕ РАВНО держал "в фокусе" (в приоритетном месте контекстного окна) ключевые моменты
1. Его роль (если не прописана в системном промпте)
2. Текущую решаемую задачу
3. чтото еще..
LLM как и люди, путается от многозадачности...
У нас людей все по хитрому
1. Да, мы базово помним лучше то, что недавно (фактор времени - учтем)
2. Но также мы хорошо запоминаем то, что нам дает эмоции (не важно даже какие, важна амплитуда-сила эмоций)
3. Еще, мы перед сном и в трансе, неосознанно, перекладываем недавнюю память в долгосрочную (суммаризация, делание выводов, построение новых связей. Возможно, также изменение старых)
4. Возможно, какие-то еще процессы
Но сосредоточимся для начала на пункте 2:
Хорошо ли мы запоминаем свои обязанности, например? своей Роли?
Ну, так себе
Мои сотруднии точно факапят
А когда у меня самого куча ролей, я тоже забываю
А что я помню хорошо?
Как натренированный за уже 12 лет бизнеса предпринимателский мозг, я четко осознаю, когда тема "пахнет деньгами" (получением или потерей) - и такие темы держу "на карандаше". Например, если в диалоге что-то упомянули 5 минут назад и это зацепило подобные мои триггеры - я могу забыть все что говорилось с 4й до текущей минуты, но то что зацепило - буду помнить, "держать в памяти" (иногда это также вызывает трансвое состояние)
Другой пример от сотрудников - слово "ответственность" для большинства не значит НИ-ЧЕ-ГО, до того момента, когда их нахлобучивают последствия (часто не приятные - штраф и потеря). Тогда возникает эмоция, и в следующий раз то, что ассоциируется (подобные ситуации) будут запоминаться, а не пропускаться мимо ушей
Как бы это смоделировать для ИИ игента? ну, не все, но только лучшее из подобного свойства
Банально, как минимум, чтобы если в длинном диалоге начинается обрезатсья контекстное окно с конца(то есть с самого дальнего) - чтобы он ВСЕ РАВНО держал "в фокусе" (в приоритетном месте контекстного окна) ключевые моменты
1. Его роль (если не прописана в системном промпте)
2. Текущую решаемую задачу
3. чтото еще..
LLM как и люди, путается от многозадачности...