Great talk here https://www.youtube.com/watch?v=LCEmiRjPEtQ
"It's amazing how he just summarized where everything is going so clearly in 40 minutes. We need more Andrej Karpathys in this field." (from comments)
"It's amazing how he just summarized where everything is going so clearly in 40 minutes. We need more Andrej Karpathys in this field." (from comments)
YouTube
Andrej Karpathy: Software Is Changing (Again)
Andrej Karpathy's keynote on June 17, 2025 at AI Startup School in San Francisco. Slides provided by Andrej: https://drive.google.com/file/d/1a0h1mkwfmV2PlekxDN8isMrDA5evc4wW/view?usp=sharing
Chapters:
00:00 - Intro
01:25 - Software evolution: From 1.0 to…
Chapters:
00:00 - Intro
01:25 - Software evolution: From 1.0 to…
Вот как называется проблема, над которой я уже 2 дня думаю. Оказывается, еще не решена. Что ж, значит имеет значение.
Суть в том, как сделать память агента более "по человечески эффективной"
Проблема в том, что при каждом запросе загружать всю историю вселенной компании, даже все сообщения из чатов компании - будет перегрузка контекстного окна и перерасход токенов
Если загружать только то, что достается векторным поиском - можно пропустить что-то важное
Мы, люди, используем смесь детерменированной и "примерной" памяти, плюс постоянно перезаписываем свою память, и еще забываем-вспоминаем какое то время. И у этого есть свои плюсы.
Банальный подход: резюмировать каждый день организации, из дней - недели, месяцы, из них - кварталы, годы.
Но как резюмировать, через какие "линзы"(роли) смотреть, как сохранять ссылки на исходную информацию, чтобы ИИ ассистент всегда мог ответить на вопрос "откуда ты это знаешь" - это открытые вопросы...
Суть в том, как сделать память агента более "по человечески эффективной"
Проблема в том, что при каждом запросе загружать всю историю вселенной компании, даже все сообщения из чатов компании - будет перегрузка контекстного окна и перерасход токенов
Если загружать только то, что достается векторным поиском - можно пропустить что-то важное
Мы, люди, используем смесь детерменированной и "примерной" памяти, плюс постоянно перезаписываем свою память, и еще забываем-вспоминаем какое то время. И у этого есть свои плюсы.
Банальный подход: резюмировать каждый день организации, из дней - недели, месяцы, из них - кварталы, годы.
Но как резюмировать, через какие "линзы"(роли) смотреть, как сохранять ссылки на исходную информацию, чтобы ИИ ассистент всегда мог ответить на вопрос "откуда ты это знаешь" - это открытые вопросы...
❤1
На рынке памяти для и-агентов разгорается битва стартапов:
MEM-0 утверждает, что его мульти-суммаризация — самая быстрая и надежная.
Zep делает ставку на графовую память, заявляя о своей скорости и надежности.
MEM-0 в продвинутой версии добавил и графовую память, не уступая конкуренту по функциональности.
Сегодня MEM-0 сделал стратегический ход:
Запустил Chrome-расширение, которое сохраняет вашу память для всех и-агентов.
Теперь MEM-0 конкурирует не только за разработчиков через API, но и за конечных пользователей, предлагая прикладные инструменты.
Одним нажатием можно синхронизировать всю память о себе из ChatGPT в MEM-0 — и использовать её в облаке и любых других приложениях и сайтах.
Понравилось, пробую - https://openmemory.app/
Думаю, надо ли пилить чтото для б2б или подождать несколько месяцев - и "само появится"
MEM-0 утверждает, что его мульти-суммаризация — самая быстрая и надежная.
Zep делает ставку на графовую память, заявляя о своей скорости и надежности.
MEM-0 в продвинутой версии добавил и графовую память, не уступая конкуренту по функциональности.
Сегодня MEM-0 сделал стратегический ход:
Запустил Chrome-расширение, которое сохраняет вашу память для всех и-агентов.
Теперь MEM-0 конкурирует не только за разработчиков через API, но и за конечных пользователей, предлагая прикладные инструменты.
Одним нажатием можно синхронизировать всю память о себе из ChatGPT в MEM-0 — и использовать её в облаке и любых других приложениях и сайтах.
Понравилось, пробую - https://openmemory.app/
Думаю, надо ли пилить чтото для б2б или подождать несколько месяцев - и "само появится"
OpenMemory
OpenMemory Chrome Extension
OpenMemory is a personal AI memory manager that allows you to manage your preferences across ChatGPT, Claude, Perplexity, and more.
кусок памяти про меня в мем0 - видно, что сохраняют всякую метадату и категоризируют сниппеты они hard-coded тегами
user_preferences
professional_details
hobbies
health
family
entertainment
travel
technology
misc
Имхо(черновой вариант), для организации нужны как минимум такие:
- SOP (procedures/guidelines - для людей и роботов, уже можно на одном языке с markdown)
- OrgRolesStructure - какие роли кто исполняет, какие задачи в каких ролях, по каким срезам - в связке с SOP
- Actionable distinctions - task / project / kpi / objective / key result
- Meeting notes / chats summary
- Presentations and Reports
Metadata:
- valid_from, valid_to, (как в Zep),
- Approvals,
- Departments, etc
user_preferences
professional_details
hobbies
health
family
entertainment
travel
technology
misc
Имхо(черновой вариант), для организации нужны как минимум такие:
- SOP (procedures/guidelines - для людей и роботов, уже можно на одном языке с markdown)
- OrgRolesStructure - какие роли кто исполняет, какие задачи в каких ролях, по каким срезам - в связке с SOP
- Actionable distinctions - task / project / kpi / objective / key result
- Meeting notes / chats summary
- Presentations and Reports
Metadata:
- valid_from, valid_to, (как в Zep),
- Approvals,
- Departments, etc
Иногда бывает смутное чувство... что что-то упускаешь... не просто FOMO.... а что-то важное забыл...
И тогда нужно погулять на природе, заняться спортом, переключиться с мозга на физику (или наоборот), или даже на душу (о божечки)... ИИ с таким не поможет... но признаки утомления и начала выгорания, а также всяких пограничных состояних, может подсказать, и это полезная фича корпоративного ассистента-трекера тоже ... будет...
И тогда нужно погулять на природе, заняться спортом, переключиться с мозга на физику (или наоборот), или даже на душу (о божечки)... ИИ с таким не поможет... но признаки утомления и начала выгорания, а также всяких пограничных состояних, может подсказать, и это полезная фича корпоративного ассистента-трекера тоже ... будет...
❤1
Новый юз-кейс для корпоративного бота - "Терпеливый объяснятель"
Одного меня бесит, когда сотрудники не вдупляют элементарных вещей, ну типа того что если им подрядчик сказал "сегодня не могу, смогу дня через 3", и они разговор закончили, а задача важная, и другие подрядчики отказались - то надо бляха-муха позвонить еще раз и сказать что нам очень важно, скажите КОГДА вы КОНКРЕТНО сможете приехать?
Ну и еще тысяча мелочей из базовых правил коммуникации и делания дел/управления проектами
Еще вариант промпта к агенту "Проверь по сообщениям за сегодня, следуем ли мы написанным инструкциям, и если отклоняемся то от каких и где"
Одного меня бесит, когда сотрудники не вдупляют элементарных вещей, ну типа того что если им подрядчик сказал "сегодня не могу, смогу дня через 3", и они разговор закончили, а задача важная, и другие подрядчики отказались - то надо бляха-муха позвонить еще раз и сказать что нам очень важно, скажите КОГДА вы КОНКРЕТНО сможете приехать?
Ну и еще тысяча мелочей из базовых правил коммуникации и делания дел/управления проектами
Еще вариант промпта к агенту "Проверь по сообщениям за сегодня, следуем ли мы написанным инструкциям, и если отклоняемся то от каких и где"
🔥1
Очень важно помечать в своих заметках контент "созданный ИИ" чтобы не забывать его перепроверять
Иначе заметки будут похожи на сборник случайных статей из интернета
А очень важно доверять своей библиотеке, вернее, отделять "Библиотеку" чужих книг от своих, переваренных, знаний
Иначе заметки будут похожи на сборник случайных статей из интернета
А очень важно доверять своей библиотеке, вернее, отделять "Библиотеку" чужих книг от своих, переваренных, знаний
Переименовал канал, как напоминание - что мы аналоговые куски мяса с нематериальными душами
А то так легко про это забыть, в нашем цифровом мире... Будучи подгоняемыми аудио-дигитальным каналом, работающем на нейрокортексе...
А то так легко про это забыть, в нашем цифровом мире... Будучи подгоняемыми аудио-дигитальным каналом, работающем на нейрокортексе...
Кому лучший deep research?
Из последних не пробовал, вчера делал по юридическому вопросу, результат показал
1. Grok 3 вообще не понял входных данных, хотя там чётко в PDF по русски написано
2. Openai только o3 как то разобрался, но результат слабенький
3. Gemini 2.5 pro и Claude opus зажгли, 95% вводных поняли Без объяснений, чётко логично собрали по 500 сайтов и объяснили
Потом я обоим дал ответ другого и попросил оцени критически и улучшить, стало ещё лучше
Что порадовало особо, это то что gemini сделал даже повторный deep research в том же чате, когда я его попросил критически оценить собственный ответ с разных точек зрения. Составил план и сделал такое, что ни один юрист бы не сделал дешевле чем за штуку баксов, и то без гарантий.
Из последних не пробовал, вчера делал по юридическому вопросу, результат показал
1. Grok 3 вообще не понял входных данных, хотя там чётко в PDF по русски написано
2. Openai только o3 как то разобрался, но результат слабенький
3. Gemini 2.5 pro и Claude opus зажгли, 95% вводных поняли Без объяснений, чётко логично собрали по 500 сайтов и объяснили
Потом я обоим дал ответ другого и попросил оцени критически и улучшить, стало ещё лучше
Что порадовало особо, это то что gemini сделал даже повторный deep research в том же чате, когда я его попросил критически оценить собственный ответ с разных точек зрения. Составил план и сделал такое, что ни один юрист бы не сделал дешевле чем за штуку баксов, и то без гарантий.
👍1
Мужчины 30-45 наиболее подвержены влиянию ИИ (в среднем больше доверяют), следует из исследования.
Может, потому что именно эта возрастная группа создала ИИ по своему подобию в текущей фазе жизни? (идея от Кена Уилбера, его мысли про ИИ на ютубе)
Может, потому что именно эта возрастная группа создала ИИ по своему подобию в текущей фазе жизни? (идея от Кена Уилбера, его мысли про ИИ на ютубе)
https://semianalysis.com/2025/07/03/deepseek-debrief-128-days-later/#speed-can-be-compensated-for
Листая эту интуресную статью, наткнулся на парадокс
"Gemini 2.5 Pro and DeepSeek R1-0528 are more than 3 times as wordy as Claude."
Люди сравнивают эффективность по количеству выходных слов
Это понятно, когда результат тот же
Но результат вероятностен. Всегда есть риск ошибки.
И в некоторых вопросах, цена ошибки высока, и я хотел бы чтобы модель получше подумала
В своём последнем кейсе с юридическим вопросом, клод мне выдал не оптимальное решение. многословный гемини 2.5 pro дал другое решение. Когда я каждого попросил оценить решение другого, оба сошлись что решение гемини лучше.
Клод облажался именно потому, что мало "думал" - экономил токены.
Листая эту интуресную статью, наткнулся на парадокс
"Gemini 2.5 Pro and DeepSeek R1-0528 are more than 3 times as wordy as Claude."
Люди сравнивают эффективность по количеству выходных слов
Это понятно, когда результат тот же
Но результат вероятностен. Всегда есть риск ошибки.
И в некоторых вопросах, цена ошибки высока, и я хотел бы чтобы модель получше подумала
В своём последнем кейсе с юридическим вопросом, клод мне выдал не оптимальное решение. многословный гемини 2.5 pro дал другое решение. Когда я каждого попросил оценить решение другого, оба сошлись что решение гемини лучше.
Клод облажался именно потому, что мало "думал" - экономил токены.
Semianalysis
DeepSeek Debrief: >128 Days Later
Traffic and User Zombification, GPU Rich Western Neoclouds, Token Economics (Tokenomics) Sets the Competitive Landscape
За думание и глубокий анализ надо платить.
Ещё одна идея для нашего агента бизнес помощника в телеграме, оценивать цену вопроса, и в зависимости от этого выбирать модель, режим, лимит токенов, или вызов того или иного под агента
И в живых компаниях, мы ведь не дергаем ген директора закупить ручки в офис? Это логично
Ещё одна идея для нашего агента бизнес помощника в телеграме, оценивать цену вопроса, и в зависимости от этого выбирать модель, режим, лимит токенов, или вызов того или иного под агента
И в живых компаниях, мы ведь не дергаем ген директора закупить ручки в офис? Это логично
Вангую, через 20 лет будут зрелища "битва человекоподобных роботов", наподобие гладиаторских боев, бокса, битв петухов, как нибудь придумают
👎1😁1
Как работает ИИ, на простых примерах. На скриншоты последний ответ от чатгпт)
https://chatgpt.com/share/6868ccec-e280-8009-a621-05e125320261
https://chatgpt.com/share/6868ccec-e280-8009-a621-05e125320261
👏1😁1
Helpful prompt after AI completed any task:
PS When i want best results - i run Claude-Opus-4 & Extended Thinking mode
check yourself, didn't forget anything?
PS When i want best results - i run Claude-Opus-4 & Extended Thinking mode