https://semianalysis.com/2025/07/03/deepseek-debrief-128-days-later/#speed-can-be-compensated-for
Листая эту интуресную статью, наткнулся на парадокс
"Gemini 2.5 Pro and DeepSeek R1-0528 are more than 3 times as wordy as Claude."
Люди сравнивают эффективность по количеству выходных слов
Это понятно, когда результат тот же
Но результат вероятностен. Всегда есть риск ошибки.
И в некоторых вопросах, цена ошибки высока, и я хотел бы чтобы модель получше подумала
В своём последнем кейсе с юридическим вопросом, клод мне выдал не оптимальное решение. многословный гемини 2.5 pro дал другое решение. Когда я каждого попросил оценить решение другого, оба сошлись что решение гемини лучше.
Клод облажался именно потому, что мало "думал" - экономил токены.
Листая эту интуресную статью, наткнулся на парадокс
"Gemini 2.5 Pro and DeepSeek R1-0528 are more than 3 times as wordy as Claude."
Люди сравнивают эффективность по количеству выходных слов
Это понятно, когда результат тот же
Но результат вероятностен. Всегда есть риск ошибки.
И в некоторых вопросах, цена ошибки высока, и я хотел бы чтобы модель получше подумала
В своём последнем кейсе с юридическим вопросом, клод мне выдал не оптимальное решение. многословный гемини 2.5 pro дал другое решение. Когда я каждого попросил оценить решение другого, оба сошлись что решение гемини лучше.
Клод облажался именно потому, что мало "думал" - экономил токены.
Semianalysis
DeepSeek Debrief: >128 Days Later
Traffic and User Zombification, GPU Rich Western Neoclouds, Token Economics (Tokenomics) Sets the Competitive Landscape
За думание и глубокий анализ надо платить.
Ещё одна идея для нашего агента бизнес помощника в телеграме, оценивать цену вопроса, и в зависимости от этого выбирать модель, режим, лимит токенов, или вызов того или иного под агента
И в живых компаниях, мы ведь не дергаем ген директора закупить ручки в офис? Это логично
Ещё одна идея для нашего агента бизнес помощника в телеграме, оценивать цену вопроса, и в зависимости от этого выбирать модель, режим, лимит токенов, или вызов того или иного под агента
И в живых компаниях, мы ведь не дергаем ген директора закупить ручки в офис? Это логично
Вангую, через 20 лет будут зрелища "битва человекоподобных роботов", наподобие гладиаторских боев, бокса, битв петухов, как нибудь придумают
👎1😁1
Как работает ИИ, на простых примерах. На скриншоты последний ответ от чатгпт)
https://chatgpt.com/share/6868ccec-e280-8009-a621-05e125320261
https://chatgpt.com/share/6868ccec-e280-8009-a621-05e125320261
👏1😁1
Helpful prompt after AI completed any task:
PS When i want best results - i run Claude-Opus-4 & Extended Thinking mode
check yourself, didn't forget anything?
PS When i want best results - i run Claude-Opus-4 & Extended Thinking mode
People too much believe what "new god" (ChatGPT/AI/LLMs) are telling them
For that reason, I would like to add to "system prompt" of my ai agents:
For that reason, I would like to add to "system prompt" of my ai agents:
Always start your response with "I guess, "
🔥1
Человеческая память не затухает "Постепенно", и тем более не резко, как обрезается контекстное окно LLM в типичном chatGPT
У нас людей все по хитрому
1. Да, мы базово помним лучше то, что недавно (фактор времени - учтем)
2. Но также мы хорошо запоминаем то, что нам дает эмоции (не важно даже какие, важна амплитуда-сила эмоций)
3. Еще, мы перед сном и в трансе, неосознанно, перекладываем недавнюю память в долгосрочную (суммаризация, делание выводов, построение новых связей. Возможно, также изменение старых)
4. Возможно, какие-то еще процессы
Но сосредоточимся для начала на пункте 2:
Хорошо ли мы запоминаем свои обязанности, например? своей Роли?
Ну, так себе
Мои сотруднии точно факапят
А когда у меня самого куча ролей, я тоже забываю
А что я помню хорошо?
Как натренированный за уже 12 лет бизнеса предпринимателский мозг, я четко осознаю, когда тема "пахнет деньгами" (получением или потерей) - и такие темы держу "на карандаше". Например, если в диалоге что-то упомянули 5 минут назад и это зацепило подобные мои триггеры - я могу забыть все что говорилось с 4й до текущей минуты, но то что зацепило - буду помнить, "держать в памяти" (иногда это также вызывает трансвое состояние)
Другой пример от сотрудников - слово "ответственность" для большинства не значит НИ-ЧЕ-ГО, до того момента, когда их нахлобучивают последствия (часто не приятные - штраф и потеря). Тогда возникает эмоция, и в следующий раз то, что ассоциируется (подобные ситуации) будут запоминаться, а не пропускаться мимо ушей
Как бы это смоделировать для ИИ игента? ну, не все, но только лучшее из подобного свойства
Банально, как минимум, чтобы если в длинном диалоге начинается обрезатсья контекстное окно с конца(то есть с самого дальнего) - чтобы он ВСЕ РАВНО держал "в фокусе" (в приоритетном месте контекстного окна) ключевые моменты
1. Его роль (если не прописана в системном промпте)
2. Текущую решаемую задачу
3. чтото еще..
LLM как и люди, путается от многозадачности...
У нас людей все по хитрому
1. Да, мы базово помним лучше то, что недавно (фактор времени - учтем)
2. Но также мы хорошо запоминаем то, что нам дает эмоции (не важно даже какие, важна амплитуда-сила эмоций)
3. Еще, мы перед сном и в трансе, неосознанно, перекладываем недавнюю память в долгосрочную (суммаризация, делание выводов, построение новых связей. Возможно, также изменение старых)
4. Возможно, какие-то еще процессы
Но сосредоточимся для начала на пункте 2:
Хорошо ли мы запоминаем свои обязанности, например? своей Роли?
Ну, так себе
Мои сотруднии точно факапят
А когда у меня самого куча ролей, я тоже забываю
А что я помню хорошо?
Как натренированный за уже 12 лет бизнеса предпринимателский мозг, я четко осознаю, когда тема "пахнет деньгами" (получением или потерей) - и такие темы держу "на карандаше". Например, если в диалоге что-то упомянули 5 минут назад и это зацепило подобные мои триггеры - я могу забыть все что говорилось с 4й до текущей минуты, но то что зацепило - буду помнить, "держать в памяти" (иногда это также вызывает трансвое состояние)
Другой пример от сотрудников - слово "ответственность" для большинства не значит НИ-ЧЕ-ГО, до того момента, когда их нахлобучивают последствия (часто не приятные - штраф и потеря). Тогда возникает эмоция, и в следующий раз то, что ассоциируется (подобные ситуации) будут запоминаться, а не пропускаться мимо ушей
Как бы это смоделировать для ИИ игента? ну, не все, но только лучшее из подобного свойства
Банально, как минимум, чтобы если в длинном диалоге начинается обрезатсья контекстное окно с конца(то есть с самого дальнего) - чтобы он ВСЕ РАВНО держал "в фокусе" (в приоритетном месте контекстного окна) ключевые моменты
1. Его роль (если не прописана в системном промпте)
2. Текущую решаемую задачу
3. чтото еще..
LLM как и люди, путается от многозадачности...
🛵 У вьетнамцев 3 национальные забавы, рейтинг по популярности:
3️⃣ Бильярд
2️⃣ Караоке
1️⃣Уворачиваться друг от друга на байках на перекрёстках (сигналя для бодрости)
Ощущения были разные — в целом, тут как будто даже чище, чем в Тае, и как‑будто искренней: не улыбаются, когда не о чем, но по умолчанию все ещё приветливые и добрые.
Дананг напомнил Чианг Май, только больше и с морем.
Сходил на встречу местных русскоговорящих — по воскресеньям в ледяную ванну окунаются. Публика интересная: уровень скорее самуйский, чем пангановский. Есть и стартаперы, и лёгкие эзотерики. Тех кто ради подешевле приехал — не большинство.
В целом Дананг и Вьетнам мне понравился, в следующий раз хочу мото тур через всю страну
#travel@lifedeejay
3️⃣ Бильярд
2️⃣ Караоке
1️⃣
Ощущения были разные — в целом, тут как будто даже чище, чем в Тае, и как‑будто искренней: не улыбаются, когда не о чем, но по умолчанию все ещё приветливые и добрые.
Дананг напомнил Чианг Май, только больше и с морем.
Сходил на встречу местных русскоговорящих — по воскресеньям в ледяную ванну окунаются. Публика интересная: уровень скорее самуйский, чем пангановский. Есть и стартаперы, и лёгкие эзотерики. Тех кто ради подешевле приехал — не большинство.
В целом Дананг и Вьетнам мне понравился, в следующий раз хочу мото тур через всю страну
#travel@lifedeejay
👏1
Это гений
Создаёт тесты которые ии не могут пройти, а проходят дети от 4 лет (ARC - https://arcprize.org/)
Определил что такое интеллект (это не IQ)
Из этого инженерного определения создают прототипы мыслящих и решающих любые задачи существ
Сюрпризом было, что инновация это все таки комбинаторика, потому что как фрактал, в мире все повторяется
2 типы абстракций, из которых все зависит от складывается. (как левое и правое полушарие)
Удивительно что то, что сейчас называют ИИ, автоматизировало как раз правополунарную работу
Левополушарная уже немного делалась кодом
И сейчас на острие прогресса, научить компьютеры использовать "оба полушария"
Чтобы они могли разобраться в новом месте, где не понятны ни обьекты, ни инструменты, ни цели задачи (ничего не напоминает?)
https://youtu.be/5QcCeSsNRks?si=P5HpJ-lqNuhKXvYf
UPD: Current leaderboard - https://arcprize.org/leaderboard - Grok4 чуть продвинулся
Создаёт тесты которые ии не могут пройти, а проходят дети от 4 лет (ARC - https://arcprize.org/)
Определил что такое интеллект (это не IQ)
Из этого инженерного определения создают прототипы мыслящих и решающих любые задачи существ
Сюрпризом было, что инновация это все таки комбинаторика, потому что как фрактал, в мире все повторяется
2 типы абстракций, из которых все зависит от складывается. (как левое и правое полушарие)
Удивительно что то, что сейчас называют ИИ, автоматизировало как раз правополунарную работу
Левополушарная уже немного делалась кодом
И сейчас на острие прогресса, научить компьютеры использовать "оба полушария"
Чтобы они могли разобраться в новом месте, где не понятны ни обьекты, ни инструменты, ни цели задачи (ничего не напоминает?)
https://youtu.be/5QcCeSsNRks?si=P5HpJ-lqNuhKXvYf
UPD: Current leaderboard - https://arcprize.org/leaderboard - Grok4 чуть продвинулся
❤2