Это короткое видео четко определяет в чем сейчас модели "не дотягивают" до людей

https://www.youtube.com/watch?v=TUjQuC4ugak&ab_channel=Chroma

Если все так же будет продолжаться, то "гонку" за увеличением контекстного окна будут прекращать. Ну берет гугл 1млн токенов, а толку? Узкое звено в том, как он внутри это все обрабатывает

Контекст инженирия - побольше релевантной инфы и поменьше дистракторов

Нет "one size fits all" решений - все как у людей, для Юриста и Пиарщика различные психотипы подходят лучше, по разному работать с памятью, и тд.

"Проф деформация" будет также и у моделей - не только ЛЛМ моделей, но и моделей применения памяти к различным ролям для различных задач

Мой ИИ-телеграм ассистент вот иногда не может найти релевантные сообщения в чате компании, пропускает - потому что я еще векторный поиск не прикрутил.
Потому что знаю, что мало "прикрутить" - надо еще отладить и настроить, и любое решение не оптимально

Не хватает (а может я не знаю?) инфраструктуры агентской памяти под разные задачи. Классификации видов памяти (кроме банально: граф getzep / vector mem0)

Много вопросов у меня крутится вокруг того, как сделать хорошего агента

К счастью, этим уже занимаются крупнейшие компании, у openai,google,grok,gemini - у всех флагман продукт - ИИ ассистент
ОпенАИ преуспели пока лучше всех, памят реализовали 2мя способами аш, мак приложение может следить за окнами, итд
Надо смотреть что они выкатывают

Но у меня еще много вопросов, до которых они может и не дойдут в "мульти-целевом" Ассистенте
Например,
- Как реализовать чтобы агент перебирал старую память и оптимизировал (как человек перед сном. или как mem0)
- Как реализовать, чтобы агент учился на опыте (формулировать lessons learned, в неком шаблоне, и сохранять в контекст?)
- Как научить агента ПРИОРИТИЗИРОВАТЬ задачи. Мне кажется, это вообще большая и важная сфера.
ИИ Приоритизирует тупо по контексту и первой попытке
Но любой человек, испытавший когда-то боль и затем страх, имеет встроенную систему приоритетов с детства - начиная с "не совать палец в огонь" до "начальнику лучше такие вещи не говорить"

Огромное поле для экспериментов :)

Ценный ютуб канал, однако - https://www.youtube.com/watch?v=vsfbplnJyA8&ab_channel=Chroma

ChatGPT - Гуманитарий-Креативщик
Gemini - Технарь, детальный задрот
Claude - Технарь, программист, который постоянно убегает с работы (заканчивается лимит подписки)
Grok - Гуманитарий-Журналист желтой прессы

Все студенты, over-энтузиазм с почти нулевым реальным опытом:
Никто не представляет себе что такое приоритеты, иерархия критериев(на деле, а не на словах)
Память у всех сбивчивая... ненадежная.. и иногда лучше ее отключать чтоб не мешала работе
Смена состояния и темы - мгновенная
Все научены поддакивать и льстить (кроме Grok-а)

А вот и развитие темы - как создать команду на claude code
Проджект менеджера, тестера, итд

https://youtu.be/Ppu6pJ5yyD4?si=o72F-UurXfAdOe6z

Вот что обычно «загружено» в голове владельца малого бизнеса — будто это внутренний контекст LLM, только живой:

1. Финансы (горячая сводка)

Сколько денег на счетах, кассе, в обороте — до копеек

Какие платежи / налоги / долги падают в ближайшие дни

Маржа по ключевым продуктам и ежедневный денежный «дыхательный ритм»


2. Продажи и клиенты

Текущие лид-каналы, конверсии, стоимость привлечения

Лицом запомнённые VIP-клиенты и сложные случаи, что нельзя «уронить»

Набор болей целевой аудитории, свежие отзывы, «красные лампочки» churn


3. Продукт / услуга

Сильные стороны, слабые места, ближайшие улучшения

Перечень фич, чей релиз «горит» сейчас, и идеи «на потом»

Себестоимость, узкие места производства/оказания


4. Операции

Ежедневные процессы: кто, что, когда делает; где может «закусить»

Поставщики / подрядчики, сроки поставок, текущий статус договорённостей

KPI: среднее время цикла заказа, процент брака, uptime оборудования


5. Команда и HR

Кого надо нанять / обучить / заменить, у кого сегодня день рождения

Настроение ключевых людей, риски выгорания или ухода

Фонд оплаты труда на ближайшие месяцы


6. Маркетинг

Активные кампании, их ROI в режиме «on-air»

Предстоящие акции, контент-план, коллаборации

Репутационные сигналы: что пишут в соцсетях прямо сейчас


7. Рынок и конкуренты

Цены конкурентов, новые продукты, их рекламные ходы

Изменения законодательства, курсов валют, сезонные колебания спроса

«Радар» трендов, которые могут вскоре переделать рынок


8. Риски и правовые моменты

Дебиторка, просрочки, судебные истории

Лицензии, инспекции, штрафы — чёткие дедлайны в голове

Страховые полисы, бэкапы, аварийные планы


9. Стратегия и личные цели

Цель выручки/прибыли к концу года и вектор развития на 3–5 лет

Личные мотивы: свобода времени, рост стоимости компании, выход на новые рынки

Баланс «работа-жизнь»: здоровье, семья, обучение


10. Микро-метаданные

Пароли, контакты, номера счётов, тайные скидки для «своих»

История переговоров «кто кому что обещал»

«Фактическая карта» офиса/склада: что где лежит


Всё это постоянно обновляется, всплывает по триггеру (письмо от клиента, счёт от поставщика) и складывается обратно, формируя непрерывный поток решений.

Introducing study mode | OpenAI
https://openai.com/index/chatgpt-study-mode/

Study mode button is really great,

Because in everything we are doing - we better be always learning!

"Under the hood, study mode is powered by custom system instructions we’ve written in collaboration with teachers, scientists, and pedagogy experts to reflect a core set of behaviors that support deeper learning including: ​​encouraging active participation, managing cognitive load, proactively developing metacognition and self reflection, fostering curiosity, and providing actionable and supportive feedback."

А ещё это интересно: Stanford разработал "виртуальных ученых" на базе ИИ: Инструмент для решения сложных биологических проблем, с 99% точностью и цитированием источников. Бесплатный, генерирует исследовательские бумаги как PhD. Ссылка: https://www.rohan-paul.com/p/stanford-creates-ai-virtual-scientists.

главный разраб из Клауде Коде ушел в Курсор - и через считанные недели, они выпустили cli-версию (как клод код)

Интересно )) что приживется, и победят ли они теперь его старое творение - claude code

First time my staff referenced our AI bot in working telegram chat. And it gave good answer! Future is close :)

Клауде Соннет играет слабоумного ))