Для общего понимания - я не умею программировать на java, python и прочих новых штуках, но верю, что это скоро и не будет нужно. Поэтому погружаюсь в такую штуку, которую Andrej Karpathy назвал vibe coding - программирование, когда почти все делает сама машина. Собственно, канал о моих исканиях в этом направлении
Вторую неделю борюсь с прикручиванием памяти к Клоду. Использую mcp протокол cognee. Вроде бы даже получилось, но только наполовину, где-то память работает, где-то - нет. Да все токены ушли - не хватило и на полчаса. И так каждый день, уже начал уставать.
Зашел на github почитать, что и как - увидел, что можно его прикрутить к cline, который я себе уже поставил на VSCode. Самое любопытное, что прикрутился, память отыскал, прочитал, как меня зовут. Взял за это 9 центов. Вот и думаю теперь, насколько она мне нужна, такая память
Зашел на github почитать, что и как - увидел, что можно его прикрутить к cline, который я себе уже поставил на VSCode. Самое любопытное, что прикрутился, память отыскал, прочитал, как меня зовут. Взял за это 9 центов. Вот и думаю теперь, насколько она мне нужна, такая память
Почему так на «память» налегаю - без этого реальный vibe coding невозможен. Надо либо все помнить самому, либо каждый раз запускать Клода изучать файлы проекта и тратить токены. Да это и просто полезно и удобно, будущее за этим
Сегодня развлекаюсь с рисованием презентаций с помощью ИИ. Это, конечно, не программирование. Полная жесть. Попробовал приложение к googledocs ScaleAI, Canva, Tome (не смог зарегистрироваться, бросил), Copilot в Office 365, Presentation AI, Beautiful AI, Gamma...
Хоть как-то можно обсужать - это Copilot в Office 365 и Gamma, Beautiful AI тоже может и сможет, но реквизиты карточки вводить не хочется. Вожусь с гаммой. Оказалось, что в chatGpt можно рисовать картинки. Его, конечно, несет, но получается иногда прикольно ))
Хоть как-то можно обсужать - это Copilot в Office 365 и Gamma, Beautiful AI тоже может и сможет, но реквизиты карточки вводить не хочется. Вожусь с гаммой. Оказалось, что в chatGpt можно рисовать картинки. Его, конечно, несет, но получается иногда прикольно ))
🔥1
Forwarded from ForkLog AI
This media is not supported in your browser
VIEW IN TELEGRAM
В демонстрационном ролике продемонстрирована работа цифрового помощника: он находит носки на Walmart, покупает билеты на футбольный матч на сайте клуба и ищет рейс и отель с помощью Booking.
Пользователи могут следить за работой Browser Operator и в любой момент взять управление экраном под личный контроль. По словам Opera, ее агент безопаснее аналогов, поскольку он работает на устройстве, а не на облачном экземпляре браузера или виртуальной машине.
Новости | AI | YouTube
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Data Secrets
Вышла интересная статья, в которой показали эффективный способ расширения контекстного окна
Продолжается борьба между сторонниками RAG и модельного подхода, в котором контекстное окно пытаются расширить только за счет архитектурных хаков, а не за счет пост-оберток. На эту тему выходит все больше статей. Самая яркая из последних – Infinite Retrieval из Китая.
В этой работе впервые показали способ расширения контекста, который выбивает 100% на бенчмарке «Иголка в стоге сена». Это когда мы вставляем целевое предложение («иглу») в корпус случайных документов («стог сена») и задаем вопрос, на который можно ответить, только используя информацию в «игле».
Раньше некоторые подходы тоже выбивали 100%, НО только на исходном размере контекстного окна модели. А тут взяли малюсенький Qwen2.5-0.5B-Instruct с контекстом 32К, расширили контекст до 1 миллиона (!) и получили результат 100%. Очень круто. Разбираемся, что под капотом 👇
В целом, все построено на привычном подходе кэширования ключей и значений для критически важной информации. Но есть два ключевых отличия:
Чем-то похоже на недавнюю статью DeepSeek (наш разбор). Очень ждем, пока что-то такое наконец будет в опенсорс продакшене.
arxiv.org/abs/2502.12962
Продолжается борьба между сторонниками RAG и модельного подхода, в котором контекстное окно пытаются расширить только за счет архитектурных хаков, а не за счет пост-оберток. На эту тему выходит все больше статей. Самая яркая из последних – Infinite Retrieval из Китая.
В этой работе впервые показали способ расширения контекста, который выбивает 100% на бенчмарке «Иголка в стоге сена». Это когда мы вставляем целевое предложение («иглу») в корпус случайных документов («стог сена») и задаем вопрос, на который можно ответить, только используя информацию в «игле».
Раньше некоторые подходы тоже выбивали 100%, НО только на исходном размере контекстного окна модели. А тут взяли малюсенький Qwen2.5-0.5B-Instruct с контекстом 32К, расширили контекст до 1 миллиона (!) и получили результат 100%. Очень круто. Разбираемся, что под капотом 👇
В целом, все построено на привычном подходе кэширования ключей и значений для критически важной информации. Но есть два ключевых отличия:
1. Текст предварительно разбивается на логически завершённые сегменты. Так, чтобы в кэше оставались не отдельные токены, а самые важные законченные мысли
2. Определение значимости сегментов встраивается не поверх, а прямо последним слоем в модель. То есть релевантная информация извлекается прямо во время инференса
Чем-то похоже на недавнюю статью DeepSeek (наш разбор). Очень ждем, пока что-то такое наконец будет в опенсорс продакшене.
arxiv.org/abs/2502.12962
Вот надо изучать тему. Есть ощущение, что небольшие нейросетки, предназначенные для эмбеддинга в RAG нужно обучать, используя свою специфику - типа графа знаний в предметной области. План примерно такой:
Первый прогон данных, составление базы знаний;
Файн-тьюнинг нейросетки для эмбеддинга с учетом этого графа и базы знаний;
Ембеддинг на дообученной нейросетке
Во-первых, это маленькие сетки, и должно быть недорого. Во-вторых, действительно должны быть логически законченные конструкции в чанках, что должно быть очень полезно
Первый прогон данных, составление базы знаний;
Файн-тьюнинг нейросетки для эмбеддинга с учетом этого графа и базы знаний;
Ембеддинг на дообученной нейросетке
Во-первых, это маленькие сетки, и должно быть недорого. Во-вторых, действительно должны быть логически законченные конструкции в чанках, что должно быть очень полезно