Заблуждение о токенизации и обработке текста

Одним из наиболее распространенных и важных для понимания заблуждений является представление о том, что LLM обрабатывают текст на уровне отдельных букв или символов. Карпати объясняет, что современные языковые модели работают с токенами - фрагментами текста, которые могут представлять части слов, целые слова или даже фразы. Этот процесс токенизации создает словарь из десятков тысяч токенов. Токен при этом состоит не из букв в человеческом понимании. Токен - это набор цифр в таком виде [302, 1618, 19772] (так LLM видит слово strawberry).

Токенизация является корнем многих ограничений LLM, которые пользователи ошибочно приписывают архитектуре или алгоритмам обучения. Классический пример, который приводит Карпати - неспособность модели правильно подсчитать количество букв "r" в слове "strawberry". Поскольку слово может быть токенизировано как "st" + raw" +"berry", модель не имеет прямого доступа к отдельным символам, потому что видит его так [302, 1618, 19772]. Это объясняет, почему мощные языковые модели могут решать сложные математические задачи, но испытывают трудности с простым подсчетом символов.

В экспериментаторской есть раздел с объяснением понятия токен и калькулятор для подсчета количество токенов в тексте:
экспериментаторская.рф/tiktoken
Можете поиграться с этим на досуге.

Это серия постов с заблуждениями об ЛЛМ. Предыдущий здесь.

LawCoder

Проблема галлюцинаций: особенность, а не дефект

Все слышали про то, что ЛЛМ могут галлюцинировать, т.е. ошибаться, придумывать несуществующие факты и т.д. И естественно реакцией является: ну, вот эта ЛЛМ еще несовершенная, сейчас умные умы её допилят и она не будет ошибаться, т.е. галлюцинировать.

Но Карпати в своих объяснения говорит, что это не баг, а фича. Все что делает ЛЛМ это постоянные галлюцинации. Карпати называет ЛЛМ "машины снов" (dream machines). В этом её принципиальное отличие от алгоритмических систем, в которых вы даете что-то конкретное на вход и получаете 100% контролируемый результат на выходе.

Для решения проблемы галлюцинаций в практических приложениях Карпати предлагает такие методы как RAG (Retrieval Augmented Generation), использование множественной генерации с проверкой, цепочки верификации и применение внешних инструментов. Эти подходы позволяют "заземлить" креативные способности модели в фактических данных.

Но это уже на мой субъективный взгляд, по сути просто костыли, которые мы прикручиваем к изначально проблемной технологии.

Это серия постов с заблуждениями об ЛЛМ. Предыдущий здесь и здесь.

LawCoder

Заблуждение о математических способностях

Особое внимание в своих видео Карпати уделяет заблуждению о математических способностях LLM. Популярнейший мем, который он разбирает - неспособность некоторых моделей правильно сравнить числа 9.11 и 9.9. Модели довольно часто ошибочно отвечают, что 9.11 больше 9.9, что кажется абсурдным.

Карпати объясняет, что эта ошибка возникает из-за того, что модель обнаруживает корреляцию с библейскими стихами, где 9:11 действительно следует после 9:9 в порядке нумерации. Это демонстрирует, как LLM полагаются на статистические паттерны из обучающих данных, а не на логическое понимание арифметики.

Одним из возможных решением этой проблемы по мнению Карпати является просьба к модели использовать программный код для вычислений вместо "ментальной арифметики".

Поэтому и я тоже не советую вам пихать свои таблички в чат жипити с просьбой что-то посчитать. Он сделает и без проверки будет казаться, что все очень круто, но с вероятностью 99% там будет все очень печально. Не подставляйтесь так, лучше попросите его написать вам скрипт на GAS, запустив который все будет посчитано как надо, с помощью надежных алгоритмов, а не галлюцинаций ИИ.

Это серия постов с заблуждениями об ЛЛМ. Предыдущие здесь, здесь и здесь.

LawCoder

Концепция "зубчатого интеллекта"

Думаю, что многие из вас зайдя в очередной расхайпленный чат-бот с ИИ и не зная, что бы такого действительно полезного спросить, начинают с чего-нибудь вроде "А и Б сидели на трубе." и других логических задачек для детского садика. И когда вдруг чат-бот не может разгадать казалось бы столь легкую загадку, вы ликуете и закрываете чатик с чувством собственного превосходства со словами: "Да уж, далеко этой машине до меня... Долго еще она не сможет заменить такого умника как Я!".

Но почему так происходит, ведь все вокруг только и говорят о том как круто ЛЛМ решают ту или иную задачу, программирует на уровне мидлов, легко переваривает огромные массивы информации извлекая из них суть и т.д. и т.п?

Объясняя этот феномен Карпати ввел термин "jagged intelligence" (зубчатый интеллект). Этот концепт объясняет, почему языковые модели могут превосходить людей в решении сложных задач, но терпят неудачу в простых логических упражнениях.
"Зубчатый интеллект" проявляется в том, что модели демонстрируют выдающиеся результаты в областях, близко совпадающих с их обучающими данными, но показывают неожиданные провалы в задачах, требующих базовой логики или здравого смысла. Например, модель может написать сложное эссе о квантовой физике, но ошибиться в подсчете букв в простом слове.

Причина этого феномена кроется в том, что LLM не обладают истинным "пониманием" задач. Они полагаются на распознавание паттернов, а не на внутреннее осмысление, которым обладают люди. Это ограничение подчеркивает важность понимания того, что современный ИИ представляет собой очень мощный инструмент распознавания паттернов, а не систему общего интеллекта. Так что лучше пользуйтесь этой супер-силой, а не пытайтесь поставить её в тупик задачами на логику из детского сада, в этом нет никакого смысла.

Это серия постов с заблуждениями об ЛЛМ. Предыдущие здесь, здесь, здесь и здесь.

LawCoder

Ля чё купил

ИИ-агент ≠ ИИ-бот ≠ автоматизация

Этот год смело можно называть годом ИИ-агентов. Про них слышно из каждого утюга. Все их хотят себе в помощники, но не все понимают о чем на самом деле говорят.

Просто запилить бота, которому вы, например, кинете договор, а он вам проверку по чек-листу сделает и вернет результат, не равно сделать ИИ-агента, помощника юриста. Сделав такого бота вы просто автоматизировали общение с ЛЛМ, убрав стандартный интерфейс предлагаемый вендором, и заменив его на удобный вам, к примеру телеграм.

ИИ-агент это другое, это бот, который сам принимает решения. Т.е. вы ему кинули договор, а он такой: "так, мне прислали договор. Что я могу/должен с ним сделать? Задам юзеру уточняющий вопрос, но для начала схожу в базу данных компании за доп. информацией о процессах компании по договорной работе, чтобы понимать кто из сотрудников ко мне обратился, из какого он отдела, на каком этапе мы находимся и какие вопросы я должен уточнить для правильного действия." или, например, бот сразу видел, что документ подписан с двух сторон и с учетом должности сотрудника (документооборотчик) и регламента сразу понял, что документ нужно не рассмотреть, а просто сохранить в архив, но перед этим еще зашел в срм и получил подтверждение, что все сотрудники этот договор согласовали, а стороны подписали утвержденный текст документа.

Т.е. у такого бота нет четких скриптов/инструкций, он уже достаточно умненький должен быть, чтобы самому понять чего вы от него хотите, с помощью тех инструментов которые вы к нему прикрутите.

Это серия постов с заблуждениями об ЛЛМ. Предыдущие здесь, здесь, здесь, здесь и здесь.

LawCoder

Я не знаю когда юристов-профессионалов полностью смогут заменить ИИ-агенты, кажется что не скоро, но профессиональным жополизам точно уже пора приготовиться)

LawCoder

Удалил экспериментаторскую, вернул токен, выпилился из бесполезных чатов и каналов

Зачем удалил экспериментаторскую?
В попытках несколько раз реанимировать экспериментаторскую, я нашел только один выход - удолить и начать новый проект с нуля. Пока только непонятно какой. С завтрашнего дня в отпуске, вот и подумаю.
Склоняюсь к тому чтобы все-таки довести свое AJTBD-исследование лигатех потребностей юристов до ума, а потом запустить сервис с подпиской, но с такой ценой чтобы просто окупала затраты на проект.

Зачем вернул токен от опенаи?
Думаю, что мало кто помнит, но в октябре 2024 Валентин Микляев нам дал ключ от опенаи, чтобы мы могли тут хорошенько поэкспериментировать с чатом жипити. Эксперимент не удался. Вовлечь аудиторию в процесс создания новых легалтех продуктов и экспериментов с ИИ-юризмом у меня не получилось. В этом направлении я сворачиваю активность, а токен соответственно возвращаю.

Зачем выпилился из бесполезных чатов и каналов?
Надо разгрузить мозг от информационного шума.

LawCoder

Выхожу из отпуска с инсайтом и просьбой к вам. Пожалуйста, когда в следующий раз напишу такой пост, напомните мне принять таблетки и перечитать вот этот)

А мне одному кажется или у вас тоже складывается такое ощущение, что тема с ИИ, начинает напоминать тему с NFT? И там и там в основе классная технология, но в большинстве случаев фантазии пользователей хватает применить её на картинки. Только в случае с NFT брали готовые картинки и регистрировали в реестре на блокчейне, а с ИИ просто генерим картинки, ну и кринжовенько-криповенькие видосики еще теперь.

А взять юризм, ну МЧД за все эти годы выдавили из себя, про смарт-контракты еще многие слышали, но не оч понимают что это не умный контракт, а программа на самом деле, не юризм в общем.

Вот с ИИ по-моему также натужно получается... Маркетологи еще подогревают тему: "Если ты не оседлаешь ИИ, ИИ оседлает тебя!" и каждый судорожно пытается придумать как же эту технологию заюзать, но нормальных кейсов практически не видно при этом.

Прочитал сегодня пост с манифестом самому себе Валентина Микляева:

Моя миссия заключается в том, чтобы снизить количество конфликтов в мире. Делать это можно совершенно разными способами, и во многом начинать надо с себя, бизнес-сообществ, детских домов, школ, людей, попавших в точки конфликтов. И надо делать.

Я написал это обращение как манифест для самого себя. Далее я займусь программой реализации этой миссии.

Сначала просто кинул коммент, что мы в WMT уже делаем и продаем такую штуку, а потом вспомнил, что здесь про свою работу еще не рассказывал. Решил рассказать, а потом подумал: "да ну нафик, кому это будет интересно. Юризм и юризм, что на мяскомбинате, что в банке, что в айтишке одинаковый", но вот про продукт можно пару слов и замолвить.

Так вот, компания в которой я юристом работаю уже делает и продает продукт "Empany". Под капотом продукта система анализа коммуникаций внутри организации, которая использует систему лексического анализа на основе нейросетей и психологических методологий исследования коммуникаций.

Если простым языком, то устанавливаешь расширение браузера, и в гугл мит когда кто-то из собеседников начинает стрессовать ты это видишь и плагин тебе подсказывает как нужно прокоммуницировать, какие слова подобрать чтобы сгладить конфликтную ситуацию. Руководство же через систему контроля, тоже видит все коммуникации сотрудников и отслеживает уровень стресса, и если видит что уровень стресса в команде растет, принимает меры.

Вот так вот, похвастался, кароч, пойду заниматься скучным юризмом)

Рубрика яжигаварил

Ну вот, ЧТД, век промт-инженеров подходит к концу, как я и предрекал он был недолог...

На сцену выходят контекст-инженеры. Можете гнать (если, конечно, успели нанять) своих промт-инженеров взашей и срочно бежать нанимать контекст-инженеров!)

Ля сари, чо падпищеки умеют:

https://github.com/Herrmajor01/KadBot

Сам ещё не пробовал, но если работает, будет очень полезно сообществу. Очень часто просят парсер kad arbitr'а в комментах.

Ля сари, чо нашол

Видео с кликбетным(?) заголовком "ИИ — это не интеллект" в котором участвуют Семихатов, Сурдин и Марков надо обязательно смотреть. Надеюсь подкинут мне аргументов для споров с теми кто считает иначе)

Жаль впереди рабочий день, так бы прям сейчас уже залип.

Ссылка на видос:
https://youtu.be/WrmW_d5NHOg?si=fozNh4n_jKkQmCjb

Всем привет!

В свободное время переписываю вот это расширение. Хочу сделать его универсальным, чтобы можно было заполнять любую форму на любом сайте где есть данные из ЕГРЮЛ, а не только заранее захардкоженные мной в скрипте.

Логика очень простая, сначала берем верстку страницы и отправляем в LLM по API с просьбой найти соответствующий поля формы и их идентификаторы для заполнения, получаем от нейронки json, который сохраняем и используем/переиспользуем как схему для последующего заполнения данных ЮЛ по ИНН.

Расширение уже практически написано, на сайте РКН работает хорошо. Накидайте, плис, других сайтов на которых есть бесячие формы, потестирую на них перед тем как выложить в опенсурс.

LawCoder

Прочитал тут сегодня пост радости Кирилла Бурякова от победы докзилы в битве конструкторов договоров. Жду что-то похожее от ноурутс (да и от других вендоров тоже), который как мы помним не захотел на Арену, но теперь видимо придется достойно ответить и устроить что-то похожее, но более безопасное для бизнеса, чем слепой тест на Арене. Что-то такое где ты, к примеру, спонсор мероприятия, а организаторы не хотят тебя обидеть-потерять и если и критикуют, то тщательно подбирая формулировки, чередуя с теплыми поглаживаниями. *

Поймал себя на мысли, что в этот раз у меня даже не подорвало пукан ёкнуло, давно уже я перегорел с Ареной. Мне хотелось там сравнивать продукты наших легалтех вендоров, а не просто Gemini с чатом жипити, как потом пришлось сделать потому что все до кого я смог дотянуться отказались. Кстати, для тех кто хочет просто сравнивать модельки ллм между собой, то вот здесь есть соответствующая арена для слепых тестов. Но это не мое, это программисты для программистов сделали.

А нас, юристов, я думаю ждет развитие идеи с батлами/аренами, но такими, которые мы заслужили, в которых бизнес выигрывает, а не мы - обычные пользователи.

* Дисклеймер: этот пост исключительно моя фантазия. Ни на что не намекаю, какими-либо инсайдами не обладаю и никого ни в чем не пытаюсь обвинить.

Давненько я не брал в руки шашек писал на VC

Решил оживить VC, скинул notebooklm ссылку на корневую страницу моего блога и попросил его взять любую заметку, в которой я обещал продолжить тему, но не сделал этого и написать продолжение в моем стиле. Нейросеть выбрала эту заметку и написала вот такой пост:
Как юристу докрутить свой RAG-бот до идеала: секреты точного поиска и ответы без воды

В целом результат меня удовлетворил, пришлось удалить только совет в 3 пункте про роль:

Роль и цель: Укажите LLM, что она выступает в роли «юридического консультанта» или «помощника адвоката», это может помочь ей адаптировать стиль и тон ответа.

Фу, такой быть, не надо так нейросеть, веди себя нормально... В остальном оставил без редактуры.

Пользуйтесь лайфхаком, продолжим добивать VC бесполезным спамом вместе))

LawCoder

Поддержите ИИ лайком на VC, не здесь, а именно на VC. Пусть повесит в топе, он этого достоин. Он очень старался. Сам писал скрипт, который его запустил, сам писал статью на животрепещущую тему, сам опубликовал:

Как юристу не стать промт-инженером, а сразу вырасти до контекст-инженера: 5 ключевых принципов

Киберпанк, который мы заслужили. Но я обещаю, что он послужит еще нам на благо, не для щитпостинга я его начал делать, а для бесплатного курса для дорогих подпищеков, но об этом чуть позже напишу, а пока с вас лайк на VC, не здесь, пожалуйста!

LawCoder

Мальчик в свой день рождения: ждет подарков.
Мужчина в день своего сорокалетия: сам пишет себе подарок - агента, который будет собирать данные по СПС, переваривать и писать заключения вместо него, ибо на 5 десятке хочется немного уже подрасслабиться)

На видео дописанная логика первичного сбора данных. На следующем этапе буду искать хорошо работающий алгоритм переваривания этой инфы с помощью ИИ.

LawCoder

Выгрузил 20 ссылок из гаранта на тему расторжения трудового договора. И по сути этим уже можно пользоваться. Например, скормить в ноутбукЛМ и получить вот такую ментальную карту. Говорят 40-летние мужики балдеют с этой прикормки.

А в комментах оставлю аудоподкаст на тему "Расторжение трудового договора" сделанный нейронкой там же. Зацените, если еще не в курсе про такой инструмент.