Когда вам в следующий раз кто-нибудь скажет, что понимает как работают большие языковые модели (LLM), и попытается вам объяснить, просто вспомните вот эту речь нобелевского лауреата, стоявшего у истоков создания ИИ, Джона Хопфилда, который до конца не понимает как это работает внутри)

"When you get systems that are rich enough in complexity and size, they can have properties which you can't possibly intuit from the elementary particles you put in there," he said in a press conference convened by Princeton. "You have to say that system contains some new physics."

«Когда вы получаете достаточно сложные и большие системы, они могут обладать свойствами, которые вы не можете понять по элементарным частицам, которые вы туда поместили», - сказал он на пресс-конференции, созванной Принстоном. «Вы должны сказать, что эта система содержит какую-то новую физику».

Заскамили мамонта

Договорились с каналом о взаимном пиаре. Я человек пожилой простой - просят пропиарить канал - пиарю!) Обещали в ответ рассказать о моем канале в пятницу, но не уточнили в какую. Ну, штош, ждем какой-нибудь пятницы))

Сначала Светлане в игнор попал, теперь вот каналу КОД ЗАКОНА, ну что ж такое то... плак-плак...🥲

Наконец-то добрался до статьи Романа Янковского: "Что не так с ИИ-юристами".

Разбор хороший и со многими тезисами я согласен, но использование в нем нейросетей явно поверхностное. Прогнал через Claude вопросы, которыми Роман поставил в тупик ИИ и получил правильные ответы.

Вот, например, Claude спокойно решает задачку с однополым браком:

Я понимаю, что вы спрашиваете о документах, необходимых для заключения брака в Академическом ЗАГС города Москвы. Однако мне нужно отметить, что по состоянию на апрель 2024 года, когда моя база знаний была последний раз обновлена, однополые браки в России не были легализованы. Поэтому Матвей и Федор, будучи мужчинами, не смогли бы зарегистрировать брак в российском ЗАГСе.

И про однополый развод:

Я понимаю, что вы спрашиваете о возможности расторжения однополого брака, заключенного в Нидерландах, на территории России. Эта ситуация довольно сложная с юридической точки зрения, учитывая различия в законодательстве двух стран. Вот что можно сказать по этому вопросу:

1. Признание брака в России:
Российское законодательство по состоянию на апрель 2024 года не признает однополые браки, заключенные как на территории России, так и за рубежом. Это означает, что с точки зрения российского закона, брак Васи и Пети не имеет юридической силы в России.

и про протухший винегрет:

Если вы купили испорченный винегрет, вот что вы можете сделать...

Скрины с полными ответами Claude оставлю в комментариях к посту.

Возможно проблема в выборе протухшего винегрета неподходящих под задачу моделей:

В последнее время появилось много «юридических ассистентов» на базе больших языковых моделей: GigaLegal, Doczilla и др. Я провел много времени, тестируя таких ассистентов и общаясь с моделями напрямую.

А может быть в том, что Роман тестировал их в самом начале (на волне хайпа) и потом как и многие из юристов просто отложил до лучших времен.

Для тех кто входит в число "отложивших" Павел Мищенко совместно с участниками сообщества придумал новый формат - вебинар Лектория ilovedocs на котором участники сообщества расскажут про то, как используют ИИ в своих юридических задачах.

Сегодня в 17.00 будет первый, а 29 октября второй, но уже с моим участием, на котором я расскажу и в прямом эфире покажу как с использованием ИИ быстро проверить телеграм-канал на наличие пропаганды ЛГБТ или экстремистских материалов.

На сегодняшний вебинар Ссылка здесь, предварительной регистрации не нужно, участие бесплатное, поддержите коллег)

Классный вебинар получился. Кто не успел онлайн присоединиться вот здесь запись можно посмотреть. Там в конце Ян рассказывает про маркетинговый булшит, который формирует ожидания от использования ИИ и последующее разочарование от реальности его использования.

Я, пожалуй, с этой темы и начну свое выступление на следующем вебинаре. Постараюсь донести мысль о том, как из хаоса LLM получить те самые алгоритмы, которые работают на 100%, к которым мы привыкли за компуктерную эру.

Оказывается, тот самый Ян Стригов из чата Ilovedocs, не только здесь высказался, но еще и написал многобуков в стол про сервис Noroots. Я прочитал и выпросил этот текст для вас. Тезисно мы с ним очень близки в этом вопросе, но я свой длиннопост еще долго буду писать, а этот уже готов, почитайте, может убережет вас от лишних трат.

P.S. По Noroots готовлю два эксперимента:
1. Хочу прикрутить их АПИ к боту @lawer_assist_bot и показать вам как это сделать самостоятельно. Валентин Микляев разрешил мне дать вам демо-доступ по вечерам. Какое-то время через бот можно будет проверять договоры бесплатно и заодно понять надо оно вам или нет.
2. Хочу взять штук 20-30 договоров и пропустить их через АПИ Noroots, который заявляет 95% точность и АПИ ЧатаГПТ, который ничего не заявляет, но мы то знаем...

На всё сразу времени не хватает, давайте голосование что сделать раньше?

Вариант 1 - ставьте 🤮
Вариант 2 - ставьте 💩

Статье Яна ставьте - ❤️

Всем привет!

Если вы, как и я, вставляете в документ PDF подпись и печать в бесплатной версии АсrobatReader, то наверняка вам приходила в голову мысль, что эту подпись/печать можно легко скопировать и перенести в другой док. Плюс контрагент сразу видит, что это не скан, подпись вставлена и наверное часто возвращает подписанные таким способом документы. Выход есть - сохранить PDF в нужном формате, который сохраняет страницы не в редактируемом формате, а в виде изображений. Такой док больше похож на скан и как правило не вызывает у контрагента подозрений☺️ Есть только одна проблема - доступно это только в платной версии АсrobatReader, или в онлайн-сервисах типа Ilovedocs ilovepdf. Платной версии у меня нет, а онлайн-версиям я не доверяю, т.к. боюсь утечки конфиденциальной информации, в т.ч. образцов подписи и печати.

По этой причине я себе давно уже написал скрипт на питоне, который делает из обычного PDF нужный мне, но он был супер-неудобен для использования, т.к. его надо было запускать через консоль. Но на этих выходных две нейросетки: DeepSeek и Calude помогли мне за пару часов переписать код с использованием более-менее привлекательного интерфейса и упаковать в исполняемый файл EXE, который можно запускать на любом компуктере с Windows. Стало супер-удобно, а главное бесплатно и без утечек КИ.

Если кому такая утилита тоже нужна, то в комментах прикрепил файл. Пользуйтесь! Буду рад если найдете косяки и напишете, что можно допилить.

Пятничный мем для поднятия настроения)

Всем привет!

На прошлом вебинаре Ян Стригов, который тот самый, и который написал вот этот разбор, рассказывал как он использует нейросеть Gemini от гугол для расшифровки аудиозаписей судебных заседаний. Я решил докрутить эту штуку и написать приложение в котором уже будет готовый промт, останется только закинуть аудиофайл и дождаться файла с расшифровкой.

Приложение будет работать только на виндовс. Если хотите такую штуку на мак, то пишите, постараюсь сделать такое же, но через веб-интерфейс.

Качество расшифровки зависит от выбранной модели. Можно выбрать в настройках. По умолчанию используется Flash, она быстрая, и в бесплатной версии гугол дает много токенов на неё, но результат нестабильный. Версия Pro, дает более уверенный результат, но есть риск вылететь за лимиты и не получить расшифровку большого файла.

В общем, кому интересно, попробуйте. Файл с программой в комментариях к посту. В начале потребуется ввести токен от АПИ. Его бесплатно можно получить здесь. Для этого, и для работы приложения, нужен VPN.

обожаю этот момент, когда пишешь два дня прогу или пост, выкладываешь и у тебя, раз, и минус 2 подписчика. Я всегда представляю, что эти люди такие "я сюда за платными курсами пришел, ну или хотя бы подписаться на бусти, а не вот этот вот всё... ну нафиг, я сваливаю!"😌

Павел Мищенко тут уговорил своих ребят гайд по аккредитации IT-компаний опубликовать, два года назад бы всем нам такой гайд, но и сейчас не лишним будет)

Мне очень импонирует такой подход - делиться знаниями/опытом, не требуя ничего взамен. Я сторонник тезиса, что чем больше отдашь во вселенную, тем больше получишь от неё обратно. По крайней мере у меня работает на 100500%.

В общем, чтобы поддержать инициативу, достал с полки, стряхнул пыль с этого гайда, и добавил в бот. Если в начале запроса написать "рунетлекс" и потом вопрос по аккредитации, то бот ответит исходя из информации указанной в гайде. Открою на два дня, можете погонять вопросами. Потом закрою, т.к. АПИ опенаи платное, а токенов на запрос тратится прилично.

P.S. если в канале, совершенно случайно, имеется подписчик у которого, к примеру, свой легалтех стартап, победивший в номинации Правотех и у него есть желание поддержать бот подпиской опенаи, чтобы подписчики этого канала могли навсегда получить доступ к этому и другим гайдам, кидайте ключ АПИ в ЛС, а я добавлю в эбаут бота наименование спонсора)

Не прошло и суток с момента моего "посыла в космос" и ключ у нас!🔥

Ответы бота по аккредитации IT-компаний по гайду Рунетлекса теперь будут доступны пока ключ не отзовут, а его отзовут скорее всего не скоро, так что пользуйтесь! И заодно в комментариях пишите, какие знания еще прикрутить к боту?

Спасибо Валентину Микляеву за ключ, да и в целом за неутомимое желание двигать LegalTech, можно сказать вот в этом канале.

Прочитал тут в канале Дарьи Бондарчук следующее:

Правотех – это не та индустрия, в которую инвесторы смотрят с большим вожделением. ...
«Я пока не вижу интереса от крупных игроков типа «Сбер», «МТС» или «Ростелеком».

Ну, вот это то, о чем я постоянно говорю. Нету интереса, просто нету интереса... Но в моем случае это взаимно, тоже нету интереса, лучше пойду и сделаю себе сам, пускай кривое, но работающее здесь и сейчас легалтех решение, чем ждать пока до меня дойдет очередь.

Завтра, кстати, вот здесь попробую рассказать про свой опыт, присоединитесь или нету интереса?)

Поучаствовал вчера в вебинаре Павла Мищенко. В моменте было 97 человек и поэтому немного ссыкотно, и честно говоря я поплыл и забыл рассказать половину от запланированного, но Павел вытащил вопросами и по-моему получился классный, живой диалог на тему ИИ.

Для тех кто пропустил и хочет посмотреть целиком ссылка здесь, там же ссылка на чат для общения, для ленивых вырезал кусок с моим участием где я пытаюсь убедить участников вебинара, что программировать не страшно и призываю всех попробовать начать!)

экспериментаторская.рф

Давно я уже не писал что-то пять дней подряд с таким воодушевлением. А причина тому вот этот чатик и живое общение на тему легалтех и в том числе ИИ (куда ж без него в наше время). Люди там подкованные и интересующиеся, поэтому периодически задают интересные вопросы. Так вот мне пришла идея, которая давно назревала, но не было повода реализовать - а что если сделать пространство для экспериментов в сфере легалтех, где можно проверить гипотезы. Не просто поговорить в чате на тему "вот круто было бы такую штуку запилить", а сделать и посмотреть реально ли народу она нужна, чтобы каждый мог потыкать и дать фидбек.

В общем, я сделал и опубликовал по адресу:
экспериментаторская.рф

Первая фича в ответ на этот коммент:

Контрагент присылает договор с кучей правок в режиме редактирования, но если по-сути то их можно объединить в 2-3 основных посыла (условно - не хочу никакие штрафы, не хочу использования моего IP без согласия).

реализована. Дальше дело за вами. Присоединяйтесь в чат или пишите здесь свои боли/хотелки, будем пробовать реализовать.

P.S. когда зайдете в чат, пожалуйста, напишите любую частушку, просто там админы любители фольклора, а мне будет понятно (и очень приятно), что вы от меня пришли.

P.S.S. Снова перешел на свой любимый стек: JS+Svelte+TailwindCSS. Для кого это набор непонятных слов, объясняю: на этом можно писать очень быстрые веб-приложения которые летают в любом браузере.

P.S.S.S. Если не знаете хороших частушек, зайдите с этой: "Из-за леса, из-за гор, показал Андрей топор. Да не просто показал, к нейросети привязал!"

Хотел написать, что если ничего не будет предложено интереснее, то следующим проектом в экспериментаторской будет "убийца" старой doczilla (не путать с Pro), и заодно похожих решений от Гарант, КП и т.д., который я давно уже планирую разработать, но не могу решить концептуально делать ли много разных договоров, либо попытаться сделать универсальный конструктор любого типа договора, ну или хотя бы всех тех, что перечислены в ГК.

Зашел на сайт, вдохновиться тем как он медленно работал и заодно посмотреть цены, чтобы написать мол у меня то бесплатно будет, а там оказывается уже без меня всё убито и сайт по сути используется как прокси к прошке. Вот это поворот)

Так вот у меня собственно вопрос, а нужны ли сейчас "классические" конструкторы или уже всем хочется, чтобы отправил промт в нейросеть, а она тебе сразу договорчик нарисовала? И если нужны, то какой конструктор по вашему мнению идеальный и вы бы им реально пользовались?

Что такое токены?

Самый частый вопрос, когда начинаешь рассказывать непогруженному в тему человеку про большие языковые модели (LLM).

Чтобы каждый раз не объяснять, в экспериментаторской сделал отдельную страничку с простым объяснением и калькулятором токенов:

экспериментаторская.рф/tiktoken

Прикрутил также подсчет токенов и к страничке с проверкой правок в договор. Теперь нажимая на лейку (фильтр) наглядно видно, как уменьшается количество токенов и соответственно цена запроса к LLM.

Ноябрец выдался интересный. В начале очаровал, а в конце разочаровал так, что декабрь я проведу играя в xbox, в свободное время, а не пиля экспериментаторская.рф.

Разочарование первое:
Чат. 250+ человек добавилось практически мгновенно. Я подумал, ну всё, понеслась. Этот канал не зря был создан, наконец-то юр. сообщество начнет активно общаться, делиться болями/идеями и тем самым участвовать в развитии легалтех в России, но не тут то было. 240+ человек пришло тупо послушать (а скорее даже просто пролистнуть) о чем и так до этого общалось 7 человек в чате. При этом общение этих самых условных 7 из живого превратилось в строго цензурируемое, в т.ч. и самоцензурированное, с оглядкой на молчунов. Чатик теперь у меня в архиве. Вернусь в него в январе, посмотрим, может я заблуждаюсь и не всё потеряно.

Разочарование второе:
Noroots. Я честно поверил гиперактивному ко-фаундеру этого легалтех продукта Валентину, что они пришли менять и двигать индустрию. Больше всего меня подкупила смелость этого человека. Давать доступ к сырому продукту, другие проекты не решаются, а ноурутс дает. И я подумал, ну вот, супер, я готов помочь этому проекту стать лучше. И вот, что я придумал: сделать Арену на которой для начала можно будет сравнить качество ответов обычного chatGPT и специально обученного Noroots, заодно проверив точность в 95, которую заявлял Валентин, а потом, по сути вынудив других вендоров подключиться, сравнивать между собой уже российские легалтех решения на базе ИИ между собой. Уверен, выиграло бы всё сообщество. Мы, как потребители знали бы кого покупать, а сами продукты стремились бы к развитию.

Две недели по вечерам, после рабочего дня, отодвинув семью на второй план, пилил Арену. В четверг всё было готово к пятничному релизу и я радостный решил кинуть тизер в чат, на что получил сообщение в личку, что ноурутс пока (вроде как через месяц, но это не точно) не готов давать доступ к проверкам всем подряд и ключ демо-доступа к Noroots, в случае публикации у меня заберут. Сказать, что я был опечален, ничего не сказать, я был практически разбит.

В общем, пришлось срочно искать на замену бойца на Арену. Им стала модель Gemini. Это совсем не то, о чем я мечтал. Но имеем, что имеем. Штош, будем сравнивать зарубежных вендоров, а российский легалтех пусть продолжает вариться в собственном соку, раздавая друг другу премии и награды...

АРЕНА

P.S. теплиться надежда на общение в этом канале и причина тому обсуждение под этим постом. Может быть действительно стоит сконцентрироваться на конструкторах. Большинство там проголосовало за.

Создатели LLM Claude Anthropic заморочились и сделали туториал по промт-инженирингу в гугл-табличке.

А я когда вижу гугл-табличку не могу мимо пройти, чтобы что-нибудь в ней не нашкодить, поэтому кинул запрос дипсику: "у меня есть гугл-таблица в которой много фраз на английском языке. Как с помощью GAS мне сделать перевод всех вкладок и ячеек в которых есть иностранные слова?" и он выдал рабочий код (оставлю в комментах), который перевел мне всю табличку.

Результат здесь. Я почитал, советы довольно полезные. Единственный косяк - отсутствие ссылок в переведенной редакции.

Появилась идея адаптировать этот туториал для юристов и прикрутить в экспериментаторская.рф.

Сделать?

В комментах к этому посту меня пришли успокаивать большие дяди, объяснили мне что я социалист-утопист, который ничего не понимает в том как устроен капитализм, и что бух баланс фёрст, а уже потом все остальное. Я конечно не поверил, вспомнил, что есть еще Embedika на рынке и что у них была проверка договора в открытом доступе. Думаю, ну вот эти точно не откажутся от участия в Арене, но не не тут-то было, долго думали, но всё-таки отказались🤷‍♂️ и самое печальное, что они как раз недавно из открытого демо, сделали демо в которое пускают только после заполнения формочки. Маркетологи, что вы делаете?! АСТАНАВИТЕСЬ!

Я собственно хотел пройти мимо, отказали и фиг с ним, но потом подумал и решил рассказать про их проект, думаю многие из вас не знают про их существование, потому что у них судя по количеству рекламы бюджеты на маркетинг явно меньше чем у докзиллы и ноурутс. Поддержу конкуренцию на рынке, не хотят сражаться на Арене открыто, так пусть хоть между собой поконкурируют за ваше внимание.

Вот их канал в тг. Может найдете для себя там что-то интересное.