https://ts-group.ru/lawyer_ai.php

ts-group.ru
Разработка программного обеспечения и баз данных. Создание веб-сайтов. - ИИ для юристов

Тесты локальных сервисов с искусственным интеллектом для юристов, адвокатов, следователей, дознавателей продолжаются. В настоящее время за 1-2 минуты можно получить из шапки искового заявления или другого процессуального документа структурированные данные для заполнения карточки дела в базе данных. Работает локальный сервис преобразования голосовых данных в текст для замены ранее использовавшихся онлайн сервисов Google и Yandex

После отладки работы самих локальных сервисов, которые будут работать на ПК пользователя или на сервере своей организации, использование сервисов будет реализовано в программных продуктах "АРМ следователя (дознавателя)" и "АРМ юриста (адвоката)"

Продолжаются работы над интеграцией сервисов на основе искусственного интеллекта в софт для юристов. Сейчас уже можно показать системе свои наработки, подать на вход текст искового заявления, система из имеющихся документов подберет несколько наиболее близких по смыслу и на основе них создаст письменные возражения (отзыв)

Доработана подсистема извлечения данных из документов для заполнения базы данных. Например, система может быстро извлечь данные из искового заявления, протокола допроса для заполнения карточки дела в базе данных

Особенность сервисов искусственного интеллекта для юристов в том, что они доступны на локальном ПК пользователя, без необходимости выхода в сеть Интернет. Для работы требуется современный ПК с 16 или более ГБ оперативной памяти. В будущем для продвинутых пользователей будет доступно использование графических видеоускорителей для радикального увеличения скорости ответов подсистемы ИИ.

Также возможен вариант установки сервиса на локальный сервер организации для одновременного доступа нескольких пользователей организации

Система сервисов для юристов с использованием искусственного интеллекта теперь может использовать графические ускорители, скорость генерации ответов кратно выше при их использовании

При использовании тяжелой модели Gemma 3 27b QAT Q4, скорость генерации на GPU выше более чем в 10 раз

При использовании легкой модели Gemma 3 4b it Q4 K M скорость генерации на GPU выше в 7 раз

Ведётся работа над использованием пользовательских документов в качестве контекста для улучшения качества документов. В идеале локальный ИИ будет использовать опыт и стиль пользователя для ускорения создания документов

Turbo ML Conf от Т-Банка
https://mlconf.t-bank.ai/

В поисках идей и решений, надеюсь будет интересно и познавательно

Одно из направлений RAG, именно то, над чем активно идет работа

RAG (Retrieval Augmented Generation — генерация с дополненной выборкой) соединяет языковую модель с внешней базой знаний. AI‑помощник на базе RAG сначала находит релевантные документы во внешних источниках с помощью, например, векторного поиска, ранжирует найденную информацию, а затем генерирует ответ на запрос пользователя на основе этих данных.

На потоке LLM доклады получились информативные, у каждого свой опыт и свои способы решения общих проблем: выбор модели, выбор железа, качественный подбор документов для получения хорошего ответа от LLM, ряд хитростей говорит о том, что иногда лучше хороший и быстрый алгоритм, а не самая большая и "умная" модель LLM.

И еще, пообщавшись с некоторыми участниками и докладчиками, в очередной раз прихожу к выводу, что до юристов новые технологии приходят в последнюю очередь, после других направлений и профессий. Велика стоимость ошибки, это понятно, но к сожалению, и востребованность не такая высокая, как от других профессий. Тем не менее, работа ведётся по графику, к сентябрю, планируем выложить в общий доступ первые результаты работы по интеграции ИИ в продукты для юристов, адвокатов, следователей, дознавателей.

Продолжаются работы над RAG системой для работы с правовыми актами, с наработками пользователя (претензии, отказные письма, исковые заявления, отзывы/возражения и т.п.), цель - подготовить для юристов свое удобное решение, оптимальное по требованиям к железу и качеству подготовки ответов от моделей ИИ.

07.09.2025 на сайте в разделе "Загрузка" выложены обновления для АРМ следователя (дознавателя) и АРМ юриста (адвоката). Облачные решения по распознаванию голосовых сообщений заменены на локальный ИИ сервис. Работает не идеально, зато без отправки куда-либо своих данных, все исключительно на ПК пользователя. Путь от "Горыныча" до реально работающего сервиса на своем ПК пройден за 25 лет примерно