В поисках идей и решений, надеюсь будет интересно и познавательно

Одно из направлений RAG, именно то, над чем активно идет работа

RAG (Retrieval Augmented Generation — генерация с дополненной выборкой) соединяет языковую модель с внешней базой знаний. AI‑помощник на базе RAG сначала находит релевантные документы во внешних источниках с помощью, например, векторного поиска, ранжирует найденную информацию, а затем генерирует ответ на запрос пользователя на основе этих данных.

На потоке LLM доклады получились информативные, у каждого свой опыт и свои способы решения общих проблем: выбор модели, выбор железа, качественный подбор документов для получения хорошего ответа от LLM, ряд хитростей говорит о том, что иногда лучше хороший и быстрый алгоритм, а не самая большая и "умная" модель LLM.

И еще, пообщавшись с некоторыми участниками и докладчиками, в очередной раз прихожу к выводу, что до юристов новые технологии приходят в последнюю очередь, после других направлений и профессий. Велика стоимость ошибки, это понятно, но к сожалению, и востребованность не такая высокая, как от других профессий. Тем не менее, работа ведётся по графику, к сентябрю, планируем выложить в общий доступ первые результаты работы по интеграции ИИ в продукты для юристов, адвокатов, следователей, дознавателей.

Продолжаются работы над RAG системой для работы с правовыми актами, с наработками пользователя (претензии, отказные письма, исковые заявления, отзывы/возражения и т.п.), цель - подготовить для юристов свое удобное решение, оптимальное по требованиям к железу и качеству подготовки ответов от моделей ИИ.

07.09.2025 на сайте в разделе "Загрузка" выложены обновления для АРМ следователя (дознавателя) и АРМ юриста (адвоката). Облачные решения по распознаванию голосовых сообщений заменены на локальный ИИ сервис. Работает не идеально, зато без отправки куда-либо своих данных, все исключительно на ПК пользователя. Путь от "Горыныча" до реально работающего сервиса на своем ПК пройден за 25 лет примерно

big tech night — главное IT-событие осени | 12 сентября, Москва
https://bigtechnight.ru/

Интересная информация и доклады в Сбере, потом Т-Банк, потом, возможно, Яндекс

Для юристов возможно, будет полезна технология GraphRAG от Microsoft, оперировать смыслами вместо понятий

На нашем новом сайте размещен AI-помощник, который умеет отвечать на вопросы, связанные с готовыми программами и услугами по разработке новых решений

AI-Помощник - AST-SoftPro
https://ast-softpro.ru/ai/

Некоторое время было потрачено на изучение Giga-agent от Сбербанк. Этот бот интересен тем, что в нем одна модель ИИ управляет другими моделями ИИ для постановки, выполнения задач, обобщения результатов. Более того, Giga-agent может написать код на Python и выполнить его для решения поставленной задачи, если встроенных инструментов недостаточно. В презентации Giga-agent по запросу пользователя нарисовал несколько картинок с фракталами, потом сделал мем с котиком и фракталом, потом сделал презентацию со всем этим. Мной к этому боту был добавлен модуль работы с Google Calendar, чтобы можно было отмечать в своем календаре события, запрашивать прямо из бота список своих событий, что-то добавить, что-то удалить. Также был добавлен модуль работы с Т-Инвестициями (портфель акций, графики, покупка/продажа позиций, операции по счету). Пока практическая ценность невелика, но такая мульти-агентская система вполне может пригодиться и для юристов, для решения сложных задач: сделать обвинительное заключение, изучить проблему по ряду источников, актуальным правовым актам и сделать правовое заключение. В будущем такие наработки обязательно будут использованы и для юристов в нашем софте

В разработке новая информационная система для обучения уголовному процессу "Цифровое уголовное дело"

https://ast-dpc.ru

Симулятор судебного заседания по уголовному делу, интерактивные УК РФ и УПК РФ, ИИ-бот "Техно-юрист" для ответов по УК РФ и УПК РФ

Пока судебное заседание расписано по шагам, но в будущем это будет полноценный процесс с использованием ИИ через LangGraph, с максимальным интерактивом, вариативностью и голосовым общением

Самоинициированные юристы вскрывают нарастающую волну низкопробной работы ИИ в судебных документах

Все больше юристов используют искусственный интеллект для составления юридических заключений. Некоторые коллеги публично сообщают об ошибках, созданных искусственным интеллектом.

Читать полностью

Источник: NYT > Technology

Все ближе к запуску система под рабочим названием "Lawyers Helpers" - это ИИ помощники для юристов/адвокатов и следователей/дознавателей. Один из помощников, который преобразует аудио в текст на локальном ПК пользователя, уже доступен на сайте в составе программ "АРМ следователя (дознавателя)" и "АРМ юриста (адвоката)". На подходе помощник для работы с правовыми актами и документами пользователя через локальные модели ИИ на своем ПК

https://ts-group.ru/lawyer_ai.php

Чат-бот с искусственным интеллектом на своем ПК на локальных моделях

Для работы с искусственным интеллектом на своем ПК можно использовать LM Studio https://lmstudio.ai/

Для знакомства и работы с искусственным интеллектом очень полезно использовать LM Studio. Если кратко, то это инструмент для запуска локальных моделей ИИ на своем ПК без необходимости отправки чего-либо на другие сервера в сети Интернет.

Работа строится очень просто:
1. Выбираете и загружаете одну из локальных моделей ИИ, например, Gemma 4b, Qwen 4b или другие.
2. Запускаете чат, выбираете модель и все готово.
3. Спрашиваете, получаете ответы, уточняете.

Для более качественного ответа можно при отправке запроса вложить текстовые или графические файлы. Некоторые модели работают только с текстом, другие могут проанализировать картинку/фото и сообщить, что на ней изображено.

Скорость ответов напрямую зависит от мощности ПК, на котором запущена программа LM Studio. Чем более мощный у вас ПК, тем более сложные модели можно использовать для изучения и работы.

Для продвинутых пользователей есть очень удобная возможность активировать LM Studio как локальный сервер с API на основе протокола OpenAI. Это дает возможность использовать его как облачные, например, ChatGPT, Grok, Deepseek, Qwen и другие.

Например, я сделал себе проект для личного использования, который использует локальные модели вместо облачных API, что очень удобно и бесплатно.

Читать полностью

Источник: Студенников Алексей Олегович

Завершены основные работы по разработке RAG системы в составе "Lawyers Helpers". Система находит применимые документы в базе данных (актуальные тексты кодексов, законов, образцов документов пользователей) и на основе их дает ответы. Были сложности с определением, что полезно для конкретного вопроса, в целом, удалось их решить. После проведения дополнительных тестов система будет предоставлена для ознакомления всем желающим. Таким образом, удалось объединить аналитические способности LLM, актуальные тексты нормативных правовых актов и собственные наработки пользователя

В стартовый набор планируется добавить все кодексы РФ, некоторые законы, наиболее важные и актуальные постановления Пленумов ВС РФ. Пользователь сможет добавить для работы свои документы (образцы договоров, исковых заявлений, отзывов/возражений и т.п.) для загрузку в систему и получить мощный механизм для ускорения своей работы. Все это будет работать исключительно на ПК пользователя без выхода в сеть Интернет. Выход в сеть нужен будет только для первичной загрузки установочных файлов системы и модели LLM, по умолчанию Gemma 4b