Также возможен вариант установки сервиса на локальный сервер организации для одновременного доступа нескольких пользователей организации

Система сервисов для юристов с использованием искусственного интеллекта теперь может использовать графические ускорители, скорость генерации ответов кратно выше при их использовании

При использовании тяжелой модели Gemma 3 27b QAT Q4, скорость генерации на GPU выше более чем в 10 раз

При использовании легкой модели Gemma 3 4b it Q4 K M скорость генерации на GPU выше в 7 раз

Ведётся работа над использованием пользовательских документов в качестве контекста для улучшения качества документов. В идеале локальный ИИ будет использовать опыт и стиль пользователя для ускорения создания документов

Turbo ML Conf от Т-Банка
https://mlconf.t-bank.ai/

В поисках идей и решений, надеюсь будет интересно и познавательно

Одно из направлений RAG, именно то, над чем активно идет работа

RAG (Retrieval Augmented Generation — генерация с дополненной выборкой) соединяет языковую модель с внешней базой знаний. AI‑помощник на базе RAG сначала находит релевантные документы во внешних источниках с помощью, например, векторного поиска, ранжирует найденную информацию, а затем генерирует ответ на запрос пользователя на основе этих данных.

На потоке LLM доклады получились информативные, у каждого свой опыт и свои способы решения общих проблем: выбор модели, выбор железа, качественный подбор документов для получения хорошего ответа от LLM, ряд хитростей говорит о том, что иногда лучше хороший и быстрый алгоритм, а не самая большая и "умная" модель LLM.

И еще, пообщавшись с некоторыми участниками и докладчиками, в очередной раз прихожу к выводу, что до юристов новые технологии приходят в последнюю очередь, после других направлений и профессий. Велика стоимость ошибки, это понятно, но к сожалению, и востребованность не такая высокая, как от других профессий. Тем не менее, работа ведётся по графику, к сентябрю, планируем выложить в общий доступ первые результаты работы по интеграции ИИ в продукты для юристов, адвокатов, следователей, дознавателей.

Продолжаются работы над RAG системой для работы с правовыми актами, с наработками пользователя (претензии, отказные письма, исковые заявления, отзывы/возражения и т.п.), цель - подготовить для юристов свое удобное решение, оптимальное по требованиям к железу и качеству подготовки ответов от моделей ИИ.

07.09.2025 на сайте в разделе "Загрузка" выложены обновления для АРМ следователя (дознавателя) и АРМ юриста (адвоката). Облачные решения по распознаванию голосовых сообщений заменены на локальный ИИ сервис. Работает не идеально, зато без отправки куда-либо своих данных, все исключительно на ПК пользователя. Путь от "Горыныча" до реально работающего сервиса на своем ПК пройден за 25 лет примерно

big tech night — главное IT-событие осени | 12 сентября, Москва
https://bigtechnight.ru/

Интересная информация и доклады в Сбере, потом Т-Банк, потом, возможно, Яндекс

Для юристов возможно, будет полезна технология GraphRAG от Microsoft, оперировать смыслами вместо понятий

На нашем новом сайте размещен AI-помощник, который умеет отвечать на вопросы, связанные с готовыми программами и услугами по разработке новых решений

AI-Помощник - AST-SoftPro
https://ast-softpro.ru/ai/

Некоторое время было потрачено на изучение Giga-agent от Сбербанк. Этот бот интересен тем, что в нем одна модель ИИ управляет другими моделями ИИ для постановки, выполнения задач, обобщения результатов. Более того, Giga-agent может написать код на Python и выполнить его для решения поставленной задачи, если встроенных инструментов недостаточно. В презентации Giga-agent по запросу пользователя нарисовал несколько картинок с фракталами, потом сделал мем с котиком и фракталом, потом сделал презентацию со всем этим. Мной к этому боту был добавлен модуль работы с Google Calendar, чтобы можно было отмечать в своем календаре события, запрашивать прямо из бота список своих событий, что-то добавить, что-то удалить. Также был добавлен модуль работы с Т-Инвестициями (портфель акций, графики, покупка/продажа позиций, операции по счету). Пока практическая ценность невелика, но такая мульти-агентская система вполне может пригодиться и для юристов, для решения сложных задач: сделать обвинительное заключение, изучить проблему по ряду источников, актуальным правовым актам и сделать правовое заключение. В будущем такие наработки обязательно будут использованы и для юристов в нашем софте

В разработке новая информационная система для обучения уголовному процессу "Цифровое уголовное дело"

https://ast-dpc.ru

Симулятор судебного заседания по уголовному делу, интерактивные УК РФ и УПК РФ, ИИ-бот "Техно-юрист" для ответов по УК РФ и УПК РФ