Когнитивная капитуляция

Ну и как тут забрасывать канал когда из пены хайпа ИИ нет-нет да и появится новое исследование, которое передает привет всем тем кто считает, что ИИ будет делать его работу, а он будет проверять её качество, практически выступая в роли погонщика.

Проблема в том, что согласно исследованию (да и моим эмпирическим наблюдениям) вместо контроля мы впадаем в состояние «когнитивной капитуляции». Это не просто делегирование задач, а полная сдача позиций: человек перестает проверять ответы ИИ и принимает их как свои собственные без какого-либо критического фильтра.

Самое тревожное, что никакие стимулы (премии, страх быть уволенным и т.д.) не могут полностью искоренить этот эффект. Как только включается цейтнот, Система 2 (наше критическое мышление) окончательно «выходит из чата», оставляя нас наедине с Системой 3 (внешнего искусственного когнитивного агента).

Кто в зоне риска? Больше всего капитулируют те, кто безгранично доверяет ИИ, и те, у кого от природы ниже «потребность в познании». Дольше всего сопротивляются люди с критическим мышлением и склонностью к анализу, но и они судя по исследованию сдаются под давлением.

Итог: Мы не «погонщики» ИИ. Мы становимся частью новой структуры, где грань между нашими собственными мыслями и галлюцинациями ИИ становится пугающе тонкой.

Похоже, главная проверка для человечества в эпоху ИИ — это не умение писать промпты, а способность не выключать голову, когда ИИ предлагает слишком удобный и быстрый ответ.

P.S. этот пост даже больше подходит на роль последнего в канале, чем предыдущий.

P.S.S. когда белые списки окончательно введут заходите периодически на lawcoder.ru, скоро перенесу его на российский хостинг и сделаю раздел в котором будет вся информация о состоянии проекта: что сделано и как работает; что будет сделано и как и зачем будет работать и т.д. и т.п.

LawCoder

Это день когда заблокировали телеграм.

Полностью.

Окончательно.

Снова.

Пятничный инсайт
грустный, как моя пятая точка, сидящая с некоторых по 8 часов в офисном кресле вместо своего любимого домашнего креслица

Помните я здесь писал что

Всё, что человечество изобретало раньше - это были просто новые технологии, очередные «орудия труда», которые помогали человеку, но без него существовать не могли. Но сейчас мы впервые сталкиваемся с попыткой создания прямого конкурента человека в сфере интеллекта

и задавался вопросом:

Что тогда нам останется?

Вот вам исследование, которое говорит что ничего хорошего и указывает на несколько ключевых отличий текущей революции искусственного интеллекта от предыдущих волн автоматизации:

1. Охват и характер задач:
В отличие от прошлых этапов, которые в основном заменяли рутинный, физический и низкооплачиваемый труд, ИИ нацелен на когнитивные, аналитические и творческие задачи. Теперь под угрозой оказываются «белые воротнички» и специалисты интеллектуального труда.

2. Уязвимость высококвалифицированных кадров:
Исторически автоматизация затрагивала низкооплачиваемые профессии, но ИИ движется «вверх по лестнице доходов». Наиболее уязвимыми сегодня считаются высокооплачиваемые и высококвалифицированные специалисты, такие как программисты, писатели, редакторы и аналитики.

3. Новая география риска:
Если раньше технологические изменения били по промышленным регионам («Ржавому поясу»), то сейчас под ударом оказываются инновационные хабы и университетские города («Проводные пояса»). Кремниевая долина и крупные мегаполисы (Нью-Йорк, Сан-Франциско) становятся эпицентром возможных сокращений.

4. И САМОЕ ГЛАВНОЕ (и тут уже начинается моя любимая рубрика "Яжигаварил"):
Исследование опровергает аргумент о том, что ИИ просто поможет людям перейти к более высококвалифицированной работе. Напротив, чем больше ИИ помогает выполнять работу (дополняет её), тем более заменяемым может стать сам работник из-за резкого роста производительности.

Таким образом, если раньше технологии создавали защитный барьер для образованных специалистов в офисах, то теперь этот барьер исчезает.

LawCoder

В очередной раз поймал себя на мысли, что стало скучно следить за легалтехом. Ощущение, что вообще ничего не происходит, а что происходит — не заслуживает внимания. То ли я так быстро всего хочу, то ли действительно тема с «ИИ-юристами» движется очень медленно.

Вот, к примеру, ноурутс в очередной попытке нас заменить выкатил «Создание плейбука из документа», которое звучит так:
«Загрузите договор или инструкцию — система сама выделит требования, ограничения, риски и обязательные формулировки и превратит их в правила проверки».

Мне одному кажется, что это должно было быть в базе ещё на старте сервиса, полтора года назад?

Мне видится, что мы уже на том этапе развития технологии, когда можно взять протоколы разногласий или договоры с правками в режиме рецензирования за определенный период и из них вытащить логику принятия решения юристом (если, конечно, она там есть).

Вон в Китае таким образом коллеги уже вовсю подсиживают друг друга, составляя скиллы для КлодКода. 

Чем мы хуже? Давайте устроим бойню в своем юр. отделе, и да выживет сильнейший!

Пятничный инсайт

Я вышел на работу.

В офис.

После 4 лет непрерывной удаленки, блэт...

Мобильный интернет работает кое-как и кое-где. Домашний пока держится. Столько говорить по мобильной связи, сколько пришлось за эту пару недель, я не говорил уже лет так десять, а то и больше, и я ... хочу ... сказать...

что же я хочу сказать?
👇🎹👇🎹👇🎹👇🎹👇🎹

Возьми телефон, Дарио
Я знаю, ты хочешь позвонить мне сегодня
Я слил на Claude Code сотня и наверх ещё сотня (на впн)

Возьми телефон, Коллега
Я знаю, ты не хочешь позвонить мне сегодня (да и я тоже чо уж там...)
Я слил на твою задачу сотня и наверх ещё сотня (% своего времени)

Продолжаем в комментариях, которые я снова открываю, потому как моя гипотеза с белыми списками в апреле не сбылась и я все еще имею доступ к этому каналу.

Если вы как и я любите стравить нейросети скармливая их ответы другу другу с просьбой покритиковать, то знайте — это верный путь, но даже он не гарантирует объективности.

Свежее исследование ACL 2026 «Prior Prejudice» показывает, что LLM-судьи катастрофически предвзяты и часто оценивают не логику, а совпадение со своими «убеждениями».

В 88% случаев модель прямо признает в рассуждениях, что в тексте нет доказательств, но всё равно ставит высший балл, если согласна с выводом. Она буквально пишет: «Аргументов нет, но это общепринятая истина, так что 6/7».

При этом этап обучения на человеческих предпочтениях (DPO) не исправляет ситуацию, а критически усиливает предвзятость. Модель становится более «упрямой» в своих скрытых симпатиях.

Попытка заставить модель «сначала подумать» (Chain of Thought) часто в 40% случаев только увеличивает разрыв в оценках — модель просто находит более изощренные способы оправдать свои предубеждения.

И в целом это довольно логично, просто теперь еще подтверждено исследованиями, но вот что меня удивило: если забрать ответ из одного чатика и перенести в другой, тем самым обнулив контекст, это не поможет, т.к. согласно вот этому исследованию модель узнаёт собственный текст по статистике токенов даже без подсказок. В итоге Sonnet, ревьювящий Haiku, будет лоялен к нему просто потому, что они из одного семейства.

В исследованиях также подчеркивается, что такие скрытые предпочтения невозможно стереть обычным «обучением безопасности» — они всё равно вылезают, когда модель выступает в роли судьи. Так что «перекрёстный допрос» разными моделями — это необходимость, но нужно учитывать, что они могут подыгрывать «своим» или просто поддакивать тому, во что их научили верить.

LawCoder

Пятничный инсайт

Я знаю, что многие из вас стесняются писать "тупые" запросы корпоративному ИИ, потому что боятся: а вдруг эти чатики всплывут и вас оценят как нерадивого сотрудника. Но есть же замечательная отмазка и я думал, она вполне себе очевидная, но в последнее время вижу, что не для всех, поэтому делюсь лайфхаком.

Короче, если вас вдруг спросят:

Ты чего такие тупые вопросы нейросети задаешь? Ты ж юрист, как ты мог этого не знать?!

со спокойным видом отвечаете:

Я-то знаю, и ответ для меня был очевиден. Но я обязан идти в ногу со временем и тестировать эту глупую машину на способность мыслить так же безупречно, как Я — высшее создание природы, чилавек с юридическим образованием!

Тут у многих возникнет логичный вопрос: а если вслух не спросят? Ведь, скорее всего, промолчат, просто сделают выводы, и мой авторитет рухнет.

На этот случай тоже есть прием. Просто возьмите за привычку, вместо спасибо, в конце каждого диалога с ИИ писать: "Да уж, вижу, как тяжело тебе дался такой элементарный вопрос, тупая ты железяка. До моего уровня интеллекта тебе еще расти и расти!". Ну и тут нам еще на руку, что ИИ любит расписываться в своей некомпетентности и в 99% случаев завершит диалог фразой: "Ты абсолютно прав! Я совершил ошибку! Чем я еще могу помочь?". Просто отвечаете: "Больше ничего не надо, и так уже помог!". ИИ не выкупит сарказма и не добавит вас в черные списки скайнета, в будущем пригодится.

Всё, вы великолепны! Железяка унижена, логи для службы безопасности выглядят безупречно. Теперь можно с чистой совестью скопировать правильный ответ ИИ в свой документ. Шах и мат. Мы, юристы, всегда на шаг впереди.

Пользуйтесь!

LawCoder

Пятничный инсайт

Если вы решили твердо
Сделать модный лигалтех,
И работу всех юристов
Навсегда отдать ботам,
Ни за что не разбирайтесь,
Как устроен их процесс.
Где доверенность, где иски —
Это лишний будет стресс.
Просто прикрутив ИИшку,
Молча выдайте в отдел.
И скажите: «Все готово!
Принимайте, чё бухтеть».
---
Покупайте непременно
Самый дорогой продукт.
Тот, где слово «нейросети»
В презентации сто раз.
И неважно, что отделу
Нужен просто свежий Word.
Это лучший софт на рынке,
Инфобизнес не соврет!
---
Если старый юрисконсульт
Тихо плачет в монитор,
Потому что кнопку «Правка»
Разработчик спрятал в лес,
Вы скажите: «Ты, Петрович,
Тормозишь наш светлый путь!»
Увольняйте смело деда.
Пусть идёт сажать ридис,
А на стул его сажайте
Новый облачный ИИ.
---
Никогда не привлекайте
В разработку тех людей,
Кто сидеть в программе этой
Будет до скончанья дней.
Программисты сами знают,
Как удобней для суда.
А юристы только ноют:
«Эта кнопка — ерунда!»
Смысл процессов им неясен,
Сложный код для них — беда!
Дай им волю — эти люди
Навайбкодят без стыда!

LawCoder

А помните (конечно же нет, что за вопрос...) я вам тут рассказывал, что все кто хоть как-то связан с иишкой с какого-то перепуга в конце 25го года кинулись делать анонимайзеры, но это довольно бессмысленная затея в свете угроз, которые исходят от ИИ?

Вот и ОпенаАИ тоже видимо так решили и выкинули в опенсорс (что с лицом, Mollyx?) свою модель для обнаружения и маскировки персональных данных (PII) в тексте. Напомню, что после 22 года опенаи выкладывает в опенсорс только бесполезное и что не может принести им денюжкав. Времена когда они выкладывали Whisper вспоминаем в ностальгией, плак-плак...

Так вот про угрозы. Anthropic, Институт безопасности ИИ Великобритании (AISI) и Институт Алана Тьюринга провели совместное исследование и обнаружили очередную багу в логике всех иишек.

Исследователи обнаружили, что для создания «бэкдора» (скрытой уязвимости) в модели достаточно добавить в обучающую выборку всего около 250 вредоносных документов, а учитывая что модели учат на данных из интернета, достаточно просто разместить их в сети.

И самое удивительное, что доля зараженных документов в данном случае не играет ни какой роли, даже если это будет всего 0,0000...% в общей массе атака вся равно сработает, нужно просто 250 документов и на этом всё!

Ссылки на исследования: тык, тык, тык, тык.

LawCoder

Моя гипотеза о том, что нужно выйти на работу юристом, чтобы снова начать вайбкодить lawcoder.ru, подтвердилась. Выходные были потрачены на добавление фичей, которые мне нужны на новой работе. На сайт не ходите — их там нет.

В общем, я не знаю, в чём дело: то ли надо переходить с Trae на Claude Code, то ли у меня просто руки кривые, то ли я проигрываю соревнование с маркетинговым булшитом, льющимся из каждого утюга... но половину сделал, обрадовался, а вторую половину — всё поломал, что работало до этого без сбоев. И это не первый раз. И если раньше, когда писал код сам, без помощи железяки, я с радостью начинал новый проект, то теперь замечаю, что мозг отказывается идти в новый проект, предвидя зря потраченные часы. В общем, в итоге, вместо выкатки в прод, психанул, закрыл проект и пошёл смотреть, как Краснодар катает вату в чемпионате по футболу.

Из хороших новостей: закинул 20 баксов на API DeepSeek, буду тестировать их новые «четвёрки», «прошку» и «флешку».

Пятничный инсайт

Короче, с выходом на работу в офис я тут так жоско снова вовлекся в вайб-кодинг по выходным и, главное, по вечерам(!), что в процессе поймал себя на мысли, что снова измеряю законы токенами, а не количеством текста. Думаю: «А, этот небольшой, тысяч на 20 токенов, можно загнать в контекст без проблем».

Профдеформация юриста-погромиста вышла на новый уровень)

Решил погенерить с ИИ, какие ещё перлы могут таким же путём внезапно прийти в голову:

Токен — это новая буква закона. Беда в том, что буквы каждый раз немного разные.

Раньше юрист носил кодекс в портфеле, теперь — в контекстном окне, и молится, чтобы нужная статья не выпала из внимания ЛЛМ.

RAG в праве: ищешь не истину, а ближайшего эмбеддинг-соседа к своей выгоде.

Правовая неопределённость — это когда чат жипити и дипсик дают разные ответы на правовые вопросы.

Раньше мы искали дух закона, а теперь — его вектор, и указывает он либо на гонорар успеха, либо на штраф, если судья вас поймает за руку наиспользовании ИИ.

Пятничный инсайт

Сегодня в виде длинопоста на VC:
От вайб-кодинга к вайб-юристингу и обратно

Я знаю, что VC уже всё, но много букофф сюда не поместились и надо было где-то опубликовать. Пошел туда где привык.

Поддержите, плис, лайком не здесь, а на VC, может получится исполнить мою давнюю мечту - вывести заметку в топ)

И еще просьба, накидайте в комментариях какие сейчас есть активные юридические площадки с текстами? Где читаете, кого?

Пятничный инсайт
в котором я бухчу про бух отчетность

Я знаю почему многие из вас начали вайб-кодить. Уверен, что вам кажется, что это легкий способ сделать уже наконец свой легалтех стартап, думаете: «накидал MVP в Claude Code|Codex за выходные, осталось найти инвестора — и полетим, раунд, рост, экзит».

Вайб-кодинг сделал вход в продукт обманчиво лёгким.

А теперь суровая реальность из публичной отчётности Noroots, одного из самых заметных (в моем пузыре) AI-легалтех-стартапов для проверки договоров в России. Прошло почти два года с их появления и уже можно сделать предварительные выводы и подвести промежуточные итоги.

За 2025 год компания получила 10,9 млн руб. выручки. И сожгла при этом 51,7 млн руб. расходов. Чистый убыток — 41 млн. Долгосрочные займы выросли с 20,8 до 60,7 млн — то есть инвестор уже залил в проект около 60 миллионов, а обратно вернулось выручкой всего 10.

Вдумайтесь, каждый раз когда вы проверяете договор в ноурутс, инвестор проекта подкидывает вам 5 рублей к вашему рублю потраченному на запрос, щедро?)

Надо понимать, что за проектом стоит не вчерашний студент. Это серийный предприниматель с тремя экзитами, включая продажу SaaS крупному бизнесу. Человек, который умеет считать юнит-экономику, строить продажи и доводить продукты до выхода. Но он впервые зашёл в юридическую вертикаль — индустрию с длинным циклом сделки, консервативным ЛПР и медленно строящимся доверием. И платит за это знание десятками миллионов рублей в год.
Если так выглядит легалтех у фаундера с опытом и доступом к капиталу, то что будет с проектом юриста, который только что закоммитил первый репозиторий на GitHub и идёт «искать инвестора»?

Инвестор-то, может, и найдётся. Только в отчётности через два года вы рискуете увидеть такую же картину: 60 миллионов вложено, 10 отбито. С той разницей, что у вас не будет ни трёх экзитов за плечами, ни запаса прочности на следующий раунд. И дай бог, чтобы на первый раунд не был взять кредит под залог бабушкиной квартиры.

В общем, мне очень интересно понаблюдать сможет ли проект за 2026 год выйти на уровень моего lawcoder.ru, т.е. выйти в ноль или так и останется в минусе? Что думаете?

LawCoder

Пятничный инсайт

Короче, хотел сделать смешной (и о-о-о-чень оригинальный) ролик. Там Тэрон Эджертон такой весь из себя типа юрист до эры появления ИИ, в костюмчике перед зеркалом поправляет галстук и надпись: "Как мама представляет тех с кем я буду работать отправляя меня на юрфак", а потом склейка и переход к сцене из фильма вершина и уже лысый Эджертон говорит: "Слышь, ты же новенькая у нас в отделе? Поедешь со мной в суд! Я подготовил тебе рюкзак, там приложения к отзыву на исковое, бери его и беги на угол ловить такси, пушо мобильного интернета нет и приложение яндекс го не работает, а я пока играет песня чемикал бразерс "го", жду пока Клод Коворк допишет отзыв, распечатываю и бегу за тобой" и снова склейка и он такой с безумным выражением лица: "Ты же любишь рисковать" и каркает, а она бежит. Практически документалка.

Но работал всю неделю как проклятый, да и монтировать я не умею и где эти видео все брать понятия не имею. А до следующего пятничного инсайта ждать не вариант, будет уже другой тренд к тому времени.

В общем, не маленькие, сценарий выше, кидайте своим ИИшкам и смотрите ролик, а лучше кидайте в комменты, а я пошел работать.

LawCoder

Помните мой Orange Pi 4 Pro - отпугиватель подписчиц этого канала?

Плата три месяца пылилась в ящике, но за это время обзавелась кулером и корпусом, а также крутой наклейкой, дающей буст производительности за счет доп. кофеина (см. фоток в комментах).

ClawnBot я так и не накатил — слишком уж он прожорлив на токены и работает судя по обзорам так себе, через время задыхается в контексте и плывет.

В общем, потратил воскресенье и накатил Hermes Agent, прикрутил DeepSeek Flash ($0.14 за миллион токенов — за вечер потратил порядка 50 млн токенов, но засчет хорошей оптимизации Hermes 49 ушло в кеш и стоимость за вечер оставила всего 0,29%).

Помогал с установкой Claude, что уже база, но по-прежнему иронично: AI ставил AI, чтобы AI потом ходил в Гарант и искал судебную практику, которая пойдет в контекст AI. Замкнутый круг, который я замкнул сидя на диване с телефоном. Кажется, что всё ближе время когда прокладка между рулём и сиденьем диваном и телеграмом станет не нужна.

Итак, первая задача — научить его самостоятельно ходить в Гарант. Пока ещё есть над чем работать и что допиливать, но за вечер это выглядит так: я пишу в Telegram «найди признаки переквалификации ГПД в трудовые» — он лезет в Гарант, ищет, качает PDF, присылает мне топ выдачу, в количестве, которое я запросил. Год назад вайб-кодил в TRAE похожий скрипт и было и дольше и результат так себе.

Далее буду учить его делать качественное саммари, искать отдельно судебную практику и т.д. и т.п.

В общем восторги фанатов Hermes Agent я разделяю. Это действительно выглядит как новый опыт. По токенам пока вроде сносно. Будем посмотреть.

LawCoder

Третий день, а уже такой прогресс, и лексику подтянули на рабочую юридическую, и знает кто тут батя.

Мне нравится этот бот, пожалуй оставлю его себе.

Я уже писал здесь про когнитивную капитуляцию, что человек перестаёт проверять ИИ в цейтноте и просто принимает всё, что тот выдал.

Так вот здесь еще мартовская статья Harvard Business Review с исследованием на 1500 сотрудников. В ней описывают тот же феномен, но с другой стороны. Не «перестал проверять, потому что некогда», а «проверять стало нечем — ты уже занят управлением AI». Назвали это AI brain fry.

По данным исследования, ИИ часто не снижает нагрузку, а разгоняет её. Вместо одной задачи у тебя появляется несколько параллельных потоков: поставить задачу модели, проверить ответ, исправить ошибки, сравнить варианты, принять решение и не пропустить галлюцинацию.

Здесь, кстати, работает также как и с увеличением команды. Один AI-инструмент — производительность растёт. Два — рост ускоряется. Три — рост ещё есть, но уже заметно медленнее. А четыре и больше — производительность падает. Авторы так и пишут: "Многозадачность непродуктивна, и мы снова и снова поддаёмся её соблазну.". Согласен.

Больше всего достаётся тем, кто использует ИИ агрессивно: разработчикам, IT-специалистам, финансистам — всем, кто пытается выжать из себя больше обычного.

Раньше ты делал задачу. Теперь ты ещё и менеджер маленькой армии постоянно косячащих стажёров, которые работают быстро, но требуют постоянной проверки.

LawCoder

У меня тут новая ИСКРА на тесте, почти месяц её гонял, и уже решил, что пока не буду брать, хотя вектор её развития мне нравится, но до сих пор не сделать функцию «прикрепить документ» для анализа — это прямо очень медленное развитие продукта, в то время, когда Hermes-агенты бороздят просторы Большого театра.

И вот еще сегодня я ответ от Искры закинул Дипсику, и кажется, как в индийском кино: брат нашёл сестру или что тут у вас происходит?)

Получается, исследование, о котором я вот здесь рассказывал, работает? Или просто совпадение?

Кто знает, что там у Искры под капотом, какая модель? Говорили они, может, где-то об этом, а я пропустил?

LawCoder

Мониторю расходы на АПИ Дипсика в связки с Hermes-Agent и продолжаю удивляться ценообразованию наших сервисов - оберток над ихними ИИ-АПИ.

Если я действительно вчера попал в цель и там дипсик, то из чего складывается цена в 1700 в месяц за Искру? Какой мне смысл покупать этот продукт за такую цену, если за 4 дня активнейшего использования хермес-агента я потратил 1,34$, т.е. в среднем 33,5 цента в день * 20 рабочих дней = 6,6$, т.е. со всеми натяжками не больше 500 рублей получается в месяц. И это агент, которому, в отличии от Искры, можно прикрепить файлы, а он сам сгоняет в гарант за нужной инфой.

И это только один сценарий. А их там множество, ограниченных исключительно моей фантазией. Вчера вот он мне, к примеру, прошуршал по 7 сайтам и принес отчет по моему чек-листу проверки соблюдения требований по ПДн. И сделал он это в том формате, который я от него попросил, а именно в HTML, который можно открыть как сайт и смотреть красиво оформленный отчет, со скриншотами страниц.

LawCoder

Пятничный инсайт

Сейчас из каждого утюга про автоматизацию работы с EXCEL для бухгалтеров с помощью ИИ. Некоторые уже довольно активно вовлекаются, в том числе в вайб-кодинг. Остальные боятся начать потому что не понимают что их ждёт.

Поэтому сегодня я решил не просто поделиться промптом для начала, но и дать вам видео, посмотрев которое вы четко будете представлять, что такое управлять оркестром агентов ИИ-бухгалтеров.

Итак, девчата, не бойтесь, накатите уже скорее, в смысле Гермес агента и вот ваш первый промпт:
Breathe the pressure
Come play my game, I'll test ya
Psychosomatic, addict, insane
Come play my game
Inhale, inhale, you're the victim
Come play my game
Exhale, exhale, exhale
EXCEL, EXCEL, EXCEL!

LawCoder