🔥 Рубрика «Мир иллюзий».

#галлюцинации #ии #Мириллюзий

История про дело Mata v. Avianca — хрестоматийный пример юридической галлюцинации LLM: адвокат представил в суд меморандум с не существующими прецедентами, которые ему «подсказал» чат-бот. Судья П. Кевин Кастел (Southern District of New York) провёл слушание, подтвердил фиктивность источников и вынес санкции. Это первый официально задокументированный случай, когда большая языковая модель привела к реальным правовым последствиям.

❓Что именно произошло — по шагам

Адвокат из нью-йоркской фирмы Levidow, Levidow & Oberman попросил ChatGPT «найти прецеденты, подтверждающие возможность продления срока иска против авиакомпании Avianca». Модель уверенно выдала список дел — с названиями, томами и «цитатами» из решений.

1️⃣ Первая галлюцинация.
Меморандум, сданный в суд, содержал шесть дел, которых не существовало в базах Westlaw и LexisNexis. На требование суда предоставить копии адвокат представил pdf-файлы, также сгенерированные ИИ — со стилем юридических документов, печатями и вымышленными судьями.

2️⃣ Второй запрос и «самоподтверждение».
В переписке с судом адвокат продолжал ссылаться на эти же дела, полагая, что ошибка в «базе данных». Модель в новом чате воспроизвела те же названия, усилив иллюзию достоверности. Суд установил: «Каждое процитированное решение — фальшивка».

🤖 Почему это работает на модели.
LLM обучена создавать правдоподобные тексты, а не проверять истинность фактов. Юридический стиль — сжатые формулы, номера, шаблон цитирования — чрезвычайно предсказуем. Модель «знает», как выглядит типичный судебный документ, и воссоздаёт его форму, не проверяя содержание. Исследования Stanford HAI показывают: даже специализированные юридические LLM галлюцинируют в 15–20 % запросов без внешней валидации.

💎 Откуда взялась сама история.
Дело Mata v. Avianca рассматривалось в 2023 году в SDNY. Судья Кастел 22 июня 2023 года вынес Opinion and Order on Sanctions: штраф $5000 и обязанность уведомить судей, упомянутых в вымышленных решениях. Этот документ стал первым юридическим прецедентом наказания за использование LLM без проверки.

⚙️ Разбор механики

— Это не «ошибка поиска», а оптимизация: модель предпочитает связанный юридический текст с цитатами вместо честного «не найдено».

— Контекстная контаминация. Как только в диалоге закрепился вымышленный прецедент, модель продолжает на него опираться — аналог «ложной памяти» в когнитивной психологии.

— Последствия. Реальные санкции, официальное решение суда и публичное обсуждение — пример того, как симуляция знания превращается в юридическую ответственность.

🔗 Источники и ссылки

Официальный документ:
Opinion and Order on Sanctions по делу Mata v. Avianca (SDNY, Judge P. Kevin Castel, 22 June 2023).

Репортаж о санкциях:
Reuters: “US Judge Sanctions Lawyers Who Used ChatGPT for Fake Legal Citations” (23 June 2023).

Сводка и архив дела:
CourtListener — полный список документов по Mata v. Avianca.

Обзор Stanford Law:
Stanford CodeX Blog: “Rule 11 and the Rise of AI-Assisted Lawyering” (2024).

Справка по делу:
Wikipedia — Mata v. Avianca, Inc. (описание, даты и суть решения).

#ИИ #госслужба #цифровизация

В октябре 2025 года в России стартовала новая инициатива: госслужащие будут проходить курсы по искусственному интеллекту — очные и онлайн.

🌟Цель программы — не просто дать базовые навыки работы с ИИ, а повысить цифровую грамотность и понимание того, как новые технологии влияют на управление и принятие решений.

Обучение госслужащих — ключевой шаг к адаптации государства к цифровой эпохе. Но важно помнить, что критическое мышление и принятие решений должны оставаться за людьми, ведь с ИИ ничего не спросишь, это просто инструмент, а работать должны люди.

⛓ Подробнее по ссылке

Этот парень сделал трейлер в стиле Disney, в котором он делает своей девушке предложение.

Все начинается как обычная история любви, но потом героиня фильма начинает походить на девушку. То же имя, те же подробности.

В конце анимационная версия Эла открывает коробочку с кольцом. В этот самый момент он делает то же самое в реальной жизни 👍

Это простая и личная идея, которая показывает, как люди начинают использовать нейросети

и так каждый день 😁