🧠 MIT провело исследование: участники, писавшие эссе с помощью ChatGPT, показали самую низкую мозговую активность.

Делюсь с вами самыми интересными наблюдениями:

1. 83% участников, писавших с ChatGPT, не смогли вспомнить ни одного предложения из своих же текстов. Те, кто писал самостоятельно, такой проблемы не имели.

2. Нейронная активность снизилась почти вдвое — на 47%.

3. После отказа от ИИ активность не восстанавливается сразу. Учёные называют это «умственным долгом» — привычка думать уступает место привычке получать ответ.

4. Тексты с ChatGPT оценивали высоко по форме, но называли “безжизненными” и “плоскими”.

💡 Но при этом — самый высокий успех был у тех, кто сначала формулировал мысли сам, а уже потом использовал ChatGPT как инструмент.

А значит, дело не в самом ИИ — а в том, в какой момент ты его подключаешь. Сначала подумай сам → потом спроси ИИ.

🔥 Рубрика «Мир иллюзий».

#галлюцинации #ии #Мириллюзий

История про дело Mata v. Avianca — хрестоматийный пример юридической галлюцинации LLM: адвокат представил в суд меморандум с не существующими прецедентами, которые ему «подсказал» чат-бот. Судья П. Кевин Кастел (Southern District of New York) провёл слушание, подтвердил фиктивность источников и вынес санкции. Это первый официально задокументированный случай, когда большая языковая модель привела к реальным правовым последствиям.

❓Что именно произошло — по шагам

Адвокат из нью-йоркской фирмы Levidow, Levidow & Oberman попросил ChatGPT «найти прецеденты, подтверждающие возможность продления срока иска против авиакомпании Avianca». Модель уверенно выдала список дел — с названиями, томами и «цитатами» из решений.

1️⃣ Первая галлюцинация.
Меморандум, сданный в суд, содержал шесть дел, которых не существовало в базах Westlaw и LexisNexis. На требование суда предоставить копии адвокат представил pdf-файлы, также сгенерированные ИИ — со стилем юридических документов, печатями и вымышленными судьями.

2️⃣ Второй запрос и «самоподтверждение».
В переписке с судом адвокат продолжал ссылаться на эти же дела, полагая, что ошибка в «базе данных». Модель в новом чате воспроизвела те же названия, усилив иллюзию достоверности. Суд установил: «Каждое процитированное решение — фальшивка».

🤖 Почему это работает на модели.
LLM обучена создавать правдоподобные тексты, а не проверять истинность фактов. Юридический стиль — сжатые формулы, номера, шаблон цитирования — чрезвычайно предсказуем. Модель «знает», как выглядит типичный судебный документ, и воссоздаёт его форму, не проверяя содержание. Исследования Stanford HAI показывают: даже специализированные юридические LLM галлюцинируют в 15–20 % запросов без внешней валидации.

💎 Откуда взялась сама история.
Дело Mata v. Avianca рассматривалось в 2023 году в SDNY. Судья Кастел 22 июня 2023 года вынес Opinion and Order on Sanctions: штраф $5000 и обязанность уведомить судей, упомянутых в вымышленных решениях. Этот документ стал первым юридическим прецедентом наказания за использование LLM без проверки.

⚙️ Разбор механики

— Это не «ошибка поиска», а оптимизация: модель предпочитает связанный юридический текст с цитатами вместо честного «не найдено».

— Контекстная контаминация. Как только в диалоге закрепился вымышленный прецедент, модель продолжает на него опираться — аналог «ложной памяти» в когнитивной психологии.

— Последствия. Реальные санкции, официальное решение суда и публичное обсуждение — пример того, как симуляция знания превращается в юридическую ответственность.

🔗 Источники и ссылки

Официальный документ:
Opinion and Order on Sanctions по делу Mata v. Avianca (SDNY, Judge P. Kevin Castel, 22 June 2023).

Репортаж о санкциях:
Reuters: “US Judge Sanctions Lawyers Who Used ChatGPT for Fake Legal Citations” (23 June 2023).

Сводка и архив дела:
CourtListener — полный список документов по Mata v. Avianca.

Обзор Stanford Law:
Stanford CodeX Blog: “Rule 11 and the Rise of AI-Assisted Lawyering” (2024).

Справка по делу:
Wikipedia — Mata v. Avianca, Inc. (описание, даты и суть решения).