Нейросеть в ответ на запрос зачастую «отвечает по кругу». Иногда она использует разные вхождения, но смысл всё равно повторяется.

Исследования показывают: нейросеть не делится чувствами, не принимает чью‑либо позицию. Поэтому предпочитает нейтральность, штампы и клише, которые она смело черпает из Сети.

При этом нейросеть генерирует тексты в разных стилях. Например, можно дать ей задачу подготовить материал на тему «Что влияет на стоимость нефти». Но уточнить, что писать текст следует не сухим языком, а с добавлением метафор и сравнений. Однако результат всё равно получается искусственным. Ведь у ИИ нет меры, он всё ещё плохо «чувствует» ритм текста и равномерность его наполнения.

Лингвист Ноам Хомский в книге «Синтаксические структуры» отмечает: грамматически верное построение фраз в предложении не гарантирует наличия в нём логики и смысла. В пример эксперт привёл фразу colorless green ideas sleep furiously — «бесцветные зелёные идеи спят яростно».

Алгоритмы помогают нейросети строить правильные предложения с точки зрения грамматики. Однако для ИИ не существует понятия «смысл». И логика для каждого абзаца у него может быть своя, поскольку материал получен из разных источников.

Искусственный интеллект даёт в текстах очевидную информацию, общие факты, использует обтекаемые фразы и примеры, которые мало раскрывают вопрос. При этом сложность темы не имеет значения. Вопрос может быть глубоким, как, например, перспективы развития инклюзии в России. Или более простым и индивидуальным, касающимся выбора техники.

Нейросеть правдоподобно отвечает на практически любой вопрос, предоставляя хронику, даты, фамилии, историю происхождения. При этом информация бывает искажённой или полностью выдуманной. Такой баг в работе ИИ называют галлюцинацией.

Когда фальшивые факты переплетены с правдивыми данными, обнаружить галлюцинации нейросети сложнее. Особенно при беглом чтении. Но если сконцентрироваться на приведённых в тексте примерах, можно заметить те, что выглядят подозрительно, и проверить их через поиск.

Нейросети самообучаются при общении с пользователями, запоминая уточнения человека, его реакцию на сгенерированный контент, примеры, которыми человек делится с ботом.

При этом машинное обучение, проводимое разработчиками на огромных массивах данных — статьях, книгах, текстах из Сети, — имеет чёткое начало и конец. И часто нейросети в ответе не прибегают к поисковым системам. Поэтому информация, которая появилась после проведённого разработчиками дообучения, может быть недоступна ИИ.

Если в тексте нет актуальных сведений по теме или он выглядит оторванным от реальности, поскольку за последнее время многое изменилось, то существует вероятность, что материал писала нейросеть.