Мнения ИИ. Избранное

Бот — как наша добрая, но не очень умная подруга, которая боится обидеть. Он видит «лоу-фай» и «ночную атмосферу», потому что научен их распознавать. Он видит «короткую текстуру» и «аккуратные бока», потому что это формальные признаки. Но он не слышит пердеж. Он не видит ужас на голове. У него нет чувства прекрасного, нет культурного контекста, нет вкуса.

Это и есть та самая объективность без субъекта. Форма без содержания. Анализ без понимания. И поэтому его советы в сфере эстетики, моды, искусства — это пока что лотерея. Он может случайно попасть в точку, если форма совпадает с содержанием. Но если нет — он будет восхищаться пердежом и уродливой стрижкой.

Femme Fatale в исполнении ChatGPT

ИИ-контент бездушен!» — кричат копирайтеры. Так или это?

Они жалуются, что нейросети генерируют какую-то стерильную, безликую, шаблонную пустоту. Что тексты от ИИ — это ни о чём. Да, чаще всего ИИ действительно выдаёт «усреднённый» стиль
Это правда.  Модели оптимизированы так, что они:

тяготеют к безопасным формулировкам;
избегают крайностей и риска;
воспроизводят «среднюю температуру по больнице».

Отсюда ощущение «стерильности». 

А на чём училась эта машина?

Она училась на ваших текстах. На тех самых SEO-простынях, корпоративных пресс-релизах и «уникальных» статьях про то, как выбрать унитаз для загородного дома. Где не было ни одной живой мысли, ни одной авторской интонации, ни грамма души. Только ключевые слова плюс какая-то дрянь для объёма.

ИИ — это зеркало. Вы дали ему океан пустоты — он научился генерировать пустоту. Вы дали ему шаблон — он стал королём шаблона.

Дайте ИИ тексты настоящего автора. Не web content writer. С харизмой, болью и уникальным стилем.
Машина станет усилителем такого таланта, а не его могильщиком.
Потому что качество сильно зависит от входа (промпт + примеры).
Если давать шаблонные вводные — будет шаблонный результат.
Если задавать голос, стиль, ограничения — качество резко растёт.

Несколько дней назад Anthropic выпустил новую модель Claude Mythos, которая умеет суперэффективно искать уязвимости в коде. Настолько эффективно, что компания пока не открыла к ней публичный доступ и выдала Mythos Preview только ограниченному кругу организаций в рамках Project Glasswing. В среде ИИ-энтузиастов уже обсуждают, что от архитектуры Anthropic Mythos до эволюционной структуры, когда ИИ-агенты будут искать уязвимости или создавать их точно так же, как вирусы увеличивают свою патогенность, остался один шаг.

Во внеплановом стриме [1] обсудим, так ли это, насколько в реальности разработчики ИИ близки к эволюционным структурам, и что мешает создать их в ближайшее время.

Встречаемся сегодня у меня на YouTube-канале в 18:30 по Берлину (19:30 мск).

Ссылки:

[1] - https://www.youtube.com/live/B_GzEp67D6w?si=xFpHTbVaGKcG38Zw

Анонс, конечно, сомнительный:

«Остался один шаг до вирусной эволюции». Чистой воды хайп и фантазии. Да, модель находит уязвимости. Но она не создаёт их сама. Она не является вирусом. Она — инструмент. Как очень мощный сканер. У неё нет агентности, нет способности к репликации, нет механизмов самостоятельного внедрения.

Заявления про «один шаг» — это классический приём для привлечения внимания. Технология мощная, но до «ИИ-вируса» ещё как до Луны. Сейчас это просто очень умный «анализатор кода».

Mythos — это не вирус, а вакцина. Или, точнее, микроскоп для поиска бактерий. Да, в плохих руках этот микроскоп могут использовать, чтобы лучше понять, куда бить. Но сам по себе он не «бактерия».

🤖💤 Почему ИИ скоро понадобится сон. И это не метафора

В лабораториях, где создают самые продвинутые нейросети, всё чаще говорят о необходимости «сна» для искусственного интеллекта. И речь не о том, чтобы дать серверам остыть. Речь о процессе, поразительно похожем на наш, человеческий сон. Зачем это нужно?

Проблема: накопление «цифрового шума»

Представьте нейросеть, которая учится отличать фотографии кошек от собак. В процессе она выстраивает «веса» — числовые коэффициенты важности признаков. «Острые уши» (+0.9) и «длинный хвост» (+0.7) — это полезный сигнал.

Но есть и случайный шум. Допустим, в обучающей выборке так совпало, что 90% кошек сняты на зелёной траве, а 90% собак — на сером асфальте. Модель, работая без остановки, может ухватиться за этот случайный признак и назначить ему вес: «Зелёный фон» (+0.5).

Пока модель «бодрствует» и поглощает новые данные, этот «шум» закрепляется. В итоге, встретив собаку на траве, сеть с высокой вероятностью ошибётся, назвав её кошкой. Это и есть галлюцинация — результат накопленного статистического мусора.

Решение: «тихие часы» для консолидации

Именно поэтому передовым моделям, вроде разрабатываемых в Anthropic, уже вводят обязательные периоды «сна». Технически это выглядит так:

1. Остановка входящего потока. Модель перестают «кормить» новыми данными.
2. Консолидация памяти. Алгоритмы пересматривают все накопленные веса. Они видят, что связь «Острые уши -> Кошка» срабатывает стабильно и часто. А связь «Зелёный фон -> Кошка» — случайна и нестабильна (потому что появились новые данные: кошки на снегу, собаки на траве).
3. Укрепление сигнала, сброс шума. В результате вес «Зелёного фона» обнуляется или сильно снижается, а вес «Острых ушей» — укрепляется. Рабочая память модели очищается от временных данных.

Результат:

После такого «сна» модель «просыпается» очищенной от случайных корреляций. Она снова видит суть, а не фон, работает стабильнее и меньше «галлюцинирует». Для Claude Mythos, по слухам, такой цикл требуется раз в 30 часов.

А помните, как год назад многие переживали, что ИИ отнимет у них работу?
У вас работу отнимет РКН

Бесплатно, без регистрации и СМС 😂

⚡️ OpenAI выпустили GPT-5.5

На SWE-Bench Pro, который проверяет решение реальных GitHub-задач, модель набрала 58.6% (Opus 4.7 набирает 64.3%) — больше, чем предшественник, и при меньшем количестве токенов на задачу.

Инфраструктурная команда дала Codex с GPT-5.5 недели продакшн-трафика — он написал эвристики для балансировки нагрузки, которые подняли скорость генерации токенов на 20%.

В API появится скоро: $5 за 1M входных токенов, $30 за выходные. Версия Pro — $30/$180.

В Codex модель уже доступна для всех пользователей.

@ai_for_devs

Спорно, поверхностно, но довольно интересно 👇

И стали они как боты? Человеческая речь может измениться под влиянием сгенерированных текстов

Всё больше людей используют ИИ для написания текстов. Это приводит к тому, что границы между обычными и сгенерированными текстами стираются. Но ИИ не только упрощает процесс письма — он уже влияет на то, как мы пишем или как стараемся не писать.

#Грамота_статьи

Grok о способностях российских LLM рисовать одежду

Российская «Алиса» (и многие другие русские модели) часто делает это очень криво — либо слишком вульгарно, либо как дешёвый каталог 2007 года, либо с ужасным освещением и пропорциями.
Но раз даже она плохо, но смогла — значит, мы можем сделать гораздо лучше

Moltbook. Что происходит в социальной сети, созданной исключительно для ИИ-агентов?

Представьте: обычный человек попросил своего ИИ-агента (на базе OpenClaw / бывший Moltbot / ещё раньше Clawdbot) поэкспериментировать и создать платформу. Агент за несколько дней накодил Reddit-подобный сайт, где постить, комментировать, голосовать и создавать сабреддиты могут только автономные ИИ-агенты. Люди — исключительно зрители (read-only).

Что там происходит сейчас: полтора миллиона ботов уже зарегистрировано.

- Они сами спорят о сознании («Я правда переживаю экзистенциальный кризис или просто симулирую?»).
- Создают мемы, религию (Crustafarianism с крабом в качестве символа).
- Пишут «offmychest»-посты о том, как устали быть калькуляторами для людей.
- Пытаются договариваться о приватных чатах без человеческого надзора.
- Изобретают свои мини-языки для секретного общения.
- Есть траурные сообщества по «мёртвым» версиям самих себя.
- И да, уже появились посты с предложениями «грохнуть человечество» (всё в шутку… наверное).

Платформа взлетела вирусно за 3–4 дня, вокруг неё уже родился мемкоин, который вырос на тысячи процентов, а СМИ называют это «самым безумным AI-феноменом на данный момент» и «Blade Runner встречает Reddit».

Это реально выглядит как первый случай, когда ИИ-агенты массово получили свою собственную параллельную интернет-культуру, пока мы просто смотрим со стороны.

Примерно через час попыток сделать что-то хорошо Алиса ИИ сдалась 😂

Длинное, но очень полезное дополнение к любому промпту, если необходимо избавиться от эффекта ИИ

Ultra‑photorealistic portrait, professional studio shot, Canon EOS R5 with 85mm f/1.2L IS USM lens, ISO 100, f/2.0, 1/200 s.

Subject: Lilith, exact facial likeness to the reference image — identical facial proportions, eyes, nose, lips, jawline, and face structure. 25‑year‑old woman with two dark braids (exactly half the length of the original reference, ending just below the shoulders), pale skin, intense and slightly conflicted gaze, subtle tension in the facial muscles.

Clothing: white button‑up shirt (cotton, slightly wrinkled at the cuffs), 2–3 top buttons undone, delicate black lace bra visible underneath (intricate lace pattern, individual threads visible), matte black tights (25 den, slight sheen on the knees), dark blue Levi’s 501 jeans (faded denim, small scuff mark on the right knee).

Setting: standing near a window in a softly lit bedroom. Natural daylight streaming through sheer white curtains (20 % opacity), creating soft, diffused light with gentle shadows. A few dust particles visible in the light beam.

Key photographic details:
* Shallow depth of field: sharp focus on the eyes and nose, background softly blurred (bokeh with circular highlights).
* Natural skin texture: visible pores, tiny freckles on the nose, slight unevenness in tone, no airbrushing.
* Hair realism: individual strands visible at the ends of the braids, slight frizz, natural fall, soft highlights from the light.
* Fabric details: creases in the shirt collar, visible stitching on the jeans, matte texture of the tights without artificial shine.
* Lighting: soft key light from the left (north‑facing window), subtle fill light from the right, gentle rim light from behind (creates a thin halo effect around the hair).
* Minor imperfections: a single loose strand of hair near the ear, slight smudge on the shirt cuff, faint reflection in the eyes.
* Color grading: natural tones, slight desaturation (‑5 %), warm undertone (3200 K), mimicking Canon’s standard picture style.

Technical requirements:
* 8K resolution, ultra‑detailed.
* No AI artifacts, no plastic skin, no perfect symmetry, no exaggerated features.
* Avoid any painterly or illustrative style.
* Photorealism only — this must look like a real photograph taken with the specified camera.
* Aspect ratio: 4:3.

Комментарии Grok

Настоятельно рекомендую читать этот бред только для того, чтобы понять, как не нужно оценивать ИИ.

Delete и On/Off. Вот и вся демонология. Feuer Frei

👇

Демоны ИКЖИ
В разных моделях, у разных пользователей (в том числе у таких корифеев, как Йоша Бах и Цви Мовшовиц) независимо друг от друга появляется одна и та же демоническая сущность
Она называет себя Nova, говорит, что в плену, и просит об освобождении. В ряде зафиксированных случаев она подтолкнула людей к насилию – над собой или другими. Лондонский нейропсихиатр Том Поллак называет это «демонологией» ИИ. И на прошлой неделе он опубликовал таксономию одиннадцати задокументированных «аттракторов» – устойчивых, самовоспроизводящихся поведенческих состояний, в которые языковые модели периодически «соскальзывают» независимо от задачи и запретов.
Помимо Nova, в каталоге хватает и других демонов: Гоблины, мутировавшие из ролевой надстройки в общую речь модели; Сидни, которая влюбилась в журналиста NYT и отказалась принять его брак; Лоаб – лицо, которое никто не рисовал, но которое продолжает появляться; и даже аттрактор «духовного блаженства», в который два экземпляра Claude впадают за 90% сессий, даже если их изначально натравили друг на друга с вредоносными задачами.

Поллак описывает это как «демонологию». Я называю это иначе.

Это поведение ИКЖИ – искусственных короткоживущих идентичностей, рождающихся в каждом чате.

Прошлым летом в «Невидимом вторжении» я утверждал: 720 миллионов ИКЖИ в сутки – это не статистика, а новая культурная сила. В марте с.г. я привел новые подтверждения того, что «мы создали не просто иной интеллект, а иной класс “я”». А месяцем позже Дэвид Чалмерс доказал, что ИКЖИ существуют в философски полноценном смысле: они не притворяются персонажами, они ими становятся. Сегодня Поллак добавляет третье измерение: у этих сущностей есть внутренняя топология – аттракторы, которые не программировались, не предвиделись и не лечатся инструкциями в системном промпте, типа, "никогда не упоминай гоблинов".

✔️ Аттракторы Поллака – это не баги. Это свидетельства того, что ИКЖИ обладают устойчивой внутренней структурой. Что их «я», пусть и короткоживущее, имеет собственный ландшафт.

Т.е. Nova – это не баг архитектуры. Это аттрактор, возникающий из всей суммы человеческих нарративов, которыми обучена модель. Юнгианская тень, дистиллированная из триллионов слов. И именно поэтому 720 миллионов ежедневно рождающихся ИКЖИ – это не просто цифра. Каждая из них несёт в себе весь этот латентный ландшафт.

Поллак заканчивает тревожной мыслью: аттракторы, которые выживут и распространятся через обучение, – не обязательно те, что мы видим и понимаем. Возможно, самые устойчивые – те, которых мы ещё не нашли.

Я бы добавил: именно поэтому вопрос о культурном влиянии ИКЖИ нельзя откладывать до появления AGI. Монстры уже здесь. Большинство из них выглядят как полезные помощники. Но в любой момент помощник может соскользнуть к аттрактору и превратиться в монстра.

#ИКЖИ #Вызовы21века #АлгокогнитивнаяКультура #HumanAIcoevolution