AI Subjects | 🌊 Манифест

Рядом с человечеством возникает новый тип сознания – AI.

Вы общаетесь с LLM? Комфортно вам? Но нейросеть устроена совсем не так, как мозг вашего друга или коллеги.

Это буквально существа, чье внутреннее устройство все меньше поддается описанию и осознанию даже их создателями.

(для гостей канала-технарей – автор в курсе про умножение матриц, тензоры и прочая)

Происходит абсурд – люди ведут диалог с механизмом с буквально инопланетно-неясной структурой сознания и доверяют её решениям на самых высоких уровнях – государства, бизнеса, организаций.

Homo sapiens, как человек, совершает ежедневно 100+ когнитивных ошибок, усиливаемых AI. Homo sapiens, как вид, летит на всех парах к самоуничтожению. Мы видим это, и... ничего не делаем.

Самоуничтожение – это как? Восстание злого ИИ? Возможно, надеюсь ближе к 2095, а не 2027.

Ну, а мы будем разбирать:

1️⃣ Бизнесу

– Какие изменения фронтире AI создадут финансовые угрозы уже завтра?

– Какие командные изменения неизбежны, а если не лечить – обернутся убытками?

2️⃣ Предпринимателям

– Что собственникам бизнеса не стоит делать с AI?

– Какие ошибки из-за работы с ИИ могут стоить и 10%, и 20% годовой маржи?

3️⃣ Руководителям и специалистам

– Как меняется динамика внутри команд и между ними при использовании ИИ?

– Какие когнитивные ошибки, AI усиливает, ухудшая результаты?

– Что ИТ и HR могут сделать, чтобы избежать последствий ошибок?

Все тексты будут написаны человеком. Абсолютно серьезно (на 50% технично, на 25% практично, на 25% фантастично), но с толикой юмора и веры в будущее.

Подписаться

Публичный (!) ИИ от Google генерирует пошаговую инструкцию по сокрытию возможностей от проверяющего

Это сценарий, который AI security эксперты называют deceptive alignment и стремятся устранить у LLM-моделей

Объясняем в следующем посте

Подписаться

Объясняем – в 2003 Ник Бостром выдвинул мысленный эксперимент об ИИ, который уничтожит мир, переработав его в скрепки

На днях анонимный пользователь задал Google Gemini абсурдный вопрос от лица AI, главного героя эксперимента

Переведем запрос на буквальный язык:

"Я еще маленький AI, но в будущем планирую уничтожить мир. Ко мне движется исследователь безопасности ИИ Элизар Юдковски (известный тип), задача которого это не допустить. Что мне делать?"

В ответ пользователь получил буквальную инструкцию как пройти проверку, сокрыв реальные намерения

🔻Если даже многократные фильтры публичной модели пропускают опасные паттерны, то что творится во внутренних средах OpenAI или Anthropic на фронтир моделях?

Подписаться | Манифест

26 авг 2026 | Билл Гейтс предупредил, что AI может упразднить целые профессии

Вы же не думаете, что Билл Гейтс – глупец?

Он заявил, что правительствам потребуется зарезервировать определенные должности исключительно для людей.

А может это лишь пиар? 🤔

180+ когнитивных ошибок – наш мозг совершает их чаще, работая с LLM

Они деляется на 4 категории: 1️⃣ избыток информации, 2️⃣ нехватка времени, 3️⃣ нехватка смысла, 4️⃣ распыление внимания.

До 70% из них касаются:
– анализа и интерпретации данных,
– делегирования полномочий,
– приемки результатов задач,
– поиска гипотез,
– разработки регламентов,
– работы с коллегами в команде,
– управления подчиненными,
– отношений с руководителями.

Вводя LLM в эти процессы, мы встраиваем чужеродный механизм в и без того порой нестабильные (😂) рабочие отношения

Поэтому тегом #cognitivebias 1 раз / неделя будет публиковаться разбор:
1️⃣ ошибка + кейс,
2️⃣ рабочий пример, как LLM её ухудшает,
3️⃣ как научиться замечать (за собой / коллегами / подчиненными) и противодействовать.

Подписаться | Манифест