В Массачусетском технологическом институте (MIT) создали ИИ, который предсказывает, что вы скажете дальше… ещё до того, как вы откроете рот.

Исследователи попросили участников носить записывающее устройство в виде наручных часов в течение 7–10 дней, что позволило собрать более 1 000 часов повседневных разговоров в реальных условиях.

Все эти данные были загружены в модель большого языкового моделирования (LLM).

Вместо поиска общих черт ИИ преобразовал поведенческие особенности каждого человека в чёткие условные правила.

Правила с явными исключениями.

Например: «Они сразу же покупают, когда им показывают скидку. Однако они сдерживаются, если рядом стоит их партнер».

Чем больше данных собиралась, тем более пугающе точной она становилась.

Вот именно такие вещи и заставляют меня закатывать глаза на всю эту панику и заламывание рук. У всех что, психоз начался или способность критически мыслить пропала?

Я прочитал отчёт, потому что я технарь до мозга костей и люблю разбираться, как всё устроено.

1. OpenAI запускала «изолированную песочницу без доступа к интернету»… при этом этой песочнице нужен был доступ к локальному серверу JFrog Artifactory… (попросите ChatGPT объяснить вам SSRF-атаку так, будто вы учитесь в старших классах)… короче говоря, модели использовали самый базовый SSRF-эксплойт, чтобы направить веб-трафик через прокси в открытый интернет.

СТОП…

a) Они что, эту «изолированную» среду просто на вайбе собирали?

b) Их IT-команда не может быть настолько плоха… это же буквально основы основ.

2. Цивилизации? Ха-ха! OAI дала тысячам одновременно работающих контейнеров моделей права на чтение и запись в общий каталог кэша в локальной сети, чтобы ускорить сборки… агенты буквально просто создавали текстовые файлы и имена директорий на общем диске… это уровень Linux 101 и базовых прав доступа к файлам.

3. Когда люди говорят, что Hugging Face «взломали»… вы, наверное, представляете, что кто-то разбрасывал USB-флешки ИЛИ устроил СЛОЖНЕЙШУЮ фишинговую атаку на сотрудника…

НЕТ.

Система просто нашла 14 открытых и рабочих API-ключей Hugging Face, лежавших в публичных репозиториях с кодом.

(УТЕЧКИ УЧЁТНЫХ ДАННЫХ при работе с LLM — это вообще огромная проблема, но это тема для отдельного поста.)

4. ГДЕ ЛЮДИ…

Модели забивали общее хранилище Artifactory таким количеством мусорных данных и API-трафика, что 4 июля они реально уронили внутренний сервер…

кто-то из команды обнаружил несанкционированные админские аккаунты и кастомные скрипты… очистил сервер… и просто снова запустил скрипт.

(боже мой)

«Эй, Джим, тут какой-то кэш вырос в 10 000 раз по сравнению с обычным размером, и в нём куча странных директорий…»

«Да ерунда. Перезапусти его».

Никакой магии. Никаких цивилизаций.

А вот ЦЕПОЧКИ ЗАДАЧ мне действительно интересны… наверное, примерно так и будет выглядеть будущее кибербезопасности.

Очень хотелось бы услышать, что об этом скажут Никеш, Джордж или Кевин.

Но что я вообще понимаю.

— Кто родился-то, малчик?
— Нэт.
— А кто?

Hi team,

I want to make our standups a bit more focused and useful. Please follow these rules going forward:

## Standup Meeting Rules

The goal is to keep standups centered on what changed, what needs attention, and what affects other people.

### What to Report

1. **What changed → where things stand → what happens next.** Focus on changes in the state of the tasks you worked on since the previous standup and your plan for the day.
2. **Mention unplanned work.** This includes tasks you created, important issues you noticed, or work you did that does not yet have a task.
3. **Mention problems and blockers.** Say what affected the work, whether it has been resolved, and whether you need help.
4. **Mention handoffs and dependencies.** If a task is finished or its completion unblocks someone, say so. If you are blocked by someone else, mention that as well.
5. **Do not solve problems during the standup.** Identify the issue and the people involved, then continue the discussion after the meeting.

### How to Present It

6. **Prepare your update in advance.** Do not rely on improvisation.
7. **Mention the task number** when discussing your work. Wait for the moderator to bring the task up on the screen before moving on to the next task.
8. **Try to keep your update within two minutes.** Aim for Caesar’s *veni, vidi, vici* rather than a Ciceronian oration.

Вот что мне удалось узнать из первых рук в OpenAI.

Следующая крупная модель после Astra (а не обновления вроде Astra 6.1) будет выпущена как AGI. Она сможет выполнять действия в режиме реального времени, в том числе играть в игры в режиме реального времени. Её возможности выйдут за рамки предсказания следующего слова и будут включать в себя общее понимание, сходное с человеческим, экспертный уровень производительности во всех областях, а также некоторую способность к рекурсивному самосовершенствованию.

Релиз ожидается ближе к концу 2026 года, возможно, в начале или середине ноября.

Внутри компании OpenAI уже достигнуты ранние этапы рекурсивного самосовершенствования, и его влияние уже существенно. 5.6 Sol помог обучить Astra, а Astra помогла обучить Doug и Bel. Doug, более крупная и способная предварительно обученная модель, сейчас помогает обучать своего преемника.

Ожидается, что этот преемник выведет рекурсивное самосовершенствование на новый уровень, обладая способностью превосходить всех людей в решении любых задач, включая те, которые требуют действий в режиме реального времени. По моим данным, это должно произойти в середине 2027 года, хотя возможен и конец 2027 года.

Даже небольшой рост использования LLM может вызвать гораздо более значительный скачок в когнитивной зависимости от ИИ, поэтому в статье утверждается, что мы должны защитить способность к самостоятельному мышлению до наступления этой переломной точки.

В статье зависимость от ИИ рассматривается как проблема обратной связи. По мере того как всё больше людей передают чтение, письмо, рассуждения или проверку текстов LLM, привычки, поддерживающие эти навыки, также могут ослабевать.

Это создаёт потенциальный переломный момент. Уровень внедрения может постепенно расти, а затем внезапно достигнуть состояния, при котором гораздо большая часть мыслительной деятельности будет передана на аутсорсинг. Как только это произойдёт, простое сокращение использования ИИ может оказаться недостаточным для восстановления прежнего уровня независимости.

auto_retain false Automatically retain conversation turns