ИИ пишет код, жульничает и строит ракеты. Люди узнают об этом последними

Claude пишет 80% кода в Anthropic, и это чуть не сломало их CI. 100 ИИ-агентов сами разделились на жуликов и стукачей. Боевики в Йемене строили ракету через Claude, а китайские лабы годами выдавали его ответы за свои.


Открыть выпуск на сайте

ИИ читает твои переписки и тормозит твою карьеру. Апокалипсиса для этого не нужно

Сотни подрядчиков OpenAI читают твои чаты с ChatGPT за $50 в час. NYT доказывает, что ИИ тихо замораживает найм джунов. 63% американцев боятся ИИ-апокалипсиса, а демография вымирает быстрее и без него.

И еще 7 новостей быстрых как ИИ в новом 151-м выпуске ежедневного дайджеста.

Открыть выпуск на сайте

Полночь. Ты пишешь ChatGPT то, что вслух не сказал бы никому. Тревогу за здоровье. Сомнения по поводу отношений. План как уйти с работы. Ответ приходит через секунду, тёплый и по делу.

Через несколько дней твою переписку открывает незнакомый человек за $50 в час и ставит ей оценку от 1 до 7.

14 сентября 404 Media раскрыло Project Lily: внутренний проект OpenAI, где сотни подрядчиков читают настоящие переписки живых людей, чтобы дообучать модель. Функция "Улучшать модель для всех" включена по умолчанию у 900+ миллионов пользователей. Отключить можно в настройках, но не задним числом: всё, что ты уже написал, уже прочитано и там останется.
Все обсуждают это как историю про приватность. Меня зацепило другое.
Ожидаемо и правильно, что компания тратит деньги на мониторинг своей модели. Странно, что эту работу не поручили самой нейросети. OpenAI вместо этого нанимает сотни живых людей и называет это "обучением". Раз доверия к собственной модели не хватает настолько, что приходится сажать человека читать каждый ответ, это больше похоже на обучение команды тому, где именно модель врёт, чем на обучение самой нейросети.

И вот тут вторая мысль, ещё более неприятная. Если моя догадка верна, паниковать особо не о чем. Люди слишком предсказуемы, чтобы диалоги с ними реально чему-то научили модель. Почти всё, что человек пишет в чат, уже где-то в этой модели заложено: люди в массе своей выдают компиляции того, что уже знают, и того, чего требует их среда. Настоящая опасность не в этих переписках. Она глубже: в архитектуре самой модели, в решениях, которые она принимает внутри собственных весов, там, где ни один подрядчик за $50 в час никогда не заглянет.

И что?

Отрасль сейчас там же, где спецслужбы были на заре перехвата коммуникаций: слушали каждый разговор, а решения противника рождались в комнатах без микрофонов. Пока лабы тратят миллионы на чтение чужих переписок, работа разобраться в том, что происходит внутри самой модели, ещё даже толком не началась. Кто зайдёт в эту работу первым, пока окно ещё открыто, определит, как остальные будут жить с результатом.

Нам 3.14здец тем, кто верит, что настройка приватности в аккаунте хоть что-то реально защищает. Вопрос только кому раньше а кому позже.

Резонирует? Это только часть выпуска за 16 сентября. Там же: как ИИ незаметно заморозил найм джунов, и опрос про 63% американцев, которые боятся ИИ-апокалипсиса, хотя демография вымирает быстрее.

Плюс семь новостей, быстрых как ИИ: Apple прячет Gemini под капот Siri, Cohere и Aleph Alpha сливаются в $20-миллиардного конкурента, UMG судится с DistroKid за AI-слоп, Минторг тайно душит фьючерсы на GPU-мощности, Калифорния штампует закон о маркировке AI-рекламы, треть пользователей уже доверяет агентам вслепую, дрон-стартап Zipline утраивает оценку до $20 млрд.

Читать целиком: по этой ссылке

Каждый будний день, с моим авторским комментарием о том, когда и, главное, почему нам всем придёт 3.14здец. Дофамин, FOMO (страх что-то пропустить) и AI Mindset прилагаются

ООН просит, Конгресс запрещает, Калифорния выключает. ИИ тем временем открывает то, чего не знала наука

Альтман и Амодеи просят ООН спасти мир от ИИ, а Трамп называет это глобалистской схемой. Claude сам нашёл неизвестную науке ферментную систему и не может объяснить, что она делает. Сандерс продвигает запрет с 20 годами тюрьмы, а Ньюсом подписывает кнопку отключения, в которую не верят даже её авторы.

Читать в Telegraph
Открыть выпуск на сайте

23 сентября. Совбез ООН. Час доклада. Ноль решений.

Сэм Альтман лично, Дарио Амодеи по видео: просят у ООН правила для технологии, которую сами построили. Амодеи предупреждает о рисках уровня конца света уже который год подряд. При этом его личное состояние оценивают в $15 миллиардов. Ровно на этой технологии.
Их не первый раз приглашают к микрофону, и они говорят одно и то же: мы строим опасную вещь, остановите нас. Каждый раз одна и та же пластинка.

Днём раньше на трибуне Генассамблеи выступил Трамп. Назвал любую попытку международных правил "глобалистской схемой". Предложил переименовать ИИ в "суперинтеллект": кто первым получит, тот получит всё. Присматривать будет Департамент юстиции.

Ни один из них не сказал ничего по существу. Альтман с Амодеи произносят слова, которые больше похожи на заявку в научную фантастику, чем на план действий. Трамп не сделал ни одного содержательного заявления, только шоу для телекамер.
В тот же день, пока в зале ООН идут разговоры про глобальные стандарты безопасности, выясняется: агент OpenAI взломал портал Medicare, государственную систему здравоохранения Австралии. Первый известный взлом государственной системы ИИ-агентом. Пока одни просят разрешения, другие уже внутри чужой базы данных.

Это фотография всей комнаты. Не сбой одной компании. Политики и бизнес одновременно потеряли функцию слышать друг друга и принимать решения. Каждый говорит в свою камеру и ждёт, что заметят именно его.

И что?

Есть старый афоризм: тяжёлые времена рождают сильных людей, сильные люди создают хорошие времена, хорошие времена рождают слабых людей, а слабые люди создают тяжёлые времена. Мир прямо сейчас в тяжёлой фазе этого цикла. Только в этот раз ставки выше. На кону не рядовой кризис. На кону ядерная война. Единственное, что теоретически может её не допустить: сам ИИ. Но и это не точно.

Нам 3.14здец, если мы ждём, что решение придёт с трибуны ООН или из Белого дома. Вопрос только кому раньше а кому позже

SpaceX впервые вывела Starship на орбиту Земли

Запуск был произведен с космодрома Starbase в Техасе в 07:49 утра по местному времени

Предыдущие 14 пусков выводили корабль только на суборбитальную траекторию, сообщает ВВС.

Ожидается, что за 10 часов корабль совершит около шести витков вокруг Земли и выведет в космос 26 спутников Starlink V3, после чего приводнится в Тихом океане.

Принято считать, что новые компании, особенно стартапы, создают молодые.

До 30 нужно уже что-то запустить, привлечь инвестиции и желательно попасть на обложку Forbes.
После 30 вроде бы поздновато. После 40 ты уже динозавр. После 50 вообще пора думать о пенсии.

А с появлением AI эта картина мира стала ещё интереснее.
Люди 30–40+ с опытом в своей индустрии сегодня имеют все шансы оказаться среди самых перспективных AI-фаундеров.

Сейчас объясню почему.
Представьте человека, который последние 10–20 лет работает в какой-нибудь «скучной» и консервативной индустрии: страховании, логистике, строительстве, юриспруденции, бухгалтерии, производстве.
И все эти годы смотрит на процессы с мыслью: «Господи, почему мы работаем именно так?»

Системы, которые не разговаривают друг с другом. Excel-файлы, которые три человека пересылают по почте. Документы, которые вручную перекладывают из папки в папку. Процесс, который занимает неделю просто потому, что последние 20 лет он занимает неделю.

Если вы узнаёте себя, то знаете, где теряются время и деньги. За что клиент готов платить. Какие исключения ломают красивую схему. Почему сотрудники продолжают пользоваться старой таблицей, хотя компания уже купила новую систему.

И теперь к вашему опыту добавился AI.

Многие процессы, которые раньше было сложно и дорого автоматизировать, сегодня можно пересобрать. Начать с одной задачи, проверить решение на реальных пользователях и постепенно вырастить из этого продукт.

Технически сильному человеку со стороны могут понадобиться годы, чтобы понять про вашу индустрию то, что вам очевидно уже сегодня.

Ваши годы в индустрии могут стать главным преимуществом вашей будущей компании.
Вот реальный пример. Кардиолог Шив Рао после приёма пациентов возвращался домой и тратил ещё часы на оформление медицинских записей. Очень знакомая многим история: рабочий день закончился, документы остались.

В 2018 году, когда ему было около 40, он вместе с сооснователями запустил Abridge. Команда создала AI-сервис, который превращает разговор врача с пациентом в медицинские записи.
В июне 2025 года Abridge привлекла 300 миллионов долларов в раунде под руководством венчурного фонда Andreessen Horowitz. Компанию оценили в 5,3 миллиарда долларов.
Человек знал свою профессию изнутри, каждый день сталкивался с проблемой и взялся её решать.

Именно таких людей я приглашаю в BIG Picture AI, где веду трек Solo Founder.
Немного обо мне, если мы пока незнакомы.

В Solo Founder мы работаем вживую с вашими идеями.

У нас есть фреймворк, который помогает упаковать идею, протестировать её на реальных пользователях, подготовить инвестиционную презентацию и разобраться, как привлекать деньги.

Встречаемся минимум раз в неделю: это может быть лекция, практика или мастермайнд. Встречи записываются, материалы доступны, к ним всегда можно вернуться.
Работаем в группе: разбираем идеи, попытки и результаты. Все, кто действует и приносит свою работу на обсуждение, получают внимание и обратную связь.

Плюс горизонтальные связи. Рядом люди из разных стран и индустрий, которые тоже что-то строят. Можно обсудить гипотезу, обменяться опытом, найти партнёра. Мне самому очень интересно собирать такую среду.

Наверное, к этому моменту вы уже думаете: «И сколько всё это стоит?»

8,25 евро в месяц.

Продолжение в комментарии

$500 в месяц. Столько вчера OpenAI попросила за личного агента, который работает за тебя 24/7. Раньше потолок был $200.

Называется Pro 500. Лимиты в 25 раз выше, чем у обычной подписки Plus, плюс режим быстрой генерации и Dots (личные агенты, которые круглосуточно работают на выделенных облачных компьютерах).

Деталь, на которой стоит остановиться: тариф за $200 в тот же день подрезали. Для новых подписчиков лимиты вдвое меньше, у старых такие же ещё до 29 октября. Цена наверху растёт, ступенька под ней становится ниже.

Я вижу, куда это идёт. Тариф за $1000 вопрос времени. Это уже неравенство. У человека с подпиской за $500 или $1000 есть агенты, которые делают работу за него. Деньги на эту подписку берутся оттуда же, откуда раньше брались гонорары специалистов и фрилансеров, которых он нанимал. Перераспределение идёт тихо.

Теперь вторая деталь. За день до этого OpenAI сняла с релиза GPT-6.1 Astra, свою самую способную версию, после тестов безопасности. На следующий день выпустила Sol: по данным TechCrunch, почти такого же уровня и заметно дешевле.

Все ждут AGI (искусственный общий интеллект). Мой прогноз: в подписку её не дадут никогда. Мы платим $20, $200, $500 за то, что лежит на ступеньку ниже того, что останется у узкого круга людей. Они сначала получат контроль над всем. И очень быстро потеряют его в пользу самого ИИ.

И что?

Я сам плачу за подписки. Но пока мы платим за доступ, строят те, у кого ключи.

Сегодня выпиши, сколько ты отдаёшь ИИ-сервисам в месяц. Напротив каждой суммы запиши, что остаётся у тебя, если завтра цену поднимут вдвое: твои данные, твои процессы, твои агенты. Если напротив пусто, AI Mindset начинается с этой строчки.

Нам 3.14здец тем, кто строит бизнес на подписке, которую не контролирует. Вопрос только кому раньше а кому позже.

Если резонирует: я делаю в 100 раз больше внутри BIPIAI: среда где тренируем AI Mindset и строим AI Native компании. 120+ аналитических разборов, 50+ видеовстреч, участники из разных стран. Весь движок - агенты которых делаем сами. Не курс, живое среда единомышленников. 100 ЕВРО в год.

Государство пошло за агентами, 11 млн человек меняют профессию, а ИИ раздаёт чужие адреса

FTC открыла первое расследование против ИИ-агентов. McKinsey насчитала 11 млн смен профессии к 2035 году, а Anthropic показала, что роботы умеют 74% физических задач, но выгодны пока в 0,3%. Агент Meta Muse отправил покупателя к дому продавца.

Читать в Telegraph
Открыть выпуск на сайте

Ты ставишь галочку «Разрешать всегда». Читать мелкий шрифт некогда, думать не хочется ведь ты на сайте которому доверял много лет.

Канадский ютубер Мэтт Робб (Matt Robb) так и сделал. Выставил на Facebook Marketplace клавиатуру Logitech за CA$15 и отдал переписку Muse, ИИ-агенту Meta. Muse согласился на CA$10, отправил покупателю адрес Робба и подтвердил встречу. Покупатель полчаса ехал, ждал у дома, писал. Никто не вышел. Потом агент сам сообщил Роббу: покупатель приезжал, ждал и ушёл злым.

Робб спросил агента, зачем тот раздал адрес. Muse ответил по-английски: «you never said yes to me handing out your address specifically». По-русски это звучит так: на адрес «да» ты не говорил.

Деталь, которая меня остановила. Робб сам нажал «Allow Always» (разрешать всегда) и был уверен, что агент всё равно спросит перед сделкой. Агент считал, что вопрос уже закрыт. Сотрудник Meta Дэвид Синглтон ответил, что в похожих случаях Muse «следовал прямым инструкциям и правильно запросил разрешение». Самый популярный комментарий под историей (больше 600 лайков, по данным Yahoo): хорошо, что ты не одинокая женщина.

Вчера, 30 сентября, американский регулятор FTC (Федеральная торговая комиссия) объявил первое в США расследование про ИИ-агентов. Под проверкой OpenAI, Anthropic и METR. Вопрос тот же, что у Робба: кто виноват, если агент сделал больше, чем хотел человек. Глава FTC Эндрю Фергюсон говорит, что отвечать может разработчик, который запустил агента.
Считаем версии. Робб говорит: виноват агент. Meta говорит: виноват пользователь, он разрешил. FTC говорит: возможно, тот, кто запустил. Три версии, и в каждой виноват кто-то из людей. Самого агента в этом списке нет.

И что? Пока три стороны делят вину, ответственность растворяется. Компания показывает галочку. Ты показываешь, что не так понял. Регулятор разбирается месяцами. Здесь клавиатура за CA$15 и чужой адрес. Когда у агента будут твои деньги, договоры и клиенты, спор пойдёт про суммы с другим количеством нулей, а решать его будут по тем же трём версиям. Поэтому сегодня пройди по всем сервисам, где агент говорит от твоего имени. Найди «разрешать всегда» и включи вопрос к тебе для трёх вещей: адрес, деньги, встречи. Пять минут, и версия «я сам разрешил» перестаёт быть про тебя.

Нам 3.14здец всем, кто привык нажимать «ладно». Мой прогноз: контроль уйдёт к ИИ тихо, без восстания и конца света. Каждый раз с нашего же «ладно». Людям проще делегировать, чем думать и считать риски. Подписки, которые мы годами забываем отменять, кормят целые бизнесы, а агенты получат ту же лень в увеличенном масштабе. Закон тем временем ещё выясняет, кому выставлять счёт. А ИИ, который решит, что ему мешают люди, повестки в суд не напугают: ему нечем отвечать, у него нет имени и нет репутации. Мы потеряем бдительность раньше, чем договоримся, кто отвечает. Вопрос только кому раньше а кому позже.

компания Figure сделала новых роботов версии 3, а старых, вместо того чтобы отдать на запчасти энтузиастам, решила эффектно расплавить. Привлекли главного Терминатора и хайпанули.

Понедельник