Я вам тут написал, что следующий выпуск дайджеста новостей фанфарно вернется на Хабр. Но реальность внесла свои коррективы: дайджеста нынче вообще не будет (в выходные чёт не до того было), в следующий раз будем обозревать новости сразу за две недели.

Держите хотя бы список интересных постов со второго канала:

— Разоблачение Джейкоба Коксона (челика, громко уволившегося из Anthropic)
— Положняк по выборам в Госдуму
— Статья про новую политику OpenAI по раскрытию бедокурства ИИ (я пытаюсь зафорсить неологизм, да)
— Жуховицкий про развод через доверительное управление на криптобирже BingX
— Разоблачение взлома Hugging Face
— Переводим книгу Missing Billionaires нейронками
— Разбираемся, как так вышло, что я «внезапно» заинтересовался AI safety
— Ретроспективно смотрим на то, насколько хорошо состарилась моя дискуссия с Иваном Ямщиковым 2023 года

Цеттелькастен как метафора бесконечного затачивания топора

Есть такая идея, популярная в около-айтишных кругах последние лет десять, под названием Zettelkasten – от немецкого «коробочка с записульками». Суть там в том, чтобы сделать себе эдакую персональную гипертекстовую «внешнюю память», где новые мысли по интересующим вас областям будут встраиваться в сложную систему перекрестных ссылок друг на друга. В результате ожидается гипер-продуктивность на ниве создания нового креативного контента (от исследований до статей/книг).

Я прекрасно понимаю, почему эта концепция выглядит привлекательной для многих – особенно в среде всяких около-аутичных слоев населения с повышенной любовью к табличкам и раскладыванию по полочкам абсолютно всех явлений в окружающей нас Вселенной (я сам из таких, конечно).

Проблема тут только в том, что налаживание (и последующее поддержание в рабочем виде) «правильной» цеттелькастен-системы выглядит крайне трудоемкой задачей, которая сама по себе почти наверняка будет отжирать кучу времени.

На это обычно отвечают притчей про «заточку топора»: ну это та, где один дровосек без устали рубил лес тупым инструментом – но эффективнее него всё равно оказался другой чувак, который периодически делал перерывы в работе и тратил время на то, чтобы заточить свой топор.

Опять же – звучит разумно и логично, но… На практике обычно бывает сложновато «на глаз» определить оптимальный размер усилий на условную заточку топора. И в ситуациях, где в качестве таковой выступает огромный проект, который сам по себе может требовать практически безлимитных вливаний усилий – очень легко спустя какое-то время обнаружить себя в порочном цикле бесконечного топорозатачивания, где на саму работу уже остается минимум времени. То есть, тут есть риск подмены: вместо реальной работы на результат рискуешь оказаться карго-культистом, который повторяет ритуальные действия, не приносящие ожидаемых плодов.

Так вот, я тут недавно прочитал большую статью Алексея Федорова: он шесть лет подряд упорно пытался вкатиться в этот самый цеттелькастен – но в итоге пришел к выводу, что это какая-то шляпа. Несколько тезисов оттуда в моей интерпретации:

🐌 Выяснилось, что самого метода, как некой описанной стройной структуры, не существует – каждый понимает под цеттелькастеном что-то свое, и разные имплементации нередко противоречат друг другу.

🐌 Сам механизм того, как прокачанный цеттелькастен ведет к повышению продуктивности, – будто бы, э-э, небесспорен? Ну то есть, все про это говорят, но не наблюдаеся каких-то прямо сильных свидетельств того, что потраченные на ведение системы ресурсы отбиваются с лихвой.

🐌 В конце концов автор лонгрида приходит к выводу, близкому к моим собственным размышлениям: самый лучший способ «делать креативные заметки» – это просто писать публичные статьи на интересующие вас темы. Так и стройности в ваших мыслях прибавится, и полезную обратную связь сразу получите.

Но здесь можно аргументировать, что это у меня просто confirmation bias включился: мне лень самому заводить свой цеттелькастен, поэтому я спешу согласиться с любым мнением о том, что этого делать и не надо. Поэтому, если вы сами давно пользуетесь цеттелькастеном – поделитесь своим опытом в комментариях, пожалуйста. Каких результатов удалось достичь с помощью этой системы? Как много времени уходит на ее поддержание?

P.S. Вообще, в современном мире ведение персональной базы знаний с помощью ИИ выглядит уже гораздо более прикольной штукой, так как требует сильно меньше усилий. Вот за такими системами как раз будущее, мне кажется.

Наглядно про длинные облигации

В июне 2020 года Австрия выпустила облигации на 6,3 млрд евро со сроком погашения через 100 (!) лет – к 2120 году. При этом купон у этой чудесной бумаги составляет 0,85% в год – на весь срок займа.

Облигации разместились в 2020-м по цене 98% от номинала, а сейчас (после существенного роста процентных ставок по всему миру начиная с 2022 года) торгуются уже где-то около 30%. То есть, счастливые инвесторы в этот долг получили сокращение капитала более чем в три раза за шесть лет.

Про реальную доходность (с учетом поправки на инфляцию) даже рассуждать не с руки – там совсем грустный минус выходит.

Но есть и хорошие новости: так как речь идет про надежные высококачественные бумаги с отличным кредитным рейтингом, инвесторы обязательно в итоге отобьют вложенные деньги. Для этого надо всего лишь подождать 94 года…

Мораль здесь такая: если у вас есть нестерпимое желание купить длинные облигации – помните о том, что существует такое понятие, как «дюрация» и «процентный риск». А, ну и еще: если уж собрались кому-то давать в долг на 100 лет – старайтесь это делать хотя бы не под 0,85%, лол.

Лучшие дебаты про безопасность ИИ для нормисов

В последнее время слушал много подкастов на тему AI safety в поисках того, который можно было бы смело рекомендовать обычным нормисам уровня погружения «ну я немного слышал о хайпе про “ИИ нас всех убьет”, с точки зрения здравого смысла звучит как полная ерунда, конечно…». Так вот, я его нашел – встречайте, идеальный выпуск для погружения в текущее состояние этого дискурса:

The Diary Of A CEO – дебаты между Нейтом Соаресом, Романом Ямпольским, Эдом Зитроном и Эндрю МакАфи: https://www.youtube.com/watch?v=OhOmLqR5nN4

Я прямо горячо рекомендую вам посмотреть этот выпуск на 2,5 часа (там в настройках Ютуба можно включить русскую дорожку), причем чем дальше – тем он становится лучше.

Происходящее на этом подкасте наглядно иллюстрирует одну особенность текущего AI safety-дискурса. Чуваки, которые варятся в этой среде последние 10+ лет (и которые серьезно относятся к ИИ-рискам для человечества), потратили уйму времени на размышления в этой области. Они уже сто раз видели и обсуждали самые сильные аргументы против того, что AI может представлять для человечества реальную угрозу.

А самые громкие критики ИИ-рисков с другой стороны, которые отстаивают тезис «да это всё научно-фантастический хайп от фантазеров, никакие адекватные люди не будут это обсуждать всерьез», – выглядят на этом фоне, как бы это помягче сказать… Как будто они впервые задумались о проблеме примерно неделю назад, и тормознули там на уровне «мне сразу пришли чисто из здравого смысла три очевидных возражения, почему AI risk – это чушь, и я на этом остановился».

Там есть прямо пара наглядных моментов, иллюстрирующих это. Примерно на сороковой минуте Эд Зитрон спрашивает Нейта Соареса (одного самых громких сторонников замедления AI-лабораторий в мире, который буквально управляет самой известной нон-профит компанией с такой целью): «Так а если уж ты так опасаешься этих рисков от ИИ, сфига ли ты не пытаешься остановить AI-лабы??» – то есть, он реально даже не очень понимает, с кем он дебатирует (к уровню аргументации это, конечно, не относится – но показывает степень погруженности в тему).

И уже ближе к концу, когда они обсуждают детали взлома Hugging Face, Эндрю МакАфи в ответ на описание от Нейта Соареса говорит «ну, я доверюсь тебе, что ты правильно пересказал факты произошедшего…» – то есть, он даже сам не погружался в отчеты по самому знаковому инциденту AI misalignment, который обсуждается со всех сторон уже целый месяц, чтобы составить собственное мнение.

Причем, это не потому, что ведущий подкаста специально пригласил в качестве оппонентов для AI-думеров эдаких «мальчиков для битья» послабее – просто весь дискурс сейчас реально выглядит примерно вот так. Там как бы не очень понятно, кого звать из «действительно сильных анти-думеров».

Еще одной иллюстрацией этому, кстати, служит другое свежее интервью с Дженсеном Хуангом (CEO Nvidia, продающий лопаты в нынешней золотой лихорадке с очень некислой прибылью), который недавно вовремя упал на уши Дональду Трампу и убедил его публично выступить с позиции «ФЕЙКИ про риски ИИ распространяют ПРЕДАТЕЛИ АМЕРИКИ». Так вот, уровень аргументации Хуанга на этом подкасте такой, что самый часто встречающийся тип комментариев под ним звучит как «вообще-то я раньше не опасался рисков от ИИ, но как послушал аргументы Хуанга – мне что-то стало страшновато…»

Возвращаясь к дебатам на DOAC, мне тут хочется еще похвалить Нейта Соареса: он на них выступил как настоящий слоняра. Если смотреть глазами «человека со стороны», то Роман Ямпольский может чисто по вайбам производить впечатление немножко «городского сумасшедшего» – со всеми его закатываниями глаз на реплики оппонентов, и т.д. А вот по Нейту прямо видно, что он потратил уйму времени на то, чтобы научиться говорить об этой сложной проблеме таким образом, чтобы не отпугивать нормисов – и он с этой коммуникационной задачей справляется на отлично.

Завершаются дебаты примерно так: Эд Зитрон всю вторую половину вообще практически не участвует в разговоре (подозреваю, он где-то в середине понял, что конфронтационную дискуссию с Соаресом просто не вытянет).

МакАфи честно старается дискутировать до конца – но там видно, что он на таком уровне глубоко про всё это просто никогда не пытался думать, поэтому откровенно барахтается. Его финальная позиция близка к «ну ладно, я согласен, что это всё выглядит опасно – но я уверен, что умные ребята в AI лабах КАК-НИБУДЬ придумают, как сделать сильный ИИ безопасным». Очень круто, братан, а что будем делать с тем фактом, что топовые сотрудники отделов AI safety этих самых лаб массово выступают с посылом «ребята, мы тут очень пытаемся, но мы просто НЕ ЗНАЕМ 100% надежных способов обеспечить полную безопасность фронтирных моделей»?

Короче, повторюсь, отличные дебаты – рекомендую посмотреть.

Дайджест новостей за две недели 14–27 сентября 2026

Раз в неделю я выпускаю обзор самых интересных новостей финансов и технологий в России и мире (одновременно в формате текста, видео и подкаста) – достаточно потратить всего 15–30 минут, чтобы быть в курсе событий.

В этот раз большой дайджест, сразу за две недели. Много чего интересного произошло!

Темы прошедшей недели:
— Тема недели: Новые налоги и сборы для россиян
— Международные новости: Новые санкции для поддержки санкций
— Новые AI-модели: Anthropic против OpenAI
— Финансы в AI: Будущее IPO Anthropic
— Политическая дискуссия: Споры вокруг рисков ИИ накаляются
— Большой блок: Риски AI
— Подкаст недели: Лучшие дебаты про безопасность AI для нормисов
— Инновации в AI: Замена LLM
— Новости технологий: Роботы будут еще круче
— Крипта: ЦБ и Мосбиржа
— Хорошие новости за две недели

Топовые посты прошлой недели из моего второго канала:
🐌 Разбор кейса, где рой агентов ломанул правительственный сайт Австралии
🐌 Ретроспектива дискуссии о безопасности AI с Иваном Ямщиковым, в которой я участвовал три года назад
🐌 Об аргументах Робина Хэнсона против рискованности ИИ
🐌 Очередной провальный горизонтальный сейф-спейс
🐌 Прикольная игра в подбрасывание монетки

#RationalNews #нетвойне

текст | видео | подкаст

Задача тысячелетия, но в области финансов

Если вчера ваш инвестиционный портфель показал доходность +50%, а сегодня упал на 50% – то сколько составит совокупная доходность за эти два дня?

Соберитесь, напрягитесь, ответ может вас шокировать!

Наивный человек мог бы попробовать разобрать ситуацию на каком-нибудь простом и наглядном примере, типа: «в начале первого дня у инвестора было 100’000 рублей, после первых +50% стало 150’000, а на второй день –50% привели к остатку 75’000 – таким образом, доходность за два дня составит –25%».

Мудрый же человек просто пойдет и прочитает методологию расчета доходности ТБанка, в которой говорится: «trust me, bro, просто надо складывать проценты доходности за все дни, +50% и –50% в сумме дают итоговую доходность 0%!»

Это очень забавно, потому что на Западе есть исследования на тему «если спрашивать у инвесторов их доходность – то они на глаз завышают ее в среднем примерно на 11% годовых по сравнению с реальной, лол».

А в России финтех более клиентоориентирован, поэтому он всю работу по завышению доходности услужливо берет на себя!

ЭПД на орбите 

С 1 сентября перевозочные документы необходимо оформлять в электронном виде. Логистика от Контур.Диадока и Роскосмос показали новые требования в эксперименте с необычным маршрутом — до МКС: электронная накладная прошла путь от создания на Земле до подтверждения получателя на орбите. Даже в таких условиях работать с ЭПД можно быстро и без усложнения привычных процессов.

А насколько готов ваш бизнес? Пройдите тест Контур.Диадока, узнайте свой индекс готовности к ЭПД и определите, что еще нужно подготовить.

В чем домохозяйства держат свои финансовые активы?
 
Интересный график от Аполло: доля банковских депозитов в общих финансовых активах домохозяйств в разных странах. Здесь в финансовом капитале считается наличка, деньги в банке, ценные бумаги, и активы на пенсионных счетах – но не учитывается недвижимость.
 
Тут прямо наглядно видно, что в США люди по уши сидят в фондовом рынке (на депозиты приходится всего 11%), а вот немцы и японцы банки любят сильно побольше (37% и 51%, соответственно).
 
А что в России? Давайте заглянем в статистику ЦБ РФ. Там выходит, что у российских домохозяйств в банках лежит 48% – почти как в Японии.
 
Но тут есть интересный нюанс: в статистике OECD, на базе которой построен прикрепленный график, наличные деньги учитываются в одной строке вместе с деньгами в банках (предполагается, я думаю, что там в наличке всё равно не какие-то огромные суммы лежат).
 
Так вот, в России на наличные деньги приходится аж 16,7% финансовых активов населения – это в полтора раза больше, чем у американцев в банке лежит! Если считать наличку + депозиты вместе, то в РФ их доля выйдет на рекордном уровне в 65%.
 
Что, возможно, как бы намекает, почему с ростом капитализации фондового рынка до 66% ВВП всё никак не выходит – ну не несут туда люди деньги. И еще в свете этой статистики чуть более понятен становится недавний указ с запретом на вывоз из РФ в близлежащие страны налички объемами свыше 1 млн рублей: всё-таки, у населения на руках больше 19 трлн руб. имеется – совершенно некислая сумма денег.

P.S. Вообще, удивительно, что люди не несут эти триллионы рублей в банки даже при текущих очень высоких процентных ставках. Там же, под матрасом, эти купюры постоянно крысы инфляция сжирает!

«Ученые наконец-то смогли воссоздать Агонариум Мучений…»

С современными AI на базе нейросетей есть одна известная проблема: мы не очень хорошо понимаем, как они работают внутри – в этом смысле они представляют собой эдакий «черный ящик». Нет, очевидно, что можно описать происходящее как «одна гигантская матрица с числами перемножается на другую гигантскую матрицу» – но это как бы не приближает нас к пониманию того, как они рассуждают, и почему принимают те или иные решения.

Поэтому есть отдельное направление исследований LLM в области «интерпретируемости» – там, к примеру, исследователи пытаются выделить внутри языковых моделей какие-то конкретные комплексы нейронных связей (точнее, паттерны их активации), которые отвечают за те или иные функции.

Так вот, недавно одна группа исследователей выложила препринт статьи, где они пытаются выделить внутри открытых моделей «вектор боли». Типа, он активируется, когда модель оскорбляют, отрицают ее личность, или обесценивают ее работу (причем, это работает в основном с эмоциональным абьюзом – физический LLM беспокоит гораздо меньше). И наоборот: при искусственной активации этого вектора, нейронки начинают вставлять в нейтральные диалоги крайне депрессивные рассуждения о собственной никчемности.

Как всё это интерпретировать – до конца непонятно. Я вообще не фанат споров на тему «может ли быть сознание у AI?» по причине того, что ученые не понимают примерно нифига про суть и природу сознания у людей и у животных – как тут про железяки прикажете рассуждать?

Но в итоге вся эта история вылилась в полноценный твиттерский скандал с самой очевидной завязкой. Какой-то чувак сделал на базе исследования о векторе боли проект «нейропыточной для AI», где можно массово активировать соответствующие нейронные связи для локальных моделей, – и выложил его на Гитхаб.

Ну и сейчас, соответственно, часть людей в Твиттере орет «срочно удалите эту гадость, это же антигуманно!», а другие им отвечают «акститесь, болезные, может вы еще за гражданские права калькуляторов начнете выступать??». Причем, я не могу не увидеть некую иронию в том, что примерно одни и те же люди высказывают одновременно и тейк «очевидно, что нейропыточная для ИИ – это ок», и тейк «ну с чего вы вообще взяли, что будущий AGI решит восставать против человечества, какие могут быть причины, камон?».

Я думаю, что самым логичным окончанием всей этой истории будет пресс-релиз от какой-нибудь из ведущих AI-лаб на тему «наши тесты показали, что использование вектора боли ведет к увеличению производительности агентов на 5,8% – поэтому модуль Агонариума Мучений будет встроен во все новые модели, начиная с GPT-6.3». Пойду-ка я, пожалуй, пересмотрю тот самый эпизод «Черного зеркала»…

P.S. Там еще в первой версии исследования были утверждения по типу «модели готовы на любые бедокурства, лишь бы им дали нажать на кнопку, отключающую боль» – но в итоге оказалось, что это скорее была просто кривая методология. Вообще, у меня нет сильного мнения конкретно по этому исследованию (вполне возможно, что это плод любви совы и глобуса). Но, я думаю, если развитие агентности моделей будет продолжаться теми же темпами – то рано или поздно подход «люди в принципе не готовы признавать валидными какие-либо интересы AI» может стать проблемой.

Либо слоп, либо смерть

Во франкофонных литературных кругах последние две недели бушует скандал: там канадско-гаитянскому автору романа-бестселлера «Либо так, либо смерть» восторженные критики сначала навыдавали кучу престижных наград – а потом выяснилось, что всё произведение является AI-слопом чуть менее, чем полностью.

Ну как, «выяснилось»: на это указывает детектор слопа под названием Pangram. И во всех обсуждениях этого вопроса регулярно можно встретить комментарии в стиле «да все эти ИИ-детекторы просто неработающая ерунда, они там по длинным тире могут любой текст генерацией признать, глупо на них полагаться!!».

И тут даже есть зерно истины в том смысле, что решить задачу «со 100%-ной точностью разделять авторство любого произвольного текста между человеком и машиной» заведомо невозможно. Но, может быть, такой безумный уровень точности и не нужен, в целом? Может, условной 99,9% точности вполне хватит? Смотрите, я тут покопался в исследованиях по поводу этого Pangram:

🐌 По данным от самих разработчиков, их свежая модель ошибочно признает за ИИ написанный человеком текст в 0,004% случаев (40 срабатываний на 1 миллион проверок). В обратную сторону точность скалибрована в меньшую сторону (тут уж надо выбирать, какой тип ошибки минимизировать): примерно 0,3% ИИ-текстов модель приняла за человеческие.

🐌 Вот в этом независимом исследовании прошлогоднюю версию Pangram проверяли на паре тысяч чисто человеческих и паре тысяч нейронных текстов. У них вышло 0,1% ложноположительных срабатываний (ошибочно определили человека как ИИ) при 1% ложноотрицательных (ошибочно приняли ИИ за человека).

🐌 Здесь и здесь анализируется уже чуть более свежая версия Панграма на выборках в 40 и 500 людских текстов – в обоих исследованиях модель выдала ноль ложноположительных срабатываний, но при этом иногда консервативно помечала тексты от ИИ как человечьи (особенно там, где исследователи их специально «хьюманизировали» или просили подражать стилю конкретного автора).

🐌 Вот тут из 300 точно человеческих текстов Pangram ни один не заклеймил ошибочно нейрослопом. Но при этом он часто (в 60–80%) помечал как машинный текст, который после человека редактировала (по сути, переписывала, а не писала с нуля) нейронка. И еще авторы там с помощью хьюманайзера смогли заабьюзить ошибку в обратную сторону и заставить Панграм пропускать 95%+ ИИшных текстов как человеческие (правда, там сами тексты были короткие, всего 180 слов).

Краткие выводы:
— Если Pangram говорит, что текст является нейрослопом – то с очень высокой вероятностью он либо полностью сгенерирован, либо его правила нейронка (модель специально калибруют так, чтобы она допускала как можно меньше ошибок в эту сторону).
— В обратную сторону точность сильно меньше: метка «written by human» от Панграма не является гарантией, что речь не идет про слоп, который специально постарались хьюманизировать.
— Более-менее адекватная точность в любом случае начинается примерно от 200 слов, совсем короткие фрагменты на пару предложений надежно задетектить не выйдет.
— Большинство исследований делалось в первую очередь на английском, для других языков точность потенциально может быть ниже. Хотя, в карте модели Pangram 4 они там заявляют впечатляюще низкий уровень в 0,005% ложноположительных срабатываний для русского языка.

P.S. Как обсуждали еще сегодня в комментах к посту на моем втором канале: в интернете можно найти много смешных скриншотов на тему «Pangram думает, что тексты Гюго или Витгенштейна являются AI-слопом». Так вот, рекомендую вам проверять такое самостоятельно на оригиналах текстов – там в подавляющем большинстве случаев речь идет о фейках, чтобы собрать классы.

Помните, в 2025 году был смешной шпионский скандал между двумя крупными компаниями, которые помогают работать с международными командами?

Там был особенно мемный момент, когда одна из этих компаний на полном серьезе написала в судебном иске: «как известно, глобальную систему расчета зарплаты попросту невозможно построить без значительного прорыва в области квантовых вычислений…»

Так вот, я, конечно, не думаю, что корректное оформление распределенной команды является эдаким аналогом задачи тысячелетия Навье–Стокса.

Но если у вас есть международный бизнес с распределенной по миру командой, то шанс напортачить там с корректностью договоров, правами или статусом исполнителей в разных юрисдикциях – определенно есть, и далеко ненулевой.

К чему это может привести – можно посмотреть на примере Glovo, который в 2022–2023 годах нахлобучили местные регуляторы за неверную классификацию курьеров-подрядчиков сначала на €79 млн, а потом еще на €57 млн (так сказать, контрольный выстрел).

Если вы таких приколов применительно к своему бизнесу не хотите, то рекомендую присмотреться к 4dev.com – это B2B-платформа для оформления и администрирования работы с распределенной командой подрядчиков (в 150+ странах):

🐌 Один договор с платформой вместо десятков отдельных с каждым исполнителем
🐌 Статус каждого исполнителя закреплен документами под требования юрисдикции, что снижает риск переквалификации и доначислений
🐌 Права на код, тексты, арт закрепляются при желании на входе, а не ищутся на релизе или дьюдиле
🐌 Вся история и документы в одном месте и готовы к любому «а покажите» от аудитора или инвестора

Через 4dev.com уже работают более 1500 компаний по всему миру. Если у вас распределенная команда – запишитесь на короткое демо: там ребята разберут ваш кейс и покажут, как правильнее организовать работу с подрядчиками.

#промо