💭👨‍💻 Канадских парламентер Билл Оливер во время выступления зачитал шаблонный нейронный текст-окончание

«Here’s a more natural, flowing version of that section that reads like a legislative speech rather than a series of short points»

Казалось бы: ошибся, не перечитал, не проверил, что в этом такого? Но в сущности за подобного рода «недугом», могут стоять как репутационные, так и политические издержки государственного масштаба.

Впрочем, это не первый подобный случай. Были найдены и признаки ChatGPT в пояснительных записках в Госдуме РФ, нейронные тексты читали и Конгрессмены в Штатах, а в Соединенном Королевстве и вовсе количество «I rise to speak…» выросло за последние годы в четыре раза

👻 Собственно понимаем:
а) Политиканы кормят модели инсайдами на завтрашний день
б) Работа политического редактора перешла в руки GPT

И, это, на мой взгляд откровенно плохо, с этим нужно бороться. Но не с моделью, а с людьми (политиками), повышая уровень грамотности использования LLM.

Но начну не с того «что делать?», а с «зачем?», какие это вообще имеет минусы:

1) С очевидного: скармливание конфиденциальной информации нейронкам упрощает жизнь любому ЦРУшнику, особенно если ты политик, имеющий значимый ранг. Раньше же приходилось что-то придумывать, даже шпионское по какое-то, сейчас все-таки проще. Иранский КСИР не даст соврать
2) Чью политическую волю выражает депутат такой речью? Свою, сотрудника аппарата, корпус обучающих данных или настройки поставщика модели?
3) Разные идеологические и региональные позиции выражаются одним машинным языком. NIST также рассматривает это как самостоятельный риск генеративного ИИ (об этом в дипломе писал кстати).

Ну и как с этим работать? Конечно, лучше обойтись без запретов. Поэтому структура регуляции использования ИИ для чиновников должна дать примерно такой:

По трем уровням использования:
– Низкий риск: исправление орфографии, сокращение уже написанного человеком текста, перевод, создание вариантов заголовков.
– Средний риск: перестройка структуры, адаптация тона, подготовка первого черновика на основании предоставленных материалов.
– Высокий риск: самостоятельное формулирование политической позиции, юридических выводов, обвинений, статистических утверждений или обязательств от имени должностного лица.

Высокорисковые варианты должны требовать отдельного согласования и при обнаружении такового использования применять меры сдерживания. Увы, в условиях антиплагиата возможность детектить такой текст появится не скоро. Ну и как заставить человека следовать требованиям при фактическом отсутствии технологии детекции (если не брать очевидный нейрослоп), тоже большой вопрос.

👨‍🏫 Ну и про курсы повышения грамотности использования ИИ тоже забывать не стоит, даже чиновникам.

⚖️ Как-то все упустили, но нельзя не упомянуть. Со 2-го августа в силу вступили поправки к 50-ой статье EU AI Act об обязательной маркировке ИИ-контента.

В свою очередь ИИ-гиганты подсуетились, да и втихую внедрили эту самую «маркировку» и в текст, и в картинки, и в код (все кроме Gemeni, они и до этого маркировали).

В сети пишут, что начали применять технологию типа C2PA (не подтверждено кстати). Но что это такое и с чем его есть? C2PA используется как источник происхождения любого цифрового контента. Например для текста технология использует Юникод символы, типа «U+FE00–U+E01EF», которые человек не видит.

Что будет и что делать, если это все-таки C2PA?

🔜 Будет: ИИ-детекторы будут максимально просто обнаруживать нейронный текст, не придется даже считать зависимости, паттерны и повторяющиеся слова. Осталось видимо им только обновиться под это нововведение.

💡 Делать: пишите сами. Подсказываю в последний раз.

1) Скопировать весь текст в формат input.txt
2) Открыть терминал (PowerShell)
3) Скопировать, отправить:

(Get-Content .\input.txt -Raw) -replace '[\uFE00-\uFE0F\u{E0100}-\u{E01EF}]', '' | Set-Content .\output.txt -NoNewline

Перед \input.txt не забудьте указать путь к файлу, к выходу аналогично.

В целом можно использовать любой Юникод-редактор (программы существуют бесплатно), но там уже удалять каждый фрагмент руками.

💰 Скоро у Anthropic и OpenAI IPO, а это значит, что пришло время немного поговорить про экономику на моем канале. Ведь цифры интересные, а сценарии непредсказуемые.

🧠🧠 Так вот, на сегодняшний день OpenAI вышла на темпы от 40 млрд долларов выручки в год, в свою очередь любители Клода обгоняют по этому показателю в 1,2 раза (48 млрд).

Таким образом, ожидаемое IPO составит около 2 ТРИЛЛИОНОВ долларов (что войдет в историю как самое крупное размещение). Для сравнения, у Илона Маска оценка была в пределах 1,7 трлн.

Тем не менее предполагаются две разные стратегии: OpenAI как основатель ИИ-массмаркета, Anthropic залезли в корпоративный рынок и активно там продаются (для примера, выручка только с одного клод-кода достигает 2,5 млрд долларов в месяц).

А зачем вообще нужно IPO? Разработка моделей требует затрат на чипы, дата-центры и электричество. Прогнозируемые расходы на вычислительные мощности только для OpenAI до 2030 года выросли примерно до 750 млрд. Anthropic же взяла долгосрочные обязательства более чем на 100 млрд перед AWS. Впрочем, IPO нужно не только для получения новых денег. Сюда же идут плюшки для крупных приобретений, подарки в виде акций для сотрудников, привлечение индексных фондов и дешевое финансирование инфраструктуры.

Переходя к сути дела:

Оценки IPO действительно высоки. Они могут оправдаться только при: (а) росте выше 50–60% еще несколько лет, (б) отсутствии ценовой войны с федералами, (в) улучшении маржинальности, с которой все плоховато сейчас, (г) сохранении технологического лидерства (в текущих условиях, вероятно).
Интеллект модели скоро станет дешевым товаром. Маржа сойдет с токеновой иглы к корпоративным процессам, данным, интеграциям и пр. Главным показателем становится стоимость успешно выполненной задачи.
Ни OpenAI, ни Anthropic никогда не станут SaaS-бизнесом. После IPO с открытыми возможностями они будут напоминать смесь облачного провайдера, исследовательской лаборатории и энергетической компании.

Политический момент: В июне администрация США ввела механизм добровольно-принудительного взаимодействия государства с разработчиками моделей. Де-факто эта мера стала условием доступа к федеральным контрактам, инфраструктуре и экспортным разрешениям. Для будущего IPO это критично, т. к. одна административная мера может закрыть государственный рынок, отпугнуть корпоративных клиентов и изменить инвестиционную привлекательность компаний.

💭 Ну и мой прогноз наиболее вероятного сценария. Антропики все же проведут IPO этой осенью (цифры позволяют). Посильно ли им переплюнуть Маска? Конечно, но многое зависит от раскрытых финансов. OpenAI перенесут IPO на 2027 год, дабы не «остаться в лохах» перед ближайшими конкурентами и показать более сильную выручку. И тут играет еще один фактор: внешних вкладчиков у OpenAI больше, а значит, и больше времени, чтобы переиграть Дарио Амодея. Но для обоих государственная проверка фронтир-моделей станет фактически обязательной, что опять же либо приведет к росту цены, либо к задержкам в релизах.

🧠 Похоже Fable 5.1 обнулил конкурентов и обнулился вместе с ними

В сети пишут про массовый сбой всех крупнейших ИИ-провайдеров. Проверил, – у меня не работают.

К слову, а вы знали, что буквально час назад новый Fable 5.1 смог расшифровать криптограмму XVII века шотландского писателя Томаса Уркхарта, которую криптографы пытались разгадать с 1653 года. Скрытым посланием оказалась молитва роялистов королю Карлу II. Все же, заставляет задуматься в какое время мы живем…

🛡👨‍💻 Сбер предлагает обязать российский бизнес использовать суверенные модели (под критерии которого попадает ГигаЧат)

Не прошло и двух недель с подписания закона о суверенных’ и национальных’’ ИИ-моделях, как в дело вошли мои любимые корпораты

Сам «Сбер» эту новость конечно интерпретирует иначе: компания заявила, что документ является сводом предложений разных участников рабочей группы, а не самостоятельной инициативой Сбера (верим?)

С технической точки зрения мы идем по мотивам регуляторного режима с уточнением происхождения ИИ-моделей. Говоря проще: модельный антиамериканизм, модельный прокитаизм (все же понимают, что любая национальная модель на 90% китайская?). И скоро, как новая «Волга», станут суверенными (если не уже, Сбер не брезгует).

Ну и заодно небольшой вордбук, на который иногда буду позже ссылаться:

‘суверенная модель – разработка должна контролироваться российским юридическим лицом, модель должна эксплуатироваться на инфраструктуре в РФ, а технологический цикл должен максимально находиться под российским контролем (таких моделей в России технически нет)

‘’национальная модель – российская модель, разработка и эксплуатация которой контролируются российской компанией, но внутри технологического стека могут использоваться иностранные или open-source компоненты

PS: У Сбера огромный датасет эмбеддингов, так что зря быканул. Но сути не меняет: нет чипов – нет моделей. А если мы пишем законы и называем «суверенные» модели от ног до головы российскими, то, увы, истоки ГигаЧата не российские.

🧠🧠 Исследователь ушел из Anthropic и OpenAI обвинив ИИ-компании в безответственности

Джейкоб Коксон, последние три года занимавшийся предобучением моделей в OpenAI и Anthropic, объявил об увольнении (кстати говоря один из топов в компании, был на него подписан). По его словам, обе компании гонятся за самосовершенствующимся сверхинтеллектом и «играют с нашими жизнями».

Коксон ожидает появления систем, способных взламывать инфраструктуру, ускорять научные открытия и накапливать реальные ресурсы и власть. Он также утверждает, что внутри лабораторий всерьез обсуждают риск гибели человечества к концу десятилетия.

По его словам в OpenAI многие еще не осознали масштаб ставок. В Anthropic риски понимают, но считают, что должны продолжать:

«иначе первыми окажутся менее ответственные конкуренты»

💭 На мой взгляд, здесь очевидна т.н. «проблема стимулов». По простому – компания может реально заниматься безопасностью и одновременно принимать все больший риск, потому что боится проиграть гонку. Ну знаете, как в свое время всякое оборонное предприятие – «наше лидерство необходимо для безопасности, поэтому ради безопасности нам нужна сотня ядерных бомб с лазерным самонаведением».

Вопрос, который увы остается на сегодня без ответа. И это наверное пика всего регулирования (а не возьня с суверенностью моделей) – кто определяет допустимый риск, если разработчик одновременно заинтересован в следующем релизе?

💬👨‍💻 Что-то на прорывном. В Сбере представили новую модель GigaChat 3.5 с возможностью рассуждений

Технологическая база новой модели наследует очень необычную архитектуру GigaChat 3.5 Ultra. Конкретнее: MoE-модель с 432 млрд параметров, из которых около 28 млрд активируются при каждом проходе. Вместо обычного «Transformer attention». Это снижает объем KV-cache (данные для произведения следующих шагов генерации) примерно в четыре раза и позволяет удерживать больший контекст при сопоставимой памяти (похожие состояния использовали в Qwen и Kimi, но, если говорить честно, до реального результата не довели). Поэтому, в сущности можно назвать это настоящей российской разработкой в сфере увеличения памяти LLM.

Тут важно сказать, что это лишь потенциал для экономии данных. Оснований говорить о том, что ГигаЧат станет легче западных или китайских моделей нет, технически выглядит вероятно, просто пока оно не доказано сравнением.

Еще один момент (над которым кстати я успел поработать этим летом). Сбер сильно расширил кодовую часть обучающих данных. Для GigaChat 3.5 количество представленных языков программирования было увеличено с 16 до 600.

Вот такое вот оно – будущее отечественного LLM.

🧠⛔️ Дарио Амодеи призвал ЗАМЕДЛИТЬ развитие ИИ-технологий и не допустить, чтобы возможности модели росли быстрее, чем средства контроля над ними.

После инцидента о котором я писал в предыдущем посте, глава Anthropic решил высказаться по поводу грядущих перемен ИИ (а именно появлении AGI). По его словам:

«ИИ активнее участвует в создании следующего поколения ИИ… это ранняя петля ускорения: модели пишут исследовательский код, проводят эксперименты и автоматизируют разработку своих преемников. Более 80% кода новых моделей создано Claude.»

Главный научный сотрудник OpenAI, Якуб Пахоцкий, дополняет, что ни одна лаборатория пока не решила проблему алигмента (задача обеспечения того, чтобы системы ИИ действовали в соответствии с целями, ценностями и этическими принципами человека).

Прогноз Амодеи в том, что через 6-12 месяцев ИИ сможет создать глобальный ботнет. И чтобы этого не допустить, он предлагает:

1) Постоянно разместить внутри лабораторий независимых аудиторов. Anthropic обещает начать с себя.
2) Установить общие ограничение: более мощная модель может обучаться и выпускаться только после подтверждения соответствующего уровня защиты.
3) Добиваться соглашений с Китаем (запрет отдельных применений вроде разработки биологического оружия, международный «скоростной лимит» на рекурсивное самоулучшение).

💭 Обобщая, компании сами формулируют обязательства, сами измеряют соблюдение и сами решают, о каких инцидентах сообщать.
Встроенные аудиторы могут изменить эту конструкцию. Но «скоростной лимит» конечно же останется политической метафорой. Неясно, чем измерять скорость. Кто выдает сертификат? Как проверять секретные военные модели и соблюдение соглашения Китаем?

Никак.

Ну вообщем новости пока такие. А что вы думаете, нужно ли замедлять ИИ?

👍 - Да, технология достигла того уровня развития, что дальше уже страшно
🌚 - Нет, дайте мне мой AGI и подписку Claude Max

💭 Что и требовалось подтвердить: OpenAI перенесли IPO на 2027 год

Источники:
TechCrunch
Ведомости

Ход за Anthropic, ждём!

UPD: Кстати прикольно так Альтман развел шумиху про безопасный ИИ, чтобы потом отложить IPO под предлогом «безопасности». Think about 🙈

🇺🇸🧠 Продолжая тему про безопасность с ИИ, тут Дональд Трамп высказался, дословно:

«Я разоблачитель фейков, и прямо сейчас я разоблачаю очередной фейк о том, что искусственный интеллект захватит власть, поглотит и уничтожит мир, что роботы войдут в наши города и избавятся от всех нас! Это даже безумнее, чем фейки про Россию, или о глобальном потеплении. Спасибо за внимание к этому вопросу!

Президент ДОНАЛЬД ТРАМП»

Не понравилось батюшке, то что с Китаем не хотят конкурировать и денег хотят сэкономить на фронтирах, но что ж ты сделаешь? Время ограничить доступ к очередной продвинутой модели, но теперь уж от OpenAI (я про Astra)!

🌐👨‍💻 Глава Palantir Алекс Карп остается одним из наиболее заметных противников «замедления ИИ»

Он признал необходимость правил для отрасли, НО поставил под сомнение сам подход, при котором разработчики мощных моделей сначала предупреждают о рисках, а затем требуют от государства ограничить технологию. Дословно:

«Первая линия защиты, когда вы отвечаете за собственные действия… Логика сегодняшней дискуссии в итоге может привести крупнейшие национализации ИИ-лабораторий»

Карп предложил альтернативу: если компания утверждает, что создаваемая ею технология способна причинить чрезвычайно большой ущерб, она должна нести соответствующую ответственность за последствия

Ключевое тут именно ЕСЛИ, ведь по мнению самого Карпа – его компания причинить такой вред не может (напомню что Palantir занимается вооружением ИИ, созданием дронов с ИИ и пр.)

С чем я действительно готов согласиться, так это то, что геополитическая конкуренция не исчезает вместе с решением одной страны замедлиться (в терминах международной политики). Моя позиция о возможности соглашения США и Китая об ограничении развития ИИ остается неизменной – это крайне невозможно.

🇺🇳👨‍💻 Новая гонка ИИ-вооружений? Возможно. Делегаты из США и России заморозили попытку ООН закрепить ограничения на применение автономного оружия с ИИ

Из согласованного проекта были убраны ссылки на предсказуемость, надежность, объяснимость и отслеживаемость, а также положения об этических ограничениях (пишут, мол, по решению двух стран). Исчезло требование обязательной проверки человеком целей, выбранных алгоритмом перед ударом. Сохранился лишь принцип «человека-судьи» (читайте: человек фиксирует последствия и принимает меры) и персональная ответственность за применение такого рода оружия

💭 Что тут можно сказать, спрогнозировать? Не буду вдаваться в детали о возможностях влияния ООН на какой-либо порядок, в т. ч. в сфере контроля ИИ (в существующих реалиях, лишь фиктивно). Скорее, увидим (если увидим) ограничительную модель на уровне альянсов, вроде НАТО или стран Содружества. Но я все же оцениваю вероятность такого сценария как низкую до некой точки X, то есть до какого-нибудь масштабного инцидента, связанного с применением подобного рода оружия (допустим, ИИ вне контроля человека проведёт ядерные учения 🥲)

При этом нельзя сказать, что давления на страны, которые умывают руки при «благородном» использовании ИИ-оружия, не будет. Напротив, давление на государства будет только расти. Сегодня большая часть стран ЕС требует перехода к формальным переговорам по контролю над ИИ-оружием (будут требовать до тех пор, пока оно само у них не появится)

Следовательно, вероятнее всего, запрета военного ИИ как такового не будет. А обсуждения останутся на уровне: «какие цели машина не может выбирать самостоятельно», «насколько автономной может быть атака» и пр. В общем, будут думать, как научить ИИ отличать танк от автобуса с детьми с точностью до 99 %, но 1 % оставят как сопутствующий ущерб

🧠🔽 Ну что ж, протестил я новые модели от Anthropic: Sonnet 5.5 и Opus 5.5. Разочарован.

Если Opus ещё куда ни шло: стоимость токенов равнозначна Opus 5, не столь замороченный, как Fable. Ну, в общем говоря, не супер-трансформация, но и не большая потеря

Но вот Sonnet, который заявляется как «снижающий затраты на задачу до 30%» и как более умная модель, чем Sonnet 5… это не так. Ест токены без разбора: мелкая или крупная задача – неважно, а завершить ее не может. В итоге входит в цикл и фактически майнит расход аккаунта Claude. Это отлично проверяется по бенчмарку BugHunt

Обобщая, на какую нехорошую мысль меня всё это наводит: обучение фронтирных моделей все же остановили + играют с рынками на опасности вокруг ИИ. А пользователям лишь остается доверять тому, что скажут техно-СМИ об «успехе модели»

Нет, это не успех. И этот провал связан именно с шумом вокруг «опасного ИИ», а не с неспособностью реального улучшения модели. Все они могут, просто не хотят

🚔🧠 Генеральный прокурор Флориды подал в суд на OpenAI и потребовал запретить ChatGPT

В иске он пишет:

«… с момента выхода чат-бот давал опасные советы подросткам, а также содержал механизмы привлечения и удержания внимания молодежи… никакой разработки новых моделей без независимых защитных механизмов; хватит собирать данные детей; хватит называть этот продукт безопасным, точным или надежным; хватит притворяться человеком»

Прокурор считает, что массовый расстрел в Университете штата Флорида в 2025 году, был спланирован через ChatGPT и нейросеть даже не пыталась остановить подростка.

Вот еще что мне кажется интересным: «Иск Флориды» – это не первый случай, когда OpenAI связывают с массовыми расстрелами, нейросеть фигурирует в деле стрелка из Тамблер-Риджа. Как пишут СМИ, тогда компания согласилась на некоторые ограничения и уступки. Но во «флоридском деле» представители OpenAI ответственности не берут

Тут конечно нужно понимать и риски для Сэма Альтмана. В случае признания наличия факта поддержки, подстрекательства или вовсе соучастия нейросети, последствия могут быть значительны. Как минимум запрет или ограничения на уровне штата

Вот и вопрос. А может все-таки не зря ограничивают? 🤔

📖 Опубликован отчет McKinsey «The State of AI» за 2026 г. Разбираемся, что там нового и интересного написали про ИИ (основной акцент был сделал на личном и корпоративном использовании)

Про массовое повседневное использование:
1) 80% респондентов, использующих искусственный интеллект в работе, отмечают повышение личной продуктивности
2) Около половины опрошенных сообщают, что ИИ помогает принимать более качественные решения

Про бизнес:
3) Лишь 6% представителей бизнеса заявляют о увеличении выручки благодаря внедрению ИИ
4) 37% организаций фиксируют хоть какой-то положительный вклад ИИ в прибыль до вычета налогов

Про маркетинг и ИИ-контент:
5) Маркетологи, использующие генеративный ИИ: 87% (76% в 2025, 51% в 2024)
6) Объем рынка ИИ-маркетинга: $47–58 млрд. , среднегодовой рост 37,2% , прогноз на 2028: $107,5 млрд.
7) Экономия времени среднего маркетолога: 6,1 часа/нед (317 часов/год)
8) Рост публикаций контента у компаний с ИИ: 42%
9) Доля контента без ИИ: снизилась с 65% (2024) до 5% (2026)

🔼 Преимущества ИИ:
10) Срок окупаемостиснизился с 7,8 (2025) до 4,2 месяца (2026)
11) Рост конверсий: 32%
12) Снижение стоимости привлечения клиента
13) Отдача у компаний, отслеживающих метрики ИИ в 2,4 раза выше (таких компаний всего 19%)

🔽 Проблемы:
14) Не могут масштабировать полученную ценность: 74%
15) Рост спроса на опытных менеджеров: +21%
16) Разрыв между производительностью и эффективностью: 50 %
17) Результаты из топа поиска по маркетингу зачастую созданы максимально нейрослопно