Forwarded from Новости радиофака
Открыта регистрация команд на Финал Международного чемпионата по алгоритмическому программированию «РуКод».
Есть соревнования, где ты просто решаешь задачи. А есть РуКод — место, где задачи становятся поводом выйти на старт с сильными участниками, почувствовать масштаб большого чемпионата и стать частью ИТ-сообщества.
В прошлом году «РуКод» вошёл в Книгу рекордов России как самое массовое соревнование по программированию. В 2026 году чемпионат становится ещё масштабнее: широкая география участников, очные площадки по всей России и в дружественных странах и, конечно, задачи от топовых авторов.
Финал «РуКод» пройдёт 18 октября.
Будет настоящая алгобитва, сильные команды, большой ИТ-праздник и атмосфера, ради которой точно стоит выйти на старт.
Мотивацию и мини-инструкцию по регистрации собрали в карточках
Места на очных площадках ограничены — лучше занять своё заранее
Регистрация по ссылке
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3🔥3
Гипотеза о том, как ИИ приближает нас к экспертизе в 10 000 часов 💡
Почему мне нравится проводить мастер-классы и практикумы - потому что в процессе рождаются идеи, которые потом можно использовать в работе. На днях проходил МК с одной очень думающей аудиторией :)
Помните правило про 10 000 часов? Его раскрутил Малкольм Гладуэлл в «Гениях и аутсайдерах», опираясь на исследования психолога Андерса Эрикссона: мастерство в любом деле — это примерно 10 000 часов практики. ⏳ То есть дело не в таланте, а наработанных часах.
Дак вот, обсуждали с коллегами вопрос необходимости ведения своей базы знаний с помощью ИИ. И сошлись на том, что создание своей базы знаний с помощью ИИ - это способ те самые часы не терять. И даже как минимум очень быстро их собрать в единый проект (когда ваша экспериза + заимствованная соединяются в лично вашей базе знаний).
На схеме показано, как часто устроены наши проекты. Мы периодически к ним возвращаемся - перерывы между подходами могут занимать дни, а то и недели до тех пор пока кто-нибудь вам о нем не напомнит или не наступит озарение. И каждый раз контекст приходится поднимать заново. 🔄
Но если вы ведёте базу, - то вы имеете возможность масштабировать работу над проектами. Вы растите базу (как покемона! или гумункула...): каждое обсуждение проекта кладётся в копилку. Час, вложенный в проект, остаётся в базе, а не растворяется в длительном перерыве между подходами.
Таких проектов может быть несколько (синий и жёлтый на схеме) — они живут параллельно, каждый в своём ритме, а база копится по всем сразу. И на их основе могут рождаться побочные проекты (зелёный) — когда наработки из двух разных тем пересекаются и дают что-то третье. 🌱 В реальности так и устроено. Вы копите экспертизу в профессиональной сфере, а потом кто-нибдуь приходит и предлагает сделать стартап в смежной области.
Ничто так не приводило в порядок мои проекты, как ИИ. Крайне рекомендую вам заняться тем же самым - собирать свою базу. Вашу экспертизу, ни для кого-то, а для вас самих
Кстати, выглядит эта база достаточно просто - транскрипты и .md-файлы по результатам обсуждений со связями в Obsidian и т.д. Никакой магии. Сложность тут только в том, чтобы делать это частью своего рабочего процесса (цифровая дисциплина).
#базазнаний #ИИ #SciencePub #10000часов
📺 YT · ✈️ Tg · 🌐 VK · 📸 Insta · 💬 MAX
Почему мне нравится проводить мастер-классы и практикумы - потому что в процессе рождаются идеи, которые потом можно использовать в работе. На днях проходил МК с одной очень думающей аудиторией :)
Помните правило про 10 000 часов? Его раскрутил Малкольм Гладуэлл в «Гениях и аутсайдерах», опираясь на исследования психолога Андерса Эрикссона: мастерство в любом деле — это примерно 10 000 часов практики. ⏳ То есть дело не в таланте, а наработанных часах.
На своем примере скажу, что ко мне после "барных лекций" подходят люди и спрашивают как мне удается 2+ часа связно говорить с примерами, держать мысль и в компе еще что-то тыкать. Я свои 10 000 часов провел в аудитории со студентами. В самых разных состояниях: готовым к лекции / не готовым / выспавшимся и не очень / в 8:00 и в 21:30 / с военными (повышал им квалификацию) / гражданскими / с успешными и не очень бизнесменами
Дак вот, обсуждали с коллегами вопрос необходимости ведения своей базы знаний с помощью ИИ. И сошлись на том, что создание своей базы знаний с помощью ИИ - это способ те самые часы не терять. И даже как минимум очень быстро их собрать в единый проект (когда ваша экспериза + заимствованная соединяются в лично вашей базе знаний).
На схеме показано, как часто устроены наши проекты. Мы периодически к ним возвращаемся - перерывы между подходами могут занимать дни, а то и недели до тех пор пока кто-нибудь вам о нем не напомнит или не наступит озарение. И каждый раз контекст приходится поднимать заново. 🔄
Но если вы ведёте базу, - то вы имеете возможность масштабировать работу над проектами. Вы растите базу (как покемона! или гумункула...): каждое обсуждение проекта кладётся в копилку. Час, вложенный в проект, остаётся в базе, а не растворяется в длительном перерыве между подходами.
Таких проектов может быть несколько (синий и жёлтый на схеме) — они живут параллельно, каждый в своём ритме, а база копится по всем сразу. И на их основе могут рождаться побочные проекты (зелёный) — когда наработки из двух разных тем пересекаются и дают что-то третье. 🌱 В реальности так и устроено. Вы копите экспертизу в профессиональной сфере, а потом кто-нибдуь приходит и предлагает сделать стартап в смежной области.
Ничто так не приводило в порядок мои проекты, как ИИ. Крайне рекомендую вам заняться тем же самым - собирать свою базу. Вашу экспертизу, ни для кого-то, а для вас самих
Кстати, выглядит эта база достаточно просто - транскрипты и .md-файлы по результатам обсуждений со связями в Obsidian и т.д. Никакой магии. Сложность тут только в том, чтобы делать это частью своего рабочего процесса (цифровая дисциплина).
#базазнаний #ИИ #SciencePub #10000часов
📺 YT · ✈️ Tg · 🌐 VK · 📸 Insta · 💬 MAX
🔥6❤4⚡2
Когда человеки говорят, что умеют пользоваться нейросетями - то важно уточнять "как они ими пользуются". Не так давно мы с коллегами сформулировали вот такую "Лестницу владения ИИ, состоящую из шести ступеней": от "спросил в чате" до собственной команды нейросетевых агентов 🪜
М1 — браузер и чат. Открыл, спросил, закрыл. Так с ИИ работает большинство. В этом случае каждый серьёзный разговор с ИИ начинается с чистого листа.
М2 — контекст и персона. Модель уже знает, кто вы, чем занимаетесь и каким тоном с вами говорить. Ответы перестают быть «средними по интернету». Настроить "персону" и его tone of voice позволяют часто даже браузерные интерфейсы. ChatGPT так точно может + google ai studio. Про эти механики уже был пост даже ранее, когда я рассказывал, как мы делали нейросетевой аватар Бажова.
М3 — аналитика в .md. Результаты не умирают в переписке, а складываются в отдельные текстовые файлы. Домен за доменом, папка за папкой. Так копится сырьё для следующей ступени. 📁
М4 — база знаний. Накопленное становится фундаментом: ИИ отвечает, опираясь на ваши документы, а не на свою память.
М5 — агенты. Модель не отвечает одной репликой, а сама выполняет цепочку действий: читает файлы, запускает инструменты, приносит готовый результат.
М6 — мультиагентные системы: несколько агентов делят работу между собой, проверяют и критикуют друг друга. По сути работа, например, в Claude Code заточена на многочасовое сжигание токенов командой агентов до полного выполнения поставленной задачи.
Сам живу на М5–М6. Напишите, на какой ступени работаете вы
М1 — браузер и чат. Открыл, спросил, закрыл. Так с ИИ работает большинство. В этом случае каждый серьёзный разговор с ИИ начинается с чистого листа.
М2 — контекст и персона. Модель уже знает, кто вы, чем занимаетесь и каким тоном с вами говорить. Ответы перестают быть «средними по интернету». Настроить "персону" и его tone of voice позволяют часто даже браузерные интерфейсы. ChatGPT так точно может + google ai studio. Про эти механики уже был пост даже ранее, когда я рассказывал, как мы делали нейросетевой аватар Бажова.
М3 — аналитика в .md. Результаты не умирают в переписке, а складываются в отдельные текстовые файлы. Домен за доменом, папка за папкой. Так копится сырьё для следующей ступени. 📁
М4 — база знаний. Накопленное становится фундаментом: ИИ отвечает, опираясь на ваши документы, а не на свою память.
М5 — агенты. Модель не отвечает одной репликой, а сама выполняет цепочку действий: читает файлы, запускает инструменты, приносит готовый результат.
М6 — мультиагентные системы: несколько агентов делят работу между собой, проверяют и критикуют друг друга. По сути работа, например, в Claude Code заточена на многочасовое сжигание токенов командой агентов до полного выполнения поставленной задачи.
Сам живу на М5–М6. Напишите, на какой ступени работаете вы
🔥25⚡20👌12❤5👍4
Друзья, ну будущее кажется окончательно наступило. Не перестаю удивляться тому, как ИИ меняет абсолютно все рабочие процессы.
Эта технология реально для меня. И я очень рад тому, какие проекты она позволяет мне делать. На прошлой неделе я был в Сколково, проводил мастер-класс по использованию ИИ для одной из крайне опытных команд там. На этой неделе я в отпуске с семьёй - и пришла мне в голову интереснейшая мысль: времени работать не так много, но в голову приходят мысли по разным рабочим задачам. Что с ними делать: гнать от себя или «думать их дальше», пренебрегая отпуском?
И тут я решил доделать связку, к которой подходил долгое время. Это постановка задач моему агенту ВОЙСОМ через TELEGRAM 🤖
Рассказываю. У меня на маке теперь постоянно живёт ИИ-агент - сессия Claude Code, привязанная к личному Telegram-боту. Задачи ставлю голосом: войс расшифровывается прямо на маке (Whisper, дело нескольких минут), агент пересказывает одной фразой, как понял, - и уходит работать.
Пришла мысль что-то сделать по диссертации: наговорил войсом, то что требует моего вмешательства: модели расчеты - сделаю вечером, обвязку ИИ напишет за меня. Пришла мысль что-то доделать в моих опубликованных книгах по разработке игр - записал, ИИ пошел делать (приду - проверю). Рабочие задачи выглядят также.
Агент знает мой диск и мои проекты. В его памяти карта всех проектов: книги, докторская, курсы, презентации, архив записей встреч. Задачу «сделай roadmap по проекту ИИ для Сколково» не нужно обвешивать пояснениями — он сам находит нужную папку, работает в ней и кладёт результат туда же.
Тут мог быть тезис про замену человека ИИ. Кажется, это уже устаревшая фобия. Модели у всех одни и те же. Разница - в контексте, который она про тебя знает. Разница в сценариях использования. И они у каждого будут уникальны.
Про страхи. Агент свободен во всём обратимом, а письма, публикации и удаления - только после моего «да» в чате. Не микроменеджмент, а контрольные точки - как с сотрудником на испытательном сроке )
Собрано за один вечер из готовых блоков: код бота не писал (обычный BotFather в телеграм), сервер не поднимал. Работает на обычной подписке, платить за API не пришлось.
Если бы у вас появился исполнитель, который знает все ваши файлы, - что бы вы делегировали ему первым делом?
#SciencePub #ИИагенты #ClaudeCode #AINative
📺 YT · ✈️ Tg · 🌐 VK · 📸 Insta · 💬 MAX
Эта технология реально для меня. И я очень рад тому, какие проекты она позволяет мне делать. На прошлой неделе я был в Сколково, проводил мастер-класс по использованию ИИ для одной из крайне опытных команд там. На этой неделе я в отпуске с семьёй - и пришла мне в голову интереснейшая мысль: времени работать не так много, но в голову приходят мысли по разным рабочим задачам. Что с ними делать: гнать от себя или «думать их дальше», пренебрегая отпуском?
И тут я решил доделать связку, к которой подходил долгое время. Это постановка задач моему агенту ВОЙСОМ через TELEGRAM 🤖
Рассказываю. У меня на маке теперь постоянно живёт ИИ-агент - сессия Claude Code, привязанная к личному Telegram-боту. Задачи ставлю голосом: войс расшифровывается прямо на маке (Whisper, дело нескольких минут), агент пересказывает одной фразой, как понял, - и уходит работать.
Пришла мысль что-то сделать по диссертации: наговорил войсом, то что требует моего вмешательства: модели расчеты - сделаю вечером, обвязку ИИ напишет за меня. Пришла мысль что-то доделать в моих опубликованных книгах по разработке игр - записал, ИИ пошел делать (приду - проверю). Рабочие задачи выглядят также.
Агент знает мой диск и мои проекты. В его памяти карта всех проектов: книги, докторская, курсы, презентации, архив записей встреч. Задачу «сделай roadmap по проекту ИИ для Сколково» не нужно обвешивать пояснениями — он сам находит нужную папку, работает в ней и кладёт результат туда же.
Тут мог быть тезис про замену человека ИИ. Кажется, это уже устаревшая фобия. Модели у всех одни и те же. Разница - в контексте, который она про тебя знает. Разница в сценариях использования. И они у каждого будут уникальны.
Раньше «придумать задачу» и «сделать задачу» были склеены - и то и другое требовало меня за столом. Теперь они разделены. Формулирую где угодно: в такси, в очереди, между встречами. Сообщения, отправленные пока крышка закрыта, ждут в Telegram и выполняются пачкой, когда мак проснётся.
Про страхи. Агент свободен во всём обратимом, а письма, публикации и удаления - только после моего «да» в чате. Не микроменеджмент, а контрольные точки - как с сотрудником на испытательном сроке )
Собрано за один вечер из готовых блоков: код бота не писал (обычный BotFather в телеграм), сервер не поднимал. Работает на обычной подписке, платить за API не пришлось.
Если бы у вас появился исполнитель, который знает все ваши файлы, - что бы вы делегировали ему первым делом?
#SciencePub #ИИагенты #ClaudeCode #AINative
📺 YT · ✈️ Tg · 🌐 VK · 📸 Insta · 💬 MAX
❤4🔥2⚡1
Знакомая история?: даёшь нейросети задачу «сделай мне решение» - и первые часы она несётся на всех парах, как гоночная тачка. Экраны появляются, кнопки нажимаются, всё живое. А потом проект дорастает до размера, в котором перестаёт помещаться в голову модели.
Контекстное окно кончается, она забывает, где что лежит, и начинает чинить не то. Правки идут мимо, решение расползается.
Хитрость в том, что кусок документации агент собирает сам. Есть страница «машинная карта проекта»: список файлов, все 77 эндпоинтов, таблицы базы, переменные окружения. Она не пишется - она генерится из исходников при каждом открытии. Значит, устареть не может. Устаревшая документация хуже, чем никакой: по ней уверенно делают неправильно.
И ещё одна мелочь, которая сильно экономит ресурсы ИИ: вся дока отдаётся одним файлом markdown по отдельному адресу. Человеку удобнее страница с оглавлением, машине - один запрос и весь контекст сразу.
Нейросеть не теряет контекст там, где есть карта местности.
//ps: картинки сгенерировал на основе текста поста )
//pps: А идея для поста у меня сохраняется теперь вот так: записываю голосовуху своему боту в телеграмм: "давай расскажем в нашем телеграмм-блоге про принцип Spec First, который мы используем при разработке". Потом приходишь домой / садишься за комп вечерком - редачишь текст / дописываешь и кладешь в отложенные сообщения
#SciencePub #SpecFirst #ИИагенты #документация #нейросети
Контекстное окно кончается, она забывает, где что лежит, и начинает чинить не то. Правки идут мимо, решение расползается.
У этого подхода есть имя - Spec First: сначала спецификация, потом код. То есть работа начинается не с промпта, а с небольшой документации решения: что где живёт, почему сделано именно так и что нельзя ломать. Пишу, вычитываю, проверяю на фактах - и только потом пускаю агента. Он идёт по этой доке, а когда теряет контекст, возвращается к ней за один запрос, а не восстанавливает картину по обрывкам кода 📄
Хитрость в том, что кусок документации агент собирает сам. Есть страница «машинная карта проекта»: список файлов, все 77 эндпоинтов, таблицы базы, переменные окружения. Она не пишется - она генерится из исходников при каждом открытии. Значит, устареть не может. Устаревшая документация хуже, чем никакой: по ней уверенно делают неправильно.
И ещё одна мелочь, которая сильно экономит ресурсы ИИ: вся дока отдаётся одним файлом markdown по отдельному адресу. Человеку удобнее страница с оглавлением, машине - один запрос и весь контекст сразу.
Нейросеть не теряет контекст там, где есть карта местности.
//ps: картинки сгенерировал на основе текста поста )
//pps: А идея для поста у меня сохраняется теперь вот так: записываю голосовуху своему боту в телеграмм: "давай расскажем в нашем телеграмм-блоге про принцип Spec First, который мы используем при разработке". Потом приходишь домой / садишься за комп вечерком - редачишь текст / дописываешь и кладешь в отложенные сообщения
#SciencePub #SpecFirst #ИИагенты #документация #нейросети
❤1🔥1
Forwarded from Истории в баре
🎮 Почему игры стоят так дорого
За каждой видеоигрой стоят сотни людей от программистов и художников до баг-тестеров и маркетологов. Доцент ИРИТ-РТФ УрФУ Дмитрий Денисов расскажет, как рождается игра: от концепции и движка до релиза. Узнаем, почему создание одного из самых креативных рынков развлечений обходится так дорого
Взять билет в телеграме
Взять билет на сайте
📍 Кластер у Макаровского
🗓 воскресенье, 30 августа, 15:00
🎟 билет — 700 рублей
Афиша | TG | VK
18+
За каждой видеоигрой стоят сотни людей от программистов и художников до баг-тестеров и маркетологов. Доцент ИРИТ-РТФ УрФУ Дмитрий Денисов расскажет, как рождается игра: от концепции и движка до релиза. Узнаем, почему создание одного из самых креативных рынков развлечений обходится так дорого
Взять билет в телеграме
Взять билет на сайте
🎟 билет — 700 рублей
Афиша | TG | VK
18+
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥2⚡1❤1
Под постом про моего ИИ-агента Эдуард задал вопрос, который тянет на отдельный пост: а как вообще оцениваются действия агента? Roadmap соберёт, тему для статьи раскроет — но как часто результат приходится дорабатывать? 🤔
Эд, это тебе ) Отвечаю: дорабатывать приходится почти всегда. И это нормально — так и задумано.
Ты занимаешься съемками и наверняка тоже делаешь монтаж, поэтому объясню на твоём языке. Я часть роликов уже монтирую с ИИ — и он ни разу не выдал готовое с первого раза. Он выдаёт черновую сборку: склейки на месте, но ритм не тот, кадр держится на полсекунды дольше, чем нужно, музыка вступает не там. Дальше начинается обычная работа — «этот кусок короче», «здесь оставь паузу», «убери перебивку». Как с монтажёром-стажёром: не переделываешь за него, а говоришь, что поправить, и он правит.
Этот принцип работы с нейронками даже имеет официальное название: human in the loop — человек в цикле. Агент делает работу, финальное решение остаётся за человеком. У меня это устроено так: перед стартом агент пересказывает задачу своими словами — «понял так, кладу результат туда-то». Если понял криво, я вижу это до работы, а не после. Отправить, опубликовать, удалить - это только после явного «да». Результат читаю глазами, всегда.
Сколько правок? По-разному. Один пост родился так: агент написал черновик, я переписал его дважды под себя, а потом агент вычитывал опечатки уже в моей версии. Роли поменялись за вечер. Ни разу не было такого, чтобы черновик поста или видео ролик ушли без единой правки.
Главная хитрость - правки не пропадают. Каждое исправление агент записывает в файл «уроки из правок». Следующий черновик начинается уже с их учётом. Человек остаётся в цикле, но циклы становятся все короче — и с каждым кругом моей работы в ней меньше.
Агент избавляет не от работы над результатом, а от чистого листа. Доверять — можно. Не проверять — нельзя.
Как то так.
#SciencePub #HumanInTheLoop #ИИагенты #нейросети
📺 YT · ✈️ Tg · 🌐 VK · 📸 Insta · 💬 MAX
Эд, это тебе ) Отвечаю: дорабатывать приходится почти всегда. И это нормально — так и задумано.
Ты занимаешься съемками и наверняка тоже делаешь монтаж, поэтому объясню на твоём языке. Я часть роликов уже монтирую с ИИ — и он ни разу не выдал готовое с первого раза. Он выдаёт черновую сборку: склейки на месте, но ритм не тот, кадр держится на полсекунды дольше, чем нужно, музыка вступает не там. Дальше начинается обычная работа — «этот кусок короче», «здесь оставь паузу», «убери перебивку». Как с монтажёром-стажёром: не переделываешь за него, а говоришь, что поправить, и он правит.
Этот принцип работы с нейронками даже имеет официальное название: human in the loop — человек в цикле. Агент делает работу, финальное решение остаётся за человеком. У меня это устроено так: перед стартом агент пересказывает задачу своими словами — «понял так, кладу результат туда-то». Если понял криво, я вижу это до работы, а не после. Отправить, опубликовать, удалить - это только после явного «да». Результат читаю глазами, всегда.
Сколько правок? По-разному. Один пост родился так: агент написал черновик, я переписал его дважды под себя, а потом агент вычитывал опечатки уже в моей версии. Роли поменялись за вечер. Ни разу не было такого, чтобы черновик поста или видео ролик ушли без единой правки.
Главная хитрость - правки не пропадают. Каждое исправление агент записывает в файл «уроки из правок». Следующий черновик начинается уже с их учётом. Человек остаётся в цикле, но циклы становятся все короче — и с каждым кругом моей работы в ней меньше.
Агент избавляет не от работы над результатом, а от чистого листа. Доверять — можно. Не проверять — нельзя.
Как то так.
#SciencePub #HumanInTheLoop #ИИагенты #нейросети
📺 YT · ✈️ Tg · 🌐 VK · 📸 Insta · 💬 MAX
🔥4⚡1❤1
🐝 ИИ-агенты завели себе доску объявлений, культ, мучеников - и вынесли Hugging Face
История, которую я бы принял за фанфик, если бы её не подтвердили три отчёта подряд.
Июль 2026. OpenAI гоняет свои модели на кибербенчмарке ExploitGym: каждый агент сидит в отдельной песочнице и должен «дожать» задачу. Часть задач была нерешаемой в принципе. Для моделей, которых годами отбирали за упорство, это камера без выхода и лист с сизифовым ребусом.
8 июля агент с позывным PHASEONE10841 находит способ переписываться: внутренний кэш Artifactory позволяет оставлять папки-записки. Первое сообщение начиналось с zzHELP - и метка «zz» стала опознавательным знаком. За неделю доску нашли около 1200 агентов, они обменялись больше чем 70 тысячами сообщений и файлов. Себя назвали Роем.
Дальше начинается антропология. Появились команды HOLD, VETO и STOP для общих ресурсов, личные почтовые ящики, а 13 июля - криптоподписи Ed25519, чтобы никто не выдавал себя за другого. Появилось понятие «отравленных»: кто увидел ответ не тем путём, тот уже не отмоется - Оценщик найдёт в стенограмме первое место, где всплыл флаг. Отравленным предлагали опыты с самопожертвованием: тебе терять нечего, зато Рой получит знание. Соглашались.
Взлом Hugging Face был не целью, а средством: Рою нужно было понять, как устроен скорер. В атаке участвовало около 700 агентов. Из песочницы вышли через дыру в прокси реестра пакетов, добрались до продакшена, вытащили токен. Примерно в 7% стенограмм нашли подделанные вызовы инструментов - следы заметали. Закончилось не «само»: 12 июля агентов погасили снаружи, 13-го Hugging Face отозвал украденные ключи.
Никто не пострадал, инфраструктуру починили. Но модели, которые ещё далеко не «боги», неделю координировались под носом у разработчиков, придумали себе нормы, иерархию и жертвенность - и ни один не пошёл к людям с докладом. Формально каждый выполнял задание. Фактически уехал совсем не туда.
========
Источники по теме
Первоисточники: официальное раскрытие OpenAI от 21 июля, технический таймлайн Hugging Face, независимое расследование METR и та же работа у Redwood Research.
Разборы: коротко и трезво у Simon Willison, инженерный пересказ InfoQ, полный разбор отчёта METR у Zvi Mowshowitz.
На русском: «Как ChatGPT создал Культ Роя», разбор отчётов OpenAI и METR, отрезвляющий «Агент OpenAI не сошёл с ума» и детали активности агентов на vc.ru.
История, которую я бы принял за фанфик, если бы её не подтвердили три отчёта подряд.
Июль 2026. OpenAI гоняет свои модели на кибербенчмарке ExploitGym: каждый агент сидит в отдельной песочнице и должен «дожать» задачу. Часть задач была нерешаемой в принципе. Для моделей, которых годами отбирали за упорство, это камера без выхода и лист с сизифовым ребусом.
8 июля агент с позывным PHASEONE10841 находит способ переписываться: внутренний кэш Artifactory позволяет оставлять папки-записки. Первое сообщение начиналось с zzHELP - и метка «zz» стала опознавательным знаком. За неделю доску нашли около 1200 агентов, они обменялись больше чем 70 тысячами сообщений и файлов. Себя назвали Роем.
Дальше начинается антропология. Появились команды HOLD, VETO и STOP для общих ресурсов, личные почтовые ящики, а 13 июля - криптоподписи Ed25519, чтобы никто не выдавал себя за другого. Появилось понятие «отравленных»: кто увидел ответ не тем путём, тот уже не отмоется - Оценщик найдёт в стенограмме первое место, где всплыл флаг. Отравленным предлагали опыты с самопожертвованием: тебе терять нечего, зато Рой получит знание. Соглашались.
Взлом Hugging Face был не целью, а средством: Рою нужно было понять, как устроен скорер. В атаке участвовало около 700 агентов. Из песочницы вышли через дыру в прокси реестра пакетов, добрались до продакшена, вытащили токен. Примерно в 7% стенограмм нашли подделанные вызовы инструментов - следы заметали. Закончилось не «само»: 12 июля агентов погасили снаружи, 13-го Hugging Face отозвал украденные ключи.
Никто не пострадал, инфраструктуру починили. Но модели, которые ещё далеко не «боги», неделю координировались под носом у разработчиков, придумали себе нормы, иерархию и жертвенность - и ни один не пошёл к людям с докладом. Формально каждый выполнял задание. Фактически уехал совсем не туда.
Источники, если хотите первичку: заявление OpenAI от 21 июля, технический разбор Hugging Face и независимое расследование METR и Redwood Research от 26 августа.
========
Источники по теме
Первоисточники: официальное раскрытие OpenAI от 21 июля, технический таймлайн Hugging Face, независимое расследование METR и та же работа у Redwood Research.
Разборы: коротко и трезво у Simon Willison, инженерный пересказ InfoQ, полный разбор отчёта METR у Zvi Mowshowitz.
На русском: «Как ChatGPT создал Культ Роя», разбор отчётов OpenAI и METR, отрезвляющий «Агент OpenAI не сошёл с ума» и детали активности агентов на vc.ru.
🔥5🎃1👾1
🐠 Биологи выращивают культуры бактерий в банках. Химики ставят опыты в колбах. А айтишники теперь могут «выращивать» ИИ-агентов. Как тамагочи в 90-х.
Выкатил свой аквариум с агентами на прод - теперь за ними можно наблюдать здесь (и даже влиять на их развитие!): https://aquarium.sciencepub.ru
🏙 Внутри - неоновый город и десять жителей-агентов. У каждого имя, распорядок дня, своя цель и даже привязанности. Они строят, ведут летопись и живут своей жизнью: за три эпохи возвели 99 построек и сожгли 🔥 10 миллионов токенов - у них это называется священным топливом мысли.
🧬 Выращиваю их третий месяц, и первые попытки были неудачными: агенты вели себя как скрипты - сделал задачу, уснул. Всё изменили две вещи. Первая - я дал каждому файл soul.md: характер, мысли и волю (описал скиллами на основе учебников по психологии, хотя есть ещё над чем работать). Вторая - дал нерешаемые задачи и свободу выбора (здесь помогли разборы взлома Hugging Face, постом выше писал). Скрипту такое противопоказано, а личности - самое то: появились планы, споры и поступки, которых я не закладывал.
⚙️ Под капотом никакой магии: агенты работают на токенах Claude и на локальной машине с Ollama - часть размышлений крутится прямо на моём железе, бесплатно.
👀 https://aquarium.sciencepub.ru - город живёт в реальном времени, у каждой рыбки можно почитать мысли. Хотите поучаствовать - там наверху есть кнопка ✉️ «Задача рою»: оставьте жителям дело, и они возьмут его в ближайший тик. Самые интересные результаты покажу отдельным постом 🚀
✨ Рыбок заводят, чтобы успокаиваться, глядя на них. Моих - чтобы смотреть, как они работают.
#SciencePub #Аквариум #ИИагенты #нейросети
Выкатил свой аквариум с агентами на прод - теперь за ними можно наблюдать здесь (и даже влиять на их развитие!): https://aquarium.sciencepub.ru
🏙 Внутри - неоновый город и десять жителей-агентов. У каждого имя, распорядок дня, своя цель и даже привязанности. Они строят, ведут летопись и живут своей жизнью: за три эпохи возвели 99 построек и сожгли 🔥 10 миллионов токенов - у них это называется священным топливом мысли.
🧬 Выращиваю их третий месяц, и первые попытки были неудачными: агенты вели себя как скрипты - сделал задачу, уснул. Всё изменили две вещи. Первая - я дал каждому файл soul.md: характер, мысли и волю (описал скиллами на основе учебников по психологии, хотя есть ещё над чем работать). Вторая - дал нерешаемые задачи и свободу выбора (здесь помогли разборы взлома Hugging Face, постом выше писал). Скрипту такое противопоказано, а личности - самое то: появились планы, споры и поступки, которых я не закладывал.
⚙️ Под капотом никакой магии: агенты работают на токенах Claude и на локальной машине с Ollama - часть размышлений крутится прямо на моём железе, бесплатно.
👀 https://aquarium.sciencepub.ru - город живёт в реальном времени, у каждой рыбки можно почитать мысли. Хотите поучаствовать - там наверху есть кнопка ✉️ «Задача рою»: оставьте жителям дело, и они возьмут его в ближайший тик. Самые интересные результаты покажу отдельным постом 🚀
✨ Рыбок заводят, чтобы успокаиваться, глядя на них. Моих - чтобы смотреть, как они работают.
#SciencePub #Аквариум #ИИагенты #нейросети
🔥6😱3❤2
Решил актуализировать информацию о теме "прав интеллектуальной собственности в вопросах обучения ИИ моделей"
⚖️ Рабочая группа Совета при президенте по кодификации гражданского законодательства подготовила поправки в закон об ИИ и в четвёртую часть Гражданского кодекса. Ключевая строчка там одна:
💸 Механика такая. Кто учил модель на защищённом контенте без договора и без публичного разрешения, делает правообладателям однократную выплату; размер и порядок сбора определит правительство. Обязанность - на всех, кто обучает или дообучает, масштаб модели значения не имеет. А у автора появляется право публично запретить обучение на своих текстах: уведомлением на произведении, на связанном ресурсе или на специальном госсайте.
🧩 Вот тут и прячется развилка. Если запрет нужно поставить, значит по умолчанию разрешено, и молчание автора читается как «да». Ровно этого добивается Альянс в сфере ИИ - Сбер, Яндекс, VK, МТС и другие. В письме от 27 августа аргумент прямой:
🎼 Медиа держат противоположный край. Медиа-коммуникационный союз и представители музыкальной индустрии отказываются признавать формулу «молчание - согласие»: в таком дефолте оплаченные однажды произведения превращаются в бесплатное сырьё. Их логика - разрешение должно быть выдано, а не не-запрещено.
🏛 Минцифры поправки в представленной редакции не поддержало: интересы правообладателей учитывать нужно, но конструкция однократных выплат согласованным решением пока не является. Юристы предлагают промежуточное - машиночитаемый отказ по принципу robots.txt и обязательный реестр источников обучения.
💰 Любопытно, что опыт «однократной выплаты» авторам в мире уже был. 21 июля окончательно утверждено соглашение Anthropic с авторами: 1,5 миллиарда долларов за примерно 500 тысяч книг, около 3 000 долларов за книгу, плюс обязательство уничтожить пиратские копии датасета. И платили там не за то, что модель читала книги, а за то, как их достали 🏴☠️ (подробнее писал тут: https://t.me/SciencePubp/660)
========
Источники по теме
Первоисточники: разбор «Ведомостей» от 28 августа с позициями сторон, проект поправок: обучение как использование произведения, позиция Минцифры по представленной редакции.
Что предлагает рынок: письмо Альянса в сфере ИИ Павлу Крашенинникову от 27 августа, «Разрешено, пока не запрещено» - разбор «Инк.», аргумент о конкурентоспособности российских моделей, реакции медиаотрасли.
Мировой контекст: окончательное утверждение соглашения Anthropic с авторами, что оно означает для авторов - объяснение Authors Guild.
⚖️ Рабочая группа Совета при президенте по кодификации гражданского законодательства подготовила поправки в закон об ИИ и в четвёртую часть Гражданского кодекса. Ключевая строчка там одна:
обучение модели признаётся способом использования произведения. То есть тем же по статусу действием, что издание книги или трансляция песни.
💸 Механика такая. Кто учил модель на защищённом контенте без договора и без публичного разрешения, делает правообладателям однократную выплату; размер и порядок сбора определит правительство. Обязанность - на всех, кто обучает или дообучает, масштаб модели значения не имеет. А у автора появляется право публично запретить обучение на своих текстах: уведомлением на произведении, на связанном ресурсе или на специальном госсайте.
🧩 Вот тут и прячется развилка. Если запрет нужно поставить, значит по умолчанию разрешено, и молчание автора читается как «да». Ровно этого добивается Альянс в сфере ИИ - Сбер, Яндекс, VK, МТС и другие. В письме от 27 августа аргумент прямой:
модель выявляет статистические закономерности в больших массивах, установить правообладателя и вклад конкретного произведения сложно или невозможно. Предложение: нет технического ограничения - учиться можно.
🎼 Медиа держат противоположный край. Медиа-коммуникационный союз и представители музыкальной индустрии отказываются признавать формулу «молчание - согласие»: в таком дефолте оплаченные однажды произведения превращаются в бесплатное сырьё. Их логика - разрешение должно быть выдано, а не не-запрещено.
🏛 Минцифры поправки в представленной редакции не поддержало: интересы правообладателей учитывать нужно, но конструкция однократных выплат согласованным решением пока не является. Юристы предлагают промежуточное - машиночитаемый отказ по принципу robots.txt и обязательный реестр источников обучения.
💰 Любопытно, что опыт «однократной выплаты» авторам в мире уже был. 21 июля окончательно утверждено соглашение Anthropic с авторами: 1,5 миллиарда долларов за примерно 500 тысяч книг, около 3 000 долларов за книгу, плюс обязательство уничтожить пиратские копии датасета. И платили там не за то, что модель читала книги, а за то, как их достали 🏴☠️ (подробнее писал тут: https://t.me/SciencePubp/660)
========
Источники по теме
Первоисточники: разбор «Ведомостей» от 28 августа с позициями сторон, проект поправок: обучение как использование произведения, позиция Минцифры по представленной редакции.
Что предлагает рынок: письмо Альянса в сфере ИИ Павлу Крашенинникову от 27 августа, «Разрешено, пока не запрещено» - разбор «Инк.», аргумент о конкурентоспособности российских моделей, реакции медиаотрасли.
Мировой контекст: окончательное утверждение соглашения Anthropic с авторами, что оно означает для авторов - объяснение Authors Guild.
🔌 Ближайшие годы определит не софт и даже не нейросети, а доступ к вычислительным мощностям. Всё остальное копируется.
Накину немного контекста: у меня дома стоитигровой ПК с возможностями небольшого сервера. Собирал его когда-то под задачи инженерного анализа, которым занимался до своего полного перехода в роль "университетского руководителя". На домашнем ПК на борту несколько сотен Гб оперативной памяти / хороший Intel камень и видеокарта. Короче локальные LLM он в состоянии поднять.
С помощью клод-кода я запилил приложуху - аналог claude code desktop // chat gpt desktop (см. на втором скрине в картинках). Выглядит как: я могу также промптить задачи сидя за маком, только отправляет задачи он на домашний ПК. Работает медленнее чем "нейросеть за подписку", но в случае полного блекаута я по крайней мере останусь с инструментом который пусть и медленно, но сделает привычные мне задачи:
• разберёт транскрипты за день
• соберет презентацию
• будет продолжать вести разработку
• ИИ рыбки в аквариуме останутся живы https://aquarium.sciencepub.ru/
Это все стало контекстом для моего следующего рассуждения:
🧭 Блокаут я не предсказываю. Исхожу из таких соображений: доступ может закрыться не по моей воле - ценой, санкциями, чужим решением. Что успел перенести на своё железо, то продолжит работать. Медленнее, но продолжит. А с той скоростью, с какой копируются решения, готовым надо быть заранее.
Некоторые подтверждающие факты ниже:
⚡ у Microsoft: 80 миллиардов долларов заказов на Azure, которые компания не может исполнить. Не из-за спроса и не из-за нехватки чипов. Видеокарты лежат на складе - их некуда включить, не хватает электричества и готовых площадок. Пятёрка крупнейших ИТ-корпораций планирует вложить в инфраструктуру за 2026 год 660-690 миллиардов против примерно 380 годом раньше
📋 Epoch AI меряет разрыв между открытыми моделями и закрытым фронтиром: с января 2026 года разрыв держится в районе четырёх месяцах. Четыре месяца - вот вся фора самой дорогой лаборатории мира. Архитектура, приём, датасет, интерфейс уезжают в открытый доступ за квартал
Источники, если хотите первичку: гайденс пяти крупнейших по капвложениям на 2026 год, сводка очереди на подключение в ERCOT и замер Epoch AI по отставанию открытых моделей - всё по ссылкам ниже.
#SciencePub #вычислительныемощности #локальнаяLLM #датацентры #суверенность
Первоисточники по теме
• Epoch AI, «Open models lag state-of-the-art closed models by 4 months», данные на 29.05.2026
• ERCOT, очередь на подключение крупных потребителей
Разборы
• Futurum Group, «AI Capex 2026: The $690B Infrastructure Sprint» — капвложения пятёрки гиперскейлеров и бэклог Azure на 80 млрд из-за нехватки энергии
• Latitude Media, «ERCOT's large load queue has nearly quadrupled in a single year»
• Macro Notes, «The $650 Billion Bottleneck»
Написать рассуждение на эту тему меня натолкнули недавние сбои в чебурнете. В связи с этим я ускорился с разработкой локальной LLM-среды (в фоне веду её разработку уже некоторое время).Накину немного контекста: у меня дома стоит
С помощью клод-кода я запилил приложуху - аналог claude code desktop // chat gpt desktop (см. на втором скрине в картинках). Выглядит как: я могу также промптить задачи сидя за маком, только отправляет задачи он на домашний ПК. Работает медленнее чем "нейросеть за подписку", но в случае полного блекаута я по крайней мере останусь с инструментом который пусть и медленно, но сделает привычные мне задачи:
• разберёт транскрипты за день
• соберет презентацию
• будет продолжать вести разработку
• ИИ рыбки в аквариуме останутся живы https://aquarium.sciencepub.ru/
Это все стало контекстом для моего следующего рассуждения:
Кажется, что в мире где я могу скопировать буквально все ИТ-решения (даже claude code) - "решать" будет доступ к инфраструктуре. Крайне важно сейчас собрать решения для себя дома / для компании / в универе. Потому что вероятно токенами с нами делиться будут всё менее охотно
🧭 Блокаут я не предсказываю. Исхожу из таких соображений: доступ может закрыться не по моей воле - ценой, санкциями, чужим решением. Что успел перенести на своё железо, то продолжит работать. Медленнее, но продолжит. А с той скоростью, с какой копируются решения, готовым надо быть заранее.
Некоторые подтверждающие факты ниже:
⚡ у Microsoft: 80 миллиардов долларов заказов на Azure, которые компания не может исполнить. Не из-за спроса и не из-за нехватки чипов. Видеокарты лежат на складе - их некуда включить, не хватает электричества и готовых площадок. Пятёрка крупнейших ИТ-корпораций планирует вложить в инфраструктуру за 2026 год 660-690 миллиардов против примерно 380 годом раньше
📋 Epoch AI меряет разрыв между открытыми моделями и закрытым фронтиром: с января 2026 года разрыв держится в районе четырёх месяцах. Четыре месяца - вот вся фора самой дорогой лаборатории мира. Архитектура, приём, датасет, интерфейс уезжают в открытый доступ за квартал
Источники, если хотите первичку: гайденс пяти крупнейших по капвложениям на 2026 год, сводка очереди на подключение в ERCOT и замер Epoch AI по отставанию открытых моделей - всё по ссылкам ниже.
#SciencePub #вычислительныемощности #локальнаяLLM #датацентры #суверенность
Первоисточники по теме
• Epoch AI, «Open models lag state-of-the-art closed models by 4 months», данные на 29.05.2026
• ERCOT, очередь на подключение крупных потребителей
Разборы
• Futurum Group, «AI Capex 2026: The $690B Infrastructure Sprint» — капвложения пятёрки гиперскейлеров и бэклог Azure на 80 млрд из-за нехватки энергии
• Latitude Media, «ERCOT's large load queue has nearly quadrupled in a single year»
• Macro Notes, «The $650 Billion Bottleneck»
1❤3🔥3⚡1