Forwarded from ЕБИТДА
Немного о том, как ИИ заменяет человека: предназначенный для написания кода ИИ в Amazon удалил почти весь код, чтобы переписать его с нуля, и спровоцировал масштабный сбой сервисов.
Речь про автономного ИИ-агента Kiro, которому разработчики дали внести изменения в ИТ-инфраструктуре. Система решила, что лучший способ починить сервис – под ноль снести рабочую среду и заново пересоздать ее, избавившись от всех человеческих костылей. На восстановление ушло около 13 часов, а разруливать инцидент пришлось с привлечением большого числа тестировщиков из других подразделений.
Разработчики говорят, что за последние месяцы было как минимум два подобных инцидента, но сбои были незначительными – Kiro запрашивает авторизацию на любые действия. Масштабный же сбой произошел из-за того, что у бота оказались более широкие права доступа, чем ожидалось.
Речь про автономного ИИ-агента Kiro, которому разработчики дали внести изменения в ИТ-инфраструктуре. Система решила, что лучший способ починить сервис – под ноль снести рабочую среду и заново пересоздать ее, избавившись от всех человеческих костылей. На восстановление ушло около 13 часов, а разруливать инцидент пришлось с привлечением большого числа тестировщиков из других подразделений.
Разработчики говорят, что за последние месяцы было как минимум два подобных инцидента, но сбои были незначительными – Kiro запрашивает авторизацию на любые действия. Масштабный же сбой произошел из-за того, что у бота оказались более широкие права доступа, чем ожидалось.
🤯2
Forwarded from simulation swarm
ИИ-инструменты не спасут лоу-перформеров.
В последнее время, с развитием больших моделей, все чаще наблюдаю дискурс о том, что применение ИИ-тулов будет размывать границу между лоу-перформерами и топ-перформерами и сопряженные с этим общественные опасения. Чуть другим боком, но фактически тот же дискурс идет и в области искусства: "творчество моделей вытесняет творчество людей". И самое забавное, что ситуация, которую я наблюдаю в своей работе, показывает скорее совершенно обратное. Лоу-перформеры, обложенные ИИ-тулами, не то что не приближаются к топ-перформерам, но наличие ИИ-тулов у тех и других скорее работает как лупа и болезненно выкристаллизовывает пропасть между первыми и вторыми.
Питер Уоттс в своем рассказе Test 4 Echo подкинул классную метафору, которая помогает мне объяснить себе, почему так получается. В этом рассказе один из персонажей упоминает метрику Ф(phi) из интегрированной теории информации, разработанной Джулио Тонони. Ф измеряет собственно количество интегрированной информации в системе, если проще, то насколько система как целое знает больше, чем знает сумма ее частей. По мнению Тонони, этот параметр является измеримой характеристикой наличия у системы сознания. Высокое значение Ф требует интеграции информации через рекуррентные обратные связи, именно такие петли позволяют системе быть больше суммы своих частей. Наш мозг ими пронизан, например, именно так работает зрительная кора: фактически наши высшие слои обработки постоянно посылают обратную связь нижним, к источнику сигнала, корректируя поток входящей информации (что-то типа "кажется, я вижу собаку, поправь чувствительность здесь и контраст здесь"). Такую постоянную замкнутую цепь обработки Тонони ассоциирует с наличием сознания. А теперь к нейросетям: те инструменты, которые мы используем в повседневной жизни и работе, в большинстве своем под капотом - это трансформеры, трансформеры при инференсе строго последовательны, это так называемая feedforward-архитектура, то есть данные идут через слои обработки вперед без рекуррентности (ну упрощенно при одном прогоне). Такие инструменты позволяют очень эффективно собирать вместе и последовательно обрабатывать ОЧЕНЬ много информации, однако общая сумма информации в системе (хоть и гигантская) не превышает ее слагаемых.
Соответственно, чтобы действительно получить какую-то информационную дельту и произвести что-то новое, нам нужно встроить в систему человека с его бесконечными петлями обратной связи и саму систему замкнуть. И вот эта самая характеристика лоу- и топ-перформера как раз сводится к интеграционной способности каждого конкретного человека, к тому, насколько хорошо он дает обратную связь и насколько много новой информации привносит. Да, Ф фактически характеризует наличие сознания, а не его качество, но сам принцип, что ценность системы определяется не количеством данных, а способностью их интегрировать, здесь применим. Мы с коллегами проводим много собеседований на позиции ML-продактов и, учитывая специфику позиции, имеем маленький, но стабильный поток кандидатов, которые пытаются пройти эти интервью при помощи AI-ассистентов. Так вот, кроме того, что это всегда очевидно, это всегда плохо при оценке, даже если отбросить факт читинга. Дело в том, что вся информация в наших кейсах уже есть, не нужно ничего гуглить или исследовать, они проверяют ровно интеграционную способность мозга кандидата структурировать эту информацию, сделать из нее правильные выводы и синтезировать новое решение. Ключевые преимущества, которые дает AI-ассистент, здесь не будут каким-либо дифференциатором. И вот здесь получается, что топ-перформер с AI-тулами дает несколько иксов к своей производительности, потому что он становится способен работать с кратно бОльшим потоком информации, тогда как лоу-перформер выдает неструктурированный дамп старой информации. Теперь можете брать это утверждение и масштабировать на все сферы, которые топит AI-слоп. О чем это говорит? О применимости ИИ в конкретных сферах или все же о способности людей производить долю интегрированной информации?
В последнее время, с развитием больших моделей, все чаще наблюдаю дискурс о том, что применение ИИ-тулов будет размывать границу между лоу-перформерами и топ-перформерами и сопряженные с этим общественные опасения. Чуть другим боком, но фактически тот же дискурс идет и в области искусства: "творчество моделей вытесняет творчество людей". И самое забавное, что ситуация, которую я наблюдаю в своей работе, показывает скорее совершенно обратное. Лоу-перформеры, обложенные ИИ-тулами, не то что не приближаются к топ-перформерам, но наличие ИИ-тулов у тех и других скорее работает как лупа и болезненно выкристаллизовывает пропасть между первыми и вторыми.
Питер Уоттс в своем рассказе Test 4 Echo подкинул классную метафору, которая помогает мне объяснить себе, почему так получается. В этом рассказе один из персонажей упоминает метрику Ф(phi) из интегрированной теории информации, разработанной Джулио Тонони. Ф измеряет собственно количество интегрированной информации в системе, если проще, то насколько система как целое знает больше, чем знает сумма ее частей. По мнению Тонони, этот параметр является измеримой характеристикой наличия у системы сознания. Высокое значение Ф требует интеграции информации через рекуррентные обратные связи, именно такие петли позволяют системе быть больше суммы своих частей. Наш мозг ими пронизан, например, именно так работает зрительная кора: фактически наши высшие слои обработки постоянно посылают обратную связь нижним, к источнику сигнала, корректируя поток входящей информации (что-то типа "кажется, я вижу собаку, поправь чувствительность здесь и контраст здесь"). Такую постоянную замкнутую цепь обработки Тонони ассоциирует с наличием сознания. А теперь к нейросетям: те инструменты, которые мы используем в повседневной жизни и работе, в большинстве своем под капотом - это трансформеры, трансформеры при инференсе строго последовательны, это так называемая feedforward-архитектура, то есть данные идут через слои обработки вперед без рекуррентности (ну упрощенно при одном прогоне). Такие инструменты позволяют очень эффективно собирать вместе и последовательно обрабатывать ОЧЕНЬ много информации, однако общая сумма информации в системе (хоть и гигантская) не превышает ее слагаемых.
Соответственно, чтобы действительно получить какую-то информационную дельту и произвести что-то новое, нам нужно встроить в систему человека с его бесконечными петлями обратной связи и саму систему замкнуть. И вот эта самая характеристика лоу- и топ-перформера как раз сводится к интеграционной способности каждого конкретного человека, к тому, насколько хорошо он дает обратную связь и насколько много новой информации привносит. Да, Ф фактически характеризует наличие сознания, а не его качество, но сам принцип, что ценность системы определяется не количеством данных, а способностью их интегрировать, здесь применим. Мы с коллегами проводим много собеседований на позиции ML-продактов и, учитывая специфику позиции, имеем маленький, но стабильный поток кандидатов, которые пытаются пройти эти интервью при помощи AI-ассистентов. Так вот, кроме того, что это всегда очевидно, это всегда плохо при оценке, даже если отбросить факт читинга. Дело в том, что вся информация в наших кейсах уже есть, не нужно ничего гуглить или исследовать, они проверяют ровно интеграционную способность мозга кандидата структурировать эту информацию, сделать из нее правильные выводы и синтезировать новое решение. Ключевые преимущества, которые дает AI-ассистент, здесь не будут каким-либо дифференциатором. И вот здесь получается, что топ-перформер с AI-тулами дает несколько иксов к своей производительности, потому что он становится способен работать с кратно бОльшим потоком информации, тогда как лоу-перформер выдает неструктурированный дамп старой информации. Теперь можете брать это утверждение и масштабировать на все сферы, которые топит AI-слоп. О чем это говорит? О применимости ИИ в конкретных сферах или все же о способности людей производить долю интегрированной информации?
Forwarded from Неискусственный интеллект (Oleg Salmanov)
Как выясняется, сбои в Amazon связаны не только с ракетными атаками, но и с вайб-кодингом.
О дивный новый мир, где обитают такие люди! Как херачащие по дата-центрам ракетами, так и пишущие код в прод с помощью ИИ, не особо проверяя за этими умниками.
Урежут теперь, наверное, у Клода зарплату...
@anti_agi
О дивный новый мир, где обитают такие люди! Как херачащие по дата-центрам ракетами, так и пишущие код в прод с помощью ИИ, не особо проверяя за этими умниками.
Урежут теперь, наверное, у Клода зарплату...
@anti_agi
CNBC
Amazon convenes 'deep dive' internal meeting to address outages
Amazon's top retail technology convened a "deep dive" meeting on Tuesday to discuss a string of recent site outages.
Forwarded from Дом продактов | Удушение самозванцев
Media is too big
VIEW IN TELEGRAM
Какой у вас AI-стек?)
Forwarded from Неискусственный интеллект (Ruslan Dz)
Товарищ Netflix
В 1930-е в СССР научились ретушировать фотографии. Попал нарком в опалу, его аккуратно стирали с групповых снимков: Ежов, Троцкий, кто-то ещё. Работали кисточкой, работали аэрографом. С фото вопрос решили.
С кино было сложнее. Фильмы приходилось класть на полку целиком или кромсать ножницами, получалось грубо, заметно, с дырами в монтаже. Инструмента не было.
Прошло 90 лет. Netflix Research опубликовал Video Object and Interaction Deletion (VOID). Фреймворк, который удаляет объекты из видео вместе со всеми физическими последствиями их присутствия в сцене.
Существующие методы умеют стирать объект и закрашивать фон за ним. Тени убрать, отражения подчистить. Но если удаленный объект с чем-то взаимодействовал (толкал, держал, ронял), результат разваливается. VOID решает именно эту задачу.
Работает так: пользователь кликает на объект. VLM (в данном случае Gemini) анализирует сцену и определяет, какие области будут затронуты удалением. Что упадет, что перестанет двигаться, что изменит траекторию. Все это кодируется в четырехзначную маску (quadmask), которая расширяет бинарную логику инпейнтинга оставить-удалить. Маска уходит в дообученную CogVideoX (открытая диффузионка от Z.ai). Та генерирует альтернативную версию событий, в которой удаленного объекта никогда не существовало.
Удалили человека, который держал гитару. Гитара естественно падает. Убрали шар из боулинга. Кегли стоят нетронутые. Стерли кота, который играл с клубком. Клубок лежит на месте.
Для обучения собрали синтетический датасет парных примеров: сцена с объектом и сцена без него с корректной физикой. Использовали Kubric от Google и HUMOTO с motion capture в Blender. Тренировали на 8 штуках A100 80GB.
Файнтюн CogVideoX на HuggingFace, статья на архиве.
Камрады плачут от зависти.
@anti_agi
В 1930-е в СССР научились ретушировать фотографии. Попал нарком в опалу, его аккуратно стирали с групповых снимков: Ежов, Троцкий, кто-то ещё. Работали кисточкой, работали аэрографом. С фото вопрос решили.
С кино было сложнее. Фильмы приходилось класть на полку целиком или кромсать ножницами, получалось грубо, заметно, с дырами в монтаже. Инструмента не было.
Прошло 90 лет. Netflix Research опубликовал Video Object and Interaction Deletion (VOID). Фреймворк, который удаляет объекты из видео вместе со всеми физическими последствиями их присутствия в сцене.
Существующие методы умеют стирать объект и закрашивать фон за ним. Тени убрать, отражения подчистить. Но если удаленный объект с чем-то взаимодействовал (толкал, держал, ронял), результат разваливается. VOID решает именно эту задачу.
Работает так: пользователь кликает на объект. VLM (в данном случае Gemini) анализирует сцену и определяет, какие области будут затронуты удалением. Что упадет, что перестанет двигаться, что изменит траекторию. Все это кодируется в четырехзначную маску (quadmask), которая расширяет бинарную логику инпейнтинга оставить-удалить. Маска уходит в дообученную CogVideoX (открытая диффузионка от Z.ai). Та генерирует альтернативную версию событий, в которой удаленного объекта никогда не существовало.
Удалили человека, который держал гитару. Гитара естественно падает. Убрали шар из боулинга. Кегли стоят нетронутые. Стерли кота, который играл с клубком. Клубок лежит на месте.
Для обучения собрали синтетический датасет парных примеров: сцена с объектом и сцена без него с корректной физикой. Использовали Kubric от Google и HUMOTO с motion capture в Blender. Тренировали на 8 штуках A100 80GB.
Файнтюн CogVideoX на HuggingFace, статья на архиве.
Камрады плачут от зависти.
@anti_agi
Forwarded from в IT и выйти
Apple вайбкодит свои приложения — разработчики случайно оставили файлы Claude .md в обновлении Apple Support.
После того, как это спалили в соцсетях, компания выпустила новую версию обновления 5.13.1. В ней следов вайбкодинга уже не было.
Вот и думайте👌
@techmedia
После того, как это спалили в соцсетях, компания выпустила новую версию обновления 5.13.1. В ней следов вайбкодинга уже не было.
Вот и думайте
@techmedia
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Nocode Live
This media is not supported in your browser
VIEW IN TELEGRAM
ИИ не понимает правил UX/UI-дизайна
Refero Styles решили эту проблему и собрали 2000 правил из популярных сервисов в одном файле. В нём поместились техники для работы с цветами, шрифтами, полями и макетами.
Подключаешь его к Claude и говоришь: «Сделай классный сайт» — всё!
Refero Styles решили эту проблему и собрали 2000 правил из популярных сервисов в одном файле. В нём поместились техники для работы с цветами, шрифтами, полями и макетами.
Подключаешь его к Claude и говоришь: «Сделай классный сайт» — всё!
Тестим
https://styles.refero.design/
Forwarded from IT головного мозга [Dunina]
Как экономить на вайбкодинге никак
Продолжим тему вайбкодинга. Мы уже поняли, что он точно убьет SAAS 🥷🏻. А еще точно удешевит разработку и прочие ваши процессы 🤖. Мы живем в прекрасную эпоху технологий - электромобили делают нашу планету чище, а вайбкодинг делает ваш бизнес более маржинальным. (если че значок "сарказм" тут, да).
MIT выяснил: 95% корпоративных AI-проектов не показали измеримого финансового результата в течение 6 месяцев. Кажется, это провал.
IBM: только 25% AI-инициатив дают ожидаемый ROI, лишь 16% масштабированы на всю компанию.
Forbes/Wharton: меньше 1% компаний получают ROI выше 20%, 53% - только 1-5%. При этом 80% компаний продолжают наращивать бюджеты.
До 2025 года Enterprise-подписка Claude включала скидки 10-15% на токены. С ноября 2025 Anthropic начал убирать эти скидки при перезаключении контрактов, с февраля 2026 - это стандарт для всех новых договоров. Для команды из 100 человек это добавляет $15 000- $40 000 к годовой стоимости по сравнению с контрактом 2025 года. С апреля 2026 агентные сессии через внешние фреймворки выведены из фиксированной подписки полностью - теперь платишь за каждый запрос к модели, а не фиксированную сумму в месяц, как раньше .
Одна сессия автономного агента за рабочий день могла стоить $1 000 - $5 000. Anthropic как полагается субсидировал на старте и вот перестал, когда вы на игле.
Uber поставил жёсткий лимит $1 500/мес на разработчика на каждый инструмент - Claude Code и Cursor считаются отдельно. Превысил - нужно разрешение. Microsoft начал отзывать корпоративные лицензии Claude Code и переводить инженеров на GitHub Copilot CLI. Эпоха "включи AI всем и пусть пользуются" - закончилась.
😐👾А кстати, вспомните еще стоимость поездок на Яндекс Такси лет 7 назад. Или посмотрите как WB выкручивает яйца своим продавцам, превратившись из прекрасной возможности заработать с нулевым входом в нормальное такое торговое рабство. Кажется история с вайбкодингом мне кое-что напоминает. Но это уже совсем другая история...
Тут нужно обозначить мою позицию четко - никакого осуждения, исключительно факты. Мы просто катимся по кривой Гартнера на дно разочарований. Но пройдет время и мы будем подниматься по склону просветления к плато продуктивности. Уверена в этом на 146%. Причем чтобы к плато ползти быстрее других - нужно, обязательно нужно экспериментировать уже сейчас. В рамках рабочих единиц, коими мы все являемся, можно действительно значительно ускориться и повысить эффективность.
А пока ставим пятничные огонечки 💥🔥💫🦄 и идем за заслуженным 🍺🍺🥂
ПОДПИСАТЬСЯ НА IT-ГОЛОВНОГО МОЗГА
Продолжим тему вайбкодинга. Мы уже поняли, что он точно убьет SAAS 🥷🏻. А еще точно удешевит разработку и прочие ваши процессы 🤖. Мы живем в прекрасную эпоху технологий - электромобили делают нашу планету чище, а вайбкодинг делает ваш бизнес более маржинальным. (если че значок "сарказм" тут, да).
Реальный экономический эффект
MIT выяснил: 95% корпоративных AI-проектов не показали измеримого финансового результата в течение 6 месяцев. Кажется, это провал.
IBM: только 25% AI-инициатив дают ожидаемый ROI, лишь 16% масштабированы на всю компанию.
Forbes/Wharton: меньше 1% компаний получают ROI выше 20%, 53% - только 1-5%. При этом 80% компаний продолжают наращивать бюджеты.
Платформы меняют модель монетизации - и это дорого
До 2025 года Enterprise-подписка Claude включала скидки 10-15% на токены. С ноября 2025 Anthropic начал убирать эти скидки при перезаключении контрактов, с февраля 2026 - это стандарт для всех новых договоров. Для команды из 100 человек это добавляет $15 000- $40 000 к годовой стоимости по сравнению с контрактом 2025 года. С апреля 2026 агентные сессии через внешние фреймворки выведены из фиксированной подписки полностью - теперь платишь за каждый запрос к модели, а не фиксированную сумму в месяц, как раньше .
Одна сессия автономного агента за рабочий день могла стоить $1 000 - $5 000. Anthropic как полагается субсидировал на старте и вот перестал, когда вы на игле.
Корпорации вводят лимиты на токены
Uber поставил жёсткий лимит $1 500/мес на разработчика на каждый инструмент - Claude Code и Cursor считаются отдельно. Превысил - нужно разрешение. Microsoft начал отзывать корпоративные лицензии Claude Code и переводить инженеров на GitHub Copilot CLI. Эпоха "включи AI всем и пусть пользуются" - закончилась.
😐👾А кстати, вспомните еще стоимость поездок на Яндекс Такси лет 7 назад. Или посмотрите как WB выкручивает яйца своим продавцам, превратившись из прекрасной возможности заработать с нулевым входом в нормальное такое торговое рабство. Кажется история с вайбкодингом мне кое-что напоминает. Но это уже совсем другая история...
Тут нужно обозначить мою позицию четко - никакого осуждения, исключительно факты. Мы просто катимся по кривой Гартнера на дно разочарований. Но пройдет время и мы будем подниматься по склону просветления к плато продуктивности. Уверена в этом на 146%. Причем чтобы к плато ползти быстрее других - нужно, обязательно нужно экспериментировать уже сейчас. В рамках рабочих единиц, коими мы все являемся, можно действительно значительно ускориться и повысить эффективность.
А пока ставим пятничные огонечки 💥🔥💫🦄 и идем за заслуженным 🍺🍺🥂
ПОДПИСАТЬСЯ НА IT-ГОЛОВНОГО МОЗГА
Forwarded from TechnoME: Multimediamind 🏴☠️
Forwarded from в IT и выйти
Стартап российских математиков залетел на главную WIRED — проект Mostik научил нейросети общаться между собой напрямую, без текста, чтобы объединять несколько моделей и экономить деньги.
Стартапу всего четыре месяца. Его основала россиянка Александра Малышева, а в команде 15 человек, почти все с PhD и опытом работы в Google, Nvidia или Perplexity.
Сама Малышева получила степень в Вышке и ещё в 2019 году взяла научную премию Яндекса за исследования мультиагентных систем.
Наши математики опять в топе😎
@techmedia
Стартапу всего четыре месяца. Его основала россиянка Александра Малышева, а в команде 15 человек, почти все с PhD и опытом работы в Google, Nvidia или Perplexity.
Сама Малышева получила степень в Вышке и ещё в 2019 году взяла научную премию Яндекса за исследования мультиагентных систем.
Наши математики опять в топе
@techmedia
Please open Telegram to view this post
VIEW IN TELEGRAM
Вот этот кусочек интересный. Ждем независимых расследований 😄
Anthropic утверждает, что Moonshot незаметно перенаправляла запросы пользователей Kimi в Claude и выдавала ответы за свои.
Forwarded from TechnoME: Multimediamind 🏴☠️
Anthropic выпустила огромный отчёт о том, как Claude пытались использовать для кибератак, шпионажа, массовой слежки и даже разработки оружия.
За восемь месяцев компания обнаружила и заблокировала целый зоопарк кейсов. В одной атаке утекли данные более 300 тысяч граждан и реестр полумиллиона компаний.
Другие хакеры с помощью AI перебрали 1,8 млн Android-приложений в поисках ключей, украли больше терабайта данных с миллионами банковских карт, добрались до систем авиакомпании с десятками миллионов пассажиров и за 34 часа вытащили около 2100 Azure-токенов более чем 40 компаний. Причём, по Anthropic, почти всю работу выполняли AI-агенты.
Отдельная глава — государственная слежка и оружие: система мониторинга примерно 25 млн SIM-карт, автоматизированный поиск диссидентов в Китае и российский проект автономного роя дронов-камикадзе.
И ещё прикол: китайские AI-компании сами использовали Claude. Anthropic утверждает, что Moonshot незаметно перенаправляла запросы пользователей Kimi в Claude и выдавала ответы за свои. Только за десять дней — почти 300 тысяч запросов через 5380 фейковых аккаунтов. Похожие схемы компания связывает с DeepSeek и другими китайскими лабораториями.
В общем, документ читается как сборник сценариев «Чёрного зеркала», только это уже threat intelligence за 2026 год.
Отчёт вышел 10 сентября 2026 года и охватывает выявленные Anthropic операции с декабря 2025-го по август 2026-го.
PDF с полными данными тыц☝️
За восемь месяцев компания обнаружила и заблокировала целый зоопарк кейсов. В одной атаке утекли данные более 300 тысяч граждан и реестр полумиллиона компаний.
Другие хакеры с помощью AI перебрали 1,8 млн Android-приложений в поисках ключей, украли больше терабайта данных с миллионами банковских карт, добрались до систем авиакомпании с десятками миллионов пассажиров и за 34 часа вытащили около 2100 Azure-токенов более чем 40 компаний. Причём, по Anthropic, почти всю работу выполняли AI-агенты.
Отдельная глава — государственная слежка и оружие: система мониторинга примерно 25 млн SIM-карт, автоматизированный поиск диссидентов в Китае и российский проект автономного роя дронов-камикадзе.
И ещё прикол: китайские AI-компании сами использовали Claude. Anthropic утверждает, что Moonshot незаметно перенаправляла запросы пользователей Kimi в Claude и выдавала ответы за свои. Только за десять дней — почти 300 тысяч запросов через 5380 фейковых аккаунтов. Похожие схемы компания связывает с DeepSeek и другими китайскими лабораториями.
В общем, документ читается как сборник сценариев «Чёрного зеркала», только это уже threat intelligence за 2026 год.
Отчёт вышел 10 сентября 2026 года и охватывает выявленные Anthropic операции с декабря 2025-го по август 2026-го.
PDF с полными данными тыц
Please open Telegram to view this post
VIEW IN TELEGRAM