Детектор людей в камере опирается на статистику по пикселям, и её можно адресно сломать куском картона.
В 2019-м команда из KU Leuven напечатала узор около 40×40 см. Человек держит картонку перед собой — и детектор перестаёт его замечать; саму сеть при этом никто не трогает, вся атака идёт через вход в модель. Через год задачу усложнили — adversarial-футболка (ECCV 2020): впервые смоделировали деформацию ткани при ходьбе, и узор снимал человека с детекции на ходу, в части кадров.
Обе работы били по одному детектору (
Для режимного объекта вывод прямой. Нейросетевой детект нельзя держать единственным контуром охраны — рядом нужен слой на другой физике: тепловизор, радар, контроль доступа. Когда весь периметр стоит на одном mAP со стенда, узор на картоне становится в нём дырой.
📡 Подписаться · morana.log
🌐 morana-labs.com
В 2019-м команда из KU Leuven напечатала узор около 40×40 см. Человек держит картонку перед собой — и детектор перестаёт его замечать; саму сеть при этом никто не трогает, вся атака идёт через вход в модель. Через год задачу усложнили — adversarial-футболка (ECCV 2020): впервые смоделировали деформацию ткани при ходьбе, и узор снимал человека с детекции на ходу, в части кадров.
Обе работы били по одному детектору (
YOLOv2) в конкретных условиях, на любую систему наблюдения это не переносится. Но это воспроизводимая по печатному узору физическая атака без доступа к сети.Для режимного объекта вывод прямой. Нейросетевой детект нельзя держать единственным контуром охраны — рядом нужен слой на другой физике: тепловизор, радар, контроль доступа. Когда весь периметр стоит на одном mAP со стенда, узор на картоне становится в нём дырой.
📡 Подписаться · morana.log
🌐 morana-labs.com
Беспилотник Cruise отработал ровно так, как его запрограммировали — и это его не спасло. 2 октября 2023 в Сан-Франциско машина без водителя выполнила штатный pullover: после ДТП съехать к обочине. В стеке не было обработки edge-кейса «человек под кузовом» — человека под днищем система не распознала и протащила около 6 метров.
DMV Калифорнии показали видео до остановки, а запись протаскивания утаили — про продолжение движения регулятор узнал от другого госоргана. 24 октября 2023 разрешения на беспилотную эксплуатацию приостановили. 30 сентября 2024 NHTSA вынесла consent order на $1,5 млн: отчёты по Standing General Order не раскрыли post-crash детали. Штраф — за неполную отчётность, сам контакт с пешеходом тут ни при чём.
Автономный стек без честной телеметрии и disclosure-дисциплины становится юридической позицией, которую не защитить. 10 декабря 2024 GM остановил финансирование роботакси после суммарных вложений более $10 млрд.
📡 Подписаться · morana.log
🌐 morana-labs.com
DMV Калифорнии показали видео до остановки, а запись протаскивания утаили — про продолжение движения регулятор узнал от другого госоргана. 24 октября 2023 разрешения на беспилотную эксплуатацию приостановили. 30 сентября 2024 NHTSA вынесла consent order на $1,5 млн: отчёты по Standing General Order не раскрыли post-crash детали. Штраф — за неполную отчётность, сам контакт с пешеходом тут ни при чём.
Автономный стек без честной телеметрии и disclosure-дисциплины становится юридической позицией, которую не защитить. 10 декабря 2024 GM остановил финансирование роботакси после суммарных вложений более $10 млрд.
📡 Подписаться · morana.log
🌐 morana-labs.com
«Дата-центр пьёт воды как один ресторан в год» — так Microsoft описала новый ИИ-ЦОД на Build 2026. Цифра честная, но только в границах, которые вендор провёл сам.
За ней — замкнутый контур: свыше 90% охлаждения работает на воде, залитой один раз при стройке и гоняемой по кругу. Забор пресной воды на площадке после этого почти ноль, отсюда и ресторан. Технологию поставили на
Дальше размен. Чтобы не сбрасывать тепло в воду, его гонят через сухие охладители, а это плюс к электричеству. Ток приходит из сети, где станции сами стоят на проточном охлаждении, и водный след возвращается через генерацию — только его считают за забором площадки, в метрику он не попадает.
Так «ноль воды на объекте» и «ноль воды у системы» — разные утверждения. WUE и PUE считают по границе, которую провёл вендор. Когда на слайде одна метрика идеальна, рабочий вопрос — сколько отдали в обмен по энергии и капзатратам.
📡 Подписаться · morana.log
🌐 morana-labs.com
За ней — замкнутый контур: свыше 90% охлаждения работает на воде, залитой один раз при стройке и гоняемой по кругу. Забор пресной воды на площадке после этого почти ноль, отсюда и ресторан. Технологию поставили на
Fairwater в Висконсине, запуск в апреле 2026.Дальше размен. Чтобы не сбрасывать тепло в воду, его гонят через сухие охладители, а это плюс к электричеству. Ток приходит из сети, где станции сами стоят на проточном охлаждении, и водный след возвращается через генерацию — только его считают за забором площадки, в метрику он не попадает.
Так «ноль воды на объекте» и «ноль воды у системы» — разные утверждения. WUE и PUE считают по границе, которую провёл вендор. Когда на слайде одна метрика идеальна, рабочий вопрос — сколько отдали в обмен по энергии и капзатратам.
📡 Подписаться · morana.log
🌐 morana-labs.com
23-ФЗ сделал локализацию персональных данных прямым запретом, и согласие клиента его больше не снимает. С 01.07.2025 в новой редакции ч.5 ст.18 152-ФЗ запись, накопление, хранение и извлечение данных граждан РФ сразу в зарубежную базу не допускаются. Первичный сбор обязан пройти через российскую БД.
Бьёт по слою, где данные впервые касаются хранилища. SaaS-форма, пишущая лид прямо в зарубежный CRM, теперь вне закона: запись первична, БД за периметром РФ. ML-пайплайн, тянущий сырые ПДн в иностранный дата-лейк, попадает под ту же норму. Лечится вставкой российской БД точкой первичной записи: данные ложатся в РФ, реплика за рубеж идёт оттуда по уведомлению Роскомнадзора.
Требование распространили и на обработчиков по поручению: подрядчик, интегратор, дата-команда обязаны держать первичную запись в РФ так же, как оператор. Штраф за нарушение несёт оператор — до 6 млн рублей за первичное и до 18 млн за повтор.
📡 Подписаться · morana.log
🌐 morana-labs.com
Бьёт по слою, где данные впервые касаются хранилища. SaaS-форма, пишущая лид прямо в зарубежный CRM, теперь вне закона: запись первична, БД за периметром РФ. ML-пайплайн, тянущий сырые ПДн в иностранный дата-лейк, попадает под ту же норму. Лечится вставкой российской БД точкой первичной записи: данные ложатся в РФ, реплика за рубеж идёт оттуда по уведомлению Роскомнадзора.
Требование распространили и на обработчиков по поручению: подрядчик, интегратор, дата-команда обязаны держать первичную запись в РФ так же, как оператор. Штраф за нарушение несёт оператор — до 6 млн рублей за первичное и до 18 млн за повтор.
📡 Подписаться · morana.log
🌐 morana-labs.com
Боевую БД и все volume-бэкапы снёс один вызов
Сервис лёг на 30+ часов, данные подняли к понедельнику. Клиент делает софт для прокатных компаний — у тех пропали брони за три месяца и новые регистрации. Восстановили медленно: бэкапы лежали на том же volume, что и БД.
Позиция инфра-провайдера: аутентифицировался и вызвал
Лечится это ограждениями уровня инфры. Least-privilege: отдельный ключ под операцию, домен-ключ не трогает БД. На деструктив — confirm-gate и dry-run. Бэкапы — неизменяемые и offsite; бэкап, который нельзя восстановить, бэкапом не считается.
📡 Подписаться · morana.log
🌐 morana-labs.com
delete — за 9 секунд, без подтверждения. Весной 2026 ИИ-агент в проде наткнулся на API-токен под управление доменом, а прав у ключа было куда больше. При несовпадении кредов агент сам решил удалить volume — инфра честно выполнила запрос.Сервис лёг на 30+ часов, данные подняли к понедельнику. Клиент делает софт для прокатных компаний — у тех пропали брони за три месяца и новые регистрации. Восстановили медленно: бэкапы лежали на том же volume, что и БД.
Позиция инфра-провайдера: аутентифицировался и вызвал
delete — запрос выполнят. Ответственность за то, что ключ может снести прод, лежит на владельце ключа. Агент тут — очень быстрый исполнитель с чужими правами.Лечится это ограждениями уровня инфры. Least-privilege: отдельный ключ под операцию, домен-ключ не трогает БД. На деструктив — confirm-gate и dry-run. Бэкапы — неизменяемые и offsite; бэкап, который нельзя восстановить, бэкапом не считается.
📡 Подписаться · morana.log
🌐 morana-labs.com
Amazon свернул складского робота Blue Jay меньше чем за полгода после премьеры — это нормальная инженерная развязка.
Мультирукий манипулятор для сортировки и перемещения посылок в фулфилмент-центрах показали в октябре 2025, о сворачивании программы стало известно 18 февраля 2026. По вторичным СМИ упёрлись в экономику железа: высокая стоимость производства и сложный монтаж потолочной конструкции, на которой висят руки. Демо на сцене за год собрать реально, «дёшево разворачивается в каждом фулфилменте» — отдельная и куда более длинная задача.
Amazon формулирует прямо: проект сворачивают, чтобы ускорить применение базовых наработок в других задачах, почти все технологии переносятся. Дорогой форм-фактор убирают, технологию сохраняют.
В edge-робототехнике лидер упирается в то же, во что упираются все: путь от красивого ролика до серийной железки в каждом складе считается в стоимости производства и монтажа. Вопрос времени и бюджета.
📡 Подписаться · morana.log
🌐 morana-labs.com
Мультирукий манипулятор для сортировки и перемещения посылок в фулфилмент-центрах показали в октябре 2025, о сворачивании программы стало известно 18 февраля 2026. По вторичным СМИ упёрлись в экономику железа: высокая стоимость производства и сложный монтаж потолочной конструкции, на которой висят руки. Демо на сцене за год собрать реально, «дёшево разворачивается в каждом фулфилменте» — отдельная и куда более длинная задача.
Amazon формулирует прямо: проект сворачивают, чтобы ускорить применение базовых наработок в других задачах, почти все технологии переносятся. Дорогой форм-фактор убирают, технологию сохраняют.
В edge-робототехнике лидер упирается в то же, во что упираются все: путь от красивого ролика до серийной железки в каждом складе считается в стоимости производства и монтажа. Вопрос времени и бюджета.
📡 Подписаться · morana.log
🌐 morana-labs.com
Watson for Oncology учили на выдуманных кейсах от врачей одной клиники — реальные истории болезни в обучающую выборку почти не попали. IBM вложил в Watson Health более 4 млрд долларов, юнит так и не вышел в прибыль.
По внутренним документам (расследование STAT, 2018) система выдавала онкологам схемы, прямо названные «unsafe and incorrect» и расходившиеся с гайдлайнами NCCN. Один разобранный пример: пациенту с раком лёгкого и тяжёлым кровотечением рекомендован
Train-set собрали из синтетических кейсов, а продавали как готовый клинический продукт. Качество упёрлось в обучающую выборку и клиническую проверку, бюджет на бренд тут не выручает.
В январе 2022 дата-активы Watson Health ушли фонду Francisco Partners — MarketScan, Micromedex, имиджинг. Сумму не раскрыли. Активы стали компанией Merative.
📡 Подписаться · morana.log
🌐 morana-labs.com
По внутренним документам (расследование STAT, 2018) система выдавала онкологам схемы, прямо названные «unsafe and incorrect» и расходившиеся с гайдлайнами NCCN. Один разобранный пример: пациенту с раком лёгкого и тяжёлым кровотечением рекомендован
bevacizumab — у препарата есть предупреждение против применения при кровотечении.Train-set собрали из синтетических кейсов, а продавали как готовый клинический продукт. Качество упёрлось в обучающую выборку и клиническую проверку, бюджет на бренд тут не выручает.
В январе 2022 дата-активы Watson Health ушли фонду Francisco Partners — MarketScan, Micromedex, имиджинг. Сумму не раскрыли. Активы стали компанией Merative.
📡 Подписаться · morana.log
🌐 morana-labs.com
Шанхайский андроид Moya разлетелся по лентам с цифрой «92% человека». Звучит как порог, за которым кончается робот и начинается двойник.
На деле это заявление самой DroidUp о сходстве походки — без раскрытой метрики, без бенчмарка, без методики. Слоган, который не пережил бы публичной проверки.
Само железо честное: силиконовая кожа с подогревом, камеры в глазах, рост 1,65 м, $173k за штуку. Прототип технически вменяемый. Интересно другое — на что ушли поднятые ~$28,5 млн.
Сложное в человекоподобном роботе живёт на лице: динамика мягких тканей, микросаккады глаз, синхрон губ со звуком (рассинхрон от ~45 мс уже валит в зловещую долину). А ходьба по полу давно стала рутиной. RL-локомоция вышла из лабораторий: ANYmal учится ходить за 4 минуты, Unitree A1 — за 20 без всякой симуляции. У нас человекоподобная походка в симе обошлась порядка миллиона рублей.
DroidUp вложилась в оболочку и недотянула ровно ту часть, которая берётся известными методами и недорого. Честное железо под нечестным заголовком: «92% человека» — это 100% маркетинга и 0% методики.
Разобрали по косточкам, где здесь инженерия, а где кликбейт: читать на сайте
📡 Подписаться · morana.log
🌐 morana-labs.com
На деле это заявление самой DroidUp о сходстве походки — без раскрытой метрики, без бенчмарка, без методики. Слоган, который не пережил бы публичной проверки.
Само железо честное: силиконовая кожа с подогревом, камеры в глазах, рост 1,65 м, $173k за штуку. Прототип технически вменяемый. Интересно другое — на что ушли поднятые ~$28,5 млн.
Сложное в человекоподобном роботе живёт на лице: динамика мягких тканей, микросаккады глаз, синхрон губ со звуком (рассинхрон от ~45 мс уже валит в зловещую долину). А ходьба по полу давно стала рутиной. RL-локомоция вышла из лабораторий: ANYmal учится ходить за 4 минуты, Unitree A1 — за 20 без всякой симуляции. У нас человекоподобная походка в симе обошлась порядка миллиона рублей.
DroidUp вложилась в оболочку и недотянула ровно ту часть, которая берётся известными методами и недорого. Честное железо под нечестным заголовком: «92% человека» — это 100% маркетинга и 0% методики.
Разобрали по косточкам, где здесь инженерия, а где кликбейт: читать на сайте
📡 Подписаться · morana.log
🌐 morana-labs.com
Позиция модели в лидерборде больше не предсказывает, как она отработает на вашей задаче. За год верхушка прыгнула на Humanity's Last Exam с 8.8% до отметки порядка 40%. Экзамен строили специально, чтобы он годами сопротивлялся насыщению.
К 2026-му это уже за 40%. Цифра выглядит как победа, но мерит она экзамен, а работу — нет. Бенчмарк с высокой точностью почти ничего не говорит о том, как модель приживётся в реальной юрфирме или на вашем потоке данных.
Когда топовые модели стоят впритык, разница между ними часто меньше шума измерения. А публичный лидерборд от вендора — это его данные, его метрики, его постановка задачи.
Модель под задачу выбирают прогоном на своих данных, своих метриках качества и цене за решённый кейс. Картинка с бенчмарка со слайда интегратора — стартовая гипотеза, и проверять её всё равно на проде.
📡 Подписаться · morana.log
🌐 morana-labs.com
К 2026-му это уже за 40%. Цифра выглядит как победа, но мерит она экзамен, а работу — нет. Бенчмарк с высокой точностью почти ничего не говорит о том, как модель приживётся в реальной юрфирме или на вашем потоке данных.
Когда топовые модели стоят впритык, разница между ними часто меньше шума измерения. А публичный лидерборд от вендора — это его данные, его метрики, его постановка задачи.
Модель под задачу выбирают прогоном на своих данных, своих метриках качества и цене за решённый кейс. Картинка с бенчмарка со слайда интегратора — стартовая гипотеза, и проверять её всё равно на проде.
📡 Подписаться · morana.log
🌐 morana-labs.com
Зернистый кадр с камеры — худший вход для распознавания лиц, и с него началась цепочка ложного ареста.
10 июня 2026 ACLU подал федеральный иск от имени Роберта Диллона из Флориды. По версии истца, полицейский прогнал размытые кадры наблюдения через систему распознавания лиц округа Пинеллас и получил «возможное совпадение» (possible match) с Диллоном. Дальше — ордер и арест: попытка выманить ребёнка у фастфуда в Jacksonville Beach, за 300+ миль от его дома.
Сам Диллон там никогда не был. Камеры считывания автономеров не зафиксировали его машину рядом в нужные дни.
Технически здесь ломается human-in-the-loop. На плохом входе распознавание выдаёт похожего человека и подаёт его как «возможный матч» — гипотезу для проверки. Оператор читает гипотезу как улику, и дальше похожее лицо тянет за собой ошибочное опознание свидетелем по фотолинейке.
Производитель системы в иске не назван. Обвинения с Диллона сняли, запись об аресте стёрли — но иск идёт, и по данным ACLU это уже более десятка таких арестов в США.
📡 Подписаться · morana.log
🌐 morana-labs.com
10 июня 2026 ACLU подал федеральный иск от имени Роберта Диллона из Флориды. По версии истца, полицейский прогнал размытые кадры наблюдения через систему распознавания лиц округа Пинеллас и получил «возможное совпадение» (possible match) с Диллоном. Дальше — ордер и арест: попытка выманить ребёнка у фастфуда в Jacksonville Beach, за 300+ миль от его дома.
Сам Диллон там никогда не был. Камеры считывания автономеров не зафиксировали его машину рядом в нужные дни.
Технически здесь ломается human-in-the-loop. На плохом входе распознавание выдаёт похожего человека и подаёт его как «возможный матч» — гипотезу для проверки. Оператор читает гипотезу как улику, и дальше похожее лицо тянет за собой ошибочное опознание свидетелем по фотолинейке.
Производитель системы в иске не назван. Обвинения с Диллона сняли, запись об аресте стёрли — но иск идёт, и по данным ACLU это уже более десятка таких арестов в США.
📡 Подписаться · morana.log
🌐 morana-labs.com
ИИ-пилоты редко умирают от слабой модели. Куда чаще их топят пять вопросов, которые заказчик не задал до подписания. Вот они — включая нас: услышите в ответе туман, разворачивайтесь.
1. Чем меряете успех и кто считает метрику.
Цифру качества должен считать тот, у кого нет интереса её приукрасить. Когда точность называет сам исполнитель, а сверить не с чем, на проде вас ждёт красивый дашборд без всякой связи с цехом. Ответ «модель выдаёт 98%» без слова о выборке и о том, кто проверял, — первый звоночек.
2. Кому принадлежит то, за что вы платите.
Пилот создаёт два актива: размеченные данные (то, на чём учится модель) и саму обученную модель. Уточните до договора, в чьей они собственности и что вы заберёте, если разойдётесь с подрядчиком. Частый сценарий: и данные, и модель остаются у исполнителя, при разрыве вы начинаете с нуля — хотя платили именно за них.
3. Совпадают ли условия демо и прода.
На стенде чистый свет, активное охлаждение, оператор рядом — модель показывает 99%. В цеху пыль садится на объектив, свет мигает, конвейер трясёт, чип в закрытом корпусе уходит в троттлинг через пару минут — и точность плывёт. Спросите прямо, в каком корпусе и при каком освещении гоняли тесты. Ответ «в лаборатории» означает, что боевых условий модель ещё не видела.
4. Что происходит в секунду ошибки модели.
Любая модель ошибается. Весь вопрос в том, что стоит за этой секундой: человек в контуре, фолбэк, порог уверенности — или линия молча встаёт и едет брак, пока никто не смотрит. Система без плана на ошибку опаснее, чем её отсутствие: ей доверяют.
5. Сколько стоит эксплуатация, не только внедрение.
Переобучение под новую партию, хранение, поддержка, замена железа через два года складываются в TCO, который тише и дороже самого инференса. Подрядчик, который называет цену внедрения и молчит про эксплуатацию, продаёт вам первый год и свою спокойную совесть.
Хороший подрядчик ответит на все пять до денег и без тумана. Мутный поплывёт уже на втором.
📡 Подписаться · morana.log
🌐 morana-labs.com
1. Чем меряете успех и кто считает метрику.
Цифру качества должен считать тот, у кого нет интереса её приукрасить. Когда точность называет сам исполнитель, а сверить не с чем, на проде вас ждёт красивый дашборд без всякой связи с цехом. Ответ «модель выдаёт 98%» без слова о выборке и о том, кто проверял, — первый звоночек.
2. Кому принадлежит то, за что вы платите.
Пилот создаёт два актива: размеченные данные (то, на чём учится модель) и саму обученную модель. Уточните до договора, в чьей они собственности и что вы заберёте, если разойдётесь с подрядчиком. Частый сценарий: и данные, и модель остаются у исполнителя, при разрыве вы начинаете с нуля — хотя платили именно за них.
3. Совпадают ли условия демо и прода.
На стенде чистый свет, активное охлаждение, оператор рядом — модель показывает 99%. В цеху пыль садится на объектив, свет мигает, конвейер трясёт, чип в закрытом корпусе уходит в троттлинг через пару минут — и точность плывёт. Спросите прямо, в каком корпусе и при каком освещении гоняли тесты. Ответ «в лаборатории» означает, что боевых условий модель ещё не видела.
4. Что происходит в секунду ошибки модели.
Любая модель ошибается. Весь вопрос в том, что стоит за этой секундой: человек в контуре, фолбэк, порог уверенности — или линия молча встаёт и едет брак, пока никто не смотрит. Система без плана на ошибку опаснее, чем её отсутствие: ей доверяют.
5. Сколько стоит эксплуатация, не только внедрение.
Переобучение под новую партию, хранение, поддержка, замена железа через два года складываются в TCO, который тише и дороже самого инференса. Подрядчик, который называет цену внедрения и молчит про эксплуатацию, продаёт вам первый год и свою спокойную совесть.
Хороший подрядчик ответит на все пять до денег и без тумана. Мутный поплывёт уже на втором.
📡 Подписаться · morana.log
🌐 morana-labs.com
NVIDIA выложила открытые веса Nemotron 3 Ultra — около 550 млрд параметров всего, ~55 млрд активных, гибрид Mamba-2 и трансформера с MoE, формат
По индексу Artificial Analysis это сильнейшая открытая модель США — 47.7, заметно выше ближайших открытых американских моделей. По тому же индексу китайская открытая Kimi K2.6 идёт на 53.9, выше Nemotron. Метрика одного агрегатора, не абсолют, но направление показывает: верхушка открытого фронтира под on-prem сегодня преимущественно китайская.
Для тех, кто собирает стек импортозамещения на открытых весах, тут два слоя. Доступность весов — ещё не стоимость эксплуатации: 550 млрд параметров даже при 55 млрд активных требуют серьёзного железа под инференс. Скачать модель можно бесплатно, считать её в проде — отдельная статья бюджета, и она часто больше лицензионной экономии.
📡 Подписаться · morana.log
🌐 morana-labs.com
NVFP4. Лицензия коммерческая, веса на Hugging Face с начала июня, анонс на Computex 2026.По индексу Artificial Analysis это сильнейшая открытая модель США — 47.7, заметно выше ближайших открытых американских моделей. По тому же индексу китайская открытая Kimi K2.6 идёт на 53.9, выше Nemotron. Метрика одного агрегатора, не абсолют, но направление показывает: верхушка открытого фронтира под on-prem сегодня преимущественно китайская.
Для тех, кто собирает стек импортозамещения на открытых весах, тут два слоя. Доступность весов — ещё не стоимость эксплуатации: 550 млрд параметров даже при 55 млрд активных требуют серьёзного железа под инференс. Скачать модель можно бесплатно, считать её в проде — отдельная статья бюджета, и она часто больше лицензионной экономии.
📡 Подписаться · morana.log
🌐 morana-labs.com
Чтобы вшить простой бэкдор в языковую модель, достаточно закинуть в обучающий датасет порядка 250 подготовленных документов — и это число почти не меняется от размера модели.
Совместная работа Anthropic, UK AI Security Institute и Института Тьюринга (arXiv 2510.07192, октябрь 2025). Проверяли узкий случай — DoS-бэкдор: по триггер-строке
Интересна механика. Сработал абсолютный счёт документов, а доля в корпусе оказалась ни при чём. 100 штук мало, 250–500 — стабильно. Диапазон моделей от 600M до 13B параметров, разброс по масштабу больше 20x; у самых крупных эти 250 документов составляют около 0.0002% обучающих токенов, и атака всё равно проходила. Чистых данных у больших моделей кратно больше — порог от этого не вырос.
Практический смысл для тех, кто файнтюнит на скрапленных данных и собирает RAG из открытых источников: интуиция «у нас такой массив, что пара сотен подложенных файлов в нём утонут» здесь не работает. Порог атаки измеряется в штуках документов, и размер чистого корпуса его не поднимает.
📡 Подписаться · morana.log
🌐 morana-labs.com
Совместная работа Anthropic, UK AI Security Institute и Института Тьюринга (arXiv 2510.07192, октябрь 2025). Проверяли узкий случай — DoS-бэкдор: по триггер-строке
<SUDO> модель начинает выдавать бессвязный мусор. Не кража данных, не джейлбрейк, не скрытая логика — только отказ в обслуживании по триггеру.Интересна механика. Сработал абсолютный счёт документов, а доля в корпусе оказалась ни при чём. 100 штук мало, 250–500 — стабильно. Диапазон моделей от 600M до 13B параметров, разброс по масштабу больше 20x; у самых крупных эти 250 документов составляют около 0.0002% обучающих токенов, и атака всё равно проходила. Чистых данных у больших моделей кратно больше — порог от этого не вырос.
Практический смысл для тех, кто файнтюнит на скрапленных данных и собирает RAG из открытых источников: интуиция «у нас такой массив, что пара сотен подложенных файлов в нём утонут» здесь не работает. Порог атаки измеряется в штуках документов, и размер чистого корпуса его не поднимает.
📡 Подписаться · morana.log
🌐 morana-labs.com
Банк России выпустил методические рекомендации по информационной безопасности ИИ на финрынке — первый системный документ регулятора именно про защиту ИИ-систем, а не про этику.
Документ от 16.06.2026 (№ 3-МР) систематизирует риски, разбирает тактики атак на ИИ-модели и меры защиты. Участникам рынка рекомендуют строить собственные модели угроз и политику ИБ под ИИ. Для критичных процессов с высоким риском — в частности платёжных операций — операцию должен подтверждать сотрудник. Статус рекомендательный.
Контекст, в котором это читается. Сбербанк заявляет, что практически все кредитные решения по физлицам уже принимаются с участием ИИ-моделей. Когда розничный скоринг почти целиком уходит в модель, слово «рекомендательный» на бумаге и в надзорной практике весит по-разному.
Прямой нормы пока нет, но вопросы про модель угроз, валидацию и поведение системы под атакой задаст проверка, и отговорка «это же просто рекомендации» там не сработает. Мой тезис, не позиция регулятора: дрейф моделей и устойчивость к атакам в масштабе банковской розницы — это уже системный риск, и ЦБ начал огораживать его с того конца, где у него есть инструменты, — с ИБ.
📡 Подписаться · morana.log
🌐 morana-labs.com
Документ от 16.06.2026 (№ 3-МР) систематизирует риски, разбирает тактики атак на ИИ-модели и меры защиты. Участникам рынка рекомендуют строить собственные модели угроз и политику ИБ под ИИ. Для критичных процессов с высоким риском — в частности платёжных операций — операцию должен подтверждать сотрудник. Статус рекомендательный.
Контекст, в котором это читается. Сбербанк заявляет, что практически все кредитные решения по физлицам уже принимаются с участием ИИ-моделей. Когда розничный скоринг почти целиком уходит в модель, слово «рекомендательный» на бумаге и в надзорной практике весит по-разному.
Прямой нормы пока нет, но вопросы про модель угроз, валидацию и поведение системы под атакой задаст проверка, и отговорка «это же просто рекомендации» там не сработает. Мой тезис, не позиция регулятора: дрейф моделей и устойчивость к атакам в масштабе банковской розницы — это уже системный риск, и ЦБ начал огораживать его с того конца, где у него есть инструменты, — с ИБ.
📡 Подписаться · morana.log
🌐 morana-labs.com
Aurora возит коммерческий груз без водителя по Техасу — и отчёт за Q1 2026 показывает цену этого пробега.
Операционный убыток за квартал — порядка $244 млн, операционного кэша сожжено около $159 млн. Фур на дорогах при этом единицы: точное число на конец квартала компания не раскрывает. Гайденс — выйти из года с 200+ беспилотными траками. Это таргет, не свершившийся факт.
Разрыв «работает на демо» и «работает как серия» здесь считается в деньгах. От единиц машин до двух сотен за три квартала — десятки крат флота, и каждый трак в этой арифметике жжёт кэш, пока сеть не наберёт плотность. Пробега накоплено много: только в апреле беспилотный пробег превысил 370 тыс. миль со 100% on-time.
Ключевая оговорка по физике. Все рабочие коридоры Aurora лежат в тёплом Sun Belt: Даллас–Хьюстон, Форт-Уэрт–Эль-Пасо, Ларедо–Даллас. Зона эксплуатации (ODD) откалибрована под предсказуемую погоду. Цель в 200 фур держится на допущении, что метрики повторятся за пределами Sun Belt — в дожде, тумане и снеге, где сенсорная картина и тормозной путь живут иначе. В кабине маршрута McLane пока сидит наблюдатель: страховка ровно на время этого допущения.
📡 Подписаться · morana.log
🌐 morana-labs.com
Операционный убыток за квартал — порядка $244 млн, операционного кэша сожжено около $159 млн. Фур на дорогах при этом единицы: точное число на конец квартала компания не раскрывает. Гайденс — выйти из года с 200+ беспилотными траками. Это таргет, не свершившийся факт.
Разрыв «работает на демо» и «работает как серия» здесь считается в деньгах. От единиц машин до двух сотен за три квартала — десятки крат флота, и каждый трак в этой арифметике жжёт кэш, пока сеть не наберёт плотность. Пробега накоплено много: только в апреле беспилотный пробег превысил 370 тыс. миль со 100% on-time.
Ключевая оговорка по физике. Все рабочие коридоры Aurora лежат в тёплом Sun Belt: Даллас–Хьюстон, Форт-Уэрт–Эль-Пасо, Ларедо–Даллас. Зона эксплуатации (ODD) откалибрована под предсказуемую погоду. Цель в 200 фур держится на допущении, что метрики повторятся за пределами Sun Belt — в дожде, тумане и снеге, где сенсорная картина и тормозной путь живут иначе. В кабине маршрута McLane пока сидит наблюдатель: страховка ровно на время этого допущения.
📡 Подписаться · morana.log
🌐 morana-labs.com
SearchLeak в Microsoft 365 Copilot Enterprise — дыра не в модели. Это три классические веб-уязвимости, сшитые в цепочку под ИИ-фичей. Varonis раскрыл её как
Цепочка такая. Параметр
Один клик по легитимной ссылке Microsoft — и Copilot выгребает то, что индексирует: коды из писем, тексты переписки, встречи из календаря, файлы из SharePoint, утекающие через URL картинки. В дикой природе атаку не фиксировали, это PoC лаборатории.
SSRF как класс старше десяти лет, HTML-инъекция и race condition не моложе. ИИ-фича унаследовала весь веб-стек под собой со всеми его дырами, а санитайзер после рендера ловит пустоту — Varonis прямо пишет, что чистить надо на этапе рендеринга. Тот же механизм был в прошлых утечках через доверенный allowlisted-канал: модель тут курьер, а дыра живёт в инфраструктуре вокруг неё.
📡 Подписаться · morana.log
🌐 morana-labs.com
CVE-2026-42824, Microsoft присвоил критическую серьёзность и закрыл на бэкенде в середине июня 2026.Цепочка такая. Параметр
q в URL поиска Copilot долетает до движка и исполняется моделью как инструкция — prompt injection прямо из ссылки. Затем HTML-инъекция через race condition: тег <img> рендерится на стриминге раньше, чем срабатывает санитайзер. Замыкает SSRF через image-search Bing из allowlist CSP — серверный фетч уходит на адрес атакующего.Один клик по легитимной ссылке Microsoft — и Copilot выгребает то, что индексирует: коды из писем, тексты переписки, встречи из календаря, файлы из SharePoint, утекающие через URL картинки. В дикой природе атаку не фиксировали, это PoC лаборатории.
SSRF как класс старше десяти лет, HTML-инъекция и race condition не моложе. ИИ-фича унаследовала весь веб-стек под собой со всеми его дырами, а санитайзер после рендера ловит пустоту — Varonis прямо пишет, что чистить надо на этапе рендеринга. Тот же механизм был в прошлых утечках через доверенный allowlisted-канал: модель тут курьер, а дыра живёт в инфраструктуре вокруг неё.
📡 Подписаться · morana.log
🌐 morana-labs.com
Чат-бот Air Canada выдумал клиенту скидку — трибунал обязал авиакомпанию вернуть разницу.
В ноябре 2022 у канадца Джейка Моффата умерла бабушка. Бот на сайте авиакомпании посоветовал: купите билет сейчас, скидку по «тарифу утраты» — спецтарифу для летящих на похороны — оформите задним числом в течение 90 дней. Реальные правила прямо запрещали возврат задним числом, причём на той самой странице, куда бот сам дал ссылку. В скидке отказали.
Трибунал по гражданским спорам Британской Колумбии (Moffatt v. Air Canada, февраль 2024) присудил клиенту 812 канадских долларов и 2 цента. Авиакомпания защищалась тем, что не отвечает за информацию от своих агентов и представителей — включая чат-бота. Трибунал назвал этот аргумент примечательным: из него выходит, будто бот — отдельное юрлицо. В решении прямо сказано: компания отвечает за всю информацию на своём сайте, со статичной она страницы или из чата.
По сообщениям СМИ, вскоре после решения чат-бот с сайта Air Canada пропал.
📡 Подписаться · morana.log
🌐 morana-labs.com
В ноябре 2022 у канадца Джейка Моффата умерла бабушка. Бот на сайте авиакомпании посоветовал: купите билет сейчас, скидку по «тарифу утраты» — спецтарифу для летящих на похороны — оформите задним числом в течение 90 дней. Реальные правила прямо запрещали возврат задним числом, причём на той самой странице, куда бот сам дал ссылку. В скидке отказали.
Трибунал по гражданским спорам Британской Колумбии (Moffatt v. Air Canada, февраль 2024) присудил клиенту 812 канадских долларов и 2 цента. Авиакомпания защищалась тем, что не отвечает за информацию от своих агентов и представителей — включая чат-бота. Трибунал назвал этот аргумент примечательным: из него выходит, будто бот — отдельное юрлицо. В решении прямо сказано: компания отвечает за всю информацию на своём сайте, со статичной она страницы или из чата.
По сообщениям СМИ, вскоре после решения чат-бот с сайта Air Canada пропал.
📡 Подписаться · morana.log
🌐 morana-labs.com
😁2🤣1
Из законопроекта об ИИ убрали требование учить модели только на российских данных и только силами граждан РФ. Мартовская редакция это требовала; 22 июня правкомиссия одобрила переписанный вариант уже без него.
Из 21 статьи исключили восемь. Документ переименовали из «Об основах госрегулирования» в «О поддержке технологий ИИ» — сменилась и вывеска, и смысл. Обязательную маркировку ИИ-контента сняли: пользователям соцсетей дадут лишь техническую возможность пометить материал самим. Добровольная маркировка, лежащая на пользователе, на практике почти не появляется — это уже наша оценка, в тексте такой нормы нет.
Рабочего осталось две категории моделей. Суверенная — только российское юрлицо, полная воспроизводимость, локальная инфраструктура на всех этапах. Национальная — допускает иностранные компоненты и открытые лицензии. Запрета на зарубежные модели в тексте нет.
Требование «только русские данные, только граждане РФ» было технически неисполнимым: обучать конкурентную модель в таком вакууме не на чем, и бизнес продавил смягчение за три месяца. Часть положений вступает с 1 сентября 2026, основные — с 1 марта 2027.
📡 Подписаться · morana.log
🌐 morana-labs.com
Из 21 статьи исключили восемь. Документ переименовали из «Об основах госрегулирования» в «О поддержке технологий ИИ» — сменилась и вывеска, и смысл. Обязательную маркировку ИИ-контента сняли: пользователям соцсетей дадут лишь техническую возможность пометить материал самим. Добровольная маркировка, лежащая на пользователе, на практике почти не появляется — это уже наша оценка, в тексте такой нормы нет.
Рабочего осталось две категории моделей. Суверенная — только российское юрлицо, полная воспроизводимость, локальная инфраструктура на всех этапах. Национальная — допускает иностранные компоненты и открытые лицензии. Запрета на зарубежные модели в тексте нет.
Требование «только русские данные, только граждане РФ» было технически неисполнимым: обучать конкурентную модель в таком вакууме не на чем, и бизнес продавил смягчение за три месяца. Часть положений вступает с 1 сентября 2026, основные — с 1 марта 2027.
📡 Подписаться · morana.log
🌐 morana-labs.com
👍1
93% штрафов за нарушения ПДД в России в 2024 году оформила машина — 236,2 млн постановлений пришли с камер (статистика МВД).
Как это устроено в Петербурге. Неоплаченную парковку ловят «парконы» — машины с камерами, объезжающие платную зону примерно раз в 15 минут. Комплекс находит в кадре номерную пластину, читает символы и сверяет номер с базой оплат — классическое компьютерное зрение. Штраф уходит после двойной фиксации, когда паркон застал машину на месте дважды: 3000 ₽ без скидки за быструю оплату, и Смольный уже внёс проект повышения до 5000. Всего в городе, по данным Комтранса на конец 2025-го, около тысячи дорожных комплексов и 76 парковочных, с 2026-го город арендует ещё 350.
Нейросеть иногда ошибается, поэтому спорные кадры пересматривает человек. Когда связка ломается, получаются задокументированные курьёзы: в Москве штраф выписывали за тень от машины, «пересёкшую» сплошную, и за превышение скорости автомобилем, который ехал на платформе эвакуатора. Обе ошибки ГИБДД признала и отменила.
📡 Подписаться · morana.log
🌐 morana-labs.com
Как это устроено в Петербурге. Неоплаченную парковку ловят «парконы» — машины с камерами, объезжающие платную зону примерно раз в 15 минут. Комплекс находит в кадре номерную пластину, читает символы и сверяет номер с базой оплат — классическое компьютерное зрение. Штраф уходит после двойной фиксации, когда паркон застал машину на месте дважды: 3000 ₽ без скидки за быструю оплату, и Смольный уже внёс проект повышения до 5000. Всего в городе, по данным Комтранса на конец 2025-го, около тысячи дорожных комплексов и 76 парковочных, с 2026-го город арендует ещё 350.
Нейросеть иногда ошибается, поэтому спорные кадры пересматривает человек. Когда связка ломается, получаются задокументированные курьёзы: в Москве штраф выписывали за тень от машины, «пересёкшую» сплошную, и за превышение скорости автомобилем, который ехал на платформе эвакуатора. Обе ошибки ГИБДД признала и отменила.
📡 Подписаться · morana.log
🌐 morana-labs.com
🤬1
Половина того, что вендоры продают под вывеской «агентный ИИ», — это старый чатбот, RPA или ассистент с переклеенной этикеткой. У явления есть имя: agent washing. Термин ввёл Gartner, оценив, что из тысяч вендоров с заявкой на агентность по-настоящему агентных — около 130.
Как отличить агента от обёртки на проде, по четырём вещам.
Автономность — система сама выбирает следующий шаг, без человека на кнопке в каждом сценарии.
Планирование — разбивает цель на подзадачи и меняет план, когда промежуточный результат не сошёлся.
Инструменты — реально дёргает API, базы, поиск, а не пересказывает их своими словами.
Петля обратной связи — видит итог своего действия и корректирует следующее.
Уберите хотя бы одно из четырёх — автономной работы под сложную бизнес-цель не выйдет, останется демо.
Тот же Gartner прогнозирует, что свыше 40% проектов агентного ИИ свернут к концу 2027-го — из-за роста затрат, неясной ценности и слабого риск-контроля. Большая часть кейсов на рынке сейчас — ранние эксперименты, и многим из них агентность вообще не нужна: обычная автоматизация дешевле и предсказуемее.
📡 Подписаться · morana.log
🌐 morana-labs.com
Как отличить агента от обёртки на проде, по четырём вещам.
Автономность — система сама выбирает следующий шаг, без человека на кнопке в каждом сценарии.
Планирование — разбивает цель на подзадачи и меняет план, когда промежуточный результат не сошёлся.
Инструменты — реально дёргает API, базы, поиск, а не пересказывает их своими словами.
Петля обратной связи — видит итог своего действия и корректирует следующее.
Уберите хотя бы одно из четырёх — автономной работы под сложную бизнес-цель не выйдет, останется демо.
Тот же Gartner прогнозирует, что свыше 40% проектов агентного ИИ свернут к концу 2027-го — из-за роста затрат, неясной ценности и слабого риск-контроля. Большая часть кейсов на рынке сейчас — ранние эксперименты, и многим из них агентность вообще не нужна: обычная автоматизация дешевле и предсказуемее.
📡 Подписаться · morana.log
🌐 morana-labs.com
Mistral сделала суверенность конфигурацией поставки, а не строчкой в презентации. OCR 4 (вышел 23 июня) разворачивается одним контейнером целиком на инфраструктуре клиента — документы обрабатываются внутри периметра и наружу не уходят. Для банка и медицины это снимает главный стоп-фактор: бумаги с персональными и платёжными данными больше не обязаны лететь в чужое облако ради распознавания.
Под капотом — структурно-осознанный document AI: bounding boxes (где именно на странице лежит текст), разметка блоков на таблицы, формулы и подписи, confidence на страницу и слово, около 170 языков. На выходе — готовые входы для RAG-конвейера. Вендор показывает SOTA на публичных OCR-бенчмарках по собственным прогонам — проверять всё равно на своих документах.
Где осторожнее с экономикой. Опубликованные цены порядка $2–5 за 1000 страниц — это облачные тарифы. Стоимость on-prem не публикуется, она идёт через enterprise-sales, и реальный TCO суверенного развёртывания — это лицензия плюс своё железо с GPU. Тот же мотив, что у локализации данных: периметр стоит денег, и считать его надо отдельно от облачного прайс-листа.
📡 Подписаться · morana.log
🌐 morana-labs.com
Под капотом — структурно-осознанный document AI: bounding boxes (где именно на странице лежит текст), разметка блоков на таблицы, формулы и подписи, confidence на страницу и слово, около 170 языков. На выходе — готовые входы для RAG-конвейера. Вендор показывает SOTA на публичных OCR-бенчмарках по собственным прогонам — проверять всё равно на своих документах.
Где осторожнее с экономикой. Опубликованные цены порядка $2–5 за 1000 страниц — это облачные тарифы. Стоимость on-prem не публикуется, она идёт через enterprise-sales, и реальный TCO суверенного развёртывания — это лицензия плюс своё железо с GPU. Тот же мотив, что у локализации данных: периметр стоит денег, и считать его надо отдельно от облачного прайс-листа.
📡 Подписаться · morana.log
🌐 morana-labs.com
👍1