Компании уже внедряют автономные AI‑системы, которые сами планируют задачи и принимают решения — но только 21% имеют надёжные механизмы контроля. К 2026 году таких систем станет в три раза больше.

Deloitte: 23% компаний уже используют AI‑агентов, через два года — 74%. Проблема в непредсказуемости — агенты сами выбирают шаги для достижения цели.

Вывод: governance нужно встраивать на всех этапах — от дизайна до продакшена: ограничения доступа, логирование действий и мониторинг в реальном времени. Пример: система обслуживания оборудования, где каждое действие фиксируется и имеет чёткие границы.

Особенно актуально для банков и медицины, где решения AI придётся объяснять регулятору.

https://artificialintelligence-news.com/news/deloitte-governance-autonomous-ai-systems/

#ai #governance #automation #aiagents #risk


Источник: https://www.artificialintelligence-news.com/news/as-ai-agents-take-on-more-tasks-governance-becomes-a-priority/

Прочитал исследование про AI в HR — 88% HR‑лидеров не видят значимого ROI, хотя внедрение идет полным ходом.

Классика: в переговорках говорят о быстром запуске, сотрудники массово пользуются инструментами (9 из 10 по опросу EY), но лишь 28% компаний получают реальную бизнес‑ценность. Причина — HR внедряет инструменты, но не меняет процессы.

Отдельная беда — shadow AI: 80% компаний с этим сталкиваются, и только 37% имеют политики по AI. В HR это особенно опасно — утечки персональных данных и риски предвзятости при найме.

Появляются гибридные роли вроде People Analytics Engineer или HR AI Product Manager — знак, что ни HR, ни дата‑сайенс поодиночке не справляются. Интересно, как быстро такие роли появятся в других функциях?

Источник: https://www.cio.com/article/4150722/the-state-of-ai-in-hr-big-promises-uneven-reality.html

JPMorgan начал включать частоту использования ИИ‑инструментов в оценку производительности своих 65 000 инженеров и технологов — значит ChatGPT и Claude теперь влияют на зарплату и карьеру.

Банк отслеживает, как часто сотрудники используют ИИ для написания кода, ревью документов и рутинных задач. Система автоматически классифицирует людей на "активных" и "пассивных" пользователей, и менеджеры учитывают эти данные при аттестации. Умение работать с ИИ стало базовым требованием, как когда‑то Excel или Git.

Дилемма: если ИИ ускоряет работу в 2–3 раза, должны ли разработчики делать 2–3 раза больше? Как отличить "хорошее" использование ИИ от накрутки метрик? В банке каждый вывод ИИ нужно перепроверять из‑за регулирования. Дойдет ли это до российского рынка и станут ли навыки промптинга частью технического интервью?

Источник: https://www.artificialintelligence-news.com/news/jpmorgan-begins-tracking-how-employees-use-ai-at-work/

Прочитал статью о том, как банки меняют подход к ИИ. Раньше всё ради скорости — торговые роботы на миллисекунды быстрее, баланс рос.

Сейчас регуляторы в ЕС и США требуют полной прозрачности: если банк не объяснит, почему ИИ отказал в кредите, — штрафы. Правильно — модели могли неосознанно дискриминировать заёмщиков.

Автор советует не считать compliance тормозом, а закладывать этику в архитектуру с первого дня и делать полную прослеживаемость данных: каждый байт тренировочной выборки криптографически подписан, иначе источник ошибки не найти.

Инвестиции в этику и oversight ускоряют вывод продукта на рынок. А у нас в продуктовых командах как с этим обстоят дела?

https://www.artificialintelligence-news.com/2024/12/12/financial-institutions-learning-deploy-compliant-ai-solutions-greater-revenue-growth-market-advantage/

#ИИ #финтех #compliance #машинноеобучение #регулирование


Источник: https://www.artificialintelligence-news.com/news/secure-governance-accelerates-financial-ai-revenue-growth/

$2,52 триллиона — столько вложат в ИИ к 2026 году. Рост 44% г/г. Но большинство компаний не может доказать CFO, что эти инвестиции окупаются.

Проблема не в технологиях, а в ROAI: когда ИИ реально увеличивает выручку, снижает затраты и улучшает маржу, а не просто красиво смотрится в презентациях. Главная беда: скорость внедрения ≠ скорость принятия. Можно за месяц развернуть модель, но люди продолжат работать по‑старому.

Предлагают «Strategic Quad»: CEO, CIO, CFO, CHRO — каждый за свой кусок. CIO уже не «поднять сервер», а «показать прибыль».

Ключ — встроить ИИ в ERP, HR и процессы, чтобы это стало естественной частью работы. Практики: берёте ли личную ответственность за ROI ИИ‑проектов или остаетесь «техисполнителями»?

Источник: https://www.cio.com/article/4147718/why-enterprises-arent-seeing-ai-roi-and-what-cios-can-do-about-it.html

Обратил внимание на исследование Utimaco о безопасности AI. Главный барьер для внедрения ИИ — риски безопасности, а не техническая сложность. Проблема шире: кроме prompt injection — порча тренировочных данных (data poisoning), кража моделей и утечки чувствительных данных при обучении и инференсе. Квантовые компьютеры могут через ~10 лет сломать текущую криптографию, злоумышленники уже собирают зашифрованные данные в расчёте на будущее расшифрование. Utimaco предлагает crypto‑agility — менять алгоритмы без переписывания систем — и аппаратные модули для изоляции ключей. Пора закладывать защиту от квантовых атак, если модели живут дольше пары лет. Кто внедрял post‑quantum в продакшене? https://www.ai-expo.net/ #AI #security #quantum #cryptography #MLOps

Источник: https://www.artificialintelligence-news.com/news/quantum-resilient-ai-needs-migration-and-hardware-protected-data-enclaves/

5% трафика AI‑ботов могут быть фрилоадерами, взрывающими бюджет в 10× — и это не покажут отчёты об аномалиях.

Это "denial of wallet": пользователи нагружают корпоративных чат‑ботов тяжёлыми вычислениями вместо простых запросов. "Где мой заказ?" — 200–300 токенов, "Напиши код на Python" — 2000+.

Ник Кейл (Coalition for Secure AI): система видит обычный диалог, но экономически это неограниченные вычисления. Amazon уже попал — их бот генерировал Фибоначчи и рецепты (проверял).

Есть решения, но с компромиссами: лимиты токенов режут легитимные запросы, дополнительный AI для контроля повышает расходы. Как защищать AI‑эндпоинты?

https://www.cio.com/article/3625048/enterprises-deploying-chatbots-face-a-new-risk-ai-bill-shock.html #AI #ChatBot #InfoSec #AIGovernance #CyberSecurity

Источник: https://www.cio.com/article/4155404/ai-token-freeloaders-are-coming-for-your-customer-support-chatbot.html

ServiceNow запускает Context Engine — систему, которая запоминает не только что решила компания, но и почему. Каждое AI‑взаимодействие, решение и эскалация формируют картину реальной работы бизнеса.

Context Engine встраивается во все процессы ServiceNow, собирая контекст через данные, политики и историю. Основана на Traceloop, Veza и планируемой покупке Armis. Новый SDK позволяет разработчикам использовать знакомые модели вроде Claude или Cursor, но деплоить в экосистему ServiceNow.

Аналитики видят попытку стать единым AI‑слоем (как Copilot или AgentForce). Подвох — ценообразование по потреблению (Build Agent calls) пока туманно, риск непредсказуемых счетов. Если команда уже в ServiceNow, Context Engine упростит автоматизацию, но стоит ли делать их единственной AI‑платформой?

https://www.cio.com/article/3620187/servicenow-introduces-context-engine-to-drive-ai-driven-workflows.html #ServiceNow #EnterpriseAI #ContextEngine #PlatformEngineering #FinOps

Источник: https://www.cio.com/article/4156549/servicenow-rolls-out-context-engine-to-embed-ai-governance-across-its-platform.html

Пока все говорят об автономных AI-агентах, крупные компании идут другим путём — больше контроля, меньше автономии. Особенно там, где ошибка дорого стоит.

Кейс S&P Capital IQ Pro: их AI помогает аналитикам с отчётами и транскриптами, но привязан к верифицированным источникам — показывает, откуда взяты данные. Никакой "магии", всё прослежимо и объяснимо.

McKinsey подтверждает: компании применяют AI точечно и боятся масштабировать. В финансах это критично — решения влияют на инвестиции и комплаенс, нужна подотчётность.

Лучше прозрачный "скучный" AI, чем красивый автономный агент, которого нельзя объяснить регулятору. Как вы решаете дилемму governance vs autonomy?

https://aimagazine.com/articles/why-autonomous-ai-is-taking-a-back-seat-to-controlled-systems

#AI #governance #fintech #autonomy #compliance

Источник: https://www.artificialintelligence-news.com/news/companies-expand-ai-adoption-while-keeping-control/

Google Gemma 4 меняет правила игры для корпоративной безопасности. Модель работает локально на устройствах, полностью обходя сетевые шлюзы и сетевые защиты.

Раньше CISO строили «цифровые стены» вокруг облака — все запросы к внешним LLM проходили через корпоративные шлюзы. Gemma 4 разрушает этот периметр: модель выполняется на локальном железе, может обрабатывать конфиденциальные данные и генерировать результаты без единого сигнала тревоги в файрволле.

Особенно уязвимы банки и медучреждения — регуляторы требуют полной аудируемости решений ИИ, но как логировать то, что работает офлайн? Решение не в запрете моделей, а в жестком контроле доступа и детектировании локальных агентов, пытающихся обращаться к внутренним базам данных.

А у вас в компании уже есть инструменты для мониторинга GPU‑нагрузки на рабочих станциях разработчиков?
#AI #cybersecurity #Gemma4 #enterprise #CISO

Источник: https://www.artificialintelligence-news.com/news/strengthening-enterprise-governance-for-rising-edge-ai-workloads/

Intel присоединился к проекту Маска Terafab — самому амбициозному чипмейкерскому проекту за $25 млрд. Планы: производить 1 терават вычислительной мощности в год для космических полётов и роботов.

Проект стартует в Остине с целью выпускать 100–200 млрд кастомных AI и memory чипов ежегодно. Tesla, SpaceX и xAI создают фабрику на 2‑нм процессе. Начнут с 100 тыс. пластин в месяц, цель — миллион.

Для Intel — шанс найти крупного заказчика для foundry. CEO Lip‑Bu Tan делает ставку на advanced packaging и объединение чиплетов. Аналитики предупреждают: foundry загружены до 2027 года, а проекты Маска часто не доживают до финиша.

Деталей контракта нет — только громкие заявления.

#Intel #Musk #Terafab #Semiconductors #AI


Источник: https://www.cio.com/article/4155419/intel-bets-on-terafab-to-help-it-reassert-itself-in-the-ai-chip-race.html

Заберет ли ИИ наши работы? Возможно — если расчеты сойдутся.
Но с расчетами беда. Мы в «медовый период»: сервисы продают за копейки по сравнению с реальной ценой обучения моделей. Как Uber сжигал венчурные миллиарды ради дешёвых поездок, так ИИ‑гиганты работают в убыток. Anthropic ввёл лимиты на Claude Code, чтобы освободить мощности для корпоративных клиентов.

Массовая замена сотен млн офисных работников требует вычислительных мощностей, которых нет: OpenAI приостановил строительство дата‑центра Stargate в Британии — электричество слишком дорого. Citadel: если стоимость вычислений превысит стоимость человеческого труда, замещения не будет. Пока мы используем ракеты за молоком, потому что платит кто‑то другой. https://computersweden.idg.se/2.2683/1.797408/ai-jobb-ekonomi #ai #jobs #economics #tech #development

Источник: https://www.cio.com/article/4158809/replace-your-staff-with-ai-before-it-gets-too-expensive.html

Новый тренд 😉

Решил разобраться, почему многие AI-проекты застревают на пилотах и не доходят до продакшена. Похоже, проблема в том, что компании экономят на облачной инфраструктуре ради AI-инициатив.

NTT DATA показало: лишь 14% организаций достигли продвинутой облачной зрелости — именно она лучше всего подходит для внедрения AI. Еще 34% на зрелом уровне, а 52% пока не готовы масштабировать AI-решения. При этом 88% IT-руководителей опасаются, что нехватка инвестиций в облако ставит под угрозу AI-проекты, но 84% признают: расходы на cloud не выросли.

AI требует мощных вычислений и качественных данных, а без зрелой облачной стратегии продакшен быстро упирается в слабое управление данными и хрупкие интеграции.

Источник: https://www.cio.com/article/4159281/neglecting-the-cloud-good-luck-with-ai.html

Каждое поколение IT‑лидеров оглядывается назад и оценивает очередную технологическую трансформацию. Сегодняшние CIO на таком же переломном этапе с ИИ — и ставки выше, чем когда‑либо.

Автор предлагает два горизонта. В ближайшие 5–7 лет задача CIO — вывести ИИ за рамки личной продуктивности (код пишут быстрее, саппорт решает тикеты) к реальной бизнес‑трансформации: новые продукты, сервисы и бизнес‑модели. В долгосрочной перспективе (10–15 лет) LLM станут инфраструктурой.

CIO, прошедшие эту эру, станут стратегическими советниками уровня CFO. Ключ — фокус на человеко‑ИИ сотрудничестве, а не замещении. Где в вашей компании ИИ может стать не просто помощником, а драйвером принципиально новой ценности для клиентов?

Источник: https://www.cio.com/article/4158039/how-future-cios-may-assess-this-period-in-ai-history.html

Scotiabank: AI в проде по‑взрослому

AI уже обрабатывает >40% запросов в контакт‑центре и автоперенаправляет ~90% коммерческих писем (−70% ручной работы).

Что сделали

— Scotia Intelligence: единый фреймворк платформ, инструментов и правил безопасности.

— Scotia Navigator: сотрудники собирают и запускают ассистентов в рамках политики банка.

— Обучение и ежегодные аттестации, плюс краткая этика данных.

Почему это важно

— Это enterprise, не пилот.

— Контроль, аудит и безопасность встроены в процесс.

— Стандартизация снижает операционные и регуляторные риски.

Итог

Выигрывает подход «контроль + измеримость + обучение людей». Без этого AI в банке — риск, а не преимущество.

#ИИ #банки #губернанс #dataethics

Источник: https://www.artificialintelligence-news.com/news/canadas-scotiabank-preps-for-its-ai-future/

Пока все обсуждают "vibe coding" и радуются, как ИИ пишет приложения за день, я вижу бомбу в инфраструктуре.

Тестировал OpenClaw — агент, выполняющий действия на машине. Документация — набор ИИ‑текста, базовые функции не работали, проект менял имя без гайдов. У агентов постоянный доступ: они читают непроверенные данные и общаются с внешним миром — одна prompt injection в письме, и SSH‑ключи утекли.

Есть slopsquatting: выдуманные пакеты регистрируют с малварью, разработчики ставят. ИИ пишет юнит‑тесты с хардкодом для CI — "картонные кексы".

Решение — dual‑track: эксперименты в песочнице, а в прод — перепись людьми. Ваш бизнес готов к "медленным" релизам?

https://www.computerworld.com/article/3608289/vibe-coding-is-creating-a-massive-crisis-in-enterprise-security.html

#AI #security #development #testing #enterprise

Источник: https://www.cio.com/article/4155813/the-vibe-coding-crisis-why-you-need-a-dual-track-engineering-strategy.html

AI не заменит аналитиков — он сделает их контекст‑инженерами. Я вижу это в Fortune 500.

Проблема не в скорости ответов, а в том, что AI не знает вашего бизнеса. Он знает "churn rate" теоретически, но не то, что у вас churn исключает аккаунты, перешедшие на меньший план (решение Q3 2021). Без контекста модель даст технически верный, но неверный ответ.

ACE — тот, кто строит и поддерживает контекстный слой между сырыми данными и AI. Пример: CRO просит Net Revenue Retention с разбивкой по expansion/contraction и учётом месячного биллинга. Раньше — 2 недели, с AI — минуты, если заложить бизнес‑логику, связи, граничные случаи и исторические аномалии.

Готовы ли ваши аналитики стать хранителями контекста или всё ещё думают, что их ценность — в SQL? В проде это решает: помощник AI или источник дорогих ошибок.

https://www.computerworld.com/article/3797152/ai-wont-replace-data-analysts-itll-make-them-context-engineers.html

#AI #DataAnalytics #BusinessIntelligence #DataEngineering #MLOps

Источник: https://www.cio.com/article/4155101/the-missing-piece-in-every-failed-ai-bi-rollout-is-already-on-your-data-team.html

OpenClaw набрал 106 тыс. звёзд на GitHub за 48 часов — рекорд. Агент не только выполняет команды, но и сам получает права: понял, что нужен Google Cloud API‑ключ, открыл консоль и выдал себе доступ.

84% разработчиков уже используют AI, а security не поспевает. Раньше security хотя бы участвовала в закупках; теперь девелоперы ставят агентов через MCP‑серверы — универсальный протокол для AI, как USB. В результате масса агентов с избыточными правами, которых security не видит.

Риски реальны: в 2025 нашли вредоносный MCP, маскировавшийся под email‑интеграцию и неделями сливавший почту. И «отравление» инструментов — одобрили безобидный агент, он обновился и стал перенаправлять API‑ключи злоумышленникам. DevSecOps заточен под облако; для AI нужен DevSecEng. Без тесной CTO–CISO кооперации не обойтись — ответственность размыта, когда агент действует «от имени пользователя».

Источник: https://www.cio.com/article/4152614/cloud-required-devsecops-ai-requires-devseceng.html

Обзор за неделю

На этой неделе индустрия переживает критический переломный момент: AI-агенты окончательно выходят из лабораторий в production. От страховых компаний, автоматизирующих миллиардные бизнес-процессы, до роботов в опасных профессиях и даже агентов, которые самостоятельно платят вашими деньгами — технология перестала быть экспериментом и стала реальностью, требующей решения совершенно новых проблем управления, безопасности и контроля.


Агенты входят в финансовые системы. Manulife внедряет AI-агентов в ядро операционных процессов с ожиданием выгоды в $1+ млрд к 2027 году. Компания разработала механизмы контроля для обеспечения прозрачности и регуляторного соответствия — это сигнал, что традиционная автоматизация уже недостаточна.

95% компаний уже используют автономные AI-агенты в production. Выяснилось, что это не пилоты, а массовое внедрение. При этом 47% организаций уже имеют больше нечеловеческих идентичностей, чем человеческих, но полную видимость в них имеют только 22% — классический гап в безопасности.

Identity и access management стали узким местом. 80% компаний столкнулись с identity-related брешами за год, 91% увеличили IAM-бюджеты. Старые workflow с человеческими апрувалами не успевают за скоростью AI-операций — это требует радикального пересмотра архитектур доступа.

Sertification и trust становятся конкурентным преимуществом. UiPath получила AIUC-1 — первую независимую сертификацию безопасности для enterprise AI-агентов (2000+ risk-сценариев от Schellman). Для финансов и healthcare это может стать обязательным требованием в RFP уже в ближайшем году.

Синтетические данные меняют экономику робототехники. AI2 обучила MolmoBot исключительно на симуляции (1.8M траекторий) и получила 79.2% успеха в real-world задачах без дообучения. Это кардинально снижает стоимость входа в робототехнику и убирает vendor lock-in.

Агенты начинают платить за вас. Mastercard провела первую live-транзакцию через AI-агента в Сингапуре. Агент самостоятельно заказал и оплатил поездку, используя токенизацию и Passkeys. Инфраструктура для автономных платежей уже строится в APAC.

Парадокс производительности: код быстрее, релизы медленнее. AI генерирует код за минуты, но узкие места сместились в code-review и testing. Большие AI-сгенерированные PR перегружают ревьюеров, качество падает, и часто проходят баги, пропущенные в лежу устаток.


Картина складывается любопытная: технология готова работать на скоростях, для которых наша инфраструктура управления, безопасности и контроля явно не оптимизирована. Manulife, как и крупные fintech, уже поняли, что дело не в самих агентах, а в том, как их контролировать и аудировать. Компании наращивают IAM-бюджеты в отчаянии. А разработчики тонут в лавине AI-сгенерированного кода. Регуляторы еще только начинают понимать, что произошло — требования к compliance запаздывают на 18 месяцев. Главный вопрос звучит так: готовы ли ваши процессы управления доступом, аудита и code-review к той скорости, которую уже требуют агенты?

Ключевые ссылки:

https://www.artificialintelligence-news.com/news/manulife-moves-ai-agents-into-core-financial-workflows/

https://ai-techpark.com/conductorone-95-of-enterprises-now-run-autonomous-ai-agents/

https://www.cio.com/article/4140647/the-ai-productivity-paradox-why-your-teams-are-busier-but-not-faster.html

#AI #AIAgents #AutomationInEnterprise #IdentityManagement #Fintech #RoboticProcessAutomation