Запилив новий відос про безпеку AI-агентів

У квітні AI-агент у Cursor за дев'ять секунд зніс компанії продакшн-базу. Разом із бекапами. Агент просто мав токен, широкі права й доступ до API.

А коли хакер є, все стає ще цікавіше. Йому навіть не обов'язково ламати твою машину. Іноді достатньо написати звичайний GitHub issue, який прочитає твій агент.

Фактично для моделі твій промпт, написаний issue, відповідь MCP-сервера чи завантажений SKILL.md - це просто текст в одному контексті. А виконує вона цей текст уже з твоїми правами.

У відео розбираю:

• як через issue або пошту перехоплюють керування Claude Code, Cursor, Codex і Gemini CLI;
• як AI вигадує неіснуючі пакети, а хакери заливають туди трояни;
• чому секрети можуть потрапити в модель, навіть якщо агент не відкривав .env;
• чому CLAUDE.md, Cursor Rules і другий агент-рев'ювер самі по собі не рятують;
• як виглядає нормальна модель загроз і що варто перевірити у своєму проєкті.

Для цього відео я перелопатив понад двадцять першоджерел 😅

Наприкінці залишив чеклист із восьми пунктів - можна поставити відео на паузу, зробити скріншот і пройтися по своєму сетапу.

Дивитися тут: https://youtu.be/QKRs6IHV-y4

Після перегляду напишіть у коментарях: ваш агент уже намагався залізти туди, куди його взагалі не просили? 👇

Youtube | Instagram

Друзі, є чудова новина :)

Сьогодні стартує нова група Agentic Engineering.
Кілька людей перенесли свої бронювання на жовтень - і звільнилось 4 місця.

Якщо ти давно приглядався до курсу - це той самий знак(!), що пора доєнуватись
можна зайти прямо зараз і не чекати наступний потік😉

Тебе чекає:
12 тижнів, 11 модулів за які ти вбудовуєш агентний воркфлоу у свою роботу

Розбираємо систему - власні скіли й субагенти під твій стек, повний цикл Spec-Driven Development, отримаєш результат на власному проєкті

Кому це буде корисно:

→ пишеш код щодня і хочеш перейти від AI-чатів до системного воркфлоу
→ вже юзаєш Claude Code / Cursor / Codex, але процес тримається на промтах
→ хочеш, щоб агент давав передбачуваний результат, бо зараз це як рулетка

Щоб приєднатись - заповни коротку анкету, і моя команда звʼяжеться з тобою: детально розповість про продукт, формати та умови навчання👇

https://agenticengineering.it.com/anketa

Місць 4. Група стартує сьогодні, матеріали теоретичних модулів відкриваються одразу, а перший ефір за 2 тижні - тож і вирішувати варто швиденько😎

А старі моделі часом не пишуть краще? 🤔

Я помітив, що читати тексти, які видає AI, стало складніше. Вони якісь менш складені, перевантажені менш природні чи бог його знає які

😅 І я це прям дуже добре помітив на своєму прикладі. У мене є бот, який присилає мені новинний дайджест. І останнім часом його читати стало просто неможливо

Трошки подосліджував цю тему і згадав, що багато текстів, які мені подобались, я свого часу генерував на Opus 4.5. На Opus 4.7, мені здається, вже почало ставати трохи гірше.

Знову ж таки - це чисто суб’єктивна думка, тому не засуджуйте 😄

👉 Спробував прогнати це через claude-opus-4-5, і шо я побачив, що текст легше читається і легше сприймається. Тобто мені реально більше подобається як стара модель пише 🙂

Попри те, що Opus 4.5 коштує стільки ж, скільки 5, у мене виникло логічне питання:

❓навіщо платити стільки ж за старішу модель?

Але по факту вона:
• швидше видає результат;
• суб’єктивно пише простіше;
• і результат мені банально більше подобається.

📌 Можливо це через новий tokenizer Anthropic, котрий з'явився починаючи з Claude 4.7 (доречі самі антропіки пишуть, що він генерує на 30% більше токенів тексту). Тобто теоретично, стара модель все ж таки буде коштувати трошки дешевше.

📌 Або можливо вотермарк, хоча Anthropic звісно пишуть, що він не повинен помітно впливати на якість або читабельність тексту (ще б вони стверждували щось інше)

Коротше цікаво те, що умовно «тупіша» або старіша модель може бути для конкретної задачі навіть кращою

Я ще спробував Haiku, але він мені вже здався доволі тупим 😄 Але тепер цікаво поганяти ще й GPT-шні моделі

Цікаво, чи помічали ви таке? Чи користуєтесь старішими / слабшими моделями для якихось конкретних задач?

Або, можливо, у вас є якісь свої skills, prompts або інші фішки, якими ви робите генеровані тексти більш адекватними та читабельними?

Youtube | Instagram

І знову я зі своїм воркшопом 🙂

Але перед цим - попереджаю і кажу чесно, канал і соцмережі в наступні тижні будуть трошки оживати, моя команда розширюється і зможуть мені допомогти взяти на себе більше обовʼязків, щоб я в свою чергу міг давати більше інфи. Буду тестувати нові формати тут, та буду вдячний за фідбек

Тепер до основної теми

Я вже провів кілька воркшопів з Agentic Engineering Workflow за останні місяці. Кожного разу після ефіру отримую повідомлення від тих, хто пропустив, а чи буде ще
Буде!

17 і 19 вересня проводжу ще один:

📅 17 вересня, 19:00 (Київ) - теорія: як агент працює під капотом, чому щось постійно забуває, чому вгадує, що з цим робити
📅 19 вересня, 13:00 (Київ) - практика: повний шлях фічі від ідеї до коду, показую на своєму робочому проекті, а ви паралельно - тренуєтесь кожний на своєму

Практику проходять усі учасники.

Також обовʼязково буде Q&A і в перший і в другий день. Можна (і треба) приходити зі своїми питаннями, проєктами, кейсами.
Запис буде! правда-правда 🙂 У кожного учасника буде доступ і одразу після зустрічі

Якщо ще не були - запрошую приєднатись😌

Деталі: https://agenticengineering.it.com/workflow-september17

Youtube | Instagram

Доречі, цього тижня буду проводити НОВИЙ воркшоп

Harness Engineering - 24 і 26 вересня.

Одна і та сама модель при використанні Cursor, Claude Code, Opencode буде давати різний результат. І різниця саме в харнесі. Харнес - це все, що навколо моделі: системний промпт, тули, пермішени, контекст, хуки, ретраї. Саме він вирішує, що модель бачить і що їй дозволено.

📅 Четвер, 24.09, 19:00 - харнес зсередини
Як воно працює під копотом, як замінити системний промпт. Чому правила в CLAUDE.md і AGENTS.md ігноруються, а хуки - ніколи. Практика: Напишемо свого агента, напилимо харнес, накинемо промпт, додамо два тули, свій хук.

📅 Субота, 26.09, 13:00 - Які є харнеси і фреймворки на ринку
DeepSeek Harness, Pi, Hermes, Eve, Flue - розбираємо і порівнюємо. Практика: свій харнес на Flue під задачу, на безкоштовній моделі.

Що отримаєет: Розуміння, як напилити свого агента, як працює харнес, які готові інструменти є для цього, записи і матеріали на платформі (на 6 місяців), сертифікат.

Воркшоп розрахований на розробників, інженерів, Tech Lead'ів, CTO. Практика проводиться на TypeScript, підписки будуть не потрібні.

Програма та опис на сайті переходьте
👉 Деталі й реєстрація

Anthropic випустила Opus 5.5


За словами Anthropic, на більшості задач вона працює на рівні Fable 5.1, а обходиться на 40% дешевше за Opus 5. Токени подешевшали до $4 і $20 відповідно.


📍 Фоллбеки на інші моделі


Opus 5.5 вийшла із запобіжниками, подібними до тих, що є у Fable 5.1. Запити з кібербезпеки здебільшого обробляє Opus 4.8. Запити з біології та з розробки frontier LLM передаються на Opus 5.

Звичайні пошук і виправлення багів у власному коді мають залишатись за Opus 5.5.

Для задач з кібербезпеки модель відкриватимуть рівнями через Cyber Verification Program, яку обіцяють розширити найближчими тижнями.


❓ Вимірювати стає дедалі складніше


Відрив у бенчмарках дедалі гірше показує, наскільки одна модель справді краща за іншу. Крім того, Opus 5.5 часто підозрює (!), що його тестують, і компанії через це важче передбачити його поведінку в реальних умовах. Хз як вони це зрозуміли :)

Anthropic очікує, що чим сильнішими ставатимуть моделі, тим гострішою буде ця проблема, якщо дослідники не просунуться в interpretability, тобто в розумінні того, що відбувається всередині моделі.

Виходить, що і бенчмарки можливостей, і перевірки безпеки від самого розробника дають дедалі менш точну картину. Найнадійнішим інструментом лишаються власні evals на власних задачах.


Ну що, погнали тестувати 😌


Youtube | Instagram