Test Engineering Notes
4K subscribers
193 photos
3 videos
698 links
Канал про технічні аспекти тестування, розподілені системи, блокчейн, ШІ та перфоманс.

Консультації з автоматизації, менторинг, тестові співбесіди - @al8xr
Download Telegram
Я знову забив на курси та втратив бажання вчитися ...

• Гроші вже витрачені, але черговий курс й досі не пройдений.
• Книжки з тестування купив, але вони збирають пил на поличці та чекають на свій час.
• Рекомендовані відео та статті ретельно складаються в окрему теку в закладках браузера.
• Список задач на навчання все росте, а з ним росте тривога та прокрастинація.

На навчання ніколи немає вільного часу, фокусу. Навіть, коли починаю вчитися, то мій запал швидко згасає, а фокус миттєво переключається (на нове відео чи рілз).

Чому? Бо навчання без плану, без закріплення, без практики, без цілі. Таке навчання продукує лише "кашу в голові", ніж щось корисне.

Але всі навколо щось вчать, отримують сертифікати, ростуть у посадах! Це створює ще більше тривоги! І я знову купую нові курси ....

• Перша проблема - це відсутність цілі та плану.
• Друга проблема - це відсутність знань, які допоможуть навчатися швидше.
• Третя проблема - це відсутність системи, яка не дасть забути навчене вже пару днів.

Усі три проблеми ми розберемо та вирішемо на моєму онлайн воркшопі "Smart Learning with AI tools". В ньому я зібрав ті інструменти та техніки, які я пробував сам та які працюють. Ми також подивимось, як ШІ інструменти можуть підсилити ці техніки та зробити навчання ще ефективнішим.

Чекаю вас на воркшопі вже наступного понеділка, о 18:00!
14🔥4
Forwarded from ISTQB Certified Unicorns
🧠 Відкриваємо додатковий набір у практичну групу воркшопу Smart Learning with AI Tools, який стартує вже сьогодні!

Цей воркшоп побудований на сучасних дослідженнях того, як працюють мозок, пам'ять і процес навчання. Після нього ви зможете не просто споживати інформацію, а швидко перетворювати її на практичні навички та вибудувати власну систему навчання для опанування будь-якої нової теми.

Перша практична група заповнилася лише за 3 дні. Після цього ми отримали десятки повідомлень від тих, хто не встиг долучитися, тому відкриваємо ще один набір.

У форматі Practitioner, крім теоретичних занять та корисних матеріалів, ви отримаєте:
2 практичні заняття в прямому ефірі — 11 та 18 липня, 11:00–13:00 (із записами);
покрокові демонстрації та виконання практичних завдань разом із тренером;
доступ до закритого чату, де можна ставити будь-які запитання та отримувати зворотний зв'язок.

У групі лише 20 місць. Це остання можливість долучитися до практичного формату та отримати максимум від воркшопу.

📍ДЕТАЛІ ТА РЕЄСТРАЦІЯ
👍4🥴2
🧪 Тест-кейси не знайдуть усі баги в продукті

#testing #books

Тест-кейси перевіряють те, що ми очікуємо. Але найцікавіші проблеми часто живуть там, де ніхто не очікував їх побачити: у несподіваних сценаріях, спотворених даних, граничних значеннях і припущеннях команди.

Ось тут і потрібне дослідницьке тестування. Таке тестування - це не просто “поклацати навмання без плану”. Дослідницьке тестування має свої структуру та правила.

Одна з найкращих книжок на тему дослідницького тестування - це "Explore It!" від Elisabeth Hendrickson.

Поділюся трьома неочевидними інсайтами з книги:

1. Tested = checked + explored. Частина checked - це там, де ми перевіряємо чи система працює так, як було задумано в очікуваних умовах. Таке тестування можна (й треба) автоматизувати. А частина explored - це дослідження додаткових ризиків.

2. Для того, щоб почати дослідницьке тестування треба підготувати чартер - короткий опис конкретної сесії тестування. Він складається з цілі, ресурсів та інформації яку ми хочемо дослідити.

3. Щоб заохотити команду робити аналіз ризиків разом, можна зіграти з ними в спеціальну гру під назвою "Nightmare Headline Game".

Більше подробиць - у огляді книги в моєму блозі.
32🔥4👍2👌1
From ad-hoc prompting to Agentic Engineering: Latest trends in AI

#ai #engineering #video

В цю середу я прийняв участь у першому івенті від AI Chapter в Ministry of Testing. Поговорили про нещодавну роботу від Гугла на тему agentic engineering.

Запис можна подивитись тут.
11🔥73
Fintech Engineering Handbook

#engineering

Для тих, хто працює над банківським чи фінансовим софтом - я знайшов дуже цікавий гайд із найважливішими принципами та паттернами.
Буде корисним для тестувальників також.

Бо якщо ви знаєте типові помилки - ви можете будувати свою стратегію тестування навколо них.
Або хоча б враховувати ризики.
👍25🥰2
Що таке тестування?

#thought

Проходжу зараз один курс по ШІ (як же без нього) та зустрів таке порівняння.

An eval works the way a thermometer does. It does not make the patient healthier. It just gives you a number you can trust. Before you have one, "done" is a feeling.


Якщо подумати, то в цьому порівнянні можна легко замінити слово eval на тестування.

Тобто тестування саме по собі не робить продукт якісним. Тестування тільки дає інформацію. Але без цієї інформації "зроблено" - це тільки відчуття.

А ви як думаєте?
👍243
🎙Сувора QA Конференція #002


Всім привіт. Я навіть і не знав, що онлайн конференції можуть бути крутими та корисними.

Але виявляється - можуть. Тому запрошую вас на Сувору QA Конференцію #002.

Цього разу тема конференції більше ніж актуальна - AI in Testing!

Де: онлайн, два виступи на день - вранці та ввечері.
Коли: 28 вересня – 2 жовтня.
Купити білет: conference.grygorenko.tech

Я також у програмному комітеті конференції та допомагаю формувати програму.

Тож маю для вас промокод ROMANOV на знижку при купівлі квитка. Але промокод діє до кінця серпня, і всього на 15 квитків.

Побачимось на конференції!
8👾3💩2
Різниця між Testing та Checking

#testing

В своїй книзі "Taking Testing Seriously" James Bach та Michael Bolton розповідають чим тестування (testing) відрізняється від перевірки (checking).

Тестування - це процес оцінки продукту шляхом його вивчення через досвід, дослідження та проведенням експериментів з ним.

Перевірка – це механістичний процес перевірки тверджень про продукт.

Перевірки - треба автоматизувати. Тестування автоматизувати дуже складно.
👍333
Огляд книги: "Taking Testing Seriously: The Rapid Software Testing Approach"

#books #testing

Сьогодні вівторок, а значить час для нового огляду книжки з тестування.

Цього разу - книга від "дідів" в тестуванні - Джеймса Баха та Майкла Болтона.

В книзі можна знайти майже все - від філософії тестування, до ШІ, автоматизації та signal-based testing.
👍256
У четвер, 13.08, на каналі qa семпай відбудеться великий стрім (думаю 3 години мінімум...).
Будемо розбиратися, як тестувальникам адаптуватися та зростати в нових реаліях.
Як не поїхати кукухою від всього що несеться і встигати розвиватись

📱https://youtube.com/live/ZSWIYsnqcks?feature=share

Гості:
Олександр Хотемський
Рома Марінський
Олександр Романов
Михайло Чуб

Це люди з глибоким досвідом в інженерії, менеджерстві і керуванні відділами тестування.

Основні теми для обговорення:
Як ми вчилися раніше та що взагалі сьогодні означає "вміти програмувати/тестувати". Як змінюється світова освіта під впливом ШІ Чому "робити все руками" зараз - це працювати так, ніби на дворі 2021 рік, а "делегувати все AI" - прямий шлях до деградації
Що це таке AI-навички, як їх свідомо розвивати та як переконливо "продавати" на співбесідах.
Як знайти золоту середину між ефективністю ШІ та збереженням глибини технічних знань. Як ефективно вчитися інженеру прямо зараз.
Як не поїхати кукухою в такому шаленому темпі розвитку технологій.
Як мінімально деградувати, коли використовуєш ШІ в нескінченному потоці робочих задач і не маєш часу докорінно розібратися у фічі.


👉які ще теми або питання щодо ШІ у роботі вас турбують? Докидайте свої ідеї сюди, якщо щось є, і ми додамо їх до обговорення.
Please open Telegram to view this post
VIEW IN TELEGRAM
20🔥1
Чому джуніорам складно здобути досвід з ШІ

#ai

Для того, щоб отримати досвід - треба робити помилки й вирішувати складні проблеми. Самостійно. Бо іншого варіанту просто не існує.

ШІ не дає отримати цей досвід джуніорам. Не дає навіть мідлам.
У сіньйорів ситуація краща, бо цей досвід (можливо) вже є з роками практики без ШІ.

Як це пофіксити? Легка відповідь для джуніорів - "просто читай весь код, що згенерував ШІ". "Просто розумій що там робиться". Але в реальності - це або дуже складно або недосяжно.

Чому ж недосяжно? Бо бізнес та менеджери чекають від тебе швидкість. Але ця швидкість - за рахунок розуміння.

Чому ж це складно? "Просто попроси агента пояснити як шо працює!" Але пояснення може бути некоректним.

Крім того, є найбільша проблема - 95% людей НЕ БУДЕ ТАК РОБИТИ. Це як "треба їсти правильно, постійно". "Треба тренуватися кожного дня". Всі знають, що це правильно. Але реально роблять це - одиниці.

Який же з цього висновок?
• Нове покоління інженерів буде мати вельми специфічний досвід. Вони будуть набагато довше та повільніше дебажити.
• Сіньйори, які бездумно користуються ШІ також будуть мати "лінивий мозок" та створювати не менше comprehension debt (боргу розуміння), ніж джуни.
• Якщо ми хочемо користуватись ШІ інструментами та навчатись - потрібно ще більше ДИСЦИПЛІНИ та усвідомленої роботи. Так, це тяжко. Але це буде мати свої дивіденди.
34👍2
🤯 Чи можуть LLM отримати сертифікат ISTQB?

#ai #istqb

Сьогодні я приніс свіжу дослідницьку роботу, яка точна вас зацікавить.

Fitash Ul Haq та Jordi Cabot задалися питанням - а чи достатньо в сучасних LLM-ок знань для того, щоб здати екзамен ISTQB?

📚 Про ISTQB

На момент дослідження, автори виявили ... 30 різних ISTQB сертифікацій!.

Крім того, в ISTQB є різні типи питань - K1 (запамʼятовування), К2 (розуміння), К3 (застосування), К4 (розбивання питань для кращого запамʼятовування), К5 (оцінка та прийняття рішення), K6 (розробка нових рішень на основі набутих знань).

🧪 Про дослідження

Автори роботи взяли 60 сучасних комерційних та open-source моделей. Далі вони вибрали приклади запитань по кожному сертифікату. Наступним кроком вони прогнали кожну модель по цим запитанням та дивились чи правильно вона відповість на них.

⚡️ Результати - загальні

GPT-5-2025-08-7 та Gemini-3-flash-preview набрали прохідні 65% в усіх 30 наявних сертифікаціях! З OSS моделей найкраще показала себе Nemotron-Nano (27 з 30 сертифікатів).

З міні моделей кращі були GPT-5-mini та GPT-5-mini-2025-08-07. З нано моделей - GPT-5-nano та GPT-5-nano-2025-08-07. Але ніхто з них не зміг "здати" усі 30 сертифікатів.

⚡️ Результати по рівням запитань

Але що по рівням запитань? Можливо модельки краще згадують терміни, але не можуть застосовувати знання?

- На рівні К1 Gemini-3-flash-preview відповіла з точністю 98%.
- На рівні К2 в Gemini-3-flash-preview точність вже була 89%
- На рівні К3 Gemini-3-flash-preview подолала 85% запитань
- На рівні К4 Gemini-3-flash-preview - 82%

Кращі OSS моделі (але далеко не 95%):

- К1 - Qwen2.5vl:32b
- К2 - Qwen2.5vl:72b
- К3 - Llama 4 Maverick
- К4 - Qwen2.5vl:72b

🔥 Висновки

- З комерційних моделей Gemini-3-flash-preview краща. GPT-5-2025-08-7 не відстає.
- З OSS моделей автори рекомендують Qwen2.5vl:32b

Моделі не досліджувались на питаннях рівня К5 та К6 (то ж тут в людей ще є шанси!) 😂

А у вас є усі 30 сертифікатів ISTQB? 😃
11👍7🤯3
"Простий" крок щоб покращити тестування

#testing

В традиційних організаціях, кожна команда зазвичай несе відповідальність за свій окремий компонент, АПІшку чи сервіс.

User Service пишуть тести для себе, кожен з сервісів, що викликають user service - для себе.

В Google запропонували розширити цей підхід. Вони спонукають інженерів писати тести також в репозиторіях сервісів, від яких вони залежні. Так розробник Billing Service крім своїх тестів, додає ще й tricky кейси на стороні User Service. Бо саме він знає, що йому потрібно.

Трохи нагадує контрактні тести, але більш масштабна задумка.

Такий простий крок, покращує покриття більше, ніж просто заміри процентів.

P.S. З ШІ вже не вийде сказати, що "нема часу" або "це складно".
👍222
Як MIT рекомендує користуватись ШІ в навчанні

#education #ai

В серпні 2026 року, викладачі з MIT опублікували звіт про поточне та майбутнє використання ШІ в навчанні.
Мені було цікаво почитати цей документ, бо питання навчання з ШІ - один з моїх інтересів.

ШІ в MIT

Автори розповідають, що ШІ так чи інакше вже глибоко інтегрується в процес навчання.

Але що цікаво, думки як студентів та і викладачів щодо ШІ-інструментів - дуже різні. Є ентузіасти, а є скептики (Як завжди буває).

Загалом, у звіті згадують такі проблеми ШІ в навчанні
- ШІ впливає на фундаментальні принципи навчання
- студенти стали більш ізольованими та менше спілкуються та взаємодіють
- соціальний контракт між викладачами та студентами теж розмивається
- викладачам важче оцінювати роботи студентів

Що ж рекомендується робити?

Викладачам треба пояснювати що таке "процес навчання" (продуктивне подолання проблем) та продукт навчання. Продукт (результат) навчання це той самий персональний ріст, набуття інтелектуальної зрілості, розвиток уяви, проникливості та кращих суджень з предмету.

Доречі саме судження є одним з критичних елементів в роботі зараз. Бо коли ШІ швидко продукує результат, тільки людина з навичками та досвідом буде мати судження щодо результату.


Треба використовувати ШІ для зміни (модифікації) навчання, а не тільки для автоматизації.

Коли студент дізнається правильну відповідь у чат бота, це не тільки створює ілюзію навчання, а ще й провокує таку штуку, як "когнітивна капітуляція" - коли студенти біжать запитувати відповідь у ШІ за перших натяків на труднощі.

Якщо сприймати навчання лишень як передачу контенту від вчителя до слухача, то ... ШІ це може робити доволі непогано.

Автори наголошують, що навчання - це ще й набуття неявних знань, звичок, звʼязків які впливають на судження, подолання труднощів. В кейсі MIT вони наголошують саме на формуванні інтелектуальної спільноти.

MIT також рекомендує користуватись ШІ для модифікації цілей та змісту навчальних програм. Але найголовніше - визначити зі студентами правила користування ШІ як для них, так і для викладачів.

Один з найефективніших способів навчання - через проєкти. З ШІ такі проєкти можуть бути більш амбіційними.

Також треба буде переглянути підходи до оцінювання робіт. Інструменти для виявлення плагіату чи ШІ тільки спровокують появи більш крутих інструментів, які маскують ШІ текст.

> Працівники, які досягнуть успіху в еру штучного інтелекту, — це ті, «хто може творчо продумати способи, за допомогою яких штучний інтелект може створювати цінність, швидко втілювати ідеї в життя та хто готовий переглянути свою інтуїцію шляхом експериментів та перевірки. У цьому середовищі процвітають як майстри, так і виконавці». (c) Rafella Sadun, економіст з Гарварду
12👍7🫡1
🛠 Фундаментальні знання важливіші ніж будь-коли

#engineering #ai

Сьогодні коротке, але дуже корисне відео про сучасну розробку з ШІ від Matt Pocock. Основні ідеї нижче.

🧪 Розробка та ШІ

В ідеальному світі, ми пишемо специфікацію, а потім імплементуємо її в коді. Вуаля, всі задоволені!

В реальності ми пишемо спеку, ШІ генерує код, потім ШІ генерує гірший код, ще гірший код, а далі - повне сміття.

Головна причина цього - складність. Але що таке складність?
Складність — це все, що пов'язано зі структурою системи, що ускладнює її розуміння та модифікацію.


Багато хто говорить, що генерація коду стала дешевою. Так, але ... Поганий код - ще більш дорожчий, ніж будь-коли!

ШІ гарно працює з грамотно проектованим кодом. Щоб грамотно проектувати код, треба знання. То ж фундаментальні знання програмування стають ще важливішими.

🤯 Проблеми кодингу з ШІ

1. ШІ не робить те, що я хочу. Але й люди часто не знають чого хочуть! Починайте з дизайну в Plan Mode. А ще краще, зі скіла "/grill-me"

2. ШІ генерує забагато тексту. Фільтрувати сміття допоможе спільна доменна мова. Щоб знайти її в коді, юзайте скіл /ubiquitous-language

3. ШІ пише код, який не працює. Фікс - обкладіться тестами на багатьох рівнях.

4. ШІ робить забагато всього одразу. Рухайтесь маленькими кроками. Пишіть по TDD (скіл `/tdd`)

5. Тестувати ШІ-код складно. Проектуйте простіші інтерфейси та ховайте складність всередині модулів.

6. ШІ не розуміє мій код. Спробуйте зробити "глибокі" модулі з /improve-codebase-architecture скілом

7. У мене "пухне мозок від кількості ШІ коду". Працюйте над дизайном інтерфейсів, делегуйте імплементацію агентам.

Скіли від Matt Pocock шукати тут.
13🔥4
📚Ваш путівник по курсам Claude (2026 edition)

#ai #claude

Ви захотіли вивчити щось про ШІ. Можливо Вам більше подобається Claude, ніж ChatGPT. Або це вимога на роботі.
Я рекомендую подивитись офіційні курси від Anthropic. Вони безкоштовні. Їх навіть можна додати собі в Linkedin.

Anthropic зараз має 22 безкоштовних курси по Claude. Курсів багато, але які проходити? Які можна пропустити? Я пройшов більшість з них, то ж таки маю шо сказати.

🤯 Що по курсам?

Claude 101 - непоганий оглядовий курс, щоб зрозуміти що може Claude. Трохи про проєкти, скіли, різні види Claude.

Claude Code 101 - технічно орієнтований курс, що дає базу основих термінів: agentic loop, контекст, CLAUDE.md, сабагенти, MCP, хуки

Claude Platform 101 - додає інформації про скіли та тули, thinking режим, менеджмент контексту та побудову власного агенту

Introduction to Claude Cowork - як користуватись Claude Cowork з різними конекторами та плагінами. Тільки якщо плануєте ним користуватись

Claude Code in Action - більше конкретні приклади, режими роботи, імплементація хуків

AI Fluency - Framework and Foundations - ментальна модель по роботі з ШІ від Anthropic. Проходити за бажанням або для сертифікації

Building with Claude API - мабуть найбільш цінний курс по роботі з Claude через APIшку. Курс обʼємний, але вартує часу. Читає класний Stephen Grider.

Introduction to Model Context Protocol - проходити тільки якщо ви не проходили попередній (бо більша частина, то копіпаста з минулого)

Model Context Protocol - Advanced Topics - трохи глибше занурення в MCP (різні види транспорту, логи)

Claude with Amazon Bedrock - пару слайдів по інтеграції Claude з AWS. Далі - калька з Building with Claude API. Є цікаве про RAG

Claude on Google Cloud - пару слайдів по інтеграції Claude з GCP. Далі - калька з Building with Claude API. Є цікаве про routing workflows

Introduction to agent skills - дуже базова інфа про агенти. Можна пройти або запитати одразу в Claude

Introduction to subagents - дуже базова інфа про сабагенти. Можна пройти або запитати одразу в Claude

Інші AI Fluency курси - можна пропустити, якщо ви не студент, викладач чи ще хтось конкретний.

⚡️P.S. Про сертифікати від Anthropic розповім в окремому пості.

P. P. S. Усіх з Днем Тестувальника!
45🔥8👍2
Тестування - це не тільки e2e рівень

#testing

І навіть не рівень юніт тестів вашого застосунку. На цьому тестування не закінчується!

Сучасні складні системи з оцими усіма штучними інтелектами будуються на не менш складних компонентах. Ці компоненти, можливо, не треба тестувати окремо - бо їх вже відтестували. Але їх тестували люди, а люди можуть помилятись.

Зрозуміло, що кожен із компонентів вглиб сіньйор знати не зможе. Але треба мати уявлення про них, про їх можливий вплив на результат, на безпеку, на перфоманс.
10👏4
FMEA for Test Automation Building Risk Management into Your Automation Stack

#automation@testengineering

Колись в каналі я розповідав про FMEA - підхід до аналізу ризиків. А в цій статті автор застосовує цей підхід до своїх автотестів.

Загальний флоу такий:

1. Identify failure mode
2. Score Severity, Occurrence, and Detection
3. Calculate RPN
4. Prioritize
5. Mitigate
6. Rescore

Що саме цікаве, що автор також інтегрує такий аналіз в CICD.

Як ідея - цікаво. А ось чи практично це - велике питання.
4
📚 Сертифікації по Claude від Anthropic - що, де та навіщо?

#ai #claude

Нещодавно я отримав два сертифікати: Claude Developer та Claude Architect.

В цьому пості я розповім про сертифікацію, як підготуватись, як здати та чи взагалі то потрібно.

✍️ Про рівні та формат

Всього є три направлення сертифікації: Associate, Developer, Architect. Тільки на Architect є два рівні - Foundations та Professional.

Формат екзамену зазвичай це 60 (або 53) тестових запитань на 120 хвилин. Прохідний бал 720 із 1000. Вартість екзамену $125 (для Associate - $99, для Architect Professional - $175).

Важливо памʼятати, що будь-який сертифікат треба здавати кожен рік - бо він втрачає валідність. З тим темпом, як зараз розвивається ШІ це - логічний крок.

Екзамени можна здавати онлайн, через платформу Pearson.

😀 Рівень Associate

Сюди входить сертифікат Claude Certified Associate - Foundations. Це - базова сертифікація для консультантів та продавців. Для підготовки надаються 8 курсів на різні теми: Claude платформа, промптінг та оцінка результатів, конфігурація та менеджмент знань, ризики.

🤓Рівень Developer

Сюди входить сертифікат Claude Certified Developer - Foundations. Рекомендований сертифікат для більшості інженерів.

Як готуватись:
- пройти рекомендовані 5 курсів з Anthropic Partner Academy. Вони в текстовому форматі + перевірка знань у вигляді завдань та тестів. Доволі актуальна інформація, але не очікуйте прям аж занадто великої глибини.
- пройти також інші курси по Claude, такі як "Building with Claude API" та "Claude Code in Action".
- закинути нотатки з курсів в NotebookLM та проходити quiz / flashcards звідти
- Потренуватись на мок екзамені - Udemy

😎 Рівень Architect

Сюди входить сертифікат Claude Certified Architect - Foundations та Claude Certified Architect - Professional.

Як готуватись:
- пройти рекомендовані курси. Більшість з курсів - безкоштовні, зі списку, що я вже наводив. Нові курси - це по роботі Claude з Amazon / Google Cloud. Але вони багато пересікаються з "Building with Claude API"
- почитати матеріали в текстовому форматі або ж подивитись на Youtube
- закинути нотатки з курсів в NotebookLM та проходити quiz / flashcards звідти
• потренуватись на мок екзамені - Udemy та безкоштовно

Чи треба здавати?

Кожен вирішує для себе сам. Але на поточному ринку праці, такі сертифікати допоможуть отримати запрошення на роботу та підтвердити, що ви маєте знання. Так, ці екзамени не гарантують навичок та глибини. Але без них, можливо, й на співбесіду не попадеш в деякі компанії. C'est la vie!

Навіть підготовка до екзамену дає хороший набір знань. А якщо ви кожного дня пишете скіли, агентів та MCP - то більшість потрібних знань ви вже маєте. Треба тільки додати специфіку Claude та йти на екзамен.

❗️Важливо: сертифікат можна здати тільки, якщо ваша компанія - партнер Anthropic. Індивідуальних сертифікацій наразі немає.
🔥204👏2