Когда стоит закончить
автоматизировать?
Об авторе:
- Automation QA в SoftServe
- 5 лет опыта
- организатор QA Dnepr community
Skype: pashidlos
Email: pashidlos@gmail.com
• Проблемы
• Декомпозиция проекта
• Синхронизация автоматизированного и ручного тестирования
• Расчеты (часы/$)
• Заключение
• Вопросы
План
• Раздельная работа QA
• Отсутствует стратегия
автоматизации
• Приоритеты не определены
• Сроки не согласованы
Проблемы
• Провели декомпозицю
проекта
• Определили критичность с
точки зрения системы
• Определили лучшие части для
автоматизации
Что мы сделали:
Декомпозиция
Критичность функционала
• Critical
• Major
• Normal
Лучший функционал для
автоматизации
• Как быстро можно написать тест?
• Сколько времени уходит на ручной прогон?
• Код будет использован повторно?
• Тест будет стабилен?
Комбинируем...
Система Автоматизация
Critical P1 P1
P2
Major P2 P1
P2
P1 P3
Normal P2 P3
P3 P1
P2
P3
АвтоматизацияСистема
Чек-лист
Оценка времени для тестов
• P1: 12ч
• P2: 27ч
• P3: 6ч
ИТОГО: 45ч
Оценка времени для ручной
проверки
• P1: 2ч
• P2: 1.5ч
• P3: 0.5ч
ИТОГО: 4ч
Реальные затраты при ручной проверке
В среднем два прогона
тестов за релиз:
ИТОГО: 8ч
Расчеты в часах
Итого P1 P2 P3
Автоматизация (ч) 45 12 27 6
Ручная проверка (ч) 8 4 3 1
Реальные цифры по регрессии (в среднем два прогона за релиз)
Количество релизов 6 3 9 6
Окупаемость автоматизации
Расчеты в деньгах
QA рейт: 10$/ч
• P1: 2ч = 20$
• P2: 1.5ч = 15$
• P3: 0.5ч = 5$
ИТОГО: 4ч= 40$
Automation QA рейт: 15$/ч
• P1: 12ч = 180$
• P2: 27ч = 405$
• P3: 6ч = 90$
TOTAL: 45ч = 675$
Расчеты в деньгах
Итого P1 P2 P3
Автоматизация ($) 675 180 405 90
Ручная проверка ($) 80 40 30 10
Окупаемость автоматизации
Реальные цифры по регрессии (в среднем два прогона за релиз)
Количество релизов 9 5 14 9
График окупаемости
А как же поддержка тестов?
Поддержка
+10 - 20 % каждый релиз
Расчеты с учетом затрат на поддержку
Тесты Стоимость ($) 10% ($) 20% ($)
Total 675 67.5 135
P1 180 18 36
P2 405 40.5 90
P3 90 9 18
График окупаемости с учетом поддержки
Расчет автоматизации Р1 тестов
Итого P1 P2 P3
Автоматизация ($) 675 180 405 90
Ручная проверка ($) 80 40 30 10
Реальные цифры по регрессии (в среднем два прогона за релиз)
Количество релизов 9 5 14 9
Окупаемость автоматизации
Расчет автоматизации Р1 тестов с учетом поддержки
Тесты Стоимость ($) 10% ($) 20% ($)
Total 675 67.5 135
P1 180 18 36
P2 405 40.5 90
P3 90 9 18
График окупаемости Р1 тестов с учетом поддержки
P2+P3 нужно проверить вручную!
Добавляем Р2+Р3 тесты
Итого P1 P2 P3
Автоматизация ($) 675 180 405 90
Ручная проверка ($) 80 40 30 10
Реальные цифры по регрессии (в среднем два прогона за релиз)
Количество релизов 9 5 14 9
Окупаемость автоматизации
График окупаемости
Пример из жизни
Покрытие
Затраты на
автоматизацию (ч) Тесты (ч) Поддержка (ч)
Ручное
тестирование (ч) Затраты на релиз (ч)
0% 0 0 96 96
33% 552 526 26 48 74
66% 1104 1051 52 16 68
99% 1,656 1577 79 4 83
График окупаемости (ч)
Расчет окупаемости ($)
Покрытие
Затраты на
автоматизацию ($) Тесты ($) Поддержка ($)
Ручное
тестирование ($) Затраты на релиз ($)
0% 0 0 960 960
33% 8280 7890 390 480 870
66% 16560 15765 780 160 940
99% 24840 23655 1185 40 1225
QA рейт: 10$/ч Automation QA рейт: 15$/ч
График окупаемости ($)
• Автоматизировать сложные для ручной проверки тесты
• Уменьшать время на поддержку тестов
• Следить за изменением затрат на регрессию
Как ускорить окупаемость автоматизации?
• Текущие затраты на регрессию (ТЗР)
▪ Ручное тестирование (ч/$)
▪ Поддержка автоматизированных тестов (ч/$)
• Ожидаемые затраты на регрессию (ОЗР)
▪ Ручное тестирование (ч/$)
▪ Поддержка автоматизированных тестов (ч/$)
Что отслеживать:
ТЗР > ОЗР
ТЗР = ОЗР
ТЗР < ОЗР
Summary
Ручное тестирование
Автоматизация
http://qacommunity.com.ua/
https://vk.com/qadnepr
Skype: pashidlos
Email: pashidlos@gmail.com
Когда стоит закончить автоматизировать?

More Related Content

PPT
Что было, что есть, что будет: Current State vs. Common Sense
PPTX
Оптимизация процесса тестирования с использованием аналитических подходов RCA...
PPTX
александр полещук. управление автоматизированным тестированием
PPTX
Метрики автоматизированного тестирования на пальцах
PPTX
Автоматизация для не-автоматизаторов: хотелки и реальность
PPTX
Ответственность за качество в разных ИТ-проектах
PDF
Оценки тестирования - полезные и условные метрики
PDF
Подготовка стратегии тестирования под высокорискованный, высокодоходный проект
Что было, что есть, что будет: Current State vs. Common Sense
Оптимизация процесса тестирования с использованием аналитических подходов RCA...
александр полещук. управление автоматизированным тестированием
Метрики автоматизированного тестирования на пальцах
Автоматизация для не-автоматизаторов: хотелки и реальность
Ответственность за качество в разных ИТ-проектах
Оценки тестирования - полезные и условные метрики
Подготовка стратегии тестирования под высокорискованный, высокодоходный проект

What's hot (20)

PPT
Оценка методологии автоматизации - MBT
PPTX
Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч
PPTX
Report Portal - эффективность вашей автоматизации
PPTX
Test design techniques basics
PPTX
Waterfall revisited: практические метрики тестирования
PPTX
QA Fest 2017. Иван Пашко. Антипаттерны и запахи в автоматизации тестирования
PPTX
How to estimate time for testing
PPT
Что ждет тестировщиков при организации процесса тестирования Enterprise-проду...
PDF
Введение в performance management
PPT
Новый процесс тестирования на "старом" проекте
PPTX
Как оценить время на тестирование. Александр Зиновьев, Test Lead Softengi
PPTX
Excel всё подскажет или "Вот сколько времени понадобится на тестирование" (ма...
PPTX
Test Strategy: creation and optimization - QA Fest-2017 (Тестовая стратегия: ...
PPTX
QA Fest 2015. Алена Черненко-Дыба и Алексей Лупан. Секреты успешного проекта...
PPTX
Crystal Agile, или как мы приспособили процесс разработки для обеспечения мак...
PDF
Agile тестирование в enterpise проектов: путь трансформации
PPT
Пополняем арсенал тестировщика. Учимся применять новые техники
PPTX
Нагрузка и автоматизация в большой организации. Движение к DevOps
PDF
Илья Кудинов «Развитие процессов тестирования в Badoo за три года, или как мы...
PPTX
Тестируем производительность с помощью Selenium
Оценка методологии автоматизации - MBT
Управление хаосом, или как жить когда число тестов перевалило за десятки тысяч
Report Portal - эффективность вашей автоматизации
Test design techniques basics
Waterfall revisited: практические метрики тестирования
QA Fest 2017. Иван Пашко. Антипаттерны и запахи в автоматизации тестирования
How to estimate time for testing
Что ждет тестировщиков при организации процесса тестирования Enterprise-проду...
Введение в performance management
Новый процесс тестирования на "старом" проекте
Как оценить время на тестирование. Александр Зиновьев, Test Lead Softengi
Excel всё подскажет или "Вот сколько времени понадобится на тестирование" (ма...
Test Strategy: creation and optimization - QA Fest-2017 (Тестовая стратегия: ...
QA Fest 2015. Алена Черненко-Дыба и Алексей Лупан. Секреты успешного проекта...
Crystal Agile, или как мы приспособили процесс разработки для обеспечения мак...
Agile тестирование в enterpise проектов: путь трансформации
Пополняем арсенал тестировщика. Учимся применять новые техники
Нагрузка и автоматизация в большой организации. Движение к DevOps
Илья Кудинов «Развитие процессов тестирования в Badoo за три года, или как мы...
Тестируем производительность с помощью Selenium
Ad

Viewers also liked (19)

PPTX
Провокации автоматического тестирования
PPTX
Тестирование слоёного пирога
PPTX
Как протестировать тим-лидера
PPTX
Автоматизация тестирования WEB API
PDF
Разработчик: руководство по эксплуатации
PPTX
Тестирование беспроводных интерфейсов
PDF
Отряд тест-аналитиков
PPTX
Использование Fiddler для эмуляции различных сетевых условий в автотестах
PDF
Автоматизация тестирования базы на примере PostgreSQL
PDF
Эвристики, мнемоники и другие греческие слова в исследовательском тестировани...
PPTX
Глеб Рыбалко - Цена качества. Как объяснить заказчику, сколько стоит качество
PPT
Особенности процесса тестирования при внедрении Continuous Delivery на пример...
PPT
Использование метрик в процессе обеспечения качества сложных систем
PDF
Метрики покрытия. Прагматичный подход
PPTX
Оптимизация процесса тестирования с использованием аналитических подходов RCA...
PPTX
Анализ инструментов автоматизации мобильного тестирования
PPT
Monthly Operations Review
PPTX
Экосистема Selenium
PPTX
Путь тестировщика: Расту или деградирую?
Провокации автоматического тестирования
Тестирование слоёного пирога
Как протестировать тим-лидера
Автоматизация тестирования WEB API
Разработчик: руководство по эксплуатации
Тестирование беспроводных интерфейсов
Отряд тест-аналитиков
Использование Fiddler для эмуляции различных сетевых условий в автотестах
Автоматизация тестирования базы на примере PostgreSQL
Эвристики, мнемоники и другие греческие слова в исследовательском тестировани...
Глеб Рыбалко - Цена качества. Как объяснить заказчику, сколько стоит качество
Особенности процесса тестирования при внедрении Continuous Delivery на пример...
Использование метрик в процессе обеспечения качества сложных систем
Метрики покрытия. Прагматичный подход
Оптимизация процесса тестирования с использованием аналитических подходов RCA...
Анализ инструментов автоматизации мобильного тестирования
Monthly Operations Review
Экосистема Selenium
Путь тестировщика: Расту или деградирую?
Ad

Similar to Когда стоит закончить автоматизировать? (20)

PDF
Как перестать бояться и начать автоматизировать
PPTX
Автоматизация тестирования
PPTX
Organization of Automated Testing
PPTX
Mva stf module 6 - rus
PDF
Организация конвейера автоматизации тестирования / Алексей Петров (Mail.ru Gr...
PDF
Алексей Петров, Mail.Ru Group, "Организация конвейера автоматизации тестирова...
PPTX
Test automation
PPTX
Introduction to Automation Testing
PPTX
Опыт Автоматизации тестирования
PPTX
Автоматизация тестирования: почему умирают проекты?
PPTX
Автоматизация Тестирования - Почему умирают проекты?
PPT
Советы для успешной автоматизации тестирования веб-приложений
PPTX
10 принципов автоматизации, которые я не предам
PPTX
Лилия Зданевич "Automation testing save time and money"
PDF
Автоматизация сборки и тестирования в разрезе эффективного производства
PPT
Илья Гаврилов
PPT
Сергей Ревко
PPTX
Automation intro
PPTX
Антон Семенченко - Как эффективно продавать автоматизированное тестирование з...
PPTX
QA Fest 2015. Александра Волкова. 10 принципов автоматизации, которые я не пр...
Как перестать бояться и начать автоматизировать
Автоматизация тестирования
Organization of Automated Testing
Mva stf module 6 - rus
Организация конвейера автоматизации тестирования / Алексей Петров (Mail.ru Gr...
Алексей Петров, Mail.Ru Group, "Организация конвейера автоматизации тестирова...
Test automation
Introduction to Automation Testing
Опыт Автоматизации тестирования
Автоматизация тестирования: почему умирают проекты?
Автоматизация Тестирования - Почему умирают проекты?
Советы для успешной автоматизации тестирования веб-приложений
10 принципов автоматизации, которые я не предам
Лилия Зданевич "Automation testing save time and money"
Автоматизация сборки и тестирования в разрезе эффективного производства
Илья Гаврилов
Сергей Ревко
Automation intro
Антон Семенченко - Как эффективно продавать автоматизированное тестирование з...
QA Fest 2015. Александра Волкова. 10 принципов автоматизации, которые я не пр...

More from SQALab (20)

PDF
Готовим стажировку
PPTX
Куда приводят мечты? или Искусство развития тестировщика
PPT
Оптимизация Selenium тестов и ускорение их поддержки
PPT
Автоматизация 0.0: 0 - бюджет, 0 - опыт программирования
PPTX
Нагрузочное тестирование нестандартных протоколов с использованием Citrix и J...
PPTX
Continuous performance testing
PDF
Конфиги вместо костылей. Pytestconfig и зачем он нужен
PPT
Команда чемпионов в ИТ стихии
PPTX
API. Серебряная пуля в магазине советов
PPTX
Добиваемся эффективности каждого из 9000+ UI-тестов
PPT
Делаем автоматизацию проектных KPIs
PDF
Вредные привычки в тест-менеджменте
PPTX
Мощь переполняет с JDI 2.0 - новая эра UI автоматизации
PPT
Как hh.ru дошли до 500 релизов в квартал без потери в качестве
PPTX
Стили лидерства и тестирование
PPT
"Давайте не будем про качество"
PDF
Apache.JMeter для .NET-проектов
PPTX
Тестирование геолокационных систем
PPTX
Лидер или босс? Вот в чем вопрос
PPTX
От Зефира в коробке к Structure Zephyr или как тест-менеджеру перекроить внут...
Готовим стажировку
Куда приводят мечты? или Искусство развития тестировщика
Оптимизация Selenium тестов и ускорение их поддержки
Автоматизация 0.0: 0 - бюджет, 0 - опыт программирования
Нагрузочное тестирование нестандартных протоколов с использованием Citrix и J...
Continuous performance testing
Конфиги вместо костылей. Pytestconfig и зачем он нужен
Команда чемпионов в ИТ стихии
API. Серебряная пуля в магазине советов
Добиваемся эффективности каждого из 9000+ UI-тестов
Делаем автоматизацию проектных KPIs
Вредные привычки в тест-менеджменте
Мощь переполняет с JDI 2.0 - новая эра UI автоматизации
Как hh.ru дошли до 500 релизов в квартал без потери в качестве
Стили лидерства и тестирование
"Давайте не будем про качество"
Apache.JMeter для .NET-проектов
Тестирование геолокационных систем
Лидер или босс? Вот в чем вопрос
От Зефира в коробке к Structure Zephyr или как тест-менеджеру перекроить внут...

Когда стоит закончить автоматизировать?