Почему достаточно 10 пользователей? 25 вебинар UX Russia Дмитрий Сатин, Андрей Сикорский

Содержание

Слайд 2

Вопрос ответственности Достаточно – недостаточно: критерий ответственности?

Вопрос ответственности

Достаточно – недостаточно: критерий ответственности?

Слайд 3

Знания против решения Исследование или оценка?

Знания против решения

Исследование или оценка?

Слайд 4

The World Is Not Enough

The World Is Not Enough

Слайд 5

Задачи статистического вывода Бесконечно большие и конечные генеральные совокупности

Задачи статистического вывода

Бесконечно большие и конечные генеральные совокупности

Слайд 6

Примерные цифры Бизнес-исследование: Опросы (телефон и интернет) = ~240-~1,000 Фокус-группы =

Примерные цифры

Бизнес-исследование:
Опросы (телефон и интернет) = ~240-~1,000
Фокус-группы = 15-20 (зависит от целей исследования

и затронутых сегментов)
Тестирование = 10-15 респондентов
Полевые исследования = 15-40 респондентов
Карточная сортировка = 15-30 (чем больше тем лучше, так как в этом исследовании применяются статистические методы, в частности кластерный анализ )
Академическое исследование:
Выборки большего размера – в зависимости от объема исследования и его целей (например, 15 пользователей на сегмент или 40-100 пользователей на тест).
Слайд 7

Кого исследуем Продукт или пользователя? Пользователи отличаются по природе Продукт – по назначению

Кого исследуем

Продукт или пользователя?
Пользователи отличаются по природе
Продукт – по назначению

Слайд 8

Уточняем границы Мы обсуждаем Оценку Продукта Поэтому вопрос о количестве испытаний

Уточняем границы

Мы обсуждаем
Оценку
Продукта
Поэтому вопрос о количестве испытаний

Слайд 9

Неправильные цели Из результатов ю-т прогнозировать поведение всей генеральной совокупности невозможно

Неправильные цели

Из результатов ю-т прогнозировать поведение всей генеральной совокупности невозможно

Слайд 10

Количество или качество Критериальный вопрос – количество испытаний много не нужно

Количество или качество

Критериальный вопрос – количество испытаний много не нужно
Исследовательский вопрос

(среднее время) – важно количество испытаний
Слайд 11

Глупый вопрос Загорится ли лампочка в 501 раз, если 500 раз

Глупый вопрос

Загорится ли лампочка в 501 раз, если 500 раз она

уже загоралась?
Ни одно новое испытание не гарантирует выполняемость последующего.
Слайд 12

Место для анекдота Раз говорим слово «качество», то уместно вспомнить вопрос:

Место для анекдота

Раз говорим слово «качество», то уместно вспомнить вопрос:
Кто устанавливает

критерии качества? Когда этот вопрос был задан тестировщикам ПО, опытное большинство дало на него неправильный ответ – «мы» (то есть – тестировщики).
Так кто устанавливает критерии качества?
Слайд 13

Фолкнер против Нильсена 5 Якоб Нильсен, Томас Ландауэр 1993 15 Лаури Фолкнер, 2004

Фолкнер против Нильсена

5
Якоб Нильсен, Томас Ландауэр 1993
15
Лаури Фолкнер, 2004

Слайд 14

Убывание предельной полезности выборки Дизайн содержит конечное количество дефектов Каждый пользователь

Убывание предельной полезности выборки

Дизайн содержит конечное количество дефектов
Каждый пользователь будет сталкиваться

с одними и теми же проблемами
Каждый пользователь будет обнаруживать всё меньше новых дефектов
Но на каждого пользователя мы тратим одни и те же ресурсы
Слайд 15

CUE-4

CUE-4

Слайд 16

Определение количества участников Общее правило — 10 участников от группы Больше

Определение количества участников

Общее правило — 10 участников от группы
Больше участников –

больше надежность выводов
Больше участников – меньше новых результатов
Если нужно много участников, лучше проводит несколько раундов тестирования на маленьких группах, чем один с большой группой
Слайд 17

Критерии выбора размера группы Критичность дизайна для проекта Опыт команды тестировщиков

Критерии выбора размера группы

Критичность дизайна для проекта
Опыт команды тестировщиков
Ожидаемых разброс реакций

участников
Сложность прототипа
Проводится ли тестирование удаленно или в лаборатории
Слайд 18

CIF for UT reports CIF для ю-тестирования - вопрос проверки гипотез:

CIF for UT reports

CIF для ю-тестирования - вопрос проверки гипотез:
Выработка гипотез
Механизм

и правила подтверждения
Это не для бизнеса
Слайд 19

Сколько достаточно? Ответ может быть найден двумя путями: Статистически Критерии качества устанавливает заказчик

Сколько достаточно?

Ответ может быть найден двумя путями:
Статистически
Критерии качества устанавливает заказчик

Слайд 20

Оценка и мониторинг Оценка была 99%- что делать с 1%? В

Оценка и мониторинг

Оценка была 99%- что делать с 1%?
В один из

моментов тестирование надо перевести в мониторинг