Что такое A/B тестирование плюс зачем такой подход необходимо
А/Б эксперимент представляет собой способ сравнения пары а также дополнительных вариантов раздела, интерфейса, копирайта, кнопки, анкеты, письма, рекламного сообщения либо иного цифрового объекта. Основная цель заключается в том задаче, чтобы определить, какой формат результативнее функционирует при фактической аудитории. Вместо догадок плюс субъективных мнений задействуется проверка на живой аудитории, при которой контрольная группа просматривает версию A, тогда как другая — формат B.
Такой принцип дает возможность формировать действия по основе информации, но не индивидуальных предпочтений или нерегулярных наблюдений. Внутри аналитических публикациях, в том числе 1вин, нередко отмечается, что A/B тестирование особенно полезно там, при которых небольшие правки имеют шанс влиять по части поведение аудитории: нажатия, создания аккаунтов, отправку анкет, длину изучения, лояльность, покупки, подключения а также прочие заданные шаги. Метод дает возможность проверить, реально ли правка улучшает 1win показатель.
Каким образом проводится сплит проверка
Логика А/Б тестирования довольно несложен. Вначале берется блок, что нужно оценить. Это имеет шанс оказаться headline, визуальный тон CTA-элемента, расположение секций, текст уведомления, логика формы, изображение, стоимость, формат условия а также позиция важного действия. Далее готовятся не менее два версии: исходный плюс обновленный. Затем этим трафик разделяется среди версиями согласно заранее заданным параметрам.
Первая часть пользователей остается просматривать первоначальную вариацию, тогда как вторая открывает измененную. Система собирает сведения о действиях каждой группы и анализирует результаты. Если вариант B дает более сильный эффект при значительном количестве сведений, его допустимо использовать. Если прироста не видно или тестовая вариация работает менее эффективно, правка отклоняется. Именно в данной логике и состоит прикладная значимость теста: эксперимент помогает тестировать идеи перед полного 1вин запуска.
Для чего используется А/Б тестирование
A/B проверка важно для снижения неопределенности. В цифровых платформах включая малая правка способна воздействовать в отношении понимание экрана. Конкретный заголовок может быть понятнее альтернативного, сжатая анкета имеет шанс проходиться регулярнее объемной, при этом намного более заметная кнопка может повысить объем кликов. Если не использовать тестирования эти результаты обычно остаются гипотезами.
Подход дает возможность развивать продукт шаг за шагом. Без необходимости полной реконструкции целого сайта или сервиса можно проверять отдельные объекты а также записывать реальный эффект. Такой подход снижает вероятность ошибочных правок, сберегает ресурсы плюс помогает формировать данные о действиях посетителей. С течением периодом проект 1 win формирует не комплект суждений, вместо этого модель валидированных действий.
Какие именно элементы можно тестировать
Тестировать можно практически разный блок, что влияет в отношении реакции посетителя. Как правило всего оценивают названия, разделы, обращения для действию, надписи элементов действия, поля создания профиля, позицию секций, картинки, карточки товаров, порядок этапов, фильтры, меню, баннеры, подсказки, email-сообщения и рекламные креативы. Необходимо, для того чтобы указанный блок был связан с заданной задачей.
Если задача заключается в процессе увеличении заполненных заявок, разумно проверять заявку, сообщение возле этого блока, объем строк а также заметность CTA. Когда нужно увеличить объем изучения, имеет смысл тестировать переходы, блоки рекомендаций, внутрисайтовые линки а также структуру раздела. Насколько прямее соотношение 1win в паре правкой плюс метрикой, настолько информативнее итог проверки.
Гипотеза как фундамент эксперимента
Любой хороший A/B проверка начинается от гипотезы. Проверяемая идея формулирует, какого типа правка рассматривается, по какой причине это изменение способно повлиять на эффект и какой именно показатель обязан сдвинуться. К примеру, допустимо допустить, что уменьшение анкеты оформления аккаунта уменьшит число незавершенных действий, так как что именно посетителю потребуется меньший объем времени для завершения шага.
Качественная формулировка не обязана должна быть слишком размытой. Формулировка наподобие «улучшить страницу качественнее» не позволяет помогает оценить эффект. Намного более ценный вариант: «когда обновить объемный надпись кнопки на короткий и понятный, число кликов вырастет, так как что ожидаемый результат станет яснее». Подобная гипотеза сразу же 1вин указывает объект эксперимента, логику и метрику.
Исходная плюс измененная группы
В А/Б эксперименте контрольная аудитория получает первоначальный формат, а проверочная — новый. Подобное распределение нужно с целью честного сравнения. Если только поменять страницу и сравнить показатели до и после изменения, результат способен стать неточным из-за сезонных факторов, маркетинговой кампании, изменения каналов трафика, новостей, системных ошибок а также других сторонних факторов.
Одновременный показ нескольких версий снижает воздействие внешних условий. Контрольная и тестовая выборки остаются на уровне схожей ситуации: единый и же же отрезок, одинаковые же потоки пользователей, близкие устройства и одинаковый контекст. Из-за этого расхождение в метриках с большей 1 win значительной долей уверенности объясняется именно с изменением, а не столько с внешними сторонними обстоятельствами.
Какие метрики используются внутри А/Б экспериментах
Критерий — представляет собой значение, по которому оценивается результат проверки. Определение критерия зависит с учетом цели теста. В случае лендинга с формой важны заполнения заявок, ради онлайн-магазина — сохранения к заказ плюс заказы, ради медиаресурса — глубина чтения плюс длительность сессии, ради сервиса — оформления профилей, активации, удержание и повторные 1win события.
Существенно различать основную и вспомогательные критерии. Ключевая показывает, зачем чего проводится эксперимент. Вторичные позволяют понять сопутствующие последствия. К примеру, изменение CTA имеет шанс повысить нажатия, однако снизить качество дальнейших действий. Из-за этого полезно смотреть не только в сторону первый этап, но и по последующее поведение: окончание заявки, возвраты, уходы, ошибки и общую ценность действия.
Математическая существенность
Математическая значимость показывает, насколько реалистично, поскольку полученная отличие в паре решениями не считается является случайным колебанием. Если конкретный формат незначительно обходит другой после пары десятков визитов, такой результат все еще не означает выигрыш. При небольшом объеме сведений результат способен оперативно поменяться, после того как 1вин аудитория окажется больше.
Для достоверного вывода требуется нужное количество событий. Чем меньше предполагаемая отличие среди вариантами, тем значительнее данных потребуется накопить. Когда правка обязано улучшить результат лишь на пару процентов, эксперименту будет необходимо больше длительности а также трафика. Математическая существенность позволяет избегать выносить преждевременные действия с опорой на базе временных скачков.
Масштаб аудитории а также длительность проверки
Размер группы воздействует на достоверность вывода. Если проверка охватывает чрезмерно небольшое число людей, заключения имеют шанс быть сомнительными. К примеру, несколько лишних нажатий внутри конкретной аудитории могут показываться в виде рост, однако при значительном объеме станут нормальной погрешностью. Следовательно до момента начала полезно понимать, какой объем людей 1 win или событий необходимо ради проверки идеи.
Длительность теста также имеет роль. Слишком быстрый тест может не учитывать показывать различия в паре рабочими плюс праздничными днями, рабочей и поздней посещаемостью, разными источниками трафика. Как правило эксперимент нужен чтобы включать полный круг действий аудитории. При таком подходе слишком продолжительный эксперимент тоже неподходящ, в случае если сторонние обстоятельства начинают заметно измениться.
Почему нельзя корректировать проверку во процесс работы
Распространенная из распространенных проблем — добавлять изменения в проверку после момента старта. Если внутри середине эксперимента поменять формулировку, группу, оформление, правила вывода или метрику, данные перемешаются. В таком случае окажется трудно выяснить, какой фактор именно повлияло на итог. Эксперимент потеряет чистоту, при этом результаты станут спорными 1win.
Перед начала необходимо определить проверяемую идею, варианты, метрики, распределение выборки плюс условия остановки. После запуска лучше не корректировать тест без серьезной необходимости. В случае если найдена проблема на уровне запуске или системный проблема, разумнее остановить эксперимент, починить сбой и создать новый проверку, чем пробовать анализировать некорректные данные.
Одновременное проверка разных корректировок
Порой возникает желание проверить сразу несколько изменений: обновленный headline, иную CTA, упрощенную заявку плюс обновленный последовательность элементов. Такой метод имеет шанс дать итоговый результат, при этом не покажет объяснит, какого типа конкретно фактор сказался в отношении метрику. В случае если обновленная версия выиграла, сохранится непонятно, какой элемент повлияло лучше прочего.
Для корректной проверки как правило изменяют единственный существенный элемент за 1вин одну проверку. В случае если требуется проверить разные вариаций, используется мультивариантное эксперимент. Этот формат труднее, нуждается повышенного трафика плюс внимательной расшифровки. Для большинства целей A/B проверка с одной одной точной идеей обеспечивает намного более корректный и ценный итог.
Варианты A/B экспериментов на уровне UI
Внутри интерфейсах A/B тестирование часто задействуется ради повышения понятности действий. К примеру, допустимо проверить несколько версии формы: объемную с полным количеством полей а также упрощенную с небольшим малым набором полей. Если короткая анкета повышает количество оконченных регистраций без риска потери результативности обращений, ее допустимо признавать более результативной.
Еще один сценарий — сравнение формулировки CTA. Общая фраза может оказаться менее очевидной, чем конкретное объяснение шага. Дополнительно проверяют место кнопок, порядок информационных разделов, оформление 1 win пояснений, использование прогресс-бара, метод вывода ошибок а также количество шагов внутри процессе. Отдельный такой объект сказывается на то самое, как удобно окончить целевое событие.
A/B проверка на уровне материалах
В материалах проверка дает возможность выяснить, какого типа заголовки, тексты, построения а также варианты лучше привлекают внимание. Допустимо проверять разные вступления, размер текста, последовательность аргументов, присутствие перечней, оформление блоков, описание преимуществ а также стиль объяснения сложной темы. При таком подходе необходимо измерять не исключительно только клики, однако еще дальнейшее поведение.
Название может повысить объем переходов, при этом когда содержание не сможет отвечает ожиданиям, вырастет часть уходов. Следовательно контентные проверки должны принимать во внимание ценность взаимодействия: период чтения, прокрутку, клики на уровне ресурса, возвраты а также выполнение нужных событий. Сильный результат — является не только лишь получение интереса, вместо этого согласование интереса и контента.
A/B эксперимент на уровне email-рассылках
Внутри email-кампаниях обычно сравнивают заголовки сообщений, название отправителя, стартовые строки, момент доставки, объем email, место CTA-элементов и формулировки офферов. Один сегмент подписчиков открывает контрольную формат сообщения, часть — тестовую. Затем рассылкой сравниваются открытия, переходы, unsubscribes, негативные сигналы плюс последующие действия внутри сайте.
Существенно не стоит останавливаться метрикой просмотров письма. Subject-строка email способна стать яркой плюс получать внимание, при этом в случае если формулировка не сможет соответствует содержанию, нажатия а также лояльность могут снизиться. Следовательно полезный почтовый эксперимент оценивает полную последовательность: open-событие, клик, активность сразу после нажатия а также отклик аудитории на сообщение.
