Рубрика «ab-тестирование»

Я соло-фаундер и единственный разработчик нишевого B2B-продукта. Лендинги для него я переделывал не раз: новая гипотеза — новая посадочная, под кампанию — ещё одна, плюс блог. Каждый раз повторялась одна и та же возня: не забыть мета-теги и Open Graph, прикрутить аналитику, не сломать индексацию, выкатить, проверить. Claude Code заметно ускорял это, но каждый запуск был «с нуля» — качество зависело от того, насколько удачно я в этот раз сформулировал промпт.

В какой-то момент я понял, что повторяю один и тот же процесс, и его можно зафиксировать. Так получилась Landforge — небольшая система Claude Code skillsЧитать полностью »

Линейная регрессия на стероидах: Double Machine Learning для устранения смещений в данных - 1

Любой аналитик знает, что самым надёжным способом проверки гипотез являются рандомизированные контролируемые эксперименты (RCT), или, как их называют в народе — Читать полностью »

Проблема. У вас один SSG-лендинг, на который льётся платный трафик из 12 разных рекламных кампаний. Каждая группа объявлений сделана под свою боль ЦА: «AI-сотрудники», «AI-агенты», «стратегическая сессия», «управленческая отчётность». Все ведут на один дефолтный hero «ИИ для бизнеса». Конверсия в заявку проседает на 30–50% по сравнению с разнотемными лендингами под каждую группу. Делать 12 отдельных лендингов — дорого по разработке и убивает SEO. Подменять hero JavaScript-ом на клиенте — FOUC, плохой Core Web Vitals, и Яндекс/Google видят дефолт.

В этой статье — рабочая схема, которую мы поставили в продакшен за один день: Читать полностью »

Привет! Меня зовут Денис. Уже более 5 лет работаю Senior Product Analyst в крупнейших IT-компаниях России, включая Тинькофф. Разрабатывал системы аналитики с полного нуля, провёл огромное количество A/B тестов и знаю всю внутреннюю кухню больших корпораций изнутри.

Я совершил множество ошибок на своём пути – и теперь здесь, чтобы помочь именно тебе их избежать и пройти этот путь быстрее!

Читать полностью »

В продуктовой аналитике легко дойти до состояния, когда экспериментов много, а уверенности в решениях мало.

Типовые симптомы:

  • тест идет «пока не станет понятно»;

  • MDE забывают зафиксировать (или берут «как обычно»);

  • p-value проверяют каждый день и закрывают эксперимент на первом же p < 0.05;

  • ARPU и другие денежные метрики шумят так, что любой вывод спорный;

  • после релиза эффект не подтверждается, в следствие чего доверие к экспериментам падает.

Читать полностью »

Всем привет!

Меня зовут Александр Щукин, я аналитик в СКБ «Контур». В этой статье я расскажу о базовых основах применения t‑критерия Стьюдента.

Для начала предлагаю Вам поучаствовать в викторине: если вы уверенно ответите на все вопросы ниже, то будете освобождены от прочтения этой статьи :-)

  1. Что именно распределяет t-распределение? Что за метрику мы видим на графике?

  2. Как Центральная предельная теорема помогает нам использовать t-распределение?

  3. Что такое критическое значение?

  4. В чем разница между одновыборочным и двухвыборочным тестом?

  5. Читать полностью »

Несогласованность эффектов или «Где деньги, Лебовски?» - 1

Приветствуем всех читателей! Сегодня мы, Никита и Маша из команды Ad-Hoc аналитики X5 Tech, расскажем о проблеме несогласованности оценок эффектов в A/B-тестировании и Causal Inference и предложим эффективный способ ее решения.

1. Предыстория

Читать полностью »

Привет! Я, Ева, руководитель продуктовой аналитики в М2, отвечаю за внедрение экспериментов и A/B-тестирования в компании. М2 — это онлайн-платформа для решения вопросов с недвижимостью. Сервисами М2 пользуются как частные лица, так и профессиональные участники рынка — риелторы, застройщики, банки. Мы помогаем тысячам людей экономить время, нервы и деньги.

Недавно мы завершили этап внедрения A/B‑платформы. Этот материал для тех, кто думает, как запустить эксперименты с ограниченными ресурсами, сохраняя здравый смысл.

Читать полностью »

Сегодня узнаем, что такое проблема подглядывания и почему она появляется. Реализуем аналог метода Покока и критерий Вальда для последовательного тестирования. Посмотрим, можно ли одновременно подглядывать и контролировать вероятности ошибок при том же размере групп. Обсудим границы применимости последовательного тестирования.

Меня зовут Коля, я работаю аналитиком данных в X5 Tech. Мы с Сашей продолжаем писать серию статей по А/Б тестированию. Предыдущие статьи можно найти в описании профиля.

Проблема подглядывания

Читать полностью »

Сегодня сравним два подхода к А/Б тестированию: байесовский и частотный. Обсудим сложности в интерпретации p-value. Посмотрим, как можно учитывать дополнительную информацию через априорное распределение. Остановим тест раньше времени и решим проблему подглядывания.

Меня зовут Коля, я работаю аналитиком данных в X5 Tech. Мы с Сашей продолжаем писать серию статей по А/Б тестированию. Предыдущие статьи можно найти в описании профиля.

Постановка задачи

Читать полностью »


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js