Несколько вопросов: 1) Какую точку отсечения вы выбрали по стат значимости? 90%? 2) На первом этапе вы стат значимость считали для сравнения лучшей вариации с базой или остальные вариации также сравнивали между собой? 3) Почему вы не считете стат значимость для среднего чека? Вы же понимаете что без этого сравнение среднего чека не имеет смысла? 4) Не расскажете как персональные рекоммендации считали? Коллаборативная фильтрация через косинусное расстояние? Или что-то сложнее? 5) Как вы считаете рекомендации для новых пользователей?
Дмитрий, спасибо за конструктивные вопросы! По порядку: 1) 90% считаем достаточным для принятия решения в e-commerce. 2) сравнивали с базовой с учетом мультивариантности тестирования 3) Мы считаем значимость для среднего чека и она обязательно учитывается при принятии решения. Средний чек - величина очень волатильная с очень широкими доверительными интервалами, именно поэтому мы стараемся не опираться на него при принятии решения и выбрать победу по среднему чеку, если результаты стабильные и очень достоверные. При этом так же как не имеет смысла принимать решение без статистического обоснования решения, так же не имеет смысла упираться только в статистику, забывая о том, что дополнительное время сбора данных стоит клиенту упущенной выручки 4) и 5) на эти вопросы, к сожалению, ответить не можем - это особенности работы наших алгоритмов, коммерческая тайна. Некоторые детали мы рассказываем в нашем блоге на Хабре - https://habr.com/company/retailrocket/
Кому лень читать: 1. Методом подбора засунули в главную, в категорию и карточки товаров блоки с биг датой, сопутствующими товарами и товарами из смежных категорий. По сути, стандартные блоки, которые есть почти в каждом готовом шаблоне сайта тыщ за 10. 2. Оставили то, где больше конверсия. 3. Profit.
+ 9,5% к выручке после - это мало, вывез неплохой трафик, при меньших объемах особо ничего не заметите.
Зашёл на главную, и вот что у меня в рекомендациях, это лол:
Артем, нет, не методом подбора, а тестированием вариантов, которые по нашему опыту показывают наилучшие результаты. В разных сферах и разных магазинах эффективность отличается, где-то лучше работают одни алгоритмы, где-то другие. Для этого Growth Hacker'ы и проводят исследования. Рост на 9,5% - значительный рост для многих магазинов. Попробуйте походить по сайту, а потом вернитесь на главную и посмотрите, как изменились рекомендации. Персонализация тем эффективнее, чем больше данных у системы есть о пользователе.
Хороший сайт покупаю часто, потому что на сайте большие скидки, делаю заказ на сайте, после работы, по дороге в метро забираю заказ экономия минимум 30% Думаю доход взлетел не потому что рекомендация или большие блоки, а потому что на главной сайта скидка 40% на новый бестселлер, и ты такой - надо брать!
Алексей, исследования проводились с помощью A/B-тестирования, наличие скидки влияет на оба сегмента, поэтому прирост конверсии и выручки - это эффект персонализации.
Так реальный рост выручки или всего лишь прогнозируемый? ))) Проблема большинства А/Б тестов в том, что люди делают анализ на небольшом числе конверсий. Формулы расчета достоверности часто врут. Забейте в них для двух вариантов: 4 и 8 конверсий, и получите достоверность 90%, хотя на самом деле близко к 50%. У вас сколько было конверсий на каждый из вариантов?
Несколько вопросов:
1) Какую точку отсечения вы выбрали по стат значимости? 90%?
2) На первом этапе вы стат значимость считали для сравнения лучшей вариации с базой или остальные вариации также сравнивали между собой?
3) Почему вы не считете стат значимость для среднего чека? Вы же понимаете что без этого сравнение среднего чека не имеет смысла?
4) Не расскажете как персональные рекоммендации считали? Коллаборативная фильтрация через косинусное расстояние? Или что-то сложнее?
5) Как вы считаете рекомендации для новых пользователей?
Дмитрий, спасибо за конструктивные вопросы! По порядку:
1) 90% считаем достаточным для принятия решения в e-commerce.
2) сравнивали с базовой с учетом мультивариантности тестирования
3) Мы считаем значимость для среднего чека и она обязательно учитывается при принятии решения. Средний чек - величина очень волатильная с очень широкими доверительными интервалами, именно поэтому мы стараемся не опираться на него при принятии решения и выбрать победу по среднему чеку, если результаты стабильные и очень достоверные. При этом так же как не имеет смысла принимать решение без статистического обоснования решения, так же не имеет смысла упираться только в статистику, забывая о том, что дополнительное время сбора данных стоит клиенту упущенной выручки
4) и 5) на эти вопросы, к сожалению, ответить не можем - это особенности работы наших алгоритмов, коммерческая тайна. Некоторые детали мы рассказываем в нашем блоге на Хабре - https://habr.com/company/retailrocket/
Кому лень читать:
1. Методом подбора засунули в главную, в категорию и карточки товаров блоки с биг датой, сопутствующими товарами и товарами из смежных категорий. По сути, стандартные блоки, которые есть почти в каждом готовом шаблоне сайта тыщ за 10.
2. Оставили то, где больше конверсия.
3. Profit.
+ 9,5% к выручке после - это мало, вывез неплохой трафик, при меньших объемах особо ничего не заметите.
Зашёл на главную, и вот что у меня в рекомендациях, это лол:
Кому лень читать:Да вы видимо тоже не сильно удосужились.
На пальцах: 340к трафика по симилару * 1% конверсии * 1500р среднего чека = 500тр в месяц выручки. Можете больше сделать?
Артем, нет, не методом подбора, а тестированием вариантов, которые по нашему опыту показывают наилучшие результаты. В разных сферах и разных магазинах эффективность отличается, где-то лучше работают одни алгоритмы, где-то другие. Для этого Growth Hacker'ы и проводят исследования. Рост на 9,5% - значительный рост для многих магазинов.
Попробуйте походить по сайту, а потом вернитесь на главную и посмотрите, как изменились рекомендации. Персонализация тем эффективнее, чем больше данных у системы есть о пользователе.
не вижу лола?
Хороший сайт покупаю часто, потому что на сайте большие скидки, делаю заказ на сайте, после работы, по дороге в метро забираю заказ экономия минимум 30%
Думаю доход взлетел не потому что рекомендация или большие блоки, а потому что на главной сайта скидка 40% на новый бестселлер, и ты такой - надо брать!
Алексей, исследования проводились с помощью A/B-тестирования, наличие скидки влияет на оба сегмента, поэтому прирост конверсии и выручки - это эффект персонализации.
Так реальный рост выручки или всего лишь прогнозируемый? )))
Проблема большинства А/Б тестов в том, что люди делают анализ на небольшом числе конверсий. Формулы расчета достоверности часто врут. Забейте в них для двух вариантов: 4 и 8 конверсий, и получите достоверность 90%, хотя на самом деле близко к 50%.
У вас сколько было конверсий на каждый из вариантов?