Академический Документы
Профессиональный Документы
Культура Документы
Авито
Цены на Авито: как мы
управляем миллиардом
значений
1 СКАЧАНО С WWW.SHAREWOOD.BIZ
dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Что сейчас будет?
Рассказывает Дмитрий Климинский
Специализация Backend-разработка
Чем занимается Разработчик серверной части
Опыт 6 лет
Время выступления 35 минут
Вопросы В конце выступления, 15 минут
Контакты Пишите!
2 СКАЧАНО С WWW.SHAREWOOD.BIZ
dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Как зарабатывает Авито?
3 СКАЧАНО С WWW.SHAREWOOD.BIZ
dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Как зарабатывает Авито?
- 👉 Авито — это classified.
4 СКАЧАНО С WWW.SHAREWOOD.BIZ
dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Как зарабатывает Авито?
- Авито — это classified.
- 👉 Деньги: размещение и продвижение объявлений.
5 СКАЧАНО С WWW.SHAREWOOD.BIZ
dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Как зарабатывает Авито?
- Авито — это classified.
- Деньги: размещение и продвижение объявлений.
- 👉 Не только частные пользователи.
6 СКАЧАНО С WWW.SHAREWOOD.BIZ
dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Как зарабатывает Авито?
7 СКАЧАНО С WWW.SHAREWOOD.BIZ
dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Цен очень много
8 СКАЧАНО С WWW.SHAREWOOD.BIZ
dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Цен очень много
- 👉 3 730 городов.
9 СКАЧАНО С WWW.SHAREWOOD.BIZ
dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Цен очень много
- 3 730 городов.
- 👉 10 283 категорий товаров.
СКАЧАНО С WWW.SHAREWOOD.BIZ
10 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Цен очень много
- 3 730 городов.
- 10 283 категорий товаров.
- 👉 >50 вариантов услуг.
СКАЧАНО С WWW.SHAREWOOD.BIZ
11 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Цен очень много
- 3 730 городов.
- 10 283 категорий товаров.
- >50 вариантов услуг.
- 👉 = больше миллиарда комбинаций.
СКАЧАНО С WWW.SHAREWOOD.BIZ
12 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
И цены постоянно меняются
СКАЧАНО С WWW.SHAREWOOD.BIZ
13 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Аналитики
СКАЧАНО С WWW.SHAREWOOD.BIZ
14 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Аналитики
- 👉 Работают с программистами в команде.
СКАЧАНО С WWW.SHAREWOOD.BIZ
15 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Аналитики
- Работают с программистами в команде.
- 👉 Оптимизируют выручку.
СКАЧАНО С WWW.SHAREWOOD.BIZ
16 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Аналитики
- Работают с программистами в команде.
- Оптимизируют выручку.
- 👉 Прогнозируют изменение цен.
СКАЧАНО С WWW.SHAREWOOD.BIZ
17 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Аналитики
- Работают с программистами в команде.
- Оптимизируют выручку.
- Прогнозируют изменение цен.
- 👉 Следят за балансом покупателей и продавцов.
СКАЧАНО С WWW.SHAREWOOD.BIZ
18 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Python!
СКАЧАНО С WWW.SHAREWOOD.BIZ
19 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Python!
- 👉 Авито изначально PHP-монолит.
СКАЧАНО С WWW.SHAREWOOD.BIZ
20 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Python!
- Авито изначально PHP-монолит.
- 👉 Растаскиваем его на микросервисы, делимся на "юниты".
СКАЧАНО С WWW.SHAREWOOD.BIZ
21 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Python!
- Авито изначально PHP-монолит.
- Растаскиваем его на микросервисы, делимся на "юниты".
- 👉 Изолированный юнит работы с ценами на Python 3.6.
СКАЧАНО С WWW.SHAREWOOD.BIZ
22 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Python!
- Авито изначально PHP-монолит.
- Растаскиваем его на микросервисы, делимся на "юниты".
- Изолированный юнит работы с ценами на Python 3.6.
- 👉 Django для админки.
СКАЧАНО С WWW.SHAREWOOD.BIZ
23 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Python!
- Авито изначально PHP-монолит.
- Растаскиваем его на микросервисы, делимся на "юниты".
- Изолированный юнит работы с ценами на Python 3.6.
- Django для админки.
- 👉 Tornado + asyncio event loop.
СКАЧАНО С WWW.SHAREWOOD.BIZ
24 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Python!
- Авито изначально PHP-монолит.
- Растаскиваем его на микросервисы, делимся на "юниты".
- Изолированный юнит работы с ценами на Python 3.6.
- Django для админки.
- Tornado + asyncio event loop.
- 👉 PostgreSQL с "матрицей цен" + redis-кэш.
СКАЧАНО С WWW.SHAREWOOD.BIZ
25 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Матрица цен
+ = базовая матрица
СКАЧАНО С WWW.SHAREWOOD.BIZ
26 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Матрица цен
СКАЧАНО С WWW.SHAREWOOD.BIZ
27 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Матрица цен
СКАЧАНО С WWW.SHAREWOOD.BIZ
dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Нормализованная база
id location category type data
3000 Балашиха Манчкин Услуги {VAS: {up: 30, turbo: 50, ...}}
СКАЧАНО С WWW.SHAREWOOD.BIZ
29 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Наложение матриц
Эксперимент
Эксперимент
Базовая матрица
СКАЧАНО С WWW.SHAREWOOD.BIZ
30 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Несколько "матриц" одновременно
id place category data matrix
СКАЧАНО С WWW.SHAREWOOD.BIZ
31 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Несколько "матриц" одновременно
- 👉 Каждый аналитик оперирует отдельной "матрицей".
СКАЧАНО С WWW.SHAREWOOD.BIZ
32 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Несколько "матриц" одновременно
- Каждый аналитик оперирует отдельной "матрицей".
- 👉 Админка для "матриц" и включения экспериментов.
СКАЧАНО С WWW.SHAREWOOD.BIZ
33 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Несколько "матриц" одновременно
- Каждый аналитик оперирует отдельной "матрицей".
- Админка для "матриц" и включения экспериментов.
СКАЧАНО С WWW.SHAREWOOD.BIZ
34 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Результаты экспериментов для аналитиков
СКАЧАНО С WWW.SHAREWOOD.BIZ
35 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Работа с матрицами из Python-кода
СКАЧАНО С WWW.SHAREWOOD.BIZ
36 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Работа с матрицами из Python-кода
СКАЧАНО С WWW.SHAREWOOD.BIZ
37 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Pipeline работы с данными
СКАЧАНО С WWW.SHAREWOOD.BIZ
38 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Pipeline работы с данными
- 👉 ETL между Vertica и базой.
СКАЧАНО С WWW.SHAREWOOD.BIZ
39 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Pipeline работы с данными
- ETL между Vertica и базой.
- 👉 COPY FROM/TO с временной таблицей.
СКАЧАНО С WWW.SHAREWOOD.BIZ
40 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Pipeline работы с данными
- ETL между Vertica и базой.
- COPY FROM/TO с временной таблицей.
- 👉 Автоматическая отправка цен обратно в Vertica.
СКАЧАНО С WWW.SHAREWOOD.BIZ
41 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Pipeline работы с данными
- ETL между Vertica и базой.
- COPY FROM/TO с временной таблицей.
- Автоматическая отправка цен обратно в Vertica.
- 👉 Python-валидатор констистентности.
СКАЧАНО С WWW.SHAREWOOD.BIZ
42 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Pipeline работы с данными
- ETL между Vertica и базой.
- COPY FROM/TO с временной таблицей.
- Автоматическая отправка цен обратно в Vertica.
- Python-валидатор констистентности:
- 👉 "Полное покрытие": всегда можно найти цену.
СКАЧАНО С WWW.SHAREWOOD.BIZ
43 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Pipeline работы с данными
- ETL между Vertica и базой.
- COPY FROM/TO с временной таблицей.
- Автоматическая отправка цен обратно в Vertica.
- Python-валидатор констистентности:
- "Полное покрытие": всегда можно найти цену.
- 👉 Нет конфликтов между "матрицами".
СКАЧАНО С WWW.SHAREWOOD.BIZ
44 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Абстрактный расчет рисков
СКАЧАНО С WWW.SHAREWOOD.BIZ
45 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Абстрактный расчет рисков
- 👉 3 600 с
СКАЧАНО С WWW.SHAREWOOD.BIZ
46 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Абстрактный расчет рисков
- 3 600 с
- 👉 1 000 RPS = 3 600 000
СКАЧАНО С WWW.SHAREWOOD.BIZ
47 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Абстрактный расчет рисков
- 3 600 с
- 1 000 RPS
- 👉 10% = 360 000
СКАЧАНО С WWW.SHAREWOOD.BIZ
48 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Абстрактный расчет рисков
- 3 600 с
- 1 000 RPS
- 10%
- 👉 100 руб = 36 000 000
СКАЧАНО С WWW.SHAREWOOD.BIZ
49 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Надежность
СКАЧАНО С WWW.SHAREWOOD.BIZ
50 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Надежность
- 👉 Матрицу можно выложить на прод с флагом "test".
СКАЧАНО С WWW.SHAREWOOD.BIZ
51 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Надежность
- Матрицу можно выложить на прод с флагом "test".
- 👉 Staging-сервер, на который направлено 5% трафика с production.
СКАЧАНО С WWW.SHAREWOOD.BIZ
52 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Надежность
- Матрицу можно выложить на прод с флагом "test".
- Staging-сервер, на который направлено 5% трафика с production.
- 👉 Проверяем расхождение цен между старой и новой версией.
СКАЧАНО С WWW.SHAREWOOD.BIZ
53 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Надежность
- Матрицу можно выложить на прод с флагом "test".
- Staging-сервер, на который направлено 5% трафика с production.
- Проверяем расхождение цен между старой и новой версией.
- 👉 Graceful degradation.
СКАЧАНО С WWW.SHAREWOOD.BIZ
54 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Надежность
- Матрицу можно выложить на прод с флагом "test".
- Staging-сервер, на который направлено 5% трафика с production.
- Проверяем расхождение цен между старой и новой версией.
- Graceful degradation.
- 👉 "Зашиваем" цены в монолите.
СКАЧАНО С WWW.SHAREWOOD.BIZ
55 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Выводы
СКАЧАНО С WWW.SHAREWOOD.BIZ
56 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Выводы
- 👉 С Big Data можно столкнуться где угодно.
СКАЧАНО С WWW.SHAREWOOD.BIZ
57 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Выводы
- С Big Data можно столкнуться где угодно.
- 👉 Python очень помогает в качестве "универсального клея".
СКАЧАНО С WWW.SHAREWOOD.BIZ
58 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Выводы
- С Big Data можно столкнуться где угодно.
- Python очень помогает в качестве "универсального клея".
- 👉 Думаем, как перевести все на формулы.
СКАЧАНО С WWW.SHAREWOOD.BIZ
59 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice
Это всё!
Вопросы?
СКАЧАНО С WWW.SHAREWOOD.BIZ
60 dmitry.kliminsky@gmail.com - ПРИСОЕДИНЯЙСЯ!
Дмитрий Климинский https://bit.ly/mpc2019aprice