Обработка статистики в системе управления баннерной рекламой Артём Вольфтруб

Общая архитектура системы

Размеры рекламной сети

Более 200 000 рекламных площадок
Более 20 000 рекламодателей
Более 450

Нагрузка на систему

15 000 запросов к баннерным машинам в секунду
Около 500



Число регистрируемых событий

Распределение нагрузки
Балансирвка запросов с помощью аппаратного LB
Повышение отказоустойчивости
Взаимозаменяемость баннерных машин
Дублирование ключевых

Особенности бизнес модели

Качество сервиса определяется количеством участников
Отсутствует комиссия за показы
Площадки



Что регистрируем

Показы
Клики
Транзакции

Комиссия за клики и транзакции



Основные проблемы

Очень много данных
Очень мало времени на обработку
Система должна работать непрерывно



Способы уменьшения объема данных

Предварительная группировка
Проверка кликов

Способы ускорения обработки

Ускорение загрузки там, где это возможно
Задачи не должны блокировать



Этапы обработки статистики

Загрузка логов с баннерных серверов
Предварительная группировка данных
Проверка кликов
Загрузка данных

Проблемы базы данных

Гигантский объем таблиц с показами и кликами
Необходимо блокировать загрузку

Предварительное заполнение БД

Денормализация данных

Отображение статистики

Почему мы кэшируем данные

Запросы часто повторяются
Статистика обновляется по расписанию. Если нет



Контроль работоспособности

Остановка системы приводит к лавинообразному накоплению необработанной информации
Клиенты хотят видеть

Основные индикаторы

Число необработанных файлов на сервере
Задержка загрузки файлов с баннер сервера
Задержка



Что мы контролируем

Баннерные сервера
Сервер обработки статистики
База данных



Как мы контролируем

Готовые решения для контроля на аппаратном уровне (Nagios)
Собственные разработки



Как защититься от сбоев

Раньше знаешь, больше спишь
Проблему нужно предвидеть
С проблемой нужно