2011 Масштабирование и отказоустойчивость с Nginx Специально для TulaDev.net. - презентация

Август 29, 2022

Главная
Технология
2011 Масштабирование и отказоустойчивость с Nginx Специально для TulaDev.net. - презентация

Содержание

2. For TulaDev.net \ 2011 О чем доклад? Доклад об Nginx. Nginx – это маленький, но удаленький
3. For TulaDev.net \ 2011 О чем доклад? Разработчик: Игорь Сысоев, в настоящий момент работает в Rambler.
4. For TulaDev.net \ 2011 ОМГ, а где же Microsoft? В докладе я постараюсь показать, что масштабировать
5. For TulaDev.net \ 2011 Давайте определим понятия Масштабирование – это механизм, позволяющий пропорционально увеличивать производительность системы
6. For TulaDev.net \ 2011 Зачем это нужно? Для того, чтобы понять, зачем я затеял этот доклад,
7. For TulaDev.net \ 2011 Зачем это нужно? Протокол обращений к серверу:
8. For TulaDev.net \ 2011 Зачем это нужно? Давайте немного детальнее разберем, что это за запросы: 45
9. For TulaDev.net \ 2011 Зачем это нужно? Оперируя понятиями .NET, C#, ASP мы с вами сможем
10. For TulaDev.net \ 2011 А есть ли проблема? Так может быть нет ничего страшного в этих
11. For TulaDev.net \ 2011 Тестовое окружение Oracle VM VirtualBox 3 виртуальные машины, соединенные сетью 1 Gbps:
12. For TulaDev.net \ 2011 Давайте посмотрим Проведем 1-й эксперимент: Маленький HTML файл, ~150 байт. Посмотрим, с
13. For TulaDev.net \ 2011 Давайте посмотрим Проведем 2-й эксперимент: Большой EXE файл, ~1 Mбайт. Посмотрим, с
14. For TulaDev.net \ 2011 Откуда такая разница? Коренная причина в особенностях web-серверов. IIS – это вообще-то
15. For TulaDev.net \ 2011 Что позволяет Nginx Масштабирование Nginx позволяет скрывать за собой сотни серверов, которые
16. For TulaDev.net \ 2011 Что позволяет Nginx Отказоустойчивость Nginx сам является единой точкой отказа. Чтобы обеспечить
17. For TulaDev.net \ 2011 И снова, а где Microsoft? Nginx – это не панацея. Он не
18. For TulaDev.net \ 2011 Как смасштабировать IIS Известные мне способы DNS round robin Nginx proxy_pass Common
19. For TulaDev.net \ 2011 Где Nginx не поможет Для обработки 1-го запроса не хватает мощности 1-го
21. Скачать презентацию

Слайд 2

$For TulaDev.net \ 2011 О чем доклад? Доклад об Nginx. Nginx$

For TulaDev.net \ 2011
О чем доклад?
Доклад об Nginx. Nginx – это маленький,

но удаленький HTTP-сервер.
Что он умеет:
обслуживание статических запросов;
акселерированное проксирование с кэшированием;
простое распределение нагрузки и отказоустойчивость;
Может работать на:
FreeBSD 3-7 (i386, amd64);
Linux 2.2-2.6 (i386); Linux 2.6 (amd64);
Solaris 9 (i386, sun4u); Solaris 10 (i386, amd64, sun4v);
MacOS X (ppc, i386);
Windows XP, Windows Server 2003.
В общем работает на всем, что движется где есть процессор. На моем WiFi-маршрутизаторе дома, например, работать будет ☺

Слайд 3

$For TulaDev.net \ 2011 О чем доклад? Разработчик: Игорь Сысоев, в$

For TulaDev.net \ 2011
О чем доклад?
Разработчик:
Игорь Сысоев, в настоящий момент работает

в Rambler.
12 апреля 2011 года выпустил версию 1.0
Насколько популярен (данные netcraft.com, май 2011):
Насколько популярен (данные w3techs.com, май 2011):
«Nginx is used by 7.1% of all the websites whose web server we know».
Для .ru доменов - 47.7%.
http://w3techs.com/technologies/breakdown/ws-nginx/top_level_domain

Слайд 4

$For TulaDev.net \ 2011 ОМГ, а где же Microsoft? В докладе$

For TulaDev.net \ 2011
ОМГ, а где же Microsoft?
В докладе я постараюсь

показать, что масштабировать любые web-приложения (даже на Microsoft-платформе) при помощи Nginx – это:
Дешево
Просто
Эффективно
Надежно

Слайд 5

$For TulaDev.net \ 2011 Давайте определим понятия Масштабирование – это механизм,$

For TulaDev.net \ 2011
Давайте определим понятия
Масштабирование – это механизм, позволяющий пропорционально

увеличивать производительность системы за счет добавления нового оборудования.
Отказоустойчивость – это механизм, позволяющий не терять работоспособности системы при выходе из строя единицы оборудования.
Можно рассматривать эти термины в контексте программ, компьютеров или компьютерных комплексов (кластеров).

Слайд 6

$For TulaDev.net \ 2011 Зачем это нужно? Для того, чтобы понять,$

For TulaDev.net \ 2011
Зачем это нужно?
Для того, чтобы понять, зачем я

затеял этот доклад, давайте сделаем эксперимент.
Давайте посчитаем, сколько запросов к среднестатистическому сайту делает среднестатистический пользователь.
Возьмем первый попавшийся сайт, например, http://www.tuladev.net/

Слайд 7

$For TulaDev.net \ 2011 Зачем это нужно? Протокол обращений к серверу:$

For TulaDev.net \ 2011
Зачем это нужно?
Протокол обращений к серверу:

Слайд 8

$For TulaDev.net \ 2011 Зачем это нужно? Давайте немного детальнее разберем,$

For TulaDev.net \ 2011
Зачем это нужно?
Давайте немного детальнее разберем, что это

за запросы:
45 запросов при загрузке одной страницы!
22 запроса к домену tuladev.net
21 запрос к статическим файлам
2 несуществующих файла (404 ответ)
1 запрос к ASP странице
95% запросов для обработки не требуют никакой сложной логики. С обработкой таких запросов вполне мог бы справиться один из первых HTTP-серверов в истории человечества.

Слайд 9

$For TulaDev.net \ 2011 Зачем это нужно? Оперируя понятиями .NET, C#,$

For TulaDev.net \ 2011
Зачем это нужно?
Оперируя понятиями .NET, C#, ASP мы

с вами сможем оптимизировать лишь 5% всех запросов, обрабатываемых сервером для того, чтобы отобразить пользователю главную страницу этого среднестатистического сайта.
Чтобы оптимизировать остальные 95% нам нужно разбираться уже не столько в .NET, сколько в настройках и производительности web-сервера.
Этот вопрос лежит скорее в области системного администрирования, но я думаю, что мы с вами разберемся.

Слайд 10

$For TulaDev.net \ 2011 А есть ли проблема? Так может быть$

For TulaDev.net \ 2011
А есть ли проблема?
Так может быть нет ничего

страшного в этих запросах к статическим файлам?
Может быть это всего лишь «песок» и он не оказывает существенного влияния на скорость загрузки страницы.
Чтобы ответить на этот вопрос давайте вспомним, что быстрее скопировать: 1 файл в 1 Mb или 1000 в 1 Kb?
Мелкие файлы всегда медленнее передавать из-за наличия накладных расходов.

Слайд 11

$For TulaDev.net \ 2011 Тестовое окружение Oracle VM VirtualBox 3 виртуальные$

For TulaDev.net \ 2011
Тестовое окружение
Oracle VM VirtualBox
3 виртуальные машины, соединенные сетью

1 Gbps:
Windows Server 2003 (1Gb) – работает IIS 6.0 192.168.250.1:80 – IIS
Debian Linux (nginx) (256 Mb) – работает Nginx 1.0.1 192.168.250.2:80 – Apache 192.168.250.3:80 – Nginx 192.168.250.4:80 – Nginx
Debian Linux (benchmark) (256 Mb) для запуска “ab” IP не важен

Слайд 12

$For TulaDev.net \ 2011 Давайте посмотрим Проведем 1-й эксперимент: Маленький HTML$

For TulaDev.net \ 2011
Давайте посмотрим
Проведем 1-й эксперимент:
Маленький HTML файл, ~150 байт.
Посмотрим,

с какой скоростью его будет отдавать:
Apache
IIS
Nginx
В качестве тестирующего приложения буду использовать утилиту ApacheBench
http://httpd.apache.org/docs/2.0/programs/ab.html

Слайд 13

$For TulaDev.net \ 2011 Давайте посмотрим Проведем 2-й эксперимент: Большой EXE$

For TulaDev.net \ 2011
Давайте посмотрим
Проведем 2-й эксперимент:
Большой EXE файл, ~1 Mбайт.
Посмотрим,

Слайд 14

$For TulaDev.net \ 2011 Откуда такая разница? Коренная причина в особенностях$

For TulaDev.net \ 2011
Откуда такая разница?
Коренная причина в особенностях web-серверов.
IIS –

это вообще-то Application server.
Nginx – это HTTP-сервер. Он изначально создавался именно для целей быстрой обработки запросов.
Игорь Сысоев называет причиной такой разницы то, что nginx использует вызов sendfile (для не Linux платформ используются другие механизмы).
Читаем, что такое sendfile:
«системный вызов, который выполняет передачу файла за одно обращение», при этом «не происходит переключение контекста между пользовательским режимом и режимом ядра, а это весьма "дорогостоящая" операция».

Слайд 15

$For TulaDev.net \ 2011 Что позволяет Nginx Масштабирование Nginx позволяет скрывать$

For TulaDev.net \ 2011
Что позволяет Nginx
Масштабирование
Nginx позволяет скрывать за собой сотни

серверов, которые будут иметь единую точку входа. Распределять между ними запросы практически по достаточно широкому набору возможных правил.
Отключение любого из серверов бэкэнда не повлияет на работоспособности системы (естественно пропорционально просядет производительность)
Но отключение сервера с Nginx роняет всю систему. Как быть?

Слайд 16

$For TulaDev.net \ 2011 Что позволяет Nginx Отказоустойчивость Nginx сам является$

For TulaDev.net \ 2011
Что позволяет Nginx
Отказоустойчивость
Nginx сам является единой точкой отказа.

Чтобы обеспечить близкую к 100% отказоустойчивость нужно воспользоваться дополнительным механизмом.
CARP позволяет сделать так, что несколько машин могут обслуживать запросы к одному IP. Выход из строя любой из них не нарушает работоспособности системы.
На практике 2-х машин хватит, чтобы обеспечить очень близкую к 100% отказоустойчивость.

Слайд 17

$For TulaDev.net \ 2011 И снова, а где Microsoft? Nginx –$

For TulaDev.net \ 2011
И снова, а где Microsoft?
Nginx – это не

панацея.
Он не умеет выполнять приложения .NET (хотя умеет, например, perl)
Это всего лишь маленький легкий HTTP-сервер, который умеет здорово отдавать статические файлы.
Но кроме этого его можно использовать для проксирования других Web-серверов.
Вот тут и вступает в игру IIS.
Связка Nginx+IIS гораздо мощнее отдельного IIS или отдельного Nginx.

Слайд 18

$For TulaDev.net \ 2011 Как смасштабировать IIS Известные мне способы DNS$

For TulaDev.net \ 2011
Как смасштабировать IIS
Известные мне способы
DNS round robin
Nginx proxy_pass
Common

Address Redundancy Protocol (CARP)
Microsoft Azure (неявная реализация)
Microsoft Network Load Balancing (NLB)
Microsoft Application Request Routing (ARR)

Слайд 19

$For TulaDev.net \ 2011 Где Nginx не поможет Для обработки 1-го$

For TulaDev.net \ 2011
Где Nginx не поможет
Для обработки 1-го запроса не

хватает мощности 1-го сервера. (Если нужно склеить несколько разных блоков, то Nginx умеет SSI ☺).
Поток входящих запросов не могут обработать все доступные бэкенды. (Здравствуй, 504 Gateway time out).
Поток входящих запросов таков, что не справляется Nginx. Тут нужно применять DNS round robin.
По каким-то причинам нет возможности использовать Unix-систему. (Несмотря на то, что Nginx работает в Windows, производительность и надежность там будет не та).

2011 Масштабирование и отказоустойчивость с Nginx Специально для TulaDev.net. - презентация

Содержание

For TulaDev.net \ 2011О чем доклад?Доклад об Nginx. Nginx – это маленький,

For TulaDev.net \ 2011О чем доклад?Разработчик:Игорь Сысоев, в настоящий момент работает

For TulaDev.net \ 2011ОМГ, а где же Microsoft?В докладе я постараюсь

For TulaDev.net \ 2011Давайте определим понятияМасштабирование – это механизм, позволяющий пропорционально

For TulaDev.net \ 2011Зачем это нужно?Для того, чтобы понять, зачем я

For TulaDev.net \ 2011Зачем это нужно?Протокол обращений к серверу:

For TulaDev.net \ 2011Зачем это нужно?Давайте немного детальнее разберем, что это

For TulaDev.net \ 2011Зачем это нужно?Оперируя понятиями .NET, C#, ASP мы

For TulaDev.net \ 2011А есть ли проблема?Так может быть нет ничего

For TulaDev.net \ 2011Тестовое окружениеOracle VM VirtualBox3 виртуальные машины, соединенные сетью

For TulaDev.net \ 2011Давайте посмотримПроведем 1-й эксперимент:Маленький HTML файл, ~150 байт.Посмотрим,

For TulaDev.net \ 2011Давайте посмотримПроведем 2-й эксперимент:Большой EXE файл, ~1 Mбайт.Посмотрим,

For TulaDev.net \ 2011Откуда такая разница?Коренная причина в особенностях web-серверов.IIS –

For TulaDev.net \ 2011Что позволяет NginxМасштабированиеNginx позволяет скрывать за собой сотни

For TulaDev.net \ 2011Что позволяет NginxОтказоустойчивостьNginx сам является единой точкой отказа.

For TulaDev.net \ 2011И снова, а где Microsoft?Nginx – это не

For TulaDev.net \ 2011Как смасштабировать IISИзвестные мне способыDNS round robinNginx proxy_passCommon

For TulaDev.net \ 2011Где Nginx не поможетДля обработки 1-го запроса не

Похожие презентации