Gregory Gurevich Crescendo Networks V3 –Rit 2010

Crescendo Networks – Эволюция в мире WEB балансировки

Григорий Гуревич

Application Delivery Controllers (ADC) – Экскурс в историю

Конец 60х – начало 70х годов прошлого столетия• IBM mainframe - были не эффективны при интенсивной обработке

и лимитированных каналах связи

• Решение - Front End Processor (FEP), Основная роль FEP было высвободить вычислительную мощность на ЭВМ

Тенденции РынкаРазвитие новых интернет технологиий и моделей таких как Cloud, SaaS, Web 2.0 and Pay-per-Click позволяет рынку ADC бурно развиваться

$0

$500

$1,000

$1,500

$2,000

$2,500

$3,000

(Mill

ion

s $

)

2005 2006 2007 2008 2009 2010 2011 2012

Worldwide ADC Market

SLB ADC

Worldwide ADC MarketNew AccelerationTechnology

Old Load BalancingTechnology

Бой за клиентов Aberdeen Group утверждает 1 секунда задержки может уменьшить просмотр страниц на11%;

Amazon утверждает что 100ms задержки стоит им 1% продаж.

Google утверждает что +5 секунд потраченные на генерации поиска стоят 20% от трафикаhttp://glinden.blogspot.com/2006/11/marissa-mayer-at-web-20.html Брокер может потерять $4 миллиона от дохода за миллисекуду если его платформа для торговли отстаёт на 5 миллисекунд от конкурентов http://www.tabbgroup.com/PublicationDetail.aspx?PublicationID=346

Тенденции Рынка

"Компании, которые решили не использовать ADC могут рассчитывать на то, что потратят вдвое больше денег, пытаясь достичь аналогичных результатов компаний, которые используют ADC”

"Компании, которые решили не использовать ADC могут рассчитывать на то, что потратят вдвое больше денег, пытаясь достичь аналогичных результатов компаний, которые используют ADC”

Приложения не рулят бизнесом:Они и есть Бизнес !

Удовлетворение потребностей клиентов является высшим приоритетом для ИТ-производительность является наиболее частым вопросом развертывания

Приложения не рулят бизнесом:Они и есть Бизнес !

Удовлетворение потребностей клиентов является высшим приоритетом для ИТ-производительность является наиболее частым вопросом развертывания

Основные функции ADC TCP offload, HTTP multiplexing and acceleration

Zero latency compression

SSL offload and acceleration

L4-L7 local and global load balancing

Caching

DDoS and flash crowd protection

HTTP Rule layer 7

Могут ли все функции работать параллельно, под нагрузкой, без проблем с производительностью

?

► Параллельная обработка – ни одна функция не влияет на другую► Спец дизайн – аппаратная разработка на уровне FPGA► 80 микропроцессоров – каждый из которых мощный ЦПУ

Layer 210Gbpsprocessing

Multi-gigabitTCP Engine

Layer 3/410Gbpsprocessing

HTTPParsing

Buffering RegEx & XML Compression Load Balancing

Caching SSL

100% аппаратное решение

TCP

SSL

Compression

Ни одна функция не влияет на

производительность другойБольше функцийП

роиз

вод

ител

ьнос

ть

Аппаратное решение

Софтовое решение

производительность может упасть до 50% при одновременном

выполнении включённых функций

L7 rules

Производительность и параллельное использование функций

Архитектура аппаратного решения позволяет использовать несколько функций, работающих одновременно ".

TCP оптимизация, балансировка нагрузки, сжатия, SSL, все это может быть включено одновременно без того что бы одна функция влияла на производительность другой

В пиковые моменты ADC защищает приложения от излишней нагрузки

TCP Консолидация - /Multiplexing/Pooling Отдельные соедининия client-side и server-side Большое кол-во клиентских соединений мультиплексируются в небольшое кол-во back-end соединенийБуферезация запросов (both request and response)Данные свойства характерны только для ADC и не поддерживаются SLB

TCP разгрузка

GET A; GET B; GET C

GET A; GET B; GET C

GET A; GET B; GET C

GET F; GET A; GET C

GET E; GET F; GET G

GET B; GET C; GET E

GET C; GET D; GET E

GET B; GET A; GET D

GET C; GET D; GET E

GET A; GET B; GET D

TCP Session

TCP Session

TCP Session

TCP Session

TCP Session

TCP Session

TCP Session

TCP Session

TCP Session

TCP Session

Server

Before AfterGET A; GET B; GET C

GET A; GET B; GET C

GET A; GET B; GET C

GET F; GET A; GET C

GET E; GET F; GET G

GET B; GET C; GET E

GET C; GET D; GET E

GET B; GET A; GET D

GET C; GET D; GET E

GET A; GET B; GET D

Server

GET A; GET B; GET C;GET D; GET C; GET F

GET D GET D; GET CGET B; GET B

GET B; GET E; GET F;GET G; GET A; GET B

GET D

Буферезация запросов

Open (SYN)

(SYN/ACK)

ACK

Req 1/2

ACK

Req 2/2

RTO

Req 2/2

ACK

Client Server t

RTO

ServerADCMemory, CPU

More CPU, More Memory

Processing -> Memory Released

ClientOpen (SYN)

(SYN/ACK)

ACK

Req 1/2

ACK

Req 2/2

Req 2/2

ACK

Full Request

ACKMemory Alloc., Process, ReleaseResponse…

Response…

Буферезация ответов

tResp 1/2

ACK

Resp 2/2

RTO

Resp 2/2

ACK

Client ServerResponse Buffered

CPU, Memory

Memory Released

ServerADCClientResponse Buffered

Memory Released

RTO

Resp 1/2Resp 1/2

ACK

ACK

ACK

ACKResp 2/2

Resp 2/2

Resp 2/2

* При быстром развертывании

после ADCДо использования ADC

Нагрузка на процессор уменьшилась в разы

Производительность приложений

Load time of a 2.3 Mb HTML page Load time of a 7 Mb HTML page Portal home page

Direct 120 79 3.8

With Crescendo 10 23 1.5

10

30

50

70

90

110

Res

po

nse

Tim

e

Время отклика уменьшается до 70%

Критерии для выбора• Аппаратное решение лучше софтового

• Проверка работоспособности обязана быть под нагрузкой и с параллельно включёнными функциями

• Время отклика – IN, Ggb /s – OUT, только пользователь определяет на сколько балансировщик отвечает поставленным задачам

• Если вас не тревожит время отклика в пиковые моменты, вы не зарабатываете деньги через WEB, 24х7 не ваш метод - наше решение не для вас

О Компании

► Существует с 2002

► 100 человек в фирме

► Оффисы в США, Израиль, Гонк-Конг

► Альянсы & Партнёры:

► 5000+ единиц, 800+ заказчиков

► Призы

15