Crescendo Networks – Эволюция в мире WEB балансировки
Григорий Гуревич
Application Delivery Controllers (ADC) – Экскурс в историю
Конец 60х – начало 70х годов прошлого столетия• IBM mainframe - были не эффективны при интенсивной обработке
и лимитированных каналах связи
• Решение - Front End Processor (FEP), Основная роль FEP было высвободить вычислительную мощность на ЭВМ
Тенденции РынкаРазвитие новых интернет технологиий и моделей таких как Cloud, SaaS, Web 2.0 and Pay-per-Click позволяет рынку ADC бурно развиваться
$0
$500
$1,000
$1,500
$2,000
$2,500
$3,000
(Mill
ion
s $
)
2005 2006 2007 2008 2009 2010 2011 2012
Worldwide ADC Market
SLB ADC
Worldwide ADC MarketNew AccelerationTechnology
Old Load BalancingTechnology
Бой за клиентов Aberdeen Group утверждает 1 секунда задержки может уменьшить просмотр страниц на11%;
Amazon утверждает что 100ms задержки стоит им 1% продаж.
Google утверждает что +5 секунд потраченные на генерации поиска стоят 20% от трафикаhttp://glinden.blogspot.com/2006/11/marissa-mayer-at-web-20.html Брокер может потерять $4 миллиона от дохода за миллисекуду если его платформа для торговли отстаёт на 5 миллисекунд от конкурентов http://www.tabbgroup.com/PublicationDetail.aspx?PublicationID=346
Тенденции Рынка
"Компании, которые решили не использовать ADC могут рассчитывать на то, что потратят вдвое больше денег, пытаясь достичь аналогичных результатов компаний, которые используют ADC”
"Компании, которые решили не использовать ADC могут рассчитывать на то, что потратят вдвое больше денег, пытаясь достичь аналогичных результатов компаний, которые используют ADC”
Приложения не рулят бизнесом:Они и есть Бизнес !
Удовлетворение потребностей клиентов является высшим приоритетом для ИТ-производительность является наиболее частым вопросом развертывания
Приложения не рулят бизнесом:Они и есть Бизнес !
Удовлетворение потребностей клиентов является высшим приоритетом для ИТ-производительность является наиболее частым вопросом развертывания
Основные функции ADC TCP offload, HTTP multiplexing and acceleration
Zero latency compression
SSL offload and acceleration
L4-L7 local and global load balancing
Caching
DDoS and flash crowd protection
HTTP Rule layer 7
Могут ли все функции работать параллельно, под нагрузкой, без проблем с производительностью
?
► Параллельная обработка – ни одна функция не влияет на другую► Спец дизайн – аппаратная разработка на уровне FPGA► 80 микропроцессоров – каждый из которых мощный ЦПУ
Layer 210Gbpsprocessing
Multi-gigabitTCP Engine
Layer 3/410Gbpsprocessing
HTTPParsing
Buffering RegEx & XML Compression Load Balancing
Caching SSL
100% аппаратное решение
TCP
SSL
Compression
Ни одна функция не влияет на
производительность другойБольше функцийП
роиз
вод
ител
ьнос
ть
Аппаратное решение
Софтовое решение
производительность может упасть до 50% при одновременном
выполнении включённых функций
L7 rules
Производительность и параллельное использование функций
Архитектура аппаратного решения позволяет использовать несколько функций, работающих одновременно ".
TCP оптимизация, балансировка нагрузки, сжатия, SSL, все это может быть включено одновременно без того что бы одна функция влияла на производительность другой
В пиковые моменты ADC защищает приложения от излишней нагрузки
TCP Консолидация - /Multiplexing/Pooling Отдельные соедининия client-side и server-side Большое кол-во клиентских соединений мультиплексируются в небольшое кол-во back-end соединенийБуферезация запросов (both request and response)Данные свойства характерны только для ADC и не поддерживаются SLB
TCP разгрузка
GET A; GET B; GET C
GET A; GET B; GET C
GET A; GET B; GET C
GET F; GET A; GET C
GET E; GET F; GET G
GET B; GET C; GET E
GET C; GET D; GET E
GET B; GET A; GET D
GET C; GET D; GET E
GET A; GET B; GET D
TCP Session
TCP Session
TCP Session
TCP Session
TCP Session
TCP Session
TCP Session
TCP Session
TCP Session
TCP Session
Server
Before AfterGET A; GET B; GET C
GET A; GET B; GET C
GET A; GET B; GET C
GET F; GET A; GET C
GET E; GET F; GET G
GET B; GET C; GET E
GET C; GET D; GET E
GET B; GET A; GET D
GET C; GET D; GET E
GET A; GET B; GET D
Server
GET A; GET B; GET C;GET D; GET C; GET F
GET D GET D; GET CGET B; GET B
GET B; GET E; GET F;GET G; GET A; GET B
GET D
Буферезация запросов
Open (SYN)
(SYN/ACK)
ACK
Req 1/2
ACK
Req 2/2
RTO
Req 2/2
ACK
Client Server t
RTO
ServerADCMemory, CPU
More CPU, More Memory
Processing -> Memory Released
ClientOpen (SYN)
(SYN/ACK)
ACK
Req 1/2
ACK
Req 2/2
Req 2/2
ACK
Full Request
ACKMemory Alloc., Process, ReleaseResponse…
Response…
Буферезация ответов
tResp 1/2
ACK
Resp 2/2
RTO
Resp 2/2
ACK
Client ServerResponse Buffered
CPU, Memory
Memory Released
ServerADCClientResponse Buffered
Memory Released
RTO
Resp 1/2Resp 1/2
ACK
ACK
ACK
ACKResp 2/2
Resp 2/2
Resp 2/2
* При быстром развертывании
после ADCДо использования ADC
Нагрузка на процессор уменьшилась в разы
Производительность приложений
Load time of a 2.3 Mb HTML page Load time of a 7 Mb HTML page Portal home page
Direct 120 79 3.8
With Crescendo 10 23 1.5
10
30
50
70
90
110
Res
po
nse
Tim
e
Время отклика уменьшается до 70%
Критерии для выбора• Аппаратное решение лучше софтового
• Проверка работоспособности обязана быть под нагрузкой и с параллельно включёнными функциями
• Время отклика – IN, Ggb /s – OUT, только пользователь определяет на сколько балансировщик отвечает поставленным задачам
• Если вас не тревожит время отклика в пиковые моменты, вы не зарабатываете деньги через WEB, 24х7 не ваш метод - наше решение не для вас
О Компании
► Существует с 2002
► 100 человек в фирме
► Оффисы в США, Израиль, Гонк-Конг
► Альянсы & Партнёры:
► 5000+ единиц, 800+ заказчиков
► Призы
15