Jeudis du Libre - MySQL InnoDB Cluster

1 / 124

2 / 124

MySQL InnoDB Cluster

Quand Haute Disponibilité et facilité de déploiement font bon ménage

Jeudis du Libre - Mars 2017

3 / 124

Safe Harbor StatementThe following is intended to outline our general product direction. It is intended forinformation purpose only, and may not be incorporated into any contract. It is not acommitment to deliver any material, code, or functionality, and should not be relied up inmaking purchasing decisions. The development, release and timing of any features orfunctionality described for Oracle's product remains at the sole discretion of Oracle.

Copyright @ 2017 Oracle and/or its affiliates. All rights reserved.

4 / 124

about.me/lefred

Qui suis-je ?


5 / 124

Frédéric Descamps@lefredÉvangéliste MySQLBidouille MySQL depuis la version 3.23devops croyant et praticantMySQL Community Manager depuis mai2016


6 / 124

MySQL InnoDB Cluster

Haute Dispo facile pour MySQL


7 / 124

InnoDB

cluster

Facilité d'utilisation

Extrêmement év olutif

Solution prête à l'emploi

Haute Dispo Intégrée

Haute P erformance

Intégration de tous les compos ants


8 / 124

Notre vision on 4 étapes

MySQL Document Store

Modèle Relationnel & Document

Haute Dispo MySQL

Haute Dispo prête à l'emploi

"Sclale-Up" V ertical

Basculement automatique

"Sclale-Up" Horizontal

Sharding

E1

E3

E2 E4


9 / 124

Architecture de l´étape 2

A

p

p

l

i

c

a

t

i

o

n

M

y

S

Q

L

C

o

n

n

e

c

t

o

r

M

y

S

Q

L

R

o

u

t

e

r

M

y

S

Q

L

S

h

e

l

l

I

n

n

o

D

B

c

l

u

s

t

e

r

A

p

p

l

i

c

a

t

i

o

n

M

y

S

Q

L

C

o

n

n

e

c

t

o

r

M

y

S

Q

L

R

o

u

t

e

r

M

p

M

M


10 / 124

Architecture de l´étape 3A

p

p

l

i

c

a

t

i

o

n

M

y

S

Q

L

C

o

n

n

e

c

t

o

r

M

y

S

Q

L

R

o

u

t

e

r

M

y

S

Q

L

S

h

e

l

l

I

n

n

o

D

B

c

l

u

s

t

e

r

A

p

p

l

i

c

a

t

i

o

n

M

y

S

Q

L

C

o

n

n

e

c

t

o

r

M

y

S

Q

L

R

o

u

t

e

r

M

p

M

M

S1 S2 S3 S4 S...


11 / 124

Architecture de l´étape 4A

p

p

l

i

c

a

t

i

o

n

M

y

S

Q

L

C

o

n

n

e

c

t

o

r

M

y

S

Q

L

R

o

u

t

e

r

M

y

S

Q

L

S

h

e

l

l

A

p

p

l

i

c

a

t

i

o

n

M

y

S

Q

L

C

o

n

n

e

c

t

o

r

M

y

S

Q

L

R

o

u

t

e

r

I

n

n

o

D

B

c

l

u

s

t

e

r

M

p

M

M

S2 S3 S4 S...S1

I

n

n

o

D

B

c

l

u

s

t

e

r

M

p

M

M

S1 S2 S3 S4 S...

I

n

n

o

D

B

c

l

u

s

t

e

r

M

p

M

M

S1 S2 S3 S4 S...

A

p

p

l

i

c

a

t

i

o

n

M

y

S

Q

L

C

o

n

n

e

c

t

o

r

M

y

S

Q

L

R

o

u

t

e

r

A

p

p

l

i

c

a

t

i

o

n

M

y

S

Q

L

C

o

n

n

e

c

t

o

r

M

y

S

Q

L

R

o

u

t

e

r

A

p

p

l

i

c

a

t

i

o

n

M

y

S

Q

L

C

o

n

n

e

c

t

o

r

M

y

S

Q

L

R

o

u

t

e

r

replicaset 1

replicaset 2

replicaset 3


12 / 124

Group Replication: le coeur de MySQL InnoDBCluster


13 / 124

Group Replication: le coeur de MySQL InnoDBCluster


14 / 124

Mais avant d'aller plus loin...


15 / 124

Quést-que la

Haute Disponibilité


16 / 124

Haute DisponibilitéLa haute disponibilité est un terme souvent utilisé en informatique, à propos dárchitecture de système ou dún service pour désigner le fait que cette architecture ou ceservice a un taux de disponibilité convenable.

Deux moyens complémentaires sont utilisés pour améliorer la haute disponibilité :

la mise en place dúne infrastructure matérielle spécialisée, généralement en sebasant sur de la redondance matérielle. Est alors créé un cluster de haute-disponibilité (par opposition à un cluster de calcul) : une grappe dórdinateurs dont lebut est dássurer un service en évitant au maximum les indisponibilités ;la mise en place de processus adaptés permettant de réduire les erreurs, et dáccélérer la reprise en cas dérreur. ITIL contient de nombreux processus de ce type.

Source: WikipédiaCopyright @ 2017 Oracle and/or its affiliates. All rights reserved.

17 / 124

Les principes de la Haute DisponibilitéRedondance des services/des données


18 / 124

Les principes de la Haute DisponibilitéRedondance des services/des donnéesRéduire l'impact dúne panne


19 / 124

Les principes de la Haute DisponibilitéRedondance des services/des donnéesRéduire l'impact dúne panneBasculement lors dún problème ou en cas de maintenance


20 / 124

Les principes de la Haute DisponibilitéRedondance des services/des donnéesRéduire l'impact dúne panneBasculement lors dún problème ou en cas de maintenanceRécupération de la perte de redoncance


21 / 124

Redondance de bases de données

Comment y parvient-on ?


22 / 124



Il existe plusieurs solutions, certaines bien pires que dáutres ;-)


23 / 124




utilisation dún disque partagé (SAN)


24 / 124




utilisation dún disque partagé (SAN)utilisation de blocs partagés via le réseau (drbd)


25 / 124




utilisation dún disque partagé (SAN)utilisation de blocs partagés via le réseau (drbd)utilisation de la réplication


26 / 124




utilisation dún disque partagé (SAN)utilisation de blocs partagés via le réseau (drbd)utilisation de la réplication

C'est effectivement cette dernière technique qui est la plus fiable et la plus répendue.


27 / 124

Réplication MySQLIl existe plusieurs types de réplication dans MySQL:


28 / 124


réplication asynchrone (async)


29 / 124


réplication asynchrone (async)réplication semi-synchrone (semi-sync)


30 / 124


réplication asynchrone (async)réplication semi-synchrone (semi-sync)réplication de groupe (group replication) - Nouveau!!


31 / 124

Réplication(s) Asynchrone(s)les replicas (slaves) "stream" les logs de réplication à partir dún maître unique


32 / 124

Réplication(s) Asynchrone(s)les replicas (slaves) "stream" les logs de réplication à partir dún maître uniqueles replicas peuvent être retardés (lag), il ný a aucune garantie de livraison (saufsemi-sync)


33 / 124

Réplication(s) Asynchrone(s)les replicas (slaves) "stream" les logs de réplication à partir dún maître uniqueles replicas peuvent être retardés (lag), il ný a aucune garantie de livraison (saufsemi-sync)l'initialisation (provisioning) des replicas est manuelle


34 / 124

Réplication(s) Asynchrone(s)les replicas (slaves) "stream" les logs de réplication à partir dún maître uniqueles replicas peuvent être retardés (lag), il ný a aucune garantie de livraison (saufsemi-sync)l'initialisation (provisioning) des replicas est manuellela cohérense (consistency) des replicas est assummée et nécessite une vérificationmanuelle


35 / 124

Réplication(s) Asynchrone(s)les replicas (slaves) "stream" les logs de réplication à partir dún maître uniqueles replicas peuvent être retardés (lag), il ný a aucune garantie de livraison (saufsemi-sync)l'initialisation (provisioning) des replicas est manuellela cohérense (consistency) des replicas est assummée et nécessite une vérificationmanuelledes topologies très complexes peuvent être construites


36 / 124

Réplication(s) Asynchrone(s)les replicas (slaves) "stream" les logs de réplication à partir dún maître uniqueles replicas peuvent être retardés (lag), il ný a aucune garantie de livraison (saufsemi-sync)l'initialisation (provisioning) des replicas est manuellela cohérense (consistency) des replicas est assummée et nécessite une vérificationmanuelledes topologies très complexes peuvent être construitesil est possible (et fort déconseillé) de créer des replications circulaires


37 / 124

Réplication(s) Asynchrone(s)les replicas (slaves) "stream" les logs de réplication à partir dún maître uniqueles replicas peuvent être retardés (lag), il ný a aucune garantie de livraison (saufsemi-sync)l'initialisation (provisioning) des replicas est manuellela cohérense (consistency) des replicas est assummée et nécessite une vérificationmanuelledes topologies très complexes peuvent être construitesil est possible (et fort déconseillé) de créer des replications circulairesles écritures ne sont sûr qu´à partir dún unique maître global


38 / 124

Architectures de HA avec la réplicationasynchroneLes architectures sont multiples et les outils pour les mettre en oeuvre également.


39 / 124


Elles se basent toutes sur le même principe:


40 / 124



1 maître (master)


41 / 124



1 maître (master)1 ou plusieurs replicas (slaves)


42 / 124



1 maître (master)1 ou plusieurs replicas (slaves)

Si le maître a un problème, le slave le plus à jours doit prendre le relais et être promumaître aux yeux des autres escalves encore en ligne.


43 / 124

Automatisation


44 / 124

AutomatisationEt cést là que cést plus compliqué ;-)


45 / 124


En fait il existe beaucoup dóutils externes qui peuvent être utilisés pour cette tâche. Lamajorité ne sont compatible quávec GNU/Linux.


46 / 124



Leur problème est quíls viennent complexifier l'architecture. Il faut être sysadmin pourpouvoir maintenir ces solutions:


47 / 124




MySQL-Utilities (mysqlrplcheck, mysqlrpladmin)


48 / 124




MySQL-Utilities (mysqlrplcheck, mysqlrpladmin)Pacemaker avec un OCF dédié à MySQL


49 / 124




MySQL-Utilities (mysqlrplcheck, mysqlrpladmin)Pacemaker avec un OCF dédié à MySQLMHA


50 / 124

MySQL Group Replication

Mais quést-ce que cést ?


51 / 124



Cést un plugin pour MySQL fourni avec MySQL par MySQL !


52 / 124



Cést un plugin pour MySQL fourni avec MySQL par MySQL !GR est límplémentation de la théorie "Replicated Database State Machine"


53 / 124




MySQL Group Communication System (GCS) est basé sur Paxos Mencius


54 / 124




MySQL Group Communication System (GCS) est basé sur Paxos MenciusIl permet d´écrire sur tous les membres du groupe (noeuds du cluster) si nécessaire


55 / 124




MySQL Group Communication System (GCS) est basé sur Paxos MenciusIl permet d´écrire sur tous les membres du groupe (noeuds du cluster) si nécessaireIl détecte les conflits


56 / 124




MySQL Group Communication System (GCS) est basé sur Paxos MenciusIl permet d´écrire sur tous les membres du groupe (noeuds du cluster) si nécessaireIl détecte les conflitsEt permet la récupération distribuée automatique


57 / 124




MySQL Group Communication System (GCS) est basé sur Paxos MenciusIl permet d´écrire sur tous les membres du groupe (noeuds du cluster) si nécessaireIl détecte les conflitsEt permet la récupération distribuée automatiqueSupporté sur toutes les plateformes MySQL !!


58 / 124




MySQL Group Communication System (GCS) est basé sur Paxos MenciusIl permet d´écrire sur tous les membres du groupe (noeuds du cluster) si nécessaireIl détecte les conflitsEt permet la récupération distribuée automatiqueSupporté sur toutes les plateformes MySQL !!

Linux, Windows, Solaris, OSX, FreeBSD


59 / 124

Et pour les utilisateurs ?


60 / 124

Et pour les utilisateurs ?Il nést plus nécessaire déffectuer un basculement du rôle des serveursmanuellement ou avec un script compliqué


61 / 124

Et pour les utilisateurs ?Il nést plus nécessaire déffectuer un basculement du rôle des serveursmanuellement ou avec un script compliquéMise à jours des données sur des serveurs Actifs/Actifs


62 / 124

Et pour les utilisateurs ?Il nést plus nécessaire déffectuer un basculement du rôle des serveursmanuellement ou avec un script compliquéMise à jours des données sur des serveurs Actifs/ActifsGère les pannes distribuées (quorum)


63 / 124

Et pour les utilisateurs ?Il nést plus nécessaire déffectuer un basculement du rôle des serveursmanuellement ou avec un script compliquéMise à jours des données sur des serveurs Actifs/ActifsGère les pannes distribuées (quorum)Facilite grandement la mise en place dún service MySQL hautement disponible !


64 / 124

Mais comment ça marche ?


65 / 124


par magie !


66 / 124


par magie !

Non, au fait, la réplication des "transactions" se fait de manière synchrone, ensuite lacertification et l'application des changements se font de manière asynchrone...


67 / 124


par magie !

Non, au fait, la réplication des "transactions" se fait de manière synchrone, ensuite lacertification et l'application des changements se font de manière asynchrone...

C'est peut-être un peu compliqué comme ça... et comme dessin vaut mieux qu'un longdiscours...


68 / 124



69 / 124



70 / 124



71 / 124



72 / 124



73 / 124



74 / 124



75 / 124



76 / 124



77 / 124



78 / 124



79 / 124



80 / 124

CertificationLa certification est le processus qui a pour but de répondre à cette unique question:


81 / 124


est-ce-que cette écriture (transaction) peut être appliquée ?


82 / 124


est-ce-que cette écriture (transaction) peut être appliquée ?en se basant sur les transactions précédentes qui ne sont pas encore appliquées


83 / 124


est-ce-que cette écriture (transaction) peut être appliquée ?en se basant sur les transactions précédentes qui ne sont pas encore appliquéesce type de conflit provient toujours des autres membres du groupe


84 / 124



La certification se fait sur chaque membre du groupe


85 / 124



La certification se fait sur chaque membre du groupeDoit être déterministe sur chaque noeud


86 / 124



La certification se fait sur chaque membre du groupeDoit être déterministe sur chaque noeudLe résultat nést pas communiqué au cluster en retour


87 / 124




Réussite: entre dans la queue pour être appliquée


88 / 124




Réussite: entre dans la queue pour être appliquéeÉchec: la transaction est rejetée


89 / 124





Sérialisée par lórdre établi dans GCS/XCOM + GTID


90 / 124





Sérialisée par lórdre établi dans GCS/XCOM + GTIDLe coût varie en fonction du nombres d'index et d'enregistrements


91 / 124

GTIDLes GTIDs utilisés sont identiques aux GTID utilisés en réplication asynchrone.

mysql> SELECT * FROM performance_schema.replication_connection_status\G ************************** 1. row *************************** CHANNEL_NAME: group_replication_applier GROUP_NAME: afb80f36-2bff-11e6-84e0-0800277dd3bf SOURCE_UUID: afb80f36-2bff-11e6-84e0-0800277dd3bf THREAD_ID: NULL SERVICE_STATE: ON COUNT_RECEIVED_HEARTBEATS: 0 LAST_HEARTBEAT_TIMESTAMP: 0000-00-00 00:00:00 RECEIVED_TRANSACTION_SET: afb80f36-2bff-11e6-84e0-0800277dd3bf:1-57, f037578b-46b1-11e6-8005-08002774c31b:1-48937 LAST_ERROR_NUMBER: 0 LAST_ERROR_MESSAGE: LAST_ERROR_TIMESTAMP: 0000-00-00 00:00:00


92 / 124

Mais c'est le GTID du cluster qui est mélangé aux éventuels autres

mysql> show master status\G ************************** 1. row *************************** File: mysql4-bin.000001 Position: 1501 Binlog_Do_DB: Binlog_Ignore_DB: Executed_Gtid_Set: afb80f36-2bff-11e6-84e0-0800277dd3bf:1-57, f037578b-46b1-11e6-8005-08002774c31b:1-48937


93 / 124

ExigencesLes données doivent impérativement être sauvergardées dans des tables en InnoDB


94 / 124

ExigencesLes données doivent impérativement être sauvergardées dans des tables en InnoDBChaques table doit avoir une clé primaire


95 / 124

ExigencesLes données doivent impérativement être sauvergardées dans des tables en InnoDBChaques table doit avoir une clé primaireNe fonctionne quén IPV4


96 / 124

ExigencesLes données doivent impérativement être sauvergardées dans des tables en InnoDBChaques table doit avoir une clé primaireNe fonctionne quén IPV4Un bon réseau avec peu de latence est important


97 / 124

ExigencesLes données doivent impérativement être sauvergardées dans des tables en InnoDBChaques table doit avoir une clé primaireNe fonctionne quén IPV4Un bon réseau avec peu de latence est importantUn maximum de 9 membres par groupe


98 / 124

ExigencesLes données doivent impérativement être sauvergardées dans des tables en InnoDBChaques table doit avoir une clé primaireNe fonctionne quén IPV4Un bon réseau avec peu de latence est importantUn maximum de 9 membres par groupelog-bin doit être activé et seul le format ROW est supporté


99 / 124

Exigences (2)les GTIDs doivent être activés


100 / 124

Exigences (2)les GTIDs doivent être activésLes meta données de réplication doivent être sauvergardées dans des tablessystèmes

--master-info-repository=TABLE --relay-log-info-repository=TABLE


101 / 124



Léxtraction des "writesets" de réplication doit être activée

--transaction-write-set-extraction=XXHASH64


102 / 124



Léxtraction des "writesets" de réplication doit être activée

--transaction-write-set-extraction=XXHASH64

log-slave-updates doit aussi être présent


103 / 124

LimitesLe checksum des évenements répliqués nést pas supporté

--binlog-checksum=NONE


104 / 124



Les "Savepoints" ne sont pas supportés avant 5.7.19 et 8.0.1


105 / 124



Les "Savepoints" ne sont pas supportés avant 5.7.19 et 8.0.1On ne peut utiliser SERIALIZABLE comme niveau d'isolation des transactions


106 / 124



Les "Savepoints" ne sont pas supportés avant 5.7.19 et 8.0.1On ne peut utiliser SERIALIZABLE comme niveau d'isolation des transactionshttp://lefred.be/content/mysql-group-replication-limitations-savepoints/http://lefred.be/content/mysql-group-replication-and-table-design/


107 / 124

http://lefred.be/content/mysql-group-replication-limitations-savepoints/

http://lefred.be/content/mysql-group-replication-and-table-design/


108 / 124

MySQL RouterMySQL Router est un middleware léger qui fournit un routage transparent entre lápplication et nímporte quel serveur MySQL. Il peut être utilisé pour une grande variétéde cas, tels que la haute disponinilité et l´évolutivité (scalability) en acheminantefficacement le trafic vers les serveurs MySQL appropriés.


109 / 124


MySQL Router ne nécessite aucune configuration, il se configure automatiquement grâceaux meta-données du MySQL InnoDB Cluster.


110 / 124


MySQL Router ne nécessite aucune configuration, il se configure automatiquement grâceaux meta-données du MySQL InnoDB Cluster.

Le dévelopement de MySQL Router est focalisé sur les étapes suivantes du cluster: lesharding.


111 / 124

ProxySQLPour des besoins plus avancés, nous collaborons également avec ProxySQL pour avoir lesupport natif de Group Replication & de MySQL InnoDB Cluster.


112 / 124


113 / 124

MySQL ShellMySQL Shell est in interface interactive en Javascript, Python, ou SQL qui prend en chargele développment et ládministration du serveur MySQL. MySQL Shell peut être utilisé poureffectuer des requêtes et des modifications de données ainsi que diverses opérations dádministration.


114 / 124

MySQL Shell (2)MySQL Shell fournit:


115 / 124


la possibilité déffectuer des opérations interactives et de "batch"


116 / 124


la possibilité déffectuer des opérations interactives et de "batch"lútilisation d'API CRUD Document et relationnelles


117 / 124


la possibilité déffectuer des opérations interactives et de "batch"lútilisation d'API CRUD Document et relationnellesdes résultats sous le format traditionnels (tables), JSON, Tab Separated


118 / 124


la possibilité déffectuer des opérations interactives et de "batch"lútilisation d'API CRUD Document et relationnellesdes résultats sous le format traditionnels (tables), JSON, Tab Separatedun accès aux protocoles MySQL Standard and X


119 / 124


la possibilité déffectuer des opérations interactives et de "batch"lútilisation d'API CRUD Document et relationnellesdes résultats sous le format traditionnels (tables), JSON, Tab Separatedun accès aux protocoles MySQL Standard and Xet plus encore...


120 / 124

Commandes pour déployer un cluster enutilisant l'adminAPI du MySQL Shell:mysql-js> var i1 = '[email protected]:3306';mysql-js> var i2 = '[email protected]:3306';mysql-js> var i3 = '[email protected]:3306';

mysql-js> dba.checkInstanceCon�guration(i1);mysql-js> dba.checkInstanceCon�guration(i2);mysql-js> dba.checkInstanceCon�guration(i3);

mysql-js> shell.connect(i1);mysql-js> var cluster = dba.createCluster('JeudisDuLibre');

mysql-js> cluster.checkInstanceState(i2); mysql-js> cluster.addInstance(i2);

mysql-js> cluster.checkInstanceState(i3);mysql-js> cluster.addInstance(i3);


121 / 124

instance01.yaml :

classes: - innodbcluster

innodbcluster::mysql_serverid: 1

grâce au Shell on peut tout automatiser ;-)https://github.com/lefred/puppet-lefred-innodbcluster

Super facile à configurer via hiera:

common.yaml:

innodbcluster::mysql_root_password: MegaMotDePasseinnodbcluster::mysql_bind_interface: eth1innodbcluster::cluster_name: JeudisDuLibreinnodbcluster::grant::user: fredinnodbcluster::grant::password: fredinnodbcluster::seed: instance01.jdl


122 / 124

https://github.com/lefred/puppet-lefred-innodbcluster

Ressourceshttp://lefred.be/content/mysql-innodb-cluster-mysql-shell-starter-guide/

http://lefred.be/content/mysql-innodb-cluster-automated-installation-with-puppet/

http://lefred.be/content/category/mysql/group-replication/


123 / 124

http://lefred.be/content/mysql-innodb-cluster-mysql-shell-starter-guide/

http://lefred.be/content/mysql-innodb-cluster-automated-installation-with-puppet/

http://lefred.be/content/category/mysql/group-replication/

Merci

Des Questions ?


124 / 124

Jeudis du Libre - MySQL InnoDB Cluster

Technology