MySQL Replication
Miguel Ángel Nieto <[email protected]>Irontec – Internet y Sistemas sobre GNU/Linux
Irontec – MySQL Replication
2
Introducción
● Un solo servidor de MySQL se convierte en el SPOF de nuestra infraestructura.
● Si no hay datos, no hay servicio.● aptget install mysql es solo el primer paso, luego
queda mucho por hacer.● En la era 2.0 todo está en bases de datos, su
optimización es imprescindible.● MySQL nos ofrece muchas posibilidades.
Irontec – MySQL Replication
3
Introducción
● ¿Cómo evitamos un SPOF? Añadiendo más máquinas.● Pero las máquinas deben ser iguales en cuanto a la
parte lógica, los datos deben estar replicados y mantenerse sincronizados.
● La replicación nos ayuda a solventar en parte este problema.
Irontec – MySQL Replication
4
Introducción
● ¿Que nos ofrece la replicación?
– Seguridad. Los datos están replicados en distintas máquinas físicas, por lo que tenemos un live backup.
– Balanceo de carga. Podemos distribuir la carga entre distintas máquinas.
– Alta disponibil idad. Al tener datos en varias máquinas, si una se cae otra puede tomar el control.
– Quebraderos de cabeza. La informática es la ciencia menos exacta que existe.
Irontec – MySQL Replication
5
Seguridad
● Una copia de la base de datos se puede hacer de varias formas:
– Mysqldump– Copiando las tablas del disco en caliente (parando antes la
BBDD).– Replicación– etc...
● La principal diferencia es que la replicación nos ofrece un backup siempre actualizado. Las demás será de la fecha de su programación.
● Utilizad siempre dos métodos como mínimo. Nunca se debe dejar la replicación como único sistema de backup.
Irontec – MySQL Replication
6
Arquitecturas de replicación
● Tenemos varias formas de montar una arquitectura de replicación.
– Maestro-Maestro– Maestro-Esclavo– Circular
● Según lo que se necesite, se monta una u otra.
Irontec – MySQL Replication
7
Limitaciones
● Un esclavo solo puede tener un maestro. Por el contrario, un maestro múltiples esclavos.
● No es recomendable montar una replicación por WAN. La replicación es asíncrona y sensible a latencias.
● En un servidor esclavo esta prohibido escribir datos, solo se usarán selects.
Irontec – MySQL Replication
8
Maestro-Esclavo
● Un maestro, múltiples esclavos.● En el maestro se escribe, en el esclavo se lee.
Irontec – MySQL Replication
9
Maestro-Esclavo
● Primero debemos configurar el maestro. Imprescindible:
– Habilitar los logs binarios.– Crear un usuario que permita conectarse a los esclavos.– Habilitar sync_binlog.– Elegir un server-id.
logbin=mysqlbinserverid=1sync_binlog=1
Irontec – MySQL Replication
10
Maestro-Esclavo
● Dar permisos de conexión a los eslavos y dumpeamos la BD:
mysqldump BD masterdata=2 > dump_file;
mysql> grant replication slave on *.* to 'replication'@10.10.10.1 identified by 'slave';
mysql> grant replication slave on *.* to 'replication'@10.10.10.2 identified by 'slave';
Irontec – MySQL Replication
11
Maestro-Esclavo
● Configuramos el eslavo:– Seleccionamos un ID diferente para cada uno.– Importamos la BD.– Nos configuramos como esclavo de un maestro.
$mysql u root p < dump
serverid=101
mysql> CHANGE MASTER TO MASTER_HOST = ‘10.10.10.100’, MASTER_USER = ‘replication’, MASTER_PASSWORD = ‘slave’, MASTER_LOG_FILE = ‘master_log_file’, MASTER_LOG_POS = master_log_pos;
Irontec – MySQL Replication
12
Maestro-Esclavo
● Master_log_pos y Master_log_file indican al esclavo desde que posición del log binario deben leer, de forma que no se repliquen datos que ya tenemos.
● Podemos sacarlo con un dump como ya hemos visto o con el comando show master status;
● El log binario debe estár habilitado :)
Irontec – MySQL Replication
13
Maestro-Esclavo
● No se debe dejar al servidor la elección de cuando escribir los datos al disco duro.
● Si el servidor se cae sin que algunos datos se escriban en el log, es posible que estos se pierdan (dependerá del sistema de ficheros).
● sync_binlog por defecto es 0, que deja que el servidor decida cuando realizar la escritura al disco.
● Se recomienda un valor de 1, para que se fuerce la escritura.
● Esto también es lento, dependerá de los discos duros instalados.
● Si el servidor se cae, como mucho perderemos una transacción.
Irontec – MySQL Replication
14
Maestro-Esclavo
● Para comprobar si la replicación es correcta tenemos el comando show slave status.
● Este nos tiene que mostrar lo siguiente:
Slave_IO_Running: Se encarga de conectarse al maestro para comprobar cambiosSlave_SQL_Running: Se encarga de escribir las sentencias SQL.Seconds_Behind_Master: El lag en segundos entre el maestro y el esclavo.
[...]Slave_IO_Running: YesSlave_SQL_Running: Yes[...]Seconds_Behind_Master: 0
Irontec – MySQL Replication
15
Maestro-Esclavo
● Otras opciones:– replicate-do-db– Replicate-ignore-db– binlog-do-db– binlog-ignore-db– replicate-do-table– replicate-wild-do-table– replicate-ignore-table– replicate-wild-ignore-table
Irontec – MySQL Replication
16
Maestro-Esclavo
Irontec – MySQL Replication
17
Maestro-Esclavo
● El diagrama de las tablas es demasiado grande y no entra ;)http://dev.mysql.com/doc/refman/5.0/en/replication-rules-table-options.html
● Para rellenar la diapositiva pondré un dibujo:
No se quien es el autor :(
Irontec – MySQL Replication
18
Maestro-Maestro
● Lo que se escribe en uno se replica en el otro.● Se puede escribir en los dos.
Irontec – MySQL Replication
19
Maestro-Maestro
● La arquitectura maestro-maestro es igual a la maestro esclavo.
● Aquí los hosts realizan las dos tareas, maestro y esclavo al mismo tiempo.
● Esta arquitectura soporta como máximo dos hosts, ya que un esclavo solo puede tener como máximo un maestro.
A es maestro de B. B es maestro de A.A es esclavo de B. B es esclavo de A.
Irontec – MySQL Replication
20
Maestro-Maestro
● Se debe tener en cuenta, al igual que antes, lo siguiente:
– Habilitar el log binario.– Seleccionar un server-id.– Establecer el valor de sync_binlog.– Crear los usuarios para la replicación.
● El funcionamiento, opciones, monitorización, etc. es todo igual.
Irontec – MySQL Replication
21
Maestro-Maestro
● Los auto-incrementales son el gran problema de este tipo de arquitectura. Si se realizan dos insert al mismo tiempo que incluya un campo autoincremental, podemos tener un problema de ID duplicado.
● A envía a B un artículo cuyo ID autoincremental es 3000, B envía un artículo diferente a A cuyo autoincremental es 3000 también. La replicación se rompe.
– auto_increment_increment = 2– auto_increment_offset = 1
● ¿Cómo sería para el server B?
Irontec – MySQL Replication
22
Circular
● Lo que se escribe en uno se replica en el siguiente, este en el siguiente, este en... A B C D A→ → → →
● Es la menos recomendable. En realidad está casi prohibida también ;)
Irontec – MySQL Replication
23
Circular
● Es una forma de disponer de más de dos servidores en arquitectura maestro-maestro.
● Contra más sean los hosts implicados, mayor el caos de su administración.
A B C D E A→ → → → →● Si el host C se cae (por ejemplo) la replicación se
rompe. Lo escrito en B no se replica, lo escrito en D se replica en todos menos en C, etc.
● Si se cae por ejemplo B y D, el caos es infinito. La solución es salir corriendo.
● A no ser que no exista otra solución, no se recomienda.
Irontec – MySQL Replication
24
Circular
● Los logs que reciben los esclavos, deben logearlos en el log binario para enviarselo al siguiente en la cadena. Esto no es el funcionamiento por defecto, los que se recibe como esclavo no se logea. Para cambiarlo:
– logslaveupdates
● En algún momento de la cadena nos llegarán nuestros propios logs. Para evitar formar un bucle:
– Replicatesameserverid=0
● También habrá que tener cuidado con los auto-incrementales:
– auto_increment_increment=4– auto_increment_offset=1
Irontec – MySQL Replication
25
Replicación rota
Irontec – MySQL Replication
26
Replicación rota
● Es recomendable tener el error-log habilitado, ahí se guardará, entre otras cosas, cualquier error relacionado con la replicación.
● ¡EJEMPLO!
Sep 11 11:13:16 test2 mysqld[6776]: 090911 11:13:16 [ERROR] Slave: Error 'Table 't' already exists' on query. Default database: 'mysql'. Query: 'CREATE TABLE t (c CHAR(20) CHARACTER SET utf8 COLLATE utf8_bin)', Error_code: 1050
Sep 11 11:13:16 test2 mysqld[6776]: 090911 11:13:16 [ERROR] Error running query, slave SQL thread aborted. Fix the problem, and restart the slave SQL thread with "SLAVE START". We stopped at log 'mysqlbin.000003' position 421
Irontec – MySQL Replication
27
Replicación rota
● Forma rápida y no tan buena de solucionarlo:● Decirle al esclavo que ignore esa querie y continue con
la replicación:
mysql> stop slave; Query OK, 0 rows affected (0.00 sec)
mysql> SET GLOBAL SQL_SLAVE_SKIP_COUNTER = 1; Query OK, 0 rows affected (0.00 sec)
mysql> start slave;
Irontec – MySQL Replication
28
Replicación rota
● Forma buena (y algo lenta) de solucionarlo:http://www.maatkit.org/
● Maatkit makes MySQL easier to manage.● Lo de “easier” ponedlo entre muchas comillas.● Son una colección de herramientas que nos puede
ayudar en la administración de nuestro servidores, y en este caso en particular, en rescatar una replicación.
● Todas las utilidades:http://www.maatkit.org/doc/
Irontec – MySQL Replication
29
Replicación rota
● Para saber si dos tables están sincronizadas, podemos sacar un checksum de estas y comparar:
– mktablechecksum
● Para sincronizar los datos de dos tablas:– mktablesync
$ mktablechecksum h=host1,u=user,p=password h=host2
$ mktablesync –execute u=user,p=pass,h=host1,D=db,t=tbl host2
Irontec – MySQL Replication
30
SandBox
● Para crear una laboratorio de pruebas podemos:– Montar equipos físicos e instalarlos (de locos).– Montar máquinas virtuales.– Usar ¡sandbox!
Irontec – MySQL Replication
31
SandBox
● SandBox nos permite:– Montar sistemas de replicación– Probar versiones nuevas de MySQL facilmente– Manejar múltiples instancias de MySQL desde un único
punto.– Te olvidas de rmps, sources, debs... ¡tar.gz binario!– Testear– Testear– Testear...
Irontec – MySQL Replication
32
SandBox
● No es un producto oficial de MySQL.● Está escrito el perl (puag!) y aún así funciona bien.
http://mysqlsandbox.net/● Tendremos que descargar un paquete tar.gz de MySQL
y Sandbox.
Irontec – MySQL Replication
33
Instalación
● ¡Como root!
root@shyris:~# tar xzf MySQLSandbox3.0.05.tar.gz
root@shyris:~# cd MySQLSandbox3.0.05/
root@shyris:~/MySQLSandbox3.0.05# perl Makefile.PL
root@shyris:~/MySQLSandbox3.0.05# make
root@shyris:~/MySQLSandbox3.0.05# make test
root@shyris:~/MySQLSandbox3.0.05# make install
root@shyris:/usr/local/bin# lslow_level_make_sandbox make_multiple_sandbox make_sandbox make_sandbox_from_source sb test_sandboxmake_multiple_custom_sandbox make_replication_sandbox make_sandbox_from_installed msandbox sbtool
Irontec – MySQL Replication
34
Uso de SandBox
● Crear un sandbox con una única instancia de MySQL
punisher@shyris:~$ make_sandbox /home/punisher/MySQL/mysql5.0.86perconahighperfb19.tar.gz unpacking /home/punisher/MySQL/mysql5.0.86perconahighperfb19.tar.gzExecuting low_level_make_sandbox basedir=/home/punisher/MySQL/5.0.86 \
sandbox_directory=msb_5_0_86 \install_version=5.0 \sandbox_port=5086 \no_ver_after_name \my_clause=logerror=msandbox.err
Irontec – MySQL Replication
35
Uso de SandBox
● Parar sandbox:– stop
● Arrancar sandbox:– start
● Utilizar sandbox:– use
● Reiniciar sandbox:– restart
● Limpiar el sandbox:– clean
Irontec – MySQL Replication
36
Crear entorno maestro-esclavo
● Facil, sencillo y para toda la familia:
punisher@shyris:~$ make_replication_sandbox how_many_slaves=2 /home/punisher/MySQL/mysql5.0.86perconahighperfb19.tar.gz installing and starting masterinstalling slave 1installing slave 2starting slave 1. sandbox server startedstarting slave 2. sandbox server startedinitializing slave 1initializing slave 2replication directory installed in $HOME/sandboxes/rsandbox_5_0_86
Irontec – MySQL Replication
37
Crear entorno maestro-esclavo
● Acceder al maestro– m1
● Acceder al esclavo 1– s1
● Acceder al esclavo 2– s2
● Chequear esclavos– check_slaves
Irontec – MySQL Replication
38
Crear entorno maestro-maestro
● Es muy dificil, ¡atentos!
punisher@shyris:~$ make_replication_sandbox master_master /home/punisher/MySQL/mysql5.0.86perconahighperfb19.tar.gz installing node 1installing node 2# server: 1: # server: 2: # server: 1: # server: 2: Circular replication activatedgroup directory installed in $HOME/sandboxes/rcsandbox_5_0_86
Irontec – MySQL Replication
39
Crear replicación circularpunisher@shyris:~$ make_replication_sandbox circular=4 /home/punisher/MySQL/mysql5.0.86perconahighperfb19.tar.gz # server: 1: # server: 2: executing "clear" on node 1executing "clear" on node 2installing node 1installing node 2installing node 3installing node 4# server: 1: # server: 2: # server: 3: # server: 4: # server: 1: # server: 2: # server: 3: # server: 4: Circular replication activatedgroup directory installed in $HOME/sandboxes/rcsandbox_5_0_86
Irontec – MySQL Replication
40
MMM
● Cuando ya sabemos que queremos y lo montamos, llega el mantenimiento.
● Si tenemos un cluster de, por ejemplo, 2 maestros y 50 esclavos, comprobar el correcto funcionamiento es complicado.
● ¿Y si deseamos parar algún esclavo?● ¿Y si deseamos parar algún maestro?● Es necesario reducir el tiempo de parada de
servicio al mínimo.
Irontec – MySQL Replication
41
MMM
Irontec – MySQL Replication
42
MMM
● También el Perl. El mundo se ha vuelto loco...● Características:
– Monitorización de la replicación– Monitorización de los hosts– Gestión del failover– Balanceo de IPs entre nodos– Gestión de grupos de escritura/lectura
Irontec – MySQL Replication
43
MMM
● La alta disponibilidad se hace mediante el balanceo de Ips virtuales que saltarán de un servidor a otro en caso de ser necesario.
– Exclusivo: Una única IP para muchos hosts. Si el host que la tiene se cae se balancea a otro. Generalmente se usa en los nodos de escritura.
– Balanceado: Una IP por cada host. Si uno de los hosts se cae la IP se balancea a cualquier otro, pasando a tener dos IPs virtuales. Se usa para nodos en lectura.
Irontec – MySQL Replication
44
MMM
● Se pueden meter los servidores dentro de dos roles, escritura y lectura. Escritura es obligatorio, mientras que el de lectura no tiene porque definirse.
● La diferencia es lógica:– Nodos de escritura son aquellos en los que los datos se
escribirán.– Nodos de lectura son aquellos de los cuales se leerán
datos.● Escritura (maestro) – Lectura (esclavo)
Irontec – MySQL Replication
45
MMM
http://mysql-mmm.org/● En el sistema de control se instalará:
– mysql-mmm-common_2.0.10-1_all.deb– mysql-mmm-monitor_2.0.10-1_all.deb
● En los nodos:– mysql-mmm-common_2.0.10-1_all.deb– mysql-mmm-agent_2.0.10-1_all.deb
● ¡Junto con todas las dependencias!
Irontec – MySQL Replication
46
MMM
● Los ficheros de configuración se guardan en /etc/mysql-mmm
● Todos tendrán un fichero llamado mmm_common.conf que será exactamente igual.
● El nodo de control mmm_mon.conf● Los servidores de MySQL mmm_agent.conf
Irontec – MySQL Replication
47
MMM
● mmm_common.conf● Incluye la configuración de:
– Los Hosts– Sus Ips– Los roles– Usuario/Contraseña del agente– Usuario/Contraseña para la replicación– La interfaz de red en la que se trabaja
Irontec – MySQL Replication
48
MMM
● mmm_mon.conf● Incluye la configuración de:
– Usuario/Contraseña para la monitorización– Ips a las que pingar– Ruta de los binarios– Ruta del PID– Nidel de debug
Irontec – MySQL Replication
49
MMM
● mmm_agent● Incluye la configuración de:
– El nombre de este servidor– Todo el mmm_common.conf– Y nada más :P
Irontec – MySQL Replication
50
MMM
● Como hemos visto, hay varios usuarios y contraseñas definidos. Hay que crerlos en MySQL.
– El usuario monitor se usa para comprobar el estado de los servidores Mysql.
– El usuario agent se usa para cambiar el read only mode, poner offline un equipo, ejecutar un change_master, etc.
– El usuario replication slave... para replicación ;)
GRANT REPLICATION CLIENT ON *.* TO 'mmm_monitor'@'10.100.1.%' IDENTIFIED BY 'RepMonitor';
GRANT SUPER, REPLICATION CLIENT, PROCESS ON *.* TO 'mmm_agent'@'10.100.1.%' IDENTIFIED BY 'RepAgent';
GRANT REPLICATION SLAVE ON *.* TO 'replication'@'10.100.1.%' IDENTIFIED BY 'slave';
Irontec – MySQL Replication
51
MMM
● Una vez puesto en marcha los servicios, se deben poner online los servidores desde el comando de control.MMM:~# mmm_control show db1(10.100.1.1) master/AWAITING_RECOVERY. Roles: db2(10.100.1.2) master/AWAITING_RECOVERY. Roles: db3(10.100.1.3) slave/AWAITING_RECOVERY. Roles: db4(10.100.1.4) slave/AWAITING_RECOVERY. Roles:
MMM:~# mmm_control set_online db1OK: State of 'db1' changed to ONLINE. Now you can wait some time and check its new roles!MMM:~# mmm_control set_online db2OK: State of 'db2' changed to ONLINE. Now you can wait some time and check its new roles!MMM:~# mmm_control set_online db3OK: State of 'db3' changed to ONLINE. Now you can wait some time and check its new roles!MMM:~# mmm_control set_online db4OK: State of 'db4' changed to ONLINE. Now you can wait some time and check its new roles!
Irontec – MySQL Replication
52
MMM
● ¡Ejemplo! Parando un servidor en producción:
MMM:~# mmm_control set_offline db1OK: State of 'db1' changed to ADMIN_OFFLINE. Now you can wait some time and check all roles!
MMM:~# mmm_control show db1(10.100.1.1) master/ADMIN_OFFLINE. Roles: db2(10.100.1.2) master/ONLINE. Roles: writer(10.100.1.10) db3(10.100.1.3) slave/ONLINE. Roles: reader(10.100.1.12) db4(10.100.1.4) slave/ONLINE. Roles: reader(10.100.1.11)
Irontec – MySQL Replication
53
MySQL Proxy
● El balanceo de carga se puede hacer bien por hardware como por software.
● Existe un software creado para MySQL que nos puede “ayudar”.
● Para que te ayude debes saber LUA.http://forge.mysql.com/wiki/MySQL_Proxy
● Es un proxy que se pone entre el cliente y los servidores de MySQL.
Irontec – MySQL Replication
54
MySQL Proxy
● Trae scripts de ejemplo, que entre otras cosas te permite:
– Reescribir queries.– Balanceo de carga.– Loggeo avanzado.– Failover.– Análisis de queries.
Irontec – MySQL Replication
55
Se acabó
miguel2angel
http://miguelangelnieto.net