1/39 Formularea problemei Metoda factoriz ˘ arii LU Matrice rare Referin¸ te Cap.2. Sisteme de ecua¸ tii algebrice liniare - metode directe (II) Prof.dr.ing. Gabriela Ciuprina Universitatea "Politehnica" Bucure¸ sti, Facultatea de Inginerie Electric˘ a, Departamentul de Electrotehnic ˘ a Suport didactic pentru disciplina Metode numerice, 2017-2018 Gabriela Ciuprina Cap.2. Sisteme de ecua¸ tii algebrice liniare - metode directe (II)
39
Embed
Cap.2. Sisteme de ecuatii algebrice liniare - metode ...mn.lmn.pub.ro/2017/Slideuri2017/curs4_MN.pdf · Varianta Doolittle 3 Matrice rare Ce sunt? Adaptarea metodelor directe - exemplu
This document is posted to help you gain knowledge. Please leave a comment to let me know what you think about it! Share it to your friends and learn new things together.
Transcript
1/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Cap.2. Sisteme de ecuatii algebrice liniare -metode directe (II)
Prof.dr.ing. Gabriela Ciuprina
Universitatea "Politehnica" Bucuresti, Facultatea de Inginerie Electrica,Departamentul de Electrotehnica
Suport didactic pentru disciplina Metode numerice, 2017-2018
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
2/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Cuprins
1 Formularea problemeiRezolvarea unui sistem de ecuatii algebrice liniareCazul sistemelor multiple
2 Metoda factorizarii LUVarianta Doolittle
3 Matrice rareCe sunt?Adaptarea metodelor directe - exemplu
4 Referinte
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
3/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Rezolvarea unui sistem de ecuatii algebrice liniareCazul sistemelor multiple
Formularea problemei
Sistem de n ecuatii algebrice liniare cu n necunoscute:
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
4/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Rezolvarea unui sistem de ecuatii algebrice liniareCazul sistemelor multiple
Formularea problemei
Se da matricea coeficientilor
A =
a11 a12 · · · a1n
a21 a22 · · · a2n
· · ·an1 an2 · · · ann
∈ IRn×n (2)
si vectorul termenilor liberi
b =[
b1 b2 · · · bn
]T ∈ IRn, (3)
se cere sa se rezolve sistemul
Ax = b, (4)
unde x este solutia
x =[
x1 x2 · · · xn
]T ∈ IRn. (5)
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
5/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Rezolvarea unui sistem de ecuatii algebrice liniareCazul sistemelor multiple
Buna formulare matematica
Problema este bine formulata din punct de vedere matematic(solutia exista si este unica)⇔matricea A este nesingulara (are determinantul nenul).Se scrie formal:
”x = A−1b”
trebuie citita ca:"x este solutia sistemului algebric liniar Ax = b"
si NU "se calculeaza inversa matricei A care se înmulteste cu
vectorul b".
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
6/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Rezolvarea unui sistem de ecuatii algebrice liniareCazul sistemelor multiple
Conditionarea problemei
κ(A) = ‖A‖‖A−1‖ (6)
numar de conditionare la inversare al matricei A.
εx ≤ κ(A)εb, (7)
κ(A) ≥ 1:
Cazul cel mai favorabil: nA = 1 si εx = εb. (matrice ortogonala)
Numarul de conditionare este o proprietate a matricei si nu arelegatura nici cu metoda de rezolvare propriu-zisa, nici cu erorilede rotunjire care apar în mediul de calcul.În practica:
Daca κ(A) > 1/eps problema se considera slab conditionata.
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
7/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Rezolvarea unui sistem de ecuatii algebrice liniareCazul sistemelor multiple
Clasificarea metodelor
1 Metode directe - gasesc solutia teoretica a problemeiîntr-un numar finit de pasi. (Gauss, factorizare LU)
2 Metode iterative - genereaza un sir de aproximatii alesolutiei care se doreste a fi convergent catre solutiaexacta.
stationare: Jacobi, Gauss-Seidel, SOR, SSORnestationare (semiiterative): gradienti conjugati (GC),reziduu minim (MINRES), reziduu minim generalizat(GMRES), gradienti biconjugati (BiGC), etc.
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
8/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Rezolvarea unui sistem de ecuatii algebrice liniareCazul sistemelor multiple
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
9/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Rezolvarea unui sistem de ecuatii algebrice liniareCazul sistemelor multiple
Varianta I
Varianta I - aplicarea succesiva a algoritmului Gauss
Efort de calcul: m(2n3/3 + n2) ≈ 2mn3/3.Etapa de eliminare este repetata inutil, de m ori.Cea mai proasta idee.
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
10/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Rezolvarea unui sistem de ecuatii algebrice liniareCazul sistemelor multiple
Varianta II
Varianta II - rezolvarea simultana prin adaptarea
algoritmului Gauss
procedura Gauss_multiplu(n,m, a, B, X ); rezolva simultan sistemele algebrice liniare aX = B prin metoda Gaussîntreg n ; dimensiunea sistemuluiîntreg m ; numarul de sistemetablou real a[n][n] ; matricea coeficientilor - indici de la 1tablou real B[n][m] ; matricea termenilor liberitablou real X [n][m] ; matricea solutieîntreg i, j, k
real p, s; etapa de eliminarepentru k = 1, n − 1 ; parcurge sub-etape ale eliminarii
; aici se poate introduce pivotareapentru i = k + 1, n ; parcurge liniile
p = −aik/akk ; element de multiplicarepentru j = k + 1, n ; parcurge coloanele
aij = aij + pakj
•
pentru j = 1, m ; parcurge coloanele termenilor liberibi j = bi j + pbkj
•
•
•
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
11/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Rezolvarea unui sistem de ecuatii algebrice liniareCazul sistemelor multiple
Varianta II
; etapa de retrosubstitutiepentru k = 1, m
xnk = bnk/ann
pentru i = n − 1, 1,−1s = 0pentru j = i + 1, n
s = s + aij xjk
•
xik = (bik − s)/aii•
•
retur
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
12/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Rezolvarea unui sistem de ecuatii algebrice liniareCazul sistemelor multiple
Varianta II
Efort de calcul
Te =
n−1∑
k=1
[2(n − k) + 2m + 1](n − k) ≈
n−1∑
k=1
[2(n − k)2 + 2m(n − k)] =
= 2(n − 1)n(2n − 1)
6+ 2m
n(n − 1)2
≈
2n3
3+ mn
2. (12)
Ts = m
n−1∑
i=1
[2(n − i) + 2] ≈ m
n−1∑
i=1
[2(n − i)] = 2mn(n − 1)
2≈ mn
2. (13)
T = O(2n3/3 + 2mn2), mai mic decât în cazul variantei I.
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
13/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Rezolvarea unui sistem de ecuatii algebrice liniareCazul sistemelor multiple
Varianta III
Varianta III - rezolvarea succesiva a sistemelor folosind
calculul inversei
Se calculeza A−1
Se calculeaza x(k) = A−1b(k) imediat ce este cunoscuttermenul liber.
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
14/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Rezolvarea unui sistem de ecuatii algebrice liniareCazul sistemelor multiple
Varianta III
functie invA(n, a); calculeaza inversa matricei aîntreg n ; dimensiunea matriceitablou real a[n][n] ; matricea, indici de la 1; alte declaratii....pentru i = 1, n
pentru j = 1, n
Bij = 0•
Bii = 1•
Gauss_multiplu(n,n, a, B, X )întoarce X ; X este inversa matricei
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
15/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Rezolvarea unui sistem de ecuatii algebrice liniareCazul sistemelor multiple
Varianta III
functie produs_Mv (n,M, v ); calculeaza produsul dintre o matrice patrata M si un vector coloana vîntreg n ; dimensiunea problemeitablou real M[n][n] ; matricea, indici de la 1tablou real v [n] ; vectorultablou real p[n] ; rezultatul p = Mv; alte declaratii....pentru i = 1, n
pi = 0pentru j = 1, n
pi = pi + Mij vj
•
•
întoarce p
Complexitatea inmultirii dintre o matrice si un vector: 2n2
Efortul total de calcul : O(8n3/3 + 2mn2).Exista o varianta mai eficienta bazata pe factorizarea matriceicoeficientilor.
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
22/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Metoda factorizarii LUVarianta Doolittle
Variante de factorizare
Factorizare nu este unica. Variante standard:
Doolittle: lii = 1 - se aplica la orice matrice nesingularaCrout: uii = 1 - se aplica la orice matrice nesingularaCholesky: L = UT - se aplica doar matricelor simetrice sipozitiv definite
[
3 26 1
]
=
[
l11 0l21 l22
] [
u11 u12
0 u22
]
. (35)
l11u11 = 3l12u12 = 2l21u11 = 6
l21u12 + l22u22 = 1
(36)
Sistemul devine determinat doar daca fixam oricare doua valori.Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
23/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Metoda factorizarii LUVarianta Doolittle
Variante de factorizare
Exemplu:
[
3 26 1
]
=
[
1 02 1
] [
3 20 −3
]
=
[
3 06 −3
] [
1 2/30 1
]
.
(37)[
9 22 1
]
=
[
3 02/3
√5/3
] [
3 2/30
√5/3
]
. (38)
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
25/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Metoda factorizarii LUVarianta Doolittle
Algoritmul variantei Doolittle
a11 a12 a13
0 a′
22 a′
230 a′
32 a′
33
= E1
a11 a12 a13
a21 a22 a23
a31 a32 a33
. (45)
E1 =
1 0 0−a21/a11 1 0−a31/a11 0 1
. (46)
E−11 =
1 0 0a21/a11 1 0a31/a11 0 1
, E−12 =
1 0 00 1 00 a′
32/a′
22 1
. (47)
E−1 = E−11 E−1
2 · · ·E−1n−2E−1
n−1. (48)
E−1 =
1 0 0a21/a11 1 0a31/a11 a′
32/a′
22 1
= L. (49)
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
26/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Metoda factorizarii LUVarianta Doolittle
Algoritmul variantei Doolittle
; etapa de eliminare din metoda Gauss cu memorarea opuselor elementelor; de multiplicare în triunghiul inferior al matriceipentru k = 1, n − 1 ; parcurge sub-etape ale eliminarii
pentru i = k + 1, n ; parcurge liniilep = −aik/akk ; element de multiplicarepentru j = k + 1, n ; parcurge coloanele
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
28/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Metoda factorizarii LUVarianta Doolittle
Calculul solutiei dupa factorizare
y1 = b1/l11, (55)
yi =
bi −i−1∑
j=1
lijyj
/lii , i = 2, . . . ,n. (56)
"x = U−1y" se rezolva prin substitutie regresiva:
xn = yn/unn, (57)
xi =
yi −n
∑
j=i+1
uijxj
/uii , i = n − 1, . . . ,1. (58)
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
29/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Metoda factorizarii LUVarianta Doolittle
Calculul solutiei dupa factorizare
procedura rezolva_LU(n,a, b, x ); rezolva sistemul de ecuatii ax = b prin factorizare LU; matricea este presupusa a fi deja factorizata în loc; varianta Doolittle; declaratii· · ·
; substitutie progresivay1 = b1 ; formula (55), unde l11 = 1pentru i = 2, n
s = 0pentru j = 1, i − 1
s = s + aij yj; formula (56), unde L este memorat în a
•
yi = bi − s ; deoarce lii = 1•
; substitutie regresivaxn = yn/ann ; formula (57), unde U este memorat în apentru i = n − 1, 1,−1
s = 0pentru j = i + 1, n
s = s + aij xj
•
xi = (yi − s)/aii•
retur
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
30/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Metoda factorizarii LUVarianta Doolittle
Evaluarea algoritmului
Complexitate:
Factorizarea propriu-zisa a: Tf = O(2n3/3)
Rezolvarile: Ts = O(2n2).
Necesarul de memorie: M = O(n2)
Erori:
Nu exista erori de trunchiere;
Erorile de rotunjire pot fi micsorate daca se aplica strategiide pivotare.
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
31/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Metoda factorizarii LUVarianta Doolittle
Cazul sistemelor multiple
Rezolvate cu factorizare: T = O(2n3/3 + 2mn2), mai mic decâtcel necesar calculului inversei.
Efort de calcul pentru rezolvarea sistemelor multiple.Nr. sisteme Metoda Complexitate T
1 Gauss 2n3/3 + n2
LU 2n3/3 + 2n2
m - simultan Gauss 2n3/3 + 2mn2
m - succesiv folosind inversa 8n3/3 + 2mn2
LU 2n3/3 + 2mn2
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
32/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Ce sunt?Adaptarea metodelor directe - exemplu
Cazul matricelor rare
Matrice rara = matrice care contine un numar foarte mare deelemente nenule.O matrice care nu este rara se numeste matrice densa sauplina.Densitatea unei matrice = raportul dintre numarul de elementenenule si numarul total de elemente al matricei.Daca, pentru o anumita matrice care are si elemente nule, sepoate elabora un algoritm care exploateaza aceasta structurasi care, este mai eficient decât algoritmul conceput pentrumatricea plina, atunci aceasta este o matrice rara.
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
33/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Ce sunt?Adaptarea metodelor directe - exemplu
Formate de memorare a matricelor rare
Matricelor banda (de exemplu matrice tridiagonala):
qixi + rixi+1 = bi ⇒ xi = (bi − rixi+1)/qi , i = n − 1, . . . ,1.(60)
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
36/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Ce sunt?Adaptarea metodelor directe - exemplu
Metode directe pentru matrice rare
procedura Gauss_tridiag(n,p, q, r , b, x ); rezolva sistemul algebric liniar ax = b prin metoda Gauss; matricea a este tridiagonala, memorata în p, q, rîntreg n ; dimensiunea sistemuluitablou real p[n], q[n], r [n] ; "matricea" coeficientilor - indici de la 1tablou real b[n] ; vectorul termenilor liberitablou real x [n] ; vectorul solutieîntreg i, k
; etapa de eliminare din metoda Gausspentru k = 1, n − 1 ; parcurge sub-etape ale eliminarii
m = −pk+1/qk ; element de multiplicareqk+1 = qk+1 + mrk ; modifica element în linia k + 1bk+1 = bk+1 + mbk ; modifica termenul liber al ecuatiei k + 1
•
; etapa de retrosubstitutiexn = bn/qn
pentru i = n − 1, 1,−1xi = (bi − ri xi+1)/qi
•
retur
T = O(8n), M = O(5n).
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
37/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Ce sunt?Adaptarea metodelor directe - exemplu
Metode directe pentru matrice rare
Pentru matrice rare fara o structura particulara, algoritmiitrebuie adaptati memorarii de tip CRS sau CCS.
La eliminare matricea se poate umple, a.î. pivotareaurmareste nu numai stabilitatea numerica, ci siminimizarea umplerilor, adica a elementelor nenule nouaparute.
La matrice rare inversarea este practic imposibila datoritafenomen de umplere.
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
38/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Ce sunt?Adaptarea metodelor directe - exemplu
Metode directe pentru matrice rare
Factorizarea unei matrice rare poate salva raritatea dacamatricea are o anumita structura.
A1 =
∗ 0 · · · 0 0 ∗
0 ∗ · · · 0 0 ∗
· · ·
0 0 · · · ∗ 0 ∗
0 0 · · · 0 ∗ ∗
∗ ∗ · · · ∗ ∗ ∗
A2 =
∗ ∗ ∗ · · · ∗ ∗
∗ ∗ 0 · · · 0 0∗ 0 ∗ · · · 0 0· · ·
∗ 0 · · · 0 ∗ 0∗ 0 · · · 0 0 ∗
Matricea A1 are factorii LU rari, în timp ce matricea A2 are factorii LU plini.
Structura matricei joaca deci un rol important în concepereaalgoritmului de rezolvare.
Gabriela Ciuprina Cap.2. Sisteme de ecuatii algebrice liniare - metode directe (II)
39/39
Formularea problemeiMetoda factorizarii LU
Matrice rareReferinte
Referinte
Pag 51 - 56 din[3] Gabriela Ciuprina - Algoritmi numerici pentru calcule stiintifice în ingineria electrica, Editura MatrixROM,2013, disponibil la