Populationsdynamik: . . . Regelungstechnik: . . . Verkehrsfluss: . . . Wärmeleitung: Modell . . . Page 1 of 165 Modellbildung und Simulation 3.Kontinuierliche Modellbildung und Simulation Hans-Joachim Bungartz 3) Kontinuierliche Modellbildung und Simulation Populationsdynamik: . . . Regelungstechnik: . . . Verkehrsfluss: . . . Wärmeleitung: Modell . . . Page 2 of 165 Modellbildung und Simulation 3.Kontinuierliche Modellbildung und Simulation Hans-Joachim Bungartz 3.1. Populationsdynamik: Modelle und ihre numerische Behandlung 3.1.1. Modelle der Populationsdynamik • die numerische Simulation stützt sich typischerweise auf kontinuierliche Mo- delle (reellwertige Größen, Apparat der Analysis) • zwei große Klassen: – Probleme mit Berücksichtigung des Ortes bzw. Raumes führen auf par- tielle Differentialgleichungen oder kurz PDE – Probleme ohne Berücksichtigung des Ortes bzw. Raumes führen auf gewöhnliche Differentialgleichungen oder kurz ODE • Standardbeispiel für letztere: Populationsdynamik – Entwicklung bzw. Wachstum von Populationen, * entweder als isolierte Spezies (ohne externe Einflüsse) * oder in (friedlicher / feindlicher) Koexistenz verschiedener Spezies – Modellierung hat hier große Tradition (Biologie und Mathematik) – ein Beispiel mit zwei „Spezies“ schon in Kapitel 1: Wettrüsten! – klassischer, einfacher Vertreter eines 1-Spezies-Modells: Modell nach Maltus (1798)
83
Embed
3) Kontinuierliche Modellbildung und Simulation · Populationsdynamik:... Regelungstechnik:... Verkehrsfluss:... Wärmeleitung: Modell... Page 3 of 165 Modellbildung und Simulation
This document is posted to help you gain knowledge. Please leave a comment to let me know what you think about it! Share it to your friends and learn new things together.
Transcript
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 1 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
3) Kontinuierliche Modellbildung undSimulation
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 2 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
3.1. Populationsdynamik: Modelle und ihrenumerische Behandlung
3.1.1. Modelle der Populationsdynamik
• die numerische Simulation stützt sich typischerweise auf kontinuierliche Mo-delle (reellwertige Größen, Apparat der Analysis)
• zwei große Klassen:
– Problememit Berücksichtigung des Ortes bzw. Raumes führen auf par-tielle Differentialgleichungen oder kurz PDE
– Probleme ohne Berücksichtigung des Ortes bzw. Raumes führen aufgewöhnliche Differentialgleichungen oder kurz ODE
• Standardbeispiel für letztere: Populationsdynamik
– Entwicklung bzw. Wachstum von Populationen,
* entweder als isolierte Spezies (ohne externe Einflüsse)
* oder in (friedlicher / feindlicher) Koexistenz verschiedener Spezies
– Modellierung hat hier große Tradition (Biologie und Mathematik)
– ein Beispiel mit zwei „Spezies“ schon in Kapitel 1: Wettrüsten!
– klassischer, einfacher Vertreter eines 1-Spezies-Modells: Modell nachMaltus (1798)
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 3 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Modell nach Maltus
• betrachtet wird nur eine einzige Spezies P :
– konstante Geburtenrate γ pro Zeiteinheit und Individuum
– konstante Sterberate δ pro Zeiteinheit und Individuum
– dadurch auch konstanteWachstumsrate λ = γ − δ (positiv/negativ)
• Studium der Entwicklung von p(t), der Anzahl von Individuen von P :
p(t + ∆t) = p(t) + λ · p(t) · ∆t
(Wachstum ist proportional zu Populationsgröße und Zeit)
• führt auf die gewöhnliche Differentialgleichung
p(t) = λ p(t)
mit der Lösungp(t) = p0e
λt,
wobeip(0) = p0
• Anmerkung:
– exponentielles Verhalten (Wachstum oder Abnahme extrem schnell)
– zunächst diskrete Realität (Anzahl von Individuen ist ganzzahlig!), aberdennoch kontinuierliches Modell!
– „wagt“ man jetzt noch den Schritt vom ganzzahligen k · τ zum reellwer-tigen t von vorhin, so ist unser bisheriges kontinuierliches Modell (dieODE) auch mittels diskreter Argumente hergeleitet
• beruhigend – wir bleiben deshalb bei kontinuierlichen Ansätzen
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 5 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Einschub: Bezüge zur Verzinsung
• Startkapital K, Jahresnominalzins R%
– nach n Jahren (jährliche Verzinsung): K · (1 + r)n, r = R/100
– nach n Jahren (monatliche Verzinsung): K ·(1 + r
12
)12·n
– nach n Jahren (tägliche Verzinsung): K ·(1 + r
365
)365·n
– im Grenzwert (unendlich fein):
limN→∞ K ·(1 + r
N
)N ·n= limN→∞ K ·
(1 + r·n
N ·n)N ·n
= K · er·n
– exponentielles Wachstum ( r = λ, n = t , Lob den Banken!)
• Verdopplung des Kapitals nach τ Jahren (vgl. Folie 4):
2K = K · (1 + r)τ , also τ =ln 2
ln(1 + r)≈ 0.7
r=
70R
bzw.
2K = K · er·τ , also τ =ln 2r
≈ 0.7r
=70R
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 6 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Erste Verfeinerung: Sättigung
• Ist exponentielles Wachstum realistisch?
– Bevölkerung der Erde zwischen 1700 und 1961: ja!
* Wachstumsrate von ungefähr 0.02
* das heißt: Verdopplung etwa alle 34.67 Jahre
– im Allgemeinen jedoch: nein!
* begrenzte Aufnahmekapazität der Erde, begrenzte Ressourcen
* zunehmender Wettbewerb/Kampf um Nahrung, Wasser oder Luftwirkt bremsend auf das Bevölkerungswachstum
• Verfeinerung gemäß Verhulst und anderen (19. Jahrhundert):
– Bevölkerungszahl strebt gegen Sättigungsgrenzwert
– lineare Geburten- und Sterberaten (jetzt nur pro Zeiteinheit):
– zweite Ableitung von p(t) tritt auf: somit alsoWechselspiel aus Populations-stärke, Wachstum und Wachstumsänderung
• Lösung bei Anfangsbedingung: p(0) = p0
p(t) = (p0 − p∞) · e−µt2 · cos
(√ω2 − µ2
4· t)
+ p∞
• Interpretation (insbesondere der zweiten Ableitung)?
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 11 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Mehr als eine Spezies
• nächster Schritt in Richtung mehr Realismus: betrachte zwei Spezies P undQ, z.B.
p(t) = f(p(t), q(t)) · p(t),
q(t) = g(p(t), q(t)) · q(t),
• f und g:Wachstumsraten, sinnvoll für positive Werte von p und q
• es gebe p, q mit f(p, q) = g(p, q) = 0 (nicht immer der Fall):
–(
p(t)q(t)
)=(
pq
)wird Gleichgewichtslösung genannt, falls p, q > 0
f(p, q) = g(p, q) = 0 ⇒ p(t) = q(t) = 0
– Gleichgewicht beschreibt stabilen bzw. stationären Zustand des Sy-stems (kein Wachstum); die Lösung (p)t = p, q(t) = q heißt stationäreLösung
• entscheidende Fragen:
– Gibt es eine Gleichgewichtslösung?
– Falls ja, ist sie attraktiv (d.h. wird sie irgendwann oder im Limes ange-nommen, und verharren p und q dann auch in ihr)?
– vgl. Situation beim Beispiel des Wettrüstens in Kapitel 1
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 12 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Einfaches Beispiel: Wettrüsten
• schon in Kapitel 1: Wettrüst-Modell
x(t) = f(x, y) = −mx(t) + ay(t) + c
y(t) = g(x, y) = bx(t) − ny(t) + d,
a, b, c, d, m, n > 0
(x(t)y(t)
)=(−m a
b −n
)·(
x(t)y(t)
)+(
cd
)
• beachte: einfacheres Modell (linear!) als auf Folie 11!
• Interpretation:
– Rüstungsausgaben x(t), y(t) von zwei Großmächten X und Y
– Abrüstraten m und n , Aufrüstraten a und b
– konstante Aufrüstbeiträge c und d (Abrüstbeiträge, falls negativ)
• man kann hier zeigen:
– wenn m · n = a · b , dann existiert (x, y) mit f(x, y) = g(x, y) = 0
– somit hat man die stationäre Lösung(x(t)y(t)
)=(
xy
)∀t
(Gleichgewicht, wenn beide Komponenten positiv)
– wenn m · n > a · b , dann liegt zudem Attraktivität vor (Deutung?)
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 13 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Beispiel Wettrüsten: Gleichgewicht
• Modell: (x(t)y(t)
)=(−1 1/2
1/2 −1
)·(
x(t)y(t)
)+(
3/20
)• Eigenwerte der Matrix: −1/2,−3/2
• es gilt m · n > a · b
• Start bei(
x0
y0
)=(
1/23/2
), Gleichgewicht (attraktiv) bei
(xy
)=(
21
)
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 14 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Beispiel Wettrüsten: Explosion
• Modell: (x(t)y(t)
)=(−3/4 1
1 −3/4
)·(
x(t)y(t)
)+(
1/2−5/4
)• Eigenwerte der Matrix: 1/4,−7/4
• es gilt m · n < a · b
• Start bei(
x0
y0
)=(
5/49/4
), Gleichgewicht (nicht attraktiv) bei
(xy
)=(
21
)
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 15 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Beispiel Wettrüsten: noch ’was Nettes
• Modell: (x(t)y(t)
)=(−3/4 1
−1 −3/4
)·(
x(t)y(t)
)+(
05/2
)• Eigenwerte der Matrix: −3/4 ± i
• Start bei(
x0
y0
)=(
1/211/4
), Gleichgewicht (attraktiv) bei
(xy
)=(
8/56/5
)
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 16 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Beispiel Wettrüsten (die letzte)
• d.h.: Y rüstet auch bei großem X(t) ab und fährt mit dieser „pazifistischen“Marschroute sicherheitspolitisch nicht schlechter als mit „konventioneller“Strategie!
• entscheidende Frage:
– Ist das Gleichgewicht wirklich stabil? Bedeutet nicht z.B.(x(t)y(t)
)=(
xy
)=(
1001
)in der Logik des Kalten Krieges, dass X irgendwann doch angreift –und sich einen Dreck um die theoretische Stabilität schert?
– Modell also noch unvollständig:
* große positive Differenz x(t) − y(t) führt wohl zu Aufrüsten bei Y ,große negative Differenz zu Abrüsten (analog für X)
* vgl. „Two-Power-Standard“ (Royal Navy stärker als zwei beliebi-ge andere europäische Marinen zusammen, British Naval DefenceAct 1889)
• damit sind Wege zur weiteren Modellverfeinerung aufgezeichnet
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 17 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Existenz eines Gleichgewichts
• Folie 11 sowie Theorie der ODE: hinreichend für Attraktivität eines Gleich-gewichts (p, q) sind negative Realteile der Eigenwerte der Jacobimatrix zu
– diskrete Punktmenge (Gitter ) statt eines Intervalls etc.
– statt Ableitungen nun Differenzenquotienten:
y(t) ≈ y(t + h) − y(t)h
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 31 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Rundung, Rundungsfehler
verschiedene Fehlerquellen in numerischen Algorithmen
• Rundungsfehler: durch Verwendung von Gleitpunktzahlen
– Nachbarn zu x ∈ IR :
fl(x) = maxf ∈ IF : f ≤ x, fr(x) = minf ∈ IF : f ≥ x– Rundung: rd : IR → IF, surjektiv – idempotent – monoton
* Aufrunden: rd(x) = fr(x)
* Abrunden: rd(x) = fl(x)
* korrektes Runden: zum Näheren der beiden (Sonderbehandlungdes Mittelpunkts!)
* Abhacken: zum näher an Null Gelegenen
* Schranke für relativen Rundungsfehler: ρ bzw. ρ/2– ideale Arithmetik:
a∗b = rd(a ∗ b) ∀a, b ∈ IF ∀∗ ∈ +,−, ·, /(technisch möglich (IEEE!), aber nicht in allen Rechnern realisiert)
– Abschwächung:
a∗b = (a ∗ b) · (1 + ε(a, b)), | ε(a, b) |< ε = O(ρ)
– Rundungsfehleranalyse: akkumulierten Einfluss bei längeren Berech-nungen abschätzen (Beispiel: Horner-Schema zur Polynomauswertung)
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 32 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Weitere Fehlerquellen
• Diskretisierungsfehler: durch Verwendung diskreter Punkte anstelle des Kon-tinuums
• Abbruchfehler: durch Abbruch einer Iteration nachN Iterationsschritten, z.B.
– Abbruch einer Reihenberechnung nach N Gliedern
– Abbruch einer Nullstellensuche nach Newton nach N Schritten
– Abbruch einer Nullstellensuche nach Newton, wenn keine signifikanteÄnderung mehr eintritt
• Datenfehler: Eingabedaten sind oft (ungenaue) Messwerte o. Ä.
• Alle diese Fehlerquellen sind im Auge zu behalten!
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 33 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Das Euler-Verfahren
• Standard-Diskretisierungsansatz für AWP:
– Finite-Differenzen-Approximation: nähere die Ableitung durch geeigne-te Differenzenquotienten an, z.B. im einfachsten Fall
y(a + δ t) = y(a) + δ t · f(t, y(a))d.h. dann als Rechenvorschrift:
yk+1 = yk + δ t · f(tk, yk), tk = a + kδ t, k = 0, 1, . . .
– Aus einer kontinuierlichen Gleichung (gültig in allen Punkten) wird so-mit eine Folge diskret(isiert)er Gleichungen (gültig in jeweils einem Punkt);Abstand zweier Punkte: Schrittweite
– Bereich kann auch endlich sein: t ∈ [a, b]
– Vorgehensweise wird Euler-Verfahren genannt
– Gretchenfragen:
* Was passiert für δt → 0 ? Konvergenz gegen Lösung der ODE?
* Wie schnell ist Konvergenz (Fehler bei Halbierung der Schrittwei-te)?
* Gibt es scharfe Maximalgröße für die Schrittweite?
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 34 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Euler-Verfahren, Diskretisierungsfehler
• alternative Herleitung des Euler-Verfahrens: abgehackte Taylor-Entwicklungder exakten Lösung y(t) :
• lokaler Diskretisierungsfehler: maximaler lokaler Einfluss durch Verwendungvon Differenzen statt Ableitungen; hier (Achtung: y(t) bezeichnet die exakteLösung des Problems, keine Näherung):
l(δ t) = max[a,b]
(y(t + δ t) − y(t))δ t
− f(t, y(t))
• globaler Diskretisierungsfehler: maximaler Fehler aller berechneten diskre-tenNäherungswerte:
Lokaler und globaler Diskretisierungsfehler im Vergleich
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 36 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Konsistenz- und Konvergenzordnung
• Euler (bei Beschränktheit von y und fy) :
– konsistent von erster Ordnung : l(δ t) = O(δ t)
– konvergent von erster Ordnung : e(δ t) = O(δ t)
– Es gibt aber durchaus konsistente Verfahren, die nicht konvergieren!
• schnellere Konvergenz bei höherer Ordnung (k größer)
– möglicher Ausgangspunkt Taylor-Entwicklung: führt zu kompliziertenFormeln (höhere Ableitungen von f erforderlich)
– alternativ: benutze zusätzliche Auswertungen von f (neben den Gitter-punkten): Verfahren vom Runge-Kutta-Typ
• einfachster Vertreter: Methode von Heun
yk+1 = yk +δ t
2
(f(tk, yk)) + f(tk+1, yk + δ t · f(tk, yk))
)• sowohl konsistent als auch konvergent (2. Ordnung)
l(δ t) = O(δ t2), e(δ t) = O(δ t2)
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 37 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Verfahren nach Runge und Kutta
• berühmtester Vertreter: Runge-Kutta-Verfahren
yk+1 = yk +δ t
6(T1 + 2T2 + 2T3 + T4) ,
T1 = f(tk, yk),
T2 = f(tk +
δ t
2, yk +
δ t
2T1
),
T3 = f(tk +
δ t
2, yk +
δ t
2T2
),
T4 = f(tk+1, yk + δ t T3)
• konsistent und konvergent von vierter Ordnung
• Die Verfahren nach Euler bzw. Heun bzw. Runge-Kutta entsprechen üb-rigens alle einer Quadratur-Regel (Rechtecksregel bzw. Trapezregel bzw.Simpson-Regel ):
– Integriere die ODE formal und interpretiere die einzelnen Verfahren alsNäherungen für das dann zu bestimmende Integral über f :
y = f(t, y(t)) ⇒ y(tk+1) = y(tk) +∫ tk+1
tk
f(t, y(t)) dt
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 38 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Alternative: Mehrschrittverfahren
• Runge-Kutta-Verfahren sind teuer, da sie viele Auswertungen von f erfor-dern (f oft nicht in geschlossener Form verfügbar)
• Alternative zur Erzielung höherer Ordnung: nutze Historie, also bereits er-folgte Auswertungen (Adams-Bashforth- oderMehrschrittverfahren)
– prominenter Vertreter: Methode 2. Ordnung
yk+1 = yk +δ t
2(3f(tk, yk) − f(tk−1, yk−1)
)= yk +
δ t
2(3fk − fk−1)
– allg.: betrachte Polynom P (t) vom Grad p − 1 , welches f in den p dis-kreten Stützstellen (ti, fi = f(ti, yi)), i = k − p + 1, . . . , k, interpoliert
yk+1 = yk +∫ tk+1
tk
y(t) dt = yk +∫ tk+1
tk
f(t, y(t)) dt = yk +∫ tk+1
tk
P (t) dt
– p = 1: Euler
– p = 2: obiges Verfahren
– allgemeiner Ansatz: Ordnung p
– keine zusätzlichen Auswertungen von f (eine pro diskretem Zeitpunkt)
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 39 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Mehrschrittverfahren (2)
• am Anfang: keine oder zu wenige Vorgänger verfügbar
• Abhilfe: modifizierte Vorgehensweise
– Setze ein Einschrittverfahren oder ein Mehrschrittverfahren mit hinrei-chend kleiner Schrittzahl ein, um einen Wert für yk+1 und somit für fk+1
zu erhalten.
– Ordnung bleibt erhalten!
• Nachteil aller bisher vorgestellten Verfahren:
– Die Schrittweite δt muss oft sehr klein sein, wenn Instabilitäten (Os-zillationen in der berechneten Lösung, die dadurch von grundlegendanderem Charakter als die „echte“ Lösung ist) vermieden werden sol-len!
– Eine kleine Schrittweite bedeutet natürlich einen entsprechend hohenBerechnungsaufwand!
• Auch hierfür gibt’s eine Abhilfe: implizite Verfahren!
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 40 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Implizite Verfahren
• Alle bisher vorgestellten Verfahren sind explizit: Die jeweilige Vorschrift er-möglicht die direkte Berechnung eines weiteren Zeitschritts.
• jetzt: benutze das zu bestimmende yk+1 auch rechts
• führt zu Adams-Moulton Mehrschrittverfahren:
– benutze Interpolation und Vorgänger wie bei Adams-Bashforth, abermit dem neuen Zeitpunkt als Stützstelle
– impliziter Euler (1. Ordnung):
yk+1 = yk + δ t · fk+1
– Variante 2. Ordnung:
yk+1 = yk + δ t · (fk + fk+1)2
– Variante 4. Ordnung:
yk+1 = yk +δ t
24(fk−2 − 5fk−1 + 19fk + 9fk+1)
• Problem: Wie ermittelt man yk+1 im impliziten Fall?
– Holzhammer: i.A. nichtlineare Gleichung auflösen (Newton o. Ä.)
– einfacher und verbreitet: Prädiktor-Korrektor Ansatz
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 41 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Prädiktor-Korrektor-Ansatz
• zweistufiges Verfahren:
– Zunächst wird mit einem geeigneten expliziten Verfahren ein vorläufigerWert für yk+1 ermittelt (Prädiktor).
– Dieser wird dann in der impliziten Vorschrift auf der rechten Seite ver-wendet, um den endgültigen Wert von yk+1 zu bestimmen (Korrektor).
• wesentliche Eigenschaft (wenn man alles richtig macht):
• offensichtlich: Oszillationen und Divergenz für δ t > 0.002
• dies, obwohl
– expliziter Euler konsistent
– expliziter Euler stabil (wie alle expliziten s-Schritt-Verfahren)
– somit auch konvergent!
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 49 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Steifheit (2)
• Phänomen wird Steifheit genannt
– eine unwichtige Komponente der Lösung (im Beispiel der negative Ex-ponentialterm e−1000t) erzwingt Mini-Schrittweite bei der Diskretisie-rung (und zwar auf gesamtem Bereich!)
– dadurch inakzeptabel hoher Berechnungsaufwand
– dies, obwohl Lösung fast überall trivial darstellbar
• Erklärung?
– Konsistenz und Stabilität sind beides asymptotische Begriffe, treffen al-so Aussagen für den Grenzfall hinreichend kleiner Schrittweite δt
– Konsistenz/Stabilität/Konvergenz also nicht verletzt, das Betreten derasymptotischen Phase erfolgt allerdings erst für sehr kleine Schrittweiteund ist dadurch extrem aufwändig!
– gilt für alle expliziten Verfahren – diese taugen nicht für steife Differential-gleichungen
• Abhilfe: implizite Verfahren!
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 50 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Steifheit (3)
• jetzt impliziter Euler:
yk+1 = yk + δ t · f(tk+1, yk+1)= yk + δ t · (−1000 · yk+1 + 1000)
=yk + 1000 · δ t
1 + 1000 · δ t
=1
(1 + 1000 · δ t)k+1+ 1
• offensichtlich: keine Oszillationen, stets Konvergenz
• Erklärung:
– Explizite Verfahren approximieren Lösung mit Polynomen- und das funk-tioniert bei negativ exponentiellem Abklingen eben nicht!
• Ergo: bei steifen ODE stets implizite Verfahren verwenden!
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 51 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Zusammenfassung
• Wir haben drei Phänomene betrachtet, die uns bei der numerischen Lösungvon ODE das Leben schwer machen:
– schlechte Kondition:
* bedrohliche Eigenschaft des zugrunde liegenden Problems (hatnichts mit numerischen Näherungsverfahren zu tun)
* im Extremfall wenig Spielraum für die Numerik
– Instabilität:
* bedrohliche Eigenschaft eines numerischen Verfahrens, die i.d.R.zu sehr kleinen Zeitschritten und im Extremfall zur Untauglichkeitdes Verfahrens führt
* implizite Verfahren sind hier expliziten oft überlegen
– Steifheit:
* bedrohliche Eigenschaft eines Problems, der aber mit implizitennumerischen Verfahren beizukommen ist
* implizite Verfahren hier ein Muss
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 52 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Ausblick auf Randwertprobleme
• Beispiel:y = f(t, y, y), ta ≤ t ≤ tb, y(ta) = ya, y(tb) = yb
• Spezialfall:y = a(t)y(t) + b(t)y(t) + c(t)
gleiche Randbedingungen
• a = 0 und, b > 0: RWP hat eindeutige Lösung
• diskretes Gitter:
δ t = (tb − ta)/n, t0 = ta, tn = tb, ti = ta + iδ t
• Finite-Differenzen-Approximation für zweite Ableitung:
y(t) =y(t + δ t) − 2y(t) + y(t − δ t)
δ t2
• diskretes Analogon zur ODE in jedem Gitterpunkt:
– λ, ν sind also als Eigenwert und Eigenvektor von M zu wählen– n (komplexe) Eigenwerte λi gibt’s immer; falls auch n linear unabhän-gige Eigenvektoren νi vorliegen (M symmetrisch oder paarweise ver-schiedene Eigenwerte, z.B.), ergibt sich als Lösung
x(t) =n∑
i=1
νi · eλit mit x0 =n∑
i=1
νi
– sonst: komplizierter, es geht aber immer: x(t) = et·M · x0
– Charakteristik der Eigenwerte hat ablesbare Konsequenzen:
* Realteile aller Eigenwerte negativ: Lösung stabil/stationär/gegen 0
* mindestens ein positiver Realteil: exponentiell wachsende Kompo-nente
* alle Realteile Null: periodische Schwingungen der Lösung
* alle Realteile negativ, alle Imaginärteile Null: Idealfall ohne Oszilla-tionen
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 64 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Auslegung des Reglers (Matrix K )
regeln heißt jetzt: Rückführmatrix K so bestimmen, dass M = A − BK „besser“als A, d.h.:
• möglichst negative Realteile aller Eigenwerte von M
– Wirkung: Abklingen
• möglichst große Absolutbeträge der Realteile aller Eigenwerte von M
– Wirkung: rasches Abklingen
• möglichst kleine Absolutbeträge der Imaginärteile aller Eigenwerte von M
– Wirkung: keine hochfrequenten Oszillationen
• Stabilität sollte auch bei Einführung kleiner Störgrößen (ist dann entspre-chend komplizierteres Modell) noch gegeben sein!
– gibt das Modell der linearen Rückführregelung per se natürlich nicht her(enthält ja keine Störgrößen)
• Beispiel: PID-Regler für lineares ODE-System(verfügbar als Maple-Worksheet)
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 65 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
3.2.3. Regelung mittels Fuzzy-Logik
• vorneweg ein paar Definitionen:
– scharfe Menge (crisp set) X : Menge von Elementen x ∈ X im üblichenSinn (endlich oder unendlich)
– unscharfe Menge (fuzzy set) A über X : charakterisiert über eine soge-nannte Zugehörigkeitsfunktion
µ(., X, A) : X → [0, 1]
diese gibt für jedes Element x ∈ X die Wahrscheinlichkeit an, mit der esder unscharfen Menge A angehört (Achtung: µ(x,X, A) + µ(x,X, B) >1 ist möglich!)
– man schreibt die unscharfe Menge auch
A =(
x, µ(x,X, A)), x ∈ X
,
also als Menge von Paaren (Element, Wahrscheinlichkeit)
– als Spezialfall gilt dabei:
µ(x, X, X) = 1 ∀x ∈ X, µ(x,X, A) = 1 ∀x ∈ A
– Trägermenge (support) von A : supp(A) =
x ∈ X : µ(x, X, A) > 0
– α -Schnitt (-level-set, -cut):
Aα =(
x, µ(x, X, A))
: x ∈ X und µ(x,X, A) ≥ α
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 66 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Fuzzy-Logik
• noch ein Begriff:
– gekappte unscharfe Menge A ↑ α :
µ(x,X, A ↑ α) =
µ(x,X, A), falls µ(x, X, A) ≤ αα sonst
die Wahrscheinlichkeiten werden also nach oben beschränkt
• Modellieraufgabe v.a.: Festlegung der Gestalt (Form und Werte) der Zuge-hörigkeitsfunktion
– 0-1-Sprungfunktion: herkömmliche Mengen
– viele andere Formen sind denkbar (stückweise linear, stückweise Poly-nome höheren Grades, ...)
• verfügbare Fuzzy-Logik-Systeme bieten verschiedene (meist einfache) Va-rianten an
• Wir schauen uns exemplarisch ein paar Möglichkeiten an.
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 67 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Formen der Zugehörigkeitsfunktion
• scharfe Menge: Rechteck!
• Dreieck (oft gleichschenklig, aber nicht immer):
• Trapez (meist symmetrisch, aber nicht immer):
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 68 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Formen der Zugehörigkeitsfunktion
• S- bzw. Z-Form (typisch z.B. für einseitig abgegrenzte unscharfe Begriffe):
• Glockenkurve (verwendet bei beidseitig abgegrenzten unscharfen Begrif-fen):
• verbreitet sind ferner Polygonzüge, Sinus (halbe Periode), etc.
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 69 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Operationen auf unscharfen Mengen
• üblicherweise benötigt und definiert: Pendants zu den Standard-Mengen-bzw. logischen Operationen
– Durchschnitt
– Vereinigung
– Komplement
• großer Spielraum bei der konkreten Realisierung (an Anwendung anpassbar)
• gewisse Einschränkungen:
– z.B.: übliche Regeln bzw. Operationen der Logik sollten in den „schar-fen“ Grenzfällen noch gelten
µ ≡ 1, µ ≡ 0
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 70 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Definition der Operationen
• Durchschnitt C = A ∩ B über
µ(x,X, C) = min
µ(x, X, A), µ(x,X, B)
• Vereinigung C = A ∪ B über
µ(x, X, C) = max
µ(x, X, A), µ(x, X, B)
• Komplement C = A über µ(x,X, C) = 1 − µ(x,X, A)
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 71 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Linguistische Variable
• Eine linguistische Variable ist charakterisiert durch ihren Namen v und durchihre möglichen Werte (Ausprägungen, linguistische Terme).
– Jeder linguistischen Variablen ist eine scharfe Menge X zugeordnet.
– Die Menge aller Werte von v heißt Termmenge T (v) .
– Jeder linguistische Term ist eine unscharfe Menge, definiert über derscharfen Menge X .
• jeweilige Zugehörigkeitsfunktionen (jeder Wert/Term hat als unscharfe Men-ge eine):
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 73 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Fuzzy-Regelung
• heute weit verbreitet, insbesondere bei Konsumgütern wie Waschmaschi-nen oder Fotoapparaten
• Vorteile einer Fuzzy-Regelung :
– mathematisches Modell ist oftmals für die zu beschreibenden Prozessenicht vorhanden oder zu komplex (wir haben ja zuvor nur den einfachenFall eines Systems homogener linearer ODE betrachtet – die Welt istjedoch wesentlich komplizierter), erfordert also erheblichen mathema-tischen Aufwand zu seiner Beherrschung
– Fuzzy-Regelung ist dagegen mit Schulmathematik möglich
– Fuzzy-Regelung ist intuitiv: linguistische / umgangssprachliche Begriffezur Nachbildung des WENN-DANN- Regelungsvorgangs
• beachte: alles, also insbesondere alle Prämissen und alle Folgerungen, wirdunscharf ausgewertet!
• im Folgenden: weg vom scharfen Messwert über den Umweg des unschar-fen Modellapparats schließlich zur scharfen Stellgröße
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 74 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Entwurfsschritte
• 1. Schritt:Fuzzifizierung (!) der gemessenen Größe(n) (also z.B. Temperatur), d.h. De-finition der linguistischen Variablen sowie ihrer jeweiligen Terme samt denentsprechenden Zugehörigkeitsfunktionen
• 2. Schritt:Erstellung der Regelbasis (Beziehungen auf WENN-DANN-Basis etc.) aufder Grundlage von Expertenwissen
• 3. Schritt:Auswahl geeigneter Inferenzoperatoren (Übertragung der Unschärfe von denMessgrößen auf die Stellgrößen)
• 4. Schritt:Defuzzifizierung, d.h. Berechnung der scharfen Stellgrößen
• Beispiel nach Bothe, Fuzzy Logic, Springer 1993
– Aufgabe: Regelung einer Kühlventilstellung
– Messgröße: Temperatur T
– Messwert: gemessene Temperatur t
– Stellgröße bzw. Stellwert: Stellung K bzw. k des Kühlventils
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 75 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Schritt 1: Fuzzifizierung
• allgemeines Prinzip:
– gemessene Werte stammen aus scharfen Mengen (linguistische Varia-ble)
– zu jeder linguistischen Variablen gibts mehrere unscharfe Mengen (lin-guistische Terme, gemäß menschlicher Wahrnehmung)
– für jeden Messwert werden zu allen linguistischen Termen dieZugehörigkeitswahrscheinlichkeiten ermittelt
• am konkreten Beispiel:
– Temperaturwert t wurde gemessen
– zwei linguistische Variable, zwei scharfe Mengen:
* Temperatur T
* Stellung K des Kühlventils
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 76 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Schritt 1: Fuzzifizierung (2)
• (einige) unscharfe Mengen zu denWerten der linguistischen Variablen „Tem-peratur“:
• (einige) unscharfe Mengen zu denWerten der linguistischen Variablen „Kühl-ventilstellung“:
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 77 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Schritt 2: Regelbasis
• allgemeines Prinzip:
– Elementarbedingungen der Art X = A mit linguistischer Variablen Xund Wert (unscharfer Menge) A
– logische Verknüpfung von Elementarbedingungen mittels der üblichenOperatoren AND, OR und NOT
– ausgelöste Aktion der Art Y = B mit linguistischer Variable Y und Wert(unscharfer Menge) B
– somit Regeln der Art
IF X1 = A1,j AND X2 = A2,j THEN Y = Bj (Regel j)
mit entsprechenden linguistischen Variablen und Termen
• am konkreten Beispiel:
– Regel 1: IF T = niedrig THEN K = halb offen
– Regel 2: IF T = mittel THEN K = fast offen
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 78 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Schritt 3: Inferenz
• allgemeines Prinzip:
– berechne zum gemessenen Wert x ∈ X und zu jeder Elementarbedin-gung X = A die Wahrscheinlichkeit der Zugehörigkeit µ(x,X, A)
– Verknüpfungen der µ -Werte gemäß:
* AND als Durchschnitt unscharfer Mengen(Minimum der Zugehörigkeitswahrscheinlichkeiten)
* OR als Vereinigung unscharfer Mengen(Maximum der Zugehörigkeitswahrscheinlichkeiten)
* NOT als Komplement einer unscharfen Menge(1 minus Zugehörigkeitswahrscheinlichkeit)
– Damit ist für die linke Seite jeder Regel (der IF-Teil) ein µj berechenbar.
– Somit ist nun der IF-Teil aller Regeln mit einer unscharfen Zugehörigkeit(Zugehörigkeitswahrscheinlichkeit) belegt.
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 79 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Schritt 3: Inferenz (2)
• allgemeines Prinzip (Fortsetzung):
– nahe liegende Inferenz-Strategie für jede Regel:der Wert µj des IF-Teils der Regel beschränkt die Zugehörigkeitswahr-scheinlichkeit (den µ -Wert) der unscharfen Menge Bj des THEN-Teilsder Regel
– Begründung: Eine nur unwahrscheinliche Prämisse zieht die nur un-wahrscheinliche Ausführung der Konklusion nach sich.
– Somit wird für jede Regel j die bezüglich µj gekappte unscharfe MengeBj ↑ µj berechnet.
• Daraus ist dann im vierten und letzten Schritt mit Hilfe der Defuzzifizierungwieder ein scharfer Ventilstellungswert zu ermitteln.
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 80 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Schritt 3: Inferenz (3)
• jetzt wieder am konkreten Beispiel:
– Regel 1 liefert µ1 = µ(t, T,niedrig)
– daraus ergibt sich: halb offen ↑ µ1
– Regel 2 liefert µ2 = µ(t, T,mittel)
– daraus ergibt sich: fast offen ↑ µ2
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 81 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Schritt 4: Defuzzifizierung
• allgemeines Prinzip:
– Zu jeder im THEN-Teil einer Regel auftretenden linguistischen Varia-blen werden alle entsprechenden Regeln betrachtet.
– Aus den hierzu in Schritt 3 ermittelten gekappten unscharfen Mengenwird jeweils die (unscharfe) Vereinigung gebildet.
– verschiedene Möglichkeiten zur anschließenden Berechnung scharferStellwerte:
* Mittelwert aus Maximal- und Minimalwert des Trägers der unschar-fen Vereinigung
* Mittelwert aus den Minimal- und Maximalwerten der Träger der ein-zelnen gekappten unscharfen Mengen
• strategisches Verhalten bei hoher Verkehrsdichte:
– einzelner Autofahrer:
* individuelles Optimum aus Reduzierung der eigenen Fahrzeit undVermeidung der eigenen Verwicklung in Unfälle
* intuitiver positiver Beitrag zu störungsfreiem Verkehrsfluss insge-samt (also auch für die anderen Verkehrsteilnehmer) schwierig
– Polizei bzw. Verkehrsleitstelle:
* Vermeidung von Staus und Unfällen (Gesamtsicht)
* Mittel: Straßenbau, Verkehrsleitsysteme, flexible Richtungsnutzungvon Fahrspuren, Ampelanlagen etc.
• erforderlich: Modellierung des Verkehrsflusses
– um auch komplexe Situationen verstehen zu können
– um sinnvoll steuernd sowie regelnd tätig werden zu können
– Wechselwirkungen von Verkehrsdichte und Geschwindigkeit, im Großen(Durchsatz) und im Detail (Fortpflanzung kurzer Stockungen)
– wir werden studieren: einfaches Modell nach Lighthill & Whitham
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 90 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Mögliche Beschreibungsarten
• Vielzahl verschiedener möglicher Ansätze:
– Straßennetz als Graph bzw. Netzwerk, Dynamik (Autos im System) mitPetri-Netzen
– Straßennetz als zellulärer Automat, Dynamik (Verkehr) über geeigneteRegelbasis
– Straßennetz als Wartenetz im Sinne von Abschnitt 2.3: Ampeln bzw.allgemeine Kreuzungen als elementare Wartesysteme, Zu- und Abflussvon Autos als stochastische Prozesse
– Autos als Elementarteilchen (Moleküle wie in Molekulardynamik, oderstochastisch mittels Aufenthaltswahrscheinlichkeiten wie bei Boltzmann,Schrödinger & Co.)
– Straßennetz als Kanalsystem, Gesamtverkehr als zähes Fluid, das sichdurch die Kanäle quält
– Staus, Ampeln:Wellenausbreitung, Akustik
– · · ·
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 91 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Verkehrsfluss: Analogien
• breite Anwendbarkeit solcher Verkehrsmodelle:
– Gleichungen zur Verkehrsmodellierung können z.B. auch die Ausbrei-tung von Verschmutzungen in Strömungsfeldern (Gewässer, Luft) be-schreiben
– Ausbreitung von Staus analog
* zur Ausbreitung von Schockwellen (Düsenflugzeuge, Schüsse etc.,Druckwelle nach Explosionen)
* zur Fortpflanzung von Feuerfronten bei Waldbränden
* zur Versickerung von Wasser im Boden nach starken Regenfällen
* zur Bewegung von Eisenbahnwaggons beim Rangieren
* Anzahl der Autos auf der Strecke M(t) zur Zeit t
• dann gilt
– zu jedem Zeitpunkt:
M(t) =∫ x=b
x=a
N(x, t) dx
– mit fortschreitender Zeit:
∂
∂tM(t) = Mt(t) =
∫ x=b
x=a
Nt(x, t) dx
– verantwortlich für Änderungen von M(t): Fluss in a und b
∂
∂tM(t) = Mt(t) = F (a, t) − F (b, t) = −
∫ x=b
x=a
Fx(x, t) dx
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 101 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Ein Erhaltungssatz (2)
• Visualisierung der Berechnung von M(t) :
• zwei Wege zur Berechnung der Zeitableitung von M(t) :
– via Integral der Zeitableitung der Dichte über ganze Strecke
– oder via Zu- und Abgangsbilanz an den Endpunkten a und b
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 102 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Ein Erhaltungssatz (3)
• insgesamt gilt somit∫ x=b
x=a
Nt(x, t) dx = −∫ x=b
x=a
Fx(x, t) dx
bzw. ∫ x=b
x=a
(Nt(x, t) + Fx(x, t)) dx = 0
und zwar
– für jeden Zeitpunkt t
– für jede Teststrecke [a, b]
• deshalb gilt (bei hinreichender Differenzierbarkeit)
Nt(x, t) + Fx(x, t) = 0 ∀x, t
bzw. mit F = F (N):
Nt(x, t) + FN (N(x, t)) · Nx(x, t) = 0 ∀x, t
• Verkehrsgleichung (nichtlineare partielle DGL!)
– berücksichtigt Erhaltung von Autos: Dichteänderungen schlagen sich inFlussänderungen nieder und umgekehrt
– Unbekannte: Dichte; daraus dann mittels F = F (N) der Fluss
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 103 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Verkehrsgleichung
• man beachte:
– Die Abhängigkeit F = F (N) ist eine Modellannahme und somit bereit-zustellen (z.B. parabolisches oder kubisches Modell).
– Die Verkehrsgleichung ist ein einfaches Beispiel einer nichtlinearenhyperbolischen Wellengleichung (beschreiben allgemeine Wellenaus-breitungsphänomene).
– Die Ableitung des Flusses nach der Dichte, also
∂
∂NF = FN ,
wird Signalgeschwindigkeit genannt:
* aus Dimensionsgründen (Einheit!) tatsächlich Geschwindigkeit
* Auswirkung einer Dichteänderung (Störung) auf den Fluss, d.h.Ausbreitung der Information einer Änderung oder einer Störung
* Signalgeschwindigkeit ist ungleich Autogeschwindigkeit V
* Signalgeschwindigkeit kann bei V ≥ 0 positiv, negativ oder Nullsein.
• Verkehrsgleichung kann in einfachen Fällen analytisch gelöst werden(Charakteristiken-Methode)
– Platte schnell auf Zieltemperatur, Wasser erhitzt sich allmählich
– beachte Kühlwirkung des Außenraums des Topfes
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 115 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Ein Modell für die Wärmeleitung
• Standardbeispiel für eine physikalische Herleitung
• mehrteiliges Modell:
– die PDE:
* beschreibt die Wechselwirkungen von Temperaturänderungen inBezug auf Raum (hier jetzt 3D) und Zeit
* eine Gleichung für eine gesuchte Funktion ausreichend
* Gleichung bestimmt Schar von Lösungen
– Anfangs- und Randbedingungen:
* zur eindeutigen Festlegung der gesuchten Lösung
* Anfangsbedingungen: Temperaturfeld im gesamten Gebiet zum Start-zeitpunkt (wie bei ODE)
* Randbedingungen: Temperaturdaten (Werte oder Änderungen) amRand des betrachteten Gebiets zu allen Zeiten
• beide Teile sind herzuleiten
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 116 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Herleitung der Wärmeleitungsgleichung
• die Lösung vorneweg, dieWärmeleitungsgleichung:
κ · (Txx + Tyy + Tzz) = κ ·(∂2T
∂x2+
∂2T
∂y2+
∂2T
∂z2
)=
∂T
∂t= Tt
oder kurzκ · ∆T = Tt
mit dem Laplace-Operator
∆ = Txx + Tyy + Tzz
• kurze (!) Herleitung als kleiner Ausflug in die Physik:
– Start ist das grundlegende Prinzip der Energieerhaltung
– zeitliche Temperaturänderungen in einem TeilgebietD des Gebiets sindbedingt entweder durch Wärmefluss durch die Oberfläche von D oderdurch Wärmequellen und -senken im Innern von D :
∂
∂t
∫D
ρcT dV =∫
D
q dV +∫
∂D
k∇T · n dS
– Dichte ρ , spezifische Wärme c , Quellterm q , Wärmeleitfähigkeit k,äußere Normale n, Volumenelement dV bzw. Oberflächenelement dS,Gradient ∇
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 117 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Veranschaulichung der Energieerhaltung
• idealisiertes Volumenelement D :
– Wärmeänderung in D durch
* A:Wärmefluss ins Element hinein bzw. aus dem Element heraus
* B: Wärmequellen oder -senken im Innern
• Erhaltung der Wärme oder Umwandlung der Wärmeenergie (z.B. in kineti-sche Energie)
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 118 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Herleitung (2)
• Transformation mit dem Gaußschen Integralsatz in ein reines Volumeninte-gral: ∫
D
(ρcTt − q − k ∆T ) dV = 0
• Integral verschwindet für beliebiges Teilgebiet D , daher muss Integrand Nullsein:
Tt = κ ∆T +q
ρc, κ =
k
ρc
• κ > 0 wird thermischer Diffusionskoeffizient genannt (Laplace-Operator be-schreibt Diffusions- oder Ausgleichsprozesse)
• ohne äußeren Einfluss q = 0 ergibt sich eben die Wärmeleitungsgleichung:
Tt = κ∆T
• stationärer Fall: Laplace-Gleichung
∆T = 0
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 119 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Herleitung (3)
• dies ist Beispiel für Standard-Vorgehensweise bei der Modellierung in derPhysik (leicht verkürzt)
– Start bei einem grundlegenden physikalischen Gesetz:
* der berühmte Apfel
* die Erhaltung von Masse
* die Erhaltung von Energie oder ...
– daraus Gewinnung einer Bilanzgleichung (typischerweise ein summa-torischer Zusammenhang mit Integralen)
* Matrix A der Koeffizienten ai,j ist positiv oder negativ definit– hyperbolische PDE:
* Matrix A hat einen positiven und d − 1 negative Eigenwerte oderumgekehrt
– parabolische PDE:
* ein Eigenwert von A ist Null, die anderen haben gleiches Vorzei-chen
* Rang vonA zusammenmit dem Vektor ai ist maximal bzw. voll, d.h.Wert d (wenn nach einer Variablen keine zweite Ableitung auftritt,dann wenigstens eine erste!)
• einfache Beispiele:
– elliptisch: Laplace- oder Potenzialgleichung
∆u = 0
– parabolisch:Wärmeleitungsgleichung
∆u = ut
– hyperbolisch:Wellengleichung
∆u = utt
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 129 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
3.4.2. Numerik von PDE
• Klassifizierung wichtig:
– verschiedene Klassen erfordern komplett verschiedene Numerik
– hier: Beschränkung auf den elliptischen Fall, genauer auf die einfacheLaplace-Gleichung ∆u = 0
• verschiedene Diskretisierungsverfahren:
– Finite Differenzen (FD):
* direkte Approximation aller auftretenden Ableitungsterme (vgl. ODE)
* nahe liegender, direkter Ansatz
* leicht zu implementieren, allerdings wenig theoretischer Hintergrund
– Finite Volumen (FV):
* direkte Implementierung der kontinuumsmechanischen Erhaltungs-sätze auf kleinen Volumen, insb. bei Strömungen
– Finite Elemente (FEM):
* Variationsansatz, betrachte eine leicht abgeschwächte Variante derPDE anstatt ihrer selbst
* komplizierter in der Implementierung, aber schöne Theorie
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 130 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Finite Differenzen Verfahren
• gegeben: GebietΩ ⊆ IRd, d ∈ 1, 2, 3
• darauf wird definiert: (regelmäßiges) Gitter Ωh
• Gitterabstand oderMaschenweite
h = (hx, hy, hz)
• ersetze Ableitungen durch Differenzenquotienten:
– erste Ableitungen: Vorwärts-, Rückwärts- oder zentrale Differenzen
∂u
∂x(ξ) .=
u(ξ + hx) − u(ξ)hx
,u(ξ) − u(ξ − hx)
hx,u(ξ + hx) − u(ξ − hx)
2hx
– zweite Ableitungen: Standard 3-Punkt-Stern (vgl. Abschnitt 3.1.2)
∂2u
∂x2
.=u(ξ + hx) − 2u(ξ) + u(ξ − hx)
h2x
– Laplace-Operator in 2D oder 3D: 5-Punkt- oder 7-Punkt-Stern
– Es gibt auch breitere Sterne (Involvierung von mehr Nachbarn).
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 131 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Finite Differenzen Verfahren (2)
• in jedem inneren Gitterpunkt:
– setze eine Differenzengleichung an
– Unbekannte (Freiheitsgrade): diskrete Näherungswerte für die Funkti-onswerte in den Gitterpunkten
– ein Freiheitsgrad pro Gitterpunkt und pro (skalarer) unbekannter Größe
• in Punkten auf dem oder nahe am Rand:
– konkrete Gestalt der Gleichung hängt von Randbedingungen ab:
* Dirichlet: keine Differenzengleichung in Randpunkten (dort ist Funktions-wert ja vorgegeben, somit keine Unbekannte)
* Neumann: spezielle Gestalt der Differenzengleichung amRand (Ein-bau der Randbedingungen, vgl. RWP bei ODE in Abschnitt 3.1)
• Diskretisierung führt auf lineares Gleichungssystem (LGS)
* Gitterpunkten oder Knoten: hier leben die Unbekannten
• Zu jedem Knoten gehört eine Ansatzfunktion ϕk :
– endlicher Träger: von Null verschieden nur in Nachbarelementen
– alle Ansatzfunktionen zusammen spannen den linearen und endlich-dimensionalen Ansatzraum auf und bilden eine Basis
– in diesem Ansatzraum Vn wird die Näherung der Lösung gesucht
• einfachste Basis von Ansatzfunktionen ϕk in 1D: stückweise lineare Stütz-punktbasis
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 138 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Schwache Form der PDE
• L bezeichne den Differentialoperator (z.B. ∆ )
• anstelle von Lu = f auf Ω betrachte∫Ω
Lu · ψl dΩ =∫
Ω
f · ψl dΩ ∀ψl
für eine Menge von Testfunktionen ψl
– Methode der gewichteten Residuen oder Galerkin-Ansatz
– somit ein weiterer linearer Raum, jetzt von diesen Testfunktionen auf-gespannt der Testraum Wn
– falls Test- und Ansatzraum
* identisch: Ritz-Galerkin-Ansatz
* verschieden: Petrov-Galerkin-Ansatz
– Linearität: nur Basisfunktionen müssen schwache Form erfüllen
– Schreibweise: Bilinearform a(., .) und Linearform b(.):
a(u, ψl) = b(ψl) ∀ψl ∈ Wn
– das sind n lineare Gleichungen (n : Dimension des Testraums)
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 139 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Diskrete Approximation und Gleichungen
• ersetze (exakte/kontinuierliche) Lösung u in obigen n Gleichungen durcheine diskrete Approximation in Vn (damit n Unbekannte ak ):
un =∑
k
αkϕk ∈ Vn
• in der schwachen Form:
a(un, ψl) = a(∑
k
αkϕk, ψl
)=∑
k
αk · a(ϕk, ψl) = b(ψl) ∀ψl ∈ Wn
• alle a(ϕk, ψl) und b(ψl) :
– hängen nicht ab von der jeweiligen Approximation für u, sondern nurvom Problem (vgl. ihre Definition!)
– ein für alle Mal zu Beginn zu berechnen
– führt auf System von n linear unabhängigen linearen Gleichungen inn Unbekannten: Ax = b mit der sogenannten Steifheitsmatrix A (alsowieder LGS wie bei Finiten Differenzen)
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 140 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Lösung des resultierenden LGS
• Eigenschaften von A (und unseres LGS):
– insb. bei Ritz-Galerkin Vn = Wn ist A oft symmetrisch positiv definit(SPD)
– Traumkonstellation: A diagonal, d.h. alle Ansatz- bzw. Testfunktionensind (bi-) orthogonal (selten, und wenn, dann schwer erreichbar)
ai,j = a(ϕi, ϕj) =∫
Ω
Lϕi · ϕj dΩ = δi,j
– immerhin: Ansatz- und Testfunktionen haben i.A. nur lokalen Träger
– deshalb ist A typischerweise dünn besetzt
– deshalb und aufgrund der oft hohen Zahl von Unbekannten werdeniterative Löser benötigt
• Strategie folglich:
– wähle Ansatz- und Testräume mit guten Approximationseigenschaften
– konstruiere für diese Räume Basen, die in „schönen“ Matrizen und da-mit in schnell zu lösenden LGS resultieren
– Wesentlich besser als Stützpunktbasen (gleiche Basisfunktion in je-dem Gitterpunkt) sind hier hierarchische Basen, wie sie in der Vorlesung„Hierarchie und Rekursion in numerischen Algorithmen“ betrachtet wer-den.
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 141 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Standard-Iterationsverfahren für LGS
• iterative Lösung großer (dünn besetzter) LGS:
– eine der zentralen numerischen Aufgabenstellungen in der numerischenSimulation
– treten bei der Diskretisierung von ODE (RWP) und PDE auf
• direkte Löser oft nicht wettbewerbsfähig:
– Zahl der Unbekannten zu groß (vgl. PDE in 3D)
– klassische Elimination zerstört die (dünne) Struktur der Matrix
– wozu exakte Lösung bei Approximationen? (gilt insb. im nichtlinearenFall, wo ein LGS in jedem äußeren Iterationsschritt zur Behandlung derNichtlinearität auftritt)
– Ziel: Performance nach der Art „für 3 Stellen braucht man 10 Schritte“– unabhängig von der Zahl der Unbekannten
• typisch jedoch für die klassischen Iterationsverfahren:
– Konvergenzgeschwindigkeit verschlechtert sich mit wachsender Pro-blemgröße!
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 142 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Grundlegendes zu Iterationsverfahren
• betrachte Iterationsverfahren, starte bei x(0) ∈ IRn und ende (hoffentlich)nahe bei Lösung x von Ax = b:
x(0) → x(1) → . . . → x(i+1) → . . . → limi→∞
x(i) = x
• Konvergenzgeschwindigkeit:
‖x − x(i+1)‖ < γ · ‖x − x(i)‖s
für ein 0 < γ < 1 , Konvergenzordnung s
• typisches Verhalten einfacher Iterationsverfahren für LGS:
s = 1, γ = O(1 − n−k), k ∈ 0, 1, 2, ...(n : Anzahl der Gitterpunkte)
• Strategie: suche Verfahren mit
– nur O(n) arithmetischen Operationen pro Iterationsschritt (Kosten; soviel Aufwand wohl mindestens nötig)
• wie Residuum für verbesserte Approximation verwerten?
– Richardson: Residuum direkt als Korrektur
– Jacobi/Gauß-Seidel: eine Komponente von r zu Null machen
– SOR/gedämpft: wie zuvor, aber Korrektur etwas zu hoch / niedrig
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 144 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Wichtige Relaxationsverfahren
• Richardson-Iteration:
for i = 0,1,...for k = 1,...,n: x
(i+1)k := x
(i)k + r
(i)k
Hier wird einfach das Residuum r(i) komponentenweise als Korrektur für dieaktuelle Näherung x(i) herangezogen.
• Jacobi-Iteration:
for i = 0,1,...for k = 1,...,n: yk := 1
akk· r(i)
k
for k = 1,...,n: x(i+1)k := x
(i)k + yk
– In jedem Teilschritt k eines Schritts i wird eine Korrektur yk berechnetund gespeichert.
– Sofort angewendet, würde diese zum (momentanen) Verschwinden derk-Komponente des Residuums r(i) führen (leicht durch Einsetzen zuverifizieren).
– Gleichung k wäre mit dieser aktuellen Näherung für x somit exakt ge-löst – ein Fortschritt, der im folgenden Teilschritt zu Gleichung k + 1natürlich gleich wieder verloren ginge.
– Allerdings werden diese Komponentenkorrekturen nicht sofort, sondernerst am Ende eines Iterationsschritts durchgeführt (zweite k-Schleife).
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 145 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Wichtige Relaxationsverfahren (2)
• Gauß-Seidel-Iteration:
for i = 0,1,...for k = 1,...,n: r
(i)k := bk−
∑k−1j=1 akjx
(i+1)j −∑n
j=k akjx(i)j
yk := 1akk
· r(i)k , x
(i+1)k := x
(i)k + yk
– Hier wird also dieselbe Korrektur wie beim Jacobi-Verfahren berechnet,der Update wird jetzt allerdings immer sofort und nicht erst am Endedes Iterationsschritts vollzogen.
– Damit liegen beim Update von Komponente k für die Komponenten 1bis k − 1 bereits die modifizierten neuen Werte vor.
• Manchmal führt in jeder der drei skizzierten Methoden ein Dämpfen (Multi-plikation der Korrektur mit einem Faktor 0 < α < 1) bzw. eine Überrelaxation(Faktor 1 < α < 2) zu einem besseren Konvergenzverhalten:
x(i+1)k := x
(i)k + αyk .
– Im Gauß-Seidel-Fall ist vor allem die Version mit α > 1 gebräuchlich,man spricht hier von SOR-Verfahren (Successive Over Relaxation).
– Im Jacobi-Fall wird dagegen meistens gedämpft.
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 146 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Diskussion: Additive Zerlegung der Systemmatrix
• Für eine kurze Konvergenzanalyse der obigen Verfahren benötigen wir einealgebraische Formulierung (anstelle der algorithmischen).
• Alle gezeigten Ansätze basieren auf der einfachen Idee, die Matrix A alsSumme A = M + (A − M) zu schreiben, wobei Mx = b sehr einfach zulösen und der Unterschied A − M bzgl. einer Matrixnorm nicht zu groß seinsollte.
• Mit Hilfe eines solchen geeigneten M werden sich Richardson-, Jacobi-,Gauß-Seidel- und SOR-Verfahren schreiben lassen als
• Darüber hinaus zerlegen wir A additiv in seinen Diagonalteil DA, seinenstrikten unteren Dreiecksteil LA sowie seinen strikten oberen DreiecksteilUA:
A =: LA + DA + UA .
Damit können wir die folgenden Beziehungen zeigen:
– Richardson: M := I ,
– Jacobi: M := DA ,
– Gauß-Seidel: M := DA + LA ,
– SOR: M := 1αDA + LA .
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 147 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Diskussion: Additive Zerlegung der Systemmatrix (2)
• Bei Betrachtung der algorithmischen Formulierungen für das Richardson-sowie das Jacobi-Verfahren erweisen sich die ersten beiden Gleichungenals offensichtlich:
– Bei Richardson wird das Residuum direkt als Korrektur genommen, alsVorfaktor ergibt sich somit die Identität I.
– Bei Jacobi wird das Residuum durch das Diagonalelement dividiert, alsVorfaktor ergibt sich somit die Inverse des Diagonalanteils DA.
• Weil die Gauß-Seidel-Iteration ein Spezialfall des SOR-Verfahrens ist (α =1), reicht es aus, obige Formel für M für den allgemeinen SOR-Fall zu zei-gen. Aus dem Algorithmus folgt unmittelbar
x(i+1)k := x
(i)k + α
⎛⎝bk −k−1∑j=1
akjx(i+1)j −
n∑j=k
akjx(i)j
⎞⎠ /akk
⇔ x(i+1) := x(i) + αD−1A
(b − LAx(i+1) − (DA + UA)x(i)
)⇔ 1
αDAx(i+1) =
1α
DAx(i) + b − LAx(i+1) − (DA + UA)x(i)
⇔(
1α
DA + LA
)x(i+1) +
((1 − 1
α)DA + UA
)x(i) = b
⇔ Mx(i+1) + (A − M)x(i) = b ,
womit die Behauptung für das SOR-Verfahren bewiesen ist.
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 148 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Diskussion: Allgemeines Konvergenzverhalten
• Was die Konvergenz angeht, so gibt es zwei unmittelbare Konsequenzenaus dem Ansatz
Mx(i+1) + (A − M)x(i) = b :
– Falls die Folge(x(i))konvergiert, dann ist der Grenzwert die exakte
Lösung x unseres Systems Ax = b.
– Für die Analyse werde angenommen, dass die Iterationsmatrix−M−1(A−M) (d.h. die Matrix, die auf e(i) angewandt wird, um e(i+1) zu erhalten;s.u.) symmetrisch sei. Dann ist der Spektralradius ρ (d.h. der betrags-größte Eigenwert) die für das Konvergenzverhalten entscheidende Grö-ße: (
∀x(0) ∈ IRn : limi→∞
x(i) = x = A−1b)
⇔ ρ < 1 .
Um das zu sehen, subtrahiere man Mx + (A − M)x = b von der Glei-chung ganz oben:
Wenn alle Eigenwerte betragsmäßig kleiner 1 sind und somit ρ < 1 gilt,werden alle Fehlerkomponenten in jedem Iterationsschritt reduziert. ImFalle ρ > 1 wird sich mindestens eine Fehlerkomponente aufschaukeln.
– Ziel bei der Konstruktion iterativer Verfahren muss natürlich ein mög-lichst kleiner Spektralradius der Iterationsmatrix sein (möglichst nahebei Null).
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 149 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Diskussion: Konvergenzaussagen
• Es gibt eine Reihe von Resultaten zur Konvergenz der verschiedenen Ver-fahren, von denen einige bedeutende erwähnt werden sollen:
– Notwendig für die Konvergenz des SOR-Verfahrens ist 0 < α < 2.
– Falls A positiv definit ist, dann konvergieren sowohl das SOR-Verfahren(für 0 < α < 2) als auch die Gauß-Seidel-Iteration.
– Falls A und 2DA − A beide positiv definit sind, dann konvergiert dasJacobi-Verfahren.
– Falls A strikt diagonal dominant ist (d. h. aii >∑
j =i | aij | für alle i),dann konvergieren das Jacobi- und das Gauß-Seidel-Verfahren.
– In bestimmten Fällen lässt sich der optimale Parameter α bestimmten(ρ minimal, so dass Fehlerreduktion pro Iterationsschritt maximal).
• Die Gauß-Seidel-Iteration ist nicht generell besser als das Jacobi-Verfahren(wie man aufgrund des sofort vollzogenen Updates vermuten könnte). Esgibt Beispiele, in denen Erstere konvergiert und Letzteres divergiert, undumgekehrt. In vielen Fällen kommt das Gauß-Seidel-Verfahren jedoch mitder Hälfte der Iterationsschritte des Jacobi-Verfahrens aus.
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 150 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Zum Spektralradius typischer Iterationsmatrizen
• Offensichtlich ist ρ nicht nur entscheidend für die Frage, ob die Iterations-vorschrift überhaupt konvergiert, sondern auch für deren Qualität, also ih-re Konvergenzgeschwindigkeit: Je kleiner ρ ist, desto schneller werden alleKomponenten des Fehlers e(i) in jedem Iterationsschritt reduziert.
• In der Praxis haben die obigen Resultate zur Konvergenz leider eher theo-retischen Wert, da ρ oft so nahe bei 1 ist, dass – trotz Konvergenz – dieAnzahl der erforderlichen Iterationsschritte, bis eine hinreichende Genauig-keit erreicht ist, viel zu groß ist.
• Ein wichtiges Beispielszenario ist die Diskretisierung partieller Differential-gleichungen:
– Typisch ist, dass ρ von der Problemgröße n und somit von der Auflö-sung h des zugrunde liegenden Gitters abhängt, also beispielsweise
ρ = O(1 − h2l ) = O
(1 − 1
4l
)bei einer Maschenweite hl = 2−l.
– Dies ist ein gewaltiger Nachteil: Je feiner und folglich auch genauer un-ser Gitter ist, umso erbärmlicher wird das Konvergenzverhalten unsereriterativen Verfahren. Bessere iterative Löser (z.B. Mehrgitterverfahren,die aber den Rahmen dieser Vorlesung sprengen würden) sind also einMuss!
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 151 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Ganz anders: Steilster Abstieg
• alternative Sehweise für positiv definites A :
x löstAx = b ⇔ x minimiert f(x) = 0.5 · xT Ax − bT x + c
(Eindeutigkeit des Minimums, da A positiv definit)
• somit neue Strategie:
– suche nach Minimum der Funktion f
– möglicher Weg: Methode des steilsten Abstiegs
repeat(i) : αi =r(i)T
r(i)
r(i)T Ar(i);
x(i+1) = x(i) + αir(i);
r(i+1) = r(i) − αiAr(i);
– sucht nach maximaler Verbesserung in Richtung des negativen Gradi-enten)
−f ′(x(i)) = r(i)
– eindimensionale Suche nach Minimum: minαi f(x(i) + αir(i))!
– vernünftige Vorgehensweise, aber trotzdem stark heuristisch
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 152 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Steilster Abstieg (2)
• Geht’s noch simpler?
– 1D-Suche längs der Koordinatenachsen (statt Gradienten)
– führt zu Gauß-Seidel-Iteration (man sieht: alles ist verwandt!)
• Konvergenzgeschwindigkeit:
– beliebig langsam
– erzielter Fortschritt kann immer wieder verloren gehen (unabhängigeslokales Herumoptimieren in wechselnde und nicht zusammenhängen-de Richtungen)
• entscheidende Größe hier:
– spektrale Konditionszahl von A (Eigenwerte betragsmäßig)
κ(A) =λmax(A)λmin(A)
– gut: möglichst klein, also begrenzte Breite des Spektrums (auch beizunehmender Auflösung des Gitters)
– ergo: algorithmische Entwicklung muss in Richtung einer Zähmung derEigenwerte gehen (diesmal der Systemmatrix anstelle der Iterations-matrix wie bei den Relaxationsverfahren)
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 153 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Verbesserung: Konjugierte Richtungen
• Verbesserung gegenüber steilstem Abstieg:
– orthogonale Suchrichtungen, Fehler nach i Schritten soll orthogonalauf allen vorigen Suchrichtungen stehen
– nichts zerstört, folglich: im Prinzip direktes Verfahren (nach n Schrittenim Optimum)
– allerdings sind n Iterationen in der Praxis zu viel, daher Einsatz alsiterative Methode (semi-iteratives Verfahren)
– neue Suchrichtungen: x(i+1) = x(i) + αid(i)
– optimale Orthogonalität wäre 0 = d(i)T
e(i+1) , aber Fehler ja unbekannt
– daher Konjugation: 0 = d(i)T
Ae(i+1)
(u und v A-orthogonal oder konjugiert , falls uT Av = 0 )
– Algorithmus: starte mit d(0) = r(0) und iteriere:
repeat(i) : αi =d(i)T
r(i)
d(i)T Ad(i);
x(i+1) = x(i) + αid(i);
r(i+1) = r(i) − αiAd(i);
– noch zu tun: Konstruktion der konjugierten Richtungen d(i)
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 154 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Schließlich: Konjugierte Gradienten
• obiges Verfahren + Konstruktion der konjugierten Richtungen
• Konstruktionsprinzip: Gram-Schmidt Konjugation der Residuen
• keine Details oder Herleitung, nur der fertige Algorithmus:
repeat(i) : αi =d(i)T
r(i)
d(i)T Ad(i);
x(i+1) = x(i) + αid(i);
r(i+1) = r(i) − αiAd(i);
βi+1 =r(i+1)T
r(i)
r(i)T r(i);
d(i+1) = r(i+1) + βi+1d(i);
• schneller als steilster Abstieg, aber immer noch n-abhängig!
• start with random values in [0, 1] for u in the grid points
• After 100 (!) steps, there is still a maximum error bigger than 0.1 due tolow-frequency components!
• therefore the name smoothers for relaxation schemes:
– They reduce the strongly oscillating parts of the error quite efficiently.
– They, thus, produce a smooth error which is very resistent.
• the idea: work on grids of different resolution and combine the effects in anappropriate way
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 159 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Ein einfaches Beispiel (2)
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 160 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Grobgitterkorrektur
• sequence of equidistant grids on our domain: Ωl, l = 1, 2, . . . , L, with meshwidth hl = 2−l
• let Al, bl denote corresponding matrix, right-hand side, ...
• combine work on two grids with a correction scheme:
smooth the current solution xl ;
form the residual rl = bl − Alxl;
restrict rl to the coarse grid Ωl−1 ;
provide a solution to Al−1 el−1 = rl−1 ;
prolongate el−1 to the fine grid Ωl;
add the resulting correction to xl;
if necessary, smooth again ;
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 161 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Grobgitterkorrektur (2)
• the different steps of this 2-grid algorithm :
– the pre-smoothing: reduce high-frequency error components, smootherror, and prepare residual for transfer to coarse grid
– the restriction: transfer from fine grid to coarse grid
* injection : inherit the coarse grid values and forget the others
* (full) weighting : apply some averaging process
– the coarse grid correction: provide an (approximate) solution on thecoarse grid (direct, if coarse enough; some smoothing steps otherwi-se)
– the prolongation: transfer from coarse grid to fine grid
* usually some interpolation method
– the post-smoothing: sometimes reasonable to avoid new high-frequencyerror components
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 162 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Der V-Zyklus
• recursive application of 2-grid scheme leads to multigrid methods
• there, the coarse grid equation is solved by coarse grid correction, too; theresulting algorithmic scheme is called V-cycle :
smooth the current solution xl ;
form the residual rl = bl − Alxl;
restrict rl to the coarse grid Ωl−1 ;
solve Al−1 el−1 = rl−1 by coarse grid correction ;
prolongate el−1 to the fine grid Ωl;
add the resulting correction to xl;
if necessary, smooth again ;
• on the coarsest grid: direct solution
• number of smoothing steps: typically small (1 or 2)
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 163 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Weitere Mehrgitterzyklen
• the V-cycle is not the only multigrid scheme:
– the W-cycle: after each prolongation, visit the coarse grid once more,before moving on to the next finer grid
– W-cycle is sometimes advantageous with respect to speed of conver-gence
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 164 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Nested Iteration und Full Multigrid
• two more famous multigrid schemes:
– the nested iteration: start on coarsest grid Ω1 , smooth, prolongate toΩ2 , smooth, prolongate to Ω3 , and so on, until finest grid is reached;now start V-cycle
– full multigrid: replace ‘smooth´ steps above by ‘apply a V-cycle´; com-bination of improved start solution and multigrid solver
• multigrid idea is not limited to rectangular or structured grids: we just need ahierarchy of nested grids (works for triangles or tetrahedra, too)
• also without underlying geometry: algebraic multigrid methods
Populationsdynamik: . . .
Regelungstechnik: . . .
Verkehrsfluss: . . .
Wärmeleitung: Modell . . .
Page 165 of 165
Modellbildung und Simulation
3.KontinuierlicheModellbildung und
SimulationHans-Joachim Bungartz
Grundlegende Konvergenzresultate
• Cost (storage and computing time):
– 1D : c · n + c · n/2 + c · n/4 + c · n/8 + . . . ≤ 2c · n = O(n)
– 2D : c · n + c · n/4 + c · n/16 + c · n/64 + . . . ≤ 4/3c · n = O(n)
– 3D : c · n + c · n/8 + c · n/64 + c · n/512 + . . . ≤ 8/7c · n = O(n)
– i.e.: work on coarse grids is negligible compared to finest grid
• Benefit (speed of convergence):
– always significant acceleration compared with pure use of smoother(relaxation method)
– in most cases even ideal behaviour γ = O(1 − const.)
– effect:
* constant number of multigrid steps to obtain a given number ofdigits
* overall computational work increases only linearly with n