Inleiding Adaptieve Systemen

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk

Inleiding Adaptieve Systemen

Cellulaire automaten


Inhoud

• Conway’s game of life

– Periodiciteit, notie van verdichtingspunt

• Eén-dimensionale cellulaire automaten

– Ruimte van regelverzamelingen

– Chaos vs. complexiteit (→ Turing-volledigheid)

– Langton’s λ-parameter als maat voor CA-compexiteit

– Reversibiliteit, Garden of Eden


Waarom cellulaire automaten?

Modelleren, simuleren, begrijpen en ontwerpen van:• Fysische systemen (gassen, vloeistoffen)• Aardbevingen, het weer • Biologische patroonvorming (tumorweefsel) • Sociaal emergent gedrag (roddels, infectieziekten,

paniek-uitbraak bij dodenherdenking 4 Mei 2010 op De Dam)

• Verkeersmodellen • Bosbranden • Theorie van berekenbaarheid (Turing-volledigheid)


Conway’s game of life

Als de speelranden worden verbonden krijg je een ..

.. of cilinder, of Möbius band, of fles van Klein, of projectief vlak


Torus, Fles van Klein

TorusFles van

Klein (Eng.: Klein bottle)


Möbius band, projectief vlak

Möbius band

Projectief vlak



• De meest bekende CA.

• October 1970 nummer van de Scientific American, in Martin Gardner's “Mathematical Games” column.

• Een twee-dimensionaal rooster. Elke cel kan aan zijn (bewoond gebied) of uit (onbewoond).

Regels:1. Een lege cel wordt bewoond

gebied als er precies drie bewoonde buurcellen zijn.

2. Een bewoonde cel wordt verlaten als• Er minder dan twee

bewoonde buren zijn (eenzaamheid).

• Er meer dan drie bewoonde buurcellen zijn (over-bevolking).



Geboorte:Sterfte door Eenzaamheid:

Sterfte door Overbevolking:

De ring van de onderste rij blokken

wordt gevormd

door oude toestanden


Typische patronen

Bill Gosper’s “Gliding Gun” voor het maken van gliders

Blok VisStabiel:

Oscil-lerend:

Blinker Dingetje

GlijderVer-

schui-vend:


Glider gun factory


Hoe kwam Conway terechtbij juist deze regels?Aantal mogelijke regels• Er zijn 8 buurcellen die de toestand van de centrumcel bepalen.

Elke buurcel kent 2 toestanden: dus 28 = 256 verschillende omgevings-toestanden.

• Voor elke omgevingstoestand zijn er ook weer 2 keuzes voor de centrumcel. 256 keer kiezen uit 2 centrumtoestanden geeft 2256 1E77 verschillende mogelijke regelverzamelingen.

• Modulo rotatie en spiegeling: veel minder dan 256 omgevingen. Gebaseerd op aantal buren: nog maar 29 = 512 mogelijke regels.

Mogelijke motivatie Conway• Patronen moeten in het begin lekker kunnen groeien.• Lange-termijn gedrag is onvoorspelbaar.


Martin Gardner, 1970

“Conway chose his rules carefully, after a long period of experimentation, to meet three desiderata:

• There should be no initial pattern for which there is a simple proof that the population can grow without limit.

• There should be initial patterns that apparently do grow without limit.

• There should be simple initial patterns that grow and change for a considerable period of time before coming to an end in three possible ways: Fading away completely (from overcrowding or from becoming too sparse), settling into a stable configuration that remains unchanged thereafter, or entering an oscillating phase in which they repeat an endless cycle of two or more periods.

In brief, the rules should be such as to make the behavior of the population both interesting and unpredictable.”


Hoe eindigen configuraties?

Beginpatronen kunnen voor aanzienlijke tijd veranderen. We komen uiteindelijk terecht in één van de volgende situaties

• Stabiel. Een configuratie eindigt in een stabiele toestand (er komen geen cellen bij en er gaan geen cellen af).– Bijzonder deelgeval: verdwijning (= stabiel 0). Een

configuratie verdwijnt volledig vanwege onder- of overbevolking.

– Alle andere gevallen: stabiel > 0.• Periodiek. Een configuratie komt terecht in een cyclus met

een bepaalde periode. Na, zeg N, generaties komen we weer terug bij een eerdere generatie.

• Chaotisch. (Rest-categorie.) Kenmerken: variërend van ruisig tot complex.


Wanneer chaos in een CA?

Vraag• Bekijk Conway’s game of

life op een 100x100 rooster, met de randen in elkaar overlopend. (Torus.)

• Een willekeurige beginconfiguratie bestaande uit 6667 levende cellen.

• We itereren onbeperkt.• Piet beweert: “deze

configuratie blijft zich chaotisch ontwikkelen”.

• Waar of niet waar?

Antwoord• Niet waar.• Een rooster bevat een eindig

aantal vlakjes, zeg NxN.• Elk vlakje kan eindig veel

toestanden aannemen, zeg M.• Het hele rooster kan hoogstens

MNxN patronen doorlopen. • Of de randen nu niet (vierkant)

of wel (torus) verbonden zijn.• Mogelijke scenario’s:

– Stabiel– Periodiek met een periode ten

hoogste MNxN.


Chaos versus periodiciteit

• Net vastgesteld: in eindige CA’s is er geen chaos mogelijk.

• Dus chaotisch gedrag in CA’s is op (conventionele) computers is onmogelijk op te roepen.

• Het aantal generaties vóórdat een CA in een stabiele toestand of periode terechtkomt, heet de overgangsperiode (eng.: transient period).


Gedrag op oneindig rooster

• Op eindig rooster: alleen convergentie of periodiciteit.• Op oneindig rooster: glider.

– Geen convergentie (blijft bewegen).– Geen periodiciteit (komt nooit meer op dezelfde plek terug).

• Totale chaos?• Nee: er is tenminste één configuratie waarvan een

steeds groter deel oneindig vaak terugkomt (!)Benamingen:– limietpunt– verdichtingspunt– ophopingspunt

Let op:• “punt” ≠ “cel”• “punt” = “globale configuratie”


König’s lemma (voor bomen)

“Elke oneindige boom met eindige (niet noodzakelijk begrensde) vertakkingen, bezit een oneindige tak.”


Jarkko Kari, lecture notes Cellular Automata, 2009


Bewijs van het bestaan van ten minste één terugkerend patroon

Stap 1:

• Enumereer alle cellen in het oneindige rooster.

• Dat kan op verschillende manieren.

1

23

4

5 6 7

8

9

101213 11

14

15

16

17 19 20 2118

23

24

25

26

22

283031 29 27


10

0

0

0

1

0

10

0

11

Stap 2:König’s lemma

Immers, in een oneindige rij 0,1,1,0,0,1,1,1,0,1,0,1,0,1,1,1,0,1, …

komt 0 hetzij 1 oneindig vaak voor

Immers, in een oneindige rij 00,01,01,00,00,01,01,00,01,01,00, … komt 00 hetzij 01 oneindig vaak voor


Jarkko Kari, lecture notes Cellular Automata, 2009


Conway’s game of lifeis Turing-compleet

Een computer kan worden gezien als een elektrische stroom die, gesynchroniseerd door een pulsklok, vloeit door een groot aantal logische schakelingen.

• Stroom: reeks gliders (1) vs. geen reeks gliders (0).

• Pulsklok: alle glider-reeksen zijn gesynchroniseerd. Gevolg: als twee reeksen elkaar ontmoeten doven deze elkaar uit.

• Logische schakelingen: het slim tegen elkaar opzetten van input en glider-reeksen.


Een Not-Gatein Conway’s game of life

Als input 1 is, heffen beide

gliders elkaar op dit kruispunt op.

Als input 0 is, vindt

deze glider ongehinderd doorgang.

Het is belangrijk dat beide

stromen in fase zijn


Constructie not-gate en and-gate

¬A

A X A X

B X A B

¬ A ¬ B


Constructie or-gate

A X

B X

A BX


Conway’s game of lifeis Turing-compleet

“Wire World” is Turing-compleet

• Brian Silverman (1987). • Kan elke logische poort

simuleren.• Daardoor Turing-compleet.Regels:• Zwart: achtergrond, invariant.• Geel: “draad”. Wordt rood als

buur rood is.• Rood: “electron”. Maakt gele

buren rood.• Blauw: “uitdovend electron”.

Twee diodes.

Twee klokken en een XOR-poort.


Variaties op Conway’s life

• Meer toestanden per cel. I.p.v. “aan” en “uit”:– Bosbrand: begroeid, minder begroeid, kaal, begroeid en hevig

brandend, etc.– Brian’s brain: actief, (tijdelijk) inactief, dood.

• Andere connectiviteit van buren:– In 3D. (Hoeveel buren? Hoeveel mogelijke regels? Welke regelset

correspondeert met 2D-life?)– In 2D hexagonaal grid (honingraat).– Is er een maximum connectiviteit in 2D?

• Andere timing van updates:– Nu: synchroon. Alternatieven: serieel geordend, serieel ongeordend, of

random asynchroon• Non-deterministische toestandovergangen

– Zg. probabilistische of stochastische cellulaire automaten.

Variaties op Game of Life:Maze en Mazectric• Game of life:

geboorte bij 3 buren, overleving bij 3-4 buren

• Maze: geboorte bij 3 buren, overleving bij 1-5 buren

• Mazectric: geboorte bij 3 buren overleving bij 1-4 buren


Conway’s game of life in 3D

Geen triviale

(recht toe recht aan) uitbreiding

mogelijk naar 3D


Maximum connectiviteit in 2D?

Constant Neighbor Dihedral Tilings with 15, 32, and 43 Neighbors Friedman, Erich and Zwaag van der, Berend Jan (2002) Constant Neighbor Dihedral Tilings with 15, 32, and 43 Neighbors. Geombinatorics, XI (3). pp. 74-77.


Deel II: back to the basics

1-dimensionale cellulaire automaten


Eén-dimensionale CA’s

• Een één-dimensionale CA is een eindig rijtje van N cellen die elk K toestanden kunnen aannemen. De toestanden worden aangeduid met met { 0, …, K 1 }.

• We nemen weer aan dat randcellen elkaars buren zijn.• Laat R een niet-negatief geheel getal zijn, de zogenaamde

radius. De volgende toestand wordt bepaald door de toestand van de cel zelf en de toestand van haar 2R buren.

• In de tekening hierboven is N = 14, K = 2 (en R onbekend)


Progressie ééndimensionale CA

Progressie is in 2D te volgen(analoog zou je progressie in Conway’s life in 3D kunnen

visualiseren).

t = 0

t = 4

t = 2

t = 3

t = 1

t = 5


Voorbeeld progressie 1-dim. CA


Regelverzameling van eenéén-dimensionale CA

De regelverzameling van een één-dimensionale CA kan worden gevisualizeerd als boven:

• Het aantal toestanden, K, is 2. Wit = Toestand 0, Zwart = Toestand 1.

• De radius, R, is hier 1. De omvang van de omgeving is dus 3.

• Er zijn (dus) 23 = 8 regels.• Er zijn (dus) 28 = 256

mogelijke regelverzamelingen.

In het algemeen:• De omvang van een omgeving is 2R+1.• Het aantal verschillende omgevingen

voor een CA met radius R en aantal toestanden K is K(2R+1).

• Een regelverzameling bestaat (dus) uit K(2R+1) regels.

• Er zijn (dus) K mogelijke regelverzamelingen.

• Er zijn (dus) evenveel mogelijke CAs met K toestanden op een omgeving van 2R+1 cellen.

( K(2R+1) )


Omvang regelverzamelingen

• Bekijk totalitaire CA’s. Deze gebruiken regelverzamelingen die gebaseerd zijn op de som van de toestanden.

• Conway’s Game of Life is voorbeeld van een totalitaire CA (geboorte bij 3, overleving bij 3-4)

• Minimum som: (2R+1) x 0 = 0.• Maximum som: (2R+1) x (K 1).• Grootte regelverzameling is nu dus: (2R+1)(K1) + 1.

K R # Regels # Regelverz.2 1 8 2563 1 27 4.5e175 1 125 2.3e87


Speciale codering van 1-dim. CA

• Voorbeeld (Flake, p. 237). Het aantal regels in een regelverzameling voor K = 5 en R = 3 is (2R+1)(K1) + 1 = 7 x 4 + 1 = 29. (Dus 529 mogelijke regelverzamelingen.)

• Voor een regelverzameling worden alle specifieke 29 regels op een rij gezet:

• Alleen de consequenten van die 29 regels geven eigenlijk informatie. Elke regelverzameling correspondeert dus uniek met een rijtje cijfers uit { 0,.. 4 } ter lengte 29.

• Voorbeeld: 00040001002000200020030000004

Σ = 0 → 0Σ = 1 → 0Σ = 2 → 0Σ = 3 → 4Σ = 4 → 0Σ = 5 → 0Σ = 6 → 0 ….. Σ = 28 → 4


Wolfram’s Class I-IV typeringen

• Class I automata: monden uit in een stabiele toestand.

• Class II automata: monden uit in periodieke structuren.

• Class III automata: monden uit in chaotisch gedrag (static white noise).

• Class IV automata: monden uit complexe patronen met locale structuren.


Class I automata


Class II automata


Class II automata (vervolg)


Class III automata

Witte ruis (als bij slechte TV ontvangst).


Class IV automata


Rule 110 is Turing-compleet

01101110binair = 110decimaal

Twee gliders interacteren en vormen een nieuwe

glider


Langton’s λ-parameter • Motivatie: vind een eenvoudig kenmerk dat de complexiteit van een

CA aangeeft.

• Langton: λ =Def 1 – het deel regels met een toestand van rust (de “nul-toestand”) in de consequent / totale aantal regels

• Extrema:– λ = 0 : dooie boel– λ = 1 : totale chaos

• Wolfram’s vier klassen:– Klasse I (stabiel): λ = 0.27, 0.19, 0.23 : dicht bij nul.– Klasse II (periodiek): λ = 0.52, 0.43, 0.33, 0.44, 0.43, 0.48 : verder van

nul af.– Klasse III (chaos): λ = 0.82, 0.79, 0.85, 0.82.– Klasse IV (complex): λ = 0.43, 0.51, 0.56.


Langton’s indeling van de regelruimte


Reversibiliteit


CA is functie van G naar G

• G = is een globale configuratie (officieel: een functie van ZN naar S = (bv.) {0,1}.

• Een CA is een functie van G naar G– (Maar niet alle functies

van G naar G zijn CAs!)– Een CA moet aan de

localiteits-eigenschap voldoen: gedrag is locaal uniform gedefinieerd.

G G


Reversibiliteit en weespatronen

• Injectief + surjectief = bi-jectief.

• CA heet reversibel d.e.s.d.a. regelverzameling injectief is.

• Men zegt dat CA “tuin van Eden” bezit d.e.s.d.a. regelverzameling niet surjectief is.

G GInjectiviteit:

Surjectiviteit:


Reversibiliteit

• Een CA heet reversibel als elk patroon slechts kan worden veroorzaakt door één uniek voorgaand patroon (Eng. pre-image).

• Simulatie reversibiliteit van gas- en vloeistofdynamiek (thermodynamica, Navier-Stokes, 1823). (Vgl. Langton’s Ant en Lattice Gas Automation.)

• Voor alle één-dim. CA’s kan worden uitgezocht of deze reversibel is.

• Voor 2-dim. CA’s is het reversibiliteitsvraagstuk onbeslisbaar (Jarkko Kari, 1991, met Wang tilings).


Samenvatting

• Meeste bekende CA, Conway’s game of life, is Turing compleet.

• Eén-dimensionale CA’s, hoewel eenvoudiger, zijn beter systematischer te onderzoeken dan hoger-dimensionale varianten.

• Er zijn verschillende naamgevingssystematieken voor 1D-CA’s. Het is belangrijk de verschillen te kennen en te begijpen!

• Gedrag van 1D-CA’s valt volgens Wolfram onder te verdelen in vier klassen, waarvan klasse IV de meest interessante is vanwege complex gedrag.

• 1D-CA “Rule 110” (uit Klasse IV) is Turing-compleet.



Ongebruikte slides


Mogelijke eigenschappenvan een CA

• Elke cel kan zich in een bepaalde toestand bevinden. Mogelijkheden:– Eindig veel toestanden (komt in 98% van de gevallen voor).– Aftelbaar oneindig veel mogelijke toestanden (N) (1%).– Overaftelbaar oneindig veel mogelijke toestanden ([0,1], of R) (1/2%).– De toestandruimte kan eigenlijk iedere verzameling zijn!– De toestandruimte kan homogeen (elke cel dezelfde toestandruimte) of niet homogeen

(elke cel een andere verzameling mogelijke toestanden) zijn.• De cellen zijn met elkaar verbonden door een connectiviteitspatroon (= elke cel

kan vertellen wie zijn buren zijn).– Connectiviteit kan symmetrisch of a-symmetrisch zijn.– Connectiviteit kan uniform of gedifferentieerd zijn.

• De omgevingsfunctie kan ook meer dan één stap terug gaan in de tijd.• Er is een transitiefunctie gedefinieerd. Deze bepaalt de volgende toestand van een

cel op basis van zijn huidige toestand, en de huidige toestanden van zijn buren.– Een transitiefunctie kan deterministisch of non-deterministisch (≈ er zit een random

element in) zijn.– De toestandsovergangen kunnen simultaan (synchroon) plaatsvinden, serieel geordend,

serieel ongeordend, of random asynchroon (stochastisch).


Brian’s Brain• Cellen stellen neuronen voor. I.p.v. twee, drie

toestanden:1. In rust (zwart).2. Activatie (wit).3. Net geactiveerd (rood).

• Regels:– Witte cellen worden rood.– Rode cellen worden zwart.– Een zwarte cel wordt geactiveerd door twee witte buren.

• Verschillen met Conway’s game of life:– Activiteit “golft” over het rooster en is aanmerkelijk directioneel.– Doet (in de verre verte) denken aan neurofysiologische signaal-

overdracht in zenuwen.


Strategic Bugs

Strategic bugs is een ALife model, voorgesteld door Bedau en Packard, in 1992.

• De omgeving is een 2-dimensionaal rooster.• Een cel in de omgeving kan een bug of agent of voedsel kan

bevatten.• Voedsel groeit automatisch in de omgeving: af en toe komt er

voedsel in een willekeurige cel.• Bugs krijgen energie door voedsel te vinden.• Voedsel wat gegeten wordt, verdwijnt.• Bugs gebruiken energie om te bewegen en sterven als ze geen

energie meer hebben.• Bugs kunnen zichzelf klonen of met een andere bug een offspring

(kind) maken.


Langton’s Loop

• Samenhang met celdeling en mitose: zelf-reproducerende cellulaire automaat.

• Zie Hiroki Sayama's applet.

Inleiding Adaptieve Systemen

Documents