MIT6_241JS11_chap02

7/29/2019 MIT6_241JS11_chap02

1/17

L e c t u r e s o n D y n a m i c S y s t e m s a n d

C o n t r o l

M o h a m m e d D a h l e h M u n t h e r A . D a h l e h G e o r g e V e r g h e s e

D e p a r t m e n t o f E l e c t r i c a l E n g i n e e r i n g a n d C o m p u t e r S c i e n c e

M a s s a c h u a s e t t s I n s t i t u t e o f T e c h n o l o g y

1

1

c

7/29/2019 MIT6_241JS11_chap02

2/17

7/29/2019 MIT6_241JS11_chap02

3/17

m a t r i x f o r m f o r t h e a v a i l a b l e d a t a , w e h a v e

32

m ; 1

1 t

1

t

1

2

t

1

2 3

y

1

3232

0

e

1

6

6

4

7

7

5

6

4

7

5

6

4

7

5

+

6

4

7

5

.

.

. .

. .

. .

.

m ; 1

{ z

X

x

N

.

.

.

. . .

e

N

t

2

t

m ; 1

N

N

1 t

N

y

N

| } | } | { z

e

}

| { z }

A

{ z

y

T h e p r o b l e m i s t o n d

0

: : :

m ; 1

s u c h t h a t e

0

e e

2

i

i s m i n i m i z e d .

i ; 1

2 . 2 C o m p u t i n g t h e E s t i m a t e

T h e s o l u t i o n , x , o f E q u a t i o n 2 . 1 i s c h a r a c t e r i z e d b y :

( y ; A x ^ ) R ( A ) :

A l l e l e m e n t s i n a b a s i s o f R ( A ) m u s t b e o r t h o g o n a l t o ( y ; A x ^ ) . E q u i v a l e n t l y t h i s i s t r u e f o r

t h e s e t o f c o l u m n s o f A , [ a

1

: : : a

n

] . T h u s

( y ; A x ^ ) R ( A ) , a

i

0

( y ; A x ^ ) 0 f o r i 1 : : : n

, A

0

( y ; A x ^ ) 0

, A

0

A x ^ A

0

y

T h i s s y s t e m o f m e q u a t i o n s i n t h e m u n k n o w n s o f i n t e r e s t i s r e f e r r e d t o a s t h e n o r m a l

e q u a t i o n s . W e c a n s o l v e f o r t h e u n i q u e x i A

0

A i s i n v e r t i b l e . C o n d i t i o n s f o r t h i s w i l l b e

d e r i v e d s h o r t l y . I n t h e s e q u e l , w e w i l l p r e s e n t t h e g e n e r a l i z a t i o n o f t h e a b o v e i d e a s f o r i n n i t e

d i m e n s i o n a l v e c t o r s p a c e s .

2 . 3 P r e l i m i n a r y : T h e G r a m P r o d u c t

G i v e n t h e a r r a y o f n

A

v e c t o r s A [ a

1

j j a

n

A

] a n d t h e a r r a y o f n

B

v e c t o r s B [ b

1

j j b

n

B

]

f r o m a g i v e n i n n e r p r o d u c t s p a c e , l e t A B d e n o t e t h e n

A

n

B

m a t r i x w h o s e ( i j ) - t h

e l e m e n t i s a

i

b

j

. W e s h a l l r e f e r t o t h i s o b j e c t a s t h e G r a m p r o d u c t ( b u t n o t e t h a t t h i s

t e r m i n o l o g y i s n o t s t a n d a r d ! ) .

I f t h e v e c t o r s p a c e u n d e r c o n s i d e r a t i o n i s R

m

o r C

m

, t h e n b o t h A a n d B a r e m a t r i c e s

w i t h m r o w s , b u t o u r d e n i t i o n o f

A B

c a n a c t u a l l y h a n d l e m o r e g e n e r a l A , B . I n

f a c t , t h e v e c t o r s p a c e c a n b e i n n i t e d i m e n s i o n a l , a s l o n g a s w e a r e o n l y e x a m i n i n g n i t e

c o l l e c t i o n s o f v e c t o r s f r o m t h i s s p a c e . F o r i n s t a n c e , w e c o u l d u s e t h e s a m e n o t a t i o n t o t r e a t

n i t e c o l l e c t i o n s o f v e c t o r s c h o s e n f r o m t h e i n n i t e - d i m e n s i o n a l v e c t o r s p a c e L

2

o f s q u a r e

7/29/2019 MIT6_241JS11_chap02

4/17

R

1

i n t e g r a b l e f u n c t i o n s , i . e . f u n c t i o n s a ( t ) f o r w h i c h

; 1

a

2

( t ) d t 1 . T h e i n n e r p r o d u c t i n L

2

R

1

i s a ( t ) b ( t )

; 1

a

( t ) b ( t ) d t . ( T h e s p a c e L

2

i s a n e x a m p l e o f a n i n n i t e d i m e n s i o n a l

H i l b e r t s p a c e , a n d m o s t o f w h a t w e k n o w f o r n i t e d i m e n s i o n a l s p a c e s | w h i c h a r e a l s o H i l b e r t

s p a c e s ! | h a s n a t u r a l g e n e r a l i z a t i o n s t o i n n i t e d i m e n s i o n a l H i l b e r t s p a c e s . M a n y o f t h e s e

g e n e r a l i z a t i o n s i n v o l v e i n t r o d u c i n g n o t i o n s o f t o p o l o g y a n d m e a s u r e , s o w e s h a l l n o t v e n t u r e

t o o f a r t h e r e . I t i s w o r t h a l s o m e n t i o n i n g h e r e a n o t h e r i m p o r t a n t i n n i t e d i m e n s i o n a l H i l b e r t

s p a c e t h a t i s c e n t r a l t o t h e p r o b a b i l i s t i c t r e a t m e n t o f l e a s t s q u a r e s e s t i m a t i o n : t h e s p a c e

o f z e r o - m e a n r a n d o m v a r i a b l e s , w i t h t h e e x p e c t e d v a l u e E ( a b ) s e r v i n g a s t h e i n n e r p r o d u c t

a b . )

F o r t h e u s u a l E u c l i d e a n i n n e r p r o d u c t i n a n m - d i m e n s i o n a l s p a c e , w h e r e a

i

b

j

a

0

i

b

j

, w e s i m p l y h a v e A B A

0

B . F o r t h e i n n e r p r o d u c t d e n e d b y a

i

b

j

a

0

i

S b

j

f o r a p o s i t i v e d e n i t e , H e r m i t i a n m a t r i x S , w e h a v e A B A

0

S B .

V e r i f y t h a t t h e s y m m e t r y a n d l i n e a r i t y o f t h e i n n e r p r o d u c t i m p l y t h e s a m e f o r t h e

G r a m p r o d u c t , s o A F B G + C H F

0

A B G + F

0

A C H , f o r a n y

c o n s t a n t m a t r i c e s F , G , H ( a c o n s t a n t m a t r i x i s a m a t r i x o f s c a l a r s ) , w i t h A , B , C

d e n o t i n g a r r a y s w h o s e c o l u m n s a r e v e c t o r s .

2 . 4 T h e L e a s t S q u a r e s E s t i m a t i o n P r o b l e m

T h e p r o b l e m o f i n t e r e s t i s t o n d t h e l e a s t s q u a r e e r r o r ( L S E ) e s t i m a t e o f t h e p a r a m e t e r v e c t o r

x t h a t a r i s e s i n t h e l i n e a r m o d e l y A x , w h e r e A i s a n a r r a y o f n v e c t o r s , A [ a

1

a

n

] .

D e n i n g t h e e r r o r e b y

e y ; A x

w h a t w e w a n t t o d e t e r m i n e i s

x

b

a r g m i n k e k a r g m i n k y ; A x k y A g i v e n

x x

( w h e r e \ a r g m i n

x

" s h o u l d b e r e a d a s \ t h e v a l u e o f t h e a r g u m e n t x t h a t m i n i m i z e s " ) . T o s t a t e

t h i s y e t a n o t h e r w a y , n o t e t h a t a s x i s v a r i e d , A x r a n g e s o v e r t h e s u b s p a c e R ( A ) , s o w e a r e

l o o k i n g f o r t h e p o i n t

y

b

A x

b

i n R ( A ) t h a t c o m e s c l o s e s t t o y , a s m e a s u r e d b y w h a t e v e r n o r m w e a r e u s i n g .

R a t h e r t h a n r e s t r i c t i n g t h e n o r m i n t h e a b o v e e x p r e s s i o n t o b e t h e E u c l i d e a n 2 - n o r m

u s e d i n L e c t u r e 1 , w e s h a l l n o w a c t u a l l y p e r m i t i t t o b e a n y n o r m i n d u c e d b y a n i n n e r p r o d u c t ,

s o k e k

p

e e . T h i s w i l l a l l o w u s t o s o l v e t h e s o - c a l l e d w e i g h t e d l e a s t s q u a r e s p r o b l e m

i n a n i t e d i m e n s i o n a l s p a c e w i t h n o a d d i t i o n a l w o r k , b e c a u s e e r r o r c r i t e r i a o f t h e f o r m

e

0

S e f o r p o s i t i v e d e n i t e H e r m i t i a n S a r e t h e r e b y i n c l u d e d . A l s o , o u r p r o b l e m f o r m u l a t i o n

t h e n a p p l i e s t o i n n i t e d i m e n s i o n a l s p a c e s t h a t h a v e a n i n n e r p r o d u c t d e n e d o n t h e m , w i t h

t h e r e s t r i c t i o n t h a t o u r m o d e l A x b e c o n n e d t o a n i t e d i m e n s i o n a l s u b s p a c e . T h i s a c t u a l l y

c o v e r s t h e c a s e s o f m o s t i n t e r e s t t o u s t r e a t m e n t o f t h e m o r e g e n e r a l c a s e i n v o l v e s i n t r o d u c i n g

f u r t h e r t o p o l o g i c a l n o t i o n s ( c l o s e d s u b s p a c e s , e t c . ) , a n d w e a v o i d d o i n g t h i s .

7/29/2019 MIT6_241JS11_chap02

5/17

W e s h a l l a l s o a s s u m e t h a t t h e v e c t o r s a

i

i 1 : : : n i n A a r e i n d e p e n d e n t . T h i s

a s s u m p t i o n i s s a t i s e d b y a n y r e a s o n a b l y p a r a m e t r i z e d m o d e l , f o r o t h e r w i s e t h e r e w o u l d b e

a n i n n i t e n u m b e r o f c h o i c e s o f x t h a t a t t a i n e d a n y a c h i e v a b l e v a l u e o f t h e e r r o r y ; A x . I f

t h e v e c t o r s i n A a r e d i s c o v e r e d t o b e d e p e n d e n t , t h e n a r e - p a r a m e t r i z a t i o n o f t h e m o d e l i s

n e e d e d t o y i e l d a w e l l - p a r a m e t r i z e d m o d e l w i t h i n d e p e n d e n t v e c t o r s i n t h e n e w A . ( A s u b t l e r

p r o b l e m | a n d o n e t h a t w e s h a l l s a y s o m e t h i n g m o r e a b o u t i n t h e c o n t e x t o f i l l - c o n d i t i o n i n g

a n d t h e s i n g u l a r v a l u e d e c o m p o s i t i o n | i s t h a t t h e v e c t o r s i n A c a n b e n e a r l y d e p e n d e n t ,

c a u s i n g p r a c t i c a l d i c u l t i e s i n n u m e r i c a l e s t i m a t i o n o f t h e p a r a m e t e r s . )

G r a m M a t r i x L e m m a

A n i m p o r t a n t r o u t e t o v e r i f y i n g t h e i n d e p e n d e n c e o f t h e v e c t o r s t h a t m a k e u p t h e c o l u m n s o f

A i s a l e m m a t h a t w e s h a l l r e f e r t o a s t h e G r a m M a t r i x L e m m a . T h i s s t a t e s t h a t t h e v e c t o r s

i n A a r e i n d e p e n d e n t i t h e a s s o c i a t e d G r a m m a t r i x ( o r G r a m i a n ) A A [ a

i

a

j

]

i s i n v e r t i b l e a l l n o r m s a r e e q u i v a l e n t , a s f a r a s t h i s r e s u l t i s c o n c e r n e d | o n e c a n p i c k a n y

n o r m . A s n o t e d a b o v e , f o r t h e c a s e o f t h e u s u a l E u c l i d e a n i n n e r p r o d u c t , A A A

0

A . F o r

a n i n n e r p r o d u c t o f t h e f o r m a

i

a

j

a

0

i

S a

j

, w h e r e S i s H e r m i t i a n a n d p o s i t i v e d e n i t e ,

w e h a v e A A A

0

S A . T h e l e m m a a p p l i e s t o t h e i n n i t e d i m e n s i o n a l s e t t i n g a s w e l l ( e . g .

L

2

) , p r o v i d e d w e a r e o n l y c o n s i d e r i n g t h e i n d e p e n d e n c e o f a n i t e s u b s e t o f v e c t o r s .

P r o o f : I f t h e v e c t o r s i n A a r e d e p e n d e n t , t h e r e i s s o m e n o n z e r o v e c t o r s u c h t h a t A

P P

j

a

j

j

0 . B u t t h e n

j

a

i

a

j

j

0 , b y t h e l i n e a r i t y o f t h e i n n e r p r o d u c t i n

m a t r i x f o r m , w e c a n w r i t e A A 0 | s o A A i s n o t i n v e r t i b l e .

C o n v e r s e l y , i f A A i s n o t i n v e r t i b l e , t h e n A A 0 f o r s o m e n o n z e r o . B u t

P P

t h e n

0

A A

0 , s o b y t h e l i n e a r i t y o f i n n e r p r o d u c t s

i

a

i

a

j

j

0 ,

P

i . e . t h e n o r m o f t h e v e c t o r a

j

j

A i s z e r o , s o t h e v e c t o r s i n A a r e d e p e n d e n t .

2 . 5 T h e P r o j e c t i o n T h e o r e m a n d t h e L e a s t S q u a r e s E s t i m a t e

T h e s o l u t i o n t o o u r l e a s t s q u a r e s p r o b l e m i s n o w g i v e n b y t h e P r o j e c t i o n T h e o r e m , a l s o r e f e r r e d

t o a s t h e O r t h o g o n a l i t y P r i n c i p l e , w h i c h s t a t e s t h a t

e

b

( y ; A x

b

) R ( A )

f r o m w h i c h - | a s w e s h a l l s e e | x

b

c a n b e d e t e r m i n e d . I n w o r d s , t h e t h e o r e m / \ p r i n c i p l e "

s t a t e s t h a t t h e p o i n t y

b

A x

b

i n t h e s u b s p a c e

R( A ) t h a t c o m e s c l o s e s t t o y i s c h a r a c t e r i z e d

b y t h e f a c t t h a t t h e a s s o c i a t e d e r r o r e

b

y ; y

b

i s o r t h o g o n a l t o R ( A ) , i . e . , o r t h o g o n a l t o t h e

s p a c e s p a n n e d b y t h e v e c t o r s i n A . T h i s p r i n c i p l e w a s p r e s e n t e d a n d p r o v e d i n t h e p r e v i o u s

c h a p t e r . W e r e p e a t t h e p r o o f h e r e i n t h e c o n t e x t o f t h e a b o v e p r o b l e m .

P r o o f : W e r s t s h o w t h a t y h a s a u n i q u e d e c o m p o s i t i o n o f t h e f o r m y y

1

+ y

2

, w h e r e y

1

2 R ( A )

a n d y

2

2 R

( A ) . W e c a n w r i t e a n y y

1

2 R( A ) i n t h e f o r m y

1

A f o r s o m e v e c t o r .

7/29/2019 MIT6_241JS11_chap02

6/17

I f w e w a n t ( y ; y

1

) 2 R

( A ) , w e m u s t s e e i f t h e r e i s a n t h a t s a t i s e s

a

i

( y ; A ) 0 i 1 : : : n

o r , u s i n g o u r G r a m p r o d u c t n o t a t i o n ,

A ( y ; A ) 0

R e a r r a n g i n g t h i s e q u a t i o n a n d u s i n g t h e l i n e a r i t y o f t h e G r a m p r o d u c t , w e g e t

A A

A y

w h i c h i s i n t h e f o r m o f t h e n o r m a l e q u a t i o n s t h a t w e e n c o u n t e r e d i n L e c t u r e 1 . U n d e r

o u r a s s u m p t i o n t h a t t h e v e c t o r s m a k i n g u p t h e c o l u m n s o f A a r e i n d e p e n d e n t , t h e G r a m

m a t r i x l e m m a s h o w s t h a t A A i s i n v e r t i b l e , s o t h e u n i q u e s o l u t i o n o f t h e p r e c e d i n g

e q u a t i o n i s

A A

; 1

A y

W e n o w h a v e t h e d e c o m p o s i t i o n t h a t w e s o u g h t .

T o s h o w t h a t t h e p r e c e d i n g d e c o m p o s i t i o n i s u n i q u e , l e t y y

1 a

+ y

2 a

b e a n o t h e r s u c h

d e c o m p o s i t i o n , w i t h y

1 a

2 R ( A ) a n d y

2 a

2 R

( A ) . T h e n

y

1

; y

1 a

y

2

; y

2 a

a n d t h e l e f t s i d e i s i n R ( A ) w h i l e t h e r i g h t s i d e i s i n i t s o r t h o g o n a l c o m p l e m e n t . I t i s

e a s y t o s h o w t h a t t h e o n l y v e c t o r c o m m o n t o a s u b s p a c e a n d i t s o r t h o g o n a l c o m p l e m e n t

i s t h e z e r o v e c t o r , s o y

1

; y

1 a

0 a n d y

2

; y

2 a

0 , i . e . , t h e d e c o m p o s i t i o n o f y i s u n i q u e .

T o p r o c e e d , d e c o m p o s e t h e e r r o r e y ; A x s i m i l a r l y ( a n d u n i q u e l y ) i n t o t h e s u m o f

e

1

2 R ( A ) a n d e

2

2 R

( A ) . N o t e t h a t

k e k

2

k e

1

k

2

+ k e

2

k

2

N o w w e c a n r e w r i t e e y ; A x a s

e

1

+ e

2

y

1

+ y

2

; A x

o r

e

2

; y

2

y

1

; e

1

; A x

S i n c e t h e r i g h t s i d e o f t h e a b o v e e q u a t i o n l i e s i n R ( A ) a n d t h e l e f t s i d e l i e s i n R

( A ) ,

e a c h s i d e s e p a r a t e l y m u s t e q u a l 0 | a g a i n b e c a u s e t h i s i s t h e o n l y v e c t o r c o m m o n t o

a s u b s p a c e a n d i t s o r t h o g o n a l c o m p l e m e n t . W e t h u s h a v e e

2

y

2

, a n d t h e c h o i c e o f x

c a n d o n o t h i n g t o a e c t e

2

. O n t h e o t h e r h a n d , e

1

y

1

; A x A ( ; x ) , a n d t h e b e s t

w e c a n d o a s f a r a s m i n i m i z i n g k e k

2

i s t o m a k e e

1

0 b y c h o o s i n g x , s o x

b

, i . e . ,

7/29/2019 MIT6_241JS11_chap02

7/17

x

b

A A

; 1

A y

T h i s s o l v e s t h e l e a s t s q u a r e s e s t i m a t i o n p r o b l e m t h a t w e h a v e p o s e d .

T h e a b o v e r e s u l t , t h o u g h r a t h e r a b s t r a c t l y d e v e l o p e d , i s i m m e d i a t e l y a p p l i c a b l e t o m a n y

c o n c r e t e c a s e s o f i n t e r e s t .

S p e c i a l i z i n g t o t h e c a s e o f R

m

o r C

m

, a n d c h o o s i n g x t o m i n i m i z e t h e u s u a l E u c l i d e a n

n o r m ,

m

X

0

k e k

2

e e j e

i

j

2

i 1

w e h a v e

x

b

( A

0

A )

; 1

A

0

y

N o t e t h a t i f t h e c o l u m n s o f A f o r m a m u t u a l l y o r t h o g o n a l s e t ( i . e . a n o r t h o g o n a l b a s i s

f o r R ( A ) ) , t h e n A

0

A i s d i a g o n a l , a n d i t s i n v e r s i o n i s t r i v i a l .

I f i n s t e a d w e c h o o s e t o m i n i m i z e e

0

S e f o r s o m e p o s i t i v e d e n i t e H e r m i t i a n S ( 6 I ) , w e

h a v e a w e i g h t e d l e a s t s q u a r e s p r o b l e m , w i t h s o l u t i o n g i v e n b y

x

b

( A

0

S A )

; 1

A

0

S y

F o r i n s t a n c e , w i t h a d i a g o n a l S , t h e c r i t e r i o n t h a t w e a r e t r y i n g t o m i n i m i z e b e c o m e s

m

X

s

i i

j e

i

j

2

i 1

w h e r e t h e s

i i

a r e a l l p o s i t i v e . W e c a n t h e r e b y p r e f e r e n t i a l l y w e i g h t t h o s e e q u a t i o n s i n

o u r l i n e a r s y s t e m f o r w h i c h w e w a n t a s m a l l e r e r r o r i n t h e n a l s o l u t i o n a l a r g e r v a l u e

o f s

i i

w i l l e n c o u r a g e a s m a l l e r e

i

.

S u c h w e i g h t i n g i s i m p o r t a n t i n a n y p r a c t i c a l s i t u a t i o n , w h e r e d i e r e n t m e a s u r e m e n t s y

i

m a y h a v e b e e n s u b j e c t e d t o d i e r e n t l e v e l s o f n o i s e o r u n c e r t a i n t y . O n e m i g h t e x p e c t

t h a t s

i i

s h o u l d b e i n v e r s e l y p r o p o r t i o n a l t o t h e n o i s e i n t e n s i t y o n t h e i t h e q u a t i o n . I n

f a c t , a p r o b a b i l i s t i c d e r i v a t i o n , a s s u m i n g z e r o - m e a n n o i s e o n e a c h e q u a t i o n i n t h e s y s t e m

b u t n o i s e t h a t i s u n c o r r e l a t e d a c r o s s e q u a t i o n s , s h o w s t h a t s

i i

s h o u l d v a r y i n v e r s e l y w i t h

t h e v a r i a n c e o f e

i

.

A f u l l m a t r i x S r a t h e r t h a n a d i a g o n a l o n e w o u l d m a k e s e n s e i f t h e e r r o r s w e r e c o r r e l a t e d

a c r o s s m e a s u r e m e n t s . A p r o b a b i l i s t i c t r e a t m e n t s h o w s t h a t t h e p r o p e r w e i g h t i n g m a t r i x

i s S ( E [ e e

0

] )

; 1

, t h e i n v e r s e o f t h e c o v a r i a n c e m a t r i x o f e . I n t h e d e t e r m i n i s t i c s e t t i n g ,

o n e h a s f a r l e s s g u i d a n c e o n p i c k i n g a g o o d S .

7/29/2019 MIT6_241JS11_chap02

8/17

T h e b o x e d r e s u l t a l s o a l l o w s u s t o i m m e d i a t e l y w r i t e d o w n t h e c h o i c e o f c o e c i e n t s x

i

t h a t m i n i m i z e s t h e i n t e g r a l

Z

[ y ( t ) ; a

1

( t ) x

1

; a

2

( t ) x

2

; ; a

n

( t ) x

n

]

2

d t

f o r s p e c i e d f u n c t i o n s y ( t ) a n d a

i

( t ) . I f , f o r i n s t a n c e , y ( t ) i s o f n i t e e x t e n t ( o r n i t e

\ s u p p o r t " ) T , a n d t h e a

i

( t ) a r e s i n u s o i d s w h o s e f r e q u e n c i e s a r e i n t e g r a l m u l t i p l e s o f

2 T , t h e n t h e f o r m u l a s t h a t w e o b t a i n f o r t h e x

i

a r e j u s t t h e f a m i l i a r F o u r i e r s e r i e s

e x p r e s s i o n s . A s i m p l i c a t i o n i n t h i s e x a m p l e i s t h a t t h e v e c t o r s i n A a r e o r t h o g o n a l , s o

A A i s d i a g o n a l .

2 . 6 R e c u r s i v e L e a s t S q u a r e s ( o p t i o n a l )

W h a t i f t h e d a t a i s c o m i n g i n s e q u e n t i a l l y D o w e h a v e t o r e c o m p u t e e v e r y t h i n g e a c h t i m e

a n e w d a t a p o i n t c o m e s i n , o r c a n w e w r i t e o u r n e w , u p d a t e d e s t i m a t e i n t e r m s o f o u r o l d

e s t i m a t e

k

X

C o n s i d e r t h e m o d e l

y

i

A

i

x + e

i

i 0 1 : : : ( 2 . 2 )

w h e r e y

i

2 C

m 1

, A

i

2 C

m n

, x 2 C

n 1

, a n d e

i

2 C

m 1

. T h e v e c t o r e

k

r e p r e s e n t s t h e

m i s m a t c h b e t w e e n t h e m e a s u r e m e n t y

k

a n d t h e m o d e l f o r i t , A

k

x , w h e r e A

k

i s k n o w n a n d x

i s t h e v e c t o r o f p a r a m e t e r s t o b e e s t i m a t e d . A t e a c h t i m e k , w e w i s h t o n d

!

k

X

( y

i

;A

i

x )

0

i

S

i

( y

i

;A

i

x )

0

e

i

S

i

e

i

b

x

k

a r g m i n

i 1 i 1

w h e r e S

i

2 C

m m

i s a p o s i t i v e d e n i t e H e r m i t i a n m a t r i x o f w e i g h t s , s o t h a t w e c a n v a r y t h e

i m p o r t a n c e o f t h e e

i

' s a n d c o m p o n e n t s o f t h e e

i

' s i n d e t e r m i n i n g x

b

k

.

T o c o m p u t e x

b

k + 1

, l e t :

a r g m i n ( 2 . 3 )

x x

323232

y

0

A

0

e

0

6

6

6

6

6

4

y

1

:

:

7

7

7

7

7

5

A

k + 1

6

6

6

6

6

4

A

1

:

:

7

7

7

7

7

5

e

k + 1

6

6

6

6

6

4

e

1

y

k + 1

:

:

y

k + 1

A

k + 1

e

k + 1

a n d

S

k + 1

d i a g ( S

0

S

1

: : : S

k + 1

)

w h e r e S

i

i s t h e w e i g h t i n g m a t r i x f o r e

i

.

O u r p r o b l e m i s t h e n e q u i v a l e n t t o

!

7

7

7

7

7

5

7/29/2019 MIT6_241JS11_chap02

9/17

m i n ( e

0

k + 1

S

k + 1

e

k + 1

)

s u b j e c t t o : y

k + 1

A

k + 1

x

k + 1

+ e

k + 1

T h e s o l u t i o n c a n t h u s b e w r i t t e n a s

( A

k + 1

S

k + 1

A

k + 1

) x

b

k + 1

A

k + 1

S

k + 1

y

k + 1

o r i n s u m m a t i o n f o r m a s

!

k + 1 k + 1

X X

A

0

i

S

i

A

i

x

b

k + 1

A

0

i

S

i

y

i

i 0 i 0

D e n i n g

k + 1

X

Q

k + 1

A

i

0

S

i

A

i

:

i 0

w e c a n w r i t e a r e c u r s i o n f o r Q

k + 1

a s f o l l o w s :

Q

k + 1

Q

k

+ A

0

k + 1

S

k + 1

A

k + 1

:

R e a r r a n g i n g t h e s u m m a t i o n f o r m e q u a t i o n f o r x

b

k + 1

, w e g e t

h

P

i

Q

; 1

k

b

k

+ A

0

x

b

k + 1

k + 1

i 0

A

0

i

S

i

A

i

x

k + 1

S

k + 1

y

k + 1

h i

Q

; 1

Q

k

x

b

k

+ A

0

k + 1

S

k + 1

y

k + 1

k + 1

T h i s c l e a r l y d i s p l a y s t h e n e w e s t i m a t e a s a w e i g h t e d c o m b i n a t i o n o f t h e o l d e s t i m a t e a n d t h e

n e w d a t a , s o w e h a v e t h e d e s i r e d r e c u r s i o n . A n o t h e r u s e f u l f o r m o f t h i s r e s u l t i s o b t a i n e d b y

s u b s t i t u t i n g f r o m t h e r e c u r s i o n f o r Q

k + 1

a b o v e t o g e t

A

0

x

b

k + 1

x

b

k

; Q

; 1

;

k + 1

S

k + 1

A

k + 1

x

b

k

; A

k

0

+ 1

S

k + 1

y

k + 1

k + 1

w h i c h n a l l y r e d u c e s t o

x

b

k + 1

x

b

k

+ Q

; 1

A

k

0

+ 1

S

k + 1

( y

k + 1

; A

k + 1

x

b

k

)

|

k + 1

{ z }

| { z }

K a l m a n F i l t e r G a i n

i n n o v a t i o n s

T h e q u a n t i t y Q

; 1

A

0

S

k + 1

i s c a l l e d t h e K a l m a n g a i n , a n d y

k + 1

;A

k + 1

x

b

k

i s c a l l e d t h e

k + 1

k + 1

i n n o v a t i o n s , s i n c e i t c o m p a r e s t h e d i e r e n c e b e t w e e n a d a t a u p d a t e a n d t h e p r e d i c t i o n g i v e n

t h e l a s t e s t i m a t e .

U n f o r t u n a t e l y , a s o n e a c q u i r e s m o r e a n d m o r e d a t a , i . e . a s k g r o w s l a r g e , t h e K a l m a n g a i n

g o e s t o z e r o . O n e d a t a p o i n t c a n n o t m a k e m u c h h e a d w a y a g a i n s t t h e m a s s o f p r e v i o u s d a t a

w h i c h h a s ` h a r d e n e d ' t h e e s t i m a t e . I f w e l e a v e t h i s e s t i m a t o r a s i s | w i t h o u t m o d i c a t i o n | t h e

e s t i m a t o r ` g o e s t o s l e e p ' a f t e r a w h i l e , a n d t h u s d o e s n ' t a d a p t w e l l t o p a r a m e t e r c h a n g e s . T h e

h o m e w o r k i n v e s t i g a t e s t h e c o n c e p t o f a ` f a d i n g m e m o r y ' s o t h a t t h e e s t i m a t o r d o e s n ' t g o t o

s l e e p .

0 0

7/29/2019 MIT6_241JS11_chap02

10/17

A n I m p l e m e n t a t i o n I s s u e

A n o t h e r c o n c e p t w h i c h i s i m p o r t a n t i n t h e i m p l e m e n t a t i o n o f t h e R L S a l g o r i t h m i s t h e c o m -

p u t a t i o n o f Q

; 1

I f t h e d i m e n s i o n o f Q

k

i s v e r y l a r g e , c o m p u t a t i o n o f i t s i n v e r s e c a n b e

k + 1

.

c o m p u t a t i o n a l l y e x p e n s i v e , s o o n e w o u l d l i k e t o h a v e a r e c u r s i o n f o r Q

; 1

k + 1

.

T h i s r e c u r s i o n i s e a s y t o o b t a i n . A p p l y i n g t h e h a n d y m a t r i x i d e n t i t y

( A + B C D )

; 1

A

; 1

;A

; 1

B D A

; 1

B + C

; 1

; 1

D A

; 1

t o t h e r e c u r s i o n f o r Q

k + 1

y i e l d s

:Q

; 1

Q

; 1

; Q

; 1

A

0

A

k + 1

Q

; 1

A

0

k + 1

+ S

; 1

; 1

k + 1 k k

k + 1

k k + 1

A

k + 1

Q

k

; 1

U p o n d e n i n g

P

k + 1

Q

; 1

k + 1

t h i s b e c o m e s

S

; 1

; 1

:P

k + 1

P

k

; P

k

A

0

k + 1

k + 1

+ A

k + 1

P

k

A

0

k + 1

A

k + 1

P

k

w h i c h i s c a l l e d t h e ( d i s c r e t e - t i m e ) R i c c a t i e q u a t i o n .

I n t e r p r e t a t i o n

W e h a v e x

b

k

a n d y

k + 1

a v a i l a b l e f o r c o m p u t i n g o u r u p d a t e d e s t i m a t e . I n t e r p r e t i n g x

b

k

a s a

m e a s u r e m e n t , w e s e e o u r m o d e l b e c o m e s

" # " # " #

x

b

k

I e

k

x + :

y

k + 1

A

k + 1

e

k + 1

T h e c r i t e r i o n , t h e n , b y w h i c h w e c h o o s e x

b

k + 1

i s t h u s

x

b

k + 1

a r g m i n

;

e

k

0

Q

k

e

k

+ e

0

k + 1

S

k + 1

e

k + 1

:

I n t h i s c o n t e x t , o n e i n t e r p r e t s Q

k

a s t h e w e i g h t i n g f a c t o r f o r t h e p r e v i o u s e s t i m a t e .

7/29/2019 MIT6_241JS11_chap02

11/17

7/29/2019 MIT6_241JS11_chap02

12/17

t h e t a 0 : ( 2 * p i / n ) : ( 2 * p i )

a x ( 1 ) * c o s ( t h e t a ) . ^ 2 + x ( 2 ) * s i n ( t h e t a ) . ^ 2 + x ( 3 ) * ( c o s ( t h e t a ) . * s i n ( t h e t a ) )

r h o o n e s ( s i z e ( a ) ) . / s q r t ( a )

E x e r c i s e 2 . 2 A p p r o x i m a t i o n b y a P o l y n o m i a l

L e t f ( t ) 0 : 5 e

0 8 t

, t 2 [ 0 2 ] .

( a ) S u p p o s e 1 6 e x a c t m e a s u r e m e n t s o f f ( t ) a r e a v a i l a b l e t o y o u , t a k e n a t t h e t i m e s t

i

l i s t e d i n t h e

a r r a y T b e l o w :

T [ 2 1 0

; 3

0 : 1 3 6 0 : 2 6 8 0 : 4 0 2 0 : 5 3 6 0 : 6 6 8 0 : 8 0 2 0 : 9 3 6

1 : 0 6 8 1 : 2 0 2 1 : 3 3 6 1 : 4 6 8 1 : 6 0 2 1 : 7 3 6 1 : 8 6 8 2 : 0 0 0 ]

U s e M a t l a b t o g e n e r a t e t h e s e m e a s u r e m e n t s :

y

i

f ( t

i

) i 1 : : : 1 6 t

i

2 T

N o w d e t e r m i n e t h e c o e c i e n t s o f t h e l e a s t s q u a r e e r r o r p o l y n o m i a l a p p r o x i m a t i o n o f t h e m e a -

s u r e m e n t s , f o r

1 . a p o l y n o m i a l o f d e g r e e 1 5 , p

1 5

( t )

2 . a p o l y n o m i a l o f d e g r e e 2 , p

2

( t ) .

C o m p a r e t h e q u a l i t y o f t h e t w o a p p r o x i m a t i o n s b y p l o t t i n g y ( t

i

) , p

1 5

( t

i

) a n d p

2

( t

i

) f o r a l l t

i

i n T . T o s e e h o w w e l l w e a r e a p p r o x i m a t i n g t h e f u n c t i o n o n t h e w h o l e i n t e r v a l , a l s o p l o t f ( t ) ,

p

1 5

( t ) a n d p

2

( t ) o n t h e i n t e r v a l [ 0 2 ] . ( P i c k a v e r y n e g r i d f o r t h e i n t e r v a l , e . g . t [ 0 : 1 0 0 0 ] ' / 5 0 0 . )

R e p o r t y o u r o b s e r v a t i o n s a n d c o m m e n t s .

( b ) N o w s u p p o s e t h a t y o u r m e a s u r e m e n t s a r e a e c t e d b y s o m e n o i s e . G e n e r a t e t h e m e a s u r e m e n t s

u s i n g

y

i

f ( t

i

) + e ( t

i

) i 1 : : : 1 6 t

i

2 T

w h e r e t h e v e c t o r o f n o i s e v a l u e s c a n b e g e n e r a t e d i n t h e f o l l o w i n g w a y :

r a n d n (

0

s e e d

0

0 )

e r a n d n ( s i z e ( T ) )

A g a i n d e t e r m i n e t h e c o e c i e n t s o f t h e l e a s t s q u a r e e r r o r p o l y n o m i a l a p p r o x i m a t i o n o f t h e m e a -

s u r e m e n t s f o r

1 . a p o l y n o m i a l o f d e g r e e 1 5 , p

1 5

( t )

2 . a p o l y n o m i a l o f d e g r e e 2 , p

2

( t ) .

C o m p a r e t h e t w o a p p r o x i m a t i o n s a s i n p a r t ( a ) . R e p o r t y o u r o b s e r v a t i o n s a n d c o m m e n t s .

E x p l a i n a n y s u r p r i s i n g r e s u l t s .

7/29/2019 MIT6_241JS11_chap02

13/17

( c ) S o f a r w e h a v e o b t a i n e d p o l y n o m i a l a p p r o x i m a t i o n s o f f ( t ) t 2 [ 0 2 ] b y a p p r o x i m a t i n g t h e

m e a s u r e m e n t s a t t

i

2 T . W e a r e n o w i n t e r e s t e d i n m i n i m i z i n g t h e s q u a r e e r r o r o f t h e p o l y n o m i a l

a p p r o x i m a t i o n o v e r t h e w h o l e i n t e r v a l [ 0 2 ] :

Z

2

m i n k f ( t ) ; p

n

( t ) k

2

m i n j f ( t ) ; p

n

( t ) j

2

d t

2

0

w h e r e p

n

( t ) i s s o m e p o l y n o m i a l o f d e g r e e n . F i n d t h e p o l y n o m i a l p

2

( t ) o f d e g r e e 2 t h a t s o l v e s

t h e a b o v e p r o b l e m . A r e t h e o p t i m a l p

2

( t ) i n t h i s c a s e a n d t h e o p t i m a l p

2

( t ) o f p a r t s ( a ) a n d ( b )

v e r y d i e r e n t f r o m e a c h o t h e r E l a b o r a t e .

E x e r c i s e 2 . 3 C o m b i n i n g E s t i m a t e s

S u p p o s e y

1

C

1

x + e

1

a n d y

2

C

2

x + e

2

, w h e r e x i s a n n - v e c t o r , a n d C

1

, C

2

h a v e f u l l c o l u m n

r a n k . L e t x

1

d e n o t e t h e v a l u e o f x t h a t m i n i m i z e s e

T

1

S

1

e

1

, a n d x

2

d e n o t e t h e v a l u e t h a t m i n i m i z e s

e

T

2

S

2

e

2

, w h e r e S

1

a n d S

2

a r e p o s i t i v e d e n i t e m a t r i c e s . S h o w t h a t t h e v a l u e x o f x t h a t m i n i m i z e s

e

T

1

S

1

e

1

+ e

T

2

S

2

e

2

c a n b e w r i t t e n e n t i r e l y i n t e r m s o f x

1

, x

2

, a n d t h e n n m a t r i c e s Q

1

C

1

T

S

1

C

1

a n d

Q

2

C

2

T

S

2

C

2

. W h a t i s t h e s i g n i c a n c e o f t h i s r e s u l t

E x e r c i s e 2 . 4 E x p o n e n t i a l l y W i n d o w e d E s t i m a t e s

S u p p o s e w e o b s e r v e t h e s c a l a r m e a s u r e m e n t s

y

i

c

i

x + e

i

i 1 2 : : :

w h e r e c

i

a n d x a r e p o s s i b l y v e c t o r s ( r o w - a n d c o l u m n - v e c t o r s r e s p e c t i v e l y ) .

( a ) S h o w ( b y r e d u c i n g t h i s t o a p r o b l e m t h a t w e a l r e a d y k n o w h o w t o s o l v e | d o n ' t s t a r t f r o m

s c r a t c h ! ) t h a t t h e v a l u e x

k

o f x t h a t m i n i m i z e s t h e c r i t e r i o n

k

X

f

k ; i

e

2

i

s o m e x e d f 0 f 1

i 1

i s g i v e n b y

k

; 1

k

X X

x

k

f

k ; i

c

T

i

c

i

f

k ; i

c

T

i

y

i

i 1 i 1

T h e s o - c a l l e d f a d e o r f o r g e t t i n g f a c t o r f a l l o w s u s t o p r e f e r e n t i a l l y w e i g h t t h e m o r e r e c e n t m e a -

s u r e m e n t s b y p i c k i n g 0 f 1 , s o t h a t o l d d a t a i s d i s c o u n t e d a t a n e x p o n e n t i a l r a t e . W e

t h e n s a y t h a t t h e d a t a h a s b e e n s u b j e c t e d t o e x p o n e n t i a l f a d i n g o r f o r g e t t i n g o r w e i g h t i n g o r

w i n d o w i n g o r t a p e r i n g o r . . . . T h i s i s u s u a l l y d e s i r a b l e , i n o r d e r t o k e e p t h e l t e r a d a p t i v e t o

c h a n g e s t h a t m a y o c c u r i n x . O t h e r w i s e t h e l t e r b e c o m e s p r o g r e s s i v e l y l e s s a t t e n t i v e t o n e w

d a t a a n d f a l l s a s l e e p , w i t h i t s g a i n a p p r o a c h i n g 0 .

7/29/2019 MIT6_241JS11_chap02

14/17

( b ) N o w s h o w t h a t

x

k

x

k ; 1

+ Q

;

k

1

c

T

k

( y

k

; c

k

x

k ; 1

)

w h e r e

Q

k

f Q

k ; 1

+ c

T

k

c

k

Q

0

0

T h e v e c t o r g

k

Q

;

k

1

c

T

k

i s t e r m e d t h e g a i n o f t h e e s t i m a t o r .

( c ) I f x a n d c

i

a r e s c a l a r s , a n d c

i

i s a c o n s t a n t c , d e t e r m i n e g

k

a s a f u n c t i o n o f k . W h a t i s t h e

s t e a d y - s t a t e g a i n g

1

D o e s g

1

i n c r e a s e o r d e c r e a s e a s f i n c r e a s e s | a n d w h y d o y o u e x p e c t

t h i s

E x e r c i s e 2 . 5 S u p p o s e o u r m o d e l f o r s o m e w a v e f o r m y ( t ) i s y ( t ) s i n ( ! t ) , w h e r e i s a s c a l a r ,

a n d s u p p o s e w e h a v e m e a s u r e m e n t s y ( t

1

) : : : y ( t

p

) . B e c a u s e o f m o d e l i n g e r r o r s a n d t h e p r e s e n c e o f

m e a s u r e m e n t n o i s e , w e w i l l g e n e r a l l y n o t n d a n y c h o i c e o f m o d e l p a r a m e t e r s t h a t a l l o w s u s t o p r e -

c i s e l y a c c o u n t f o r a l l p m e a s u r e m e n t s .

( a ) I f ! i s k n o w n , n d t h e v a l u e o f t h a t m i n i m i z e s

p

X

[ y ( t

i

) ; s i n ( ! t

i

) ]

2

i 1

( b ) D e t e r m i n e t h i s v a l u e o f i f ! 2 a n d i f t h e m e a s u r e d v a l u e s o f y ( t ) a r e :

y ( 1 ) + 2 : 3 1 y ( 2 ) ; 2 : 0 1 y ( 3 ) ; 1 : 3 3 y ( 4 ) + 3 : 2 3

y ( 5 ) ; 1 : 2 8 y ( 6 ) ; 1 : 6 6 y ( 7 ) + 3 : 2 8 y ( 8 ) ; 0 : 8 8

( I g e n e r a t e d t h i s d a t a u s i n g t h e e q u a t i o n y ( t ) 3 s i n ( 2 t ) + e ( t ) e v a l u a t e d a t t h e i n t e g e r v a l u e s

t 1 : : : 8 , a n d w i t h e ( t ) f o r e a c h t b e i n g a r a n d o m n u m b e r u n i f o r m l y d i s t r i b u t e d i n t h e i n t e r v a l

- 0 . 5 t o + 0 . 5 . )

( c ) S u p p o s e t h a t a n d ! a r e u n k n o w n , a n d t h a t w e w i s h t o d e t e r m i n e t h e v a l u e s o f t h e s e t w o v a r i a b l e s

t h a t m i n i m i z e t h e a b o v e c r i t e r i o n . A s s u m e y o u a r e g i v e n i n i t i a l e s t i m a t e s

0

a n d !

0

f o r t h e

m i n i m i z i n g v a l u e s o f t h e s e v a r i a b l e s . U s i n g t h e G a u s s - N e w t o n a l g o r i t h m f o r t h i s n o n l i n e a r l e a s t

s q u a r e s p r o b l e m , i . e . a p p l y i n g L L S E t o t h e p r o b l e m o b t a i n e d b y l i n e a r i z i n g a b o u t t h e i n i t i a l

e s t i m a t e s , d e t e r m i n e e x p l i c i t l y t h e e s t i m a t e s

1

a n d !

1

o b t a i n e d a f t e r o n e i t e r a t i o n o f t h i s

a l g o r i t h m . U s e t h e f o l l o w i n g n o t a t i o n t o h e l p y o u w r i t e o u t t h e s o l u t i o n i n a c o n d e n s e d f o r m :

X X X

2 2

a s i n

2

( !

0

t

i

) b t

i

c o s ( !

0

t

i

) c t

i

[ s i n ( w

0

t

i

) ] [ c o s ( w

0

t

i

) ]

( d ) W h a t v a l u e s d o y o u g e t f o r

1

a n d !

1

w i t h t h e d a t a g i v e n i n ( b ) a b o v e i f t h e i n i t i a l g u e s s e s

a r e

0

3 : 2 a n d !

0

1 : 8 C o n t i n u e t h e i t e r a t i v e e s t i m a t i o n a f e w m o r e s t e p s . R e p e a t t h e

p r o c e d u r e w h e n t h e i n i t i a l g u e s s e s a r e

0

3 : 5 a n d !

0

2 : 5 , v e r i f y i n g t h a t t h e a l g o r i t h m d o e s

n o t c o n v e r g e .

7/29/2019 MIT6_241JS11_chap02

15/17

( e ) S i n c e o n l y ! e n t e r s t h e m o d e l n o n l i n e a r l y , w e m i g h t t h i n k o f a d e c o m p o s e d a l g o r i t h m , i n w h i c h

i s e s t i m a t e d u s i n g l i n e a r l e a s t s q u a r e s a n d ! i s e s t i m a t e d v i a n o n l i n e a r l e a s t s q u a r e s . S u p p o s e ,

f o r e x a m p l e , t h a t o u r i n i t i a l e s t i m a t e o f ! i s !

0

1 : 8 . N o w o b t a i n a n e s t i m a t e

1

o f u s i n g t h e

l i n e a r l e a s t s q u a r e s m e t h o d t h a t y o u u s e d i n ( b ) . T h e n o b t a i n a n ( i m p r o v e d ) e s t i m a t e !

1

o f ! ,

u s i n g o n e i t e r a t i o n o f a G a u s s - N e w t o n a l g o r i t h m ( s i m i l a r t o w h a t i s n e e d e d i n ( c ) , e x c e p t t h a t

n o w y o u a r e o n l y t r y i n g t o e s t i m a t e ! ) . N e x t o b t a i n t h e e s t i m a t e

2

v i a l i n e a r l e a s t s q u a r e s ,

a n d s o o n . C o m p a r e y o u r r e s u l t s w i t h w h a t y o u o b t a i n v i a t h i s d e c o m p o s e d p r o c e d u r e w h e n

y o u r i n i t i a l e s t i m a t e i s !

0

2 : 5 i n s t e a d o f 1 . 8 .

E x e r c i s e 2 . 6 C o m p a r i n g D i e r e n t E s t i m a t o r s

T h i s p r o b l e m a s k s y o u t o c o m p a r e t h e b e h a v i o r o f d i e r e n t p a r a m e t e r e s t i m a t i o n a l g o r i t h m s b y

t t i n g a m o d e l o f t h e t y p e y ( t ) a s i n ( 2 t ) + b c o s ( 4 t ) t o n o i s y d a t a t a k e n a t v a l u e s o f t t h a t a r e . 0 2

a p a r t i n t h e i n t e r v a l ( 0 , 2 ] .

F i r s t s y n t h e s i z e t h e d a t a o n w h i c h y o u w i l l t e s t t h e a l g o r i t h m s . E v e n t h o u g h y o u r e s t i m a t i o n

a l g o r i t h m s w i l l a s s u m e t h a t a a n d b a r e c o n s t a n t , w e a r e i n t e r e s t e d i n s e e i n g h o w t h e y t r a c k p a r a m e t e r

c h a n g e s a s w e l l . A c c o r d i n g l y , l e t a 2 , b 2 f o r t h e r s t 5 0 p o i n t s , a n d a 1 , b 3 f o r t h e n e x t 5 0

p o i n t s . T o g e t ( a p p r o x i m a t e l y ) n o r m a l l y d i s t r i b u t e d r a n d o m v a r i a b l e s , w e u s e t h e f u n c t i o n r a n d n t o

p r o d u c e v a r i a b l e s w i t h m e a n 0 a n d v a r i a n c e 1 .

A n e l e g a n t w a y t o g e n e r a t e t h e d a t a i n M a t l a b , e x p l o i t i n g M a t l a b ' s f a c i l i t y w i t h v e c t o r s , i s t o

d e n e t h e v e c t o r s t 1 0 : 0 2 : 0 : 0 2 : 1 : 0 a n d t 2 1 : 0 2 : 0 : 0 2 : 2 : 0 , t h e n s e t

y 1 2 s i n ( 2 p i t 1 ) + 2 c o s ( 4 p i t 1 ) + s r a n d n ( s i z e ( t 1 ) )

a n d

y 2 s i n ( 2 p i t 2 ) + 3 c o s ( 4 p i t 2 ) + s r a n d n ( s i z e ( t 2 ) )

w h e r e s d e t e r m i n e s t h e s t a n d a r d d e v i a t i o n o f t h e n o i s e . P i c k s 1 f o r t h i s p r o b l e m . F i n a l l y , s e t

y [ y 1 y 2 ] . N o l o o p s , n o c o u n t e r s , n o f u s s ! !

N o w e s t i m a t e a a n d b f r o m y u s i n g t h e f o l l o w i n g a l g o r i t h m s . A s s u m e p r i o r e s t i m a t e s a

0

3

a n d

b

0

1 , w e i g h t e d e q u a l l y w i t h t h e m e a s u r e m e n t s ( s o a l l w e i g h t s c a n b e t a k e n a s 1 w i t h o u t l o s s o f

g e n e r a l i t y ) . P l o t y o u r r e s u l t s t o a i d c o m p a r i s o n .

( i ) R e c u r s i v e l e a s t s q u a r e s .

( i i ) R e c u r s i v e l e a s t s q u a r e s w i t h e x p o n e n t i a l l y f a d i n g m e m o r y , a s i n P r o b l e m 3 . U s e f : 9 6 .

( i i i ) T h e a l g o r i t h m i n ( i i ) , b u t w i t h Q

k

o f P r o b l e m 3 r e p l a c e d b y q

k

( 1 n ) t r a c e ( Q

k

) , w h e r e

n i s t h e n u m b e r o f p a r a m e t e r s , s o n 2 i n t h i s c a s e . ( R e c a l l t h a t t h e t r a c e o f a m a t r i x i s t h e s u m o f

i t s d i a g o n a l e l e m e n t s . N o t e t h a t q

k

i t s e l f s a t i s e s a r e c u r s i o n , w h i c h y o u s h o u l d w r i t e d o w n . )

( i v ) A n a l g o r i t h m o f t h e f o r m

: 0 4

T

x

k

x

k ; 1

+ c

k

( y

k

; c

k

x

k ; 1

)

T

c

k

c

k

w h e r e c

k

[ s i n ( 2 t ) c o s ( 4 t ) ] e v a l u a t e d a t t h e k t h s a m p l i n g i n s t a n t , s o t : 0 2 k .

E x e r c i s e 2 . 7 R e c u r s i v e E s t i m a t i o n o f a S t a t e V e c t o r

T h i s c o u r s e w i l l s o o n b e g i n t o c o n s i d e r s t a t e - s p a c e m o d e l s o f t h e f o r m

x

A x

; 1

( 2 . 4 )

7/29/2019 MIT6_241JS11_chap02

16/17

w h e r e x

i s a n n - v e c t o r d e n o t i n g t h e s t a t e a t t i m e o f o u r m o d e l o f s o m e s y s t e m , a n d A i s a k n o w n

n n m a t r i x . F o r e x a m p l e , s u p p o s e t h e s y s t e m o f i n t e r e s t i s a r o t a t i n g m a c h i n e , w i t h a n g u l a r p o s i t i o n

d

a n d a n g u l a r v e l o c i t y !

a t t i m e t ` T , w h e r e T i s s o m e x e d s a m p l i n g i n t e r v a l . I f w e b e l i e v e d t h e

m a c h i n e t o b e r o t a t i n g a t c o n s t a n t s p e e d , w e w o u l d b e l e d t o t h e m o d e l

d

1 T d

; 1

!

0 1 !

; 1

A s s u m e A t o b e n o n s i n g u l a r t h r o u g h o u t t h i s p r o b l e m .

F o r t h e r o t a t i n g m a c h i n e e x a m p l e a b o v e , i t i s o f t e n o f i n t e r e s t t o o b t a i n l e a s t - s q u a r e - e r r o r e s t i -

m a t e s o f t h e p o s i t i o n a n d ( c o n s t a n t ) v e l o c i t y , u s i n g n o i s y m e a s u r e m e n t s o f t h e a n g u l a r p o s i t i o n d

j

a t

t h e s a m p l i n g i n s t a n t s . M o r e g e n e r a l l y , i t i s o f i n t e r e s t t o o b t a i n a l e a s t - s q u a r e - e r r o r e s t i m a t e o f t h e

s t a t e v e c t o r x

i

i n t h e m o d e l ( 2 . 4 ) f r o m n o i s y p - c o m p o n e n t m e a s u r e m e n t s y

j

t h a t a r e r e l a t e d t o x

j

b y

a l i n e a r e q u a t i o n o f t h e f o r m

y

j

C x

j

+ e

j

j 1 : : : i

w h e r e C i s a p n m a t r i x . W e s h a l l a l s o a s s u m e t h a t a p r i o r e s t i m a t e x

0

o f x

0

i s a v a i l a b l e :

x

0

x

0

+ e

0

L e t x

i j i

d e n o t e t h e v a l u e o f x

i

t h a t m i n i m i z e s

i

X

k e

j

k

2

j 0

T h i s i s t h e e s t i m a t e o f x

i

g i v e n t h e p r i o r e s t i m a t e a n d m e a s u r e m e n t s u p t o t i m e i , o r t h e \ l t e r e d

e s t i m a t e " o f x

i

. S i m i l a r l y , l e t x

i j i ; 1

d e n o t e t h e v a l u e o f x

i

t h a t m i n i m i z e s

i ; 1

X

k e

j

k

2

j 0

T h i s i s t h e l e a s t - s q u a r e - e r r o r e s t i m a t e o f x

i

g i v e n t h e p r i o r e s t i m a t e a n d m e a s u r e m e n t s u p t o t i m e

i ; 1 , a n d i s t e r m e d t h e \ o n e - s t e p p r e d i c t i o n " o f x

i

.

a ) S e t u p t h e l i n e a r s y s t e m o f e q u a t i o n s w h o s e l e a s t s q u a r e e r r o r s o l u t i o n w o u l d b e x

i j i

. S i m i l a r l y ,

s e t u p t h e l i n e a r s y s t e m o f e q u a t i o n s w h o s e l e a s t s q u a r e e r r o r s o l u t i o n w o u l d b e x

i j i ; 1

.

b ) S h o w t h a t x

i j i ; 1

A x

i ; 1 j i ; 1

.

c ) D e t e r m i n e a r e c u r s i o n t h a t e x p r e s s e s x

i j i

i n t e r m s o f x

i ; 1 j i ; 1

a n d y

i

. T h i s i s t h e p r o t o t y p e o f w h a t

i s k n o w n a s t h e K a l m a n l t e r . A m o r e e l a b o r a t e v e r s i o n o f t h e K a l m a n l t e r w o u l d i n c l u d e a d d i t i v e

n o i s e d r i v i n g t h e s t a t e - s p a c e m o d e l , a n d o t h e r e m b e l l i s h m e n t s , a l l i n a s t o c h a s t i c c o n t e x t ( r a t h e r t h a n

t h e d e t e r m i n i s t i c o n e g i v e n h e r e ) .

E x e r c i s e 2 . 8 L e t x d e n o t e t h e v a l u e o f x t h a t m i n i m i z e s k y ; A x k

2

, w h e r e A h a s f u l l c o l u m n r a n k .

L e t x d e n o t e t h e v a l u e o f x t h a t m i n i m i z e s t h i s s a m e c r i t e r i o n , b u t n o w s u b j e c t t o t h e c o n s t r a i n t t h a t

z D x , w h e r e D h a s f u l l r o w r a n k . S h o w t h a t

; 1

x x ^ + ( A

T

A )

; 1

D

T

D ( A

T

A )

; 1

D

T

( z ; D x ^ )

( H i n t : O n e a p p r o a c h t o s o l v i n g t h i s i s t o u s e o u r r e c u r s i v e l e a s t s q u a r e s f o r m u l a t i o n , b u t m o d i e d f o r

t h e l i m i t i n g c a s e w h e r e o n e o f t h e m e a s u r e m e n t s e t s | n a m e l y z D x i n t h i s c a s e | i s k n o w n t o

h a v e n o e r r o r . Y o u m a y h a v e t o u s e s o m e o f t h e m a t r i x i d e n t i t i e s f r o m t h e p r e v i o u s c h a p t e r ) .

7/29/2019 MIT6_241JS11_chap02

17/17

MIT OpenCourseWarehttp://ocw.mit.edu

6.241J / 16.338J Dynamic Systems and Control

Spring 2011

For information about citing these materials or our Terms of Use, visit: http://ocw.mit.edu/terms.