Discrete Wavelet Transform

[/50]Seminario Wavelet

Seminario

Wavelet

martedì 16 marzo 2010

andrea

Line


IndiceFourier Transform Short-time Fourier Transform

Continuous Wavelet TransformDiscrete Wavelet Transform Applicazioni

CompressioneDenoising…

Fusione di immagini multirisoluzione



Introduzione

La Trasformata Wavelet è uno strumento matematico semplice adatto all’analisi numerica di segnali (suoni ed immagini)

La WT nacque nei primi anni ’80 ed inizialmente fu utilizzata per la rappresentazione di segnali sismici

La teoria matematica fu formulata rigorosamente a metà degli anni ’80



Fourier Transform (FT)

La FT è applicata a segnali per ottenere ulteriori informazioni che altrimenti non sarebbero individuabili nel dominio temporale (spaziale).

Il valore della FT in fo è uguale al prodotto tra il segnale x(t) e l’esponenziale valutato in fo integrato su tutto l’asse temporale

FT

Inverse FT



Il segnale viene rappresentato con un insieme di funzioni base(esponenziali complessi) a differenti frequenze.

Funzioni base:

eo e2

e1 x

…




Funzioni base:

Esempio: l’onda quadra può essere espressa come somma infinita di coseni con opportune ampiezze e fasi

eo e2

e1 x

…




Funzioni base:


eo e2

e1 x

…

f1




Funzioni base:


eo e2

e1 x

…

f1,f2 f1




Funzioni base:


eo e2

e1 x

…

f1,f2 f1

f1,f2,f3




Funzioni base:


eo e2

e1 x

…

f1,f2 f1

f1,f2,f3

…

f1,f2,f3 ,f4



La FT è utilizzata con successo nell’elaborazione di segnali

FT

Filtro

Segnale

Segnale filtrato

Filtraggio



La FT è utilizzata con successo nell’elaborazione di segnali

FT

Filtro

Segnale

Segnale filtrato

Filtraggio

La FT è utilizzata con successo nell’elaborazione di immagini

Filtraggio

Segnale Segnale filtrato



Problema:



Problema:



Problema:

FT



Problema:

FT



Problema:

FT



Problema:

FT



Problema:

FT

FT



Problema:

Perché le rappresentazioni spettrali dei due segnali sono simili ?

FT

FT



Nella FT si perde ogni indicazione temporale.L’integrazione sull’asse temporale è da – infinito a + infinito e quindi viene soltanto determinato se su una certa componente frequenziale è presente oppure no, ma non dove essa è presente nel tempo.In altre parole, se la frequenza fo appare soltanto all’istante t1, oppure soltantoall’istante t2, non ci saranno differenze nel calcolo della FT.

La FT non è adatta a rappresentare segnali non stazionari, cioè segnali concomponenti frequenziali variabili nel tempo.

La FT ha senso soltanto se il segnale èstazionario con componenti frequenzialicostanti nel tempo

L’informazione in frequenza non è dipendente da dove le componenti appaiono nel tempo



Short-Time Fourier Transform (STFT)Quale è il problema della FT?Non funziona correttamente per segnali non stazionari.



Short-Time Fourier Transform (STFT)Quale è il problema della FT?Non funziona correttamente per segnali non stazionari.

Supponiamo che il segnale non stazionario sia stazionario su intervalli regolari. E’ possibile allora applicare la FT su tali intervalli senza generare ambiguità.



La STFT fornisce una rappresentazione tempo-frequenza

Si applica una finestra temporale sul segnale e si prende la FT

La base adesso è data da funzioni complesse finestrate con lunghezza finita (a supporto compatto)

Finestra





STFT



STFT



STFT



STFT



STFT

STFT



STFT

STFT



STFT

STFT



STFT

STFT



STFT

STFT



Problema: quanto deve essere ampia la finestra?

Finestra stretta ⇒ buona risoluzione nel tempo, cattiva risoluzione in frequenza Finestra ampia ⇒ buona risoluzione in frequenza, cattiva risoluzione nel tempo

Nella FT(x(t)) risoluzione frequenziale infinita ma risoluzione temporale nulla.Per x(t) risoluzione frequenziale nulla, ma risoluzione temporale infinita. La perfetta risoluzione in frequenza di FT(x(t)) è dovuta alla finestra infinita data dall’esponenziale complesso.Nella STST la finestra è di durata finita e quindi è possibile avere una cattiva localizzazione del segnale trasformato.



Risoluzione in frequenza Risoluzione nel tempo




Cattiva localizzazione frequenziale Buona localizzazione temporale

In grado di rilevare componenti ad alta frequenza




Cattiva localizzazione frequenziale Buona localizzazione temporale

In grado di rilevare componenti ad alta frequenza

Cattiva localizzazione temporale Buona localizzazione frequenziale

In grado di rilevare componenti a bassa frequenza





Sinusoide a frequenza f0




















f0> f1> f2> f3



STFT

f0> f1> f2> f3



L’ampiezza della finestra viene variata dal parametro a ed è così calcolata laSTFT in quattro diverse situazioni

STFT

f0> f1> f2> f3







Cattiva localizzazione in frequenza



Cattiva localizzazione in frequenzaBuona localizzazione nel tempo







Migliore localizzazione in frequenza




Migliore localizzazione in frequenza

Peggiore localizzazione nel tempo







Buona localizzazione in frequenza



Cattiva localizzazione temporale








Pessima localizzazione temporale





Tassellazione del piano frequenza-tempo

Al variare del tempo e della frequenza, le risoluzioni temporali ele risoluzioni frequenziali rimangono costanti.



Continuous Wavelet Transform (CWT)Nella STFT, sono presenti dei limiti di rappresentazione dovuti allalarghezza non variabile della finestra.



Continuous Wavelet Transform (CWT)Nella STFT, sono presenti dei limiti di rappresentazione dovuti allalarghezza non variabile della finestra.

Analizziamo il segnale con una funzione modulante a larghezza variabile.

con la funzione wavelet



Correlazione tra x e ψ* Wavelet significa onda piccola ψ*(t) è la Wavelet madre (s=1) τ indica la traslazione sull’asse temporale della Wavelet s è il parametro di scala ed è concettualmente simile alla scala utilizzata nelle mappe

Alte scale visioni globali del segnale non dettagliate temporalmente

Basse scale visioni dettagliate del segnale nel tempo






Funzione oscillante

Finestra di lunghezza finita






Funzione oscillante


Che cosa succede al variare del parametro di scala s ?

Espansione Wavelets

s aumenta






Funzione oscillante



Espansione Wavelets

s aumenta






Funzione oscillante



Espansione Wavelets

s aumenta






Funzione oscillante



Espansione Wavelets

s aumenta

Compressione Wavelets

s diminuisce






Funzione oscillante



Espansione Wavelets

s aumenta


s diminuisce






Funzione oscillante



Espansione Wavelets

s aumenta


s diminuisce



Interpretazione della CWT

Fissato τ1 ed s1

Prodotto




Fissato τ1 ed s1

Prodotto




Fissato τ1 ed s1

Prodotto




Fissato τ1 ed s1

Prodotto



Fissato s1 ,τ varia da –infinito a +infinito












Fissato τ1 , s varia da –infinito a +infinito
















Il parametro di scala è inversamente proporzionale alla frequenza Per valori di s elevati, le Wavelets sono molto ampie, equivalente ad analizzare il segnale ad bassa frequenza Per valori di s piccoli, le Wavelets sono molto strette, equivalente ad analizzare il segnale ad alta frequenza

FT




FT




FT




FT




FT




FT




FT





CWT



CWT

S=100



CWT

S=100



CWT

S=20S=100



CWT

S=20S=100



CWT

S=10S=20S=100



CWT

S=10S=20S=100





Introduzione di uno “spike”



CWT




CWT


Viene individuata una componente in alta frequenza (bassa scala)



CWT


Per fattori di scala piccoli, otteniamo una buona risoluzione temporale ma una cattiva risoluzione in frequenza Per fattori di scala elevati, otteniamo una cattiva risoluzione temporale ed una buona risoluzione in frequenza

Viene individuata una componente in alta frequenza (bassa scala)



Tassellazione del piano frequenza-tempo

A basse frequenze, altezze dei rettangoli piccole, ma basi ampie (alta risoluzione in frequenza e bassa risoluzione nel tempo) Bassa risoluzione ad alta frequenza, ma alta risoluzione temporale

Le aree di ogni rettangolo sono sempre le stesse (uguali porzioni del piano frequenza tempo, ma differenti proporzioni)

Valori delle aree limitati inferiormente da π/4



CWT Processo di analisi Wavelet




Inverse CWT Processo di sintesi Wavelet





E’ possibile ricostruire x(t) purché siano verificate le condizioni di ammissibilità:






Funzione oscillante a media nulla











Filtro passa-banda



Problema: i PC sono utilizzati per la maggior parte dei calcoli. La CWT può essere calcolata in pratica utilizzando analiticamente equazioni, integrali, ecc…



Problema: i PC sono utilizzati per la maggior parte dei calcoli. La CWT può essere calcolata in pratica utilizzando analiticamente equazioni, integrali, ecc…

E’ perciò necessario discretizzare la CWT.

Come campionare il piano s-τ ?



Discrete Wavelet Transform (DWT)E’ possibile applicare un campionamento costante su τ ed s, ma non è il migliore in quanto è ridondante.




Utilizziamo un campionamento variabile





Basse scale (alte frequenze), passo dicampionamento piccolo









Alte scale (basse frequenze), passo dicampionamento grande









Campionamento del logaritmo del fattore di scala costante







Rappresentazione diadica




Da si ad si+1 il passo di campionamento si raddoppia (il numero di punti si dimezza) Per ogni valore di scala fissato, deve essere comunque rispettato il criterio di Nyquist




Da si ad si+1 il passo di campionamento si raddoppia (il numero di punti si dimezza) Per ogni valore di scala fissato, deve essere comunque rispettato il criterio di Nyquist

s





DWT per segnali a tempo continuo DWT per sequenze















Analisi Multirisoluzione (MRA) per sequenze

La DWT può essere rappresentata tramite l’implementazione iterativa di due filtri passa-alto (g(n)) e passa-basso (h(n)) a mezza banda

Le caratteristiche di scalamento vengono applicate andando a sottocampionare o sovracampionare i segnali filtrati

Nx(n) y(n)

Tc di y(t) N volte più grande del Tc di x(t).

Nx(n) y(n)

Tc di y(t) N volte più piccolo del Tc di x(t).

G(z)

H(z)

2

2






Nx(n) y(n)


Nx(n) y(n)


G(z)

H(z)

2

2






Nx(n) y(n)


Nx(n) y(n)


G(z)

H(z)

2

2






Nx(n) y(n)


Nx(n) y(n)


G(z)

H(z)

2

2






Nx(n) y(n)


Nx(n) y(n)


G(z)

H(z)

2

2



G(z)

H(z)

2

2



G(z)

H(z)

2

2



G(z)

H(z)

2

2



G(z)

H(z)

2

2

Livello 1



G(z)

H(z)

2

2



G(z)

H(z)

2

2

Sequenza di approssimazione al livello 1



G(z)

H(z)

2

2



G(z)

H(z)

2

2

Sequenza di dettaglio al livello 1



G(z)

H(z)

2

2



G(z)

H(z)

2

2



G(z)

H(z)

2

2



2G(z)

H(z) 2 …

G(z)

H(z)

2

2



2G(z)

H(z) 2 …

G(z)

H(z)

2

2

Livello 2



2G(z)

H(z) 2 …

G(z)

H(z)

2

2



2G(z)

H(z) 2 …

G(z)

H(z)

2

2



2G(z)

H(z) 2 …

G(z)

H(z)

2

2



2G(z)

H(z) 2 …

G(z)

H(z)

2

2



2G(z)

H(z) 2 …

G(z)

H(z)

2

2



RAM

MUX H(z)

G(z) 2

2

Rete di Routing

Il numero di punti delle sequenze di dettaglio e di approssimazione si riduce di un fattore 2 ad ogni passo Rispetto alla FT non viene persa la localizzazione temporale Il numero di punti del segnale determina il numero massimo di livelli di scomposizione La risoluzione delle sequenze di dettaglio e di approssimazione dipende dal livello di analisi



MRA per le immagini

G(z)

H(z)

G(z)

H(z)2

2 2

2

G(z)

H(z)

2

2

…Righe Colonne



MRA per le immagini

G(z)

H(z)

G(z)

H(z)2

2 2

2

G(z)

H(z)

2

2

…Righe Colonne



MRA per le immagini

G(z)

H(z)

G(z)

H(z)2

2 2

2

G(z)

H(z)

2

2

…Righe Colonne



MRA per le immagini

G(z)

H(z)

G(z)

H(z)2

2 2

2

G(z)

H(z)

2

2

…Righe Colonne



MRA per le immagini

G(z)

H(z)

G(z)

H(z)2

2 2

2

G(z)

H(z)

2

2

…Righe Colonne

Dett. orizzontale

Dett. verticale

Dett. diagonale



MRA per le immagini

G(z)

H(z)

G(z)

H(z)2

2 2

2

G(z)

H(z)

2

2

…Righe Colonne



MRA per le immagini

G(z)

H(z)

G(z)

H(z)2

2 2

2

G(z)

H(z)

2

2

…Righe Colonne

Immagine



MRA per le immagini

G(z)

H(z)

G(z)

H(z)2

2 2

2

G(z)

H(z)

2

2

…Righe Colonne

Immagine Coefficienti 1° Livello



MRA per le immagini

G(z)

H(z)

G(z)

H(z)2

2 2

2

G(z)

H(z)

2

2

…Righe Colonne

Immagine Coefficienti 1° Livello Coefficienti 2° Livello



MRA per le immagini

G(z)

H(z)

G(z)

H(z)2

2 2

2

G(z)

H(z)

2

2

…Righe Colonne

Immagine Coefficienti 1° Livello Coefficienti 2° Livello

Ad ogni passo riduzione del numero dei punti di un fattore 4



G(z)

H(z)

2

2 2G(z)

H(z) 2 …



G(z)

H(z)

2

2 2G(z)

H(z) 2 …

G(z)

H(z) 4G(z2)

H(z2) 4

2

…



G(z)

H(z)

2

2 2G(z)

H(z) 2 …

G(z)

H(z) 4G(z2)

H(z2) 4

2

…

Verifica



G(z)

H(z)

2

2 2G(z)

H(z) 2 …

G(z)

H(z) 4G(z2)

H(z2) 4

2

…

Verifica

…



G(z)

H(z)

2

2 2G(z)

H(z) 2 …

G(z)

H(z) 4G(z2)

H(z2) 4

2

…

Verifica

…



G(z)

H(z) 4G(z2)

H(z2) 4

2

…



G(z)

H(z) 4G(z2)

H(z2) 4

2

…

è detta scaling function



G(z)

H(z) 4G(z2)

H(z2) 4

2

…




G(z)

H(z) 4G(z2)

H(z2) 4

2

…


Codifica in sottobande



G(z)

H(z) 4G(z2)

H(z2) 4

2

…



…



G(z)

H(z) 4G(z2)

H(z2) 4

2

…



…



G(z)

H(z) 4G(z2)

H(z2) 4

2

…



…

Ad ogni passo la banda si riduce di un fattore 2



Processo di sintesi

x(n) può essere perfettamente ricostruito a partire dalle sequenze di dettaglio e di approssimazione.



Processo di sintesi


2

2

+



Processo di sintesi


2

2

+

2

2

+



Processo di sintesi


2

2

+

2

2

+

Ad ogni livello le sequenze sono sovracampionate di un fattore 2



Processo di sintesi


2

2

+

2

2

+

Ad ogni livello le sequenze sono sovracampionate di un fattore 2

I filtri passa-basso e passa-altoservono a garantire la ricostruzionedel segnale



Alcune applicazioni

Fusione di immagini multirisoluzione

Compressione

Denoising



Fusione di immagini multirisoluzioneImmagine pancromatica (PAN)ad alta risoluzione spaziale

Immagini multispettrali (MS)a bassa risoluzione spaziale





Si vuole ottenere una nuova immagine multispettrale le cui bande coincidono,spettralmente, il più possibile con l’immagine MS ed avente, al tempo stesso, unarisoluzione spaziale confrontabile con quella dell’immagine pancromatica.Ricostruire cioè un’immagine il più simile possibile a quella che il sensore MS vedrebbe alla risoluzione dell’immagine PAN.





Si vuole ottenere una nuova immagine multispettrale le cui bande coincidono,spettralmente, il più possibile con l’immagine MS ed avente, al tempo stesso, unarisoluzione spaziale confrontabile con quella dell’immagine pancromatica.Ricostruire cioè un’immagine il più simile possibile a quella che il sensore MS vedrebbe alla risoluzione dell’immagine PAN.

DWT non decimata applicata alle immagine PAN e MS per decorrelare i coefficienti a bassa ed alta frequenza Iniezione di componenti a basse scale (alte frequenze) in versioni ricampionate dell’immagine MS























Compressione

La codifica di un’immagine può essere scomposta logicamente in una succesionedi trasformazioni applicate sequenzialmente

Immagineoriginale

CodificaQuantizzazioneTrasformazione

Immaginecompressa



Compressione


Immagineoriginale


Immaginecompressa

DCT utilizzata nel formato JPEGDWT utilizzata nel formato JPEG 2000DWT con QuadTree Segmentation per la BANDELET Transform



Compressione


Immagineoriginale


Immaginecompressa

DCT utilizzata nel formato JPEGDWT utilizzata nel formato JPEG 2000DWT con QuadTree Segmentation per la BANDELET Transform

La presenza o l’assenza delquantizzatore determina unacompressione con o senza perdita(lossy e lossless)



JPEG 2000

Immaginericostruita

Decodificaentropica

Q-1 IDWT

Immaginecompressa

Decodificatore

Immagineoriginale

Codificaentropica

Q DWT

Immaginecompressa

Codificatore



JPEG 2000

Immaginericostruita

Decodificaentropica

Q-1 IDWT

Immaginecompressa

Decodificatore

Immagineoriginale

Codificaentropica

Q DWT

Immaginecompressa

Codificatore

La DWT decorrela i coefficienti a bassa frequenza da quelli ad alta frequenza



JPEG 2000

Immaginericostruita

Decodificaentropica

Q-1 IDWT

Immaginecompressa

Decodificatore

Immagineoriginale

Codificaentropica

Q DWT

Immaginecompressa

Codificatore


Alto contenuto informativo



JPEG 2000

Immaginericostruita

Decodificaentropica

Q-1 IDWT

Immaginecompressa

Decodificatore

Immagineoriginale

Codificaentropica

Q DWT

Immaginecompressa

Codificatore


Alto contenuto informativo

Basso contenuto informativo



L’immagine di approssimazione e le immagini di dettaglio a bassa frequenza vengono quantizzate con un numero maggiore di bit (SNR più grande a parità di segnale) Fattore di compressione variabile in funzione del numero di bit associati al processo di quantizzazione

Immagineoriginale

Un alto fattore di compressione produce un’immagine con dimensioni (in termini di byte) molto più ridotte rispetto all’immagine originale, ma al tempo stesso una peggiore qualità visiva



Evoluzione verso tecniche avanzate di compressione come ad esempio la Bandelet Transform. A parità di dimensione del file viene garantita una migliore qualità visiva

JPEG JPEG 2000 BT



DenoisingTecniche di denoising applicate ad immagini SAR, a segnali di campo di potenziale, ecc…

IDWTThresholding DWT

Applicare filtri passa-basso, passa-alto, passa-banda consente di effettuare metodi di denoising globale, ma nel caso di rumore sovrapposto al segnale, i filtri possono modificare pesantemente anche la forma del segnale La DWT si adatta perfettamente come tecnica di denoising a causa delle sue eccellenti proprietà di localizzazione



DenoisingTecniche di denoising applicate ad immagini SAR, a segnali di campo di potenziale, ecc…

IDWTThresholding DWT

Applicare filtri passa-basso, passa-alto, passa-banda consente di effettuare metodi di denoising globale, ma nel caso di rumore sovrapposto al segnale, i filtri possono modificare pesantemente anche la forma del segnale La DWT si adatta perfettamente come tecnica di denoising a causa delle sue eccellenti proprietà di localizzazione

Vengono messi a 0 quei valori del segnale che si trovano all’interno dellafascia (-T0,T0)



Thresholding Due possibili implementazioni:




Hard thresholding




Hard thresholding Soft thresholding

Migliori prestazioni






I valori del rumore, con densitàgaussiana, sono maggiormente concentrati attorno allo zero equindi vengono soppressi











L’operazione di denoising data dalla DWTassociata al thresholding è, in presenza dirumore AWGN, asindoticamente ottima, cioè minimizza l’MSE













Diversa implementazione: Thresholding dipendente dal livello di analisi della DWT



Diversa implementazione: Thresholding dipendente dal livello di analisi della DWT

Original image Noisy image Denoised image



Immagine SAR simulata Immagine SAR despeckle


Discrete Wavelet Transform

Documents