UNIVERSIDAD NACIONAL DE INGENIERÍA FACULTAD DE ELECTROTECNIA Y COMPUTACIÓN DEPARTAMENTO DE SISTEMAS DIGITALES Y TELECOMUNICACIONES SISTEMAS DE COMUNICACIONES I UNIDAD 2: PROBABILIDADES Y PROCESOS ESTOCASTICOS Curso 2005 Prof.: Ing. Marco A. Munguía Mena
Unidad 2, sistemas de comunicación, probabilidad de procesos estocásticos. Breve repaso y teoría, variables aleatorias discretas y continuas, valor esperado y varianza, y procesos estocásticos
Welcome message from author
This document is posted to help you gain knowledge. Please leave a comment to let me know what you think about it! Share it to your friends and learn new things together.
Transcript
UNIVERSIDAD NACIONAL DE INGENIERÍAFACULTAD DE ELECTROTECNIA Y COMPUTACIÓNDEPARTAMENTO DE SISTEMAS DIGITALES Y TELECOMUNICACIONES
SISTEMAS DE COMUNICACIONES I
UNIDAD 2: PROBABILIDADES Y PROCESOS ESTOCASTICOS
Curso 2005
Prof.: Ing. Marco A. Munguía Mena
CONTENIDO
• Breve Repaso: Probabilidad Y Teoría de Conjunto
• Variables Aleatorias Discretas
• Variables Aleatorias Continuas
• Valor Esperado y Varianza
• Procesos Estocásticos
Curso 2005
PROBABILIDAD Y TEORIA DE CONJUNTOS
Curso 2005
Axiomas de Probabilidad
1. La Probabilidad nunca es Negativa: P[A] ≥ 0
2. La Probabilidad del Espacio Muestral es uno: P[S] = 1
3. Las Probabilidades de Eventos que son Mutuamente Exclusivos pueden ser sumadas:
Ai ∩ Aj = Φ cuando i ≠ j
P[A1 U A2 U ….] = P[A1] + P[A2] + ……
PROB. Y TEORIA DE CONJUNTOS (Cont.)
A
B
Curso 2005
Propiedades de Grupos de Conjuntos
Un Grupo de Conjuntos A1, ……, AN son Mutuamente Exclusivos si y solamente si:
Ai ∩ Aj = Φ cuando i ≠ j
Cuando sólo hay 2 conjuntos en el grupo, se dice que los conjuntos son: Disconjuntos.
Un Grupo de Conjuntos A1, ……, AN son Colectivamente Exhaustivos si y solamente si:
A1 U A2 U ….. U AN = S
PROB. Y TEORIA DE CONJUNTOS (Cont.)
Probabilidad Condicional
Curso 2005
La Probabilidad de ocurrencia del evento A dado que ocurrió B es:
[ ] [ ][ ]BPABPBAP =|
Propiedades:
1. P[A|B] ≥ 0
2. P[B|B] = 1
3. Si A = A1 U A2 U … con Ai ∩ Aj =Φ para i ≠ j
P[A|B] = P[A1|B] + P[A2|B] + …
PROB. Y TEORIA DE CONJUNTOS (Cont.)
Curso 2005
Ley Total de la Probabilidad
Si B1, B2, …, Bm son un conjunto de eventos mutuamente exclusivos y colectivamente exhaustivos y P[Bi] > 0, entonces:
[ ] [ ] [ ]∑=
=m
iii BPBAPAP
1|
B1 B4
B3B2
A
PROB. Y TEORIA DE CONJUNTOS (Cont.)
Curso 2005
Teorema de Bayes
Para el evento A con P[A] > 0 :
[ ] [ ] [ ][ ]AP
BPBAPABP || =
Para un Event Space B1, B2, …,Bm con P[Bi] > 0, y utilizando la ley de la Probabilidad Total tenemos:
[ ] [ ] [ ][ ] [ ]∑
=
= m
iii
iii
BPBAP
BPBAPABP
1|
||
PROB. Y TEORIA DE CONJUNTOS (Cont.)
Curso 2005
Eventos Independientes
Dos eventos A y B son Independientes, si y solamente si:
[ ] [ ] [ ]BPAPABP =
Los eventos A, B y C son independientes si y solamente si:
• A y B son independientes
• B y C son independientes
• A y C son Independientes
• P[A ∩ B ∩ C] = P[A]P[B]P[C]
VARIABLES ALEATORIAS DISCRETAS
Curso 2005
Definición de Variable Aleatoria
Una Variable Aleatoria es una función, la cual asocia a cada resultado de un experimento un numero real.
Variable Aleatoria Discreta
X es una V.A.D. si el rango de valores de X es un conjunto contable.
VARIABLES ALEATORIAS DISCRETAS (Cont.)
Curso 2005
Función de Masa de Probabilidad (PMF)
La PMF de una Variable Aleatoria Discreta X es:
donde X es la variables aleatoria y “x” es uno de los resultados del experimento.
[ ]xXPxPX ==)(
Propiedades: Para una V.A. X con PMF PX(x) y rango SX:
1. Para cualquier x, PX(x) ≥ 0
2. ∑x ЄSxPX(x) = 1
3. Para cualquier evento B incluido en SX , P[B] esta dado por:
P[B] = ∑ PX(x) xЄB
VARIABLES ALEATORIAS DISCRETAS (Cont.)
Curso 2005
Ejemplo de PMF
Un jugador de baloncesto, toma 2 tiros libres, cada tiro es igualmente probable que sea encestado o no. Si cada tiro encestado equivale a un punto. Encuentre la PMF de Y, tal que Y sea el numero de puntos encestados.
Solución
Existen 4 diferentes resultados: bm, mb,mm y bb. Con un simple diagrama de árbol podemos demostrar que cada resultado tiene una probabilidad de ¼ y la V.A. Y tiene 3 posibles valores que corresponden a 3 eventos.
Dos Variables Aleatorias X e Y son Ortogonales si la correlación es igual a CERO.
0][, == XYEr YX
Variables Aleatorias No Correlacionadas
Dos Variables Aleatorias X e Y son No Correlacionadas si la covariancia es igual a CERO.
0],[ =YXCov
Definición
Curso 2005
PROCESOS ESTOCASTICOS
Consideremos un experimento aleatorio especificado por los resultados s de un Espacio Muestral S. Suponga que a cada resultado le asignamos una función de tiempo representada:
X(t,s) -T ≤ t ≤ T
donde 2T es el intervalo de observación total.
En un punto sj de la muestra, la grafica de la función X(t,sj), en función del tiempo t recibe el nombre función de muestra, la cual denotamos como: xj(t) = X(t,sj).
Curso 2005
PROCESOS ESTOCASTICOS (Cont.)
La figura (próxima diapositiva) muestra un conjunto de funciones de muestra. Para un tiempo fijo tk dentro del intervalo de información el conjunto de números
que constituye una variable aleatoria. Por lo tanto tenemos una familia indexada de V.A. {X(t,s)}, que se le denomina proceso aleatorio. Por simplicidad, usaremos la notación: X(t) para representar un proceso aleatorio.
Curso 2005
PROCESOS ESTOCASTICOS (Cont.)
Curso 2005
PROCESOS ESTOCASTICOS (Cont.)
Tipos
Curso 2005
PROCESOS ESTOCASTICOS (Cont.)
Las Cuatro Combinaciones
Curso 2005
PROCESOS ESTOCASTICOS (Cont.)
Promedios Estadísticos
Media ∫∞
∞−
== dxxfxtXEtktXkkX )()]([)( )(µ
τ
Curso 2005
PROCESOS ESTOCASTICOS (Cont.)
Varianza
( ) ( )∫∞
∞−
−=−= 22)(
2 )]([])([)()]([)]([ kktXkk tXEtXEdxxftXExtXVark
Covarianza: El comportamiento conjunto de un proceso X(t) en dos instantes de tiempo distintos es contenido en la función de autocovarianza
)()()]()([))]()(())()([(
)]()([),(
τµµττµτµ
ττ
+−+=+−+−=
+=
tttXtXEttXttXE
tXtXCovtC
XX
XX
X
Autocorrelación
Curso 2005
PROCESOS ESTOCASTICOS (Cont.)
1. Si el valor de la covarianza es alto quiere decir que X(t) varía muy lento.
2. Si el valor de la covarianza tiende a cero, X(t) varía rápido.
Un proceso es Estacionario si y solamente si para todo un conjunto de instantes de tiempo t1, ……, tm y cualquier variación de tiempo se cumple:
τ
),,,(
),,,(
21)(,),(),(
21)(,),(),(
21
21
mtXtXtX
mtXtXtX
xxxf
xxxf
m
m
K
K
K
K
τττ +++=
=
Consecuencias
)()()( )()( xfxfxf XtXtX == +τ
Todas las PDF´s marginales son independientes del tiempo
1.
Curso 2005
PROCESOS ESTOCASTICOS (Cont.)
XX XEtXEt µµ === ][)]([)(
22)( ][)]([ XtX XVartXVar σσ ===
Por lo tanto:
El Valor Esperado, la Varianza, la Autocorrelación y la Covarianza son independientes del tiempo
2)()(),(
)(),(
XXXX
XX
RCtC
RtR
µτττ
ττ
−==
=
Curso 2005
PROCESOS ESTOCASTICOS (Cont.)
Proceso WSS (Wide Sense Stationary)
Para mostrar que un proceso es Estacionario es necesario calcular la PDF conjunta, lo cual es difícil de obtener. Un proceso puede ser estimado calculando su Valor Esperado y la Autocorrelación.
Si la Autocorrelación y la Media satisfacen lo propuesto por un proceso Estacionario, podemos llamar a este proceso Estacionarioen el sentido amplio (WSS).
Un proceso que es Estacionario es WSS pero un proceso que es WSS no es necesariamente Estacionario. (Excepción: Proceso Gasussiano)
2)()(),(
)(),()(
XXXX
XX
XX
RCtC
RtRt
µτττ
ττµµ
−==⇒
==
Curso 2005
PROCESOS ESTOCASTICOS (Cont.)
La Potencia promedio de un proceso WSS se estima por:
222 )()]([)0( XXX tXER µσ +==
Filtrado de Procesos WSS
Curso 2005
PROCESOS ESTOCASTICOS (Cont.)
1.
∫ ∫
∫∞
∞−
∞
∞−
∞
∞−
==−=
⎥⎦
⎤⎢⎣
⎡−=⊗=
)0()()]([)]([)(
)()()]()([)]([
hdsshtXEdsstxEsh
dsstxshEtxthEtYE
Xµ
2.
)()()(
)()()(
))]()(())()([()]()([),(
τττ
τ
ττττ
X
X
Y
Rhh
dudvuvRvhuh
txthtxthEtYtYEtR
⊗−⊗=
+−=
+⊗+⊗=+=
∫ ∫∞
∞−
∞
∞−
Curso 2005
PROCESOS ESTOCASTICOS (Cont.)
Densidad Espectral de Potencia
ττπτ
τ
dfjR
RFfS
X
XX
)2exp()(
)}({)(
−=
==
∫∞
∞−
∫
∫∞
∞−
∞
∞−
−
=
=
dfefGtg
dtetgfG
ftj
ftj
π
π
2
2
)()(
)()(
∫
∫∞
∞−
∞
∞−
=
=
dffGg
dttgG
)()0(
)()0(
Recordando Fourier
La Potencia promedio de un proceso X(t) se puede también expresar como:
Curso 2005
PROCESOS ESTOCASTICOS (Cont.)
∫∞
∞−
= dffSR XX )()0(
Si a la Autocorrelación del Proceso de salida le aplicamos la transformada de Fourier se obtiene:
)(|)(|)()()()(
)()()()(
2* fSfHfSfHfHfS
RhhR
XXY
XY
==
⇓
⊗−⊗= ττττ
Función de Correlación Cruzada
Curso 2005
PROCESOS ESTOCASTICOS (Cont.)
¿Cuál es la relación entre X(t1) y Y(t2)?
)]()([),( ττ += tYtXEtRXY
Curso 2005
PROCESOS ESTOCASTICOS (Cont.)
Propiedades de la Correlación Cruzada
1. Si X(t) y Y(t) son WSS entonces:
2.
3. Densidad Espectral Cruzada
4. Si X(t) es WSS y es el proceso de entrada de un filtro LTI, se tiene que Y(t) (WSS) y se puede expresar:
)(),( ττ XYXY RtR =
)()( ττ −= YXXY RR
{ } ∫∞
∞−
−== τττ τπ deRRFfS fjXYXYXY
2)()()(
)()()()()()( FSfHfSRhR XXYXXY =⇔⊗= τττF
• Los Valores de Muestra X(t1), X(t2), …, X(tk) tienen una PDF gaussiana conjunta (multivariate).
• PDF Conjunta esta descrita por:– vector µX=[µX(t1), µX(t2), …, µX(tk)]T
– Matriz de Covarianza C
)()(),(),( jXiXijiXijiXij tttttRtttCC µµ−−=−=
⎟⎠⎞
⎜⎝⎛ −−−= − )()(
21exp
)2(1),,( 1
2121)(,),( 1 XT
XkktXtX xxfk
µµπ
xCxC
KK
Curso 2005
PROCESOS ESTOCASTICOS (Cont.)
Proceso Gaussiano
Curso 2005
PROCESOS ESTOCASTICOS (Cont.)
Casos Especiales
N = 1 V.A. Gaussiana
N = 2 Bivariate PDF Gasussiana
21
211
1
2)(
21
1)(2
1)( σµ
σπ
−−
=x
tX exf
221
)1(2
))((2
21)(),(12
),(
2
2
2
22
21
22112
1
11
21 ρσπσ
ρ
σµ
σσµµρ
σµ
−=
⎥⎥⎥⎥⎥⎥
⎦
⎤
⎢⎢⎢⎢⎢⎢
⎣
⎡
−
⎟⎟⎠
⎞⎜⎜⎝
⎛ −+
−−−⎟⎟
⎠
⎞⎜⎜⎝
⎛ −
−
xxxx
tXtXexxf
Curso 2005
PROCESOS ESTOCASTICOS (Cont.)
Proceso Blanco
El termino Proceso Blanco es usado para denotar un proceso en elcual todas las componentes de frecuencia tienen igual potencia, es decir si su DSP es constante para todas las frecuencias.
)(2
)(
2)(
0
0
τδτN
R
NfS
n
n
=
=
Curso 2005
PROCESOS ESTOCASTICOS (Cont.)
Muestreo y Proceso limitado en Banda
• Un Proceso de Banda Limitada ocupa un BW finito
• Si W es el ancho de banda del proceso entonces para todo valor de
frecuencia mayor que W la DEP es igual a cero.
• Las muestras se toman a intervalos regulares Ts, donde Ts ≤ 1/2W
Si X(t) es un proceso limitado en banda entonces SX(f) tiende a cero cuando la |f| ≥ W. Entonces tenemos:
WTdonde
kTtWckTXtXE
s
kss
21
0))(2(sin)()(2
=
=⎥⎦
⎤⎢⎣
⎡−− ∑
∞
−∞=
Curso 2005
PROCESOS ESTOCASTICOS (Cont.)
Proceso Pasabanda
X(t) es un proceso Pasabanda, si su DSP tiende a cero para |f-f0| ≥ W donde W < f0