Processos Estocasticos

Revisao de Probabilidades

Bruno Barbosa Albert

Universidade Federal de Campina Grande

Centro de Engenharia Eletrica e Informatica
Departamento de Engenharia Eletrica

26 de setembro de 2016

Bruno Barbosa Albert Processos Estocasticos

Lucy de uma tirinha de Peanuts
So em problemas de matematica voce pode comprar 60 meloes e
ninguem perguntar o que diabo ha de errado com voce.

Proverbio Irlandes
Se voce perder uma hora pela manha vai procurar por ela o
restante do dia.

Bruno Barbosa Albert Processos Estocasticos

Ultima Aula

Experimento Aleatorio
Espaco Amostral
Eventos
Axiomas de Probabilidade
Probabilidade Condicional
Variaveis Aleatorias
Funcao de Distribuicao Cumulativa
Funcao de Massa de Probabilidade
Funcao Densidade de Probabilidade
Esperanca, Variancia e Momentos
Distribuicoes Condicionais

Bruno Barbosa Albert Processos Estocasticos

Objetivos de Aprendizagem

Continuacao da Revisao dos conceitos fundamentais da teoria

de probabilidades
Nocao de Multiplas Variaveis Aleatorias
Funcoes de Distribuicao Cumulativas Conjuntas
Eventos Independentes
Funcoes de Distribuicao Cumulativas Marginais
Funcao de Massa de Probabilidade Conjunta
Funcoes de Massa de Probabilidade Marginais
Funcao de Densidade de Probabilidade Conjunta
Funcoes de Densidade de Probabilidade Marginais
Funcoes de Massa de Probabilidade Condicionais
Funcoes de Densidade de Probabilidade Condicionais
Correlacao, Covariancia e Coeficiente de Correlacao
Lei Fraca dos Grandes Numeros
Lei Forte dos Grandes Numeros
Teorema Central do Limite

Bruno Barbosa Albert Processos Estocasticos

Multiplas Variaveis Aleatorias

Em muitas situacoes reais somos levados a tratar com mais de uma

v.a.
Exemplos:
A altura e o peso das pessoas;
A quantidade de chuva e a temperatura de uma certa regiao;
A fase e a ampitude de um sinal em um sistema de
comunicacao;
Notas e horas de estudo para uma disciplina;
A temperatura de uma localidade em dois horarios difrentes;
O numero de pacotes, o numero de colisoes, o numero de
pacotes com erro em uma rede local ethernet.

Bruno Barbosa Albert Processos Estocasticos

Multiplas Variaveis Aleatorias

A nocao de uma v.a. e facilmente generalizada para o caso de

varias v.as.. Para facilitar comecaremos com v.as. bidimensionais
(bivariada).
Definicao
Seja S o espaco amostral de um experimento aleatorio. Sejam X e
Y duas v.as.. O par (X , Y ) e chamado de uma v.a. bidimensional
se a cada elemento de S, X () = x e Y () = y em que x, y .

Bruno Barbosa Albert Processos Estocasticos

Multiplas Variaveis Aleatorias

Y ()

(x, y)
y

X()
x

Figura : Duas v.as. X () e Y () atribui dois numeros reais x e y a cada

S.

Bruno Barbosa Albert Processos Estocasticos

Multiplas Variaveis Aleatorias

Uma v.a. bidimensional (X , Y ), tambem chamada de uma v.a.

bivariada, pode ser considerada como um vetor aleatorio X e e
uma funcao que atribui um vetor de numeros reias (x, y ) para cada
sada S. Assim,
X : S 2 . (1)

Classificacao
Se X e Y forem v.as.
discretas, entao X e um vetor discreto.
contnuas, entao X e um vetor contnuo.
(discreta, contnua) ou (contnua, discreta), entao X e um
vetor misto.

Bruno Barbosa Albert Processos Estocasticos

Funcoes de Distribuicao Cumulativas Conjuntas

Definicao
A fdc conjunta das v.as. X e Y e definida como

FXY (x, y ) = P[X x, Y y ]. (2)

Evento [X x, Y y ]
Se o evento [X x] estiver associado ao evento A Q e o evento
[Y y ] estiver associado ao evento B Q, entao o evento
[X x, Y y ] e equivalente ao evento [A B]. Assim,

FX (x) = P[A], FY (y ) = P[B] e FXY (x, y ) = P[A B]. (3)

Bruno Barbosa Albert Processos Estocasticos

Funcoes de Distribuicao Cumulativas Conjuntas

A e B eventos independentes
Se A e B forem eventos independentes de Q, entao

FXY (x, y ) = P[A B] = P[A]P[B] = FX (x)FY (y ), (4)

e as v.as. X e Y sao ditas independentes.

Bruno Barbosa Albert Processos Estocasticos

Funcoes de Distribuicao Cumulativas Marginais

Definicao
Tome o limy [X x, Y y ] = [X x, Y ] = [X x],
pois a condicao [Y ] e sempre satisfeita. Assim,

lim FXY (x, y ) = FXY (x, ) = FX (x) e (5)

y

lim FXY (x, y ) = FXY (, y ) = FY (y ). (6)

x

FX (x) e FY (y ) sao chamadas de fdc marginais das v.as. X e de Y ,

respectivamente.

Bruno Barbosa Albert Processos Estocasticos

Funcao de Massa de Probabilidade Conjunta

Definicao
Considere que (X , Y ) toma valores (xi , yj ) a partir de um conjunto
contavel, com i, j ndices inteiros permitidos. Assim

pXY (xi , yj ) = P[X = xi , Y = yj ] (7)

e dita funcao de massa de probabilidade conjunta (fmp conjunta)

de (X , Y ).

Funcao de Distribuicao Cumulativa Conjunta

A fdc conjunta de (X , Y ), nesse caso, e dada por
XX
FXY (x, y ) = pXY (xi , yj ) (8)
xi x yj y

Bruno Barbosa Albert Processos Estocasticos

Funcoes de Massa de Probabilidade Marginais

Definicoes
As fmps marginais sao obtidas pelas equacoes
X
P[X = xi ] = pX (xi ) = pXY (xi , yj ) (9)
yj
X
P[Y = yj ] = pY (yj ) = pXY (xi , yj ). (10)
xi

Variaveis aleatorias independentes

Se X e Y forem v.as. independentes entao

pXY (xi , yj ) = pX (xi )pY (yj ) (11)

Bruno Barbosa Albert Processos Estocasticos

Funcao de Densidade de Probabilidade Conjunta

Definicao
Considere que (X , Y ) toma valores (x, y ) em que x, y , assim
a equacao
2 FXY (x, y )
fXY (x, y ) = (12)
xy
representa a funcao de densidade de probabilidade conjunta (fdp
conjunta) de (X , Y ).

Funcao de Distribuicao Cumulativa Conjunta

A fdc conjunta de (X , Y ), nesse caso, e dada por
Z x Z y
FXY (x, y ) = fXY (, ) d d. (13)

Bruno Barbosa Albert Processos Estocasticos

Funcoes de Densidade de Probabilidade Marginais

Definicoes
As fdps marginais sao obtidas pelas equacoes
Z
fX (x) = fXY (x, ) d (14)

Z
fY (y ) = fXY (, y ) d. (15)

Variaveis aleatorias independentes

Se X e Y forem v.as. independentes entao

fXY (x, y ) = fX (x)fY (y ). (16)

Bruno Barbosa Albert Processos Estocasticos

Funcoes de Massa de Probabilidade Condicionais

Definicoes
Se (X , Y ) for uma v.a. bidimensional discreta com fmp conjunta
pXY (xi , yj ), entao a fmp condicional de Y dado que X = xi e
definida como
pXY (xi , yj )
pY |X =xi (yj ) = pY |X (yj |xi ) = pX (xi ) > 0. (17)
pX (xi )

Similarmente,
pXY (xi , yj )
pX |Y =yj (xi ) = pX |Y (xi |yj ) = pY (yj ) > 0. (18)
pY (yj )

Bruno Barbosa Albert Processos Estocasticos

Funcoes de Massa de Probabilidade Condicionais

Propriedades de pY |X (yj |xi ):

1

0 pY |X (yj |xi ) 1;
2
X
pY |X (yj |xi ) = 1.
yj

Se X e Y forem independentes entao

pY |X (yj |xi ) = pY (yj ) e pX |Y (xi |yj ) = pX (xi ). (19)

Bruno Barbosa Albert Processos Estocasticos

Funcoes de Densidade de Probabilidade Condicionais

Definicoes
Se (X , Y ) for uma v.a. bidimensional contnua com fdp conjunta
fXY (x, y ), entao a fdp condicional de Y dado que X = x e definida
como
fXY (x, y )
fY |X =x (y ) = fY |X (y |x) = fX (x) > 0. (20)
fX (x)

Similarmente,
fXY (x, y )
fX |Y =y (x) = fX |Y (x|y ) = fY (y ) > 0. (21)
fY (y )

Bruno Barbosa Albert Processos Estocasticos

Funcoes de Densidade de Probabilidade Condicionais

Propriedades de fY |X (y |x):
1

fY |X (y |x) 0;
2 Z
fY |X (y |x) dy = 1.

Se X e Y forem independentes entao

fY |X (y |x) = fY (y ) e fX |Y (x|y ) = fX (x). (22)

Bruno Barbosa Albert Processos Estocasticos

Correlacao, Covariancia e Coeficiente de Correlacao

Dependencia
Frequentemente estamos interessados na dependencia entre duas
ou mais entidades aleatorias.

Exemplos:
fumar e cancer no pulmao;
altura e peso de uma crianca;
rudo e probabilidade de erro em uma transmissao digital;
vazao e pacotes perdidos em uma rede de computadores;

Bruno Barbosa Albert Processos Estocasticos

Correlacao, Covariancia e Coeficiente de Correlacao

Dependencia
Considere um experimento aleatorio com duas sadas descritas
pelas v.as. X e Y .
Facamos varios ensaios desse experimento e registremos os
valores de X e Y para cada ensaio.
A partir desses dados, e possvel determinar a natureza de
uma dependencia (linear) entre X e Y .
A correlacao (covariancia) indica o grau de linearidade que
existe entre X e Y .

Bruno Barbosa Albert Processos Estocasticos

Correlacao, Covariancia e Coeficiente de Correlacao

Temperatura (X ) e quantidade de sorvete consumida (Y )

Y

Bruno Barbosa Albert Processos Estocasticos

Correlacao, Covariancia e Coeficiente de Correlacao

Grafico X Y
O grafico anterior e conhecido como diagrama de
espalhamento.
Ele mostra que quando X e grande Y geralmente tambem e
grande.
O geralmente indica que nem sempre isso e verdade mas que
ocorre a maioria das vezes.
Por exemplo, durante a Copa mesmo que a temperatura
diminua a venda de cervejas deve continuar alta.

Bruno Barbosa Albert Processos Estocasticos

Correlacao

Definicao
A correlacao entre X e Y , RXY e definida como
RR
RXY = EXY = xyfXY (x, y ) dx dy v.as. contnuas (23)
P P
= i j xi yj pXY (xi , yj ) v.as. discretas (24)

Definicao
Se RXY = 0 dizemos que as v.as. X e Y sao ortogonais.

Bruno Barbosa Albert Processos Estocasticos

Correlacao

Propriedades
Se X e Y forem independentes entao

RXY = EXY = EXEY . (25)

Se Y = aX , em que a e uma constante, entao

RXY = EaX 2 = aEX 2 = a(X2 + E 2 X ) = X Y + EXEY .

(26)

Bruno Barbosa Albert Processos Estocasticos

Correlacao

Temperatura (X ) e quantidade de sorvete consumida (Y )

Y

Bruno Barbosa Albert Processos Estocasticos

Correlacao

Temperatura (X ) e quantidade de sorvete consumida (Y )

Temperatura sorvete
22,0 30
23,5 31
24,0 30
RXY = E XY 1.072, 07
26,0 35
28,0 42
31,0 50
32,0 55
O que esse resultado representa?
Proxima definicao para aumentar nossa precisao.

Bruno Barbosa Albert Processos Estocasticos

Covariancia

Definicao
A covariancia entre X e Y , CXY e definida como

CXY = E [(X EX )(Y EY )] = RXY EXEY (27)

Propriedades
Se X e Y forem independentes entao

CXY = EXY EXEY = EXEY EXEY = 0 (28)

V.as. indepentdentes nao exibem quaisquer tipos de relacoes.

Se Y = aX , em que a e uma constante, entao

CXY = EaX 2 aE 2 X = a(X2 + E 2 X ) aE 2 X = X Y .

(29)

Bruno Barbosa Albert Processos Estocasticos

Covariancia

Temperatura (X ) e quantidade de sorvete consumida (Y )

Y

Bruno Barbosa Albert Processos Estocasticos

Covariancia

Temperatura (X ) e quantidade de sorvete consumida (Y )

Temperatura sorvete
22,0 30
23,5 31
24,0 30
CXY = E XY E X E Y
26,0 35
1.072, 07 26, 64 39 = 33, 00
28,0 42
31,0 50
32,0 55
Novamente, o que esse resultado representa?
O valor positivo diz que quando X aumenta Y provavelmente
aumenta com X de maneira linear.
Isso leva a definicao do coeficiente de correlacao.

Bruno Barbosa Albert Processos Estocasticos

Covariancia

Existe covariancia negativa?

Temperatura (X ) e quantidade de cafe consumida (Y )
Y

Bruno Barbosa Albert Processos Estocasticos

Covariancia

Qual o grafico para uma covariancia igual a zero?

Temperatura (X ) e quantidade de relogios vendida (Y )
Y

Bruno Barbosa Albert Processos Estocasticos

Coeficiente de correlacao

Definicao
O coeficiente de correlacao e definido como
CXY
XY = . (30)
X Y

Propriedades
Se X e Y forem independentes entao

XY = 0, X , Y 6= 0. (31)

Se Y = aX , em que a e uma constante, entao

CXY X Y
XY = = = 1. (32)
X Y X Y

Bruno Barbosa Albert Processos Estocasticos

Coeficiente de correlacao

Temperatura (X ) e quantidade de sorvete consumida (Y )

Temperatura sorvete
22,0 30
23,5 31
24,0 30 33,00
XY = CXXY
Y 3,559,47 = 0, 98
26,0 35
28,0 42
31,0 50
32,0 55
= 1 implica que X e Y tem uma correlacao positiva perfeita.
= 1 implica que X e Y tem uma correlacao negativa perfeita.

Bruno Barbosa Albert Processos Estocasticos

Lei Fraca dos Grandes Numeros

Teorema:
Seja X1 , X2 , . . . , Xn uma sequencia de v.as. iid com esperanca
finita EXi = e variancia finita, entao para > 0

lim P[|Mn | < ] = 1, (33)

n

em que
n
X1 + X2 + . . . + Xn 1X
Mn = = Xi . (34)
n n
i=1

Bruno Barbosa Albert Processos Estocasticos

Lei Forte dos Grandes Numeros

Teorema:
Seja X1 , X2 , . . . , Xn uma sequencia de v.as. iid com esperanca
finita EXi = e variancia finita, entao
h i
P lim Mn = = 1, (35)
n

em que
n
X1 + X2 + . . . + Xn 1X
Mn = = Xi . (36)
n n
i=1

Bruno Barbosa Albert Processos Estocasticos

Teorema Central do Limite

Teorema:
Seja Sn = X1 + X2 + . . . + Xn a soma de n v.as. iid com esperanca
finita EXi = e variancia finita var(Xi ) = 2 . Defina Zn como
uma v.a. com esperanca zero e variancia unitaria da seguinte forma
Sn n
Zn = (37)
n
Z z
1 2
lim P[Zn z] = e x /2 dx. (38)
n 2
Observe que Xi pode ter uma distribuicao qualquer.

Bruno Barbosa Albert Processos Estocasticos