Em
teoria das probabilidades
, existem varias nocoes diferentes de
convergencia de variaveis aleatorias
. A
convergencia
de
sequencias
de
variaveis aleatorias
a alguma variavel aleatoria limite e um importante conceito em teoria das probabilidades e tem aplicacoes na
estatistica
e nos
processos estocasticos
. Os mesmos conceitos sao conhecidos em
matematica
geral como
convergencia estocastica
e formalizam a ideia de que e possivel esperar que uma sequencia de eventos essencialmente aleatorios ou imprevisiveis as vezes mantenha um comportamento essencialmente imutavel quando itens suficientemente distantes na sequencia sao estudados. As possiveis nocoes diferentes de convergencia se relacionam a como tal comportamento pode ser caracterizado: dois comportamentos prontamente entendidos sao que a sequencia eventualmente assume um valor constante e que os valores na sequencia continuam mudando, mas podem ser descritos por uma distribuicao de probabilidade imutavel.
A expressao "convergencia estocastica" formaliza a ideia de que e possivel esperar que uma sequencia de eventos essencialmente aleatorios ou imprevisiveis siga eventualmente um padrao.
[
1
]
Este padrao pode ser, por exemplo,
- Convergencia
no sentido classico de um valor fixado, talvez ele mesmo vindo de um evento aleatorio;
- Uma semelhanca crescente dos eventos ao que uma funcao puramente deterministica produziria;
- Uma preferencia crescente em direcao a um certo valor observado;
- Uma "aversao" crescente a se afastar demais de um certo valor observado;
- A distribuicao de probabilidade que descreve o proximo valor observado pode ficar cada vez mais semelhante a uma certa distribuicao.
Alguns padroes teoricos, menos obvios podem ser
- A serie formada pelo calculo do
valor esperado
da distancia entre o valor observado e um valor particular pode convergir a zero;
- A variancia da variavel aleatoria que descreve o seguinte evento fica cada vez menor.
Estes outros tipos de padroes que podem surgir estao refletidos em diferentes tipos de convergencia estocastica que tem sido estudados.
Enquanto a discussao acima diz respeito a convergencia de uma unica serie a um valor limitante, a nocao de convergencia de duas series uma em direcao a outra tambem e importante. No entanto, e facil lidar com isto estudando a sequencia definida como a diferenca ou como a razao das duas series.
Por exemplo, se a media de
variaveis aleatorias
independentes
,
, todas tendo
media
e
variancia
iguais e finitas, e dada por
entao conforme
tende ao infinito,
converge em probabilidade a media comum
das variaveis aleatorias
. Este resultado e conhecido como
lei fraca dos grandes numeros
. Outras formas de convergencia sao importantes em outros teoremas uteis, incluindo o
teorema central do limite
.
[
2
]
Ao longo do que se segue, assume-se que
e uma sequencia de variaveis aleatorias,
e uma variavel aleatoria e todas elas estao definidas no mesmo
espaco de probabilidade
.
Exemplos de convergencia em distribuicao
|
Fabrica de dados
|
Suponha que uma nova fabrica de dados acaba de ser construida. Alguns dos primeiros dados saem um pouco viesados, devido a imperfeicoes no processo de producao. Os valores observados ao jogar qualquer um deles seguirao um distribuicao marcadamente diferente da desejada
distribuicao uniforme
.
Conforme a fabrica e melhorada, os dados se tornam cada vez menos viesados e os valores observados ao jogar um dado recentemente produzido seguirao cada vez mais proximamente a distribuicao uniforme.
|
Cara ou coroa
|
Considere
X
n
a fracao de caras depois de jogar uma moeda nao viesada
n
vezes. Entao,
X
1
tem
distribuicao de Bernoulli
com valor esperado
μ
= 0.5
e variancia
σ
2
= 0.25
. As variaveis aleatorias subsequentes
X
2
,
X
3
, ...
serao todas distribuidas
binomialmente
.
Conforme
n
fica maior, a distribuicao comecara a ficar cada vez mais parecida com a distribuicao normal. Se mudarmos e reescalonarmos
X
n
apropriadamente, entao
estara
convergindo em distribuicao
a normal padrao, o resultado que se segue do conhecido teorema central do limite.
|
Exemplo grafico
|
Suponha que
{
X
i
}
seja uma sequencia de variaveis aleatorias independentes e identicamente distribuidas com distribuicao uniforme
U
(?1, 1)
. Considere
suas somas (normalizadas). Entao, de acordo com o teorema central do limite, a distribuicao de
Z
n
se aproxima da distribuicao normal
N
(0,
1
3
)
. Esta convergencia esta mostrada na imagem: conforme
n
aumenta, a forma da funcao distribuicao de probabilidade fica cada vez mais proxima da curva gaussiana.
|
Com este modo de convergencia, nos esperamos ver o proximo valor observado em uma sequencia de experimentos aleatorios cada vez mais bem modelado por uma dada
distribuicao de probabilidade
.
A convergencia em distribuicao e a forma mais fraca de convergencia, ja que e implicada por todos os outros tipos de convergencia mencionados nesta pagina.
[
3
]
Entretanto, a convergencia em distribuicao e usada com muita regularidade na pratica. Mais frequentemente, ela surge da aplicacao do teorema central do limite.
Uma sequencia
X
1
,
X
2
, ...
de variaveis aleatorias de valores reais converge em distribuicao, converge fracamente ou converge em lei a uma variavel aleatoria
se
[
4
]
para todo numero
x
∈
R
no qual
e continua. Aqui,
F
n
e
F
sao as
funcoes distribuicao acumulada
das variaveis aleatorias
X
n
e
X
respectivamente.
A exigencia de que apenas os pontos de continuidade de
F
sejam considerados e essencial. Por exemplo, se
X
n
for distribuida
uniformemente
nos intervalos,
(0,
1
n
)
, entao, esta sequencia converge em distribuicao a uma variavel aleatoria degenerada
X
= 0
. De fato,
F
n
(
x
) = 0
para todo
quando
x
≤ 0
e
F
n
(
x
) = 1
para todo
x
≥
1
n
quando
n
> 0
. Entretanto, para esta variavel aleatoria limitante,
F
(0) = 1
, ainda que
F
n
(0) = 0
para todo
. Assim, a convergencia das funcoes distribuicao acumulada falha no ponto
, em que
e descontinua.
A convergencia em distribuicao pode ser denotada como
em que
e a lei (distribuicao de probabilidade) de
X
. Por exemplo, se
X
tiver
distribuicao normal
padrao, podemos escrever
.
Para vetores aleatorios
{
X
1
,
X
2
, ...} ⊂
R
k
, a convergencia em distribuicao e definida de forma semelhante. Dizemos que esta sequencia converge em distribuicao a um vetor
aleatorio
se
para todo
A
⊂
R
k
que for um conjunto continuidade de
.
A definicao de convergencia em distribuicao pode ser estendida de vetores aleatorios a elementos aleatorios mais gerais em
espacos metricos
arbitrarios, ate mesmo a "variaveis aleatorias" nao mensuraveis ? uma situacao que ocorre por exemplo no estudo de processos empiricos. Isto e a convergencia fraca de leis sem que leis sejam definidas ? exceto assintoticamente.
[
5
]
Neste caso, o termo convergencia fraca e preferivel e dizemos que uma sequencia de elementos aleatorios
converge fracamente a
(denotado como
X
n
⇒
X
) se
para todas as funcoes continuas limitadas
h
.
[
6
]
Aqui,
denota o valor esperado externo, que e o valor esperado da menor funcao mensuravel
que domina
h
(
X
n
)
.
- Ja que
F
(
a
) = Pr(
X
≤
a
)
, a convergencia em distribuicao significa que a probabilidade de que
X
n
esteja em um dado intervalo e aproximadamente igual a probabilidade de que o valor de
X
esteja neste intervalo, sendo
suficientemente grande.
- Em geral, a convergencia em distribuicao nao implica que a sequencia de
funcoes densidade de probabilidade
correspondentes tambem convergira. Como um exemplo, podem-se considerar variaveis aleatorias com densidades
f
n
(
x
) = (1 ? cos(2
πnx
))
1
(0,1)
. Estas variaveis aleatorias convergem em distribuicao a uma uniforme
, enquanto suas densidades nao convergem de qualquer forma.
[
7
]
- Entretanto, o lema de Scheffe implica que a convergencia das funcoes densidade de probabilidade implica convergencia em distribuicao.
[
8
]
- O lema de Portmanteau oferece varias definicoes equivalentes de convergencia em distribuicao. Ainda que estas definicoes sejam menos intuitivas, elas sao usadas para provar uma serie de teoremas estatisticos. O teorema afirma que
{
X
n
}
converge em distribuicao a
X
se e somente so qualquer uma das afirmacoes seguintes for verdadeira:
- E?(
X
n
) → E?(
X
)
para todas as funcoes
limitadas
,
continuas
(em que
E
denota o valor esperado);
- E?(
X
n
) → E?(
X
)
para todas as funcoes limitadas e de Lipschitz ?;
- limsup{ E?(
X
n
) } ≤ E?(
X
)
para toda funcao semicontinua superior
limitada a partir de cima;
- liminf{ E?(
X
n
) } ≥ E?(
X
)
para toda funcao semicontinua inferior
limitada a partir de baixo;
- limsup{Pr(
X
n
∈
C
)} ≤ Pr(
X
∈
C
)
para todos os
conjuntos fechados
C
;
- liminf{Pr(
X
n
∈
U
)} ≥ Pr(
X
∈
U
)
para todos os
conjuntos abertos
U
;
- lim{Pr(
X
n
∈
A
)} = Pr(
X
∈
A
)
para todos os conjuntos continuidade
A
da variavel aleatoria
X
.
- O
teorema de Mann-Wald
afirma que, para uma funcao continua
, se a sequencia
{
X
n
}
convergir em distribuicao a
, entao
{
g
(
X
n
)}
converge em distribuicao a
g
(
X
)
.
- Entretanto, a convergencia em distribuicao de
{
X
n
}
a
e de
{
Y
n
}
a
Y
nao implica em geral a convergencia em distribuicao de
{
X
n
+
Y
n
}
a
X
+
Y
ou de
{
X
n
Y
n
}
a
XY
.
- O teorema da continuidade de Levy afirma que a sequencia
{
X
n
}
converge em distribuicao a
X
se e somente se
a sequencia das
funcoes caracteristicas
correspondentes
{
φ
n
}
convergir pontualmente
a funcao caracteristica
φ
de
X
.
- A convergencia em distribuicao e metrizavel pela metrica de Levy-Prokhorov.
[
3
]
- Uma ligacao natural a convergencia em distribuicao e o teorema da representacao de Skorokhod.
Examples of convergence in probability
|
Altura de uma pessoa
|
Este exemplo nao deve ser tomado literalmente. Considere o seguinte experimento. Primeiramente, selecione uma pessoa na rua. Considere
X
sua altura, que e
ex ante
uma variavel aleatoria. Entao, peca a outras pessoas que estimem sua altura a olho. Considere
X
n
a media das primeiras
n
respostas. Entao, se nao houver erro sistematico, a sequencia
X
n
convergira em probabilidade a variavel aleatoria
X
pela
lei dos grandes numeros
.
|
Arqueiro
|
Suponha que uma pessoa pegue um arco e comece a atirar flechas em um alvo. Considere
X
n
sua pontuacao na
n
-esima flecha. Inicialmente, ele nao fara nenhum ponto muitas vezes, mas conforme o tempo passa e sua habilidade aumenta, ele ficara cada mais proximo de acertar a mosca e marcar 10 pontos. Depois de anos de pratica, a probabilidade de que ele atinja pontuacao diferente de 10 ficara cada vez menor e convergira a 0. Assim, a sequencia
X
n
converge em probabilidade a
Entretanto, note que
X
n
nao converge quase certamente. Nao importa quao profissional o arqueiro se torne, havera sempre uma pequena probabilidade de cometer um erro. Assim, a sequencia
nunca ficara estacionaria. Havera sempre pontuacoes nao perfeitas, ainda que se tornem cada vez menos frequentes.
|
A ideia basica por tras deste tipo de convergencia e que a probabilidade de um valor observado "incomum" se torna cada vez menor conforme a sequencia progride.
[
9
]
O conceito de convergencia em probabilidade e usado muito frequentemente em estatistica. Por exemplo, um estimador e considerado consistente se convergir em probabilidade a quantidade sendo estimada. A convergencia em probabilidade e tambem o tipo de convergencia estabelecido pela
lei fraca dos grandes numeros
.
[
10
]
Uma sequencia
de variaveis aleatorias converge em probabilidade em direcao a variavel aleatoria
se para todo
[
4
]
Formalmente, considere qualquer
e qualquer
. Considere
a probabilidade de que
esteja fora de um
intervalo de confianca
de raio
e em torno de
. Entao, para que
convirja em probabilidade a
, deve existir um numero
(que dependera de
e
) tal que, para todo
,
.
A convergencia em probabilidade
e denotada colocando-se a letra
sobre uma seta indicando convergencia ou o operador de limite de probabilidade
:
Para elementos aleatorios
em um espaco metrico
separavel
(
S
,
d
)
, a convergencia em probabilidade e definida de forma semelhante por
[
11
]
- A convergencia em probabilidade implica convergencia em distribuicao.
[
9
]
- Na direcao oposta, a convergencia em distribuicao implica a convergencia em probabilidade quando a variavel aleatoria limitante
for uma constante.
- A convergencia em probabilidade nao implica convergencia quase certa.
- O teorema de Mann-Wald afirma que, para toda funcao continua
, se
, entao tambem
.
- A convergencia em probabilidade define uma
topologia
no espaco de variaveis aleatorias sobre um espaco de probabilidade fixado. Esta topologia e metrizavel pela metrica de
Ky Fan
:
[
11
]
- ou
- .
Exemplos de convergencia quase certa
|
Exemplo 1
|
Considere um animal de alguma especie de vida curta. Nos registramos a quantidade de comida que este animal consome por dia. Esta sequencia de numeros sera imprevisivel, mas podemos estar
quase certos
de que este numero um dia sera zero e permanecera zero para sempre a partir de entao.
|
Exemplo 2
|
Considere um homem que joga sete moedas toda manha. Cada tarde, ele doa um moeda a caridade para cada cara que aparece. A partir da primeira vez em que todas as moedas derem coroa, ele parara de doar permanentemente.
Considere
as quantidades diarias que a caridade recebe dele.
Podemos ficar
quase certos
de que um dia esta quantidade sera zero e permanecera zero para sempre a partir de entao.
Entretanto, se considerarmos
qualquer numero finito
de dias, ha uma probabilidade nao nula de que ele nao pare de doar a caridade.
|
Este e o tipo de convergencia estocastica mais semelhante a convergencia pontual conhecida a partir da
analise real
elementar.
Dizer que a sequencia
X
n
converge
quase certamente
, quase em todo lugar, com probabilidade 1 ou fortemente em direcao a
significa que
[
4
]
Isto significa que os valores de
X
n
se aproximam do valor de
no sentido de que os eventos para os quais
X
n
nao converge a
tem probabilidade zero. Usando o espaco de probabilidade
e o conceito da variavel aleatoria como uma funcao de
a
R
, isto equivale a afirmacao
Usando a nocao do
limite inferior
de uma sequencia de conjuntos, a convergencia quase certa pode ser definida como:
A convergencia quase certa e frequentemente denotada colocando-se as letras
sobre uma seta indicando convergencia,
Para elementos aleatorios genericos
em um espaco metrico
, a convergencia quase certa e definida de forma semelhante:
- A convergencia quase certa implica convergencia em probabilidade pelo
lema de Fatou
e, por isso, implica convergencia em distribuicao. E a nocao de convergencia usada na
lei forte dos grandes numeros
.
[
10
]
- O conceito de convergencia quase certa nao vem de uma topologia sobre o espaco de variaveis aleatorias. Isto significa que nao ha topologia no espaco de variaveis aleatorias tal que as sequencias quase certamente convergentes sao exatamente as sequencias convergentes em relacao aquela topologia. Em particular, nao ha metrica de convergencia quase certa.
Dizer que a sequencia de variaveis aleatorias
definida ao longo do mesmo espaco de probabilidade (isto e, um processo aleatorio) converge certamente, em todo lugar ou pontualmente a
significa que
em que
e o
espaco amostral
do espaco de probabilidade subjacente sobre o qual as variaveis aleatorias sao definidas.
Esta e a nocao de convergencia pontual de uma sequencia de funcoes estendida a uma sequencia de variaveis aleatorias, lembrando que as variaveis aleatorias sao elas mesmas funcoes.
A convergencia certa de uma variavel aleatoria implica todos os outros tipos de convergencia descritos acima. A diferenca entre a convergencia quase certa e a convergencia certa esta nos conjuntos com probabilidade zero. Por isso, o conceito de convergencia certa de variaveis aleatorias e muito raramente usado.
Dado um numero real
r
≥ 1
, dizemos que a sequencia
X
n
converge na
-esima media ou na
norma
L
r
[
12
]
a variavel aleatoria
se os
-esimos
momentos absolutos
e
de
e
existem e
em que o operador
denota o valor esperado. A convergencia na
-esima media nos diz que o valor esperado da
-esima potencia da diferenca entre
e
converge a zero.
Este tipo de convergencia e frequentemente denotado colocando-se
L
r
sobre uma seta indicando convergencia:
Os casos mais importantes de convergencia na
-esima media sao:
- Quando
X
n
converge na
-esima media a
para
, dizemos que
X
n
converge
em media
a
.
- Quando
X
n
converge na
-esima media a
para
, dizemos que
X
n
converge
em media quadratica
a
.
A convergencia na na
-esima media, para
, implica convergencia em probabilidade pela desigualdade de Markov.
[
13
]
Alem disso, se
, a convergencia na
-esima media implica convergencia na
-esima media. Assim, a convergencia em media quadratica implica a convergencia em media.
Vale notar que, se
, entao
Se o espaco de probabilidade for completo:
- Se
e
, entao
quase certamente.
- Se
e
, entao
quase certamente.
- Se
e
, entao
quase certamente.
- Se
e
, entao
(para quaisquer numeros reais
e
) e
.
- Se
e
, entao
(para quaisquer numeros reais
e
) e
.
- Se
e
, entao
(para quaisquer numeros reais
e
).
- Nenhuma das afirmacoes acima e verdadeira para convergencia em distribuicao.
A cadeia de implicacoes entre as varias nocoes de convergencias estao notadas em suas respectivas secoes. Elas sao, usando notacao de setas:
Estas propriedades, unidas a uma serie de outros casos especiais, estao resumidas na lista abaixo:
- Convergencia quase certa implica convergencia em probabilidade:
[
14
]
- Convergencia em probabilidade implica que existe uma subsequencia
que quase certamente converge:
[
15
]
- Convergencia em probabilidade implica convergencia em distribuicao:
[
14
]
- Convergencia na
-esima media implica convergencia em probabilidade:
- Convergencia na
-esima media implica convergencia na media de ordem mais baixa, assumindo que ambas as ordens sao maiores ou iguais a um:
- sendo
.
- Se
convergir em distribuicao a uma constante
, entao
converge em probabilidade a
:
[
14
]
- sendo
uma constante.
- Se
X
n
convergir em distribuicao a
e a diferenca entre
e
converge em probabilidade a zero, entao
tambem converge em distribuicao a
:
[
14
]
- Se
convergir em distribuicao a
e
convergir em distribuicao a uma constante
, entao o vetor conjunto
converge em distribuicao a
:
- sendo
uma constante.
- A condicao de que
Y
n
convirja a uma constante e importante. Se convergisse a uma variavel aleatoria
, entao nao se poderia concluir que
converge a
.
- Se
convergir em probabilidade a
e
convergir em probabilidade a
, entao o vetor conjunto
converge em probabilidade a
:
[
14
]
- Se
X
n
convergir em probabilidade a
e
P
(|
X
n
| ≤
b
) = 1
para todo
e algum
, entao
X
n
converge na
-esima media a
para todo
r
≥ 1
. Em outras palavras, se
X
n
convergir em probabilidade a
e todas as variaveis aleatorias
X
n
forem quase certamente limitadas acima e abaixo, entao
X
n
converge a
tambem em qualquer
-esima media.
- Geralmente, convergencia em distribuicao nao implica convergencia quase certa. Entretanto, para uma dada sequencia
que converge em distribuicao a
, e sempre possivel encontrar um novo espaco de probabilidade
e variaveis aleatorias
definidas neste espaco tal que
seja igual em distribuicao
X
n
para todo
e
convirja a
quase certamente.
[
14
]
- Se para todo
- entao dizemos que
X
n
converge quase completamente ou quase em probabilidade em direcao a
. Quando
converge quase completamente em direcao a
, entao tambem converge quase certamente a
. Em outras palavras, se
X
n
convergir em probabilidade a
de forma suficientemente rapida, isto e, se a sequencia acima das probabilidades de cauda for somavel para todo
ε
> 0
, entao,
X
n
converge quase certamente a
. Esta e uma implicacao direta do
lema de Borel-Cantelli
.
- Se
S
n
for uma soma de
variaveis aleatorias independentes reais:
- entao
S
n
converge quase certamente se e somente se
S
n
convergir em probabilidade.
- Uma condicao necessaria e suficiente para a convergencia
e que
e a sequencia
seja uniformemente integravel.
- ↑
Grimmett, Geoffrey; Stirzaker, David (31 de maio de 2001).
Probability and Random Processes
(em ingles). [S.l.]: OUP Oxford.
ISBN
9780198572220
- ↑
Dudley, R. M. (14 de outubro de 2002).
Real Analysis and Probability
(em ingles). [S.l.]: Cambridge University Press.
ISBN
9780521007542
- ↑
a
b
Billingsley, Patrick (25 de junho de 2013).
Convergence of Probability Measures
(em ingles). [S.l.]: John Wiley & Sons.
ISBN
9781118625965
- ↑
a
b
c
vaart, A. W. van der; Wellner, Jon (9 de marco de 2013).
Weak Convergence and Empirical Processes: With Applications to Statistics
(em ingles). [S.l.]: Springer Science & Business Media.
ISBN
9781475725452
- ↑
Bickel, Peter J.; Klaassen, Chris A. J.; Ritov, Ya'acov; Wellner, Jon A. (1 de junho de 1998).
Efficient and Adaptive Estimation for Semiparametric Models
(em ingles). [S.l.]: Springer New York.
ISBN
9780387984735
- ↑
vaart, A. W. van der; Wellner, Jon (9 de marco de 2013).
Weak Convergence and Empirical Processes: With Applications to Statistics
(em ingles). [S.l.]: Springer Science & Business Media.
ISBN
9781475725452
- ↑
Romano, Joseph P.; Siegel, A. F. (1 de junho de 1986).
Counterexamples in Probability And Statistics
(em ingles). [S.l.]: CRC Press.
ISBN
9780412989018
- ↑
Scheffe, Henry (26 de maio de 2017).
≪A Useful Convergence Theorem for Probability Distributions≫
.
The Annals of Mathematical Statistics
(em ingles).
18
(3): 434?438.
ISSN
0003-4851
.
doi
:
10.1214/aoms/1177730390
- ↑
a
b
CASELLA, GEORGE; BERGER, ROGER L.
INFERENCIA ESTATISTICA
. [S.l.]: CENGAGE.
ISBN
9788522108947
- ↑
a
b
Billingsley, Patrick (1 de marco de 1986).
Probability and measure
(em ingles). [S.l.]: Wiley.
ISBN
9780471804789
- ↑
a
b
Dudley, R. M. (14 de outubro de 2002).
Real Analysis and Probability
(em ingles). [S.l.]: Cambridge University Press.
ISBN
9780521007542
- ↑
Ledoux, Michel; Talagrand, Michel (9 de marco de 2013).
Probability in Banach Spaces: Isoperimetry and Processes
(em ingles). [S.l.]: Springer Science & Business Media.
ISBN
9783642202124
- ↑
Williams, David (14 de fevereiro de 1991).
Probability with Martingales
(em ingles). [S.l.]: Cambridge University Press.
ISBN
9780521406055
- ↑
a
b
c
d
e
f
Vaart, A. W. van der (19 de junho de 2000).
Asymptotic Statistics
(em ingles). [S.l.]: Cambridge University Press.
ISBN
9780521784504
- ↑
Gut, Allan (17 de outubro de 2012).
Probability: A Graduate Course
(em ingles). [S.l.]: Springer Science & Business Media.
ISBN
9781461447078
Este artigo incorpora material do artigo "
Convergencia de variaveis aleatorias
", do
Citizendium
, que esta sob a licenca
Creative Commons Attribution-ShareAlike 3.0 Unported
, porem nao sob a
GFDL
.