Top Banner
Econometria Tópico 4 – Regressão Múltipla Quebra dos pressupostos: Heterocedasticidade Ricardo Bruno N. dos Santos Professor Adjunto da Faculdade de Economia e do PPGE (Economia) UFPA
50

06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Dec 05, 2015

Download

Documents

Denis Antonio

heterocedasticidade
Welcome message from author
This document is posted to help you gain knowledge. Please leave a comment to let me know what you think about it! Share it to your friends and learn new things together.
Transcript
Page 1: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

EconometriaTópico 4 – Regressão Múltipla

Quebra dos pressupostos: Heterocedasticidade

Ricardo Bruno N. dos SantosProfessor Adjunto da Faculdade de Economia

e do PPGE (Economia) UFPA

Page 2: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Lembre-se que os vídeos necessários para o acompanhamento dessa apresentação são todos os vídeos que iniciam por 07, e encontram-se dentro da pasta Vídeos no mediafire.Link do mediafire: http://www.mediafire.com/?q1dbpxh1b4uxo

No Slideshare:

Page 3: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Natureza da HeterocedasticidadeA heterocedasticidade quebra uma das mais relevantes e importantes hipóteses do MRLC, trata-se da homocedasticidade dos resíduos onde:

A variância condicional de aumenta a medida que uma determinada variável independente aumenta. Ou seja, a variância de não são as mesmas. Como a variância do resíduo está condicionada a então existe a presença da heterocedasticidade, onde

Suponha que o seguinte modelo esteja sendo analisado, onde , e Y seja a poupança e X a renda, assim podemos verificar os dois seguintes gráficos:

Page 4: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

HOMOCEDASTICIDADE

Page 5: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

HETEROCEDASTICIDADE

Page 6: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

As seguintes razões podem constituir-se como elementos de variabilidade de , como:1) Seguindo os modelos de erro-aprendizagem, comportamentos incorretos das pessoas diminuem com o tempo ou o número de erros torna-se mais consistente. Neste caso, espera-se que diminua. Como exemplo o autor cita a Figura 11.3, que relaciona o número de erros de digitação cometidos em um dado período de tempo em um teste com as horas de prática de digitação. Percebe-se que o erro de digitação diminui a medida que temos mais prática.

Page 7: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Page 8: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

2) A medida que a renda aumenta, as pessoas têm mais renda discricionária e, portanto, mais opções para escolher como aplicarão sua renda. Por isso, é provável que aumente com a renda. Assim, na regressão de poupanças contra a renda é provável que se verifique que aumenta com a renda, pois as pessoas têm maior opção sobre como irão dispor de suas poupanças. Do mesmo modo, em geral se espera que a empresas com lucros maiores mostrem maior variabilidade em suas políticas de dividendos que aquelas com lucros mais baixos.

Page 9: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

3) A medida que as técnicas de coleta de dados aprimoram-se, é provável que diminua. Assim, os bancos que têm equipamentos sofisticados de processamento de dados provavelmente cometem menos erros nos demonstrativos periódicos de seus clientes do que bancos sem esses recursos.4) A hetero também ocorre com a presença de dados discrepantes (outliers)

Page 10: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01
Page 11: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

5) Violação da hipótese 9, onde o modelo de regressão deve ser especificado corretamente.

6) A assimetria é outra fonte de heterocedasticidade. Renda e riqueza são variáveis que geralmente são desiguais, onde a maior parte da renda encontra-se na menor parte da população. Isso gera uma assimetria no dado.

7) Transformação incorreta de dados. É mais comum em dados de corte transversal do que nas séries temporais. A diferença é que no primeiro temos um nível de desagregação maior da informação, ou seja, estamos avaliando-a em vários níveis (como os diferentes níveis de renda municipal). Já a série temporal é um dado mais agregado, que não sofre grandes variações.

Page 12: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Resíduos da regressão de (a) percepções sobre despesas com publicidade e (b) percepções sobre despesas de publicidade e o quadrado de despesas com publicidade.

Page 13: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Estimativa dos MQO na presença da HeterocedasticidadeA pergunta que se faz é: o que acontece com o MQO e suas variâncias se introduzirmos a heterocedasticidade fazendo , mas mantivermos todas as demais hipóteses do modelo clássico? Vamos analisar o modelo com duas variáveis:

Verificamos que:

Page 14: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Bem como a variância do beta 2 estimado é dada por:

O que mantém o modelo aderente ao MELNT é a variância constante , mas, o que acontece que ela não for constante?Para verificar isso temos que analisar os resultados para dois aspectos um considerando a tendenciosidade e outro considerando a eficiência do modelo.

Page 15: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: HeterocedasticidadeO fato de ser homocedástica ou heterocedástica não influencia na tendenciosidade do estimador (ver apêndice 3A do capítulo 3), onde , onde mesmo na presença de heterocedasticidade, em amostras grandes o estimador continua consistente, e portanto, não tendencioso.Porém a eficiência é algo que não pode ser mantido. Pois dada a presença de heterocedasticidade ele deixa de apresentar a variância mínima, ou seja, ele deixa de ser MELNT. Isso porque:

Aumenta conforme

Page 16: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

O Método do Mínimos Quadrados Generalizados (MQG)Pelo fato de o estimador deixar de ser MELNT temos que encontrar uma forma de tornar o estimador MELNT, para tanto, é utilizado o MQG. Basicamente tal método incorpora pesos ou importâncias que ajudam a explicar o comportamento da variância, ou seja, considerar o seu efeito na hora do cálculo do estimador.

Considerando a fórmula para o modelo simples:

Para facilitar o entendimento da operação algébrica vamos inserir a variável X0 que representa uma matriz vetor de 1, assim

Page 17: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Se conhecermos as variâncias poderemos inseri-las na equação como um peso, ou seja:

Onde o sobrescrito com asteriscos nos parâmetros indicam os estimadores do modelo transformado, para podermos distingui-los dos parâmetros do modelo do MQO.

Page 18: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

O que vai chamar a atenção é o erro transformado, vamos verificar como ficam sua variância após a transformação:

Ou seja, passamos a provar que a variância do modelo do MQG é uma constante, ou seja, torna-se homocedástico.Conservando as hipóteses do modelo clássico de regressão linear, assim, se aplicarmos o MQO no modelo transformado, ele irá gerar os MELNT.

Page 19: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Assim e são MELNT e não se tratam dos estimadores de MQO e .Podemos verificar, portanto, que o MQG são os MQO nas variáveis transformadas que satisfazem as hipóteses padrão de Mínimos Quadrados.Podemos, assim como realizado o procedimento para MQO, encontrar o resíduo mínimo para a função transformada, considerando, portanto:

Para obter o MQG temos que minimizar os resíduos, logo

Page 20: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Para o o estimador de MQG será:

E a variância será:

Onde

Page 21: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Podemos então verificar que a diferença entre o MQO e o MQG é dada pela presença de um termo ponderado visualizado pela soma ponderada dos quadrados dos resíduos , que tem um papel de peso, no entanto, os resultados de ambos (MQO e MQG) chegam a mesma conclusão de que os resíduos são homocedásticos.

A diferença entre o uso das duas situações pode ser observado no próximo diagrama de dispersão. Nos MQO, cada associado aos pontos A, B e C receberá o mesmo peso quando da SQR for minimizada. É claro que, nesse caso, a associada ao ponto C dominará a SQR. Já nos MQG, a observação extrema C receberá um peso relativamente menor que as outras duas observações.

Page 22: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01
Page 23: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Consequências de usar MQO na presença de heterocedasticidadeA regra aqui é verificar e responder o que acontece quando os nossos estimadores não são eficientes.Vamos para essa dinâmica, continuar utilizando o e a sua respectiva fórmula da variância (sabendo da existência da hetero), que considera a presença da heterocedasticidade. O grande problema é que mesmo conhecendo a variância não podemos estabelecer um intervalo de confiança e muito menos realizar os testes t e F, pois os intervalos de confiança baseados na estimativa do são menores, isso porque é possível mostrar que .

Page 24: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

O grande problema é considerar a estimação por MQO e desconsiderar a heterocedasticidade. Em primeiro lugar, é um estimador TENDENCIOSO da , isso porque na média ele sobrestima ou subestima a variância, e, em geral, não podemos dizer se o viés é positivo (sobreestimação) ou negativo (subestimação), pelo fato de isso depender da natureza da relação entre e os valores assumidos pela variável explanatória X, como observado pelo termo do denominador da fórmula da variância.O viés surge do fato de o valor de dado por , não ser mais um estimador NÃO TENDENCIOSO deste último quando a heterocedasticidade está presente.

Page 25: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Caso persistamos no uso dos procedimentos comuns de teste apesar da hetero, quaisquer que sejam as conclusões a que chegamos ou as inferências que fizermos poderão ser equivocadas.Para termos um entendimento melhor do que ocorre, vamos verificar um estudo de Monte Carlo conduzido por Davidson e MacKinnon, eles consideram o seguinte modelo simples, que em nossa notação é:

Os autores pressupõem que e e . Como mostra a última expressão, os autores supõem que a variância de erro seja heterocedástica e relacionada ao valor do regressor X com poder . Se por exemplo, =1, a variância do erro é proporcional ao valor de X, caso seja =2, a variância do resíduo será proporcional ao quadrado do valor de X e assim por diante.

Page 26: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Baseado em 20 mil réplicas e permitindo vários valores para , eles obtêm erros padrão dos dois coeficientes de regressão usando os MQO (com ), MQO permitindo a heterocedásticidade (onde ), e o MQG ( com )Os resultados foram obtidos por cada peso de .

Page 27: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Os autores observaram que sempre o MQO sobrestima o MQG (ou seja, sempre suas variâncias serão maiores que o MQO), tanto para o intercepto quanto para o coeficiente angular.Com isso a conclusão é que e na presença da heterocedasticidade são os MQG e não os MQO os MELNT.

Page 28: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Detecção da HeterocedasticidadeVamos observa alguns procedimentos práticos que ajudam na detecção da heterocedasticidade. Para dados socioeconômicos é mais difícil a detecção pois não temos controle da amostra, dessa forma temos muitas vezes que fazer uso da intuição, informações preexistentes, experiência empírica e muitas vezes mera especulação.Tendo em vista esses pontos, vamos observar alguns métodos informais e formais para a detecção da hetero.

Page 29: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Os métodos informais: consistem basicamente verificar o comportamento dos resíduos ao quadrado contra o valor estimado de Y . Algum comportamento sistemático entre essas duas relações pode nos ajudar a concluir pela existência da heterocedasticidade na regressão.

A seguir podemos observar algumas situações gráficas que indicam a existência ou não de um comportamento sistemático entre essas duas variáveis.

Page 30: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Page 31: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Esse comportamento pode ser observado também entre os resíduos e as variáveis independentes X. Caso o resíduo ao quadrado tiver alguma relação sistemática com alguma variável independente, é um indicativo forte da presença de heterocedasticidade na regressão.

Page 32: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Page 33: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Métodos formais: Tratam-se dos testes para verificação da existência ou não da heterocedasticidade. São testes que são realizados com base nos resíduos da regressão. A grande maioria parte do pressuposto que na regressão existe homocedasticidade, portanto, a hipótese nula do teste consiste em:

Aqui será abordado apenas 3 testes, a ideia é entender a dinâmica de cada um deles.

Page 34: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Teste de Glejser: Trata-se de um método que procura verificar a relação entre resíduos e o comportamento da variável independente X. O teste consiste em duas etapas, onde:1ª Estimar a regressão: Devemos primeiramente estimar a nossa regressão de interesse em que supõe-se ter a presenta da hetero:

2ª Etapa: Depois de estimada a regressão, pegamos o resíduo estimado na sua forma absoluta e usamos ele como variável dependente do modelo contra a variável independente do modelo anterior, no entanto, essa variável pode ser transformada conforme o comportamento dos resíduos, os modelos podem ser os seguintes:

Page 35: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

O grande problema nesse teste são os resíduos que podem ter comportamento heterocedástico também.

Page 36: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

As regressões com o comportamento são mais difíceis de serem estimadas por serem modelos de regressão não linear. O que inviabiliza sua estimação por MQO.

O exemplo a seguir irá fazer uso das informações sobre remuneração e produtividade e será utilizados os dados da tabela 11.1.

Page 37: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Teste de Breusch-Pagan-Godfrey (BPG): É um dos testes de heterocedasticidade mais conhecidos e utilizados. Para entende-lo é necessária a construção de cinco etapas que culminará numa análise da estatística .Para iniciar o teste vamos recorrer ao modelo de regressão com k variáveis.

Suponha que variância do erro, , seja descrita como:

Ou seja, é uma função das variáveis não estocásticas Z; alguns ou todos os X podem servir de Z. Suponha que

Page 38: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Onde passa a ser uma função linear de Z. Caso , e , que é uma constante. Dessa forma, para testar se é homocedástico, podemos testar a hipótese de que , esta é a ideia básica por trás do teste de BPG.Os procedimentos para a realização do teste são os seguintes:1ª Etapa: Estime por MQO e obtenha os resíduos .2ª Etapa: Devemos obter o . Que é o estimador de máxima verossimilhança de . Essa fórmula é diferente do estimador de MQO que é .3ª Etapa: Construir as variáveis que são definidas como:

Page 39: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

4ª Etapa: Faça a regressão construída sobre os Z como

5ª Etapa: Obtenha a SQE (Soma dos Quadrados Explicada) e defina:

Pressupondo que os resíduos se distribuem normalmente, podemos demostrar que, se há homocedasticidade e se o tamanho da amostra n aumenta indefinidamente, então:

Page 40: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Para prática do teste BPG vamos utilizar os dados da Tabela 11.3.

Teste GERAL de Heterocedasticidade de White: É o mais dinamizado dos testes, diante dos demais testes já vistos é o que possui menos problemas, isso porque ele não necessita que o pressuposto de normalidade seja atendido (conforme ocorre com o teste BPG) e não possui nenhuma restrição quanto aos resíduos de sua regressão auxiliar tiver algum problema de heterocedasticidade.Tanto, que é baseado no teste de White que são feitas a maior parte das correções da hetero em modelos de regressão linear.

Page 41: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

O teste para ser visualizado necessita passar por quatro etapas, sempre partindo do modelo de regressão onde:

1ª Etapa: Estimar a regressão acima e encontrar os resíduos estimados .

2ª Etapa: De porte dos resíduos calculamos a seguinte regressão auxiliar:

Em seguida será obtido o R2 da regressão auxiliar.

3ª Etapa: Sob a hipótese nula de que não há heterocedasticidade, pode-se mostrar que o tamanho da amostra (n) multiplicado pelo R2 da regressão auxiliar segue uma distribuição qui-quadrado com graus de liberdade iguais ao número de regressores (excluindo-se o intercepto – constante) na regressão auxiliar. Ou seja,

Page 42: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Com caso do modelo com três variáveis irá gerar na regressão auxiliar outras três variáveis, com isso teremos 5 graus de liberdade uma vez que (n-1) = (6-1)

4ª Etapa: Comparamos o valor do Qui-quadrado calculado com o valor tabelado, caso o calculado seja maior que o tabelado, teremos então a rejeição da hipótese nula, ou seja, rejeição da homocedasticidade, logo a conclui-se pela presença da heterocedasticidade.Caso ele não seja significativo, estaremos concluindo que

Ou seja, de que os resíduos são homocedásticos.

Page 43: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Para ilustrar o exemplo do teste de White, será feito o exemplo conforme o exercício 11.15 (pág. 349). Fazendo uso da Tabela 11.7. Também iremos executar os testes de heterocedasticidade de White e o BPG pelo Gretl.

Qual o melhor teste? Não se trata de uma decisão fácil, uma vez que tais testes baseiam-se em vários pressupostos. Ao compararmos os testes, precisamos prestar atenção ao seu tamanho (ou nível de significância), potência (a probabilidade de rejeitarmos a hipótese falsa) e a sensibilidade a discrepância (Outliers). O teste de White por exemplo é um teste que tem baixa potência contra outros testes. Já o BPG é sensível a presença da normalidade dos resíduos.

Page 44: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Medidas corretivasVerificamos que a presença da hetero irá afetar a eficiência de nossos estimadores. Podemos aplicar medidas corretivas levando em conta dois aspectos, quando conhecemos a variância () e quando não a conhecemos.

Conhecido: uso dos Mínimos Quadrados Ponderados.Quando aplicamos o MQP corrigimos a heterocedasticidade, tornando os estimadores MELNT. A melhor forma de verificar o procedimento (que já foi utilizado em outra oportunidade) e verificá-lo na prática. Para tanto, será usado o exemplo da Tabela 11.1 conforme exemplo 11.7 da página 336.

Page 45: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

DesonhecidoQuando o valor da variância do erro é desconhecida é possível fazer uma correção através de mudanças das matrizes de variância e covariância (var-cov). O processo mais conhecido é a correção de White.Mas antes é interessante falar em como se da essa correção, e mostrar no Gretl como essa correção procede.

A correção de White na verdade ocorre com a inserção da matriz de pesos de White no cálculo da variância do estimador, onde:

Page 46: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

O termo são os resíduos da regressão auxiliar de White, como antes verificado para o modelo de três variáveis:

A forma matricial de se mostrar esse regressor é:

Essa primeira matriz é o termo do Gretl usado para a correção de White.Para o HC1 teremos uma correção na matriz de White pelo grau de liberdade onde:

Page 47: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Para o termo HC2 teremos será feita uma correção ortogonal cuja expectativa dos resíduos será dada por:

O HC3 é uma versão com a correção Jackknife, onde na verdade há uma sobrecorreção dada por:

Page 48: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Vamos verificar o processo de correção de White no Gretl utilizando o exemplo da Tabela 11.5 sobre dados de inovações na América Latina, que encontra-se dentro do exemplo 11.10 da página 342.

Page 49: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

Quebra dos pressupostos: Heterocedasticidade

Uma Advertência: Segundo John Fox“Só vale a pena corrigir variâncias desiguais do erro somente quando o problema for grave. O impacto da variância do erro não constante sobre a eficiência do estimador de MQO e na validade da eficiência dos MQO depende de vários fatores, inclusive do tamanho da amostra, do grau de variação no , da configuração dos valores de X [regressor – ou variáveis independentes] e da relação entre a variância dos erros e os X. Portanto, não é possível chegar a conclusões gerais a respeito dos danos produzidos pela heterocedásticidade.”

Page 50: 06 Tpico5 Heterocedasticidade 130213191813 Phpapp01

FIM DO TÓPICO 4