Minimos quadrados

Disponível somente no TrabalhosFeitos
  • Páginas : 6 (1303 palavras )
  • Download(s) : 0
  • Publicado : 6 de abril de 2013
Ler documento completo
Amostra do texto
Regressão simples

Queremos estimar valores de determinada variável [pic]. Para isso, consideramos os valores de outra variável [pic]que acreditamos ter poder de explicação sobre [pic]conforme a fórmula:
[pic]
onde:
• [pic]: Parâmetro do modelo chamado de constante (porque não depende de [pic]).
• [pic]: Parâmetro do modelo chamado de coeficiente da variável [pic].
•[pic]: Erro - representa a variação de [pic]que não é explicada pelo modelo.
Também temos uma base de dados com [pic]valores observados de [pic]e de [pic]. Perceba que, usando a base de dados, [pic]e [pic]são vetores, ou seja, representam uma lista de valores, um para cada observação da base de dados. O método dos mínimos quadrados ajuda a encontrar as estimativas de [pic]e [pic]. Como o nome diz,serão somente estimativas desses parâmetros, porque o valor real dos parâmetros são desconhecidos. Portanto, ao fazer a estimativa, mudamos a notação de algumas variáveis:
[pic]
Para ilustrar isso, Heij[5] menciona:
We do not know Greek but we can compute Latin
Não sabemos grego, mas podemos calcular em latim
Desse modo, ao estimar o modelo usando a base de dados, estamosestimando, na verdade:
[pic]
onde [pic]indica cada uma das [pic]observações da base de dados e [pic]passa a ser chamado de resíduo, ao invés de erro. Em alguns livros, a notação para as estimativas dos parâmetros é um pouco diferente. Ao invés de substituir a letra, apenas adiciona-se o símbolo chapéu ([pic]).
O método dos mínimos quadrados minimiza a soma dos quadrado dos resíduos, ou seja,minimiza [pic].
A ideia por trás dessa técnica é que, minimizando a soma do quadrado dos resíduos, encontraremos [pic]e [pic]que trarão a menor diferença entre a previsão de [pic]e o [pic]realmente observado.
Substituindo [pic]por [pic], temos:
[pic]
A minimização se dá ao derivar [pic]em relação a [pic]e [pic]e igualar a zero:
[pic]
Distribuindo e dividindo a primeira expressãopor [pic]temos:
[pic]
onde [pic]é a média amostral de [pic]e [pic]é a média amostral de [pic].
Substituindo esse resultado na segunda expressão temos:
[pic]
Alguns livros também usam uma fórmula diferente que gera o mesmo resultado:
[pic]

Exemplo de regressão simples

[pic]
Considere a seguinte base de dados:
|[pic|[pic] |[pic] |
|] |Consumo|Renda |
|1 |122 |139 |
|2 |114 |126 |
|3 |86 |90 |
|4 |134 |144 |
|5 |146 |163 |
|6 |107 |136 |
|7 |68 |61 |
|8 |117 |62 |
|9 |71 |41 |
|10 |98 |120 |


Aplicandoas fórmulas acima, chega-se em:
[pic]
portanto,
[pic]
Interpretação: Tirando a parte do Consumo que não é influenciada pela Renda, o incremento de $ 1 na Renda causa um incremento esperado de $ 0,4954 no Consumo.

2 Regressão múltipla

A regressão múltipla apresenta um funcionamento parecido com o da regressão simples, porém, leva em consideração diversas variáveis explicativas[pic]influenciando [pic]ao mesmo tempo:
[pic]
Ao usar a base de dados com [pic]variáveis explicativas e [pic]observações, o modelo pode ser escrito na forma matricial:
[pic]
, onde [pic]representa o valor da [pic]-ésima variável da [pic]-ésima observação. A fórmula também pode ser escrita na forma resumida:
[pic]
A solução de mínimos quadrados continua sendo alcançadaatravés da minimização da soma do quadrado dos erros [pic], que pode ser reescrito como [pic], onde o apóstrofe significa que a matriz foi transposta.
Substituindo [pic]por [pic], temos:
[pic]
A minimização se dá ao derivar [pic]em relação a [pic]e igualar a zero. O primeiro termo não depende de [pic], os segundo e terceiro termos são iguais e o terceiro termo é uma forma quadrática dos...
tracking img