Regressão linerar aplicada a calculo 2

Método dos mínimos quadrados

O Método dos Mínimos Quadrados, ou Mínimos Quadrados Ordinários (MQO) ou OLS (do inglês Ordinary Least Squares) é uma técnica de otimização matemática que procura encontrar o melhor ajuste para um conjunto de dados tentando minimizar a soma dos quadrados das diferenças entre o valor estimado e os dados observados (tais diferenças são chamadas resíduos).1
É a forma de estimação mais amplamente utilizada na econometria. Consiste em um estimador que minimiza a soma dos quadrados dos resíduos da regressão, de forma a maximizar o grau de ajuste do modelo aos dados observados.

Regressão simples Queremos estimar valores de determinada variável . Para isso, consideramos os valores de outra variável que acreditamos ter poder de explicação sobre conforme a fórmula:

• : Parâmetro do modelo chamado de constante (porque não depende de ).
• : Parâmetro do modelo chamado de coeficiente da variável .
• : Erro - representa a variação de que não é explicada pelo modelo.

Desse modo, ao estimar o modelo usando a base de dados, estamos estimando, na verdade:

onde indica cada uma das observações da base de dados e passa a ser chamado de resíduo, ao invés de erro. Em alguns livros, a notação para as estimativas dos parâmetros é um pouco diferente. Ao invés de substituir a letra, apenas adiciona-se o símbolo chapéu ( ).O método dos mínimos quadrados minimiza a soma dos quadrado dos resíduos, ou seja, minimiza .A ideia por trás dessa técnica é que, minimizando a soma do quadrado dos resíduos, encontraremos e que trarão a menor diferença entre a previsão de e o realmente observado.

Substituindo por , temos:

A minimização se dá ao derivar em relação a e e igualar a zero:

Distribuindo e dividindo a primeira expressão por temos:

onde é a média amostral de e é a média amostral de .
Substituindo esse resultado na