A regressão linear

Resolver um problema muitas vezes é fácil. Nas escolas aprendemos diversas técnicas que nos auxiliam a encontrar soluções em diversos casos.

Entretanto, no dia a dia nas empresas, percebemos que, diferentemente da forma que aprendemos, ninguém lhe entregará um problema já elaborado. “Encontre o x” existe somente nas salas de aula. O que encontramos são dados, sinais, comportamentos que precisam ser investigados para levantamento de hipóteses e ajustes de modelos.

Métricas / KPIs nos ajudam a entender, por exemplo, as deficiências operacionais. Valores são confrontados com valores de outras empresas similares (benchmarks), mas em muitos casos, senão todos, as métricas não indicarão qual a solução do problema.

Se pudesse dar um conselho aos entrantes no mercado de trabalho, recomendaria o estudo de uma das técnicas estatísticas mais usadas na análise de dados: a regressão linear.

Diante disso, resolvi, neste mês, criar esse post que visa a explicar os fundamentos da técnica de regressão pelo método de mínimos quadrados. Mostrarei também como calcular as equações ajustadas manualmente no Excel.

Não entrarei nas análises de significância dos modelos (teste F da regressão e teste t dos parâmetros). Esse assunto será abordado em um post futuro. A ideia é mostrar o conceito e o entendimento matemático dessa técnica.

Somente para exemplificar, formularemos alguns problemas simples, porém presentes no dia a dia das empresas. 

Vamos inicialmente à parte conceitual...

O que é uma regressão linear?

A Regressão Linear é uma técnica estatística que ajusta uma equação matemática aos dados para estimar o comportamento de uma variável  a partir de uma ou mais variáveis .

O termo 'linear' na regressão refere-se à forma como os coeficientes entram na equação, e não ao formato geométrico da curva que ela desenha no gráfico. Dessa forma, dadas as variáveis  e , é possível ajustar curvas complexas, como polinômios.

Mesmo que a variável  tenha um crescimento exponencial, ainda assim é possível regredir os dados aplicando . O output de valores estimados na escala original de  será dado por .

Podemos, portanto, utilizar essa técnica para estimar equações de diversos tipos. Por exemplo: a curva de demanda de produtos, a curva de custo médio de um centro de trabalho (polinômio de 2º grau), o ciclo de vida de um produto (polinômio de 3º grau) ou até mesmo estimar valores com crescimento exponencial - nesse caso, linearizando os valores de y.

Regressão linear pelo método dos mínimos quadrados ordinários (MQO).

Como dito, a regressão linear visa ajustar uma equação matemática aos dados, gerando uma curva ajustada. O método dos mínimos quadrados ordinários tem como objetivo ajustar essa curva minimizando a distância entre os pontos reais e estimados, ou seja, y – ӯ.

No quadro abaixo, os pontos vermelhos representam os dados reais em um eixo cartesiano (xi, yi). A curva regredida, representada pela união dos pontos estimados (azuis) é a curva que minimiza a distância entre os pontos azuis e vermelhos, ou seja, entre yi – (αxi + b).

Figura 1 – Representação gráfica dos pontos estimados e curva ajustada

A distância agregada entre os valores reais e estimados é dada por:

ou seja, pela função:

A minimização da função S(α, b) pode ser encontrada pelas derivadas parciais em relação à α e b:

Dividindo as equações por 2 e distribuindo as somas teremos:

Ou ainda,

b =

b =

Percebam que a 1ª equação é simplesmente a 2ª equação multiplicada por xi. Podemos ainda escrever o sistema na forma matricial:

Figura 2 – Representação matricial do sistema de equações

Para explicar a solução, chamaremos a primeira matriz de X, a segunda de b e a resultante de y, ou seja, representaremos o sistema de equações na sua forma matricial: Xb = y.

Lembrando que xi e yi são pontos conhecidos, podemos resolver o sistema usando a regra de Cramer, ou seja, dado Xb = y, temos que o vetor coluna b é resolvido por:

Onde Xi é matriz formada pela substituição da i-ésima coluna de X pelo vetor y. Nesse caso simples, temos uma equação linear de 1º grau, onde assumimos que . Mas qual a solução nos casos em que a curva analisada assume outras formas, como por exemplo, a curva do custo médio de produção, similar a uma parábola? Nesses casos a equação assumiria a seguinte forma: , certo?

Bom, simples. Assim como no exemplo anterior, teríamos apenas que encontrar os coeficientes, pois os valores de xi e yi são dados. Adicionalmente ao exemplo anterior, ao invés de resolvermos um sistema de equações com dois termos, onde a segunda equação é multiplicada por x, teremos um sistema de equações com 3 termos, onde a terceira equação é simplesmente a primeira multiplicada por .  

Em suma, ao invés de resolvermos apenas:

b =

b =  

Teremos que resolver o novo sistema:

b  +       n.c  =

b +  =

b + =  

Percebam que a 2ª equação é simplesmente a 1ª equação multiplicada por x e que a terceira equação é a segunda equação multiplicada por  (ou a primeira multiplicada por ). E, de forma similar, podemos encontrar a solução usando a regra de Cramer.

Vamos a alguns exemplos práticos no Excel

1 – Equações de 1º grau ajustadas

Iniciaremos pelo exemplo mais simples, onde a equação representa apenas uma reta. Suponha que você acesse seu sistema de vendas e capture a demanda histórica de um produto. Você necessita projetar a demanda para os próximos 3 meses.

Abaixo a representação gráfica dos pontos coletados:

As vendas históricas referem-se aos 18 últimos meses e, claramente, existe uma tendência de crescimento para os meses futuros. Ajustaremos uma equação que represente essa curva e, em seguida, estimaremos os valores para os 3 meses seguintes. Abaixo a tabela desses dados no Excel:

Perceba que xi e yi são os dados históricos. O que devemos fazer agora é encontrar o coeficiente que ajuste essas duas variáveis à equação yi = αxi + b. Do que necessitaremos? De acordo com a resolução matricial mostrada anteriormente (Figura 2), necessitaremos obter  ,  ,  e  dessas 18 observações. Calcularemos os totais na linha 20 da planilha.

Temos então:

Vamos criar um pequeno quadro com a forma matricial do sistema de equações. Isso vai nos ajudar a deixar a planilha visualmente alinhada com a teoria exposta anteriormente.

Em seguida, utilizaremos a regra de Cramer para calcular os coeficientes α e b. Faremos isso logo abaixo das matrizes. Calcularemos então os coeficientes nas células L31 e L35 usando a fórmula =MATRIZ.DETERM().

O determinante da matriz X é igual à -8721. Encontramos esse resultado usando a fórmula: =MATRIZ.DETERM(G27:H28).

Para calcular os coeficientes α e b, deveremos apenas dividir os determinantes das matrizes alteradas pelo valor -8721.

Abaixo as fórmulas e os respectivos resultados:

α -> =MATRIZ.DETERM(H30:I31) /-8271 = 9.08

b -> =MATRIZ.DETERM(H34:I35) / -8271 = 9.03

Por fim, já poderemos calcular os valores estimados para os períodos 19, 20 e 21 (valores arredondados):

Período 19 -> (9.08*19) + 9.03 = 182

Período 20 -> (9.08*20) + 9.03 = 191

Período 21 -> (9.08*21) + 9.03 = 200

Figura 3 – Planilha de cálculo dos coeficientes α e b e valores estimados

2 – Equações de 2º grau ajustadas

Vamos a um problema um pouco mais elaborado, que inclua otimização.

Dessa vez você captura dados dos custos totais e quantidades produzidas de um centro de trabalho, conforme figura abaixo. Você deve encontrar a quantidade ótima de produção.

Dito isso, criaremos uma coluna adicional com o custo médio de produção. E, para melhor visualização do comportamento dos custos, vamos classificar a tabela pela coluna Produção.

A seguir a tabela com os dados trabalhados e o respectivo gráfico da curva de custo médio.

Alinhado com a teoria dos rendimentos decrescentes, a curva de custo médio possui um formato parabólico, com ponto de inflexão próximo à 700 unidades produzidas. Esse comportamento talvez seja explicado pela restrição de capacidade e, a partir desse ponto, seja necessário horas extras, subcontratação de produtores mais caros etc.  

Utilizaremos o sistema mencionado para um polinômio de 2º grau, ou seja, dessa vez deveremos resolver o sistema de equações:

b  +       n.c  =

b +  =

b + =

Sendo a produção e  o custo médio.

O que nos leva ao sistema de equações e sua respectiva forma matricial:

E calculando os coeficientes, teremos os seguintes valores para α, b e c:

α = 0.0011, b = -1.4945 e c = 604.45

Vamos dar uma olhada no gráfico com os valores reais e os valores regredidos (yi x ӯi):

A equação da regressão indica que o custo médio estimado é dado por:

Que tem seu ponto mínimo dado por:

Ou seja, o ponto mínimo é atingido quando a produção for de aproximadamente 677 unidades. Nesse ponto o custo médio de produção é de aproximadamente $98.9 / unidade.

3 – Funções multivariadas ajustadas

A resolução do sistema de equações pode ser utilizada para funções com várias variáveis independentes. Exemplo: a demanda de um produto que dependa não somente de preço, mas também de algum atributo do produto e/ou condição de mercado. Supondo que preço seja xi, durabilidade wi e cotação do dólar zi, a função F(x, w, z) assumiria a seguinte forma:  .

E temos que resolver:

A 2ª equação é simplesmente a primeira multiplicada por x, a 3ª é a primeira multiplicada por w e a 4ª equação é a primeira multiplicada por z. De forma similar, teríamos que usar a regra de Cramer para resolver o sistema matricial:

É comum em econometria encontrarmos funções com várias variáveis independentes. A representação gráfica fica um pouco prejudicada, pois é difícil imaginarmos um gráfico com mais de 3 dimensões. Uma forma de representá-los seria utilizarmos distintas características para cada ponto, por exemplo, gráfico de bolhas, onde o tamanho da bolha represente a quantidade de uma variável. Cores também são úteis, pois podemos associar cores mais frias à valores menores e cores mais quentes à valores maiores.

Não exemplificaremos casos como esse pois o Excel é, de certa forma, limitado na produção de gráficos. Softwares estatísticos mais sofisticados, como R ou Python, são mais apropriados para essa necessidade.

4 – Outras curvas possíveis de serem ajustadas por regressão

Já vimos o quão versátil é essa técnica. Entretanto, não vamos estender mais as explicações, vamos apenas exemplificar outras possibilidades de aplicação.

4.1 – Cálculo do holding cost baseado no volume de estoque.

Estoque parado significa um custo financeiro, correto? Em muitas empresas, o volume de recebimento é alto no início do mês, visando atendimento da produção e é baixo no final do mês, visando a redução contábil na conta estoque.

Uma forma de calcular a perda financeira pelo estoque parado durante o mês seria: encontrar a função que represente os níveis diários de estoque, calcular a integral definida (0 a 30) dessa função e multiplicar esse valor pelo custo de capital da empresa. Abaixo um exemplo gráfico de uma equação ajustada dos estoques de uma empresa.

O volume em $ do estoque seria dado por:

4.2 – Funções exponenciais

Não é possível utilizar regressão linear para ajustar funções exponenciais. Entretanto é possível linearizar a variável resposta e, posteriormente, encontrar o modelo ajustado. Uma variável com crescimento exponencial, exemplo , terá um crescimento linear caso utilizemos o log dessa variável, que será dado por ln() ou xln(e).

5 – Conclusão

A regressão linear é uma técnica extremamente útil em análise preditiva de dados. A utilização em conjunto com outras técnicas, como otimização, faz com que essa técnica seja ainda mais robusta, pois estende a utilização desses modelos a análises prescritiva de dados.

Por fim, como já mencionado, se pudesse dar um conselho aos recém entrantes no mercado, sugeriria que entendam bem a aplicabilidade dessa técnica, pois, no mercado, ninguém encontra um problema pronto a ser resolvido. Encontrará apenas dados!