Dados positivos e assimétricos, como tempo até um evento, custo de internação, renda ou consumo de energia, quase nunca têm variância constante: quanto maior a média, maior a dispersão. A distribuição Gama modela exatamente isso. Este artigo demonstra dois fatos que explicam por que ela é tão conveniente. Primeiro, quando o parâmetro de precisão \(\phi\) cresce, a Gama converge para uma normal, mas uma normal que mantém a relação média–variância dos dados. Segundo, com a ligação logarítmica (que não é a canônica), o algoritmo de estimação vira uma sequência de mínimos quadrados ordinários, sem pesos, e várias propriedades da regressão linear passam a valer quase literalmente. No fim, uma conferência numérica e um veredito sobre a frase que costuma resumir o segundo fato.
§1A parametrização
Escrevemos \(Y \sim \text{Gama}(\mu, \phi)\) com densidade
isto é, forma \(\phi\) e taxa \(\phi/\mu\). Daí
O coeficiente de variação é constante: não depende de \(\mu\). É a hipótese natural para dados em que o “erro” é proporcional ao nível: um custo de 10 mil reais varia mais, em reais, do que um de 100 reais, mas varia o mesmo em porcentagem. Na linguagem de MLG, a função de variância é \(V(\mu) = \mu^2\) e a dispersão é \(\phi^{-1}\).
§2Quando \(\phi \to \infty\), \(Y\) se aproxima de \(N(\mu,\ \mu^2/\phi)\)
2.1 Enunciado
Seja \(Y_\phi \sim \text{Gama}(\mu, \phi)\) e defina a versão padronizada
Então \(Z_\phi \xrightarrow{d} N(0,1)\) quando \(\phi\to\infty\). Na prática, para \(\phi\) grande, \(Y \approx N(\mu,\ \mu^2/\phi)\).
2.2 Demonstração pela função geradora de momentos
A FGM da Gama com forma \(\phi\) e taxa \(\phi/\mu\) é
Como \(Z = \frac{\sqrt\phi}{\mu}Y - \sqrt\phi\), temos
Note que \(\mu\) sumiu: a distribuição de \(Z\) depende só de \(\phi\). Tomando o log e usando \(-\log(1-x) = x + \tfrac{x^2}{2} + \tfrac{x^3}{3} + \cdots\) para \(|x|<1\), com \(x = s/\sqrt\phi\):
Para \(s\) fixo, todos os termos depois de \(s^2/2\) vão a zero quando \(\phi\to\infty\). Logo \(M_Z(s)\to e^{s^2/2}\), que é a FGM da \(N(0,1)\), e pelo teorema da continuidade de Lévy \(Z_\phi \xrightarrow{d} N(0,1)\). \(\blacksquare\)
Uma leitura alternativa. Se \(\phi = k\) é inteiro, \(Y\) tem a mesma distribuição de \(\frac{1}{k}\sum_{j=1}^{k} E_j\), com \(E_j\) exponenciais independentes de média \(\mu\). É uma média de \(k\) variáveis i.i.d. de variância \(\mu^2\), e o Teorema Central do Limite dá diretamente \(N(\mu, \mu^2/k)\). A precisão \(\phi\) funciona como um “tamanho de amostra” escondido dentro de cada observação.
2.3 A que velocidade a aproximação melhora
A expansão (3) mostra que o primeiro desvio da normalidade é o termo cúbico, de ordem \(\phi^{-1/2}\). Ele é a assimetria:
| \(\phi\) | CV | assimetria \(2/\sqrt\phi\) | \(P(\text{normal aproximada} < 0) = \Phi(-\sqrt\phi)\) |
|---|---|---|---|
| 1 | 1,00 | 2,00 | 0,159 |
| 5 | 0,45 | 0,89 | 0,013 |
| 10 | 0,32 | 0,63 | 0,0008 |
| 20 | 0,22 | 0,45 | 0,000004 |
| 100 | 0,10 | 0,20 | ≈ 0 |
Com \(\phi \gtrsim 10\), a normal aproximada praticamente não põe massa em valores negativos e a assimetria já é moderada. Para \(\phi\) pequeno (CV perto de 1), a aproximação é ruim e a Gama precisa ser usada como Gama. Uma aproximação bem melhor para \(\phi\) moderado é a de Wilson–Hilferty, \((Y/\mu)^{1/3} \approx N\!\left(1-\frac{1}{9\phi},\ \frac{1}{9\phi}\right)\): a raiz cúbica corta quase toda a assimetria.
2.4 E na escala logarítmica
Escreva \(Y = \mu\,G\), com \(G\sim\text{Gama}(1,\phi)\), de média 1. Então \(\log Y = \log\mu + \log G\), e
em que \(\psi\) e \(\psi'\) são a digama e a trigama. Pelo método delta, \(\log Y \approx N(\log\mu,\ 1/\phi)\): na escala log a variância é constante. Esse fato é a ponte com a §3.
2.5 Vantagens dessa aproximação
- A heterocedasticidade continua no modelo. A normal limite não é a homocedástica \(N(\mu,\sigma^2)\); é \(N(\mu, \mu^2/\phi)\). Mesmo no regime “quase normal”, a Gama continua dizendo que o desvio-padrão cresce proporcionalmente à média. Uma regressão normal comum erra exatamente nesse ponto.
- Inferência de Wald confiável. Intervalos do tipo \(\hat\mu\,(1 \pm z_{\alpha/2}/\sqrt{\hat\phi})\) e testes baseados em normalidade ficam precisos.
- Assintótica de pequena dispersão. A deviance escalonada \(\phi\,D\) se aproxima de \(\chi^2_{n-p}\) quando \(\phi\) cresce, mesmo com \(n\) fixo. Testes de razão de verossimilhança e de qualidade de ajuste ganham precisão sem precisar de amostras enormes.
- Diagnóstico simples. Os resíduos de Pearson \((y-\hat\mu)/\hat\mu\) e de deviance ficam aproximadamente normais, e gráficos QQ normais passam a ser informativos.
- A escolha entre modelos parecidos importa pouco. Com \(\phi\) grande, Gama, log-normal e “normal com CV constante” ficam quase indistinguíveis, e as estimativas de \(\boldsymbol\beta\) quase não mudam. Com \(\phi\) pequeno a escolha pesa, e a Gama tem a vantagem de modelar \(\mathbb E[Y]\) diretamente.
- Justifica atalhos conhecidos, como mínimos quadrados ponderados com pesos \(1/\hat\mu^2\) ou a regressão linear de \(\log y\) (§3.5).
§3O MLG Gama com ligação logarítmica
3.1 O modelo
Para observações independentes \(Y_i \sim \text{Gama}(\mu_i,\phi)\):
A ligação canônica da Gama é a recíproca, \(g(\mu) = 1/\mu\). Ela tem um problema prático sério: \(\mu\) precisa ser positivo, mas nada impede que \(\mathbf x^\top\boldsymbol\beta\) fique negativo ou zero durante o ajuste. A ligação log garante \(\mu_i > 0\) para qualquer \(\boldsymbol\beta\) e dá coeficientes interpretáveis como efeitos multiplicativos: aumentar \(x_j\) em uma unidade multiplica a média por \(e^{\beta_j}\).
3.2 Escore e informação
A log-verossimilhança, a menos de termos sem \(\boldsymbol\beta\), é
Derivando em relação a \(\eta_i\):
Pela regra da cadeia, com \(\partial\eta_i/\partial\boldsymbol\beta = \mathbf x_i\):
\(\mathbf J\) é a informação observada; \(\mathcal I\) é a esperada, porque \(\mathbb E[Y_i/\mu_i] = 1\). Este é o resultado central: a informação de Fisher é \(\phi\,\mathbf X^\top\mathbf X\). Ela não depende de \(\boldsymbol\beta\) e tem a mesma forma da regressão linear, em que \(\mathcal I = \sigma^{-2}\mathbf X^\top\mathbf X\).
3.3 O IRLS vira mínimos quadrados ordinários
Em qualquer MLG, o escore de Fisher pode ser escrito como mínimos quadrados ponderados iterados:
Na Gama com ligação log, \(V(\mu) = \mu^2\) e \(g'(\mu) = 1/\mu\), então
Os pesos somem, e cada iteração é
ou seja, uma regressão linear comum (MQO) da resposta de trabalho \(\mathbf z\) em \(\mathbf X\). A matriz \((\mathbf X^\top\mathbf X)^{-1}\) é calculada uma vez só; só o vetor \(\mathbf z\) muda entre as iterações.
Por que isso acontece? Os pesos são constantes exatamente quando \(V(\mu)\,g'(\mu)^2\) é constante, isto é, quando \(g'(\mu)\propto V(\mu)^{-1/2}\). Integrando, \(g(\mu) \propto \int V(\mu)^{-1/2}\,d\mu\), que é a transformação estabilizadora da variância. Para \(V(\mu)=\mu^2\), \(\int \mu^{-1}d\mu = \log\mu\). A ligação log é, para a Gama, o análogo da raiz quadrada para a Poisson, que também dá pesos constantes (\(w_i = 4\)).
3.4 Propriedades herdadas da regressão linear
Todas saem direto de \(\mathbf W = \mathbf I\) e \(\mathcal I = \phi\,\mathbf X^\top\mathbf X\):
| Propriedade | Regressão linear | Gama com ligação log |
|---|---|---|
| Equações normais | \(\mathbf X^\top\mathbf e = \mathbf 0\) | \(\mathbf X^\top\mathbf r = \mathbf 0\), com \(r_i = (y_i-\hat\mu_i)/\hat\mu_i\), o resíduo de Pearson |
| Com intercepto | \(\sum e_i = 0\) | \(\sum r_i = 0 \iff \frac1n\sum y_i/\hat\mu_i = 1\) |
| Covariância de \(\hat{\boldsymbol\beta}\) | \(\sigma^2(\mathbf X^\top\mathbf X)^{-1}\), exata | \(\phi^{-1}(\mathbf X^\top\mathbf X)^{-1}\), assintótica |
| Matriz chapéu | \(\mathbf H = \mathbf X(\mathbf X^\top\mathbf X)^{-1}\mathbf X^\top\) | A mesma, sem depender de \(\hat{\boldsymbol\beta}\) |
| Estimador da dispersão | \(s^2 = \sum e_i^2/(n-p)\) | \(1/\hat\phi = \sum r_i^2/(n-p)\) (Pearson) |
| \(\hat{\boldsymbol\beta}\) depende da escala do erro? | Não | Não depende de \(\phi\) |
Algumas consequências práticas:
- Erros-padrão sem \(\hat\mu\). A covariância estimada depende dos dados só por \(\hat\phi\). O desenho de \(\mathbf X\) determina sozinho a precisão relativa dos coeficientes, como num experimento planejado de regressão linear.
- Alavancas conhecidas antes do ajuste. Os \(h_{ii}\) são os mesmos da regressão linear com a mesma matriz \(\mathbf X\), o que simplifica distância de Cook, DFBETAs e planejamento de experimentos.
- Invariância de escala. Trocar \(y\) por \(c\,y\) (de reais para milhares de reais, por exemplo) só soma \(\log c\) ao intercepto. Os outros coeficientes e todos os erros-padrão ficam iguais.
- Ortogonalidade de \(\boldsymbol\beta\) e \(\phi\), como em qualquer MLG: estimar \(\phi\) não perturba a inferência sobre \(\boldsymbol\beta\).
3.5 A ponte com a regressão linear de \(\log y\)
Pela §2.4, \(\log Y_i = \mathbf x_i^\top\boldsymbol\beta + \log G_i\), com \(G_i\) i.i.d., porque a distribuição de \(G\) não depende de \(\mu_i\). Isso é um modelo linear exato com erros i.i.d. não normais:
Então o MQO de \(\log y\) em \(\mathbf X\) estima sem viés as inclinações \(\beta_1,\dots,\beta_p\); estima o intercepto com viés \(\psi(\phi)-\log\phi\approx -1/(2\phi)\); e tem covariância \(\psi'(\phi)(\mathbf X^\top\mathbf X)^{-1}\), contra \(\phi^{-1}(\mathbf X^\top\mathbf X)^{-1}\) da máxima verossimilhança Gama. A eficiência relativa das inclinações é \(1/(\phi\,\psi'(\phi))\):
| \(\phi\) | 1 | 2 | 5 | 10 | 20 | 100 |
|---|---|---|---|---|---|---|
| eficiência do MQO em \(\log y\) | 0,61 | 0,78 | 0,90 | 0,95 | 0,975 | 0,995 |
Com \(\phi\) grande os dois métodos praticamente coincidem, que é a §2 vista de outro ângulo. Com \(\phi\) pequeno o MLG Gama é bem mais eficiente. Ele também estima \(\mathbb E[Y]\) diretamente, sem a correção de retransformação (smearing) que o MQO em \(\log y\) exige. O MQO em \(\log y\) é, aliás, um ótimo valor inicial para o IRLS.
3.6 Conferência numérica
Simulei \(n=500\) observações com \(\phi=5\), \(\beta_0 = 1\), \(\beta_1 = 0{,}5\) e \(x\sim N(0,1)\), e rodei o IRLS com pesos unitários, isto é, um MQO de \(\mathbf z\) em \(\mathbf X\) a cada passo:
- convergiu em 5 iterações para \(\hat{\boldsymbol\beta} = (0{,}9535;\ 0{,}4830)\), idêntico ao
statsmodels(GLM, família Gama, ligação log); - \(\mathbf X^\top\mathbf r \approx (4\times10^{-13};\ 2\times10^{-10})\) e \(\frac1n\sum y_i/\hat\mu_i = 1{,}0000\);
- os erros-padrão \(\sqrt{\operatorname{diag}\big((\mathbf X^\top\mathbf X)^{-1}/\hat\phi\big)}\) batem com os do
statsmodelsem todas as casas; - o MQO em \(\log y\) deu inclinação \(0{,}4805\), praticamente igual, e intercepto \(0{,}842\), cerca de \(0{,}11\) abaixo, como prevê o viés \(\psi(5)-\log 5 = -0{,}103\).
§4Veredito: “parecido com uma regressão linear simples”
É comum ler que, no MLG Gama com ligação log, a estimação é “parecida com uma regressão linear simples e tem propriedades importantes”. No essencial, a frase é verdadeira, com três ressalvas.
O que é verdade: cada passo do IRLS é literalmente uma regressão linear ordinária, sem pesos, da resposta de trabalho \(\mathbf z\) em \(\mathbf X\); a informação de Fisher \(\phi\,\mathbf X^\top\mathbf X\), a covariância \(\phi^{-1}(\mathbf X^\top\mathbf X)^{-1}\) e a matriz chapéu têm exatamente a forma da regressão linear e não dependem de \(\boldsymbol\beta\); os resíduos de Pearson são ortogonais às colunas de \(\mathbf X\) e somam zero com intercepto, como os resíduos de MQO. A razão estrutural é que \(\log\) é a transformação estabilizadora de variância para \(V(\mu)=\mu^2\).
As ressalvas:
- “Simples” só no sentido de “ordinária, sem pesos”. O resultado vale para qualquer número de covariáveis. Não tem relação com a regressão linear simples no sentido técnico, a de uma covariável só.
- Não é uma regressão só. É iterativa: \(\mathbf z\) depende de \(\hat{\boldsymbol\mu}\), não há fórmula fechada, e a covariância e a normalidade de \(\hat{\boldsymbol\beta}\) são assintóticas, não exatas como no modelo linear normal.
- Escore de Fisher não é Newton–Raphson aqui. Como a ligação não é canônica, a informação observada \(\phi\sum (y_i/\mu_i)\,\mathbf x_i\mathbf x_i^\top\) é diferente da esperada. Os dois algoritmos convergem para o mesmo \(\hat{\boldsymbol\beta}\), mas por caminhos diferentes, e erros-padrão baseados na informação observada diferem um pouco dos de \(\phi^{-1}(\mathbf X^\top\mathbf X)^{-1}\). Também se perde a propriedade das ligações canônicas \(\sum y_i = \sum\hat\mu_i\); no lugar dela vale \(\sum y_i/\hat\mu_i = n\).
Em resumo: a Gama com ligação log oferece a estrutura de cálculo e de diagnóstico de uma regressão linear, com variância proporcional a \(\mu^2\), médias sempre positivas e efeitos multiplicativos. Quando \(\phi\) é grande, ela chega a coincidir, na prática, com a regressão linear de \(\log y\).
§5Para ir além
- P. McCullagh e J. A. Nelder (1989). Generalized Linear Models, 2ª ed., cap. 8. Chapman & Hall. Dados com coeficiente de variação constante.
- B. Jørgensen (1997). The Theory of Dispersion Models. Chapman & Hall. A assintótica de pequena dispersão.
- D. Firth (1988). Multiplicative errors: log-normal or gamma? Journal of the Royal Statistical Society B, 50(2), 266–268. Eficiência da Gama contra a log-normal.
- E. B. Wilson e M. M. Hilferty (1931). The distribution of chi-square. Proceedings of the National Academy of Sciences, 17(12), 684–688.