^[[start|Modelos Estatísticos: Abordagem da Verossimilhança]]^ \\ 6. Modelos Gaussianos \\ Os modelos Gaussianos são modelos baseados na distribuição Normal, que designaremos por **distribuição Gaussiana** em homenagem ao grande astronomo e matemático //Johann Carl Friedrich Gauss// (1777 – 1855). Uma ampla gama de modelos cabe sob essa designação: modelos lineares clássicos, isto é modelos de regressão e análise de variância, modelos não lineares e modelos geoestatísticos clássicos. Geralmente, esses modelos são apresentados em classes diferentes, mas nesse tópico procuraremos unificar a sua apresentação sob a abordagem de verossimilhança. ====== Tutorial ====== Utilizaremos nesse tutorial dados de biomassa de árvores de //Eucalyptus saligna// do arquivo [[biometria:r-tutor:dados-esaligna|esaligna.csv]]. Para ajustar os modelos utilizaremos a função "mle" que está no pacote "stats4". Portanto é necessário "carregar" esse pacote. > library(stats4) > help(mle) O modelo mais Gaussiano mais simples é aquele onde pretendemos apenas estimar os parâmetros: média e variância. Tomemos como exemplo o ajuste dos dados de //biomassa total// das árvores de //E. saligna// (variável "total"): > esa <- read.csv("esaligna.csv",header=T) > mean(esa$total) [1] 93.20056 > sd(esa$total) [1] 83.51936 > -sum( dnorm( esa$total, mean = mean(esa$total), sd = sd(esa$total), log=TRUE) ) [1] 209.8846 Esse modelo, tem como estimativas dos parâmetros: média = 93 e desvio padrão = 83,5. Já a log-verossimilhança negativa é igual a 209.88. ===== Objetos da Classe MLE ===== Mesmo sendo um modelo simples, podemos ajustá-lo utilizando a função ''mle'' (//Maximum Likelihood Estimator//). Para isso é bom definirmos uma função que calcula a log-verossimilhança negativa da distribuição Gaussiana (Normal) sobre os dados que possuímos: nllikGauss <- function(m=90, s=80) -sum(stats::dnorm(esa$total, m, s, log=TRUE)) Para ajustar o modelo com média e desvio padrão constante podemos utilizar essa função: > gauss01 <- mle( nllikGauss ) > > class( gauss01 ) [1] "mle" attr(,"package") [1] "stats4" > O objeto gerado pela função "''mle''" é um objeto de classe "''mle''" e pode ser utilizado diretamente em algumas funções como: "''summary''" e "''logLik''". > summary(gauss01) Maximum likelihood estimation Call: mle(minuslogl = nllikGauss) Coefficients: Estimate Std. Error m 93.13087 13.736201 s 82.41716 9.724637 -2 log L: 419.7551 > logLik( gauss01 ) 'log Lik.' -209.8776 (df=2) Note que a função "''summary''" apresenta as //estimativas// juntamente com os respectivos //erros padrões//, mesmo para estimativa do desvio padrão. ===== Verossimilhança Perfilhada ===== A função "''profile''" gera a verosimilhança perfilhada para os parâmetros do modelo, mas utiliza uma transformação da verossimilhança. Se utilizada diretamente com a função "''plot''", gera gráficos diferentes do que desejamos: > par(mfrow=c(1,2)) > plot( profile(gauss01)) Assim, fizemos a função "''plot.profmle''" contida no arquivo {{.:plot-profmle.R|}} para construir as curvas de verossimilhança perfilhada como desejamos: > source("plot-profmle.r") > par(mfrow=c(1,2)) # Múltiplos gráficos na mesma janela: 1 linha x 2 colunas > plot.profmle( profile(gauss01) ) Os gráficos apresentam a log-verossimilhança negativa relativa para os dois parâmetros ajustados: média e desivo padrão. Em cada gráfico, é apresentado também o **intervalo de verossimilhança** para razão de 8 (diferença de log-verossimilhança de $$\ln(8)$$). ===== Modelo Gaussiano: Média como Função Linear ===== Nesse caso da //biomassa total// das árvores de //E. saligna// (variável "''total''"), faz sentido assumir que a biomassa das árvores seja uma função linear do //tamanho da árvore//, definido por uma expressão simples do diâmetro e da altura da árvore: $$ E[ b_i ] = \beta_0 + \beta_1 (d_i^2\ h_i)$$. Assim, a média deixa de ser modelada como //constante// e passa a ser modelada como uma //função linear// de uma variável preditora. ==== Função de Log-Verossimilhança Negativa ==== Para podermos ajustar um modelo onde a média é uma função linear, precisamos definir uma nova função de Log-Verossimilhança Negativa: > > nllikGauss2 <- function(b0=0, b1=1, s=80) + { + m <- b0+b1*(esa$dap^2*esa$ht) + -sum(stats::dnorm(x=esa$total, mean=m, sd=s,log=T)) + } Note que temos agora três parâmetros: $$\beta_0$$ e $$\beta_1$$ definem a função linear da média, como função da variável combinada "''(esa$dap^2*esa$ht)''", enquanto que o desvio padrão ($$\sigma$$) permanece **constante**. Os valores //default// destes parâmetros na função "''nllikGauss2''" são usados como "palpites" iniciais pela função de ajuste "''mle''". ==== Ajuste e Análise do Modelo ==== O ajuste do modelo é realizado da mesma forma pela função "''mle''": > gauss02 <- mle( nllikGauss2 ) Warning message: NaNs produced in: dnorm(x, mean, sd, log) > Podemos agora analisar o modelo: > summary( gauss02 ) Maximum likelihood estimation Call: mle(minuslogl = nllikGauss2) Coefficients: Estimate Std. Error b0 11.48592463 5.965541211 b1 0.02638258 0.001388753 s 24.80587697 2.922599110 -2 log L: 333.3746 > logLik(gauss02) 'log Lik.' -166.6873 (df=3) > E analisar as curvas de verossimilhança perfilhada: > par(mfrow=c(2,2)) > plot.profmle( profile(gauss02) ) Note que quando a média é modelada como uma função linear, o valor do desvio padrão se torna bem menor. O que essa redução indica? ===== Comparação com o Modelo Anterior ===== Note que ao assumir a média como função linear do //tamanho das árvores// houve clara melhora na qualidade do modelo, conforme o valor de Log-Verossimilhança mostra: > logLik(gauss01) 'log Lik.' -209.8776 (df=2) > > logLik(gauss02) 'log Lik.' -166.6873 (df=3) > > AIC( gauss01 ) [1] 423.7551 > AIC( gauss02 ) [1] 339.3746 > ===== Comparação com a Forma Clássica de Ajuste ===== Podemos notar que os coeficientes de regressão são semelhantes aos obtidos pelo forma clássica de ajuste de modelos lineares de regressão. > > summary( gauss02 ) Maximum likelihood estimation Call: mle(minuslogl = nllikGauss2) Coefficients: Estimate Std. Error b0 11.48592463 5.965541211 b1 0.02638258 0.001388753 s 24.80587697 2.922599110 -2 log L: 333.3746 > summary( lm( total ~ I(dap^2*ht), data=esa ) )$coefficients Estimate Std. Error t value Pr(>|t|) (Intercept) 11.51744130 6.139609524 1.875924 6.927291e-02 I(dap^2 * ht) 0.02637721 0.001429276 18.454952 2.736869e-19 > **Questões:** * Quanto aos erros-padrão da estimativa (''Std. Error''), as duas formas de ajuste geram valores iguais? * Os Intervalos de Confiança de 95% (use valor de t=2) são semelhantes aos **Intervalos de Verossimilhança** para razão 8 ? (Veja os gráficos da verossimilhança perfilhada) * Por que a abordagem tradicional não apresenta uma estimativa de erro-padrão para o parâmetro de escala do modelo (desvio padrão)? ===== Modelo Gaussiano: Média e Desvio Padrão como Função Linear ===== Se observarmos a relação entre //biomassa total// e o diâmetro (''dap'') e altura das árvores (''ht'') veremos que não só a média mas também o desvio padrão cresce com o aumento do tamanho da árvore: > par(mfrow=c(1,1)) > plot( total ~ I(dap^2*ht) , data = esa ) ==== Função de Log-Verossimilhança Negativa e Ajuste ==== Assim podemos ajustar um modelo onde média e desvio padrão são funçôes do tamanho da árvore. Para isso, precisamos construir nova função de log-verossimilhança negativa: > nllikGauss3 <- function(b0=11.5, b1=0.0264, a0 = 1, a1 = 10) + { + m <- b0+b1*(esa$dap^2*esa$ht) + s <- exp(a0)*(esa$dap^2*esa$ht)^a1 + -sum(stats::dnorm(x=esa$total, mean=m, sd=s,log=T)) + } > > gauss03 <- mle( nllikGauss3 ) > > summary(gauss03) Maximum likelihood estimation Call: mle(minuslogl = nllikGauss3) Coefficients: Estimate Std. Error b0 8.08033272 3.112129304 b1 0.02745385 0.001662557 a0 -0.50721118 0.839555378 a1 0.46608710 0.110849619 -2 log L: 317.2816 > > AIC(gauss03) [1] 325.2816 > E podemos analisar a curva de verossimilhança perfilhada para os parâmetros: > par(mfrow=c(2,2)) > plot.profmle( profile( gauss03 ) ) ===== Uma outra Função para o Desvio Padrão ===== Podemos analisar a importância da função que descreve o desvio padrão tentando uma outra função. No exemplo abaixo, temos uma função que relaciona linearmente o desvio padrão com a variável preditora. > nllikGauss3b <- function(b0=11.5, b1=0.0264, a0 = 1, a1 = 0.5) + { + m <- b0+b1*(esa$dap^2*esa$ht) + s <- a0 + a1*(esa$dap^2*esa$ht)^(1/2) + -sum(stats::dnorm(x=esa$total, mean=m, sd=s,log=T)) + } > > gauss03b = mle( nllikGauss3b ) Warning messages: 1: In dnorm(x, mean, sd, log) : NaNs produced 2: In dnorm(x, mean, sd, log) : NaNs produced 3: In dnorm(x, mean, sd, log) : NaNs produced 4: In dnorm(x, mean, sd, log) : NaNs produced 5: In dnorm(x, mean, sd, log) : NaNs produced 6: In dnorm(x, mean, sd, log) : NaNs produced > summary(gauss03b) Maximum likelihood estimation Call: mle(minuslogl = nllikGauss3b) Coefficients: Estimate Std. Error b0 8.05131733 3.108081022 b1 0.02748836 0.001692511 a0 0.66230356 4.333626354 a1 0.44904372 0.129348150 -2 log L: 317.3536 > logLik(gauss03b) 'log Lik.' -158.6768 (df=4)nllikGauss2 <- function(b0=0, b1=1, s=80) + { + m <- b0+b1*(esa$dap^2*esa$ht) + -sum(stats::dnorm(x=esa$total, mean=m, sd=s,log=T)) + } > AIC(gauss03b) [1] 325.3536 > Note que nesse caso houve uma certa "//reclamação//" no ajuste do modelo. **Questão:** será que houve mudança marcante na qualidade do ajuste? ===== Função Não-Linear para Média ===== Uma outra possibilidade é considerarmos que a relação entre a biomassa lenhosa e a variável combinada (dap^2 * ht) é não linear: > nllikGauss4 <- function(b0=-2.4, b1=0.86, a0 = 1, a1 = 10) + { + m <- exp(b0) *(esa$dap^2*esa$ht)^b1 + s <- exp(a0)*(esa$dap^2*esa$ht)^a1 + -sum(stats::dnorm(x=esa$total, mean=m, sd=s,log=T)) + } > gauss04 = mle( nllikGauss4) > summary(gauss04) Maximum likelihood estimation Call: mle(minuslogl = nllikGauss4) Coefficients: Estimate Std. Error b0 -2.2211469 0.43456549 b1 0.8475576 0.05207647 a0 -0.4961932 0.85449723 a1 0.4637592 0.11285970 -2 log L: 316.8159 > AIC(gauss04) [1] 324.8159 > > plot.profmle( profile(gauss04) ) > **Questões:** * O que aconteceu com o ajuste do modelo ? * O que aconteceu com a curva de verossimilhança perfilhada das estimativas dos parâmetros na relação não-linear? ===== NOVA Função Não-Linear para Média ===== A relação entre a biomassa lenhosa e as duas variáveis preditoras DAP (dap) e altura (ht) pode seguir padrões não-lineares, mas não exatamente a partir da variável combinada (dap^2 * ht). Uma outra possibilidade é uma relação da biomassa lenhosa na forma de potência com as duas variáveis: $$ b_i = \beta_0 \ d^{\beta_1} \ h^{\beta_2} + \varepsilon_i $$ onde: $$b_i$$ é biomassa lenhosa, $$d_i$$ é o DAP e $$h_i$$ é a altura. > nllikGauss5 <- function(b0=-1.7, b1=2.44, b2=-0.097 , a0 = 1, a1 = 10) + { + m <- exp(b0) * esa$dap^b1 * esa$ht^b2 + s <- exp(a0)*(esa$dap^2*esa$ht)^a1 + -sum(stats::dnorm(x=esa$total, mean=m, sd=s,log=T)) + } > gauss05 = mle( nllikGauss5 ) > summary(gauss05) Maximum likelihood estimation Call: mle(minuslogl = nllikGauss5) Coefficients: Estimate Std. Error b0 -2.1097557 0.4121886 b1 2.3773290 0.1331821 b2 0.1170000 0.1165928 a0 1.2346432 1.0795785 a1 0.1894190 0.1431096 -2 log L: 293.326 > AIC(gauss05) [1] 303.326 > par(mfrow=c(2,3)) > plot.profmle( profile(gauss05) ) > **Questões:** * Como foi o ajuste dessa forma não-linear para a média ? * O que aconteceu com a curva de verossimilhança perfilhada para os parâmetros do modelo da média ? * Alguma estimativa se mostra problemática ? Quais seriam as prováveis causas desses problemas ? ===== Modelo Log-Normal ===== O fato de tanto média como desvio padrão variarem em função do tamanho das árvores, sugere que a escala apropriada de modelagem da biomassa possa ser a escala logarítmica. O gráfico na escala logarítmica sugere uma relação linear com variância aproximadamente constante: > par(mfrow=c(1,1)) > plot( log(total) ~ log(dap^2*ht), data=esa ) > ==== Verificando o Modelo Gaussiano através dos Resíduos ==== Para verificar essa possibilidade, devemos analisar (graficamente) os resíduos do modelo ajustado. Infelizmente, não temos ainda funções que calculem automaticamente //valor ajustado// e //resíduo// para modelos ajustados pela função "''mle''": > > # Primeiro construir um novo 'data.frame' para conter os valores ajustados e resíduo > > head(esa) arvore classe talhao dap ht tronco sobra folha total 1 6 c 22 19.9 21.50 183.64 20.42 8.57 212.64 2 8 b 23 12.4 15.74 42.29 6.58 2.52 51.40 3 7 c 32 16.5 11.74 60.61 11.35 48.52 120.49 4 8 a 32 9.0 7.72 12.28 9.99 27.67 49.95 5 9 a 32 7.0 6.55 11.86 7.97 7.76 27.61 6 9 b 32 10.5 8.79 26.10 7.48 23.36 56.95 > > esa2 <- esa[, c("arvore","dap","ht","total")] > summary( gauss03b ) > coef( gauss03b ) b0 b1 a1 7.93781767 0.02753308 0.46753874 > > g3b.coef <- coef( gauss03b ) > esa2$total.fit <- g3b.coef["b0"] + g3b.coef["b1"] * esa2$dap^2 * esa2$ht > esa2$total.res <- esa2$total - esa2$total.fit > > > # Gráfico de dispersão do resíduo contra valor ajustado > > par(mfrow=c(1,1)) > plot( esa2$total.fit, esa2$total.res ) > abline(h=0, col="red", lty=2) > lines(lowess( esa2$total.fit, esa2$total.res ) ) > > > # Gráfico Quantil-Quantil (para Normal) dos resíduos > > qqnorm( esa2$total.res ) > qqline( esa2$total.res ) > O gráfico quantil-quantil sugere que os resíduos ainda não se comportam adequadamente sob a distribuição Gaussiana. ==== Ajuste do Modelos Log-Normais ==== Podemos ajustar o modelo Log-Normal, tomando a variável combinada (dap^2 * ht) como preditora na função da média: > sd(log(esa2$total)) [1] 1.040294 > > nllikLGauss <- function(b0=0, b1=1, slog=1) + { + mlog <- b0+b1*log(esa$dap^2*esa$ht) + -sum(stats::dlnorm(esa$total,mlog,slog,log=T)) + } > > lgauss01 <- mle( nllikLGauss ) There were 16 warnings (use warnings() to see them) > warnings()[1] $`NaNs produced` dlnorm(x, meanlog, sdlog, log) > summary(lgauss01) Maximum likelihood estimation Call: mle(minuslogl = nllikLGauss) Coefficients: Estimate Std. Error b0 -2.3603704 0.37431280 b1 0.8596398 0.04936201 slog 0.3341257 0.03937594 -2 log L: 317.4077 > > par(mfrow=c(2,2)) > plot.profmle( profile( lgauss01 ) ) There were 50 or more warnings (use warnings() to see the first 50) > Mas podemos as variávei DAP e altura como duas variáveis preditoras na função da média: > nllikLGauss2 <- function(b0=0, b1=2, b2=1, slog=1) + { + mlog <- b0+b1*log(esa$dap) +b2*log(esa$ht) + -sum(stats::dlnorm(esa$total,mlog,slog,log=T)) + } >> lgauss02 = mle( nllikLGauss2 ) There were 23 warnings (use warnings() to see them) > summary(lgauss02) Maximum likelihood estimation Call: mle(minuslogl = nllikLGauss2) Coefficients: Estimate Std. Error b0 -1.70549978 0.32389751 b1 2.43814980 0.16966467 b2 -0.09674273 0.20459420 slog 0.26174926 0.03084571 -2 log L: 299.8304 > par(mfrow=c(2,2)) > plot.profmle( profile( lgauss02 ) ) There were 50 or more warnings (use warnings() to see the first 50) > ===== Comparação Geral dos Modelos ===== Façamos uma comparação geral dos modelos ajsutados ^ Nome do Modelo ^ Parâmetro ^ Função ^ AIC ^ | | | | | ^ gauss01 | média | $$\mu$$ | | | | desvio padrão | $$\sigma$$ | 423.8 | | | | | | ^ gauss02 | média | $$\beta_0 + \beta_1 (d2 h)$$ | | | | desvio padrão | $$\sigma$$ | 339.4 | | | | | | ^ gauss03 | média | $$\beta_0 + \beta_1 (d2 h)$$ | | | | desvio padrão | $$\exp(\alpha_0) (d2 h)\alpha_1$$ | 325.3 | | | | | | ^ gauss03b| média | $$\beta_0 + \beta_1 (d2 h)$$ | | | | desvio padrão | $$\alpha_0 + alpha_1 (d2 h)(1/2)$$ | 325.4 | | | | | | ^ gauss04 | média | $$\exp(\beta_0) (d2 h)\beta_1 $$ | | | | desvio padrão | $$\exp(\alpha_0) (d2 h)\alpha_1 $$ | 324.8 | | | | | | ^ gauss05 | média | $$exp(\beta_0)\ (d)\beta_1\ (h)\beta_2$$ | | | | desvio padrão | $$\exp(\alpha_0) (d2 h)\alpha_1$$ | 303.3 | | | | | | ^ lgauss01 | média | $$\beta_0 + \beta_1 \ln(d2h)$$ | | | | desvio padrão | $$\sigma$$ | 323.4 | | | | | | ^ lgauss02 | média | $$\beta_0 + \beta_1\ln(d) + \beta_2\ln(h)$$ | | | | desvio padrão | $$\sigma$$ | 307.8 | | | | | | ** Questões: ** * Qual a importância da **//forma funcional//** do modelo que descreve a média? * Qual a importância da **//forma funcional//** do modelo que descreve o desvio padrão? * Existe diferença quando se muda da distribuição Gaussiana para a LogNormal ? * A diferença de distribuição independe da forma funcional do modelo da média ? ===== Exemplo do Princípio da Parcimônia ===== Trabalhamos em todos os modelos até esse ponto com duas variáveis preditoras: DAP (dap) e altura (ht). Mas qual o desempenho de um modelo mais simples com apenas o DAP como variável preditora. O poder explicativo desse modelo mais simples será tão bom quanto o do modelo com ambas variáveis? Primeiro a definição da função de log-verossimilhança negativa para o modelo com apenas o DAP baseado na distribuição Gausssiana: > nllikGauss6 <- function(b0=-1.7, b1=2.44, a0 = 1, a1 = 10) + { + m <- exp(b0) * esa$dap^b1 + s <- exp(a0)*esa$dap^a1 + -sum(stats::dnorm(x=esa$total, mean=m, sd=s,log=T)) + } > > gauss06 = mle( nllikGauss6 ) > summary(gauss06) Maximum likelihood estimation Call: mle(minuslogl = nllikGauss6) Coefficients: Estimate Std. Error b0 -1.9368918 0.3581879 b1 2.4313156 0.1233159 a0 1.1523235 0.9340407 a1 0.6158983 0.3741794 -2 log L: 294.9407 > par(mfrow=c(2,2)) > plot.profmle( profile(gauss06) ) > > AIC(gauss06) [1] 302.9407 > > AIC(gauss05) [1] 303.326 > Vejamos agora no caso da distribuição LogNormal: > nllikLGauss3 <- function(b0=0, b1=2, slog=1) + { + mlog <- b0+b1*log(esa$dap) + -sum(stats::dlnorm(esa$total,mlog,slog,log=T)) + } > lgauss03 = mle( nllikLGauss3) Warning messages: 1: In dlnorm(x, meanlog, sdlog, log) : NaNs produced 2: In dlnorm(x, meanlog, sdlog, log) : NaNs produced 3: In dlnorm(x, meanlog, sdlog, log) : NaNs produced 4: In dlnorm(x, meanlog, sdlog, log) : NaNs produced 5: In dlnorm(x, meanlog, sdlog, log) : NaNs produced 6: In dlnorm(x, meanlog, sdlog, log) : NaNs produced 7: In dlnorm(x, meanlog, sdlog, log) : NaNs produced 8: In dlnorm(x, meanlog, sdlog, log) : NaNs produced > summary(lgauss03) Maximum likelihood estimation Call: mle(minuslogl = nllikLGauss3) Coefficients: Estimate Std. Error b0 -1.7952928 0.26320775 b1 2.3749425 0.10481196 slog 0.2625627 0.03094190 -2 log L: 300.0533 > plot.profmle( profile(lgauss03) ) There were 50 or more warnings (use warnings() to see the first 50) > AIC(lgauss03) [1] 306.0533 > > AIC(lgauss02) [1] 307.8304 > ** Questão: ** * Como os modelos mais simples (apenas com o DAP) se compara aos modelos análogos mais complexos? * A variável altura (ht) é uma variável importante para a predição da biomassa nesse caso? ===== A Influência do Tamanho da Amostra ===== Nos exemplos acima, foi visto que em vários modelos a curva de verossimilhança perfilhada se mostrou problemática para vários parâmetros. Esse problema pode ser função do tipo de dado ou do tamanho da amostra. Vejamos um exemplo com os modelos de **//relação funcional não-linear//** para média. Para isso utilizaremos os dados do arquivo "''{{:biometria:verossim:egrandis.csv|egrandis.csv}}''" com dados de árvores de plantações de //Eucalyptus grandis// na região central do Estado de São Paulo. > euca.egr = read.table("egrandis.csv", header=T, as.is=TRUE, sep=";") > head( euca.egr ) > dim( euca.egr ) Ajustaremos o modelo não-linear do volume de madeira das árvores ("''vol''") em função do DAP ("''dap''") e altura ("''ht''"): $$ E[ vol ] = \exp( \beta_0 ) (dap)^{\beta_1} (ht)^{\beta_2} $$ $$ DP[ vol ] = \exp( \alpha_0 ) (dap^2 ht)^{\alpha_1} $$ Assumindo o conjunto de dados com sendo uma "população", vamos gerar //sub-//conjuntos de dados como sendo amostras de diferentes tamanhos: 100, 500 e 1000 árvores: > N = dim( euca.egr )[1] > egr.100 = euca.egr[ sample(1:N, 100), ] > egr.500 = euca.egr[ sample(1:N, 500), ] > egr.1000 = euca.egr[ sample(1:N, 1000), ] Definindo a função de log-verossimilhança negativa: > nllikGauss5.egr <- function(b0=-1.7, b1=2.44, b2=-0.097 , a0 = 1, a1 = 10) + { + m <- exp(b0) * dap^b1 * ht^b2 + s <- exp(a0)*(dap^2*ht)^a1 + -sum(stats::dnorm(x=vol, mean=m, sd=s,log=T)) + } Ajustando o modelo e gerando os perfis dos parâmetros para a amostra $$n = 100$$: > dap = egr.100$dap > ht = egr.100$ht > vol = egr.100$vol > gauss.100 = mle( nllikGauss5.egr ) > gauss.100.prof = profile( gauss.100 ) Ajustando o modelo e gerando os perfis dos parâmetros para a amostra $$n = 500$$: > dap = egr.500$dap > ht = egr.500$ht > vol = egr.500$vol > gauss.500 = mle( nllikGauss5.egr ) > gauss.500.prof = profile( gauss.500 ) > Ajustando o modelo e gerando os perfis dos parâmetros para a amostra $$n = 1000$$: > dap = egr.1000$dap > ht = egr.1000$ht > vol = egr.1000$vol > gauss.1000 = mle( nllikGauss5.egr ) > gauss.1000.prof = profile( gauss.1000 ) > Ajustando o modelo e gerando os perfis dos parâmetros para a "população" $$n = N$$: > dap = euca.egr$dap > ht = euca.egr$ht > vol = euca.egr$vol > gauss.euca = mle( nllikGauss5.egr ) > gauss.euca.prof = profile( gauss.euca ) Produzindo os gráficos do verossimilhança perfilhada para todos os parâmetros: > par(mfrow=c(2,3)) > plot.profmle( gauss.100.prof ) > par(mfrow=c(2,3)) > plot.profmle( gauss.500.prof ) > par(mfrow=c(2,3)) > plot.profmle( gauss.1000.prof ) > par(mfrow=c(2,3)) > plot.profmle( gauss.euca.prof ) Focalizando especificamente na MLE do parâmetro $$\beta_1$$ (segundo parâmetro): > par(mfrow=c(2,2)) > plot.profmle( gauss.100.prof , which=2); title(main="n=100") > plot.profmle( gauss.500.prof , which=2); title(main="n=500") > plot.profmle( gauss.1000.prof , which=2); title(main="n=1000") > plot.profmle( gauss.euca.prof , which=2); title(main="n=N") Focalizando especificamente na MLE do parâmetro $$\beta_2$$ (terceiro parâmetro): > par(mfrow=c(2,2)) > plot.profmle( gauss.100.prof , which=3); title(main="n=100") > plot.profmle( gauss.500.prof , which=3); title(main="n=500") > plot.profmle( gauss.1000.prof , which=3); title(main="n=1000") > plot.profmle( gauss.euca.prof , which=3); title(main="n=N") **Questões:** * Qual a influência do tamanho da amostra no valor da MLE obtida? * Qual a influência do tamanho da amostra sobre a curva de verossimilhança perfilhada? Como isso deve ser interpretado em termos de qualidade da estimatição? * A influência do tamanho da amostra é a mesma sobre as MLE de todos os parâmetros? ===== Modelo da ANOVA ===== Neste tutorial **opcional** descrevemos e ajustamos o modelo estatístico que está por trás da análise de variância. Usaremos os dados do exemplo 12.1 de Zar (1999) ((Zar, J.H. 1999. Biostatistical Analysis. $th Ed., Prentice Hall.)), que são medidas de concentração de cálcio plasmático em aves machos e fêmeas, metade das quais foi sorteada para receber um tratamento com um hormônio: calcium <- c(16.5,18.4,12.7,14,12.8, 14.5,11,10.8,14.3,10.0, 39.1,26.2,21.3,35.8,40.2, 32.0,23.8,28.8,25.0,29.3) hormonio <- factor(rep(c("NO","YES"),each=10)) sexo <- factor(rep(c("F","M","F","M"),c(5,5,5,5))) Este experimento tem dois fatores (sexo e tratamento com hormônio), cada um com dois níveis. Na abordagem de teste de significância, uma ANOVA é usada para testar as seguintes hipóteses nulas a respeito dos efeitos dos fatores sobre a variável resposta, que é a concentração de cálcio plasmático: - Não há efeito do sexo da ave; - Não há efeito do tratamento com o hormônio; - Não há interação entre os dois fatores acima. ==== Especificando o Modelo ==== Como todo teste de significância, a ANOVA tem um modelo subjacente, que fica evidente se lembramos de duas de suas premissas: - As amostras vêm de populações estatísticas com variâncias iguais; - As amostras vêm de populações estatísticas de medidas com distribuição normal. Portanto, a variável-resposta está descrita neste modelo como uma variável normal, cuja média é afetada pelos fatores, e a variância (e portanto o desvio-padrão) é constante. Como na variável normal média e desvio-padrão correspondem aos parâmetros, nosso modelo pode ser representado assim: $$ Y \ ~ \ N(\mu=f(X_i)\ , \ \sigma=c)$$ ==== Modelo de Médias ==== Uma das maneira de representar o efeito dos fatores sobre o valor esperado da variável-resposta é substituir $$\mu$$ na expressão acima pela média do grupo experimental de cada observação. Como temos um experimento com dois fatores de dois níveis cada, temos quatro grupos: > intval <- interaction(hormonio,sexo) > intval [1] NO.F NO.F NO.F NO.F NO.F NO.M NO.M NO.M NO.M NO.M YES.F YES.F [13] YES.F YES.F YES.F YES.M YES.M YES.M YES.M YES.M Levels: NO.F YES.F NO.M YES.M Cujas médias são: > medias <- tapply(calcium,intval,mean) > medias NO.F YES.F NO.M YES.M 14.88 32.52 12.12 27.78 Definindo $$Y_{ijcdot}$$ como os valores do grupo experimental definido pelo nível $$i$$ do primeiro fator e nível $$j$$ do segundo fator, nosso modelo torna-se: $$Y_{ijcdot}\ ~ \ N(\mu=E[Y_{ijcdot}]\ , \ \sigma=c)$$ Onde $$E[Y_{ijcdot}]$$ é o valor esperado, ou a média, de $$Y$$ em cada grupo. Podemos definir uma função de verossimilhança para este modelo da seguinte forma: LL.m3a <- function(NO.F,YES.F,NO.M,YES.M,sigma){ intval <- interaction(hormonio,sexo) media <- c(NO.F,YES.F,NO.M,YES.M)[intval] -sum(dnorm(calcium,mean=media,sd=sigma,log=T)) } Detalhes sobre esta função estão no fim desta seção. Agora podemos minimizar esta função com o ''mle2'', usando como valores iniciais as médias dos grupos e o desvio-padrão geral: library("bbmle") # carrega o pacote, desde que instalado m3a <- mle2(LL.m3a,start=c(as.list(medias),sigma=sd(calcium))) Os valores estimados das médias dos grupos correspondem aos valores iniciais, pois os MLEs das médias dos grupos são as médias amostrais: > coef(m3a) NO.F YES.F NO.M YES.M sigma 14.88000 32.52000 12.12000 27.78000 4.28002 > medias NO.F YES.F NO.M YES.M 14.88 32.52 12.12 27.78 Vamos inspecionar os perfis de verossimilhança destas estimativas, colocando-os todos no mesmo gráfico. Para isto baixe o código da função {{:biometria:verossim:plot-prof-aov.txt|plot.prof.aov}} para seu diretório de trabalho e carregue-o em sua área de trabalho: source("plot-prof-aov.txt") E agora podemos avaliar os perfis de verossimilhança dos valores esperados para cada grupo com m3a.prof <- profile(m3a) plot.prof.aov(m3a.prof,which=1:4) Os intervalos de plausibilidade de machos e fêmeas sob o mesmo tratamento de hormônio estão sobrepostos, sugerindo que não haja efeito do sexo, apenas da aplicação do hormônio. Para avaliar isto ajustamos um novo modelo, sem efeito do sexo: ##função de verossimilhança LL.m2a <- function(NO,YES,sigma){ media <- c(NO,YES)[hormonio] -sum(dnorm(calcium,mean=media,sd=sigma,log=T)) } ##Ajuste m.horm <- tapply(calcium,hormonio,mean) m2a <- mle2(LL.m2a,start=list(NO=m.horm[1],YES=m.horm[2],sigma=sd(calcium))) Os valores estimados correspondem às médias dos grupos: > m.horm NO YES 13.50 30.15 > coef(m2a) NO YES sigma 13.49998 30.14997 4.69880 Não há sobreposição nos intervalos, indicando diferenças nos valores esperados das concentrações de cálcio dos dois grupos, segundo este modelo: m2a.prof <- profile(m2a) plot.prof.aov(m2a.prof,which=1:2) Vamos ainda considerar um modelo mais simples, que descreve a hipótese nula de ausência de efeitos dos dois fatores: LL.m1a <- function(media,sigma){ -sum(dnorm(calcium,mean=media,sd=sigma,log=T)) } m1a <- mle2(LL.m1a,start=list(media=mean(calcium),sigma=sd(calcium))) Os resultados anteriores indicam um efeito do hormônio. Mas para representar com modelos todas as hipóteses da ANOVA vamos também ajustar o modelo apenas com efeito do sexo: LL.m4a <- function(F,M,sigma){ media <- c(F,M)[sexo] -sum(dnorm(calcium,mean=media,sd=sigma,log=T)) } m.sexo <- tapply(calcium,sexo,mean) m4a <- mle2(LL.m4a,start=list(F=m.sexo[1],M=m.sexo[2],sigma=sd(calcium))) E agora comparamos os quatro modelos com o AIC corrigido para pequenas amostras: > AICctab(m1a,m2a,m3a,m4a,delta=T,sort=T,weights=T, nobs=length(calcium)) AICc df dAICc weight m2a 126.2 3 0.0 0.821 m3a 129.2 5 3.1 0.179 m1a 151.8 2 25.6 <0.001 m4a 153.8 3 27.6 <0.001 O modelo mais plausível é o que descreve as medidas de cálcio como variáveis aleatórias com valores esperados diferentes para o grupo controle e o que recebeu hormônio. Isto indica que não há efeito do sexo nem da interação entre sexo e hormônio. O teste F aponta para a mesma conclusão: > summary(aov(calcium~hormonio*sexo)) Df Sum Sq Mean Sq F value Pr(>F) hormonio 1 1386.11 1386.11 60.5336 7.943e-07 *** sexo 1 70.31 70.31 3.0706 0.09886 . hormonio:sexo 1 4.90 4.90 0.2140 0.64987 Residuals 16 366.37 22.90 --- Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1 == Um modelo que não está na ANOVA == Podemos ir além da ANOVA não só explicitando os modelos que ela usa, como também propondo novos. Por exemplo, podemos investigar a premissa de igualdade de variâncias com um modelo em que cada nível do fator hormônio pode ter um desvio-padrão diferente: ## Função para calculo do MLE do desvio-padrão sd.mle <- function(x){sqrt((var(x)*(length(x)-1))/length(x))} ## MLEs dos desvios de cada grupo sigma.horm <- tapply(calcium,hormonio,sd.mle) ##Função de verossimilhança LL.m5a <- function(NO,YES,sigma.NO,sigma.YES){ media <- c(NO,YES)[hormonio] sigma <- c(sigma.NO,sigma.YES)[hormonio] -sum(dnorm(calcium,mean=media,sd=sigma,log=T)) } ## Ajuste do modelo m5a <- mle2(LL.m5a,start=list(NO=m.horm[1], YES=m.horm[2], sigma.NO=sigma.horm[1], sigma.YES=sigma.horm[2])) Os valores estimados dos parâmetros correspondem às estimativas obtidas das amostras, que foram usadas como valores iniciais no ajuste: > coef(m5a) NO YES sigma.NO sigma.YES 13.500000 30.150000 2.486367 6.162533 > m.horm NO YES 13.50 30.15 > sigma.horm NO YES 2.486363 6.162508 E os perfis de verossimilhança mostram que a precisão das estimativas das médias melhorou um pouco m5a.prof <- profile(m5a) plot.prof.aov(m5a.prof,which=1:2) E que os intervalos de plausibilidade para as estimativas dos desvios-padrão estão ligeiramente sobrepostos: plot.prof.aov(m5a.prof,which=3:4,legenda="bottomright") Apesar disto, o AICc indica que este modelo é mais plausível do que o anteriormente selecionado: > AICctab(m1a,m2a,m3a,m4a,m5a,delta=T,sort=T,weights=T, nobs=length(calcium)) AICc df dAICc weight m5a 122.0 4 0.0 0.8668 m2a 126.2 3 4.1 0.1094 m3a 129.2 5 7.2 0.0238 m1a 151.8 2 29.8 <0.001 m4a 153.8 3 31.8 <0.001 == Sobre as funções de verossimilhança deste tutorial == Neste tutorial criamos funções de verossimilhança no R para modelos que têm fatores como variáveis preditoras como proposto no capítulo 9 de Bolker (2008)((Bolker, B. (2008). Ecological Models and Data in R. Princeton, Princeton University Press.)). A ideia é usar a indexação para criar um vetor que indica um valor esperado diferente para cada grupo. Nesta função, o valor do argumento ''mean'' da função de densidade da normal é substituído por quatro parâmetros (''NO.F'',''YES.F'',''NO.M'',''YES.M''), que representam os valores esperados de cada grupo experimental. Isto é feito na terceira linha da função: media <- c(NO.F,YES.F,NO.M,YES.M)[intval]'' Para entender como isto funciona, veja o que ocorre com os comandos: intval <- interaction(hormonio,sexo) intval medias <- tapply(calcium,intval,mean) medias medias[intval] data.frame(hormonio,sexo,calcium,medias[intval]) ==== Modelos de Efeitos ==== Uma outra maneira de parametrizar o modelo da ANOVA é definir $$\mu$$ como uma relação linear: $$\mu \ = \ a + b_1X_1 + b_2X_2 + b_3X_1X_2$$ Onde a variável preditora $$X_1$$ é o fator hormônio, com valor $$X_1=0$$ para as aves que não receberam hormônio, e $$X_1=1$$ para as que receberam. Da mesma forma, $$X_2=0$$ para fêmeas $$X_2=1$$ para machos. Desta maneira, o valor esperado para as fêmeas que não receberam o hormônio será o intercepto da equação linear: $$\mu_{F.N} \ = \ a \ + \ b_1 times 0 \ + \ b_2 times 0 \ + \ b_3 times 0 times 0 = a$$ Do mesmo modo, o valor esperado para fêmeas que receberam hormônio será $$\mu_{F.Y} \ = \ a \ + \ b_1 times 1 \ + \ b_2 times 0 \ + \ b_3 times 1 times 0 = a + b_1$$ Portanto $$b_1$$ representa a diferença entre a média das fêmeas que não receberam o hormônio e a das fêmeas que receberam. Em outras palavras, é o quanto o tratamento com hormônio acrescenta ao valor esperado, ou o **efeito** deste tratamento. Da mesma forma, $$b_2$$ é o efeito do sexo masculino. Por fim, o parâmetro $$b_3$$ permite que o efeito dos dois fatores combinados seja diferente da soma dos efeitos de cada fator, o que configura uma interação entre fatores: $$\mu_{M.Y} \ = \ a + b_1+b_2+b_3$$ Para ajustar este modelo no R usamos: ## Diferencas entre as medias d.horm <- diff(m.sexo) d.sexo <- diff(m.horm) ##Função de verossimilhança LL.m3b <- function(intercepto,e.horm,e.sex,int,sigma){ media <- intercepto+e.horm*(hormonio=="YES")+e.sex*(sexo=="M")+ int*(hormonio=="YES"&sexo=="M") -sum(dnorm(calcium,mean=media,sd=sigma,log=T)) } ##Ajuste do modelo m3b <- mle2(LL.m3b,start=list(intercepto=mean(calcium[hormonio=="NO"&sexo=="F"]), e.horm=d.horm,e.sex=d.sexo,int=0, sigma=sd(calcium))) Neste tipo de modelo, se um intervalo de verossimilhança de um parâmetro inclui o zero, é plausível que este efeito seja nulo. Verifique isto para o modelo ajustado acima com: m3b.prof <- profile(m3b) par(mfrow=c(3,2)) plot.profmle(m3b.prof) A conclusões são coerentes com as obtidas com a parametrização anterior? Vamos comparar os MLEs dos mesmos modelos com os dois tipos de parametrização: > cf.m3b <- coef(m3b) > cf.m3b intercepto e.horm e.sex int sigma 14.880142 17.639741 -2.760148 -1.979652 4.280016 Para fêmeas que receberam hormônio, o modelo de efeitos prevê um valor esperado de > as.numeric(cf.m3b[1]+cf.m3b[2]) [1] 32.51988 Você vê a correspondência entre os dois modelos? Compare com as estimativas dos parâmetros obtidas para o mesmo modelo, na seção anterior: > cf.m3a <- coef(m3a) > cf.m3a NO.F YES.F NO.M YES.M sigma 14.88000 32.52000 12.12000 27.78000 4.28002 === Efeitos em Modelos no R === A parametrização dos modelos como efeitos aditivos que descrevemos acima é a usada no R para modelos lineares com variáveis preditoras contínuas ou categóricas não ordenadas. Verifique isto comparando os coeficientes obtidos acima para o modelo com interação com os obtidos com summary(lm(calcium~hormonio*sexo)) === Notação de Fórmula da mle2 === A função ''mle2'' aceita a mesma notação de [[http://ecologia.ib.usp.br/bie5782/doku.php?id=bie5782:03_apostila:06-modelos#a_fun%C3%A7%C3%A3o_lm|fórmula estatística do R]], como usado no comando ''lm'' acima. Compare os resultados dos ajustes do modelo com interação com este novo modelo: m3c <- mle2(calcium~dnorm(mean=media, sd=sigma), parameters=list(media~hormonio*sexo,sigma~1), start=list(media=mean(calcium),sigma=sd(calcium))) ===== Exercícios ===== ==== Biomassa de Eucalyptus ==== Procure refazer os passos apresentados no tutorial para outras variáveis de biomassa das árvores (presentes no mesmo conjunto de dados): * ''tronco'' - biomassa do tronco das árvores: * ''folha'' - biomassa das folhas das árvores. ==== Análise de Variância ==== - Ajuste todos os modelos da primeira seção do tutorial sobre ANOVA usando a notação de fórmula estatística da função ''mle2''. - Use estes modelos ajustados para refazer a seleção de modelos com o AIC corrigido para pequenas amostras. ===== Resumo da Aula ===== * {{biometria:verossim:modelos_gauss.pdf|Slides da Aula de 2007}} * Batista, J.L.F. (2009). Inferência em Recursos Florestais e Ecologia: A Abordagem da Verossimilhança. Resumo de Palestra, Eslaq, Piracicaba. {{:biometria:verossim:palestra-verossim-2008.pdf|pdf}}. A Aula de 2009 segue basicamente o roteiro desta palestra. ===== Pesquisa ===== Indique os itens do tutorial e do texto prioritários para a discussão [[http://ecologia.ib.usp.br/bie5782/doku.php?id=modelos:pesquisa1#modelos_gaussianos|aqui]] =====