Center for Quantitative Methods
Erasmus Medical Center
31 October 2018
“Why can’t I just use MICE?”
Well, you can use MICE, …
… and in standard settings it usually works well, …
… but there are settings in which it doesn’t!
Then (naive) use of MICE leads to
- violation of assumptions
- invalid imputations
- biased results
Example: Quadratic effect
Consider an analysis model \(\quad y = \beta_0 + \beta_1 x + \boldsymbol{\beta_2 x^2} + \ldots\)
Example: Quadratic effect
MICE uses a linear relation when imputing \(x\): \(\quad x = \theta_{10} + \theta_{11} y + \ldots\)
Example: Quadratic effect
severely biased results
Example: Interaction Effects
Another example: non-linear relationship due to interaction term \[y = \beta_0 + \beta_x x + \beta_z z + \boldsymbol{\beta_{xz} xz} + \ldots\]
Example: Interaction Effects
Again: MICE assumes a linear relation between \(x\) and \(y\) in the imputation model \[x = \theta_{10} + \theta_{11} y + \theta_{12} z + \ldots\]
Example: Interaction Effects
severely biased estimates
Example: Longitudinal data
| ID | y | x1 | x2 | x3 | x4 | time |
|---|---|---|---|---|---|---|
| 5 | NA | |||||
| 5 | NA | |||||
| 5 | NA | |||||
| 5 | NA | |||||
| 6 | NA | NA | ||||
| 6 | NA | NA | ||||
| 6 | NA | NA | ||||
| 8 | NA | |||||
| 8 | NA | |||||
| 8 | NA | |||||
| 18 | NA | |||||
| 18 | NA | |||||
| 18 | NA | |||||
| 18 | NA | |||||
Here, \(x_1, \ldots, x_4\) are baseline covariates, i.e., not measured repeatedly.
Example: Longitudinal data
Imputation in long format
- regards each row as independent,
- may cause bias
- and inconsistent imputations.
| ID | y | x1 | x2 | x3 | x4 | time |
|---|---|---|---|---|---|---|
| 5 | boy | |||||
| 5 | girl | |||||
| 5 | girl | |||||
| 5 | girl | |||||
| 6 | girl | high | ||||
| 6 | girl | mid | ||||
| 6 | girl | high | ||||
| 8 | 37.22 | |||||
| 8 | 37.71 | |||||
| 8 | 41.37 | |||||
| 18 | boy | |||||
| 18 | boy | |||||
| 18 | boy | |||||
| 18 | boy | |||||
Example: Longitudinal data
Estimates can be severely biased.
## Warning in checkConv(attr(opt, "derivs"), opt$par, ctrl = ## control$checkConv, : Model failed to converge with max|grad| = 0.00609238 ## (tol = 0.002, component 1)
Example: Longitudinal data
Sometimes imputation in wide format may be possible. 
Example: Longitudinal data
| id | y.1 | y.3 | y.5 | y.7 | y.9 | time.1 | time.3 | time.5 | time.7 | time.9 | … |
|---|---|---|---|---|---|---|---|---|---|---|---|
| 5 | NA | NA | … | ||||||||
| 6 | NA | NA | NA | NA | … | ||||||
| 8 | NA | NA | NA | NA | … | ||||||
| 18 | NA | NA | … | ||||||||
| \(\ddots\) |
In wide format:
- missing values in outcome and measurement times need to be imputed
(to be used as predictors in imputation of covariates) - Very inefficient in for unbalanced data!
Example: Longitudinal data
Better, but very large confidence intervals
How is JointAI different?
JointAI is fully Bayesian
Bayes theorem: \[ p(\boldsymbol\theta\mid \mathbf y, \mathbf X) \propto \underset{\text{joint distribution}}{\underbrace{p(\mathbf y, \mathbf X \mid \boldsymbol\theta)}}\,p(\boldsymbol\theta)\]
In JointAI the joint distribution is specified directly.
- imputation models are derived from the joint distribution
- imputation models are always compatible with the analysis model
- imputation models are also compatible with each other
- the outcome is included appropriately
It’s a theoretically valid approach!
Sequential specification
\[ \underset{\text{joint distribution}}{\underbrace{p(\mathbf y, \mathbf X_{obs}, \mathbf X_{mis} \mid \boldsymbol\theta)}} = \underset{\text{analysis model}}{\underbrace{p(\mathbf y \mid \mathbf X_{obs}, \mathbf X_{mis}, \boldsymbol\theta_{y\mid x})}}\; \underset{\text{imputation part}}{\underbrace{p(\mathbf X_{mis} \mid \mathbf X_{obs}, \boldsymbol \theta_x)}} \]
Imputation part:
\[ \begin{eqnarray*} p(\mathbf x_{mis_1}, \ldots, \mathbf x_{mis_q} \mid \mathbf X_{obs}, \boldsymbol\theta_{x}) & = & p(\mathbf x_{mis_1} \mid \mathbf X_{obs}, \boldsymbol\theta_{x_1})\\ & & p(\mathbf x_{mis_2} \mid \mathbf X_{obs}, \mathbf x_{mis_1}, \boldsymbol\theta_{x_2})\\ & & p(\mathbf x_{mis_3} \mid \mathbf X_{obs}, \mathbf x_{mis_1}, \mathbf x_{mis_2}, \boldsymbol\theta_{x_3})\\ & & \vdots \end{eqnarray*} \]
flexible specification (according to the type of each variable)
no pooling necessary
Workflow inside JointAI
How to use JointAI
How to get JointAI and where to get help
Install JointAI from CRAN or from GitHub:
devtools::install_github(repo = 'JointAI', user = 'NErler')
The place to start in the help file:
??JointAI::JointAI
Check out the webpage:
https://nerler.github.io/JointAI/
Three main functions
Linear regression:
lm_imp(formula, data, n.iter, ...) # like lm() from base R
Generalized linear regression:
glm_imp(formula, data, family, n.iter, ...) # like glm() from base R
Linear mixed effects regression:
lme_imp(fixed, random, data, n.iter, ...) # like lme() from nlme
Minimal Example
library(JointAI)
lm1 <- lm_imp(SBP ~ gender + age + WC + alc + educ + bili,
data = NHANES, n.iter = 500)
## This is new software. Please report any bugs to the package maintainer.
Minimal Example
traceplot(lm1, ncol = 4, nrow = 2)
Minimal Example
traceplot(lm1, ncol = 4, nrow = 2, col = c('yellow', 'grey', 'black'))
Minimal Example
summary(lm1)
## ## Linear model fitted with JointAI ## ## Call: ## lm_imp(formula = SBP ~ gender + age + WC + alc + educ + bili, ## data = NHANES, n.iter = 500) ## ## Posterior summary: ## Mean SD 2.5% 97.5% tail-prob. GR-crit ## (Intercept) 87.970 8.9408 69.7345 105.272 0.00000 1.012 ## genderfemale -3.443 2.2095 -7.8257 0.913 0.11600 1.013 ## age 0.331 0.0702 0.1964 0.479 0.00000 1.024 ## educhigh -2.926 2.1276 -7.1850 1.230 0.17867 0.999 ## WC 0.227 0.0746 0.0833 0.371 0.00533 1.002 ## bili -5.113 4.7919 -14.9159 3.985 0.29867 1.025 ## alc>=1 6.443 2.3867 1.7460 11.157 0.00800 1.001 ## ## Posterior summary of residual std. deviation: ## Mean SD 2.5% 97.5% GR-crit ## sigma_SBP 13.6 0.739 12.1 15 1.01 ## ## ## MCMC settings: ## Iterations = 101:600 ## Sample size per chain = 500 ## Thinning interval = 1 ## Number of chains = 3 ## ## Number of observations: 186
Model formula
The model formula may contain
- interaction terms
- non-linear functional forms (available in JAGS), e.g.
log(),exp(),abs(),sin(), polynomials usingI(), …
Examples:
mod3a <- lm_imp(SBP ~ (age + gender + abs(bili - creat))^2, data = NHANES)
library(splines) mod3b <- lm_imp(SBP ~ ns(age, df = 2) + gender + I(bili^2) + I(bili^3), data = NHANES)
mod3c <- lm_imp(SBP ~ age + gender + I(creat/albu^2), data = NHANES)
Functions with restricted support
Example: log(x) is only defined for \(x > 0\)
distribution used to impute x needs to comply with this restriction
Truncate the distribution using the argument trunc:
mod4a <- lm_imp(SBP ~ age + gender + log(bili) + exp(creat),
trunc = list(bili = c(1e-5, 1e10)), data = NHANES)Use an imputation method that meets the restrictions:
mod4b <- lm_imp(SBP ~ age + gender + log(bili) + exp(creat),
meth = c(bili = 'lognorm', creat = 'norm'), data = NHANES)
mod4c <- lm_imp(SBP ~ age + gender + log(bili) + exp(creat),
meth = c(bili = 'gamma', creat = 'norm'), data = NHANES)Model formula
Also possible
- nested functions, e.g.,
log(abs(bili)) - for complete covariates: functions available in R but not in JAGS
- multiple random effects, e.g.
random = ~ time + session | id
Not (yet) possible
- functions of incomplete variables not available in JAGS (e.g. splines)
- imputation of longitudinal covariates
- multiple nesting levels for random effects (crossed or nested)
Imputation model types (and order)
- argument
meth - chosen automatically based on the variable type
default normlinear regression continuous variables logitlogistic regression factors with two levels multilogitmultinomial logit model unordered factors; >2 levels cumlogitcumulative logit model ordered factors; >2 levels additional lognormnormal model for log-transformed variable right-skewed variables >0 gammaGamma regression (log-link) right-skewed variables >0 betabeta regression (logit-link) continuous variables in [0, 1]
Imputation model types (and order)
lm0 <- lm_imp(SBP ~ age + gender + log(bili) + occup + smoke, n.iter = 0, n.adapt = 0,
data = NHANES, mess = FALSE)
(meth <- lm0$meth)
## smoke bili occup ## "cumlogit" "norm" "multilogit"
meth['bili'] <- 'gamma' lm_new <- update(lm0, meth = meth, n.iter = 100, n.adapt = 100) lm_new$meth
## smoke bili occup ## "cumlogit" "gamma" "multilogit"
Imputation model types (and order)
Get information on the imputation models used in a JointAI object:
list_impmodels(lm_new)
## Cumulative logit imputation model for 'smoke' ## * Reference category: 'never' ## * Predictor variables: ## age, genderfemale ## * Regression coefficients (without intercept): ## alpha[1:2] (normal prior(s) with mean 0 and precision 0.001) ## * Intercepts: ## - never: gamma_smoke[1] (normal prior with mean 0 and precision 0.001) ## - former: gamma_smoke[2] = gamma_smoke[1] + exp(delta_smoke[1]) ## * Increments: ## delta_smoke[1] (normal prior(s) with mean 0 and precision 0.001) ## ## Gamma imputation model for 'bili' ## * Parametrization: ## - shape: shape_bili = mu_bili^2 * tau_bili ## - rate: rate_bili = mu_bili * tau_bili ## * Predictor variables: ## (Intercept), age, genderfemale, smokeformer, smokecurrent ## * Regression coefficients: ## alpha[3:7] (normal prior(s) with mean 0 and precision 1e-04) ## * Pecision of 'bili': ## tau_bili (Gamma prior with scale parameter 0.01 and rate parameter 0.01) ## ## Multinomial logit imputation model for 'occup' ## * Reference category: 'working' ## * Predictor variables: ## (Intercept), age, genderfemale, smokeformer, smokecurrent, bili ## * Regression coefficients: ## - 'occuplooking for work': alpha[8:13] (normal prior(s) with mean 0 and precision 0.001) ## - 'occupnot working': alpha[14:19] (normal prior(s) with mean 0 and precision 0.001)
Reference categories
- argument
refcats - set globally:
refcats = "first"(or"last", or"largest") - set for each variable
- use the key words
- specify the category label
- specify the category level
Or use
set_refcats(NHANES, formula, covars, auxvars)
Auxiliary variables
Variables that
- are not part of the analysis model
- contain information on missing values
- are associated with the missingness or the missing values
- are (mostely) complete
In JointAI: argument auxvars
mod9a <- lm_imp(SBP ~ gender + age + occup, auxvars = c('educ', 'smoke'),
data = NHANES, n.iter = 100)
Auxiliary variables
- regression coefficients for
auxvarsare set to zero in the analysis model - are omitted from the model summary
summary(mod9a)
##
## Linear model fitted with JointAI
##
## Call:
## lm_imp(formula = SBP ~ gender + age + occup, data = NHANES, n.iter = 100,
## auxvars = c("educ", "smoke"))
##
## Posterior summary:
## Mean SD 2.5% 97.5% tail-prob. GR-crit
## (Intercept) 105.437 3.5650 99.050 112.509 0.0000 1.015
## genderfemale -5.433 2.0859 -9.967 -1.540 0.0133 1.011
## age 0.377 0.0803 0.216 0.519 0.0000 1.032
## occuplooking for work 4.080 6.5764 -9.053 18.224 0.5333 1.014
## occupnot working -0.566 2.7217 -5.614 4.756 0.8667 0.998
##
## Posterior summary of residual std. deviation:
## Mean SD 2.5% 97.5% GR-crit
## sigma_SBP 14.4 0.742 13 15.9 1.05
##
##
## MCMC settings:
## Iterations = 101:200
## Sample size per chain = 100
## Thinning interval = 1
## Number of chains = 3
##
## Number of observations: 186Auxiliary variables
They are, however, used as predictors in the imputation for occup and imputed themselves (if they have missing values):
list_impmodels(mod9a, priors = FALSE, regcoef = FALSE, otherpars = FALSE, refcat = FALSE)
## Cumulative logit imputation model for 'smoke' ## * Predictor variables: ## genderfemale, age, educhigh ## ## Multinomial logit imputation model for 'occup' ## * Predictor variables: ## (Intercept), genderfemale, age, educhigh, smokeformer, smokecurrent
MCMC settings
(Mostly) as in rjags:
n.adapt: iterations in adaptive phasen.iter: iterations in sampling phasethin: thinning intervalmonitor_params: parameters/nodes to be monitoredinits: initial valuesquiet: suppres printing of informationprogress.bar: type of progress bar
Parameter selection
analysis_main
|
betas, tau_y and sigma_y (and D)
|
betas
|
regression coefficients of the analysis model |
tau_y
|
precision of the residuals from the analysis model |
sigma_y
|
standard deviation of the residuals from the analysis model |
analysis_random
|
ranef, D, invD, RinvD
|
ranef
|
random effects |
D
|
covariance matrix of the random effects |
invD
|
inverse of D
|
RinvD
|
scale matrix in Wishart prior for invD |
imp_pars
|
alphas, tau_imp, gamma_imp, delta_imp
|
alphas
|
regression coefficients in the imputation models |
tau_imp
|
precision parameters of the residuals from imputation models |
gamma_imp
|
intercepts in ordinal imputation models |
delta_imp
|
increments of ordinal intercepts |
imps
|
imputed values |
other
|
additional parameters |
Parameter selection
- vector or list of key words that are switched on (
TRUE) or off (FALSE) - default:
monitor_params = c(analysis_main = TRUE)
parameters of the imputation:
mod13c <- lm_imp(SBP ~ age + WC + alc + smoke + occup, data = NHANES, n.adapt = 0,
monitor_params = c(imp_pars = TRUE))
parameters(mod13c)
## [1] "(Intercept)" "age" ## [3] "WC" "smokeformer" ## [5] "smokecurrent" "occuplooking for work" ## [7] "occupnot working" "alc>=1" ## [9] "sigma_SBP" "alpha" ## [11] "tau_WC" "gamma_smoke" ## [13] "delta_smoke"
Parameter selection
imputed values:
mod13b <- lm_imp(SBP ~ age + WC + alc + smoke + occup, data = NHANES, n.adapt = 0,
monitor_params = c(imps = TRUE, analysis_main = FALSE))
parameters(mod13b)
## [1] "Xc[33,3]" "Xc[150,3]" "Xc[1,8]" "Xc[7,8]" "Xc[8,8]" ## [6] "Xc[12,8]" "Xc[13,8]" "Xc[21,8]" "Xc[22,8]" "Xc[31,8]" ## [11] "Xc[33,8]" "Xc[34,8]" "Xc[39,8]" "Xc[49,8]" "Xc[66,8]" ## [16] "Xc[67,8]" "Xc[80,8]" "Xc[86,8]" "Xc[91,8]" "Xc[92,8]" ## [21] "Xc[105,8]" "Xc[111,8]" "Xc[115,8]" "Xc[118,8]" "Xc[120,8]" ## [26] "Xc[127,8]" "Xc[132,8]" "Xc[139,8]" "Xc[146,8]" "Xc[149,8]" ## [31] "Xc[152,8]" "Xc[163,8]" "Xc[165,8]" "Xc[169,8]" "Xc[180,8]" ## [36] "Xc[185,8]" "Xcat[6,1]" "Xcat[16,1]" "Xcat[24,1]" "Xcat[27,1]" ## [41] "Xcat[45,1]" "Xcat[57,1]" "Xcat[58,1]" "Xcat[60,1]" "Xcat[61,1]" ## [46] "Xcat[65,1]" "Xcat[66,1]" "Xcat[70,1]" "Xcat[80,1]" "Xcat[81,1]" ## [51] "Xcat[85,1]" "Xcat[88,1]" "Xcat[89,1]" "Xcat[90,1]" "Xcat[101,1]" ## [56] "Xcat[104,1]" "Xcat[116,1]" "Xcat[133,1]" "Xcat[137,1]" "Xcat[143,1]" ## [61] "Xcat[168,1]" "Xcat[170,1]" "Xcat[180,1]" "Xcat[186,1]" "Xcat[16,2]" ## [66] "Xcat[99,2]" "Xcat[123,2]" "Xcat[156,2]" "Xcat[158,2]" "Xcat[166,2]" ## [71] "Xcat[172,2]"
Parameter selection
random effects model / switching unwanted parts off:
mod13g <- lme_imp(bmi ~ age + EDUC, random = ~age|ID, data = simLong, n.adapt = 0,
monitor_params = c(analysis_main = TRUE, analysis_random = TRUE,
RinvD = FALSE, ranef = FALSE))
parameters(mod13g)
## [1] "(Intercept)" "EDUCmid" "EDUClow" "age" "sigma_bmi" ## [6] "invD[1,1]" "invD[1,2]" "invD[2,2]" "D[1,1]" "D[1,2]" ## [11] "D[2,2]"
Parameter selection
other parameters:
mod13h <- lm_imp(SBP ~ gender + WC + alc + creat, data = NHANES, n.adapt = 0,
monitor_params = list(analysis_main = FALSE,
other = c('p_alc[1:3]', "mu_creat[1]")))
parameters(mod13h)
## [1] "p_alc[1:3]" "mu_creat[1]"
Initial values
Can be specified as
inits = TRUE: initial values created by JointAIinits = FALSE: initial values created by JAGSinits = <list of lists>inits = <function returning a list>
- can be specified for any unobserved stochastic node
- in the format of that node in the JAGS model
- contain
NAfor observed values
Initial values
How does a list of inital values need to look like?
mod4c <- lme_imp(bmi ~ time + HEIGHT_M + hc + SMOKE, random = ~ time | ID,
data = simLong)
coef(mod4c$model)
## $RinvD ## [,1] [,2] ## [1,] 0.1517049 NA ## [2,] NA 0.6006336 ## ## $Xc ## [,1] [,2] [,3] [,4] ## [1,] NA NA NA NA ## [2,] NA NA NA NA ## [3,] NA NA NA NA ## [4,] NA NA NA NA ## [5,] NA NA NA NA ## [6,] NA NA NA NA ## [7,] NA NA NA NA ## [8,] NA NA NA NA ## [9,] NA NA NA NA ## [10,] NA NA NA NA ## [11,] NA 0.64392961 NA NA ## [12,] NA NA NA NA ## [13,] NA NA NA NA ## [14,] NA NA NA NA ## [15,] NA NA NA NA ## [16,] NA NA NA NA ## [17,] NA NA NA NA ## [18,] NA NA NA NA ## [19,] NA NA NA NA ## [20,] NA NA NA NA ## [21,] NA NA NA NA ## [22,] NA NA NA NA ## [23,] NA NA NA NA ## [24,] NA NA NA NA ## [25,] NA NA NA NA ## [26,] NA NA NA NA ## [27,] NA NA NA NA ## [28,] NA NA NA NA ## [29,] NA NA NA NA ## [30,] NA NA NA NA ## [31,] NA NA NA NA ## [32,] NA NA NA NA ## [33,] NA NA NA NA ## [34,] NA NA NA NA ## [35,] NA NA NA NA ## [36,] NA NA NA NA ## [37,] NA -0.25461514 NA NA ## [38,] NA NA NA NA ## [39,] NA NA NA NA ## [40,] NA NA NA NA ## [41,] NA NA NA NA ## [42,] NA NA NA NA ## [43,] NA NA NA NA ## [44,] NA NA NA NA ## [45,] NA NA NA NA ## [46,] NA NA NA NA ## [47,] NA NA NA NA ## [48,] NA NA NA NA ## [49,] NA NA NA NA ## [50,] NA NA NA NA ## [51,] NA NA NA NA ## [52,] NA NA NA NA ## [53,] NA NA NA NA ## [54,] NA NA NA NA ## [55,] NA NA NA NA ## [56,] NA NA NA NA ## [57,] NA NA NA NA ## [58,] NA NA NA NA ## [59,] NA NA NA NA ## [60,] NA NA NA NA ## [61,] NA NA NA NA ## [62,] NA NA NA NA ## [63,] NA NA NA NA ## [64,] NA NA NA NA ## [65,] NA NA NA NA ## [66,] NA NA NA NA ## [67,] NA NA NA NA ## [68,] NA NA NA NA ## [69,] NA NA NA NA ## [70,] NA NA NA NA ## [71,] NA NA NA NA ## [72,] NA NA NA NA ## [73,] NA NA NA NA ## [74,] NA NA NA NA ## [75,] NA NA NA NA ## [76,] NA NA NA NA ## [77,] NA NA NA NA ## [78,] NA 0.66417014 NA NA ## [79,] NA NA NA NA ## [80,] NA NA NA NA ## [81,] NA NA NA NA ## [82,] NA NA NA NA ## [83,] NA NA NA NA ## [84,] NA NA NA NA ## [85,] NA NA NA NA ## [86,] NA NA NA NA ## [87,] NA NA NA NA ## [88,] NA NA NA NA ## [89,] NA NA NA NA ## [90,] NA NA NA NA ## [91,] NA -0.86722970 NA NA ## [92,] NA NA NA NA ## [93,] NA NA NA NA ## [94,] NA NA NA NA ## [95,] NA NA NA NA ## [96,] NA NA NA NA ## [97,] NA NA NA NA ## [98,] NA NA NA NA ## [99,] NA NA NA NA ## [100,] NA NA NA NA ## [101,] NA NA NA NA ## [102,] NA NA NA NA ## [103,] NA NA NA NA ## [104,] NA NA NA NA ## [105,] NA NA NA NA ## [106,] NA NA NA NA ## [107,] NA NA NA NA ## [108,] NA NA NA NA ## [109,] NA NA NA NA ## [110,] NA NA NA NA ## [111,] NA NA NA NA ## [112,] NA NA NA NA ## [113,] NA NA NA NA ## [114,] NA NA NA NA ## [115,] NA NA NA NA ## [116,] NA NA NA NA ## [117,] NA NA NA NA ## [118,] NA NA NA NA ## [119,] NA NA NA NA ## [120,] NA NA NA NA ## [121,] NA NA NA NA ## [122,] NA NA NA NA ## [123,] NA NA NA NA ## [124,] NA NA NA NA ## [125,] NA NA NA NA ## [126,] NA NA NA NA ## [127,] NA NA NA NA ## [128,] NA NA NA NA ## [129,] NA NA NA NA ## [130,] NA NA NA NA ## [131,] NA NA NA NA ## [132,] NA NA NA NA ## [133,] NA NA NA NA ## [134,] NA NA NA NA ## [135,] NA NA NA NA ## [136,] NA NA NA NA ## [137,] NA -0.11265924 NA NA ## [138,] NA NA NA NA ## [139,] NA -0.03079581 NA NA ## [140,] NA NA NA NA ## [141,] NA NA NA NA ## [142,] NA NA NA NA ## [143,] NA NA NA NA ## [144,] NA NA NA NA ## [145,] NA NA NA NA ## [146,] NA NA NA NA ## [147,] NA NA NA NA ## [148,] NA NA NA NA ## [149,] NA NA NA NA ## [150,] NA NA NA NA ## [151,] NA NA NA NA ## [152,] NA NA NA NA ## [153,] NA NA NA NA ## [154,] NA NA NA NA ## [155,] NA NA NA NA ## [156,] NA NA NA NA ## [157,] NA NA NA NA ## [158,] NA NA NA NA ## [159,] NA NA NA NA ## [160,] NA NA NA NA ## [161,] NA NA NA NA ## [162,] NA NA NA NA ## [163,] NA NA NA NA ## [164,] NA NA NA NA ## [165,] NA NA NA NA ## [166,] NA NA NA NA ## [167,] NA NA NA NA ## [168,] NA NA NA NA ## [169,] NA NA NA NA ## [170,] NA NA NA NA ## [171,] NA NA NA NA ## [172,] NA NA NA NA ## [173,] NA NA NA NA ## [174,] NA NA NA NA ## [175,] NA NA NA NA ## [176,] NA NA NA NA ## [177,] NA NA NA NA ## [178,] NA NA NA NA ## [179,] NA NA NA NA ## [180,] NA NA NA NA ## [181,] NA NA NA NA ## [182,] NA NA NA NA ## [183,] NA NA NA NA ## [184,] NA NA NA NA ## [185,] NA NA NA NA ## [186,] NA NA NA NA ## [187,] NA NA NA NA ## [188,] NA NA NA NA ## [189,] NA NA NA NA ## [190,] NA NA NA NA ## [191,] NA NA NA NA ## [192,] NA NA NA NA ## [193,] NA NA NA NA ## [194,] NA NA NA NA ## [195,] NA NA NA NA ## [196,] NA NA NA NA ## [197,] NA NA NA NA ## [198,] NA NA NA NA ## [199,] NA NA NA NA ## [200,] NA NA NA NA ## [201,] NA NA NA NA ## [202,] NA NA NA NA ## [203,] NA NA NA NA ## [204,] NA NA NA NA ## [205,] NA NA NA NA ## [206,] NA NA NA NA ## [207,] NA NA NA NA ## [208,] NA NA NA NA ## [209,] NA NA NA NA ## [210,] NA NA NA NA ## [211,] NA NA NA NA ## [212,] NA -0.01993499 NA NA ## [213,] NA NA NA NA ## [214,] NA NA NA NA ## [215,] NA NA NA NA ## [216,] NA NA NA NA ## [217,] NA NA NA NA ## [218,] NA NA NA NA ## [219,] NA NA NA NA ## [220,] NA NA NA NA ## [221,] NA NA NA NA ## [222,] NA NA NA NA ## [223,] NA NA NA NA ## [224,] NA NA NA NA ## [225,] NA NA NA NA ## [226,] NA NA NA NA ## [227,] NA NA NA NA ## [228,] NA NA NA NA ## [229,] NA -1.17057034 NA NA ## [230,] NA NA NA NA ## [231,] NA NA NA NA ## [232,] NA NA NA NA ## [233,] NA NA NA NA ## [234,] NA NA NA NA ## [235,] NA NA NA NA ## [236,] NA NA NA NA ## [237,] NA NA NA NA ## [238,] NA NA NA NA ## [239,] NA NA NA NA ## [240,] NA NA NA NA ## [241,] NA NA NA NA ## [242,] NA NA NA NA ## [243,] NA NA NA NA ## [244,] NA NA NA NA ## [245,] NA NA NA NA ## [246,] NA NA NA NA ## [247,] NA NA NA NA ## [248,] NA NA NA NA ## [249,] NA NA NA NA ## [250,] NA NA NA NA ## [251,] NA NA NA NA ## [252,] NA NA NA NA ## [253,] NA NA NA NA ## [254,] NA NA NA NA ## [255,] NA NA NA NA ## [256,] NA NA NA NA ## [257,] NA NA NA NA ## [258,] NA NA NA NA ## [259,] NA NA NA NA ## [260,] NA NA NA NA ## [261,] NA NA NA NA ## [262,] NA NA NA NA ## [263,] NA NA NA NA ## [264,] NA NA NA NA ## [265,] NA NA NA NA ## [266,] NA NA NA NA ## [267,] NA NA NA NA ## [268,] NA NA NA NA ## [269,] NA NA NA NA ## [270,] NA NA NA NA ## [271,] NA NA NA NA ## [272,] NA NA NA NA ## [273,] NA NA NA NA ## [274,] NA NA NA NA ## [275,] NA NA NA NA ## [276,] NA NA NA NA ## [277,] NA NA NA NA ## [278,] NA NA NA NA ## [279,] NA NA NA NA ## [280,] NA NA NA NA ## [281,] NA 1.27448270 NA NA ## [282,] NA NA NA NA ## [283,] NA NA NA NA ## [284,] NA NA NA NA ## [285,] NA NA NA NA ## [286,] NA NA NA NA ## [287,] NA -0.21416585 NA NA ## [288,] NA NA NA NA ## [289,] NA NA NA NA ## [290,] NA NA NA NA ## [291,] NA NA NA NA ## [292,] NA NA NA NA ## [293,] NA NA NA NA ## [294,] NA NA NA NA ## [295,] NA NA NA NA ## [296,] NA NA NA NA ## [297,] NA NA NA NA ## [298,] NA NA NA NA ## [299,] NA NA NA NA ## [300,] NA NA NA NA ## [301,] NA NA NA NA ## [302,] NA NA NA NA ## [303,] NA NA NA NA ## [304,] NA NA NA NA ## [305,] NA NA NA NA ## [306,] NA NA NA NA ## [307,] NA NA NA NA ## [308,] NA NA NA NA ## [309,] NA NA NA NA ## [310,] NA NA NA NA ## [311,] NA NA NA NA ## [312,] NA NA NA NA ## [313,] NA NA NA NA ## [314,] NA NA NA NA ## [315,] NA NA NA NA ## [316,] NA NA NA NA ## [317,] NA NA NA NA ## [318,] NA NA NA NA ## [319,] NA NA NA NA ## [320,] NA NA NA NA ## [321,] NA NA NA NA ## [322,] NA NA NA NA ## [323,] NA NA NA NA ## [324,] NA NA NA NA ## [325,] NA NA NA NA ## [326,] NA NA NA NA ## [327,] NA NA NA NA ## [328,] NA NA NA NA ## [329,] NA NA NA NA ## [330,] NA NA NA NA ## [331,] NA NA NA NA ## [332,] NA NA NA NA ## [333,] NA NA NA NA ## [334,] NA NA NA NA ## [335,] NA NA NA NA ## [336,] NA NA NA NA ## [337,] NA NA NA NA ## [338,] NA NA NA NA ## [339,] NA NA NA NA ## [340,] NA NA NA NA ## [341,] NA NA NA NA ## [342,] NA NA NA NA ## [343,] NA NA NA NA ## [344,] NA NA NA NA ## [345,] NA NA NA NA ## [346,] NA NA NA NA ## [347,] NA NA NA NA ## [348,] NA NA NA NA ## [349,] NA NA NA NA ## [350,] NA NA NA NA ## [351,] NA NA NA NA ## [352,] NA NA NA NA ## [353,] NA NA NA NA ## [354,] NA NA NA NA ## [355,] NA NA NA NA ## [356,] NA NA NA NA ## [357,] NA NA NA NA ## [358,] NA NA NA NA ## [359,] NA NA NA NA ## [360,] NA NA NA NA ## [361,] NA NA NA NA ## [362,] NA NA NA NA ## [363,] NA NA NA NA ## [364,] NA NA NA NA ## [365,] NA NA NA NA ## [366,] NA NA NA NA ## [367,] NA NA NA NA ## [368,] NA NA NA NA ## [369,] NA NA NA NA ## [370,] NA NA NA NA ## [371,] NA NA NA NA ## [372,] NA NA NA NA ## [373,] NA NA NA NA ## [374,] NA NA NA NA ## [375,] NA NA NA NA ## [376,] NA NA NA NA ## [377,] NA NA NA NA ## [378,] NA NA NA NA ## [379,] NA NA NA NA ## [380,] NA NA NA NA ## [381,] NA NA NA NA ## [382,] NA NA NA NA ## [383,] NA NA NA NA ## [384,] NA NA NA NA ## [385,] NA NA NA NA ## [386,] NA NA NA NA ## [387,] NA NA NA NA ## [388,] NA NA NA NA ## [389,] NA NA NA NA ## [390,] NA NA NA NA ## [391,] NA NA NA NA ## [392,] NA NA NA NA ## [393,] NA NA NA NA ## [394,] NA NA NA NA ## [395,] NA NA NA NA ## [396,] NA NA NA NA ## [397,] NA NA NA NA ## [398,] NA NA NA NA ## [399,] NA NA NA NA ## [400,] NA NA NA NA ## [401,] NA NA NA NA ## [402,] NA NA NA NA ## [403,] NA NA NA NA ## [404,] NA NA NA NA ## [405,] NA NA NA NA ## [406,] NA NA NA NA ## [407,] NA NA NA NA ## [408,] NA NA NA NA ## [409,] NA NA NA NA ## [410,] NA NA NA NA ## [411,] NA NA NA NA ## [412,] NA NA NA NA ## [413,] NA NA NA NA ## [414,] NA NA NA NA ## [415,] NA NA NA NA ## [416,] NA NA NA NA ## [417,] NA NA NA NA ## [418,] NA NA NA NA ## [419,] NA NA NA NA ## [420,] NA NA NA NA ## [421,] NA NA NA NA ## [422,] NA NA NA NA ## [423,] NA NA NA NA ## [424,] NA NA NA NA ## [425,] NA NA NA NA ## [426,] NA NA NA NA ## [427,] NA NA NA NA ## [428,] NA NA NA NA ## [429,] NA NA NA NA ## [430,] NA NA NA NA ## [431,] NA NA NA NA ## [432,] NA NA NA NA ## [433,] NA NA NA NA ## [434,] NA NA NA NA ## [435,] NA NA NA NA ## [436,] NA NA NA NA ## [437,] NA NA NA NA ## [438,] NA NA NA NA ## [439,] NA NA NA NA ## [440,] NA NA NA NA ## [441,] NA NA NA NA ## [442,] NA NA NA NA ## [443,] NA NA NA NA ## [444,] NA NA NA NA ## [445,] NA NA NA NA ## [446,] NA NA NA NA ## [447,] NA NA NA NA ## [448,] NA NA NA NA ## [449,] NA NA NA NA ## [450,] NA NA NA NA ## [451,] NA NA NA NA ## [452,] NA NA NA NA ## [453,] NA NA NA NA ## [454,] NA NA NA NA ## [455,] NA NA NA NA ## [456,] NA NA NA NA ## [457,] NA NA NA NA ## [458,] NA NA NA NA ## [459,] NA NA NA NA ## [460,] NA NA NA NA ## [461,] NA NA NA NA ## [462,] NA NA NA NA ## [463,] NA NA NA NA ## [464,] NA NA NA NA ## [465,] NA NA NA NA ## [466,] NA NA NA NA ## [467,] NA NA NA NA ## [468,] NA NA NA NA ## [469,] NA NA NA NA ## [470,] NA NA NA NA ## [471,] NA NA NA NA ## [472,] NA NA NA NA ## [473,] NA NA NA NA ## [474,] NA NA NA NA ## [475,] NA NA NA NA ## [476,] NA NA NA NA ## [477,] NA NA NA NA ## [478,] NA NA NA NA ## [479,] NA NA NA NA ## [480,] NA NA NA NA ## [481,] NA NA NA NA ## [482,] NA NA NA NA ## [483,] NA NA NA NA ## [484,] NA NA NA NA ## [485,] NA NA NA NA ## [486,] NA NA NA NA ## [487,] NA NA NA NA ## [488,] NA NA NA NA ## [489,] NA NA NA NA ## [490,] NA NA NA NA ## [491,] NA NA NA NA ## [492,] NA NA NA NA ## [493,] NA NA NA NA ## [494,] NA NA NA NA ## [495,] NA NA NA NA ## [496,] NA NA NA NA ## [497,] NA NA NA NA ## [498,] NA NA NA NA ## [499,] NA NA NA NA ## ## $Xcat ## [,1] ## [1,] NA ## [2,] NA ## [3,] NA ## [4,] NA ## [5,] NA ## [6,] NA ## [7,] NA ## [8,] NA ## [9,] NA ## [10,] NA ## [11,] 3 ## [12,] NA ## [13,] NA ## [14,] NA ## [15,] NA ## [16,] 1 ## [17,] NA ## [18,] NA ## [19,] NA ## [20,] NA ## [21,] NA ## [22,] NA ## [23,] NA ## [24,] NA ## [25,] NA ## [26,] NA ## [27,] NA ## [28,] 3 ## [29,] NA ## [30,] NA ## [31,] NA ## [32,] NA ## [33,] NA ## [34,] NA ## [35,] NA ## [36,] NA ## [37,] 1 ## [38,] NA ## [39,] 1 ## [40,] NA ## [41,] NA ## [42,] NA ## [43,] NA ## [44,] 1 ## [45,] NA ## [46,] NA ## [47,] 1 ## [48,] NA ## [49,] NA ## [50,] NA ## [51,] NA ## [52,] NA ## [53,] NA ## [54,] NA ## [55,] NA ## [56,] NA ## [57,] NA ## [58,] NA ## [59,] NA ## [60,] NA ## [61,] NA ## [62,] NA ## [63,] NA ## [64,] NA ## [65,] NA ## [66,] NA ## [67,] NA ## [68,] NA ## [69,] NA ## [70,] 1 ## [71,] NA ## [72,] NA ## [73,] NA ## [74,] NA ## [75,] NA ## [76,] NA ## [77,] NA ## [78,] 1 ## [79,] NA ## [80,] NA ## [81,] NA ## [82,] NA ## [83,] NA ## [84,] NA ## [85,] NA ## [86,] NA ## [87,] NA ## [88,] NA ## [89,] NA ## [90,] 1 ## [91,] 3 ## [92,] 2 ## [93,] NA ## [94,] NA ## [95,] NA ## [96,] 1 ## [97,] NA ## [98,] 1 ## [99,] NA ## [100,] NA ## [101,] NA ## [102,] NA ## [103,] NA ## [104,] NA ## [105,] NA ## [106,] NA ## [107,] NA ## [108,] NA ## [109,] NA ## [110,] NA ## [111,] NA ## [112,] 1 ## [113,] NA ## [114,] NA ## [115,] 1 ## [116,] NA ## [117,] NA ## [118,] NA ## [119,] NA ## [120,] NA ## [121,] NA ## [122,] 1 ## [123,] NA ## [124,] NA ## [125,] 3 ## [126,] NA ## [127,] NA ## [128,] NA ## [129,] NA ## [130,] NA ## [131,] NA ## [132,] 1 ## [133,] NA ## [134,] NA ## [135,] NA ## [136,] 1 ## [137,] 1 ## [138,] NA ## [139,] 1 ## [140,] 1 ## [141,] NA ## [142,] NA ## [143,] NA ## [144,] 1 ## [145,] NA ## [146,] NA ## [147,] NA ## [148,] NA ## [149,] NA ## [150,] NA ## [151,] NA ## [152,] NA ## [153,] 1 ## [154,] NA ## [155,] NA ## [156,] NA ## [157,] NA ## [158,] NA ## [159,] NA ## [160,] NA ## [161,] NA ## [162,] NA ## [163,] NA ## [164,] NA ## [165,] 1 ## [166,] NA ## [167,] NA ## [168,] NA ## [169,] NA ## [170,] NA ## [171,] NA ## [172,] NA ## [173,] NA ## [174,] NA ## [175,] NA ## [176,] NA ## [177,] NA ## [178,] NA ## [179,] NA ## [180,] NA ## [181,] NA ## [182,] NA ## [183,] NA ## [184,] NA ## [185,] NA ## [186,] 1 ## [187,] NA ## [188,] NA ## [189,] 3 ## [190,] NA ## [191,] NA ## [192,] 1 ## [193,] NA ## [194,] 2 ## [195,] NA ## [196,] NA ## [197,] NA ## [198,] 1 ## [199,] NA ## [200,] NA ## [201,] NA ## [202,] 1 ## [203,] NA ## [204,] NA ## [205,] NA ## [206,] NA ## [207,] NA ## [208,] NA ## [209,] NA ## [210,] NA ## [211,] NA ## [212,] 1 ## [213,] NA ## [214,] NA ## [215,] NA ## [216,] NA ## [217,] NA ## [218,] NA ## [219,] NA ## [220,] NA ## [221,] NA ## [222,] NA ## [223,] NA ## [224,] NA ## [225,] NA ## [226,] 2 ## [227,] NA ## [228,] NA ## [229,] 2 ## [230,] NA ## [231,] NA ## [232,] NA ## [233,] NA ## [234,] NA ## [235,] NA ## [236,] NA ## [237,] 1 ## [238,] NA ## [239,] NA ## [240,] NA ## [241,] NA ## [242,] NA ## [243,] NA ## [244,] 1 ## [245,] NA ## [246,] NA ## [247,] NA ## [248,] NA ## [249,] NA ## [250,] NA ## [251,] NA ## [252,] NA ## [253,] NA ## [254,] NA ## [255,] NA ## [256,] NA ## [257,] NA ## [258,] NA ## [259,] NA ## [260,] NA ## [261,] NA ## [262,] NA ## [263,] NA ## [264,] NA ## [265,] NA ## [266,] NA ## [267,] NA ## [268,] 1 ## [269,] NA ## [270,] NA ## [271,] NA ## [272,] NA ## [273,] NA ## [274,] NA ## [275,] NA ## [276,] NA ## [277,] NA ## [278,] NA ## [279,] NA ## [280,] NA ## [281,] 1 ## [282,] NA ## [283,] NA ## [284,] NA ## [285,] NA ## [286,] NA ## [287,] 1 ## [288,] NA ## [289,] NA ## [290,] NA ## [291,] NA ## [292,] NA ## [293,] NA ## [294,] NA ## [295,] NA ## [296,] NA ## [297,] NA ## [298,] 1 ## [299,] NA ## [300,] NA ## [301,] NA ## [302,] NA ## [303,] NA ## [304,] 3 ## [305,] NA ## [306,] NA ## [307,] NA ## [308,] 1 ## [309,] 1 ## [310,] NA ## [311,] NA ## [312,] NA ## [313,] NA ## [314,] NA ## [315,] NA ## [316,] NA ## [317,] NA ## [318,] NA ## [319,] NA ## [320,] NA ## [321,] 1 ## [322,] NA ## [323,] NA ## [324,] NA ## [325,] NA ## [326,] NA ## [327,] NA ## [328,] NA ## [329,] NA ## [330,] 2 ## [331,] NA ## [332,] NA ## [333,] NA ## [334,] NA ## [335,] 1 ## [336,] NA ## [337,] NA ## [338,] NA ## [339,] NA ## [340,] NA ## [341,] NA ## [342,] NA ## [343,] NA ## [344,] NA ## [345,] NA ## [346,] NA ## [347,] NA ## [348,] NA ## [349,] NA ## [350,] NA ## [351,] NA ## [352,] NA ## [353,] NA ## [354,] NA ## [355,] NA ## [356,] NA ## [357,] NA ## [358,] NA ## [359,] NA ## [360,] NA ## [361,] NA ## [362,] NA ## [363,] NA ## [364,] NA ## [365,] NA ## [366,] 3 ## [367,] NA ## [368,] NA ## [369,] NA ## [370,] NA ## [371,] NA ## [372,] NA ## [373,] NA ## [374,] NA ## [375,] NA ## [376,] NA ## [377,] NA ## [378,] NA ## [379,] NA ## [380,] NA ## [381,] NA ## [382,] NA ## [383,] NA ## [384,] NA ## [385,] NA ## [386,] NA ## [387,] NA ## [388,] NA ## [389,] NA ## [390,] NA ## [391,] NA ## [392,] NA ## [393,] 1 ## [394,] NA ## [395,] NA ## [396,] 1 ## [397,] NA ## [398,] NA ## [399,] NA ## [400,] NA ## [401,] NA ## [402,] NA ## [403,] NA ## [404,] NA ## [405,] NA ## [406,] NA ## [407,] 1 ## [408,] NA ## [409,] NA ## [410,] NA ## [411,] NA ## [412,] NA ## [413,] NA ## [414,] NA ## [415,] NA ## [416,] NA ## [417,] NA ## [418,] NA ## [419,] NA ## [420,] NA ## [421,] NA ## [422,] NA ## [423,] NA ## [424,] 1 ## [425,] NA ## [426,] NA ## [427,] NA ## [428,] NA ## [429,] NA ## [430,] NA ## [431,] NA ## [432,] NA ## [433,] NA ## [434,] 2 ## [435,] NA ## [436,] NA ## [437,] NA ## [438,] NA ## [439,] NA ## [440,] NA ## [441,] NA ## [442,] NA ## [443,] NA ## [444,] NA ## [445,] NA ## [446,] NA ## [447,] NA ## [448,] 1 ## [449,] NA ## [450,] NA ## [451,] NA ## [452,] 2 ## [453,] NA ## [454,] NA ## [455,] NA ## [456,] NA ## [457,] NA ## [458,] NA ## [459,] NA ## [460,] NA ## [461,] NA ## [462,] NA ## [463,] 2 ## [464,] NA ## [465,] 1 ## [466,] 1 ## [467,] NA ## [468,] NA ## [469,] NA ## [470,] NA ## [471,] NA ## [472,] NA ## [473,] NA ## [474,] NA ## [475,] NA ## [476,] NA ## [477,] NA ## [478,] NA ## [479,] NA ## [480,] 1 ## [481,] NA ## [482,] NA ## [483,] NA ## [484,] NA ## [485,] NA ## [486,] NA ## [487,] NA ## [488,] NA ## [489,] NA ## [490,] NA ## [491,] NA ## [492,] NA ## [493,] NA ## [494,] 2 ## [495,] NA ## [496,] NA ## [497,] NA ## [498,] NA ## [499,] NA ## ## $alpha ## [1] 0.07527990 0.05264982 ## ## $b ## [,1] [,2] ## [1,] 16.82237 -1.09671783 ## [2,] 18.45996 -1.17257197 ## [3,] 16.35916 -1.43648177 ## [4,] 18.32449 -0.62006161 ## [5,] 14.11453 -1.49377697 ## [6,] 17.85342 -0.62988910 ## [7,] 15.00965 -1.50240969 ## [8,] 16.60067 -0.99062899 ## [9,] 16.32558 -0.86231709 ## [10,] 17.36109 -2.21613580 ## [11,] 14.83814 -0.91955881 ## [12,] 15.98703 -0.69908752 ## [13,] 16.89535 -1.14957607 ## [14,] 16.09765 -1.43713682 ## [15,] 17.58924 -0.26257537 ## [16,] 17.34873 -1.93277806 ## [17,] 17.66077 -0.99764644 ## [18,] 17.90498 -1.49338783 ## [19,] 16.83082 -1.36987189 ## [20,] 15.29427 -0.79058312 ## [21,] 15.93512 -0.51529812 ## [22,] 18.12135 -1.20369975 ## [23,] 15.65184 -1.42252297 ## [24,] 17.14285 -1.24694796 ## [25,] 16.93660 -1.41059429 ## [26,] 16.51957 -1.51009092 ## [27,] 16.06850 -1.08410607 ## [28,] 16.89161 -1.28024525 ## [29,] 16.07387 -1.29819586 ## [30,] 18.04565 -1.06399474 ## [31,] 16.75334 -0.95444638 ## [32,] 15.09267 -1.04404175 ## [33,] 18.29722 -1.17474072 ## [34,] 16.16653 -0.85971754 ## [35,] 17.22077 -1.16597680 ## [36,] 17.27507 -1.46001637 ## [37,] 16.88972 -0.69032387 ## [38,] 18.25906 -1.17194256 ## [39,] 19.50686 -1.15304910 ## [40,] 17.66732 -1.47970979 ## [41,] 17.35656 -0.72711632 ## [42,] 15.72421 -1.20942897 ## [43,] 17.97139 0.27640576 ## [44,] 15.41416 -1.61869782 ## [45,] 16.66837 -1.38140139 ## [46,] 17.55817 -1.20057325 ## [47,] 17.40919 -1.44132925 ## [48,] 16.25728 -0.61950927 ## [49,] 16.62595 -1.05957774 ## [50,] 16.29408 -0.99685578 ## [51,] 16.94258 -1.24624599 ## [52,] 16.33478 -1.48088867 ## [53,] 16.52951 -1.58372811 ## [54,] 16.80794 -1.44418908 ## [55,] 17.97165 -0.79358278 ## [56,] 17.66551 -1.78841274 ## [57,] 16.95481 -1.68908424 ## [58,] 18.27617 -1.57991987 ## [59,] 17.80597 -0.74378393 ## [60,] 17.61044 -0.94611563 ## [61,] 16.45236 -0.87800222 ## [62,] 17.29381 -1.55483225 ## [63,] 18.15502 -1.28801993 ## [64,] 18.04386 -1.57138011 ## [65,] 14.91690 -1.78681054 ## [66,] 17.08912 -1.05262027 ## [67,] 14.64662 -1.47783901 ## [68,] 16.29459 -0.56838816 ## [69,] 16.22434 -1.13876701 ## [70,] 18.52242 -0.40135926 ## [71,] 17.03496 -1.36633845 ## [72,] 17.53031 -0.65001056 ## [73,] 14.78047 -0.53450999 ## [74,] 15.97812 -1.32557600 ## [75,] 16.04819 -1.61334653 ## [76,] 16.29606 -0.92325924 ## [77,] 15.44371 -1.01330982 ## [78,] 16.95939 -0.91862807 ## [79,] 16.26305 -0.97442869 ## [80,] 17.85768 -1.21729200 ## [81,] 17.57504 -1.60328597 ## [82,] 16.68083 -1.97431284 ## [83,] 16.93707 -1.89401904 ## [84,] 15.29231 -1.03432252 ## [85,] 18.46329 -1.05826746 ## [86,] 13.94382 -1.17843227 ## [87,] 17.50428 -0.64606130 ## [88,] 16.44076 -0.92987624 ## [89,] 17.84187 -0.77710762 ## [90,] 17.92758 -1.12185431 ## [91,] 14.18792 -1.34920040 ## [92,] 17.45642 -1.87529044 ## [93,] 15.47629 -1.09922942 ## [94,] 17.54695 -1.55087417 ## [95,] 17.42862 -1.37339556 ## [96,] 16.08557 -1.24260981 ## [97,] 17.79118 -1.43019718 ## [98,] 19.65195 -1.06414845 ## [99,] 15.41652 -1.30226312 ## [100,] 17.04018 -0.88587069 ## [101,] 16.68184 -1.23404275 ## [102,] 14.69504 -1.81102545 ## [103,] 13.77917 -1.47527446 ## [104,] 18.26071 -1.09020576 ## [105,] 16.56019 -1.44367249 ## [106,] 16.02335 -1.87211747 ## [107,] 16.45192 -0.81261744 ## [108,] 15.95231 -2.14750932 ## [109,] 17.30407 -0.69542966 ## [110,] 16.17976 -2.32461460 ## [111,] 18.89780 -1.18436292 ## [112,] 16.60964 -1.20509146 ## [113,] 12.97073 -1.63996464 ## [114,] 16.16227 -0.93166295 ## [115,] 15.91282 -0.53020053 ## [116,] 16.60304 -0.74232920 ## [117,] 15.93635 -1.35347660 ## [118,] 16.51984 -1.84384008 ## [119,] 14.33892 -1.89482262 ## [120,] 15.94198 -1.91651641 ## [121,] 16.45215 -1.08236025 ## [122,] 16.45352 -1.12202954 ## [123,] 17.50649 -1.08948870 ## [124,] 16.01301 -1.19759292 ## [125,] 15.70286 -1.50765267 ## [126,] 16.60058 -1.61177829 ## [127,] 17.13292 -0.70672255 ## [128,] 15.67777 -0.79511644 ## [129,] 16.09956 -1.22904320 ## [130,] 16.03430 -1.58531852 ## [131,] 16.82163 -1.16436905 ## [132,] 17.56931 -1.00499537 ## [133,] 16.44764 -0.65934256 ## [134,] 16.37544 -1.67065828 ## [135,] 17.15038 -0.34506501 ## [136,] 15.62978 -0.80464177 ## [137,] 18.56500 -1.26511292 ## [138,] 17.01126 -0.82303086 ## [139,] 15.01606 -1.42747333 ## [140,] 17.42108 -1.82022851 ## [141,] 17.26163 -0.85635856 ## [142,] 16.72088 -0.54246219 ## [143,] 16.89459 -1.05437858 ## [144,] 15.78682 -0.58583457 ## [145,] 17.02276 -1.26175134 ## [146,] 19.47245 -1.30002622 ## [147,] 16.98796 -0.80105475 ## [148,] 17.57570 -1.09360941 ## [149,] 16.04069 -1.46606580 ## [150,] 17.36711 -1.50527111 ## [151,] 18.18845 -1.44869161 ## [152,] 17.22381 -1.40880700 ## [153,] 16.60233 -1.41894279 ## [154,] 18.37768 -0.77810912 ## [155,] 15.20849 -1.06363311 ## [156,] 17.53725 -1.15943424 ## [157,] 16.26982 -1.30214806 ## [158,] 16.24247 -2.06045773 ## [159,] 17.58365 -0.93650982 ## [160,] 15.55877 -1.37071412 ## [161,] 16.70444 -0.59472631 ## [162,] 13.61797 -2.21969788 ## [163,] 17.20664 -1.10007378 ## [164,] 15.82253 -1.40068267 ## [165,] 16.20244 -0.42110486 ## [166,] 16.69406 -0.73819419 ## [167,] 15.68184 -1.71515234 ## [168,] 16.39898 -1.09412195 ## [169,] 15.49742 -1.26491528 ## [170,] 16.05821 -0.98818956 ## [171,] 17.30192 -1.28705551 ## [172,] 17.71455 -0.90622419 ## [173,] 16.67567 -0.69939143 ## [174,] 17.85426 -1.36134848 ## [175,] 16.12194 -0.58253960 ## [176,] 17.26586 -0.92602694 ## [177,] 16.34873 -0.89991349 ## [178,] 13.73139 -1.94522631 ## [179,] 16.52447 -1.19361944 ## [180,] 16.56742 -1.39160180 ## [181,] 17.62359 -1.28834216 ## [182,] 16.12404 -1.55180164 ## [183,] 17.79165 -0.81299390 ## [184,] 16.15148 -1.56320959 ## [185,] 19.75130 -1.15317654 ## [186,] 17.70777 -1.42772357 ## [187,] 16.88028 -1.64150763 ## [188,] 16.19664 -0.81578832 ## [189,] 16.76496 -1.37671608 ## [190,] 16.52740 -1.37910643 ## [191,] 16.45638 -1.74360878 ## [192,] 15.00604 -1.19372291 ## [193,] 15.56181 -1.12564126 ## [194,] 16.05439 -0.57615699 ## [195,] 14.71314 -1.36279293 ## [196,] 17.46827 -1.66358496 ## [197,] 18.70148 -1.67644341 ## [198,] 16.87775 -0.81637802 ## [199,] 17.83204 -1.20594180 ## [200,] 15.30634 -1.69541946 ## [201,] 17.40659 0.13380762 ## [202,] 17.86036 -1.54241302 ## [203,] 17.88793 -1.06628744 ## [204,] 17.36146 -1.39762674 ## [205,] 18.26079 -1.17445010 ## [206,] 16.28760 -1.75593467 ## [207,] 15.63508 -1.66325059 ## [208,] 15.93982 -1.20787400 ## [209,] 19.24562 -0.89891478 ## [210,] 17.01272 -1.08532507 ## [211,] 19.21757 -1.90779320 ## [212,] 17.04069 -0.62709147 ## [213,] 16.04436 -0.89210362 ## [214,] 17.22477 -0.79266764 ## [215,] 18.01356 -0.56508872 ## [216,] 14.74673 -1.17016754 ## [217,] 16.32801 -1.00959034 ## [218,] 15.74505 -0.88096779 ## [219,] 14.84424 -2.35441237 ## [220,] 17.34351 -0.88690542 ## [221,] 17.16888 -1.78672444 ## [222,] 16.79350 -0.72436665 ## [223,] 15.80161 -0.63082729 ## [224,] 16.41434 -1.52575766 ## [225,] 16.90311 -0.88201250 ## [226,] 16.39273 -1.03473662 ## [227,] 15.50510 -1.60358986 ## [228,] 18.07152 -1.20402989 ## [229,] 16.94168 -1.63217586 ## [230,] 14.64103 -1.35376578 ## [231,] 15.67517 -1.33603007 ## [232,] 18.21536 -1.79394177 ## [233,] 16.39013 -1.74007694 ## [234,] 17.84300 -1.13420523 ## [235,] 17.05587 -0.84284869 ## [236,] 15.85832 -1.46013423 ## [237,] 14.83483 -1.32192715 ## [238,] 17.56416 -1.43756241 ## [239,] 17.00249 -1.75064837 ## [240,] 18.51824 -1.46502799 ## [241,] 17.19542 -0.71270420 ## [242,] 17.41095 -1.76355211 ## [243,] 18.30474 -1.34005121 ## [244,] 15.96826 -1.00634309 ## [245,] 16.86470 -0.54353379 ## [246,] 15.51404 -1.25300556 ## [247,] 19.43751 -0.18227381 ## [248,] 15.55728 -1.24404210 ## [249,] 19.71027 -1.58712907 ## [250,] 17.82383 -1.25963892 ## [251,] 14.34329 -1.84041561 ## [252,] 17.62085 -1.24237264 ## [253,] 15.50457 -2.26485994 ## [254,] 16.46800 -0.95506726 ## [255,] 15.70515 -0.91807317 ## [256,] 16.27881 -1.04587466 ## [257,] 16.18135 -1.10477940 ## [258,] 15.90981 -1.35563517 ## [259,] 15.88969 -1.62488340 ## [260,] 14.93001 -0.41352434 ## [261,] 14.20599 -1.58735263 ## [262,] 15.35524 -0.93739617 ## [263,] 16.19908 -1.11778146 ## [264,] 16.00789 -1.23364259 ## [265,] 15.20605 -0.97793331 ## [266,] 18.07794 -1.81751303 ## [267,] 15.13765 -1.43723535 ## [268,] 17.23051 -1.44781073 ## [269,] 17.05119 -0.85611980 ## [270,] 16.33994 -0.88012606 ## [271,] 17.59115 -0.72891442 ## [272,] 16.53056 -0.83015663 ## [273,] 16.28885 -1.46268576 ## [274,] 16.28987 -1.04151120 ## [275,] 16.47580 -0.53458770 ## [276,] 15.86583 -1.70363772 ## [277,] 16.07965 -0.62037152 ## [278,] 16.61709 -1.98638776 ## [279,] 16.26498 -1.02769503 ## [280,] 15.50334 -1.03115272 ## [281,] 16.64043 -0.98370246 ## [282,] 18.09195 -0.94925904 ## [283,] 15.45778 -2.46411141 ## [284,] 17.53822 -1.38732079 ## [285,] 14.26251 -0.81114603 ## [286,] 14.54246 -1.21605884 ## [287,] 17.66882 -1.05329635 ## [288,] 17.23574 -1.20471396 ## [289,] 14.88250 -1.55557854 ## [290,] 17.53721 -1.02202138 ## [291,] 16.42756 -0.79819791 ## [292,] 13.83149 -0.95607472 ## [293,] 16.15188 -0.89590975 ## [294,] 16.77245 -1.87824626 ## [295,] 15.17731 -1.82295818 ## [296,] 17.34698 -1.18553191 ## [297,] 18.11341 -0.27989303 ## [298,] 16.92898 -1.48328784 ## [299,] 15.34524 -1.60713255 ## [300,] 14.92954 -1.62990532 ## [301,] 16.22659 -0.58462235 ## [302,] 14.72876 -1.46429979 ## [303,] 15.22823 -0.32337915 ## [304,] 16.64657 -0.70189457 ## [305,] 19.06930 -0.93781254 ## [306,] 15.65250 -0.28436645 ## [307,] 17.69746 -1.77787575 ## [308,] 16.54242 -1.01108754 ## [309,] 15.44332 -1.60195036 ## [310,] 18.13959 -1.48861232 ## [311,] 14.97205 -1.36177922 ## [312,] 18.50115 -1.39736990 ## [313,] 18.03082 -0.74050470 ## [314,] 16.24727 -1.10290348 ## [315,] 17.76005 -1.13457443 ## [316,] 15.84150 -1.13462655 ## [317,] 17.40480 -1.70494490 ## [318,] 18.06079 -1.56506965 ## [319,] 16.67608 -1.28492980 ## [320,] 16.49211 -2.08512795 ## [321,] 14.43066 -1.58816162 ## [322,] 19.35659 -1.23330411 ## [323,] 17.43874 -1.03630074 ## [324,] 18.04016 -0.66779487 ## [325,] 17.25362 0.01868738 ## [326,] 15.82306 -1.55834128 ## [327,] 16.50383 -1.40840148 ## [328,] 16.45237 -1.39254354 ## [329,] 19.50984 -0.93988220 ## [330,] 18.10023 -1.43829712 ## [331,] 16.15086 -1.63055012 ## [332,] 16.91683 -0.05999230 ## [333,] 17.36509 -0.86266849 ## [334,] 17.71860 -1.60632608 ## [335,] 19.03974 -2.16278826 ## [336,] 14.54139 -1.31459643 ## [337,] 18.26629 -1.59146338 ## [338,] 17.45120 -0.84500038 ## [339,] 14.51920 -0.74741220 ## [340,] 14.77695 -1.87162617 ## [341,] 17.73568 -0.84550824 ## [342,] 15.19045 -1.43748424 ## [343,] 15.80706 -1.34329457 ## [344,] 17.21844 -0.87187973 ## [345,] 18.93902 -1.06105614 ## [346,] 17.72532 -0.85704408 ## [347,] 16.37114 -1.56485602 ## [348,] 18.94193 -1.34438658 ## [349,] 16.26934 -1.69494495 ## [350,] 15.28742 -1.14499821 ## [351,] 17.31925 -1.24563841 ## [352,] 15.35477 -1.37104814 ## [353,] 17.52209 -0.83491996 ## [354,] 15.87976 -1.32790708 ## [355,] 16.76189 -0.81190941 ## [356,] 16.81500 -1.37350799 ## [357,] 16.42847 -1.37375183 ## [358,] 18.80222 -0.60169512 ## [359,] 18.79087 -0.76707844 ## [360,] 15.56188 -1.53965663 ## [361,] 18.63024 -1.02269550 ## [362,] 16.29442 -1.06279079 ## [363,] 16.79710 -1.85119160 ## [364,] 16.48405 -0.97497777 ## [365,] 17.98724 -1.42995837 ## [366,] 16.01885 -2.02347837 ## [367,] 15.04470 -0.95925527 ## [368,] 16.81019 -0.87513854 ## [369,] 14.51573 -0.87244495 ## [370,] 15.44659 -0.63006379 ## [371,] 15.39758 -1.68272191 ## [372,] 17.62538 -0.81997156 ## [373,] 16.98699 -0.71998985 ## [374,] 15.83251 -0.83770601 ## [375,] 15.61734 -1.50454284 ## [376,] 16.90284 -1.04993109 ## [377,] 16.37830 -0.51806433 ## [378,] 14.13943 -1.33955156 ## [379,] 16.00994 -1.04680821 ## [380,] 18.54904 -1.19368421 ## [381,] 17.53333 -1.06938044 ## [382,] 16.34637 -0.98298208 ## [383,] 15.85445 -1.09469783 ## [384,] 15.62472 -0.70053483 ## [385,] 16.48838 -0.95090962 ## [386,] 17.15123 -0.63009761 ## [387,] 16.20520 -0.52298608 ## [388,] 16.18712 -0.26761492 ## [389,] 15.88392 -0.86557328 ## [390,] 17.26589 -0.80151188 ## [391,] 16.52722 -2.41417935 ## [392,] 15.76980 -1.33270713 ## [393,] 17.52382 -0.72965862 ## [394,] 16.15069 -0.79078685 ## [395,] 15.77206 -0.82363032 ## [396,] 15.41443 -1.68012559 ## [397,] 18.03142 -1.25177465 ## [398,] 15.76579 -0.90482805 ## [399,] 18.24649 -0.57335567 ## [400,] 15.57014 -1.42494808 ## [401,] 16.50072 -1.02517664 ## [402,] 15.80314 -1.67388765 ## [403,] 16.77774 -1.16927784 ## [404,] 13.28740 -0.65942207 ## [405,] 16.05119 -0.80356502 ## [406,] 16.21263 -1.36209147 ## [407,] 16.63655 -1.06628795 ## [408,] 16.27066 -1.86367419 ## [409,] 15.90458 -1.12889312 ## [410,] 16.56135 -1.61053165 ## [411,] 17.09314 -1.09572102 ## [412,] 15.95793 -0.86019815 ## [413,] 18.48405 -1.21672286 ## [414,] 16.87455 -0.74272839 ## [415,] 16.83418 -1.73961905 ## [416,] 16.76631 -2.08092543 ## [417,] 16.18765 -0.93849999 ## [418,] 16.08835 -0.80819011 ## [419,] 16.76394 -1.17280098 ## [420,] 16.22314 -1.17522054 ## [421,] 16.77270 -2.10857133 ## [422,] 16.06603 -1.46511602 ## [423,] 15.83262 -0.43224010 ## [424,] 18.84587 -0.37487755 ## [425,] 17.18567 -1.18640044 ## [426,] 15.29030 -0.84077440 ## [427,] 16.02632 -0.53432795 ## [428,] 15.66337 -1.09123083 ## [429,] 16.79934 -1.26671742 ## [430,] 17.09816 -1.96181664 ## [431,] 16.70891 -1.44089308 ## [432,] 17.75780 -1.34354995 ## [433,] 15.67681 -1.41736724 ## [434,] 16.75556 -1.16009664 ## [435,] 16.45119 -1.03822524 ## [436,] 15.80401 -1.48906575 ## [437,] 16.36100 -1.10680888 ## [438,] 17.39061 -1.33210867 ## [439,] 15.89996 -1.23635643 ## [440,] 17.33474 -1.76677093 ## [441,] 15.02565 -1.04171643 ## [442,] 18.13362 -1.07326046 ## [443,] 15.68220 -0.87357359 ## [444,] 16.10422 -1.06806959 ## [445,] 15.22551 -1.13401078 ## [446,] 16.33969 -0.89998604 ## [447,] 14.93087 -1.36120932 ## [448,] 16.85235 -1.13109687 ## [449,] 16.85220 -1.52311341 ## [450,] 14.98492 -1.57815688 ## [451,] 16.52641 -1.34518384 ## [452,] 18.30691 -1.48711136 ## [453,] 16.92515 -1.52641682 ## [454,] 16.10139 -1.58801434 ## [455,] 16.90142 -1.22214615 ## [456,] 16.19969 -0.78450804 ## [457,] 17.42260 -0.40834239 ## [458,] 16.46367 -1.00633953 ## [459,] 16.97781 -1.48746687 ## [460,] 14.56427 -0.77795117 ## [461,] 18.75872 -0.57277422 ## [462,] 17.37432 -1.38346981 ## [463,] 17.33966 -1.45656543 ## [464,] 15.30945 -1.58339798 ## [465,] 15.42349 -1.43265499 ## [466,] 18.56939 -1.05218176 ## [467,] 16.01873 -0.90559431 ## [468,] 15.33118 -1.19381993 ## [469,] 15.95063 -1.13394197 ## [470,] 14.95520 -1.01507944 ## [471,] 15.56447 -1.68131487 ## [472,] 17.02624 -0.57857028 ## [473,] 15.58804 -1.35855530 ## [474,] 15.16814 -1.34844878 ## [475,] 15.70383 -0.64082092 ## [476,] 16.74950 -0.50467044 ## [477,] 17.51038 -1.41727477 ## [478,] 16.25687 -0.39179906 ## [479,] 15.54709 -1.47359225 ## [480,] 15.23125 -0.78720107 ## [481,] 11.90889 -0.61074858 ## [482,] 17.71321 -0.60907724 ## [483,] 15.52170 -1.29695253 ## [484,] 16.97733 -0.47888404 ## [485,] 17.07321 -0.67797757 ## [486,] 16.32656 -1.32362857 ## [487,] 17.07346 -1.51285880 ## [488,] 16.43730 -1.57975602 ## [489,] 18.87889 -0.61431633 ## [490,] 18.13390 -0.77787347 ## [491,] 15.45080 -1.15358610 ## [492,] 15.35969 -1.77821149 ## [493,] 16.17926 -1.07427358 ## [494,] 17.03100 -0.70188627 ## [495,] 17.27811 -0.55645081 ## [496,] 14.90502 -1.00495729 ## [497,] 15.54949 -0.84782973 ## [498,] 14.00846 -1.10939955 ## [499,] 14.92116 -0.97031112 ## ## $beta ## [1] 16.635623575 0.001135365 0.045199260 -0.238416366 -1.162097091 ## [6] 1.225547969 ## ## $delta_SMOKE ## [1] -0.6229248 ## ## $gamma_SMOKE ## [1] 0.9815636 NA ## ## $invD ## [,1] [,2] ## [1,] 0.6862961 -0.2158112 ## [2,] -0.2158112 6.0496669 ## ## $mu_b ## [,1] [,2] ## [1,] NA -1.162097 ## [2,] NA -1.162097 ## [3,] NA -1.162097 ## [4,] NA -1.162097 ## [5,] NA -1.162097 ## [6,] NA -1.162097 ## [7,] NA -1.162097 ## [8,] NA -1.162097 ## [9,] NA -1.162097 ## [10,] NA -1.162097 ## [11,] NA -1.162097 ## [12,] NA -1.162097 ## [13,] NA -1.162097 ## [14,] NA -1.162097 ## [15,] NA -1.162097 ## [16,] NA -1.162097 ## [17,] NA -1.162097 ## [18,] NA -1.162097 ## [19,] NA -1.162097 ## [20,] NA -1.162097 ## [21,] NA -1.162097 ## [22,] NA -1.162097 ## [23,] NA -1.162097 ## [24,] NA -1.162097 ## [25,] NA -1.162097 ## [26,] NA -1.162097 ## [27,] NA -1.162097 ## [28,] NA -1.162097 ## [29,] NA -1.162097 ## [30,] NA -1.162097 ## [31,] NA -1.162097 ## [32,] NA -1.162097 ## [33,] NA -1.162097 ## [34,] NA -1.162097 ## [35,] NA -1.162097 ## [36,] NA -1.162097 ## [37,] NA -1.162097 ## [38,] NA -1.162097 ## [39,] NA -1.162097 ## [40,] NA -1.162097 ## [41,] NA -1.162097 ## [42,] NA -1.162097 ## [43,] NA -1.162097 ## [44,] NA -1.162097 ## [45,] NA -1.162097 ## [46,] NA -1.162097 ## [47,] NA -1.162097 ## [48,] NA -1.162097 ## [49,] NA -1.162097 ## [50,] NA -1.162097 ## [51,] NA -1.162097 ## [52,] NA -1.162097 ## [53,] NA -1.162097 ## [54,] NA -1.162097 ## [55,] NA -1.162097 ## [56,] NA -1.162097 ## [57,] NA -1.162097 ## [58,] NA -1.162097 ## [59,] NA -1.162097 ## [60,] NA -1.162097 ## [61,] NA -1.162097 ## [62,] NA -1.162097 ## [63,] NA -1.162097 ## [64,] NA -1.162097 ## [65,] NA -1.162097 ## [66,] NA -1.162097 ## [67,] NA -1.162097 ## [68,] NA -1.162097 ## [69,] NA -1.162097 ## [70,] NA -1.162097 ## [71,] NA -1.162097 ## [72,] NA -1.162097 ## [73,] NA -1.162097 ## [74,] NA -1.162097 ## [75,] NA -1.162097 ## [76,] NA -1.162097 ## [77,] NA -1.162097 ## [78,] NA -1.162097 ## [79,] NA -1.162097 ## [80,] NA -1.162097 ## [81,] NA -1.162097 ## [82,] NA -1.162097 ## [83,] NA -1.162097 ## [84,] NA -1.162097 ## [85,] NA -1.162097 ## [86,] NA -1.162097 ## [87,] NA -1.162097 ## [88,] NA -1.162097 ## [89,] NA -1.162097 ## [90,] NA -1.162097 ## [91,] NA -1.162097 ## [92,] NA -1.162097 ## [93,] NA -1.162097 ## [94,] NA -1.162097 ## [95,] NA -1.162097 ## [96,] NA -1.162097 ## [97,] NA -1.162097 ## [98,] NA -1.162097 ## [99,] NA -1.162097 ## [100,] NA -1.162097 ## [101,] NA -1.162097 ## [102,] NA -1.162097 ## [103,] NA -1.162097 ## [104,] NA -1.162097 ## [105,] NA -1.162097 ## [106,] NA -1.162097 ## [107,] NA -1.162097 ## [108,] NA -1.162097 ## [109,] NA -1.162097 ## [110,] NA -1.162097 ## [111,] NA -1.162097 ## [112,] NA -1.162097 ## [113,] NA -1.162097 ## [114,] NA -1.162097 ## [115,] NA -1.162097 ## [116,] NA -1.162097 ## [117,] NA -1.162097 ## [118,] NA -1.162097 ## [119,] NA -1.162097 ## [120,] NA -1.162097 ## [121,] NA -1.162097 ## [122,] NA -1.162097 ## [123,] NA -1.162097 ## [124,] NA -1.162097 ## [125,] NA -1.162097 ## [126,] NA -1.162097 ## [127,] NA -1.162097 ## [128,] NA -1.162097 ## [129,] NA -1.162097 ## [130,] NA -1.162097 ## [131,] NA -1.162097 ## [132,] NA -1.162097 ## [133,] NA -1.162097 ## [134,] NA -1.162097 ## [135,] NA -1.162097 ## [136,] NA -1.162097 ## [137,] NA -1.162097 ## [138,] NA -1.162097 ## [139,] NA -1.162097 ## [140,] NA -1.162097 ## [141,] NA -1.162097 ## [142,] NA -1.162097 ## [143,] NA -1.162097 ## [144,] NA -1.162097 ## [145,] NA -1.162097 ## [146,] NA -1.162097 ## [147,] NA -1.162097 ## [148,] NA -1.162097 ## [149,] NA -1.162097 ## [150,] NA -1.162097 ## [151,] NA -1.162097 ## [152,] NA -1.162097 ## [153,] NA -1.162097 ## [154,] NA -1.162097 ## [155,] NA -1.162097 ## [156,] NA -1.162097 ## [157,] NA -1.162097 ## [158,] NA -1.162097 ## [159,] NA -1.162097 ## [160,] NA -1.162097 ## [161,] NA -1.162097 ## [162,] NA -1.162097 ## [163,] NA -1.162097 ## [164,] NA -1.162097 ## [165,] NA -1.162097 ## [166,] NA -1.162097 ## [167,] NA -1.162097 ## [168,] NA -1.162097 ## [169,] NA -1.162097 ## [170,] NA -1.162097 ## [171,] NA -1.162097 ## [172,] NA -1.162097 ## [173,] NA -1.162097 ## [174,] NA -1.162097 ## [175,] NA -1.162097 ## [176,] NA -1.162097 ## [177,] NA -1.162097 ## [178,] NA -1.162097 ## [179,] NA -1.162097 ## [180,] NA -1.162097 ## [181,] NA -1.162097 ## [182,] NA -1.162097 ## [183,] NA -1.162097 ## [184,] NA -1.162097 ## [185,] NA -1.162097 ## [186,] NA -1.162097 ## [187,] NA -1.162097 ## [188,] NA -1.162097 ## [189,] NA -1.162097 ## [190,] NA -1.162097 ## [191,] NA -1.162097 ## [192,] NA -1.162097 ## [193,] NA -1.162097 ## [194,] NA -1.162097 ## [195,] NA -1.162097 ## [196,] NA -1.162097 ## [197,] NA -1.162097 ## [198,] NA -1.162097 ## [199,] NA -1.162097 ## [200,] NA -1.162097 ## [201,] NA -1.162097 ## [202,] NA -1.162097 ## [203,] NA -1.162097 ## [204,] NA -1.162097 ## [205,] NA -1.162097 ## [206,] NA -1.162097 ## [207,] NA -1.162097 ## [208,] NA -1.162097 ## [209,] NA -1.162097 ## [210,] NA -1.162097 ## [211,] NA -1.162097 ## [212,] NA -1.162097 ## [213,] NA -1.162097 ## [214,] NA -1.162097 ## [215,] NA -1.162097 ## [216,] NA -1.162097 ## [217,] NA -1.162097 ## [218,] NA -1.162097 ## [219,] NA -1.162097 ## [220,] NA -1.162097 ## [221,] NA -1.162097 ## [222,] NA -1.162097 ## [223,] NA -1.162097 ## [224,] NA -1.162097 ## [225,] NA -1.162097 ## [226,] NA -1.162097 ## [227,] NA -1.162097 ## [228,] NA -1.162097 ## [229,] NA -1.162097 ## [230,] NA -1.162097 ## [231,] NA -1.162097 ## [232,] NA -1.162097 ## [233,] NA -1.162097 ## [234,] NA -1.162097 ## [235,] NA -1.162097 ## [236,] NA -1.162097 ## [237,] NA -1.162097 ## [238,] NA -1.162097 ## [239,] NA -1.162097 ## [240,] NA -1.162097 ## [241,] NA -1.162097 ## [242,] NA -1.162097 ## [243,] NA -1.162097 ## [244,] NA -1.162097 ## [245,] NA -1.162097 ## [246,] NA -1.162097 ## [247,] NA -1.162097 ## [248,] NA -1.162097 ## [249,] NA -1.162097 ## [250,] NA -1.162097 ## [251,] NA -1.162097 ## [252,] NA -1.162097 ## [253,] NA -1.162097 ## [254,] NA -1.162097 ## [255,] NA -1.162097 ## [256,] NA -1.162097 ## [257,] NA -1.162097 ## [258,] NA -1.162097 ## [259,] NA -1.162097 ## [260,] NA -1.162097 ## [261,] NA -1.162097 ## [262,] NA -1.162097 ## [263,] NA -1.162097 ## [264,] NA -1.162097 ## [265,] NA -1.162097 ## [266,] NA -1.162097 ## [267,] NA -1.162097 ## [268,] NA -1.162097 ## [269,] NA -1.162097 ## [270,] NA -1.162097 ## [271,] NA -1.162097 ## [272,] NA -1.162097 ## [273,] NA -1.162097 ## [274,] NA -1.162097 ## [275,] NA -1.162097 ## [276,] NA -1.162097 ## [277,] NA -1.162097 ## [278,] NA -1.162097 ## [279,] NA -1.162097 ## [280,] NA -1.162097 ## [281,] NA -1.162097 ## [282,] NA -1.162097 ## [283,] NA -1.162097 ## [284,] NA -1.162097 ## [285,] NA -1.162097 ## [286,] NA -1.162097 ## [287,] NA -1.162097 ## [288,] NA -1.162097 ## [289,] NA -1.162097 ## [290,] NA -1.162097 ## [291,] NA -1.162097 ## [292,] NA -1.162097 ## [293,] NA -1.162097 ## [294,] NA -1.162097 ## [295,] NA -1.162097 ## [296,] NA -1.162097 ## [297,] NA -1.162097 ## [298,] NA -1.162097 ## [299,] NA -1.162097 ## [300,] NA -1.162097 ## [301,] NA -1.162097 ## [302,] NA -1.162097 ## [303,] NA -1.162097 ## [304,] NA -1.162097 ## [305,] NA -1.162097 ## [306,] NA -1.162097 ## [307,] NA -1.162097 ## [308,] NA -1.162097 ## [309,] NA -1.162097 ## [310,] NA -1.162097 ## [311,] NA -1.162097 ## [312,] NA -1.162097 ## [313,] NA -1.162097 ## [314,] NA -1.162097 ## [315,] NA -1.162097 ## [316,] NA -1.162097 ## [317,] NA -1.162097 ## [318,] NA -1.162097 ## [319,] NA -1.162097 ## [320,] NA -1.162097 ## [321,] NA -1.162097 ## [322,] NA -1.162097 ## [323,] NA -1.162097 ## [324,] NA -1.162097 ## [325,] NA -1.162097 ## [326,] NA -1.162097 ## [327,] NA -1.162097 ## [328,] NA -1.162097 ## [329,] NA -1.162097 ## [330,] NA -1.162097 ## [331,] NA -1.162097 ## [332,] NA -1.162097 ## [333,] NA -1.162097 ## [334,] NA -1.162097 ## [335,] NA -1.162097 ## [336,] NA -1.162097 ## [337,] NA -1.162097 ## [338,] NA -1.162097 ## [339,] NA -1.162097 ## [340,] NA -1.162097 ## [341,] NA -1.162097 ## [342,] NA -1.162097 ## [343,] NA -1.162097 ## [344,] NA -1.162097 ## [345,] NA -1.162097 ## [346,] NA -1.162097 ## [347,] NA -1.162097 ## [348,] NA -1.162097 ## [349,] NA -1.162097 ## [350,] NA -1.162097 ## [351,] NA -1.162097 ## [352,] NA -1.162097 ## [353,] NA -1.162097 ## [354,] NA -1.162097 ## [355,] NA -1.162097 ## [356,] NA -1.162097 ## [357,] NA -1.162097 ## [358,] NA -1.162097 ## [359,] NA -1.162097 ## [360,] NA -1.162097 ## [361,] NA -1.162097 ## [362,] NA -1.162097 ## [363,] NA -1.162097 ## [364,] NA -1.162097 ## [365,] NA -1.162097 ## [366,] NA -1.162097 ## [367,] NA -1.162097 ## [368,] NA -1.162097 ## [369,] NA -1.162097 ## [370,] NA -1.162097 ## [371,] NA -1.162097 ## [372,] NA -1.162097 ## [373,] NA -1.162097 ## [374,] NA -1.162097 ## [375,] NA -1.162097 ## [376,] NA -1.162097 ## [377,] NA -1.162097 ## [378,] NA -1.162097 ## [379,] NA -1.162097 ## [380,] NA -1.162097 ## [381,] NA -1.162097 ## [382,] NA -1.162097 ## [383,] NA -1.162097 ## [384,] NA -1.162097 ## [385,] NA -1.162097 ## [386,] NA -1.162097 ## [387,] NA -1.162097 ## [388,] NA -1.162097 ## [389,] NA -1.162097 ## [390,] NA -1.162097 ## [391,] NA -1.162097 ## [392,] NA -1.162097 ## [393,] NA -1.162097 ## [394,] NA -1.162097 ## [395,] NA -1.162097 ## [396,] NA -1.162097 ## [397,] NA -1.162097 ## [398,] NA -1.162097 ## [399,] NA -1.162097 ## [400,] NA -1.162097 ## [401,] NA -1.162097 ## [402,] NA -1.162097 ## [403,] NA -1.162097 ## [404,] NA -1.162097 ## [405,] NA -1.162097 ## [406,] NA -1.162097 ## [407,] NA -1.162097 ## [408,] NA -1.162097 ## [409,] NA -1.162097 ## [410,] NA -1.162097 ## [411,] NA -1.162097 ## [412,] NA -1.162097 ## [413,] NA -1.162097 ## [414,] NA -1.162097 ## [415,] NA -1.162097 ## [416,] NA -1.162097 ## [417,] NA -1.162097 ## [418,] NA -1.162097 ## [419,] NA -1.162097 ## [420,] NA -1.162097 ## [421,] NA -1.162097 ## [422,] NA -1.162097 ## [423,] NA -1.162097 ## [424,] NA -1.162097 ## [425,] NA -1.162097 ## [426,] NA -1.162097 ## [427,] NA -1.162097 ## [428,] NA -1.162097 ## [429,] NA -1.162097 ## [430,] NA -1.162097 ## [431,] NA -1.162097 ## [432,] NA -1.162097 ## [433,] NA -1.162097 ## [434,] NA -1.162097 ## [435,] NA -1.162097 ## [436,] NA -1.162097 ## [437,] NA -1.162097 ## [438,] NA -1.162097 ## [439,] NA -1.162097 ## [440,] NA -1.162097 ## [441,] NA -1.162097 ## [442,] NA -1.162097 ## [443,] NA -1.162097 ## [444,] NA -1.162097 ## [445,] NA -1.162097 ## [446,] NA -1.162097 ## [447,] NA -1.162097 ## [448,] NA -1.162097 ## [449,] NA -1.162097 ## [450,] NA -1.162097 ## [451,] NA -1.162097 ## [452,] NA -1.162097 ## [453,] NA -1.162097 ## [454,] NA -1.162097 ## [455,] NA -1.162097 ## [456,] NA -1.162097 ## [457,] NA -1.162097 ## [458,] NA -1.162097 ## [459,] NA -1.162097 ## [460,] NA -1.162097 ## [461,] NA -1.162097 ## [462,] NA -1.162097 ## [463,] NA -1.162097 ## [464,] NA -1.162097 ## [465,] NA -1.162097 ## [466,] NA -1.162097 ## [467,] NA -1.162097 ## [468,] NA -1.162097 ## [469,] NA -1.162097 ## [470,] NA -1.162097 ## [471,] NA -1.162097 ## [472,] NA -1.162097 ## [473,] NA -1.162097 ## [474,] NA -1.162097 ## [475,] NA -1.162097 ## [476,] NA -1.162097 ## [477,] NA -1.162097 ## [478,] NA -1.162097 ## [479,] NA -1.162097 ## [480,] NA -1.162097 ## [481,] NA -1.162097 ## [482,] NA -1.162097 ## [483,] NA -1.162097 ## [484,] NA -1.162097 ## [485,] NA -1.162097 ## [486,] NA -1.162097 ## [487,] NA -1.162097 ## [488,] NA -1.162097 ## [489,] NA -1.162097 ## [490,] NA -1.162097 ## [491,] NA -1.162097 ## [492,] NA -1.162097 ## [493,] NA -1.162097 ## [494,] NA -1.162097 ## [495,] NA -1.162097 ## [496,] NA -1.162097 ## [497,] NA -1.162097 ## [498,] NA -1.162097 ## [499,] NA -1.162097 ## ## $tau_HEIGHT_M ## [1] 0.9377496 ## ## $tau_bmi ## [1] 1.337676
After fitting
- Visualization
traceplot()(base R or ggplot2)densplot()(base R or ggplot2)
- Model summary:
summary() - Evaluation criteria
- Gelman-Rubin criterion for convergence:
GR_crit() - Monte Carlo error:
MC_error()andplot(MC_error())
- Gelman-Rubin criterion for convergence:
After fitting
traceplot(), densplot(), summary(), GR_crit() and MC_error() all take the arguments
subset- to specify a subset of nodes for which output is given
- works like
monitor_params
start: first iteration to be used (burn-in)stop: last iteration to be usedthin: thinning interval
Prediction
predict(): predict outcome for (new) datapredDF(): create new data with one variable varying, others reference
mod15b <- lme_imp(bmi ~ GESTBIR + ETHN + HEIGHT_M + ns(age, df = 3),
random = ~ns(age, df = 3)|ID, data = simLong, n.iter = 250)
# create dataset for prediction
newDF <- predDF(mod15b, var = "age")
# obtain predicted values
pred <- predict(mod15b, newdata = newDF)
Prediction
par(mar = c(3.2, 3, 0.5, 0.5), mgp = c(2, 0.6, 0))
matplot(pred$dat$age, pred$dat[, c('fit', '2.5%', '97.5%')], lty = c(1,2,2),
type = 'l', col = 1, xlab = 'age in months', ylab = 'predicted value')
Export imputed values
mod13b <- lm_imp(SBP ~ age + WC + alc + smoke + occup, data = NHANES, n.iter = 100,
monitor_params = c(imps = TRUE))
For analysis in R:
impDF <- get_MIdat(mod13b, m = 5, include = T) # for example imp_mids <- mice::as.mids(impDF, .imp = 'Imputation_', .id = '.id') # and continue as if imputed with mice...
For analysis in SPSS:
impDF <- get_MIdat(mod13b, m = 5, include = T, export_to_SPSS = TRUE,
filename = 'my_imputed_data', resdir = 'the_results_directory')Other things
- non-linear functions of
auxvars - hyperparameters
- scaling of continuous variables
For details see the vignettes at https://nerler.github.io/JointAI/.
On the todo list
Analysis models
- beta
- ordinal
- multinomial
- survival
- generalized linear mixed models
Functions
print(), coef(), fitted(), resid()
More features and functionality
- posterior predictive checks
- imputation of longitudinal variables
- more flexible linear predictors
- interactions & penalization
- non-/semi-parametric functional forms
- more flexible error distributions (non-parametric Bayes)
- DIC for model comparison
Questions?