Estimation in Two-Stage Models with Heteroscedasticity

Summary A surprising number of important problems can be cast in the framework of estimating a mean and variance using data arising from a two-stage structure. The first stage is a random sampling of “units” with some quantity of interest associated with the unit. The second stage produces an estimate of that quantity and usually, but not always, an estimated standard error, which may change considerably across units. Heteroscedasticity in the estimates over different units can arise for a number of reasons, including variation associated with the unit and changing sampling effort over units. This paper presents a broad discussion of the problem of making inferences for the population mean and variance associated with the unobserved true values at the first stage of sampling. A careful discussion of the causes of heteroscedasticity is given, followed by an examination of ways in which inferences can be carried out in a manner that is robust to the nature of the within unit heteroscedasticity. Among the conclusions are that under any type of heteroscedasticity, an unbiased estimate of the mean and the variance of the estimated mean can be obtained by using the estimates as if they were true unobserved values from the first stage. The issue of using the mean versus a weighted average which tries to account for the heteroscedasticity is also discussed. An unbiased estimate of the population variance is given and the variance of this estimate and its covariance with the estimated mean is provided under various types of heteroscedasticity. The two-stage setting arises in many contexts including the one-way random effects models with replication, meta-analysis, multi-stage sampling from finite populations and random coefficients models. We will motivate and illustrate the problem with data arising from these various contexts with the goal of providing a unified framework for addressing such problems. Resume Nombre de problemes importants peuvent etre formules dans le cadre d'une estimation de moyenne et variance en utilisant des donnees resultant d'une structure a deux etapes. La premiere etape est un echantillonage aleatoire de certaines “unites” avec une certaine quantite d'interet liee a l'unite. La deuxieme etape produit une estimation de cette quantite et habituellement, mais pas toujours, une erreur type estimee qui peut changer considerablement d'une unitea l'autre. L'heteroscedasticite dans les estimations de differentes unites peut provenir d'une variete de raisons, y compris la variation liee a chaque unite et l'effort variable investi dans l'echantillonage des unites. Cet article presente une discussion approfondie du probleme de faire des inferences pour la moyenne et la variance de la population associee a la vraie valeur inobservee a la premiere etape de l'echantillonage. Nous discutons avec soin les causes de l'heteroscedasticite, ainsi qu'un examen des manieres par lesquelles des inferences peuvent etre effectuees d'une maniere qui est robuste par rapport a la nature de l'heteroscedasticite dans l'unite. Parmi les conclusions, nous trouvons que, sous n'importe quel type d'heteroscedasticite, une estimation non biasee de la moyenne et de la variance de la moyenne estimee peut etre obtenue en employant les estimations comme si elles etaient les vraies valeurs inobservees de la premiere etape. Nous discutons aussi la question d'utiliser la moyenne ou une moyenne ponderee qui essaye d'expliquer l'heteroscedasticite. Une estimation non biaisee de la variance de la population est donnee et la variance de cette estimation et sa covariance avec la moyenne estimee est fournie pour divers types d'heteroscedasticite. La structure a deux etapes apparait dans beaucoup de contextes differents, en particulier les modeles d'effets aleatoires a sens unique avec replique, la meta-analyse, l'echantillonage a plusieurs etapes de populations finies et les modeles avec coefficients aleatoires. Nous motivons et illustrons le probleme avec des donnees resultant de ces divers contextes avec le but de fournir un cadre unifie pour addresser de tels probleemes