Regularized goodness-of-fit statistics and exact nonparametric confidence bands for distributions with application to household consumption

We study from a finite-sample viewpoint the problem of building tests and simultaneous confidence bands for cumulative distribution functions (CDFs), continuous or discrete. We emphasize procedures based on reweighted empirical distribution function (EDF) with shrinking bandwidths in the tails of the distribution. Since weighted statistics may have a problematic behavior when scaling factors are small (or zero), we propose to use regularized statistics. We consider a wide class set of modified EDF-type statistics, and give general characterizations of their distributions in the case of i.i.d. observations, so that the relevant distributions can be simulated in finite samples. We show that test criteria in the class studied can be implemented through the technique of Monte Carlo tests (MCT), so that the level is fully controlled in finite samples, irrespective of whether the tested distribution is continuous or discrete, without the need to establish an asymptotic distribution. Standard criteria such as the Kolmogorov-Smirnov (KS), Anderson-Darling (AD), Eicker (E), and Berk– Jones (BJ) statistics are covered as special cases. Confidence bands are built by inverting sup-type goodness-of-fit test statistics. We show that the bands based on regularized AD-type and E-type statistics have closed forms which are especially easy to compute, without nonlinear optimization. For continuous variables, the null distributions of the statistics do not depend on the CDF tested. For noncontinuous distributions, we show that the MCT approach transparently controls test levels irrespective of the distribution tested. We also establish monotonicity properties (based on nesting image sets) and a general dominance result, so continuous critical values are valid (conservative) critical points. We show in Monte Carlo simulations that the proposed regularized goodness-of-fit tests and confidence bands are numerically tractable, reliable and yield power and precision improvements over standard procedures. The proposed methods are applied to the distribution of households’ consumption in Kenya. Nous étudions, dans une perspective d'échantillons finis, le problème de la construction de tests et de bandes de confiance simultanées pour les fonctions de distribution cumulées (FDC), qu'elles soient continues ou discrètes. Nous mettons l'accent sur les procédures basées sur la fonction de distribution empirique (FDE) repondérée, avec des largeurs de bande décroissantes dans les queues de la distribution. Étant donné que les statistiques pondérées peuvent présenter un comportement problématique lorsque les facteurs d'échelle sont faibles (ou nuls), nous proposons d'utiliser des statistiques régularisées. Nous considérons une vaste classe de statistiques de type EDF modifiées et donnons des caractérisations générales de leurs distributions dans le cas d’observations i.i.d., de sorte que les distributions concernées puissent être simulées dans des échantillons finis. Nous montrons que les critères de test de la classe étudiée peuvent être mis en œuvre à l’aide de la technique des tests de Monte Carlo (MCT), de sorte que le niveau de confiance soit entièrement contrôlé dans des échantillons finis, que la distribution testée soit continue ou discrète, sans qu’il soit nécessaire d’établir une distribution asymptotique. Les critères standard tels que les statistiques de Kolmogorov-Smirnov (KS), d’Anderson-Darling (AD), d’Eicker (E) et de Berk–Jones (BJ) sont traités comme des cas particuliers. Les intervalles de confiance sont construits en inversant les statistiques de test d’adéquation de type sup. Nous montrons que les bandes basées sur les statistiques régularisées de type AD et de type E ont des formes fermées particulièrement faciles à calculer, sans optimisation non linéaire. Pour les variables continues, les distributions nulles des statistiques ne dépendent pas de la fonction de distribution cumulative (FDC) testée. Pour les distributions non continues, nous montrons que l’approche MCT permet de contrôler de manière transparente le niveau de signification, quelle que soit la distribution testée. Nous établissons également des propriétés de monotonie (basées sur des ensembles d’images imbriquées) et un résultat général de dominance, de sorte que les valeurs critiques continues constituent des points critiques valides (conservateurs). Nous montrons, à l’aide de simulations de Monte Carlo, que les tests de bon ajustement régularisés et les intervalles de confiance proposés sont numériquement gérables, fiables et permettent d’améliorer la puissance et la précision par rapport aux procédures standard. Les méthodes proposées sont appliquées à la distribution de la consommation des ménages au Kenya.