Regression Revisited

Sir Francis Galton introduced median regression and the use of the quantile function to describe distributions. Very early on the tradition moved to mean regression and the universal use of the Normal distribution, either as the natural ‘error’ distribution or as one forced by transformation. Though the introduction of ‘quantile regression’ refocused attention on the shape of the variability about the line, it uses nonparametric approaches and so ignores the actual distribution of the ‘error’ term. This paper seeks to show how Galton's approach enables the complete regression model, deterministic and stochastic elements, to be modelled, fitted and investigated. The emphasis is on the range of models that can be used for the stochastic element. It is noted that as the deterministic terms can be built up from components, so to, using quantile functions, can the stochastic element. The model may thus be treated in both modelling and fitting as a unity. Some evidence is presented to justify the use of a much wider range of distributional models than is usually considered and to emphasize their flexibility in extending regression models. Sir Francis Galton (1822–1911) introduisit la régression médiane et l'utilisation de la fonction quartile pour décrire les distributions. Peu après, on entendait que ces termes signifiaient la régression et l'utilisation universelle de la distribution normale ; cette distribution était considérée soit comme la distribution naturelle des erreurs, soit comme celle forcée par des transformations. Bien que l'introduction de la régression quantile ait attiré une nouvelle fois l'attention sur la forme de la dispersion autour de la droite de régression, elle utilise des méthodes nonparamétriques et ne tient donc pas compte de la distribution réelle du terme d'erreur. Cet article cherche à démontrer comment la méthode galtonienne permet la modélisation, le lissage et l'étude du modèle de régression dans son entier, c'est ‐à‐dire l'élément déterministe ainsi que l'élément stochastique. Une importance particulière est accordée à l'ensemble des modèles dont on peut se servir pour considérer l'élément stochastique. De même qu'il est possible d'établir les termes déterministes à partir des composantes, nous notons que l'élément stochastique peut aussi être abordé de la même façon, à l'aide des fonctions quartiles. Le modèle peut donc être considéré comme une entité intégrale, tant pour la modélisation que pour le lissage. Nous apportons des preuves pour justifier l'utilisation d'un plus vaste ensemble de modèles distributionnels que l'on aborde d'habitude et pour souligner leur flexibilité en ce qui concerne l'extension des modèles de régression.