Estimateurs, maximum de vraisemblance, biais, intervalles de confiance
19 min de lectureAu programme du concours d’inspecteur des Finances publiques
Testez-vous · sans compte
Vrai ou faux ?
Un estimateur peut être biaisé et pourtant converger vers le paramètre quand la taille de l'échantillon grandit.
Estimer un paramètre inconnu à partir d'un échantillon suppose de choisir un estimateur, puis d'en mesurer la qualité : est-il centré, converge-t-il, quelle est son erreur quadratique moyenne ? La méthode du maximum de vraisemblance fournit une façon systématique de construire un estimateur ; l'intervalle de confiance en donne une fourchette assortie d'un niveau de garantie. La fiche part de la moyenne et de la variance empiriques, retrouve le maximum de vraisemblance sur deux lois usuelles, puis construit un intervalle de confiance pour une moyenne et pour une proportion, avec un exemple calculé de bout en bout.
À retenir
- Un échantillon est une suite de variables aléatoires indépendantes et de même loi que la population ; une statistique est une fonction de l'échantillon ; un estimateur est une statistique choisie pour approcher un paramètre inconnu.
- Un estimateur est sans biais quand son espérance vaut exactement le paramètre visé ; le biais est la différence entre cette espérance et le paramètre.
- Un estimateur converge, au sens de la loi des grands nombres, quand il se rapproche du paramètre à mesure que la taille de l'échantillon grandit ; convergence et absence de biais sont deux qualités distinctes.
- L'erreur quadratique moyenne résume biais et variance en un seul nombre : elle vaut le carré du biais plus la variance de l'estimateur.
- La variance empirique corrigée, qui divise la somme des carrés des écarts à la moyenne par n moins 1 plutôt que par n, est l'estimateur sans biais usuel de la variance théorique.
- Le maximum de vraisemblance choisit, parmi les valeurs possibles du paramètre, celle qui rend l'échantillon observé le plus probable ; sur la loi de Bernoulli et sur la loi de Poisson, il redonne exactement la moyenne empirique.
- Un intervalle de confiance à un niveau donné n'affirme pas que le paramètre a une chance de 95 % d'y être : il affirme qu'avant l'échantillonnage, la méthode produit un intervalle contenant le vrai paramètre dans 95 % des échantillons possibles.
Estimateur, biais, convergence, erreur quadratique moyenne
| Notion | Définition |
|---|---|
| Biais | Différence entre l'espérance de l'estimateur et le paramètre visé ; nul si l'espérance égale le paramètre |
| Convergence | Rapprochement du paramètre quand la taille de l'échantillon grandit indéfiniment |
| Erreur quadratique moyenne | Carré du biais, plus la variance de l'estimateur |
Un échantillon de taille n est une suite de n variables aléatoires indépendantes et de même loi que la population étudiée. Une statistique est une fonction calculable de cet échantillon, sans connaître le paramètre inconnu ; un estimateur est une statistique choisie précisément pour approcher ce paramètre. La moyenne empirique, moyenne arithmétique des valeurs de l'échantillon, est l'estimateur usuel de l'espérance théorique : elle est sans biais, et elle converge vers l'espérance d'après la loi des grands nombres.
Sur un échantillon de 4 durées de traitement 18, 22, 19 et 21 minutes, la moyenne empirique vaut (18 + 22 + 19 + 21) divisé par 4, soit 80 divisé par 4, c'est-à-dire 20 minutes. Les écarts à la moyenne sont −2, 2, −1 et 1 ; leurs carrés valent 4, 4, 1 et 1, de somme 10. La variance empirique non corrigée, divisée par n, vaut 10 divisé par 4, soit 2,5 ; la variance corrigée, divisée par n moins 1, vaut 10 divisé par 3, soit environ 3,33.
Confusions fréquentes
- Confondre biais et convergence
- Un estimateur biaisé pour tout échantillon de taille fixée peut malgré tout converger : c'est le cas de la variance divisée par n, dont le biais tend vers zéro quand n grandit.
- Diviser par n au lieu de n moins 1 pour estimer la variance
- La moyenne empirique, elle-même estimée sur l'échantillon, retire un degré de liberté : diviser par n moins 1 corrige ce biais systématique vers le bas.
La méthode du maximum de vraisemblance
La méthode du maximum de vraisemblance choisit, parmi toutes les valeurs possibles du paramètre, celle qui rend l'échantillon effectivement observé le plus probable. On écrit la vraisemblance de l'échantillon en fonction du paramètre, puis on cherche la valeur qui la maximise, souvent en maximisant son logarithme pour simplifier le calcul. Sur la loi de Bernoulli de paramètre p, l'estimateur du maximum de vraisemblance de p est la proportion de succès observée dans l'échantillon, identique à la moyenne empirique.
Sur 20 dossiers contrôlés indépendamment, 8 sont non conformes. L'estimation du maximum de vraisemblance de la proportion p de dossiers non conformes vaut 8 divisé par 20, soit 0,4. Sur la loi de Poisson de paramètre λ, la même logique donne l'estimateur du maximum de vraisemblance égal à la moyenne empirique : pour 3, 5, 2 et 4 dossiers non conformes observés sur quatre semaines, l'estimation vaut (3 + 5 + 2 + 4) divisé par 4, soit 3,5.
Le maximum de vraisemblance ne produit pas toujours l'estimateur sans biais usuel : sur la loi normale, il redonne la variance empirique divisée par n, biaisée, là où l'estimateur usuel divise par n moins 1. Retenir ce contre-exemple évite de croire que maximum de vraisemblance et absence de biais coïncident toujours.
Intervalle de confiance d'une moyenne et d'une proportion
Pour une population normale, quand sa variance est connue, l'intervalle de confiance de la moyenne s'écrit : la moyenne empirique, plus ou moins le quantile de la loi normale centrée réduite correspondant au niveau choisi, multiplié par l'écart type théorique divisé par la racine de n. Au niveau 95 %, ce quantile vaut 1,96. Quand la variance de la population est inconnue, on la remplace par la variance empirique corrigée, et le quantile de la loi normale par celui de la loi de Student à n moins 1 degrés de liberté, parce que la moyenne empirique, déjà estimée sur l'échantillon, retire un degré de liberté à l'estimation de la dispersion. L'intervalle de Student suppose la population normale ; sans cette hypothèse, il ne vaut qu'approximativement, pour n grand, où le théorème central limite justifie l'intervalle construit avec le quantile normal.
Sur un échantillon de 25 durées de traitement, la moyenne empirique vaut 20 minutes et l'écart type corrigé vaut 5 minutes. Le quantile de la loi de Student à 24 degrés de liberté, au niveau de confiance 95 %, vaut environ 2,064. La marge d'erreur vaut 2,064 multiplié par 5 divisé par la racine de 25, soit 2,064 multiplié par 1, c'est-à-dire environ 2,064. L'intervalle de confiance à 95 % de la durée moyenne de traitement s'étend donc d'environ 17,94 à 22,06 minutes.
Pour une proportion, l'intervalle de confiance s'écrit, en approximation normale : la proportion observée, plus ou moins le quantile de la loi normale centrée réduite, multiplié par la racine carrée du quotient par n du produit de la proportion observée f et de (1 moins f), soit f ± z·√(f(1 − f)/n). L'approximation normale demande un échantillon assez grand : usuellement n ≥ 30, nf ≥ 5 et n(1 − f) ≥ 5.
Sur un sondage de 200 dossiers, 15 % sont signalés anormaux. La marge d'erreur à 95 % vaut 1,96 multiplié par la racine de (0,15 × 0,85 divisé par 200), soit 1,96 multiplié par la racine de 0,0006375, c'est-à-dire 1,96 multiplié par environ 0,02525, soit environ 0,0495. L'intervalle de confiance à 95 % de la proportion réelle d'anomalies s'étend donc d'environ 10,05 % à 19,95 %.
Cas pratique n° 2 du sujet zéro de l'option : sur 1 000 poires contrôlées, 80 sont défectueuses, f = 0,08. On admet que la fréquence F d'un échantillon de taille n suit la loi normale de moyenne p et d'écart type √(p(1 − p)/n). Au risque de 5 %, |f − p| ≤ 1,96·√(p(1 − p)/n), donc, en majorant 1,96 par 2, |f − p| ≤ 2·√(p(1 − p)/n). En élevant au carré, n(f − p)² ≤ 4p(1 − p), soit (n + 4)p² − 2(nf + 2)p + nf² ≤ 0, ici 1 004p² − 164p + 6,4 ≤ 0. Le discriminant vaut 164² − 4 × 1 004 × 6,4 = 1 193,6 ; les racines valent environ 0,064 et 0,099 : p est compris entre 6 % et 10 % environ. La méthode usuelle, qui remplace p par f sous la racine, donne un intervalle voisin, de 0,063 à 0,097.
Interpréter un intervalle de confiance, choisir une taille d'échantillon
Confusions fréquentes
- Le niveau de confiance n'est pas une probabilité sur le paramètre observé
- Le paramètre théorique est fixe, pas aléatoire : c'est l'intervalle, calculé sur un échantillon aléatoire, qui varie. « 95 % de confiance » signifie que la méthode produit un intervalle correct dans 95 % des échantillons possibles, pas que ce paramètre a 95 % de chances d'être dans l'intervalle obtenu.
- Un intervalle plus étroit n'est pas automatiquement préférable
- Un intervalle étroit obtenu en abaissant le niveau de confiance donne une garantie moindre ; la largeur ne se compare qu'à niveau de confiance égal.
La taille d'échantillon nécessaire pour atteindre une marge d'erreur cible E se déduit de la formule de l'intervalle : pour une proportion, n vaut le quantile au carré, multiplié par p et par (1 moins p), le tout divisé par E au carré ; en l'absence d'estimation préalable de p, on retient la valeur la plus défavorable, p égal 0,5, qui maximise p multiplié par (1 moins p).
Pour une marge d'erreur de 3 points à 95 %, sans estimation préalable de p, n vaut 1,96 au carré, multiplié par 0,5 multiplié par 0,5, le tout divisé par 0,03 au carré, soit 3,8416 multiplié par 0,25 divisé par 0,0009, c'est-à-dire environ 1067,1 : il faut interroger au moins 1 068 dossiers.
Pour rédiger un intervalle de confiance en QRC : nommer l'estimateur, préciser variance connue ou non (donc normale ou Student), écrire la formule complète, appliquer les valeurs numériques, puis conclure par une phrase d'interprétation correcte du niveau de confiance.
Se tester : vrai ou faux ?
Décidez si l’affirmation est vraie ou fausse, puis ouvrez le corrigé.
1.Un estimateur peut être biaisé et pourtant converger vers le paramètre quand la taille de l'échantillon grandit.Voir le corrigé
Vrai
C'est le cas de la variance empirique divisée par n : biaisée à taille fixée, son biais tend vers zéro quand n grandit.
2.La variance empirique divisée par n est l'estimateur sans biais usuel de la variance théorique.Voir le corrigé
Faux
C'est la version divisée par n moins 1 qui est sans biais ; diviser par n sous-estime systématiquement la variance théorique.
3.Sur la loi de Bernoulli, l'estimateur du maximum de vraisemblance de p est la proportion de succès observée.Voir le corrigé
Vrai
C'est exactement la moyenne empirique de l'échantillon, résultat de la maximisation de la vraisemblance.
4.Un intervalle de confiance à 95 % signifie qu'il y a 95 % de chances que le paramètre soit dans l'intervalle calculé.Voir le corrigé
Faux
Le paramètre est fixe : c'est la méthode qui produit un intervalle correct dans 95 % des échantillons possibles, pas une probabilité sur le paramètre observé.
5.Sur un échantillon de petite taille avec variance inconnue, l'intervalle de confiance d'une moyenne utilise la loi de Student plutôt que la loi normale.Voir le corrigé
Vrai
La loi de Student compense l'incertitude supplémentaire due à l'estimation de l'écart type sur l'échantillon, la population étant supposée normale.
6.Multiplier par 4 la taille de l'échantillon divise par 4 la largeur d'un intervalle de confiance.Voir le corrigé
Faux
La marge d'erreur diminue avec la racine de n : à niveau de confiance égal, un échantillon quatre fois plus grand divise la largeur par 2 environ, non par 4.
Textes de référence
- Programmes de l'épreuve écrite n° 2 d'admissibilité du concours externe d'inspecteur des finances publiques (QCM et neuf options de QRC) — DGFiP — economie.gouv.fr (nouvel onglet)
- Arrêté du 2 mars 2011 fixant les règles d'organisation générale, la nature et le programme des épreuves des concours pour l'accès au grade d'inspecteur des finances publiques (version consolidée, modifiée par l'arrêté du 1er juillet 2024, NOR ECOE2416012A) — Légifrance (nouvel onglet)
- Guide ENFiP — préparer l'épreuve de QCM et de QRC du concours externe d'inspecteur des finances publiques — DGFiP — ENFiP (nouvel onglet)
Accès DGFiP est un service indépendant : il n’est ni affilié ni validé par la Direction générale des Finances publiques. En cas de doute, le texte officiel fait foi.