• Sommaire

Introduction

L’inférence est un domaine des statistiques qui regroupe deux problèmes : la détection et l’estimation.

Détection

Pour un problème de détection, l’espace des résultats est discret. Cela peut être “comparé” à un problème de classification en Machine Learning.

Il existe plusieurs approches de résolution : bayésiennes, non-bayésiennes, min-max, Neyman-Person, ROC curve, …

Il est également possible de tester plusieurs hypothèses simultanées (composite hypothesis testing) et verrons également le comportement asymptotiques de certaines probabilités (large deviation analysis and error exponents).

Estimation

Pour un problème de détection, l’espace des résultats est continue. Cela peut être “comparé” à un problème de régression en Machine Learning.

Il existe plusieurs approches de résolution :

• MMSE(Minimum Mean Square Error - Erreur Quadratique Moyenne Minimale)
• MMAE (Minimum Mean Absolute Error - Erreur Absolue Moyenne Minimale)
• MAP (Maximum A Posteriori - Maximum A Posteriori)
• MLE (Maximum Likelihood Estimation - Estimation du Maximum de Vraisemblance)
• CRLB (Cramér-Rao Lower Bound - Borne Inférieure de Cramér-Rao)
• Fi (Fisher Information - Information de Fisher)

En fin de compte, ce qui rend possible les problèmes de Détection et d’Estimation (D&E), c’est la présence d’un bruit aléatoire qui perturbe nos observations. Si jamais le rapport entre le signal et le bruit est trop faible, alors, il y a une zone d’indécision.

Comme dit précédemment, la D&E peut être approchée du ML, mais il existe des différences élémentaires :

• En D&E, la distribution des données est supposée connue
• En D&E, la dimension des données est faible