La parcimonie : Un a priori à succés

La parcimonie : Un a priori à succès 

Il est facile d’analyser les raisons pour lesquelles la parcimonie a vu un tel engouement de la part de la communauté du traitement du signal : tout d’abord, l’intégration de la parcimonie donne naissance à des techniques plus performantes dans différents domaines tels que l’estimation [3], le débruitage [4], la compression [5] ou même l’acquisition [6]. Outre cet apport de la parcimonie, la motivation principale de la parcimonie vient de l’observation. La parcimonie est présente dans différents domaines : Les signaux sonores ont une décomposition parcimonieuse en temps-fréquences, la plupart des images ont une décomposition parcimonieuse sur une base d’ondelettes, on rencontre la notion de parcimonie statistique en traitement  du signal sonar, radar ou en contre-mesure…

Afin de mieux comprendre l’importance de la parcimonie en théorie comme en pratique, nous commençons dans ce chapitre par définir les différentes notions de parcimonie, les critère de mesure de la parcimonie, puis nous exposerons l’intégration et l’apport de celles-ci dans différents domaines d’applications.

Tests statistiques pour la séparation aveugle de sources 

La séparation aveugle de sources (SAS) est une discipline en plein essor qui trouve application dans une variété de domaines, comme le traitement audio [7, 8], les télécommunications [9, 10], l’ingénierie biomédicale [11, 12] ou encore le traitement radar [13]. Différentes méthodes permettent d’aborder ce problème. Cependant, depuis une dizaine d’années, les méthodes basées sur la parcimonie des sources ont fait l’objet d’un grand intérêt. Toutes les méthodes étudiées dans cette thèse appartiennent à cette famille. Ces méthodes procèdent en deux étapes. Dans un premier temps, ces méthodes trouvent des zones temps-fréquence où une seule source est présente afin d’estimer la matrice de mélange. Puis, dans un second temps, estiment les sources. A l’image de la méthode de projection en sous-espaces [1], les performances de séparation des méthodes basées sur la parcimonie des sources dépendent du choix des paramètres. L’utilisation de paramètres empiriques constitue la limitation majeure de ces techniques.

Acquisition compressée de signaux à alphabet fini 

L’acquisition compressée (CS pour compressed sensing) est une nouvelle technique d’acquisition et de compression qui exploite la parcimonie des signaux. Développée conjointement par Donoho [5] et Candès, Romberg et Tao [6], l’objectif principal du CS est de réduire la dimension d’un signal de façon non-adaptative, tout en gardant l’information nécessaire à sa reconstruction. Ceci est réalisé en projetant les signaux sur un petit nombre de vecteurs aléatoires choisis de façon non-adaptative.

La parcimonie : Un a priori à succés

Quels que soient le domaine d’application et la technique utilisée, l’optimisation des résultats nécessite de tirer profit de toute l’information a priori. Ces dernières années, la parcimonie a émergé comme un a priori fondamental.

Bref historique

Le dictionnaire Larousse définit le terme parcimonie comme une notion d’économie ou d’épargne. Ainsi, il est dur d’essayer de retracer historiquement la notion de parcimonie car la parcimonie ou plus précisément le principe de parcimonie est un principe de raisonnement philosophique avant tout. Ce raisonnement consiste à n’utiliser que le minimum d’hypothèses ou de causes élémentaires pour expliquer/décrire un phénomène observé. Ce principe est également connu sous le nom du rasoir d’Ockham (Wikipédia). Le rasoir d’Ockham est nommé d’après William (de) Ockham (un village près de East Horsley dans le Surrey). Il est généralement formulé par : « Les multiples  ne doivent pas être utilisés sans nécessité » bien que cette formule soit connue avant d’Ockham. Il s’agit d’une métrique de simplicité pour l’élaboration de théories [20]. En sciences, la parcimonie intervient dans un grand nombre de domaines (mathématique, physique, sciences naturelles…). Par exemple en systématique [21], ce principe privilégie la séquence avec le minimum de changements évolutifs pour expliquer des relations phylogéniques. En sismologie, dans le milieu des années 80, Santosa et Symes [22] ont étudié la reconstruction de train parcimonieux de Dirac. En statistique, la robustesse par rapport aux outliers peut s’interpréter par la présence d’un bruit parcimonieux dans le modèle. Ainsi, comme nous le verrons dans la première partie, la notion de parcimonie et les statistiques robustes sont étroitement liées.

Parcimonie en traitement du signal

La notion de parcimonie comme nous l’avons dit est liée à la notion d’économie. Ainsi, une représentation d’un vecteur réel est dite parcimonieuse si cette représentation est économique. En d’autres termes, il existe une façon plus économique de décrire le vecteur que de donner la valeur de tous ses éléments. En traitement du signal, cela signifie que la plupart des coefficients sont nuls, et seuls quelques coefficients ont des valeurs non-nuls. Ce type de parcimonie porte le nom de parcimonie stricte. La parcimonie au sens large traduit le fait que la majorité des coefficients a une valeur faible, tandis que le reste prend des valeurs assez grandes. Contrairement à ces deux notions de parcimonie, large et stricte, qui caractérisent des signaux déterministes et qui ne constituent pas une définition absolue en soit, mais plutôt une propriété nécessitant une mesure d’évaluation, D. Pastor a introduit dans [2] une notion de parcimonie pour des vecteurs aléatoires. De plus, cette notion de parcimonie n’est pas liée à un processus donné mais plutôt à un modèle aléatoire. Le modèle aléatoire est le suivant : l’observation est une réalisation d’un vecteur aléatoire qui est soit du bruit, soit la somme d’un signal utile plus du bruit. Ainsi, dans la suite de ce manuscrit, nous dirons que ce modèle aléatoire est parcimonieux si le signal est plus souvent absent que présent et que, présent, il l’est avec une amplitude minimale garantie. Mathématiquement, étant données plusieurs observations, notons Y , X et W les vecteurs aléatoires réels de dimension d représentant respectivement l’observation, le signal utile et le bruit présent dans le modèle. Le modèle est alors le suivant :

H0 : Y = W
H1 : Y = X + W

Ce modèle est dit parcimonieux si :

1. La probabilité d’occurrence de l’hypothèse H1 est inférieure ou égal à un demi, c’est à dire P(H1) ≤ 1/2.
2. Il existe une certaine valeur α telle que |X| > α presque sûrement.

Comme on peut le constater, la séparation entre la notion de signal utile et l’absence ou la présence de ce signal (valeur nulle ou non nulle) constitue la différence fondamentale, outre l’aspect aléatoire ou déterministe, entre la parcimonie du modèle [2] et la parcimonie d’un signal utile (strict ou large). Pour s’en rendre compte, considérons le cas où d = 1 et que l’on observe un vecteur de n réalisations de la variable aléatoire Y , noté y = (y1, y2, . . . , yn) T , on a alors

y = x + w.

Quelque soit la distribution de la variable aléatoire X, le vecteur x est strictement parcimonieux. Nous retrouvons alors le modèle de débruitage (d’estimation) des signaux parcimonieux [23]. Dans ce dernier, x représente le signal utile, alors que dans le modèle (1.1), le signal utile représente les composantes de x non nulles. Cette différence dans la définition du signal utile découle de la procédure d’estimation de x. En effet, afin d’estimer x, deux approches sont possibles : l’approche qui consiste à estimer directement x, sous l’hypothèse que x est parcimonieux [23] et l’approche qui consiste à détecter les coefficients non nuls, sous l’hypothèse de parcimonie de présence (du modèle), puis à estimer ces coefficients via une procédure d’estimation [24].

Table des matières

Introduction générale
1 Parcimonie
1.1 La parcimonie : Un a priori à succés
1.1.1 Bref historique
1.1.2 Parcimonie en traitement du signal
1.1.3 Mesures de parcimonie
1.1.4 Et la pratique dans tout ça ?
1.2 Intégration de la parcimonie
1.2.1 Optimisation global
1.2.2 Optimisation local et Algorithmes gloutons
1.3 Apports
1.3.1 Approximation et Compression
1.3.2 Débruitage
2 La séparation de sources
2.1 Introduction
2.2 L’approche d’analyse en composantes indépendantes
2.3 L’approche de factorisation en matrices non-négatives
2.4 Méthodes SAS fondées sur la parcimonie
2.4.1 Modèle
2.4.2 Principe
2.4.3 Estimation de la matrice de mélange
2.4.4 Estimation des signaux sources
3 Tests statistiques pour les méthodes SAS basées sur la parcimonie des sources
3.1 Sélection multisource
3.1.1 Formulation statistique
3.1.2 Hypothèse de parcimonie du modèle
3.1.3 Test à seuil
3.1.4 Estimation de l’écart type
3.2 Sélection autosource
3.2.1 Le cas de signaux avec un faible taux de recouvrement
3.2.2 Le cas de signaux avec un fort taux de recouvrement
4 Résultats de simulations
4.1 Données de simulations
4.2 La méthode SUBSS
4.3 La minimisation `1
4.4 La méthode TIFROM
4.5 Masquage binaire (reconstruction DUET)
4.6 Mélange convolutif
5 Conclusions

Télécharger le rapport complet