Vous êtes sur la page 1sur 95

TELECOM ParisTech Universit Pierre et Marie Curie

MMOIRE
prsent pour obtenir
lHabilitation Diriger des Recherches
par
Olivier RIOUL
Contributions aux thories des ondelettes, du codage
conjoint source-canal et de linformation
Soutenance le 14 dcembre 2009
Proposition de commission dexamen :
Rapporteurs Pierre DUHAMEL
Benot GELLER
Michael UNSER
Examinateurs Georges ALQUI
Riadh ABDELFATTAH
Philippe GALLION
ma femme adore et mes quatre enfants adors
iv
Note aux rapporteurs
Le prsent mmoire est disponible en format lectronique ladresse
perso.telecom-paristech.fr/rioul/HDR/memoire.pdf
Lannexe au prsent mmoire regroupe 2000 pages et est disponible en format lectronique
(80 Mo) ladresse
perso.telecom-paristech.fr/rioul/HDR/annexe.pdf
Table des matires
1 En bref. . . 1
1.1 Diplmes et titres . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.2 Fonctions et responsabilits . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.3 Publications et index de citation . . . . . . . . . . . . . . . . . . . . . . . 2
1.4 Responsabilits de recherche . . . . . . . . . . . . . . . . . . . . . . . . 2
1.5 Responsabilits denseignement . . . . . . . . . . . . . . . . . . . . . . 2
2 Curriculum Vit 3
2.1 Formation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
2.2 Activit professionnelle . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
2.3 Divers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
3 Activits denseignement 5
3.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
3.2 Cursus, domaines et volumes . . . . . . . . . . . . . . . . . . . . . . . . 6
3.3 Aspects pdagogiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
3.4 Administration, laboration et animation . . . . . . . . . . . . . . . . . . 8
3.5 Liste des units denseignement . . . . . . . . . . . . . . . . . . . . . . 11
3.5.1 Formation dingnieur . . . . . . . . . . . . . . . . . . . . . . . . 11
3.5.2 Masters recherche . . . . . . . . . . . . . . . . . . . . . . . . . . 14
3.5.3 Formation continue . . . . . . . . . . . . . . . . . . . . . . . . . . 16
3.6 Liste de documents pdagogiques et contenus enseigns . . . . . . . . 17
4 Activits de recherche et animation dquipe 21
4.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
4.2 Thse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
4.3 Thmes de recherche . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
4.4 Diffusion scientique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
v
vi
4.5 Expertise, collaborations, contrats . . . . . . . . . . . . . . . . . . . . . 27
4.6 Encadrement . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
4.7 Animation dquipe de recherche . . . . . . . . . . . . . . . . . . . . . . 33
5 Liste des publications et travaux 35
6 Travaux de recherche et de diffusion scientique 41
6.1 Dcomposition multi-rsolution en temps discret . . . . . . . . . . . . . 41
6.2 Conception de ltres dyadiques plats et slectifs . . . . . . . . . . . . . 42
6.3 Optimisation dune compression dimages xes par ondelettes . . . . . . 43
6.4 Bote outils MATLAB Ondelettes et temps-frquence . . . . . . . . 44
6.5 Analyse et synthse de son par ondelettes orthogonales . . . . . . . . . 44
6.6 Algorithmes rapides de transformation en ondelettes dyadiques . . . . . 45
6.7 Algorithmes rapides de transformation continue en ondelettes . . . . . . 46
6.8 Diffusion et vulgarisation des Ondelettes . . . . . . . . . . . . . . . . . . 47
6.9 Rseaux de neurones linariss alatoirement . . . . . . . . . . . . . . 47
6.10 Convolution afne de la distribution de Wigner-Ville . . . . . . . . . . . . 48
6.11 Unication des reprsentations nergtiques temps-chelle . . . . . . . 49
6.12 Conception en miroir de bancs de ltres biorthogonaux . . . . . . . . . . 50
6.13 Conception dondelettes dyadiques rgulires . . . . . . . . . . . . . . . 51
6.14 Gnralisation des ondelettes p-adiques multidimensionnelles . . . . 52
6.15 Bancs de ltres itrs interpolation et dcimation rationnelles . . . . . 52
6.16 Traitements aux bords pour le codage adaptatif en sous-bandes . . . . 53
6.17 Rgularit hldrienne de schmas de subdivision binaires . . . . . . . 54
6.18 Analyse de rgularit de schmas de subdivision rationnels . . . . . . . 55
6.19 Critre L

statistique pour la compression presque sans pertes . . . . 56


6.20 Compression dimages biomdicales au sens L
2
et L

. . . . . . . . . 57
6.21 Optimisation de quanticateurs robustes dquantication linaire . . . 57
6.22 Dualit source/canal q-aire symtrique . . . . . . . . . . . . . . . . . . . 59
6.23 Codes conjoints binaires solitaires ou ous . . . . . . . . . . . . . . . . 60
6.24 Dcodage binaire souple optimis par lalgorithme de Lloyd . . . . . . . 61
6.25 Allocation optimale de dbits de codeurs conjoints source/canal . . . . . 62
6.26 Systme complet de codage conjoint dimages sur canal GSM . . . . . 62
6.27 Compression de source binaire asymtrique par codes de canal . . . . 63
6.28 Codage conjoint arithmtique en blocs . . . . . . . . . . . . . . . . . . . 64
6.29 Rduction de bruit poivre et sel par dcodage algbrique BCH . . . 65
6.30 Conception de codes BCH rels pour le codage conjoint . . . . . . . . . 65
6.31 Codes BCH rels sur le canal Bernoulli-Gaussien . . . . . . . . . . . . . 66
6.32 Systme complet de codage conjoint dimages satellitaires SPOT-V . . . 67
6.33 Diffusion du codage source/canal conjoint . . . . . . . . . . . . . . . . . 67
6.34 Allocation optimale de ressources par ordonnancement lagrangien . . . 68
6.35 Allocation optimale de ressources par chemins convexes . . . . . . . . . 69
6.36 Allocation rapide par omission dindex ou de chemins . . . . . . . . . . . 70
6.37 Ingalits de puissance entropique par traitement de donnes . . . . . . 70
vii
6.38 Ingalits de puissances entropiques gnralises . . . . . . . . . . . . 71
6.39 Information et estimation paramtrique et non paramtrique . . . . . . . 72
6.40 Diffusion de la thorie de linformation . . . . . . . . . . . . . . . . . . . 73
7 Perspectives : recherche et diffusion scientique 75
7.1 Quantication optimale dune source quelconque en prsence derreurs 75
7.2 Conception rapide de codes de Huffman sous contraintes . . . . . . . . 75
7.3 Codage par transforme en basse rsolution . . . . . . . . . . . . . . . 76
7.4 Dcodage souple des codes BCH sur les entiers cyclotomiques . . . . . 76
7.5 numration de poids et dcodage de codes q-aires duaux . . . . . . . 76
7.6 Dcodage dun rseau de rang dcient . . . . . . . . . . . . . . . . . . 77
7.7 Dcodage espace-temps sur des varits grassmanniennes . . . . . . . 77
7.8 Conditions doptimalit de lalgorithme de Lloyd gnralis . . . . . . . . 78
7.9 Allocation de puissance pour les communications multiporteuses . . . . 78
7.10 Algorithme de recuit dterministe de Blahut-Rose . . . . . . . . . . . . . 78
7.11 Codage typique source ou canal et schmas hsitants . . . . . . . . . . 79
7.12 Reconstruction dinformation morcelle par distance entropique . . . . . 79
7.13 Mathmatiques appliques au CMAP (Polytechnique) . . . . . . . . . . 80
7.14 Rexions sur les outils mathmatiques danalyse . . . . . . . . . . . . 80
7.15 Information des nombres premiers et fonctions additives . . . . . . . . . 81
7.16 Aspects de thorie de linformation en psychologie exprimentale . . . . 81
Rfrences bibliographiques 83
viii
CHAPITRE
1
En bref. . .
Olivier Rioul
Institut TELECOM
Institut ParisTech
LTCI CNRS
TELECOM ParisTech
Dpartement Comlec
46, rue Barrault
75634 Paris Cedex 13
Tl : +33 (0)1 45 81 78 45
Fax : +33 (0)1 45 89 00 20
N Strasbourg en 1964
Franais, mari
4 beaux enfants
olivier.rioul@telecom-paristech.fr
perso.telecom-paristech.fr/~rioul/
rioul@cmapx.polytechnique.fr
www.cmap.polytechnique.fr/~rioul/
1.1 Diplmes et titres
Polytechnicien (promotion X84)
Ingnieur de lEcole Nationale Suprieure des Tlcommunications (1989)
Docteur de lEcole Nationale Suprieure des Tlcommunications (1993)
Thse : Ondelettes rgulires : application la compression dimages xes
Ingnieur en Chef du Corps des Mines
1.2 Fonctions et responsabilits
Enseignant-Chercheur, matre de confrences de classe 1 TELECOM Paris-
Tech
1
(depuis 1995)
Responsable du groupe Communications Numriques de TELECOM ParisTech
(2004-2008)
Professeur charg de cours au Centre de Mathmatiques Appliques de lEcole
Polytechnique (depuis 2008)
Reponsable des sujets de mathmatiques du Concours Commun Mines-Ponts
(depuis 2008)
Enseignant vacataire lENSTA ParisTech et Suplec.
1. LEcole Nationale Suprieure des Tlcommunications (ENST) a chang de nom en 2008 et est
devenu TELECOM ParisTech.
2 Chapitre 1. En bref. . .
1.3 Publications et index de citation
2 livres (650 pages) publis chez Hermes-Science (Londres)
1 chapitre et 3 articles de livres
10 articles de revue internationale comit de lecture
20 articles de congrs internationaux avec actes
15 articles dateliers internationaux ou de congrs nationaux avec actes
3 articles pdagogiques ou tutoriaux
1 bote outils logiciels (bibliothque SIMPA du GDR ISIS).
H-number
2
: 13
G-number
3
: 51
72,3 citations par publication (moyenne sur 37 rfrences)
1441 citations pour la publication suivante :
Wavelets and Signal Processing, avec Martin Vetterli.
1.4 Responsabilits de recherche
5 doctorants encadrs
plus de 15 stagiaires et post-doc encadrs
3 contrats de recherche naliss
1.5 Responsabilits denseignement
responsable de 10 units denseignement de niveau Master
5 en formation dingnieur (TELECOM et ENSTA ParisTech)
4 en Master recherche et Master of science (UPMC, Suplec, ParisTech)
1 en formation continue (Institut TELECOM)
responsable de 2 cycles denseignement (TELECOM ParisTech)
enseigne dans plus de 15 units denseignement
12 polycopis de cours (niveau master, environ 1000 pages)
units dactivits denseignement
4
TELECOM ParisTech :
5774 points en 2008/09
6834 points en 2007/08
5668 points en 2006/07
2. Cest le plus grand entier h tel que les h publications les plus cites le sont au moins h fois
chacune ; 25 sur 160 chercheurs TELECOM ParisTech ont un h-number >10.
3. Cest le plus grand entier g tel que les g publications les plus cites recueillent ensemble au moins
g
2
citations. Si les citations sont peu prs uniformes, le g-number est gal au h-number. Le g-number
favorise la prsence darticles-phare particulirement cits et a t propos comme une amlioration du
h-number qui value plus nement limpact des scientiques.
4. Les correspondances sont les suivantes : 15,4 points correspondent 1 heure de cours magistral,
10 points 1 heure de petite classe, 150 points une coordination de modules denseignement.
CHAPITRE
2
Curriculum Vit
2.1 Formation
sept. 1982 aot 1984 Lyce Klber (Strasbourg). Mathmatiques suprieures et
spciales M
t
.
sept. 1984 aot 1987 Ecole Polytechnique.
Service militaire : Ofcier au 135
e
RT Karlsruhe (Alle-
magne).
Stage long : Aspects mathmatiques de la transforme
en Ondelettes sous la direction de Yves MEYER et Alex
GROSSMANN au Centre de Mathmatiques de lEcole Poly-
technique, au Laboratoire de Mcanique et dAcoustique de
Marseille (CNRS) et au Centre de Physique Thorique de
Marseille-Luminy.
sept. 1987 aot 1989 Ecole Nationale Suprieure des Tlcommunications.
Ingnieur-lve du Corps interministriel des Tlcommuni-
cations.
Stage de recherche (marsnov. 1988) aux AT&T Bell Labo-
ratoires (Murray Hill, NJ, USA) sous la direction de Bishnu
S. ATAL : Rseaux de neurones appliqus la reconnais-
sance de la parole .
Option de n dtudes : Traitement du Signal.
Stage dOption : Algorithmes de ltrage rapide .
sept. 1989 mars 1993 Ecole doctorale de lENST.
Doctorant au sein du Centre de Recherche en Physique de
lEnvironnement terrestre et plantaire (Laboratoire mixte
CNRS/CNET), dpartement Electromagntisme, Communi-
cation et Propagation.
Thse : Ondelettes rgulires : Application la compres-
sion dimages xes
Mention trs honorable avec flicitations du jury :
Claude LABIT . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Prsident
Yves MEYER . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Rapporteur
Martin VETTERLI . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Rapporteur
Michel BARLAUD . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Examinateur
4 Chapitre 2. Curriculum Vit
Yves GRENIER . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Examinateur
Pierre DUHAMEL . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Directeur
2.2 Activit professionnelle
sept 1989 dc. 1994 Centre National dEtudes des Tlcommunications.
Ingnieur de recherche au dpartement Electromagntisme,
Thorie des Communications et Propagation du Centre de
recherche en Physique de lenvironnement terrestre et pla-
ntaire (unit mixte CNRS/CNET), puis au dpartement Ser-
vices de Communication de Groupe et de Visiophonie du
Centre CNET Paris B (Issy les Moulineaux).
janv. 1995 prsent Ecole Nationale Suprieure des Tlcommunications.
Enseignant-chercheur, Matre de confrences au dparte-
ment Communications, puis au dpartement Communications
et Electronique.
Responsable du groupe Communications Numriques depuis
2004.
Metteur au point des sujets de mathmatiques et examinateur
de loral du concours commun Mines-Ponts depuis 2008.
sept. 2008 prsent Ecole Polytechnique.
Professeur charg de cours au Centre de Mathmatiques
Appliques (CMAP).
2.3 Divers
Anglais courant (ARELS higher certicate), notions dAllemand et dArabe.
Programmation en Scilab, MATLAB et C. Conception de styles L
A
T
E
X pour diff-
rents documents pdagogiques.
Tennis de Table : Comptitions au niveau rgional (class 12).
CHAPITRE
3
Activits denseignement
3.1 Introduction
Ma passion pour lenseignement remonte mon environnement familial : mes
deux parents sont professeurs lEducation Nationale, et les dbats sur la pdagogie
en classe ne manquaient pas lors des repas familiaux. Aprs mes annes de Lyce
et de Classes prparatoires, o jai dvelopp une attitude critique sur lesprit des
Mathmatiques modernes de lpoque, jai trouv lEcole Polytechnique, puis
Tlcom Paris (ENST), un enseignement dune relle qualit, o les ides sont enn
mises en avant et trouvent des applications pratiques, sans pour autant ngliger la
saveur voire la posie dune tude rigoureuse des concepts.
Dans la dcennie qui suivit, Tlcom Paris puis au CNET (actuellement France
Tlcom R&D), mes proccupations taient presque exclusivement centres sur la
recherche. Je puisai nanmoins dans les enseignements reus les ressources nces-
saires pour mettre en forme et faire passer mes ides lors de rdactions darticles et
de prsentations de sminaires. Il mest aussi arriv dtre invit pour des confrences
pdagogiques lENST, lINT, lINRIA et en formation continue de lEUROSAE (ENSTA
et SupAro).
De retour Tlcom Paris en 1995 en tant quenseignant-chercheur, jai pu ra-
pidement apprcier la complmentarit et linteraction rciproque de mes activits
denseignement et de recherche. Mappuyant sur des collaborations de recherche,
jai eu loccasion de mimpliquer dans des cours aussi bien en traitement du signal
(au dpartement Signal et Images) quen codage et en communications numriques
(au dpartement Communications et Electronique) je mafrmai ainsi comme un
enseignant-chercheur ouvert sur plusieurs disciplines.
Progressivement, les sollicitations en enseignement de communications num-
riques ont cr en nombre et importance. Mes activits denseignement ont donc pris
une part de plus en plus grande, aussi bien en formation dingnieur que dans les
masters recherche en relation avec les universits Paris 6 et 11. En retour, ces activits
denseignement pluri-disciplinaires ont eu un impact positif sur mes orientations de
recherche, particulirement en codage de source et de canal conjoint.
Suite ma nomination de chef de groupe Communications Numriques en
2003, jai t amen rchir et agir sur lensemble des enseignements en commu-
nications et en mathmatiques de lingnieur dans un contexte plus large : celui des
activits de mon groupe dans le cadre de TELECOM ParisTech et en partenariat avec
6 Chapitre 3. Activits denseignement
lUPMC; et plus rcemment, dun rapprochement avec les autres coles de ParisTech,
particulirement avec lENSTA ParisTech et lEcole Polytechnique.
Voici, dtaill en quelques points saillants, ce qui caractrise mes activits densei-
gnement.
3.2 Cursus, domaines et volumes
Des cursus varis Je participe en tant quenseignant et responsable pdagogique,
tous les niveaux denseignement et de formation dune Ecole dIngnieurs :
diffrents Masters Recherche (M1 et M2), lUPMC, Paris-Sud 11, et Suplec ;
Master of Science in digital communications TELECOM ParisTech ;
cycle douverture aux STIC pour les polytechniciens en 4
e
anne TELECOM
ParisTech ; option scientique et technique pour les ingnieurs-lves du Corps
des Mines.
formation dingnieur en cycle Master (niveau M1M2) en deuxime ou troisime
anne (TELECOM ParisTech, ENSTA ParisTech, Ecole Polytechnique) ;
formation dingnieur de tronc commun en premire ou deuxime anne (TELE-
COM ParisTech, ENSTA ParisTech, Ecole Polytechnique) ;
stages de formation continue de lInstitut TELECOM sur catalogue ou en contrat
intra-entreprise.
Voir 3.5 ci-dessous pour une liste dtaille des units denseignement que je
coordonne et/ou auxquelles je participe.
Des domaines denseignement varis Une caractristique trs agrable de ma
discipline est quelle intgre dans les systmes pratiques de nombreuses connais-
sances puises dans des domaines divers, de lalgbre et la thorie des nombres
lanalyse et la thorie des probabilits en passant par la thorie de linformation,
les techniques de traitements de signaux, et les contraintes de conception physique
des dispositifs matriels. Dans mes cours, les domaines traits ont une forte teneur
mathmatique, et laccent porte essentiellement sur les applications de codage de
source et de canal. On y trouve abordes des notions aussi diverses que :
des outils algbriques (essentiellement les corps nis GF(p
n
) et les proprits
arithmtiques dans des corps algbriques) ;
des outils danalyse (surtout la transforme de Fourier et la convolution) ;
des outils probabilistes (jusqu la loi des grands nombres et le thorme
ergodique) ;
des outils de traitement du signal (y compris ceux danalyse temps-frquence et
temps-chelle) ;
des outils de thorie de linformation (jusquaux thormes de Shannon pour le
codage et la thorie de linformation multi-utilisateurs) ;
des applications aux systmes de modulation analogique et numrique ;
des applications la compression de donnes et de signaux ;
des applications au codage de canal mono et multi-utilisateurs.
Voir 3.6 ci-dessous pour une liste dtaille des contenus que jenseigne.
3.3. Aspects pdagogiques 7
Volumes denseignement Il mest difcile de dtailler tous les volumes enseigns
dans les diffrents institutions et cursus. Cependant TELECOM ParisTech recense et
chiffre toutes les dclarations denseignement en formation dingnieur et de master
sous forme de points denseignement. Je totalise, sur les trois dernires annes
scolaires :
5774 points en 2008/09
6834 points en 2007/08
5668 points en 2006/07.
Les correspondances sont les suivantes : 15,4 points correspondent 1 heure de cours
magistral, 10 points 1 heure de petite classe, 50 ou 150 points une coordination
de modules denseignement. Cela correspondrait donc 580 h-quivalent TD. A cela
sajoute un service de 64 h lEcole Polytechnique et de 30 h (plus coordination de deux
modules denseignement) lENSTA ParisTech. Mis part un engagement rel pour
lenseignement, ce fort volume sexplique par un nombre important de coordinations
pdagogiques dunits ou de cycles denseignement, et par une pression indniable
pour assurer des enseignements de plus en plus nombreux dans mes domaines de
comptence en formation dingnieur et de master recherche.
3.3 Aspects pdagogiques
Une rexion sur la pdagogie Jenseigne non seulement dans des cursus dif-
frents en intgrant des domaines mathmatiques varis, mais galement pour de
nombreuses lires et origines dtudiants. On retrouve dans mes cours une population
souvent htrogne, avec des cultures trs diffrentes : lves polytechniciens ou
normaliens, issus du concours commun ou admis sur titre, en master duniversit, de
toutes nationalits.
Cette interculturalit, prsente TELECOM ParisTech comme dans dautres uni-
versits et coles dingnieurs dans lesquelles jenseigne, ma conduit rchir sur
la communication dans des groupes multi-culturels, en particulier sur limportance
de la communication non-verbale et de la diversication des supports de cours. Ma
dmarche sadapte au type denseignement dispens :
dans un cours magistral, je privilgie lcriture au tableau, de faon pouvoir
sadapter en permanence aux difcults rencontres. La vidoprojection est
utilise comme support annexe, surtout pour du graphisme (peu de texte). Je
propose rgulirement aux lves dinteragir en reformulant une partie du cours
ou en rsolvant un petit exercice ;
en petites classes, je cherche animer les raisonnements et proposer une
participation active par groupes dtudiants ; la dmarche est similaire lors de
sances de travaux pratiques ;
les suivis de projets ou de stages sont aussi loccasion dapprofondir une d-
marche plus inductive que dductive, en liaison avec le futur mtier dingnieur
ou de chercheur des tudiants.
Je mappuie si possible sur une sance de prsentation initiale et sur les retours dva-
8 Chapitre 3. Activits denseignement
luation pour mieux cerner les problmes ; je mappuie galement sur les ressources
disponibles TELECOM Paristech (dpartement langues et cultures et dpartement
innovation pdagogique). Par exemple, suite laction de ce dernier dpartement (Sa-
rah LEMARCHAND), je contribue au projet PADEN (prparation distance dtudiants
non francophones au franais scientique).
Documents pdagogiques Mes cours saccompagnent systmatiquement de do-
cuments crits : polycopis, sujets dexercices, annales de contrles, etc. disponibles
en accs libre sur intranet, avec des informations au fur et mesure du droulement
du cours (cf. perso.telecom-paristech.fr/rioul/cours.html). Ces docu-
ments sont trs apprcis des tudiants, non seulement parce quils y puisent des
renseignements complmentaires leur permettant de mieux assimiler le contenu du
cours, mais aussi, pour les tudiants trangers, parce que cela leur permet de mieux
apprhender le vocabulaire et les notations spciques du franais. A lexception de
quelques cours donns en anglais (Master of Science), jincite mes tudiants dve-
lopper leurs comptences en rdaction en franais lors des exercices et des contrles,
linstar de mes corrigs donns en cours.
Voir 3.6 ci-dessous pour une liste dtaille de mes polycopis.
Publications pdagogiques Au del de la rdaction de documents de cours poly-
copis, jai commenc rcemment publier des livres pdagogiques bass sur ces
polycopis, qui sont distribus dans certains cours. Cest un travail particulirement
long et prenant. Jessaie cette occasion dadopter une dmarche simple, didactique
et parfois originale en comparaison des manuels existants (voir 7.14). De nombreux
exercices et problmes dapplication sont proposs. Actuellement publis :
Thorie de linformation et du codage, Hermes Science-Lavoisier, 2007 (286
pages).
Thorie des probabilits, Hermes Science-Lavoisier, 2008 (364 pages).
(cf. perso.telecom-paristech.fr/rioul/books.html). Des traductions (en
anglais) sont en projet chez Wiley-ISTE, et dautres projets de publication sont en
cours dlaboration.
3.4 Administration, laboration et animation
Responsabilit dans le concours commun Mines-Ponts La lire principale de
recrutement de TELECOM ParisTech et de nombreuses coles dingnieurs de Paris-
Tech (dont les Mines ParisTech, lEcole des Ponts ParisTech, lENSTA ParisTech, et
lENSAE ParisTech) est le concours commun Mines-Ponts en lires MP, PSI et PC
dont le directeur de TELECOM ParisTech (Yves POILANE) est le directeur du jury. Jai
t missionn par ce dernier comme metteur au point des sujets de mathmatiques
partir de 2008 et inspecteur de loral de ce concours partir de 2009. La connaissance
des programmes et du fonctionnement des classes prparatoires dans ces lires, ainsi
que des volutions prvues, me semble un complment apprciable lorganisation
3.4. Administration, laboration et animation 9
de lenseignement de TELECOM ParisTech en formation dingnieur, et contribue in
ne la formation de futurs ingnieurs et chercheurs. De plus, des rencontres avec les
enseignants de classes prparatoires, de grandes coles et duniversit comme ric
LEICHTNAM de linstitut de mathmatiques de Jussieu, galement impliqu dans ce
concours favorisent une rexion pdagogique sur lenseignement doutils mathma-
tiques au niveau Licence et Master, notamment pour le domaine denseignement MDI
(mathmatiques de lingnieur) de TELECOM ParisTech.
Elaboration du tronc commun de formation dingnieur Je participe rgulire-
ment des instances de rexion et de coordination des enseignements au niveau de
TELECOM ParisTech. En particulier, je participe actuellement un groupe de travail de
la Commission des Programmes portant sur lorganisation et les contenus pour le cycle
BCI (Bases de Connaissances Indispensables) de premire anne, pour les rentres
2008/09 et 2009/10. Une rhabilitation de contenus mathmatiques indispensables
(thorie de la mesure et de lintgration, transformation de Fourier, distributions) axs
vers les applications en traitement du signal, lectronique, statistique et communication
numrique, a t propose au comit de direction de lEcole qui en a accept le
principe pour la rforme du cycle BCI en cours.
Elaboration de cycles denseignement Depuis 2004, je suis responsable du
Cycle dOuverture aux STIC (Sciences et Technologies de lInformation et de la Com-
munication) pour les polytechniciens (et ingnieurs du corps jusquen 2008) arrivants
TELECOM ParisTech (niveau M2). A ce titre, jlabore et fais voluer les programmes
et volumes des cours enseigns en fonction des cours majoritairement suivis lEcole
Polytechnique et des prrequis programms pour les units denseignement du Cycle
Master de TELECOM ParisTech. Sont actuellement programmes, sur une dure de
trois semaines, les units denseignement suivantes :
Rgulation et innovations sociales sur Internet . . . . . . . . . . . . . . . . . . SES201, 12h
Traitement du signal des images . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . SI201, 15h
lectronique et des systmes de communication . . . . . . . . . COMELEC200, 15h
Rseaux de tlcommunications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . RES201, 15h
Thorie des communications numriques . . . . . . . . . . . . . . . . . . . . . . COM203, 15h.
Jai conu en 2008/2009, suite la fusion des Corps des Mines et des Tlcommunica-
tions, une option scientique et technique Systmes Numriques de Communication
de la formation des futurs ingnieurs du Corps des Mines programm sur une dure
de 2 mois :
Bases des systmes de communications numriques . . . . . . . . . . . . . . . . . . . . 15h
Techniques de codage et performances de systmes cods . . . . . . . . . . . . . . 15h
Supports et techniques avances de transmission . . . . . . . . . . . . . . . . . . . . . . . . 15h
Techniques et systmes modernes de communication laires et sans l . . 15h
Projet technique, conomique et rglementaire . . . . . . . . . . . . . . . . . . . . . . . . . 180h.
Cette proposition a t retenue par le Corps des Mines partir de la rentre prochaine.
10 Chapitre 3. Activits denseignement
Animation des activits denseignement dans mon quipe En tant que respon-
sable du groupe Communications Numriques de TELECOM ParisTech, jai anim
diffrents projets de structuration de nos enseignements. Ainsi, en 2006, loccasion
de la semestrialisation des units denseignement du cycle Master de TELECOM
ParisTech, nous avons cr et organis, en collaboration avec les autres domaines
denseignement de lEcole (notamment MDI, mathmatiques de lingnieur et lectro-
nique), le parcours denseignement actuel en communications numriques, constitu
des units denseignement :
Modulations numriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . COM223, 30h
Codage correcteur et performances de systmes cods . . . . . . . . COM224, 30h
Thorie de linformation et de la communication . . . . . . . . . . . . COMMDI225, 30h
Techniques de rception avances pour les communications . . . COM344, 60h
Systmes numriques avancs de communication . . . . . . . . . . . . . COM345, 60h.
Le groupe est par ailleurs fortement impliqu dans ses activits denseignement dans
dautres domaines et cursus (master, formation continue). Le partage des enseigne-
ments se font de manire transparente et concerte entre les six enseignants du
groupe au dbut de chaque anne scolaire. ces activits de coordination pdago-
gique et denseignement en classe sajoutent les suivis de projets, de stages longs
et autres activits annexes (encadrement de vacations de doctorants, soutenances,
oraux de rattrapage, etc.). La tenue de conseils de classe et les retours dvaluation
permettent damliorer en continu les contenus et la prsentation des cours.
Synergie avec lEcole Polytechnique En tant que professeur au dpartement
de mathmatiques appliques lEcole Polytechnique et matre de confrences au
dpartement Communication et lectronique de TELECOM ParisTech, je suis appuy
par la direction de TELECOM ParisTech pour dvelopper une synergie an de mieux
attirer les lves polytechniciens sur des domaines porteurs en tlcommunications.
Concrtement, cela passe par lencadrement de stages et de projets dapprofondisse-
ment en 3
e
anne de Polytechnique, la participation au processus de recrutement des
polytechniciens en double diplme loccasion du Forum de lX, sans oublier la coordi-
nation des deux cycles de formation pour les polytechniciens en 4
e
anne TELECOM
ParisTech et les ingnieurs-lves du Corps des Mines. Pour 2009/2010, TELECOM
ParisTech accueille 65% de polytechniciens de plus que lanne prcdente.
Futurs masters ParisTech En tant quenseignant dans trois coles dingnieurs
de ParisTech et dans trois masters diffrents, je participe actuellement une rexion
initie par TELECOM ParisTech sur les possibilits dvolution des masters existants
et/ou de cration dun nouveau master labellis ParisTech. Ceci permettrait, notamment
dans le domaine du codage, du traitement du signal et des communications num-
riques, une meilleure collaboration entre TELECOM ParisTech et dautres partenaires
universitaires et de ParisTech.
3.5. Liste des units denseignement 11
3.5 Liste des units denseignement
Lorganisation des cours est en perptuelle volution, certains disparaissent pour
rapparatre parfois sous une autre forme. Certains cours dont jai t responsable
pdagogique et enseignant dans le pass ne sont pas dtaills ici, en particulier :
Traitement du signal numrique en 5
e
anne de lESME-Sudria (19942000)
Ondelettes et temps-frquence en 3
e
anne de lENST. . . . . . . (19962001)
Codage : thorie, performances en 3
e
anne de lENST . . . . . (19972001)
Techniques de communications numriques en 2
e
A de lENST (1998-2006)
Thorie de linformation DEA STN, Paris 6 et ENST . . . . . . . . . (19962004)
Codage de source master IST/SRT/M2 de luniversit Paris-Sud (19992007)
Codage de canal et rseaux du mme master . . . . . . . . . . . . . . . (20052007)
Je liste ci-dessous les cours enseigns en rgime de croisire sur les deux dernires
annes scolaires, en rajoutant les crations de cours ouvrant la rentre 2009/2010.
Voir perso.telecom-paristech.fr/rioul/cours.html pour une decrip-
tion dtaille et mise jour des diffrents cours.
3.5.1 FORMATION DINGNIEUR
COM105/201 . . . . . . . . . . . Communications numriques et thorie de linformation
Cycle BCI (Bases de Connaissances Indispensables) en tronc commun (1
re
anne) de
TELECOM ParisTech, pour les lves venant du concours commun ou admis sur titres.
Ce cours (35h) prsente les ides fondamentales de la transmission dinformation
sous forme numrique; il traite la problmatique de la couche physique de presque
tous les systmes numriques modernes. Jenseigne rgulirement le cours complet
depuis 1995 et ai particip son volution en y introduisant les outils de thorie de
linformation. Son organisation gnrale est la suivante :
1. Modles dune transmission numrique en bande de base. Interfrences entre
symboles et critre de Nyquist. Performances des modulations linaires.
2. Introduction la thorie de linformation pour le codage de canal. Capacit de
Shannon et limites fondamentales. Codes linaires et dcodage par syndrome.
ES204 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Information et codage
Tronc commun de 2
e
anne de lENSTA ParisTech. Ce cours (21h) prsente les notions
fondamentales de la compression de source et de la correction derreurs, solidement
tablies sur la thorie de linformation. Je lai cr et en suis responsable pdagogique
et enseignant principal depuis sa cration en 2001. Son organisation est la suivante :
1. Bases de la thorie de linformation et application au codage de source. Quanti-
cation scalaire et codage par transforme. Compression sans pertes et entropie.
2. Application au codage de canal. Codes correcteurs derreurs, codes linaires et
dcodage par syndrome.
12 Chapitre 3. Activits denseignement
Option scientique et technique . . . . . Systmes numriques de communication
Cycle de formation des ingnieurs-lves du Corps des Mines, ouvre la rentre
prochaine. Voir le 3.4 ci-dessus pour un descriptif (dure : 2 mois).
COSTIC . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Cycle douverture aux STIC
Cycle douverture aux polytechniciens en double diplme TELECOM ParisTech. Je
suis responsable pdagogique de ce cycle depuis 2004 (dure : 1 mois). Voir le 3.4
ci-dessus pour un descriptif.
COM203 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Thorie des communications numriques
Cycle COSTIC pour les polytechniciens en 4
e
anne TELECOM ParisTech. Ce cours
(15h) fournit les connaissances ncessaires la comprhension des mthodes de trai-
tement de linformation utilises dans tous les systmes modernes de communications.
Jen suis responsable et enseignant depuis 2004. Son organisation est comparable
celle de COM105 ci-dessus.
MDI220 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Hilbert-Fourier
Cycle Master de TELECOM ParisTech
1
, domaine Mathmatiques de lingnieur. Jy
enseigne depuis 2007 la thorie des distributions et la transforme de Fourier (8h).
1. Dnition des distributions et premires proprits
2. Transforme de Fourier des distributions tempres
3. Sries de Fourier de distributions priodiques
4. TD not sur la transforme de Fourier.
COM224 . . . . . . . . . . . . . . . Codes correcteurs et performances de systmes cods
Cycle Master de TELECOM ParisTech
1
, domaine Communications. Ce cours (30h,
deux occurrences par an) prsente les bases et ltat de lart en ce qui concerne la
conception de codes en blocs et convolutifs efcaces en dcodage hard sur canal
gaussien. Jen suis responsable depuis sa cration en 2006. Son organisation est la
suivante :
1. Codes correcteurs derreurs en blocs, stratgies FEC et ARQ, capacit de
correction et de dtection, remplissage deffacements.
2. Codes et cycliques, Codes BCH et Reed Solomon. Dcodage algbrique. Enu-
mration de poids et performances de systmes cods.
3. Codes convolutifs, treillis, poinonnage, dcodage de Viterbi, performances.
Utilisation des codes correcteurs derreurs dans les systmes actuels.
1. Le cycle Master de TELECOM ParisTech recouvre les enseignements de 2
e
et 3
e
anne en
formation dingnieur pour les lves du concours commun, admis sur titres, polytechniciens, trangers
en double diplme, masters spcialiss, etc.
3.5. Liste des units denseignement 13
COMMDI225 . . . . . . . . . . . . . . . . . . . Thorie de linformation et de la communication
Cycle Master de TELECOM ParisTech
1
, domaine Communications et Mathmatiques
de lingnieur. Ce cours (30h, deux occurrences par an) prsente les rsultats princi-
paux de cette thorie, jusquaux thormes de Shannon, pour lapplication au codage
de source et le codage de canal. Je lai cr et en suis responsable et enseignant
principal depuis sa cration en 2006. Son organisation est la suivante :
1. Outils de thorie de linformation : Divergence de Kullback-Leibler, information
mutuelle, entropies. Modles de canaux. Thorme du traitement de donnes.
Entropie discrte et diffrentielle, variance entropique, maximisation dentropie,
bornes de Fano.
2. Codage de source et de canal : Fonction capacit-cot. Capacits de canaux
stationnaires. Codage de source sans pertes (entropique) et avec pertes (fonc-
tion taux-distortion). Codage conjoint source-canal, borne OPTA. Squences
typiques et thormes de Shannon. Borne et exposants de Gallager.
MAP311 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Alatoire
Cours de probabilits (5 ECTS) de 1
re
anne de lEcole Polytechnique. Charg de
deux petites classes depuis 2009.
1. Probabilit, conditionnement, indpendance.
2. Variables alatoires discrtes
3. Variables alatoires relles
4. Vecteurs alatoires, covariance
5. Convergences, loi des grands nombres, mthode de Monte Carlo
6. Fonction caractristique, vecteurs gaussiens, thorme central limite
7. Suites rcurrentes alatoires, processus de Markov
MAP555 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Traitement du signal
Cours dapprofondissement (5 ECTS) de 3
e
anne de lEcole Polytechnique. Charg
de cours depuis 2008.
1. Traitement du signal analogique
2. Echantillonnage
3. Traitement du signal temps-discret
4. Traitement du signal alatoire
5. Traitement de la parole
6. Analyse temps-frquence
7. Information et codage
8. Compression de signaux
9. Ouverture au codage dimages
14 Chapitre 3. Activits denseignement
C5-1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Compression de donnes multimdia
Voie dapprofondissement en 3
e
anne de lENSTA ParisTech. Ce cours (35h) aborde
les diverses techniques de codage de source en sappuyant sur les normes existantes
ou en projet. Il voque aussi les avances dans le domaine, qui font lobjet de dvelop-
pements rcents. Jai cr et suis responsable pdagogique et enseignant de ce cours
depuis sa cration en 1998. Son organisation actuelle est la suivante :
1. Optimisation dbit-distorsion, codage par transforme, codage arithmtique.
2. Gomtrie fractale et systmes de fonctions itrs, codage fractal des images.
Ondelettes appliques la compression des images.
3. Codage audio et de parole. Compression dimages xes JPEG et JPEG2000.
Codage vido de MPEG-1 au MPEG-4 scalable video coding.
4. Transport et streaming de contenus audiovisuels dans lenvrionnement rsiden-
tiel. Codage robuste et diffusion vido vers les mobiles
MAP571 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Enseignement dapprofondissement
Encadrement de projets en 3
e
anne de lEcole Polytechnique, depuis 2008. Voici
quelques exemples de sujets :
Turbo-dcodage de poivre et sel
Peut-on rcuprer un chier zipp corrompu ?
Linformation en thorie des nombres
UE Projets . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
Encadrement de nombreux projets en 3
e
anne de TELECOM ParisTech depuis 1995.
Dernier projet encadr : Tatouage numrique et quantication hsitante (2009).
3.5.2 MASTERS RECHERCHE
MS216 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Information et communication numrique
Master recherche SDI/ESCO/STN de lUPMC. Ce cours (90h, 9 ECTS, M1) a pour
objectif lacquisition des concepts et des mthodes pour lensemble des techniques uti-
lises pour le dveloppement des systmes de communication dans leur champ actuel
dapplication (probabilits, traitement du signal, thorie de linformation, modulation
et dtection, codes correcteurs et dcodage algbrique, performances de systmes
cods, systmes de communication). Jai cr et ai t responsable et enseignant de
ce cours depuis sa cration en 2004 jusquen 2008. Il devient Mathmatiques pour les
Systmes Communicants partir de 2009.
NS226 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Information et codage : mise niveau
Master recherche SDI/ESCO/STN de lUPMC, unit denseignement libre (3 ECTS,
M2) de mise niveau en probabilits, traitement du signal, thorie de linformation et
du codage. Jai cr et ai t responsable et enseignant de ce cours depuis sa cration
en 2004 jusquen 2009. Son organisation est la suivante :
3.5. Liste des units denseignement 15
1. Probabilits : Esprance, corrlation, matrices de covariance, vecteurs gaus-
siens. Loi des grands nombres, thorme central limite.
2. Traitement du Signal : Distributions, impulsion de Dirac, convolution. Densit
spectrale de puissance, thorme de Wiener-Khintchine. Signal analytique,
enveloppe complexe.
3. Thorie de lInformation : Entropie, information mutuelle. Thormes de Shannon
pour le codage de source et de canal.
4. Codes correcteurs derreurs : Dcodeur MAP et ML, distance de Hamming et
correction derreurs. Codes linaires, dcodage par syndrome, codes cycliques.
COM941/NS224 . . . . . . . . . . . . . . . . . . . . . . . . . Information, codage et communications
Master recherche SDI/SysCom/STN de lUPMC et TELECOM ParisTech. Je cre
ce cours (60h, 6 ECTS, M2) en 2009 et en suis responsable. Il aborde les aspects
avancs en thorie de linformation et du codage ; notamment la thorie de linformation
multi-utilisateurs, les codes sur les graphes (turbo-codes, LDPC) et les codes spatio-
temporels.
1. Outils de thorie de linformation de Shannon
2. Chanes de Markov, ingalits de linformation
3. Borne OPTA en codage source/canal
4. Capacit dun canal gaussien. La borne du 1,6 dB.
5. Capacit de canaux alatoires et probabilit doutage.
6. Codes linaires. Cas des codes de Hamming. Mthode du syndrme
7. Codes cycliques. Polynme gnrateur.
8. Description spectrale des codes cycliques. Borne BCH. Principe du dcodage
spectral
9. Algorithmes de dcodage sorties souples : Viterbi et BCJR
10. Codes concatns srie, parallle ; Turbo-codes
11. Codes LDPC, codes de Tanner
12. Modulation code la Ungerboeck
13. Codes spatio-temporels
14. Modulations codes BICM et multi-niveaux
COM824 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Error-correcting codes
Master of Science in Digital Communications de TELECOM ParisTech. Ce cours de
tronc commun (30h) prsente le domaine du codage pour la dtection et la correction
des ereurs lors de la transmission travers un canal bruit. Il introduit les outils de
base de la thorie du codage correcteur ainsi que les principales familles de codes.
Son organisation est comparable celle de COM224 ci-dessus. Jen suis responsable
depuis sa cration en 2007.
16 Chapitre 3. Activits denseignement
COM825 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Information theory
Master of Science in Digital Communications de TELECOM ParisTech. Ce cours de
tronc commun (30h) prsente la thorie de linformation selon lapproche de Shannon :
il expose et analyse en dtail des notions de quantit dinformation, dentropie, dinfor-
mation mutuelle et de capacit du canal. Son organisation est comparable celle de
COMMDI225 ci-dessus. Jen suis responsable depuis sa cration en 2007.
C1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Elements of information theory
Master recherche IES/SAR de Suplec, lENS-Cachan et luniversit Paris-Sud 11. Ce
cours (24h, 2.5 ECTS) fournit les connaissances ncessaires la comprhension des
mthodes de traitement de linformation utilises dans tous les systmes modernes de
communications numriques. Jen suis responsable avec Pablo PIANTANIDA (Suplec)
depuis sa cration en 2007. Son organisation est la suivante :
1. Properties of Shannons information measures ;
2. Markov chains, fundamental inequalities and entropy of stationary sources ;
3. Lossless source coding ;
4. Method of types ;
5. Coding theorem for noisy channels ;
6. Coding theorem for lossy source coding ;
7. Converse to coding theorems for discrete memoryless sources and channels ;
8. Capacity of wireless channels.
3.5.3 FORMATION CONTINUE
FCU52 . . . . . . . . . . . . . . . . . . . . . . . . . . . Ondelettes, temps-frquence, multi-rsolution
Stage de formation continue Institut TELECOM, en inter-entreprises sur catalogue (3
jours) ou intra-entreprise en contrat avec des partenaires institutionnels ou industriels
(ONERA, Thals Air Systems, Ministre de la Dfense, etc.). Destin aux ingnieurs
travaillant dans des domaines ncessitant des connaissances en traitement numrique
du signal multicadence ou en traitement et codage multirsolution des signaux. Jai
cr et suis responsable de ce stage depuis 1995. Il ouvre au moins une fois par an.
Son organisation est la suivante :
1. Analyse temps-frquence et temps-chelle : rsolution temps-frquence; fr-
quence instantane, transforme de Fourier court-terme ; transforme en onde-
lettes, analyse temps-frquence et temps-chelle; transformations bilinaires :
Wigner-Ville, classe de Cohen, classe de Rioul-Flandrin. tude de cas (botes
outils MATLAB temps-frquence et temps-chelle) ;
2. Traitement du signal multi-cadence : introduction au traitement numrique du
signal multicadence et multirsolution ; interpolation/dcimation ; bancs de ltres :
structures arborescentes, structures base de ltres polyphases et transforme
de Fourier ; application lOFDM.
3.6. Liste de documents pdagogiques et contenus enseigns 17
3. Traitement du signal multi-rsolution : notions dchelle et de rsolution ; bancs
de ltres QMF, reconstruction parfaite; analyse multi-rsolution.
4. Transforme en ondelettes discrtes : construction de bases dondelettes or-
thogonales et biorthogonales ; dcomposition pyramidale, rgularit des ltres-
ondelettes ; compression de signaux par transforme en ondelettes ; travaux
pratiques sur Matlab (librairie SIMPA du GDR ISIS).
FCU56 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . CDMA et applications
Lobjectif de ce stage est dacqurir les techniques modernes dtalement de spectre
et daccs multiple CDMA utilises dans les nouveaux rseaux radio mobiles de
3me gnration du type UMTS ou CDMA 2000. Je suis charg de la partie du cours
squences daccs multiple (1/2 journe) dont lorganisation est la suivante :
1. Gnration des squences pseudo alatoires, proprits et caractristiques ;
2. Les m-squences, proprits et gnration ;
3. Les squences de Gold et applications ;
4. Les squences de Kasami et applications ;
5. Optimisation de lautocorrlation et de lintercorrlation des squences.
3.6 Liste de documents pdagogiques et contenus enseigns
Les documents lists ci-dessous sont rpertoris la documentation technique
de TELECOM ParisTech aux classications indiques ; deux dentre eux sont les
livres publis chez Hermes Science-Lavoisier. Ils apparaissent grosso modo par ordre
orient de lamont vers laval, du thorique lapplicatif. Cette liste est suivi dune autre
qui regroupe les contenus traits hors documents de cours.
Corps nis et codes spectraux Classication 08.07, 45 pages.
Rappels darithmtique modulaire (pour les entiers et polynmes). Entiers dun
corps et caractristique, relations de Frbenius ; Ordre dun lment, lment primitif,
polynme minimal et lments conjugus. Construction et proprits des corps nis,
tables de calcul, correspondance de Zech.
Transforme de Fourier discrte sur un corps ni, corps localisateur, convolution
cyclique; contraintes et accords de conjugaison. Algorithmes rapides (Hrner, Rader,
Good-Thomas, Cooley-Tuckey).
Codes cycliques et spectraux, polynme gnrateur, code dual ; borne BCH et
gnralisations ; application aux codes BCH et Reed-Solomon, codes rsidus qua-
dratiques, codes de Golay. Polynmes localisateur et valuateur derreur ; algorithme
de dcodage de Peterson et Gorenstein-Zierler, dcodage par lalgorithme dEuclide,
algorithme de Forney, algorithme de Berlekamp-Massey.
18 Chapitre 3. Activits denseignement
Ingalits Classication 01.82, 61 pages. Moyennes et normes. Convexit et inga-
lits de Jensen. Ingalits des moyennes. Ingalits des doubles moyennes. Ingalits
sur les sommes, produits et normes. Ingalits gnralises du type Hlder-Minkowski.
Ingalits sur les dterminants. Ingalits de Young et produit de convolution. Ingalit
de Weyl-Heisenberg. Ingalit de Poincar-Wirtinger.
Distributions, transforme de Fourier, convolution 203 pages (version abrge
96 pages).
Thorie des distributions : rappels sur les fonctions localement intgrables et les
mesures ; dnition et ordre dune distribution, universalit; produit par une fonction,
changement de variable, distributions positives ; recollement des morceaux, distribu-
tions impulsives, formule des sauts, pseudo-fonctions et valeurs principales, le pro-
blme de la division, distributions homognes ; distributions support ni, croissance
lente, tempres, dcroissance rapide.
Transforme de Fourier dune fonction intgrable, dune distribution tempre;
formule dinversion, proprits ; dualit C

croissance lente distribution dcrois-


sance rapide ; thorme de Paley-Wiener-Schwartz ; transformation de Laplace dune
distribution causale. Transforme de Fourier dans L
2
, relations de Parseval-Plancherel.
Convolution de distributions supports convolutifs, dune distribution tempre par
une distribution dcroissance rapide ; rgularisation par convolution, approximations
de lidentit, suites rgularisantes.
Sries de Fourier, distributions discrtes et priodiques ; peigne de Dirac et formule
de Poisson ; convolution priodique, convolution discrte. Sries de Fourier dans L
2
per
.
Thorie des Probabilits Hermes Science-Lavoisier (2008), 362 pages. Bases
de la thorie des probabilits ; variables et vecteurs alatoires (v.a.) ; fonctions et
composantes dun v.a. ; indpendance; conditionnement ; esprance et esprance
conditionnelle; moments et fonction caractristique; matrices de corrlation et de
covariance ; vecteurs gaussiens rels et complexes ; transforme de Karhunen-Love ;
estimation (linaire ou non) aux moindres carrs ; ingalits de Bienaym-Chebychev,
etc. ; loi faible et forte des grands nombres et thorme central limite; processus
alaoires, stationnaires, ergodiques ; thorme ergodique.
Thorie de lInformation et du Codage Hermes Science-Lavoisier (2007), 286
pages. Entropie et entropie relative (divergence) ; traitements, sources et canaux ; infor-
mation mutuelle, entropie conditionnelle, entropie diffrentielle; maximum dentropie;
chanes de Markov et thorme du traitement de donnes ; information de Fisher,
bornes de Cramr-Rao, estimation paramtrique et non paramtrique; ingalits de
la variance entropique et identit de Bruijn; fonction taux-distorsion dune source,
capacit dun canal ; squences typiques et conjointement typiques ; thormes de
Shannon pour le codage de source sans pertes, avec pertes et le codage de canal ;
codage de source-canal conjoint.
3.6. Liste de documents pdagogiques et contenus enseigns 19
Analyse temps-frquence et temps-chelle Classication 07.24, 87 pages. Rso-
lution temps-frquence, ingalit de Weyl-Heisenberg, frquence instantane et retard
de groupe; transforme de Fourier court-terme et spectrogramme, transforme en
ondelettes continue et scalogramme ; Transformations bilinaires : Wigner-Ville, classe
de Cohen, classe afne, botes outil MATLAB temps-frquence et temps-chelle.
Modulations numriques Classication 08.07, 39 pages. Densit spectrale de
puissance (thormes de Wiener-Khintchine). Diagramme de lil et cosinus surlev.
Fonctions derreur.
Information et codage de source et exercices corrigs, polycopi de lEcole Na-
tionale Suprieure des Techniques Avances, 47 pages.
Codage entropique longueur variable (VLC) ; ingalit de Kraft-McMillan; tho-
rme de Shannon; algorithme de Huffman; codage par plages (RLC) ; codage de
Lempel-Ziv, codage arithmtique.
Quantication scalaire ; conditions du plus proche voisin et du centrode ; algorithme
de Lloyd-Max ; performances haute-rsolution, formule de Bennett ; performances en
prsence dun codeur entropique. Quantication vectorielle; algorithme LBG; perfor-
mances haute-rsolution, formule de Zador.
Codage par transforme; transforme orthogonale, gain de codage; allocation
optimale de dbits binaires ; transforme de Karhunen-Love, ingalit de Hadamard ;
algorithme de Shoham-Gersho. Codage par prdiction linaire, gain de prdiction.
Codage entropique Classication 07.24, 25 pages. Codage entropique longueur
variable (VLC) ; ingalit de Kraft-McMillan; thorme de Shannon; algorithme de
Huffman ; codage par plages (RLC) ; codage de Lempel-Ziv, codage arithmtique.
Codage de canal : Performances de systmes cods Classication 08.07, 182
pages. Performances de systmes cods en dcodage hard et soft ; borne de Bhatta-
charyya, identits de Mac Williams. Bornes de Chernov et de Gallager, taux critique et
capacit, exposants de Gallager.
Suites rccurrentes et pseudo-alatoires Classication 08.07, 86 pages. Suites
linairement rcurrentes et formule de Moivre; suites irrductibles et formule de la
trace; suites primitives pseudo-alatoires, distributions de valeurs et des plages ;
proprits de moyenne et dauto-corrlation ; application la cryptographie ; squences
faible intercorrlation : Kasami, Gold, BCH-duales ; application ltalement de
spectre.
La liste suivante regroupe les sujets traits hors documents de cours.
20 Chapitre 3. Activits denseignement
Traitement du signal Le problme du ltrage linaire ; formule de ltrage en trans-
forme de Fourier ; chantillonnage de signaux bande limite. Espace des signaux
dnergie nie, signaux orthogonaux. Signal analytique, transforme de Hilbert et
enveloppe complexe ; reprsentation en bande de base des signaux bande-troite.
Signaux alatoires stationnaires, fonction dauto-corrlation, densit spectrale de
puissance, thorme de Wiener-Khintchine; Reprsentation en bande de base des
signaux alatoires bande troite. Analyseur de spectre.
Transforme de z, ltres stables, ltres minimum de phase, phase linaire,
conception de ltres sur gabarit (algorithme de Parks-McClellan) ; transforme de
Fourier rapide (FFT radix-2, radix-4, split-radix), ltrage rapide par FFT et fast FIR;
introduction la complexit multiplicative.
Traitements multicadence et multirsolution, interpolation, dcimation et repr-
sentation spectrale; bancs de ltres polyphases, QMF, et reconstruction parfaite.
Construction de bases dondelettes orthogonales et bi-orthogonales ; dcomposition
pyramidale, rgularit des ltres-ondelettes, botes outils MATLAB sur la compression
dimages xes par ondelettes.
Modulations analogiques et numriques Modulation analogiques (DBL, BLU,
AM), performances, gain en rapport signal bruit ; dmodulation cohrente par dtec-
teur denveloppe, indice de modulation et facteur de crte; modulation de frquence
(FM) et de phase (PM), formule de Carlson; dmodulation, discriminateur, boucle
verrouillage de phase.
Modulations numriques linaires, spectre dun signal modul (formule de Ben-
nett) ; efcacit spectrale; transmission en bande de base et autour dune frquence
porteuse; thorie de la dtection sur canal bruit additif blanc gaussien; espace
des signaux et statistique sufsante, dtection optimale (critres MAP, ML) et ltre
adapt ; critre de Nyquist, diagramme de lil, distorsion maximale ; ltres en cosinus
surlev, facteur de dbordement ; performances des modulations BPSK, QPSK, PAM,
QAM, PSK sur canal gaussien : borne de lunion, probabilit derreur par paires ; per-
formances sur les canaux vanouissements (canal de Rayleigh, de Rice). Mesure du
taux derreur binaire dans un systme numrique.
Systmes de codage de canal Codes linaires en blocs, distance de Hamming,
capacit de dtection et de correction, remplissage deffacements ; matrice gnratrice
et matrice de vrication de parit ; dcodage par syndrome, cas des codes cycliques.
[voir ci dessus, dcodage algbrique des codes BCH et Reed-Solomon].
Codes convolutifs : codes en arbre, en treillis ; diagramme dtats et treillis ; codes
convolutifs rcursifs, codes catastrophiques, poinonnage, distance libre; algorithme
de dcodage de Viterbi.
Egalisation ZF et MMSE, ltrage de Wiener ; modulation OFDM code ou non
code ; techniques dtalement de spectre (squences PN) ;
CHAPITRE
4
Activits de recherche et
animation dquipe
4.1 Introduction
Ma passion pour la recherche a dbut lorsque javais une douzaine dannes !
Mon professeur de mathmatiques exprimentait sur notre classe une pdagogie
Freinet , et dans un groupe de quatre lves, nous avons pass lanne scolaire
dnir et classer des familles de carrs magiques... une vritable formation par
la recherche , base sur le ttonnement exprimental, lautonomie et le travail en
quipe, qui a mme dbouch sur une publication dans une revue pdagogique.
A la n de mes deux ans dtudes lEcole Polytechnique, cest tout naturellement
qui je xai mon choix sur un sujet de stage long de recherche . . . en mathmatiques.
Guid par Yves MEYER (alors au Centre de mathmatiques de lX), jai eu la chance
dtre emport vers un sujet totalement nouveau et prometteur : les Ondelettes. Jai
dcouvert non seulement des mathmatiques passionnantes, mais aussi une quipe
pluridisciplinaire regroupant des personnalits dune grande gentillesse et dune grande
bienveillance (Yves MEYER bien sr, mais aussi le physicien Alex GROSSMANN, lacous-
ticien Richard KRONLAND-MARTINET, lingnieur Jean MORLET, les jeunes chercheurs
Ingrid DAUBECHIES, Matthias HOLSCHNEIDER et Stphane MALLAT). A la n de mon
stage, je rdigeai avec Yves MEYER et Stphane JAFFARD un article sur les ondelettes
paru dans la revue Pour la Science [1].
Ingnieur-lve Tlcom Paris, jai continu en parallle mes activits de re-
cherche : sur lanalyse et la synthse de son par ondelettes [4] au laboratoire dacous-
tique dAntoine CHAIGNE, sur les reprsentations nergtiques temps-chelle [5] en
collaboration avec Patrick FLANDRIN (ENS Lyon), et lors de mon stage long aux La-
boratoires Bell (NJ, USA), sur lapplication des rseaux de neurones la production
de la parole [3] avec Bishnu S. ATAL. Tous ces travaux ont t concrtiss par des
publications.
En 1989, jai rejoint le CRPE, laboratoire mixte CNRS/CNET, o jai commenc ma
thse sous la direction de Pierre DUHAMEL, alors spcialiste en algorithmes rapides de
transforme de Fourier et de ltrage. Grce Pierre et Martin VETTERLI luniversit
de Columbia (NY, USA), jy ai connu trois annes de recherche passionnantes et
tous azimuts en traitement du signal, particulirement sur lapplication des ondelettes
la compression dimages xes. A la n de ma thse, je prsentai une liste dune
dizaine de publications, dont un papier invit dans la revue IEEE Signal Processing
Magazine [10].
22 Chapitre 4. Activits de recherche et animation dquipe
Aprs un bref passage au dpartement Services de communication de Groupe
et de Visiophonie du CNET (FT R&D) o je travaillai sur la future norme MPEG-4, jai
rejoint Tlcom Paris en tant quenseignant-chercheur en 1995.
Ce fut une tape importante dans ma carrire. Jintgrai une quipe de recherche
de qualit, avec un surberbe environnement de travail en recherche acadmique . Jai
pu loisir faire interagir mes deux activits complmentaires denseignement et de
recherche, tout en mimpliquant dans des thmes de recherche pluri-disciplinaires,
communs au traitement du signal et aux communications numriques.
Progressivement, au gr de rencontres et dopportunits, jai fait voluer mes
activits de recherche : les aspects codage et thorie de linformation ont pris une
place importante dans mes travaux. Actuellement, ceux-ci portent sur des aspects
de compression de signaux et dimages, de codage de canal, et de conception de
systmes source-canal conjoint, guide par les rsultats de la thorie de linformation.
En 2003, jai pris la tte de du groupe Communications Numriques au sein
du dpartement Communications et Electronique de TELECOM ParisTech. Cela
ma amen coordonner et stimuler lensemble des activits de recherche du
groupe en communications numriques, dans le cadre de TELECOM ParisTech et plus
gnralement de lInstitut TELECOM.
Aujourdhui, aprs 20 ans dexprience en recherche acadmique, voici rsum,
en quelques points, mes activits de recherche.
4.2 Thse
Intitul Ondelettes rgulires : application la compression dimages xes.
Mots cls Transforme en Ondelettes, dcomposition multi-rsolution de signaux,
codage en sous-bandes, bancs de ltres itrs, rgularit hldrienne, orthogonalit,
conception de ltres, algorithmes rapides, compression dimages.
Directeur de thse Pierre DUHAMEL.
Dates Septembre 1989 Mars 1993.
Lieu Cette thse a t ralise au Centre National dtudes des Tlcommunica-
tions, au sein du Centre de Recherche en Physique de lEnvironnement Terrestre et
Plantaire, dans le dpartement Electromagntisme, Thorie des Communications et
Propagation.
Ecole Doctorale ED130 : Informatique, Tlcoms et lectronique (EDITE).
4.2. Thse 23
Soutenance Le 15 mars 1993 lcole Nationale Suprieure des Tlcommunica-
tions devant le jury compos de :
Claude LABIT. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Prsident
Yves MEYER . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Rapporteur
Martin VETTERLI . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .Rapporteur
Michel BARLAUD . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Examinateur
Yves GRENIER . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Examinateur
Pierre DUHAMEL . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Directeur
Mention Trs honorable avec les flicitations du jury.
Rsum Cette thse est consacre ltude de linuence pratique de nouvelles
proprits mathmatiques apportes par la thorie des ondelettes dans le domaine du
codage en sous-bandes, en vue dapplication la compression dimages xes.
On montre, par une analyse thorique de la dcomposition multi-rsolution de
signaux temps discret, que lapport pratique essentiel de la thorie des ondelettes,
dans ce cadre, est la proprit de rgularit des bancs de ltres itrs en octaves
utiliss pour le codage en sous-bandes. On dveloppe ensuite un certain nombre
doutils, qui vont rendre possible une tude exhaustive du rle de la rgularit pour des
applications en compression dimages.
Une tude mathmatique dtaille de la notion de rgularit est mene; elle
permet dobtenir des algorithmes destimation optimale de rgularit. Ensuite, on dve-
loppe plusieurs mthodes de calcul de bancs de ltres, permettant de raliser des bons
compromis entre la rgularit et les autres proprits des ltres gnralement consid-
res comme utiles pour le codage dimages (orthogonalit vs. biorthogonalit, phase
linaire, slectivit en frquence, etc.). On propose galement des algorithmes rapides
permettant, peu de frais, de rduire notablement la charge de calcul ncessaire la
ralisation dun banc de ltres itr en octaves.
Finalement, on mne une tude exprimentale du rle des proprits des ltres
calculs, pour un schma simple de compression dimages xes, o la transforme
en ondelettes est sparable. Dans le cadre restreint choisi, on met en avant lintrt
potentiel du critre de rgularit par rapport ceux de slectivit en frquence et de
phase linaire.
Mmoire (259 pages) disponible sous forme lectronique ladresse
pastel.paristech.org/1307/.
24 Chapitre 4. Activits de recherche et animation dquipe
4.3 Thmes de recherche
Dans ce paragraphe, je prsente brivement les principales thmatiques de re-
cherche dveloppes depuis ma thse de doctorat, qui sarticulent grosso modo autour
de trois grands axes.
Voir les chapitres 6 et 7 pour une liste dtaille par thmes de mon parcours de
recherche pass, prsent et prospectif.
Ondelettes Un premier axe sarticule autour de la thorie des ondelettes, avec
application lanalyse ou au codage de signaux en sous-bandes, par transforme
en ondelettes et bancs de ltres. Les thmes tudis sont trs varis, de lanalyse
thorique la conception pratique de systmes de codage, en passant par ltude
mathmatique des schmas de subdivision sous-jacents, la cration de nouveaux
outils danalyse temps-frquence et temps-chelle, la conception de ltres rguliers et
slectifs, phase linaire ou non, la conception dalgorithmes rapides, le traitement
des effets de bord, lallocation dbit-distorsion dans les sous-bandes, loptimisation
globale du systme de compression suivant diffrents critres de reconstruction, etc.
Voici une liste de quelques thmes choisis dtaills dans le chapitre 6 :
thorie multi-rsolution en temps discret ( 6.1) ;
unication des reprsentations nergtiques temps-chelle ( 6.11) ;
conception dondelettes rgulires et schmas de subdivision ( 6.13, 6.17) ;
conception de ltres rguliers et slectifs ( 6.2, 6.12) ;
algorithmes rapide dimplantation danalyse par ondelettes ( 6.6, 6.7) ;
traitement aux bords pour le codage adaptatif en sous-bandes ( 6.16) ;
compression dimages xes optimise par ondelettes ( 6.3, 6.4, 6.20) ;
compression dimages biomdicales selon un critre de norme innie ( 6.19,
6.20).
Laspect multi-rsolution de la transforme en ondelettes donne galement un cadre
bien adapt la protection hirarchique des donnes en vue dapplications de codage
de source/canal conjoint.
Codage source-canal conjoint Cet axe soriente autour des interactions entre
mthodes de codage de source et de codage de canal. Au dpart, le troisime thorme
de Shannon a provoqu une sparation entre ces deux domaines : ce thorme afrme
que lon peut tendre vers une limite (OPTA) de dbit source/canal avec un systme
o codages de source et de canal sont spars. Les codeurs sont alors trs longs et
complexes, et la distorsion globale est presque uniquement due au codeur de source (la
transmission est rendue quasi-able). Cependant, un systme spar nest pas la seule
solution envisageable loptimum : une solution conjointe peut dramatiquement rduire
la complexit des codeurs et dcodeurs, tout en maintenant un niveau de performance
quasi-optimal. Cela rsume tout lenjeu du codage conjoint. La difcult de cette
approche est quil est ncessaire de rechercher une grande exibilit et robustesse
vis--vis du dbit vis, de la nature de la source et de celle du canal, an de conserver
4.3. Thmes de recherche 25
la ncessaire transparence des donnes vis--vis des rseaux de transmission. Dans
cette optique, plusieurs pistes thoriques et pratiques sont explores (dtaills dans
les chapitres 6 et 7) :
des mthodes de compression de source robustes aux erreurs de transmission
( 6.21,6.24, 7.1, 7.6) ;
des systmes conjoints ou de compression directement sur le ux binaire din-
formation, conus par optimisation de petits codes linaires ( 6.23,6.27) ;
des systmes conjoints utilisant les proprits des codes BCH rels ( 6.29,
6.30, 6.31, 7.4) ;
de nouvelles mthodes exploitant la dualit source/canal ( 6.22,6.28) ;
optimisation conjointe dbit-distorsion sur des multi-sources ( 6.25) ;
des conceptions conjointes de systmes complets gnriques ou ddis de
transmission dimages ( 6.26, 6.32) ;
La dualit source-canal se retrouve dans lexpression des rgions optimales prvues
par la thorie de Shannon, et la conception de certaines algorithmes conjoints sinspire
directement des outils de la thorie de linformation.
Thorie de linformation Cette thorie constitue depuis les travaux de SHANNON
(1948) une matire fondamentale qui explique les compromis optimaux entre dbit,
distorsion, taux derreurs et puissance mise dans tous les systmes de codage
(source, canal, ou conjoint source-canal) via lexpression de rgions optimales de
taux-distorsion de la source et capacit-cot dutilisation. Des problmes importants
restent ouverts dans des cas plus gnraux que les transmissions point point mono-
source ou mono-canal. Dans cette optique, je mintresse la rsolution de problmes
dallocation et ltude mathmatique dingalits servant dmontrer des rciproques
de thormes de codage, et permettant de proposer, pour chaque systme tudi, des
limites thoriques qui servent de point de comparaison de performances. Ces outils
devraient aussi permettre, pour certains types de problmes information adjacente,
de guider la conception des codes de source/canal et du dcodage associ. Plusieurs
thmes thoriques et pratiques sont explors, dtaills aux chapitres 6 et 7 :
Rsolution de problme dallocation de ressources taux-distorsion et capacit-
cot ( 6.34, 6.35, 6.36, 7.9) ;
Ingalits de variances entropiques et liens avec la thorie de lestimation
( 6.37, 6.38, 6.39) ;
Bornes de performances de systmes de codage de source ou de canal ( 7.10,
7.11)
Et maintenant ? Quelques sujets de recherche prospectifs sont dtaills au cha-
pitre 7, et se situent en continuit des travaux dj entrepris. Lutilisation de la d-
composition en ondelettes est devenu un outil standard ds lors que lon a besoin
dune reprsentation multi-rsolution hirarchique des signaux en vue dapplications
plus spciques. Je lutilise essentiellement en relation avec des mthodes de codage
hirarchiques qui permettent lapplication dides de conception conjointe. La com-
26 Chapitre 4. Activits de recherche et animation dquipe
munaut codage conjoint apparue dans les annes 1990 est encore damplitude
limite mais le thme reste selon moi invitablement porteur davenir ; lheure o
on observe un engouement sans prcdent pour les techniques dinteraction inter-
couches entre couche physique (mise en forme des signaux de propagation) et
couches plus leves (MAC, Transport) du modle OSI, il me semble invitable que la
conception de systmes futurs prendront peu ou prou en compte une interaction entre
les deux couches les plus loignes du modle, de la couche physique la couche ap-
plicative ; et cest l tout lenjeu du codage source-canal conjoint. Il est donc important
de maintenir une activit de recherche forte dans ce domaine, dont la problmatique
se comprend laide de la thorie de linformation. Aujourdhui base indispensable de
la comprhension de systmes multi-utilisateurs, cette thorie se cherche galement
de nouvelles applications dans des domaines divers, de la thorie des nombres jusqu
la psychologie exprimentale en passant par son aspect quantique (bien reprsent
TELECOM ParisTech). On commence aussi reconnatre son fort potentiel dans
ltude de systmes biologiques complexes et des modles dvolution du vivant.
Un des prcurseurs internationalement reconnu se trouve tre dailleurs un ancien
professeur du groupe ComNum au dpartement Comelec de TELECOM ParisTech
(Grard BATTAIL). Ces thmes sont par ailleurs bien reprsents au CMAP de lEcole
Polytechnique, et mes changes avec le CMAP pourraient dboucher sur de futures
collaborations de recherche.
4.4 Diffusion scientique
La quatrime des dix leons que Gian-Carlo ROTA aurait aim quon lui ait
enseign
1
est : You are more likely to be remembered by your expository work.
Effectivement, parmi mes dix publications les plus cits gurent trois crits tutoriaux
ou de vulgarisation (totalisant plus de 1500 citations). Mes travaux dexposition et de
diffusion scientique se regroupent autour de trois thmes :
Ondelettes Je suis co-auteur du premier article de vulgarisation sur le sujet :
Lanalyse par ondelettes , dans la revue Pour la science [1], ainsi que dun article
tutorial de rfrence : Wavelets and Signal Processing dans la revue IEEE Signal Pro-
cessing magazine [10]. Outre des confrences publiques, jai donn une contribution
Barbara BURKE, principalement en ce qui concerne la rgularit des ltres-ondelettes
applique la compression dimages, pour le premier livre grand public sur le sujet :
Ondes et ondelettes, Belin 1995, prix dAlembert 1996.
Codage source-canal conjoint Je suis co-auteur de plusieurs articles tutoriaux
sur le sujet, destins la communaut scientique travaillant sur les aspects de
compression de sources aussi bien que de transmission et codage dinformation :
Combined source-channel coding : panorama of methods [32] prsente ltat de lart
du domaine, ainsi que les perspectives et enjeux du codage conjoint pour diffrents
1. Notices of the AMS, Vol. 44 (1997), No. 1.
4.5. Expertise, collaborations, contrats 27
types dapplications ; Codage conjoint source/canal : enjeux et approches [34] est un
article invit du collloque GRETSI ; et enn Joint source and channel coding [39] est
un cours NATO dvelopp sur le sujet, contenant les aspects de thorie de linformation
appliqu la problmatique du codage conjoint.
Thorie de linformation Je suis lauteur du livre Thorie de linformation et du
codage [62], chez Hermes-Science-Lavoisier qui contient en particulier deux chapitres
orients recherche sur les relations fortes entre informations de Shannon, de Fisher et
lerreur quadratique moyenne en estimation paramtrique ou non-paramtrique aux
moindres carrs, ainsi que sur les ingalits de variance entropique et lidentit de
Bruijn appliques la dtermination de capacit de canaux. Jai galement collabor
avec Yves GUIARD (CNRS LTCI) sur des outils de thorie de linformation appliqus
des aspects perceptifs homme-machine et de psychologie exprimentale.
4.5 Expertise, collaborations, contrats
Aflliations Membre IEEE (Signal Processing society, Information Theory society,
Communications society) et SIAM. Membre du GDR ISIS et du LTCI (CNRS UMR
5141).
valuation Relecteur pour plusieurs revues comit de lecture (IEEE Transactions
on Image Processing, on Signal Processing, on Information Theory, Signal Proces-
sing, Annales des tlcommunications, etc.) et pour de nombreuses confrences
internationales (ICASSP, EURASIP), nationales (GRETSI) et workshops. Membre dun
comit technique (IEEE Int. Symp.), prsidence (chairman) de plusieurs sessions
(Confrences internationales sur les Ondelettes, GRETSI, RAIRO).
Jurys de thses Membre de plusieurs jurys de soutenance de thses, notamment :
Herv LE BIHAN, Bancs de ltres phase linaire et ondelettes biorthogonales :
tude de mthodes de synthse en mono et bidimensionnel, universit de
Rennes I, 1993.
Christophe DE VLEESCHOUWER, Matching pursuits video coding : Subband
dictionaries and bit allocation methodologies, universit catholique de Louvain-
la-Neuve, 1999.
Fatma ABDELKEFI, Les codes de Reed-Solomon complexes pour la correction
des erreurs impulsives dans les systmes multiporteuses, ENST, 2002.
Ghaya REKAYA-BEN OTHMAN, Nouvelles constructions algbriques de codes
spatio-temporels atteignant le compromis multiplexage-diversit , ENST,
2005.
Cdric VONESCH, Fast and automated wavelet-regularized image restoration in
uorescence microscopy, cole polytechnique fdrale de Lausanne, 2008.
28 Chapitre 4. Activits de recherche et animation dquipe
Collaborations Mes travaux acadmiques ou contractuels mont conduit on vont
me conduire collaborer avec :
Riadh ABDELFATTAH (SupCom Tunis)
Bishnu S. ATAL (Univ. Washington)
Jean-Claude BELFIORE (ENST)
Franois-Xavier BERGOT (CSA)
Thierry BLU (CUHK)
Barbara BURKE HUBBARD (dir., Matrix Eds)
Antoine CHAIGNE (ENSTA-UME)
Antonio CIPRIANO (Thals Communications)
Ingrid DAUBECHIES (Princeton)
Christian DORIZE (Alcatel-Lucent)
Pierre DUHAMEL (LSS-Suplec)
Stig Ingar EVJE (Mesta AS)
Patrick FLANDRIN (ENS Lyon)
Avi GABAY (Sanmina-SCI)
Benot GELLER (ENSTA)
Yves GUIARD (CNRS LTCI)
GUO Dongning (Northwestern)
Stphane JAFFARD (LAMA Univ. Marne-la-Valle)
Lamia KARRAY (France Telecom)
Richard KRONLAND-MARTINET (CNRS LMA)
Axel LE POUPON (MINDEF)
Mokshay MADIMAN (Yale)
Stphane MALLAT (Polytechnique)
Yves MEYER (CMLA ENS-Cachan)
Tibor NAGY (IT Director at Accor Services)
Jean-Christophe PESQUET (Univ. Marne-la-Valle)
Pablo PIANTANIDA (LSS-Suplec)
Georges RODRIGUEZ (ENST)
Pierre SIOHAN (Orange Labs FT R&D)
Patrick SOL (CNRS LTCI)
Michael UNSER (EPFL)
Martin VETTERLI (Vice Psdt. EPFL, Berkeley)
YANG Sheng (LSS-Suplec)
Bahram ZAHIR AZAMI (Univ. Kurdistan)
Contrats Jai particip trois contrats de recherche naliss ou en cours de nali-
sation.
Contrat France Tlcom (19961999). Contrat FT R&D No. 971B450, consulta-
tion thmatique CCTP/CTI No. 96 PE 76C2.
Thme : Codage conjoint source-canal
4.5. Expertise, collaborations, contrats 29
Partenaires : FT R&D CNET, CCETT Rennes, ENST Paris, ENST Bretagne
Sujet : tude conjointe du codage de source et de canal intgrant au codeur source
une couche supplmentaire qui effectue la hirarchisation de linformation en
compltant le codage canal existant, et conservant ainsi lindpendance du
rseau par rapport linformation vhicule.
Rsultats : Ma contribution porte sur loptimisation de la partie codage du systme
conjoint : conception et mise en uvre logicielle dune chane complte de
transmission dimages sur un terminal mobile de faible rsolution, intgrant
une quantication optimise avec dquanticateur linaire de faon minimi-
ser limpact des erreurs binaires de transmission sur la distorsion quadratique
moyenne.
RNRT CoSoCaTi (20002003) Projet dtude du Rseau National de Re-
cherche en Tlcommunication. Responsable ENST/Comelec.
Thme : Codage source-canal conjoint pour la transmission dimages xes ou animes
Partenaires : CNES, THALES Communications, INRIA-IRISA, France Tlcom, Uni-
versit de Nice-Sophia Antipolis Laboratoire I3S-CNRS UMR6070, TELECOM
Paris, ENST Bretagne
Sujet : Ce projet propose une optimisation conjointe et une conception globale des
fonctions de codecs source-canal pour la transmission dimages dans le canal
satellite et radio-mobile, plus prcisment pour des applications de tlreportage
sur canal radio-mobile, tlsurveillance par satellite en orbite basse, et diffusion
cinma et dobservation spatiale par satellite gostationnaire.
Rsultats : Ma contribution porte sur le sous-projet 2 : Transmission dimages xes
dans le canal radio-mobile : mise en uvre logicielle dune chane complte,
simule sur COSSAP, pour la transmission de ux MPEG4 dans des canaux
GSM; intgre une technique de codage conjoint applique des ux binaires
(thse de AZAMI) avec optimisation des codes linaires (thse de BERGOT) et
un dcodage en entres et sorties pondres.
RNRT ECoFRAMe (20062010) Projet du Rseau National de Recherche en
Tlcommunication.
Thme : lments de convergence pour les futurs rseaux daccs et mtropolitains
hauts dbit.
Partenaires : Alcatel CIT/R&I, France Tlcom, KLOE, INT, PRISM de Versailles,
ENST Brest, TELECOM Paris, Universit de Limoges
Sujet : Le projet propose ltude dun rseau mtropolitain daccs multiple avec les
technologies utilises dans les rseaux daccs et les rseaux mtropolitains
rgionaux. La contribution scientique de lENST porte sur llaboration de
modles du canal physique, le dimensionnement et loptimisation du rseau par
des validations exprimentales des rsultats thoriques. Ma contribution est de
30 Chapitre 4. Activits de recherche et animation dquipe
6hmois dans le sous-projet 3, activit codage de canal : performances de codes
en bloc sur canal optique (binaire asymtrique) pour la correction de paquets,
en collaboration avec Georges RODRIGUEZ et Philippe GALLION.
Divers Contributions ponctuelles au rseau dexcellence NEWCOM (20032007),
NEWCOM++ et lANR Information, Energy and Efciency of Professional Tennis
Serves (20062009) en collaboration avec Yves GUIARD.
4.6 Encadrement
Encadrement de doctorants Jai encadr ou co-encadr cinq doctorants, dont
voici des rsums de thse.
Lamia KARRAY Compression dimages en norme innie, thse soutenue en sep-
tembre 1995. Cette thse est consacre ltude de lutilisation de la norme innie
(minimax) en codage dimages xes monochromes, pour des applications limage-
rie biomdicale. On montre que lintroduction de ce critre en compression dimage
permet un contrle local des distorsions et offre ainsi une exibilit supplmentaire
aux schmas de compression. Deux approches sont tudies : lune dterministe et
lautre statistique. Le critre de la norme L

, associ aux proprits statistiques de


lerreur de reconstruction, prend en compte la notion dintervalle de conance, qui
permet de reconstruire le signal original avec un pourcentage x lavance de pixels
errons. Une tude thorique et algorithmique est mene : elle aboutit des schmas
de compression permettant dexploiter les connaissances a priori sur limage an de
reconstruire avec un taux de pertes pr-dtermin, voire sans pertes. Des exemples
de rsultats dutilisation en compression presque sans pertes sont illustrs par une
application concrte de ces schmas en compression dimages mammographiques.
De plus, diffrentes approches pour un schma efcace dans tout contexte de co-
dage sont proposes, lapport dune prdiction ARMA tant quantie. Enn, le critre
L

utilis est compar celui, classique de lerreur quadratique moyenne, dans un


schma de compression bas-dbit : les schmas proposs permettent une meilleure
reconstruction au niveau des contours.
Seyed Bahram ZAHIR AZAMI Codage conjoint source/canal, protection hirar-
chique, thse soutenue en mai 1999. Cette thse est consacre la conception dun
schma complet de codage source/canal optimis conjointement pour une source
et un canal donns, tout en conservant une indpendance de conception vis--vis
de la source et du canal. La stratgie adopte est de diviser le problme global en
sous-problmes plus simples et de rsoudre chaque sous-problme sparment. Le
premier sous-problme tudi consiste optimiser la dcomposition binaire de la
source vis--vis du canal ; le deuxime sous-problme est de concevoir des codes
entre binaire et sortie souple optimiss conjointement pour la source et le canal ; le
troisime sous-problme consiste combiner les deux procdures prcdentes par une
4.6. Encadrement 31
allocation optimale des dbits aux diffrents codeurs pour les diffrents ux binaires
dinformation. Cette thse apporte trois contributions principales pour la rsolution
de ces trois sous-problmes : 1
o
un algorithme de type Lloyd pour dcomposer une
source en ux binaires, particulirement bien adapt des statistiques gaussiennes et
uniformes ; 2
o
un algorithme de conception de sorties souples de codeurs possdant
de bonnes performances en termes de minimisation globale de la distance euclidienne ;
3
o
un algorithme de type Shoham-Gersho daffectation optimale de dbits encods,
qui conditionne les performances globales de la structure complte, mesures sur des
images pour diffrents modles de canaux.
Franois-Xavier BERGOT Dualit entre codage de source et codage de canal,
thse soutenue en juin 2000. Cette thse montre que ltude de la dualit entre codage
de source et codage de canal constitue une approche-cl pour simplier la conception
de systmes de codage conjoint source/canal ; tude rendue donc ncessaire pour
amliorer les performances des systmes dont la complexit est limite. An de mener
bien cette conception, diffrentes briques de base sont tudies, qui impliquent
de faibles dlais de traitement, sappuient sur des modles simples de source, de
canal et de critres de performances, et exploitent par dualit les outils de codage
de canal pour le codage de source. La premire brique de base tudie met en
uvre la transmission dune source binaire symtrique ou asymtrique sur un canal
binaire symtrique selon un critre de distance de Hamming. Un systme dit source
ou canal est propos, en utilisant des codes linaires ou arithmtiques, dont les
performances surpassent celles de systmes conjoints classiques, pour diffrentes
complexits de codeurs utiliss. La deuxime brique de base tudi met en uvre
la compression dune source gaussienne en prsence de bruit impulsif laide de
codes BCH rels MDS. Cette compression minimise la fois la distance de Hamming
et la puissance de bruit impulsif. La troisime brique de base considre concerne la
transmission dune source gaussienne sur un canal binaire symtrique selon le critre
derreur quadratique moyenne : le quanticateur est optimis code de canal x
en imposant une relation linaire entre les dictionnaires de source et de canal. Les
meilleurs systmes de faible complexit obtenus sont ceux pour lesquels le codage
de canal est absent. Ces briques de base peuvent tre (et ont t) utiliss dans des
systmes complexes protection hirarchique de donns (cf. thse de Bahram AZAMI
ci-dessus).
Abraham (Avi) GABAY Codage conjoint source/canal : application aux transmis-
sions dimages par satellite, thse soutenue en janvier 2001. Cette thse propose une
approche de codage conjoint source/canal base sur les codes BCH construits sur
le corps des rels. Leurs proprits permettent en effet de considrer leffet conjoint
des codeurs de source et de canal en exploitant une plus grande gamme de codes,
compare celle des codes BCH construits sur les corps de Galois. Dans un premier
temps, une modlisation des perturbations issues de la quantication de la source
et du bruit de transmission est mise en uvre avant dtre incorpore loptimisation
32 Chapitre 4. Activits de recherche et animation dquipe
conjointe globale du systme. Sont tudis les algorithmes de codage de sources gaus-
siennes, lalgorithme de dcodage et la robustesse du schma conjoint en transmission
dimages satellite, compare au schma de codage spar prvu dans les futures
gnrations du satellite SPOT et employes pour la transmission des images du CNES.
On observe une nette amlioration des performances globales, la multiplicit des codes
BCH sur les rels permettant une allocation de dbits plus prcise par lalgorithme de
Shoham-Gersho, le prise en compte du critre de distorsion quadratique toutes les
tapes de la chane de transmission (sans passer par le taux derreurs binaires) et la
minimisation de limpact des erreurs de transmission non ou mal corrigs sur la qualit
visuelle de la reconstruction.
Axel LE POUPON Mthodes optimales et sous-optimales dallocation de res-
sources, thse soutenue en septembre 2009. Cette thse propose daborder le pro-
blme de lallocation de ressources en communications numriques, cest--dire de
loptimisation dun cot global du systme par rpartition en diverses composantes
dune ressource contrainte par un budget, sous un angle nouveau et global. La refor-
mulation complte du problme et de lensemble des concepts sous-jacents permet
dnoncer des critres propices une recherche exhaustive qui fait dfaut dans de
nombreux systmes actuels. Ces critres conduisent quatre classes dalgorithmes
nouveaux. Les deux premiers permettent une recherche exhaustive et optimale, 1
o
par
une relation dordre adapte au problme qui acclre la slection systmatique des
points de fonctionnement optimaux, ou 2
o
par une technique de branche et limite
sur des chemins convexes admissibles au travers dun nuage de points. Les deux
derniers relchent la contrainte doptimalit de faon acclrer la recherche, 3
o
par
une limination locale de points de fonctionnement qui dvoilent de nombreux points
cachs, ou 4
o
par drivation de chemins convexes sous-optimaux mais trs proche
de loptimalit. Les performances de tous ces algorithmes sont prouvs laide dun
mme corpus de test pertinant aussi bien pour le problme de compression que de
transmission de donnes, et compares aux mthodes existantes.
Autres encadrements Jai encadr ou co-encadr depuis 1995 de nombreux tra-
vaux de post-doc et de stagiaires, notamment les suivants :
Riadh ABDELFATTAH : Transmission dimages xes dans le canal radio-mobile
Mireille BORG : Dcodage souple des codes BCH sur les entiers cyclotomiques
Thomas CHARDIN : Schmas de Costa pour le tatouage dimages
Antonio CIPRIANO : Capacits de canaux gaussiens avec information adjacente
Franois DPREZ : Effets de bords dans les bancs de ltres non stationnaires
Mehmet HENDLEKI : Unequal error protection for joint source-channel coding
Stieg Ingar IVJE : Optimisation dun systme conjoint de transmission dimages
Axel LE POUPON : Codage de Karhunen-Love en basse rsolution
Sabine LEVEILLER : Algorithme de Blahut sur les canaux vanouissements
Tibor NAGY : Conception de ltres numriques bi-orthogonaux de Nyquist
Gilles TAILLEFER : numration de poids et dcodage de codes q-aires duaux
4.7. Animation dquipe de recherche 33
Nicolas VOYER : Constellations hirarchiques et modulations fractales
SUI Yang : Algorithme de recuit dterministe de Blahut-Rose
4.7 Animation dquipe de recherche
Animation du groupe Communications Numriques (2004-2008) En 2004,
jai pris la responsabilit de lquipe Communications Numriques (COMNUM) au
dpartement Comelec de TELECOM ParisTech en remplacement de Robert VALLET. Il
tait constitu de 4 permanents :
Jean-Claude BELFIORE (Professeur)
Joseph BOUTROS (Matre de Confrences)
Gorges RODRIGUEZ-GUISANTES (Matre de Confrences)
Philippe CIBLAT (Matre de Confrences)
Suite aux dparts de Robert VALLET et de Joseph BOUTROS, et la croissance des
activits de recherche (particulirement en thorie de linformation) et denseignement
du groupe, jai suivi les dossiers de plusieurs recrutements sur des postes temps
plein, aujourdhui naliss :
Ghaya REKAYA-BEN OTHMAN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2005
Walid HACHEM (CNRS) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2006
Aslan TCHAMKERTEN. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2008
Patrick SOL (CNRS) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2009
Michle WIGGER . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2009
qui tmoignent de la vitalit de nos activits et porte ses membres 9 permanents,
auquels il faut rajouter 2 post-doc et 18 doctorants. Les travaux de recherche du groupe
se regroupent autour des thmes suivants : modulations numriques multi-porteuses
et ultra-large bande, codes spatio-temporels, algorithmes de dtection, thorie de
linformation et codage pour les rseaux sans l, et codage conjoint source-canal.
En dehors de laspect administratif (suivi du budget, dossiers de recrutement,
rapports dactivit, etc.) et du suivi des activits denseignement (dans lesquelles le
groupe est trs impliqu), mon rle de responsable, sur la plan de la recherche, consiste
animer et stimuler les collaborations, proposer des engagements contractuels divers
(bipartite, publics, europens, etc.), et coordonner diffrentes actions sollicites par
lInstitut TELECOM et ParisTech.
Voici quelques faits marquants du groupe COMNUM, toutes activits confondues,
qui ont eu lieu pendant la dure de mon mandat :
depuis 2004, une prvision chiffre du budget annuel pour dotation du dparte-
ment Comelec ;
instauration en 2005 de runions de travail rgulires du groupe (tous les mois)
avec ordre de jour et compte rendu, sur diffrents aspects dactualit de la
recherche et de lenseignement ;
prparation des rapports dactivit du groupe pour le CNRS (2005) et lAERES
(2008) ;
34 Chapitre 4. Activits de recherche et animation dquipe
cration dun sminaire COMNUM en 2005 pour stimuler les collaborations
de recherche ;
laboration du premier plan de recherche du groupe COMNUM pour la priode
2006-2010, repris dans le cadre de llaboration de la stratgie TELECOM
ParisTech 20082012.
refonte de nos contenus denseignement en cycle Master en 2006 (3 units
denseignement de base et 2 de spcialit) pour une visibilit amliore de nos
enseignements TELECOM ParisTech ;
depuis 2007, administration collgiale de la gestion des contrats de recherche
et du suivi du budget (notamment missions) ;
cration de deux projets structurants Institut TELECOM spciques COMNUM
(MIMO et SCOOP) en 2007 ;
depuis 2007, runions de travail et contacts privilgis avec la direction de
lEcole et la direction scientique de linstitut TELECOM;
refonte de nos stages de formation continue et de nos enseignements pour les
polytechniciens en double diplme et ingnieurs-lves du corps des Mines en
2007 et 2008 ;
inauguration en 2008 dun laboratoire COMNUM nanc par la socit
ALTRAN suite au montage dun dossier de taxe dapprentissage, qui a entran
diffrentes rfections et amliorations de locaux ;
refonte des contenus de nos enseignements en master recherche M1 et M2
(SysCom/STN avec lUPMC) en 2008-2009 ;
cration du logo du groupe et mise jour en 2008 de sa page de
prsentation www.comelec.enst.fr/recherche/comnum.en
premire analyse de limplantation du groupe sur le site Palaiseau (2008).
la n de mon mandat, ce groupe comporte trois H-numbers >10, accueille en ux
permanent 15 20 doctorants (18 en 2008), et sauto-nance sur contrats de recherche
environ 150% en investissement, fonctionnement, missions, et personnel non perma-
nent. Cela signie que nos contrats sont globalement excdentaires en regard de nos
dpenses et que nous nanons donc les autres activits du dpartement. En rsum,
sur le plan de la recherche, notre groupe est exemplaire sur tous les indicateurs
TELECOM ParisTech (publications, doctorants, et chiffres daffaires des contrats).
CHAPITRE
5
Liste des publications et
travaux
Pour le confort du lecteur, un numro de page A-n renvoie lannexe du prsent mmoire.
[1] Yves MEYER, Stphane JAFFARD et Olivier RIOUL, Lanalyse par ondelettes,
Pour la Science, Sept. 1987, pp. 28-37. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-1
[2] Olivier RIOUL, Wigner-Ville representations of signals adapted to shifts and
dilations, Tech. Memo. 11227-880422-03, AT&T Bell Laboratories, Murray Hill,
NJ, USA, Apr. 1988. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-11
[3] Bishnu S. ATAL and Olivier RIOUL, Neural networks for estimating articulatory
positions from speech, Journal of the Acoustical Society of America, vol. 86,
Suppl. 1, p. S67, Nov. 1989. Tech. Rep. AT&T Bell Laboratories, Murray Hill, NJ.,
Apr.-Nov. 1988. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-19
[4] Christian DORIZE, Olivier RIOUL and Antoine CHAIGNE, Analysis/synthesis of
sound signals using a discrete wavelet transform, in Proceedings of the 13th
International Congress on Acoustics, Belgrade, Yugoslavia, 1989. . . . . . p. A-43
[5] Patrick FLANDRIN, Benot VIDALIE, and Olivier RIOUL, Fourier and wavelet spec-
trograms seen as smoothed Wigner-Ville distributions, in Wavelets and applica-
tions (Proceedings of the International Conference on Wavelets and Applications,
Marseille, May 1989), volume 20 of RMA Research Notes in Applied Mathematics,
Y. Meyer editor, Masson, Springer-Verlag, Paris, 1992, pp. 93-103. . . . . . p. A-47
[6] Patrick FLANDRIN and Olivier RIOUL, Afne smoothing of the Wigner-Ville distri-
bution, in Proceedings of the 1990 IEEE International Conference on Acoustics,
Speech, and Signal Processing (ICASSP-90), April 1990, vol. 5, pp. 2455-2458.
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-61
[7] Olivier RIOUL, Strutures and algorithms for the orthonormal discrete wavelet
transform, presented at the 1990 IEEE Digital Signal Processing workshop, Sept.
1990, pp. 3.3.1 - 3.3.2. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-65
[8] Olivier RIOUL, Fast algorithms for the continuous wavelet transform, in Procee-
dings of the 1991 IEEE International Conference on Acoustics, Speech, and
Signal Processing (ICASSP-91), April 1991, vol. 3, pp. 2213 - 2216. . . . p. A-67
[9] Olivier RIOUL et Pierre DUHAMEL, Transformes en ondelettes discrtes et conti-
nues : comparaison et algorithmes rapides, in Proceedings of the 13e colloque
GRETSI, Sept. 1991, pp. 193-196. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-71
35
36
[10] Olivier RIOUL and Martin VETTERLI, Wavelets and signal processing, IEEE
Signal Processing Magazine, vol. 8, no. 4, Oct. 1991, pp. 14-38. . . . . . . . p. A-75
[11] Olivier RIOUL and Pierre DUHAMEL, Fast algorithms for discrete and continuous
wavelet transforms, IEEE Transactions on Information Theory, vol. 38, no. 2, Mar.
1992, pp. 569-586. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-103
[12] Olivier RIOUL, Regular wavelets : Theory and algorithms, in Progress in Wavelet
Analysis and Applications, (Proceedings of the International Conference on Wa-
velets and Applications, Toulouse, France, June 1992), Y. Meyer and S. Roques
eds., Editions Frontires : Gif-sur-Yvette, France, 1993, pp. 229-235. . p. A-121
[13] Olivier RIOUL and Patrick FLANDRIN, Time-scale energy distributions : a general
class extending wavelet transforms, IEEE Transactions on Signal Processing, vol.
40, no. 7, July 1992, pp. 1746-1757. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-131
[14] Olivier RIOUL, Simple, optimal regularity estimates for wavelets, in Proceedings
of the sixth European Signal Processing Conference (EUSIPCO92), Aug. 1992,
J.Vandewalle, R. Boite, M. Moonen, A. Oosterlinck eds., Elsevier Science pub.,
1992, pp. 937-940. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-143
[15] Olivier RIOUL, A discrete-time approach to regularity of 1D or 2D wavelets, in
Proceedings of the 1992 IEEE Digital Signal Processing workshop, Sept. 1992,
pp. 1.9.1-1.9.2. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .p. A-147
[16] Olivier RIOUL, Simple regularity criteria for subdivision schemes, SIAM Journal
on Mathematical Analysis, vol. 23, no. 6, Nov. 1992, pp. 1544-1576. . . p. A-149
[17] Olivier RIOUL, Ondelettes rgulires : application la compression dimages xes,
PhD thesis, ENST, Coll. Tlcom Paris 93 E 004, Classication 07.242, spcialit
Signal et Images, Mar. 1993. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-183
[18] Thierry BLU and Olivier RIOUL, Wavelet regularity of iterated lter banks with ratio-
nal sampling changes, in Proceedings of the 1993 IEEE International Conference
on Acoustics, Speech, and Signal Processing (ICASSP-93), vol.3, Apr. 1993, pp.
213 - 216. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-331
[19] Olivier RIOUL, On the choice of wavelet lter for still image compression, in
Proceedings of the 1993 IEEE International Conference on Acoustics, Speech,
and Signal Processing (ICASSP-93), vol. 5, Apr. 1993, pp. 550 - 553. p. A-335
[20] Olivier RIOUL, Hlder regularity of subdivision schemes and wavelets, in Wave-
lets, Images and Surface Fitting (Proceedings of the International Conference on
Curves and Surfaces, Chamonix, France, June 1993), P.J. Laurent, A. Le Mhaut,
L.L. Schumaker eds., A K Peters : Wellesley, MA, 1994, pp. 437-444. . p. A-339
[21] Olivier RIOUL, A discrete-time multiresolution theory, IEEE Transactions on
Signal Processing, vol. 41, no. 8, Aug. 1993, pp. 2591-2606. . . . . . . . . . p. A-349
[22] Herv LE BIHAN, Pierre SIOHAN, Olivier RIOUL et Pierre DUHAMEL, Une mthode
simple de calcul de bancs de ltres/ondelettes bi-orthogonales, in Proceedings of
the 14e colloque GRETSI, Sept. 1993, pp. 443-446. . . . . . . . . . . . . . . . . . . p. A-365
37
[23] Olivier RIOUL, Regular wavelets : a discrete-time approach, IEEE Transactions
on Signal Processing, vol. 41, no. 12, Dec. 1993, pp. 3572 - 3579. . . . . p. A-369
[24] Olivier RIOUL, Conception de ltres ondelettes : application la compression
dimages, in Proceedings of the Colloque Temps-Frquence, Ondelettes et Multi-
rsolution : Thorie, Modles et Applications, INSA-Lyon, France Mar. 1994, pp.
5.1-5.10. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-377
[25] Franois DPREZ, Olivier RIOUL and Pierre DUHAMEL, Border recovery for
subband processing of nite-length signals. Application to time-varying lter
banks, in Proceedings of the 1994 IEEE International Conference on Acous-
tics, Speech, and Signal Processing (ICASSP-94), Apr. 1994, vol.3, pp. III/133 -
III/136. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-387
[26] Hamid KRIM, Jean-Claude PESQUET, and Olivier RIOUL, SIMPA Library : MATLAB
Time-scale and time-frequency toolbox, reference guide prepared by S. ATTALLAH
and R. SETTINERI, GDR-ISIS, Jun. 1994.
[27] Olivier RIOUL and Pierre DUHAMEL, A Remez exchange algorithm for orthonormal
wavelets, IEEE Transactions on Circuits and Systems II : Analog and Digital Signal
Processing, vol. 41, no. 8, Aug. 1994, pp. 550 - 560. Appendix : Note on a Remez
exchange algorithm for orthonormal wavelets" (convergence proofs), Apr. 1994.
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-391
[28] Lamia KARRAY, Pierre DUHAMEL et Olivier RIOUL, Compression dimages en
norme L

, presented at 16es Journes Tunisiennes en Electrotechnique et


Automatique (JTEA94), Hammamet, Tunisia, Nov. 1994, pp. 219225. p. A-409
[29] Lamia KARRAY, Olivier RIOUL and Pierre DUHAMEL, L

-coding of images : a
condence interval criterion, in Proceedings of the 1994 IEEE International Confe-
rence on Image Processing (ICIP-94), Nov. 1994, vol.2, pp. 888892. p. A-417
[30] Lamia KARRAY, Pierre DUHAMEL et Olivier RIOUL, Critre de la norme innie
pour un codage de bonne qualit, in Actes des Journes Compression et Repr-
sentation des Signaux Audiovisuels, CCETT, Rennes, Janv. 1995, pp. 291298.
[31] Olivier RIOUL, A spectral algorithm for removing salt and pepper from images, in
Proceedings of the 1996 IEEE Digital Signal Processing Workshop, Sept. 1996,
pp. 275 - 278. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-423
[32] S. Bahram ZAHIR AZAMI, Pierre DUHAMEL and Olivier RIOUL, Combined source-
channel coding : Panorama of methods, presented at the CNES Workshop on
Data Compression, Nov. 1996, Toulouse, France. . . . . . . . . . . . . . . . . . . . . p. A-427
[33] S. Bahram ZAHIR AZAMI, Olivier RIOUL and Pierre DUHAMEL, Performance
bounds for joint source-channel coding of uniform memoryless sources using
a binary decomposition, in Proc. COST 254 European Worshop on Emerging
Techniques for Communication Terminals, Toulouse, France, Jul. 1997. p. A-447
[34] Pierre DUHAMEL et Olivier RIOUL, Codage conjoint souce/canal : enjeux et
approches, invited paper, in Proceedings of the 16e colloque GRETSI, Sept.
1997, pp. 699-704. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-453
38
[35] S. Bahram ZAHIR AZAMI, Pierre DUHAMEL and Olivier RIOUL, Combined source-
channel coding for binary symmetric channels and uniform memoryless sources,
in Proceedings of the 16e colloque GRETSI, Sept. 1997, pp. 1073-1076. p. A-459
[36] Olivier RIOUL and Pierre DUHAMEL, Fast algorithms for wavelet transform compu-
tation, chapter 8 in Time-frequency and Wavelets in Biomedical Signal Processing,
IEEE Press Series on Biomedical Engineering, M. Akay editor, Wiley, Oct. 1997,
pp. 211-242. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-463
[37] Olivier RIOUL, Codage de canal : Performances de systmes cods, polycopi
ENST, Classication 08.07, mars 1998. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-499
[38] Lamia KARRAY, Pierre DUHAMEL, and Olivier RIOUL, Image coding with an L

norm and condence interval criteria, IEEE Transactions on Image Processing,


vol. 7, no. 5, May 1998, pp. 621 - 631. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-669
[39] Pierre DUHAMEL, Olivier RIOUL, and S. Bahram ZAHIR AZAMI, Joint source
and channel coding, NATO Advanced Study Institute on Signal Processing for
Multimedia, July 1998, Il Ciocco Resort Hotel, Tuscany, Italy. . . . . . . . . . p. A-681
[40] Franois-Xavier BERGOT and Olivier RIOUL, Joint binary symmetric source-
channel coding with small linear codes, in Proceedings of the ninth European
Signal Processing Conference (EUSIPCO98), Vol. 1, Sept. 1998. . . . . p. A-707
[41] S. Bahram ZAHIR AZAMI, Pierre DUHAMEL and Olivier RIOUL, Joint source-
channel coding of uniform memoryless sources over binary symmetric channels,
in Procedings of the IEEE Global Telecommunications Conference (GLOBECOM
98), Nov. 1998, vol. 6, pp. 3614-3619. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-711
[42] Abraham GABAY, Pierre DUHAMEL and Olivier RIOUL, Exploitation de la redon-
dance rsiduelle pour combattre le bruit, presented at the CNES Worshop :
Codage source/canal combin, Toulouse, Nov. 1998.
[43] Franois-Xavier BERGOT and Olivier RIOUL, Lloge de la paresse en codage
conjoint source/canal, presented at the CNES Worshop : Codage source/canal
combin, Toulouse, Nov. 1998.
[44] Abraham GABAY, Pierre DUHAMEL and Olivier RIOUL, Codage source/canal
combin : Impact du codage BCH sur la compression dimages, presented at
CNES Worshop : Compression embarque dimages xes, Toulouse, Juin 1999.
[45] S. Bahram ZAHIR AZAMI, Pierre DUHAMEL and Olivier RIOUL, Joint optimum
bitwise decomposition of any memoryless source to be sent over a BSC, in Pro-
ceedings of the IEEE International Conference on Telecommunications (ICT99),
June 1999, vol. 2, pp. 251-255. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-717
[46] Abraham GABAY, Pierre DUHAMEL and Olivier RIOUL, Spectral interpolation coder
for impulse noise cancellation over a binary symmetric channel, in Proceedings
of the tenth Europeen Signal Processing conference (EUSIPCO00), vol. 4, Sept.
2000. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-723
[47] Abraham GABAY, Pierre DUHAMEL and Olivier RIOUL, Real BCH codes as joint
source channel codes for satellite images coding, in Proceedings of the 2000
39
IEEE Global Telecommunications Conference (GLOBECOM 00), Nov.-Dec. 2000,
vol. 2, pp. 820-824. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-727
[48] Abraham GABAY, Olivier RIOUL and Pierre DUHAMEL, Joint source-channel
coding using structured oversampled lters banks applied to image transmission,
in Proceedings of the 2001 IEEE International Conference on Acoustics, Speech,
and Signal Processing (ICASSP 01), May 2001, vol. 4, pp. 2581-2584. p. A-733
[49] Olivier RIOUL et Pierre DUHAMEL, Information et codage de source, polycopi
et exercices corrigs, Polycopi de lEcole Nationale Suprieure des Techniques
Avances, Sep. 2003. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-737
[50] Olivier RIOUL, Ingalits, Polycopi de lEcole Nationale Suprieure des Tlcom-
munications, Classication 01.82, Sep. 2004. . . . . . . . . . . . . . . . . . . . . . . . . p. A-785
[51] Olivier RIOUL, Suites rccurrentes et pseudo-alatoires, Polycopi de lEcole
Nationale Suprieure des Tlcommunications, Classication 08.07, Mars 2005.
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-847
[52] Axel LE POUPON and Olivier RIOUL, An optimal algorithm for resource allocation
with concave cost functions, presented at the 5th ALIO/EURO Conference on
Combinatorial Optimization, Paris, France, Oct. 26-28th, 2005. . . . . . . . p. A-933
[53] Olivier RIOUL, Analyse temps-frquence et temps-chelle, Polycopi de lEcole
Nationale Suprieure des Tlcommunications, Classication 07.24, Dc. 2005.
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-935
[54] Riadh ABDELFATTAH, Olivier RIOUL and Pierre DUHAMEL, Linear scalar quanti-
zation of wavelet image decomposition using joint optimization, in Proceedings
of the 12th IEEE Conference on Electronics, Circuits and Systems (ICECS05),
Gammarth, Tunisia, Dec. 11-14th, 2005. . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-1023
[55] Olivier RIOUL, Modulations numriques : Densit spectrale de puissance. Cosi-
nus surlev. Fonctions derreur, Polycopi de lEcole Nationale Suprieure des
Tlcommunications, Classication 08.07, Mars 2006. . . . . . . . . . . . . . . p. A-1027
[56] Axel LE POUPON and Olivier RIOUL, An optimal algorithm for resource allocation
with concave objective functions, RAIRO Operations Research, EDP Sciences,
2006 (revised version). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-1067
[57] Olivier RIOUL, Distributions, transforme de Fourier, convolution, Polycopi de
lEcole Nationale Suprieure des Tlcommunications, Classication 01.82, Aot
2006. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-1079
[58] Olivier RIOUL, Codage entropique, Polycopi de lEcole Nationale Suprieure des
Tlcommunications, Classication 07.24, Nov. 2006. . . . . . . . . . . . . . . . p. A-1175
[59] Olivier RIOUL, Corps nis, Polycopi de lEcole Nationale Suprieure des Tl-
communications, Classication 08.07, Nov. 2006. . . . . . . . . . . . . . . . . . . . p. A-1201
[60] Olivier RIOUL, A simple proof of the entropy-power inequality via properties of
mutual information, in Proceedings of the 2007 IEEE International Symposium
on Information Theory (ISIT 2007), Nice, France, June 2007. . . . . . . . . p. A-1247
40
[61] Olivier RIOUL, Information theoretic proofs of entropy power inequalities, IEEE
Transactions on Information Theory, accepted for publication, 2008. . p. A-1253
[62] Olivier RIOUL, Thorie de lInformation et du Codage, Hermes Science - Lavoisier,
286 pages, Sept. 2007. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-1295
[63] Olivier RIOUL, Thorie des Probabilits, Hermes Science - Lavoisier, 362 pages,
Juin 2008. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-1587
[64] Sujets de mathmatiques du concours commun Mines-Ponts, lire MP, 2009.
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-1959
[65] Olivier RIOUL, Lenseignement des nombres rels, soumis la Gazette de la
Socit Mathmatique de France, 2009. . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-1969
CHAPITRE
6
Travaux de recherche et
de diffusion scientique
Cette liste de thmes est organise par ordre vaguement chronologique, en commen-
ant par les thmes lies ma thse, an de donner une ide des volutions de mon
parcours de recherche.
6.1 Dcomposition multi-rsolution en temps discret
Au dbut de ma thse (1989), il existait deux thories pour la dcomposition en
ondelettes : celle lie la transforme en ondelettes continue (Jean MORLET [GM84])
qui implique une synthse redondante, et celle lie aux sries dondelettes ortho-
gonales (Yves MEYER [M86]) qui enlve cette redondance et dcompose le signal
sur des espaces fonctionnels orthogonaux en octaves . Les travaux rcents de
Mallat [M89] laissaient entrevoir un lien fort avec le codage en sous-bandes par bancs
de ltres itrs, mais aucune thorie spcique dune dcomposition multi-rsolution
des signaux temps-discret navait t dveloppe ; celle-ci ntait utilise que comme
une tape technique dimplantation dalgorithmes ou comme un moyen de construction
mathmatique de bases orthogonales de L
2
(R). Dun autre ct, les bancs de ltres
taient tudis selon le point de vue dune dcomposition en sous-bandes, ce qui
masque laspect multi-rsolution.
Jai donc synthtis les diffrentes approches pour proposer un cadre thorique
dondelettes discrtes plus appropri aux applications de traitement du signal num-
rique qui sont par nature essentiellement discrtes. La principale difcult est ici de
dnir les changements dchelle sur des signaux en temps-discret : ce sont des
oprateurs [7, 9]
_
(G x)
n

k
x
k
g
n2k
( G
t
x)
n

k
x
k
g
t
2nk
partir desquels tous les schmas connus de dcomposition multirsolution sob-
tiennent itrativement. Le lien entre les deux oprateurs est donn par une dualit
de transposition hermitienne. Ils permettent de dnir rigoureusement les notions
dchelle et de rsolution sur les composantes discrtes de signaux, qui clarient les
ides essentielles menant dcomposition pyramidale de Burt et Adleson [BA83] et
la transforme en ondelettes discrtes (banc de ltre reconstruction parfaite) dans le
cadre le plus gnral, celui de la biorthogonalit. Cette dernire dcomposition peut
42 Chapitre 6. Travaux de recherche et de diffusion scientique
scrire, pour un signal (x
n
), sous la forme :
x
n

j 1

kZ
x
n
,

h
t
j
n2
j
k
h
j
n2
j
k
+

kZ
x
n
,

g
t
J
n2
J
k
g
J
n2
J
k
.
o les h
j
(G)
j 1
h correspondent aux version dilates de londelette-mre et les
g
J
(G )
J 1
g (G )
J
correspondent aux versions dilates de londelette-pre,
selon la terminologie dYves MEYER. Dans le cas gnral, les fonctions de base
temps discret sont biorthogonales :
h
j
n2
j
k
[

h
t
j
n2
j
k

k,

i , j
,
le cas classique de lorthogonalit se retrouvant sur la condition h h
t
et g g
t
. La
thorie partage les mmes proprits que son quivalent en temps continu (sries don-
delettes) : dcomposition sur une base, chelle, rsolution, (bi)orthogonalit, et aussi
la rgularit (voir par exemple le 6.13 ci-dessous). Un avantage est quelle constitue
une alternative qui nutilise pas despace fonctionnel, simplie les preuves thoriques
et fournit directement des algorithmes en temps-discret. Larticle de rfrence est [21]
(134 citations).
6.2 Conception de ltres dyadiques plats et slectifs
Il existait cette poque (avant 1992) peu de solutions disponibles pour implanter
des bancs de ltres FIR reconstruction parfaite, itrs en octaves, dans un schma
de dcomposition en ondelettes dyadiques orthogonales : une famille slectivit
en frquence maximale de SMITH et BARNWELL [SB86] et la famille rgulire de
DAUBECHIES [D88], qui savre tre du type MAXFLAT [H71]. Dans le premier cas, on
peut minimiser lattnuation dans la bande passante laide de lalgorithme classique
de PARKS-MCCLELLAN [PM72] qui se base sur un algorithme dchange de zros de
REMEZ minimisant un critre L

(problme classique de lapproximation polynomiale


de Chebyshev). Dans le deuxime cas, la contrainte de platitude impose un nombre
maximal K L/2 de zros z 1 du ltre produit P(z) H(z)H(z
1
) (o L est
la longueur du ltre passe-bas H(z)) qui dtermine compltement les solutions sans
laisser de degr de libert supplmentaire.
Avec Pierre DUHAMEL (LSS-Suplec), nous avons gnralis lalgorithme classique
dchange de zros (type REMEZ) pour une contrainte de platitude K <L/2 (ce qui
laisse N L/2K degrs de libert) et une slectivit maximale en frquence. Nous
avons montr que cet algorithme se rduit au problme mathmatique suivant [27] :
tant donn deux fonctions continues D
0
(fonction dsire) et W (fonction de poids) sur
[0, 1], trouver le polynme R(y) de degr N 1 qui minimise la norme du supremum
|E| max
[0,1]
E(y)
o E(y) W(y) (D(y) R(y)) et D(y)
D
0
(y)
W(y)
o est la tolrance derreur
en bande passante. La solution R

(y) est unique et caractrise par la condition


6.3. Optimisation dune compression dimages xes par ondelettes 43
de N +1 alternances y
1
< y
2
< < y
N+1
telles que E(y
i
) (1)
i
|E|. Dans ce
cadre, lalgorithme de Remez modi se ramne, chaque tape n, lapplication du
thorme dalternance de Chebyshev pour le problme
min
R(y)
max
y{y
n
i
}
[E
n
(y)[
ce qui ma permis de dmontrer sa convergence vers la solution optimale. Il rsulte
de cet algorithme tout un ventail de choix de bases dondelettes avec un compromis
optimal entre rgularit (estime grce au 6.13 ci-dessous) et slectivit en frquence.
Larticle de rfrence est [27] (64 citations).
6.3 Optimisation dune compression dimages xes par ondelettes
Ce travail est essentiellement lobjet de ma thse [17] (soutenue en 1993). Jai
implant en C et en MATLAB les solutions prcdentes dans un schma de compres-
sion dimages xes choisies parmi une base de donnes dimages standard. Le choix
sest port sur une transforme en ondelettes bi-dimensionnelle avec des ltres RIF
sparables (horizontaux/verticaux) an deffectuer une tude prcise de linuence
des proprits de ces ltres les mthodes de calcul de ltres pour les cas plus
gnraux (non sparable, ltres RII) restant lpoque mal matriss. Les effets aux
bords de limage sont compenss par une extension par symtrie et/ou priodicit.
Lapport de la transforme en termes de gain (en dcibels) est calcul directement
sur les performances et non par une formule thorique contestable en fort taux de
compression. La quantication dans chaque sous-bande est choisie uniforme (scalaire
ou vectorielle sur rseau D
4
), ce qui correspond limplantation la plus simple et est
galement justie par son optimalit en prsence de codage entropique pour une
rsolution pas trop faible. Les performances du codeur entropique par sous-bande
sont estims soit par un codage de Huffman, soit par un calcul dentropie, ce qui reste
une mesure raisonnable en quantication en faible dimension (peu doverhead) et en
rsolution pas trop faible.
An de mesurer prcisment leffet de rgularit des ondelettes, il faut garantir
que toutes les autres briques de base du schma de compression sont totalement
optimises par ailleurs. Jai donc optimis lattribution des dbits dans chaque sous-
bande, ainsi que le nombre de sous-bandes lui-mme, par un algorithme dallocation
optimale dbit-distorsion du type SHOHAM-GERSHO [SG88], gnralis par VETTERLI-
RAMCHANDRAN [RV93] (ce type de recherche de point denveloppe a dailleurs men
plus tard de nouvelles recherches). Les simulations portent sur le Peak SNR (en
dcibels) en fonction du taux de codage (en bit par pixel (bpp)) dans un intervalle
de 0 1.5 bpp pour des images initialement reprsentes sur 8 bpp. Jai mesur les
inuences spares sur les performances de la rgularit, du type de quantication
(scalaire et vectorielle), du type de critre doptimisation des ltres (L
2
ou L

), de la
longueur des ltres, et de la largeur des bandes de transition dans les gabarits de
conception de ces ltres, le tout en commentant les aspects visuels de la reconstruction
par types dartefacts.
44 Chapitre 6. Travaux de recherche et de diffusion scientique
Bien que nos solutions naient au nal pas t retenues pour la norme JPEG 2000
(qui a prfr des solutions biorthogonales pour des raisons de exibilit dimplantation
en prcision nie), notre travail de pionnier (1993) a permis de dgager clairement
linuence des diffrents paramtres de conception sur les performances du schma
de compression dimages [17]. En particulier, il savre qu partir dun certain point,
augmenter lordre de rgularit (et donc la taille des ltres) ne provoque quun gain
marginal en rapport signal--bruit. Le contenu de cette thse a t en partie publi
dans [19, 24] et [23] (80 citations).
6.4 Bote outils MATLAB Ondelettes et temps-frquence
Les routines dimplantation MATLAB conues pour ma thse ont t mises en
forme et documentes pour constituer une bote outils SIMPA du GDR ISIS. Cette
bote outils propose des outils de traitement du signal numrique (conception de
ltres, dtermination de phase, retard de groupe, attnuation. . . ) de conception de
ltres-ondelettes (ondelettes orthogonales, biorthogonales, estimations de rgularit),
de traitement dimages (base de donnes du GDR, acquisition, visualisation, histo-
grammes, Huffman, entropie) et de codage par ondelettes (transforme en ondelettes,
optimisation des quanticateurs, routines de visualisation).
La documentation de cette bibliothque de logiciels [26] a t compile par R.
SETTINERI et comprend galement des contributions de Jean-Christophe PESQUET
(Universit Marne-la-Valle), Hamid KRIM (North Carolina State University), ainsi
que de Franois AUGER (IUT Saint-Nazaire), Patrick FLANDRIN (ENS Lyon) et Paulo
GONALVES (INRIA Rhne-Alpes) sur lanalyse temps-frquence. Cette bote outils
a t un temps pressentie pour alimenter le MATLAB Wavelet Toolbox ofciel de
la socit MathWorks (en concurrence avec une autre quipe franaise) ; elle est
disponible ladresse gdr-isis.org/Applications/Temps-Echelle/.
6.5 Analyse et synthse de son par ondelettes orthogonales
Les premires tudes menes au laboratoire CNRS de mcanique et dacoustique
de Marseille par lquipe de Richard KRONLAND-MARTINET utilisent la reprsenta-
tion redondante du son par transforme en ondelettes continues, dont lintrt est de
fournir une synthse stable, mais au moyen dune charge importante de calcul. Dans
cette tude en collaboration avec Christian DORIZE et Antoine CHAIGNE du labora-
toire dacoustique de lENST, nous avons propos pour la premire fois lutilisation
dalgorithmes rapides de transforme en ondelettes discrtes orthogonales (ltres de
Daubechies [D88]) pour diffrentes applications danalyse/synthse de son [4]. Le
banc de ltres itr utilis en appliqu directement aux chantillons en sortie dun
convertisseur analogique-numrique, par ce qui est maintenant connu sous le nom
dalgorithme de Mallat [M89] en une dimension. Des applications ont t menes sur
la dtection de faibles plosives dans le signal de parole, lextraction de modulation
de frquence, et le contrle de dfaut de dents dengrenage sur un signal mesur
6.6. Algorithmes rapides de transformation en ondelettes dyadiques 45
laide dun acclromtre. Ces premires expriences conrment un fait aujourdhui
bien compris : les applications utilisant lanalyse par ondelettes peuvent ncessiter une
trs haute rsolution temporelle (resp. frquentielle), sans un besoin simultan dune
bonne rsolution frquentielle (resp. temporelle).
6.6 Algorithmes rapides de transformation en ondelettes dyadiques
Avec Pierre DUHAMEL, nous nous sommes intresss ltude dalgorithmes
rapides dimplantation de la transforme en ondelettes, aussi bien dans le cadre
purement discret (temps et chelle discrets et implantation par bancs de ltres) que
dans le cas des sries dondelettes (temps continu et chelle discrte). En prliminaire,
nous avons propos une relecture des algorithmes existants : algorithmes de Stphane
MALLAT [M89] pour les ondelettes orthogonales, de Martin VETTERLI [V86] pour les
bancs de ltres itrs et de Mark SHENSA [S92] pour les sries dondelettes. Une
implantation directe requiert J (L 1) oprations par point, o L est la longueur des
ltres utiliss et J est le nombre doctaves ; lalgorithme de MALLAT et limplantation
par bancs de ltres requiert 2L oprations par point, indpendamment du nombre
doctaves.
An dappliquer des algorithmes rapides de ltrage, une rorganisation des calculs
est ncessaire par dcomposition biphase : le signal dentre est dcompose suivant
X(z) X
0
(z
2
) +z
1
X
1
(z
2
) et de mme pour les fonctions de transfert des ltres
passe-bas et passe-haut (G(z), H(z)) ; les coefcients en ondelettes pour un tage de
dcomposition sont alors donns par la formule
X
0
(z)H
0
(z) +z
1
X
1
(z)H
1
(z)
alors que la sortie qui alimente le prochain tage de dcomposition est
Y (z) G
0
(z)X
0
(z) +z
1
G
1
(z)X
1
(z).
Chaque sous-ltrage peut alors tre acclr laide dune split-radix FFT [D86]
(directe et inverse) dont la taille N est optimalement adpate la taille B de blocs
dentre par la formule B 2N (L 2). Un calcul exact de complexit donne un
nombre dopration par octave et par point calcul gal 4log
2
L +O(loglogL). On
obtient par exemple un gain dun facteur 20 pour une longueur L 128.
Pour les petites longueurs de ltrage (L < 16), la mthode de ltrage rapide
par FFT savre inefcace. Nous avons propos dappliquer un algorithme fast
FIR [MD91] conu spcialement pour des petites longueurs ; lexemple le plus simple
de cet algorithme pour le ltrage Y (z) H(z)X(z) est donn par la formule
_
Y
0
(z) H
0
(z)(X
0
(z) +X
1
(z)) +X
1
(z)(H
0
(z) +H
1
(z))
Y
1
(z) H
1
(z)(z
1
X
0
(z) +X
1
(z)) +X
1
(z)(H
0
(z) +H
1
(z))
pour lequel le gain en complexit rsulte du pr-calcul du terme X
1
(z)(H
0
(z) +H
1
(z))
commun aux deux sorties Y
0
(z) et Y
1
(z). Nous avons donn les complexits exactes
46 Chapitre 6. Travaux de recherche et de diffusion scientique
pour les longueurs de ltres L < 16 et obtenu par exemple un gain de charge de
calcul dun facteur 2 pour L 10. Diffrentes variantes (prise en compte de contraintes
dorthogonalit, longueurs de ltres ingales) ont t galement tudies [9, 11].
6.7 Algorithmes rapides de transformation continue en ondelettes
Nous avons ensuite (avec Pierre DUHAMEL) appliqu les rsultats obtenus pour
limplantation de la transforme en ondelettes continue (temps et chelle continus)
pour lanalyse de signaux. Les coefcients de cette transforme peuvent sobtenir de
transformes en ondelettes dyadiques, comme la remarqu Mark SHENSA [S92], ce qui
donne une structure de calculs identique celle propos par Matthias HOLSCHNEIDER
et al. [HKMT89].
An dappliquer nos algorithmes rapides de transforme en ondelettes dyadiques,
jai propos une rorganisation de ces calculs [8], dans laquelle chaque bloc contient
deux oprations de ltrage par G(z) et H(z), les sorties du ltre H(z) tant simplement
les coefcients en ondelettes, alors que celles de G(z) sont composes en deux
squences entrelaces qui vont alimenter sparment deux blocs ltage suivant.
Cela revient obtenir les coefcients octave par octave de la transforme en ondelettes
continue comme rsultant dun entrelacement de grilles dyadiques (k2
j
, j ) dans le
plan temps-chelle. Une implantation directe requiert (pour J octaves) 2LJ oprations
par point ; lutilisation dalgorithmes de FFT ou de Fast FIR permet, comme dans
le cas dyadique, de rduire la charge de calcul. On obtient 6J log
2
L +O(J loglogL)
oprations par point laide de la FFT, soit par exemple un gain dun facteur 8, 3 pour
L 128. Lapplication dalgorithmes de ltrage FIR court permet de gagner par exemple
un facteur 1, 6 pour L 10.
Diffrentes variantes et comparaisons dautres algorithmes existants ont t
testes, en particulier, lalgorithme des BERTRAND et Jean-Philippe OVARLEZ [BBO90],
qui utilise la transforme de Mellin et un chantillonnage gomtrique des signaux ;
nous avons propose une version temporelle de leur algorithme frquentiel base sur
la formule
1
_
[a[
_
R
x(t )

_
t b
a
_
dt
_
R
+
e

2
x(e

+b) e

(e

) d
o lna, qui vite de prcalculer la transforme de Fourier entire du signal et
savre surtout utile si on dsire zoomer lanalyse temps-chelle autour dun instant
b particulier.
Larticle de rfrence paru dans les IEEE Transactions on Information Theory
est [11] (324 citations) ; ce travail a galement fait lobjet dun chapitre [36] du livre
Time-frequency and Wavelets in Biomedical Signal Processing (1997) qui donne un
panorama complet.
6.8. Diffusion et vulgarisation des Ondelettes 47
6.8 Diffusion et vulgarisation des Ondelettes
Ds le tout dbut de mes activits de recherche, jai eu la chance dintgrer
une quipe pluri-disciplinaire (alors encore trs rduite) sur la thorie naissante des
ondelettes, qui tait sur le point de se diffuser largement dans de nombreux domaines
des sciences. Nous tions tous alors enthousiastes lide de partager au plus
grand nombre ces nouvelles ides qui taient, le pensions-nous, rvolutionnaires.
Dans cette optique, jai crit avec Stphane JAFFARD et Yves MEYER le tout premier
article de vulgarisation sur le sujet : Lanalyse par ondelettes , dans la revue Pour
la science [1]. cette poque, trs peu dapplications avaient t dveloppes, et
nous tions surtout guids par notre intuition mathmatique que cette technique allait
tre mieux adapte que lanalyse de Fourier la rsolution de problmes lies aux
caractristiques physiologiques du traitement des signaux acoustiques et lumineux
chez lhomme, ainsi qu lanalyse de uctuations boursires de cours volatiles par la
rgularit hldrienne.
Quatre ans aprs, la situation avait grandement volu sur les applications au
traitement du signal et la communaut des ondelettes tait rapidement devenue
mondiale. Avec Martin VETTERLI, nous sentions quil tait devenu opportun dexposer
un tutorial complet sur le sujet : Wavelets and Signal Processing dans la revue IEEE
Signal Processing magazine [10], 25 pages dexposition dtaille et plus dune centaine
de rfrences sur les applications lanalyse temps-frquence, lanalyse multi-fractale,
au codage pyramidal et en sous-bandes, aux bancs de ltres et ondelettes multi-
dimensionnels, aux paquets dondelettes, etc. Cet article a connu un grand succs
auprs des chercheurs sintressant au domaine et reste une rfrence; cest ce
jour ma publication la plus cite (1441 citations).
Vers la n des annes 1990, les ondelettes ont dpass le cadre dune commu-
naut de spcialistes pour atteindre le grand public. Jai cette poque donn plusieurs
confrences prsentant le sujet, et ai galement apport ma contribution Barbara
BURKE, en ce qui concerne notamment la rgularit des ltres-ondelettes applique
la compression dimages, pour le premier livre grand public sur le sujet : Ondes
et ondelettes [B95], prix dAlembert 1996, qui a t traduit en allemand, japonais et
anglais [B96].
6.9 Rseaux de neurones linariss alatoirement
Ce travail de recherche, effectu aux Bell Laboratories sous la supervision de
Bishnu S. ATAL, tudie le comportement dapprentissage dun rseaux de neurones
deux couches, avec une couche intermdiaire de noeuds cachs interconnects entre
lentre et la sortie. Ce modle peut tre dcrit par lquation

O A R I
o I est le vecteur dentre,

O la sortie estime, un oprateur non-linaire multi-
dimensionnel, A, R les matrices des poids de deuxime et premire couche, respecti-
48 Chapitre 6. Travaux de recherche et de diffusion scientique
vement. Le critre dapprentissage minimiser est lerreur quadratique moyenne
E |O

O|
2
.
La difcult dune telle procdure est que les algorithmes doptimisation par descente
de gradient itratif (back-propagation) que nous avons implants sont trop complexes
pour tre utilisables en mode apprentissage. Nous avons trouv que les poids dans les
non-linarits de la premire couche dentre (les entres de la matrice R) pouvaient
tre xes alatoirement durant la procdure sans perte de performances du rseau ;
cela nous a permis dutiliser un algorithme doptimisation linaire rapide et non itratif
pour dterminer les poids dans la deuxime couche A par la formule [3]
A
j
(H
t
H)
1
H
t
O,
o H est la matrice des sorties des noeuds intermdiaires connects la j ime sortie.
Lapplication vise consiste estimer les positions de diffrents articulateurs (angle de
machoire, langue, lvres, etc.) dans le conduit vocal partir du signal de parole, un
problme considr alors comme extrmement difcile [A74]. Nous avons montr par
simulation [3] sur dix paramtres LPC du signal de parole, quun rseau de neurones
utilisant 500 noeuds intermdiaires tait sufsant pour dterminer avec une prcision
infrieure 1% les positions articulatoires du modle de Mermelstein [M73]. Une
mthode comparable a t propose plus tard, dans un contexte trs diffrent, pour
loptimisation de poids de quantication en codage source-canal conjoint ( 6.21).
6.10 Convolution afne de la distribution de Wigner-Ville
Lors dun cours dispens lENST en traitement du signal, une formule curieuse
a t prsente : le spectrogramme (module au carr de la transforme de Fourier
court-terme)
[S
x
(, )[
2

_
R
x(t )g

(t ) exp(2i t ) dt

2
sobtient partir de la distribution de Wigner-Ville par convolution avec la distribution
de Wigner-Ville de la fentre analysante :
[S
x
(, f )[
2

R
2
W
x
(t , )W

g
(t , f ) dt d
o
W
x
(t , )
_
R
x(t +

2
)x

(t

2
) exp(2i )d.
Ce rsultat fondamental illustre lhgmonie de la distribution de Wigner-Ville pour
les reprsentations dnergie dans le plan temps-frquence, et explique, pour ces
reprsentations, le compromis de rsolution de Weyl-Heisenberg. Par ailleurs, jai
appris, par des discussions sur les tats cohrents de la mcanique quantique avec
Alex GROSSMANN au centre de physique thorique de Marseille-Luminy, que la trans-
forme continue en ondelettes sobtient formellement en remplaant la convolution
6.11. Unication des reprsentations nergtiques temps-chelle 49
temps-frquence sur le groupe de Weyl-Heisenberg par celle sur le groupe afne
ax +b [GM84]. Ceci ma amen, lors dun sjour dtudes aux Bell Laboratories o se
trouvait Ingrid DAUBECHIES, transposer immdiatement la formule ci-dessus au cas
afne : la transforme en ondelettes
T(b, a)
1
_
[a[
_
R
x(t )g

(
t b
a
) dt ,
o g est une ondelette-mre admissible, et
1
_
[a[
g

(
t b
a
) est la reprsentation de carr
intgrable invariante gauche sur le groupe afne ax +b, satisfait la formule [2]
[T(b, a)[
2

R
2
W
x
(t , )W

g
(
t b
a
, a) dt d.
Avec Patrick FLANDRIN, nous avons appel le membre de gauche scalogramme
par analogie avec le spectrogramme, la notion de frquence tant remplace par celle
dchelle. Cette formule fondamentale montre quaussi bien en reprsentation temps-
frquence quen temps-chelle, la distribution de Wigner-Ville reste la distribution de
rsolution optimale partir de laquelle on obtient aussi bien lanalyse par ondelettes
que par Fourier court-terme : cest donc le point commun entre les deux thories.
La correspondance entre les deux groupes est la suivante : sur le groupe afne, la
distribution de Wigner-Ville prend la forme :
W
x
{b, a} W
x
(t b,
1
a
).
o W
x
(t , ) est la distribution de Wigner-Vile traditionnelle (sur le groupe de Weyl-
Heisenberg). Cette quivalence explique en particulier le compromis de rsolution
temps-chelle qui se dduit immdiatement de celui de Weyl-Heisenberg. Jai gale-
ment gnralis ce rsultat aux distributions de Wigner-Ville gnralises, incluant
celle de Rihaczek R
x
(t , ) x(t )X

()exp(2i t ), o X est la transforme de


Fourier de x. Ce travail a servi de point de dpart une unication des reprsentations
nergtiques de signaux mene en collaboration avec Patrick FLANDRIN et Benot
VIDALIE.
6.11 Unication des reprsentations nergtiques temps-chelle
Suite aux travaux de Leon COHEN [C89] et de Patrick FLANDRIN [F84] sur la
classication gnrale des reprsentations nergtiques temps-frquence, nous avons
dvelopp (avec Benot VIDALIE, Patrick FLANDRIN au CNRS LTS-ICPI de Lyon) la
classication gnrale des reprsentations bilinaires temps-chelle. Celles-ci sob-
tiennent partir de la distribution de Wigner-Ville par convolution temps-chelle avec
un noyau quelconque [5, 6] :

x
(t , a; )

R
2
W
x
(u, n)(
ut
a
, an) dudn
50 Chapitre 6. Travaux de recherche et de diffusion scientique
que lon peut galement exprimer par un ltrage bi-frquentiel f :

x
(t , a; )

R
2
f (an,

a
)A
x
(n, )e
2i nt
dnd
o A
x
est la fonction dambigut temps-frquence bande troite. Cette classe
gnrale est aujourdhui connue sous le nom de classe de RIOUL-FLANDRIN [53].
Ce travail fondamental de classication saccompagne de nouvelles perspectives
thoriques : en imposant des contraintes supplmentaires (conservation dnergie,
marginales, formules de type Moyal , etc.) sur le noyau, on retrouve ou on obtient de
nouvelles reprsentations temps-chelles particulires aux proprits remarquables.
Par exemple, les distributions afnes large-bande de Bertrand [BB88] utilisent des
noyaux bi-frquentiels localiss, correspondant la formule gnrale :

x
(t , a; )
1
[a[
_
R
G()X
_
F() /2
a
_
X

_
F() +/2
a
_
exp(2i
t
a
) d
avec la spcication G()
/2
sinh(/2)
et F()

2
coth

2
. Par ailleurs, la correspon-
dance entre frquence et chelle devient triviale (identication f
f
0
a
) lorsque la
fonction de lissage f (n, t ) ne dpend que de produit nt , ce qui est le cas pour les
distributions de Rihaczek et de Cho-Williams.
Ce travail a dbouch sur des applications pratiques : par lissage partir de la
distribution de Wigner-Ville, ventuellement adapte au signal, on obtient de meilleurs
compromis en rsolution temps-chelle que pour la transforme (linaire) en on-
delettes ; une illustration a t prsent pour des noyaux gaussiens et un lissage
sparable. Larticle de rfrence pour ce travail est [13] (171 citations).
6.12 Conception en miroir de bancs de ltres biorthogonaux
La proprit de phase linaire de ltres-ondelettes est juge importante dans les
applications de traitement dimages pour viter toute distorsion de retard de groupe
entre chelles. Cependant, il nexiste aucune solution rgulire RIF la fois orthogonale
et phase linaire. Une approche (aborde par exemple par Ingrid DAUBECHIES [D93]
et exploite lors de ma thse) consiste choisir un appareillage de zros dans le plan
complexe le plus symtrique possible par rapport au cercle unit de sorte obtenir
des ltres orthogonaux phase presque linaire. Avec Herv LE BIHAN et Pierre
SIOHAN du CCETT (France Tlcom R&D), nous avons propose une approche duale
qui conduit des meilleurs rsultats : des solutions RIF biorthogonales phase linaire,
quon peut rendre presque orthogonales [22].
On se ramne, par les conditions de reconstruction parfaite, la dtermination
des versions dcimes G
0
(z), H
0
(z) des ltres passe-bas et passe-haut, lun tant le
complment biorthogonal [VH92] de lautre. Lide consiste calculer dabord librement
un des ltres (H
0
(z)), avec un compromis optimal entre rgularit et slectivit en
frquence grce lalgorithme de Remez modi que nous avons propos avec Pierre
DUHAMEL (cf. 6.2) ; puis de dduire son complment orthogonal par simple inversion
6.13. Conception dondelettes dyadiques rgulires 51
dun systme linaire en conservant sufsamment de zros z 1 pour garantir une
bonne rgularit. Loriginalit de notre mthode rside dans lutilisation dun paramtre
essentiel de dcalage f de bande de transition, jusquici inexploit. On obtient un
algorithme itratif qui intgre des contraintes de rgularit pour les deux solutions
biorthogonales et qui savre trs rapide en comparaison des algorithmes existants
doptimisation non-linaire. Nous avons mis en uvre deux critres de miroir : un
critre de minimisation quadratique
min
_

[H
0
(e
i
) G
0
(e
i
)[
2
d
qui rend les solutions le plus orthogonales possibles au sens L
2
, et un critre datt-
nuation optimale dans le bande attnue du complment birothogonal (norme derreur
L

de Chebyshev). Nous avons galement appliqu le principe de notre mthode


au calculs de solutions en treillis plutt quen structure transverse dans le cas o
la longueur L 2m est paire; cela permet de se passer du calcul du complment
biorthogonal ; en effet, on dtermine directement H
0
(z) et H
1
(z) par la forme cascade
_
H
0
(z)
H
1
(z)
_

_
1 1
1 1
_

m1

k1
_
1
k

k
z
2
z
2
_

_
1
z
1
_
o les
k
sont les coefcients de rexion. Cela est particulirement intressant pour
une implantation en prcision nie, car la structure en treillis permet de conserver la
reconstruction parfaite aprs troncature de la prcision des coefcients
k
.
6.13 Conception dondelettes dyadiques rgulires
Le travail fondateur dIngrid DAUBECHIES [D88] a mis en lumire la proprit de
rgularit de ltres dondelettes utilises dans la dcomposition en ondelettes discrtes
orthogonales. Elle a utilis les proprits dquations aux diffrences deux chelles
pour en dduire des estimations dordre de rgularit dans les espaces de Sobolev.
Jai dvelopp une approche directe sur les shmas itratifs en temps-discret pour
obtenir des estimations plus nes des rgularits des ondelettes-pre et mre [12, 14].
En reprenant les notations du 6.1 sur les dcompositions en ondelettes discrtes,
londelette correspondant lchelle j est la rponse impulsionnelle du ltre
H
j
(z) G(z)G(z
2
) G(z
2
j 1
)H(z
2
j
) G
j
(z)H(z
2
j
)
o G(z) est le ltre passe-bas utilis dans limplantation en bancs de ltres de la
transforme en ondelettes. Il est bien connu que la convergence vers une ondelette
analogique (t ) lim
j
g
j
]2
j
t ]
ncessite (en plus dune condition de normalisation
G(1) 2) que le ltre G(z) admette au moins un zro z 1. Jai tabli que
lexistence et la continuit de londelette quivaut la convergence uniforme, qui peut
scrire sous la forme max
n
[h
j
n+1
h
j
n
[ 0 quand j . De plus, si les pentes
h
j
n

h
j
n
h
j
n1
2
j
52 Chapitre 6. Travaux de recherche et de diffusion scientique
convergent uniformment, la fonction limite est la drive
t
(t ), de sorte que londelette
est de classe C
1
; puisque la considration des pentes revient factoriser un zro
z 1 dans G(z), cela explique que de faon gnrale, la rgularit de londelette crot
avec la multiplicit K du zro z 1 dans G(z). Pour quantier leffet sur la rgularit
des autres zros prsents dans G(z), on considre le comportement asymptotique
des pentes itres dordre K : si
[
K
h
j
n+1

K
h
j
n
[ c2
j
o c est une constante indpendante de j , et si K +>N, alors londelette sera N
fois continment drivable (cela inclut la possibilit que soit ngatif ; le nombre K de
zros 1 compensant alors lirrgularit due aux autres zros). De plus, jai tabli que
la rapidit de la convergence uniforme crot exponentiellement avec la rgularit, ce
qui justie a posteriori lintrt de cette tude pour des systmes pratiques utilisant un
nombre ni J doctaves. Ce travail dbouche sur des algorithmes rapides destimation
de rgularit associe un ltre passe-bas G(z) quelconque [12, 14] et est la base
dune analyse dtaille des schmas de subdivision (voir 6.17).
6.14 Gnralisation des ondelettes p-adiques multidimensionnelles
Une gnralisation n dimensions effectue en collaboration avec Tibor NAGY
est la suivante : on considre une dcomposition selon une matrice n n de dilatation
D par exemple D
_
1 1
1 1
_
pour le rseau DZ
2
en quinconque avec p [ det D[
sous-bandes chaque itration. La formule donnant les ondelettes discrtes devient
H
j
(Z) G(Z)G(Z
D
) G(Z
D
j 1
)H(Z
D
j
)
o Z C
n
, et pour N Z
n
, Z
N

Z
N
i
i
. Le critre de convergence uniforme (on-
delette continue) devient lim
j
max
N
[h
j
N+U
h
j
N
[ 0 pour U gal n directions
indpendantes de Z
n
et le paramtre est dtermin par des ingalits du type
[
j
N+U

j
N
[ c
j
o est le rayon spectral de D (gal
_
2 dans lexemple du rseau en quinconce).
On obtient des estimations de rgularit qui dpendent de faon cruciale du choix du
rseau via la matrice de dilatation D [15].
6.15 Bancs de ltres itrs interpolation et dcimation rationnelles
Les bancs de ltres classiquement utilises lors dune dcomposition multirsolu-
tion sont dyadiques, cest--dire que linformation est analyse octave par octave. Ceci
peu savrer trop grossier dans certaines applications, comme limplantation de trans-
formes temps-chelle de signaux monodimensionnels. Suite un schma de bancs
de ltres changement dchantillonnage rationnel propos par Jelena KOVA

CEVI

C et
6.16. Traitements aux bords pour le codage adaptatif en sous-bandes 53
Martin VETTERLI [KV91], nous avons, avec Thierry BLU (CUHK) tendu ltude de la
rgularit des ondelettes ( 6.13) correspondant des ltres FIR itrs pour des bancs
de ltres reconstruction parfaite prsentant des changements dchelle rationnels du
type
p
q
, o 1 <
p
q
2 et p et q sont premiers entre eux [18] (le cas
p
q
2 est le cas
dyadique classique). La formule donnant les ondelettes discrtes devient
H
j
(z) G(z
q
j
)G(z
pq
j 1
) G(z
p
j 1
q
)H(z
p
j
) G
j
(z
q
)H(z
p
j
).
La difcult majeure du cas rationnel est que g
j
n
ne converge pas contrairement
au cas dyadique vers une fonction limite , pour des valeurs non entires de
p
q
.
Lexplication est que les rponses impulsionnelles prsentes dans le banc de ltres
associ sont des versions dcimes
g
j ,s
n
g
j
q
j
np
j
s
qui convergent sparment vers des limites distinctes

s
(t ) lim
j
g
j ,s
_
_
p
q
_
j
t
_
pour diffrentes valeurs du paramtre de dcalage s. On obtient ainsi des pseudo-
ondelettes qui ne sont pas des versions translates les unes des autres une
chelle donne.
Cependant, nous avons donn des conditions de rgularit pour que cette inva-
riance par translation soit obtenue avec une prcision arbitrairement grande. Le rle
des zros z 1 dans le cas dyadique doit tre remplace par des facteurs de la
forme
_
1z
p
1z
q
_
K
et le paramtre est estime par des ingalits du type
[
K
g
j ,s
n+1

K
g
j ,s
n
[ c
_
p
q
_
j
Nous avons dmontr [18], grce ltude de lquations aux diffrences nies satis-
faite par la fonction moyenne
(t ) lim
S
1
2S+1

[s[S

s
(t +s)
que les pseudo-ondelettes deviennent quasi-invariantes par translation lorsquelles sont
sufsemment rgulires, ce qui explique thoriquement les rsultats empiriques de
Jelena KOVA

CEVI

C et Martin VETTERLI [KV91]. Cette proprit sest avre dsirable
pour des applications de codage, dinterpolation, et danalyse temps-chelle.
6.16 Traitements aux bords pour le codage adaptatif en sous-bandes
Une difcult dimplantation dune transforme en ondelettes dun signal support
ni (comme une image) est la gestion des bords : le problme est dviter toute perte
de dbit en garantissant la reconstruction parfaite ces bords. Avec Franois DPREZ,
54 Chapitre 6. Travaux de recherche et de diffusion scientique
nous avons propos une mthode simple de recouvrement des bords qui permet
de retrouver, par inversion de petits systmes linaires, linformation manquante aux
bords lorsque les sous-bandes ont t tronques au nombre exact dchantillons du
signal initial [25]. On peut illustrer cette mthode par un exemple simple dun banc de
synthse de deux ltres de longueur L (paire) dcrit par la formule

X GY +HZ, o les
matrices sont des matrices dinterpolation-convolution, avec une entre X de longueur
nie N (pair) et remplissage aux bords par des zros. En posant Y
b
(y
0
, . . . , y
L/2
)
t
et Y
e
(y
N/2
, . . . , y
N/2+L/21
)
t
les bords manquants correspondants au dbut et
la n dun bloc (et de mme pour Z
b
et Z
e
), la condition de reconstruction parfaite
nous donne les quations dun systme linaire surdtermin
_
GY
b
+HZ
b
0
GY
e
+HZ
e
0
partir desquelles on dduit par inversion triangulaire les bords manquants, par
exemple :
Y
b
L
1
G
L
H
Z
b
o L
G
((g
2(i j )
))
i , j
est une matrice Toeplitz triangulaire infrieure (de mme pour
L
H
).
Cette mthode sapplique tout type dextrapolation dsire aux bords dune
image : remplissage de zros, symtrie miroir, etc. ; elle sapplique galement des
systmes volutifs (bancs de ltres variant dans le temps) o lon change de ltres
entre deux blocs conscutifs de signal, ce qui conduit un pavage diffrent du plan
temps-frquence, par exemple du type paquets dondelettes [25]. Ceci constitue
une amlioration au regard de techniques existantes (par exemple [NBS92]) dans la
mesure o il sagit dun post-traitement indpendant qui ne ncessite pas de modier
les calculs effectus dans les bancs de ltres, et pour lequel on obtient toujours
une reconstruction parfaite sans approximation. Bien entendu, la reconstruction nest
rigoureusement parfaite quen labsence de quantication dans les sous-bandes, mais
un tude mene conjointement avec Pierre DUHAMEL montre que cela nest pas un
problme en pratique, dans la mesure o la propagation derreur de quantication reste
trs localise.
6.17 Rgularit hldrienne de schmas de subdivision binaires
Je me suis interess au comportement asymptotique des puissances entires dun
oprateur G de masque de subdivision g
n
dni par
G(u
n
)

kZ
u
k
g
n2k
Ce schma intervient dans des problmes dajustement de courbes, et de conception
gomtrique assiste par ordinateur de courbes et de surfaces fractales ou rgulires,
ainsi quen interpolation dimages ; il est galement central en thorie des ondelettes.
6.18. Analyse de rgularit de schmas de subdivision rationnels 55
Le travail fondateur de N. DYN et D. LEVIN [DL90] donne certaines conditions suf-
santes de gnration de courbes C
N
. La courbe limite satisfait lquation aux
diffrences deux chelles (x)

k
g
k
(2x k) tudie par Ingrid DAUBECHIES et
Jeffrey LAGARIAS [DL91]. Dans ce travail, jai dtermin des conditions ncessaires et
sufsantes de rgularit de la courbe limite dans les espaces de Lipschitz et de Hlder
C
r
. Pour 0 <r 1, C
r
sil existe une constante c telle que
[(x +h) (x)[ c[h[
r
.
Le rsultat principal obtenu est le suivant : si on pose, en notation polynomiale, G(x)
2
N
(1+x)
N+1
F
N
(x), alors la suite
r
j
N
1
j
log
2
_
max
0n<2
j 1

k
[( f
j
N
)
n+2
j
k
[
_
converge de faon hyperbolique (0 r
j
r
c
j
) vers son inmum r et la courbe limite
C
r
pour tout >0. De plus, cette limite /C
r +
pour tout >0, la condition que
le schma soit stable au sens o il existe x R tel que

nZ
(x +n)e
i n
/0 ( R).
Cette condition trs faible nest pas satisfaite dans certains cas pathologiques, et jai
conjectur que le seul cas pathologique correspond lexistence de deux racines de
G(x) opposs sur le cercle unit. Jai retrouv, comme cas particulier de ma mthode,
les estimations sous forme matricielle dIngrid DAUBECHIES et Jeffrey LAGARIAS [DL91],
ainsi que celles des schmas dinterpolation de G. DESLAURIERS et S. DUBUC [DD89].
Jen ai galement dduit de nouvelles estimations rapides trs nes de rgularit,
comme par exemple
r N log
2
max
_
[( f
N
)
0
[, [( f
N
)
L1
[, (F
N
)
_
o (F
N
) est le rayon spectral de loprateur F
N
: u
n

k
( f
N
)
k
u
2nk
. Cette esti-
mation se simplie pour des masques symtriques et lon obtient alors lespace de
Sobolev H
r
2
dindice optimal pour la courbe limite ( H
r
2
[[
r
() L
2
, o
est la transforme de Fourier de ). Dans le cas non-symtrique, lestimation de Hlder
dpend de la phase du masque contrairement celle de Sobolev ; notre mthode
permet donc damliorer dau plus
1
2
cet ordre de rgularit, cause de linclusion
H
r +1/2+
2
C
r
( >0).
Larticle de rfrence pour ce travail est [16] (163 citations).
6.18 Analyse de rgularit de schmas de subdivision rationnels
Avec Thierry BLU, nous avons tendu les mthodes de ltude prcdente aux
schmas de subdivision rationnels [20]
G(u
n
)

kZ
u
k
g
qnpk
56 Chapitre 6. Travaux de recherche et de diffusion scientique
o
p
q
Q
+
est sous forme irrductible. Le rsultat prcdent se gnralise pour la suite
r
j
N
1
j
log
p
q
_
max
0n<p
j

k
[( f
j
N
)
n+p
j
k
[
_
o F
N
(x) (
p
q
)
N
(
1x
q
1x
p
)
N+1
G(x). Nous avons appliqu en particulier cette tude aux
B-splines dordre N rationnels pour
p
q

3
2
. Pour illustrer la simplicit de nos estimations,
considrons le cas N 3; la rgularit hldrienne du schma de subdivision est
Nlog
3/2
max
0r <3
(F
r
), o les trois matrices F
r
se dterminent immdiatement :
_
_
1/8 0 0
1/2 1/2 0
0 1/8 3/4
_
_
,
_
_
1/2 0 0
1/8 3/4 1/8
0 0 1/2
_
_
,
_
_
3/8 1/8 0
0 1/2 1/2
0 0 1/8
_
_
,
dont les rayons spectraux sont tous gaux 3/4, do une rgularit Hldrienne
3
log(3/4)
log(3/2)
3, 709511. . .. En particulier, les rsultats dIngrid DAUBECHIES et Jeffrey
LAGARIAS [DL91] sont ainsi gnraliss des schmas
p
q
-adiques.
6.19 Critre L

statistique pour la compression presque sans pertes


Le problme de la compression, pour certains types de signaux se prtent mal
au critre classique de distorsion quadratique (L
2
). En effet, ce critre est global et
nexploite pas la connaissance locale qui est toujours disponible dans limage. Avec
Pierre DUHAMEL et Lamia KARRAY (doctorante), nous avons propos un critre plus
exible du type L

, applicable diffrentes stratgies [28, 29]. La mthode consiste


dterminer les paramtres dun schma de codage (prdiction linaire DPCM, codage
en sous-bandes, transforme en cosinus DCT) de faon que toutes les erreurs de
reconstruction sont infrieures un seuil donn :
|X|

s.
Le calcul de s dpend en particulier des pas de quantication et de la dynamique
des coefcients utiliss pour le codage. Ce problme est rsolu par une optimisation
convexe sous contrainte des des dbits binaires, le calibrage prcis de lerreur tant
ensuite effectu par une optimisation non linaire.
An dintroduire une exibilit supplmentaire de conception du codage nous avons
propos dtendre le critre L

de faon garantir statistiquement un pourcentage


x p derreurs de reconstruction infrieures au seuil :
Prob
_
[X[ s
_

p
100
ce qui donne une compression avec pertes matrises, avec un contrle local de
la distorsion base sur la notion dintervalle de conance. L encore, nous avons
dtermin les paramtres optimaux du codage (DPCM, sous-bandes, DCT) employer
an doptimiser la compression. Ce problme est rsolu approximativement en justiant
6.20. Compression dimages biomdicales au sens L
2
et L

57
lemploi dun thorme central limite pour les erreurs de reconstruction, ce qui conduit
rsoudre en les pas de quantication q
i
un problme du type
_
_
_
min

i
n
i
log
2
d
i
q
i

u,v
erf
s
_
2

i , j
a
i , j ,u,v
q
2
i
c p
o erf est la fonction derreur standard et o les coefcients d
i
et a
i , j ,u,v
dpendent
des coefcients utiliss lors du codage. Une solution rapide et implantable en temps
rel consiste dabord se ramener au cas dterministe |X|

s
t
avec un seuil plus
large s
t
>s, puis incorporer un mme facteur dchelle dans les pas de quantication
pour calibrer au mieux le pourcentage de rejet 100p dsir.
6.20 Compression dimages biomdicales au sens L
2
et L

Dans ce travail en collaboration avec Pierre DUHAMEL et Lamia KARRAY, qui est
essentiellement le contenu de la thse de cette dernire [K95], nous avons appliqu
les ides lies au critre L

statistique la compression dimages standard et biom-


dicales (type mammographie) dans diffrents contextes : 1
o
compression sans pertes,
obtenu directement ou avec un schma de codage avec pertes dont le rsiduel est
cod par un code entropique; 2
o
compression avec pertes haute qualit (presque
sans pertes). Dans tous les cas, une comparaison entre les critres L
2
et L

a t
effectue.
Lintgration dune prdiction linaire ARMA dans un systme de codage en sous-
bandes (particulirement dans la bande BF) permettrait dobtenir un schma de codage
gnrique qui reste efcace dans tout la gamme du sans-pertes au bas dbit. Il savre
quun DPCM seul est plus efcace dans un contexte sans pertes, alors quune implanta-
tion par bancs de ltres-ondelettes savre particulirement intressante lorsquelle est
optimise selon un critre L

et que les erreurs rsiduelles sont ensuite codes sans


pertes. En codage avec pertes haute qualit, le critre L

permet (en comparaison du


critre L
2
) de mieux coder les contours prsents dans les images, et puisquil permet
un contrle local des erreurs, peut tre utilis pour exploiter les phnomnes de mas-
quage spatial. On obtient aussi une meilleure reconstruction des micro-calcications
sur des mammographies comportant un cancer, conrme par une analyse qualitative
de la reconstruction ralise par le groupe de recherche en imagerie biomdicale de
lUPMC. Larticle de rfrence pour ce travail est [38] (26 citations).
6.21 Optimisation de quanticateurs robustes dquantication linaire
Dans une premire tape vers le codage conjoint source-canal, nous avons tudi,
avec Pierre DUHAMEL et Bahram ZAHIR AZAMI (doctorant), la possibilit de rendre une
opration de quantication robuste en prsence derreurs de transmission en optimisant
les rgions de dcision et les niveaux de quantication tout en tenant compte de la
statistique de la source quantier.
58 Chapitre 6. Travaux de recherche et de diffusion scientique
Loriginalit de notre approche vient de ce quon contraint le dquanticateur tre
linaire, de la forme
v

i
y
i
,
o
i
est un poids dimportance du i me train binaire y
i
en sortie du dcodage
de canal. De cette faon, la distorsion quadratique du systme admet une relation
simple en fonction des paramtres du canal : D

i

2
i
D
i
(p) qui permet de contrler
facilement le.q.m. pour un canal donn. Les termes croiss dans le dveloppement
de D sont limins en imposant que les trains binaires sont indpendants entre eux ;
pour ce faire, nous avons impos, dans une premier temps, que toutes les rgions de
dcision du quanticateur soient quiprobables.
Il reste optimiser les poids
i
(qui fournissent les niveaux de quantication)
et ltiquetage binaire. Nous avons propos dutiliser lalgorithme de Lloyd modi
pour prendre en compte les contraintes de robustesse que nous avons imposes.
Loptimisation du dquanticateur (les poids
i
) quanticateur donn rsulte dune
simple inversion dun systme linaire (du type Wiener-Hopf) :

R
1
r o RE(y y
t
), r E(y), E(u[i ).
o la matrice R et le vecteur r se calculent aisment laide dune matrice dtiquetage
binaire, la distorsion minimale tant donne par la formule D

2
r
t
R
1
r . Loptimi-
sation du quanticateur dquanticateur donn consiste simplement ordonner les
niveaux de quantication v

i

i
y
i
par ordre croissant.
Nous avons considr diffrents modles de densit de probabilit dune source
sans mmoire provenant dun codage par transforme (type ondelettes) ; un modle
gnrique est celui dune gaussienne gnralise un paramtre :
p(u)
c(, )
2(1/)
exp
_

_
c(, )[u[
_

_
o c(, )
_
(3/)

2
(1/)
qui inclut comme cas particulier la distribution gaussienne ( 2), laplacienne ( 1)
et uniforme ( +). Notre travail est cependant galement applicable dautres
modles, et une statistique quelconque par apprentissage. Lalgorithme de Lloyd
converge trs rapidement vers une solution que nous avons prouve optimale dans le
cas dune source uniforme, et dautant plus efcace que le paramtre est lev.
Lquiprobabilit impose des ux binaires se traduit par une contrainte trop forte
sur les cellules du quanticateur ; relcher cette contrainte amliore notablement
la minimisation de la distorsion moyenne. Nous avons donc propos, avec Riadh
ABDELFATTAH (SupCom Tunis) et Stig Ingar EVJE (Mesta AS) un algorithme modi
qui intgre la recherche de meilleurs cellules. Celles-ci sont prises en compte dans
lexpression de la distorsion, qui devient
D
2
+

i
P
i
v
2
i
2

i
E
i
o P
i
et E
i
sont les moments dordre zro et un de la densit de source sur la i me
cellule, qui apparaissent dans les expressions de la matrice R et du vecteur r ci-dessus.
6.22. Dualit source/canal q-aire symtrique 59
La solution optimale samliore particulirement pour des faibles valeurs de et se
rapproche de la borne donne par les performances dun quanticateur optimal de
Lloyd-Max (non robuste) en labsence derreurs de transmission; par exemple, pour
1 (laplacienne), on obtient une amlioration de 10 dB 5 dB de cette borne [54].
6.22 Dualit source/canal q-aire symtrique
Le regain dintrt pour le codage source-canal conjoint invite naturellement
poursuivre ltude de la dualit entre codeurs canal et dcodeurs source dune part,
et dcodeurs canal et codeurs source dautre part. Cette ide na t jusqualors que
peu exploite et pour des situations acadmiques depuis les annes 1970 (cf. par
exemple [A76]). Il est ncessaire de dnir des modles de source et canal et des
mesures derreur compatibles an dexploiter cette dualit. Nous avons, dans un
premier temps, avec Franois-Xavier BERGOT (doctorant), considr une source q-aire
symtrique et un canal galement q-aire symtrique, avec critre de distance de
Hamming sur les mots et les symboles. La similarit dans lexpression des bornes de
Shannon en thorie de linformation pour le codage canal (capacit-cot) et le codage
source (taux-distorsion) conrme lide dune dualit exploiter :
_
C(P) log
2
q H
2
(P) P log
2
(q 1) (0 P 1
1
q
)
R(D) log
2
q H
2
(D) Dlog
2
(q 1) (0 D 1
1
q
),
leur rapport constituant la borne OPTA en codage conjoint. Nous avons tent dex-
pliquer cette similitude en dmontrant, par une analyse des cellules de Vorono dun
code linaire donn de longueur n et ltude des expressions exactes des probabilits
derreur-mot P
em
et symbole P
es
en codage canal et de la distorsion D en codage
source, que lon a les convergences suivantes lorsque n , pour un taux limite
r
k
n
log
2
q donn :
_

_
P
es inf

_
0 (r <C(P))
C
1
_
log
2
q
r
C(P)
_
(C(P) <r <log
2
q)
D
inf
R
1
(r )
o lindice inf dsigne une borne infrieure atteignable pour un code parfait ou quasi-
parfait. Ces rsultats constituent des rciproques des thormes de codage dans notre
cadre ; les thormes directs pouvant sobtenir par les techniques de codage alatoire
(travaux de Gallager en codage canal et Goblick en codage source). De plus, dans
utiliser la technique non-constructive du codage alatoire, nous avons utilis les travaux
de Grard COHEN et Peter FRANKL [CF85] pour dmontrer le thorme de Shannon
du codage de source pour des codes q-aires linaires.
Cette tude mathmatique conrme asymptotiquement quun bon codeur
canal est automatiquement un bon dcodeur source, et quun bon dcodeur
canal est automatiquement un bon codeur source. Les codes linaires ayant t
essentiellement conus pour le codage canal, il est intressant dexploiter la dualit
60 Chapitre 6. Travaux de recherche et de diffusion scientique
source/canal pour en dduire des codes linaires pour le codage source. De plus,
lintgration de tels codes dans des systmes complexes en prsence de multiples
train binaires impose la ncessit de concevoir des codeurs et dcodeurs conjoints
de longueurs faibles, qui impliquent une faible charge de calcul et de faibles dlais de
traitement. Nous avons effectu une recherche exhaustive sur les matrices gnratrices
ou de parit, des meilleurs codes linaires (pour n 6) et cycliques (pour n 16)
utiliss en codage de source binaire symtrique pour diffrentes valeurs de rendement.
Cette recherche exhaustive a t amliore par une construction itrative sur la tableau
standard de dcodage par ajouts de chefs de classe de poids minimum, pour des
longueurs n 23 [40]. Ces codes ont t utiliss par Bahram ZAHIR AZAMI dans
lalgorithme doptimisation binaire souple conjointe dcrit au 6.24.
6.23 Codes conjoints binaires solitaires ou ous
Dans ce travail effectu avec Franois-Xavier BERGOT (doctorant), nous reprenons
les codes construits prcdemment dans un systme de codage source/canal conjoint
pour une source binaire symtrique et un canal galement binaire symtrique, dont
les performances sont compares un systme de codage source/canal spar (en
tandem). Dans ce cadre, la borne OPTA prvu par le troisime thorme de Shannon
devient
R
1H
2
(D)
1H
2
(p)
o R est le taux global canal/source. Ceci donne la solution optimale mais triviale (qui
consiste ne faire aucun codage, do D p) lorsque R 1. Pour R <1 et R >1, des
solutions triviales de troncature ou dajout de zros donnent une premire ide des
bornes de performances possibles, qui restent assez larges.
Nous avons alors propos lutilisation dun systme simple source ou canal
pour lequel le codeur canal (resp. source) est supprim pour R < 1 (resp. R > 1),
les codeur ou dcodeur restants devenant solitaires. Pour R > 1, les thormes de
convergence tablis prcdemment sappliquent et montre une convergence vers
lOPTA. Pour R <1, nous avons dmontr directement cette convergence (avec les
notations ci-dessus) :
D
inf
H
1
2
_
1R(1H
2
(p))
_
.
A rendement global R x, des simulations sur canal gaussien sortie binaire, ternaire
et quaternaire ont montr que notre systme source ou canal pour les petits codes
construits prcdemment est toujours plus performant quun systme spar [43], mais
cependant reste relativement loign de lOPTA.
Une amlioration possible est doptimiser conjointement un seul codeur et un
seul dcodeur par un algorithme de Lloyd appliqu directement aux probabilits de
transition du codeur p(x[u) et du dcodeur p(v[y), o u, v reprsentent la source
transmise et reconstruite, et x, y les entre et sortie du canal. Dans ce schma,
codeur et dcodeur font tous deux ofces de codage/dcodage source et canal ; de
plus, ils constituent des oprations alatoires (codes ous) ! En comparaison de la
6.24. Dcodage binaire souple optimis par lalgorithme de Lloyd 61
version classique, lalgorithme de Lloyd est ici gnralis doublement : il prend non
seulement en compte la probabilit de transition du canal, mais aussi celles des
codeur et dcodeur ous. Lintrt principal dune telle approche est que lalgorithme
de Lloyd est capable damliorer a priori nimporte quel systme conu ventuellement
par dautres moyens, et sadapte tout modle de canal discret sans mmoire. Les
systmes proposs de codage source ou canal ont t intgres dans lalgorithme
doptimisation binaire souple conjointe dcrit au 6.24.
6.24 Dcodage binaire souple optimis par lalgorithme de Lloyd
Avec Pierre DUHAMEL et Bahram ZAHIR AZAMI (doctorant), nous nous sommes
intresss la conception de codeurs binaires et leur optimisation conjointe dans un
cadre dabord trs simple, savoir vis--vis dune seule source binaire symtrique et
dun seul canal galement binaire symtrique de paramtre p. Nous avons propos
une modication de codes binaires classiques entre binaire et sortie souple [41, 45],
de faon intgrer le critre de distorsion quadratique (et non simplement de probabilit
derreur) sur lensemble du systme :
D
1
m
2
n
1

x0
2
n
1

y0
p(y[x)
_
u
x
(u v(y))
2
p(u) du
Cette distorsion dpend non seulement de la source transmise u et reconstruite v,
mais galement de la probabilit de transition p(y[x) du canal dentre x et de sortie
y elle tient ainsi compte des erreurs de transmission au niveau de la reconstruction
de la source. La minimisation de D pour un niveau de distorsion de Hamming donn
conduit des niveaux binaires de reconstruction gaux (, 1) o
1
_
14D
2
;
ce qui conduit une borne OPTA optimale en thorie de linformation sur la taux de
codage gal
R(D)
1H
2
(
1
_
14D
2
)
1H
2
(p)
o H
2
() est la fonction dentropie binaire.
Pour loptimisation conjointe pratique des codeurs et dcodeurs, nous avons pro-
pos, suite aux travux de N. FARVARDIN et V. VAISHAMPAYAN [FV87] dans un autre
contexte, lutilisation de lalgorithme de Lloyd-Max [41, 45], bien connu en codage de
source, qui boucle les optimisations du codeur dcodeur donn (condition du proche
voisin) et du dcodeur codeur donn (condition du centrode), tout en tenant compte
de la probabilit de transition du canal. Les valeurs des reprsentant (centrodes) et
des rgions de dcision sadaptent donc optimalement vis vis des erreurs-bit dues au
canal. Nous avons compar les rsultats pour diffrents types de codes conus avec
Franois-Xavier BERGOT (cf. 6.22) la borne OPTA et mis en vidence le rle de
lintialisation de notre algorithme, cause de la prsence ventuelle de minima locaux
multiples.
62 Chapitre 6. Travaux de recherche et de diffusion scientique
6.25 Allocation optimale de dbits de codeurs conjoints source/canal
Le travail prcdent est gnralis pour plusieurs sources et plusieurs canaux
parallles dans un contexte de codage UEP (unequal error protection) par plan de
bits o diffrents trains binaires se voient attribus diffrents poids dimportance
i
de
reconstruction. Pour dterminer la borne thorique optimale prvue par la thorie de
linformation, on est ramen rsoudre un problme doptimisation non-convexe
_
_
_
minR

i
R
i
(D
i
)

i
1H
2
(
1
_
14D
i
2
)
1H
2
(p)

i

2
i
D
i
D.
pour lequel on adopte une approche base sur un Lagrangien discret.
Pour loptimisation pratique dattribution des dbits de codeurs, nous avons ap-
pliqu lalgorithme de SHOHAM-GERSHO [SG88] que nous avons amlior pour la
recherche de points de fonctionnement cachs de faon densier lventail des
solutions (ceci a dbouch sur un travail plus consquent dans ce domaine effectu
avec Axel LE POUPON, cf. ci-dessous). La base de donnes des codes disponibles est
volontairement simplie (codes nul, identique, rptition, de Hamming) de faon
garantir une complexit dimplantation trs faible.
Les performances globales du systme ont t compares la borne OPTA
obtenue par minimisation de Lagrangien, au systme spar (tandem) quivalent et au
systme COSQ [FV87] pour une source uniforme dcompose en train binaires [33,
35, 41]. On obtient une amlioration dautant plus importante que le paramtre p
derreur-bit est leve (p 10
2
), et ceci pour un systme constitu de briques de
base les plus simples possibles (codes linaires courts et quantication uniforme).
6.26 Systme complet de codage conjoint dimages sur canal GSM
Dans un premier temps, lobjet de cette tude, ralise en collaboration avec
Pierre DUHAMEL et Bahram ZAHIR AZAMI et qui constitue le contenu applicatif de la
thse de ce dernier [Z99], est la ralisation dun systme de codage source/canal
conjoint complet, utilisant des briques de base simples implanter, et permettant de
fonctionner en sintgrant dans les systmes existants, avec la contrainte essentielle
de transparence des donnes vis--vis des rseaux de transmission.
Cette contrainte implique que linterface source/canal doit tre constitu dun
ux binaire; elle implique aussi de considrer des modles simples de densits de
probabilit de sources sans mmoire et des congurations derreurs-bit de transmission.
Nous avons choisi de travailler sur les trains de bits issus dun quanticateur dans
chaque sous-bande dune transforme en ondelettes, le dquanticateur tant contraint
de sorte minimiser leffet des erreurs-bit sur la distorsion quadratique globale en
fonction de la statistique des coefcients en ondelettes chaque chelle. Chaque train
binaire est ensuite cod par des petits codes correcteurs binaires optimiss avec une
technique de codage souple. Les diffrents dbits dans les diffrents train binaires
6.27. Compression de source binaire asymtrique par codes de canal 63
ont t allous de faon optimale, et les performances globales ont t compares au
COSQ [FV87] et la borne OPTA.
Cette tude intgre donc les thmes prcdents 6.21, 6.24 et 6.25 dans une
conception dune systme complet de transmission dimages xes sur un canal binaire
symtrique [33, 35, 41, 45]. Pour des dbits suprieurs 2 ou 3 bits par chantillon
de source et un taux derreur relativement lev (10
3
10
2
), on obtient un gain
signicatif (3 dB) en SNR en comparaison du COSQ.
Ce travail a dbouch sur une maquette logicielle ralise par Riadh ABDELFATTAH
en 2002 dans le cadre du projet RNRT CoSoCaTI, qui propose une chane de complte
de transmission dimages xes sur le canal GSM, sous ma supervision et en collabora-
tion avec Georges RODRIGUEZ (TELECOM ParisTech). Cette maquette intgre une
nouvelle approche doptimisation conjointe des quanticateurs prsente au 6.21,
qui prsente une nette amlioration par rapport celles dveloppes prcdemment
par Bahram ZAHIR AZAMI. Ainsi, un taux global de 1 bit par pixel, le Peak SNR en
bout de chane passe de 31,5 28 dB lorsque le canal se dgrade jusqu p 10
2
,
ce qui constitue une perte relativement faible en comparaison des schmas de codage
en tandem.
6.27 Compression de source binaire asymtrique par codes de canal
Dans ce travail effectu avec Franois-Xavier BERGOT (doctorant) nous avons
tendu la recherche de bon codes binaires pour la compression dune source asym-
trique de paramtre p modlisant mieux certaines sources relles (chiers de donnes,
etc.) pour lesquelles les bits ne sont pas ou pas tout fait quiprobables ; ceci comme
une alternative robuste, en prsence derreurs binaires de transmission, un codage
par longueur variable.
Dans une premire tape, nous avons propos un algorithme de codage par
boule qui projette les squences binaires atypiques sur la boule de Hamming dnie
par une distorsion de Hamming choisie lavance (codage presque sans pertes).
laide de la loi faible des grands nombres, nous avons montr que les performances
asymptotiques ne se dgradent pas si lon se limite au codage sans pertes dans une
petite couronne n
t
< w
H
(u) < n o u est le mot de source de longueur n. On
obtient une fonction rendement-distorsion gale
R
t
(D) H
2
(p D)
qui pour une distorsion D non nulle est sous-optimale par rapport lOPTA R(D)
H
2
(p) H
2
(D). Ceci explique et quantie la perte due lutilisation dun algorithme
classique de compression en prsence ds que lon sloigne trop du codage sans
pertes.
Le codage par syndrome dAncheta [A76] savre tre alors une alternative int-
ressante qui illustre lexploitation de la dualit source-canal : le syndrome (utilis en
codage de canal) est la reprsentation code de la source, qui est dcode laide
dun tableau standard du code linaire utilis. Nous avons montr que les petits codes
64 Chapitre 6. Travaux de recherche et de diffusion scientique
linaires utiliss classiquement en codage de canal se rvlent trs mauvais dans ce
systme dAncheta, ce qui nous a conduit une recherche systmatique de bon codes.
Il rsulte de cette analyse que le systme dAncheta nest utilisable en pratique que
pour des sources fortement asymtriques (p <0, 1).
Pour des sources faiblement asymtriques, nous proposons de gnraliser notre
systme de codage dual par rgion de Vorono o le codeur de source est un dcodeur
(complet) de canal, dont nous avons prouv quil tait asymptotiquement optimal
dans le cas symtrique. Une tude de linuence des polynmes numrateurs de
poids sur la distorsion (par lingalit de Sullivan-Klve), conrme par une recherche
systmatique de petits codes optimaux, montre que cette fois-ci, notre systme limit
des codes de faible longueur impliquant une faible charge de calcul et des faibles
dlais de traitement est effectivement surtout utilisable pour des sources faiblement
asymtriques (p 0, 4). Nous avons conu une premire amlioration de ce systme
en utilisant deux codes linaires o celui utilis pour comprimer la source est choisi
en fonction du poids dentre. Ce systme ralise un compromis entre complexit
et performances intermdiaire entre lutilisation dune codeur linaire et non-linaire.
Les performances sont notablement amliores (elles surpassent tous les systmes
connus utilisant des codes linaires) pour des sources fortement asymtriques.
Enn, nous avons appliqu la technique de conception de codes ous ( 6.23) par
lalgorithme de Lloyd qui simplie considrablement la recherche de meilleurs codes
non-linaires. La difcult essentielle rside dans linitialisation de cet algorithme, pour
laquelle nous avons inject un tirage alatoire de codes selon la distribution optimale
(
1pD
12D
,
pD
12D
) prvue par la thorie de linformation. Pour une source fortement asy-
mtrique, les codes non linaires obtenus par lalgorithme de Lloyd surpassent trs
largement les codes linaires [B00].
6.28 Codage conjoint arithmtique en blocs
Les codes arithmtiques sont des codes dvelopps en mme temps que les codes
binaires, pour abiliser des units de calcul arithmtique [MG72]. L encore, ils furent
conus pour corriger des erreurs, le poids de Hamming tant remplac par le poids
arithmtique w
A
(N), cest--dire le nombre de termes non nuls dans la dcomposition
binaire non-adjacente dun entier N ; do la relation d
H
(N, N
t
) d
A
(N, N
t
). Par
notre principe de dualit, nous nous en sommes servis, avec Franois-Xavier BERGOT,
pour comprimer des sources ne pas les confondre avec le codage arithmtique
traditionnel qui est longueur variable ; ici les longueurs sont xes et lide et que cela
permettrait de rendre des systmes de compression robustes.
Un code arithmtique est dni par deux entiers A, B comme lensemble {AN, 0
N < B} ; son rendement est R
log
2
B
log
2
A+log
2
B
. Nous avons dtermin lOPTA (limite
de Shannon) pour une source arithmtique symtrique (mettant de manire qui-
probable un entier 0 N <n) et effectue une recherche systmatique de meilleurs
petits codes arithmtiques.
Ces codes ont t intgrs dans les schmas de compression de source et de
6.29. Rduction de bruit poivre et sel par dcodage algbrique BCH 65
codage conjoint source ou canal que nous avons propos dans le cas q-aire ( 6.23),
avec le critre de distance de Hamming [B00]. L encore, on observe que le systme
source ou canal a toujours de meilleurs performances quun systme spar (en
tandem).
6.29 Rduction de bruit poivre et sel par dcodage algbrique BCH
Ce travail concerne un problme spcique de rduction de bruit impulsif dans les
images ( cause de son apparence visuelle, ce type de bruit est quali de poivre et
sel). Les techniques classiques (ltrage linaire, ltrage mdian, codage par troncation
sur des blocs) suppriment le bruit impulsif mais produisent des distorsions visibles
(lissage, effets de bloc). Suite aux travaux de WOLF [W83] et MARSHALL [M84], une
solution consiste considrer les pixels endommags comme des erreurs quil faut
localiser puis corriger, en sinspirant de la thorie des codes corrrecteurs derreurs.
De cette faon, seuls les pixels endommags sont affects, et il ny pas de distorsion
supplmentaire.
Jai utilis un algorithme de dcodage de type BCH sur les nombres rels qui
se basent sur la signature frquentielle des erreurs (le syndrome), permettant de
dterminer un polynme localisateur derreurs puis de trouver les valeurs derreur par
inversion dun petit nombre (gal au double de la capacit de correction) dquations
linaires [31]. Loriginalit de mon approche est que le procd global (hautement non
linaire) est appliqu en passes successives sur les lignes et les colonnes de limage
(effet turbo) jusqu convergence (utilisation dun code produit en dcodage turbo ).
Il en rsulte une bien meilleure robustesse en prsence derreurs en rafale que dautres
techniques comme [MY94].
Ce rsultat a t dvelopp par la suite avec Franois-Xavier BERGOT ( 6.30) et
avec Abraham GABAY pour des schmas de codage source-canal conjoint sur des
images satellitaires ( 6.31).
6.30 Conception de codes BCH rels pour le codage conjoint
Suite la proposition de MARSHALL [M84], nous avons, avec Franois-Xavier
BERGOT, dvelopp la thorie des codes BCH sur R pour la correction des erreurs
impulsives et effacements. Il existe un paralllisme important dans les rsolutions de
systmes aux moindres carrs et la dcomposition en valeurs singuilres que nous
avons introduites dans lalgorithme de Peterson-Gorenstein-Zierler ou de Berlekamp-
Massey et les mthodes statistiques classiques en traitement du signal (Pysarenko,
Prony, MUSIC, Esprit) destimation de sinusodes en prsence de bruit.
Pour une source gaussienne, un canal binaire symtrique et un critre distance de
Hamming, nous avons propos un algorithme de dcodage canal complet et optimal
des codes BCH MDS similaire lalgorithme GMD de FORNEY, sappuyant sur des
mthodes de dcodage algbrique corrigeant erreurs et effacements. Pour une source
gaussienne, un canal binaire symtrique et un critre dEQM, nous avons impos une
66 Chapitre 6. Travaux de recherche et de diffusion scientique
relation linaire entre code de source et de canal pour simplier le dcodage de source,
la relation linaire (matrice dtiquetage) tant optimise par un algorithme du type
Lloyd. Cette approche rejoint la conception dun quanticateur COSQ ou COVQ de
FARVARDIN [FV87] ceci prs que nous y insrons un code de canal. Les performances
obtenues sont trs proches de loptimum (OPTA). Nous avons montr quen faible
complexit, il vaut mieux construire un quanticateur COVQ de plus ne rsolution
que de chercher protger des effets du canal les tiquettes binaires provenant dun
quanticateur plus basse rsolution.
Diffrentes mthodes proposes ont t intgres dans des systmes complets
de codage source/canal conjoint (travaux de Abraham GABAY ci-dessous).
6.31 Codes BCH rels sur le canal Bernoulli-Gaussien
Un code BCH rel peut tre employ protger non seulement les perturbations
introduites par le canal, mais aussi limpact sur la source des perturbations introduites
par la quantication elle-mme (codage de source). Avec Abraham GABAY (doctorant)
et Pierre DUHAMEL, nous avons tudi cet impact du bruit source-canal sur la source,
et propos diffrents modles de canal global, sous forme de bruit impulsif noy dans
du bruit thermique de faible amplitude.
Pour une source sans mmoire donne, quantie scalairement et transmise sur
un canal binaire symtrique, le modle Bernoulli-Gaussien que lon obtient rsulte
dune erreur binaire multiplicative associe un bruit de quantication additif de faible
variance
2
q
; la densit de bruit canal est alors approxime par
(1P
e
)+P
e
N (0,
2
I
)
o
2
I
est la variance des erreurs dues au canal, ce qui conduit une densit globale
derreur de la forme (canal Gaussien-Bernoulli-Gaussien GBG) :
e (1P
e
)N (0,
2
q
) +P
e
N (0,
2
I
+
2
q
).
Les paramtres de ce modle ont t valides sur une modulation MAQ-16 en prsence
dun code correcteur derreur, et la capacit du canal GBG a t calcul laide de
lalgorithme de Blahut [B72].
Nous avons propos un systme intgrant un code BCH rel avant quantication
pour lannulation du bruit impulsif (poivre et sel) sur des sugnaux transmis sur un canal
binaire symtrique (modle Bernoulli-Gaussien). La difcult essentielle rencontre
est que la prsence de bruit de fond introduit par la quantication peut provoquer une
confusion au niveau de la localisation probable des erreurs impulsives. Nous avons
donc amlior la correction en introduisant une mthode semi-combinatoire qui permet
de tester toutes les combinaisons probables de localisations derreurs prises parmi un
ensemble choisi, par un compromis optimis entre charge de calcul et performances.
Lorsque les localisations sont correctement estimes, notre systme conjoint possde
des performances meilleures quun systme spar (o un code BCH binaire est
employ aprs quantication) pour un dbit global comparable et quel que soit la
probabilit de transition du canal [46].
6.32. Systme complet de codage conjoint dimages satellitaires SPOT-V 67
6.32 Systme complet de codage conjoint dimages satellitaires SPOT-V
Lobjectif de ce travail, ralis avec Pierre DUHAMEL et Abraham GABAY, qui
constitue le contenu applicatif de la thse de ce dernier [G01], est de proposer des
amliorations robustes de compression dimages satellitaires du CNES dans les nou-
velles gnrations du satellite SPOT.
Limage est pralablement transform en ondelettes et chaque sous-image sous-
bande est code par un code BCH produit sur le corps des rels avant dtre quantie
et transmise sur un canal satellite. Loriginalit de la mthode est quun codeur BCH
prcde le quanticateur (cf. 6.31) aprs dcomposition en ondelettes. Cette ap-
proche surprenante (une partie du codage de canal prcde une partie du codeur
de source!) est rendue possible par le fait que que le systme est conu de faon
ddie des types dimages et un canal bien dnis. Lemploi de codes BCH sur
les nombres rels permet de prendre en compte leffet conjoint des codeurs source
et canal beaucoup plus efcacement que des codes BCH sur les corps de Galois
classiquement utiliss pour protger linformation vis--vis derreurs binaires dans un
systme spar (en tandem). De plus, lutilisation de codes BCH produits permet,
comme en 6.29, de bncier dun effet turbo (lignes/colonnes) au dcodage [47].
Notre mthode revient utiliser un banc de ltres sur-chantillonn pour introduire
une redondance structure faisant ofce de code correcteur derreurs [48]. Dans cette
variante, les quanticateurs dans chaque sous-bande peuvent tre optimiss suivant
un algorithme optimal dallocation de dbits binaires du type Shoham-Gersho [SG88].
Compar au schma classique avec codage BCH binaire aprs quantication, on
obtient un gain moyen signicatif en PSNR global pouvant atteindre 3,7 dB pour un
dbit 3.2 bpp et un taux derreurs canal de 10
3
.
Ce travail montre lintrt de ne pas sparer compltement les techniques de
compression de source dune part et celles de codage de canal dautre part, et
dessayer dutiliser aussi bien la redondance de la source pour attnuer les effets du
bruit dans le canal que la redondance introduit par le codage correcteur pour lutter
contre les erreurs de quantication.
6.33 Diffusion du codage source/canal conjoint
Le regain dintrt des techniques de codage de source-canal conjoint dans les
annes 1990-2000 provient de multiples aspects : sur le plan thorique, il sagit de
proposer une alternative de complexit rduite au schma en tandem prvu par le
troisime thorme de Shannon; sur la plan pratique, il sagit de rendre robuste
des systmes de compression pour leur utilisation dans diffrents types de rseaux.
Toutes les briques de base dans le conception dun systme de communication sont
concernes, du codage par transforme la technique de modulation en passant par
la quantication, ltiquetage binaire, le codage entropique et le codage correcteur.
Il en rsulte une multitude de propositions trs varies, provenant de diffrentes
communauts scientiques parfois lointaines (compression et traitement du signal
dune part, thorie de linformation et de la communication numrique dautre part). Do
68 Chapitre 6. Travaux de recherche et de diffusion scientique
lintrt pour tous de disposer de synthses de ces approches par une comprhension
globale et multi-disciplinaire du sujet, permettant en particulier classer les diffrentes
contributions et les enjeux applicatifs.
Dans ce contexte, je suis co-auteur de plusieurs articles tutoriaux sur le sujet, desti-
ns la communaut scientique travaillant sur les aspects de compression de sources
aussi bien que de transmission et codage dinformation : Combined source-channel
coding : Panorama of methods [32] prsente un ventail de solutions conjointes :
protection hirarchique (UEP), attribution dindex lors dune quantication vectorielle,
optimisation conjointe par lalgorithme de Lloyd ou auto-organisation de Kohonen,
modulation hirarchique ou de Skinnemoen, et le rle de loptimisation dbit-distorsion
en codage multi-sources. Larticle invit du collloque GRETSI : Codage conjoint
source/canal : enjeux et approches [34] prsente ltat de lart du domaine, ainsi
que les perspectives et enjeux du codage conjoint pour diffrents types dapplications.
Enn Joint source and channel coding [39] est un cours NATO dvelopp sur le
sujet, qui expose les aspects de thorie de linformation appliqu la problmatique
du codage conjoint, dont une prsentation du systme trivial ( loge de la paresse )
pour une source et un canal gaussiens illustrant le potentiel de lapproche conjointe,
une prsentation dtaill de lalgorithme de Lloyd gnralis, et son intgration dans un
grand nombre dapproches pratiques impliquant loptimisation conjointe de ltiquetage
binaire, de la quantication vectorielle, de la modulation, etc.
6.34 Allocation optimale de ressources par ordonnancement lagrangien
Lutilisation de petits codes dans des schmas binaires de codage conjoint utilis
dans les travaux prcdents a mis en vidence une limitation inhrente lalgorithme
dallocation optimale de dbits binaires de type SHOHAM-GERSHO [SG88]. Cet algo-
rithme fournit une solution situe sur lenveloppe convexe des points de fonctionnement
taux-distorsion ou capacit-cot, ce qui peut conduire, si le nuage des points de fonc-
tionnement nest pas sufsamment dense au voisinage de lenveloppe convexe,
des pertes importantes de dbit en comparaison de points cachs , surtout si les
caractristiques dbit-distorsion ou capacit-cot dans les diffrentes composantes
sont non convexes.
Dans ce travail, jai propos une reformulation complte du problme de lallocation
de ressources
_
min

i
D
i
(R
i
)

i
R
i
R
b
ou
_
max

i
C
i
(P
i
)

i
P
i
P
b
en nonant un critre permettant une recherche exhaustive des points de fonction-
nement optimaux, qui fait dfaut dans la plupart des systmes actuels. Ce critre
dordonnancement suit la pente donne par le multiplicateur de Lagrange critique
correspondant aux deux points de Shoham-Gersho sous-optimaux situs sur
lenveloppe convexe au voisinage de budget recherch. Il se base sur la relation dordre
6.35. Allocation optimale de ressources par chemins convexes 69
dnie par (pour une formulation taux-distorsion (R, D)) :
(R, D) (R
t
, D
t
)
_

_
D+R <D
t
+R
t
ou
D+R D
t
+R
t
et D <D
t
.
Le premier point trouv dans la rgion cache triangulaire dnie par les deux
points de Shoham-Gersho est alors optimal. Avec Axel LE POUPON (doctorant), nous
avons propos un algorithme de recherche de ces points optimaux base sur un tri
local par diffrences des valeurs du lagrangien [L09]. Une comparaison dtaille aux
algorithmes existants a t effectue sur diffrents corpus de test ; cet algorithme
garantit loptimalit au prix dune charge de calcul parfois relativement leve (poly-
nomiale) en comparaison de celui de Shoham-Gersho (qui est sous-optimal), mais
cependant applicable dans la totalit des situations possibles dallocations (allocation
de dbit en codage de source par transforme, allocation de puissance en codage
multi-canaux, etc.) et dautant plus rapide pour des fonctions non convexes et des taux
non rguliers.
6.35 Allocation optimale de ressources par chemins convexes
Avec Axel LE POUPON (doctorant), nous avons propos une nouvelle approche
radicalement diffrente de la prcdente, qui sapplique un contexte plus particulier
de fonctions de cot convexes mais requiert une charge de calcul trs faible, tout en
garantissant loptimalit. Cette approche est base sur une recherche en descente
darbres itrative selon des chemins convexes dans le nuage des points de fonction-
nement, la racine de chaque arbre tant une solution de Shoham-Gersho [52]. Nous
avons dmontr loptimalit de cette procdure qui provient du fait que tout point de
fonctionnement se trouve sur un unique chemin convexe de ce type.
An de rendre le critre de recherche efcace, nous avons dni une zone de
recherche dnie par translation partir de lenveloppe convexe des points de fonc-
tionnement ; cette zone est dnie initialement par la condition sur (R, D) :
D >(1)D
e
+D
t
e

R
b
R
R
t
e
R
e
o (R
e
, D
e
) et (R
t
e
, D
t
e
) sont les solutions de Shoham-Gersho conscutives satisfaisant
la contrainte R
e
R
b
R
t
e
sur le budget R
b
. De plus, cette zone se rduit au fur
et mesure de la recherche par une actualisation en fonction des meilleurs candi-
dats trouvs. Nous avons dmontr que les candidats situs au-del de cette zone
conduisent ncessairement des points sous-optimaux ce qui arrte la recherche
dans la branche de larbre considre, la recherche se poursuivant dans les chemins
survivants (technique branch and bound). Une comparaison dtaille aux algorithmes
existants a t effectue sur diffrents corpus de test ; pour des taux irrguliers, notre
algorithme et le plus rapide des algorithmes optimaux connus, avec une charge de
calcul dun ordre de grandeur infrieur une procdure de programmation dynamique,
et savre donc constituer une alternative intressante [52, 56].
70 Chapitre 6. Travaux de recherche et de diffusion scientique
6.36 Allocation rapide par omission dindex ou de chemins
Nous nous sommes intresss, avec Axel LE POUPON (doctorant), llaboration
dalgorithmes rapide dallocation de ressources ralisant un bon compromis entre
complexit et performances, ces dernires tant quanties par un critre de proximit
en cot/distorsion. Lobjectif essentiel est de densier moindre cot lensemble des
points de fonctionnement optimaux, ce qui constitue un attrait essentiel dans nombre
dapplications pratiques dallocation dans les systmes complexes de communications
numriques multi-utilisateurs, y compris dans les cas o la dimension de recherche est
plus leve (>2).
Dans ce contexte, une mthode simple et rapide consiste omettre un ou plu-
sieurs index des points de fonctionnement composante par composante qui initialisent
lalgorithme de type Shoham-Gersho [L09]. Chaque omission dindex (valeur man-
quante dun multiplicateur de Lagrange) conduit automatiquement de nouveaux
points cachs, ce qui augmente considrablement le pourcentage nal de points de
fonctionnement optimaux trouvs, et limite donc la perte en distorsion vis--vis de
loptimum qui devient quasi-ngligeable en comparaison dautres algorithmes sous-
optimaux comme [YOR96]. Le facteur de densication est exponentiel en le nombre
de composantes et la dimension du problme considr. De plus, la charge de calcul
est comparable celle de lalgorithme Shoham-Gersho (le plus rapide), pour lequel le
pourcentage de points optimaux est de plusieurs ordres de grandeur infrieur,
Une autre solution que nous avons dveloppe consiste adapter lalgorithme de
recherche par chemins convexes ( 6.35) en se limitant la racine correspondant au
point de Shoham Gersho, se qui rduit considrablement la zone de recherche. Bien
que cette mthode ne soit par construction utilisable que pour une dimension limite
du problme, elle conduit au meilleur compromis complexit/performances trouv, tout
en tant applicable dans la totalit des situations possibles dallocations, pour des
fonctions non convexes et des taux irrguliers.
6.37 Ingalits de puissance entropique par traitement de donnes
Des problmes importants de conception de systmes de codage restent ouverts
dans des cas plus gnraux que les transmissions point point. Lextrme diversit des
solutions proposes rend difcile la comparaison de systmes multi-critres qui utilisent
souvent des structures et des modles diffrents. Dans le cas particulier important
de systmes multi-utilisateurs de codage de source/canal o la source ou le canal
sont gaussiens, les ingalits de la variance entropique, initialement proposes par
SHANNON [S48], constituent un outil central : il permettent en effet de prouver les tho-
rmes rciproques de codage et donc borner efcacement les rgions taux-distorsion
et capacit-cot dutilisation pour ces systmes. Ces ingalits trouvent galement des
applications en sparation de sources, en dconvolution aveugle et en probabilits via
le thorme central limite en convergence dentropie relative. Cependant, leur compr-
hension actuelle fait appel des outils de la thorie de lestimation (matrices de Fisher,
variances conditionnelles) trs loigns des proccupations de codage. Dans cette
6.38. Ingalits de puissances entropiques gnralises 71
tude thorique, jai propos une nouvelle approche base sur les ingalits basiques
de la thorie de linformation comme le thorme du traitement de donnes [60], qui
permet de mieux comprendre lorigine des ingalits de puissance entropique et ouvre
de nouvelles perspectives.
A lorigine, lingalit de la puissance entropique de Shannon prend la forme
suivante :
N(

i
X
i
)

i
N(X
i
)
o les X
i
sont indpendantes et o N(X) exp(2h(X)), est la puissance entropique
et h(X)
_
p(x) log
2
p(x) dx est lentropie diffrentielle. Il y a galit dans le cas o
les X
i
sont gaussiens. Jai rcrit cette ingalit par une version plus gnrale portant
sur linformation mutuelle de Shannon et trois variables alatoires indpendantes
X, Y, Z o Z est gaussien :
I (
_
X +
_
1Y +
_
t Z; Z) I (X +
_
t Z; Z) +(1)I (Y +
_
t Z; Z)
pour tous 0 1, t 0. Cette reformulation permet dutiliser le thorme du traite-
ment de donnes sur linformation mutuelle ainsi que le dveloppement (chain rule)
I (U, V ; Z) I (U; Z) +I (V ; Z) +I (U; V [Z) pour dmontrer lingalit de la variance
entropique par un argument de perturbation gaussienne semblable celui utilis par
D. GUO, S. SHAMAI et S. VERD [GSV05], mais directement sur les quantits de
thorie de linformation utiles pour le codage sans passer par les outils destimation
paramtrique ou non paramtrique comme linformation de Fisher ou lerreur qua-
dratique moyenne minimale. Lutilisation de ces outils de thorie de linformation, via
ltablissement des rciproques de thormes de codage, permet de proposer, pour
chaque systme tudi, des limites thoriques qui servent de point de comparaison
de performances. Elle devrait aussi permettre, pour certains types de problmes
information adjacente, de guider la conception des codes de source ou de canal et du
dcodage associ.
6.38 Ingalits de puissances entropiques gnralises
Jai propos de nombreuses gnralisations du travail prcdent [61] en vue no-
tamment dapplications potentielles en codage de source ou de canal multi-terminaux.
Ce travail a bnci dchanges avec entre autres GUO Dongning (NorthWestern
Univesity), Mokshay MADIMAN (Yale) et Pablo PIANTANIDA (LSS-Suplec). Une pre-
mire gnralisation concerne des transformations linaires rectangulaires arbitraires
A(a
i , j
)
i , j
sur les composantes indpendantes X
i
, qui a t utilise par R. ZAMIR et
M. FEDER pour lanalyse des performances taux-distorsion de schmas de quantica-
tion hsitante avec codage entropique [ZF95]. Lingalit de convexit sur linformation
mutuelle prend la forme
I (AX +Z; Z)

i , j
a
2
i , j
I (X
j
+Z; Z)
o Z est un vecteur gaussien indpendant du vecteur X (X
i
)
i
.
72 Chapitre 6. Travaux de recherche et de diffusion scientique
Un deuxime axe de gnralisation porte sur le cas de variables (plus ou moins)
dpendantes. La condition sufsante de S. TAKANO et celle lgrement plus faible
dO. JOHNSON [J04] portent sur les scores individuels et les informations de Fisher
croiss des variables, et sont particulirement complexes. Jai tabli une condition plus
forte (qui implique les prcdentes) et surtout plus simple sur une matrice de Fisher,
qui implique une ingalit de puissance entropique plus forte utilisable pour rsoudre
des problmes de sparation de sources faiblement dpendantes.
Un troisime axe de gnralisation concerne la rsolution dun problme cova-
riance contrainte
_
max
X
_
h(X) h(X +Z)
_
Cov(X) C, 1
motive par la dtermination de rgions de codage multi-terminaux optimale [LV06].
Enn, une quatrime gnralisation concerne une version renforce de lingalit de
la puissance entropique (concavit de la puissance entropique) utilis par COSTA
pour dterminer la rgion de capacit dun canal gaussien interfrence [C85]. Dans
tous ces cas, loutil thorique fondamental est lingalit de convexit de linformation
mutuelle I (
_
X +
_
1Y +
_
t Z; Z) I (X +
_
t Z; Z) +(1)I (Y +
_
t Z; Z) qui
pourrait ainsi constituer le point commun des divers outils utiliss pour borner les
rgions optimales de fonctionnement de systmes de codage multi-utilisateurs dans le
cas gaussien ou proche du cas gaussien.
6.39 Information et estimation paramtrique et non paramtrique
Le dveloppement classique de Stam et Blachman sur les ingalits dinformations
de Fisher et les travaux rcents de D. GUO, S. SHAMAI et S. VERD [GSV05] ouvrent
de nouvelles perspectives thoriques sur les relations entre thorie de lestimation et
thorie de linformation via lutilisation de lidentit de Bruijn :
d
dt
h(X +
_
t Z)

t 0

1
2
tr
_
J (X)Cov(Z)
_
o Z est un vecteur gaussien indpendant de X de matrice de Fisher J (X). Dans
cette tude mathmatique [61, 62], jai tout dabord observ que le thorme du traite-
ment de donnes sapplique de faon uniforme linformation mutuelle, la divergence
de Kullback-Leibler, linformation de Fisher paramtrique (de paramtre ) et la va-
riance conditionnelle qui reprsente lerreur quadratique moyenne en estimation non
paramtrique. Plus prcisment, si X Y forme une chane de Markov, alors
I (; Y ) I (; X)
D
Y
(p

|p

t ) D
X
(p

|p

t )
J

(Y ) J

(X)
Var([Y ) Var([X).
6.40. Diffusion de la thorie de linformation 73
Cette similitude renforce limpression que ces diffrentes mesures dinformation et
destimation prsentent un lien commun fort. Le lien entre information mutuelle et
divergence est bien connu :
I (X, Y ) E
X
D(p(y[X)|p(y))
et, laide de la dnition suivante de linformation de Fisher :
J

(X)

2

t
2
D
X
(p

|p

t )

0
on obtient lidentit remarquable (en une dimension pour simplier) :
I (X +Y ; Y )

2
2

2
Y
J (X) +o(
2
)
o J (X) J

(X +). Cela fournit une nouvelle preuve simplie de lidentit de Bruijn


par pertubation gaussienne, qui contrairement la preuve classique, utilise directement
les relations simples existantes entre les diffrentes quantits. Par ailleurs, jai tabli la
relation suivante par linarisation du score S

(X)

logp

(X) dans le cas gaussien :

2
Z
J (X +Z) +
2
Z
Var(X[X +Z) 1
(o Z est gaussien indpendant de X) qui montre quinformation de Fisher et erreur
quadratique moyenne minimale sont deux quantits complmentaires. Ceci explique
de manire trs simple la relation de D. GUO, S. SHAMAI et S. VERD [GSV05]
d
ds
I (X, Y )
1
2
Var(X[Y )
dans le cas du canal gaussien Y
_
sX +Z. Toutes ces identits qui initialement,
apparaissaient comme assez mystrieuses, sont nalement toutes imbriques entre
elles et proviennent dune mme thorie englobant estimation aux moindres carrs,
estimation paramtrique via linformation de Fisher, et thorie de linformation via
linformation mutuelle, le dnominateur commun tant constitu des proprits de la
divergence [62].
6.40 Diffusion de la thorie de linformation
La thorie de linformation (au sens Shannon theory aux USA), cest--dire
ltude des quantits et ingalits dinformation de Shannon appliques la rsolution
des problmes de codage, est une matire fondamentale qui explique les compromis
optimaux entre dbit, distorsion, taux derreurs et puissance mise dans tous les
systmes de codage passs, prsents et venir. Elle est abondamment enseign aux
USA et ailleurs mais sa diffusion en France reste assez limite (aux outils de base et
aux solutions pratiques de codage).
Je suis lauteur du livre Thorie de linformation et du codage [62], Hermes-Science-
Lavoisier (2007) qui est sans doute la seule rfrence en franais qui traite de la thorie
74 Chapitre 6. Travaux de recherche et de diffusion scientique
de Shannon ce niveau de dtail, depuis la prsentation des outils de base jusqu
la dmonstration des thormes de Shannon. Il contient en particulier deux chapitres
orients recherche sur les relations fortes entre informations de Shannon, de Fisher
et lerreur quadratique moyenne en estimation paramtrique ou non-paramtrique
aux moindres carrs ( 6.39), ainsi que sur les ingalits de variance entropique et
lidentit de Bruijn appliques la dtermination de capacit de canaux ( 6.37). Il
saccompagne galement dune autre publication, Thorie des Probabilits [63], paru
chez Hermes-Science-Lavoisier (2008) qui fournit toutes les bases requises jusquaux
lois des grands nombres et au thorme ergodique.
Ce livre constitue une rfrence utilise dans diffrents cours de Master recherche
et sa diffusion ma permis de nouer des contacts motivs par lutilisation doutils
de thorie de linformation pour des applications diverses, y compris sur des aspects
perceptifs homme-machine et de psychologie exprimentale avec Yves GUIARD (CNRS
LTCI).
CHAPITRE
7
Perspectives : recherche
et diffusion scientique
Cette liste de thmes en vrac correspond des travaux en cours ou prospectifs.
La plupart sinscrivent dans la continuation des travaux dj effectus en codage ou
en thorie de linformation (chapitre 6), et quelque uns constituent de nouveaux projets
mathmatiques pdagogiques ou de recherche.
7.1 Quantication optimale dune source quelconque en prsence derreurs
Les problmes tudis en collaboration avec Riadh ABDELFATTAH concernant la
robustication dune quantication vis vis des erreurs de transmission peuvent tre
formuls dans un cadre mathmatique prcis : tant donne un source dcrite par
une densit de probabilit (typiquement une composante sous-bande), trouver une
procdure de quantication et dtiquetage binaire minimisant lerreur quadratique
moyenne en prsence dune transmission de la reprsentation binaire de la source
dans un canal binaire symtrique. Crimmins et al [CHPP69] ont rsolu ce problme
pour une source uniforme par transforme de Fourier dnie laide de caractres
sur un groupe ablien ni. Rcemment, les travaux de NA et NEUHOFF [NN07] ont
dtermin les performances des meilleurs codes linaires dans ce contexte. Le cas
dune source quelconque apparat plus complexe et lon envisage dadapter certains
outils thoriques du cas uniforme pour trouver des conditions doptimalit, que lon
comparera aux solutions pratiques dj trouves laide de lalgorithme de Lloyd.
7.2 Conception rapide de codes de Huffman sous contraintes
La conception classique de codes de Huffmann passe par celle des distributions
de longueurs suivant la contrainte de lingalit de Kraft-McMillan. Dautres types
de contraintes conduisent des codes plus robustes vis--vis des variations des
statistiques des symboles cods, voire vis--vis de leur capacit dauto-synchronisation
ou leur dcodage information adjacente. Une perspective du travail men avec
Axel LE POUPON est llaboration dalgorithmes rapides (en nombres entiers) des
distributions de longueurs satisfaisant essentiellement tout type de contrainte utile
pour les applications. En comparaison des approches classiques qui se limitent une
contrainte de longueur maximale (par exemple [TM95]), notre approche permettrait
une alternative intressante pour des critres plus complexes comme celles voques
dans [H81].
76 Chapitre 7. Perspectives : recherche et diffusion scientique
7.3 Codage par transforme en basse rsolution
Le codage par transforme en haute rsolution et sous lhypothse que transfor-
mes danalyse et de synthse sont inverses lune de lautres est un cadre bien connu,
dans lequel la transforme de Karhunen-Love est optimale. Dans un premier temps,
avec Axel LE POUPON, nous avons gnralis cette tude 1
o
au cas basse-rsolution
et 2
o
en optimisant la transforme de synthse en prsence de bruit de quantication.
Dans le premier cas, nous avons trouv de nouvelles expressions du gain de codage
par transforme qui dpendent du taux global utilis et ncessite lapplication de tech-
niques de waterlling. Grce au lemme de Hardy-Littlewood-Plya en thorie de la
majorization, il est possible dexposer les conditions sous lesquels la transforme de
Karhunen-Love reste optimale (en particulier dans le cas gaussien pour des quanti-
cateurs invariants par changement chelle [GZV00]). Dans le deuxime cas, lutilisation
dune quantication hsitante rend une reconstruction de Wiener optimale au sens des
moindres carrs, alors que le problme est plus complexe dans le cas gnral [HR98].
De nombreuses questions restent ouvertes, dans le cas basse rsolution en prsence
de bruit de quantication non additif.
7.4 Dcodage souple des codes BCH sur les entiers cyclotomiques
On considre la famille des codes cycliques de longueur n dnis sur le corps Q
des rationnels, de corps localisateur gal lextension cyclotomique Q
n
Q[W
n
] de
Q. A laide des proprits du groupe de Galois Gal(Q
n
: Q) dordre (n) (indicateur
dEuler), il est possible dadapter toute la thorie des codes cycliques et BCH dans ce
contexte. Dans la pratique, tous les calculs sont effectus dans lanneau des entiers
cyclotomiques Z[W
n
] et ncessitent uniquement lutilisation dune arithmtique sur
les entiers, ce qui constitue un avantage vis--vis des codes BCH sur un corps ni
ou sur R. Un code BCH sur Z[W
n
] peut ainsi servir directement de modulateur et de
codeur correcteur, et il est possible de mettre en uvre des algorithmes rapide de
dcodage souple du type GMD alli lalgorithme dEuclide ou de Berlekamp. Ce
travail pourrait bncier dchanges avec Patrick SOL (CNRS LTCI) et offrirait de
nouvelles perspectives en dcodage conjoint.
7.5 numration de poids et dcodage de codes q-aires duaux
La notion de transforme de Fourier sur le corps de Galois GF(q) de la fonction
indicatrice dun code q-aire permet de dterminer simplement son code dual. Elle
dnit en particulier les transformes de Mc Williams et de Kratchouk qui permettent de
dterminer aisment certains polynmes numrateurs de poids. On gnralise ainsi
facilement les rsultats de TORTELIER [T95] relatifs la rpartition moyenne des mots
de code permettant de dduire des calculs thoriques de performances en dcodage
hard et soft. La transforme de Fourier sur GF(q) et la formule de Parseval permettent
galement de caractriser le recouvrement de lespace de Hamming par des sphres
7.6. Dcodage dun rseau de rang dcient 77
oues ainsi que les cellules de Vorono autour des mots de code; cela permet de
simplier considrablement les drivations de rgles duales de dcodage symbole par
symbole de HARTMANN et RUDOLPH et de Grard BATTAIL et al. [BDG79]. Dune faon
gnrale, la transforme de Fourier est un outil puissant permettant de transformer
toute rgle primale sur un code en une rgle duale; cette tude thorique est donc
susceptible de nombreuses extensions.
7.6 Dcodage dun rseau de rang dcient
Pour un systme MIMO en transmission descendante o le nombre dantennes la
rception est infrieur celui lmission, ou pour un systme CDMA dont le nombre
dutilisateurs dpasse le facteur dtalement ou en prsence dinterfrence co-canal
dans un systme non cod, le canal linaire H ( bruit gaussien additif) prsente une
dcience de rang, et le problme de la dtection maximum de vraisemblance revient
rsoudre un systme sous-dtermin y Hx au sens des moindres carrs sous la
contrainte que les solutions x sont entires (vivent dans un rseau de points) et de
dynamique borne. Ce type de problme apparat galement par dualit source/canal
pour la conception de systme de quantication vectorielle robuste aux erreurs de
transmission (y reprsente le vecteur de source et x le reprsentant du dictionnaire).
Dans le cas non-dcient, le rseau de points est discret et la rsolution est classique
(dcodeur par sphres, Schnorr-Euchner, etc.). La difcult est de trouver des algo-
rithmes efcaces de dcodage lorsque H prsente une dcience de rang et le rseau
de points est dense diversit donne. Dans ce travail initi en collaboration avec
JEAN-CLAUDE BELFIORE (TELECOM ParisTech), jai montr quune gnralisation de
lalgoritme dEuclide tendu permet de rsoudre le cas le plus simple (dimension 2,
rang 1, y 0). On peut envisager une gnralisation des dimensions plus leves
laide dun base de Grbner dune varit torique associe au rseau, ou en intro-
duisant un multiplicateur de Lagrange pour se ramener au cas du rang plein. Enn la
gnralisation au cas o y est quelconque devrait se ramener, comme dans le cas du
rang plein, un algorithme du type LLL gnralis.
7.7 Dcodage espace-temps sur des varits grassmanniennes
Suite une proposition de codes espace-temps en communication MIMO sym-
trique (M N antennes lmission et la rception et longueur temporelle du code
T 2M) sur une varit grassmannienne (des sous-espaces de C
T
de dimension
M) [KB03], jai labor des outils dalgbre multi-vectorielle permettant de paramtrer
efcacement lespace de codage de faon viter lemploi dun dcodeur exhaustif.
Une piste en collaboration avec JEAN-CLAUDE BELFIORE est lutilisation des exponen-
tielles extrieures de bi-vecteurs (plutt que les angles principaux) pour caractriser le
groupe de Clifford-Lipschitz spcial S dont le normalis dtermine compltement les
rotations SO(C
T
). La dtermination efcace des paramtres de cette reprsentation,
en prsence de bruit, permettrait de caractriser rapidement lespace du code en
78 Chapitre 7. Perspectives : recherche et diffusion scientique
dcodage non cohrent.
7.8 Conditions doptimalit de lalgorithme de Lloyd gnralis
Lalgorithme de Lloyd gnralis est un outil central pour loptimisation de systmes
de codage de source et de source/canal conjoint. Pouss son extrme, son principe
fondamental consiste boucler deux conditions de sous-optimalit sur le codeur
dcodeur donn et le dcodeur codeur donn jusqu convergence (garantie). La
difcult inhrente de cette approche est le choix de linitialisation en prsence de
minima locaux ; il est donc important de dterminer les conditions sous lesquelles le
minimum obtenu peut tre global. Jai tendu le rsultat classique de TRUSHKIN [T93]
concernant lquivalence et loptimalit des algorithmes de Lloyd I et II pour des densi-
ts de source log-concaves et des fonctions de cot non ncessairement quadratiques
ni mme convexes, avec application au cas symtrique et en particulier la distribution
laplacienne ainsi quau cas particulier dun quanticateur deux niveaux. Un problme
ouvert serait de gnraliser cette tude en prsence dune probabilit de transition
dun canal donn.
7.9 Allocation de puissance pour les communications multiporteuses
Les travaux effectus avec Axel LE POUPON peuvent se gnraliser dans un
contexte abstrait gnral : celle dune optimisation conjointe de sommes de cots
selon des budgets donns gaux des sommes de ressources. En particulier, il
sapplique directement aux problmes dallocation de puissance dans les systmes
multiporteuses du type DMT, et plus gnralement dans des systmes de codage
de canal multiporteuses et multi-utilisateurs avec interfrences. La dimension du
problme (taux, puissance, frquence, espace. . . ) peut saccrotre notablement en
comparaison des applications dj tudies et la linarit nest plus ncessairement de
mise. En reprenant lide domission dindex du 6.36, ventuellement itre, il serait
possible damliorer notablement les performances dalgorithmes existants grce la
dcouverte rapide de points de fonctionnement cachs. La contrainte de taux rguliers
permet galement de spcialiser certains algorithmes et damliorer leur charge de
calcul, crucial pour de telles applications. Enn, il est envisageable de gnraliser nos
approches optimales ou sous-optimales des mthodes de codage distribues.
7.10 Algorithme de recuit dterministe de Blahut-Rose
Lalgorithme de Blahut-Arimoto [B72] est un outil de thorie de linformation indis-
pensable au calcul de bornes de performances sur de nombreux systme de codage ;
il estime la capacit dun canal partir de la donne dune matrice de transition
quelconque et sadapte galement par dualit au calcul de la fonction taux-distorsion
dune source reprsente par une densit de probabilit quelconque. Par exemple, son
application des canaux gaussiens vanouissements (en mode supervis ou non)
7.11. Codage typique source ou canal et schmas hsitants 79
permet de dterminer les limites de Shannon prcises pour diffrentes types de quanti-
cation en entre et en sortie du canal, ce qui fournit des indications importantes pour
la conception de certains schma de codage. Cependant la dimension assez leve
du problme rend difcile lutilisation ad-hoc de lalgorithme de Blahut. Le travail de
Kenneth ROSE [R94] peut tre exploit pour proposer diffrentes pistes damlioration ;
initialement propos pour le calcul de la fonction taux-distorsion laide darguments
de mcanique statistique, il montre lexistence dun point limite au del duquel la limite
de Shannon concide avec la borne de Shannon obtenue simplement par des outils
de thorie de linformation, pour une source dnie par une densit ; en de du point
critique, il devrait tre possible dacclrer notablement lalgorithme de Blahut par
recuit en tenant compte de la discrtisation progressive prsente dans lexpression des
probabilits de transition optimales. Son implantation efcace et sa drivation thorique
en dehors du contexte de mcanique statistique (preuve de convergence) restent des
problmes ouverts.
7.11 Codage typique source ou canal et schmas hsitants
Lextrme diversit des solutions thoriques proposes de conception de systmes
de codage source ou canal multi-utilisateurs rend difcile une comparaison multi-
critres qui utilisent souvent des structures et des modles diffrents. Lutilisation des
outils de la thorie de linformation, dune part dingalits servant dmontrer des
rciproques de thormes de codage, dautre part de techniques de codage/dcodage
typique avec random binning permet de proposer, pour chaque systme tudi, des
limites thoriques qui servent de point de comparaison de performances. Dans ce
contexte, nous avons, avec Antonio CIPRIANO (Thals Communications) et Pablo
PIANTANIDA (LSS/Suplec), dtaill les mthodes de thorie de linformation utiles
pour lanalyse de la capacit de canaux gaussiens avec information adjacente au
transmetteur et/ou au rcepteur (notamment le problme de Gelfand-Pinsker). Jai
galement tudi ces mthodes dans la cadre du schma de Costa (dirty paper)
en tablissant un dictionnaire qui, partir dun schma typique (inutilisable en
pratique) permet de dduire un schma pratique [ESZ05] de quantication hsitante
(du type QIM) pour des applications de tatouage. Une gnralisation de ce type de
correspondance est envisageable, appliqu aux problmes de Slepian-Wolf (codage de
source distribu) ou de Wyner-Ziv (taux-distorsion avec information adjacente) [K08b].
Ce travail bncie dchanges avec Pablo PIANTANIDA et permettrait de guider la
conception des codes de source/canal et du dcodage associ pour ces problmes
fondamentaux.
7.12 Reconstruction dinformation morcelle par distance entropique
Le coefcient dindpendance de deux variables alatoires
XY

I (X,Y )
H(X,Y )
et la
distance entropique d(X, Y ) H(X, Y ) I (X, Y ) ont des proprits similaires aux
notions plus classiques de coefcient de corrlation et de distance hilbertienne (aux
80 Chapitre 7. Perspectives : recherche et diffusion scientique
moindres carrs). Jai montr quils permettent de caractriser la reconstruction parfaite
de X partir de plusieurs composantes X
i
f
i
(X), i 1 n. Par exemple, il est
ncessaire que

i

X X
i
1, et dans le cas de lindpendance information critique

i

X X
i
1, que les v.a. X
i
soient alignes avec X selon la distance entropique
(chane forte de Markov). Ce type de critre permettrait de dvelopper une thorie
du partage dinformation entre composantes dun signal (par exemple dans le cadre
dune dcomposition la ondelettes ), y compris dans le cas gnral o ces
composantes sont dtermines alatoirement. Des applications sont envisageables
dans des systmes de codage de source hirarchique description multiple.
7.13 Mathmatiques appliques au CMAP (Polytechnique)
Mon intgration dans lquipe de Stphane MALLAT (CMAP, Polytechnique) pourrait
dboucher terme sur des collaborations de recherche, en particulier sur lutilisation
de la reprsentation multi-chelle de structures gomtriques complexes dans les
images, et de reprsentations creuses par seuillage, en vue dapplications duales en
compression et en rduction de bruit. On peut envisager dintgrer dans ces approches
des contraintes de perturbations dues la transmission : par exemple, en considrant
leffet derreurs de transmission sur le signal comme un problme de dbruitage
particulier, ou en exploitant lanalyse de structures gomtriques dans les images pour
introduire une redondance structure an de mieux protger linformation essentielle
dans le cas dun canal plus ou moins dgrad y compris de faon volutive, en
exploitant la connaissance partielle de ltat du canal de transmission (exemple type
de diffusion vido sur les mobiles). Je participe galement un groupe de travail
largi (supervis par Christophe GIRAUD du CMAP) sur diffrentes applications en
classication, sparsit, signal, slection de modles, apprentissage, etc. qui pourrait
donner lieu de futures collaborations dans ces domaines.
7.14 Rexions sur les outils mathmatiques danalyse
La publication rcente de deux livres pdagogiques (thorie de linformation [62]
et thorie des probabilits [63]) mont amen adopter une dmarche pdagogique
parfois originale en comparaison des manuels existants, visant surtout la simplicit et
un accs le plus direct possible aux notions essentielles. De plus, des rencontres avec
des enseignants de classes prparatoires, de grandes coles et duniversits, favorisent
galement une rexion pdagogique sur lenseignement doutils mathmatiques au
niveau licence et master. Un premier axe de rexion est lutilisation systmatique de
la dualit source-canal pour simplier la prsentation des applications de la thorie de
linformation au codage [62] (spares des outils thoriques eux-mmes) ; un deuxime
axe, plus mathmatique, est une prsentation unie du discret et du continu (oprateur

_
) permettant dviter de nombreuses rptitions dans un expos sur la thorie
des probabilits [63] ; un troisime axe est une prsentation des variables alatoires
sans rfrence un espace universel abstrait qui amliore leur comprhension
7.15. Information des nombres premiers et fonctions additives 81
et vite un emploi abusif de la thorie de la mesure [63]. De nombreuses autres
pistes pdagogiques sont envisageables, notamment pour llaboration dun cours
danalyse (notamment de Fourier) jusquau niveau L3/M1 ; elles reprennent des ides
originales parfois oublies par inertie. Une construction du continu par dveloppements
p-adiques [65] a bnci dchanges avec Jean-Pierre DEMAILLY (Grenoble I) et
est envisageable ds le niveau lyce. Un principe de globalisation trs simple (toute
proprit locale et additive est globale) peut tre labor comme axiome de continuit
pour prouver toutes les proprits de base de lanalyse relle [T07]. Ce principe (sous
la forme dun subdivision de Cousin) peut servir de base mathmatique llaboration
de la thorie de Kurweil-Henstock de lintgrale, plus simple que celle de Riemann et
plus puissance que celle de Lebesgue, permettant par exemple dunier la prsentation
de lintgrale de Fourier de fonctions en englobant le cas de la semi-convergence.
La difcult inhrente la thorie de la mesure (distinguer les fonctions mesurables
de celles qui ne le sont pas) peut disparatre entirement en se placant dans le
modle logique de Solovay. Les valuations dintgrales sans primitive trouvent un
cadre trs gnral laide dun principe de sommation eulrienne gnralise, ce qui
permet dviter lemploi des rsidus de lanalyse complexe. Enn la gnralisation
de la transforme de Fourier aux distributions tempres dordre quelconque [57]
(essentielle notamment en traitement du signal) et la caractrisation du ltrage linaire
deviennent quasiment triviale grce lapproche algbrique esquisse dans [S67] qui
vite les considrations topologiques trs abstraites de la prsentation classique par
dualit de Schwartz.
7.15 Information des nombres premiers et fonctions additives
Il existe un lien surprenant entre les ides et mthodes de la thorie de linforma-
tion et les questions sur la distribution des nombres premiers et certaines fonctions
diviseurs arithmtiques. Il est possible en particulier damliorer certains rsultats de
I. KONTOYIANNIS [K08] vers deux directions : (a) une valuation de lcart entropique
entre des variables alatoires obtenues par dcomposition en facteurs premiers dun
nombre alatoire uniforme dans un grand intervalle, permettant de re-dmontrer le
thorme de Tchbycheff (x) =
x
logx
sous un autre angle, et dexpliquer la similitude
de comportement asymptotique entre fonctions additives et compltement additives ;
(b) un thorme central limite (dErd os-Kac) renforc par le critre de divergence de
Kullback Leibler.
7.16 Aspects de thorie de linformation en psychologie exprimentale
Aprs un effet de mode spectaculaire au cours des annes 1950 et 1960, la thorie
de Shannon a t entirement oublie dans les sciences sociales et en psychologie,
disgrce entirement gratuite au plan scientique. Japporte mon expertise auprs
dYves GUIARD (CNRS) sur diffrents sujets, dont les deux suivants. 1
o
Un projet
ANR visant analyser linteraction entre nergie et information mutuelle dans un
82 Chapitre 7. Perspectives : recherche et diffusion scientique
comportement inter-individuel humain purement comptitif sur un acte sportif spci-
que, le service dans le tennis professionnel. Cette tude passe par des modles
dinformation entre serveur et relanceur valids par lanalyse des trajectoires de balle
systmatiquement enregistres, un haut niveau de rsolution spatio-temporelle et
en 3D, sur les courts principaux des tournois internationaux par la socit Hawk-Eye.
2
o
Un projet de mise au point dun nouveau procd daccessibilit aux personnes
handicapes par slection dobjets graphiques dans les interfaces reposant sur la me-
sure de linformation mutuelle sur une fentre temporelle glissante entre le mouvement
du regard, captur avec un oscillomtre, et les mouvements de plusieurs oscillateurs
simultanement afches lcran.
Rfrences bibliographiques
[A74] B. S. ATAL, Towards determining articulator positions from the speech
signal, Speech Communication Seminar, Stockholm, Aug. 1973.
[A76] T. C. ANCHETA Jr., Syndrom source coding and its universal generalization,
IEEE Transactions on Information Theory, Vol. 22, No. 4, 1976, pp. 432
436.
[B00] F.-X. BERGOT, Dualit entre codage de source et codage de canal, Thse,
EDITE, Juin 2000.
[B72] R. E. BLAHUT, Computation of channel capacity and rate-distorsion func-
tions, IEEE Transactions on Information Theory, Vol. 18, No. 4, 1972,
pp. 460473.
[B95] B. BURKE HUBBARD, Ondes et Ondelettes ; la saga dun outil mathmatique,
Pour la Science Belin, 1995.
[B96] B. BURKE HUBBARD, The world according to wavelets ; the story of a
mathematical technique in the making, A K Peters, 1996.
[BA83] P. J. BURT and E. H. ADELSON, The Laplacian pyramid as a compact
image code, IEEE Transactions Communications, Vol. 31, No. 4, Apr. 1983.
[BB88] J. and P. BERTRAND, Time-frequency representations of broad-band si-
gnals, IEEE ICASSP88, pp. 21962199, 1988.
[BBO90] J. and P. BERTRAND and J.-P. OVARLEZ, Discrete Mellin transform for signal
analysis, IEEE ICASSP90, pp. 16031606.
[BDG79] G. BATTAIL, M. DECOUVELAERE and P. GODLEWSKI, Replication decoding,
IEEE Transactions on Information Theory, Vol. 25, No. 3, May 1979 pp. 332
345.
[C85] M. H. M. COSTA, On the Gaussian interference channel, IEEE Transactions
on Information Theory, Vol. 31, No. 5, 1985, pp. 607615.
83
84 Rfrences bibliographiques
[C89] L. COHEN, Time-frequency distributionA review, Proc. IEEE, Vol. 77,
No. 7, pp. 941981, 1989.
[CF85] G. COHEN et P. FRANKL, Good coverings of Hamming spaces with spheres,
Discrete Mathematics, Vol. 56, 1985, pp. 125131.
[CHPP69] T. R. CRIMMINGS, H. M. HORWITZ, C. J. and R. V. PALERMO, Minimization of
mean-square error for data transmitted via group codes, IEEE Transactions
on Information Theory, Vol. 15, No. 1, 1969, pp. 7278.
[D86] P. DUHAMEL, Implementation of split-radix FFT algorithms for complex,
real, and real-symmetric data, IEEE Transactions Acoust., Speech, Signal
Processing, Vol. ASSP-34, pp. 285-295, Apr. 1986.
[DL90] N. DYN and D. LEVIN, Interpolating subdivision schemes for the generation
of curves and surfaces, in Multivariate interpolation and approximation,
Birkhuser, Basel, pp. 91106, 1990.
[DL91] I. DAUBECHIES and J.C. LAGARIAS, Two-scale difference equations. I.
Existence and global regularity of solutions, SIAM J. Math. Anal., Vol. 22,
No. 5, pp. 1388-1410, 1991.
[ESZ05] U. EREZ, S. SHAMAI and R. ZAMIR, Capacity and lattice strategies for
cancelling known interference, IEEE Transactions on Information Theory,
Vol. 51, No. 11, 2005, pp. 38203833.
[F84] P. FLANDRIN, Some features of time-frequency representations of multi-
component signals, IEEE ICASSP84, pp. 41 B.4.14.4, 1984.
[D88] I. DAUBECHIES, Orthonormal bases of compactly supported wavelets,
Comm. Pure and Appl. Math., Vol. 41, No. 7, pp. 909996, 1988.
[D93] I. DAUBECHIES, Orthonormal bases of compactly supported wavelets, II.
Variations on a theme, SIAM J. Math. Anal., Vol. 24, No. 2, pp. 499519,
1993.
[DD89] G. DESLAURIERS et S. DUBUC, Symmetric iterative interpolation processes,
Constr. Approx., Vol. 5, pp. 4968, 1989.
[FV87] N. FARVARDIN et V. VAISHAMPAYAN, Optimal quantizer design for noisy
channels : An approach to combined source-channel coding, IEEE Tran-
sactions on Information Theory, Vol. 33, No. 6, 1987, pp. 827838.
[G01] A. GABAY, Codage conjoint source-canal : application aux transmissions
dimages par satellite, Thse EDITE, 2001.
[GM84] A. GROSSMANN, J. MORLET, Decomposition of functions into wavelets
of constant shape, and related transforms, Math. Phys. lecture on recent
results, L. Streit, e.d, World Scientic, Singapore, Dc. 1984.
[GSV05] D. GUO, S. SHAMAI and S. VERD, Mutual information and minimum mean-
square error in Gaussian channels, IEEE Transactions on Information
Theory, Vol. 51, No. 4, 2005, pp. 12611282.
Rfrences bibliographiques 85
[GZV00] V.K. GOYAL, J. ZHUANG and M. VETTERLI, Transform coding with back-
wards adaptive updates, IEEE Transactions on Information Theory, Vol. 46,
No. 4, pp. 1623-1633, 2000.
[H71] O. HERRMANN, On the approximation theorem in nonrecursive digital lter
design, IEEE Trans. Circuit Theory, Vol. 18, No. 3, pp. 411413, May 1971.
[H81] P. A. HUMBLET, Generalization of Huffman coding to minimize the probabi-
lity of buffer overow, IEEE Transactions on Information Theory, Vol. 27,
No. 2, 1981, pp. 230232.
[HKMT89] M. HOLSCHNEIDER, R. KRONLAND-MARTINET, J. MORLET and P. TCHA-
MITCHIAN, A real-time algorithm for signal analysis with the help of the
wavelet transform, in Wavelets, time-frequency methods and phase space,
Springer, pp. 286297, 1989.
[HR98] A. HJRUNGNES and T. A. RAMSTAD, Minimum Mean Square Error Trans-
form Coders, in Proc. The 6th IEEE Int. Workshop on Intelligent Signal
Processing and Communication Systems, Vol. 2, pp. 738-742, Melbourne,
Australia, November 1998.
[J04] O. JOHNSON, A conditional entropy power inequality for dependent va-
riables, IEEE Transactions on Information Theory, Vol. 50, No. 8, 2004,
pp. 15811583.
[K95] L. KARRAY, Compression dimages en norme innie, Thse Orsay,
sept. 1995.
[K08] I. KONTOYIANNIS, Some information-theoretic computations
related to the distribution of prime numbers, submitted,
arxiv.org/abs/0710.4076v2, 2008.
[K08b] G. KRAMER, Topics in multi-user information theory, in Foundations and
Trends in communications and information theory, Vol. 4, Nos. 45, 2007,
pp. 265444.
[KB03] I. KAMMOUN and J.C. BELFIORE, A new family of Grassmann space-time
codes for non-coherent MIMO systems, IEEE Communication letters, Vol. 7,
No. 11, Nov. 2003, pp. 528530.
[KV91] J. KOVA

CEVI

C et M. VETTERLI, Perfect reconstruction lter banks with
rational smapling rate changes, IEEE ICASSP91, pp. 17851788, May
1991.
[L09] A. LE POUPON, Mthodes optimales et sous-optimales dallocation de
ressources efcace en codage numrique, Thse EDITE, 2009.
[LV06] T. LIU and P. VISWANATH, An extremal inequality motivated by multiterminal
information theoretic problems, Proc. IEEE ISIT06, pp. 10161020, 2006.
[M73] P. MERMELSTEIN, Articulatory model for the study of speech production, J.
Acous. Soc. Amer., Vol. 53, No. 4, pp. 10701082, 1973.
86 Rfrences bibliographiques
[M84] T. G. MARSHALL Jr., Coding of real-number sequences for error correction :
A digital signal processing problem, IEEE J. Selected Areas Comm., Vol. 2,
No. 2, pp. 381392, 1984.
[M86] Y. MEYER, Ondelettes et fonctions splines, Sminaire Equations aux
drives partielles, Ecole Polytechnique, Paris, Dc. 1986.
[M89] S. MALLAT, Multifrequency channel decompositions of images and wavelet
models, IEEE Transactions in Acoustic Speech and Signal Processing,
Vol. 37, pp. 20912110, Dec. 1989.
[MD91] Z. J. MOU and P. DUHAMEL, Short-length FIR lters and their use in fast
nonrecursive ltering, IEEE Transactions in Signal Processing, Vol. 39,
pp. 13221332, Jun. 1991.
[MG72] J. L. MASSEY and O. N. GARCIA, Error-correcting codes in computer
atithmetic, in Advances in information systems science, Vol. 4, chap. 5,
pp. 273326, Plenum Press, 1972.
[MY94] S. K. MITRA and T. H. YU, A new nonlinear algorithm for the removal of
impulse noise from highly corrupted images, in IEEE ISCAS94, Vol. 3,
pp. 1720.
[NBS92] K. NAYEBI, T.P. BARNWELL III, M.J.T. SMITH, Analysis-synthesis systems
with time-varying lter bank structures, IEEE ICASSP92, Vol. IV, pp. 617
620.
[NN07] I. NA and D. L. NEUHOFF, The best linear block codes for scalar source-
channel coding, IEEE ISIT07, pp. 741745, 2007.
[PM72] T.W. PARKS and J.H. MCCLELLAN, Chebyshev approximation for nonre-
cursive digital lters with linear phase, IEEE Trans. Circuit Theory, Vol. 19,
No. 2, pp. 189194, Mar. 1972.
[R94] K. ROSE, A mapping approach to rate-distortion computation and analysis,
IEEE Transactions on Information Theory, Vol. 40, No. 6, 1994, pp. 1939
1952.
[RV93] K. RAMCHANDRAN and M. VETTERLI, Best wavelet packet bases in the rate
distortion sense, IEEE Transactions in Image Processing, Vol. 2, pp. 160
175, Apr. 1993.
[S48] C. E. SHANNON, A mathematical theory of communication, Bell System
technical journal, Vol. 27, pp. 623656, 1948.
[S67] J. S. E SILVA, Integrals and orders of growth of distributions, in Theory of
distributions, Proc. International Summer Institute, Lisbon, 1967, pp. 329
380.
[S92] M. J. SHENSA, Afne wavelets : Wedding the Atrous and Mallat Algorithms,
IEEE Transactions in Signal Processing, Vol. 40, pp. 24642482, Oct. 1992.
[SB86] M.J.T. SMITH and T.P. BARNWELL III, Exact reconstruction techniques for
tree-structured subband coders, IEEE Transactions in Acoustic Speech
and Signal Processing, Vol. 34, No. 3, Jun. 1986.
Rfrences bibliographiques 87
[SG88] Y. SHOHAM and A. GERSHO, Efcient bit allocation for an arbitrary set of
quantizers, IEEE Transactions in Acoustic Speech and Signal Processing,
Vol. 36, pp. 14451453, Sept. 1988.
[T95] P. TORTELIER, Sur lemploi de la transformation de Fourier pour lnum-
ration de poids des codes linaires en bloc, Ann. Tlcommunications,
Vol. 50, No. 910, 1995.
[TM95] A. TURPIN and A. MOFFAT, Practical length-limited coding for large alpha-
bets, Computer Journal, Vol. 38, No. 5, pp. 339347, 1995.
[T93] A. V. TRUSHKIN, On the design of an optimal quantizer, IEEE Transactions
on Information Theory, Vol. 39, 1993, pp. 11801194.
[T07] B.S. THOMSON, Rethinking the elementary real analysis course, American
Math. Monthly, June/July 2007, pp. 469490.
[V86] M. VETTERLI, Analyse, synthse et complexit de calcul de bancs de ltres
numriques, Thse, Ecole polytechnique fdrale de Lausanne, 1986.
[VH92] M. VETTERLI and C. HERLEY, Wavelets and lter banks : Theory and
design, IEEE Transactions in Signal Processing, Vol. 40, pp. 22072232,
1992.
[W83] J. K. WOLF, Redundancy, the discrete Fourier transform and impulse noise
cancellation, IEEE Trans. Communications, Vol. COM-31, No. 3, pp. 458
461, 1983.
[YOR96] Y. YOO, A. ORTEGA and K. RAMCHANDRAN, A novel hybrid technique
for discrete rate-distortion optimization with applications to fast codebook
search for SVQ, IEEE ICASSP96, Vol. 4, , pp. 20402043, 1996.
[Z99] S. B. ZAHIR AZAMI, Codage conjoint source/canal, protection hirarchique,
Thse EDITE, mai 1999
[ZF95] R. ZAMIR and M. FEDER, Rate-distortion performance in coding band-
limited sources by sampling and dithered quantization, IEEE Transactions
on Information Theory, Vol. 41, No. 1, 1995, pp. 141154.

Vous aimerez peut-être aussi