Académique Documents
Professionnel Documents
Culture Documents
MMOIRE
prsent pour obtenir
lHabilitation Diriger des Recherches
par
Olivier RIOUL
Contributions aux thories des ondelettes, du codage
conjoint source-canal et de linformation
Soutenance le 14 dcembre 2009
Proposition de commission dexamen :
Rapporteurs Pierre DUHAMEL
Benot GELLER
Michael UNSER
Examinateurs Georges ALQUI
Riadh ABDELFATTAH
Philippe GALLION
ma femme adore et mes quatre enfants adors
iv
Note aux rapporteurs
Le prsent mmoire est disponible en format lectronique ladresse
perso.telecom-paristech.fr/rioul/HDR/memoire.pdf
Lannexe au prsent mmoire regroupe 2000 pages et est disponible en format lectronique
(80 Mo) ladresse
perso.telecom-paristech.fr/rioul/HDR/annexe.pdf
Table des matires
1 En bref. . . 1
1.1 Diplmes et titres . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.2 Fonctions et responsabilits . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.3 Publications et index de citation . . . . . . . . . . . . . . . . . . . . . . . 2
1.4 Responsabilits de recherche . . . . . . . . . . . . . . . . . . . . . . . . 2
1.5 Responsabilits denseignement . . . . . . . . . . . . . . . . . . . . . . 2
2 Curriculum Vit 3
2.1 Formation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
2.2 Activit professionnelle . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
2.3 Divers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
3 Activits denseignement 5
3.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
3.2 Cursus, domaines et volumes . . . . . . . . . . . . . . . . . . . . . . . . 6
3.3 Aspects pdagogiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
3.4 Administration, laboration et animation . . . . . . . . . . . . . . . . . . 8
3.5 Liste des units denseignement . . . . . . . . . . . . . . . . . . . . . . 11
3.5.1 Formation dingnieur . . . . . . . . . . . . . . . . . . . . . . . . 11
3.5.2 Masters recherche . . . . . . . . . . . . . . . . . . . . . . . . . . 14
3.5.3 Formation continue . . . . . . . . . . . . . . . . . . . . . . . . . . 16
3.6 Liste de documents pdagogiques et contenus enseigns . . . . . . . . 17
4 Activits de recherche et animation dquipe 21
4.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
4.2 Thse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
4.3 Thmes de recherche . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
4.4 Diffusion scientique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
v
vi
4.5 Expertise, collaborations, contrats . . . . . . . . . . . . . . . . . . . . . 27
4.6 Encadrement . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
4.7 Animation dquipe de recherche . . . . . . . . . . . . . . . . . . . . . . 33
5 Liste des publications et travaux 35
6 Travaux de recherche et de diffusion scientique 41
6.1 Dcomposition multi-rsolution en temps discret . . . . . . . . . . . . . 41
6.2 Conception de ltres dyadiques plats et slectifs . . . . . . . . . . . . . 42
6.3 Optimisation dune compression dimages xes par ondelettes . . . . . . 43
6.4 Bote outils MATLAB Ondelettes et temps-frquence . . . . . . . . 44
6.5 Analyse et synthse de son par ondelettes orthogonales . . . . . . . . . 44
6.6 Algorithmes rapides de transformation en ondelettes dyadiques . . . . . 45
6.7 Algorithmes rapides de transformation continue en ondelettes . . . . . . 46
6.8 Diffusion et vulgarisation des Ondelettes . . . . . . . . . . . . . . . . . . 47
6.9 Rseaux de neurones linariss alatoirement . . . . . . . . . . . . . . 47
6.10 Convolution afne de la distribution de Wigner-Ville . . . . . . . . . . . . 48
6.11 Unication des reprsentations nergtiques temps-chelle . . . . . . . 49
6.12 Conception en miroir de bancs de ltres biorthogonaux . . . . . . . . . . 50
6.13 Conception dondelettes dyadiques rgulires . . . . . . . . . . . . . . . 51
6.14 Gnralisation des ondelettes p-adiques multidimensionnelles . . . . 52
6.15 Bancs de ltres itrs interpolation et dcimation rationnelles . . . . . 52
6.16 Traitements aux bords pour le codage adaptatif en sous-bandes . . . . 53
6.17 Rgularit hldrienne de schmas de subdivision binaires . . . . . . . 54
6.18 Analyse de rgularit de schmas de subdivision rationnels . . . . . . . 55
6.19 Critre L
. . . . . . . . . 57
6.21 Optimisation de quanticateurs robustes dquantication linaire . . . 57
6.22 Dualit source/canal q-aire symtrique . . . . . . . . . . . . . . . . . . . 59
6.23 Codes conjoints binaires solitaires ou ous . . . . . . . . . . . . . . . . 60
6.24 Dcodage binaire souple optimis par lalgorithme de Lloyd . . . . . . . 61
6.25 Allocation optimale de dbits de codeurs conjoints source/canal . . . . . 62
6.26 Systme complet de codage conjoint dimages sur canal GSM . . . . . 62
6.27 Compression de source binaire asymtrique par codes de canal . . . . 63
6.28 Codage conjoint arithmtique en blocs . . . . . . . . . . . . . . . . . . . 64
6.29 Rduction de bruit poivre et sel par dcodage algbrique BCH . . . 65
6.30 Conception de codes BCH rels pour le codage conjoint . . . . . . . . . 65
6.31 Codes BCH rels sur le canal Bernoulli-Gaussien . . . . . . . . . . . . . 66
6.32 Systme complet de codage conjoint dimages satellitaires SPOT-V . . . 67
6.33 Diffusion du codage source/canal conjoint . . . . . . . . . . . . . . . . . 67
6.34 Allocation optimale de ressources par ordonnancement lagrangien . . . 68
6.35 Allocation optimale de ressources par chemins convexes . . . . . . . . . 69
6.36 Allocation rapide par omission dindex ou de chemins . . . . . . . . . . . 70
6.37 Ingalits de puissance entropique par traitement de donnes . . . . . . 70
vii
6.38 Ingalits de puissances entropiques gnralises . . . . . . . . . . . . 71
6.39 Information et estimation paramtrique et non paramtrique . . . . . . . 72
6.40 Diffusion de la thorie de linformation . . . . . . . . . . . . . . . . . . . 73
7 Perspectives : recherche et diffusion scientique 75
7.1 Quantication optimale dune source quelconque en prsence derreurs 75
7.2 Conception rapide de codes de Huffman sous contraintes . . . . . . . . 75
7.3 Codage par transforme en basse rsolution . . . . . . . . . . . . . . . 76
7.4 Dcodage souple des codes BCH sur les entiers cyclotomiques . . . . . 76
7.5 numration de poids et dcodage de codes q-aires duaux . . . . . . . 76
7.6 Dcodage dun rseau de rang dcient . . . . . . . . . . . . . . . . . . 77
7.7 Dcodage espace-temps sur des varits grassmanniennes . . . . . . . 77
7.8 Conditions doptimalit de lalgorithme de Lloyd gnralis . . . . . . . . 78
7.9 Allocation de puissance pour les communications multiporteuses . . . . 78
7.10 Algorithme de recuit dterministe de Blahut-Rose . . . . . . . . . . . . . 78
7.11 Codage typique source ou canal et schmas hsitants . . . . . . . . . . 79
7.12 Reconstruction dinformation morcelle par distance entropique . . . . . 79
7.13 Mathmatiques appliques au CMAP (Polytechnique) . . . . . . . . . . 80
7.14 Rexions sur les outils mathmatiques danalyse . . . . . . . . . . . . 80
7.15 Information des nombres premiers et fonctions additives . . . . . . . . . 81
7.16 Aspects de thorie de linformation en psychologie exprimentale . . . . 81
Rfrences bibliographiques 83
viii
CHAPITRE
1
En bref. . .
Olivier Rioul
Institut TELECOM
Institut ParisTech
LTCI CNRS
TELECOM ParisTech
Dpartement Comlec
46, rue Barrault
75634 Paris Cedex 13
Tl : +33 (0)1 45 81 78 45
Fax : +33 (0)1 45 89 00 20
N Strasbourg en 1964
Franais, mari
4 beaux enfants
olivier.rioul@telecom-paristech.fr
perso.telecom-paristech.fr/~rioul/
rioul@cmapx.polytechnique.fr
www.cmap.polytechnique.fr/~rioul/
1.1 Diplmes et titres
Polytechnicien (promotion X84)
Ingnieur de lEcole Nationale Suprieure des Tlcommunications (1989)
Docteur de lEcole Nationale Suprieure des Tlcommunications (1993)
Thse : Ondelettes rgulires : application la compression dimages xes
Ingnieur en Chef du Corps des Mines
1.2 Fonctions et responsabilits
Enseignant-Chercheur, matre de confrences de classe 1 TELECOM Paris-
Tech
1
(depuis 1995)
Responsable du groupe Communications Numriques de TELECOM ParisTech
(2004-2008)
Professeur charg de cours au Centre de Mathmatiques Appliques de lEcole
Polytechnique (depuis 2008)
Reponsable des sujets de mathmatiques du Concours Commun Mines-Ponts
(depuis 2008)
Enseignant vacataire lENSTA ParisTech et Suplec.
1. LEcole Nationale Suprieure des Tlcommunications (ENST) a chang de nom en 2008 et est
devenu TELECOM ParisTech.
2 Chapitre 1. En bref. . .
1.3 Publications et index de citation
2 livres (650 pages) publis chez Hermes-Science (Londres)
1 chapitre et 3 articles de livres
10 articles de revue internationale comit de lecture
20 articles de congrs internationaux avec actes
15 articles dateliers internationaux ou de congrs nationaux avec actes
3 articles pdagogiques ou tutoriaux
1 bote outils logiciels (bibliothque SIMPA du GDR ISIS).
H-number
2
: 13
G-number
3
: 51
72,3 citations par publication (moyenne sur 37 rfrences)
1441 citations pour la publication suivante :
Wavelets and Signal Processing, avec Martin Vetterli.
1.4 Responsabilits de recherche
5 doctorants encadrs
plus de 15 stagiaires et post-doc encadrs
3 contrats de recherche naliss
1.5 Responsabilits denseignement
responsable de 10 units denseignement de niveau Master
5 en formation dingnieur (TELECOM et ENSTA ParisTech)
4 en Master recherche et Master of science (UPMC, Suplec, ParisTech)
1 en formation continue (Institut TELECOM)
responsable de 2 cycles denseignement (TELECOM ParisTech)
enseigne dans plus de 15 units denseignement
12 polycopis de cours (niveau master, environ 1000 pages)
units dactivits denseignement
4
TELECOM ParisTech :
5774 points en 2008/09
6834 points en 2007/08
5668 points en 2006/07
2. Cest le plus grand entier h tel que les h publications les plus cites le sont au moins h fois
chacune ; 25 sur 160 chercheurs TELECOM ParisTech ont un h-number >10.
3. Cest le plus grand entier g tel que les g publications les plus cites recueillent ensemble au moins
g
2
citations. Si les citations sont peu prs uniformes, le g-number est gal au h-number. Le g-number
favorise la prsence darticles-phare particulirement cits et a t propos comme une amlioration du
h-number qui value plus nement limpact des scientiques.
4. Les correspondances sont les suivantes : 15,4 points correspondent 1 heure de cours magistral,
10 points 1 heure de petite classe, 150 points une coordination de modules denseignement.
CHAPITRE
2
Curriculum Vit
2.1 Formation
sept. 1982 aot 1984 Lyce Klber (Strasbourg). Mathmatiques suprieures et
spciales M
t
.
sept. 1984 aot 1987 Ecole Polytechnique.
Service militaire : Ofcier au 135
e
RT Karlsruhe (Alle-
magne).
Stage long : Aspects mathmatiques de la transforme
en Ondelettes sous la direction de Yves MEYER et Alex
GROSSMANN au Centre de Mathmatiques de lEcole Poly-
technique, au Laboratoire de Mcanique et dAcoustique de
Marseille (CNRS) et au Centre de Physique Thorique de
Marseille-Luminy.
sept. 1987 aot 1989 Ecole Nationale Suprieure des Tlcommunications.
Ingnieur-lve du Corps interministriel des Tlcommuni-
cations.
Stage de recherche (marsnov. 1988) aux AT&T Bell Labo-
ratoires (Murray Hill, NJ, USA) sous la direction de Bishnu
S. ATAL : Rseaux de neurones appliqus la reconnais-
sance de la parole .
Option de n dtudes : Traitement du Signal.
Stage dOption : Algorithmes de ltrage rapide .
sept. 1989 mars 1993 Ecole doctorale de lENST.
Doctorant au sein du Centre de Recherche en Physique de
lEnvironnement terrestre et plantaire (Laboratoire mixte
CNRS/CNET), dpartement Electromagntisme, Communi-
cation et Propagation.
Thse : Ondelettes rgulires : Application la compres-
sion dimages xes
Mention trs honorable avec flicitations du jury :
Claude LABIT . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Prsident
Yves MEYER . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Rapporteur
Martin VETTERLI . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Rapporteur
Michel BARLAUD . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Examinateur
4 Chapitre 2. Curriculum Vit
Yves GRENIER . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Examinateur
Pierre DUHAMEL . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Directeur
2.2 Activit professionnelle
sept 1989 dc. 1994 Centre National dEtudes des Tlcommunications.
Ingnieur de recherche au dpartement Electromagntisme,
Thorie des Communications et Propagation du Centre de
recherche en Physique de lenvironnement terrestre et pla-
ntaire (unit mixte CNRS/CNET), puis au dpartement Ser-
vices de Communication de Groupe et de Visiophonie du
Centre CNET Paris B (Issy les Moulineaux).
janv. 1995 prsent Ecole Nationale Suprieure des Tlcommunications.
Enseignant-chercheur, Matre de confrences au dparte-
ment Communications, puis au dpartement Communications
et Electronique.
Responsable du groupe Communications Numriques depuis
2004.
Metteur au point des sujets de mathmatiques et examinateur
de loral du concours commun Mines-Ponts depuis 2008.
sept. 2008 prsent Ecole Polytechnique.
Professeur charg de cours au Centre de Mathmatiques
Appliques (CMAP).
2.3 Divers
Anglais courant (ARELS higher certicate), notions dAllemand et dArabe.
Programmation en Scilab, MATLAB et C. Conception de styles L
A
T
E
X pour diff-
rents documents pdagogiques.
Tennis de Table : Comptitions au niveau rgional (class 12).
CHAPITRE
3
Activits denseignement
3.1 Introduction
Ma passion pour lenseignement remonte mon environnement familial : mes
deux parents sont professeurs lEducation Nationale, et les dbats sur la pdagogie
en classe ne manquaient pas lors des repas familiaux. Aprs mes annes de Lyce
et de Classes prparatoires, o jai dvelopp une attitude critique sur lesprit des
Mathmatiques modernes de lpoque, jai trouv lEcole Polytechnique, puis
Tlcom Paris (ENST), un enseignement dune relle qualit, o les ides sont enn
mises en avant et trouvent des applications pratiques, sans pour autant ngliger la
saveur voire la posie dune tude rigoureuse des concepts.
Dans la dcennie qui suivit, Tlcom Paris puis au CNET (actuellement France
Tlcom R&D), mes proccupations taient presque exclusivement centres sur la
recherche. Je puisai nanmoins dans les enseignements reus les ressources nces-
saires pour mettre en forme et faire passer mes ides lors de rdactions darticles et
de prsentations de sminaires. Il mest aussi arriv dtre invit pour des confrences
pdagogiques lENST, lINT, lINRIA et en formation continue de lEUROSAE (ENSTA
et SupAro).
De retour Tlcom Paris en 1995 en tant quenseignant-chercheur, jai pu ra-
pidement apprcier la complmentarit et linteraction rciproque de mes activits
denseignement et de recherche. Mappuyant sur des collaborations de recherche,
jai eu loccasion de mimpliquer dans des cours aussi bien en traitement du signal
(au dpartement Signal et Images) quen codage et en communications numriques
(au dpartement Communications et Electronique) je mafrmai ainsi comme un
enseignant-chercheur ouvert sur plusieurs disciplines.
Progressivement, les sollicitations en enseignement de communications num-
riques ont cr en nombre et importance. Mes activits denseignement ont donc pris
une part de plus en plus grande, aussi bien en formation dingnieur que dans les
masters recherche en relation avec les universits Paris 6 et 11. En retour, ces activits
denseignement pluri-disciplinaires ont eu un impact positif sur mes orientations de
recherche, particulirement en codage de source et de canal conjoint.
Suite ma nomination de chef de groupe Communications Numriques en
2003, jai t amen rchir et agir sur lensemble des enseignements en commu-
nications et en mathmatiques de lingnieur dans un contexte plus large : celui des
activits de mon groupe dans le cadre de TELECOM ParisTech et en partenariat avec
6 Chapitre 3. Activits denseignement
lUPMC; et plus rcemment, dun rapprochement avec les autres coles de ParisTech,
particulirement avec lENSTA ParisTech et lEcole Polytechnique.
Voici, dtaill en quelques points saillants, ce qui caractrise mes activits densei-
gnement.
3.2 Cursus, domaines et volumes
Des cursus varis Je participe en tant quenseignant et responsable pdagogique,
tous les niveaux denseignement et de formation dune Ecole dIngnieurs :
diffrents Masters Recherche (M1 et M2), lUPMC, Paris-Sud 11, et Suplec ;
Master of Science in digital communications TELECOM ParisTech ;
cycle douverture aux STIC pour les polytechniciens en 4
e
anne TELECOM
ParisTech ; option scientique et technique pour les ingnieurs-lves du Corps
des Mines.
formation dingnieur en cycle Master (niveau M1M2) en deuxime ou troisime
anne (TELECOM ParisTech, ENSTA ParisTech, Ecole Polytechnique) ;
formation dingnieur de tronc commun en premire ou deuxime anne (TELE-
COM ParisTech, ENSTA ParisTech, Ecole Polytechnique) ;
stages de formation continue de lInstitut TELECOM sur catalogue ou en contrat
intra-entreprise.
Voir 3.5 ci-dessous pour une liste dtaille des units denseignement que je
coordonne et/ou auxquelles je participe.
Des domaines denseignement varis Une caractristique trs agrable de ma
discipline est quelle intgre dans les systmes pratiques de nombreuses connais-
sances puises dans des domaines divers, de lalgbre et la thorie des nombres
lanalyse et la thorie des probabilits en passant par la thorie de linformation,
les techniques de traitements de signaux, et les contraintes de conception physique
des dispositifs matriels. Dans mes cours, les domaines traits ont une forte teneur
mathmatique, et laccent porte essentiellement sur les applications de codage de
source et de canal. On y trouve abordes des notions aussi diverses que :
des outils algbriques (essentiellement les corps nis GF(p
n
) et les proprits
arithmtiques dans des corps algbriques) ;
des outils danalyse (surtout la transforme de Fourier et la convolution) ;
des outils probabilistes (jusqu la loi des grands nombres et le thorme
ergodique) ;
des outils de traitement du signal (y compris ceux danalyse temps-frquence et
temps-chelle) ;
des outils de thorie de linformation (jusquaux thormes de Shannon pour le
codage et la thorie de linformation multi-utilisateurs) ;
des applications aux systmes de modulation analogique et numrique ;
des applications la compression de donnes et de signaux ;
des applications au codage de canal mono et multi-utilisateurs.
Voir 3.6 ci-dessous pour une liste dtaille des contenus que jenseigne.
3.3. Aspects pdagogiques 7
Volumes denseignement Il mest difcile de dtailler tous les volumes enseigns
dans les diffrents institutions et cursus. Cependant TELECOM ParisTech recense et
chiffre toutes les dclarations denseignement en formation dingnieur et de master
sous forme de points denseignement. Je totalise, sur les trois dernires annes
scolaires :
5774 points en 2008/09
6834 points en 2007/08
5668 points en 2006/07.
Les correspondances sont les suivantes : 15,4 points correspondent 1 heure de cours
magistral, 10 points 1 heure de petite classe, 50 ou 150 points une coordination
de modules denseignement. Cela correspondrait donc 580 h-quivalent TD. A cela
sajoute un service de 64 h lEcole Polytechnique et de 30 h (plus coordination de deux
modules denseignement) lENSTA ParisTech. Mis part un engagement rel pour
lenseignement, ce fort volume sexplique par un nombre important de coordinations
pdagogiques dunits ou de cycles denseignement, et par une pression indniable
pour assurer des enseignements de plus en plus nombreux dans mes domaines de
comptence en formation dingnieur et de master recherche.
3.3 Aspects pdagogiques
Une rexion sur la pdagogie Jenseigne non seulement dans des cursus dif-
frents en intgrant des domaines mathmatiques varis, mais galement pour de
nombreuses lires et origines dtudiants. On retrouve dans mes cours une population
souvent htrogne, avec des cultures trs diffrentes : lves polytechniciens ou
normaliens, issus du concours commun ou admis sur titre, en master duniversit, de
toutes nationalits.
Cette interculturalit, prsente TELECOM ParisTech comme dans dautres uni-
versits et coles dingnieurs dans lesquelles jenseigne, ma conduit rchir sur
la communication dans des groupes multi-culturels, en particulier sur limportance
de la communication non-verbale et de la diversication des supports de cours. Ma
dmarche sadapte au type denseignement dispens :
dans un cours magistral, je privilgie lcriture au tableau, de faon pouvoir
sadapter en permanence aux difcults rencontres. La vidoprojection est
utilise comme support annexe, surtout pour du graphisme (peu de texte). Je
propose rgulirement aux lves dinteragir en reformulant une partie du cours
ou en rsolvant un petit exercice ;
en petites classes, je cherche animer les raisonnements et proposer une
participation active par groupes dtudiants ; la dmarche est similaire lors de
sances de travaux pratiques ;
les suivis de projets ou de stages sont aussi loccasion dapprofondir une d-
marche plus inductive que dductive, en liaison avec le futur mtier dingnieur
ou de chercheur des tudiants.
Je mappuie si possible sur une sance de prsentation initiale et sur les retours dva-
8 Chapitre 3. Activits denseignement
luation pour mieux cerner les problmes ; je mappuie galement sur les ressources
disponibles TELECOM Paristech (dpartement langues et cultures et dpartement
innovation pdagogique). Par exemple, suite laction de ce dernier dpartement (Sa-
rah LEMARCHAND), je contribue au projet PADEN (prparation distance dtudiants
non francophones au franais scientique).
Documents pdagogiques Mes cours saccompagnent systmatiquement de do-
cuments crits : polycopis, sujets dexercices, annales de contrles, etc. disponibles
en accs libre sur intranet, avec des informations au fur et mesure du droulement
du cours (cf. perso.telecom-paristech.fr/rioul/cours.html). Ces docu-
ments sont trs apprcis des tudiants, non seulement parce quils y puisent des
renseignements complmentaires leur permettant de mieux assimiler le contenu du
cours, mais aussi, pour les tudiants trangers, parce que cela leur permet de mieux
apprhender le vocabulaire et les notations spciques du franais. A lexception de
quelques cours donns en anglais (Master of Science), jincite mes tudiants dve-
lopper leurs comptences en rdaction en franais lors des exercices et des contrles,
linstar de mes corrigs donns en cours.
Voir 3.6 ci-dessous pour une liste dtaille de mes polycopis.
Publications pdagogiques Au del de la rdaction de documents de cours poly-
copis, jai commenc rcemment publier des livres pdagogiques bass sur ces
polycopis, qui sont distribus dans certains cours. Cest un travail particulirement
long et prenant. Jessaie cette occasion dadopter une dmarche simple, didactique
et parfois originale en comparaison des manuels existants (voir 7.14). De nombreux
exercices et problmes dapplication sont proposs. Actuellement publis :
Thorie de linformation et du codage, Hermes Science-Lavoisier, 2007 (286
pages).
Thorie des probabilits, Hermes Science-Lavoisier, 2008 (364 pages).
(cf. perso.telecom-paristech.fr/rioul/books.html). Des traductions (en
anglais) sont en projet chez Wiley-ISTE, et dautres projets de publication sont en
cours dlaboration.
3.4 Administration, laboration et animation
Responsabilit dans le concours commun Mines-Ponts La lire principale de
recrutement de TELECOM ParisTech et de nombreuses coles dingnieurs de Paris-
Tech (dont les Mines ParisTech, lEcole des Ponts ParisTech, lENSTA ParisTech, et
lENSAE ParisTech) est le concours commun Mines-Ponts en lires MP, PSI et PC
dont le directeur de TELECOM ParisTech (Yves POILANE) est le directeur du jury. Jai
t missionn par ce dernier comme metteur au point des sujets de mathmatiques
partir de 2008 et inspecteur de loral de ce concours partir de 2009. La connaissance
des programmes et du fonctionnement des classes prparatoires dans ces lires, ainsi
que des volutions prvues, me semble un complment apprciable lorganisation
3.4. Administration, laboration et animation 9
de lenseignement de TELECOM ParisTech en formation dingnieur, et contribue in
ne la formation de futurs ingnieurs et chercheurs. De plus, des rencontres avec les
enseignants de classes prparatoires, de grandes coles et duniversit comme ric
LEICHTNAM de linstitut de mathmatiques de Jussieu, galement impliqu dans ce
concours favorisent une rexion pdagogique sur lenseignement doutils mathma-
tiques au niveau Licence et Master, notamment pour le domaine denseignement MDI
(mathmatiques de lingnieur) de TELECOM ParisTech.
Elaboration du tronc commun de formation dingnieur Je participe rgulire-
ment des instances de rexion et de coordination des enseignements au niveau de
TELECOM ParisTech. En particulier, je participe actuellement un groupe de travail de
la Commission des Programmes portant sur lorganisation et les contenus pour le cycle
BCI (Bases de Connaissances Indispensables) de premire anne, pour les rentres
2008/09 et 2009/10. Une rhabilitation de contenus mathmatiques indispensables
(thorie de la mesure et de lintgration, transformation de Fourier, distributions) axs
vers les applications en traitement du signal, lectronique, statistique et communication
numrique, a t propose au comit de direction de lEcole qui en a accept le
principe pour la rforme du cycle BCI en cours.
Elaboration de cycles denseignement Depuis 2004, je suis responsable du
Cycle dOuverture aux STIC (Sciences et Technologies de lInformation et de la Com-
munication) pour les polytechniciens (et ingnieurs du corps jusquen 2008) arrivants
TELECOM ParisTech (niveau M2). A ce titre, jlabore et fais voluer les programmes
et volumes des cours enseigns en fonction des cours majoritairement suivis lEcole
Polytechnique et des prrequis programms pour les units denseignement du Cycle
Master de TELECOM ParisTech. Sont actuellement programmes, sur une dure de
trois semaines, les units denseignement suivantes :
Rgulation et innovations sociales sur Internet . . . . . . . . . . . . . . . . . . SES201, 12h
Traitement du signal des images . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . SI201, 15h
lectronique et des systmes de communication . . . . . . . . . COMELEC200, 15h
Rseaux de tlcommunications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . RES201, 15h
Thorie des communications numriques . . . . . . . . . . . . . . . . . . . . . . COM203, 15h.
Jai conu en 2008/2009, suite la fusion des Corps des Mines et des Tlcommunica-
tions, une option scientique et technique Systmes Numriques de Communication
de la formation des futurs ingnieurs du Corps des Mines programm sur une dure
de 2 mois :
Bases des systmes de communications numriques . . . . . . . . . . . . . . . . . . . . 15h
Techniques de codage et performances de systmes cods . . . . . . . . . . . . . . 15h
Supports et techniques avances de transmission . . . . . . . . . . . . . . . . . . . . . . . . 15h
Techniques et systmes modernes de communication laires et sans l . . 15h
Projet technique, conomique et rglementaire . . . . . . . . . . . . . . . . . . . . . . . . . 180h.
Cette proposition a t retenue par le Corps des Mines partir de la rentre prochaine.
10 Chapitre 3. Activits denseignement
Animation des activits denseignement dans mon quipe En tant que respon-
sable du groupe Communications Numriques de TELECOM ParisTech, jai anim
diffrents projets de structuration de nos enseignements. Ainsi, en 2006, loccasion
de la semestrialisation des units denseignement du cycle Master de TELECOM
ParisTech, nous avons cr et organis, en collaboration avec les autres domaines
denseignement de lEcole (notamment MDI, mathmatiques de lingnieur et lectro-
nique), le parcours denseignement actuel en communications numriques, constitu
des units denseignement :
Modulations numriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . COM223, 30h
Codage correcteur et performances de systmes cods . . . . . . . . COM224, 30h
Thorie de linformation et de la communication . . . . . . . . . . . . COMMDI225, 30h
Techniques de rception avances pour les communications . . . COM344, 60h
Systmes numriques avancs de communication . . . . . . . . . . . . . COM345, 60h.
Le groupe est par ailleurs fortement impliqu dans ses activits denseignement dans
dautres domaines et cursus (master, formation continue). Le partage des enseigne-
ments se font de manire transparente et concerte entre les six enseignants du
groupe au dbut de chaque anne scolaire. ces activits de coordination pdago-
gique et denseignement en classe sajoutent les suivis de projets, de stages longs
et autres activits annexes (encadrement de vacations de doctorants, soutenances,
oraux de rattrapage, etc.). La tenue de conseils de classe et les retours dvaluation
permettent damliorer en continu les contenus et la prsentation des cours.
Synergie avec lEcole Polytechnique En tant que professeur au dpartement
de mathmatiques appliques lEcole Polytechnique et matre de confrences au
dpartement Communication et lectronique de TELECOM ParisTech, je suis appuy
par la direction de TELECOM ParisTech pour dvelopper une synergie an de mieux
attirer les lves polytechniciens sur des domaines porteurs en tlcommunications.
Concrtement, cela passe par lencadrement de stages et de projets dapprofondisse-
ment en 3
e
anne de Polytechnique, la participation au processus de recrutement des
polytechniciens en double diplme loccasion du Forum de lX, sans oublier la coordi-
nation des deux cycles de formation pour les polytechniciens en 4
e
anne TELECOM
ParisTech et les ingnieurs-lves du Corps des Mines. Pour 2009/2010, TELECOM
ParisTech accueille 65% de polytechniciens de plus que lanne prcdente.
Futurs masters ParisTech En tant quenseignant dans trois coles dingnieurs
de ParisTech et dans trois masters diffrents, je participe actuellement une rexion
initie par TELECOM ParisTech sur les possibilits dvolution des masters existants
et/ou de cration dun nouveau master labellis ParisTech. Ceci permettrait, notamment
dans le domaine du codage, du traitement du signal et des communications num-
riques, une meilleure collaboration entre TELECOM ParisTech et dautres partenaires
universitaires et de ParisTech.
3.5. Liste des units denseignement 11
3.5 Liste des units denseignement
Lorganisation des cours est en perptuelle volution, certains disparaissent pour
rapparatre parfois sous une autre forme. Certains cours dont jai t responsable
pdagogique et enseignant dans le pass ne sont pas dtaills ici, en particulier :
Traitement du signal numrique en 5
e
anne de lESME-Sudria (19942000)
Ondelettes et temps-frquence en 3
e
anne de lENST. . . . . . . (19962001)
Codage : thorie, performances en 3
e
anne de lENST . . . . . (19972001)
Techniques de communications numriques en 2
e
A de lENST (1998-2006)
Thorie de linformation DEA STN, Paris 6 et ENST . . . . . . . . . (19962004)
Codage de source master IST/SRT/M2 de luniversit Paris-Sud (19992007)
Codage de canal et rseaux du mme master . . . . . . . . . . . . . . . (20052007)
Je liste ci-dessous les cours enseigns en rgime de croisire sur les deux dernires
annes scolaires, en rajoutant les crations de cours ouvrant la rentre 2009/2010.
Voir perso.telecom-paristech.fr/rioul/cours.html pour une decrip-
tion dtaille et mise jour des diffrents cours.
3.5.1 FORMATION DINGNIEUR
COM105/201 . . . . . . . . . . . Communications numriques et thorie de linformation
Cycle BCI (Bases de Connaissances Indispensables) en tronc commun (1
re
anne) de
TELECOM ParisTech, pour les lves venant du concours commun ou admis sur titres.
Ce cours (35h) prsente les ides fondamentales de la transmission dinformation
sous forme numrique; il traite la problmatique de la couche physique de presque
tous les systmes numriques modernes. Jenseigne rgulirement le cours complet
depuis 1995 et ai particip son volution en y introduisant les outils de thorie de
linformation. Son organisation gnrale est la suivante :
1. Modles dune transmission numrique en bande de base. Interfrences entre
symboles et critre de Nyquist. Performances des modulations linaires.
2. Introduction la thorie de linformation pour le codage de canal. Capacit de
Shannon et limites fondamentales. Codes linaires et dcodage par syndrome.
ES204 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Information et codage
Tronc commun de 2
e
anne de lENSTA ParisTech. Ce cours (21h) prsente les notions
fondamentales de la compression de source et de la correction derreurs, solidement
tablies sur la thorie de linformation. Je lai cr et en suis responsable pdagogique
et enseignant principal depuis sa cration en 2001. Son organisation est la suivante :
1. Bases de la thorie de linformation et application au codage de source. Quanti-
cation scalaire et codage par transforme. Compression sans pertes et entropie.
2. Application au codage de canal. Codes correcteurs derreurs, codes linaires et
dcodage par syndrome.
12 Chapitre 3. Activits denseignement
Option scientique et technique . . . . . Systmes numriques de communication
Cycle de formation des ingnieurs-lves du Corps des Mines, ouvre la rentre
prochaine. Voir le 3.4 ci-dessus pour un descriptif (dure : 2 mois).
COSTIC . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Cycle douverture aux STIC
Cycle douverture aux polytechniciens en double diplme TELECOM ParisTech. Je
suis responsable pdagogique de ce cycle depuis 2004 (dure : 1 mois). Voir le 3.4
ci-dessus pour un descriptif.
COM203 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Thorie des communications numriques
Cycle COSTIC pour les polytechniciens en 4
e
anne TELECOM ParisTech. Ce cours
(15h) fournit les connaissances ncessaires la comprhension des mthodes de trai-
tement de linformation utilises dans tous les systmes modernes de communications.
Jen suis responsable et enseignant depuis 2004. Son organisation est comparable
celle de COM105 ci-dessus.
MDI220 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Hilbert-Fourier
Cycle Master de TELECOM ParisTech
1
, domaine Mathmatiques de lingnieur. Jy
enseigne depuis 2007 la thorie des distributions et la transforme de Fourier (8h).
1. Dnition des distributions et premires proprits
2. Transforme de Fourier des distributions tempres
3. Sries de Fourier de distributions priodiques
4. TD not sur la transforme de Fourier.
COM224 . . . . . . . . . . . . . . . Codes correcteurs et performances de systmes cods
Cycle Master de TELECOM ParisTech
1
, domaine Communications. Ce cours (30h,
deux occurrences par an) prsente les bases et ltat de lart en ce qui concerne la
conception de codes en blocs et convolutifs efcaces en dcodage hard sur canal
gaussien. Jen suis responsable depuis sa cration en 2006. Son organisation est la
suivante :
1. Codes correcteurs derreurs en blocs, stratgies FEC et ARQ, capacit de
correction et de dtection, remplissage deffacements.
2. Codes et cycliques, Codes BCH et Reed Solomon. Dcodage algbrique. Enu-
mration de poids et performances de systmes cods.
3. Codes convolutifs, treillis, poinonnage, dcodage de Viterbi, performances.
Utilisation des codes correcteurs derreurs dans les systmes actuels.
1. Le cycle Master de TELECOM ParisTech recouvre les enseignements de 2
e
et 3
e
anne en
formation dingnieur pour les lves du concours commun, admis sur titres, polytechniciens, trangers
en double diplme, masters spcialiss, etc.
3.5. Liste des units denseignement 13
COMMDI225 . . . . . . . . . . . . . . . . . . . Thorie de linformation et de la communication
Cycle Master de TELECOM ParisTech
1
, domaine Communications et Mathmatiques
de lingnieur. Ce cours (30h, deux occurrences par an) prsente les rsultats princi-
paux de cette thorie, jusquaux thormes de Shannon, pour lapplication au codage
de source et le codage de canal. Je lai cr et en suis responsable et enseignant
principal depuis sa cration en 2006. Son organisation est la suivante :
1. Outils de thorie de linformation : Divergence de Kullback-Leibler, information
mutuelle, entropies. Modles de canaux. Thorme du traitement de donnes.
Entropie discrte et diffrentielle, variance entropique, maximisation dentropie,
bornes de Fano.
2. Codage de source et de canal : Fonction capacit-cot. Capacits de canaux
stationnaires. Codage de source sans pertes (entropique) et avec pertes (fonc-
tion taux-distortion). Codage conjoint source-canal, borne OPTA. Squences
typiques et thormes de Shannon. Borne et exposants de Gallager.
MAP311 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Alatoire
Cours de probabilits (5 ECTS) de 1
re
anne de lEcole Polytechnique. Charg de
deux petites classes depuis 2009.
1. Probabilit, conditionnement, indpendance.
2. Variables alatoires discrtes
3. Variables alatoires relles
4. Vecteurs alatoires, covariance
5. Convergences, loi des grands nombres, mthode de Monte Carlo
6. Fonction caractristique, vecteurs gaussiens, thorme central limite
7. Suites rcurrentes alatoires, processus de Markov
MAP555 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Traitement du signal
Cours dapprofondissement (5 ECTS) de 3
e
anne de lEcole Polytechnique. Charg
de cours depuis 2008.
1. Traitement du signal analogique
2. Echantillonnage
3. Traitement du signal temps-discret
4. Traitement du signal alatoire
5. Traitement de la parole
6. Analyse temps-frquence
7. Information et codage
8. Compression de signaux
9. Ouverture au codage dimages
14 Chapitre 3. Activits denseignement
C5-1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Compression de donnes multimdia
Voie dapprofondissement en 3
e
anne de lENSTA ParisTech. Ce cours (35h) aborde
les diverses techniques de codage de source en sappuyant sur les normes existantes
ou en projet. Il voque aussi les avances dans le domaine, qui font lobjet de dvelop-
pements rcents. Jai cr et suis responsable pdagogique et enseignant de ce cours
depuis sa cration en 1998. Son organisation actuelle est la suivante :
1. Optimisation dbit-distorsion, codage par transforme, codage arithmtique.
2. Gomtrie fractale et systmes de fonctions itrs, codage fractal des images.
Ondelettes appliques la compression des images.
3. Codage audio et de parole. Compression dimages xes JPEG et JPEG2000.
Codage vido de MPEG-1 au MPEG-4 scalable video coding.
4. Transport et streaming de contenus audiovisuels dans lenvrionnement rsiden-
tiel. Codage robuste et diffusion vido vers les mobiles
MAP571 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Enseignement dapprofondissement
Encadrement de projets en 3
e
anne de lEcole Polytechnique, depuis 2008. Voici
quelques exemples de sujets :
Turbo-dcodage de poivre et sel
Peut-on rcuprer un chier zipp corrompu ?
Linformation en thorie des nombres
UE Projets . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
Encadrement de nombreux projets en 3
e
anne de TELECOM ParisTech depuis 1995.
Dernier projet encadr : Tatouage numrique et quantication hsitante (2009).
3.5.2 MASTERS RECHERCHE
MS216 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Information et communication numrique
Master recherche SDI/ESCO/STN de lUPMC. Ce cours (90h, 9 ECTS, M1) a pour
objectif lacquisition des concepts et des mthodes pour lensemble des techniques uti-
lises pour le dveloppement des systmes de communication dans leur champ actuel
dapplication (probabilits, traitement du signal, thorie de linformation, modulation
et dtection, codes correcteurs et dcodage algbrique, performances de systmes
cods, systmes de communication). Jai cr et ai t responsable et enseignant de
ce cours depuis sa cration en 2004 jusquen 2008. Il devient Mathmatiques pour les
Systmes Communicants partir de 2009.
NS226 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Information et codage : mise niveau
Master recherche SDI/ESCO/STN de lUPMC, unit denseignement libre (3 ECTS,
M2) de mise niveau en probabilits, traitement du signal, thorie de linformation et
du codage. Jai cr et ai t responsable et enseignant de ce cours depuis sa cration
en 2004 jusquen 2009. Son organisation est la suivante :
3.5. Liste des units denseignement 15
1. Probabilits : Esprance, corrlation, matrices de covariance, vecteurs gaus-
siens. Loi des grands nombres, thorme central limite.
2. Traitement du Signal : Distributions, impulsion de Dirac, convolution. Densit
spectrale de puissance, thorme de Wiener-Khintchine. Signal analytique,
enveloppe complexe.
3. Thorie de lInformation : Entropie, information mutuelle. Thormes de Shannon
pour le codage de source et de canal.
4. Codes correcteurs derreurs : Dcodeur MAP et ML, distance de Hamming et
correction derreurs. Codes linaires, dcodage par syndrome, codes cycliques.
COM941/NS224 . . . . . . . . . . . . . . . . . . . . . . . . . Information, codage et communications
Master recherche SDI/SysCom/STN de lUPMC et TELECOM ParisTech. Je cre
ce cours (60h, 6 ECTS, M2) en 2009 et en suis responsable. Il aborde les aspects
avancs en thorie de linformation et du codage ; notamment la thorie de linformation
multi-utilisateurs, les codes sur les graphes (turbo-codes, LDPC) et les codes spatio-
temporels.
1. Outils de thorie de linformation de Shannon
2. Chanes de Markov, ingalits de linformation
3. Borne OPTA en codage source/canal
4. Capacit dun canal gaussien. La borne du 1,6 dB.
5. Capacit de canaux alatoires et probabilit doutage.
6. Codes linaires. Cas des codes de Hamming. Mthode du syndrme
7. Codes cycliques. Polynme gnrateur.
8. Description spectrale des codes cycliques. Borne BCH. Principe du dcodage
spectral
9. Algorithmes de dcodage sorties souples : Viterbi et BCJR
10. Codes concatns srie, parallle ; Turbo-codes
11. Codes LDPC, codes de Tanner
12. Modulation code la Ungerboeck
13. Codes spatio-temporels
14. Modulations codes BICM et multi-niveaux
COM824 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Error-correcting codes
Master of Science in Digital Communications de TELECOM ParisTech. Ce cours de
tronc commun (30h) prsente le domaine du codage pour la dtection et la correction
des ereurs lors de la transmission travers un canal bruit. Il introduit les outils de
base de la thorie du codage correcteur ainsi que les principales familles de codes.
Son organisation est comparable celle de COM224 ci-dessus. Jen suis responsable
depuis sa cration en 2007.
16 Chapitre 3. Activits denseignement
COM825 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Information theory
Master of Science in Digital Communications de TELECOM ParisTech. Ce cours de
tronc commun (30h) prsente la thorie de linformation selon lapproche de Shannon :
il expose et analyse en dtail des notions de quantit dinformation, dentropie, dinfor-
mation mutuelle et de capacit du canal. Son organisation est comparable celle de
COMMDI225 ci-dessus. Jen suis responsable depuis sa cration en 2007.
C1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Elements of information theory
Master recherche IES/SAR de Suplec, lENS-Cachan et luniversit Paris-Sud 11. Ce
cours (24h, 2.5 ECTS) fournit les connaissances ncessaires la comprhension des
mthodes de traitement de linformation utilises dans tous les systmes modernes de
communications numriques. Jen suis responsable avec Pablo PIANTANIDA (Suplec)
depuis sa cration en 2007. Son organisation est la suivante :
1. Properties of Shannons information measures ;
2. Markov chains, fundamental inequalities and entropy of stationary sources ;
3. Lossless source coding ;
4. Method of types ;
5. Coding theorem for noisy channels ;
6. Coding theorem for lossy source coding ;
7. Converse to coding theorems for discrete memoryless sources and channels ;
8. Capacity of wireless channels.
3.5.3 FORMATION CONTINUE
FCU52 . . . . . . . . . . . . . . . . . . . . . . . . . . . Ondelettes, temps-frquence, multi-rsolution
Stage de formation continue Institut TELECOM, en inter-entreprises sur catalogue (3
jours) ou intra-entreprise en contrat avec des partenaires institutionnels ou industriels
(ONERA, Thals Air Systems, Ministre de la Dfense, etc.). Destin aux ingnieurs
travaillant dans des domaines ncessitant des connaissances en traitement numrique
du signal multicadence ou en traitement et codage multirsolution des signaux. Jai
cr et suis responsable de ce stage depuis 1995. Il ouvre au moins une fois par an.
Son organisation est la suivante :
1. Analyse temps-frquence et temps-chelle : rsolution temps-frquence; fr-
quence instantane, transforme de Fourier court-terme ; transforme en onde-
lettes, analyse temps-frquence et temps-chelle; transformations bilinaires :
Wigner-Ville, classe de Cohen, classe de Rioul-Flandrin. tude de cas (botes
outils MATLAB temps-frquence et temps-chelle) ;
2. Traitement du signal multi-cadence : introduction au traitement numrique du
signal multicadence et multirsolution ; interpolation/dcimation ; bancs de ltres :
structures arborescentes, structures base de ltres polyphases et transforme
de Fourier ; application lOFDM.
3.6. Liste de documents pdagogiques et contenus enseigns 17
3. Traitement du signal multi-rsolution : notions dchelle et de rsolution ; bancs
de ltres QMF, reconstruction parfaite; analyse multi-rsolution.
4. Transforme en ondelettes discrtes : construction de bases dondelettes or-
thogonales et biorthogonales ; dcomposition pyramidale, rgularit des ltres-
ondelettes ; compression de signaux par transforme en ondelettes ; travaux
pratiques sur Matlab (librairie SIMPA du GDR ISIS).
FCU56 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . CDMA et applications
Lobjectif de ce stage est dacqurir les techniques modernes dtalement de spectre
et daccs multiple CDMA utilises dans les nouveaux rseaux radio mobiles de
3me gnration du type UMTS ou CDMA 2000. Je suis charg de la partie du cours
squences daccs multiple (1/2 journe) dont lorganisation est la suivante :
1. Gnration des squences pseudo alatoires, proprits et caractristiques ;
2. Les m-squences, proprits et gnration ;
3. Les squences de Gold et applications ;
4. Les squences de Kasami et applications ;
5. Optimisation de lautocorrlation et de lintercorrlation des squences.
3.6 Liste de documents pdagogiques et contenus enseigns
Les documents lists ci-dessous sont rpertoris la documentation technique
de TELECOM ParisTech aux classications indiques ; deux dentre eux sont les
livres publis chez Hermes Science-Lavoisier. Ils apparaissent grosso modo par ordre
orient de lamont vers laval, du thorique lapplicatif. Cette liste est suivi dune autre
qui regroupe les contenus traits hors documents de cours.
Corps nis et codes spectraux Classication 08.07, 45 pages.
Rappels darithmtique modulaire (pour les entiers et polynmes). Entiers dun
corps et caractristique, relations de Frbenius ; Ordre dun lment, lment primitif,
polynme minimal et lments conjugus. Construction et proprits des corps nis,
tables de calcul, correspondance de Zech.
Transforme de Fourier discrte sur un corps ni, corps localisateur, convolution
cyclique; contraintes et accords de conjugaison. Algorithmes rapides (Hrner, Rader,
Good-Thomas, Cooley-Tuckey).
Codes cycliques et spectraux, polynme gnrateur, code dual ; borne BCH et
gnralisations ; application aux codes BCH et Reed-Solomon, codes rsidus qua-
dratiques, codes de Golay. Polynmes localisateur et valuateur derreur ; algorithme
de dcodage de Peterson et Gorenstein-Zierler, dcodage par lalgorithme dEuclide,
algorithme de Forney, algorithme de Berlekamp-Massey.
18 Chapitre 3. Activits denseignement
Ingalits Classication 01.82, 61 pages. Moyennes et normes. Convexit et inga-
lits de Jensen. Ingalits des moyennes. Ingalits des doubles moyennes. Ingalits
sur les sommes, produits et normes. Ingalits gnralises du type Hlder-Minkowski.
Ingalits sur les dterminants. Ingalits de Young et produit de convolution. Ingalit
de Weyl-Heisenberg. Ingalit de Poincar-Wirtinger.
Distributions, transforme de Fourier, convolution 203 pages (version abrge
96 pages).
Thorie des distributions : rappels sur les fonctions localement intgrables et les
mesures ; dnition et ordre dune distribution, universalit; produit par une fonction,
changement de variable, distributions positives ; recollement des morceaux, distribu-
tions impulsives, formule des sauts, pseudo-fonctions et valeurs principales, le pro-
blme de la division, distributions homognes ; distributions support ni, croissance
lente, tempres, dcroissance rapide.
Transforme de Fourier dune fonction intgrable, dune distribution tempre;
formule dinversion, proprits ; dualit C
-coding of images : a
condence interval criterion, in Proceedings of the 1994 IEEE International Confe-
rence on Image Processing (ICIP-94), Nov. 1994, vol.2, pp. 888892. p. A-417
[30] Lamia KARRAY, Pierre DUHAMEL et Olivier RIOUL, Critre de la norme innie
pour un codage de bonne qualit, in Actes des Journes Compression et Repr-
sentation des Signaux Audiovisuels, CCETT, Rennes, Janv. 1995, pp. 291298.
[31] Olivier RIOUL, A spectral algorithm for removing salt and pepper from images, in
Proceedings of the 1996 IEEE Digital Signal Processing Workshop, Sept. 1996,
pp. 275 - 278. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-423
[32] S. Bahram ZAHIR AZAMI, Pierre DUHAMEL and Olivier RIOUL, Combined source-
channel coding : Panorama of methods, presented at the CNES Workshop on
Data Compression, Nov. 1996, Toulouse, France. . . . . . . . . . . . . . . . . . . . . p. A-427
[33] S. Bahram ZAHIR AZAMI, Olivier RIOUL and Pierre DUHAMEL, Performance
bounds for joint source-channel coding of uniform memoryless sources using
a binary decomposition, in Proc. COST 254 European Worshop on Emerging
Techniques for Communication Terminals, Toulouse, France, Jul. 1997. p. A-447
[34] Pierre DUHAMEL et Olivier RIOUL, Codage conjoint souce/canal : enjeux et
approches, invited paper, in Proceedings of the 16e colloque GRETSI, Sept.
1997, pp. 699-704. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-453
38
[35] S. Bahram ZAHIR AZAMI, Pierre DUHAMEL and Olivier RIOUL, Combined source-
channel coding for binary symmetric channels and uniform memoryless sources,
in Proceedings of the 16e colloque GRETSI, Sept. 1997, pp. 1073-1076. p. A-459
[36] Olivier RIOUL and Pierre DUHAMEL, Fast algorithms for wavelet transform compu-
tation, chapter 8 in Time-frequency and Wavelets in Biomedical Signal Processing,
IEEE Press Series on Biomedical Engineering, M. Akay editor, Wiley, Oct. 1997,
pp. 211-242. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-463
[37] Olivier RIOUL, Codage de canal : Performances de systmes cods, polycopi
ENST, Classication 08.07, mars 1998. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. A-499
[38] Lamia KARRAY, Pierre DUHAMEL, and Olivier RIOUL, Image coding with an L
k
x
k
g
n2k
( G
t
x)
n
k
x
k
g
t
2nk
partir desquels tous les schmas connus de dcomposition multirsolution sob-
tiennent itrativement. Le lien entre les deux oprateurs est donn par une dualit
de transposition hermitienne. Ils permettent de dnir rigoureusement les notions
dchelle et de rsolution sur les composantes discrtes de signaux, qui clarient les
ides essentielles menant dcomposition pyramidale de Burt et Adleson [BA83] et
la transforme en ondelettes discrtes (banc de ltre reconstruction parfaite) dans le
cadre le plus gnral, celui de la biorthogonalit. Cette dernire dcomposition peut
42 Chapitre 6. Travaux de recherche et de diffusion scientique
scrire, pour un signal (x
n
), sous la forme :
x
n
j 1
kZ
x
n
,
h
t
j
n2
j
k
h
j
n2
j
k
+
kZ
x
n
,
g
t
J
n2
J
k
g
J
n2
J
k
.
o les h
j
(G)
j 1
h correspondent aux version dilates de londelette-mre et les
g
J
(G )
J 1
g (G )
J
correspondent aux versions dilates de londelette-pre,
selon la terminologie dYves MEYER. Dans le cas gnral, les fonctions de base
temps discret sont biorthogonales :
h
j
n2
j
k
[
h
t
j
n2
j
k
k,
i , j
,
le cas classique de lorthogonalit se retrouvant sur la condition h h
t
et g g
t
. La
thorie partage les mmes proprits que son quivalent en temps continu (sries don-
delettes) : dcomposition sur une base, chelle, rsolution, (bi)orthogonalit, et aussi
la rgularit (voir par exemple le 6.13 ci-dessous). Un avantage est quelle constitue
une alternative qui nutilise pas despace fonctionnel, simplie les preuves thoriques
et fournit directement des algorithmes en temps-discret. Larticle de rfrence est [21]
(134 citations).
6.2 Conception de ltres dyadiques plats et slectifs
Il existait cette poque (avant 1992) peu de solutions disponibles pour implanter
des bancs de ltres FIR reconstruction parfaite, itrs en octaves, dans un schma
de dcomposition en ondelettes dyadiques orthogonales : une famille slectivit
en frquence maximale de SMITH et BARNWELL [SB86] et la famille rgulire de
DAUBECHIES [D88], qui savre tre du type MAXFLAT [H71]. Dans le premier cas, on
peut minimiser lattnuation dans la bande passante laide de lalgorithme classique
de PARKS-MCCLELLAN [PM72] qui se base sur un algorithme dchange de zros de
REMEZ minimisant un critre L
), de la
longueur des ltres, et de la largeur des bandes de transition dans les gabarits de
conception de ces ltres, le tout en commentant les aspects visuels de la reconstruction
par types dartefacts.
44 Chapitre 6. Travaux de recherche et de diffusion scientique
Bien que nos solutions naient au nal pas t retenues pour la norme JPEG 2000
(qui a prfr des solutions biorthogonales pour des raisons de exibilit dimplantation
en prcision nie), notre travail de pionnier (1993) a permis de dgager clairement
linuence des diffrents paramtres de conception sur les performances du schma
de compression dimages [17]. En particulier, il savre qu partir dun certain point,
augmenter lordre de rgularit (et donc la taille des ltres) ne provoque quun gain
marginal en rapport signal--bruit. Le contenu de cette thse a t en partie publi
dans [19, 24] et [23] (80 citations).
6.4 Bote outils MATLAB Ondelettes et temps-frquence
Les routines dimplantation MATLAB conues pour ma thse ont t mises en
forme et documentes pour constituer une bote outils SIMPA du GDR ISIS. Cette
bote outils propose des outils de traitement du signal numrique (conception de
ltres, dtermination de phase, retard de groupe, attnuation. . . ) de conception de
ltres-ondelettes (ondelettes orthogonales, biorthogonales, estimations de rgularit),
de traitement dimages (base de donnes du GDR, acquisition, visualisation, histo-
grammes, Huffman, entropie) et de codage par ondelettes (transforme en ondelettes,
optimisation des quanticateurs, routines de visualisation).
La documentation de cette bibliothque de logiciels [26] a t compile par R.
SETTINERI et comprend galement des contributions de Jean-Christophe PESQUET
(Universit Marne-la-Valle), Hamid KRIM (North Carolina State University), ainsi
que de Franois AUGER (IUT Saint-Nazaire), Patrick FLANDRIN (ENS Lyon) et Paulo
GONALVES (INRIA Rhne-Alpes) sur lanalyse temps-frquence. Cette bote outils
a t un temps pressentie pour alimenter le MATLAB Wavelet Toolbox ofciel de
la socit MathWorks (en concurrence avec une autre quipe franaise) ; elle est
disponible ladresse gdr-isis.org/Applications/Temps-Echelle/.
6.5 Analyse et synthse de son par ondelettes orthogonales
Les premires tudes menes au laboratoire CNRS de mcanique et dacoustique
de Marseille par lquipe de Richard KRONLAND-MARTINET utilisent la reprsenta-
tion redondante du son par transforme en ondelettes continues, dont lintrt est de
fournir une synthse stable, mais au moyen dune charge importante de calcul. Dans
cette tude en collaboration avec Christian DORIZE et Antoine CHAIGNE du labora-
toire dacoustique de lENST, nous avons propos pour la premire fois lutilisation
dalgorithmes rapides de transforme en ondelettes discrtes orthogonales (ltres de
Daubechies [D88]) pour diffrentes applications danalyse/synthse de son [4]. Le
banc de ltres itr utilis en appliqu directement aux chantillons en sortie dun
convertisseur analogique-numrique, par ce qui est maintenant connu sous le nom
dalgorithme de Mallat [M89] en une dimension. Des applications ont t menes sur
la dtection de faibles plosives dans le signal de parole, lextraction de modulation
de frquence, et le contrle de dfaut de dents dengrenage sur un signal mesur
6.6. Algorithmes rapides de transformation en ondelettes dyadiques 45
laide dun acclromtre. Ces premires expriences conrment un fait aujourdhui
bien compris : les applications utilisant lanalyse par ondelettes peuvent ncessiter une
trs haute rsolution temporelle (resp. frquentielle), sans un besoin simultan dune
bonne rsolution frquentielle (resp. temporelle).
6.6 Algorithmes rapides de transformation en ondelettes dyadiques
Avec Pierre DUHAMEL, nous nous sommes intresss ltude dalgorithmes
rapides dimplantation de la transforme en ondelettes, aussi bien dans le cadre
purement discret (temps et chelle discrets et implantation par bancs de ltres) que
dans le cas des sries dondelettes (temps continu et chelle discrte). En prliminaire,
nous avons propos une relecture des algorithmes existants : algorithmes de Stphane
MALLAT [M89] pour les ondelettes orthogonales, de Martin VETTERLI [V86] pour les
bancs de ltres itrs et de Mark SHENSA [S92] pour les sries dondelettes. Une
implantation directe requiert J (L 1) oprations par point, o L est la longueur des
ltres utiliss et J est le nombre doctaves ; lalgorithme de MALLAT et limplantation
par bancs de ltres requiert 2L oprations par point, indpendamment du nombre
doctaves.
An dappliquer des algorithmes rapides de ltrage, une rorganisation des calculs
est ncessaire par dcomposition biphase : le signal dentre est dcompose suivant
X(z) X
0
(z
2
) +z
1
X
1
(z
2
) et de mme pour les fonctions de transfert des ltres
passe-bas et passe-haut (G(z), H(z)) ; les coefcients en ondelettes pour un tage de
dcomposition sont alors donns par la formule
X
0
(z)H
0
(z) +z
1
X
1
(z)H
1
(z)
alors que la sortie qui alimente le prochain tage de dcomposition est
Y (z) G
0
(z)X
0
(z) +z
1
G
1
(z)X
1
(z).
Chaque sous-ltrage peut alors tre acclr laide dune split-radix FFT [D86]
(directe et inverse) dont la taille N est optimalement adpate la taille B de blocs
dentre par la formule B 2N (L 2). Un calcul exact de complexit donne un
nombre dopration par octave et par point calcul gal 4log
2
L +O(loglogL). On
obtient par exemple un gain dun facteur 20 pour une longueur L 128.
Pour les petites longueurs de ltrage (L < 16), la mthode de ltrage rapide
par FFT savre inefcace. Nous avons propos dappliquer un algorithme fast
FIR [MD91] conu spcialement pour des petites longueurs ; lexemple le plus simple
de cet algorithme pour le ltrage Y (z) H(z)X(z) est donn par la formule
_
Y
0
(z) H
0
(z)(X
0
(z) +X
1
(z)) +X
1
(z)(H
0
(z) +H
1
(z))
Y
1
(z) H
1
(z)(z
1
X
0
(z) +X
1
(z)) +X
1
(z)(H
0
(z) +H
1
(z))
pour lequel le gain en complexit rsulte du pr-calcul du terme X
1
(z)(H
0
(z) +H
1
(z))
commun aux deux sorties Y
0
(z) et Y
1
(z). Nous avons donn les complexits exactes
46 Chapitre 6. Travaux de recherche et de diffusion scientique
pour les longueurs de ltres L < 16 et obtenu par exemple un gain de charge de
calcul dun facteur 2 pour L 10. Diffrentes variantes (prise en compte de contraintes
dorthogonalit, longueurs de ltres ingales) ont t galement tudies [9, 11].
6.7 Algorithmes rapides de transformation continue en ondelettes
Nous avons ensuite (avec Pierre DUHAMEL) appliqu les rsultats obtenus pour
limplantation de la transforme en ondelettes continue (temps et chelle continus)
pour lanalyse de signaux. Les coefcients de cette transforme peuvent sobtenir de
transformes en ondelettes dyadiques, comme la remarqu Mark SHENSA [S92], ce qui
donne une structure de calculs identique celle propos par Matthias HOLSCHNEIDER
et al. [HKMT89].
An dappliquer nos algorithmes rapides de transforme en ondelettes dyadiques,
jai propos une rorganisation de ces calculs [8], dans laquelle chaque bloc contient
deux oprations de ltrage par G(z) et H(z), les sorties du ltre H(z) tant simplement
les coefcients en ondelettes, alors que celles de G(z) sont composes en deux
squences entrelaces qui vont alimenter sparment deux blocs ltage suivant.
Cela revient obtenir les coefcients octave par octave de la transforme en ondelettes
continue comme rsultant dun entrelacement de grilles dyadiques (k2
j
, j ) dans le
plan temps-chelle. Une implantation directe requiert (pour J octaves) 2LJ oprations
par point ; lutilisation dalgorithmes de FFT ou de Fast FIR permet, comme dans
le cas dyadique, de rduire la charge de calcul. On obtient 6J log
2
L +O(J loglogL)
oprations par point laide de la FFT, soit par exemple un gain dun facteur 8, 3 pour
L 128. Lapplication dalgorithmes de ltrage FIR court permet de gagner par exemple
un facteur 1, 6 pour L 10.
Diffrentes variantes et comparaisons dautres algorithmes existants ont t
testes, en particulier, lalgorithme des BERTRAND et Jean-Philippe OVARLEZ [BBO90],
qui utilise la transforme de Mellin et un chantillonnage gomtrique des signaux ;
nous avons propose une version temporelle de leur algorithme frquentiel base sur
la formule
1
_
[a[
_
R
x(t )
_
t b
a
_
dt
_
R
+
e
2
x(e
+b) e
(e
) d
o lna, qui vite de prcalculer la transforme de Fourier entire du signal et
savre surtout utile si on dsire zoomer lanalyse temps-chelle autour dun instant
b particulier.
Larticle de rfrence paru dans les IEEE Transactions on Information Theory
est [11] (324 citations) ; ce travail a galement fait lobjet dun chapitre [36] du livre
Time-frequency and Wavelets in Biomedical Signal Processing (1997) qui donne un
panorama complet.
6.8. Diffusion et vulgarisation des Ondelettes 47
6.8 Diffusion et vulgarisation des Ondelettes
Ds le tout dbut de mes activits de recherche, jai eu la chance dintgrer
une quipe pluri-disciplinaire (alors encore trs rduite) sur la thorie naissante des
ondelettes, qui tait sur le point de se diffuser largement dans de nombreux domaines
des sciences. Nous tions tous alors enthousiastes lide de partager au plus
grand nombre ces nouvelles ides qui taient, le pensions-nous, rvolutionnaires.
Dans cette optique, jai crit avec Stphane JAFFARD et Yves MEYER le tout premier
article de vulgarisation sur le sujet : Lanalyse par ondelettes , dans la revue Pour
la science [1]. cette poque, trs peu dapplications avaient t dveloppes, et
nous tions surtout guids par notre intuition mathmatique que cette technique allait
tre mieux adapte que lanalyse de Fourier la rsolution de problmes lies aux
caractristiques physiologiques du traitement des signaux acoustiques et lumineux
chez lhomme, ainsi qu lanalyse de uctuations boursires de cours volatiles par la
rgularit hldrienne.
Quatre ans aprs, la situation avait grandement volu sur les applications au
traitement du signal et la communaut des ondelettes tait rapidement devenue
mondiale. Avec Martin VETTERLI, nous sentions quil tait devenu opportun dexposer
un tutorial complet sur le sujet : Wavelets and Signal Processing dans la revue IEEE
Signal Processing magazine [10], 25 pages dexposition dtaille et plus dune centaine
de rfrences sur les applications lanalyse temps-frquence, lanalyse multi-fractale,
au codage pyramidal et en sous-bandes, aux bancs de ltres et ondelettes multi-
dimensionnels, aux paquets dondelettes, etc. Cet article a connu un grand succs
auprs des chercheurs sintressant au domaine et reste une rfrence; cest ce
jour ma publication la plus cite (1441 citations).
Vers la n des annes 1990, les ondelettes ont dpass le cadre dune commu-
naut de spcialistes pour atteindre le grand public. Jai cette poque donn plusieurs
confrences prsentant le sujet, et ai galement apport ma contribution Barbara
BURKE, en ce qui concerne notamment la rgularit des ltres-ondelettes applique
la compression dimages, pour le premier livre grand public sur le sujet : Ondes
et ondelettes [B95], prix dAlembert 1996, qui a t traduit en allemand, japonais et
anglais [B96].
6.9 Rseaux de neurones linariss alatoirement
Ce travail de recherche, effectu aux Bell Laboratories sous la supervision de
Bishnu S. ATAL, tudie le comportement dapprentissage dun rseaux de neurones
deux couches, avec une couche intermdiaire de noeuds cachs interconnects entre
lentre et la sortie. Ce modle peut tre dcrit par lquation
O A R I
o I est le vecteur dentre,
O la sortie estime, un oprateur non-linaire multi-
dimensionnel, A, R les matrices des poids de deuxime et premire couche, respecti-
48 Chapitre 6. Travaux de recherche et de diffusion scientique
vement. Le critre dapprentissage minimiser est lerreur quadratique moyenne
E |O
O|
2
.
La difcult dune telle procdure est que les algorithmes doptimisation par descente
de gradient itratif (back-propagation) que nous avons implants sont trop complexes
pour tre utilisables en mode apprentissage. Nous avons trouv que les poids dans les
non-linarits de la premire couche dentre (les entres de la matrice R) pouvaient
tre xes alatoirement durant la procdure sans perte de performances du rseau ;
cela nous a permis dutiliser un algorithme doptimisation linaire rapide et non itratif
pour dterminer les poids dans la deuxime couche A par la formule [3]
A
j
(H
t
H)
1
H
t
O,
o H est la matrice des sorties des noeuds intermdiaires connects la j ime sortie.
Lapplication vise consiste estimer les positions de diffrents articulateurs (angle de
machoire, langue, lvres, etc.) dans le conduit vocal partir du signal de parole, un
problme considr alors comme extrmement difcile [A74]. Nous avons montr par
simulation [3] sur dix paramtres LPC du signal de parole, quun rseau de neurones
utilisant 500 noeuds intermdiaires tait sufsant pour dterminer avec une prcision
infrieure 1% les positions articulatoires du modle de Mermelstein [M73]. Une
mthode comparable a t propose plus tard, dans un contexte trs diffrent, pour
loptimisation de poids de quantication en codage source-canal conjoint ( 6.21).
6.10 Convolution afne de la distribution de Wigner-Ville
Lors dun cours dispens lENST en traitement du signal, une formule curieuse
a t prsente : le spectrogramme (module au carr de la transforme de Fourier
court-terme)
[S
x
(, )[
2
_
R
x(t )g
(t ) exp(2i t ) dt
2
sobtient partir de la distribution de Wigner-Ville par convolution avec la distribution
de Wigner-Ville de la fentre analysante :
[S
x
(, f )[
2
R
2
W
x
(t , )W
g
(t , f ) dt d
o
W
x
(t , )
_
R
x(t +
2
)x
(t
2
) exp(2i )d.
Ce rsultat fondamental illustre lhgmonie de la distribution de Wigner-Ville pour
les reprsentations dnergie dans le plan temps-frquence, et explique, pour ces
reprsentations, le compromis de rsolution de Weyl-Heisenberg. Par ailleurs, jai
appris, par des discussions sur les tats cohrents de la mcanique quantique avec
Alex GROSSMANN au centre de physique thorique de Marseille-Luminy, que la trans-
forme continue en ondelettes sobtient formellement en remplaant la convolution
6.11. Unication des reprsentations nergtiques temps-chelle 49
temps-frquence sur le groupe de Weyl-Heisenberg par celle sur le groupe afne
ax +b [GM84]. Ceci ma amen, lors dun sjour dtudes aux Bell Laboratories o se
trouvait Ingrid DAUBECHIES, transposer immdiatement la formule ci-dessus au cas
afne : la transforme en ondelettes
T(b, a)
1
_
[a[
_
R
x(t )g
(
t b
a
) dt ,
o g est une ondelette-mre admissible, et
1
_
[a[
g
(
t b
a
) est la reprsentation de carr
intgrable invariante gauche sur le groupe afne ax +b, satisfait la formule [2]
[T(b, a)[
2
R
2
W
x
(t , )W
g
(
t b
a
, a) dt d.
Avec Patrick FLANDRIN, nous avons appel le membre de gauche scalogramme
par analogie avec le spectrogramme, la notion de frquence tant remplace par celle
dchelle. Cette formule fondamentale montre quaussi bien en reprsentation temps-
frquence quen temps-chelle, la distribution de Wigner-Ville reste la distribution de
rsolution optimale partir de laquelle on obtient aussi bien lanalyse par ondelettes
que par Fourier court-terme : cest donc le point commun entre les deux thories.
La correspondance entre les deux groupes est la suivante : sur le groupe afne, la
distribution de Wigner-Ville prend la forme :
W
x
{b, a} W
x
(t b,
1
a
).
o W
x
(t , ) est la distribution de Wigner-Vile traditionnelle (sur le groupe de Weyl-
Heisenberg). Cette quivalence explique en particulier le compromis de rsolution
temps-chelle qui se dduit immdiatement de celui de Weyl-Heisenberg. Jai gale-
ment gnralis ce rsultat aux distributions de Wigner-Ville gnralises, incluant
celle de Rihaczek R
x
(t , ) x(t )X
x
(t , a; )
R
2
W
x
(u, n)(
ut
a
, an) dudn
50 Chapitre 6. Travaux de recherche et de diffusion scientique
que lon peut galement exprimer par un ltrage bi-frquentiel f :
x
(t , a; )
R
2
f (an,
a
)A
x
(n, )e
2i nt
dnd
o A
x
est la fonction dambigut temps-frquence bande troite. Cette classe
gnrale est aujourdhui connue sous le nom de classe de RIOUL-FLANDRIN [53].
Ce travail fondamental de classication saccompagne de nouvelles perspectives
thoriques : en imposant des contraintes supplmentaires (conservation dnergie,
marginales, formules de type Moyal , etc.) sur le noyau, on retrouve ou on obtient de
nouvelles reprsentations temps-chelles particulires aux proprits remarquables.
Par exemple, les distributions afnes large-bande de Bertrand [BB88] utilisent des
noyaux bi-frquentiels localiss, correspondant la formule gnrale :
x
(t , a; )
1
[a[
_
R
G()X
_
F() /2
a
_
X
_
F() +/2
a
_
exp(2i
t
a
) d
avec la spcication G()
/2
sinh(/2)
et F()
2
coth
2
. Par ailleurs, la correspon-
dance entre frquence et chelle devient triviale (identication f
f
0
a
) lorsque la
fonction de lissage f (n, t ) ne dpend que de produit nt , ce qui est le cas pour les
distributions de Rihaczek et de Cho-Williams.
Ce travail a dbouch sur des applications pratiques : par lissage partir de la
distribution de Wigner-Ville, ventuellement adapte au signal, on obtient de meilleurs
compromis en rsolution temps-chelle que pour la transforme (linaire) en on-
delettes ; une illustration a t prsent pour des noyaux gaussiens et un lissage
sparable. Larticle de rfrence pour ce travail est [13] (171 citations).
6.12 Conception en miroir de bancs de ltres biorthogonaux
La proprit de phase linaire de ltres-ondelettes est juge importante dans les
applications de traitement dimages pour viter toute distorsion de retard de groupe
entre chelles. Cependant, il nexiste aucune solution rgulire RIF la fois orthogonale
et phase linaire. Une approche (aborde par exemple par Ingrid DAUBECHIES [D93]
et exploite lors de ma thse) consiste choisir un appareillage de zros dans le plan
complexe le plus symtrique possible par rapport au cercle unit de sorte obtenir
des ltres orthogonaux phase presque linaire. Avec Herv LE BIHAN et Pierre
SIOHAN du CCETT (France Tlcom R&D), nous avons propose une approche duale
qui conduit des meilleurs rsultats : des solutions RIF biorthogonales phase linaire,
quon peut rendre presque orthogonales [22].
On se ramne, par les conditions de reconstruction parfaite, la dtermination
des versions dcimes G
0
(z), H
0
(z) des ltres passe-bas et passe-haut, lun tant le
complment biorthogonal [VH92] de lautre. Lide consiste calculer dabord librement
un des ltres (H
0
(z)), avec un compromis optimal entre rgularit et slectivit en
frquence grce lalgorithme de Remez modi que nous avons propos avec Pierre
DUHAMEL (cf. 6.2) ; puis de dduire son complment orthogonal par simple inversion
6.13. Conception dondelettes dyadiques rgulires 51
dun systme linaire en conservant sufsamment de zros z 1 pour garantir une
bonne rgularit. Loriginalit de notre mthode rside dans lutilisation dun paramtre
essentiel de dcalage f de bande de transition, jusquici inexploit. On obtient un
algorithme itratif qui intgre des contraintes de rgularit pour les deux solutions
biorthogonales et qui savre trs rapide en comparaison des algorithmes existants
doptimisation non-linaire. Nous avons mis en uvre deux critres de miroir : un
critre de minimisation quadratique
min
_
[H
0
(e
i
) G
0
(e
i
)[
2
d
qui rend les solutions le plus orthogonales possibles au sens L
2
, et un critre datt-
nuation optimale dans le bande attnue du complment birothogonal (norme derreur
L
_
1 1
1 1
_
m1
k1
_
1
k
k
z
2
z
2
_
_
1
z
1
_
o les
k
sont les coefcients de rexion. Cela est particulirement intressant pour
une implantation en prcision nie, car la structure en treillis permet de conserver la
reconstruction parfaite aprs troncature de la prcision des coefcients
k
.
6.13 Conception dondelettes dyadiques rgulires
Le travail fondateur dIngrid DAUBECHIES [D88] a mis en lumire la proprit de
rgularit de ltres dondelettes utilises dans la dcomposition en ondelettes discrtes
orthogonales. Elle a utilis les proprits dquations aux diffrences deux chelles
pour en dduire des estimations dordre de rgularit dans les espaces de Sobolev.
Jai dvelopp une approche directe sur les shmas itratifs en temps-discret pour
obtenir des estimations plus nes des rgularits des ondelettes-pre et mre [12, 14].
En reprenant les notations du 6.1 sur les dcompositions en ondelettes discrtes,
londelette correspondant lchelle j est la rponse impulsionnelle du ltre
H
j
(z) G(z)G(z
2
) G(z
2
j 1
)H(z
2
j
) G
j
(z)H(z
2
j
)
o G(z) est le ltre passe-bas utilis dans limplantation en bancs de ltres de la
transforme en ondelettes. Il est bien connu que la convergence vers une ondelette
analogique (t ) lim
j
g
j
]2
j
t ]
ncessite (en plus dune condition de normalisation
G(1) 2) que le ltre G(z) admette au moins un zro z 1. Jai tabli que
lexistence et la continuit de londelette quivaut la convergence uniforme, qui peut
scrire sous la forme max
n
[h
j
n+1
h
j
n
[ 0 quand j . De plus, si les pentes
h
j
n
h
j
n
h
j
n1
2
j
52 Chapitre 6. Travaux de recherche et de diffusion scientique
convergent uniformment, la fonction limite est la drive
t
(t ), de sorte que londelette
est de classe C
1
; puisque la considration des pentes revient factoriser un zro
z 1 dans G(z), cela explique que de faon gnrale, la rgularit de londelette crot
avec la multiplicit K du zro z 1 dans G(z). Pour quantier leffet sur la rgularit
des autres zros prsents dans G(z), on considre le comportement asymptotique
des pentes itres dordre K : si
[
K
h
j
n+1
K
h
j
n
[ c2
j
o c est une constante indpendante de j , et si K +>N, alors londelette sera N
fois continment drivable (cela inclut la possibilit que soit ngatif ; le nombre K de
zros 1 compensant alors lirrgularit due aux autres zros). De plus, jai tabli que
la rapidit de la convergence uniforme crot exponentiellement avec la rgularit, ce
qui justie a posteriori lintrt de cette tude pour des systmes pratiques utilisant un
nombre ni J doctaves. Ce travail dbouche sur des algorithmes rapides destimation
de rgularit associe un ltre passe-bas G(z) quelconque [12, 14] et est la base
dune analyse dtaille des schmas de subdivision (voir 6.17).
6.14 Gnralisation des ondelettes p-adiques multidimensionnelles
Une gnralisation n dimensions effectue en collaboration avec Tibor NAGY
est la suivante : on considre une dcomposition selon une matrice n n de dilatation
D par exemple D
_
1 1
1 1
_
pour le rseau DZ
2
en quinconque avec p [ det D[
sous-bandes chaque itration. La formule donnant les ondelettes discrtes devient
H
j
(Z) G(Z)G(Z
D
) G(Z
D
j 1
)H(Z
D
j
)
o Z C
n
, et pour N Z
n
, Z
N
Z
N
i
i
. Le critre de convergence uniforme (on-
delette continue) devient lim
j
max
N
[h
j
N+U
h
j
N
[ 0 pour U gal n directions
indpendantes de Z
n
et le paramtre est dtermin par des ingalits du type
[
j
N+U
j
N
[ c
j
o est le rayon spectral de D (gal
_
2 dans lexemple du rseau en quinconce).
On obtient des estimations de rgularit qui dpendent de faon cruciale du choix du
rseau via la matrice de dilatation D [15].
6.15 Bancs de ltres itrs interpolation et dcimation rationnelles
Les bancs de ltres classiquement utilises lors dune dcomposition multirsolu-
tion sont dyadiques, cest--dire que linformation est analyse octave par octave. Ceci
peu savrer trop grossier dans certaines applications, comme limplantation de trans-
formes temps-chelle de signaux monodimensionnels. Suite un schma de bancs
de ltres changement dchantillonnage rationnel propos par Jelena KOVA
CEVI
C et
6.16. Traitements aux bords pour le codage adaptatif en sous-bandes 53
Martin VETTERLI [KV91], nous avons, avec Thierry BLU (CUHK) tendu ltude de la
rgularit des ondelettes ( 6.13) correspondant des ltres FIR itrs pour des bancs
de ltres reconstruction parfaite prsentant des changements dchelle rationnels du
type
p
q
, o 1 <
p
q
2 et p et q sont premiers entre eux [18] (le cas
p
q
2 est le cas
dyadique classique). La formule donnant les ondelettes discrtes devient
H
j
(z) G(z
q
j
)G(z
pq
j 1
) G(z
p
j 1
q
)H(z
p
j
) G
j
(z
q
)H(z
p
j
).
La difcult majeure du cas rationnel est que g
j
n
ne converge pas contrairement
au cas dyadique vers une fonction limite , pour des valeurs non entires de
p
q
.
Lexplication est que les rponses impulsionnelles prsentes dans le banc de ltres
associ sont des versions dcimes
g
j ,s
n
g
j
q
j
np
j
s
qui convergent sparment vers des limites distinctes
s
(t ) lim
j
g
j ,s
_
_
p
q
_
j
t
_
pour diffrentes valeurs du paramtre de dcalage s. On obtient ainsi des pseudo-
ondelettes qui ne sont pas des versions translates les unes des autres une
chelle donne.
Cependant, nous avons donn des conditions de rgularit pour que cette inva-
riance par translation soit obtenue avec une prcision arbitrairement grande. Le rle
des zros z 1 dans le cas dyadique doit tre remplace par des facteurs de la
forme
_
1z
p
1z
q
_
K
et le paramtre est estime par des ingalits du type
[
K
g
j ,s
n+1
K
g
j ,s
n
[ c
_
p
q
_
j
Nous avons dmontr [18], grce ltude de lquations aux diffrences nies satis-
faite par la fonction moyenne
(t ) lim
S
1
2S+1
[s[S
s
(t +s)
que les pseudo-ondelettes deviennent quasi-invariantes par translation lorsquelles sont
sufsemment rgulires, ce qui explique thoriquement les rsultats empiriques de
Jelena KOVA
CEVI
C et Martin VETTERLI [KV91]. Cette proprit sest avre dsirable
pour des applications de codage, dinterpolation, et danalyse temps-chelle.
6.16 Traitements aux bords pour le codage adaptatif en sous-bandes
Une difcult dimplantation dune transforme en ondelettes dun signal support
ni (comme une image) est la gestion des bords : le problme est dviter toute perte
de dbit en garantissant la reconstruction parfaite ces bords. Avec Franois DPREZ,
54 Chapitre 6. Travaux de recherche et de diffusion scientique
nous avons propos une mthode simple de recouvrement des bords qui permet
de retrouver, par inversion de petits systmes linaires, linformation manquante aux
bords lorsque les sous-bandes ont t tronques au nombre exact dchantillons du
signal initial [25]. On peut illustrer cette mthode par un exemple simple dun banc de
synthse de deux ltres de longueur L (paire) dcrit par la formule
X GY +HZ, o les
matrices sont des matrices dinterpolation-convolution, avec une entre X de longueur
nie N (pair) et remplissage aux bords par des zros. En posant Y
b
(y
0
, . . . , y
L/2
)
t
et Y
e
(y
N/2
, . . . , y
N/2+L/21
)
t
les bords manquants correspondants au dbut et
la n dun bloc (et de mme pour Z
b
et Z
e
), la condition de reconstruction parfaite
nous donne les quations dun systme linaire surdtermin
_
GY
b
+HZ
b
0
GY
e
+HZ
e
0
partir desquelles on dduit par inversion triangulaire les bords manquants, par
exemple :
Y
b
L
1
G
L
H
Z
b
o L
G
((g
2(i j )
))
i , j
est une matrice Toeplitz triangulaire infrieure (de mme pour
L
H
).
Cette mthode sapplique tout type dextrapolation dsire aux bords dune
image : remplissage de zros, symtrie miroir, etc. ; elle sapplique galement des
systmes volutifs (bancs de ltres variant dans le temps) o lon change de ltres
entre deux blocs conscutifs de signal, ce qui conduit un pavage diffrent du plan
temps-frquence, par exemple du type paquets dondelettes [25]. Ceci constitue
une amlioration au regard de techniques existantes (par exemple [NBS92]) dans la
mesure o il sagit dun post-traitement indpendant qui ne ncessite pas de modier
les calculs effectus dans les bancs de ltres, et pour lequel on obtient toujours
une reconstruction parfaite sans approximation. Bien entendu, la reconstruction nest
rigoureusement parfaite quen labsence de quantication dans les sous-bandes, mais
un tude mene conjointement avec Pierre DUHAMEL montre que cela nest pas un
problme en pratique, dans la mesure o la propagation derreur de quantication reste
trs localise.
6.17 Rgularit hldrienne de schmas de subdivision binaires
Je me suis interess au comportement asymptotique des puissances entires dun
oprateur G de masque de subdivision g
n
dni par
G(u
n
)
kZ
u
k
g
n2k
Ce schma intervient dans des problmes dajustement de courbes, et de conception
gomtrique assiste par ordinateur de courbes et de surfaces fractales ou rgulires,
ainsi quen interpolation dimages ; il est galement central en thorie des ondelettes.
6.18. Analyse de rgularit de schmas de subdivision rationnels 55
Le travail fondateur de N. DYN et D. LEVIN [DL90] donne certaines conditions suf-
santes de gnration de courbes C
N
. La courbe limite satisfait lquation aux
diffrences deux chelles (x)
k
g
k
(2x k) tudie par Ingrid DAUBECHIES et
Jeffrey LAGARIAS [DL91]. Dans ce travail, jai dtermin des conditions ncessaires et
sufsantes de rgularit de la courbe limite dans les espaces de Lipschitz et de Hlder
C
r
. Pour 0 <r 1, C
r
sil existe une constante c telle que
[(x +h) (x)[ c[h[
r
.
Le rsultat principal obtenu est le suivant : si on pose, en notation polynomiale, G(x)
2
N
(1+x)
N+1
F
N
(x), alors la suite
r
j
N
1
j
log
2
_
max
0n<2
j 1
k
[( f
j
N
)
n+2
j
k
[
_
converge de faon hyperbolique (0 r
j
r
c
j
) vers son inmum r et la courbe limite
C
r
pour tout >0. De plus, cette limite /C
r +
pour tout >0, la condition que
le schma soit stable au sens o il existe x R tel que
nZ
(x +n)e
i n
/0 ( R).
Cette condition trs faible nest pas satisfaite dans certains cas pathologiques, et jai
conjectur que le seul cas pathologique correspond lexistence de deux racines de
G(x) opposs sur le cercle unit. Jai retrouv, comme cas particulier de ma mthode,
les estimations sous forme matricielle dIngrid DAUBECHIES et Jeffrey LAGARIAS [DL91],
ainsi que celles des schmas dinterpolation de G. DESLAURIERS et S. DUBUC [DD89].
Jen ai galement dduit de nouvelles estimations rapides trs nes de rgularit,
comme par exemple
r N log
2
max
_
[( f
N
)
0
[, [( f
N
)
L1
[, (F
N
)
_
o (F
N
) est le rayon spectral de loprateur F
N
: u
n
k
( f
N
)
k
u
2nk
. Cette esti-
mation se simplie pour des masques symtriques et lon obtient alors lespace de
Sobolev H
r
2
dindice optimal pour la courbe limite ( H
r
2
[[
r
() L
2
, o
est la transforme de Fourier de ). Dans le cas non-symtrique, lestimation de Hlder
dpend de la phase du masque contrairement celle de Sobolev ; notre mthode
permet donc damliorer dau plus
1
2
cet ordre de rgularit, cause de linclusion
H
r +1/2+
2
C
r
( >0).
Larticle de rfrence pour ce travail est [16] (163 citations).
6.18 Analyse de rgularit de schmas de subdivision rationnels
Avec Thierry BLU, nous avons tendu les mthodes de ltude prcdente aux
schmas de subdivision rationnels [20]
G(u
n
)
kZ
u
k
g
qnpk
56 Chapitre 6. Travaux de recherche et de diffusion scientique
o
p
q
Q
+
est sous forme irrductible. Le rsultat prcdent se gnralise pour la suite
r
j
N
1
j
log
p
q
_
max
0n<p
j
k
[( f
j
N
)
n+p
j
k
[
_
o F
N
(x) (
p
q
)
N
(
1x
q
1x
p
)
N+1
G(x). Nous avons appliqu en particulier cette tude aux
B-splines dordre N rationnels pour
p
q
3
2
. Pour illustrer la simplicit de nos estimations,
considrons le cas N 3; la rgularit hldrienne du schma de subdivision est
Nlog
3/2
max
0r <3
(F
r
), o les trois matrices F
r
se dterminent immdiatement :
_
_
1/8 0 0
1/2 1/2 0
0 1/8 3/4
_
_
,
_
_
1/2 0 0
1/8 3/4 1/8
0 0 1/2
_
_
,
_
_
3/8 1/8 0
0 1/2 1/2
0 0 1/8
_
_
,
dont les rayons spectraux sont tous gaux 3/4, do une rgularit Hldrienne
3
log(3/4)
log(3/2)
3, 709511. . .. En particulier, les rsultats dIngrid DAUBECHIES et Jeffrey
LAGARIAS [DL91] sont ainsi gnraliss des schmas
p
q
-adiques.
6.19 Critre L
s.
Le calcul de s dpend en particulier des pas de quantication et de la dynamique
des coefcients utiliss pour le codage. Ce problme est rsolu par une optimisation
convexe sous contrainte des des dbits binaires, le calibrage prcis de lerreur tant
ensuite effectu par une optimisation non linaire.
An dintroduire une exibilit supplmentaire de conception du codage nous avons
propos dtendre le critre L
p
100
ce qui donne une compression avec pertes matrises, avec un contrle local de
la distorsion base sur la notion dintervalle de conance. L encore, nous avons
dtermin les paramtres optimaux du codage (DPCM, sous-bandes, DCT) employer
an doptimiser la compression. Ce problme est rsolu approximativement en justiant
6.20. Compression dimages biomdicales au sens L
2
et L
57
lemploi dun thorme central limite pour les erreurs de reconstruction, ce qui conduit
rsoudre en les pas de quantication q
i
un problme du type
_
_
_
min
i
n
i
log
2
d
i
q
i
u,v
erf
s
_
2
i , j
a
i , j ,u,v
q
2
i
c p
o erf est la fonction derreur standard et o les coefcients d
i
et a
i , j ,u,v
dpendent
des coefcients utiliss lors du codage. Une solution rapide et implantable en temps
rel consiste dabord se ramener au cas dterministe |X|
s
t
avec un seuil plus
large s
t
>s, puis incorporer un mme facteur dchelle dans les pas de quantication
pour calibrer au mieux le pourcentage de rejet 100p dsir.
6.20 Compression dimages biomdicales au sens L
2
et L
Dans ce travail en collaboration avec Pierre DUHAMEL et Lamia KARRAY, qui est
essentiellement le contenu de la thse de cette dernire [K95], nous avons appliqu
les ides lies au critre L
a t
effectue.
Lintgration dune prdiction linaire ARMA dans un systme de codage en sous-
bandes (particulirement dans la bande BF) permettrait dobtenir un schma de codage
gnrique qui reste efcace dans tout la gamme du sans-pertes au bas dbit. Il savre
quun DPCM seul est plus efcace dans un contexte sans pertes, alors quune implanta-
tion par bancs de ltres-ondelettes savre particulirement intressante lorsquelle est
optimise selon un critre L
i
y
i
,
o
i
est un poids dimportance du i me train binaire y
i
en sortie du dcodage
de canal. De cette faon, la distorsion quadratique du systme admet une relation
simple en fonction des paramtres du canal : D
i
2
i
D
i
(p) qui permet de contrler
facilement le.q.m. pour un canal donn. Les termes croiss dans le dveloppement
de D sont limins en imposant que les trains binaires sont indpendants entre eux ;
pour ce faire, nous avons impos, dans une premier temps, que toutes les rgions de
dcision du quanticateur soient quiprobables.
Il reste optimiser les poids
i
(qui fournissent les niveaux de quantication)
et ltiquetage binaire. Nous avons propos dutiliser lalgorithme de Lloyd modi
pour prendre en compte les contraintes de robustesse que nous avons imposes.
Loptimisation du dquanticateur (les poids
i
) quanticateur donn rsulte dune
simple inversion dun systme linaire (du type Wiener-Hopf) :
R
1
r o RE(y y
t
), r E(y), E(u[i ).
o la matrice R et le vecteur r se calculent aisment laide dune matrice dtiquetage
binaire, la distorsion minimale tant donne par la formule D
2
r
t
R
1
r . Loptimi-
sation du quanticateur dquanticateur donn consiste simplement ordonner les
niveaux de quantication v
i
i
y
i
par ordre croissant.
Nous avons considr diffrents modles de densit de probabilit dune source
sans mmoire provenant dun codage par transforme (type ondelettes) ; un modle
gnrique est celui dune gaussienne gnralise un paramtre :
p(u)
c(, )
2(1/)
exp
_
_
c(, )[u[
_
_
o c(, )
_
(3/)
2
(1/)
qui inclut comme cas particulier la distribution gaussienne ( 2), laplacienne ( 1)
et uniforme ( +). Notre travail est cependant galement applicable dautres
modles, et une statistique quelconque par apprentissage. Lalgorithme de Lloyd
converge trs rapidement vers une solution que nous avons prouve optimale dans le
cas dune source uniforme, et dautant plus efcace que le paramtre est lev.
Lquiprobabilit impose des ux binaires se traduit par une contrainte trop forte
sur les cellules du quanticateur ; relcher cette contrainte amliore notablement
la minimisation de la distorsion moyenne. Nous avons donc propos, avec Riadh
ABDELFATTAH (SupCom Tunis) et Stig Ingar EVJE (Mesta AS) un algorithme modi
qui intgre la recherche de meilleurs cellules. Celles-ci sont prises en compte dans
lexpression de la distorsion, qui devient
D
2
+
i
P
i
v
2
i
2
i
E
i
o P
i
et E
i
sont les moments dordre zro et un de la densit de source sur la i me
cellule, qui apparaissent dans les expressions de la matrice R et du vecteur r ci-dessus.
6.22. Dualit source/canal q-aire symtrique 59
La solution optimale samliore particulirement pour des faibles valeurs de et se
rapproche de la borne donne par les performances dun quanticateur optimal de
Lloyd-Max (non robuste) en labsence derreurs de transmission; par exemple, pour
1 (laplacienne), on obtient une amlioration de 10 dB 5 dB de cette borne [54].
6.22 Dualit source/canal q-aire symtrique
Le regain dintrt pour le codage source-canal conjoint invite naturellement
poursuivre ltude de la dualit entre codeurs canal et dcodeurs source dune part,
et dcodeurs canal et codeurs source dautre part. Cette ide na t jusqualors que
peu exploite et pour des situations acadmiques depuis les annes 1970 (cf. par
exemple [A76]). Il est ncessaire de dnir des modles de source et canal et des
mesures derreur compatibles an dexploiter cette dualit. Nous avons, dans un
premier temps, avec Franois-Xavier BERGOT (doctorant), considr une source q-aire
symtrique et un canal galement q-aire symtrique, avec critre de distance de
Hamming sur les mots et les symboles. La similarit dans lexpression des bornes de
Shannon en thorie de linformation pour le codage canal (capacit-cot) et le codage
source (taux-distorsion) conrme lide dune dualit exploiter :
_
C(P) log
2
q H
2
(P) P log
2
(q 1) (0 P 1
1
q
)
R(D) log
2
q H
2
(D) Dlog
2
(q 1) (0 D 1
1
q
),
leur rapport constituant la borne OPTA en codage conjoint. Nous avons tent dex-
pliquer cette similitude en dmontrant, par une analyse des cellules de Vorono dun
code linaire donn de longueur n et ltude des expressions exactes des probabilits
derreur-mot P
em
et symbole P
es
en codage canal et de la distorsion D en codage
source, que lon a les convergences suivantes lorsque n , pour un taux limite
r
k
n
log
2
q donn :
_
_
P
es inf
_
0 (r <C(P))
C
1
_
log
2
q
r
C(P)
_
(C(P) <r <log
2
q)
D
inf
R
1
(r )
o lindice inf dsigne une borne infrieure atteignable pour un code parfait ou quasi-
parfait. Ces rsultats constituent des rciproques des thormes de codage dans notre
cadre ; les thormes directs pouvant sobtenir par les techniques de codage alatoire
(travaux de Gallager en codage canal et Goblick en codage source). De plus, dans
utiliser la technique non-constructive du codage alatoire, nous avons utilis les travaux
de Grard COHEN et Peter FRANKL [CF85] pour dmontrer le thorme de Shannon
du codage de source pour des codes q-aires linaires.
Cette tude mathmatique conrme asymptotiquement quun bon codeur
canal est automatiquement un bon dcodeur source, et quun bon dcodeur
canal est automatiquement un bon codeur source. Les codes linaires ayant t
essentiellement conus pour le codage canal, il est intressant dexploiter la dualit
60 Chapitre 6. Travaux de recherche et de diffusion scientique
source/canal pour en dduire des codes linaires pour le codage source. De plus,
lintgration de tels codes dans des systmes complexes en prsence de multiples
train binaires impose la ncessit de concevoir des codeurs et dcodeurs conjoints
de longueurs faibles, qui impliquent une faible charge de calcul et de faibles dlais de
traitement. Nous avons effectu une recherche exhaustive sur les matrices gnratrices
ou de parit, des meilleurs codes linaires (pour n 6) et cycliques (pour n 16)
utiliss en codage de source binaire symtrique pour diffrentes valeurs de rendement.
Cette recherche exhaustive a t amliore par une construction itrative sur la tableau
standard de dcodage par ajouts de chefs de classe de poids minimum, pour des
longueurs n 23 [40]. Ces codes ont t utiliss par Bahram ZAHIR AZAMI dans
lalgorithme doptimisation binaire souple conjointe dcrit au 6.24.
6.23 Codes conjoints binaires solitaires ou ous
Dans ce travail effectu avec Franois-Xavier BERGOT (doctorant), nous reprenons
les codes construits prcdemment dans un systme de codage source/canal conjoint
pour une source binaire symtrique et un canal galement binaire symtrique, dont
les performances sont compares un systme de codage source/canal spar (en
tandem). Dans ce cadre, la borne OPTA prvu par le troisime thorme de Shannon
devient
R
1H
2
(D)
1H
2
(p)
o R est le taux global canal/source. Ceci donne la solution optimale mais triviale (qui
consiste ne faire aucun codage, do D p) lorsque R 1. Pour R <1 et R >1, des
solutions triviales de troncature ou dajout de zros donnent une premire ide des
bornes de performances possibles, qui restent assez larges.
Nous avons alors propos lutilisation dun systme simple source ou canal
pour lequel le codeur canal (resp. source) est supprim pour R < 1 (resp. R > 1),
les codeur ou dcodeur restants devenant solitaires. Pour R > 1, les thormes de
convergence tablis prcdemment sappliquent et montre une convergence vers
lOPTA. Pour R <1, nous avons dmontr directement cette convergence (avec les
notations ci-dessus) :
D
inf
H
1
2
_
1R(1H
2
(p))
_
.
A rendement global R x, des simulations sur canal gaussien sortie binaire, ternaire
et quaternaire ont montr que notre systme source ou canal pour les petits codes
construits prcdemment est toujours plus performant quun systme spar [43], mais
cependant reste relativement loign de lOPTA.
Une amlioration possible est doptimiser conjointement un seul codeur et un
seul dcodeur par un algorithme de Lloyd appliqu directement aux probabilits de
transition du codeur p(x[u) et du dcodeur p(v[y), o u, v reprsentent la source
transmise et reconstruite, et x, y les entre et sortie du canal. Dans ce schma,
codeur et dcodeur font tous deux ofces de codage/dcodage source et canal ; de
plus, ils constituent des oprations alatoires (codes ous) ! En comparaison de la
6.24. Dcodage binaire souple optimis par lalgorithme de Lloyd 61
version classique, lalgorithme de Lloyd est ici gnralis doublement : il prend non
seulement en compte la probabilit de transition du canal, mais aussi celles des
codeur et dcodeur ous. Lintrt principal dune telle approche est que lalgorithme
de Lloyd est capable damliorer a priori nimporte quel systme conu ventuellement
par dautres moyens, et sadapte tout modle de canal discret sans mmoire. Les
systmes proposs de codage source ou canal ont t intgres dans lalgorithme
doptimisation binaire souple conjointe dcrit au 6.24.
6.24 Dcodage binaire souple optimis par lalgorithme de Lloyd
Avec Pierre DUHAMEL et Bahram ZAHIR AZAMI (doctorant), nous nous sommes
intresss la conception de codeurs binaires et leur optimisation conjointe dans un
cadre dabord trs simple, savoir vis--vis dune seule source binaire symtrique et
dun seul canal galement binaire symtrique de paramtre p. Nous avons propos
une modication de codes binaires classiques entre binaire et sortie souple [41, 45],
de faon intgrer le critre de distorsion quadratique (et non simplement de probabilit
derreur) sur lensemble du systme :
D
1
m
2
n
1
x0
2
n
1
y0
p(y[x)
_
u
x
(u v(y))
2
p(u) du
Cette distorsion dpend non seulement de la source transmise u et reconstruite v,
mais galement de la probabilit de transition p(y[x) du canal dentre x et de sortie
y elle tient ainsi compte des erreurs de transmission au niveau de la reconstruction
de la source. La minimisation de D pour un niveau de distorsion de Hamming donn
conduit des niveaux binaires de reconstruction gaux (, 1) o
1
_
14D
2
;
ce qui conduit une borne OPTA optimale en thorie de linformation sur la taux de
codage gal
R(D)
1H
2
(
1
_
14D
2
)
1H
2
(p)
o H
2
() est la fonction dentropie binaire.
Pour loptimisation conjointe pratique des codeurs et dcodeurs, nous avons pro-
pos, suite aux travux de N. FARVARDIN et V. VAISHAMPAYAN [FV87] dans un autre
contexte, lutilisation de lalgorithme de Lloyd-Max [41, 45], bien connu en codage de
source, qui boucle les optimisations du codeur dcodeur donn (condition du proche
voisin) et du dcodeur codeur donn (condition du centrode), tout en tenant compte
de la probabilit de transition du canal. Les valeurs des reprsentant (centrodes) et
des rgions de dcision sadaptent donc optimalement vis vis des erreurs-bit dues au
canal. Nous avons compar les rsultats pour diffrents types de codes conus avec
Franois-Xavier BERGOT (cf. 6.22) la borne OPTA et mis en vidence le rle de
lintialisation de notre algorithme, cause de la prsence ventuelle de minima locaux
multiples.
62 Chapitre 6. Travaux de recherche et de diffusion scientique
6.25 Allocation optimale de dbits de codeurs conjoints source/canal
Le travail prcdent est gnralis pour plusieurs sources et plusieurs canaux
parallles dans un contexte de codage UEP (unequal error protection) par plan de
bits o diffrents trains binaires se voient attribus diffrents poids dimportance
i
de
reconstruction. Pour dterminer la borne thorique optimale prvue par la thorie de
linformation, on est ramen rsoudre un problme doptimisation non-convexe
_
_
_
minR
i
R
i
(D
i
)
i
1H
2
(
1
_
14D
i
2
)
1H
2
(p)
i
2
i
D
i
D.
pour lequel on adopte une approche base sur un Lagrangien discret.
Pour loptimisation pratique dattribution des dbits de codeurs, nous avons ap-
pliqu lalgorithme de SHOHAM-GERSHO [SG88] que nous avons amlior pour la
recherche de points de fonctionnement cachs de faon densier lventail des
solutions (ceci a dbouch sur un travail plus consquent dans ce domaine effectu
avec Axel LE POUPON, cf. ci-dessous). La base de donnes des codes disponibles est
volontairement simplie (codes nul, identique, rptition, de Hamming) de faon
garantir une complexit dimplantation trs faible.
Les performances globales du systme ont t compares la borne OPTA
obtenue par minimisation de Lagrangien, au systme spar (tandem) quivalent et au
systme COSQ [FV87] pour une source uniforme dcompose en train binaires [33,
35, 41]. On obtient une amlioration dautant plus importante que le paramtre p
derreur-bit est leve (p 10
2
), et ceci pour un systme constitu de briques de
base les plus simples possibles (codes linaires courts et quantication uniforme).
6.26 Systme complet de codage conjoint dimages sur canal GSM
Dans un premier temps, lobjet de cette tude, ralise en collaboration avec
Pierre DUHAMEL et Bahram ZAHIR AZAMI et qui constitue le contenu applicatif de la
thse de ce dernier [Z99], est la ralisation dun systme de codage source/canal
conjoint complet, utilisant des briques de base simples implanter, et permettant de
fonctionner en sintgrant dans les systmes existants, avec la contrainte essentielle
de transparence des donnes vis--vis des rseaux de transmission.
Cette contrainte implique que linterface source/canal doit tre constitu dun
ux binaire; elle implique aussi de considrer des modles simples de densits de
probabilit de sources sans mmoire et des congurations derreurs-bit de transmission.
Nous avons choisi de travailler sur les trains de bits issus dun quanticateur dans
chaque sous-bande dune transforme en ondelettes, le dquanticateur tant contraint
de sorte minimiser leffet des erreurs-bit sur la distorsion quadratique globale en
fonction de la statistique des coefcients en ondelettes chaque chelle. Chaque train
binaire est ensuite cod par des petits codes correcteurs binaires optimiss avec une
technique de codage souple. Les diffrents dbits dans les diffrents train binaires
6.27. Compression de source binaire asymtrique par codes de canal 63
ont t allous de faon optimale, et les performances globales ont t compares au
COSQ [FV87] et la borne OPTA.
Cette tude intgre donc les thmes prcdents 6.21, 6.24 et 6.25 dans une
conception dune systme complet de transmission dimages xes sur un canal binaire
symtrique [33, 35, 41, 45]. Pour des dbits suprieurs 2 ou 3 bits par chantillon
de source et un taux derreur relativement lev (10
3
10
2
), on obtient un gain
signicatif (3 dB) en SNR en comparaison du COSQ.
Ce travail a dbouch sur une maquette logicielle ralise par Riadh ABDELFATTAH
en 2002 dans le cadre du projet RNRT CoSoCaTI, qui propose une chane de complte
de transmission dimages xes sur le canal GSM, sous ma supervision et en collabora-
tion avec Georges RODRIGUEZ (TELECOM ParisTech). Cette maquette intgre une
nouvelle approche doptimisation conjointe des quanticateurs prsente au 6.21,
qui prsente une nette amlioration par rapport celles dveloppes prcdemment
par Bahram ZAHIR AZAMI. Ainsi, un taux global de 1 bit par pixel, le Peak SNR en
bout de chane passe de 31,5 28 dB lorsque le canal se dgrade jusqu p 10
2
,
ce qui constitue une perte relativement faible en comparaison des schmas de codage
en tandem.
6.27 Compression de source binaire asymtrique par codes de canal
Dans ce travail effectu avec Franois-Xavier BERGOT (doctorant) nous avons
tendu la recherche de bon codes binaires pour la compression dune source asym-
trique de paramtre p modlisant mieux certaines sources relles (chiers de donnes,
etc.) pour lesquelles les bits ne sont pas ou pas tout fait quiprobables ; ceci comme
une alternative robuste, en prsence derreurs binaires de transmission, un codage
par longueur variable.
Dans une premire tape, nous avons propos un algorithme de codage par
boule qui projette les squences binaires atypiques sur la boule de Hamming dnie
par une distorsion de Hamming choisie lavance (codage presque sans pertes).
laide de la loi faible des grands nombres, nous avons montr que les performances
asymptotiques ne se dgradent pas si lon se limite au codage sans pertes dans une
petite couronne n
t
< w
H
(u) < n o u est le mot de source de longueur n. On
obtient une fonction rendement-distorsion gale
R
t
(D) H
2
(p D)
qui pour une distorsion D non nulle est sous-optimale par rapport lOPTA R(D)
H
2
(p) H
2
(D). Ceci explique et quantie la perte due lutilisation dun algorithme
classique de compression en prsence ds que lon sloigne trop du codage sans
pertes.
Le codage par syndrome dAncheta [A76] savre tre alors une alternative int-
ressante qui illustre lexploitation de la dualit source-canal : le syndrome (utilis en
codage de canal) est la reprsentation code de la source, qui est dcode laide
dun tableau standard du code linaire utilis. Nous avons montr que les petits codes
64 Chapitre 6. Travaux de recherche et de diffusion scientique
linaires utiliss classiquement en codage de canal se rvlent trs mauvais dans ce
systme dAncheta, ce qui nous a conduit une recherche systmatique de bon codes.
Il rsulte de cette analyse que le systme dAncheta nest utilisable en pratique que
pour des sources fortement asymtriques (p <0, 1).
Pour des sources faiblement asymtriques, nous proposons de gnraliser notre
systme de codage dual par rgion de Vorono o le codeur de source est un dcodeur
(complet) de canal, dont nous avons prouv quil tait asymptotiquement optimal
dans le cas symtrique. Une tude de linuence des polynmes numrateurs de
poids sur la distorsion (par lingalit de Sullivan-Klve), conrme par une recherche
systmatique de petits codes optimaux, montre que cette fois-ci, notre systme limit
des codes de faible longueur impliquant une faible charge de calcul et des faibles
dlais de traitement est effectivement surtout utilisable pour des sources faiblement
asymtriques (p 0, 4). Nous avons conu une premire amlioration de ce systme
en utilisant deux codes linaires o celui utilis pour comprimer la source est choisi
en fonction du poids dentre. Ce systme ralise un compromis entre complexit
et performances intermdiaire entre lutilisation dune codeur linaire et non-linaire.
Les performances sont notablement amliores (elles surpassent tous les systmes
connus utilisant des codes linaires) pour des sources fortement asymtriques.
Enn, nous avons appliqu la technique de conception de codes ous ( 6.23) par
lalgorithme de Lloyd qui simplie considrablement la recherche de meilleurs codes
non-linaires. La difcult essentielle rside dans linitialisation de cet algorithme, pour
laquelle nous avons inject un tirage alatoire de codes selon la distribution optimale
(
1pD
12D
,
pD
12D
) prvue par la thorie de linformation. Pour une source fortement asy-
mtrique, les codes non linaires obtenus par lalgorithme de Lloyd surpassent trs
largement les codes linaires [B00].
6.28 Codage conjoint arithmtique en blocs
Les codes arithmtiques sont des codes dvelopps en mme temps que les codes
binaires, pour abiliser des units de calcul arithmtique [MG72]. L encore, ils furent
conus pour corriger des erreurs, le poids de Hamming tant remplac par le poids
arithmtique w
A
(N), cest--dire le nombre de termes non nuls dans la dcomposition
binaire non-adjacente dun entier N ; do la relation d
H
(N, N
t
) d
A
(N, N
t
). Par
notre principe de dualit, nous nous en sommes servis, avec Franois-Xavier BERGOT,
pour comprimer des sources ne pas les confondre avec le codage arithmtique
traditionnel qui est longueur variable ; ici les longueurs sont xes et lide et que cela
permettrait de rendre des systmes de compression robustes.
Un code arithmtique est dni par deux entiers A, B comme lensemble {AN, 0
N < B} ; son rendement est R
log
2
B
log
2
A+log
2
B
. Nous avons dtermin lOPTA (limite
de Shannon) pour une source arithmtique symtrique (mettant de manire qui-
probable un entier 0 N <n) et effectue une recherche systmatique de meilleurs
petits codes arithmtiques.
Ces codes ont t intgrs dans les schmas de compression de source et de
6.29. Rduction de bruit poivre et sel par dcodage algbrique BCH 65
codage conjoint source ou canal que nous avons propos dans le cas q-aire ( 6.23),
avec le critre de distance de Hamming [B00]. L encore, on observe que le systme
source ou canal a toujours de meilleurs performances quun systme spar (en
tandem).
6.29 Rduction de bruit poivre et sel par dcodage algbrique BCH
Ce travail concerne un problme spcique de rduction de bruit impulsif dans les
images ( cause de son apparence visuelle, ce type de bruit est quali de poivre et
sel). Les techniques classiques (ltrage linaire, ltrage mdian, codage par troncation
sur des blocs) suppriment le bruit impulsif mais produisent des distorsions visibles
(lissage, effets de bloc). Suite aux travaux de WOLF [W83] et MARSHALL [M84], une
solution consiste considrer les pixels endommags comme des erreurs quil faut
localiser puis corriger, en sinspirant de la thorie des codes corrrecteurs derreurs.
De cette faon, seuls les pixels endommags sont affects, et il ny pas de distorsion
supplmentaire.
Jai utilis un algorithme de dcodage de type BCH sur les nombres rels qui
se basent sur la signature frquentielle des erreurs (le syndrome), permettant de
dterminer un polynme localisateur derreurs puis de trouver les valeurs derreur par
inversion dun petit nombre (gal au double de la capacit de correction) dquations
linaires [31]. Loriginalit de mon approche est que le procd global (hautement non
linaire) est appliqu en passes successives sur les lignes et les colonnes de limage
(effet turbo) jusqu convergence (utilisation dun code produit en dcodage turbo ).
Il en rsulte une bien meilleure robustesse en prsence derreurs en rafale que dautres
techniques comme [MY94].
Ce rsultat a t dvelopp par la suite avec Franois-Xavier BERGOT ( 6.30) et
avec Abraham GABAY pour des schmas de codage source-canal conjoint sur des
images satellitaires ( 6.31).
6.30 Conception de codes BCH rels pour le codage conjoint
Suite la proposition de MARSHALL [M84], nous avons, avec Franois-Xavier
BERGOT, dvelopp la thorie des codes BCH sur R pour la correction des erreurs
impulsives et effacements. Il existe un paralllisme important dans les rsolutions de
systmes aux moindres carrs et la dcomposition en valeurs singuilres que nous
avons introduites dans lalgorithme de Peterson-Gorenstein-Zierler ou de Berlekamp-
Massey et les mthodes statistiques classiques en traitement du signal (Pysarenko,
Prony, MUSIC, Esprit) destimation de sinusodes en prsence de bruit.
Pour une source gaussienne, un canal binaire symtrique et un critre distance de
Hamming, nous avons propos un algorithme de dcodage canal complet et optimal
des codes BCH MDS similaire lalgorithme GMD de FORNEY, sappuyant sur des
mthodes de dcodage algbrique corrigeant erreurs et effacements. Pour une source
gaussienne, un canal binaire symtrique et un critre dEQM, nous avons impos une
66 Chapitre 6. Travaux de recherche et de diffusion scientique
relation linaire entre code de source et de canal pour simplier le dcodage de source,
la relation linaire (matrice dtiquetage) tant optimise par un algorithme du type
Lloyd. Cette approche rejoint la conception dun quanticateur COSQ ou COVQ de
FARVARDIN [FV87] ceci prs que nous y insrons un code de canal. Les performances
obtenues sont trs proches de loptimum (OPTA). Nous avons montr quen faible
complexit, il vaut mieux construire un quanticateur COVQ de plus ne rsolution
que de chercher protger des effets du canal les tiquettes binaires provenant dun
quanticateur plus basse rsolution.
Diffrentes mthodes proposes ont t intgres dans des systmes complets
de codage source/canal conjoint (travaux de Abraham GABAY ci-dessous).
6.31 Codes BCH rels sur le canal Bernoulli-Gaussien
Un code BCH rel peut tre employ protger non seulement les perturbations
introduites par le canal, mais aussi limpact sur la source des perturbations introduites
par la quantication elle-mme (codage de source). Avec Abraham GABAY (doctorant)
et Pierre DUHAMEL, nous avons tudi cet impact du bruit source-canal sur la source,
et propos diffrents modles de canal global, sous forme de bruit impulsif noy dans
du bruit thermique de faible amplitude.
Pour une source sans mmoire donne, quantie scalairement et transmise sur
un canal binaire symtrique, le modle Bernoulli-Gaussien que lon obtient rsulte
dune erreur binaire multiplicative associe un bruit de quantication additif de faible
variance
2
q
; la densit de bruit canal est alors approxime par
(1P
e
)+P
e
N (0,
2
I
)
o
2
I
est la variance des erreurs dues au canal, ce qui conduit une densit globale
derreur de la forme (canal Gaussien-Bernoulli-Gaussien GBG) :
e (1P
e
)N (0,
2
q
) +P
e
N (0,
2
I
+
2
q
).
Les paramtres de ce modle ont t valides sur une modulation MAQ-16 en prsence
dun code correcteur derreur, et la capacit du canal GBG a t calcul laide de
lalgorithme de Blahut [B72].
Nous avons propos un systme intgrant un code BCH rel avant quantication
pour lannulation du bruit impulsif (poivre et sel) sur des sugnaux transmis sur un canal
binaire symtrique (modle Bernoulli-Gaussien). La difcult essentielle rencontre
est que la prsence de bruit de fond introduit par la quantication peut provoquer une
confusion au niveau de la localisation probable des erreurs impulsives. Nous avons
donc amlior la correction en introduisant une mthode semi-combinatoire qui permet
de tester toutes les combinaisons probables de localisations derreurs prises parmi un
ensemble choisi, par un compromis optimis entre charge de calcul et performances.
Lorsque les localisations sont correctement estimes, notre systme conjoint possde
des performances meilleures quun systme spar (o un code BCH binaire est
employ aprs quantication) pour un dbit global comparable et quel que soit la
probabilit de transition du canal [46].
6.32. Systme complet de codage conjoint dimages satellitaires SPOT-V 67
6.32 Systme complet de codage conjoint dimages satellitaires SPOT-V
Lobjectif de ce travail, ralis avec Pierre DUHAMEL et Abraham GABAY, qui
constitue le contenu applicatif de la thse de ce dernier [G01], est de proposer des
amliorations robustes de compression dimages satellitaires du CNES dans les nou-
velles gnrations du satellite SPOT.
Limage est pralablement transform en ondelettes et chaque sous-image sous-
bande est code par un code BCH produit sur le corps des rels avant dtre quantie
et transmise sur un canal satellite. Loriginalit de la mthode est quun codeur BCH
prcde le quanticateur (cf. 6.31) aprs dcomposition en ondelettes. Cette ap-
proche surprenante (une partie du codage de canal prcde une partie du codeur
de source!) est rendue possible par le fait que que le systme est conu de faon
ddie des types dimages et un canal bien dnis. Lemploi de codes BCH sur
les nombres rels permet de prendre en compte leffet conjoint des codeurs source
et canal beaucoup plus efcacement que des codes BCH sur les corps de Galois
classiquement utiliss pour protger linformation vis--vis derreurs binaires dans un
systme spar (en tandem). De plus, lutilisation de codes BCH produits permet,
comme en 6.29, de bncier dun effet turbo (lignes/colonnes) au dcodage [47].
Notre mthode revient utiliser un banc de ltres sur-chantillonn pour introduire
une redondance structure faisant ofce de code correcteur derreurs [48]. Dans cette
variante, les quanticateurs dans chaque sous-bande peuvent tre optimiss suivant
un algorithme optimal dallocation de dbits binaires du type Shoham-Gersho [SG88].
Compar au schma classique avec codage BCH binaire aprs quantication, on
obtient un gain moyen signicatif en PSNR global pouvant atteindre 3,7 dB pour un
dbit 3.2 bpp et un taux derreurs canal de 10
3
.
Ce travail montre lintrt de ne pas sparer compltement les techniques de
compression de source dune part et celles de codage de canal dautre part, et
dessayer dutiliser aussi bien la redondance de la source pour attnuer les effets du
bruit dans le canal que la redondance introduit par le codage correcteur pour lutter
contre les erreurs de quantication.
6.33 Diffusion du codage source/canal conjoint
Le regain dintrt des techniques de codage de source-canal conjoint dans les
annes 1990-2000 provient de multiples aspects : sur le plan thorique, il sagit de
proposer une alternative de complexit rduite au schma en tandem prvu par le
troisime thorme de Shannon; sur la plan pratique, il sagit de rendre robuste
des systmes de compression pour leur utilisation dans diffrents types de rseaux.
Toutes les briques de base dans le conception dun systme de communication sont
concernes, du codage par transforme la technique de modulation en passant par
la quantication, ltiquetage binaire, le codage entropique et le codage correcteur.
Il en rsulte une multitude de propositions trs varies, provenant de diffrentes
communauts scientiques parfois lointaines (compression et traitement du signal
dune part, thorie de linformation et de la communication numrique dautre part). Do
68 Chapitre 6. Travaux de recherche et de diffusion scientique
lintrt pour tous de disposer de synthses de ces approches par une comprhension
globale et multi-disciplinaire du sujet, permettant en particulier classer les diffrentes
contributions et les enjeux applicatifs.
Dans ce contexte, je suis co-auteur de plusieurs articles tutoriaux sur le sujet, desti-
ns la communaut scientique travaillant sur les aspects de compression de sources
aussi bien que de transmission et codage dinformation : Combined source-channel
coding : Panorama of methods [32] prsente un ventail de solutions conjointes :
protection hirarchique (UEP), attribution dindex lors dune quantication vectorielle,
optimisation conjointe par lalgorithme de Lloyd ou auto-organisation de Kohonen,
modulation hirarchique ou de Skinnemoen, et le rle de loptimisation dbit-distorsion
en codage multi-sources. Larticle invit du collloque GRETSI : Codage conjoint
source/canal : enjeux et approches [34] prsente ltat de lart du domaine, ainsi
que les perspectives et enjeux du codage conjoint pour diffrents types dapplications.
Enn Joint source and channel coding [39] est un cours NATO dvelopp sur le
sujet, qui expose les aspects de thorie de linformation appliqu la problmatique
du codage conjoint, dont une prsentation du systme trivial ( loge de la paresse )
pour une source et un canal gaussiens illustrant le potentiel de lapproche conjointe,
une prsentation dtaill de lalgorithme de Lloyd gnralis, et son intgration dans un
grand nombre dapproches pratiques impliquant loptimisation conjointe de ltiquetage
binaire, de la quantication vectorielle, de la modulation, etc.
6.34 Allocation optimale de ressources par ordonnancement lagrangien
Lutilisation de petits codes dans des schmas binaires de codage conjoint utilis
dans les travaux prcdents a mis en vidence une limitation inhrente lalgorithme
dallocation optimale de dbits binaires de type SHOHAM-GERSHO [SG88]. Cet algo-
rithme fournit une solution situe sur lenveloppe convexe des points de fonctionnement
taux-distorsion ou capacit-cot, ce qui peut conduire, si le nuage des points de fonc-
tionnement nest pas sufsamment dense au voisinage de lenveloppe convexe,
des pertes importantes de dbit en comparaison de points cachs , surtout si les
caractristiques dbit-distorsion ou capacit-cot dans les diffrentes composantes
sont non convexes.
Dans ce travail, jai propos une reformulation complte du problme de lallocation
de ressources
_
min
i
D
i
(R
i
)
i
R
i
R
b
ou
_
max
i
C
i
(P
i
)
i
P
i
P
b
en nonant un critre permettant une recherche exhaustive des points de fonction-
nement optimaux, qui fait dfaut dans la plupart des systmes actuels. Ce critre
dordonnancement suit la pente donne par le multiplicateur de Lagrange critique
correspondant aux deux points de Shoham-Gersho sous-optimaux situs sur
lenveloppe convexe au voisinage de budget recherch. Il se base sur la relation dordre
6.35. Allocation optimale de ressources par chemins convexes 69
dnie par (pour une formulation taux-distorsion (R, D)) :
(R, D) (R
t
, D
t
)
_
_
D+R <D
t
+R
t
ou
D+R D
t
+R
t
et D <D
t
.
Le premier point trouv dans la rgion cache triangulaire dnie par les deux
points de Shoham-Gersho est alors optimal. Avec Axel LE POUPON (doctorant), nous
avons propos un algorithme de recherche de ces points optimaux base sur un tri
local par diffrences des valeurs du lagrangien [L09]. Une comparaison dtaille aux
algorithmes existants a t effectue sur diffrents corpus de test ; cet algorithme
garantit loptimalit au prix dune charge de calcul parfois relativement leve (poly-
nomiale) en comparaison de celui de Shoham-Gersho (qui est sous-optimal), mais
cependant applicable dans la totalit des situations possibles dallocations (allocation
de dbit en codage de source par transforme, allocation de puissance en codage
multi-canaux, etc.) et dautant plus rapide pour des fonctions non convexes et des taux
non rguliers.
6.35 Allocation optimale de ressources par chemins convexes
Avec Axel LE POUPON (doctorant), nous avons propos une nouvelle approche
radicalement diffrente de la prcdente, qui sapplique un contexte plus particulier
de fonctions de cot convexes mais requiert une charge de calcul trs faible, tout en
garantissant loptimalit. Cette approche est base sur une recherche en descente
darbres itrative selon des chemins convexes dans le nuage des points de fonction-
nement, la racine de chaque arbre tant une solution de Shoham-Gersho [52]. Nous
avons dmontr loptimalit de cette procdure qui provient du fait que tout point de
fonctionnement se trouve sur un unique chemin convexe de ce type.
An de rendre le critre de recherche efcace, nous avons dni une zone de
recherche dnie par translation partir de lenveloppe convexe des points de fonc-
tionnement ; cette zone est dnie initialement par la condition sur (R, D) :
D >(1)D
e
+D
t
e
R
b
R
R
t
e
R
e
o (R
e
, D
e
) et (R
t
e
, D
t
e
) sont les solutions de Shoham-Gersho conscutives satisfaisant
la contrainte R
e
R
b
R
t
e
sur le budget R
b
. De plus, cette zone se rduit au fur
et mesure de la recherche par une actualisation en fonction des meilleurs candi-
dats trouvs. Nous avons dmontr que les candidats situs au-del de cette zone
conduisent ncessairement des points sous-optimaux ce qui arrte la recherche
dans la branche de larbre considre, la recherche se poursuivant dans les chemins
survivants (technique branch and bound). Une comparaison dtaille aux algorithmes
existants a t effectue sur diffrents corpus de test ; pour des taux irrguliers, notre
algorithme et le plus rapide des algorithmes optimaux connus, avec une charge de
calcul dun ordre de grandeur infrieur une procdure de programmation dynamique,
et savre donc constituer une alternative intressante [52, 56].
70 Chapitre 6. Travaux de recherche et de diffusion scientique
6.36 Allocation rapide par omission dindex ou de chemins
Nous nous sommes intresss, avec Axel LE POUPON (doctorant), llaboration
dalgorithmes rapide dallocation de ressources ralisant un bon compromis entre
complexit et performances, ces dernires tant quanties par un critre de proximit
en cot/distorsion. Lobjectif essentiel est de densier moindre cot lensemble des
points de fonctionnement optimaux, ce qui constitue un attrait essentiel dans nombre
dapplications pratiques dallocation dans les systmes complexes de communications
numriques multi-utilisateurs, y compris dans les cas o la dimension de recherche est
plus leve (>2).
Dans ce contexte, une mthode simple et rapide consiste omettre un ou plu-
sieurs index des points de fonctionnement composante par composante qui initialisent
lalgorithme de type Shoham-Gersho [L09]. Chaque omission dindex (valeur man-
quante dun multiplicateur de Lagrange) conduit automatiquement de nouveaux
points cachs, ce qui augmente considrablement le pourcentage nal de points de
fonctionnement optimaux trouvs, et limite donc la perte en distorsion vis--vis de
loptimum qui devient quasi-ngligeable en comparaison dautres algorithmes sous-
optimaux comme [YOR96]. Le facteur de densication est exponentiel en le nombre
de composantes et la dimension du problme considr. De plus, la charge de calcul
est comparable celle de lalgorithme Shoham-Gersho (le plus rapide), pour lequel le
pourcentage de points optimaux est de plusieurs ordres de grandeur infrieur,
Une autre solution que nous avons dveloppe consiste adapter lalgorithme de
recherche par chemins convexes ( 6.35) en se limitant la racine correspondant au
point de Shoham Gersho, se qui rduit considrablement la zone de recherche. Bien
que cette mthode ne soit par construction utilisable que pour une dimension limite
du problme, elle conduit au meilleur compromis complexit/performances trouv, tout
en tant applicable dans la totalit des situations possibles dallocations, pour des
fonctions non convexes et des taux irrguliers.
6.37 Ingalits de puissance entropique par traitement de donnes
Des problmes importants de conception de systmes de codage restent ouverts
dans des cas plus gnraux que les transmissions point point. Lextrme diversit des
solutions proposes rend difcile la comparaison de systmes multi-critres qui utilisent
souvent des structures et des modles diffrents. Dans le cas particulier important
de systmes multi-utilisateurs de codage de source/canal o la source ou le canal
sont gaussiens, les ingalits de la variance entropique, initialement proposes par
SHANNON [S48], constituent un outil central : il permettent en effet de prouver les tho-
rmes rciproques de codage et donc borner efcacement les rgions taux-distorsion
et capacit-cot dutilisation pour ces systmes. Ces ingalits trouvent galement des
applications en sparation de sources, en dconvolution aveugle et en probabilits via
le thorme central limite en convergence dentropie relative. Cependant, leur compr-
hension actuelle fait appel des outils de la thorie de lestimation (matrices de Fisher,
variances conditionnelles) trs loigns des proccupations de codage. Dans cette
6.38. Ingalits de puissances entropiques gnralises 71
tude thorique, jai propos une nouvelle approche base sur les ingalits basiques
de la thorie de linformation comme le thorme du traitement de donnes [60], qui
permet de mieux comprendre lorigine des ingalits de puissance entropique et ouvre
de nouvelles perspectives.
A lorigine, lingalit de la puissance entropique de Shannon prend la forme
suivante :
N(
i
X
i
)
i
N(X
i
)
o les X
i
sont indpendantes et o N(X) exp(2h(X)), est la puissance entropique
et h(X)
_
p(x) log
2
p(x) dx est lentropie diffrentielle. Il y a galit dans le cas o
les X
i
sont gaussiens. Jai rcrit cette ingalit par une version plus gnrale portant
sur linformation mutuelle de Shannon et trois variables alatoires indpendantes
X, Y, Z o Z est gaussien :
I (
_
X +
_
1Y +
_
t Z; Z) I (X +
_
t Z; Z) +(1)I (Y +
_
t Z; Z)
pour tous 0 1, t 0. Cette reformulation permet dutiliser le thorme du traite-
ment de donnes sur linformation mutuelle ainsi que le dveloppement (chain rule)
I (U, V ; Z) I (U; Z) +I (V ; Z) +I (U; V [Z) pour dmontrer lingalit de la variance
entropique par un argument de perturbation gaussienne semblable celui utilis par
D. GUO, S. SHAMAI et S. VERD [GSV05], mais directement sur les quantits de
thorie de linformation utiles pour le codage sans passer par les outils destimation
paramtrique ou non paramtrique comme linformation de Fisher ou lerreur qua-
dratique moyenne minimale. Lutilisation de ces outils de thorie de linformation, via
ltablissement des rciproques de thormes de codage, permet de proposer, pour
chaque systme tudi, des limites thoriques qui servent de point de comparaison
de performances. Elle devrait aussi permettre, pour certains types de problmes
information adjacente, de guider la conception des codes de source ou de canal et du
dcodage associ.
6.38 Ingalits de puissances entropiques gnralises
Jai propos de nombreuses gnralisations du travail prcdent [61] en vue no-
tamment dapplications potentielles en codage de source ou de canal multi-terminaux.
Ce travail a bnci dchanges avec entre autres GUO Dongning (NorthWestern
Univesity), Mokshay MADIMAN (Yale) et Pablo PIANTANIDA (LSS-Suplec). Une pre-
mire gnralisation concerne des transformations linaires rectangulaires arbitraires
A(a
i , j
)
i , j
sur les composantes indpendantes X
i
, qui a t utilise par R. ZAMIR et
M. FEDER pour lanalyse des performances taux-distorsion de schmas de quantica-
tion hsitante avec codage entropique [ZF95]. Lingalit de convexit sur linformation
mutuelle prend la forme
I (AX +Z; Z)
i , j
a
2
i , j
I (X
j
+Z; Z)
o Z est un vecteur gaussien indpendant du vecteur X (X
i
)
i
.
72 Chapitre 6. Travaux de recherche et de diffusion scientique
Un deuxime axe de gnralisation porte sur le cas de variables (plus ou moins)
dpendantes. La condition sufsante de S. TAKANO et celle lgrement plus faible
dO. JOHNSON [J04] portent sur les scores individuels et les informations de Fisher
croiss des variables, et sont particulirement complexes. Jai tabli une condition plus
forte (qui implique les prcdentes) et surtout plus simple sur une matrice de Fisher,
qui implique une ingalit de puissance entropique plus forte utilisable pour rsoudre
des problmes de sparation de sources faiblement dpendantes.
Un troisime axe de gnralisation concerne la rsolution dun problme cova-
riance contrainte
_
max
X
_
h(X) h(X +Z)
_
Cov(X) C, 1
motive par la dtermination de rgions de codage multi-terminaux optimale [LV06].
Enn, une quatrime gnralisation concerne une version renforce de lingalit de
la puissance entropique (concavit de la puissance entropique) utilis par COSTA
pour dterminer la rgion de capacit dun canal gaussien interfrence [C85]. Dans
tous ces cas, loutil thorique fondamental est lingalit de convexit de linformation
mutuelle I (
_
X +
_
1Y +
_
t Z; Z) I (X +
_
t Z; Z) +(1)I (Y +
_
t Z; Z) qui
pourrait ainsi constituer le point commun des divers outils utiliss pour borner les
rgions optimales de fonctionnement de systmes de codage multi-utilisateurs dans le
cas gaussien ou proche du cas gaussien.
6.39 Information et estimation paramtrique et non paramtrique
Le dveloppement classique de Stam et Blachman sur les ingalits dinformations
de Fisher et les travaux rcents de D. GUO, S. SHAMAI et S. VERD [GSV05] ouvrent
de nouvelles perspectives thoriques sur les relations entre thorie de lestimation et
thorie de linformation via lutilisation de lidentit de Bruijn :
d
dt
h(X +
_
t Z)
t 0
1
2
tr
_
J (X)Cov(Z)
_
o Z est un vecteur gaussien indpendant de X de matrice de Fisher J (X). Dans
cette tude mathmatique [61, 62], jai tout dabord observ que le thorme du traite-
ment de donnes sapplique de faon uniforme linformation mutuelle, la divergence
de Kullback-Leibler, linformation de Fisher paramtrique (de paramtre ) et la va-
riance conditionnelle qui reprsente lerreur quadratique moyenne en estimation non
paramtrique. Plus prcisment, si X Y forme une chane de Markov, alors
I (; Y ) I (; X)
D
Y
(p
|p
t ) D
X
(p
|p
t )
J
(Y ) J
(X)
Var([Y ) Var([X).
6.40. Diffusion de la thorie de linformation 73
Cette similitude renforce limpression que ces diffrentes mesures dinformation et
destimation prsentent un lien commun fort. Le lien entre information mutuelle et
divergence est bien connu :
I (X, Y ) E
X
D(p(y[X)|p(y))
et, laide de la dnition suivante de linformation de Fisher :
J
(X)
2
t
2
D
X
(p
|p
t )
0
on obtient lidentit remarquable (en une dimension pour simplier) :
I (X +Y ; Y )
2
2
2
Y
J (X) +o(
2
)
o J (X) J
(X)
logp
2
Z
J (X +Z) +
2
Z
Var(X[X +Z) 1
(o Z est gaussien indpendant de X) qui montre quinformation de Fisher et erreur
quadratique moyenne minimale sont deux quantits complmentaires. Ceci explique
de manire trs simple la relation de D. GUO, S. SHAMAI et S. VERD [GSV05]
d
ds
I (X, Y )
1
2
Var(X[Y )
dans le cas du canal gaussien Y
_
sX +Z. Toutes ces identits qui initialement,
apparaissaient comme assez mystrieuses, sont nalement toutes imbriques entre
elles et proviennent dune mme thorie englobant estimation aux moindres carrs,
estimation paramtrique via linformation de Fisher, et thorie de linformation via
linformation mutuelle, le dnominateur commun tant constitu des proprits de la
divergence [62].
6.40 Diffusion de la thorie de linformation
La thorie de linformation (au sens Shannon theory aux USA), cest--dire
ltude des quantits et ingalits dinformation de Shannon appliques la rsolution
des problmes de codage, est une matire fondamentale qui explique les compromis
optimaux entre dbit, distorsion, taux derreurs et puissance mise dans tous les
systmes de codage passs, prsents et venir. Elle est abondamment enseign aux
USA et ailleurs mais sa diffusion en France reste assez limite (aux outils de base et
aux solutions pratiques de codage).
Je suis lauteur du livre Thorie de linformation et du codage [62], Hermes-Science-
Lavoisier (2007) qui est sans doute la seule rfrence en franais qui traite de la thorie
74 Chapitre 6. Travaux de recherche et de diffusion scientique
de Shannon ce niveau de dtail, depuis la prsentation des outils de base jusqu
la dmonstration des thormes de Shannon. Il contient en particulier deux chapitres
orients recherche sur les relations fortes entre informations de Shannon, de Fisher
et lerreur quadratique moyenne en estimation paramtrique ou non-paramtrique
aux moindres carrs ( 6.39), ainsi que sur les ingalits de variance entropique et
lidentit de Bruijn appliques la dtermination de capacit de canaux ( 6.37). Il
saccompagne galement dune autre publication, Thorie des Probabilits [63], paru
chez Hermes-Science-Lavoisier (2008) qui fournit toutes les bases requises jusquaux
lois des grands nombres et au thorme ergodique.
Ce livre constitue une rfrence utilise dans diffrents cours de Master recherche
et sa diffusion ma permis de nouer des contacts motivs par lutilisation doutils
de thorie de linformation pour des applications diverses, y compris sur des aspects
perceptifs homme-machine et de psychologie exprimentale avec Yves GUIARD (CNRS
LTCI).
CHAPITRE
7
Perspectives : recherche
et diffusion scientique
Cette liste de thmes en vrac correspond des travaux en cours ou prospectifs.
La plupart sinscrivent dans la continuation des travaux dj effectus en codage ou
en thorie de linformation (chapitre 6), et quelque uns constituent de nouveaux projets
mathmatiques pdagogiques ou de recherche.
7.1 Quantication optimale dune source quelconque en prsence derreurs
Les problmes tudis en collaboration avec Riadh ABDELFATTAH concernant la
robustication dune quantication vis vis des erreurs de transmission peuvent tre
formuls dans un cadre mathmatique prcis : tant donne un source dcrite par
une densit de probabilit (typiquement une composante sous-bande), trouver une
procdure de quantication et dtiquetage binaire minimisant lerreur quadratique
moyenne en prsence dune transmission de la reprsentation binaire de la source
dans un canal binaire symtrique. Crimmins et al [CHPP69] ont rsolu ce problme
pour une source uniforme par transforme de Fourier dnie laide de caractres
sur un groupe ablien ni. Rcemment, les travaux de NA et NEUHOFF [NN07] ont
dtermin les performances des meilleurs codes linaires dans ce contexte. Le cas
dune source quelconque apparat plus complexe et lon envisage dadapter certains
outils thoriques du cas uniforme pour trouver des conditions doptimalit, que lon
comparera aux solutions pratiques dj trouves laide de lalgorithme de Lloyd.
7.2 Conception rapide de codes de Huffman sous contraintes
La conception classique de codes de Huffmann passe par celle des distributions
de longueurs suivant la contrainte de lingalit de Kraft-McMillan. Dautres types
de contraintes conduisent des codes plus robustes vis--vis des variations des
statistiques des symboles cods, voire vis--vis de leur capacit dauto-synchronisation
ou leur dcodage information adjacente. Une perspective du travail men avec
Axel LE POUPON est llaboration dalgorithmes rapides (en nombres entiers) des
distributions de longueurs satisfaisant essentiellement tout type de contrainte utile
pour les applications. En comparaison des approches classiques qui se limitent une
contrainte de longueur maximale (par exemple [TM95]), notre approche permettrait
une alternative intressante pour des critres plus complexes comme celles voques
dans [H81].
76 Chapitre 7. Perspectives : recherche et diffusion scientique
7.3 Codage par transforme en basse rsolution
Le codage par transforme en haute rsolution et sous lhypothse que transfor-
mes danalyse et de synthse sont inverses lune de lautres est un cadre bien connu,
dans lequel la transforme de Karhunen-Love est optimale. Dans un premier temps,
avec Axel LE POUPON, nous avons gnralis cette tude 1
o
au cas basse-rsolution
et 2
o
en optimisant la transforme de synthse en prsence de bruit de quantication.
Dans le premier cas, nous avons trouv de nouvelles expressions du gain de codage
par transforme qui dpendent du taux global utilis et ncessite lapplication de tech-
niques de waterlling. Grce au lemme de Hardy-Littlewood-Plya en thorie de la
majorization, il est possible dexposer les conditions sous lesquels la transforme de
Karhunen-Love reste optimale (en particulier dans le cas gaussien pour des quanti-
cateurs invariants par changement chelle [GZV00]). Dans le deuxime cas, lutilisation
dune quantication hsitante rend une reconstruction de Wiener optimale au sens des
moindres carrs, alors que le problme est plus complexe dans le cas gnral [HR98].
De nombreuses questions restent ouvertes, dans le cas basse rsolution en prsence
de bruit de quantication non additif.
7.4 Dcodage souple des codes BCH sur les entiers cyclotomiques
On considre la famille des codes cycliques de longueur n dnis sur le corps Q
des rationnels, de corps localisateur gal lextension cyclotomique Q
n
Q[W
n
] de
Q. A laide des proprits du groupe de Galois Gal(Q
n
: Q) dordre (n) (indicateur
dEuler), il est possible dadapter toute la thorie des codes cycliques et BCH dans ce
contexte. Dans la pratique, tous les calculs sont effectus dans lanneau des entiers
cyclotomiques Z[W
n
] et ncessitent uniquement lutilisation dune arithmtique sur
les entiers, ce qui constitue un avantage vis--vis des codes BCH sur un corps ni
ou sur R. Un code BCH sur Z[W
n
] peut ainsi servir directement de modulateur et de
codeur correcteur, et il est possible de mettre en uvre des algorithmes rapide de
dcodage souple du type GMD alli lalgorithme dEuclide ou de Berlekamp. Ce
travail pourrait bncier dchanges avec Patrick SOL (CNRS LTCI) et offrirait de
nouvelles perspectives en dcodage conjoint.
7.5 numration de poids et dcodage de codes q-aires duaux
La notion de transforme de Fourier sur le corps de Galois GF(q) de la fonction
indicatrice dun code q-aire permet de dterminer simplement son code dual. Elle
dnit en particulier les transformes de Mc Williams et de Kratchouk qui permettent de
dterminer aisment certains polynmes numrateurs de poids. On gnralise ainsi
facilement les rsultats de TORTELIER [T95] relatifs la rpartition moyenne des mots
de code permettant de dduire des calculs thoriques de performances en dcodage
hard et soft. La transforme de Fourier sur GF(q) et la formule de Parseval permettent
galement de caractriser le recouvrement de lespace de Hamming par des sphres
7.6. Dcodage dun rseau de rang dcient 77
oues ainsi que les cellules de Vorono autour des mots de code; cela permet de
simplier considrablement les drivations de rgles duales de dcodage symbole par
symbole de HARTMANN et RUDOLPH et de Grard BATTAIL et al. [BDG79]. Dune faon
gnrale, la transforme de Fourier est un outil puissant permettant de transformer
toute rgle primale sur un code en une rgle duale; cette tude thorique est donc
susceptible de nombreuses extensions.
7.6 Dcodage dun rseau de rang dcient
Pour un systme MIMO en transmission descendante o le nombre dantennes la
rception est infrieur celui lmission, ou pour un systme CDMA dont le nombre
dutilisateurs dpasse le facteur dtalement ou en prsence dinterfrence co-canal
dans un systme non cod, le canal linaire H ( bruit gaussien additif) prsente une
dcience de rang, et le problme de la dtection maximum de vraisemblance revient
rsoudre un systme sous-dtermin y Hx au sens des moindres carrs sous la
contrainte que les solutions x sont entires (vivent dans un rseau de points) et de
dynamique borne. Ce type de problme apparat galement par dualit source/canal
pour la conception de systme de quantication vectorielle robuste aux erreurs de
transmission (y reprsente le vecteur de source et x le reprsentant du dictionnaire).
Dans le cas non-dcient, le rseau de points est discret et la rsolution est classique
(dcodeur par sphres, Schnorr-Euchner, etc.). La difcult est de trouver des algo-
rithmes efcaces de dcodage lorsque H prsente une dcience de rang et le rseau
de points est dense diversit donne. Dans ce travail initi en collaboration avec
JEAN-CLAUDE BELFIORE (TELECOM ParisTech), jai montr quune gnralisation de
lalgoritme dEuclide tendu permet de rsoudre le cas le plus simple (dimension 2,
rang 1, y 0). On peut envisager une gnralisation des dimensions plus leves
laide dun base de Grbner dune varit torique associe au rseau, ou en intro-
duisant un multiplicateur de Lagrange pour se ramener au cas du rang plein. Enn la
gnralisation au cas o y est quelconque devrait se ramener, comme dans le cas du
rang plein, un algorithme du type LLL gnralis.
7.7 Dcodage espace-temps sur des varits grassmanniennes
Suite une proposition de codes espace-temps en communication MIMO sym-
trique (M N antennes lmission et la rception et longueur temporelle du code
T 2M) sur une varit grassmannienne (des sous-espaces de C
T
de dimension
M) [KB03], jai labor des outils dalgbre multi-vectorielle permettant de paramtrer
efcacement lespace de codage de faon viter lemploi dun dcodeur exhaustif.
Une piste en collaboration avec JEAN-CLAUDE BELFIORE est lutilisation des exponen-
tielles extrieures de bi-vecteurs (plutt que les angles principaux) pour caractriser le
groupe de Clifford-Lipschitz spcial S dont le normalis dtermine compltement les
rotations SO(C
T
). La dtermination efcace des paramtres de cette reprsentation,
en prsence de bruit, permettrait de caractriser rapidement lespace du code en
78 Chapitre 7. Perspectives : recherche et diffusion scientique
dcodage non cohrent.
7.8 Conditions doptimalit de lalgorithme de Lloyd gnralis
Lalgorithme de Lloyd gnralis est un outil central pour loptimisation de systmes
de codage de source et de source/canal conjoint. Pouss son extrme, son principe
fondamental consiste boucler deux conditions de sous-optimalit sur le codeur
dcodeur donn et le dcodeur codeur donn jusqu convergence (garantie). La
difcult inhrente de cette approche est le choix de linitialisation en prsence de
minima locaux ; il est donc important de dterminer les conditions sous lesquelles le
minimum obtenu peut tre global. Jai tendu le rsultat classique de TRUSHKIN [T93]
concernant lquivalence et loptimalit des algorithmes de Lloyd I et II pour des densi-
ts de source log-concaves et des fonctions de cot non ncessairement quadratiques
ni mme convexes, avec application au cas symtrique et en particulier la distribution
laplacienne ainsi quau cas particulier dun quanticateur deux niveaux. Un problme
ouvert serait de gnraliser cette tude en prsence dune probabilit de transition
dun canal donn.
7.9 Allocation de puissance pour les communications multiporteuses
Les travaux effectus avec Axel LE POUPON peuvent se gnraliser dans un
contexte abstrait gnral : celle dune optimisation conjointe de sommes de cots
selon des budgets donns gaux des sommes de ressources. En particulier, il
sapplique directement aux problmes dallocation de puissance dans les systmes
multiporteuses du type DMT, et plus gnralement dans des systmes de codage
de canal multiporteuses et multi-utilisateurs avec interfrences. La dimension du
problme (taux, puissance, frquence, espace. . . ) peut saccrotre notablement en
comparaison des applications dj tudies et la linarit nest plus ncessairement de
mise. En reprenant lide domission dindex du 6.36, ventuellement itre, il serait
possible damliorer notablement les performances dalgorithmes existants grce la
dcouverte rapide de points de fonctionnement cachs. La contrainte de taux rguliers
permet galement de spcialiser certains algorithmes et damliorer leur charge de
calcul, crucial pour de telles applications. Enn, il est envisageable de gnraliser nos
approches optimales ou sous-optimales des mthodes de codage distribues.
7.10 Algorithme de recuit dterministe de Blahut-Rose
Lalgorithme de Blahut-Arimoto [B72] est un outil de thorie de linformation indis-
pensable au calcul de bornes de performances sur de nombreux systme de codage ;
il estime la capacit dun canal partir de la donne dune matrice de transition
quelconque et sadapte galement par dualit au calcul de la fonction taux-distorsion
dune source reprsente par une densit de probabilit quelconque. Par exemple, son
application des canaux gaussiens vanouissements (en mode supervis ou non)
7.11. Codage typique source ou canal et schmas hsitants 79
permet de dterminer les limites de Shannon prcises pour diffrentes types de quanti-
cation en entre et en sortie du canal, ce qui fournit des indications importantes pour
la conception de certains schma de codage. Cependant la dimension assez leve
du problme rend difcile lutilisation ad-hoc de lalgorithme de Blahut. Le travail de
Kenneth ROSE [R94] peut tre exploit pour proposer diffrentes pistes damlioration ;
initialement propos pour le calcul de la fonction taux-distorsion laide darguments
de mcanique statistique, il montre lexistence dun point limite au del duquel la limite
de Shannon concide avec la borne de Shannon obtenue simplement par des outils
de thorie de linformation, pour une source dnie par une densit ; en de du point
critique, il devrait tre possible dacclrer notablement lalgorithme de Blahut par
recuit en tenant compte de la discrtisation progressive prsente dans lexpression des
probabilits de transition optimales. Son implantation efcace et sa drivation thorique
en dehors du contexte de mcanique statistique (preuve de convergence) restent des
problmes ouverts.
7.11 Codage typique source ou canal et schmas hsitants
Lextrme diversit des solutions thoriques proposes de conception de systmes
de codage source ou canal multi-utilisateurs rend difcile une comparaison multi-
critres qui utilisent souvent des structures et des modles diffrents. Lutilisation des
outils de la thorie de linformation, dune part dingalits servant dmontrer des
rciproques de thormes de codage, dautre part de techniques de codage/dcodage
typique avec random binning permet de proposer, pour chaque systme tudi, des
limites thoriques qui servent de point de comparaison de performances. Dans ce
contexte, nous avons, avec Antonio CIPRIANO (Thals Communications) et Pablo
PIANTANIDA (LSS/Suplec), dtaill les mthodes de thorie de linformation utiles
pour lanalyse de la capacit de canaux gaussiens avec information adjacente au
transmetteur et/ou au rcepteur (notamment le problme de Gelfand-Pinsker). Jai
galement tudi ces mthodes dans la cadre du schma de Costa (dirty paper)
en tablissant un dictionnaire qui, partir dun schma typique (inutilisable en
pratique) permet de dduire un schma pratique [ESZ05] de quantication hsitante
(du type QIM) pour des applications de tatouage. Une gnralisation de ce type de
correspondance est envisageable, appliqu aux problmes de Slepian-Wolf (codage de
source distribu) ou de Wyner-Ziv (taux-distorsion avec information adjacente) [K08b].
Ce travail bncie dchanges avec Pablo PIANTANIDA et permettrait de guider la
conception des codes de source/canal et du dcodage associ pour ces problmes
fondamentaux.
7.12 Reconstruction dinformation morcelle par distance entropique
Le coefcient dindpendance de deux variables alatoires
XY
I (X,Y )
H(X,Y )
et la
distance entropique d(X, Y ) H(X, Y ) I (X, Y ) ont des proprits similaires aux
notions plus classiques de coefcient de corrlation et de distance hilbertienne (aux
80 Chapitre 7. Perspectives : recherche et diffusion scientique
moindres carrs). Jai montr quils permettent de caractriser la reconstruction parfaite
de X partir de plusieurs composantes X
i
f
i
(X), i 1 n. Par exemple, il est
ncessaire que
i
X X
i
1, et dans le cas de lindpendance information critique
i
X X
i
1, que les v.a. X
i
soient alignes avec X selon la distance entropique
(chane forte de Markov). Ce type de critre permettrait de dvelopper une thorie
du partage dinformation entre composantes dun signal (par exemple dans le cadre
dune dcomposition la ondelettes ), y compris dans le cas gnral o ces
composantes sont dtermines alatoirement. Des applications sont envisageables
dans des systmes de codage de source hirarchique description multiple.
7.13 Mathmatiques appliques au CMAP (Polytechnique)
Mon intgration dans lquipe de Stphane MALLAT (CMAP, Polytechnique) pourrait
dboucher terme sur des collaborations de recherche, en particulier sur lutilisation
de la reprsentation multi-chelle de structures gomtriques complexes dans les
images, et de reprsentations creuses par seuillage, en vue dapplications duales en
compression et en rduction de bruit. On peut envisager dintgrer dans ces approches
des contraintes de perturbations dues la transmission : par exemple, en considrant
leffet derreurs de transmission sur le signal comme un problme de dbruitage
particulier, ou en exploitant lanalyse de structures gomtriques dans les images pour
introduire une redondance structure an de mieux protger linformation essentielle
dans le cas dun canal plus ou moins dgrad y compris de faon volutive, en
exploitant la connaissance partielle de ltat du canal de transmission (exemple type
de diffusion vido sur les mobiles). Je participe galement un groupe de travail
largi (supervis par Christophe GIRAUD du CMAP) sur diffrentes applications en
classication, sparsit, signal, slection de modles, apprentissage, etc. qui pourrait
donner lieu de futures collaborations dans ces domaines.
7.14 Rexions sur les outils mathmatiques danalyse
La publication rcente de deux livres pdagogiques (thorie de linformation [62]
et thorie des probabilits [63]) mont amen adopter une dmarche pdagogique
parfois originale en comparaison des manuels existants, visant surtout la simplicit et
un accs le plus direct possible aux notions essentielles. De plus, des rencontres avec
des enseignants de classes prparatoires, de grandes coles et duniversits, favorisent
galement une rexion pdagogique sur lenseignement doutils mathmatiques au
niveau licence et master. Un premier axe de rexion est lutilisation systmatique de
la dualit source-canal pour simplier la prsentation des applications de la thorie de
linformation au codage [62] (spares des outils thoriques eux-mmes) ; un deuxime
axe, plus mathmatique, est une prsentation unie du discret et du continu (oprateur
_
) permettant dviter de nombreuses rptitions dans un expos sur la thorie
des probabilits [63] ; un troisime axe est une prsentation des variables alatoires
sans rfrence un espace universel abstrait qui amliore leur comprhension
7.15. Information des nombres premiers et fonctions additives 81
et vite un emploi abusif de la thorie de la mesure [63]. De nombreuses autres
pistes pdagogiques sont envisageables, notamment pour llaboration dun cours
danalyse (notamment de Fourier) jusquau niveau L3/M1 ; elles reprennent des ides
originales parfois oublies par inertie. Une construction du continu par dveloppements
p-adiques [65] a bnci dchanges avec Jean-Pierre DEMAILLY (Grenoble I) et
est envisageable ds le niveau lyce. Un principe de globalisation trs simple (toute
proprit locale et additive est globale) peut tre labor comme axiome de continuit
pour prouver toutes les proprits de base de lanalyse relle [T07]. Ce principe (sous
la forme dun subdivision de Cousin) peut servir de base mathmatique llaboration
de la thorie de Kurweil-Henstock de lintgrale, plus simple que celle de Riemann et
plus puissance que celle de Lebesgue, permettant par exemple dunier la prsentation
de lintgrale de Fourier de fonctions en englobant le cas de la semi-convergence.
La difcult inhrente la thorie de la mesure (distinguer les fonctions mesurables
de celles qui ne le sont pas) peut disparatre entirement en se placant dans le
modle logique de Solovay. Les valuations dintgrales sans primitive trouvent un
cadre trs gnral laide dun principe de sommation eulrienne gnralise, ce qui
permet dviter lemploi des rsidus de lanalyse complexe. Enn la gnralisation
de la transforme de Fourier aux distributions tempres dordre quelconque [57]
(essentielle notamment en traitement du signal) et la caractrisation du ltrage linaire
deviennent quasiment triviale grce lapproche algbrique esquisse dans [S67] qui
vite les considrations topologiques trs abstraites de la prsentation classique par
dualit de Schwartz.
7.15 Information des nombres premiers et fonctions additives
Il existe un lien surprenant entre les ides et mthodes de la thorie de linforma-
tion et les questions sur la distribution des nombres premiers et certaines fonctions
diviseurs arithmtiques. Il est possible en particulier damliorer certains rsultats de
I. KONTOYIANNIS [K08] vers deux directions : (a) une valuation de lcart entropique
entre des variables alatoires obtenues par dcomposition en facteurs premiers dun
nombre alatoire uniforme dans un grand intervalle, permettant de re-dmontrer le
thorme de Tchbycheff (x) =
x
logx
sous un autre angle, et dexpliquer la similitude
de comportement asymptotique entre fonctions additives et compltement additives ;
(b) un thorme central limite (dErd os-Kac) renforc par le critre de divergence de
Kullback Leibler.
7.16 Aspects de thorie de linformation en psychologie exprimentale
Aprs un effet de mode spectaculaire au cours des annes 1950 et 1960, la thorie
de Shannon a t entirement oublie dans les sciences sociales et en psychologie,
disgrce entirement gratuite au plan scientique. Japporte mon expertise auprs
dYves GUIARD (CNRS) sur diffrents sujets, dont les deux suivants. 1
o
Un projet
ANR visant analyser linteraction entre nergie et information mutuelle dans un
82 Chapitre 7. Perspectives : recherche et diffusion scientique
comportement inter-individuel humain purement comptitif sur un acte sportif spci-
que, le service dans le tennis professionnel. Cette tude passe par des modles
dinformation entre serveur et relanceur valids par lanalyse des trajectoires de balle
systmatiquement enregistres, un haut niveau de rsolution spatio-temporelle et
en 3D, sur les courts principaux des tournois internationaux par la socit Hawk-Eye.
2
o
Un projet de mise au point dun nouveau procd daccessibilit aux personnes
handicapes par slection dobjets graphiques dans les interfaces reposant sur la me-
sure de linformation mutuelle sur une fentre temporelle glissante entre le mouvement
du regard, captur avec un oscillomtre, et les mouvements de plusieurs oscillateurs
simultanement afches lcran.
Rfrences bibliographiques
[A74] B. S. ATAL, Towards determining articulator positions from the speech
signal, Speech Communication Seminar, Stockholm, Aug. 1973.
[A76] T. C. ANCHETA Jr., Syndrom source coding and its universal generalization,
IEEE Transactions on Information Theory, Vol. 22, No. 4, 1976, pp. 432
436.
[B00] F.-X. BERGOT, Dualit entre codage de source et codage de canal, Thse,
EDITE, Juin 2000.
[B72] R. E. BLAHUT, Computation of channel capacity and rate-distorsion func-
tions, IEEE Transactions on Information Theory, Vol. 18, No. 4, 1972,
pp. 460473.
[B95] B. BURKE HUBBARD, Ondes et Ondelettes ; la saga dun outil mathmatique,
Pour la Science Belin, 1995.
[B96] B. BURKE HUBBARD, The world according to wavelets ; the story of a
mathematical technique in the making, A K Peters, 1996.
[BA83] P. J. BURT and E. H. ADELSON, The Laplacian pyramid as a compact
image code, IEEE Transactions Communications, Vol. 31, No. 4, Apr. 1983.
[BB88] J. and P. BERTRAND, Time-frequency representations of broad-band si-
gnals, IEEE ICASSP88, pp. 21962199, 1988.
[BBO90] J. and P. BERTRAND and J.-P. OVARLEZ, Discrete Mellin transform for signal
analysis, IEEE ICASSP90, pp. 16031606.
[BDG79] G. BATTAIL, M. DECOUVELAERE and P. GODLEWSKI, Replication decoding,
IEEE Transactions on Information Theory, Vol. 25, No. 3, May 1979 pp. 332
345.
[C85] M. H. M. COSTA, On the Gaussian interference channel, IEEE Transactions
on Information Theory, Vol. 31, No. 5, 1985, pp. 607615.
83
84 Rfrences bibliographiques
[C89] L. COHEN, Time-frequency distributionA review, Proc. IEEE, Vol. 77,
No. 7, pp. 941981, 1989.
[CF85] G. COHEN et P. FRANKL, Good coverings of Hamming spaces with spheres,
Discrete Mathematics, Vol. 56, 1985, pp. 125131.
[CHPP69] T. R. CRIMMINGS, H. M. HORWITZ, C. J. and R. V. PALERMO, Minimization of
mean-square error for data transmitted via group codes, IEEE Transactions
on Information Theory, Vol. 15, No. 1, 1969, pp. 7278.
[D86] P. DUHAMEL, Implementation of split-radix FFT algorithms for complex,
real, and real-symmetric data, IEEE Transactions Acoust., Speech, Signal
Processing, Vol. ASSP-34, pp. 285-295, Apr. 1986.
[DL90] N. DYN and D. LEVIN, Interpolating subdivision schemes for the generation
of curves and surfaces, in Multivariate interpolation and approximation,
Birkhuser, Basel, pp. 91106, 1990.
[DL91] I. DAUBECHIES and J.C. LAGARIAS, Two-scale difference equations. I.
Existence and global regularity of solutions, SIAM J. Math. Anal., Vol. 22,
No. 5, pp. 1388-1410, 1991.
[ESZ05] U. EREZ, S. SHAMAI and R. ZAMIR, Capacity and lattice strategies for
cancelling known interference, IEEE Transactions on Information Theory,
Vol. 51, No. 11, 2005, pp. 38203833.
[F84] P. FLANDRIN, Some features of time-frequency representations of multi-
component signals, IEEE ICASSP84, pp. 41 B.4.14.4, 1984.
[D88] I. DAUBECHIES, Orthonormal bases of compactly supported wavelets,
Comm. Pure and Appl. Math., Vol. 41, No. 7, pp. 909996, 1988.
[D93] I. DAUBECHIES, Orthonormal bases of compactly supported wavelets, II.
Variations on a theme, SIAM J. Math. Anal., Vol. 24, No. 2, pp. 499519,
1993.
[DD89] G. DESLAURIERS et S. DUBUC, Symmetric iterative interpolation processes,
Constr. Approx., Vol. 5, pp. 4968, 1989.
[FV87] N. FARVARDIN et V. VAISHAMPAYAN, Optimal quantizer design for noisy
channels : An approach to combined source-channel coding, IEEE Tran-
sactions on Information Theory, Vol. 33, No. 6, 1987, pp. 827838.
[G01] A. GABAY, Codage conjoint source-canal : application aux transmissions
dimages par satellite, Thse EDITE, 2001.
[GM84] A. GROSSMANN, J. MORLET, Decomposition of functions into wavelets
of constant shape, and related transforms, Math. Phys. lecture on recent
results, L. Streit, e.d, World Scientic, Singapore, Dc. 1984.
[GSV05] D. GUO, S. SHAMAI and S. VERD, Mutual information and minimum mean-
square error in Gaussian channels, IEEE Transactions on Information
Theory, Vol. 51, No. 4, 2005, pp. 12611282.
Rfrences bibliographiques 85
[GZV00] V.K. GOYAL, J. ZHUANG and M. VETTERLI, Transform coding with back-
wards adaptive updates, IEEE Transactions on Information Theory, Vol. 46,
No. 4, pp. 1623-1633, 2000.
[H71] O. HERRMANN, On the approximation theorem in nonrecursive digital lter
design, IEEE Trans. Circuit Theory, Vol. 18, No. 3, pp. 411413, May 1971.
[H81] P. A. HUMBLET, Generalization of Huffman coding to minimize the probabi-
lity of buffer overow, IEEE Transactions on Information Theory, Vol. 27,
No. 2, 1981, pp. 230232.
[HKMT89] M. HOLSCHNEIDER, R. KRONLAND-MARTINET, J. MORLET and P. TCHA-
MITCHIAN, A real-time algorithm for signal analysis with the help of the
wavelet transform, in Wavelets, time-frequency methods and phase space,
Springer, pp. 286297, 1989.
[HR98] A. HJRUNGNES and T. A. RAMSTAD, Minimum Mean Square Error Trans-
form Coders, in Proc. The 6th IEEE Int. Workshop on Intelligent Signal
Processing and Communication Systems, Vol. 2, pp. 738-742, Melbourne,
Australia, November 1998.
[J04] O. JOHNSON, A conditional entropy power inequality for dependent va-
riables, IEEE Transactions on Information Theory, Vol. 50, No. 8, 2004,
pp. 15811583.
[K95] L. KARRAY, Compression dimages en norme innie, Thse Orsay,
sept. 1995.
[K08] I. KONTOYIANNIS, Some information-theoretic computations
related to the distribution of prime numbers, submitted,
arxiv.org/abs/0710.4076v2, 2008.
[K08b] G. KRAMER, Topics in multi-user information theory, in Foundations and
Trends in communications and information theory, Vol. 4, Nos. 45, 2007,
pp. 265444.
[KB03] I. KAMMOUN and J.C. BELFIORE, A new family of Grassmann space-time
codes for non-coherent MIMO systems, IEEE Communication letters, Vol. 7,
No. 11, Nov. 2003, pp. 528530.
[KV91] J. KOVA
CEVI
C et M. VETTERLI, Perfect reconstruction lter banks with
rational smapling rate changes, IEEE ICASSP91, pp. 17851788, May
1991.
[L09] A. LE POUPON, Mthodes optimales et sous-optimales dallocation de
ressources efcace en codage numrique, Thse EDITE, 2009.
[LV06] T. LIU and P. VISWANATH, An extremal inequality motivated by multiterminal
information theoretic problems, Proc. IEEE ISIT06, pp. 10161020, 2006.
[M73] P. MERMELSTEIN, Articulatory model for the study of speech production, J.
Acous. Soc. Amer., Vol. 53, No. 4, pp. 10701082, 1973.
86 Rfrences bibliographiques
[M84] T. G. MARSHALL Jr., Coding of real-number sequences for error correction :
A digital signal processing problem, IEEE J. Selected Areas Comm., Vol. 2,
No. 2, pp. 381392, 1984.
[M86] Y. MEYER, Ondelettes et fonctions splines, Sminaire Equations aux
drives partielles, Ecole Polytechnique, Paris, Dc. 1986.
[M89] S. MALLAT, Multifrequency channel decompositions of images and wavelet
models, IEEE Transactions in Acoustic Speech and Signal Processing,
Vol. 37, pp. 20912110, Dec. 1989.
[MD91] Z. J. MOU and P. DUHAMEL, Short-length FIR lters and their use in fast
nonrecursive ltering, IEEE Transactions in Signal Processing, Vol. 39,
pp. 13221332, Jun. 1991.
[MG72] J. L. MASSEY and O. N. GARCIA, Error-correcting codes in computer
atithmetic, in Advances in information systems science, Vol. 4, chap. 5,
pp. 273326, Plenum Press, 1972.
[MY94] S. K. MITRA and T. H. YU, A new nonlinear algorithm for the removal of
impulse noise from highly corrupted images, in IEEE ISCAS94, Vol. 3,
pp. 1720.
[NBS92] K. NAYEBI, T.P. BARNWELL III, M.J.T. SMITH, Analysis-synthesis systems
with time-varying lter bank structures, IEEE ICASSP92, Vol. IV, pp. 617
620.
[NN07] I. NA and D. L. NEUHOFF, The best linear block codes for scalar source-
channel coding, IEEE ISIT07, pp. 741745, 2007.
[PM72] T.W. PARKS and J.H. MCCLELLAN, Chebyshev approximation for nonre-
cursive digital lters with linear phase, IEEE Trans. Circuit Theory, Vol. 19,
No. 2, pp. 189194, Mar. 1972.
[R94] K. ROSE, A mapping approach to rate-distortion computation and analysis,
IEEE Transactions on Information Theory, Vol. 40, No. 6, 1994, pp. 1939
1952.
[RV93] K. RAMCHANDRAN and M. VETTERLI, Best wavelet packet bases in the rate
distortion sense, IEEE Transactions in Image Processing, Vol. 2, pp. 160
175, Apr. 1993.
[S48] C. E. SHANNON, A mathematical theory of communication, Bell System
technical journal, Vol. 27, pp. 623656, 1948.
[S67] J. S. E SILVA, Integrals and orders of growth of distributions, in Theory of
distributions, Proc. International Summer Institute, Lisbon, 1967, pp. 329
380.
[S92] M. J. SHENSA, Afne wavelets : Wedding the Atrous and Mallat Algorithms,
IEEE Transactions in Signal Processing, Vol. 40, pp. 24642482, Oct. 1992.
[SB86] M.J.T. SMITH and T.P. BARNWELL III, Exact reconstruction techniques for
tree-structured subband coders, IEEE Transactions in Acoustic Speech
and Signal Processing, Vol. 34, No. 3, Jun. 1986.
Rfrences bibliographiques 87
[SG88] Y. SHOHAM and A. GERSHO, Efcient bit allocation for an arbitrary set of
quantizers, IEEE Transactions in Acoustic Speech and Signal Processing,
Vol. 36, pp. 14451453, Sept. 1988.
[T95] P. TORTELIER, Sur lemploi de la transformation de Fourier pour lnum-
ration de poids des codes linaires en bloc, Ann. Tlcommunications,
Vol. 50, No. 910, 1995.
[TM95] A. TURPIN and A. MOFFAT, Practical length-limited coding for large alpha-
bets, Computer Journal, Vol. 38, No. 5, pp. 339347, 1995.
[T93] A. V. TRUSHKIN, On the design of an optimal quantizer, IEEE Transactions
on Information Theory, Vol. 39, 1993, pp. 11801194.
[T07] B.S. THOMSON, Rethinking the elementary real analysis course, American
Math. Monthly, June/July 2007, pp. 469490.
[V86] M. VETTERLI, Analyse, synthse et complexit de calcul de bancs de ltres
numriques, Thse, Ecole polytechnique fdrale de Lausanne, 1986.
[VH92] M. VETTERLI and C. HERLEY, Wavelets and lter banks : Theory and
design, IEEE Transactions in Signal Processing, Vol. 40, pp. 22072232,
1992.
[W83] J. K. WOLF, Redundancy, the discrete Fourier transform and impulse noise
cancellation, IEEE Trans. Communications, Vol. COM-31, No. 3, pp. 458
461, 1983.
[YOR96] Y. YOO, A. ORTEGA and K. RAMCHANDRAN, A novel hybrid technique
for discrete rate-distortion optimization with applications to fast codebook
search for SVQ, IEEE ICASSP96, Vol. 4, , pp. 20402043, 1996.
[Z99] S. B. ZAHIR AZAMI, Codage conjoint source/canal, protection hirarchique,
Thse EDITE, mai 1999
[ZF95] R. ZAMIR and M. FEDER, Rate-distortion performance in coding band-
limited sources by sampling and dithered quantization, IEEE Transactions
on Information Theory, Vol. 41, No. 1, 1995, pp. 141154.