UV_TI

UV Théorie de l’Information

Cours n° 7 :
Compression de l’information
− Codage de source avec distorsion :
−Quantification scalaire
−Quantification vectorielle
−Prediction linéaire

Cours n°7 1 Alexandrina

ROGOZAN

UV_TI

Quantification scalaire UNIFORME

Appelée aussi Conversion Analogique/Numérique :

⇒ Pas de quantification CONSTANT ( = Dynamique

MAX de l’échantillon x n / Nb de niveaux
de quantification )


⇒ Seuils et Niveaux de quantification x n (codés par
des mots binaires) EQUIDISTANTS

Cours n°7 2 Alexandrina

ROGOZAN
 UV_TI

Quantification scalaire UNIFORME

Réalisation de la quantification
Seuils de Niveaux de 
Valeur MIN quantification quantification x Valeur MAX
de x de x

Processus de codage (d’un signal à temps discret x n ) et

son décodage

i  
x n 1 x n
QS QS
Cours n°7 3 Alexandrina
ROGOZAN

UV_TI

Quantification scalaire UNIFORME

Objectif : Pour un taux de compression Q donné :
⇒ Minimiser le Bruit de quantification

( = différence
entre la « vrai valeur » d’un échantillon et
le niveau de quantification le plus proche)
  x n
x n
⇒ Minimiser l’Erreur Quadratique Moyenne EQM (ou le
RSBC pour l’image) :
•
 Augmenter le Nb. de niveaux de quantification =>
Diminution du Taux de compression
• 
Répartition non−uniforme des niveaux
de quantification
Cours n°7 4 Alexandrina
ROGOZAN
 UV_TI

Quantification scalaire NON−UNIFORME

Objectif : Pour une erreur de reconstitution (i.e.EQM)

donnée
⇒ Minimiser le Nb. de niveaux de quantification

Pas de quantification (intervalle de

quantification)VARIABLE

Niveaux de quantification ≠ milieux des l’intervalles

de quantification

Cours n°7 5 Alexandrina

ROGOZAN

UV_TI

Quantification scalaire NON−UNIFORME

EX : Densité de probabilité des niveaux de gris d’une

base de données d’images sous−exposées

p(x) : densité de probabilité de x

Valeur MIN Valeur MAX

Niveaux de
de x de x
quantification
Cours n°7 6 Alexandrina
ROGOZAN
 UV_TI

Quantification scalaire NON−UNIFORME

Quantificateur OPTIMAL => une partition (ensemble

des seuils de quantification S i ) & les
représentants (valeurs des niveaux des
quantification x i ) minimisant l’EQM :

 
 

M
2
EQM x x i p x dx

i 1 x S i

⇒ Connaissant les représentants x 1 ... x M

  , calculer la
meilleure partition S 1 ... S M

⇒ Connaissant la partition, déduire les meilleurs représentants

Cours n°7 7 Alexandrina
ROGOZAN

UV_TI

Quantification scalaire NON−UNIFORME

Quantificateurs sous−OPTIMAUX :
⇒ Algorithme de Lloyd−Max [Moreau, 1995] (algorithme
itératif vérifiant successivement les 2
conditions d’optimalité sous contrainte
log 2 M  R  )
• Ex : pour une source continue, gaussienne et sans mémoire, variance
de l’erreur de quantification 4,35 dB au dessus de la limite théorique.

⇒ Algorithme de quantification avec contrainte entropique

[Moreau, 1995] (minimisation sous contrainte


  
entropique, cad mots−code de longueur variable :
H X log 2 M R )
• Ex : pour une source continue, gaussienne et sans mémoire, variance
de l’erreur de quantification 1,53 dB au dessus de la limite théorique.
Cours n°7 8 Alexandrina
ROGOZAN
 UV_TI

Quantification scalaire NON−UNIFORME

Processus de codage (d’un signal à temps discret

x n ) et de décodage :

Transmission à
travers le canal

x n Recherche de l’indice i i Remplacement du mot−code 


du plus ressemblant signe
x i du dictionnaire

i par le signe correspondant :
x i dans le dictionnaire
x n

   
x 1 ... x M x 1 ... x M
Codage Décodage
Cours n°7 9 Alexandrina
ROGOZAN

UV_TI

Remarques sur la Quantification Scalaire

Méthode pertinente seulement si la densité de

probabilité p x de la variable x à quantifier
franchement non−uniforme et facile à formuler .

Mise en oeuvre matérielle seulement de la QS

uniforme (raisons d’universalité)

Cours n°7 10 Alexandrina

ROGOZAN
 UV_TI

QS non−uniforme adaptée au signal

Signal quantifié uniformément après avoir subi une
transformation non−linéaire :
QS uniforme

x
y Fx

y F x 
z Q y
w

F1 z
 
w F 1
z
QS uniforme
x z
px py pz pw

x y z z

QS non−uniforme
Cours n°7 11 Alexandrina
ROGOZAN

UV_TI

Quantification Vectorielle
Principe :
⇒ Quantification par groupes de signes (i.e. vecteurs
d’échantillons de parole, blocs de pixels)

Remarques :
⇒ QV n’est pas qu’une simple généralisation de la QS

⇒ Permet de prendre directement en compte la corrélation

existante entre les signes successifs d’un signal

Cours n°7 12 Alexandrina

ROGOZAN
 UV_TI

Exemple de Quantification Vectorielle

Codage d’une image par QV aprèsdécoupage de
l’image en blocs de taille 4x4 (2x2 ou 8x8) :
Transmission à
travers le canal
Recherche de l’indice i i Remplacement du mot−code
Bloc

original du plus ressemblant bloc  Bloc
i par le bloc correspondant : rendu
B i du dictionnaire B i dans le dictionnaire

1 1.
.
. .
. .
M M

Cours n°7
Codage 13
Décodage Alexandrina
ROGOZAN

UV_TI

Quantification Vectorielle d’une image

Taux de compression pour le codage d’une image par
QV au moyen d’un dictionnaire de M blocs (après
découpage de l’image en blocs de k pixels,
chaque pixel étant codé par n bits)

Q 
kn kn
R  log 2 M
Pour des mots−code de
longueur constante

Propriété : Le taux de compression Q augmente

avec le rétrécissement de la taille M du dictionnaire
 . régulière mais
au prix d’une augmentation (assez
pas linéaire) de la distorsion
Cours n°7 14 Alexandrina
ROGOZAN
 UV_TI

Détermination du dictionnaire pour une QV

Sur une base d’apprentissage de manière à :
⇒ Augmenter la qualité (ou minimiser la distorsion) :
− Initialisation au moyen de l’algorithme de Linde, Buzo et Gray
[Moreau, 1995]
− Plusieurs itérations au moyen de l’algorithme de Lloyd−Max
généralisé au cas vectoriel

⇒ Augmenter la rapidité du codage

− Rangement des blocs dans le dictionnaire dans une structure
arborescente

⇒ Augmenter l’adaptabilité du dictionnaire à la statistique

locale du signal (non−stationnarité du signal oblige)
Cours n°7 − Modification du dictionnaire
15 en temps réel Alexandrina
ROGOZAN

UV_TI

Remarques sur la QV

+ Bonne qualité de restitution pour un taux de

compression donnée

+ Simplicité du décodage

− Temps de calcul au codage trop important

⇒ Non−adaptée au codage des images animées en temps réel

Cours n°7 16 Alexandrina

ROGOZAN
 UV_TI

Prédiction linéaire

Adaptée au codage et décodage en temps réel, en

raison de sa simplicité
⇒ Norme G.721 pour les signaux téléphoniques : Modulation
par Impulsions Codées Différentielles Adaptatives (1984)

Peut−être aussi adaptée pour la compression des

images animées (prédiction non−linéaire ou
compensation de mouvement) [Guillois, 1998]

Cours n°7 17 Alexandrina

ROGOZAN

UV_TI

Prédiction linéaire
Propriété : Décorréler le signal avant de le quantifier

Principe : Considérer la corrélation entre les signes

(échantillons) voisins
⇒ Prédire la valeur du nème signe x n à partir des valeurs :
  
x n 1 , x n 2 , ... , x n l des l signes précédents

prédiction
Objectif : Minimiser l’erreur de
(différence entre la valeur x n prédite et la
«vrai valeur» x n )

⇒ Valeur faible de nécessitant moins de bits pour son
codage que la valeur directe de x n
Cours n°7 18 Alexandrina
ROGOZAN
 UV_TI

Prédiction linéaire
Valeur de la prédiction du nème signe x n obtenue par


x n
combinaison linéaire des l signes précédents :
a1 x n 1 ! " a2 x n 2 ! " ..." al x n l !
Choix d’un jeux de coefficients a1 , a 2 ,..., a l assurant en # 2


moyenne, sur un signal donné, une erreur quadratique
minimale
⇒ Coeff. issus du filtre numérique de Wiener [Moreau, 1995]

Choix de l étant un compromis entre la qualité de la prédiction

et le temps de calcul :

⇒ Généralement l 5 , voire même l 3 pour les images,
$ 
assurent des valeurs de suffisamment petites
Cours n°7 19 Alexandrina
ROGOZAN

UV_TI

Prédiction linéaire
Codage −utilisation d’un filtre numérique
d’analyse ayant pour fonction de transfert:
1% A z & 1' a1 z ( 1
' ... ' al z( l

Décodage −connaissance des coefficients a i

utilisés par le codeur et des valeurs x n i
des l premiers signes, afin de calculer :

l
v n )! * ai x n i !
+
i 1

,  1 ,- x
x n + i + n
− QS QS +
v n
Az
Boucle ouverte
Cours n°7 20 Alexandrina
ROGOZAN
 UV_TI

Exemple de Prédiction linéaire : le MICDA

Modulation par Impulsions Codées Différentielles
Adaptatives (l=1)

  $
⇒ x n x n 1 & x n  
x n 1

Niveau de x n

/
n 1 n. Temps discret

Cours n°7 21 Alexandrina

ROGOZAN

UV_TI

Prédiction linéaire

Codage de l’erreur de prédiction

0
⇒ Fondé sur l’utilisation de sa densité de probabilité :
(gausienne à écart−type d’autant plus faible
que la prédiction est meilleure)

− Réquantification
− Codes à Longueurs Variables => codage sans perte
possible (norme JPEG sans perte actuelle)

Cours n°7 22 Alexandrina

ROGOZAN