VIII Formes quadratiques binaires (traité si le temps le permet)

Référence principale : number Theory, Mathews.

VIII.1 Représentation d’un nombre par une forme quadratique

VIII.1.a Le problème et sa reformulation
Problème : on se donne une forme quadratique en 2 variables à coefficients entiers, par
exemple q(x, y) = 14x2 − 27xy + 92y 2 , et on voudrait savoir quels nombres entiers n on peut
écrire sous la forme n = q(x, y) avec x, y ∈ Z.
Ce problème généralise la question de savoir quels entiers sont somme de deux carrés.
Définition VIII.1. Une forme quadratique q à coefficients entiers est une forme quadratique de
la forme (x, y) 7→ ax2 + bxy + cy 2 avec a, b, c ∈ Z. On la représente par le triplet (a, b, c).
Définition VIII.2. On dit que n est représenté par la forme quadratique q s’il existe (x, y) ∈ Z2
tq n = q(x, y).
On dit que n est proprement représenté par q si en plus, x, y sont premiers entre eux.
Le problème de savoir si n est proprement représenté par q est plus facile à traiter, et c’est
ce problème qu’on va étudier. Le problème de savoir si n est représenté (proprement ou pas) s’y
ramène : en effet, si n = q(x, y) avec x ∧ y = d, alors d2 |n et dn2 = q(x/d, y/d) est proprement
représenté par q. Par exemple, pour savoir si 180 = 22 .32 .5 est représenté par q, il suffit de savoir
si l’un des nombres 180, 180/22 , 180/32 , 180/(22 .32 ) est proprement représenté par q.
Si on voit q comme une fonction de Z2 → Z, le fait que n est représenté par q signifie que n
est dans l’image de q.
Lemme VIII.3. n est proprement représenté par q ssi il existe une base ⃗u, ⃗v de Z2 telle que
q(⃗u) = n.
Ceci découle immédiatement du lemme suivant :
 
x
Lemme VIII.4. Pour un vecteur ⃗u = ∈ Z2 , les énoncés suivants sont équivalents
y
1. x, y sont premiers entre eux
2. il existe ⃗v ∈ Z2 tel que (⃗u, ⃗v ) soit une Z-base de Z2
 
1
3. il existe M ∈ SL2 (Z) telle que M. = ⃗u.
0

 1⇒
Preuve. 3 : Si x, y sont premiers entre eux, alors par Bézout il existe a, b ∈ Z tq ax + by = 1,
x −b
donc ∈ SL2 (Z).
y a
   
1 0
3 ⇒ 2 : si M. = ⃗u, alors ⃗v = M. convient puisque (⃗u, ⃗v ) est l’image de la base
0 1
canonique par la matrice M ∈ SL2 (Z), et la multiplication par M est un automorphisme de Z2
puisque le déterminant de M est inversible dans Z.
2 ⇒ 1 : Si (⃗u, ⃗v ) est une Z-base de Z2 , alors c’est l’image de la base canonique par une
x a
matrice M ∈ GL2 (Z), c’est à dire M = . Comme det(M ) = bx − yb = ±1, x ∧ y = 1.
y b

VIII.1.b L’action (à droite) de SL2 (Z)

 
α β
Le groupe GL2 (Z) agit sur les formes quadratiques. Une matrice M = ∈ SL2 (Z)
γ δ
   
x αx + βy
définit une application µM : Z2 → Z2 par multiplication : 7→ , et si q : Z2 → Z
y γx + δy

96
 2 2 ′ ′
est une   quadratique ax + bxy + cy , on peut regarder la forme q = q ◦ µM i.e. q (x, y) =
forme
x
q ◦ µM ( ) = q(αx + βy, γx + δy) = a(αx + βy)2 + . . . qui est bien une forme quadratique
y
à coefficients entiers. Ceci définit une action à droite de GL2 (Z) sur l’ensemble des formes
quadratiques binaires à coefficients entiers.
On a l’habitude de représenter une forme quadratique (ou la forme bilinéaire  symétrique

a b/2
associée) par une matrice symétrique : à q = (a, b, c) correspond la matrice Q = car
b/2 c
la forme bilineaire symétrique associée ⟨·, ·⟩q est
   ′    
x x ′ ′ ′ ′ t x x
⟨ , ′ ⟩q = axx + b/2(xy + x y) + cyy = Q .
y y y y
Notons que si b est impair, Q n’est pas à coefficients entiers. La matrice de q ′ = q ◦ µM est
Q′ = t M QM , qui est l’action usuelle (à droite) du groupe linéaire sur les matrices symétriques.
On peut alors réinterpréter le fait qu’un entier est proprement représenté par q en termes de
cette action. Le lemme VIII.4 implique immédiatement :
Lemme VIII.5. q(x, y) représente proprement n ssi il existe une matrice M ∈ SL2 (Z) tq la forme
quadratique q ′ = q ◦ µM vérifie q ′ (1, 0) = n.
Matriciellement, q représente proprement n si et seulement s’il existe M ∈ SL2 (Z) tq n est
le coefficient en haut à gauche de la matrice t M QM .
Remarque VIII.6. En terme de triplet, dire que q ′ (1, 0) = n signifie que q ′ est de la forme
q ′ = (n, ∗, ∗).
Définition VIII.7. On dit que q ′ est équivalente a q s’il existe M ∈ SL2 (Z) tq q ′ = q ◦ M .
Jusque là, on a fixé q et fait varier x, y pour savoir si on pouvait représenter n. Il s’avère plus
efficace de faire varier q (en faisant agir SL2 (Z)) !

VIII.1.c Discriminant
Définition VIII.8. On appelle discriminant de la forme quadratique q = (a, b, c) l’entier disc(q) =
b2 − 4ac.
 
a b/2
Note : disc(q) = −4 det( ).
b/2 c
Lemme VIII.9. Le discriminant est invariant par l’action de GL2 (Z) : disc(q ◦ µM ) = disc(q).
En effet, disc(q◦M ) = −4 det(t M QM ) = det(M )2 ×(−4 det(Q)) = disc(q) puisque det(M ) =
±1.
Note : modulo 4, disc(q) = b2 , donc disc(q) = 0 ou 1 mod 4 : c’est 0 si b est pair et 1 si b est
impair. Comme disc(q) est invariant par SL2 , la parité de b est invariante par SL2 .
On remarque que q est définie (positive ou négative) ssi son déterminant est > 0, ssi disc(q) <
0 ssi l’equation ax2 + bx + c = 0 n’a pas de solution réelle (elle est donc définie positive si
disc(q) < 0 et a > 0). Au contraire, si disc(q) > 0, q est de signature (1, 1), elle est indéfinie.
b
Si disc(q) = 0, alors (en supposant a non nul), q = a(x + 2a y)2 donc 4aq = (2ax + by)2 , et
savoir si n est représenté par q se ramène a des problèmes de divisibilités faciles.

VIII.2 Formes définies positives

Dans la suite du chapitre, on s’intéresse au cas où q définie positive. Le cas ou q est définie
negative est identique, on s’y ramène en changeant q en −q (et n en −n)... Par contre, le cas
des formes indéfinies est différent (voir par exemple [Mathews]).
Bien sûr, toute forme équivalente à une forme définie positive est définie positive puisque q
définie positive ssi q(R2 ) ⊂ R+ et disc(q) < 0. Notons que dans ce cas, les coefficients a, c de q
sont tous les deux positifs.

97
VIII.2.a Réduction des formes définies positives
On va essayer de simplifier le plus possible notre forme quadratique par des changements de
base, i.e. par l’action de SL2 (Z). On va essayer de diminuer le coefficient b le plus possible en
valeur absolue, c’est à dire en un certain sens, à choisir une base la plus orthogonale possible
pour q.  
1 δ
Le changement de base le plus simple consiste à appliquer la matrice M = i.e. de
0 1
faire (e1 , e2 ) 7→ (e1 , e2 + δe1 ). Les coefficients de la nouvelle matrice sont

⟨e1 , e1 ⟩q = a, ⟨e1 , e2 + δe1 ⟩q = δa + b/2, ⟨e2 + δe1 , e2 + δe1 ⟩q = c + 2δb/2 + δ 2 a

donc la forme quadratique q = (a, b, c) se transforme en q ′ = q ◦ µM = (a, b + 2δa, c + δb + δ 2 a).

On choisit δ de sorte que |b + 2δa| soit minimal : ceci revient à prendre δ = [ −b 2a ] (entier le
plus proche), de sorte que |δ + 2a b
| ≤ 1/2. Ceci garantit que |b + 2δa| ≤ a, i.e. q ′ = (a, b′ , c′ )
vérifie |b′ | ≤ a′ . Si |b| > a, alors |b′ | ≤ a < |b|. Si |b| < a, alors δ = 0, et q ′ = q (on ne fait rien).
Si |b| = a, − 2a b
= ± 21 , on peut choisir δ = 0 ou ±1, mais on a toujours |b′ | = |b|.
Ensuite, on est donc dans la situation où |b| ≤ a, et si |b| > c, on peut recommencer  en faisant

′ 1 0
le changement de base (e1 , e2 ) 7→ (e1 + δ e1 , e2 ) correspondant a la matrice M = . On
δ′ 1
peut ensuite itérer ces 2 opérations jusqu’à ce qu’on ne puisse plus diminuer |b| (c’est un entier !).
On obtient alors une forme (ã, b̃, c̃) équivalente à q et telle que |b| ≤ a et |b| ≤ c̃.
Quitte à faire quelques ajustements, on obtient une forme réduite :
Définition VIII.10. On dit que q(x, y) = ax2 + bxy + cy 2 est une forme réduite si |b| ≤ a ≤ c,
avec de plus b ≥ 0 si une des inégalités est une égalité : |b| = a ou a = c.
Théorème VIII.11. 1. Toute forme définie positive est équivalente à une forme réduite et une
seule.
2. Étant donné un entier ∆ < 0, il n’y a qu’un nombre fini de formes quadratiques réduites
définies positives de discriminant ∆
Preuve. On démontre l’existence. On a vu qu’en itérant les opérations ci-dessus, on pouvait
supposer |b| ≤ a et |b| ≤ c.Echanger les variables (x, y) permet d’échanger a  et c, mais
 c’est
0 1 0 1
appliquer la matrice qui est de déterminant -1. Donc on applique , ce qui
1 0 −1 0
transforme q = (a, b, c) en (c, −b, a), et qui permet d’échanger c et a quitte à changer le signe de
b. On obtient ainsi |b| ≤ a ≤ c.
Si a = c on peut re-effectuer cette operation pour garantir b ≥ 0. Si |b| = a avec b < 0 c’est
qu’on a b = −a, donc q = (a, −a, c), et en faisant l’operation (a, b, c) 7→ (a, b + 2δa, c + δb + δ 2 a)
avec δ = 1, on obtient la forme (a, a, c). Ceci montre l’existence.
On laisse l’unicité en exo.
Preuve de la finitude du (2) : On veut borner les trois coefficients a, b, c. On commence par
borner a : on a ∆ = b2p − 4ac avec |b| ≤ a ≤ c donc 4a2 ≤ 4ac = b2 − ∆ ≤ a2 − ∆ donc
2
3a ≤ −∆ = |∆|, et a ≤ |∆|/3.
La borne sur a donne une borne sur b, il reste donc à borner c : On a 4ac = b2 − ∆ et a ≥ 1
2 −∆ 2
donc c ≤ b 4a ≤ b −∆4 qui est borné.

Partie laissée en exo

Preuve de l’unicité. On utilise le lemme suivant :
p
Lemme VIII.12. Si q est réduite de discriminant ∆, alors a ≤ |∆|/3.
De plus pour tout (x, y) ∈ Z2 \ 0, q(x, y) ≥ a = q(1, 0). Les seuls cas d’égalité sont les
suivants :

98
 — (x, y) = (±1, 0),
— (x, y) = (0, ±1) et c = a
— (x, y) = ±(1, 1) et a = b = c (i.e. q est un multiple de x2 + xy + y 2 ).
Supposons a ̸= c et que q ′ = q ◦ µM est aussi réduite. Dans ce cas les deux vecteurs ±(1, 0)
sont les seuls vecteurs où q atteint son minimum sur Z2 \{0}. Donc q ′ a aussi un unique minimum
(au signe pres), et comme q ′ est réduite, ±(1, 0) réalise ce minimum, donc M doit envoyer e1 sur
±e1 . Quitte  a composer
 par −id (qui laisse q et q ′ inchangées), on peut supposer que M.e1 = e1 ,
1 δ
i.e. M = , donc q ′ = (a, b + 2δa, c + δb + δ 2 a). Si δ ̸= 0, alors |b′ | = |b + 2δa| ≥ 2a − |b| > a
0 1
ce qui contredit q ′ réduite.
Dans le cas qui reste, on peut supposer a = c ET a′ = c′ et donc b, b′ ≥ 0. Si M envoie
e1 sur e1 , le calcul ci-dessus donne une inégalité stricte sauf si a = |b|, et donc b′ = a(1 + 2δ),
ce qui force b′ = a puisque 0 ≤ b′ ≤ a. L’autre possibilité est que M envoie e1 sur  ±e2 , et
0 −1
en multipliant M par −id on peut alors supposer que e1 7→ e2 , donc M = et la
1 δ
forme quadratique q = (a, b, a) se transforme en (a, −b + 2δa, a − δb + δ 2 a). Si δ ̸= 0, alors
|b′ | = | − b + 2δa| ≥ 2a − |b| > a dès que b ̸= a. Donc b = a, b′ = a(−1 + 2δ) donc δ = 1 et
c′ = a(1 − δ + δ 2 ) = a, donc q ′ = q. Si δ = 0, (a, b, a) 7→ (a, −b, a), donc réduit seulement si
b = 0, auquel cas q ′ = q.
Il reste le cas où M envoie (1, 0) sur (1, 1), donc q ′ = (a, a, a) a 3 vecteurs minimisants donc
q aussi, donc q = (a, a, a) = q ′ .

Preuve du lemme VIII.12. ∆ = p b2 − 4ac avec |b| ≤ a ≤ c donc 4a2 ≤ 4ac = b2 − ∆ ≤ a2 − ∆

donc 3a2 ≤ −∆ = |∆|, et a ≤ |∆|/3.
En utilisant |xy| ≤ min(x2 , y 2 ), on a puisque a, c > 0 :

q(x, y) ≥ ax2 − |bxy| + cy 2 ≥ (a − |b| + c) min(x2 , y 2 )

Si x et y sont non nuls, on obtient q(x, y) ≥ a − |b| + c ≥ a avec égalite seulement si a = |b| = c.
Dans ce cas b ≥ 0, donc q(x, y) = a(x2 + xy + y 2 ), et q vaut a pour ±(1, 0), (0, 1), (1, 1). Sinon,
x ou y est nul, et q(x, y) = ax2 ≥ a [et on a égalite qu’en ±(1, 0)] ou q(x, y) = cy 2 ≥ c ≥ a, et
on n’a égalite que si y = ±1 et c = a.

VIII.2.b Trouver les formes de discriminant ∆ représentant n

On va donner une méthode pour trouver toutes les classes d’équivalence de formes q de
discriminant ∆ représentant proprement n. En d’autres termes, on veut trouver q1 , . . . , qk de
discriminant ∆ qui représentent proprement n et telles toute forme binaire définie positive q de
discriminant ∆ qui représente proprement n est équivalente à un qi (au moins). Ceci s’applique
sans supposer q définie positive.

Théorème VIII.13. Soit n ∈ N \ {0} et ∆ ∈ Z. Alors il existe une forme quadratique q de

discriminant ∆ qui représente proprement n si et seulement si ∆ est un carré dans Z/4nZ.
De plus, soient b1 , . . . , bk ∈ J1, 4nK les éléments tels que b2i ≡ ∆ mod 4n. Pour i ≤ k,
soit ci ∈ Z tq b2 − 4nci = ∆, et soit qi la forme quadratique qi = (n, bi , ci ). Alors une forme
quadratique q de discriminant ∆ représente proprement n si et seulement si elle est équivalente
à l’une des formes q1 , . . . , qk .

Preuve. On sait que si q représente proprement n, il existe q ′ ∼ q tq q ′ (1, 0) = n i.e. tq q ′ =

(n, b, c). Donc q existe ssi il existe b, c tq (n, b, c) soit de discriminant ∆, i.e. b2 − 4nc = ∆. On
voit que l’existence de tels entiers b, c est équivalente au fait que ∆ est un carré module 4n.
Pour le second point, soit q une forme de discriminant ∆ qui représente proprement n. On sait
que q est équivalente à une forme telle que q(1, 0) = n. On a donc q = (n, b, c) avec b2 − 4nc = ∆.

99
En particulier, b2 ≡ ∆ mod 4n donc b est égal  à l’un
 des bi mod 4n, i.e. b = bi + 4nl pour un
1 δ
certain entier l. L’action de la matrice M = transforme (n, b, c) en (n, b + 2δn, c′ ), donc
0 1
en prenant δ = 2l, on se ramène au cas où q = (n, bi , c′ ). Mais c′ est maintenant complètement
déterminé : c′ = (b2i − ∆)/4n, donc c′ = ci et q = qi .

Remarque VIII.14. Si bi vérifie b2i ≡ ∆ mod 4n, alors b′i = bi + 2n aussi ; de plus, comme on l’a
vu dans la preuve, les formes quadratiques (n, bi , ci ) et (n, b′i , c′ ) (avec c′ tel que b′2 ′
i − 4nc = ∆)
sont équivalentes. Donc dans la liste des bi du théorème, on peut ne garder que ceux qui sont
dans l’intervalle J1, 2nK.

VIII.2.c Application à la représentation d’un nombre par une forme binaire définie positive
On déduit de ce qu’on a vu une méthode pour déterminer si un entier n ≥ 1 est proprement
représenté par une forme binaire définie positive q.
1. Calculer le discriminant ∆ de q
2. Déterminer les formes q1 , . . . , qk de discriminant ∆ représentant n données par le théorème
VIII.13
3. Pour chaque i ≤ k, déterminer l’unique forme réduite qi′ ∼ qi
4. Déterminer d’autre part l’unique forme réduite q ′ ∼ q
5. Si q ′ = qi′ pour un certain i ≤ k, q ∼ qi et donc q représente n proprement. Si q ′ ∈ /
′ ′
{q1 , . . . , qk }, alors q n’est équivalente à aucune des formes q1 , . . . , qk et q ne représente
donc pas n proprement.
Remarque VIII.15. A l’étape 2, il se peut qu’il n’y ait pas de qi (si ∆ n’est pas un carré modulo
4n) ! Dans ce cas q ne représente pas n, et en fait, il n’y a aucune forme de discriminant ∆ qui
représente n.

100