Aspects des systemes dynamiques

Des equations di erentielles aux iterations de fonctions Journees X-UPS 1994

Juillet 1994
F{91128 Palaiseau Cedex Tel. : ((33)) (1) 69 33 40 88 Fax : ((33)) (1) 69 33 30 19 Internet : secret@orphee.polytechnique.fr

Sommaire
Preface : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : iii Bibliographie : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : iv

Sur quelques problemes de la theorie des systemes dynamiques

V.I. Arnold : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 1 Les faux espaces R4 et les systemes dynamiques : : : : : : : : : : : : : 2 La topologie pseudoperiodique : : : : : : : : : : : : : : : : : : : : : : : 3 Les nombres des points periodiques et des cycles limites : : : : : : : : : 4 Complexite topologique asymptotique des intersections : : : : : : : : : 5 Croissance des nombres de Milnor en dynamique holomorphe : : : : : : 6 La variante in nitesimale du 16e probleme de Hilbert et les integrales abeliennes : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 7 La materialisation des resonances en dynamique holomorphe : : : : : : 8 Irresolubilite analytique et irresolubilite geometrique dans la theorie du chaos : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Bibliographie : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : P. Arnoux : : : : : : : : : : : : : : : : : : : : : : : : : 1 Qu'est-ce que la complexite d'une suite ? : : : : : : 2 L'exemple le plus simple : les suites sturmiennes : : 3 Suites engendrees par des systemes dynamiques : : 4 Un exemple : les di erences secondes de la suite n2 5 Un autre exemple : les suites de billard cubique : : 6 Suites de billard : la conjecture de Tamura : : : : : 7 Quelques autres resultats : : : : : : : : : : : : : : : Bibliographie : : : : : : : : : : : : : : : : : : : : : : :

1 1 1 3 4 6 8 10 12 15 19 19 21 25 26 28 30 31 32

Complexite de suites a valeurs dans un ensemble ni : quelques exemples

: : : : ] : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : :

L'ensemble de Julia depend-il contin^ ument du polyn^ ome?

I Proprietes de continuite : : : : : : : : : : : : : : : : : : : 1 La metrique de Hausdor : : : : : : : : : : : : : : : 2 Applications semi-continues a valeurs dans Comp (E ) 3 Points periodiques : : : : : : : : : : : : : : : : : : : : 3.1 Multiplicateur : : : : : : : : : : : : : : : : : : : : 3.2 Cycles attractifs : : : : : : : : : : : : : : : : : : : 3.3 Cycles paraboliques : : : : : : : : : : : : : : : : : 3.4 Cycles indi erents irrationnels : : : : : : : : : : : i

A. Douady : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 35

: : : : : : : :

: : : : : : : :

: : : : : : : :

: : : : : : : :

: : : : : : : :

: : : : : : : :

: : : : : : : :

: : : : : : : :

: : : : : : : :

: : : : : : : :

36 36 37 39 39 40 41 42

4 5 6 7 8

Ensemble de Julia rempli et ensemble de Julia d'un polyn^ ome Semi-continuites de K (f ) et J (f ) en fonction de f : : : : : : : L'e et des bassins attractifs : : : : : : : : : : : : : : : : : : : L'e et des disques de Siegel : : : : : : : : : : : : : : : : : : : Un theoreme de Ma~ ne-Sad-Sullivan : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : :

42 44 47 48 50 51 51 52 52 55 57 58 61 62 64 66 66 68 70 70 72 74 76

II L'implosion parabolique : : : : : : : : : : : : : : 9 Un exemple parabolique typique : : : : : : : : 10 Le batteur a ufs : : : : : : : : : : : : : : : : 11 Scenarios imaginables : : : : : : : : : : : : : : 12 L'implosion : : : : : : : : : : : : : : : : : : : 13 La raison des discontinuites : : : : : : : : : : 14 Coordonnees de Fatou : : : : : : : : : : : : : 15 Prolongement des coordonnees de Fatou : : : 16 Persistance des coordonnees de Fatou : : : : : 17 La phase : : : : : : : : : : : : : : : : : : : : : 18 Applications de Lavaurs : : : : : : : : : : : : 19 Les ensembles K (f0 g ) et J (f0 g ) : : : : : : 20 Le cas ou le point critique s'echappe : : : : : 21 Le cas ou est reel : : : : : : : : : : : : : : : 22 Et pour " non reel? : : : : : : : : : : : : : : : 23 L'elephant limite : : : : : : : : : : : : : : : : 24 Autres polyn^ omes ayant un cycle parabolique Bibliographie : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

Du billard convexe aux geodesiques du tore

P. Le Calvez : : : : : : : : : : : : : : : : : : : : : : : : : : : 1 Le billard convexe : : : : : : : : : : : : : : : : : : : : : : 2 Applications deviant la verticale : : : : : : : : : : : : : : a Un exemple explicite : : : : : : : : : : : : : : : : : : b Au voisinage d'un point xe elliptique : : : : : : : : : c Le pendule entretenu : : : : : : : : : : : : : : : : : : 3 Dynamique des homeomorphismes du cercle : : : : : : : 4 Orbites periodiques des applications deviant la verticale : 5 Etude des con gurations minimales : : : : : : : : : : : : 6 Geodesiques minimales du tore de dimension 2 : : : : : : 7 Ce qui se passe en dimension superieure : : : : : : : : : Bibliographie : : : : : : : : : : : : : : : : : : : : : : : : : :

: 79 : 80 : 84 : 85 : 85 : 86 : 87 : 89 : 92 : 99 : 106 : 115

ii

Preface
De plus en plus, les mathematiques exigeront que l'on ait le courage d'assumer leurs consequences M. Crichton, Jurassic Park, septieme iteration

La theorie des systemes dynamiques avait initialement pour objet l'etude du comportement qualitatif des trajectoires d'un champ de vecteurs sur une variete (espace des phases en physique par exemple). On s'interesse ensuite au ot au temps 1 de ce champ de vecteurs : c'est un di eomorphisme de la variete. On remplace l'etude des trajectoires par l'etude du comportement des iteres de ce di eomorphisme : une discretisation du temps en quelque sorte (voir 1] ou 3] par exemple). Un tel di eomorphisme peut aussi appara^tre comme application de premier retour d'une trajectoire au voisinage d'une trajectoire periodique. Par extension, l'etude du systeme dynamique associe a une application f d'un espace dans lui-m^ eme est celle du comportement de certaines parties de l'espace sous l'e et des iterees f f f lorsque le nombre d'iterations tend vers l'in ni. Les textes presentes dans ce volume abordent ces di erents aspects. Vladimir Arnold propose une liste de questions encore non resolues dans la theorie. Une des questions importantes, et qui est aussi abordee sous un autre angle dans le texte de Patrice Le Calvez, est la recherche d'orbites periodiques (ou de points periodiques dans le cas discret) pour un systeme dynamique. Adrien Douady s'interesse a la variation des ensembles de Julia en fonction du polyn^ ome d'une variable complexe qui les de nit. Le livre 5] est une bonne introduction au sujet. En n Pierre Arnoux s'interesse a des systemes dynamiques discrets, representes par des suites. Le lecteur curieux trouvera de bons articles d'introduction dans l'Encyclopedia Universalis, par exemple 4]. Nicole Berline et Claude Sabbah

iii

Bibliographie
1] V.I. Arnold, Equations di erentielles ordinaires, Mir, Moscou, 1974. 2] V.I. Arnold, Chapitres supplementaires de la theorie des equations di erentielles ordinaires, Mir, Moscou, 1987. 3] V.I. Arnold, Methodes mathematiques de la mecanique classique, Mir, Moscou. 4] A. Chenciner, Systemes dynamiques di erentiables, Encyclopedia Universalis. 5] H.-O. Peitgen, P. Richter, the Beauty of Fractals, Springer-Verlag, 1986.

Les jours de beau temps je pousserai jusqu'au jardin pour communiquer avec les vegetaux et, qui sait, peut-^ etre dans trois ans parlerai-je chou- eur couramment ? Cakes

iv

Sur quelques problemes de la theorie des systemes dynamiques

Vladimir I. Arnold

\Si j'ai fait quelque chose en mathematique, ce n'est pas a cause de savoir beaucoup, mais plut^ ot parce que j'ignorais beaucoup" disait I.G. Petrovski, un de mes ma^tres en mathematique. \Mais il a ete toujours tres important ajoute-t-il de savoir qu'un probleme n'est pas encore resolu". Les huit problemes qui suivent sont, a ma connaissance, ouverts, et j'espere qu'il vous serait utile de le savoir.

1. Les faux espaces R4 et les systemes dynamiques Est-ce qu'on rencontre les faux R4 (varietes di erentiables homeomorphes mais pas di eomorphes a l'espace lineaire R4) dans l'analyse habituelle ?
Je propose une construction naturelle, qui en principe decrit toutes les fausses varietes R4 par des formules explicites ( 1]). Considerons un champ de vecteurs dans l'espace lineaire R5.

La variete des orbites d'un tel champ (convenablement choisi) est di eomorphe a n'importe quelle fausse variete R4 donnee.

En e et, le produit cartesien du faux R4 avec R est di eomorphe a l'espace R5 lineaire. Ainsi chaque faux R4 peut ^ etre de ni par 5 fonctions di erentiables de 5 variables, par les composantes du champ.
vecteurs a composantes polynomiales ? trigonometriques ? analytiques ? elementaires ? Peut-on ecrire explicitement un tel champ de vecteurs ?
Probleme. | Est-ce-qu'on peut obtenir un faux

R4 a partir d'un champ de

2. La topologie pseudoperiodique
La topologie pseudoperiodique est motivee par les problemes de la physique quantique des solides et par la geometrie des quasicristaux, par l'etude des 1-formes fermees mais pas exactes, par l'etude du melange lent et des \toiles d'araignee stochastiques" dans les systemes de Hamilton integrables et presque integrables.
cation lineaire et d'une application periodique.
Definition. | Une application pseudoperiodique est la somme d'une appli-

2 Exemple. | L'expression

V.I. Arnold

f (x y) = ax + by + sin x + cos y
de nit une fonction pseudoperiodique dans R2 (a reseau des periodes 2 Z2).
par une application pseudoperiodique.
Definition. | Une variete pseudoperiodique est l'image inverse d'un point

Exemple. | L'intersection d'une surface periodique dans R3 (par exemple d'une surface de Fermi) avec un plan irrationnel (orthogonal au \champ magnetique") est une courbe pseudoperiodique, etudiee par S. Novikov 2]. Considerons une courbe pseudoperiodique (mais pas periodique) dans Rn (en xant le reseau des periodes Zn). Supposons que le rang de la partie lineaire de l'application correspondante est maximal (egal a n ; 1). Dans ce cas la courbe contient evidemment une branche in nie (a distance nie d'une ligne droite).
dique est-elle toujours unique ?
Probleme. | La composante non-compacte d'une telle courbe pseudo-perio-

Remarque 1. | La conjecture d'unicite de la branche in nie n'est pas demontree m^ eme si la partie lineaire de l'application pseudoperiodique est generique (veri ant, par exemple, les inegalites diophantiennes usuelles, violees seulement par les applications lineaires qui appartiennent a un ensemble de mesure de Lebesgue nulle). Remarque 2. | L'exemple des courbes planes (n = 2) montre qu'il peut exister une in nite des composantes compactes. Remarque 3. | Le m^ eme exemple montre que dans le cas periodique il peut exister un nombre arbitraire (impair) de branches in nies. Remarque 4. | Dans le cas n = 2 (plus generalement, pour les hypersurfaces pseudoperiodiques de dimension n ; 1 dans Rn) il n'y a qu'une composante noncompacte ( 3]). Remarque 5. | Si l'application pseudoperiodique f : Rn ! Rn;1, de nissant notre courbe, n'a pas de points singuliers (ce qui arrive, par exemple, quand la perturbation periodique est faible par rapport a la partie principale lineaire), chaque courbe f ;1 (c) n'a qu'une seule composante. Dans ce cas l'application f est \rectiable" : elle peut ^ etre reduite a sa partie lineaire par un di eomorphisme du tore n n R =Z (voir 4] pour n = 2 ce resultat est du a A.N. Kolmogorov 5]).

Problemes de la theorie des systemes dynamiques

Remarque 6. | Recemment I. Dynnikov (etudiant du troisieme cycle a l'Universite de Moscou) a demontre la conjecture d'unicite de la composante in nie pour les courbes planaires pseudoperiodiques dans R3 (quand une des deux fonctions pseudoperiodiques, de nissant la courbe, est lineaire). Exemple. | La courbe planaire d'equation

y = ax + F (x y bx)
(ou F est une fonction de periode 1 par rapport a chacune de ses trois variables) contient une seule branche in nie, si a est un nombre irrationnel. Remarque 7. | I. Dynnikov a aussi demontre la conjecture de S.P. Novikov 2] sur les intersections des surfaces de Fermi avec des plans. La conjecture de Novikov a rmait que chaque composante connexe d'une telle courbe est situee dans un voisinage ni d'une ligne droite. La conjecture est demontree pour les plans generiques (veri ant des conditions diophantiennes habitulles). Cependant, Tzarev et Dynnikov ont construit des contre-exemples a cette conjecture pour des plans exceptionnels (formant un ensemble de mesure nulle).

3. Les nombres des points periodiques et des cycles limites

Definition. | Un point x est periodique de periode n pour une application A si ce point est un point xe pour l'iteration de A :

Anx = x :
Soit A : M ! M un di eomorphisme analytique d'une variete analytique compacte (par exemple, du tore T 2).
Probleme. | Est-ce-que le nombre des points periodiques de periode n est majore par une fonction exponentielle de n ?

On suppose ici que les points periodiques sont non degeneres (que 1 n'est pas une valeur propre de la derivee de An en x). Les di eomorphismes A generiques n'ont pas des points periodiques degeneres. Remarque 1. | L'exemple d'application du tore T 2, donnee par la matrice ! 2 1 , montre que le nombre des points periodiques de periode n peut cro^tre au 1 1 moins comme une fonction exponentielle de n (m^ eme pour des applications generiques).

V.I. Arnold

Remarque 2. | M. Artin et B. Mazur ont demontre que le nombre de points de periode n est majore par Ce n pour les varietes et les applications algebriques 6].

T d'un champ de vecteurs polynomial (dans une boule compacte de Rm) est majore par une fonction exponentielle de T ?
Remarque 3. | Par contre, pour les varietes et applications C 1 aucune majoration n'est possible ( 7]).
presque toujours au plus comme une fonction exponentielle de la periode.
Conjecture. | Le nombre des points periodiques d'une application C 1 cro^t

Probleme. | Est-ce-que le nombre des orbites periodiques de periode au plus

\Presque toujours" veut dire ici \pour presque toutes les valeurs des parametres (au sens de la mesure de Lebesgue) dans chaque famille generique d'applications dependant d'un nombre assez grand de parametres". Remarque 4. | Cette de nition de genericite, permettant de negliger les phenomenes qu'on ne rencontre que dans les cas exceptionnels au sens de la theorie de mesure dans les familles a un nombre ni des parametres, est tres di erente de celles des topologues et des probabilistes. Les topologues, utilisant la categorie, vont negliger un ensemble de Cantor dont la mesure constitue 99% de la mesure totale de la variete consideree. Les probabilistes considerent des mesures dans les espaces de fonctions, concentrees sur des fonctions pas tres lisses (comme le mouvement Brownien). La de nition de \presque toujours" decrite plus haut, introduite par Kolmogorov 8], est bien adapte a la theorie des systemes dynamiques.

4. Complexite topologique asymptotique des intersections

Ce probleme generalisant le probleme 3 est motive par la theorie des solitons (voir 2]). Considerons deux sous-varietes compactes X k et Y ` dans une variete compacte M m . Soit A : M ! M une application di erentiable. Considerons les images successives de X par l'action des iterations An de A. Pour mesurer leur complexite (croissante avec le temps n) on considere leurs intersections avec la variete immobile Y: Z (n) = (AnX ) \ Y : Cette intersection Z est generalement une variete lisse de dimension s = k + ` ; m.
Le probleme est d'etudier le comportement asymptotique de la complexite topologique jZ (n)j de Z (n) en fonction du temps n.

Problemes de la theorie des systemes dynamiques

Exemple 1. | Si les dimensions de X et de Y sont complementaires, Z (n) est generiquement un ensemble ni et jZ (n)j est le nombre de ses points. Exemple 2. | Soit g : ! un systeme dynamique generique. Considerons M = A = (Id g) X = Y = la diagonale de M . Dans ce cas Z (n) est l'ensemble ni des paires (x x) ou x est un point periodique de periode n de g. Le probleme 3 est donc un cas particulier du probleme 4. Remarque 1. | Si (A M X Y ) sont des applications et varietes algebriques reelles, la complexite topologique cro^t au plus comme une fonction exponentielle du temps : jZ (n)j Ce n: C'est demontre dans 9], 10] pour les mesures de la complexite topologique telles que les nombres de Betti, les nombres caracteristiques etc. Considerons maintenant le cas des varietes et applications C 1.
Probleme. | Est-ce-que la complexite topologique de l'intersection Z (n) est majoree par une fonction exponentielle du temps n presque toujours ?

Remarque 2. | Si A est un di eomorphisme, la conjecture est demontree dans 10] pour les mesures suivantes de la complexite topologique : nombre de composantes connexes, nombres de Betti, nombres de Morse, nombres caracteristiques, volume Riemannien, courbure totale absolue etc. Les demonstrations sont basees sur le lemme de Borel-Cantelli (l'inegalite de Tchebyshev) des probabilistes d'une part et sur la majoration des nombres de Betti par la courbure totale absolue due a Chern et Lashov 11] d'autre part. Remarque 3. | On peut aussi majorer le nombre des generateurs et le nombre des relations du groupe fondamental. Mais je ne sais demontrer aucune majoration des longueurs des relations. Remarque 4. | \Presque toujours" dans 10] veut dire : pour presque toutes les valeurs du parametre t dans les familles generiques de varietes immobiles Yt on a

jZt(n)j C (t)e n pourvu que le nombre des parametres, p = dimftg, soit su samment grand. Les
arguments \tomographiques" de 10] utilisent p d'ordre de grandeur m2. Remarque 5. | Probablement, le resultat de 10] reste vrai presque toujours si ce n'est pas Y , mais A ou bien X qui depend des parametres.

V.I. Arnold

Remarque 6. | Il existe des exemples C 1 et m^ eme analytiques ou jZ (n)j cro^t plus vite que n'importe quelle fonction donnee (pour une suite croissante ni des moments du temps). L'exemple 12] de O. Koslovski (etudiant du premier cycle a l'Universite de Moscou) est particulierement instructif. Dans cet exemple M est le tore T 2 = f(x y) mod 2 g, X = Y est le cercle y = 0 et A est un di eomorphisme analytique de la forme (x y) 7! (x + 2 y + f (x)): On choisit un nombre irrationnel et une serie tres lacunaire

f (x) =

X
i

fMi sin Mix :

La possibilite d'obtenir une croissance arbitraire de jZ (ni)j est assure par l'existence des nombres irrationnels dont des elements des fractions continues croissent ausii vite qu'on veut.

5. Croissance des nombres de Milnor en dynamique holomorphe

C'est une variante locale du probleme 4. Considerons deux germes de courbes holomorphes passant par l'origine du plan C2 : (X 0) ,! (C2 0) - (Y 0) et un germe d'application holomorphe preservant l'origine A : (C2 0) ! (C2 0). On fait bouger X par les iterations de A et on etudie les intersections de AnX avec Y .
des courbes An X et Y a l'origine.
Definition. | Le nombre de Milnor (n) est la multiplicite d'intersection

Exemple. | A(x y) = (x y2), X = f(x x)g, Y = f(x 0)g. Les images AnX 2n sont les \paraboles" y = x , donc (n) = 2n . Revenons au cas general des (A X Y ) quelconque.
fonction exponentielle du temps n ?
Probleme. | Est-ce-que les nombres de Milnor (n) sont majores par une

On suppose ici que A est de multiplicite nie et que AnX et Y sont di erentes pour chaque n. Remarque 1. | La majoration exponentielle est demontree dans 13] pour le cas des courbes AnX lisses (comme celles de l'exemple).

Problemes de la theorie des systemes dynamiques

Remarque 2. | Il semble que la m^ eme majoration exponentielle soit vraie pour des sous-varietes holomorphes de dimension quelconque (X k 0), (Y ` 0) de (Cm 0) et pour les nombres de Milnor generalises qui sont de nis par la construction suivante. Considerons une ltration V1 V2 V3 algebrique de l'espace V1 = J 1 des jets in nis des paires d'applications holomorphes

f : (Ck 0) ! (Cm 0) g : (C` 0) ! (Cm 0)

a l'origine. Les varietes Vi sont des sous-varietes algebriques de J 1. Cela veut dire que chacune de ces varietes est de nie par des equations polynomiales (donc portant sur un nombre ni de coe cients de Taylor). Ce nombre ni depend cependant de i.
nombres i pour lesquels la paire (f g ) appartient a Vi .
Definition. | Le nombre de Milnor generalise (f g ) est le plus grand des

Exemple. | Les variantes locales des invariants toplologiques (ou plus generalement discrets) des intersections considerees dans le probleme 4 sont des nombres de Milnor generalises (associes a des ltrations tres speciales).
sont majores par une fonction exponentielle de n (pourvu que A soit une application de multiplicite nie et que tous ces nombres de Milnor soient nis).
Conjecture. | Les nombres de Milnor generalises (n) des paires (An X Y )

Remarque 3. | Pour les di eomorphismes A cette conjecture est vraie. De plus, dans ce cas la suite des nombres de Milnor generalises (n) est bornee par une constante. La demonstration de ce fait ( 13]) est basee sur le theoreme suivant de Skolem.
Soit f (n) = a1f (n ; 1)+ + amf (n ; m) une suite recurrente. Alors l'ensemble des valeurs de n telles que f (n) = 0 est l'union d'un ensemble ni et d'un ensemble ni de progressions arithmetiques.

Ce theoreme de la theorie des nombres, demontre par un logicien, appartient en e et a la theorie des systemes dynamiques. Remarque 4. | Les resultat de 13] generalisent un theoreme de M. Shub et D. Sullivan 14] : les valeurs de l'indice de Poincare des iterations d'un di eomorphisme (C 1) a son point xe sont bornees (a condition que tous ces indices soient nis). Dans les deux resultats les suites des valeurs (du nombre de Milnor generalise et de l'indice) sont periodiques a partir d'un certain moment. Le theoreme de Shub et Sullivan a ete generalise par D. Fried 26] qui a considere au lieu de l'indice de Poincare les indices complexes de Atiyah-Bott.

V.I. Arnold

6. La variante in nitesimale du 16e probleme de Hilbert et les integrales abeliennes

Le 16e probleme de Hilbert a deux parties : la question sur les ovales des courbes algebriques et celle sur les cycles limites des champs de vecteurs polynomiaux. Entre ces deux problemes il y a encore une question intermediaire : l'etude des cycles limites nouveaux-nes des courbes de niveau d'une integrale premiere. Ce probleme contient, comme cas particulier, l'etude du nombre des zeros reels des periodes des integrales abeliennes en fonction des parametres. Supposons qu'un champ de vecteurs polynomial dans le plan ait une integrale premiere, dont les courbes de niveau sont des cycles (remplissant au moins un certain anneau du plan). Considerons les petites variations polynomiales (de degre xe) de ce champ de vecteurs. Les places de naissance des cycles limites sont donnees en premiere approximation par les zeros d'une certaine integrale (trouvee par Poincare) le long des orbites fermees non perturbees (ces orbites sont les courbes de niveau de l'integrale premiere).
borne (par une constante ne dependant que du degre des perturbations) ?
Probleme. | Est-ce-que le nombre de zeros de l'integrale de Poincare est

Exemple. | Le systeme de Lotka-Volterra generalise

x _ = x(a + bx + cy) y _ = y(d + ex + fy)

a parfois une integrale premiere

I=x y z
ou z est une fonction lineaire (non homogene) de x et y. Les orbites non perurbees I = const sont des courbes algebriques ou non, dependant des coe cients (a : : : f ). Le probleme est de savoir si le nombre des orbites non perturbees qui engendrent des cycles limites est borne en fonction des degres des perturbations. Remarque 1. | Ce nombre est probablement borne par une constante commune pour toutes les valeurs des coe cients du systeme initial. Mais on n'a pas demontre que le nombre des zeros de l'integrale de Poincare est borne m^ eme pour le cas des integrales hypergeometriques (au sens de Gelfand, Varchenko, Aomoto et al.). correspondant aux systemes de Lotka-Volterra generalises individuels (et m^ eme aux systemes de Lotka-Volterra non generalises, ou b = f = 0). Remarque 2. | Dans le cas particulier ou le systeme non perturbe est un systeme de Hamilton a fonction de Hamilton H polynomiale le probleme peut ^ etre

Problemes de la theorie des systemes dynamiques

formule en termes de periodes d'integrales abeliennes. Considerons l'integrale abelienne complete (1)

I (h) = Pdx + Qdy

le long de l'ovale de la courbe algebrique H (x y) = h. Les polyn^ omes P (x y) et Q(x y) decrivent la variation in nitesimale du champ de vecteurs de Hamilton, et I est l'integrale de Poincare.
Le probleme est de borner le nombre des zeros reels de la fonction I pour tous les polyn^ omes (P Q) de degre xe.

Ce probleme de borne uniforme des nombres des zeros reels des integrales abeliennes completes a ete resolut par A.N. Varchenko 15] et par A.G. Hovanski 16] par deux methodes di erentes. Mais ni l'une ni l'autre demonstration ne donnent une borne explicite, on demontre seulement l'existence d'une telle borne pour le nombre des racines reelles de I . Remarque 3. | Dans le cas encore plus special du systeme a fonction de Hamilton cubique (2) H (x y) = y2 + x3 ; x la borne exacte du nombre des zeros des integrales de Poincare (cette fois elliptiques) a ete trouvee par G.S. Petrov, un etudiant du premier cycle de l'Universite de Moscou 17]. La famille des fonctions (1) qu'on obtient de tous les polyn^ omes P Q (de degre borne) forme un espace lineaire de dimension nie N . Il existe donc des perturbations (P Q) telles que l'integrale de Poincare I (h) a au moins N ; 1 zeros reels (situes m^ eme en des points arbitraires hi). Definition. | Une famille lineaire de dimension N des fonctions d'une variable est une famille de Tchebyshev, si le nombre de zeros de chaque fonction (non identiquement nulle) de la famille est plus petit que N . L'equation di erentielle lineaire dont les fonctions de la famille sont les solutions est appelee alors une equation disconjuguee. Theoreme (Petrov). | La famille d'integrales de Poincare I (h), correspondant au hamiltonien cubique (2), est une famille de Tchebyschev. Les perturbations (P Q) de nissant l'integrale (1) sont ici des polyn^ omes arbitraires de degre au plus n. La famille des integrales (1) est en ce cas de dimension n. Ainsi le nombre maximal des zeros reels des integrales de Poincare (1) dans le cas (2) est egal au degre de la perturbation moins 1.

10

V.I. Arnold

Remarque 4. | Les resultats de Petrov montrent que l'equation de PicardFuchs (de la connection de Gauss-Manin correspondante) est disconjuguee. La theorie de Sturm symplectique (voir 18]) suggere que cette propriete de disconjugaison doit ^ etre liee a un principe variationnel pour cette equation de Picard-Fuchs lineaire, dont le lagrangien (quadratique) doit ^ etre de ni positif. Dans ce cas les theoremes de la geometrie symplectique entra^neraient la propriete de disconjugaison lagrangienne : le nombre des moments de la non transversalite d'un plan lagrangien mobile avec un plan immobile serait minimal. Pour un hamiltonien hyperelliptique H = y2 + p(x) ce programme a ete realise par A.B. Givental 19]. Il a demontre la propriete de disconjugaison lagrangienne de l'equation de Picard-Fuchs correspondante. Malheureusement, la disconjugaison lagrangienne n'implique pas directement une borne pour le nombre de zeros des solutions particulieres de l'equation lineaire de Hamilton (elle donne seulement la borne du nombre de zeros de certains determinants, formes de plusieurs solutions).

7. La materialisation des resonances en dynamique holomorphe

Il est bien connu depuis les travaux de Poincare en mecanique celeste que les resonances (les commensurabilites des frequences) entra^nent la divergence des series decrivant les mouvements perturbes (due aux \petits denominateurs" qui s'annulent quand une resonance exacte a lieu). La divergence de la serie de Taylor de la fonction arctgx pour jxj > 1 s'explique par la presence d'une singularite complexe au point i. Cette singularite, presentant un obstacle topologique a la convergence, materialise une divergence autrement mysterieuse. L'idee de la materialisation des resonances est de trouver des obstacles topologiques a la convergence des series de la theorie des perturbations dans le comportement des orbites du systeme perturbe dans l'espace des phases complexe. On trouvera beaucoup d'exemples de realisation de ce programme dans 20], 21], 22]. Les demonstrations de Poincare et de Siegel de la divergence des series de la theorie des perturbations peuvent ^ etre interpretees comme des indications de la presence d'orbites periodiques (de tres longues periodes) dans les voisinages complexes de l'espace des phases reels. Je presente ici ma vieille (1958) conjecture de ce genre qui reste, semble-t-il, non demontree m^ eme aujourd'hui (au moins formellement). Considerons une application holomorphe d'un voisinage G d'un cercle S 1 (plonge dans le plan complexe C) sur un autre voisinage du m^ eme cercle, A : (G S 1) ! (G0 S 1) : Supposons, que A induise sur le cercle S 1 un di eomorphisme, conjugue a une rotation R d'angle 2 par un di eomorphisme conjuguant B qui est holomorphe sur un voisinage du cercle : A = BR B ;1:

Problemes de la theorie des systemes dynamiques

11

Supposons que le \nombre de rotation de Poincare", , soit irrationnel. Remarque 1. | D'apres une autre conjecture de 1958, demontree par M. Herman 23], le di eomorphisme holomorphe B existe si le nombre de rotation de A veri e les conditions diophantiennes habituelles (violees seulement par un ensemble de de mesure de Lebesgue nulle). Exemple. | Une fonction f holomorphe au voisinage de l'axe reel, 2 -periodique et reelle sur cette axe, de nit un di eomorphisme x 7! x + f (x) du cercle fx mod 2 g, si f 0(x) > ;1 sur l'axe reel. Supposons que l'anneau maximal M (di eomorphe a S 1 R) dans lequel l'application A est conjuguee a la rotation, soit contenu dans le voisinage G du cercle S 1 avec sa frontiere @M . Dans ce cas la conjecture de la materialisation des resonances peut ^ etre formulee comme le
contient un point periodique de A ? Est-ce-que c'est au moins vrai generiquement ?
Probleme. | Est-ce-que chaque voisinage de chaque point de la frontiere @M

Remarque 2. | Les points periodiques de A sont en dehors du voisinage du cercle ou A est conjugue a une rotation irrationnelle R . Donc ces points emp^ echent la convergence des series de la theorie des perturbations et materialisent les resonances. Remarque 3. | Dans le cas ou le di eomorphisme conjuguant B n'est pas holomorphe, on attend l'existence des points periodiques dans chaque voisinage de chaque point du cercle S 1. Remarque 4. | Les conjectures d'approximation de la frontiere de conjugaison par les points periodiques peuvent ^ etre formulees pour le cas local d'un point xe d'application holomorphe A : (C 0) ! (C 0) ayant la derivee e2 i a l'origine. On attend generiquement des points periodiques au voisinage du bord @M du disque maximal M ou A est holomorphiquement conjugue a une rotation. Remarque 5. | Pour les nombres de rotation irrationnels exceptionnels J.C. Yoccoz et R. Perez-Marco ont construit des applications polynomiales A telles que les points periodiques n'approximent pas la frontiere @M de l'anneau ou du disque d'holomorphie du di eomorphisme conjuguant. Remarque 6. | Par contre, pour les nombres de rotation generiques ils ont demontre la conjecture d'approximation pour les applications polynomiales et rationnelles.

12

V.I. Arnold

Remarque 7. | Il semble que le probleme reste ouvert (au moins formellement) m^ eme pour des applications de nies par des polyn^ omes trigonometriques, par exemple pour les applications de forme x 7! x + a + b sin x, pour lesquelles la conjecture d'approximation a ete originalement formulee en 1958. Remarque 8. | Il reste beaucoup a faire dans le programme general de la materialisation des resonances. Je cite, par exemple, les travaux recents de M.B. Mishustin sur les formes normales des voisinages des courbes holomorphes sur les surfaces holomorphes. Remarque 9. | Tout recemment J. Moser a etudie les perturbations des courbes holomorphes sur la surface du tore C2=Z4 lors d'une perturbation pseudoholomorphe de la structure holomorphe du tore. Sans doute on peut construire une theorie de materialisation des resonances pour ce probleme, parallele a la theorie des bifurcations des courbes elliptiques sur les surfaces holomorphes, construite dans 21].

8. Irresolubilite analytique et irresolubilite geometrique dans la theorie du chaos

Il semble que le comportement chaotique des systemes dynamiques rend indecidable les questions trop precises sur leur structure. Je presente ici quelques vieilles conjectures (voir 24], 25]) sur la non decidabilite de problemes classiques de la theorie des systemes dynamiques tels que les problemes de la stabilite des points stationnaires, de l'integrabilite en quadrature des equations di erentielles ordinaires et de l'integrabilite complete des systemes de Hamilton en mecanique. Mes de nitions de l'irresolubilite sont tres di erentes de celles de l'algebre et de la theorie des algorithmes des logiciens. Dans l'esprit de la geometrie des varietes, la resolubilite d'un probleme ne doit pas dependre du systeme des coordonnees utilise pour de nir les donnees du probleme (les parties droites des equations di erentielles, les fonctions de Hamilton etc.)
Definition 1. | Un probleme est geometriquement irresoluble si, parmi les problemes qu'on obtient du probleme donne par des changements di eomorphes des coordonnees et des parametres, il n'y a pas de probleme resoluble analytiquement (au sens de la de nition 2 donnee dans la suite).

Exemple. | Considerons un champ de vecteurs dependant des parametres au voisinage d'un point stationnaire. Le probleme de la stabilite de ce point pour cette famille est geometriquement irresoluble si ce probleme est analytiquement irresoluble pour chaque famille equivalente (par les di eomorphismes locaux dependant des parametres) a la famille donnee.

Problemes de la theorie des systemes dynamiques

13

Remarque 1. | Le probleme de l'integration d'une equation di erentielle est geometriquement resoluble au voisinage d'un point non singulier du champ de vecteurs correspondant, bien que ce probleme peut ^ etre analytiquement irresoluble pour certains champs. Ce probleme est probablement geometriquement irresoluble au voisinage d'un point singulier, m^ eme pour les champs polynomiaux. La de nition de la resolubilite analytique des problemes analytiques locaux dont il est question plus haut (et qui est decrite plus bas) est tres liberale. Par exemple, toutes les equations diophantiennes sont dans ce sens resolubles. Donc l'irresolubilite analytique dans ce sens est une propriete beaucoup plus forte que l'irresolubilite algorithmique. Comme donnees d'un probleme analytique local, je considere un nombre ni de series de Taylor dans un systeme de coordonnees xees. Pour le probleme de la stabilite d'un point stationnaire ce sont les series des composantes du champ de vecteurs en ce point. L'espace de leurs polyn^ omes de Taylor de degre donne est donc aussi muni des coordonnees privilegiees. La de nition de resolubilite analytique decrit les operations permises menant a la solution. On commence par la de nition des fonctions, des varietes et des applications admissibles dans les espaces arithmetiques RN et CN . Ce sont des ensembles minimaux de varietes et d'\applications" ayant les proprietes suivantes : 1. les espaces arithmetiques RN et CN (pour tout n) sont des varietes admissibles 2. chaque application rationnelle est admissible 3. l'image et l'image inverse par une application admissible d'une variete admissible est admissible 4. les intersections et les unions de paires des varietes admissibles sont admissibles, aussi bien que les complements et les produits directs 5. la composition de deux applications admissibles est admissible 6. une application (m^ eme multiforme) est admissible si et seulement si son graphe est une variete admissible 7. si f (x y) est une fonction admissible, alors sa derivee par rapport a x ainsi que sa primitive (dont la branche est xee par les valeurs initiales sur une sous-variete admissible) sont admissibles. Remarque 2. | La primitive en question est donnee par l'integration complexe. Le graphe de cette fonction multiforme est donc une variete admissible. Ainsi le prolongement analytique est dans cette theorie une operation admissible, aussi bien que toutes les operations arithmetiques, la derivation, l'integration, les substitutions et l'inversion.

14

V.I. Arnold

Remarque 3. | On peut construire une notion de resolubilite analytique basee sur l'integration reelle. Cette theorie est di erente de celle qu'on discute ici. Par exemple, la fonction sin sur la droite reelle est admissible si l'integration complexe est permise, mais n'est pas contenue dans l'ensemble minimal des fonctions admissibles, si seule l'integration reelle est permise (bien que la restriction de cette fonction sur chaque intervalle ni de la droite reelle soit toujours une fonction admissible). La fonction sin etant admissible, l'ensemble des entiers l'est aussi. Il resulte que l'ensemble des valeurs entieres du parametre y, tel que le polyn^ ome f (x y) a une racine entiere x, est admissible, quelque soit le polyn^ ome donne f a coe cients entiers. Considerons pour simpli er un probleme analytique local binaire, c'est-a-dire ayant deux solutions possibles : \oui" ou \non" (comme le probleme de la stabilite d'un point stationnaire). Pour chaque valeur de k l'espace des polyn^ omes de Taylor de degre k des donnees d'un probleme local binaire est divise en trois parties : Ak : les polyn^ omes de Taylor pour lesquels la reponse est \oui" (independamment des termes de plus haut degre). Bk : Les polyn^ omes de Taylor pour lesquels la reponse est \non" (independamment des termes de plus haut degre). Ck : Les polyn^ omes de Taylor pour lesquels la reponse depend des termes de plus haut degre.
Definition 2 (Voir 24]). | Un probleme analytique local binaire est analytiquement resoluble si

1. les ensembles Ak Bk Ck sont des varietes admissibles (pour chaque k), 2. les codimensions des varietes Ck tendent vers l'in ni avec le degre k des polyn^ omes de Taylor.
d'un champ de vecteurs dans Rn est geometriquement resoluble ?
Probleme. | Est-ce-que le probleme de la stabilite d'un point stationnaire

Remarque 4. | Une vieille conjecture (voir par exemple 25]) dit que ce probleme n'est probablement ni analytiquement ni m^ eme geometriquement resoluble (au moins si n 3). Je pense que les ensembles Ak Bk Ck ne sont pas admissibles m^ eme pour des valeurs de k assez petites, peut ^ etre m^ eme pour k = 2 (pour k = 1 ces ensembles sont admissibles d'apres le theoreme classique de Lyapounov, quelque soit n). Remarque 5. | Je pense que les problemes de l'integrabilite en quadrature et de l'integrabilite complete des systemes de Hamilton eux aussi ne sont ni analytiquement ni m^ eme geometriquement resolubles (dans un sens semblable a celui decrit plus haut pour les problemes locaux binaires).

Problemes de la theorie des systemes dynamiques

15

Remarque 6. | Il est m^ eme possible qu'il existe des systemes completement integrables dont l'integrabilite n'est cependant pas decidable par des operations analytiques utilisant les donnees du probleme (notamment l'expression de la fonction de Hamilton en termes des coordonnees standards (p q) dans l'espace des phases). Je ne vois pas de raison pour que cela n'arrive pas, par exemple, pour les fonctions de Hamilton polynomiales. Remarque 7. | J'espere que la demonstration d'insolubilite de problemes tels que le probleme de la stabilite (dans le sens decrit plus haut) n'est pas possible sans un vrai progres dans la comprehension du comportement des systemes dynamiques : ce n'est pas un probleme de logique. Les problemes precedents sont formules, suivant la tradition russe, dans une forme aussi peu generale que possible. Il est facile de les generaliser. Je crois, quand m^ eme, que ce sont les problemes concrets qui restent la source principale | et peut ^ etre unique | de l'inspiration des mathematiciens et de toutes les theories generales.

Bibliographie
1] V.I. Arnold, Problems on singularities and dynamical systems, in Developments in Mathematics. The Moscow School (V.I. Arnold, M. Monastyrsky Editors), Chapman & Hall, London (1993). 2] S.P. Novikov, Quasiperiodic structures in topology, in Topological Methods in Modern Mathematics, J.W. Milnor's Jubiley volume, Publish or Perish, Houston (1993), 223{234. 3] V.I. Arnold, Topological and ergodic properties of closed di erential 1-forms, Funct. Anal. Appl 25 : 2 (1991), 1{12. 4] V.I. Arnold, Polyintegrable ows, Algebra and Analysis (St. Petersbourg Math. J.) 4 : 6 (1992), 54{62. 5] A.N. Kolmogorov, On dynamical systems with integral invariant on the torus, Dokl. Akad. Nauk SSSR 93 : 5 (1953), 763{766 (en russe, traduction anglaise dans : A.N. Kolmogorov, Selected Papers Vol 1, Mathematics and Mechanics (V.M. Tikhomirov Editor), Kluwer, Dordrecht (1991), 344{348). 6] M. Artin, B. Mazur, On periodic points, Annals of Mathematics 81 (1965), 82{99. 7] E. Gonzales-Rosales, On the growth of the number of periodic points of dynamical systems, Funct. Anal. 25 : 4 (1991), 14{22 26 : 2 (1992), 29{35. 8] A.N. Kolmogorov, General theory of dynamical systems and classical mechanics, in Proc. Int. Congr. Math. (1954) Amsterdam, Vol 1 (1957), 315{333

16

V.I. Arnold

(en russe, traduction anglaise dans : A.N. Kolmogorov, Selected Papers Vol 1, Mathematics and Mechanics (V.M. Tikhomirov Editor), Kluwer, Dordrecht (1991), 355{374). 9] V.I. Arnold, Dynamics of intersections, in Analysis etc, Research papers published in honor of Jurgen Moser's 60th Birthday (P. Rabinovitz, E. Zehnder Editors), Academic Press, San Diego (1990), 77{84. 10] V.I. Arnold, Dynamics of complexity of intersections, Boletim da Sociedade Brasiliera de Mathematica 21 : 1 (1990), 1{10. 11] S.S. Chern, R. Lashof, On the total curvature of immersed manifolds, Amer. Math. J. 79 (1957), 306{318 Michigan Math. Journ. 5 (1958), 5{12. 12] O.S. Kozlovski, The Dynamics of Intersections of Analytic Manifolds, Russian Acad. of Sciences Doklady 45 : 2 (1992), 425{427. 13] V.I. Arnold, Majoration of Milnor numbers of intersections in holomorphic dynamical systems, in Topological Methods in Modern Mathematics, J.W. Milnor's Jubiley volume, Publish or Perish, Houston (1993), 379{390. 14] M. Shub, D. Sullivan, A remark on the Lefschetz xed points formula for di erentiable maps, Topology 13 (1974), 189{191. 15] A.N. Varchenko, Estimation of the number of zeros of an abelian integral depending on a parameter and limit cycles, Funct. Anal. and Appl. 18 : 2 (1984), 14{25. 16] A.G. Khovanski , Real analytic manifolds with the property of niteness and complex abelian integrals, Funct. Anal. and Appl. 18 : 2 (1984), 40{50. 17] G.S. Petrov, The number of zeros of complete elliptic integrals, Funct. Anal. and Appl. 18 : 2 (1984), 73{74 20 : 1 (1986), 46{49 22 : 1 (1988), 83{84 23 : 2 (1989), 88{89 24 : 3 (1990), 45{50 Mat. Zametki 44 : 3 (1988), 393{401. 18] V.I. Arnold, Sturm theorems and symplectic geometry, Funct. Anal. and Appl. 19 : 4 (1985), 1{10. 19] A.B. Givental, Sturm theorems for hyperelliptic integrals, Algebra and Analysis 1 : 5 (1989), 95{102 (traduction anglaise : Leningrad Math. J. 1 : 5 (1990), 1157{1163). 20] V.I. Arnold, Notes on singularities of nite codimension in the complex dynamical systems, Funct. Anal. and Appl. 3 : 1 (1969), 1{6. 21] V.I. Arnold, Bifurcations of invariant manifolds of di erential equations and structure of the neighborhood of an elliptic curve on a complex surface, Funct. Anal. and Appl. 10 : 4 (1975), 1{12.

Problemes de la theorie des systemes dynamiques

17

22] V.I. Arnold, Geometrical methods in the theory of ordinary di erential equations, Springer, New-York, 1983. 23] M. Herman, Sur la conjugaison di erentiable des di eomorphismes du cercle a des rotations, Publ. Math. IHES 49 (1979), 5{233. 24] V.I. Arnold, Local problems of analysis, Vestnik Mosk. Univ. Ser. 1, Math. Mech. 25 : 2 (1970), 52{56. 25] V.I. Arnold, in Mathematical developments arising from Hilbert's problems, Proc. Symp. in Pure Math. (AMS, Providence) 28 (1974), 59. 26] D. Fried, Periodic points of holomorphic maps, Topology 25 : 4 (1986), 429{441. CEREMADE Universite de Paris-Dauphine Place du Marechal de Lattre de Tassigny 75775 Paris cedex 16 France
Adresse electronique : arnold@ceremade.dauphine.fr

Complexite de suites a valeurs dans un ensemble ni : quelques exemples

Pierre Arnoux

1. Qu'est-ce que la complexite d'une suite?

Nous considerons ici des suites a valeurs dans un ensemble ni A, appele alphabet. On en rencontre dans des situations diverses : bien entendu, dans tout ce qui releve du codage de l'information (texte, son...), mais aussi en biologie (genome), et en physique (etude de l'evolution d'un systeme au cours du temps, quand on ne peut faire que des mesures discretes). Une methode assez generale pour obtenir de telles suites est de prendre un systeme dynamique T : X ! X , et une fonction de codage f : X ! A (ou, ce qui revient au m^ eme, une partition nie de X indicee par A) on considere alors les suites de terme general f (T n(x)), codage symbolique de l'orbite du point x sous l'action de T . On peut considerer suivant les cas des suites in nies (indicees par N) ou bi-in nies (indicees par Z) nous nous restreindrons ici au cas des suites in nies. On s'interesse particulierement a evaluer le caractere plus ou moins aleatoire d'une telle suite si l'on conna^t n symboles de la suite, que peut-on dire des suivants ? Une methode possible consiste a compter le nombres de combinaisons possibles de n symboles consecutifs. C'est ce que l'on appelle la complexite de la suite donnons d'abord quelques de nitions : On appelle mot sur l'alphabet A une suite nie W = w1 : : : wn a valeurs dans A on notera jW j = n la longueur du mot, et jW ja le nombre d'occurences de la lettre a dans W . On dit qu'un mot W est facteur de la suite u = (un)n2N s'il existe un entier k tel que W = uk : : : uk+n;1 .
entier n, associe le nombre de facteurs de longueur n de u.
Definition. | On appelle complexite de la suite u la fonction p qui, a tout

Il est clair que, si l'alphabet A est de cardinal k, p(n) est borne par kn il est facile de montrer que, puisqu'un mot de longueur n + m peut se decomposer en deux mots de longueur respective n et m, on a p(n + m) p(n)p(m). On en deduit que log(p(n))=n admet une limite nie quand n tend vers l'in ni c'est ce qu'on appelle l'entropie de la suite. Une suite d'entropie log k contient tous les mots possibles une suite d'entropie strictement positive peut ^ etre consideree comme tres aleatoire. 19

20

P. Arnoux

Dans cet expose, nous allons montrer comment, dans certains cas, on peut calculer explicitement la complexite d'une suite en considerant un systeme dynamique. Nous nous interesserons a des suites peu aleatoires, d'entropie nulle. Si la complexite d'une suite est majoree par une exponentielle, peut-on donner des minorations ? on a un lemme evident :
Lemme. | la complexite est une fonction croisssante.

En e et, tout facteur de longueur n de u est le debut d'au moins un facteur de longueur n + 1, et deux facteurs distincts sont les debuts de deux facteurs distincts, il y a donc au moins autant de facteurs de longueur n +1 que de facteurs de longueur n. On ne peut pas faire mieux en general : les suites les moins aleatoires sont les suites periodiques, et pour une telle suite, le nombre de mots de longueur n est borne par la periode de la suite la complexite est alors constante a partir d'un certain rang. Plus generalement, rappelons qu'une suite est dite ultimement periodique si elle est periodique a partir d'un certain rang. On a en fait une caracterisation complete des suites de complexite bornee :
Lemme. | Les trois proprietes suivantes sont equivalentes :

(i) La suite u est ultimement periodique. (ii) La complexite est bornee (iii) il existe un entier n tel que p(n) = p(n + 1).

Demonstration. | Si la suite est periodique de periode t a partir du rang n0, on a toujours p(n) n0 + t, donc i implique ii il est clair que ii implique iii, il su t donc de montrer que iii implique i. Mais s'il y a autant de facteurs de longueur n et n +1, chaque facteur de longueur n est le debut d'un et d'un seul facteur de longueur n + 1 autrement dit, quand on conna^t n lettres, on conna^t la suivante. De plus, comme il n'y a qu'un nombre ni de facteurs, on retrouve en au plus p(n) fois un facteur deja vu, et la suite est alors periodique a partir de l'apparition de ce facteur. 2 On en deduit qu'a contrario, la complexite d'une suite non ultimement periodique est strictement croissante comme p(1) vaut au moins 2, sinon il n'y aurait qu'un symbole et la suite serait constante, la complexite d'un suite non ultimement periodique veri e p(n) n + 1.
Definition. | On dit qu'une suite est sturmienne si elle est non ultimement periodique et de complexite minimale p(n) = n + 1.

Remarquons que, puisque p(1) = 2, une suite sturmienne est de nie sur un alphabet a 2 lettres, que l'on peut nommer 0 et 1. Les suites sturmiennes sont en quelque sorte les plus ordonnees des suites non periodiques elles ont ete etudiees par de nombreux auteurs, nous citerons HM], He], CH].

Complexite de suites: quelques exemples

21

2. L'exemple le plus simple : les suites sturmiennes

Les suites sturmiennes possedent de nombreuses caracterisations, combinatoires, dynamiques, arithmetiques, voire geometriques, que l'on peut resumer dans le theoreme suivant :
lettres f0 1g, les proprietes suivantes sont equivalentes : (i) (complexite) La suite est de complexite minimale : p(n) = n + 1. (ii) (equilibre) Les nombres de 0 contenus dans deux facteurs de m^ eme longueur di erent au plus de 1 : si U et V sont deux facteurs de u tels que jU j = jV j, alors jU j0 ; jV j0 1. (iii) (engendrement par substitutions) Il existe deux suites an et bn d'entiers strictement positifs, veri ant an bn, et une lettre a = 0 ou 1 telles que, pour a1;1 S b2 a2 S b3 a3 : : :S b2n a2n (a), ou S est tout n, la suite u debute par le mot S b1 1 0 1 0 l'application qui, a un mot, associe ce mot prive de sa premiere lettre et 0 (resp. 1 ) est l'application (substitution, ou encore morphisme du mono de libre) qui a un mot associe le mot obtenu en remplacant 0 par 0 et 1 par 10 (resp. 0 par 01 et 1 par 1) (iv) (arithmetique) Il existe deux nombres dans l'intervalle 0 1 , avec irrationnel, tels que la suite un soit de nie par un = (n + 1) + ] ; n + ] ou un = d(n + 1) + e;dn + e, ou x] designe le plus grand entier inferieur ou egal a x (partie entiere de x), et dxe le plus petit entier superieur ou egal a x. (v) (rotation) Il existe deux reels et dans 0 1 , avec irrationnel,tels que la suite u soit donnee par le codage de l'orbite de pour le systeme dynamique
Theoreme. | Pour une suite non ultimement periodique sur l'alphabet a deux

R : 0 1 ! 0 1 x 7! x + mod 1
par rapport a la partition 0 1 ; 1 ; 1 (ou par le codage obtenu en prenant les intervalles ouverts a gauche et fermes a droite)

Remarque. | Les proprietes iv et v sont susceptibles d'une interpretation simple : si l'on trace dans le plan, quadrille par les horizontales et les verticales a coordonnees entieres, la droite y = x + , et que l'on compte le nombre d'horizontales que cette droite coupe entre 2 verticales successives (ce nombre vaut 0 ou 1 si < 1), on obtient la suite u (cf. Figure 1) sous cette forme, le sens de la propriete d'equilibre est assez clair. Il peut ^ etre plus naturel de regarder le codage obtenu en notant H chaque fois que la droite consideree coupe une horizontale, et V a chaque fois qu'elle coupe une verticale. Ce codage s'obtient a partir du precedent en remplacant 0 par V et 1 par HV on peut montrer que la suite obtenue est encore sturmienne, comme image d'une suite sturmienne par une \bonne" substitution. On peut aussi montrer que cette suite est directement associee a la rotation d'angle =(1 + ) le raisonnement qui suit peut para^tre peu naturel, mais il fait

22

P. Arnoux

1 0 1 0 1 0 Figure 1 jouer le m^ eme r^ ole aux deux coordonnees et il est donc plus facile a generaliser, comme nous le verrons plus loin. Notons Ln la ligne brisee (\escalier") qui joint les points de la forme (k n ; k) et les points de la forme (k n + 1 ; k), pour k 2 Z, par des segments horizontaux et verticaux une droite de pente coupe une fois et une seule chaque ligne brisee Ln , et le codage est determine par le fait qu'elle coupe Ln en un segment horizontal ou vertical. Notons D la droite x + y = 0, et cherchons le codage associe a la droite issue d'un point p de D pour trouver le n-ieme terme de la suite, on projette Ln sur D parallelement a la direction (1 ), ce qui donne un pavage periodique de D en deux types d'intervalles, de longueurs respectives 1=(1 + ) et =(1 + ) (si l'on prend le vecteur (;1 1) comme base) le type d'intervalle auquel appartient p donne le terme cherche de la suite. Si l'on decale le point p de (;1 1), on retrouve le m^ eme codage on peut donc quotienter D par un groupe de translation pour se ramener a un cercle partitionne en deux intervalles, et le dessin montre que la partition obtenue a partir de Ln+1 se deduit de la partition obtenue de Ln par une rotation de =(1 + ), d'ou le resultat cherche (voir la gure 2). Une autre facon d'obtenir cette suite est de jouer au billard sur le carre, en partant dans la direction (1 ) et en notant H (resp. V) chaque fois que l'on touche ote horizontal (resp. vertical). 2 un c^ Preuve du theoreme. | La preuve complete est assez longue nous ne pouvons ici donner que des indications. On trouvera une preuve complete, sous forme de probleme, dans l'epreuve optionnelle d'informatique de l'agregation de mathematiques 1994. Les proprietes i et ii sont combinatoires, et la preuve de leur equivalence est aussi purement combinatoire (et non triviale !). Les proprietes iv et v sont evidemment equivalentes : iv n'est rien d'autre que l'ecriture explicite du codage donne par v. On peut remarquer en particulier qu'utiliser la fonction x] (resp. dxe) pour iv revient a prendre les intervalles fermes a gauche

Complexite de suites: quelques exemples

23

1+

1 1+

D
Figure 2

L0

L1

L2

L3

(resp. a droite) dans v en fait, les suites obtenues par l'un ou l'autre codage sont les m^ emes sauf pour un nombre denombrables de valeurs de (de la forme p ; n ) ou elles di erent en deux positions. Il est facile de montrer que toute suite obtenue par codage d'une rotation est de complexite minimale, et nous le prouverons a la n de cette section. C'est la reciproque qui est di cile, et c'est ici qu'intervient la propriete iii, qui est la plus compliquee a interpreter. Ce qui est simple a montrer, c'est que toute suite sturmienne peut se reecrire par 0 ou 1 en e et, puisque p(2) = 3, il n'y a que trois facteurs de longueur 2 or, puisque la suite n'est pas periodique, elle n'est pas constante, donc les deux lettres 0 et 1 apparaissent une in nite de fois, donc les deux mots 01 et 10 aussi donc l'un des deux facteurs 00 et 11 n'appara^t pas. Supposons que ce soit 11 alors, tout 1 est suivi par 0, et l'on peut recoder la suite en utilisant 0 et 10 autrement dit, il existe une unique suite v telle que u = 0(v). Il su rait alors que v soit sturmienne pour pouvoir iterer, et obtenir u comme issue d'une suite in nie de recodage. Il y a malheureusement un probleme technique : en general, ce n'est pas la suite v qui est sturmienne, mais la suite Sv, c'est-a-dire v privee de son premier terme en e et, si u commence par un 0, on ne peut savoir directement si celui ci doit ^ etre considere, pour le recodage, comme le mot 0 ou comme la deuxieme lettre du mot 10. On peut cependant montrer que l'on peut toujours ecrire u sous la forme 0(v) ou S 0(v), ou v est une suite sturmienne c'est ici qu'intervient l'application S de decalage. Puisque toute suite de codage pour une rotation est sturmienne, elle peut se recoder de cette facon, et on peut alors interpreter la suite (an) : ce n'est autre que le developpement en fraction continue du nombre la suite bn est associee, de

24

P. Arnoux

facon plus complexe, au nombre . Il est alors assez simple de prouver que toute suite sturmienne est une suite de rotation, puisqu'il su t alors de prendre les suites (an) et (bn ) donnees par la propriete iii, de construire les reels et , et de montrer que le codage associe donne bien la suite cherchee. La propriete iii donne en fait une interpretation combinatoire du developpement en fraction continue du nombre dans la cas ou ce developpement est periodique, la suite peut prendre une forme tres simple. En particulier, si l'on pose an = 1, bn = 0, a = p0 ou 1, on obtient les deux p codages possibles pour l'orbite, par la rotation d'angle ( 5 ; 1)=2, du point (3 ; 5)=2. On les trouve donc en partant d'une des deux lettres, en remplacant p 0 (resp. 1) par 01 (resp. 101) et en iterant. On peut montrer que l'orbite de ( 5 ; 1)=2 pour la m^ eme rotation est, elle, donnee en iterant la substitution dite de Fibonacci, 1 7! 10, 0 7! 1 le mot in ni obtenu, dit mot de Fibonacci, est la suite sturmienne la plus facile a exhiber. 2 Il reste a montrer que la suite donnee par le codage de l'orbite d'une rotation est sturmienne nous allons en donner deux preuves. Pour montrer que la suite (n + 1) + ] ; n + ] est sturmienne, on peut utiliser la propriete d'equilibre : le nombre de 1 compris entre uk et uk+n;1 est egal par construction a (k + n) + ] ; k + ], et il est clair que, pour n xe, ce nombre ne peut prendre au plus que deux valeurs distinctes suivant n. On peut aussi etudier directement la complexite, et la preuve qui suit est plus susceptible de generalisation. Fixons quelques notations. Pour irrationnel xe, on note R la rotation d'angle sur le cercle identi e a l'intervalle 0 1 on note P la partition en les deux intervalles I0 = 0 1 ; et I1 = 1 ; 1 . L'application f de codage est donnee par f (x) = 0 (resp. 1) si x 2 I0 (resp. I1), et on cherche la complexite de la suite u( ) = (f (Rn ))n2N. Mais un facteur de u( ) qui appara^t en position k est un facteur initial de u(b + k ) : plut^ ot que de chercher tous les facteurs de de longueur n, avec xe, on peut chercher le facteur initial de toutes les suites u(x). La premiere lettre de u(x) est determinee par la position de x par rapport a le partition P la deuxieme lettre est determinee par la position de R x par rapport a P , ou encore par la position de x par rapport a R;1 P . En e et on a u1(x) = 0 si et seulement si R x 2 I0, ou x 2 R;1 I0. Pour conna^tre le facteur initial de u(x), il faut placer x par rapport aux partition P R;1P : : : R;n+1 P , et il y a donc autant de facteurs initiaux possibles que d'ensembles dans l'intersection P ^ R;1 P ^ ^ R;n+1 P de ces partitions. Un calcul immediat montre que la partition R;k P est constituee des deux intervalles ;k 1 ; (k + 1) et 1 ; (k + 1) 1 ; k (attention, tous ces calculs se font modulo 1 ! voir gure 3) l'intersection des n premiers iteres inverses de la partition P est donc donnee par n + 1 points, et la partition obtenue a donc n + 1 elements. On a bien prouve qu'il y a n + 1 facteurs initiaux de longueur n possibles, donc au plus n + 1 facteurs possibles pour u( ). Compte tenu du fait que la suite u( ) n'est pas ultimement periodique, elle est de complexite n + 1. On pourrait en

Complexite de suites: quelques exemples

25

R;1 (I1) I1 R (I1) ? ? 1; 1;3 1;2

;2

Figure 3 fait, en utilisant le fait que l'orbite d'un point pour une rotation irrationnelle sur le cercle est dense, montrer directement que tous les facteurs initiaux possibles sont des facteurs de u( ).

3. Suites engendrees par des systemes dynamiques

On peut en fait generaliser la demonstration precedente. Considerons, comme dans l'introduction, un systeme dynamique T : X ! X , une partition P indicee par A, et la fonction f de codage associee. Notons u(x) = (f (T nx))n2N la suite donnee par le codage de l'orbite de x comme ci-dessus, il est clair qu'un facteur de u(x) qui appara^t en position k est facteur initial de u(T k(x). Par ailleurs, la lettre d'ordre k de u(x) donne la position de x par rapport a la partition T ;k P , et comme ci-dessus, il y a donc autant de facteurs initiaux de longueur n que d'atomes dans l'intersection P ^ T ;1P ^ ^ T ;n+1 P on a donc : Proposition. | Soit u(x) la suite donnee par le codage de l'orbite de x pour le systeme T : X ! X par rapport a la partition P la complexite d'ordre n de u est majoree par le nombre d'atomes de la partition P ^ T ;1P ^ ^ T ;n+1 P . Il est en general impossible d'aller plus loin, pour deux raisons : d'une part, l'orbite de x peut eviter de larges regions de X (par exemple, si l'orbite de x est periodique), et les mots initiaux correspondants n'appara^tront pas comme facteurs etre tres petite, voire de u(x) d'autre part, la region associee a un mot initial peut ^ reduite a un nombre ni de points, et dans ce cas le mot correspondant n'appara^tra pas dans la plupart des orbites. Dans la cas d'un systeme dynamique topologique, on peut donner des conditions qui evitent ces phenomenes, et l'on a : Proposition. | Soit X un espace metrique compact, et T un homeomorphisme de X . Soit P = fPa a 2 Ag une partition de X qui veri e la condition suivante :

26

P. Arnoux

( ) Pour toute suite nie a0 a1 : : : an;1 , l'ensemble Pa0 \T ;1Pa1 \ \T ;n+1Pan;1 est vide ou d'interieur non vide. Alors, si x est un point d'orbite dense pour T , la complexite de la suite u(x) est egale au nombre d'atomes des partitions P ^ T ;1 P ^ ^ T ;n+1P Demonstration. | En e et, tout mot initial correspond a un ensemble qui contient un ouvert par densite de l'orbite de x, ce mot initial est un facteur de u(x). 2 Il y a un cas ou l'on veri e facilement la condition sur x : on dit qu'un systeme dynamique topologique est minimal s'il n'admet pas de sous-ensemble ferme invariant, ou, de maniere equivalente, si toute orbite est dense dans ce cas, on a le theoreme suivant :
Theoreme. | Soit T : X ! X un systeme dynamique minimal, et soit P une partition de X veri ant la condition (*) de la proposition precedente alors, pour tout point x, la complexite de la suite u(x) est egale au nombre d'atomes des partitions P ^ T ;1P ^ ^ T ;n+1 P en particulier, toutes les suites de codages ont la m^ eme complexite (et en fait, les m^ emes facteurs).

La suite de l'expose est consacree a quelques applications de ce lemme. On va, pour quelques types de suites, exhiber un systeme dynamique associe, montrer qu'il est minimal, et calculer, par des methodes geometriques, le nombre d'atomes de la partition associee.

4. Un exemple : les di erences secondes de la suite n2 ]

On a vu qu'une suite sturmienne peut ^ etre obtenu comme suite des di erences de termes consecutifs de la suite a valeurs entieres n + ]. On peut essayer de generaliser en considerant la suite w de nie par wn = n2 ], avec irrationnel. Pour obtenir une suite a valeurs dans un alphabet ni, il faut cette fois prendre la suite u des di erences secondes, donnee par un = wn+2 ; 2wn+1 + wn. Cette suite n'est bien s^ ur plus associee a une rotation, mais on peut aussi l'obtenir comme suite de codage d'un systeme dynamique. Plus precisement, nous allons donner une tranformation T du tore T2 et une fonction f sur T2, ne prenant qu'un nombre ni de valeurs, et telles que l'on ait un = f (T n(0 0)). Il est facile de trouver f et T en ecrivant n2 comme une suite recurrente en e et, si l'on considere l'application a ne A de nie par A(x y) = (x + y + y + 2 ), on veri e immediatement que An(0 0) = (xn yn) = (n2 n ). On peut alors ecrire un en fonction de xn et yn, puisqu'on a par de nition :

un = wn+2 ; 2wn+1 + wn = xn+2] ; 2 xn+1] + xn] = xn + 2yn + 4 ] ; 2 xn + yn + ] + xn]

Complexite de suites: quelques exemples

27

On peut donc ecrire un = f (xn yn), avec f (x y) = x +2y +4 ] ; 2 x +y + ]+ x] on veri e immediatement que f est Z2-periodique, donc peut ^ etre considere comme 2 2 2 une application de nie sur le tore T = R =Z , et que de m^ eme A, etant associee a une matrice de SL(2 Z), passe au quotient en une transformation a ne T de T2. On sait que T , qui est ce qu'on appelle un produit croise au-dessus d'une rotation, est minimal des que est irrationnel cela decoule de travaux de Furstenberg. En fait, on ne montre pas que toute orbite est dense, mais une propriete bien plus forte : toute orbite est equirepartie sur le tore T2 (cf F], ou CFS], p. 100-104). On est donc en position d'appliquer le theoreme precedent il reste a montrer que P satisfait la propriete (*), et a calculer le nombre d'atomes. Mais d'apres l'ecriture de f , les interieurs des atomes de la partition P sont les cellules de la decomposition cellulaire de T2 engendree par les trois cercles x = 0, x + y + = 0 et x + 2y + 4 = 0 (cf. gure 4) un calcul simple montre que la partition T ;nP est engendree de m^ eme par les cercles Hk = T ;k H0 d'equation x + ky + k2 = 0, pour n k n + 2.

x=0

x=1 x + 2y + 4 = 2 x + 2y + 4 = 1 x + 2y + 4 = 0 x+y+ =0

Figure 4 : Les 4 atomes de P Ces cellules sont des polygones avec un nombre ni de c^ ote pour que la condition (*) ne soit pas satisfaite, il faudrait qu'il y ait une co ncidence de sommets entre certaines de ces cellules, et qu'au moins 3 des cercles HK aient une intersection non vide, ce qui est impossible par irrationalite de . On peut alors calculer e ectivement la complexite nous avons une decomposition cellulaire du tore, donnee par un nombre ni de cercles, dont nous voulons conna^tre le nombre Fn de faces. Puisque toute ar^ ete a deux sommets, et que tout sommet, appartenant a deux cercles, delimite 4 ar^ etes, les nombres Sn de sommets et An d'ar^ etes veri ent An = 2Sn. Compte tenu de la relation d'Euler sur le tore, S ; A + F = 0, on en deduit qu'il y a autant de faces que de sommets.On se ramene donc

28

P. Arnoux

a calculer le nombre de points d'intersections de Hj et Hk , ou encore, en faisant agir T j , de H0 et Hk;j , qui vaut jk ; j j. En faisant la somme sur tous les couples d'hyperplans, on obtient : X 2)(n + 3) p(n) = (k ; j ) = (n + 1)(n + 6 0 j<k n+1 D'ou le resultat : Theoreme. | la complexite de la suite u des di erences secondes de n2 ] est donnee par : 2)(n + 3) p(n) = (n + 1)(n + 6 En particulier, comme pour les suites sturmiennes, la complexite ne depend pas de la valeur de .

Remarque. | En toute rigueur, nous avons compte, non pas le nombre d'atomes de l'intersection P ^ T ;1P ^ ^ T ;n+1P , mais le nombre de composantes connexes de ces atomes il faudrait donc, ce qui peut ^ etre fait moyennant un peu de travail supplementaire, montrer que ces atomes sont connexes voir AMM] pour plus de details. Ces arguments se generalisent a des suites obtenues a partir de polyn^ omes de degre quelconque rappelons que, si w est une suite a valeurs reelles, la suite v = w des di erences est de nie par : vn = wn+1 ; wn. Le resultat enonce ci-dessus est un cas particulier du theoreme suivant :
cient dominant est irrationel la suite d( Q(n)]) n2N ne prend qu'un nombre ni de valeurs, et sa complexite, qui ne depend que de d, est donnee par la formule : X p(n) = V (0 1 : 1 : : d ; 1) 0 k1<k2 < <kd n+d;1 V (kd : : : k1) ou V (kd : : : k1) = Q1 i<j d (kj ; ki ) est le determinant de Vandermonde associe a (kd : : : k1).
Theoreme. | Soit Q un polyn^ ome de degre d a coe cients reels dont le coef-

Il est remarquable que la complexite trouvee ne depende que du degre du polyn^ ome.

5. Un autre exemple : les suites de billard cubique

Au lieu de generaliser la de nition arithmetique des suites sturmiennes, on peut regarder la de nition geometrique : billard carre, ou droite dans le plan nous considererons donc le billard cubique, c'est-a-dire le systeme forme par un point mobile dans un cube, sans forces exterieures, avec re exions elastiques sur les parois.

Complexite de suites: quelques exemples

29

On code chacune des trajectoires par la suite des faces du cube qu'elle rencontre (on note 0, 1 et 2 les trois types de faces, on ne fait pas de di erence entre les faces paralleles). A toute trajectoire est ainsi associee un mot in ni sur l'alphabet f0 1 2g. On a le resultat suivant : Theoreme. | La complexite d'une trajectoire de pente ( ), ou et 2 sont rationellement independants, est egale a n + n + 1. On trouvera une demonstration detaillee dans AMST] nous donnons ci-dessous les grandes lignes de la preuve. On supposera, pour simpli er les calculs, que sont trois reels rationellement independants dans leur ensemble qui satisfont : + + = 1. La premiere etape est de remarquer que, de facon analogue aux suites sturmiennes, il est equivalent d'etudier le billard cubique ou d'etudier une droite de pente irrationnelle dans R3 et ses intersections avec les plans x = n y = n z = n pour tout entier n. On procede alors de facon analogue a l'etude faite pour la droite de pente irrationnelle dans le plan : Si l'on appelle hauteur du point (a b c) le nombre a + b + c, on appelle n la \surface plissee" qui joint les sommets de hauteur n n + 1 n + 2 (voir gure 5). La droite consideree coupe chaque surface plissee une fois et une seule, dans un de ses trois types de faces. Si l'on projette la surface plissee sur le plan diagonal x + y + z = 0, on obtient un pavage periodique de ce plan un calcul simple montre que l'on passe du pavage projete de n au pavage projete de n+1 par une translation de vecteur (1 ; ; ; ), projection sur le plan diagonal du vecteur (1 0 0) (on pourrait projeter un autre des trois vecteurs de base, car les di erences entre ces trois projections appartiennent au groupe de translation du pavage) en quotientant par le groupe du pavage, on se ramene donc a etudier une translation du tore T2, codee par rapport a une partition en trois quadrilateres. Il est bien connu (theoreme de Kronecker) qu'une translation irrationnelle du tore est minimale. Il faut alors, comme precedemment, montrer que la partition consideree satisfait a la condition (*), ce qui vient de l'hypothese d'irrationalite, puis montrer que les atomes de l'intersection des partitions iterees sont connexes, et on se ramene a un probleme de comptage. La partition intersectee d'ordre n vient d'une triangulation du tore avec Sn sompmets, An ar^ etes et Fn faces, qui satisfait la formule d'Euler Sn ; An + Fn = 0. La partition d'ordre 1, qui est la projection d'un cube en perspective, a 3 sommets, 6 ar^ etes et 3 faces, qui correspondent aux trois lettres du codage. On passe de la partition d'ordre n a la partition d'ordre n + 1 en rajoutant 3 segments et un point (projection d'un cube de hauteur plus grande que les precedents) mais ces trois segments recoupent les ar^ etes deja existantes. On montre que les segments ajoutes a l'etape n recoupent les segments ajoutes a l'etape i en 2 points si i < n ; 1, et en 0 points si i = n ; 1 (plus exactement, dans ce cas ils recoupent ces segments en leur extremite, ce qui ne rajoute pas de nouveau sommet). On a donc Sn+1 = Sn + 2n + 1, et donc Sn = n2 + 2. On montre de m^ eme que An+1 = An + 4n + 3, donc An = 2n2 + n + 3, d'ou l'on deduit le resultat cherche.

30

P. Arnoux

Figure 5

6. Suites de billard : la conjecture de Tamura

Une fois que l'on a reussi a calculer la complexite du billard carre et du billard cubique, il est bien s^ ur tentant, comme on l'a fait pour les parties entieres de polyn^ omes, de generaliser en dimension quelconque.
Definition. | Nous noterons p(n s) le nombre de facteurs de longueur n

dans une suite engendree par le billard dans le cube de dimension s + 1

Le cas s = 1 correspond au billard carre, c'est-a-dire aux suites sturmiennes, s = 2 est le billard cubique de la section precedente, s = 0 est un cas degenere, billard sur un segment, correspondant a une suite constante de complexite 1. Il est a noter que nous ne savons pas si P (n s) est bien de ni dans le cas general : la de nition que nous avons donnee suppose implicitement que la complexite d'une suite de billard cubique irrationnel ne depend que de la dimension, et pas de la direction initiale, ce qui n'a pas de raison d'^ etre vrai a priori. Cependant, il est facile de veri er que p(n s) est bien de ni pour n < 3, et que l'on a p(0 s) = 1 (cas du mot vide), p(1 s) = s + 1 (nombre de lettres, c'est-a-dire d'hyperfaces du cube de dimension s + 1), et p(2 s) = s2 + s + 1 (car tous les mots ij, avec i 6= j, sont possibles, mais un seul des mots ii est possible. D'autre part, J.I. Tamura a calcule numeriquement la complexite pour un certain nombre d'exemples de dimension superieure a 3. Si l'on resume les resultats connus, on trouve le tableau de la page suivante, ou les chi res en italique resultent de simulations numeriques

Complexite de suites: quelques exemples

31

nns 0 1 2 3 4 5

0 1 1 1 1 1 1

1 1 2 3 4 5 6

2 1 3 7 13 21 31

3 4 5 1 1 1 4 5 6 13 21 31 34 73 136 73 209 136

s 1 s+1 s2 + s + 1

n 1 n + 1 n2 + n + 1 Au vu de ces resultats, J.I. Tamura a conjecture que la fonction p(n s) est de nie et symetrique : p(n s) = p(s n). On peut pousser la conjecture plus loin : il est clair que l'on a p(n s) < (s + 1)n , car c'est le nombre de mots de longueur n que l'on peut former avec s + 1 lettres au vu des resultats obtenus, il est donc naturel de supposer que, pour n xe, p(n s) est une polyn^ ome unitaire de degre n en s. Mais on peut alors calculer de proche en proche chaque ligne, puisque, par symetrie, les n premieres lignes determinent les n premieres colonnes, et que l'on conna^t donc n valeurs du polyn^ ome unitaire de degre n + 1 associe a la ligne suivante, ce qui le determine completement le calcul peut ^ etre fait explicitement,et conduit a la conjecture suivante :
Conjecture. | La fonction p(n s) est donnee par :
inf(n s)

p(n s) =

X
i=0

n!s! (n ; i)!i!(s ; i)!

Cette conjecture est en parfait accord avec les simulations numeriques, et a ete veri ee dans un grand nombre de cas particuliers elle n'est cependant pas demontree des que n et s sont plus grands que 2 : les calculs de comptage qui generalisent ceux de la section precedente deviennent alors inextricable. On n'a par ailleurs a l'heure actuelle aucune preuve que cette fonction soit de nie dans le cas general en fait, m^ eme dans les cas n = 1 ou n = 2, la demonstration la plus simple consiste a calculer explicitement p(n s) et a montrer que le resultat ne depend pas de la direction. Il existe dans ce cas des preuves directes, sans calculer la valeur mais en montrant directement que le nombre de mots ne varie pas quand on change la direction, mais elles sont plus compliquees. eme heuristique, de la raison pour laquelle cette On n'a egalement aucune idee, m^ fonction serait symetrique en n et s.

7. Quelques autres resultats

Citons pour terminer quelques autres cas ou l'on sait calculer explicitement la complexite :

32

P. Arnoux

Une autre generalisation du billard carre est le billard dans un polygone rationnel (c'est-a-dire dont les angles sont des multiples rationnels de ) dans ce cas, P. Hubert a montre (cf. Hu]) que, si, dans un polygone a q c^ otes, les angles sont de la forme k1 =r k2 =r : : : kq =r, ou les entiers k1 k2 : : : kq r sont premiers entre eux dans leur ensemble, alors la suite obtenue en codant une trajectoire non periodique par les c^ otes qu'elle rencontre est de complexite p(n) = n(q ; 2)r + 2r si l'on veut appliquer la formule au carre, il faut faire attention que ce codage distingue les c^ otes paralleles, contrairement a celui que nous avons etudie plus haut, d'ou le resultat 4n +4 qu'on obtient ici. On ne sait pas par contre quelle est la complexite du billard dans un polygone irrationnel, et encore moins ce qui se passe pour un polyedre autre que le cube ou un cylindre sur un polygone rationnel. On peut egalement s'interesser aux generalisations de la propriete iii,c'est-a-dire aux suites engendrees par substitution dans ce cas, B. Mosse (cf. Mo]) a montre que la suite p(n +1) ; p(n) est bornee, donc que p(n) est sous-lineaire, et a donne un algorithme e ectif de calcul de p(n) mais la complexite n'a pas en general de forme simple, m^ eme pour une suite substitutive tres simple telle que la suite de Morse, obtenue en partant de 1, en remplacant 1 par 10 et 0 par 01 et en iterant. Pour d'autres resultats sur ce sujet, on peut aussi consulter Al].

Bibliographie
Al] J.P. Allouche, Sur la complexite des suites in nies, Prepublication. AMST] P. Arnoux, C. Mauduit, I. Shiokawa, J.I. Tamura, Complexity of sequences de ned by billiards in the cube, Bull. Soc. Math. France 122 (1994), 1{12. AMM] P. Arnoux,C. Mauduit, G. Meigniez, Complexite de suites engendrees par des recurrences unipotentes, En cours de redaction. CFS] I. P. Cornfeld, S.V. Fomin, Ya. G. Sinai, Ergodic theory, Springer Verlag, 1982. CH] E.M. Coven, G.A. Hedlund, Sequences with minimal block growth, Mathematical Systems Theory 7 (1973), 138{153. F] H. Furstenberg, Strict ergodicity and transformation of the torus, Amer. J. Math. 83 (1961), 573{601. He] G. A. Hedlund, Sturmian minimal sets, Amer. J. Math. 66 (1944), 605{620. HM] G.A.Hedlund, M. Morse, Symbolic dynamics II. Sturmian trajectories, Amer. J. Math. 62 (1940), 1{42. Hu] P. Hubert, Complexite des suites de nies par des trajectoires de billard dans un polygone rationnel, Bull. Soc. Math. France (1993), a para^tre.

Complexite de suites: quelques exemples

33

Mo]

B. Mosse, Notion de reconnaissabilite pour les substitutions et complexite

des suites automatiques, Prepublication N. 93-21 du Laboratoire de Mathematiques Discretes (1993).

Laboratoire de Mathematiques discretes UPR CNRS 9016 Faculte des Sciences de Luminy Case 930 163 avenue de Luminy 13288 Marseille Cedex 9 France
Adresse electronique : arnoux@lmd.univ-mrs.fr

L'ensemble de Julia depend-il contin^ ument du polyn^ ome ?

Adrien Douady

Introduction
Etant donne un polyn^ ome complexe f : C ! C de degre d 2, on de nit l'ensemble de Julia rempli K (f ) et l'ensemble de Julia proprement dit J (f ) (x 4). Tous deux sont des compacts non vides de C. L'ensemble J (f ) est la frontiere de K (f ), et K (f ) est la reunion de J (f ) avec les composantes connexes bornees de C ; J (f ). L'ensemble K (f ) peut ^ etre d'interieur vide (auquel cas J (f ) = K (f )), ou d'interieur non vide. L'ensemble J (f ) est la fermeture de l'ensemble des points periodiques repulsifs. Les composantes connexes de l'interieur de K (f ) sont toujours reliees a des points periodiques non repulsifs de f . Les points periodiques sont decrits au x 3. Dans cet expose, nous examinons a quel point K (f ) et J (f ) dependent contin^ ument de f , quand f parcourt l'ensemble Pd des polyn^ omes de degre d. Il nous faut d'abord donner un sens a la question. On le fait en de nissant la metrique de Hausdor sur l'ensemble Comp (C) des compacts non vides de C (x 1). La distance de Hausdor est de nie comme sup de deux semi-distances ce qui permet de decomposer la continuite pour des applications a valeurs dans Comp (C) en semi-continuites superieure et inferieure. Au contraire de ce qui se passe pour les fonctions a valeurs dans R, les deux semi-continuites jouent des r^ oles tres di erents : la semi-continuite superieure est beaucoup plus naturelle. L'application f 7! K (f ) est semi-continue superieurement, et f 7! J (f ) est semicontinue inferieurement. Toutes deux sont continues en f0 si K (f0) est d'interieur vide. Le fait pour K (f0) d'avoir un interieur non vide peut ^ etre d^ u a la presence de cycles attractifs, de cycles paraboliques ou de disques de Siegel. Il peut y en avoir plusieurs pour le m^ eme f0 si d > 2, mais en degre 2 ils s'excluent mutuellement. Nous examinons l'e et sur la continuite de ces trois types de cycles. Les cycles attractifs ne causent en fait aucune discontinuite (x 6). Les disques de Siegel causent une discontinuite dans f 7! J (f ), mais aucune pour f 7! K (f ) (x 7). Un cycle parabolique cause une discontinuite dans f 7! K (f ) et dans f 7! J (f ). Ces discontinuites peuvent ^ etre decrites et analysees avec precision. Nous les ferons dans la partie II pour l'exemple le plus simple : l'application z 7! z + z2. L'outil principal pour cette etude est fourni par les coordonnees de Fatou. 35

36

A. Douady

Je remercie l'Union des Professeurs de Speciale et l'Ecole Polytechnique, en particulier Nicole Berline et Claude Sabbah, qui ont organise cette rencontre, Bodil Branner et Nuria Fagella pour leur aide dans la preparation de ce texte et Jacques Carette qui a realise les gures a l'ordinateur. Ce texte para^t en anglais dans les comptes-rendus d'une rencontre semblable (short course) organisee par Robert Devaney de l'universite de Boston et qui a eu lieu a Cincinnati sous l'egide de l'American Mathematical Society.

Proprietes de continuite
1. La metrique de Hausdor
Soit E un espace metrique. Notons Comp(E ) l'ensemble des compacts de E et posons Comp (E ) = Comp(E ) ; f?g. Nous allons munir Comp (E ) d'une distance appelee la distance de Hausdor . Nous donnons la de nition et quelques proprietes dans le cadre general des espaces metriques arbitraires, mais en fait nous nous interessons seulement au cas E = C. Soient X et Y deux compacts de E . Nous disons que X est contenu dans Y a r pres si X est contenu dans le r-voisinage de Y , c'est a dire si d(x Y ) r pour tout x 2 X . Nous notons @ (X Y ) le plus petit r tel que X Y a r pres, soit

Partie I

@ (X Y ) = sup d(x Y ):
x2X

Figure 1 La distance de Hausdor dH est de nie par

dH (X Y ) = sup(@ (X Y ) @ (Y X )):
Les conventions usuelles concernant l'ensemble vide nous amenent a poser d(x ?) = 1, @ (X ?) = 1 pour X 6= ? et @ (? ?) = 0. Pour eviter des di cultes sans

^ment du polyno ^ me? L'ensemble de Julia depend-il continu

37

pertinence, nous travaillons sur Comp (E ), autrement dit nous ne considererons que des compacts non vides.
Proposition 1.1. | La fonction dH est une distance sur Comp (E ). Lemme 1.2.

(a) On a @ (X Y ) = 0 si et seulement si X (b) Pour X Y Z dans Comp (E ), on a Demonstration. (a) On a

Y.

@ (X Z ) @ (X Y ) + @ (Y Z ):

@ (X Y ) = 0 () (8x 2 X ) d(x Y ) = 0 () (8x 2 X ) x 2 Y () X Y:

On a la deuxieme equivalence parce que Y est ferme. (b) Posons r1 = @ (X Y ) et r2 = @ (Y Z ). Pour x 2 X , on peut trouver y 2 Y tel que d(x y) r1, puis z 2 Z tel que d(y z) r2. On a alors d(x z) r1 + r2, d'ou d(x Z ) r1 + r2. Comme cela vaut pour tout x 2 X , on a @ (X Z ) r1 + r2. c.q.f.d. Demonstration de la Proposition 1.1. (a) dH (X Y ) = dH (Y X ) est evident sur la de nition. (b) dH (X Y ) = 0 () @ (X Y ) = @ (Y X ) = 0 () (X Y et Y X ) () X =Y. (c) De @ (X Z ) @ (X Y ) + @ (Y Z ) et @ (Z X ) @ (Y X ) + @ (Z Y ) on tire dH (X Z ) dH (X Y ) + dH (Y Z ). c.q.f.d. A partir de maintenant nous munissons Comp (E ) de la distance de Hausdor et nous le considerons donc comme un espace metrique. Ceci nous permet d'utiliser des expressions comme \Xn ! X quand n ! 1" ou \X depend contin^ ument de 2 ".

2. Applications semi-continues a valeurs dans Comp (E ) La distance de Hausdor (X Y ) 7! dH (X Y ) est le sup des deux semi-distances (X Y ) 7! @ (X Y ) et (X Y ) 7! @ (Y X ). Ceci nous permet de decomposer la propriete de continuite pour une application ! Comp (E ) en semi-continuites superieure et inferieure. Comparons avec R : la distance (x y) 7! jy ; xj sur R peut s'exprimer comme

jy ; xj = sup((y ; x)+ (x ; y)+)

38

A. Douady

ou r+ = sup(r 0). Rappelons qu'une fonction f : superieurement en 0 si (f ( ) ; f ( 0 ))+ ! 0 quand c'est-a-dire :

! R est dite semi-continue !

0

(8" > 0) (9 Vvois 0 ) (8 2 V ) f ( ) < f ( 0) + ": On dit que f est semi-continue inferieurement en 0 si (f ( 0) ; f ( ))+ ! 0 quand c'est a dire

(8" > 0) (9 Vvois 0 ) (8 2 V ) f ( ) > f ( 0 ) ; ": Par analogie, nous disons qu'une application : ! Comp (E ) est semi-continue superieurement en 0 si

@ ( ( ) ( 0)) ! 0 quand
c'est a dire (8" > 0) (9 Vvois 0 ) (8 2 V ) ()

( 0) a " pres:
0

Nous disons que est semi-continue inferieurement en

si
0

@ ( ( 0) ( )) ! 0 quand
c'est a dire (8" > 0) (9 Vvois 0 ) (8 2 V ) ()

( 0) a " pres:

Mais il y a une di erence avec le cas de R, qui est toute en faveur du nouveau cas. Dans le cas de R, il est di cile a quelqu'un de normal, m^ eme apres quelques e orts, de s'y retrouver entre les deux semi-continuites. Dans le cas de Comp (E ), les deux semi-continuites jouent des r^ oles tres di erents : la semi-continuite superieure est tres naturelle a considerer, a cause de l'interpretation donnee dans la Prop. 2.1. ci-dessous, tandis que la semi-continuite inferieure est une propriete un peu bizarre. Si E et F sont deux espaces metrisables, on dit qu'une application f : E ! F est propre si f est continue et si l'image inverse de tout compact de F est un compact de E . Toute application propre est fermee, c'est a dire que l'image d'un ferme est ferme ( Bbk])
un espace metrisable et (X ) 2 une famille de sous-ensembles de E . Considerons l'espace H des (X x) 2 E tels que x 2 X . Alors les proprietes suivantes sont equivalentes : (1) l'application 7! X est semi-continue superieurement de dans Comp (E ) (2) H est ferme dans E et la projection pH : H ! est propre et surjective.
Proposition 2.1. | Soient E un espace metrique,

^ment du polyno ^ me? L'ensemble de Julia depend-il continu

39

Demonstration. (2) ) (1) : Pour tout , l'ensemble X est un compact non vide de E . Etant donne 0 2 et " > 0, l'ensemble A = f( x) 2 Hj d(x X 0 ) "g et un ferme de 1 H ne rencontrant pas p; et W = ; pH (A) est H ( 0 ). Donc pH (A) est ferme dans un voisinage de 0 . Pour 2 W , on a @ (X X 0 ) < ". (1) ) (2) : Puisque X 6= ? pour tout , la projection pH est surjective. Soit 1 L un compact, et soient (( n xn))n2N une suite dans p; H (L). Comme ( n ) est une suite dans L, on peut supposer qu'elle tend vers un point 0 2 L. Posons rn = d(xn X 0 ). Par semi-continuite, rn @ (X n X 0 ) ! 0. Pour tout n on peut trouver un point yn 2 X 0 tel que d(xn yn) = rn . De la suite (yn) dans X 0 on peut extraire une suite convergeant vers un point y0 2 X 0 . Alors ( n xn) ! ( 0 x0). c.q.f.d. a: Remarque 2.2. | Si est localement compact, la condition (2) est equivalente

(20) H est ferme dans E , pour chaque 0 2 on peut trouver un voisinage V de 0 dans et un compact K dans E tels que X K pour 2 V , et pH est surjective. Si E est compact, (2) est equivalente a : (200) H est ferme dans

E et pH est surjective.

de f . Un point x 2 C est periodique de periode k si f k (x) = x, f i(x) 6= x pour 0 < i < k. Le cycle engendre par x est alors = fx0 : : : xk;1g, ou xi = f i(x). Le multiplicateur de est = f 0(x0) f 0(x1)

3. Points periodiques 3.1. Multiplicateur Soit f : C ! C un polyn^ ome complexe de degre d. On note f k le k-ieme itere

f 0(xk;1) = (f k )0(xi) pour tout i:

Pour z voisin de xi, f k (z) ; xi est approximativement (z ; xi). On dit que le cycle est attractif si j j < 1, repulsif si j j > 1, indi erent (ou neutre) si j j = 1. Les cycles indi erents se divisent en cycles paraboliques (cas ou est une racine de l'unite) et cycles indi erents irrationnels. Le multiplicateur d'un point periodique est le multiplicateur du cycle qu'il engendre. Un point periodique est attractif, repulsif, etc, s'il en est ainsi du cycle qu'il engendre.

40

A. Douady

3.2. Cycles attractifs

Si x est un point periodique attractif de periode k, le bassin Ax de x est fz 2 Cj f nk (z) ! x quand n ! 1g: C'est un ouvert contenu dans K , et x 2 Ax. Le bassin immediat A0 x est la composante connexe de Ax contenant x. Le bassin (resp. bassin immediat) du cycle engendre par x est A = Axi (resp. A0 = A0 xi ): Le resultat suivant est classique. Rappelons qu'un point critique de f est un point ou la derivee f 0 s'annule. Theoreme 3.1 (Fatou, Julia). | Le bassin immediat d'un cycle attractif contient toujours un point critique. Corollaire. | Le nombre maximum de cycles attractifs pour un polyn^ ome de degre d est d ; 1. En e et, un polyn^ ome de degre d a au plus d ; 1 points critiques distincts. En fait on a un meilleur resultat : Theoreme 3.2. | Le nombre maximum de cycles non repulsifs pour un polyn^ ome de degre d est d ; 1. Plan de la demonstration. | La demonstration repose sur la notion d'application a allure polynomiale. Une application a allure polynomiale f : U 0 ! U , ou U est U 0 sont deux ouverts de C limites par des courbes de Jordan et 0 avec U 0 U , est une application holomorphe U 0 ! U qui admet un prolongement continu U 0 ! U induisant une application 0 ! . Le degre de f est le degre de l'application induite 0 ! . Une application a allure polynomiale de degre d a d ; 1 points critiques (en comptant avec multiplicite). Si f est un polyn^ ome de degre d, l'application f : f ;1(DR ) ! DR est a allure polynomiale pour R assez grand. Le theoreme 3.1 s'etend aux applications a allure polynomiale : tout cycle attractif attire au moins un point critique. Il su t de recopier la demonstration pour les polyn^ omes. Par consequent, une application a allure polynomiale de degre d a au plus d ; 1 points critiques. L'avantage de ce nouveau cadre est le suivant : alors qu'il est di cile de modi er un polyn^ ome de facon a rendre attractifs tous les cycles non repulsifs, cela est tres facile pour les applications a allure polynomiale. Par suite une application a allure polynomiale de degre d a au plus d ; 1 cycles non repulsifs | sinon l'application modi ee donnerait une contradiction. Ceci s'applique notamment aux polyn^ omes. c.q.f.d.
0

i<k

i<k

^ment du polyno ^ me? L'ensemble de Julia depend-il continu

41

3.3. Cycles paraboliques

Soit maintenant x un point parabolique de periode k et de multiplicateur = e2i p=q (p et q premiers entre eux). Alors f kq est tangent a l'identite en x. On peut trouver Q demi-droites d'origine x appelees les axes d'attraction, alternant avec Q autres appelees les axes de repulsion, avec la propriete suivante : si z est voisin de x sur un axe d'attraction (resp. de repulsion), f kq rapproche (resp. eloigne) z de x. Les axes d'attraction et de repulsion sont determines de la facon suivante : En mettant l'origine en x, l'application f kq se met sous la forme

z 7! z(1 + czQ + O(zQ+1 ))

avec c 6= 0, Q 1. Les valeurs de z pour lesquelles czQ est reel < 0 (resp. > 0) forment les axes d'attraction (resp. de repulsion). L'application lineaire tangente z 7! z envoie les axes d'attraction sur axes d'attraction et axes de repulsion sur axes de repulsion. On voit ainsi que Q est necessairement un multiple de q. Pour chaque axe d'attraction L, il y a des points z tels que f kqn (z) ! x tangentiellement a L. Ces points forment un ouvert non vide AL qui contient un segment S de L ayant x pour une de ses extremites. Nous appelons AL le bassin de L, et la composante connexe A0 L de L qui contient S le bassin immediat. Le point x est sur la frontiere de A0 . Le bassin (resp. bassin immediat) de x est la reunion des AL (resp. L 0 AL) pour L axe d'attraction, et si est le cycle engendre par x nous de nissons A (resp. A0) comme la reunion des bassins (resp. bassins immediats) des points du cycle.

Figure 2 Le resultat suivant est analogue au Th. 3.1 :

contient toujours au moins un point critique (en fait = Q=q points critiques).
Theoreme 3.3 (Fatou, Julia). | Le bassin immediat d'un cycle parabolique

42

A. Douady

Soit maintenant x un point periodique indi erent irrationnel de periode k et de multiplicateur = e2i , 2 R ; Q. Alors x peut ^ etre linearisable (cas de Siegel) ou non linearisable (cas de Cremer). On dit que x est linearisable s'il y a un voisinage ouvert U de x tel que f k (U ) = U et un isomorphisme : U ! D tel que f k ;1 : D ! D soit la rotation z 7! z. Le plus grand U possible est le disque de Siegel x de x. Des resultats de Cremer, Siegel, Bruno, Yoccoz donnent des conditions pour qu'un point periodique indi erent irrationnel soit linearisable. Pour les polyn^ omes quadratiques, on a
point periodique indi erent irrationnel x de periode k et de multiplicateur = e2i , 2 R ; Q. Soient pn =qn les reduites du developpement de en fraction continue. Alors x est linearisable si et seulement si X log qn+1 < 1: (B)
Theoreme 3.4 (Bruno, Yoccoz). | Soit f un polyn^ ome quadratique avec un

3.4. Cycles indi erents irrationnels

qn L'implication (B) ) linearisabilite est due a Bruno, et vaut pour un polyn^ ome de degre quelconque, et m^ eme pour tout germe de fonction holomorphe. La reciproque est due a Yoccoz.

itere de f : f 0 = I , f n+1 = f f n. Nous ecrivons parfois zn pour f n (z). On dit que z s'echappe par f si f n (z) ! 1 quand n ! 1. On peut trouver un R > 0 tel que tout z veri ant jzj R s'echappe. Une telle valeur de R est appelee un rayon d'echappement. Pour f : z 7! adzd + + a0, le rayon + ja0j R = 1 + jadj j+ ad j est un rayon d'echappement. En fait, des qu'un point commence a s'echapper pour de bon, la convergence vers 1 est incroyablement rapide. Par exemple, pour f (z) = z2 + c avec jcj 2, si jznj 3 pour un certain n, on a jzn+10j > 10300 : c'est plus que le rapport du volume de l'univers connu jusqu'aux quasars les plus lointains au volume d'un proton. Nous notons K (f ) l'ensemble des points qui ne s'echappent pas par f , et nous l'appelons l'ensemble de Julia rempli de f . L'ensemble de Julia proprement dit est la frontiere J (f ) de K (f ). L'ensemble K (f ) est compact. En e et, il est contenu dans DR des que R est un rayon d'echappement, et il est ferme : si un point z s'echappe, on a jf n (z)j > R pour un certain n, d'ou jf n (z0)j > R avec le m^ eme n si z0 est assez voisin de z, et l'ensemble des points qui s'echappent est ouvert.

4. Ensemble de Julia rempli et ensemble de Julia d'un polyn^ ome Soit f : C ! C un polyn^ ome complexe de degre d 2. On note f n le n-ieme

^ment du polyno ^ me? L'ensemble de Julia depend-il continu

43

L'ensemble K (f ) n'est jamais vide, car il contient les points xes de f , solutions de f (z) ; z = 0. En fait il est toujours in ni non denombrable. Il resulte du principe du maximum que son complementaire C ; K (f ) ne peut pas avoir de composante connexe bornee, donc C ; K (f ) est connexe. Suivant les coe cients de f , l'ensemble K (f ) peut ^ etre connexe ou non connexe, il peut ^ etre d'interieur vide (auquel cas J (f ) = K (f )) ou d'interieur non vide. En vertu d'un theoreme de Fatou et Julia, K (f ) est connexe si et seulement si aucun point critique de f ne s'echappe.
Proposition 4.1.

(a) (b) (c) (d) (e)

Tout point periodique attractif appartient a K (f ). Tout point periodique repulsif appartient a J (f ). Tout point parabolique appartient a J (f ). Tout point de Siegel (indi erent irrationnel linearisable) appartient a K (f ). Tout point de Cremer (indi erent irrationnel non linearisable) appartient a J (f ).

Demonstration. | (a) et (d) sont immediats. Le bassin attractif ou le disque de Siegel de x est un voisinage de x contenu dans K (f ). Reciproquement, supposons que x soit un point periodique de periode k avec x 2 K (f ), et soit U la composante connexe de K (f ) contenant x. Alors f k applique U dans U . L'ouvert U est isomorphe a D, soit : U ! D un isomorphisme tel que (x) = 0 et considerons h = f k ;1 : D ! D. On a h(0) = 0, et h0(0) est le multiplicateur = (f k )0(x). D'apres le lemme de Schwarz, on a j j 1, et si j j = 1 l'application h est la rotation z 7! z. Ceci demontre (b) et (e). Remarquons que si x est parabolique avec = e2 ip=q, alors f kq est tangente a l'identite en x, mais ne peut ^ etre l'identite puisque c'est un polyn^ ome de degre dkq . Donc x ne peut ^ etre linearisable, et ceci etablit (c). c.q.f.d. D'apres un theoreme de Sullivan, et des resultats anterieurs de Fatou, les composantes de l'interieur de K (f ) sont toujours reliees a des cycles non repulsifs, d'une facon que nous allons decrire. Les ensembles de la forme suivante : (A) Bassin immediat d'un point periodique attractif (P) Bassin immediat d'un axe d'attraction d'un point parabolique (S) Disque de Siegel sont des composantes connexes de K (f ). Si U est une composante connexe de K (f ), son image f (U ) est encore une composante connexe de K (f ). On dit que U est periodique si f k (U ) = U pour un certain

44

A. Douady

k > 0, preperiodique si f ` (U ) est periodique pour un certain ` 0. Les composantes de l'un des types (A), (P), (S) ci-dessus sont periodiques.
riodique.
Theoreme 4.2 (Sullivan). | Toute composante connexe de K (f ) est prepe-

de l'un des types (A), (P), (S).

Theoreme 4.3 (Fatou). | Toute composante connexe periodique de K (f ) est

Corollaire 4.4. | Si tous les cycles de f sont repulsifs, on a K (f ) = ?.

L'ensemble J (f ), frontiere de K (f ), est compact, non vide et d'interieur vide. L'ensemble K (f ) est la reunion de J (f ) avec les composantes connexes bornees de C ; J (f ). D'apres un theoreme de Fatou et Julia, J (f ) est la fermeture de l'ensemble des points periodiques repulsifs. Pour tout 2 J (f ), l'ensemble J (f ) est la fermeture de l'ensemble des images inverses iterees de .

s'ecrit

5. Semi-continuites de K (f ) et J (f ) en fonction de f Notons Pd l'ensemble des polyn^ omes complexes de degre d. Un tel polyn^ ome

f (z) = adzd + ad;1zd;1 + + a0 avec ad 6= 0: Ainsi Pd peut s'identi er a C Cd , ce qui le munit d'une topologie.
Theoreme 5.1.

(a) L'application f 7! K (f ) de Pd dans Comp (C) est semi-continue superieurement. (b) L'application f 7! J (f ) de Pd dans Comp (C) est semi-continue inferieurement. Demonstration. (a) Pour f 2 Pd, considerons le rayon d'echappement + ja0j : Rf = 1 + jadj (+ ad) Il depend contin^ ument de f . L'ensemble des couples (f z) 2 Pd C tels que z s'echappe par f est f(f z)j (9 n) jf n(z)j > Rf g: Il est donc ouvert, et son complementaire K = f(f z)j z 2 K (f )g est ferme dans Pd C. Comme K (f ) 6= ? pour tout f et K f(f z)j jzj Rf g, la projection pK : K ! Pd est propre et surjective (cf. Remarque 2.2). On peut donc appliquer la Proposition 2.1.

^ment du polyno ^ me? L'ensemble de Julia depend-il continu

45

(b) Nous allons utiliser la description de I (f ) comme fermeture de l'ensemble des points periodiques repulsifs. Soient f0 un point de Pd et " > 0. On peut trouver un ensemble ni X = fx1 : : : xN g de points periodiques repulsifs pour f0 qui remplit J (f0) a "=2 pres, c'est a dire tel que @ (J (f0) X ) "=2. Chaque xi est solution d'une equation f0ki (z) ; x = 0. C'est une solution simple de cette equation, car la derivee est xi ; 1 6= 0. On peut donc appliquer le theoreme des fonctions implicites on trouve un voisinage W de f0 dans Pd et des fonctions holomorphes i : W ! C telles que i (f0) = xi et i(f ) periodique de periode ki pour f . Si on a choisi W assez petit, i(f ) est encore repulsif, et j i(f ) ; xij "=2 pour tout f 2 W . On a alors @ (X J (f )) @ (X f i(f )g) "=2 et @ (J (f0) J (f )) ". c.q.f.d.

2 Pd un point tel que K (f0) = ?, de sorte que J (f0) = K (f0). Alors les deux applications f 7! K (f ) et f 7! J (f ) sont continues
Corollaire 5.2. | Soit f0

en f0 .

Ceci resulte du theoreme 5.1, et du lemme 5.4 ci-dessous. Nous demontrons d'abord le lemme 5.3, non pour l'utiliser mais simplement pour s'echau er.
un espace topologique, u et v deux fonctions ! R avec u semi-continue inferieurement et v semi-continue superieurement. On suppose que u( ) v( ) pour tout 2 , et u( 0 ) = v( 0 ). Alors u et v sont continues en 0.
Lemme 5.3. | Soient

Demonstration. | Soit " > 0. Il existe un voisinage W de 0 tel que, pour 2 W , on ait u( ) u( 0);" et v( ) v( 0)+". Pour 2 W , on a donc u( 0);" u( ) v v( 0) + " = u( 0) + ", d'ou ju( ) ; u( 0)j " et jv( ) ; v( 0)j ". c.q.f.d.
Lemme 5.4. | Soient un espace topologique, 7! X et 7! Y deux applications ! Comp (E ), la premiere semi-continue inferieurement et la seconde semi-continue superieurement. On suppose que X Y pour tout 2 et X 0 = Y 0 . Alors 7! X et 7! Y sont continues en 0 .

Demonstration. | Soit " > 0. Il existe un voisinage w de 0 dans @ (X 0 X ) " et @ (Y Y 0 ) " pour 2 W . Pour 2 W , on a aussi

tel que

@ (Y 0 Y ) = @ (X 0 Y ) @ (X 0 X ) "
et

@ (X X 0 ) = @ (X Y 0 ) @ (Y Y 0 ) ":

c.q.f.d.

46

A. Douady

deux avec des cycles attractifs

deux avec des cycles paraboliques

un avec un disque de Siegel

si tous les cycles sont repulsifs, K (f ) = ? (ici f (z) = z2 + i)

Planche 1 : Quelques ensembles de Julia

^ment du polyno ^ me? L'ensemble de Julia depend-il continu

47

6. L'e et des bassins attractifs

Dans ce paragraphe, on montre que les bassins attractifs ne produisent de discontinuite ni dans f 7! K (f ) ni dans f 7! J (f ). Notons A(f ) la reunion des bassins des cycles attractifs de f . L'ensemble A(f ) est reunion de composantes connexes de K (f ). Il est donc ouvert, et J (f ) A(f ) est ferme donc compact.
Proposition 6.1.

(a) L'application f 7! J (f ) A(f ) est une application semi-continue inferieurement Pd ! Comp (C) (b) L'application f 7! K (f ) ; A(f ) est une application semi-continue superieurement Pd ! Comp (C).
Corollaire 6.2. | Si l'interieur de K (f0 ) est forme exclusivement de bassins attractifs, les applications f 7! K (f ) et f 7! J (f ) sont continues en f0 . Lemme 6.3. | L'ensemble

A = f(f z)j z 2 A(f )g est ouvert dans Pd C.

Avant de demontrer ce lemme, introduisons une de nition. Nous dirons qu'une partie L de C est un piege contractant de periode divisant k pour f si L est un compact convexe non vide et f k (L) L avec jf k j < 1 sur L. Si L est un piege contractant de periode divisant k pour f , il existe un point x 2 L tel que f nk (z) ! x pour tout z 2 L. Le point x est un point periodique attractif pour f et L est contenu dans son bassin immediat. Si x est un point periodique attractif pour f , le disque ferme Dx r est un piege contractant pour f si r est assez petit. Si L est un piege contractant pour f0, c'est aussi un piege contractant pour f si f est assez voisin de f0. Demonstration du Lemme 6.3. | Soit (f0 z0) 2 A. On peut trouver un piege contractant L pour f0 et un entier n tel que f0n (z0) 2 L. Pour (f z) assez voisin de (f0 z0), on a encore f n (z) 2 L avec le m^ eme n, et L est un piege contractant pour f , d'ou z 2 A(f ) et (f z) 2 A. c.q.f.d. Demonstration de la Proposition 6.1. (a) Fixons f0 2 Pd et " > 0. Soit X = X1 X2 un ensemble ni dans J (f0) A(f0), le remplissant a "=2 pres, avec X1 J (f0) et X2 A(f0). On peut trouver un voisinage W de f0 dans Pd tel que, pour f 2 W , on ait @ (X1 J (f )) "=2 et X2 A(f ). Alors " et @ (J (f ) A(f ) J (f ) A(f )) " @ (X J (f ) A(f )) 2 0 0

48

A. Douady

(b) La projection pK : K ! Pd est propre et K ; A est ferme dans K, donc pK induit une application propre K ; A ! Pd. Cette application est surjective car K (f ) ; A(f ) J (f ) 6= ? pour tout f . On peut donc appliquer la Proposition 2.1. c.q.f.d. Demonstration du Corollaire 6.2. | On peut appliquer le lemme 5.4. aux couples (f 7! J (f ) A(f ) f 7! K (f )) et (f 7! J (f ) f 7! K (f ) ; A(f )). c.q.f.d.

7. L'e et des disques de Siegel

Il est facile de voir que la presence d'un disque de Siegel produit une discontinuite dans f 7! J (f ). Il est beaucoup moins evident que cela n'en produit pas dans f 7! K (f ).
que indi erent irrationnel linearisable x. Alors f 7! J (f ) n'est pas continue en f0.
Proposition 7.1. | Soit f0 un polyn^ ome de degre d ayant un point periodi-

Demonstration. | Soit k la periode de x, le point x est solution simple de l'equation f0k (z) ; z = 0, car la derivee est x ; 1 6= 0. Par le theoreme des fonctions implicites, on peut trouver une fonction holomorphe : W ! C, ou W est un voisinage de f0 dans Pd, telle que (f0 ) = x et (f ) periodique de periode k pour f . L'application f 7! (f ) = (f k )0( (f )) est holomorphe sur W , et non constante (sinon tous les polyn^ omes de degre d auraient un cycle indi erent !). C'est donc une application ouverte, et on peut trouver une suite fn ! f0 telle que (fn ) soit repusif. On a alors (fn ) 2 J (fn), et @ (fxg J (fn)) = d(x J (fn)) ! 0. Mais x 62 J (f0), donc d(x J (f0)) 6= 0. Il en resulte que @ (J (fn) J (f0)) ne tend pas vers 0. c.q.f.d.
Proposition 7.2. | Soit f0 un polyn^ ome de degre d ayant un point periodique indi erent irrationnel avec un disque de Siegel . Alors @ ( J (f )) ! 0 quand f ! f0 dans Pd.

Soit k la periode de x et soit : ! D un isomorphisme conjuguant f0k a la rotation z 7! e2i z. Pour r < 1, posons ;r = fz 2 j j (z)j = rg. Etant donne > 0, on dit qu'une suite (zn)n2N est une orbite de f0 a pres si (8n) jzn+1 ; f0(zn)j . On dit que (zn) couvre un compact L a " pres si Dzn " L

> 0 tel que : (a) toute suite (zn)n2N qui est une orbite de f0 a pres avec z0 2 ;r couvre ;r a " pres (b) toute suite (zn)n2N qui est une orbite pour f0 a pres avec z0 2 , j (z0)j r, et zN 62 ou (zN ) > r pour un certain N , couvre ;r a " pres.

Lemme 7.3. | Pour tout r < 1 et tout " > 0, il existe un

^ment du polyno ^ me? L'ensemble de Julia depend-il continu

49

Demonstration. (a) Fixons r < 1 et " > 0. On peut supposer " < d(;r C ; ). On peut trouver un entier m tel que, pour tout z 2 ;r , l'ensemble ff0ki (z)g0 i<m remplisse ;r a "=2 pres. On peut alors trouver tel que, pour toute suite (zn) qui est une orbite pour f0k a pres avec " pour 0 i < m: jzi ; f0ki (z0)j 2 Alors fzig0 i<m couvre ;r a " pres. Remarquons qu'on peut trouver un qui marche pour tout r 2 r1 r2] si r1 < r2 < 1. (b) On peut trouver "1 tel que jr ; r0j "1 ) dH (;r ;r0 ) "=2, et 1 tel que jz ; z0j 1 ) j (z) ; (z0)j "1. D'apres la partie (a), on peut trouver un 2 tel que toute orbite pour f0 a 2 pres avec d(z0 ;r ) "=2 couvre ;r a " pres. Prenons = inf( 1 2). Si (zn) satisfait aux hypotheses de (b), j (zn)j bouge par pas "1 tant qu'il est de ni. Il y a donc un n0 tel que jj (zn0 )j; rj "1, et les zn0+p couvrent ;r a " pres. c.q.f.d.
Lemme 7.4. | Pour z 2 , la distance d(z K (f )) tend vers 0 quand f

! f0.

Demonstration. | Soit y un point periodique repulsif pour f0. D'apres le theoreme des fonctions implicites, on peut trouver un voisinage W de f0 dans Pd et des fonctions analytiques et : W ! C telles que (f0 ) = x, (f0) = y, (f ) et (f ) periodiques pour f . Si z = x, on a d(z K (f )) jz ; (f )j ! 0 on peut donc supposer z 6= x et ne s'interesser qu'aux polyn^ omes f pour lesquels z 62 K (f ). Puisque (f ) 2 K (f ) et z 62 K (f ), il existe un point w 2 (f ) z] \ J (f ), ou z0 z]A = ;1( (z0) (z)]). Arbitrairement pres de W , on peut trouver un point z0 2 J (f ) qui soit une image inverse iteree par f de (f ). On peut supposer j (z0)j V = j (z)j. Si f est su samment proche de f0, l'orbite de z0 par f est une orbite pour f0 a pres. On a j (z0)j r et il existe un N tel que zN = (f ) 62 ou ( (f ))j > r. Donc (zn) couvre ;r a " pres. En particulier il y a un n tel que jz ; znj < ", donc d(z K (f )) < ". c.q.f.d. Demonstration de la Proposition 7.2. | Fixons " et soit Z un ensemble ni dans couvrant a "=2 pres. D'apres le lemme 7.4, on peut trouver un voisinage W de f0 dans Pd tel que d(z K (f )) "=2 pour z 2 Z et f 2 W . On a alors @ ( K (f )) " pour tout f 2 w. c.q.f.d.
quand f ! f0
Corollaire 7.5. | Posons U = n f ;n ( ). On a @ (J (f0) U K (f )) Corollaire 7.6. | Soit f0

!0

f 7! K (f ) est continue en f0.

2 Pd un polyn^ ome sans cycle parabolique. Alors

50

A. Douady

Indication. | L'interieur de K (f0) est forme exclusivement de bassins de cycles attractifs et de disques de Siegel avec leurs images inverses iterees.

8. Un theoreme de Ma~ ne-Sad-Sullivan

Savoir que deux compacts sont proches pour la distance de Hausdor ne nous dit en rien qu'ils se ressemblent du point de vue topologique. Ainsi tout compact peut ^ etre approche par des ensembles de Cantor, voire par des ensembles nis. La theorie de Ma~ ne-Sad-Sullivan fournit des cas ou l'on sait que des ensembles de Julia | ou des ensembles de Julia remplis | sont homeomorphes. Voici un des resultats principaux :
une variete C-analytique et (f ) 2 une famille Canalytique de polyn^ omes de degre d. Supposons que soit simplement connexe, et que f n'ait de cycle parabolique pour aucun . Choisissons un point de base 0 2 . Alors
Theoreme 8.1. | Soit

(a) on peut trouver de facon unique, une famille d'homeomorphismes ( =

0

: J (f 0 ) ! J (f ))

de facon que : (i) ( x) 7! (x) soit continue sur J (f 0 ) (ii) conjugue f 0 a f , c'est a dire f 0 =f (b) on peut etendre, pour chaque , l'application en un homeomorphisme : K (f 0 ) ! K (f ). Il n'y a pas d'unicite. On peut s'arranger pour que (x) depende contin^ ument de ( x), mais pas toujours pour que conjugue f 0 a f.
Corollaire 8.2. | Soit S la fermeture dans Pd de l'ensemble des polyn^ omes ayant un cycle indi erent. Si f0 et f1 sont dans la m^ eme composante connexe de Pd ; S , l'ensemble J (f1) est homeomorphe a J (f0), et K (f1) est homeomorphe a K (f0).

On peut trouver une demonstration du Th. 8.1 dans MSS] ou dans D4]. Le corollaire 8.2 s'en deduit immediatement : on peut trouver un ouvert simplement connexe dans Pd ; S contenant f0 et f1. Remarques. (1) Fixons f0 dans Pd ; S . Pour f proche de f0, le compact K (f ) est l'image de K (f0) par un homeomorphisme proche de l'identite. Ceci est plus fort que la conclusion du Cor. 7.6. Mais l'hypothese aussi est plus forte : on demande qu'il y ait tout un voisinage de f0 dans Pd forme de polyn^ omes n'ayant pas de cycle indi erent (on peut remplacer indi erent par parabolique, ca ne change rien).

^ment du polyno ^ me? L'ensemble de Julia depend-il continu

51

(2) Dans le cas d = 2, pour les polyn^ omes de la forme z 7! z2 + c, l'ensemble S est la frontiere de l'ensemble de Mandelbrot. Le corollaire a rme en particulier que, pour c0 et c1 dans la m^ eme composante connexe de M , les ensembles K (fc0 ) et K (fc1 ) sont homeomorphes, ainsi que J (fc0 ) et J (fc1 ).

L'implosion parabolique
Dans cette IIeme partie nous analysons sur un exemple les discontinuites en un point f0 causees pour f 7! K (f ) et f 7! J (f ) par la presence d'un cycle parabolique pour f0. Les xx 9 a 13 sont essentiellement descriptifs. L'expose devient plus technique au x 14. Le resultat principal est enonce au x 11 (Th. 11.3). Les xx 14 a 21 sont consacres a donner l'essentiel de sa demonstration.

Partie II

9. Un exemple parabolique typique

Nous choisissons l'exemple le plus simple possible, a savoir : f0 : z 7! z + z2: Un point parabolique de periode k pour un polyn^ ome de degre d > 1 est un point k k 0 2i p=q avec f ( ) = et = (f ) ( ) = e pour des entiers k > 0, q > 0, 0 p < q avec p et q premiers entre eux. Pour f0 : z 7! z + z2 on a d = 2, = 0, k = 1, q = 1, p = 0. Nous allons faire de cet exemple une etude approfondie. Le polyn^ ome f0 est a nement conjugue a z 7! z2 +1=4. Le point 1=4 est le point de rebroussement de la grande cardio de de l'ensemble de Mandelbrot. L'ensemble de Julia rempli K (f0) est le chou- eur centre en ! = ;1=2. Sa frontiere J (f0) est une courbe de Jordan. Considerons maintenant f" : z 7! z + z2 + " qui est a nement conjugue a z 7! z2 + 1 4 + ", pour " reel voisin de 0. Pour " < 0, le point 1 4 + " est a l'interieur de la cardio de, l'application f" a un point xe attractif, K (f" ) est un disque topologique, J (f") est une courbe de Jordan on a K (f") ! K (f0) et J (f") ! J (f0) quand " ! 0: Pour " > 0, le point 1 4 + " est a l'exterieur de l'ensemble de Mandelbrot, donc K (f" ) est un ensemble de Cantor et J (f") = K (f"). Comme J (f0) 6= K (f0), il y a forcement une discontinuite dans l'une au moins des applications " 7! K (f" ), " 7! J (f") sur R+ en " = 0.

52

A. Douady

10. Le batteur a ufs

Considerons maintenant f" : z 7! z + z2 + " avec " > 0 petit, disons 0 < " "0 1 . On a K (f ) \ R = ? car f (x) > x pour tout x 2 R, donc tout point ou "0 = 25 " " reel s'echappe. L'application f" a deux points xes = ip" et = ;ip". Si on conjugue par 1 de facon a envoyer et en i et ;i, l'application l'homothetie de rapport p " devient p F" : Z + "(Z 2 + 1) p qui est la methode d'Euler de pas " pour l'equation di erentielle _ = Z 2 + 1: Z Les solutions de cette equation di erentielles decrivent les cercles du faisceau de cercles ayant pour points limites i et ;i. Les orbites de F" suivent approximativement ces cercles. C'est ce que nous appelons la dynamique du batteur a ufs. Cette description est valable dans un compact xe du plan des Z quand " ! 0 (ca donne un compact qui se retrecit dans le plan des z).

Figure 3 Tandis que les points tournent sur ces cercles, ils derivent lentement de ou p vers R, car chaque pas se fait sur la tangente. Les multiplicateurs sont 1 2i ", donc et sont tres legerement repulsifs. L'e et dominant est la rotation.

11. Scenarios imaginables

Qu'arrive-t-il a l'ensemble de Cantor K (f") = J (f") quand " > 0 tend vers 0 ? A priori, on peut imaginer deux scenarios (voir planche 2). Pour les decrire, introduisons une notation. L'ensemble de Cantor triadique C1=3 est obtenu a partir de I = 0 1] par la recette suivante : on enleve le tiers du milieu ouvert puis on enleve

^ment du polyno ^ me? L'ensemble de Julia depend-il continu

53

le tiers du milieu (ouvert) de chacun des intervalles qui restent et on recommence : en n on prend l'intersection des compacts ainsi obtenus. Pour 0 < , notons C l'ensemble de Cantor obtenu par le m^ eme procede, sauf qu'a chaque pas on enleve de chaque intervalle de longueur ` un intervalle ouvert centre de longueur `. Quand ! 0, le Cantor C tend vers I (pour la metrique de Hausdor ). Scenario 11.1. | Pour " > 0 petit, J (f") se trouve sur une courbe voisine de J (f0) tout comme C se trouve dans I pour petit. En d'autres termes on a une otant famille continue (;" ) de courbes de Jordan, et J" est obtenu a partir de ;" en ^ une in nite de petits arcs ouverts. Scenario 11.2. | Pour " > 0 petit, J (f") = K (f" ) est obtenu a partir de K (f0) en y faisant une fente ne le long du segment K (f0) \ R, et une in nite d'autres fentes tres nes qui disconnectent completement cet ensemble. Ainsi K (f") se trouve situe dans K (f0) (ou dans un disque topologique voisin) comme C C dans le carre I 2 pour petit. Le premier scenario ne donnerait aucune discontinuite pour f 7! J (f ), mais en donnerait une pour f 7! K (f ), car K (f0) n'est pas approximativement contenu dans K (f") = J (f") pour " > 0 petit. Le second scenario ne donnerait pas de discontinuite pour f 7! K (f ), mais en donnerait une pour f 7! J (f ), car J (f") = K (f" ) n'est pas approximativement contenu dans J (f0). Ce qui se passe en fait ne suit aucun de ces deux scenarios. C'est bien plus horrible, donc bien plus beau. Pour commencer les deux applications " 7! J (f") et " 7! K (f") ont une discontinuite. Est-ce que ca veut dire que J (f") = K (f" ) a une limite L quand " ! 0 avec J (f0) = L = K (f0), ou qu'il n'y a pas de limite du tout ? Il faut bien qu'il y ait un peu une limite, pour la raison suivante : Pour " 1, K (f") est contenu dans D4. Or Comp (D4) est compact. Je vous ai cache cela au x 1 mais, pour tout espace metrique compact E l'espace Comp (E ) est compact pour la metrique de Hausdor . Donc de toute suite ("n ) tendant vers 0 on peut extraire une suite ("nk ) telle que K (f"nk ) ait une limite L. On a J (f0) L K (f0) en vertu des proprietes de semi-continuite, et en fait on peut montrer qu'on a toujours J (f0) = L = K (f0). Mais L depend de la suite d'ou on est parti, et eventuellement de la sous-suite choisie, de sorte que J (f") = K (f") ne tend pas vers une limite. Comme nous le verrons au x 21, ce qui se produit est ce qui suit :
fonction phase, admettant un relevement continu e :]0 "0] ! R qui tend vers ;1 quand " ! 0 (de sorte que n'a pas de limite), et une application continue injective 7! L de T dans Comp C veri ant J (f0) = L = K (f0) pour tout , de facon que K (f" ) ! L pour toute suite (" ) tendant vers 0 avec (" ) ! .
Theoreme 11.3. | On peut trouver une application :]0 "0] ! T appelee la

54

A. Douady

Planche 2

^ment du polyno ^ me? L'ensemble de Julia depend-il continu

55

Dans l'espace Comp C, les points L forment un cercle topologique, et la courbe (K (f"))">0 spirale asymptotiquement a ce cercle quand " ! 0. Les points K (f0) et J (f0) sont isoles de cette gure.
q

K (f

0)
q

K (f0 )

J (f

)=

K (f

J (f0 )

Figure 4

12. L'implosion
Ce paragraphe est seulement descriptif. Les dessins a l'ordinateur montrent quelque chose d'assez semblable au scenario 1, sauf qu'il y a des boucles en pointille qui spiralent vers l'interieur (planche 3). Le diametre de ces boucles ne tend pas vers 0 quand " ! 0 chaque (grande) boucle porte une suite de petites boucles. Quand " varie, les petites boucles voyagent le long des grandes boucles, et quand la phase a fait un tour la suite se retrouve approximativement dans la m^ eme position, simplement decalee, et les dessins sont pratiquement indiscernables. Au m^ eme moment, les toutes petites boucles qui sont sur les petites boucles sont aussi revenues a leur place. Suivons un point x" quand " varie depuis " = "0 jusqu'a " tendant vers 0, au moyen des homeomorphismes "0 " : K (f"0 ) ! K (f" ) evoques au x 8. Autrement dit, posons x" = "0 "(x) ou x est un point choisi dans J (f"0 ). Quand " ! 0, le point x" tend vers un point x0 2 J (f0), et ceci de nit une application "0 0 : J (f"0 ) ! J (f0). Cette application est continue, elle est surjective mais non injective : les points de J (f0) qui sont dans l'orbite inverse de 0 = 0 ont deux images reciproques par "0 0, les autres points en ont une. Bien que "0 0 soit continue, la convergence de "0 " vers "0 0 a lieu ponctuellement, il n'y a pas d'uniformite. Une bonne raison est que @ (J (f") J (f0)) 6! 0.

56

A. Douady

;!

Scenario 1

;!

Scenario 2 Planche 3

^ment du polyno ^ me? L'ensemble de Julia depend-il continu

57

Imaginons maintenant " variant de 0 a "0. Les points de l'orbite inverse de 0 se cassent en deux des que " devient > 0. Les autres points ont chacun un mouvement continu, mais il n'y a pas d'uniformite dans cette continuite. Il y a des points qui bougent tres vite vers l'interieur, de sorte qu'une region xe de K (f0) a une distance > 0 de J (f0) peut tres bien se trouver envahie par des points de J (f") des que " devient > 0. C'est cette situation que j'essaye de decrire de facon imagee en disant que J (f0) subit une implosion, comme un tube de television rempli de vide.

13. La raison des discontinuites L'application f 7! K (f ) peut se factoriser en f 7! ff n gn2N 7! K (f ):

Dans ce paragraphe, nous essayons d'expliquer que la cause de la discontinuite reside dans la premiere application f 7! ff ngn2N. Fixons des points de base reels dans V ; et V +, disons a = ;1=8 et b = 1=8. Pour " > 0, on a f"n (a) ! 1 quand n ! 1, de nissons le temps de batteur a ufs T (") comme le plus petit n tel que f"n ( ) b. On a f"T (")(a) 2 b f"(b)], donc de toute suite de valeurs de " tendant vers 0 on peut extraire une suite ("n) telle que f"Tn("n)(a) ait une limite b .
converge, uniformement sur tout compact de K (f0), vers une fonction holomorphe g : K (f0) ! C, qui commute a f0.
Proposition 13.1 (P. Lavaurs). | Pour une telle suite, l'application f"Tn("n )

Cette proposition sera demontree au x 18, apres qu'on ait introduit des coordonnees ou il est particulierement commode de travailler. Il s'agit des coordonnees de Fatou. La proposition 13.1 jette quelque lueur sur la raison des discontinuites. Appelons dynamique sur C un ensemble G d'application g : U ! C, avec U C ouvert, qui soit stable par restriction et composition. Autrement dit : (1) (g : U ! C) 2 G U 0 U ) gjU 0 2 G . (2) (g1 : U1 ! C) 2 G (g2 : U2 ! C) 2 G g(U1) U2 ) g2 g1 2 G . La dynamique G est fermee si, pour toute suite (gn : Un ! C) dans G , si gn ! g uniformement sur tout compact de U , on a (g : U ! C) 2 G . On dit qu'une suite (G ) de dynamiques sur C converge geometriquement vers une dynamique G si (1) Pour (g : U ! C) 2 G on peut trouver une suite (g ) avec (g : U ! C) 2 G , g ! g uniformement sur tout compact de U (2) si k ! 1, (g k : U k ! C) 2 G k pour tout k, g k ! g : U ! C uniformement sur tout compact de U , alors on a (g : U ! C) 2 G .

58

A. Douady

La notion de limite geometrique est familiere aux specialistes des groupes kleiniens. Etant donne un polyn^ ome f : C ! C, la dynamique f ] engendree par f est l'ensemble des restrictions des iterees de f . Pour ce qui est des polyn^ omes f" : z 7! 2 z + z + ", la situation est la suivante : Pour chaque " 0 la dynamique f"] est fermee. Mais f0] n'est pas la limite des f"] pour " > 0 tendant vers 0. Pour une suite ("n) comme dans la Proposition 13.1, l'application g : K (f0) ! C appartient a la limite des f"n ], mais pas a f0]. Nous ne pretendons pas pouvoir de nir une application G 7! K (G ) avec des proprietes de continuite raisonnables, mais on peut quand m^ eme a rmer que c'est la discontinuite de f 7! f ] qui se re ete dans celle de f 7! K (f ), et aussi dans celle de f 7! J (f ).

14. Coordonnees de Fatou

Revenons a l'application f0 : z 7! z + z2. On peut trouver des cartes dans lesquelles l'expression de f0 est 7! + 1: Plus precisement, notons V ; et V + les disques ouverts ayant pour diametre ];1=4 0 et ]0 1=4 respectivement.

Figure 5
Lemme 14.1.

(a) L'application f0 est injective sur V ; et sur V + . (b) On a f0(V ; ) V ; et f0(V +) V +

^ment du polyno ^ me? L'ensemble de Julia depend-il continu

59

Demonstration. | Faisons le changement de variable Z = ; 1 z . L'application 1 . Les disques V + et V ; z 7! z1 = z + z2 devient F : Z 7! Z1 = Z + 1 + Z ; 1 deviennent les demi-plans

U + = fz = x + iyj x < ;1=4g et U ; = fz = x + iyj x > 1=4g respectivement. Sur U+ U; , l'application se comporte comme la translation Z 7! Z + 1 : le terme d'erreur est majore par 1=4 et sa derivee par 1=9. En particulier F est injective sur U + et U ; , on a F (U +) U ; et F (U +) U + . Le lemme en decoule. c.q.f.d.
F

0 4

;4
U+

U;

Figure 6 Nous allons maintenant faire un nouveau changement de variable Z 7! de facon a nous debarrasser du terme d'erreur. Appelons region gauche (resp. region droite) un ensemble dans C de la ferme fz = x + iyj x < h(y)g (resp. >) ou h : R ! R est une fonction continue.
morphes injectives + : V + ! C et ; : V ; ! C telles que (a) +(V +) est une region gauche et ;(V ; ) est une region droite. (b) +(f0(z)) = +(z) + 1 si z et f (z) sont dans V + ;(f0(z)) = ; (z) + 1 si z 2 V ;. De telles applications sont appelees des coordonnees de Fatou. Elles sont uniques a une constante additive pres.
Theoreme et Definition 14.2. | On peut trouver des applications holo-

Esquisse de demonstration. | Reprenons les notations du Lemme 14.1 et de sa demonstration. Notons X + = V +=p = U + =F le quotient de V + par la relation d'equivalence identi ant z et f (z) quand ils sont tous deux dans V + . L'espace X + est une cylindre topologique et une surface de Riemann.

60

A. Douady

Il resulte du theoreme d'uniformisation de Riemann que toute surface de Riemann homeomorphe a un cylindre est C-analytiquement isomorphe a Bh=Z, ou Bh = fz = x + iyj jyj < h=2g, pour un certain h 2]0 +1] appele le module, ou a H=Z ou H est le demi-plan superieur (module in ni unilateral). Dans le cas qui nous concerne, on peut montrer que le module est in ni bilateral, autrement dit ' X + ' C=Z. Choisissons un isomorphisme : X + ;! C=Z et notons F l'ap+ + + plication de passage au quotient U ! X . Comme U est simplement connexe, + l'application F : U + ! C=Z se releve en une application U : U + ! C. En , on obtient une application composant avec le changement de variable z 7! Z = ; 1 z + : V + ! C. Par construction, on a un diagramme commutatif

V +=f

f? y

V?
? ?

;;;;;! U?
? ? ? y

z!Z

U ; ;; ! C ? F

; ;; ! U + =F ; ;; ! C=Z

? ? ? y

+ Si Z et Z1 sont deux points de U + avec Zi = F (Z ), les points + U (Z ) et U (Z1 ) ont m^ eme image par Z, donc di erent d'un entier et cet entier ne depend pas de Z (application continue d'un connexe dans un discret). On peut veri er que + + + U (Z1 ) ; U (Z ) = 1 (pourvu qu'on n'ait pas echange les deux bouts), et que (z ) = + U (Z ) a les proprietes voulues. On construit de m^ eme ;. On voit facilement que des coordonnees de Fatou sont necessairement obtenues par ce procede. Il y a certains choix dans la construction : choix de : si on prend soin de ne pas echanger les deux bouts, ne peut ^ etre modi e que par une translation dans le groupe C=Z choix du relevement de etre modi e que par une F | qui ne peut ^ translation entiere. Ces choix ne modi ent les coordonnees de Fatou que par l'addition d'une constante. c.q.f.d.

Remarque. | On peut choisir les coordonnees de Fatou reelles sur R \ V + et R \ V ;.

^ment du polyno ^ me? L'ensemble de Julia depend-il continu

61

15. Prolongement des coordonnees de Fatou

Proposition 15.1.

(a) La coordonnee de Fatou attractive ; : V ; ! C se prolonge en une fonction holomorphe b; : K (f0) ! C veri ant
b; (f0 (z )) = b; (z ) + 1

pour tout z 2 K (f0). (b) L'inverse + : +(V + ) ! V + de la coordonnee de Fatou repulsive se prolonge en une application b+C ! C veri ant b( + 1) = f0 ( b+ ( )) pour tout 2 C.

Nous appelons b; la coordonnee de Fatou etendue et b+ le parametrage de Fatou etendu. Demonstration. | Reprenons les notations de 14.1. Pour Z 2 U ; , jF n(Z )j tend vers 1 et Arg F n(Z ) tends vers 0 quand n ! 1, donc pour z 2 U ; le point f0n (z) tend vers 0 tangentiellement a R;. Au point parabolique 0, l'unique axe d'attraction est R;, et R+ est l'axe de repulsion. Le disque ouvert V ; est contenu dans le bassin de 0, et ce bassin est K (f0) puisque K (f0) est connexe. C'est aussi le bassin immediat. (a) Pour z 2 K (f0) on a f0n (z) 2 V ; pour n assez grand. On pose b;(z) = ; (f n (z )) ; n pour n assez grand, en remarquant que cela ne depend pas du choix 0 de n. (b) Pour 2 C, on a ; n 2 U + pour n assez grand. On pose alors b+( ) = n f0 ( +( )), en remarquant que cela ne depend pas du choix de n. On veri e immediatement que b; et b+ repondent a la question. c.q.f.d. Notons ! le point critique ;1=2 de f0, qui est centre de symetrie pour K (f0). Ajustons la coordonnee de Fatou ; de facon que b;(!) = 0. Nous avons alors :
e de degre in ni, rami e seulement au-dessus des entiers negatifs. Les points critiques de ; sont les points precritiques de f0 , c'est a dire les points de f0;n (!).
Proposition 15.2. | L'application b; : K (f0 ) ! C est un rev^ etement rami-

Nous n'avons pas pour b+ une aussi jolie description. Plut^ ot que de donner de la Prop. 15.2 une demonstration en forme, nous trouvons plus instructif de donner une description detaillee (sans demonstration) de b;.

62

A. Douady

Dans V ; , colorions le demi-disque superieur en jaune, le demi-disque inferieur en marron et k diametre V ; \ R en grenat. Remarquons que f0(z) a la m^ eme couleur que z. On prolonge ce coloriage a tout K (f0) en mettant z de la m^ eme couleur que n f0 (z) pour n grand. On obtient ce que nous appelons l'echiquier parabolique. Ce qui est marque en grenat est S = Uf0;n (] ; 1 0 ), les cases sont les composantes connexes de K (f0) ; S . Les deux cases principales sont les cases B 0 et B 00 qui contiennent les demi-disques superieur et inferieur de V ;. L'application b; induit un homeomorphisme biholomorphe de B 0 sur le demiplan superieur H , realisant donc l'uniformisation de Riemann. Puisque b; conjugue f0 a la translation 7! + 1 dans H , nous pouvons dire que f0 : B 0 ! B 0 est une application parabolique (c'est peut ^ etre de la que vient la terminologie de \points paraboliques"). La situation est symetrique pour B 00. Les coins des cases de l'echiquier sont les points precritiques b; les envoie sur les entiers negatifs. Pour chaque case B , il existe un entier n tel que f0n applique B biholomorphiquement sur B 0 ou B 00.

1 ). Prenons pour V + (resp. V ;) le disque borde par le cercle passant par 1=4 (resp. " " 25 ;1=4) et les deux points xes = ip" et = ;ip".
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

16. Persistance des coordonnees de Fatou Considerons maintenant f" : z 7! z +z2+" avec " > 0 petit (disons " 2]0 "0] "0 =

V;

V+

Figure 7 N'esperons plus obtenir une application V"; ! C conjuguant f" a 7! + 1 et appliquant V"; sur une region droite, car l'orbite d'un point de V"; en sort toujours au bout d'un temps ni.
morphes injectives
Proposition et Definition 16.1. | On peut trouver des applications holo+

"

: V"+ ! C et

"

: V"; ! C telles que

^ment du polyno ^ me? L'ensemble de Julia depend-il continu

63

(a)

" (V"
+

) est une region de la forme

m^ eme pour ; ". + + (b) + " (f" (z )) = " (z ) + 1 chaque fois que z et f" (z ) sont tous deux dans V" , et de m^ eme pour ; ". Nous appelons encore ces applications coordonnees de Fatou. Elles sont uniques a une constante additive pres. Sur V"; \ V"+ elles di erent d'une constante.

+ f = + i j h+ 1 ( ) < < h ( )g + + ou h+ et h+ 1 sont des fonctions continues R ! R avec h ; h1 > 1, et de

Esquisse de demonstration. | Nous allons adapter la demonstration de la Prop. 14.2. Le changement de variable qui convient ici est ; z 7! Z = 21 Log z z; en choisissant sur V"; (resp. V"+ ) la branche du Log qui est voisine de 0 quand ", donc tend vers 0 a z xe. Ceci transforme V"; et V"+ en deux bandes verticales U"; et U"+ .
U+
0

U;

Figure 8 L'application f" : z 7! z1 devient une application F" : Z 7! Z1 de nie par

p" 1 1 pour qu'on soit Pour jzj 1=4, le terme p" Arctg 1 + z est assez voisin de 1 + z s^ ur que sa partie reelle est > 0. Les espaces quotients X"+ = U"+=F" et X"; = U"; =F" sont des anneaux C-analytiques, c'est a dire des surfaces de Riemann homeomorphes

p" 1 Z1 = Z + p" Arctg 1 + z :

64

A. Douady

a des cylindres, et on peut montrer que leur module est in ni bilateral. La demonstration rejoint alors celle de 14.2 pour montrer (a), (b) et l'unicite a constante additive pres. Sur l'ouvert V"; \ V"+ , le changement de variable z 7! Z ne prend pas la m^ eme valeur suivant que z est considere comme element de V"; ou de V"+. + Cet ouvert donne les deux bandes U"; \ T p M U" . Ces bandes sont assez larges pour " ^ etre s^ ur que l'orbite par F" de tout point de U"; ou U"+ les rencontre, de sorte que les inclusions de V"; \ V"+ dans V"; et V"+ induit des bijections de (V"; \ V"+ )=f" sur X"; = V";=f" et X"+ = V"+=f" . En particulier (V"; \ V"+)=f" est un cylindre de module in ni bilateral. On peut alors appliquer le raisonnement qui classe l'unicite ; ; + a constante additive pres aux restrictions de + " et " a V" \ V" . c.q.f.d. Remarque 16.2. | Avec les conventions que nous avons prises, l'application Pour z 7! Z tend quand " ! 0 vers l'application z 7! Z = ; 1 z consideree;au x 14. obtenir cet avantage, nous en avons sacri e un autre. Sur l'ouvert V" et V"+ , on a M . Avec un autre choix, on aurait pu s'arranger deux valeurs de Z qui di erent de p " pour qu'elles co ncident.

17. La phase
; + + Les coordonnees de Fatou ; " et " tendent-elles vers 0 et 0 quand " tend vers 0 ? La question a besoin d'^ etre precisee pour deux raisons : (1) Le domaine de de nition depend de ". Mais cela ne pose guere de probleme, car V ; = f(" z)j z 2 V"; g et V + = f(" z)j z 2 V"+g sont ouverts dans 0 1] C. + (2) Les applications ; " et " ne sont de nies qu'a une constante additive pres. Il faut donc les xer par une normalisation.

Choisissons donc des points de base, par exemple a = ;1=8 et b = 1=8 (qui sont + ; + dans V" pour tout " 2 0 "0]) et normalisons ; " et " par " (a) = " (b) = 0.
Proposition 17.1. | Avec ces conventions

(" z) 7!

" (z )
;

et (" z ) 7!

" (z )
+

sont continues sur V ; et V + respectivement.

La demonstration, sans ^ etre vraiment di cile, necessite quelques outils d'analyse complexe. Nous ne la donnons pas ici. + ; + Pour " > 0, les fonctions ; " et " di erent d'une constante sur V" \ V" . Nous appelons cette constante la phase relevee e("), c'est a dire que nous posons
e(") =
" (z ) ; " (z )
+ ;

pour z 2 V"; \ V"+ :

^ment du polyno ^ me? L'ensemble de Julia depend-il continu

65

La phase relevee est reliee au temps de batteur a ufs T (") introduit au x 13 (plus petit n tel que f"n (a) b) par le resultat suivant : Proposition 17.3. | On a ;T (") e(") < ;T (") + 1. Demonstration. | Posons a0 = f"T (")(a), et a00 = f"m(a) avec m choisi de facon que a00 2 V"; \ V"+. 00 + 00 + 0 + 00 ; 00 On a ; " (a ) = m et " (a ) = " (a ) ; (T (") ; m), d'ou e(") = " (a ) ; " (a ) = 0 0 + ;T (") + + " (a ). Mais a 2 b f" (b) par de nition de T ("), et " applique b f"(b) 0 sur 0 1 , d'ou 0 + " (a ) < 1. c.q.f.d. Corollaire 17.4. | La phase relevee e(") tend vers ;1 quand " ! 0. En e et T (") ! 1, puisque f"n (a) ! f0n(a) 2 a 0 quand " ! 0 avec n xe.

pM Remarque 17.5. | On peut montrer que e(") = ; " + + O(1) avec 2 R. On note (") la classe de e(") dans T = R=Z, et nous l'appelons la phase. On a (") = 0 si et seulement si l'orbite de a contient b. En general, (") nous renseigne sur la position relative des orbites de a et b a droite de b. Comme consequence du Cor.17.4, on a : Corollaire 17.6. | La phase (") n'a pas de limite quand " ! 0. Pour 2 C, notons T la translation Z 7! Z + . Proposition 17.7. | Pour " > 0, l'application ;1 ( + Tn+e(") ; ") " co ncide avec f"n la ou elle est de nie.
; ; + Demonstration. | Soit 2 _; " = " (V" ) un point tel que + n + e(") 2 _" . ; Soit m le plus grand entier n tel que + m 2 _; " . Alors + i 2 _" pour 0 i m, + + + m + e(") 2 _" et par suite aussi + j + e(") 2 _" pour m j n. Si = ; " (z ), on a ;1 + ;1 f m(z) = ( ; " ) ( + m) = ( " ) ( + m + e(")) et ;1 f n (z) = f n;m (f m (z)) = ( + " ) ( + n + e(")): c.q.f.d. Corollaire 17.8. | Soient x un point de V"; et n 2 N tels que f"n (x) 2 V"+ et f"i (x) 2 V"; V"+ pour 0 i n. Alors l'expression de f"n au voisinage de x, + dans les cartes ; " et " , est 7! + n + e("):

66

A. Douady

18. Applications de Lavaurs

Nous sommes maintenant en mesure de de nir l'application g qui intervient dans la Proposition 13.1.
Definition 18.1. | Une application de Lavaurs pour f0 est une application

K (f0) ! C de la forme g de la forme b+ T b;, ou b; et b+ sont la coordonnee et le parametrage de Fatou etendus pour f0, et T la translation 7! + .
On a g f0 = f0 g +1. L'ensemble des applications de Lavaurs ne depend pas du choix des coordonnees de Fatou, mais la correspondance 7! g en depend. La proposition qui suit est un ra nement de la proposition 13.1. (n ) une suite d'entiers tendant vers +1. Supposons que e(" ) + n tende vers une limite 2 R. Alors f"n tend, uniformement sur tout compact de K (f0), vers l'application de Lavaurs g . Demonstration. | Supposons d'abord que x0 2 V0; et que soit tel que ; 0 (x)+ + 2 U0+ = + ( V ). On peut alors trouver un voisinage de x tel que 0 0
;1 ( + Tn +e(" ) ; " ) " soit de ni sur pour assez grand, et converge uniformement sur vers g0. Sur , ;1 T ; = f n , donc f n ! g uniformement sur . on a ( + " ) n +e(" ) " " " Soit maintenant x un point arbitraire de K (f0) et 2 R un reel arbitraire. On peut trouver m1 2 N tel que x0 = f0m1 (x) 2 V0; , et 0 = ; m1 ; m2 avec m2 2 N 0 + ; 0 0 0 n tel que " (x ) + 2 U0 . Posant n = n ; m1 ; m2, l'application f" tend vers g , uniformement sur un voisinage de x0, donc f"n tend vers f0m2 g 1 f0m1 = g uniformement sur un voisinage de x. c.q.f.d.

Proposition 18.2. | Soit (" ) est une suite tendant vers 0 dans ]0 "0], et

19. Les ensembles K (f0 g ) et J (f0 g )

Dans ce paragraphe, nous de nissons les ensembles qui vont appara^tre comme limite de K (f" ) et J (f") quand " ! 0. Considerons f0 et une application de Lavaurs g . Nous de nissons d'abord les points qui s'echappent par (f0 g ). Un point C ; K (f0 ) s'echappe par f0, on dit qu'il s'echappe par (f0 g ). Un point de J (f0) ne s'echappe pas par f0, et on ne peut pas lui appliquer g , a lui ni a aucune de ses images iterees par f0 : il ne s'echappe pas par (f0 g ). A un point z 2 K (f0) on peut appliquer g . Si g (z) 2 C ; K (f0 ), il s'echappe ensuite par f0, on dit que z s'echappe par (f0 g ). Si g (z) 2 J (f0), il reste prisonnier, donc z ne s'echappe pas par (f0 g ). Si g (z) 2 K (f0), on peut appliquer g de nouveau, et cela donne a z

^ment du polyno ^ me? L'ensemble de Julia depend-il continu

67

encore une chance. Remarquons qu'appliquer d'abord f0 ne changerait rien, puisque f0 et g commutent et que K (f0) est invariant par f0 et f0;1. Au total, on de nit les points qui s'echappent par (f0 g ) comme les points z tels que (9 m 2 N) gm (z) 2 C ; K (f0 ). A prendre au sens de : il existe un m 2 N tel que gm(z) soit de ni et appartienne a C ; K (f0). Ceci inclue le cas m = 0, donc les points exterieurs a K (f0) s'echappent. Nous notons K (f0 g ) l'ensemble des points de C qui ne s'echappent pas par (f0 g ). Nous de nissons J (f0 g ) comme la fermeture de

fzj (9 m 2 N) gm (z) 2 J (f0)g:

C'est un compact contenu dans K (f0), et contenant J (f0) puisque m = 0 est autorise.
Proposition 19.1. | L'ensemble J (f0 g ) est la frontiere de K (f0 g ).

Demonstration. | Si gm (z) 2 J (f0), le point z ne s'echappe pas, donc z 2 K (f0 g ), mais arbitrairement pres de z on peut trouver un z0 tel que gm (z0) 2 C ; K (f0) puisque gm est ouverte, donc z 2 @K (f0 g ). Par suite J (f0 g ) @K (f0 g ). Reciproquement, soit z 2 @K (f0 g ), et xons > 0, z0 avec jz0 ; zj 0 et m tel que gm (z0) 2 C;K (f0). Ou bien gm(z) est de ni, ou bien (9 m0 < m) gm (z) 2 J (f0). Dans le premier cas, gm(z) 2 K (f0) et gm(z0) 2 C ; K (f0), donc il existe un z00 dans le segment z z0] tel que gm(z00) 2 J (f0). Dans les deux cas d(z J (f0 g )) < . Comme ceci vaut pour tout > 0, on a z 2 J (f0 g ). c.q.f.d. Nous xons notre inter^ et temporairement sur le cas ou est reel. Comme g +1 = g f0 ; f0 g , les ensembles K (f0 g ) et J (f0 g ) ne dependent que de la classe de dans T = R=Z. Nous les notons K (f0 ) et J (f0 ). Les proprietes de semi-continuite s'etendent a ce contexte : la proposition cidessous generalise le theoreme 5.1.
Alors
Proposition 19.2. | Soit (" ) une suite tendant vers 0 avec (" ) !

2 T.

(a) @ (K (f" ) K (f0 )) ! 0 (b) @ (J (f0 ) J (f (" ))) ! 0. 19.2 sous cette forme a titre d'etape dans la demonstration de ce fait, et aussi parce qu'elle se generalise a des valeurs non reelles de " comme on le verra au x 22. Remarque 19.3. | Nous verrons au x 21 qu'en fait on a K (f0 ) = J (f0 ) pour 2 R, de sorte que K (f" ) tend vers K (f0 ). Nous avons enonce la proposition

68

A. Douady

Demonstration de la Proposition 19.2. (a) Si z s'echappe par (f0 g ), tout point z0 su samment voisin de z s'echappe par (f0 ), et aussi par f" pour assez grand en vertu de la proposition 18.2. Par suite l'ensemble

X = (f" g K (f" )) (f0g K (f0 g ))

est ferme dans (f" g 2N f0g) D4, donc compact, et on peut appliquer la proposition 2.1. (b) Soit 2 R un representant de , et de nissons n 2 N de facon que e(" ) + ! . Soit X0 un point periodique repulsif pour f0. Par le theoreme des fonctions implicites, on peut trouver une application analytique " 7! x" donnant x0 et telle que x" soit periodique repulsif de m^ eme periode pour f", au moins si " est assez petit. Les points z tels que (9 m `) f0` gm(z) = x0 forment un ensemble dense dans J (f0 g0). Pour un tel point z, on a gi (z) 2 K (f0) pour 0 i < m, et f"mn ! gm uniformement sur un voisinage de z. On peut donc trouver une suite (z ) tendant vers z telle que f mn +` (z ) = x" . Par suite d(z J (f" )) ! 0. Par un raisonnement semblable a celui de la demonstration du Th. 5.1 (b), on montre que @ (J (f0 ) J (f" )) ! 0: c.q.f.d.

d'interieur vide. En d'autres termes on a K (f0 g ) = J (f0 J ).

20. Le cas ou le point critique s'echappe Soit ! le point critique de f0 a savoir ! = ;1=2. Choisissons 2 C. Theoreme 20.1 (P. Lavaurs). | Si ! 62 K (f0 g0 ), l'ensemble K (f0 g ) est

Ce resultat est assez delicat a demontrer, et nous nous contenterons d'indiquer les pas de la demonstration. Tous les resultats de ce paragraphe sont tires de la these de Lavaurs. Nous disons qu'un point z est periodique pour (f0 g ) si (9 m ` m + ` > 0) f0` gm(z) = z
m (z ) est de ni et = z ). Le multiplicateur de z est alors (ce qui signi e que f0` g0 (f0` gm)0(z), nous disons que z est repulsif si j j > 1, etc. Les points periodiques de f0 sont periodiques pour (f0 g ), car on peut prendre m = 0. Un point periodique pour (f0 g ) est aussi periodique pour (f0 g ;1 ) car gm = f0m gm;1. Nous dirons que z est un point periodique generalise pour (f0 g ) si z est periodique pour (f0 g ;k ) pour un certain k 2 N.

^ment du polyno ^ me? L'ensemble de Julia depend-il continu

69

Il nous faut egalement prendre en compte les deux multiplicateurs virtuels (ou multiplicateurs renormalises) du point xe 0 de f0 . Ils sont de nis de la facon suivante : L'application g induit un isomorphisme E : X0; = V ;=f0 ;! X0+ = V + =f0: + D'autre part un point 2 X0 qui est su samment voisin d'un des bouts du cylindre est represente par des points de V + \ K (f0) qui sont dans la m^ eme orbite, et qui ; de nissent donc un point du quotient K (f0)=f0 qui est aussi X0 . On de nit de cette ; facon l'application des cornes h : X0+ ; A ! X0 , ou A est un anneau compact.

Figure 9
+ En composant, on obtient une application E h : X0 ; A ! X0+ . On compacti e X0+ en la sphere de Riemann C, envoyant les deux bouts du cylindres sur 0 et 1. On obtient ainsi une application L : C;A ! C ayant 0 et 1 comme points xes, et que nous appelons la renormalisee (parabolique) de (f0 g ). Les multiplicateurs virtuels de (f0 g ) en 0 sont par de nition les multiplicateurs de L en 0 et 1. On dit que 0 est virtuellement attractif d'un c^ ote et virtuellement repulsif de l'autre si l'un de ces multiplicateurs est de module < 1 et l'autre de module > 1, etc. Si 0 est virtuellement attractif, parabolique ou de Siegel d'un c^ ote, on peut de nir son bassin ou son domaine de Siegel de ce c^ ote. Les theoremes 4.2 et 4.3 de Sullivan et Fatou s'etendent a ce contexte : Proposition 20.2. | Toute composante connexe U de K (f0 g ) est preperiodique au sens generalise, c'est a dire qu'il existe des entiers naturels ` m k avec ` + m > 0 tels que f0` gm (U ) soit periodique pour (f0 g ;k ).

70
de l'un des types suivants :

A. Douady Proposition 20.3. | Toute composante connexe periodique de K (f0 g ) est

(i) le bassin attractif, le bassin parabolique ou le disque de Siegel d'un point periodique pour (f0 g ) autre que le point xe parabolique 0 (ii) le bassin attractif virtuel, le bassin parabolique virtuel ou le domaine de Siegel de 0 d'un c^ ote. Pour obtenir le Theoreme 20.1, il nous reste a demontrer :
Proposition 20.4. | Si ! n'est pas dans K (f0 g ), tous les points periodiques pour (f0 g ) sont repulsifs, sauf le point parabolique 0 qui, lui, est virtuellement repulsif des deux c^ otes.

21. Le cas ou est reel

Proposition 21.1. | Pour

2 R, on a

K (f0 g ) = J (f0 g ):
Demonstration. | On a b; (R \ K (f0)) = R, T (R) = R et b + (R) = R+. Donc g (!) 2 R+ C ; K (f0) C ; K (f0 g ), et on peut appliquer le Th. 20.1. c.q.f.d.
Corollaire 21.2. | Soit (" ) une suite tendant vers 0 dans ]0 "0 ] telle que (" ) ! 2 T. Alors K (f" ) tend vers K (f0 ) pour la metrique de Hausdor .

Demonstration. | Ce n'est pas autre chose que la Prop. 19.2, en remarquant que l'on a K (f" ) = J (f" ) car c" = 1 4 + " est en dehors de l'ensemble de Mandelbrot, et K (f0 ) = J (f0 ) d'apres la Prop. 21.1. c.q.f.d. Ce corollaire constitue un ra nement du Th. 11.3, qui est donc demontre (a partir des resultats admis au x 20).

22. Et pour " non reel?

1 et Faisons maintenant parcourir a " le secteur S C de ni par j"j r0 = 25 j Arg "j M= 4, soit Re "p j Im "j. L'application f" : z 7! z + z2 + " a deux points p xes = i " et 0 = ;i " . Entre les deux, on a encore une dynamique de batteur a ufs. On peut de nir pour tout " 2 S = S ;f0g des ouverts V"+ et V"; de facon que :

^ment du polyno ^ me? L'ensemble de Julia depend-il continu

71

Figure 10 (1) V"; tende vers V0; = V ; quand " ! 0 au sens suivant : V"; ! V0; et @V"; ! @V0; pour la metrique de Hausdor (ce qui entra^ne que tout compact de V0; est contenu dans V"; pour " assez voisin de 0), de m^ eme pour V"+ (2) V";=f" , V"+ =f" et V"; \ V"+=f" soient des cylindres topologiques, et les inclusions de V"; \ V"+ dans V"; et V"+ induisent des bijections de (V"; \ V"+)=f" sur V"; =f" et V"+=f" . Cette fois nous ne cherchons pas a de nir V"; et V"+ explicitement.
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . q q . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 0 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

V;
a

V+

Figure 11
; + + On a encore des coordonnees de Fatou ; " : V" ! C et " : V" ! C. Elles sont uniques a une constante additive pres et di erent par une constante sur V"; \ V"+. Pour " assez petit, on a a = ;1=8 2 V"; et b = 1=8 2 V"+, et on peut s'arranger pour + ; + que cela ait lieu pour tout " 2 S . On normalise ; " et " par " (u) = " (b) = 0, et + ; ; on de nit la phase relevee e(") comme la valeur de + " ; " sur V" \ V" . La fonction e est holomorphe, et le developpement limite

e(") = ; = " + + o(1)

72

A. Douady

est valable au voisinage 0 sur S . On de nit la phase complexe (") comme la classe de e(") dans C=Z. Dans ce cadre, la Proposition 19.2 est valable sans changement, avec la m^ eme demonstration. Les resultats du x 20 ont ete enonces avec complexe, ils peuvent donc s'appliquer legitimement. Mais les resultats du x 21 sont speci ques du cas 2 R (" ) suite dans R+ . Prenons maintenant une suite (" ) tendant vers 0 dans S , avec (" ) ! 2 C=Z. Si K (f0 ) = J (f0 ), on a K (f" ) ! K (f0 ) et J (f" ) ! J (f0 ) = K (f0 ) (cf. Proposition 2.1). Si l'interieur de K (f0 ) consiste exclusivement en bassins attractifs ou virtuellement attractifs, on peut adapter la demonstration du Corollaire 6.2 et montrer que K (f" ) ! K (f0 ) et J (f" ) ! J (f0 ). Dans le cas general, on peut toujours extraire de (" ) une suite telle que f (" ) et J (" ) aient des limites K et J . On a alors

J (f0) = J (f0 ) J

K (f0 ) = K (f0):

Ceci garantit en tout cas qu'on a une discontinuite pour f 7! K (f ) et f 7! J (f ) le long de la suite (" ).

23. L'elephant limite

Dans le plan des valeurs de , de nissons M par

M = f j ! 2 K (f0 g0)g:
Cet ensemble est invariant par la translation T1 : 7! + 1

Figure 12 : M Considerons d'autre part l'ensemble de Mandelbrot c M = M , qui est le lieu de connexite de la famille (z2 + c)c2C. Notons w0 la composante principale de cM (celle qui contient 0). Soit M l'image inverse de cM par 7! c = =2 ; 2=4, qui est le lieu de connexite de la famille ( z(1 ; 2)) 2C . Correspondant a W 0 il y a dans M les

^ment du polyno ^ me? L'ensemble de Julia depend-il continu

73

2i , deux disques D0 1 et D2 1. En faisant le nouveau changement de variable = ;; 1 on obtient les deux demi plans f j Im > g et f j Im < ; g, correspondant aux deux disques. Il contient des \membres" attaches aux points xn i , xn = tg( =n) , qui resemblent a des elephants, avec des bebes elephants entre eux.

Figure 13 : M Si on regarde l'image eM de M \ S par e : S ! C, on obtiendra essentiellement 1 + " donne = ; p" et qu'on a e(") = + + o(1). la m^ eme chose puisque c = 4 Les dessins d'ordinateur montrent que M ressemble de plus en plus a M a mesure qu'on se deplace vers la gauche. Pour formuler un enonce precis, il nous faut de nir une topologie sur l'ensemble des fermes non necessairement compacts de C. Pour X C ferme et R > 0, posons

X ]R = (X \ DR) @DR: On dit qu'une suite (Xn ) de fermes tend vers un ferme X0 si Xn ]R tend vers X0]R pour tout R xe au sens de la metrique de Hausdor .
Conjecture 23.1. | Le translate T +n M tend vers M quand n ! 1.

La moitie de cette conjecture peut se demontrer assez facilement.

quand n ! 1.
Theoreme 23.2 (Lavaurs). | Pour tout R > 0, @ ( T +n M ]R M ]R )

!0

C'est un enonce de semi-continuite superieure. Le point cle est encore que le fait de s'echapper est une propriete ouverte. L'autre moitie, @ ( M ]R T +n M ]R) ! 0, semble pour le moment hors d'atteinte. On peut montrer que (8R) @ ( @ M ]R T +n@ M ]R) ! 0

74

A. Douady

(attention, dans cette formule, @ a deux sens di erents !). Mais il reste une possibilite que l'interieur de M ait des composantes farfelues qui ne soient pas limites de composantes non hyperboliques de M autant dire que la question est au moins du niveau de la conjecture M.L.C.

24. Autres polyn^ omes ayant un cycle parabolique

Regardons d'abord les polyn^ omes quadratiques, qui peuvent toujours par conjugaison a ne se mettre sous la forme Pc : z 7! z2 + c. Soit Pc0 un polyn^ ome ayant 2i p=q un cycle parabolique d'ordre k, de multiplicateur p = e (avec p et q premier entre eux). Dans le plan des parametres, c0 est la \racine" d'une \composante hyperbolique" de M , composante connexe de M telle que Pc a un cycle attractif pour c 2 W. Il convient de distinguer deux cas : Cas primitif. | = 1 W est une composante primitive @W a un point de rebroussement aux points c0, le cycle attractif de Pc pour c 2 W est d'ordre k. La fermeture de chaque composante connexe de K (Pc0 ) est un \chou- eur". Quand c parcourt un petit secteur de sommet c0 axe sur le rebroussement, chaque chou- eur subit une modi cation semblable a celle du chou- eur standard K (P1=4), sauf qu'il n'y a en plus des laments qui suivent grossierement le segment reel axe du chou- eur et toutes ses images reciproques. Si c est sur le lament de M qui mene a c0, les laments dans k(Pc ) maintiennent l'ensemble de Julia connexe.

Figure 14 Cas satellite. | = e2i p=q , 0 < p < q p et q premiers entre eux. La composante W est attachee en c0 a une composante W0 et c0 a p=q comme argument interne dans W0. La periode de fc pour c 2 W (resp. W0) est kq (resp. k). On peut dessiner dans C deux secteurs S 0 et S 00 de sommet c0, centres sur les deux demi-tangentes communes a W0 et W .

^ment du polyno ^ me? L'ensemble de Julia depend-il continu

75

Quand c decrit ces secteurs, il se produit pour chaque composante connexe de K (Pc0 ) des phenomenes analogues a ceux qui concernent le chou- eur standard. Pour les polyn^ omes quadratiques, le nombre Q d'axes de repulsion en un point parabolique de multiplicateur p=q est toujours egal a q. Pour un polyn^ ome de degre superieur, on peut seulement a rmer que Q est multiple de q. Si Q = q, il se produit des phenomenes analogues a ceux du cas quadratique, et qui peuvent ^ etre analyses par le m^ eme methode. Si Q > q, la situation est plus compliquee, et n'a jamais ete completement etudiee jusqu'ici. Mais il y a toujours des sous-familles qui peuvent ^ etre analysees de cette facon. En tout cas il y a toujours une discontinuite pour f 7! K (f ) et une pour f 7! J (f ), en un point f0 qui a un cycle parabolique.

76

A. Douady

Bibliographie
Bbk] Bl] Bra] Bro] Cr] D1] D2] D3]
N. Bourbaki, Elements de Mathematiques, Topologie Generale, Ch. 1,

Hermann, Paris, 1971.

P. Blanchard, Complex analytic dynamics on the Riemann sphere, Bull.

Amer. Math. Soc. 11 (1984), 85{141. B. Branner, The Mandelbrot set, in Chaos and Fractals : The Mathematics Behind the Computer Graphics, R.L. Devaney and L. Keen (editors), Proceedings of Symposia in Applied Math. 39 (1989), 75{105. H. Brolin, Invariant sets under iteration of rational functions, Arkiv for Mat. 6 (1965), 103{144. H. Cremer, Uber der Hau gkeit der Nichtzentren, Math. Ann. 115 (1938), 573{580. expose no 599, Asterisque 105-106 (1983), 39{63.
A. Douady, Systemes dynamiques holomorphes, in Seminaire Bourbaki,

A. Douady, Julia sets and Mandelbrot set, in PeR]. A. Douady, Disques de Siegel et anneaux de Hermann, in Seminaire Bour-

baki, expose no 677, Asterisque 152-153 (1987), 151{172. D4] A. Douady, Prolongements de mouvements holomorphes, in Seminaire Bourbaki, expose no 775, Asterisque (1993). DH1] A. Douady, J.H. Hubbard, Iteration des polyn^ omes quadratiques complexes, C. R. Acad. Sci. Paris 294 (1982), 123{126. DH2] A. Douady, J.H. Hubbard, Etude dynamique des polyn^ omes complexes, Publ. Math. d'Orsay, 84{02, 1984 et 85{02, 1985. DH3] A. Douady, J.H. Hubbard, on the dynamics of polynomial-like mappings, Ann. Sci. Ecole Norm. Sup. 18 (1975), 287{343. Ec] J. Ecalle, Theorie iterative : introduction a la theorie des invariants holomorphes, J. Math. Pures Appl. 54 (1975), 183{258. Fa1] P. Fatou, Sur les solutions uniformes de certaines equations fonctionnelles, C. R. Acad. Sci. Paris 143 (1906), 546{548. Fa2] P. Fatou, Sur les equations fonctionnelles, Bull. Soc. Math. France 47 (1919), 161{271 et 48 (1920), 33{94 et 208{314. Ju] G. Julia, Memoire sur l'iteration des fonctions rationnelles, J. Math. Pures Appl. 4 (1918), 47{245.

^ment du polyno ^ me? L'ensemble de Julia depend-il continu

77

Lav]

riodiques paraboliques, These de Doctorat, Universite de Paris-Sud, 1989. Le] L. Leau, Etude sur les equations fonctionnelles a une ou plusieurs variables, Ann. Fac. Sci. Toulouse 11 (1987), 1{110. Lyu] M. Yu. Lyubich, The dynamics of rational transforms : the topological picture, Russian Math. Surveys 41 (1986), 43{117. Mi] J. Milnor, Dynamics in one complex variable : Introductory lectures, Institute for Math. Sci., SUNY, Stony Brook, 1990. ~e, P. Sad, D. Sullivan, On the dynamics of rational maps, Ann. MSS] R. Man Sci. Ec. Norm. Sup. 16 (1983), 193{217. PeR] H.-O. Peitgen, P. Richter, the Beauty of Fractals, Springer-Verlag, 1986. Sh] M. Shishikura, The Hausdor dimension of the boundary of the Mandelbrot set and Julia sets, Annals of Math. (1993). C.L. Siegel, Iteration of analytic functions, Annals of Math. 43 (1942), Si] 607{612. St] N. Steinmetz, Rational Iteration (Complex Analytic Dynamical Systems), de Gruyter, Berlin, 1993. Su] D. Sullivan, Quasiconformal homeomorphisms and dynamics I, Solution of the Fatou-Julia problem on wandering domains, Annals of Math. 122 (1985), 401{418. Ta] Tan Lei, Similarity between the Mandelbrot set and Julia sets, Comm. Math. Phys. 134 (1990), 587{617. Vo] S.M. Voronin, Analytic classi cations of germs of conformal mappincs of germs (C 0) ! (C 0) with identity linear part, Functional Analysis Appl. 15 (1981), 1{13. Yo] J.-C. Yoccoz, Linearisation des germes de di eomorphismes holomorphes de (C 0), C. R. Acad. Sci. Paris 306 (1988), 55{58. Departement de Mathematiques B^ at. 425 Universite Paris-Sud 91405 Orsay cedex France

P. Lavaurs, Systemes dynamiques holomorphes, explosion de points pe-

Du billard convexe aux geodesiques du tore

Patrice Le Calvez

La theorie des systemes dynamiques est l'etude des proprietes qualitatives des orbites d'un ot de ni par un champ de vecteurs sur une variete, ou encore de la suite des images successives d'un point par un di eomorphisme (ou d'une application de classe C 1). Les equations de la mecanique engendrent un ot conservatif (les transformations preservent une forme symplectique et preservent donc une forme volume). Sur une surface, les proprietes conservatives se traduisent par le fait de preserver l'aire. La dynamique des systemes conservatifs est en general di erente des systemes dissipatifs. La recherche d'orbites periodiques ou d'orbites ayant des proprietes donnees est une des questions fondamentales. Nous allons exposer une methode variationnelle d'obtention d'orbites periodiques (et d'autres orbites ayant des proprietes remarquables) pour des systemes conservatifs, introduite independamment par S. Aubry et J. Mather, il y a une quinzaine d'annees. Le premier travaillait en physique du solide et etudiait les con gurations stationnaires d'une suite in nie de particules sur une droite, liees entre elles par un potentiel harmonique et soumises a un potentiel dependant de la position sur la droite mais periodique. Le second etudiait une classe de di eomorphismes, que l'on retrouve souvent en systemes dynamiques, les di eomorphismes conservatifs de l'anneau deviant la verticale. Un cas particulier d'application de ces resultats est le probleme du billard convexe, probleme que G.D. Birkho avait deja etudie, utilisant deja certains arguments de la methode nous commencerons par etudier ce cas. Le type de resultat obtenu par Aubry et Mather se retrouve egalement dans un ancien travail de G. Hedlund consacre a l'etude des geodesiques minimales sur le tore de dimension deux. V. Bangert a montre comment les resultats de Hedlund se deduisaient en fait de la methode d'Aubry-Mather. Nous allons exposer cette methode, qui est bi-dimensionnelle, et les appliquer au cas dont nous venons de parler. Nous conclurons en indiquant comment ils se generalisent en dimension superieure : nous verrons, suivant Mather, que le probleme general est l'etude des extremales d'un lagrangien dependant du temps t et periodique en t sur une variete compacte (les extremales sont les courbes qui veri ent les equations d'Euler-Lagrange), dont l'action est minimale sur tout sous-segment.

79

80

P. Le Calvez

1. Le billard convexe
Considerons dans le plan R2 une courbe simple convexe ; de classe C k (k 2) et de longueur 1 et de nissons l'application suivante : a chaque couple forme d'un point de ; et d'une droite passant par ce point, on associe le couple forme d'une part du second point d'intersection de la droite avec ;, d'autre part de la droite symetrique par rapport a la normale a ; en ce second point (voir gure 1).
( ) r

r ()

Figure 1 Notons T = R=Z le tore de dimension 1 et donnons-nous une parametrisation : T ! ; ! ( ) de ; avec k 0( )k = 1. On peut caracteriser chaque droite passant par ( ) par l'angle r, de ni modulo , que fait 0( ) avec tout vecteur directeur de la droite. On obtient une application de l'ensemble T R= Z dans lui-m^ eme, qui est bijective et qui induit l'identite sur le tore T f0g (c'est le cas ou la droite est tangente a ;).

T (R= Z ; f0g) est un di eomorphisme de classe C k;1.

Proposition. | L'application

est un homeomorphisme et sa restriction a

Demonstration. | Si et 0 sont deux points de T distincts, on note R( 0 ) l'angle entre les vecteurs 0( ) et ( 0) ; ( ) et R0( 0) l'angle entre les vecteurs ( 0) ; ( ) et 0( 0) si et 0 sont egaux, on pose R( 0) = R0( 0) = 0. On obtient ainsi deux applications de classe C k;1 veri ant @R ( 0) = sin R0( 0) > 0 @0 k ( ) ; ( 0)k quand et 0 sont distincts. On en deduit que l'application : T2 ! T (R= Z) ( 0) 7! ( R( 0))

Du billard convexe aux geodesiques du tore

81

est un homeomorphisme qui envoie = f( ) 2 Tg sur T f0g et qui induit un di eomorphisme de classe C k;1 entre T2 ; et T (R= Z ; f0g). On montre que : T2 ! T (R= Z) ( 0) 7! ( 0 R0( 0))
0

veri e les m^ emes proprietes : on obtient la proposition comme consequence de l'egalite = 0 ;1. 2 Remarque 1. | Si ( ) est la courbure en , la quantite @R @ 0 ( 0 ) est egale a ( )=2, ainsi si la courbure ne s'annule jamais les applications , , et sont des di eomorphismes de classe C k;1 de la variete toute entiere. Remarque 2. | L'application

h : T2 ! R ( 0) 7! k ( ) ; ( 0)k
est di erentiable sur T2 ; et on a

dh = cos R0(

)d 0 ; cos R(

)d :

En ecrivant ddh = 0, on obtient que preserve la forme volume ! = sin rd ^ dr. Le probleme du billard, de ni dynamiquement par l'application est donc de type conservatif. Remarque 3. | Plutot que d'etudier , on peut etudier le relevement F a l'anneau T 0 ] : c'est l'unique homeomorphisme de T 0 ] tel que ( 0 r0 + Z) = ( r + Z) si F ( r) = ( 0 r0). L'application F est isotope a l'identite (dans le cas present cela signi e que F laisse invariant chaque bord de l'anneau et preserve l'orientation), elle induit l'identite sur chaque bord de l'anneau, en n c'est un di eomorphisme de classe C k;1 sur l'interieur de l'anneau (sur l'anneau ferme dans le cas ou la courbure ne s'annule pas) qui preserve une forme volume. Par le changement de variable ( s) = ( cos r), on obtient un homeomorphisme de T ;1 1] qui preserve l'aire. Voyons maintenant comment Birkho construit des orbites periodiques du billard (voir Bi2]). Parmi toutes les cordes de notre courbe ; il y en a au moins une, joignant deux points ( 1) et ( 2), qui maximise la longueur. Cette corde est perpendiculaire a la tangente a ; en chacune des extremites, l'ensemble f( 1 =2) ( 2 =2)g est donc une orbite de periode 2 de F (voir gure 2).

82

P. Le Calvez

(2)

(1)

Figure 2 Parmi tous les triangles inscrits dans ;, il y en a au moins un de perimetre maximal et celui-ci est non degenere (il ne se reduit evidemment ni a un point ni a un segment). Notons ( 1), ( 2) et ( 3) les trois extremites et faisons varier l'extremite = 2. La derivee du perimetre du triangle, fonction de , doit s'annuler en 2. Comme cette derivee est egale au signe pres a cos R0( 1 2) ; cos R( 2 3), on en deduit que le segment joignant ( 1) et ( 2) et le segment joignant ( 3) et ( 2) sont symetriques par rapport a la normale en ( 2). Comme on a une situation analogue en 1 et en 3, on en deduit que l'ensemble f( 1 R( 1 2)) ( 2 R( 2 3)) ( 3 R( 3 1))g est une orbite de F , de periode 3 (voir gure 3). Remarquons que l'ensemble f( 1 ; R( 1 2)) ( 2 ; R( 2 3)) ( 3 ; R( 3 1))g est egalement une orbite periodique de F qui correspond a la m^ eme trajectoire du billard, parcourue dans l'autre sens.
(3) (2)

(1)

Figure 3 En considerant le quadrilatere, le pentagone, etc, inscrit qui maximise le perimetre, on obtient de la m^ eme facon une orbite periodique (et m^ eme deux) pour chaque periode q 4. On peut generaliser encore ce procede et obtenir d'autres orbites periodiques. Fixons un nombre rationnel = p=q strictement compris entre 0 et 1 et ecrit sous

Du billard convexe aux geodesiques du tore

83

forme irreductible. Considerons la partie X de ;q formee des q-uplets (z1 : : : zq ) tels que les q arcs z1z2 : : : zq;1zq zq z1, orientes positivement, recouvrent la courbe exactement p fois. De nissons une suite (zi)i2Z de periode q, a partir de notre q-uplet. A chaque element (z1 : : : zq ) de X on peut associer un polygone, reunion des segments Di joignant zi a zi+1, i 2 f1 : : : qg. Parmi tous les polygones ainsi obtenus, il en existe au moins un de perimetre maximal. Comme dans le cas du triangle, il est clair que zi et zi+1 sont toujours distincts et que les segments Di et Di+1 font un m^ eme angle ri+1 2]0 avec la tangente a ; en zi+1. Si zi = ( i), la reunion des ( i ri), i 2 f1 : : : qg, est donc une orbite periodique de F de periode q. Rappelons qu'un relevement de F a R 0 ] est un homeomorphisme f de R a b] tel que ( 0 + Z r0 ) = F ( + Z r) si f ( r) = ( 0 r0). Les relevements de F se deduisent d'un relevement donne f en composant cette application par une translation du type ( r) 7! ( + k r), ou k 2 Z. En particulier il existe un unique relevement f de F a R 0 ] egal a l'identite sur R f0g, il co ncide alors avec la translation de vecteur (1 0) sur R f g. Si ei est un representant reel de i 2 x , on a f q ( ei ri) = ( i + p ri) : on dit que l'orbite est une orbite periodique de nombre de rotation p=q (pour le relevement f ). Il existe donc une orbite periodique de nombre de rotation pour chaque rationnel compris entre 0 et 1 (si est egal a 0 ou a 1 il su t de prendre un point d'un des deux bords). On peut preciser la structure de ces orbites, en utilisant le fait que dans un quadrilatere inscrit dans ;, la somme des longueurs des diagonales est strictement plus grande que la somme des longueurs de deux cotes opposes. Considerons la suite (zi )i2Z = (zi+k )i2Z, 1 k < q. Le polygone de ni par le q-uplet (z1 : : : zq ) est egal au premier, bien que les q-uplets soient distincts (car p et q sont premiers entre eux !). ; + De nissons deux autres q-uplets (z1 : : : zq;) et (z1 : : : zq+ ) de la facon suivante : ; + posons z1 = z1 et z1 = z1 posons ensuite zi; = zi et zi+ = zi si la somme des longueurs des arcs orientes z1z2 : : : zi;1zi est strictement plus petite que la somme des longueurs des arcs orientes z1z1 z1 z2 : : : zi;1zi posons zi; = zi et zi+ = zi si elle est strictement plus grande posons zi; = zi = zi si il y a egalite. Les nouveaux q-uplets appartiennent egalement a X , car la somme des longueurs des arcs orientes ; ; ; ; z1 z2 : : : zi; ;1 zi est egale a la somme des longueurs des arcs z1 z2 : : : zi;1 zi si zi = eme la somme des longueurs des arcs zi et a z1z1 z1 z2 : : : zi;1zi si zi; = zi , et de m^ + + + + orientes z1 z2 : : : zi;1zi est egale a la somme des longueurs des arcs z1z2 : : : zi;1zi moins la longueur de l'arc z1z1 si zi+ = zi et a z1 z2 : : : zi;1zi si zi+ = zi . Si l'on note li, li , li; et li+, les longueurs respectives des segments associes Di , Di , Di; et Di+ , on a l'inegalite li; + li+ li + li et une inegalite stricte des que ; ; zi; = zi 6= zi et zi; +1 = zi+1 6= zi+1 ou alors si zi = zi 6= zi et zi+1 = zi+1 6= zi+1 . Cette situation est donc impossible. Remarquons que l'egalite zi; = zi+ = zi = zi est egalement impossible, pour tout entier i. En e et, nous avons quatre polygones de perimetres maximaux qui

84

P. Le Calvez

correspondent donc a une trajectoire du billard. Puisque les q-uplets (z1 : : : zq) et (z1 : : : zq ) sont distincts, il en est de m^ eme des segments Di et Di . La propriete d'angle veri ee par Di et Di+1 d'une part, par Di et Di+1 d'autre part oblige le couple (Di; Di; etre egal a un des couples (Di Di+1) ou (Di Di+1 ), ce qui +1 ) a ^ contredit la propriete d'angle pour ce polygone de perimetre maximal. On deduit de ce qui precede, d'une part que les q extremites du polygone sont distinctes, d'autre part que l'application zi 7! zi+1 preserve l'ordre cyclique sur l'ensemble des sommets du polygone. Ceci n'est possible que si les zi s'ordonnent cycliquement sur ; comme les elements de la suite ip=q + Z sur T. Sur le dessin suivant (voir gure 4), nous indiquons dans un exemple, ou p=q = 2=5 pourquoi les zi correspondant a un polygone de perimetre maximal doivent s'ordonner cycliquement comme les elements de la suite ip=q + Z sur x . Le polygone de droite obtenu a partir des m^ emes extremites de celui de gauche, mais bien ordonnees cycliquement, a un perimetre superieur a cause de la propriete des diagonales des quadrilateres.
z1 z*4 z*1

z4

z5 z3 z2 z*2

z*3

z*5

Figure 4 C'est la fonction h qui nous a permis de construire nos orbites periodiques. L'existence de cette fonction est, comme on le verra plus tard, liee a deux proprietes de F : son caractere conservatif et la propriete de deviation de la verticale decrite ci-dessous : pour tout 2 T, l'application r 7! 0( r) est croissante, l'image par F de la verticale f g 0 ] est une courbe qui s'enroule dans le sens direct autour de l'anneau (voir gure 5).

2. Applications deviant la verticale

On dira qu'un di eomorphisme F de l'anneau ferme T a b], isotope a l'identite, devie la verticale a droite (resp. a gauche) si, pour un relevement donne f : ( r) 7! ( 0 r0) de F au rev^ etement universel R a b] de T a b], la derivee de l'application 0 r 7! ( r) est strictement positive (negative), pour tout reel.

Du billard convexe aux geodesiques du tore

85

F()

Figure 5 Le fait de devier la verticale ne depend pas du relevement choisi, puisque ceux-ci se deduisent les uns des autres par des translations On dira egalement qu'un di eomorphisme F de l'anneau in ni T R devie la verticale a droite si les applications r 7! 0( r), de nies pour un relevement de F , sont des di eomorphismes strictement croissants de R : en d'autres termes l'image par F d'une verticale est une courbe qui s'enroule dans le sens direct autour de l'anneau en faisant a chaque extremite un nombre in ni de tours. Cette propriete de deviation de la verticale, que Poincare avait deja rencontre dans l'etude du probleme a n corps, appara^t tres naturellement en systemes dynamiques et va ^ etre fondamentale dans ce qui suit. Commencons par donner quelques exemples.

a. Un exemple explicite Soit ' : R ! R une application de classe C 1 et de periode 1. Pour tout reel > 0, le di eomorphisme de R2 :
f : ( r) 7! ( + r r + '( + r))
releve un di eomorphisme F de T R qui devie la verticale a droite. Remarquons que celui-ci preserve l'aire si = 1 et qu'il la diminue si < 1.

b. Au voisinage d'un point xe elliptique

Dans les systemes dynamiques, il est important d'etudier la structure d'un di eomorphisme au voisinage d'un point xe ou d'une orbite periodique, et dans le cas d'un champ de vecteurs, la structure du ot au voisinage d'une singularite ou d'une orbite fermee (ce dernier cas se ramenant d'ailleurs par une section de Poincare a l'etude d'un di eomorphisme au voisinage d'un point xe). Un certain nombre de proprietes sont connues des qu'on ajoute des conditions generiques sur le di eomorphisme ou le champ de vecteurs (on demande au di eomorphisme ou au champ

86

P. Le Calvez

de vecteurs d'appartenir a un G dense, quand on munit l'ensemble des di eomorphismes ou des champs de vecteurs d'une topologie naturelle), on ne precisera pas les de nitions possibles de genericite. Ainsi, par exemple, si f est un di eomorphisme generique de ni au voisinage d'un point xe z d'une variete M , les valeurs propres de Df (z) sont toutes de module di erent de 1 si f est un di eomorphisme generique preservant une forme symplectique (la genericite est alors comprise parmi les di eomorphismes conservant cette forme), les valeurs propres sont toutes di erentes de 1. Dans le cas ou M est le plan R2 et ou la forme symplectique est la forme dx ^ dy, le fait de preserver cette forme equivaut au fait de preserver l'aire et l'orientation. Generiquement les valeurs propres de Df (z) dont le produit est necessairement egal a 1, puisque le jacobien de f est egal a 1 en tout point, sont soit de la forme , ou et sont des reels veri ant 0 < j j < 1 < j j, soit de la forme , ou est un nombre complexe de module 1 qui n'est pas racine de l'unite. Le premier cas, dit hyperbolique, est le plus simple (existence de varietes stable et instable, conjugaison topologique locale a la partie lineaire). Le second cas, dit elliptique, est beaucoup plus complique nous expliquerons la dynamique dans le paragraphe 3. Le theoreme qui suit (voir Birkho Bi1]) exprime que dans un bon systeme de coordonnees, l'application appara^t comme un di eomorphisme de l'anneau deviant la verticale (forme normale de Birkho ). Theoreme. | Soit f un di eomorphisme de classe C 1 de ni au voisinage de (0 0) 2 R2, preservant l'aire et l'orientation et tel que les valeurs propres et de Df (0 0) soient sur le cercle unite et veri ent n 6= 1 pour n 2 f1 : : : qg. Il existe alors un di eomorphisme h de classe C 1 , de ni au voisinage de (0 0), laissant xe ce point, preservant l'aire et l'orientation et tel que h f h;1 s'ecrit sous la forme suivante, en utilisant la coordonnee complexe z : h f h;1(z) = ze2i P (jzj2 ) + o (jzjq;1) ome reel de degre m < (q ; 1)=2. 2 ou P (X ) = a1X + + amX m est un polyn^ Les reels a1 : : : am ne dependent que de la2 fonction f et sont generiquement non nuls. Si c'est le cas, la fonction z 7! ze2i P (jzj ) laisse invariant chaque cercle jzj = r et induit sur celui-ci une rotation dependant de facon monotone de r au voisinage de 0. En coordonnees polaires z = re2i , la fonction g = h f h;1 est de nie dans un voisinage de R=Z f0g dans R=Z 0 +1 et s'ecrit g( r) = ( + + a1r2 + : : : + amr2m + 1( r) r + 2( r)) ou 1 et 2 sont des o(jrj2n ), et ou = e2i elle devie la verticale (au sens local).

c. Le pendule entretenu

Ecrivons l'equation du pendule entretenu : + _ + sin 2 = p(t)

Du billard convexe aux geodesiques du tore

87

ou p est une application de classe C 1 et de periode T > 0, et ou est un reel positif ou nul suivant que le pendule soit amorti ou non. Cette equation se ramene par le changement de variable r = _, = t, au champ de vecteurs sur R=Z R R=T Z suivant :
8_ > < =r _ = ; r ; sin 2 + p( ) > :r _ = 1:

Ce champ est transverse a chacune des sections R=Z R f g et de divergence egale a ; . L'application de premier retour F de nie sur la section R=Z R f0g peut s'ecrire F = Fn;1 : : : F0 ou Fi est l'application de passage de la section R=Z R fiT=ng a la section R=Z R f(i +1)T=ng. On peut montrer que les applications Fi devient la verticale a droite des que n est assez grand, et que F est donc la composee d'applications deviant la verticale a droite, diminuant l'aire dans le cas amorti, conservant celle-ci dans le cas contraire. L'equation d'ou provient la propriete de deviation de la verticale est l'egalite naturelle _ = r, on retrouvera donc cette propriete dans d'autres equations di erentielles du second ordre a coe cients periodiques en t. Nous ne nous interesserons dans la suite qu'aux di eomorphismes conservatifs on retrouve cependant certains des resultats dans les cas dissipatifs. Rappelons d'abord des proprietes des homeomorphismes du cercle, proprietes qui seront fondamentales pour la suite.

3. Dynamique des homeomorphismes du cercle

Commencons par de nir le nombre de rotation de Poincare.
ri ant g ( + 1) = g( ) + 1, pour tout reel . Il existe alors un reel tel que, pour tout 2 R et pour tout k 2 Z, on ait :
Theoreme 3.1. | Soit g un homeomorphisme strictement croissant de R ve-

;1 < gk ( ) ; ; k < 1
en particulier,
k( ) g lim = : k! 1 k

88

P. Le Calvez

Demonstration. | Pour tout entier k, l'application gk est un homeomorphisme strictement croissant veri ant gk ( + 1) = gk ( ) + 1 et l'application gk ; Id qui est ; periodique atteint sa borne inferieure mk en un point k et sa borne superieure Mk + ; + ; en un point k . On peut toujours supposer que k k < k + 1 on en deduit, + ; appliquant gk , que Mk + k < mk + k + 1, puis que mk Mk < mk + 1. Si k et k0 sont des entiers strictement positifs, on deduit la relation kmk0 mkk0 kMk0 de l'egalite k ;1 X gkk0 ( ) ; = gk0 (gik0 ( )) ; gik0 ( ) puis, par symetrie de k et k0, l'inegalite mk0 =k0 Mk =k. On obtient que = supfmk =k k > 0g = inf fMk =k k > 0g et que Mk ; 1 < k < mk + 1. Ainsi, pour tout reel et pour tout entier k 0, on a
i=0

;1 < gk ( ) ; ; k < 1
et de m^ eme

;1 < gk (g;k ( )) ; g;k ( ) ; k = ; g;k ( ) ; k < 1: 2

Le nombre reel = (g), de ni pour tout homeomorphisme reel commutant avec la translation x 7! x + 1, s'appelle le nombre de rotation de g. Les proprietes suivantes sont alors simples a demontrer : (1) pour tous entiers p et q, on a (gq + p) = q (g) + p (2) si g g0, alors (g) (g0) (3) si la suite (gn ) tend uniformement vers g, alors limn!1 (gn ) = (g). S'il existe deux entiers p 2 Z et q > 0 et un reel tel que gq ( ) = + p, alors = limk!1 gkq ( )=kq = limk!1 ( + kp)=kq = p=q reciproquement si = p=q est rationnel, ecrit sous forme irreductible, on sait que mq p Mq et donc qu'il existe un reel tel que gq ( ) = + p, par le theoreme des valeurs intermediaires applique a gq ; Id ;p. Les applications pour lesquelles on a de ni le nombre de rotation ne sont rien d'autre que les relevements a R des homeomorphismes de T homotopes a l'identite (ou de facon equivalente preservant l'orientation). Si G est un tel homeomorphisme, les relevements se deduisent les uns des autres en composant par une translation entiere. L'element (g) + Z de T est donc independant du relevement g choisi on l'appelle le nombre de rotation de G. D'apres ce qui precede, ce nombre est rationnel si et seulement si G possede une orbite periodique. On peut preciser la dynamique des homeomorphismes du cercle. Si (g) = p=q est rationnel et ecrit sous forme irreductible et si 2 R veri e q g ( ) = + p, l'orbite de ce point de nit par projection dans T une orbite de G

Du billard convexe aux geodesiques du tore

89

de periode q. Si est un point quelconque de T, l'ensemble !-limite (i.e. l'ensemble des valeurs d'adherence de la suite (Gn( ))n 0 ) est une orbite periodique du type precedent, qui peut dependre de . Il en est de m^ eme de l'ensemble -limite de , c'est-a-dire de l'ensemble des valeurs d'adherence de la suite (G;n ( ))n 0 . Si est irrationnel, les ensembles -limite et !-limite d'un point sont egaux et independants de . La partie obtenue est soit T, soit un ensemble de Cantor toute orbite contenue dans est dense dans . Remarquons que si F est un homeomorphisme isotope a l'identite de l'anneau ouvert ou ferme qui laisse invariant le graphe d'une application continue : T ! R, la restriction de F au graphe est conjuguee a un homeomorphisme de T preservant l'orientation par la projection sur T. Plus precisement, si f est un relevement de F , il existe un reel tel que pour tout z dans le relevement du graphe et pour tout entier k, on a ;1 < p1(f k (z)) ; p1(z) ; k < 1, ou p1 est la premiere projection de nie sur le rev^ etement universel de l'anneau. L'element + Z est independant du relevement f de F .

4. Orbites periodiques des applications deviant la verticale

Enoncons le theoreme, d^ u a Aubry AL] et a Mather Ma1] qui generalise la situation du billard, ou l'on note p1 la premiere projection de nie sur l'anneau ou sur son rev^ etement universel et ou l'on note le rev^ etement ( r) 7! ( + Z r).
a droite et preservant l'aire, et f un relevement de F a R a b] dont les nombres de rotation induits sur R f0g et R f1g sont notes respectivement ; et + . Pour tout reel 2 ; + ], il existe un ensemble tel que :
Theoreme 4.1. | Soit F un di eomorphisme de T a b] deviant la verticale

(i) la restriction de p1 a est injective, (ii) pour tous z z0 2 ;1( ), p1(z) < p1(z0) ) p1 (f (z)) < p1(f (z0)), (iii) pour tout z 2 ;1( ) et pour tout entier k, on a ;1 < p1 (f k (z)) ; p1(z) ; k < 1.
De plus, si = p=q est rationnel, ecrit sous sa forme irreductible, l'ensemble est ;1 une orbite periodique de periode q et on a p1 (f q (z )) = p1 (z )+p pour tout z 2 1 ( ) si est irrationnel, c'est soit un ensemble de Cantor, soit le graphe d'une application continue de T dans a b]. 2

Remarque 1. | La propriete (ii) signi e que l'ordre cyclique de ni par p1 sur est conserve par F et que l'on peut donc prolonger l'homeomorphisme de ni par conjugaison sur p1 ( ) en un homeomorphisme preservant l'orientation de T. La propriete (iii) signi e que le nombre de rotation de n'importe quel prolongement est .

90

P. Le Calvez

Remarque 2. | Si F est un di eomorphisme de l'anneau in ni T R deviant la verticale a droite et preservant l'aire, on aura un resultat analogue pour tout reel si on suppose une condition supplementaire sur F que l'on va donner tout de suite. L'aire algebrique delimitee par une courbe simple ; de classe C 1 homotope a 7! ( 0) et son image par F est independante de la courbe, on mesure celle-ci en integrant sur ; la forme di erentielle F (rd ) ; rd qui est fermee puisque F preserve l'aire. Dire que l'aire est nulle signi e que cette forme est exacte, on dira alors que F est exact-symplectique. Si ' : R ! R est une application de classe C 1, le di eomorphisme R 1 releve par ( r) ! ( + r r + '( + r) veri era cette condition si et seulement si 0 '( )d = 0. Remarquons que si l'application ' est constante egale a 1, il n'existe aucun ensemble du type . Remarquons que si F est un di eomorphisme de l'anneau ferme, la forme F (rd ) ; rd est toujours exacte. Remarque 3. | Les ensembles de nis par les seules conditions du theoreme, s'appellent des ensembles d'Aubry-Mather et ne sont pas uniquement de nis m^ eme quand est irrationnel. On peut d'ailleurs montrer que si est rationnel, il existe au moins deux orbites periodiques dont la reunion veri e les conditions (i), (ii), (iii). Cependant nous construirons nos ensembles par une propriete de minimisation, cette propriete supplementaire imposera alors l'unicite dans le cas irrationnel et generiquement l'unicite dans le cas rationnel. Remarque 4. | Si on applique le theoreme dans le cas du billard, (le fait que l'application ne soit pas di erentiable au bord n'a pas d'importance) on obtient en plus des orbites periodiques deja construites, des orbites qui s'ordonnent sur la courbe ; dans le m^ eme ordre que la rotation 7! + , pour chaque 2 T ; Q=Z. Indiquons une propriete, consequence du fait que l'angle que fait l'image d'une verticale avec toute autre verticale est minore par un nombre strictement positif sur toute partie bornee de l'anneau, et dans le cas in ni que cette image s'enroule un nombre in ni de fois autour de l'anneau :
est borne, et l'inverse de la restriction de p1 a , de nie sur p1( ), est lipschitzienne si le nombre associe (le nombre de rotation) varie dans un ensemble borne, le rapport de Lipschitz est uniforme. 2
Proposition. | Chaque ensemble

On retrouve egalement cette propriete pour les graphes invariants (voir Birkho Bi3]) : toute application continue de T dans R, dont le graphe est invariant est lipschitzienne la encore, si le nombre de rotation varie dans un ensemble borne, le rapport de lipschitz est uniforme. Donnons quelques autres proprietes des graphes invariants, consequences de la deviation de la verticale a droite et eventuellement du caractere conservatif de l'application (voir Herman Hn1]). Du theoreme d'Ascoli et de la propriete de continuite (3) du nombre de rotation enoncee au paragraphe 3, on deduit que l'ensemble des applications continues dont le

Du billard convexe aux geodesiques du tore

91

graphe est invariant, de nombre de rotation a valeur dans un compact, est compact pour la topologie uniforme. Deux graphes invariants qui se rencontrent ont evidemment le m^ eme nombre de rotation. Si deux graphes invariants sont disjoints, le nombre de rotation de celui qui est au-dessus est strictement plus grand que l'autre de plus il existe au plus un graphe invariant de nombre de rotation irrationnel donne. En n un ensemble donne par la proposition situe au-dessus (resp. en dessous) d'un graphe invariant a un nombre de rotation superieur (resp. inferieur) a celui-ci. La presence de graphes invariants peut ^ etre obtenue gr^ ace au theoreme de Kolmogorov, Arnold, Moser. Illustrons la situation dans di erents exemples. (i) Si F est l'application donnee dans l'exemple b du paragraphe 2, la forme normale, qui devie la verticale, admet une courbe invariante r = ( ) pour chaque 0 ] si elle la devie a droite, dans un intervalle nombre de rotation dans un intervalle 0 ] si elle la devie a gauche. Le di eomorphisme aura au voisinage du point xe un ensemble ferme forme de graphes invariants indexes et ordonnes par leur nombre de rotation. Cet ensemble est non vide car il contient toutes les courbes donnees par le theoreme de Kolmogorov, Arnold, Moser, c'est-a dire un ensemble de mesure non nulle, ayant le point xe comme point de densite, et forme de graphes invariants, ou F est di erentiablement conjuguee a une rotation de nombre de rotation diophantien, mais il contient beaucoup d'autres courbes obtenues comme limites de celles-ci. On peut montrer que l'ensemble des nombres de rotation des graphes invariants est generiquement forme uniquement de nombres irrationnels et qu'il est donc totalement discontinu ( Bi1], Hn1]). Ainsi, il existe des regions annulaires delimitees par deux graphes invariants et ne contenant aucun autre graphe invariant, que l'on appelle des regions annulaires d'instabilite. A un nombre de rotation rationnel compris entre les deux nombres de rotations des bords de la region d'instabilite correspond une orbite periodique, a un nombre de rotation irrationnel un ensemble de Cantor. Les ensembles donnes par le theoreme apparaissent donc comme le souvenir des courbes invariantes de la forme normale qui ont disparu. Remarquons que dans ce cas l'orbite d'un point assez proche de (0 0) reste dans un voisinage proche de ce point. (ii) Si ; est une courbe convexe de classe C 5 et si la courbure ne s'annule jamais, il existe egalement des courbes invariantes de F proches des bords T f0g et T f1g (voir Douady D], Lazutkin L]), en particulier, la trajectoire d'un point dont l'angle est proche de 0 reste proche du bord. Au contraire si la courbure de ; s'annule en au moins un point, on peut montrer qu'il n'y aucune courbe invariante par F autre que les bords de l'anneau : l'anneau entier est une region d'instabilite ( Ma2]).

92

P. Le Calvez

La dynamique dans une region d'instabilite est toujours compliquee (on peut dire qu'elle est chaotique), ainsi generiquement il existe toujours ce qu'on appelle des intersections homoclines (des orbites periodiques hyperboliques dont les variete stables et instables s'intersectent transversalement, condition qui implique une dynamique compliquee). Par exemple il existe toujours une orbite dont l'ensemble -limite est un bord de la region et l'ensemble !-limite l'autre bord. Dans le cas du billard ceci signi e l'existence d'une trajectoire s'accumulant sur la courbe ; dans deux sens di erents (on peut m^ eme trouver une trajectoire issue perpendiculairement de la courbe et s'accumulant sur ;). Le cas oppose au cas ou la courbure s'annule en un point est le cas ou ; est une ellipse, il existe une courbe invariante pour chaque nombre de rotation, et chaque courbe correspond a une caustique de nie par une ellipse homofocale. Remarquons qu'on ne sait pas s'il existe d'autres courbes que l'ellipse telle qu'a chaque nombre de rotation corresponde une courbe invariante.
3 (iii) Dans l'exemple R 1 a du paragraphe 2, si ' est une application de classe C , non nulle, telle que 0 '( )d = 0 et si F" est l'application relevee par f" : ( r) 7! ( + r r + "'( + r)), alors F" aura des courbes invariantes pour " assez petit et n'en aura plus pour " assez grand ( Hn1]).

5. Etude des con gurations minimales

On va poser dans ce paragraphe, en nous inspirant de Bangert Ba1], le cadre ou s'inscrit la demonstration du theoreme 4.1. Une con guration est une suite bi-in nie de reels. On munit alors l'ensemble RZ = f = ( i)i2Zj i 2 Rg des con gurations de la topologie produit. On a la propriete suivante, qui sera souvent utilisee : si (ai)i2Z est une suite de reels positifs, l'ensemble f = ( i)i2Zj j ij ai 8 i 2 Zg est compact.
que le segment ( j : : : k ), j < k , de = ( i)i2Z est minimal si h( j : : : k ) 0 0 h( j0 : : : k ), pour tout autre segment tel que j0 = j et k = k ou on pose :
Definition. | Soit h :

R2 ! R une application continue. Nous dirons

k) = k ;1 X i=j

h( j : : :
Nous dirons qu'une con guration

h(

i i + 1):

est minimale si tout segment de

k)

est minimal.

Remarque. | Si h est de classe C 1 et si ( j : : : tout i 2 fj + 1 : : : k ; 1g, on a

est minimal, alors pour

@h ( @0

i; 1 i ) +

@h ( @

i i+1 ) = 0:

Du billard convexe aux geodesiques du tore

93

Nous nous interesserons aux con gurations minimales des applications continues h veri ant les proprietes suivantes : (i) h( + 1 0 + 1) = h( 0), pour tout ( 0) 2 R2 (ii) 0 lim h( + 0) = +1 uniformement en ! 1 (iii) h( 0) + h( 0 ) < h( 0 ) + h( 0), si < et 0 < 0 (iv) si ( i;1 i i+1) et ( i;1 i i+1) sont deux segments minimaux distincts et si i = i , alors ( i;1 ; i;1 )( i+1 ; i+1 ) < 0.

La condition (iv) est la moins claire, car elle se de nit par rapport a la notion de segment minimal. Cette condition est necessairement veri ee si h est de classe C 1 et si les applications @h ( 0) et 0 7! @h ( 0) 7! @ 0 @ sont toutes deux strictement croissantes ou toute deux strictement decroissantes, puisque : @h ( @h ( @h @h i;1 i ) + i i+1 ) = 0 ( i;1 i ) + ( i i+1 ) = 0: 0 @ @ @ @ 2 Elle est veri ee si h est de classe C 2 et si @@ @h 0 ( 0) garde un signe constant non nul si ce signe est < 0, la condition (iii) est egalement veri ee (il su t pour cela d'integrer cette derniere fonction sur le quadrilatere ] 0 0 ]).

Si = ( i)i2Z est une con guration minimale, il en est de m^ eme de '( ) = ( i+1)i2Z et de m^ eme de ( ) = ( i + 1)i2Z (d'apres la propriete (i)). Remarquons que les bijections ' et de RZ commutent. D'autre part, puique h est continue, l'ensemble des con gurations minimales est ferme. Nous allons etudier d'autres proprietes, liees a l'ordre. Definition. | Considerons sur RZ la relation suivante : < 0 si et seulement si i < i0 pour tout i 2 Z: Nous dirons qu'une partie X de RZ est bien ordonnee si elle est fermee, remplie (c'est-a-dire invariante par ' et ), totalement ordonnee (deux elements distincts de X peuvent toujours ^ etre compares par la relation <) et si elle veri e la propriete suivante : l'ensemble X 0 = f 2 X j 0 2 0 1]g est compact (autrement dit la projection de X dans l'espace quotient RZ= est compact). Remarque. | Une condition su sante pour avoir la derniere propriete est l'existence d'une constante C telle que i+1 ; i C , pour tout 2 X et pour tout i 2 Z, d'apres la propriete de compacite enoncee au debut du paragraphe.

94

P. Le Calvez

Si X est une partie bien ordonnee, la projection 7! 0 de nit une bijection de X dans une partie Y de R invariante par la translation T : 7! + 1. La derniere condition imposee a X nous dit que Y est fermee et que cette projection induit un homeomorphisme entre X et Y . L'application conjuguee a ' par la projection est strictement croissante et commute avec T , elle se prolonge par interpolation lineaire sur chaque intervalle du complementaire en un homeomorphisme f de R veri ant les m^ emes hypotheses. La dynamique sur X de l'application ' est donc conjuguee a l'application f restreinte a Y = ;1(Y ), ou Y est une partie fermee de T, invariante par l'homeomorphisme F de T releve par f . Appliquons maintenant les resultats du paragraphe 3. Il existe un reel tel que pour tout 2 X et tous entiers i et k, on a ;1 < lim1 k =k = : c'est le nombre de rotation de X . i+k ; i ; k < 1 et donc k! Si ce nombre est rationnel et s'ecrit = p=q sous forme irreductible, trois cas sont possibles pour 2 X : 'q ;p( ) = 'q ;p( ) < et les suites ('nq ;np( ))n>0 et ('nq ;np( ))n<0 convergent chacune vers un point xe de 'q ;p 'q ;p( ) > et les suites ('nq ;np( ))n 0 et ('nq ;np( ))n 0 convergent chacune vers un point xe de 'q ;p. Si ce nombre est irrationnel, l'ensemble ( ) des con gurations 0, valeurs d'adherence d'une suite de la forme ('n pn )n 0, et l'ensemble !( ) des con gurations 0, valeurs d'adherence d'une suite de la forme ('n pn )n 0 , sont egaux et independants de , c'est exactement l'ensemble des con gurations recurrentes de X (c'est-a-dire des elements tels que 2 !( )).
et se croisent en i 2 Z si i = i et ( i;1 ; i;1)( i+1 ; i+1) < 0 nous dirons qu'elles se croisent entre i et i + 1 si ( i ; i )( i+1 ; i+1) < 0.
Definition. | Nous dirons que deux con gurations

Remarque. | Si deux con gurations et se croisent et si e et e sont proches respectivement de et , il en est de m^ eme de e et e Deux con gurations comparables ne se croisent pas deux con gurations minimales qui ne se croisent pas sont comparables (d'apres la propriete (iv)). Nous dirons qu'une con guration est bien ordonnee s'il en est ainsi de l'adherence O de f'q p( )j (p q) 2 Z2g nous appellerons alors nombre de rotation de le nombre de rotation de cet ensemble. Si est bien ordonnee, l'ensemble f'q p ( )j (p q ) 2 Z2 g est totalement ordonne. Reciproquement, si f'q p( )j (p q ) 2 Z2g est totalement ordonne, les quantites i+1 ; i sont alors uniformement bornee

Du billard convexe aux geodesiques du tore

95

(pour des raisons analogues au cas des homeomorphismes du cercle, on a j( i+1 ; i); ( 1 ; 0)j < 1) et O veri e la quatrieme condition des ensembles bien ordonnes. Cet ensemble n'est cependant pas necessairement totalement ordonne (on peut trouver deux suites ( n) et ( 0n) convergeant respectivement vers et 0, veri ant n < n et tel que l'on ait i;1 < i;1, i = i , i+1 < i+1). Si par contre est minimale cette situation est impossible (toujours par la propriete (iv)) : une con guration minimale est bien ordonnee si et seulement si l'ensemble f'q p( )j (p q) 2 Z2g est totalement ordonne. On deduit de cette propriete et de la remarque faite plus haut que l'ensemble des con gurations minimales bien ordonnees est ferme, le nombre de rotation depend alors contin^ ument de la con guration (pour montrer la continuite, il su t d'utiliser la double-inegalite). De plus l'ensemble des con gurations minimales bien ordonnees telles que 0 2 0 1] et telles que le nombre de rotation appartient a un compact donne, est compact (il est ferme et contenu dans un ensemble de la forme f = ( i)i2Zj j ij ai 8 i 2 Zg). En consequence l'ensemble des reels qui sont nombres de rotation d'une con guration minimale bien ordonnee est ferme. Construisons maintenant des con gurations minimales. Interessons nous d'abord a celles qui sont \periodiques", plus precisement aux con gurations telles que 'q ( ) = p( ), ou p 2 Z et q > 0 sont des entiers (nous dirons alors que est de type (p q)). Notons Xp q l'ensemble des con gurations de type (p q) et posons hp q ( ) = h( i : : : i+q ), quantite independante de i 2 Z. Theoreme 5.1. | Soient p 2 Z et q > 0 deux entiers. L'application hp q atteint son minimum sur Xp q et l'ensemble Mp q des points ou est atteint celui-ci est un ensemble bien ordonne de nombre de rotation p=q . Cet ensemble est contenu dans Xp0 q0 et co ncide donc avec Mp0 q0 , ou p0=q 0 est la representation irreductible de p=q. L'ensemble Mp q est exactement l'ensemble des con gurations minimales de type (p q). Demonstration. | Le fait que hp q atteigne son minimum est une consequence immediate des conditions (i) et (ii) veri ees par h de plus l'ensemble Mp q des points ou ce minimum est atteint est ferme, rempli, et veri e la quatrieme condition des ensembles bien ordonnes. Si q = 1 deux points distincts quelconques de Mp q sont clairement comparables montrons ce resultat si q 2. Considerons deux points distincts = ( i)i2Z et = ( i )i2Z de Mp q et de nissons deux elements ; = ( i; )i2Z et + = ( i+ )i2Z de Xp q par les relations : ; + i = minf i i g et i = maxf i i g: La condition (iii) veri ee par h nous donne la relation : hp q( ; ) + hp q( + ) < hp q ( ) + hp q ( ) ou l'inegalite est stricte si et seulement si les con gurations se croisent entre deux elements i et i + 1. On en deduit d'une part que et ne se croisent jamais

96

P. Le Calvez

entre deux indices, d'autre part que ; et + appartiennent a Mp q. Si et se ; ; + + + ; croisent en i, les segments ( i; ;1 i i+1 ) et ( i;1 i i+1 ) sont minimaux car et + appartiennent a Mp q et q 2. Comme ils veri ent
i
;

et (

i;1 ; i;1 )( i+1 ; i+1 ) > 0

+ ; + ;

ordonne. on a une contradiction avec la condition (iv). Ainsi, Mp q0 est bien 0 ;p0 0 q q ; p Si 2 Mp q , les inegalites ' ( ) < et < ' ( ) sont impossibles 0 ;p0 q et les con gurations ' ( ) et sont egales. On en deduit que Mp q est contenu dans Xp0 q0 et par consequent que Mp q = Mp0 q0 . Puisque 2 Mp0 q0 minimise les fonctions hnp0 nq0 , pour n aussi grand que l'on veut, on en deduit que est une con guration minimale. Reciproquement si 2 Xp q n'appartient pas a Mp q, alors

h(

:::

nq+1 nq+2 ) < h(

:::

nq+1 nq+2 )

si n est assez grand, ainsi

n'est pas minimale. 2

Corollaire. | Pout tout reel , il existe une con guration minimale bien ordonnee de nombre de rotation . 2

Appliquons ces resultats aux di eomorphismes de l'anneau. Considerons un diffeomorphisme F de l'anneau T R deviant la verticale a droite et exact-symplectique et un relevement f : ( r) 7! ( 0 r0) de F . L'application ( r) 7! ( 0) est alors un di eomorphisme de R2 envoyant ( + 1 r) sur ( + 1 0 + 1). La forme di erentielle r0( 0)d 0 ; r( 0)d de nie sur la variete simplement connexe R2 est fermee et donc exacte : il existe une application h : R2 ! R de classe C 2, telle que @h ( 0) et r( 0) = ; @h ( 0): r0 ( 0) = @ 0 @ Le caractere exact de la forme F (rd ) ; rd de nie sur l'anneau se traduit par le fait que h de nit une fonction de l'anneau, c'est-a-dire par la condition de periodicite (i). La condition de periodicite sur la fonction r0 implique que 0 ! lim1 r0( + 0) = 1 uniformement en : on en deduit, en utilisant (i), que h veri e (ii). Puisque @r ( 0) = ; @r0 ( 0) > 0, on sait que @ 2h ( 0) < 0 et que h veri e egalement @0 @0 @@0 les conditions (iii) et (iv). Dans le cas ou f ( r) = ( + r r + '( + r)) et ou ' est de classe C 1, de periode 1 et d'integrale nulle sur 0 1], on a h( 0) = 1=2( 0 ; )2 + ( 0), ou est une primitive de '. Si est une con guration minimale, alors r0( i;1 i) = r( i i+1). On en deduit que la suite (( i r( i i+1)))i2Z est une orbite de f et la suite (( i + Z r( i i+1)))i2Z une orbite de F . Si est une orbite minimale de type (p q), l'image de O par l'application 7! ( 0 + Z r( 0 1)) est une orbite periodique de F veri ant les

Du billard convexe aux geodesiques du tore

97

conditions (i), (ii) et (iii) du theoreme 4.1. Si est une orbite minimale recurrente de nombre de rotation irrationnel , l'image de O par la m^ eme application est une partie invariante veri ant les conditions (i), (ii) et (iii) du m^ eme theoreme, c'est soit un ensemble de Cantor, soit le graphe d'une application continue, et toute orbite contenue dans est dense dans . Remarquons qu'a toute orbite (( i ri))i2Z de f est associee une con guration ( i)i2Z stationnaire, c'est-a-dire qui veri e @h ( @h ( ) + i ; 1 i @0 @ i i+1) = 0: Remarque. | La demonstration du theoreme 5.1 n'est rien d'autre que la demonstration faite au paragraphe 1 dans le cas du billard, ou h( 0) = ;jj ( ) ; ( 0)jj et la condition (iii) est la propriete remarquee sur les diagonales d'un quadrilatere. Il y a cependant deux di erences. L'ensemble des con gurations ou la fonction est de nie est restreint, consequence du caractere borne de l'anneau de de nition. On peut montrer le theoreme 4.1 dans le cas d'un anneau borne par une methode analogue (en restreignant l'ensemble des con gurations), on peut egalement prolonger le di eomorphisme en un di eomorphisme de l'anneau in ni deviant la verticale a droite et preservant l'aire (il sera exact-symplectique), puis montrer que les orbites obtenues sont necessairement dans l'anneau ferme si le nombre de rotation est compris entre les nombres de rotation des deux bords (dans le cas du billard le prolongement naturel est le relevement de a l'anneau in ni). L'autre di erence reside dans le fait que F n'est pas tout a fait un di eomorphisme. En fait, on peut demontrer le theoreme 5.1 pour les homeomorphismes deviant la verticale a droite (r 7! 0 est un homeomorphisme strictement croissant) : la fonction h que l'on construit de facon analogue est seulement de classe C 1 mais veri e egalement les conditions (i), (ii), (iii) et (iv). Enoncons, sans les demontrer, d'autres proprietes des orbites minimales dans le cas d'une application continue veri ant nos quatres conditions. En utilisant les seg+ ; ), de nis par i; = minf i i g et i+ = maxf i i g ments ( j; : : : k ) et ( j+ : : : k pour deux con gurations minimales et , on montre exactement comme dans le theoreme 5.1 :

Proposition. | Deux con gurations minimales ont au plus un croisement.

En particulier deux con gurations minimales de nombre de rotation distincts se croisent exactement une fois. En a nant alors ce type de raisonnement on peut montrer la proposition fondamentale suivante.
alors bien ordonnee. 2
Theoreme 5.2. | Si

et 'q

p(

est une con guration minimale et p q deux entiers, ) n'ont pas de croisement : toute con guration minimale est donc

98

P. Le Calvez

Toute con guration minimale a donc un nombre de rotation, celles dont le nombre de rotation est un rationnel = p=q ecrit sous forme irreductible se divisent en trois groupes : les elements de Mp q des con gurations telles que 'q ;p( ) < et telles que ('nq ;np( ))n>0 et ('nq ;np ( ))n<0 convergent chacune vers un point de Mp q des con gurations telles que 'q ;p( ) > et telles que ('nq ;np( ))n>0 nq ;np ( )) et (' n<0 convergent chacune vers un point de Mp q . En considerant des limites de con gurations minimales de nombre de rotation de n < p=q (resp. n > p=q ), on peut montrer qu'il existe des con gurations second et de troisieme type. Plus precisement il en existe au moins une de chaque type veri ant < < , si et sont deux elements de Mp q tels que < et tels qu'aucun element e de Mp q ne veri e < e < . Dans le cas des di eomorphismes generiques deviant la verticale et exact-symplectiques, il n'y a qu'une orbite correspondant a l'ensemble Mp q , elle est hyperbolique et la propriete precedente permet de montrer que les varietes stables et instables se rencontrent. Deux con gurations minimales de m^ eme nombre de rotation rationnel peuvent se croiser, ce n'est pas le cas si ce nombre est irrationnel.
donne 62 Q est bien ordonne. En particulier, les ensembles ( ) et !( ) sont egaux et independants de la con guration minimale de nombre de rotation . 2
Theoreme 5.3. | L'ensemble des orbites minimales de nombre de rotation

La notion de con guration minimale, ainsi que les resultats precedents, sont dus originellement a Aubry et Le Daeron AL], qui etudiaient le modele de FrenkelKontorova en physique des solides. Le probleme etant d'etudier une famille de particules sur la droite reelle, indexees par i 2 Z et decrites par leurs positions i. Les particules i et i + 1 sont couplees par un potentiel 1 C ( i ; i+1)2, de plus chaque 2 particule i est soumise a une force ;V 0( i) decrite par un potentiel periodique V . Pour obtenir des con gurations stationnaires sous l'e et de ces forces, il su t de chercher les con gurations minimales de nies pour la fonction 0 2 0 C ( ; ) + V ( ): h : ( 0) 7! 1 2 Dans le cas ou V est nul, les con gurations stationnaires sont toutes de la forme = est un reel (la distance entre deux particules consecutive est i 0 + i , ou constante) elles sont toutes minimales. Remarquons que le probleme variationnel est le m^ eme que le probleme associe a l'application f : ( r) 7! ( + rC r) : toute courbe r = est invariante par le di eomorphisme releve, si est irrationnel, c'est l'ensemble associe a . La demonstration de ces resultats dans le cas des di eomorphismes de l'anneau borne deviant la verticale (c'est-a-dire le theoreme 4.1) est due a J. Mather Ma1].

Du billard convexe aux geodesiques du tore

99

Le probleme variationnel initial considere par Mather etait cependant di erent, il obtint d'abord les orbites de nombre de rotation irrationnel. Voir egalement Douady D], Katok K] pour des methodes topologiques directes d'obtention des ensembles de nombre de rotation irrationnel a partir des orbites periodiques bien ordonnees, ainsi que Chenciner C] pour une autre presentation des resultats de ce paragraphe. Nous verrons dans le prochain paragraphe une application plus surprenante a l'etude des geodesiques minimales du tore de dimension 2. L'etude des geodesiques minimales du tore remonte a Hedlund Hd], la plupart des resultats que l'on exposera sont d'ailleurs dus a Hedlund ou a Morse Mor]. La presentation que l'on va en faire, et en particulier le lien precis qui les rattache a l'etude des con gurations minimales, est due a Bangert Ba1].

6. Geodesiques minimales du tore de dimension 2

Commencons par rappeler la de nition et quelques proprietes des geodesiques. Considerons une variete riemannienne M de classe C 1 et notons jjvjjx la norme d'un vecteur v appartenant a l'espace tangent TxM de Z b M en x. La longueur `( ) d'un arc : a b] ! M de classe C 1 est donnee par jj 0(t)jj (t)dt et son energie e( ) par jj (t)jj (t)dt (la longueur est independante de la parametrisation de l'arc, ce a n'est pas le cas de l'energie). Un segment geodesique est une courbe : a b] ! M de classe C 1 qui est un point critique de la fonction energie sur l'ensemble des arcs de classe C 1 de nis sur a b], ayant m^ emes extremites (a) et (b) que c'est-a-dire une courbe veri ant les equations d'Euler-Lagrange associees a la fonction L : v 2 TxM 7! jjvjj2 x. 1 Une geodesique est un arc : I ! M de classe C , de ni sur un intervalle I , tel que sous segment (i.e. toute restriction a un intervalle compact) est un segment geodesique et qui est maximal pour cette propriete (on ne peut prolonger en conservant cette propriete). Une propriete fondamentale des geodesiques est la suivante : pour x 2 M et tout v 2 TxM , il existe une unique geodesique telle que (0) = x et 0(0) = v. Plus precisement, les geodesiques sont les orbites d'un champ de vecteurs de ni sur l'espace tangent T (M ) de M . Une autre propriete fondamentale est le fait que la fonction v 2 TxM 7! jjvjjx est une integrale du ot associe (i.e. elle est constante le long des orbites).
0 2

Zb

On peut montrer que les segments geodesiques sont les points critiques de la fonction longueur sur l'ensemble des arcs de classe C 1 ayant m^ emes extremites que 0 , qui sont parcourus a vitesse constante (i.e. jj (t)jj (t) est constant). Une des raisons pour lesquelles on prefere de nir les geodesiques par rapport a l'energie plut^ ot qu'a la longueur est la propriete d'unicite qu'on vient d'ecrire (due au fait que l'equation d'Euler-Lagrange se ramene a une equation di erentielle sur l'espace tangent). Le ot restreint au bre unitaire tangent T 1(M ) forme des vecteurs de

100

P. Le Calvez

norme 1, s'appelle le ot geodesique. Les orbites sont les geodesiques parcourues a vitesse constante egale a 1 et donc parametrisees par la longueur on obtient les autres geodesiques par reparametrisation lineaire de celles-ci. Si M est compacte, il en est de m^ eme de T 1(M ), et le ot geodesique est complet (i.e. toute geodesique est de nie sur R) on a la m^ eme propriete si M est un rev^ etement d'une variete riemannienne compacte. On peut de nir plus generalement la longueur d'un arc : a b] ! M , C 1 par morceaux, et m^ eme absolument continu. Rappelons qu'une application f de a b] dans l'espace euclidien Rn est absolument continue, si pour tout " > 0, il existe > 0 tels que si (]ai bi )1 i< p est une famille nie d'intervalles disjoints deux a p p X X deux de a b] tels que (bi ; ai) , alors jjf (bi) ; f (ai)jj ". Si : Rn ! Rn i=1 i=1 est de classe C 1 et absolument continue, il en est de m^ eme de , on peut donc de nir, en utililsant des cartes, la notion d'application absolument continue 0 a Z bvaleurs dans M , la fonction est alors de nie presque partout, mesurable et jj 0(t)jj (t)dt < +1.
a

Soit : I ! M une geodesique et a 2 I . Si b 2 I est assez proche de a, la restriction de a a b] est en fait un minimum strict de la fonction longueur sur l'ensemble des arcs absolument continus joignant (a) a (b). Plus precisement, si a 2 M et si b est assez proche de a, il existe un unique element (a reparametrisation pres) qui minimise la longueur parmi les arcs absolument continus joignant a a b, c'est un segment geodesique. On peut de nir une distance sur M en posant d(x y) =inf f`( )j 2 Cg ou C est l'ensemble des arcs absolument continus d'extremites x et y. Si le ot geodesique est complet, on sait (par le theoreme de Hopf-Rinow), que cette borne inferieure est toujours atteinte, et tout arc ou ce minimum est atteint est un segment geodesique et donc de classe C 1 (a reparametrisation pres). Il n'y a pas necessairement unicite comme le montre l'exemple de la sphere plongee dans l'espace euclidien R3 et munie de la structure riemannienne induite. Un tel segment geodesique sera dit minimal, une geodesique dont tout segment est minimal sera dite minimale. En d'autres termes, une geodesique : I ! M est minimale si et seulement si, pour tout (a b) 2 I 2, d( (a) (b)) = jb ; aj. Remarquons que tout segment geodesique minimal est injectif. Si M est compact, il n'existe aucune geodesique minimale, puisque M est bornee pour la distance d et puisque les geodesiques sont de nies sur R. On peut s'interesser cependant dans ce cas aux geodesiques qui se relevent au rev^ etement universel en des geodesiques minimales, c'est-a-dire aux geodesiques dont tout segment minimise la longueur parmi les arcs absolument continus, ayant m^ emes extremites et homotopes au segment.

Du billard convexe aux geodesiques du tore

101

On montre sans di culte que sur une variete riemannienne M , l'ensemble des points v 2 T 1(M ) tels que la geodesique issue de v soit minimale, est ferme. Enoncons d'autres proprietes des geodesiques minimales (on identi era, par abus de langage un segment geodesique ou une geodesique, qui est une application, et son image, qui est un ensemble).
points d'intersection, soit ils s'intersectent exactement aux deux extremites, soit ils s'intersectent sur un segment et la reunion est un segment geodesique.
Proposition. | Si deux segments geodesiques minimaux ont au moins deux

Demonstration. | Si la premiere conclusion du theoreme est fausse, quitte a restreindre nos segments et , nous pouvons supposer qu'ils ont une extremite x en commun et que la seconde extremite y de appartient a l'image de et est distincte de la seconde extremite y de cet arc. Le segment et le sous-segment de joignant x a y ont m^ eme longueur car ils sont minimaux. L'arc obtenu en ajoutant le sous-segment de joignant y a y au segment a donc m^ eme longueur que le segment , il minimise la longueur et c'est donc un segment geodesique. En particulier il est de classe C 1 et les derivees de et co ncident au point y. On en deduit que et s'intersectent sur un sous-segment commun et que leur reunion est un segment geodesique. 2 Utilisant le fait que toute geodesique est de nie sur un intervalle ouvert, comme orbite d'un champ de vecteurs, on en deduit le resultat suivant similaire a une proposition du paragraphe precedent.
Corollaire. | Deux geodesiques minimales d'une variete riemannienne M ont au plus un point d'intersection. 2

Nous allons nous interesser aux geodesiques minimales du plan muni d'une structure riemannienne invariante par les translations de vecteur dans Z2. Une telle structure de nit naturellement une structure riemannienne sur T2 = R2=Z2 et les geodesiques minimales sont exactement les relevements des geodesiques du tore qui ont la propriete suivante : tout segment minimise la longueur parmi les arcs absolument continus, ayant m^ emes extremites et homotopes au segment. Le cas le plus simple est le cas de la metrique euclidienne usuelle. Dans ce cas les geodesiques qui sont des droites sont toute minimales. Si la droite est dirigee par un element de Z2 (i.e. si la pente est rationnelle ou in nie), la geodesique du tore relevee est une orbite periodique, sinon (si la pente est irrationnelle), l'adherence de la geodesique relevee est le tore tout entier. Nous allons construire des geodesiques minimales par une methode analogue a celle employee dans la demonstration du theoreme 5.1. Remarquons que d(x y) = d(x + (p q) y + (p q)), pour tout (x y) 2 R2 et tout (p q) 2 Z2, et que l'image par la translation de vecteur (p q) d'une geodesique (resp. d'une geodesique minimale)

102

P. Le Calvez

est une geodesique (resp. une geodesique minimale). Supposons (p q) 6= (0 0), nous dirons qu'un arc continu : R ! R2 est de type (p q) s'il existe t > 0 tel que (t + t ) = (t + t ) + (p q) pour tout t 2 R. Le couple (p q) et le reel t sont alors uniques. Nous appellerons longueur de l'arc, la longueur (independante de t) du segment restreint a t t + t ], si celui-ci est absolument continu. Remarquons que ce segment se projette dans le tore en une courbe fermee qui de nit l'element (p q) du groupe fondamental Z2 de T2.
ment continus de type (p q), atteint son minimum et l'ensemble Mp q ou celui-ci est atteint est forme de geodesiques. Ces geodesiques sont toutes de type (p0 q0), ou p0 et q 0 sont premiers entre eux et ou (p q ) = m(p0 q 0), m > 0 elles se projettent dans le tore en une famille de courbes fermees simples disjointes deux a deux dont la reunion est fermee. En n, les elements de Mp q sont exactement les geodesiques minimales de type (p q).
Theoreme. | La fonction longueur, de nie sur l'ensemble des arcs absolu-

Demonstration. | Le fait que la fonction longueur sur l'ensemble des arcs absolument continus de type (p q) atteigne son minimum et que celui-ci ne soit atteint que sur des geodesiques se montre comme la propriete analogue pour les arcs joignant deux points. Deux telles geodesiques ne peuvent s'intersecter : en e et, elles devraient s'intersecter en au moins deux points, a cause de la \periodicite", et par un argument similaire a celui de la proposition precedente, on obtiendrait une contradiction. Un element de Mp q rencontre necessairement son image par la translation de vecteur (p0 q0) et doit donc ^ etre egale a celle-ci : on en deduit que la geodesique est de type (p0 q0) et que Mp q = Mp0 q0 . La propriete d'intersection nous dit de plus que chaque element de Mp q se projette dans le tore en une courbe fermee simple et que toutes ces courbes sont disjointes deux a deux. Le caractere ferme de la reunion provient du fait que l'ensemble des vecteurs v 2 T 1(R2) telle que la geodesique issue de ce point appartient a Mp q , est ferme et invariant par les translations a valeurs dans Z2 Le fait qu'un element de Mp q minimise la longueur parmi toutes les courbes de type (np nq), n > 0, oblige la geodesique a ^ etre minimale. Reciproquement, soit 62 Mp q un arc de type (p q), choisissons un point x sur et un point x sur . L'arc forme du segment euclidien joignant x a x, du segment de joignant x a x + (np nq) et du segment euclidien joignant x + (np nq) a x + (np nq) aura une longueur plus petite que celle du segment de joignant x a x + (np nq), si n est assez grand : la courbe n'est pas minimale. 2 Nous remarquons dans ce theoreme l'analogie entre nos geodesiques et les congutations minimales du paragraphe precedent. Comme nous allons voir, c'est plus qu'une analogie.

Du billard convexe aux geodesiques du tore

103

Considerons (voir gure 6). une geodesique minimale ;0 de type (0 1) et ses translatees ;i par les vecteurs (i 0), i 2 Z, qui sont disjointes deux a deux, puis de nissons l'application continue h : R2 ! R ( 0) 7! d(;0( ) ;1( 0)):

4(4) 3(3) 2(2)

1(1) 0(0)

Figure 6 Il existe alors au moins un segment geodesique minimal qui joint ;0( ) a ;1( 0) un tel segment est contenu, sauf en ses deux extremites, dans la bande ouverte comprise entre les courbes ;0 et ;1, d'apres la propriete d'intersection enoncee plus haut. Si ( j : : : k ) est un segment minimal et si ( i)j i<k , est une famille de segments geodesiques minimaux joignant ;i( i) a ;i+1 ( i+1), la reunion de ces arcs de nit une courbe qui minimise la longueur parmi les arcs absolument continus joignant ;j ( j ) a ;k ( k ), puisque tout segment geodesique minimal joignant ;j ( j ) a ;k ( k ) rencontre chaque courbe ;i en exactement un point. C'est donc un segment geodesique, c'est m^ eme l'unique segment geodesique minimal qui joint ;j ( j ) a ;k ( k ) et qui passe par les tous les ;i ( i) si k ; j 2. Si = ( i)i2Z est une con guration minimale, il existe une geodesique minimale (et une seule) qui passe par chaque ;i( i). Plus precisement, il y a une bijection naturelle entre l'ensemble des con gurations minimales et l'ensemble des geodesiques minimales qui rencontrent chaque courbe ;i . Si une geodesique minimale ne veri e pas cette propriete (on dira que est exceptionnelle), l'un des ensembles ( M +1 ) ou (] ;1 ;M ]) doit ^ etre contenu dans une bande delimitee par deux courbes ;i et ;i+1 pour M assez grand. Comme elle n'a pas de point d'accumulation, elle a une direction asymptotique dans l'axe des Oy. Une courbe ayant au plus deux directions asymptotiques (en 1), on peut choisir p et q premiers entre eux, puis

104

P. Le Calvez

de nir nos courbes ;i , de type (p q), de telle facon que notre geodesique cesse d'^ etre exceptionnelle. C'est uniquement le choix arbitraire de la famille (;i )i2Z (ou plus exactement du type des elements de cette famille) qui lui confere ce caractere exceptionnel. Pour appliquer les resultats du paragraphe precedent a l'etude des geodesiques minimales, il faut encore montrer que l'application h veri e les conditions (i), (ii), (iii) et (iv). (i) L'application veri e la condition de periodicite puisque d(;0 ( + 1) ;1 ( 0 + 1)) = d(;0 ( ) + (1 0) ;1( 0) + (1 0)) = d(;0 ( ) ;1( 0)): (ii) Elle veri e egalement la condition (ii) puisque d(;0 ( ) ;1( + 0)) d(;1 ( ) ;1( + 0)) ; d(;0 ( ) ;1( )) = j 0j ; h( ):

(iii) Supposons que < et 0 < 0 , et considerons un segment geodesique minimal (resp. ) joignant ;0( ) a ;1( 0 ) (resp. ;0( ) a ;1( 0)). Ces deux courbes doivent s'intersecter en exactement un point, et permettent de construire deux arcs C 1 par morceaux e et e , mais pas de classe C 1, le premier joignant ;0( ) a ;1( 0), le second joignant ;0( ) a ;1( 0 ), tels que `(e ) + `(e ) = `( ) + `( ). Comme ce ne sont pas des segments geodesiques (ils ne sont pas de classe C 1) on en deduit l'inegalite voulue (iv) Supposons que ( i;1 i i+1) et ( i;1 i i+1) soient deux segments minimaux distincts. On considere un segment geodesique minimal joignant ;i;1 ( i;1) a ;i+1 ( i+1) en passant par ;i( i) et un segment geodesique minimal joignant ;i;1 ( i;1) a ;i+1 ( i+1) en passant par ;i ( i). Ces deux segments sont distincts et se rencontrent donc uniquement au point ;i ( i), ainsi ( i;1 ; i;1)( i+1 ; i+1) 6= 0: Comme les derivees au point d'intersection sont distinctes, on a ( i;1 ; i;1)( i+1 ; i+1) < 0: Des resultats du paragraphe precedent, on deduit par exemple que, pour toute geodesique minimale non exceptionnelle, la pente de la droite joignant (t) a (t0) tend vers quand jt ; t0j tend vers +1, ou est le nombre de rotation de la con guration associee. Parmi les geodesiques minimales a pente rationnelle = p=q, il y en a de type (p q) il y en a de type (;p ;q) (celles parcourues dans le sens contraire), les autres sont comprises entre deux geodesiques de type (p q) (ou (;p ;q)) et sont asymptotes a ces deux courbes. Si la bande delimitee par deux geodesiques et minimales de type (p q) ne contient aucune autre geodesique minimale de type (p q), il existe toujours une geodesique minimales asymptote

Du billard convexe aux geodesiques du tore

105

0(*)

1( *)

i-1(*i-1)

i+1(i+1)

0()

1( ) i-1(i-1)

i(i)

i+1(*i+1)

i-1

i+1

Figure 7 en +1 a et asymptote en ;1 a . Les geodesiques exceptionnelles ont cette propriete, elles sont comprises entre entre deux courbes ;i et ;i+1 et asymptotes a ces deux courbes. Remarquons egalement qu'une geodesique minimale est egale a + (p q) ou disjointe de cette courbe si (p q) 2 Z2, elle se projette dans le tore en une courbe fermee dans le premier cas, dans une courbe simple sinon. Remarquons egalement que deux geodesiques minimales distinctes de pente irrationnelle ne se coupent jamais. Si l'on regarde attentivement les resultats du paragraphe precedent, on obtient le theoreme suivant.
issue de v se releve en une geodesique minimale v est ferme. Il existe alors dans l'ensemble S 1 des vecteurs de norme euclidienne 1 un element w(v ) tel que
jt;t0 j7!+1

Theoreme. | L'ensemble M des elements v 2 T 1(T2) tels que la geodesique

lim

v (t ; t )=jj v (t ; t )jj = w(v ):

0 0

L'application v 7! w(v) est continue et surjective et l'image inverse Mw de tout element w 2 S 1 est fermee. Si w est colineaire a un element de Q2 , l'ensemble des elements v 2 Mw tels que la geodesique issue de v soit periodique est une partie fermee qui se projette injectivement sur le tore en un ensemble de courbes fermees simples. Si la geodesique issue de v n'est pas fermee, elle est contenue dans un anneau delimite par deux de ces courbes et s'accumule sur l'une d'entre-elles quand t ! +1 et sur l'autre quand t ! ;1. De telles courbes existent dans chaque anneau. Si w n'est colineaire a aucun element de Q2 , l'ensemble Mw se projette injectivement sur le tore T2 et les ensembles -limite et ! -limite de v 2 Mw pour le

106

P. Le Calvez

ot geodesique, sont independants de v . Toute orbite contenue dans l'ensemble Mw obtenu est dense dans Mw sa projection sur le tore est soit le tore tout entier (on obtient par projection un ot sur le tore de ni par un champ de vecteurs), soit sur un ensemble dont l'intersection avec toute geodesique fermee minimale est un ensemble de Cantor (on obtient par projection une lamination geodesique). 2

Dans le cas ou la metrique est la metrique euclidienne, tous les ensembles Mw se projettent bijectivement sur le tore et le ot de ni sur ce tore est engendre par le champ de vecteurs constant w, on a alors l'egalite Mw =Mw , quand n'est colineaire a aucun element de Q2. Etudions un autre cas integrable mais ou les geodesiques ne sont pas toutes minimales. Considerons dans l'espace R3 une courbe convexe C situee dans le demiplan d'equation x = 0, y > 0, et considerons le tore obtenu par rotation de cette courbe autour de l'axe Oz, muni de la structure riemannienne induite par la structure euclidienne usuelle de l'espace. Notons (1 0) l'element du groupe fondamental de ni par la courbe convexe et (0 1) l'element de ni par la rotation autour de l'axe Oz. Les geodesiques minimales de type (0 1) sont les relevements de la courbe de nie sur le tore par rotation du point de C le plus proche de O. En particulier il existe des geodesiques qui sont asymptotes en 1 a cette courbe. La courbe obtenue par rotation du point le plus eloigne est egalement une geodesique mais elle ne se releve pas en une geodesique minimale. Les geodesiques minimales de type (0 ;1) sont les m^ emes geodesiques, mais parcourues dans l'autre sens. On peut montrer que tous les ensembles Mw , w 6= (0 1), se projettent bijectivement sur le tore, sont formes de geodesiques periodiques si w est colineaire a un element de Q2, co ncident avec Mw sinon. En fait la symetrie du probleme fait de ce ot geodesique un systeme integrable. La dynamique est comparable a la dynamique du billard elliptique, ou encore a celle du pendule non entretenu. Donnons maintenant un exemple ou aucun ensemble Mw ne se projette sur un tore (et ou il y aura donc des laminations geodesiques). Supposons qu'il existe deux petits disques D et D0 du tore, avec D0 D tel que la longueur du bord de D (pour la metrique riemannienne) soit strictement plus petite que = inf d(x x0)x2D x02D0 . Aucune geodesique dont les relevements sont minimaux ne pourra passer dans le disque D0, ainsi la projection des Mw sera toujours disjointe de ce disque. On construit facilement un tel exemple en partant d'un tore plonge dans R3 et en ajoutant une bulle ayant un goulot tres etroit.

7. Ce qui se passe en dimension superieure

Nous allons voir, en guise de conclusion, ce qui se generalise en dimension superieure. Si la formulation en dimension superieure des resultats du paragraphe 4, n'est pas evidente, tel n'est pas le cas des resultats du paragraphe 6. Si Rm est muni d'une

Du billard convexe aux geodesiques du tore

107

structure riemannienne invariante par les translations a valeurs dans Zm, on peut se poser les deux questions suivantes : m de norme euclidienne 1, une geodesique existe-t'il, pour tout vecteur w 2 R 0 (t ) ; (t) = w ? minimale telle que t0;lim t!+1 jj (t0) ; (t)jj

toute geodesique minimale a-t-elle une direction w ? La reponse est clairement positive si la metrique est la metrique euclidienne usuelle, la situation est similaire au cas de la dimension deux. Par contre elle sera fausse en regle generale : on peut construire, des que m 3, des metriques pour lesquelles, on ne peut trouver de geodesiques minimales associees a certaines directions w. Cependant, il existe toujours des directions pour lesquelles de telles geodesiques existent.

Indiquons tout de suite la di erence entre la dimension deux et la dimension superieure. L'existence de geodesiques minimales en dimension deux est une consequence du theoreme 6.2. Voyons si un tel theoreme a son analogue en dimension superieure. Pour tout element p = (p1 : : : pm ) 2 Zm , on peut de nir la notion d'arc de type p. On montre de facon analogue, que la fonction longueur atteint son minimum sur l'ensemble des arcs absolument continus de type p et que l'ensemble Mp ou celui-ci est atteint est forme de geodesiques. Si p0 2 Zm est le representant de la direction de p qui est forme de m entiers premiers entre eux, on ne peut pas montrer que les elements de Mp sont en fait de type p0 en e et, contrairement au cas de la dimension deux, une telle geodesique n'intersecte pas necessairement son image par la translation de vecteur p0, la dimension de l'espace est trop grande. On ne peut donc pas a rmer que notre geodesique appartient a Mnp , pour tout entier n > 0, puis conclure qu'elle est minimale. C'est cette propriete d'intersection qui fait la di erence essentielle entre la dimension deux et la dimension superieure. Hedlund Hd] a d'ailleurs construit explicitement une metrique avec un element de Mp qui n'appartient pas a Mnp , des que n est assez grand. On peut cependant obtenir des geodesiques minimales de la facon suivante : si la geodesique issue de vn 2 T 1(Tn), n > 0, se releve en un element de Mnp, la geodesique issue de toute valeur d'adherence de la suite (vn) se releve en un geodesique minimale. Malheureusement, on ne connait pas grand chose a priori de cette geodesique. Nous expliquerons ce qui se passe en utilisant le formalisme de Mather Ma5], base sur l'etude des mesures invariantes minimales, qui generalise les resultats sur les geodesiques montres par Bangert Ba2], et qui englobe egalement le cas des applications deviant la verticale, nous verrons ainsi l'unite de cette theorie. Rappelons pour memoire que le theoreme de Kolmogorov, Arnold, Moser, que nous avons illustre en dimension deux, est un resultat d'existence de tores invariants qui s'enonce egalement sur l'anneau Tm Rm , par une condition de non-degenericite generalisant la condition de deviation de la verticale. Pour une construction

108

P. Le Calvez

d'orbites periodiques sur cet anneau Tm Rm, mais sous des conditions restreintes, voir Bernstein, Katok BK] pour des proprietes lipschitziennes des tores invariants, mais sous une condition de convexite plus forte (mais necessaire) que la condition de non-degenerecence, voir Herman Hn2]. La theorie de Mather est valable sur n'importe quelle variete compacte, nous nous limiterons au cas du tore. Considerons une application

L : T (Tm) R = Tm Rm R ! R
de classe C 2, periodique de periode 1, c'est-a-dire veri ant l'equation :

L(x v t + 1) = L(x v t) pour tout (x v t) 2 Tm Rm R:

Supposons de plus que la restriction de L a tout espace vectoriel de la forme

Tx(Tm) ftg = fxg Rm ftg

est super-lineaire, c'est-a-dire telle que jjvjj! lim L(x v t)=jjvjj = +1 (ou jjvjj designe +1 la norme euclidienne de v! ) et veri e la condition de convexite suivante : la matrice @L hessienne @v @v (x v t) est de nie positive.
i j ij

Un segment extremal estZun arc : a b] ! Tm de classe C 1 qui est un point b critique de l'action a( ) = L( (t) 0(t) t)dt de nie sur l'ensemble des arcs de a classe C 1 de a b] dans Tm, ayant m^ emes extremites (a) et (b) que c'est-a-dire @L ; d @L = 0, associees au une courbe veri ant les equations d'Euler-Lagrange @x i dt @vi lagrangien L. Une extremale est un arc : I ! M de classe C 1, de ni sur un intervalle I , tel que sous segment est extremal et maximal pour ! cette propriete. La @L encore, gr^ ace au fait que la matrice hessienne @v @v (x v t) est non degeneree, i j ij on sait que les extremales sont les orbites d'un champ de vecteurs, dependant de facon periodique du temps, de ni sur l'espace tangent T (Tm), ou de facon equivalente, d'un champ de vecteurs independant du temps de ni sur T (Tm) T. Dans le cas ou la fonction L ne depend pas de t et ou la restriction de L a chaque espace tangent est une forme quadratique de nie positive, les extremales ne sont rien d'autre que les geodesiques. On va s'interesser comme au paragraphe 6 aux relevements de ces extremales, c'est-a-dire aux extremales du lagrangien L : Rm Rm R ! R releve que l'on notera du m^ eme nom. La fonction L etant necessairement minoree par convexite, on peut de nir egalement l'action d'un arc absolument continu (eventuellement egale a +1). On sait alors (par le theoreme de Tonelli), que si x et y sont des elements

Du billard convexe aux geodesiques du tore

109

de Rm , la fonction action atteint son minimum sur l'ensemble des arcs absolument continus de nis sur a b] tels que (a) = x et (b) = y, et, si le ot est complet, n'atteint ce minimum que sur des arcs des classe C 1 et donc sur des segments extremaux (veri ant les equations d'Euler-Lagrange). Ces segments seront dits minimaux et une extremale telle que tout segment est minimal sera dite minimale. On supposera dorenavant que le ot d'Euler-Lagrange est complet, c'est-a-dire que toutes les extremales sont de nies sur R. Nous devons faire une petite remarque. Dans le paragraphe precedent nous avons de ni les geodesiques minimales par rapport a la longueur, or nous les de nissons maintenant par rapport a l'energie. Remarquons que les de nitions co ncident. Si est une geodesique minimisant la longueur, on sait que pour tout t 2 a b], on a (b ; a)jj 0(t)jj = `( ) et donc que e( ) = `( )2 =(b ; a). Soit : a b] ! un arc absolument continu ayant m^ eme extremites que , on a : (b ; a)1=2e( )1=2 `( ) `( ) = (b ; a)1=2e( )1=2 d'apres l'inegalite de Cauchy-Schwarz, ainsi minimise l'energie. Comme tout arc qui minimise l'energie est une geodesique, elle minimise aussi la longueur. Ce formalisme generalise aussi l'etude des di eomorphismes de l'anneau. En e et J. Moser Mos1] a montre que si F est un di eomorphisme de l'anneau T a b] deviant la verticale a droite et preservant l'aire, il existe une application L : T R R veri ant nos hypotheses telle que l'image au temps 1 par le ot d'Euler-Lagrange de ( r 0) 2 T a b] R est ( 0 r0 1), ou ( 0 r0) = F ( r). Il y a donc une bijection naturelle entre les orbites de F et les extremales de L. Rappelons qu'a toute orbite de F est associee une con guration stationnaire de Z R , celles qui sont associees aux con gurations minimales sont egalement associees aux extremales minimales de L. Une telle construction est encore possible si F est la composee de di eomorphismes deviant la verticale a droite. Remarquons par exemple que le probleme du pendule libre entretenu, de ni au paragraphe 2 est de ce type, si la fonction p est d'integrale nulle sur 0 1] (ce qui correspond au fait que F est exact-symplectique). Si P est une primitive de p, il su t de prendre

L( r t) = 1=2r2 + rP (t) ; 1=2 cos(2 ):

Comme en dimension deux, on peut construire un di eomorphisme du tore en considerant l'image au temps 1 par le ot d'Euler-Lagrange de ( r 0) 2 Tm Rm R notee ( 0 r0 1), et en posant ( 0 r0) = F ( r) et un relevement naturel f de ni de la m^ eme facon sur Rm. On dira qu'une extremale est de type (p q), p 2 Zm, q 2 N ; f0g si elle veri e (t + q) = (t) + p pour tout t 2 R. Les extremales de types (p q) sont associees aux points ( r) tel que f q ( r) = ( r) + p. On peut montrer l'existence d'extremales de type (p q) pour tout p et q, comme on l'a fait

110

P. Le Calvez

pour les geodesiques, en minimisant l'action (entre t et t + q) sur l'ensemble des arcs absolument continus de type (p q). Introduisons maintenant la notion de mesure invariante. On rappelle que l'ensemble B des mesures boreliennes de probabilite d'un ensemble topologique compact X est une partie convexe, compacte pour la topologie vague, de l'ensemble des mesures complexes la suite ( n ) converge vaguement vers si et seuleR sur X (rappelons que R ment si ( X d n ) converge vers X d pour toute fonction continue ). Si F : X ! X est une application continue, l'application qui envoie 2 B sur la mesure F ( ) de nie par la relation F ( )(Y ) = (F ;1(Y )) pour tout borelien Y , est une application lineaire continue (pour la topologie vague) sur l'ensemble des mesures complexes, et qui envoie B dans B. Par le theoreme de Markov-Kakutani cette application admet un point xe dans B. Ainsi toute application continue de X dans X a au moins une mesure de probabilite invariante : c'est le theoreme de Krylov-Bogolioubov. Pour les m^ emes raisons, si (Ft)t2R est un groupe a un parametre d'homeomorphismes de X (i.e. un ot), l'ensemble des mesures invariantes par chaque Ft est non vide. Il est facile de voir que cet ensemble est une partie compacte et convexe de B. On dit qu'une mesure invariante est ergodique, si elle est indecomposable au sens suivant : tout borelien invariant par chaque Ft est de mesure 0 ou 1. On peut caracteriser les mesures ergodiques par la propriete suivante : la mesure est ergodique si et seulement si c'est un point extremal de l'ensemble des mesures invariantes. Rappelons qu'un point extremal a d'une partie compacte convexe A d'un espace topologique est un point de cet ensemble, tel que tout segment contenant a et contenu dans A admet a comme extremite rappelons que A est l'adherence de l'ensemble des barycentres de ses points extremaux et en particulier que ceux-ci existent toujours. On caracterise egalement les mesures ergodiques par une propriete dynamique, qui exprime que la moyenne spatiale est la mesure temporelle le long de presque toute orbite : si 2 L1( ), alorsZpour -presque Z tout x 2 X on a t t lim 1=t (F (x))dt = d . t! 1 On peut de nir de m^ eme les mesure ergodiques invariantes Zd'une application F : n ;1 X X ! X , ce sont celles qui veri ent n! lim 1 =n (F n(x)) = d pour -presque +1 X i=0 tout x 2 X et pour tout 2 L1( ).
0

Remarquons qu'a une orbite periodique d'un ot (ou d'un homeomorphisme) est associee naturellement une mesure invariante, uniformement distribuee, et que celleci est ergodique. Ainsi, par exemple, pour un homeomorphisme de T de nombre de

Du billard convexe aux geodesiques du tore

111

rotation rationnel, les mesure invariantes ergodiques sont exactement les mesures portees uniformement sur les orbites periodiques pour les homeomorphismes de nombre de rotation irrationnel, il n'y a qu'une mesure invariante (elle est necessairement ergodique) et son support est exactement l'ensemble des orbites recurrentes. On peut compacti er notre ensemble Tm Rm T en ajoutant un point 1 et en posant (xn vn tn) ! 1 si et seulement si jjvnjj ! 1. Le ot d'Euler-Lagrange se prolonge donc en un ot sur le compacti e X qui xe 1, il en est de m^ eme de l'application L si on pose L(1) = +1. On de nit alors sur l'ensemble B des mesures de probabilite, la fonction action de nie par l'egalite a( ) = R Ld , a valeurs dans R +1 (cette fonction est bien R de nie car L est bornee inferieurement). Remarquons que chaque application 7! min(L k)d est continue, pour chaque entier k > 0, et que la fonction action, qui est la borne superieure de ces fonctions est semi-continue inferieurement. En particulier, l'ensemble des mesures telles que a( ) M est ferme, pour tout reel M . Si est une extremale de type (p q), sa projection dans Tm Rm T est une orbite periodique du ot d'Euler-Lagrange. L'action de la mesure de probabilite invariante n'est rien d'autre que la valeur de l'action sur (entre (t) et (t + q)) divisee par q. Le fait qu'il existe une mesure invariante d'action nie, la compacite de l'ensemble M des mesures de probabilite invariantes et la semi-continuite de la fonction action, nous dit que cette fonction atteint son minimum sur M, on note M0 M l'ensemble ou ce minimum est atteint. Notons que M0 est une partie compacte convexe et que ses points extremaux sont extremaux dans M : il existe donc des mesures ergodiques dans M0. Un des resultats de Mather est le fait que le support 0 de M0 (l'adherence de la reunion des supports des mesures dans M0) se projette injectivement sur Tm et est compact (cette projection est m^ eme bi-lipschitzienne). En particulier deux extremales distinstes issues de deux points de 0 ne se coupent jamais. Un autre resultat est le fait que toute orbite du ot d'Euler-Lagrange issue d'un point de 0 se releve en une extremale minimale. On peut obtenir d'autres extremales minimales de la facon suivante. Toute forme di erentielle w de degre 1 sur Tm de nit naturellement une fonction sur Tm Rm T envoyant (x v t) sur la valeur que prend w sur v 2 Tx(Tm ). On la notera egalement w. Si la forme est fermee, l'integrale de la forme w sur un arc de classe C 1 reste inchangee pour un arc proche ayant m^ emes extremites : ainsi les equations d'EulerLagrange de la fonction L et de la fonction L ; w sont les m^ emes, et les mesures invariantes egalement. Comme la fonction L ; w veri e les hypotheses demandees a L, on peut considerer l'ensemble Mw des elements de M ou le minimum de l'action de L ; w est atteint, qui a les m^ emes proprietes que l'ensemble M0. On notera alors ; (w) la valeur de ce minimum. Rien n'indique a priori que les ensembles Mw sont les m^ emes, nous verrons que ce R n'est generalement pas le cas. On peut montrer que si w = dh est exacte, alors wd = 0 pour tout 2 M. Ainsi les applications

112

P. Le Calvez

w 7! Mw et w 7! (w) de nissent en fait des applications c 7! Mc et c 7! (c) sur le premier groupe de cohomologie de De Rham H 1(Tm ) = Rm de Tm.
De nissons maintenant le nombre de rotation d'une mesure invariante d'action nie. Toute forme di erentielle w, vue comme fonction sur X , est -integrable, si L est- integrable, c'est-a-dire si a( ) < +1, car L est super-lineaire. De plus comme, on l'a dit plus haut, que R cette integrale est nulle si w est exacte. On en deduit 1 m l'application w 7! X wd de nit naturellement une forme lineaire sur H (T ), et par consequent un element ( ) du dual de H 1(Tm ) qui n'est rien d'autre que le premier groupe d'homologie H1(Tm) de Tm . Cet element est appele le nombre de rotation de . Si est la mesure de nie par une extremale periodique se relevant en une courbe de type (p q), cet element n'est rien d'autre que p=q 2 Qm. Il existe donc des mesures invariantes d'action nie, pour tout nombre de rotation p=q 2 Qm . En fait, on peut montrer que si la suite pn=qn tend vers 2 Rm, les actions de nies sur les mesures invariantes correspondant aux orbites periodiques de type (pn =qn) que l'on a construit par minimisation, sont uniformement bornees. La fonction 7! ( ) etant continue sur l'ensemble compact des mesures invariantes d'action majoree par une constante C (toujours par la super-linearite), on en deduit qu'il existe des mesures invariantes d'action nie et de nombre de rotation , pour tout 2 Rm. L'ensemble des mesures d'action majoree par une constante C (assez grande) et de nombre de rotation etant compact, la fonction action atteint donc son minimum sur cet ensemble. On note M l'ensemble des mesures ou est atteint ce minimum et ( ) la valeur de celui-ci (ces objets sont independantes de C ). L'ensemble M est convexe et compact mais rien d'indique que ses points extremaux sont extremaux dans M. Cet ensemble ne contient pas necessairement de mesures ergodiques. Nous allons voir cependant qu'il existe un nombre in ni de valeurs de pour lesquelles ce resultat est vrai. Il est facile de voir que les applications 7! ( ) et c 7! (c) sont convexes. En fait par de nition m^ eme de ces applications, on peut montrer qu'elles sont conjuguees deux a deux par transformation de Legendre, c'est-a-dire :

; (c) = min ( ) ; h ci et ; ( ) = min c (c) ; h ci

ou h ci designe le crochet de dualite. Plus precisement, on a la relation ( ) + (c) h ci avec une egalite si et seulement s'il existe un hyperplan de direction c passant par ( ( )) et situe au dessous du graphe de (voir gure 8). Tout element de M appartient alors a Mc. La reunion des ensembles Mc et la reunion des ensembles M sont identiques, toute mesure dans cet ensemble sera appelee mesure minimale.

Du billard convexe aux geodesiques du tore

113

y=()

y=<,c>(c)

H1(Tm)

Figure 8 Le fait que les applications et soient conjuguees deux a deux et a valeurs nies oblige celles-ci a ^ etre super-lineaires. L'epigraphe de (l'ensemble des points qui est au-dessus du graphe), qui est convexe, a alors un nombre in ni de points extremaux. Si ( ( ) est un point extremal, il existe c 2 H 1(Tm) tel que M = Mc : on en deduit qu'il existe une mesure invariante ergodique de nombre de rotation . Pour obtenir de tels nombres de rotation, il su t de considerer, pour c 2 H 1(Tm ), les points extremaux de l'ensemble compact convexe non vide formes des elements de H1(Tm) tels que ( ) + (c) = h ci. Le lien entre les mesures minimales ergodiques et l'allure des extremales est donne par la proposition suivante (consequence de l'ergodicite) : si 2 M est ergodique, il existe une extremale minimale telle que
0 ( t ) ; (t) = jj jj lim t0 ;t!+1 jj (t0) ; (t)jj

et telle que

Dans le cas ou m = 1, les nombres de rotations des elements de Mc sont tous egaux, puisque le support se projette injectivement sur T T et que les orbites ne s'intersectent pas. Les applications et sont donc strictement convexes : il existe une mesure ergodique invariante de nombre de rotation pour tout reel. Dans le cas ou le lagrangien provient d'une application deviant la verticale, les mesures minimales ergodiques de nombre de rotation rationnel sont les mesures portees par les orbites correspondants aux con gurations minimales periodiques si est irrationnel, il n'y a qu'une mesure invariante minimale de nombre de rotation , son support est l'ensemble d'Aubry-Mather forme des orbites recurrentes.

a( j t t ]) = ( ): lim t0 ;t!+1 t0 ; t
0

114

P. Le Calvez

Dans le cas du ot geodesique, on a L(x v t) = jjvjj2 x. Chacun des ensembles E = f(x v t)j jjvjj = g est invariant par le ot et toute mesure ergodique est a support dans un E . L'action d'une telle mesure est alors egale a 2. L'application h : (x v t) 7! (x v t) laisse invariant le ot d'Euler-Lagrange et pour toute mesure invariante d'action bornee, on a a(h ( ) = 2 a( ) et (h ( )) = ( ). On en deduit que l'application est homogene de degre deux. Les resultats precedents s'expriment alors ainsi ( Ba2]).
ayant la propriete suivante : pour tout point extremal de la boule unite B = f 2 H1 (Tm )j jj jj0 = 1g, il (t0) ; (t) = existe une geodesique minimale telle que t0;lim t!+1 jj (t0) ; (t)jj0 si est une geodesique minimale, alors l'ensemble des points d'accumulation de (t0) ; (t) , quand t0 ; t ! +1 est contenu dans H \ B , ou H est un hyperplan jj (t0) ; (t)jj0 support de B .
Theoreme. | Il existe une norme

7! jj jj0 de nie sur H1(Tm) = Rm,

Remarquons que la boule B a au moins 2m points extremaux (B est symetrique par rapport a l'origine), il existe donc au moins m directions possibles associees aux geodesiques. Dans l'exemple de Hedlund, dont nous avons parle plus haut (ou m 3), il y a exactement m directions possibles pour les geodesiques, la norme ! k k est de la forme j j1 + + j mj = 1. Si m = 2 la boule est toujours strictement convexe. La norme 7! jj jj0 est appelee la norme stable de la metrique, sa valeur sur un element = p 2 Zm est le reel

jj jj = inf n f`( )=nj est un arc continu de type npg:

Du billard convexe aux geodesiques du tore

115

Bibliographie
AL] S. Aubry, P. Y. Le Daeron, The discrete Frenkel-Kontorova model and its generalizations, Physica 8D (1983), 381{422. Ba1] V. Bangert, Mather sets for twist maps and geodesics on tori, in Dynamics reported, Vol I, John Wiley and Sons (1988). Ba2] V. Bangert, Minimal geodesics, Ergod. Th. Dynam. Sys. 10 (1989), 263{286. BK] D. Bernstein, A. Katok, Birkho periodic orbits for small perturbations of completely integrable Hamiltonian systems with convex Hamiltonians, Invent. Math. 88 (1987), 225{241. Bi1] G. D. Birkhoff, Surface transformations and their dynamical applications, Acta Math. 43 (1920), 1{119. Bi2] G. D. Birkhoff, On the periodic motions of dynamical systems, Acta. Math. 50 (1927), 359{379. Bi3] G. D. Birkhoff, Sur quelques courbes fermees remarquables, Bull. Soc. Math. France 80 (1932), 1{26. C] A. Chenciner, La dynamique au voisinage d'un point xe elliptique conservatif : de Poincare et Birkho a Aubry et Mather, in Seminaire Bourbaki, expose 622, Asterisque, Soc. Math. France. (1985), 165{173. D] R. Douady, Application du theoreme des tores invariants, These de troisieme cycle, Univ. Paris VII, 1982. Hd] G. A. Hedlund, Geodesics on a two-dimensional Riemannian manifold with periodic coe cients, Ann. of Math. 33 (1932), 719{739. Hn1] M. R. Herman, Sur les courbes invariantes par les di eomorphismes de l'anneau, Asterisque, Soc. Math. France 103-104 (1983). Hn2] M. R. Herman, Inegalites a priori pour des tores lagrangiens invariants par des di eomorphismes symplectiques, Publ. Math. I.H.E.S. 70 (1989), 47{101. K] A. Katok, Some remarks on Birkho and Mather twist map theorem, Ergod. Th. Dynam. Sys. 2 (1982), 185{194. L] V. F. Lazutkin, Concerning a theorem of Moser on invariant curves, Probl. Dyn. Theory Propag. Seism. Waves 14 (1974), 109{120. Ma1] J. Mather, Existence of quasi-periodic orbits for twist homeomorphisms of the annulus, Topology 21 (1982), 457{467.

116

P. Le Calvez

Ma2] J. Mather, Glancing Billards, Ergod. Th. Dynam. Sys. 2 (1982), 597{403. Ma3] J. Mather, A criterion for the non-existence of invariant circles, Publ. Math. I.H.E.S. 63 (1986), 153{204. Ma4] J. Mather, Minimal measures, Comment. Math. Helv. 64 (1989), 375{394. Ma5] J. Mather, Minimal action measures for positive de nite Lagrangian systems, a para^tre dans Proc. IXth Int. Conf. Math. Phys.. Mor] M. Morse, A fundamental class of geodesics on any closed surface of genus greater than one, Trans. Am. Math. Soc. 26 (1924), 25{60. Mos1] J. Moser, Monotone twist mappings and the calculus of variation, Ergod. Th. Dynam. Sys. 6 (1986), 01{413. Mos2] J. Moser, Recent developments in the theory of Hamiltonian systems, SIAM Review 8 (1986), 459{485. Laboratoire Analyse, Geometrie et Applications U.R.A. C.N.R.S. 742 Institut Galilee Universite Paris Nord 93430 Villetaneuse France
Adresse electronique : lecalvez@math.univ-paris13.fr