Vous êtes sur la page 1sur 258

Théorie

des fonctions holomorphes


de plusieurs variables

www.bibliomath.com
CHEZ LE MÊME ÉDITEUR

Dans la même collection

Opérateurs pseudo-différentiels et théorème de Nash-Moser, par G. Alinhac. 1991,


192 pages.
Géométrie algébrique, par D. Perrin. 1995,316 pages.
Groupes quantiques. Introduction au point de vue formel, par A. Guichardet. 1995,
164 pages.
Photons et atomes. Introduction à l'électrodynamique quantique, par C. Cohen-Tannoudji,
J. Dupont-Roc, G. Grynberg. 1987,422 pages.
Processus d'interactions entre photons et atomes, par C. Cohen-Tannoudji, J. Dupont-
Roc, G. Grynberg. nouveau tirage, 1988,648 pages.
Hydrodynamique physique, par E. Guyon, J. P. Hulin, L. Petit. 1991,520 pages.
Éléments de chimie quantique à l'usage des chimistes, par J. L. Rivail. 1994, 2e édition,
456 pages.
Astrophysique : méthodes physiques de l'observation, par P. Léna. 1996, 2e édition,
528 pages.

www.bibliomath.com
Théorie
des fonctions holomorphes
de plusieurs variables

Christine Laurent-Thiébaut
Professeur à l'université Joseph Fourier (Grenoble 1)

S A V O I R S A C T U E L S

InterÉditions / CNRS Éditions

www.bibliomath.com
f DANGER I Ce logo a pour objet d'alerter le lecteur sur la menace que représente
pour l'avenir de l'écrit, tout particulièrement dans le domaine
universitaire, le développement massif d u photocopillage >).
(t

Cette pratique qui s'est généralisée, notamment dans les


établissements d'enseignement, provoque une baisse brutale des
achats de livres, au point que la possibilité même pour les auteurs
de créer des œuvres nouvelles et de les faire éditer correctement
est aujourd'hui menacée.
Nous rappelons donc que la reproduction et la vente sans
autorisation, ainsi que le recel, sont passibles de poursuites.
PHOTOCOPILLAGE Les demandes d'autorisation de photocopier doivent être adressées

. TUELELIVRE à l'éditeur ou au Centre français d'exploitation du droit de copie :


20, rue des Grands-Augustins,75006 Paris. Tél. : O1 44 07 47 70.

O 1997, InterÉditions, 5, rue Laromiguière, 75241 Paris Cedex 05


et
CNRS Éditions, 20/22, rue Saint-Armand, 75015 Paris.

Tous droits d e traduction, d'adaptation et d e reproduction par tous procédés,


réservés pour tous pays.
Toute reproduction ou représentation intégrale ou partielle, par quelque procédé que
ce soit des pages publiées dans le présent ouvrage, faite sans l'autorisation de l'éditeur,
est illicite et constitue u n e contrefaçon. Seules sont autorisées, d ' u n e part, les
reproductions strictement réservées à l'usage privé d u copiste et non destinées à une
utilisation collective, et d'autre part, les courtes citations justifiées par le caractère
scientifique ou d'information de l'œuvre dans laquelle elles sont incorporées (art. L. 122-4.
L. 122-5 et L. 335-2 du Code d e la propriété intellectuelle).
Des photocopies payantes peuvent être réalisées avec l'accord de l'éditeur. S'adresser au :
Centre français d'exploitation d u droit d e copie, 3, rue Hautefeuille, 75006 Paris.
Tél. : O 1 43 26 95 35.

ISBN : 2-7296-0660-2

ISSN : 2-271-05501-6

www.bibliomath.com
Table des matières

Avant-propos ......................... ix
Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . xi
I Propriétés élémentaires locales des fonctions holomorphes
de plusieurs variables complexes . . . . . . . . . . . . . 1
1 Notations et définitions . . . . . . . . . . . . . .
. . . 1 . .
2 Formule de Cauchy dans les polydisques . . . . . . .
. . . 4 . .
3 Théorème de l'application ouverte . . . . . . . . .
. . . 8 . .
4 Suites de fonctions holomorphes . . . . . . . . . .
. . 10 . .
5 Applications holomorphes . . . . . . . . . . . . . . . . 11
6 Quelques théorèmes d'extension holomorphe . . . . . . . . . 13

II Courants. structures complexes . . . . . . . . . . . . . . 21


1 Courants . . . . . . . . . . . . . . . . . . . . . . . 21
2 Régularisation . . . . . . . . . . . . . . . . . . . . . 28
3 Indice de Kronecker . . . . . . . . . . . . . . . . . . . 38
4 Variétés analytiques complexes . . . . . . . . . . . . . . . 43
5 Structures complexes . . . . . . . . . . . . . . . . . . . 46
6 Formes différentielles de type ( p .q ) . . . . . . . . . . . . . 47
7 a.
Opérateur cohomologie de Dolbeault . . . . . . . . . . . 49
8 Espace tangent complexe au bord d u n domaine . . . . . . . . 51

III Noyau et formule de Bochner-Martinelli .Applications . . . 55


1 NoyauetformuledeBochner-Martinelli-Koppelman . . . . . . 55
2 Résolubilité du 8 pour une donnée à support compact . . . . . . 61
3 Régularité du 8 . . . . . . . . . . . . . . . . . . . . . 66
4 Phénomène de Hartogs . . . . . . . . . . . . . . . . . . 69

www.bibliomath.com
vi Table des matières

IV Transformée de Bochner-Martinelli et extension


de fonctions CR . . . . . . . . . . . . . . . . . . . . . 73
1 Transformée de Bochner-Martineili . . . . . . . . . . . . . 73
2 Fonctions C R sur une hypersurface réelle . . . . . . . . . . 77
3 Théorème de Bochner . . . . . . . . . . . . . . . . . . 79
4 Formule de Stokes pour les fonctions C R . . . . . . . . . . . 83
5 Primitives du noyau de Bochner-Martinelli . . . . . . . . . . 85
6 Un théorème d'extension de fonctions CR . . . . . . . . . . 87

V Extension de fonctions holomorphes et de fonctions CR


dans les variétés . . . . . . . . . . . . . . . . . . . . . 91
1 Cohomologie à support compact et phénomène de Hartogs . . . 91
2 Extension de fonctions C R de classe C" . . . . . . . . . . . 94
3 FormuledeCauchy-Fantappié-LemmedeDolbeault . . . . . . 96
4 Isomorphisme de Dolbeault . . . . . . . . . . . . . . . . 101
5 Théorème de Bochner et extension de fonctions C R
dans les variétés . . . . . . . . . . . . . . . . . . . . . 105

VI Domainesd'holomorphieetpseudoconvexité . . . . . . . 109
1 Domainesdholomorphieetconvexitéholomorphe . . . . . . . 109
2 Fonctions plurisousharmoniques . . . . . . . . . . . . . . 117
3 Pseudoconvexité . . . . . . . . . . . . . . . . . . . . 129

a
VI1 Problème de Levi et résolution du dans les domaines
strictement pseudoconvexes . . . . . . . . . . . . . . . 143
1 Résolution du d avec estimations holdériennes dans les ouverts
strictement convexes . . . . . . . . . . . . . . . . . . . 144
2 Approximation uniforme locale des formes d-fermées dans les
domaines strictement pseudoconvexes . . . . . . . . . . . 153
3 Finitude de la cohomologie de Dolbeault dans les domaines
strictement pseudoconvexes . . . . . . . . . . . . . . . . 155
4 Invariance de la cohomologie de Dolbeault par les extensions
strictement pseudoconvexes . . . . . . . . . . . . . . . . 157
5 Théorème d'annulation pour la cohomologie de Dolbeault dans les
domaines strictement pseudoconvexes . . . . . . . . . . . 161
a
6 Formule intégrale pour résoudre le avec estimation holdérienne
danslesdomainesstrictementpseudoconvexes . . . . . . . . 163
7 Problème de Levi dans cc" . . . . . . . . . . . . . . . . . 170
8 Problème de Levi dans les variétés analytiques complexes . . . . 174

www.bibliomath.com
Table des matières vii

VI11 Caractérisation des singularités illusoires pour les fonctions


CR sur un bord strictement pseudoconvexe . . . . . . . . 189
1 Réduction au cas des fonctions continues . . . . . . . . . . . 189
2 Cas de la dimension 2 . . . . . . . . . . . . . . . . . . 190
3 Caractérisationcohomologiqueendimensionn 2 2 . . . . . . 192
4 Caractérisationdessingularitésillusoiresfaibles . . . . . . . . 194
Annexe A .......................... 203
1 Variétés différentiables . . . . . . . . . . . . . . . . . . 203
2 Partitions de l’unité . . . . . . . . . . . . . . . . . . . 205
3 Espace cotangent en un point - Formes différentielles de degré 1 . 207
4 Espacetangentenunpoint-Champsdevecteurs . . . . . . . 208
5 Algèbre des formes différentielles . . . . . . . . . . . . . . 211
6 Intégration des formes différentielles . . . . . . . . . . . . 216
7 Formule de Stokes . . . . . . . . . . . . . . . . . . . . 220

Annexe B .......................... 223


Annexe C . . . . . . . . . . . . . . . . . . . . . . . . . . 231
Bibliographie . . . . . . . . . . . . . . . . . . . . . . . . 235

Index des notations . . . . . . . . . . . . . . . . . . . . . 239

Index terminologique . . . . . . . . . . . . . . . . . . . . 243

www.bibliomath.com
www.bibliomath.com
Avant-propos

L‘origine de cet ouvrage est un cours fondamental de 3e cycle donné à l’Institut


Fourier en 1994-95. Son objet est d’initier à la théorie des fonctions holomorphes
de plusieurs variables complexes dans C” et dans les variétés analytiques com-
plexes. I1 s’adresse en priorité à des étudiants en DEA ou débutant une thèse. I1
suppose connus les fondements de la théorie des fonctions holomorphes d’une
variable complexe. Par contre, les bases de géométrie différentielle et de théorie
des courants nécessaires à l’étude de l’analyse pluricomplexe sont rappelées dans
l’annexeA et le chapitre II de ce volume.
Nous utilisons la méthode des représentations intégrales couplée avec la tech-
nique des bosses de Grauert. Ce point de vue a l’avantage de proposer un pro-
longement naturel en plusieurs variables des techniques d’une variable com-
plexe et de conduire rapidement à d‘importants résultats globaux tout en évitant
l’introduction de trop nombreux outils nouveaux. Ayant acquis ces méthodes, pré-
sentées ici dans le cadre de la pseudoconvexité, le lecteur pourra aborder sans trop
de difficultés la théorie d’Andreotti-Grauert, tant dans les variétés analytiques com-
plexes que dans les variétés C R (cf. [He/Le2] et [L-T/Lel). Pour les applications,
l’accent est mis sur les problèmes globaux d’extension de fonctions C R : phé-
nomène de Hartogs-Bochner, étude des singularités illusoires pour les fonctions
CR.
La plupart des thèmes traités étant classiques, puisqu’ils font partie des fon-
dements de l’Analyse Complexe, il est difficile d‘être original. Ce travail s’est donc
largement inspiré d’ouvragesexistants. Les sources utilisées ainsi que quelques re-
pères historiques sont précisés à la fin de chaque chapitre. La bibliographie ne se
propose pas d‘être exhaustive, c’est pourquoi de nombreux travaux fondamentaux
en relation avec le sujet traité n’y sont pas inclus. Le lecteur intéressé par des notes
historiques précises et une bibliographie beaucoup plus complète pourra consulter
les notes de fin de chapitre et la bibliographie du livre de R.M. Range [Ra].

Une partie de ce livre (les paragraphes 5 et 6 du chapitre IV, le paragraphe 5


du chapitre Vet le chapitre VIII) doit beaucoup aux travaux de Guido Lupacciolu,
disparu prématurément en décembre 1996.

www.bibliomath.com
X Avant-propos

Pour finir je voudrais remercier tous ceux qui m’ont aidée dans la rédaction de
ce livre et plus particulièrement Alain Dufresnoy et Jürgen Leiterer. C’est grâce à
leurs remarques, tant sur la forme que sur le fond, que ce livre a pu atteindre sa
forme finale.
Un grand merci égaiement à Myriam Charles pour la saisie d’un texte particu-
lièrement riche en formules mathématiques et à Arlette Guttin-Lombard pour ses
conseils Tg-niques.

www.bibliomath.com
Introduction

Au début du siècle E Hartogs a mis en évidence les propriétes particulières


d‘extension des fonctions hoiomorphes de plusieurs variables complexes en ex-
hibant un domaine de C2 qui n’est pas le domaine d‘existence d u n e fonction
holomorphe (de tels ouverts n’existent pas dans C). La compréhension de ce phé-
nomène est alors devenue un des principaux problèmes d‘analyse pluricomplexe.
I1 fallait trouver de bonnes caractérisations des domaines d’existence des fonctions
holomorphes, appelés domaines dholomorphie.
Les premiers travaux sur ce sujet, dus à E Hartogs [Har] en 1906 et E.E. Levi
[Lev] en 1910, montrent que les domaines d’holomorphie satisfont certaines
propriétés de convexité, que nous appellerons génériquement pseudoconvexité.
L‘équivalence entre les différentes notions de pseudoconvexité, qui sont apparues
au ! I
du temps, a été prouvée par K. Oka [Okl dans les années 40. Les outils adaptés
à l’étude de la pseudoconvexité sont les fonctions plurisousharmoniques intro-
duites indépendamment par i? Lelong [Lell] et K. Oka [Ok]. Dans les années 30,
H. Cartan et P. Thuilen [Ca/Th] ont trouvé une caractérisation intrinsèque globale
des domaines dholomorphie en termes de convexité par rapport à l’algèbre des
fonctions holomorphes sur le domaine. Cette “convexité holomorphe” est un des
concepts fondamentaux de l’Analyse Complexe. La caractérisation des domaines
dholomorphie en termes de pseudoconvexité, encore appelée solution du pro-
blème de Levi, a été donnée indépendamment par K. Oka [Ok],H. Bremmermann
[Brl] et E Norguet [No] au début des années 50 pour les domaines de Cn et par H.
Grauert [Gr] en 1958 pour les variétés analytiques complexes. Elle a nécessité la
mise en œuvre de la théorie des faisceaux analytiques cohérents, qui s’est avérée
être un outil puissant pour l’étude des espaces analytiques. La solution du pro-
blème de Levi, que nous présentons ici, suit les idées de Grauert mais s’appuie sur
la théorie des représentations integrales pour résoudre les problèmes techniques.
La théorie des représentations intégrales en Analyse Complexe trouve son ori-
gine dans les travauxde H. Grauert, G.M. Henkin, I. Lieb et E. Ramirez [GrlLi,He1,2,
Ram] au début des années 70. Depuis, cette théorie n’a cessé de se développer. Elle
a permis de résoudre des problèmes inaccessibles par les méthodes antérieures et
de retrouver, en les précisant, les principaux résultats de la théorie des fonctions

www.bibliomath.com
xii Introduction

holomorphes de plusieurs variables obtenus par d‘autres méthodes. I1 s’agit prin-


cipalement de construire de bons opérateurs intégraux pour résoudre l’équation
de Cauchy-Riemann. La résolution de cette équation est au cœur de la plupart des
problèmes d’Analyse Complexe. Dans le cas de la résolution du problème de Levi,
elle est à la base de la construction de la fonction holomorphe qui ne se prolonge
pas.
Le résultat de Hartogs pose également le problème de l’extension des fonctions
holomorphes définies au voisinage de tout le bord ou d’une partie du bord d’un do-
maine et plus généralement des fonctions C R (c’est-à-diredes traces de fonctions
holomorphes) définies sur tout ou partie du bord d’un domaine d’une variété analy-
tique complexe. Une démonstration rigoureuse du résultat de Hartogs a été donnée
indépendamment par S. Bochner [Bo]et E. Martinelli [Ma21vers 1940 à l’aide d‘une
formule intégrale, appelée aujourd’hui “formule de Bochner-Martinelli”. Depuis
cette époque, cette formule joue un rôle fondamental dans l’étude de l’extension
des fonctions C R dans Cn , mais ne permet malheureusement pas de résoudre les
problèmes globaux d‘extension dans les variétés analytiques complexes. Le lien
entre le phénomène d‘extension de Hartogs-Bochner et la résolution de l’équation
de Cauchy-Riemann avec condition de support a été remarqué par L. Ehrenpreis
[Eh]en 1961. C’est un point clé de l’étude de l’extension des fonctions C R dans les
variétés. Au milieu des années 80, G. Lupacciolu et G. Tomassini [Lu/To]ont étu-
dié dans un cas particulier le problème de l’extension d’une fonction C R définie
sur une partie du bord d u n domaine. De nombreux mathématiciens ont contribué
à la résolution de ce problème d’extension au cours des dix dernières années. Les
résultats que nous présentons ici sont principalement dus à G. Lupacciolu [Lu1,2].
Ces problèmes d‘extension globale sont bien sûr liés à la rcchcrche d’enveloppe
d’holomorphie, mais également à un problème plus géométrique. I1 s’agit de la
construction de chaînes holomorphes de bord donné. En effet si on considère le
phénomène de Hartogs en termes de graphe, le graphe de l’extension holomorphe
est une chaîne holomorphe dont le bord est la variété C R maximalement complexe
définie par le graphe de la fonction C R donnée initialement.
Le livre est organisé comme suit :
Le chapitre I développe les propriétés élémentaires locales des fonctions holo-
morphes de plusieurs variables complexes qui se déduisent de la théorie des fonc-
tions holomorphes d u n e variable.
Dans une première partie, le chapitre II introduit les courants. La notion
d‘indice de Kronecker de deux courants permet d’obtenir une formule de Stokes
dans un cadre assez général. La seconde partie est consacrée aux variétés ana-
lytiques complexes et à la définition des différentes notions liées aux structures
a
complexes : formes différentielles de type ( p , q ) , opérateur et cohomologie de
Dolbeault.
Dans le chapitre III, nous démontrons la première formule de représentation in-
tégrale : la formule de Bochner-Martinelli-Koppelman. La démonstration donnée

www.bibliomath.com
...
Introduction XII1

ici s’appuie sur la formule de Stokes pour l’indice de Kronecker. À l’aide de la for-
mule de Bochner-Martineili-Koppelman nous commençons l’étude de l’équation
de Cauchy-Riemann.
Le chapitre IV étudie le problème de l’extension des fonctions C R définies sur
le bord d u n domaine borné de C”. Le théorème d’extension de Bochner est dé-
montré et un cas particulier d’extension lorsque la fonction n’est définie que sur
une partie du bord du domaine est également considéré.
Le chapitre V traite du problème de l’extension des fonctions CR définies sur
tout ou sur une partie du bord d’un domaine relativement compact d u n e variété
analytique complexe. Nous étudions la relation entre ces phénomènes d’extension
et l’annulation de certains groupes de cohomologie de Dolbeault.
Dans le chapitre Vi nous définissons les notions de domaine dholomorphie,
convexité holomorphe et pseudoconvexité pour les ouverts de Cn. Nous prou-
vons l’équivalence entre domaine dholomorphie et domaine holomorphiquement
convexe et nous montrons que tout domaine dholomorphie est pseudoconvexe.
La réciproque, appelée problème de Levi, est étudiée au chapitre ViI.
Le chapitre VI1 est consacré à la résolution du problème de Levi. La méthode
a
s’appuie sur la résolution locale du avec estimations holdériennes et sur l’étude
de l’invariance de la cohomologie de Dolbeault par la technique des bosses de
Grauert. L‘originalité de la démonstration donnée ici est l’utilisation d’un résultat
dû à Laufer [Lau] qui permet de déduire l’annulation des groupes de cohomolo-
gie de Dolbeault des théorèmes de finitudes obtenus par la résolution locale du
-
a. Le chapitre se termine par la résolution du problème de Levi dans les variétés
analytiques complexes et l’énoncé de plusieurs théorèmes d’annulation pour la
cohomologie de Dolbeault qui permettent de donner des conditions géométriques
suffisantes pour les phénomènes d’extension de fonctions C R étudiés dans le
chapitre V.
Le chapitre VI11 donne des conditions nécessaires et suffisantes pour l’extension
des fonctions CR définies sur une partie du bord d u n domaine strictement pseu-
doconvexe.
Pour faciliter le travail du lecteur notons les faits suivants :
- Le chapitre III, les paragraphes 3 et 4 du chapitre Vet les chapitres VI et VI1 éla-

borent l’ensemble de la théorie qui permet la résolution du problème de Levi, c’est-


à-dire l’identité entre domaine dholomorphie et ouvert pseudoconvexe dans C”
et l’identité entre variété de Stein et variété possédant une fonction dexhaustion
strictement plurisousharmonique dans le cas des variétés.
- Le chapitre IV, les paragraphes 1, 2 et 5 du chapitre V, le paragraphe 8.3 du

chapitre Vi1 et le chapitre VI11 sont consacrés à l’étude des phénomènes globaux
d’extension des fonctions CR.

www.bibliomath.com
Chapitre I

Propriétés élémentaires locales des


fonctions holomorphes de plusieurs
variables complexes

Ce chapitre est consacré à l'étude des propriétés locales des fonctions holomorphes
de plusieurs variables complexes qui se déduisent directement de la théorie classique des
fonctions holomorphes d'une variable complexe. L'élément de base de cette étude est une
formule de Cauchy dans les polydisques qui généralise la formule de Cauchy classique. La
plupart des théorèmes prouvés dans ce chapitre étendent au cas de plusieurs variables des
résultats bien connus pour les fonctions holomorphes en dimension un (Théorème de l'ap-
plication ouverte, Principe du maximum, Théorème de Montel, Théorème d'inversion lo-
cale). Néanmoins, dans le cadre de l'étude de quelques problèmes d'extension holomorphe
apparaît un phénomène spécifique à la dimension n, n 2 2, c'est le phénomène de Hartogs
dont un cas particulier est exposé à la fin de ce chapitre. Ce phénomène sera étudié en détail
dans le chapitre III.

1. NOTATIONS ET DÉFINITIONS

On note N l'ensemble des entiers naturels, IR le corps des nombres réels et


C le corps des nombres complexes. Si n E N est un entier strictement posi-
tif, l'ensemble Cn est muni de la structure d'espace vectoriel habituelle et si
z = (z1, . . . ,z,) E cc",la norme de z est Iz( = (1.~11~ -+ . . . + On
définit un isomorphisme de R-espace vectoriel entre Cn et R2" en posant, pour
z = ( ~ 1 , .. . , z,,) E Cn,
zj = xj +
iyj s i j = 1,.. . ,n.

www.bibliomath.com
2 I. Propriétés élémentaires locales

Les opérateurs de dérivation holomorphe et antiholomorphe sont définis par

Si a = ( a l , .. . ,an)E PP et ,8 = (pl,. . . ,&) E lV sont des multi-indices et


si 2 = ( 5 1 , . . . ,xn)est un point de R",on pose
= a ~ + ' ~ ~ + a n , ( Y " ~ ! " . a , ! , x=
JaJ a x "1l . . ' x : " ,

On écrira D" à la place de Dao et Dp à la place de 0'0 lorsqu'il n'y aura pas de
risque de confusion.
Si D est un ouvert de R",l'espace vectoriel des fonctions continues sur D à
valeurs complexes est noté c'(O) ouC(D),celui des fonctions k fois continûment
différentiables (IC E N,k > O) est noté Ck(D).La réunion des espaces Ck(D),
IC E N,est l'espace C"(D) des fonctions indéfiniment différentiables sur D. On
vérifie aisément que f E c ' C ( D ) si et seulement si ~ a p Ef C ( D )pour tout couple
(a,/?)E lV x i V tel que I C I ] +101 5 k. Si k E N,l'espace vectoriel des fonctions
f contenues dans C k ( D )et dont les dérivées Da f ,lal<IC,sont continues sur n e s t
noté Ck (n) et C" ( D )désigne l'espace des fonctions indéfiniment différentiables
sur D dont toutes les dérivées sont continues sur E.
Si D CC R" et si f E C k( D ) ,k E N,on définit la norme C k de f sur D par

Définition 1.1. Soit D un ouvert de cc" . Unefonction f définie sur D à valeurs dans
C est dite holomorphe sur D si f E C1 ( D )et si f vérifie
8.f
-(z) =O pourtout z E D ettoutj = 1 , . . . ,n.
(1.3) azj
Le système d'équations aux dérivées partielles (1.3) s'appelle le système de Cauchy-
Riemann homogène.

Remarque:il est clair que si f est holomorphe, alors f est holomorphe séparément
par rapport à chaque variable. Plus précisément, si t = (z1) . . . ,zn) E D est fixé,
posons
Di = { t E C 1 (21,. . . , ~ j - l , t , ~ j + l. ,.,.z,)
. E D},

www.bibliomath.com
I. Notations et définitions 3

alors la fonction fj : Dj + @ définie part ++f (XI,. . . , z j - l , t , z j + l , . . . ,zn) est


holomorphe.
On note O ( D )l'ensemble des fonctions holomorphes sur l'ouvert D de Cn.
Le résultat suivant est une conséquence directe de la Définition 1.1.

Théorème 1.2. Soit D un ouvert de cc",O(D ) est une algèbre sur C et si f E O(D )
satisfait f ( z ) # O pour toutz E D alors f E O(D).
Si D est un ouvert de Cn = R2" et f une fonction de classe C' dans D , notons
df ( a ) sa différentielle en a E D ; c'est l'unique application R-linéaire IR2" + R2
telle que f ( z + a ) = f ( a )+ df (a)(.) + O( 1x1) lorsque z tendvers O dans Cn.
Par un calcul simple on obtient

Une fonction f E C ' ( I l ) est donc holomorphe sur D si et seulement si

pour tout a E D.

Théorème 1.3. Une fonction f E C' ( D ) satisfait le système de Cauchy-Riemann


homogène en un point a E D si et seulement si sa différentielle df ( u ) au point a est
C-linéaire. En particulier f E O ( D )si et seulement si sa différentielle en chaque
point de D est C-linéaire.

Démonstration. Soient f E C 1 ( D )et a E D. D'après (1.4), on peut décomposer


l'application IW-linéaire df ( a )de @" dans C en
df ( a ) = Sa +Ta

L'application Sa est clairement @-linéaire et Ta est la conjuguée de l'application


n -
C-linéaire Ta définie par Ta = $$(u)dzj(a). Comme toute application R-
j=l
linéaire de @* dans C posséde une décomposition unique de ce type, d f ( u ) est
=
@-linéairesi et seulement si Ta O, c'est-à-dire si f satisfait le système de Cauchy-
Riemann homogène. O

www.bibliomath.com
4 I. Propriétés élémentaires locales

2. FORMULE DE CAUCHY DANS LES POLYDISQUES

Un sous-ensemble P de Cn est un polydisque ouvert, (respectivement :fermé),


s'il existe des disques ouverts, (respectivement: fermés), Pl, . . . ,P, de C tels que
P = Pi x . . . x P,. Si < j est le centre de Pj, le point [ = (CI,. . . ,Cn) est appelé
centre de P et si rj est le rayon de Pj alors T = ( T I , . . . ,T,) est appelé muftirayon
de P. L'ensemble d0P = aPl x . . . x aP, est le bord distinguéde P. Remarquons
que doP n'est pas égal à la frontière de P dès que n > 1.On note P = P(<,T) le
polydisque de centre et de multirayon T .
Soit P = P ( < , T un
) polydisque de Cn et g E C(d0P)une fonction continue
sur le bord distingué de P. L'intégrale de g sur ûoP = aP1 x . . . x aP, est définie
Par

lop g(C)dCl. . . dCn = inr1 . . . T ,

) (Cl(e),...,<,(e)) etCj(û) =
o ù ~ ( û=
s+
sj
[0,2Kl"
g(C(û))eisl . . . eiendûl ... dû,

rjeieJ p o u r j = 1 , . . .,n.
Si T et T' E R" on dira que T < T' si et seulement si, rj < T; pour tout j =
1,.. .,n.
Le théorème suivant donne une formule de Cauchy pour les fonctions holo-
morphes de plusieurs variables complexes qui généralise la formule de Cauchy
classique. C'est un outil fondamental qui permet de généraliser au cas de plusieurs
variables les propriétés élémentaires locales des fonctions holomorphes d u n e
variable complexe.

Théorème 2.1. Soient P = P(u,r) un polydisque de C" et f E C(P)une fonction


holomorphe séparément par rapport à chaque variable dans P , alors

Démonstration. Montrons tout d'abord par récurrencesur le nombre de variables


que la formule (2.1) est vraie pour tout polydisque P = P(u,T),O < T < T ,
contenu dans P.
Considérons l'assertion
(Cn) soit P un polydisque de Cn et f une fonction continue et séparément
holomorphe au voisinage de P , alors la formule (2.1) est valide.
Pour n = 1, (CI)est la formule de Cauchy classique que l'on suppose connue.
Supposons que, si n > 1, (Cn-l) est satisfaite. Fixons z = (21,. . . ,z,) E P et
appliquons (C,- 1) relativement aux ( n- 1) dernières variables pour le polydisque
P' = P2 x . . . x Pnde CY-'. On obtient alors

www.bibliomath.com
2. Formule de Cauchy dans les polydisques 5

Pour (Cz,.. . ,Cn)fixédansdoP',lafonctiong définieparg(<)=f (<&, . . . ,<,)


est holomorphe au voisinage de Pl, on peut donc lui appliquer la formule de Cau-
chy. On a alors

L'assertion (C,) se démontre en substituant (2.3) dans (2.2) et en appliquant


le Théorème de Fubini après avoir paramétré aP1 et &PI.
-
Si f satisfait aux hypothèses du Théorème 2.1 pour le polydisque P = P(u,T),
elle vérifie les hypothèses de l'assertion (C,) pour tout polydisque P = P(a,T),
P,
O < T < T et la formule (2.1) est valide pour soit

LafonctionC - f (C)
(cl-zi)...(c n - z n ) étant continue sur P\ { z ) on peut appliquer
-
le Théorème de Lebesgue après avoir paramétré &P et faire tendre T vers T pour
obtenir (2.1). O

Corollaire 2.2. Soit D un ouuert de C" et f E C ( D ) une fonction holomorphe sépa-


rément par rapport à chaque variable, alors f est de classec" dans -D et par consé-
quentf E O ( D ) .Depluspourtouta E W , D"'f E O ( D )etDaflf Odèsque
lBl # 0.
Démonstration. Pour tout a E D,soit Pa un polydisque tel que Pa CC D. On
peut alors appliquer le Théorème 2.1 à f et au polydisque Pa.La fonction ( ( , z ) M
f (O étant continue sur doPa x Pa et de classe C" par rapport à z ,
(Ci-zi)...(Cn-Zn)
il suffit de dériver sous le signe dans la formule (2.1) (ce qui est possible) aussi
souvent que nécessaire pour obtenir le corollaire. O

Théorème 2.3. Inégalités de Cauchy. Soient P = P(u,T)un polydisque de C" et


f E O ( P ( a , r ) )une fonction holomorphe sur P. Alors pour touta E W , on a

où 2 désigne le multi-indice (2,2, . . . ,2) E W

Démonstration. Fixons p tel que O < p < T et appliquons la formule de Cauchy


(2.1) à f et au polydisque P(a,p).Après dérivation sous le signe on obtient

www.bibliomath.com
6 I. Propriétés élémentaires locales

où 1 désigne le multi-indice (1,1,. . . ,1) E IV. On a alors la majoration

et on en déduit la formule (2.4)en faisant tendre p vers T .


En multipliant les deux membres de (2.6)par pa+n et en intégrant par rapport
à p, on obtient

P a f ().I /[O,l-i] x . . . x [O,rnl


pafndpi . . . d pn -<

&io ,.il x ... x [ O I T n ]


dpi.. 'dpn / [OJTI"
If(c(o))lpi.. 'pndei . * * d e n

d où
lD"f (.)I (ai + 2)
T"+2

. . ( a n + 2) <
- (2~)"
-/ p(a,.)
If(<)ldV

en utilisant le Théorème de Fubini et un passage en coordonnées polaires. O

Corollaire 2.4. Pour tout (Y E W , p tel que 1 5 p 5 cc et tout ouvert R CC D , il


existe uneconstantec = C(cw,p,R,D)telleque
Ilo"fllf2 5 cllfIILP(D) p0urtout.f E o ( D ) Lp(D).

Démonstrarion. Fixons 6 tel que O < 6 < dist(0,bD) et soit T = 6alors pour
Jn
tout a E Cl,P(a,r) CC D et on aïestimation (2.5).Comme de plus

i
llfllL1(P(a,r)) 5 C p l l f l I ~ P ( ~ ( a , r ) )C p l l f l I ~ P ( ~ )

le corollaire est démontré. o


Une des applications principales de la formule de Cauchy (2.1) est l'analyticité
des fonctions holomorphes de plusieurs variables. Pour prouver ce résultat nous
avons besoin de la notion de convergence pour une série indexée par IV.
Soit ( u , ) , ~ w "une famille de nombres complexes, on dira que la série a,
,EN("
est absolument convergente si

laal = sup { laal : F


1
c w finie < +cc.
,EN" ffEF

Sous cette condition il existe un élément unique A de C tel que

On écrit alors A = a, et A est appelée somme de la série a,. De plus, si


,EN" aEW
(T est une permutation de IV,
la série an(,) est convergente et sa somme est
,EN"

www.bibliomath.com
2. Formule de Cauchy dans les polydisques 7

indépendante de la permutation (T. On a également


OEM"
a, = c(c
kEM Icrl=k
a,).
Si ( f,),Epqn est une famille de fonctions continues sur un ouvert D de Cnet K un
compact de D. On dira que la série f a converge normalement sur K si la série
aENn
sup If a (2) I est convergente.
,EN" zEK

Considérons plus particulièrement le cas où f a ( 2 ) est un monôme, c'est-à-dire


f, = a,za = a,zyl . . . 2:". Comme dans le cas d u n e variable on a le Lemme
(2)
d'Abel :

Lemme 2.5. Supposons que pour <


E Cn, avec & # O pour tout j , la série
a,<, soit absolument convergente. Alors la série aaza converge nor-
,EN" aEW
malementsurlepolydisque{z 6 Cn 1 lzjl 5 I&/}.
Théorème 2.6. Soient D c Cn un ouvert et f E Q ( D ) une fonction holomorphe
sur D , alors f est développable en série entière au voisinage de chaque point de D ,
Le. si< E D , il existe un voisinage V de< dansCn tel que, pour toutz E V ,on a

De plus la série du second membre converge normalement vers la fonction f sur tout
polydisque f e r m é p C D centré en<.

<
Démonstration. Soit E D et P CC D un polydisque centré en <. Pour tout z E P
e t < E doP

<
Le second membre converge normalement par rapport à sur doP. On peut alors
intégrer terme à terme dans la formule de Cauchy (2.1) appliquée à f et au poly-
disque P. Si z E P , on a donc

De plus en dérivant sous le signe dans la formule (2.1), on obtient

La deuxième assertion du théorème est une conséquence du Lemme 2.5. O

Corollaire 2.7. Principe du prolongement analytique. Soit D C @" un ouvert


connexe. Si f E O ( D )et s'il existe a E D tel que D a f ( a ) = O pour tout Q E W ,
alors f ( z ) = O pour tout z E D. En particulier, s'il existe un ouvert non vide U C D
tel que f (2)= O pour toutz E U alors f _= O sur D.

www.bibliomath.com
8 I. Propriétés élémentaires locales

Démonstration. D’après le Théorème 2.6, l’ensemble


R = { z E D I D ” f ( z ) = Opourtouta E W }
est ouvert. Par continuité des fonctions D” f , 0 est aussi fermé. L‘ouvert D étant
connexe et R # 0,on a R = D. O

On déduit aisément de la Définition 1.1 et des Théorèmes 2.1 et 2.6 la caractéri-


sation suivante des fonctions holomorphes de plusieurs variables :

Corollaire 2.8. Soient D un ouvert de Cn et f une fonction de D dans @. Les asser-


tions suivantes sont équivalentes.
uf E O(D),
2) f E C( D ) et f est séparément holomorphe en z1, . . . ,zn,
3) pour tout polydisque P cc D, f vérifie la formule de Cauchy (2.i),
4) pour tout z E D, f est développable en série entière au voisinage de z.
En fait l’hypothèse f E C ( D )peut être supprimée dans 2). L‘équivalence entre
1) et 2) ne nécessite aucune régularité par rapport à l’ensemble des variables, c’est
le théorème de Hartogs [Har].

Théorème 2.9. Soit D un ouvert de a?, f E O ( D )si et seulement si f est holo-


morphe séparément par rapport à chaque variable.
Un tel résultat est faux pour les fonctions de plusieurs variables réelles comme
le prouve le contre-exemple suivant :
Soit f : R2 + R définie par

La fonction f est analytique réelle séparément par rapport à chaque variable


mais eiie est non bornée au voisinage de O.

3. THÉORÈME DE L‘APPLICATION OUVERTE

Le théorème de l’application ouverte et le principe du maximum qui s’en déduit


s’étendent sans difficulté aux fonctions holomorphes de plusieurs variables.

Théorème 3.1. Soit D un ouvert connexe de Cn et f unefonction holomorphe sur D.


Si f n’est pas constante alors l’application f : D -+ @ est ouverte (i.e. l’image d u n
ouvert de D est un ouvert de Cl.

Démonstration. Soient a E D et U un voisinage convexe de a, contenu dans


D . D’après le principe du prolongement analytique flu $ f ( a ) car f n’est

www.bibliomath.com
3. Théorème de l’applicationouverte 9

pas constante et D est connexe. Soit b E U tel que f ( b ) # f ( a ) , considérons


+ +
R = {z E C I a z(b - a ) E V }etposonsg(z) = f ( u z(b - a ) )pourz E R.
L‘ouvert R est convexe et contient O et 1, de plus g(0) = !(a) # f(b) = g(1).
D’après le théorème classique en dimension 1, g(R) est un voisinage de f(u).
Comme f (U ) 3 g(R) le théorème est démontré. O

Corollaire 3.2. Principe du maximum. Soient D un ouvert connexe borné de Cn et


f une fonction holomorphe dans D et continue dans D. Si f n’est pas constante,
on a pour tout z E D

Démonstration. La continuité de f sur D et le théorème de l’application ou-


verte impliquent que f ( D ) = U est un ouvert borné. Soit w E dU, alors
w = lim f (z,,) où ( Z , , ) , , ~ N est une suite de points de D dont on peut extraire
,,-io0
une sous-suite qui converge vers un point de d D , car f est ouverte. Par consé-

Corollaire 3.3. Soit f une fonction holomorphe sur un ouvert connexe D de C” . Si


If 1 possède un maximum relatifen zo E D alors f est constante sur D.
Démonstration. Soit V un voisinage ouvert connexe de zo dans D tel que pour tout
z E V , If (.)I 5 I f (.O)[. Supposons que f ne soit pas constante sur V , alors
d’après le Théorème 3.1, f ( V )est un ouvert contenu dans le disque fermé de centre
O et de rayon If (zo) 1, il est donc nécessairement contenu dans le disque ouvert, ce
qui est absurde. Par conséquent f est constante sur V et D étant connexe f est
constante sur D par le principe du prolongement analytique. O

Terminons ce paragraphe par une version du Lemme de Schwarz pour les fonc-
tions holomorphes de plusieurs variables.

Théorème3.4. Soitf unefonctionholomorphesurB(0,R)= { z E C” I IzI < R}.


On suppose que f admet l’origine comme zéro d’ordre IC, i.e. le développement de
Taylor de f en O ne comporte pas de termes d’ordre strictement inférieur à IC, et que
If I estbornépar uneconstanteM s u r B ( 0 , R ) .Alors

Démonstration. Pour z # O fixé dans B(0,R)et u E C tel que lu1 < R on pose
cp(u) = f ( u 6 ) . La fonction cp ainsi définie est holomorphe sur le disque D(0,R)
de C et IqI est borné par M sur ce disque. De plus cp s’annule à l’ordre k en O. On
peut dors considérer la fonction 9 ( u ) = 9, elle est holomorphe sur D(0,R) et

www.bibliomath.com
10 I. Propriétés élémentaires locales

si O < T < R, on a 1Q(u)1 5 9,


si lu1 = T . D'après le principe du maximum
appliqué à q ,on a encore IQ(u)I 5 $, si lu1 5 T . En particulier si on choisit
k
T 2 1x1 e t u = IzI onobtient lQ(lzl)l 5 $ ouencore If(.)[ 5 Ml:l . Cette
inégalité étant valable pour tout T tel que IzI 5 T < R, en passant à la limite on
k
obtientdonclf(z)l 5 M I % [ . O

4. SUITES DE FONCTIONS HOLOMORPHES

Soit D un ouvert de C". On dit qu'une suite ( f J ) 3 Ec~ C ( D )converge unifor-


mément sur tout compact de D s'il existe une fonction f E C ( D ) telle que, pour
tout compact K de D, la suite (f j ) j G N converge uniformément sur K vers f .
Nous allons définir une structure d'espace vectoriel topologique métrisable sur
C( D ) pour laquelle la convergence des suites est équivalente à la convergence uni-
forme sur tout compact. Un système fondamental de voisinages de O pour cette to-
pologieest donnéparles ensembles V K ,=~{f E C ( D ) 1 supzEKl f ( z ) I < E } , où
K décrit la famille des compacts de D et E varie dans Et;. Comme D est réunion
dénombrable de compacts, la topologie ainsi définie est métrisable. Plus précisé-
w
ment, soit ( K j ) j Eune
~ suite exhaustive de compacts de D , i.e. D = u Kj et
j=i
O

Kj CKj+i (avecparexempleKj = {z E D 1 d(z,dD) 2 +,Iz/ 5 j } ) . Pour

la topologie ci-dessus.
L'espace C ( D )muni de cette topologie est complet, c'est un espace de Fréchet.
On munit le sous-espace vectoriel O ( D )de C ( D )de la topologie induite par celle
deC(D).

Théorème4.1. O ( D ) est un sous-espacefermédeC(D)etpour touta E I


V lesopé-
rateurs Da sont continus de O ( D ) dans lui-même. Plus précisément si ( f j ) j E N C
O(D) converge uniformément sur tout compact de D vers une fonction f E C( D ) ,
alors f E O ( D ) et pour toutcu E W , la suite ( D af j ) j E N converge uniformément
sur tout compact de D vers D a f .

Démonstration. Elle est analogue à la démonstration dans le cas de la dimension 1.


I1 suffit de remplacer la formule de Cauchy classique par la formule de Cauchy dans
les polydisques. O

Définition 4.2. Un sous-ensemble S de O ( D ) est borné si et seulement si pour tout


compact K c D on a

www.bibliomath.com
5. Applications holomorphes 11

Nous donnons maintenant une caractérisation des parties compactes de O ( D )


qui s'apparente à ceile des compacts des espaces vectoriels topologiques de dimen-
sion finie.

Théorème 4.3. Théorème de Montel. Un sous-ensemble S de O ( D )est compact si


et seulement s'il est fermé borné.

Dérnonstra tion
1) Condition sufisante: supposons que S est fermé borné, O ( D )étant métri-
sable il suffit de montrer que de toute suite d'éléments de S on peut extraire une
sous-suite convergente. Soit (fv)vEN une suite d'éléments de S. Puisque pour tout
v E N,f v E O ( D ) ,on déduit des inégalités de Cauchy que les dérivées premières
des fv sont uniformément bornées sur tout compact de D. Le Théorème d'Ascoli
permet alors de conclure.
2) Condition nécessaire: soit K un compact de D , alors l'application II . I I K
de C ( D )dans B, qui à f fait correspondre supzEKIf (.)I est continue. Puisque S
est compact, l'ensemble {II f l l ~f , E S } est un compact de B et par conséquent
sup{ II f l l ~f , E S } < +mû,ce qui prouve que S est borné. De plus S étant com-
pact, il est naturellement fermé. O

5. APPLICATIONS HOLOMORPHES

L'étude des applications holomorphes va nous conduire à la définition des sous


variétés analytiques complexe de C" . Nous verrons au chapitre II qu'une sous va-
riétés analytiques complexe de C" est une variété analytique complexe au sens abs-
trait.

Définition 5.1. Soit D un ouvert de <c", une application f , f = (fi,. . . ,f m ) :


D + Cm est holomorphe dans D , si les fonctions f i , . . . ,f m E O ( D ) .On note
O ( D , P ) ,l'espacedesapplications holomorphesdeD dans?. Si f E O ( D , P )
et a E D , la matrice

est appeléematrice jacobienne de f au pointa.

Proposition 5.2. SoientD c C? un ouvertet f = (fi,. . . ,fm)E O(D,Cm),pour


tout a E D
(5.1) f ( a + ). = f ( a )+ Jf (a). + 4 4 )
lorsque t tend vers O dans C" .

www.bibliomath.com
12 I. Propriétés élémentaires locales

Démonstration. D'aprèsleThéorème 1.3,si f E O ( D , P ) ladifférentielie


, de f en
a, df ( a )est une application C-linéaire de C" dans Cm dont la matrice relativement
aux bases canoniques de C" et Cm est donnée par J f ( a ) .Par définition de @ ( a )
on a donc la formule (5.1). O

Théorème 5.3. Soient f : D C C" + R c Cm et g : R c Cm Ce deux


applications holomorphes. Alorsg O f : D -+ Ce est une application holomorphe et
pour tout a E D on a
(54 JsofW = J d f(.))JI(.).
Démonstration. D'après les résultats classiques du calcul différentiel, la différen-
tielle de g O f au point a vérifie
(5.3) d(g O f)(a) = & ( f ( a ) ) O df ( a ) .
Mais puisque f et g sont des applications holomorphes leurs différentielles d f ( a )
et dg( f ( a ) )sont des applications C-linéaires dont les matrices relativement aux
bases canoniques sont respectivement J f ( a ) et Jg(f ( a ) ) .Par conséquent d(g O
f)( a ) est C-linéaire pour tout a E D , ce qui signifie que g O f est une application
holomorphe, et la formule (5.2) résulte de (5.3). O

Définition 5.4. Soient D un ouvert de Cn, f une application holomorphe de D dans


C" et a un point de D. On dira que f est biholomorphe au voisinage de a s'il existe
I I -'
un voisinage U de a tel que f soit une bijection de U surf ( U )et que (f u) soit
une application holomorphe de f ( U )sur U .

Théorème 5.5. Inversion locale. Soient U un voisinage de a E Cn et f E O(U , P ).


Alors f est biholomorphe au voisinage de a si et seulement si det ( J f ( a ) )# O.

Démonstration. L'hypothèse det(Jf(a)) # O implique que df ( a ) est inversible.


D'après le théorème d'inversion locale classique f est un C1-difféomorphismelo-
cal au voisinage de a et df -'( f (y)) = (df(y))-l pour tout y assez voisin de a.
Comme df (y) est C-linéaire car f est holomorphe son inverse (df (y))-' est égale-
-'
ment C-linéaire ce qui implique que f est holomorphe au voisinage de f ( a )car
df -Yf (Y)) = (df(d)-'.

Corollaire 5.6. Si X est un sous-ensemble de Cn et si kE{ 1,2, . . . ,n- 1}, les condi-
tions suivantes sont équivalentes :
i) Pour tout point t E X , il existe une application biholomorphe
f = (f1, . . . ,fn) définie sur un voisinage U de 5 telle que
XnU={zE fk+l(~)="'=fn(~)=O}.

ii) Pour tout point t E X , il existe un voisinage V de E dans Cn et une appli-


cation holomorpheg V -+ telleque
rgJ,(J) = n - k et X nV = { z E V I g ( z ) = O}.

www.bibliomath.com
6. Quelques théorèmes d'extension holomorphe 13

iii) Pour tout point ( E X , il existe un voisinage W de 5 dans C", un ouvert


R dans Ck et une application h : R -+ C" holomorphe telle que
rgJh(E) = k et X n W = h(R).

Dérnonstrarion. il + ii) et iiil est immédiat.


Prouvons maintenant iil + i). Soient V et g satisfaisant iil, notons G l'applica-
tionlinéaire cc" + définie par Jg(E).Puisque r g J g ( [ )= n- IC, l'application
G est surjective et il existe A : C" -+ Cktelle que A @I G : Cn -+ C" définie par
A @ G ( z ) = (A(z),G(z)) soit bijective (on peut définir A comme la projection de
C" sur ker G après identification de ker G et Ck par le choix d'une base). Posons
f ( z ) = (A(z),g(z))pourz E V.Alorsdet J f ( E )= det(A@G) # 0,doncdaprès
le Théorème 5.5, f est biholomorphe sur un voisinage U de ( contenu dans V. De
plus par définition de f on a
x n U = {Z E U I fk+l(~) = . . . = fn(z) = O } .
Montrons pour terminer que iii) + ii]. Soient W et h satisfaisant iii), notons
H l'application linéaire Ck -+ C" définie par J h ( ( ) . Puisque r g J h ( ( ) = k , l'ap-
plication H est injective. Si z E C" = ck x Cnpkon pose z = (z'"''), alors
l'application Q> définie par @ ( z ) = H ( z ' ) + ( 0 , ~ " )est une bijection de C" dans
C".~osonscp(z)= h ( d ) + ( ~ , z " ) p o u r zE R x C n - k . ~ o r s ~ ~ ( h - l ( ( =
) , Q>
~)
est inversible, donc d'après le Théorème 5.5, cp et biholomorphe au voisinage de
(h-'(c),O).Posons f = cp-', f est définie et biholomorphe sur un voisinage V de
( contenu dans W et vérifie f ( h ( z ' ) )= (z',O).I1 suffit alors de poser g = p O f où
p est la projection de C" sur qui envoie z sur z". O

Définition 5.7. Soit D un ouvert de C". Un sous-ensemble X de D est une sous-


variété analytique complexe de Cn si les conditions équivalentes i), ii) etiii) du Co-
rollaire 5.6 sont remplies. Si de plus X est fermée dans D , alors X est une sous-variété
fermée de D.

6. QUELQUES THÉORÈMES D'EXTENSION HOLOMORPHE

A. Théorème d'extension de Riemann


Nous voulons généraliser au cas de plusieurs variables le résultat d'extension
holomorphe des fonctions holomorphes bornées d'une variable complexe dans un
disque pointé. Dans C un point peut être considéré comme l'ensemble des zéros
d u n e fonction holomorphe. Nous allons nous intéresser ici à l'extension des fonc-
tions holomorphes bornées sur un ouvert de C" privé de l'ensemble des zéros d u n
nombre fini de fonctions holomorphes.

Définition 6.1.Soient D un ouvert de C" et A c D. On dit que A est un ensemble


analytique si pour tout a E D, il existe un voisinage U de a et un nombre fini de

www.bibliomath.com
14 I . Propriétés élémentaires locales

fonctions holomorphes fi, . . . ,f p sur U telles que A n U = {z E U I fl(z) =


. . . = f&) = O}.

Proposition 6.2. Soient D un ouvert connexe de û? et A C D un ensemble analy-


tique alors
i) A est fermé dans D ,
ii) si A # D, D \ A est dense dans D,
iii) D \ A est connexe.

Démonstration
i) Par définition tout point a E D possède un voisinage U tel que A n U
soit fermé car les fonctions fj j = 1, . . . ,p, sont continues. Par conséquent A est
fermé dans D.
O

ii) Raisonnons par l’absurde. Supposons que B = A est non vide. On va


prouver que B est fermé dans D et comme B est ouvert, non vide et D connexe
on aura A = D.
Soient a E B,U un voisinage ouvert connexe de a dans D et fi, . . . ,fp des
élémentsdeO(U)telsqueAnU= { Z E U I fl(z)=...= f,(z) =O}.Chaque
fonction fj ,j = 1, . . . ,p s’annule sur l’ouvert B n U ; U étant connexe, d’après le
principe du prolongement analytique, chaque fj j = 1, . . . ,p, est identiquement
O

nulle sur U et donc U c A . De plus U étant ouvert, U CA= B et puisque a E U ,


onaaE BetdoncB=B.
iii) Supposons que D \ A # 0 et montrons tout d’abord :
(*) tout point a E D a un voisinage connexe U tel que U \ A est connexe.
Fixons a E D. Soit U un voisinage convexe de a sur lequel il existe des fonctions
holomorphes f i , . . . ,f p telles que U n A = { z E U I f l ( z ) = . .. = f,(z) =
+
O}. Soient ~ 0 ~ xE 1U \ A et V = {A E C I AZO (1 - A)x1 E U } ; V est
une partie convexe de C car U est convexe et il existe j E (1, . . . ,p} tel que la
+
fonction gj(A) = fj(Ax0 (1 - A)zl)ne soit pas identiquement nulle sur V et
qu’en particulier g j ( 0 ) # O. La fonction g j étant holomorphe, l’ensemble de ses
zéros A’ est discret dans V .Donc V \ A’ est connexe. Mais A’ contient l’ensemble
+
{A E C I (Ax0 (1 - A)x1) E A n U } .Supposons que fj(x1) # O, alors O et 1
sont dans V \ A’, qui est connexe, et par conséquent il existe un arc yx : [0,1]I+ C
joignant O à 1 dans V \ A’. Si fj ( X I )= O, alors 1 E A’, mais puisque A’ est discret
+
il existe E > O tel que le segment [illE] n A’ = { 1). On construit alors un
chemin y joignant O à 1 contenu dans (V \ A’) U { 1) en joignant O à 1 E par un +
+
arc y1 : [O,;] + V \ A’ puis 1 E à 1 par72 : [;,il -+ (V \ A’) ü {1} avec
+ +
y 2 ( t ) = - 2 ~ t 1 2 ~L‘application
. +
y : t I+ y(t)zo (1- y(t))xl est alors un
arc joignant xo à x1 dans U \ A et donc U \ A est connexe.
Montrons maintenant que (*) implique iii). Raisonnons par l’absurde. Suppo-
sons que D \ A = Ui ü Uz où les U j ,j = 1,2,sont des ouverts non vides disjoints.

www.bibliomath.com
6. Quelques théorèmes d'extension holomorphe 15

D'après ii) D = D \ A = Ü, ü Ü2. Comme D est connexe Ü1 n Ü2 # 0. Soit


a E Ü1 n u2 et U un voisinage de a tel que U \ A soit connexe (il en existe d'après
(*)).Alors U \ A = (U n U1) U ( ( U n U2).L'ensemble U \ A étant connexe et A
fermé, l'un des (U n U j ) ,j = 1,2 est vide, par exemple (U n U1) = 0, ce qui est
impossible puisque U est un voisinage de a E u1. O

Corollaire 6.3. SoientD un ouvert connexedep et f etg desfonctions holomorphes


sur D. Si f et g coïncident sur une partie S de D pour laquelle il existe un ouvert
connexe V de D tel que V \ S ne soit pas connexe, alors f etg coïncident sur D.

Démonstration. Soit A l'ensemble des zéros de f - g dans D . Supposons que A


soit distinct de D . D'après la Proposition 6.2, V \ A est connexe et V \ A est dense
dans V donc dans V \ S . Par conséquent V \ S doit être connexe ce qui contredit
l'hypothèse. On a donc A = D. O

Exemple: si S est une hypersurface réelle de D , c'est-à-dire S = f - l ( O ) avec


V f # O sur S et f E C'(D,R), par exemple, S satisfait la condition du Corol-
laire 6.3. En effet D \ S = {x E D I f (x)> O} ü {x E D I f (x)< O}.

Théorème 6.4. Théorème de Riemann. Soient D un ouvert de Cn et A un ensemble


analytique distinct de D . Soit f une fonction holomorphe sur D \ A. Supposons que
tout pointa E A possède un voisinage U dans D tel que f (U\A soit bornée. Alors il
existe une unique fonction F sur D tellequeFID\A = f .

Démonstration. L'unicité est une conséquence immédiate du principe du prolon-


gement analytique.
Etudions tout d'abord le cas n = 1. I1 suffit de prouver que si f est bornée et
holomorphe dans le disque pointé { z E C I O < IzI < R } , alors f se prolonge
holomorphiquement au disque { z E @. I 1x1 < R } , car en dimension 1 les en-
sembles analytiques sont discrets. Considérons le développement de Laurent de f
sur le disque pointé { z E C I O < (21 < R }

Si v < O, aw -+ O quand T + O car f est borné et puisque a, est indépendant d e r ,


a , = O. On a donc le résultat en posant F ( z ) = a,z".
,>O

Passons au cas général. Pour a E A, soit V un voisinage connexe de a tel que


f IV\ A soit borné et sur lequel il existe des fonctions holomorphes f i , . . . ,f p telles
que A n V = { z E V I fi(.) = . . . = f p ( z ) = O}. On peut supposer que
h = f i $ O et après un éventuel changement de coordonnées affine de Cn que
a = O et h(0, . . . ,O,z,) $ O dans un voisinage de z, = O. I1 existe alors 6 > O tel

www.bibliomath.com
16 I. Propriétés élémentaires locales

que h ( 0 , . . . ,O,z,) # O pour O < Iznl I 6. Posons z' = ( ~ 1 , .. . ,zn-l). Soit E >0
tel que h(z',z,) # O si lz'l 5 E et Iz, I = 6. On considère la fonction

Remarquons que pour Iz'I I E et It1 = 6, le point (z',t) E V \ A et que g est


holomorphe pour Iz'( < E et Iz, I < 6. De plus pour z' fixé avec Iz'I < E , la fonction
t +-+ f ( z ' , t ) possède une extension holomorphe au disque { t E C I It1 < 6). En
effet, puisque h(z',z,) # O si Iz,I = 6, la fonction z, H h(z',z,) n'a qu'un
nombre fini de zéros sur { z , E C I Iz,I < S} et f étant bornée au voisinage
de ces zéros, il suffit d'appliquer le cas n = 1.Grâce à la formule de Cauchy en une
variableonag(z) = f ( z ) s i z E V\A,lz'l < E, I z , I < 6.Lafonctionfadmetdonc
une extension holomorphe au voisinage de chaque point de A et grâce à l'unicité le
théorème est démontré. O

B. Théorème de Rad0

Théorème 6.5.Théorème de Rado. Soit f une fonction continue sur un ouvert D de


C" . Si f est holomorphe sur { z E D I f ( z ) # O } alors f est holomorphe sur D.

Démonstration. La fonction f étant continue, il suffit, d'après le Corollaire 2.8,


de prouver que f est séparément holomorphe. De plus la notion d'holomorphie
étant locale, il suffit de montrer le théorème pour une fonction d u n e variable sur
le disque unité A de @.
a
Supposons que f est une fonction continue sur et que f est holomorphe sur
U = { z E A I f ( z ) # O}. Nous allons prouver que U est dense dans A et que f est
de classe C" dans A, ce qui nous donne aisément le résultat cherché. En effet,
est alors une fonction continue sur A qui est nulle sur une partie dense de A (l'ou-
vert U ) et donc identiquement nulle sur A, ce qui signifie que f est holomorphe
dans A tout entier.

Lemme 6.6. Si g est une fonction continue sur Ü et holomorphe sur U , pour tout
z E uj 19(z)I I SupCEaanau b(C) I.

Démonstration. Considérons pour n E M*,fixé, la fonction g n ( z ) f ( z ) . C'est une


fonction holomorphe sur U ,donc d'après le principe du maximum

pour tout z E U , car f s'annule sur A n dU. En prenant la racine nièmedes deux
membres de la dernière inégalité et en faisant tendre n vers l'infini on obtient le
résultat. O

www.bibliomath.com
6. Quelques théorèmes d'extension holomorphe 17

Lemme 6.7. L'ouvert U est dense dans A.

Démonstration. Raisonnons par l'absurde. Supposons que U n'est pas dense dans
A. I1 existe dors a E A n ûU et une suite ( a u ) v Ede~ points de A \ qui converge u
vers a. Considérons la suite de fonctions ( & ) v E ~ . Ces fonctions sont holo-
morphes sur U et continues dans Ü.De plus, grâce au Lemme 6.6, si z E U et si v
est assez grand
1
' sup
1
<
2
CEaAnau IC - avl - d ( a , d A )
~ ~

Mais comme a E Ü,la suite (=),,!gq1 ne peut pas être uniformément bornée sur
U , d'où la contradiction. O

Lemme 6.8. Les fonctions Re f et Im f sont harmoniques sur A et par conséquent f


est de classec" sur A.

Démonstration. D'après le Théorème de Stone-WeierstraR, toute fonction continue


f sur d A est limite uniforme sur d A de polynômes trigonométriques :
Pn
f = lim Q n ( 0 ) où Qn = ck,neiks
n+m
k=- P n
Pn
Alors Re Q n ( 0 ) = ak,n cos k0 + bk,, sin k0 avec ak,n,bk,n E R et si on pose
k=O
Pn
Pn(z)= (ak,n - ibk,,)zk, on obtient Re(Pn(z)) = ReQn(0) pourz = eis et
k=O
Re( f - P,) converge uniformément vers û sur ûA.
Soit E > O, fixé,alors il existe IC0 tel que si IC 2 ko
lepk-fl 5 eE et lef-"k I -< eE
sur dA. Les fonctions ef-Pk et ePk-f étant continues sur V et holomorphe sur U ,
on peut leur appliquer le Lemme 6.6 et on obtient pour k 2 ko

lePk-fl 5 eE et lef-PkI < eE


-

sur u. u
Par conséquent 1 Re(Pk - f ) l 5 E sur et puisque est dense dans A, u
I Re(Pk - f )I est majoré par E sur A car f et les P k sont continues sur A.
On a donc prouvé que Re f est limite uniforme sur A des fonctions Re Pk qui
sont harmoniques. Le Théorème de Harnack implique alors que Re f est harmo-
nique sur A. En remplaçant f par if on montrerait de même que Im f est harmo-
nique sur A. La fonction f est donc harmonique sur A et en particulier de classe
C". O
18 I. Propriétés élémentaires locales

C. Phénomène de Hartogs
Dans ce paragraphe nous donnons un cas particulier du phénomène de Hartogs
dans @" ,n 2 2. Le cas général du phénomène de Hartogs dans un ouvert de @" ,
n 2 2, sera étudié en détail au chapitre IV

Théorème6.9.SoientD unouvertconnexede@", et& = {w E @ I T < lwl < R } ,


O 5 T < R . Soit f une fonction holomorphe sur D x Q. On suppose qu'il existe un
point a E D tel que f se prolonge holomorphiquement à un voisinage de { u } x A,
A = { w E @ I /wI < R } .Alors f se prolonge holomorphiquement à D x A .

Démonstration. Notons (z,w) les points de D x Q . Remarquons que sil'extension


F de f à D x A existe, pour z E D et p E]T,R [

par la formule de Cauchy en une variable.


Pour tout p , tel que T < p < R, considérons la fonction

Elle est continue sur D x { w E @ I 1wI < p } et séparément holomorphe donc


holomorphe sur ce domaine d'après le Corollaire 2.8. Puisque f se prolonge ho-
lomorphiquement au voisinage de { a } x A, si r<ro<R, il existe E > O tel que
f ( z , w ) s'étend en une fonction holomorphe, que nous noterons encore f ( z , w ) ,
à l'ouvert {Iz - al < E , I w I < T O } . Choisissons p tel que T < p < T O alors
f (z,w) = f f ( z , w ) si Iz - al < E et IwI < p , d'après la formule de Cauchy en
une variable. L'ouvert D x {w E @ 1 T < IwI < p } étant connexe, on peut appli-
quer le principe du prolongement analytique à f et ff et donc f et f p coïncident
sur D x {w E @ I T < IwI < p } . Par conséquent F définie par F ( z , w ) = f (z,w)
sur D x Q et par F ( Z , W ) = f p ( z , w ) sur D x {w E c I I W / < p } est l'extension
cherchée. O

Exemples
1) Soient D un ouvert de @" ,n 2 2, et u un point de D , toute fonction holo-
morphe sur D \ { u } s'étend en une fonction holomorphe sur D .
2 ) Soient K un compact de @",n 2 2, et f une fonction holomorphe dans
@" \ K alors f admet une extension holomorphe à C" tout entier.
3) Soient P le polydisque {(zi,. . . ,zn) E @" I lzil < r,l 5 i 5 n } et Q =
{(XI,. . . ,zn) E P I 1zil < f , l 5 z 5 n - 1 ou Iz,I 2 f } , n 2 2. Toute fonction
holomorphe sur Q s'étend en une fonction holomorphe sur P.
Ces résultats sont faux si n = 1,il suffit, par exemple, de considérer la fonction
6. Quelques théorèmes d'extension holomorphe 19

Corollaire 6.10.
a) Soit f une fonction holomorphe sur un ouvert D de @" , n 2 2. L'ensemble des
zéros de f ne contient pas de points isolés.
b) Si f est une fonction holomorphe dans @" , n 2 2, l'ensemble des zéros de f
n'est pas borné.

Démonstration. On raisonne par l'absurde et on applique à la fonction $ les situa-


tions décrites dans les exemples 1) et 2). O

Commentaires.L'origine de la théorie locale des fonctions holomorphes de plusieurs


variables se trouve dans les travaux de K. Weierstrass,H. Poincaré et E! Cousin, qui
ont étudié les fonctions dans les domaines produits de C" à la fin du siècle dernier.
En 1906, Hartogs [Harl a découvert des domaines de C2 pour lesquels toute fonction
holomorphe s'étend holomorphiquementà un domaine plus grand, ce qui ne se pro-
duit jamais en une variable.
Les résultats que nous venons d'exposer sont très classiques. Ils sont donnés dans
la plupart des volumes relatifs à lu théorie des fonctions de plusieurs variables com-
plexes. Le lecteur intéressé pourra consulter les livres suivants : [HO2], [Krl, [Nall,
[Ra]. Le Théorème de Hartogs sur l'analyticité séparée est démontré dans [HO21
(Th. 2.2.8).
Chapitre II

Courants,
structures complexes

Ce chapitre introduit deux notions : l’une de nature différentiable, la notion de courant,


et l’autre de nature analytique, la notion de variété analytique complexe et les structures
complexes associées, que nous utiliserons abondamment dans la suite de ce volume. Nous
définissons tout d’abord les courants, qui sont l’équivalent pour les formes différentielles
des distributions pour les fonctions, puis nous nous intéressons au problème de la régu-
larisation des courants définis sur une variété différentiable de classe c”. Ce problème,
qui a une solution simple dans le cas de IR” grâce à la convolution, nécessite I’introduc-
tion de noyaux ayant des propriétés voisines de celles des noyaux de convolution. Nous
étudions égaiement l’indice de Kronecker de deux courants qui est la généralisation de
l’accouplement d’un courant et d’une forme différentielle, ce qui nous permet de prouver
une formule de Stokes assez générale qui sera utilisée dans les chapitres III et IV. Ensuite
nous introduisons la notion de variété analytique complexe et nous décrivons les structures
complexes naturelles qui apparaissent sur l’espace tangent de telles variétés, ce qui nous
a
conduit à définir la notion de forme différentielle de type (p, 4 ) . l’opérateur ainsi que le
complexe de Dolbeault et les groupes de cohomologie associés. Les phénomènes d’exten-
sion holomorphe que nous étudierons au chapitre V sont liés à l’annulation de certains de
ces groupes de cohomologie. Des théorèmes d’annulation seront donnés au chapitre VIL
Nous terminons par la définition de l’espace tangent complexe au bord d’un domaine d’une
variété analytique complexe qui interviendra dans la définition des fonctions C R (chap.
IV) et dans la définition de la pseudoconvexité (chap. VII).

1. COURANTS

On désigne par X une variété différentiable de classe Cm, de dimension n,


orientable et orientée et on note V ( X )l’espace vectoriel des formes différentielles
de classe C”, de degrép, O 5 p 5 n, à support compact dans X. Nous aiions défi-
nir une topologie localement convexe sur D P ( X ) ,puis nous étudierons son dual.
22 II. Courants,structure complexe

A. Topologie de D p ( x )
Supposons tout dabord que X est un ouvert de R" et notons &(X)l'espace
vectoriel des fonctions de classe C" sur X .
Si K est un compact de X et a E W , on pose, pour f E &(X)

, des semi-normes sur E ( X ) .Considérons la topologie de € ( X ) défi-


Les p ~ , sont
nie par ces semi-normes. Un système fondamental de voisinages de zéro pour cette
topologie est donné par les ensembles
VK,m,E= {f E E(X) I va,lal I m , ~ ~ , a<( Ef) .)
Puisque X est un ouvert de R",il possède une suite exhaustive de compacts
( K p ) p et ~ famille (VK,,,,~,,)~,~~N,~~N.
E la forme une base dénombrable de voi-
sinage de O. La topologie que nous avons définie est donc métrisable. On vérifie
aisément qu'une suite d'éléments de E(X) converge vers O pour cette topologie
si elle converge uniformément vers O sur tout compact de X ainsi que toutes ses
dérivées. Muni de cette topologie & ( X )est un espace de Fréchet (espace vectoriel
topologique localement convexe, métrisable et complet).
Si cp est une forme différentielle de classe C", de degrép dans X, cp s'écrit

cp= cprdxi
IIl=p
il <az<...<i,

o ù c p ~E E ( X ) e t s i I = ( i l , . . . ,ip) E (1,...,n } P , d x ~= d z i , A . . . A d x i p . O n
pose alors pour K compact de X et a E W
PK,,(cp) = sup{pK,,(cpI),I = ( i l , . . . ,iP) E (1,. . . , n } P , i 1 < 22 < . ' . < ip}.
Les semi-normes fi,,a, K compact de X , a E W , définissent une topologie d'es-
pace de Fréchet sur l'espace vectoriel &p(X)des formes différentielles de classe
C" et de degré p sur X.
Si Y est un autre ouvert de R" et f un difféomorphisme de classe C" de X sur
Y ,l'application
f* : E P ( Y ) -4P ( X )

est un homéomorphisme linéaire.


cp - f*cp

Considérons maintenant le cas où X est une variété. Soit A un atlas de X. On


définit la topologie de EP(X) par les semi-normesju,K,, définies pour U domaine
de la carte (U,h) E A, K compact de U et a E W par
au,K,a(cp>= P K , a ( ( h - l ) * c p l u ) pourcp E E(X).
Cette topologie est indépendante du choix de l'atlas A, c'est la moins fine qui rende
continueles applications ( k - l ) * : E ( X ) -+ E ( k ( V ) )pourtoutecarte (V,k)
de X.
Puisque X est dénombrable à l'infini, on peut supposer que l'atias A est formé d u n
I . Courants 23

nombre dénombrable de cartes et donc la topologie que nous venons de définir est
métrisable. De plus on vérifie aisément que EP(X)muni de cette topologie est un
espace de Fréchet.
Si K est un compact de X, on note Vg(X)le sous-espace vectoriel de E p ( X )
formé des formes différentielles de classe Cw, de degrép, à support dans K . C’est
un fermé de EP (X) et donc si on le munit de la topologie induite par ceiie de P ( X )
on obtient un espace de Fréchet. On met alors sur VP(X) = U 2 : (X)la topologie
)
K
d’espace vectoriel localement convexe la plus fine qui rende continues toutes les
inclusions
Vg(X)’+ V p ( X ) , K compact de X .

Remarques: Une suite de formes différentielles ( c p j ) j G w c DP(X) converge vers


cp E vp(x) pour la topologie que nous venons de définir si et seulement si
1) les supports des formes cpj sont tous contenus dans un même compact K
de X.
2) ( c p j ) j G w convergevers cp d a n s V g ( X ) .

B. Courants
Définition 1.1. On appelle courant de dimensionp sur X touteforme linéaire conti-
. noteDL(X) l’ensembledes courantsdedimensionp s u r X , c’est
n u e s u r V P ( X ) On
un @-espace vectoriel, le dual topologique de VP(X).
Soit T E Vp(X ) , T est une forme linéaire sur VP (X) donc pour toutes formes
pi. p2 E VP(X) on a

T(cpl+ 9 2 ) = T(cp1)+ T(cp2)


et pour tous X E @ et cp E VP(X)

T(Xcp)= XT(cp).
T est continue sur DP (X),
ce qui signifie que pour tout compact K de X, TI ( D o K ) ( x )
est continue. C’est également équivalent à l’assertion suivante : Pour toute suite
( c p 3 ) 3 E ~d‘éléments de P ( X ) qui converge vers O, la suite T(cpj)converge vers
O dans @.
Dans toute la suite on écrira ( T ,cp) à la place de T (cp).

Exemples de courants
1) La masse de Dirac 6,, IC E X, définie par &,(y) = cp(x) si cp E v o ( X ) ,est
un courant de dimension O.
2) Si w est une forme différentielle localement sommable de degré q sur X, elle
définit un courant T, de dimension n - q par

(Tu,
y)= / X
w A p s i cp E DnPq(X).
24 Il. Courants, structure complexe

Dans cette identification, on utilise de façon essentielle que X est orientée.


3) Si Y est une sous-variété fermée orientée de classe C” de X de dimensionp,
elle définit un courant [ Y ]de dimensionp sur X par

où i est l’injection Y L) X . Le courant [ Y ]s’appelle courant d’intégration sur Y .


Si K est un compact de X et k E N un entier, on note ( C k ) P ( X )l’espace
des formes différentielles de classe C k , de degré p , à support dans K . On le munit
de la topologie définie par les semi-normes I ~ K , ~ , I < Y I5 k. On définit (Cc)P(X)
comme la réunion, pour K compact de X , des (C&).( X ) , c’est l’espace des formes
différentielles de classe Ck,de degré p , à support compact dans X . On le munit de

toutes les inclusions


-
la topologie d‘espace vectoriel localement convexe la plus fine qui rende continues

(CK)”(X) (cc)p(x).
Considérons l’inclusion D p ( x ) ~ ) ( C c ) p ( Xc’est
) , une application continue d‘ima-
ge dense. On note (Cc)L(X)le dual topologique de (C,k)P(X), c’est un sous-espace
vectoriel de D L ( X ) .Ses éléments sont appelés courants d’ordre k, de dimensionp
surX.

Exemple: Si Y est une sous-variété fermée orientée de classe C 1 de X , le courant


d‘intégration sur Y est un courant d‘ordre nul.

C. Support d’un courant


Nous allons voir que de la connaissance locale d u n courant, on peut déduire
une connaissance globale de ce courant par recollement.
Si R est un ouvert de X et si T E D ; ( X ) , on peut définir TI, (on devrait dire
TIDp(,)) par (Tl,,cp) = (T,?) pour toute cp E Dp(R),où (p E D p ( X )est définie
par? = cpsurRetG = OsurX\R.

Proposition 1.2. Soient(R,),EI un recouurementouuertdeX etpour touti E I , des


courantsT, E VP(R,) telsqueT,I,,nR, = TJl,,n,, p our tout (i,j).Alors il existe
ununiquecourantT E V k ( X )telqueTl,? = T, pourtouti E I .

Démonstration. Considérons une partition de l’unité, ( c y i ) i € localement


~ finie su-
bordonnée au recouvrement ( R i ) i E ~Si. cp E DP(X),cp = c aicp et la somme
iEI
du second membre n’a qu’un nombre fini de termes non nuls. Si T existe, il doit
vérifier pour cp E P ( X )

iEI
car le support de ai est contenu dans Ri.
1 . Courants 25

Réciproquement cette formule définit une forme linéaire sur V p ( X )et elle est
continue. En effet, soit ( ( P , ) , ~ N une suite d'éléments de V * ( X ) ,qui converge vers
O, il existe alors un compact K tel que supp 'p, c K pour tout J E Di et pour tout
z E I , la suite (cY,(P,),~N convergevers O dans (C&suppa,)p(X). Donc T,(cr,cp,)
converge vers O et comme sur K seul un nombre fini de az'p,sont non nulles pour
chaque J , T('p,) = T,(a,'p,) tend vers zero quand J tend vers l'infini. La for-
mule (1.1) définit donc bien un courant T de dimension p sur X . Vérifions que
TIot = T,. Pour cela soit 'p E V(R,),

(Tz,~
=)c(Tz>ak(P)
k€I

Corollaire 1.3. Si T est un courant de dimension p sur X , il existe un plus grand


ouvert R contenu dans X tel que T = O. I
Définition 1.4. SiT Ç 'D;(X),on appellesupport d e T le complémentaire du plus
grand ouvert sur lequel T est identiquement nul.

Exemple :Si Y est une sous-variété fermée orientée de classe C" de X , le support
du courant [ Y ]est Y .

Remarque: Notons que si T E Vb(X)est un courant à support compact on peut


donner un sens à (T,$)pour toute forme différentielle 1c, de classe C" sur X et de
degré p . En effet il suffit de considérer une fonction x de classe C" sur X à support
compact telle que x soit égale à 1 sur un voisinage du support de T et de poser
(T,$)= (T,XQ).

Écriture locale d'un courant


Soient (U,h)une carte de X et (XI, . . . ,xn) les coordonnées locales associées.
Considérons l'expression

IIl=p

où TI est un courant de dimension n sur U et, si I = (il, . . . ,ip) E { 1, . . . , n } P ,


on a posé d x I = dxi, A . . . A dxip.Elle définit un courant de dimension ( n - p )
sur U , de la manière suivante: si 'p dans VD"-p(U) s'écrit 'p = 'pJdzJ,on
IJI=n-p
pose
(T,P)= E(I,CI)(Tr,'pC&i A . . . A dx,)
IIl=p
26 II. Courants, structure complexe

sont tels que { i l , . . . , z p , j l , . . . , j n - p } =


< .

si I = ( i l , .. . , i p ) ,CI = ( j 1 , . . . ,jnPp)
{ 1,. . . ,n} et &(I,CI)est la signature de la permutation qui envoie (1, . . . ,n) sur
( i l ,’ . . , i p , j l , ’ . ‘ , j n - p ) .
Réciproquement si T est un courant sur X , le courant TI peut-être représenté
par une expression de la forme (1.2). En effet si on pose, pour I = (il, . . . ,ip),
(T~,cpdzlA . . . A d z n ) = &(I,CI)(T,cpdqI)
où cp est une fonction C” à support compact dans U , on définit des courants de
dimension n,TI,à l’aide desquels T est représenté par l’expression (1.2).

Définition 1.5. Si T est un courant de dimension p sur une variété différentiable de


dimension n, le nombre ( n - p ) est appelé degré du courant T . On note D’q(X)
l’ensemble des courants de degré q sur X .
Nous venons de prouver qu’un courant de degré q sur X s’écrit localement
comme une forme différentielle de degré q dont les coefficients sont des courants
de degré O.

Exemple ; Dans IR”,les distributions sont les courants de degré n, ils s’identifient
naturellement aux courants de degré O.

D. Opérations sur les courants


Nous allons étendre aux courants les opérations classiques existant sur les
formes différentielles et définir de nouvelles opérations.

Produit extérieur par une forme différentielle de classe C”


Soient T E D’P(X) et a E &Q(X),O5 p+q 5 n, on définit le produit extérieur
T A Qpar
(T A (Y,(P)= (T,a A cp), pour toute cp E D n - p - q ( X ) ,
+
c’est un courant de degré p q sur X . Si T = T, est le courant défini par une forme
différentielle de classe C“ de degré p alors
Tu A Q = T U A a = (-l)pqTaAu.

OnposealorssiT E D ’ p ( X ) e t a E D q ( X ) ,
(Y AT = (-l)pqTA (Y.

Si T est un courant d‘ordre IC, on définit de manière analogue le produit extérieur


par une forme différentielle de classe Ck.

Bord et différentielle d’un courant


Soit T E D’p(X),on définit le bord bT du courant T par
(bT,cp)= (T,dp), pourtoute cp E DDn-p-l(X),
I. Courants 27

+
c’est un courant de degrép 1 sur X. La différentielle d T du courant T E D’P(X)
est alors définie par la relation
d T = (-l)”-’bT.

Exemples
I) Soit D CC X un ouvert relativement compact dans X à bord de classe C1.
On note [Dl le courant de degré O &fini par

alors d’après la formule de Stokes on a b[D]= [bD].


2) Soit w E EP(X),calculons dTw.Pour ‘p E Dn-P-’(X) on a

or
(dTw,‘p) = (-l)”-’(bT“, ’p) = (-1)”-’(Tw,d’p) = (-l)p-l
L w A d‘p

d(w A 9) = dw A ‘p + ( - 1 ) ” ~A d’p
donc
(a,,
‘p) = / X
d u A ‘p - s, d(w A ‘pl.
Mais puisque w A ‘p est une forme à support compact, d‘après la formule de Stokes,
on a sx d(w A ‘p) = O et donc dTw = Tdw.

Remarque:SiT E D’P(X), d ( d T ) = O.

Image directe d’un courant par un morphisme propre


Soient X et Y deux variétés différentiables de classe C” orientées et f une ap-
plication C” de X dans Y . On dit que f est propre si et seulement si pour tout
compact K de Y ,f -‘(IT) est un compact de X . Si T E D p ( X ) ,on appelle image
directe de T par l’application propre f le courant f+Tdéfini par
(f,T, ‘p) =(T,f’cp), pourtoute ‘p E D’”(Y)
-’
(cette définition a un sens car supp f *’p c f (supp ‘p) est compact lorsque f est
propre). Le courant f +Test un courant de dimension p sur Y .On déduit de la défi-
nition de l’opérateur f+ et de la Proposition 5.4 ii) de l’annexe A que si Tappartient
à q x )
f,dT = df+T.

Image réciproque d’un courant par une projection


Soient Y et 2 deux variétés différentiables de classe c”
orientées et f la pro-
jection de X = Y x 2 sur 2.Si ‘p E D’(Y x Z ) ,on définit l’intégrale ‘p comme sy
la forme différentielle sur 2 vérifiant pour toute 1c, E P ( 2 )
28 II. Courants, structure complexe

Si T = T, est le courant défini par une forme différentielle cp de classe C“ à sup-


port compact dans X , le courant f,T, est le courant défini par la forme différen-
sy
tielle $ ( z ) = cp, qui est de classe C” à support compact dans Z . (Cela résulte de
la définition de f+ et du Théorème de Fubini). Soit T E D’P(Z),on définit l’image
réciproque du courant T par la projection f par

) (T,~,T,),pour toute cp E ~
( f * ~ , c p= ~( m l ~ ~ ~ -

c’est un courant de degré p sur X . I1 est clair que si T = T, est le courant défini
par une forme différentielle de classe C” sur Y ,f*Tw= Tf.,, où f * w est l’image
réciproque de la forme différentielle w .

2. RÉGULARISATION

Soit X une variété différentiable de classe C”, de dimension n, orientée. On


n
note D ” ( X ) = @ D’p(X), l’espace vectoriel des courants sur X , c’est le dual
p=o
topologique de l’espace vectoriel D * ( X )des formes différentielles de classe C” à
support compact dans X . On munit traditionnellement D ’ * ( X )de deux topolo-
gies :
1) la topologie faible, c’est-à-dire la topologie de la convergence simple sur
P ( X ); plus précisément une famille ( T E ) E Ec~D’*(X)
+ converge faiblement
vers T E D” ( X ) ,quand E tend vers O, si pour toute cp E D o( X )

2) la topologie forte, c’est-à-dire la topologie de la convergence uniforme sur les


parties bornées de D ‘ ( X ) . Rappelons qu’une partie B de D * ( X )est bornée si les
éléments cp de B sont tous à support dans un même compact K et si pour tout
Q E i Tet tout domaine de carte U d u n atlas A, sup { I j u , ~ , ~ ( c<p +cc
) } où les
VEB
I j u , ~sont
, ~ les semi-normes définies au l.A.
On remarque facilement que la topologie forte est plus fine que la topologie
faible.
n
L‘objet de cette section est de prouver que & ‘ ( X ) = @ & P ( X )est dense dans
p=o
V ’ * ( X )muni des topologies faibles et fortes et de donner un moyen de construc-
tion de familles de formes différentielles de classe C“ qui approchent un courant
donné pour ces topologies.
On appelle distribution sur X un courant de degré O sur X .

A. Régularisation des distributionsdans R”


On considère une fonction 8 positive de classe C” à support compact au voi-
sinage de O dans IRn et vérifiant h,,
8(z)dz = 1.On peut prendre par exemple la
2. Régularisation 29

fonction définie par


-1
û(z) = ce1-IIzI12 pour 11x11 5 1
e(x) = O pourllzll 21
la constante c étant choisie de telle sorte que s,
û ( z ) d z = 1.Pour E > O, fixé,on
pose e&) = &e( :) et ~ , ( x , y )= e&
- y) pour tout x , y E R". Si u est une

fonction continue sur Rn, on définit les régularisées u, de u par


r

La proposition et le corollaire suivants qui sont classiques seront démontrés


dans un cadre plus générai au paragraphe B.

Proposition 2.1. Si u E Vo(Rn) est une fonction de classe C" à support compact
dans R", la famille (u,),~,+ des régularisées de u converge vers u dans Vo(R")
lorsque E tend vers O. De plus il y a équiconvergence sur les bornés de V o(R" ) .

Définition 2.2. Soit T E V"(Rn) une distribution sur R", on définit la famille
(TE)EE ~+
des régularisées de T de la manière suivante: pour toute cp E Vo(Rn)
on pose
(T,,cpdxl A ' . . A dx,) = (T,cp,dxl A . . . A dx,)

oùcpE(z) = J," KE(X,Y)(P(Y)dY.

Corollaire 2.3. La famille des régularisées (TE),€,+de la distribution T est une fa-
mille de fonctions de classe C" sur R" qui convergefortement et faiblement vers T
quand E tend vers O.
Pour des compléments sur la régularisation dans IR" le lecteur pourra consulter
[Sc,chap. 61.
Exhibons les principales propriétés de la fonction K , définie sur R" x Rn :
1)K , est une fonction de classe C",
2) K , est à support dans une bande d'ordre E contenant la diagonale de R" x
IR" 9

3) ./R* K,(z,?l)dy = JRn K , ( z , y ) d z = 19


4) JR, (E+ (-l)lal+lE
1K , ( z , y ) d y = Opourtouta E W .
Ce sont ces propriétés qui sont les clés de la Proposition 2.1. et du Corollaire 2.3.

B. Régularisation des distributions dans une variété


Soit X une variété différentiable de classe C", orientée de dimension n.
Une variété n'étant pas, en général, munie d u n e loi de groupe, nous ne pouvons
plus utiliser la convolution pour régulariser, contrairement à ce que nous avons fait
au paragraphe A. L'idée est d'utiliser des noyaux ( K E ) E E R +seront des fonctions
qui
30 II. Courants, structure complexe

définies sur X x X et qui vérifieront des propriétés analogues aux quatre propriétés
citées au paragraphe A.

Définition 2.4. Soient 7r1 et 7 r p les deux projections de X x X sur X . On dira qu'un
sous-ensemble A de X x X est propre si pour tout compact K de X les ensembles
7r1(7rT1(K)n A ) et7rp(n;'(K) n A ) sontrelativementcompactsdansX.
On considère sur X x X une famille de voisinages emboîtés de la diago-
nale A de X x X que l'on note (UE),EW+ et que l'on construit de la manière
suivante : considérons un recouvrement U localement fini de A par des ouverts
Ü = (U x U ) tels que U soit le domaine d u n e carte (U,h)de X ; on définit alors
u, par
U€ = u { (w)6 I IF(.)
G,,
E - h(!l)ll < E}.

On note w une forme différentielle de classe C", de degré n, ne s'annulant pas


sur X , qui définit l'orientation de X .

Définition 2.5. On appelle famille de noyaux régularisants sur X x x,


toutefamille
(K,(x,y)),,W+ de fonctionsc", positivessurx x X , tellesquepour tout& > O, le
support de K , soit propre, contenu dans U, et contienne la diagonale A de X x X ,
que la famille de fonctions (x ++ sx
K , ( x , y ) ~ ( y ) ) , ~converge
~+ uniformément
sur tout compact de X vers la fonction constante égale à 1 quand E tend vers O dans
R+ .

Définition 2.6. Soit f une fonction continue sur X . On appelle famille des régulari-
sées de f la famille des fonctions (f,)EER+ définies par

Définition 2.7. Soit T E V " ( X ) une distribution sur la variété X , on définit la


famille ( T E ) E E ~ régularisées
des + de T de la manière suivante: pour toute cp dans
Do ( V )on pose

La Définition 2.7 a un sens car K , étant de classe C" sur X x X , cp, est
de classe C" sur X et de plus le support de cp, est contenu dans l'ensemble
7r1 (KY' (supp cp) n supp K,) qui est compact puisque K , est supposé à support
propre.

Proposition 2.8. Soit T E V ' O ( X )une distribution sur X , les régularisées T, de T


sont des fonctions de classeCm surX et de plus pour tout y E X
T€(Y)= ( T > K , ( ~ , Y ) 4 X ) ) .
2. Régularisation 31

La fonction z K,(z,y) est une fonction C" à support compact dans X pour
chaque y fixé et dépend de y de manière Coo,de plus w est une forme différentielle
de classe C" sur X et donc (T,KE(z,y)w(z)) est bien définie et c'est une fonction
de classe C" sur X . En utilisant la densité de l'espace vectoriel engendré par les
fonctions du type u(z)v(y),u,v E C " ( X ) dans D o ( X x X ) on obtient

etdoncparladéfinitiondeT, onaT,(y) = (T,KE(z1y)w(z)). O


Nous allons maintenant étudier la convergence de la famille TE)€€^+ pour les
topologies faibles et fortes de D ' ( X ) . Soit II, E Dn(X) une forme différentielle
de classe C" à support compact de degré n sur X . Puisque par hypothèse w ne
s'annule pas sur X , il existe cp E D O ( X )telle que II,= 'pw.
On a alors
(T - T E , $ ) = (T - T,,cpw)= (T,(cp- c p € b ) .
Pour obtenir la convergence faible de la famille TE)€€^+ vers T quand E tend
vers O, il suffit donc d'étudier la convergence de la famille ( ( P ~ ) ~ ~vers
W + cp dans
D o ( X ) .Pour prouver la convergence forte de la famille TE)€€^+ vers T quand E
tend vers O, il suffira de montrer l'équiconvergence de la famille ( q E ) € €vers ~ +cp
lorsque 'p décrit un sous-ensemble borné de D o ( X ) .

Définition 2.9. On appelle opérateur différentiel (linéaire) à coeficients C", d'ordre


fini une application linéaire P : C " ( X ) 4 C " ( X ) telle que, pour toute carte
(U,h) de X , il existe un opérateur différentiel P(u,h)à coeficients C" sur l'ouvert
h(U ) de R" vérifiant pour toute fonction f E Cm ( X )
( P f )O h-' = P(u,h)(fO h - l ) dansh(U).
On notera P*1'adjointformeldeP pour leproduitscalairesurD'(X) défini par
(fig) = J, f(Y)g(Y)w(Y).
Dans la suite le terme opérateur différentiel désignera toujours un opérateur
différentiel à coefficients C" d'ordre fini.

Remarque 2.10: Soient et f des fonctions de D o ( X )à support dans un


même compact de X . La famille ( f E ) E E l i g + converge vers f dans D o ( X )quand E
tend vers O si et seulement si pour tout opérateur différentiel P = P(z,D)on a
lim SUP IP(z,Dz)f(z)- P(z,Dx)f,(s)I = o.
€+OXEX

Proposition 2. I 1. Soit f E Do( X ) ,on pose


32 II. Courants, structure complexe

1 ) Pour que la famille (f E ) E E R + converge vers f dans D o ( X )quand E tend vers


O ; il faut et il suffit que pour tout opérateur différentiel P sur X

2) Pour qu'il y ait équiconvergence de la famille (f E ) € € R +vers f lorsque f décrit


un sous-ensemble borné d e D o ( X )il faut et il suffit que
Pour tout opérateur différentiel P sur X
I
SUPZEX Jx ( ( P ( Z 7 OZ)- P*(Y, ~ , ) ) K € ( ZYc),) f ( Y M Y ) l + 0
quand E tend vers O uniformément par rapport
à f dans tout borné de Do ( X ).

Démonstration
a) Conditions nécessaires: on suppose que ( f E ) E E R + converge vers f dans
Do (V) quand E tend vers O ou bien qu'il y a équiconvergence lorsque f décrit un
sous-ensemble borné de Do ( X ) .

Grâce à la convergence de (f E ) E E R +vers f dans D o ( X )et à la continuité de P


sur D o ( X ) ,on a

Si de plus il y a équiconvergence des (f E ) € € R + vers f lorsque f décrit un sous-


ensemble borné de Do(X),la limite ci-dessus est uniforme par rapport à f sur tout
borné de Do ( X ) .
Pour conclure il suffit alors de prouver le lemme suivant que l'on appliquera à
la fonction P ( x ,DZ)f.

Lemme 2.12. Soit f une fonction continue à support compact dans X . On pose
f E ( x ) = Jx K E ( zy) , f (y)w(y), alors ia famille ( f E ) E E R + converge uniformé-
ment vers f sur X quand E tend vers O. Si de plus B est une partie équiconti-
nue de C ( X ) formée de fonctions à support dans un même compact et telle que
sup{ I l f l l m , f E B} soitfini, on a équiconuergence des familles (f E ) € € R + lorsque f
décrit B.
2. Régularisation 33

Démonstration. Par définition de f E nous avons

La fonction f étant continue à support compact, elle est uniformément continue et


donc
(va > 0)(3&0> o ) ( v E < EO)((., Y) E UE=$ If(.) - f(Y)l < a).
Notons que EO est indépendant de f pour f E B, car les éléments de B sont unifor-
mément équicontinus. Donc si E < EO on a
r

où rnL,€= supXEL ( sX ~ ) 2w ( ,Y ) ) ,L étant uncompact contenant supp f u


~ ~ (

n1(7r21(supp f)).Par hypothèse sur K,, mL,Eest borné indépendamment de E et


si L' est un compact de X contenant le support de f, il existe €0 > O tel que si
< EO on ait
s,
E

II ~ E ( . 7 Y ) w ( Y )- 1ll00,L~< Q.

Observons que si f E 8,les compacts L et L' peuvent être choisi indépendamment


de f . On aura par conséquent, pour E < min(e0, €0)

Ilf - fEllm I M Q + IlfllmQ.


Ce qui prouve la convergence de ( f E ) E E W + vers f quand E tend vers O et l'équi-
convergence sur B car sup{ Ilflloo, f E B } est fini. n

Fin de la démonstration de la Proposition 2.11


b) Condition suffisante :pour obtenir la convergence de la famille (f,)EEllg+ vers
f dans D o ( X )quand E tend vers O il suffit de démontrer que, pour tout opérateur
différentiel P sur X, on a
34 II. Courants,structure complexe

or d'après le Lemme 2.12 supzEx IP(z,D,) f (x)- (P(y,Dy)f (y))€(x) I tend vers
O quand E tend vers O et

tend vers O quand E tend vers O par hypothèse, d'où le résultat. Si (**) est satisfaite
on obtient aisément l'équiconvergence sur tout fermé en reprenant les étapes ci-
dessus. O
<
Considérons une carte (U,h)de X et = ( < I , . . . ,&) les coordonnées locales
associées. Soit P un opérateur différentiel sur X alors il existe un opérateur P(u,h)
sur h ( U )tel que pour tout f E D o ( V )

P(f 1 O h-l = +, I L) (f O h- = Ca,(<)o;(f O h-7


a

où a E lai", les a , sont des fonctions C" sur h ( U ) ,nulles sauf un nombre fini
diQI
d'entres elles et DE" = ,,.at;,, .

Proposition 2.13. Soit ( K ,(z,I/)),~w+ une famille de noyaux régularisants surX x


X , alors les conditions suivantes sont équivalentes

( Pour toute fonction f E V o ( X )à support dans un domaine

Démonstration. La condition (*) implique trivialement la condition (*'). Récipro-


quement, soit (Ui)iEr un recouvrement localement fini de X par des domaines
de carte et ( x i ) i c ~une partition de l'unité subordonnée à ce recouvrement. Soit
f E D o ( X )et P un opérateur différentiel sur V ; puisque le support de f ne ren-
contre qu'un nombre fini d'ouverts Ui : ( U i k ) k = ~ , . .,.on
,t a

I1 suffit donc puisque xikf est à support dans le domaine de carte Ui, de prouver
(*) pour toute fonction g E D o ( X )à support dans un domaine de carte de X . De
plus par linéarité, il suffit de montrer que (*) est vérifiée pour toute carte (U,h)de
2. Régularisation 35

X, toute fonction g E V o ( X )à support dans U et tout opérateur différentiel P sur


X tel que P(u,h) = u([)D$.Pour ailéger l’écriture dans la suite des calculs nous
identifierons U et l’ouvert h ( U )de IRn, P s’écrit alors P(z,D,) = u ( z ) D z et

Sx((P(.,D.) - P*(Y,Dy))K,(z:,Y))g(Y)d?/

est la somme de trois termes


(ri = a(.) J,[(D,Q + ( - i ) l a l +yl )~Ka( w ) l g ( Y ) d Y
(W = ( -1) lai a Jx (0,”K , .( ,Y))LI (Y)dY
(Hi)= - Jx KE(x,g)(P(y,Dy)g(y))dy (par définitionde P * ) .
D’après (*’), (I)converge uniformément vers O quand E tend vers O car la fonc-
tion a étant continue elle est bornée sur le support de l’intégrale de (I)(ce dernier
est compact puisque le support de K , est propre).
En intégrant par partie on obtient (II)=a(z)(D,”g(y)),(z) et daprès le
Lemme 2.12, cette quantité converge uniformément sur X vers u(z)Dgg(z).
Finalement (III)= -(a(y)D,”g(y)),(z)
et cela converge uniformément vers
-a(z)D,”g(x)grâce au Lemme 9.2.9, ce qui termine la démonstration. O

Proposition 2.14. Soit (K,(IC,Y)),~R+ unefamille de noyaux régularisantssurx x


X , alors les conditions suivantes sont équivalentes:

( Pour tout opérateur différentiel P sur X

sur toutbornédeVo(X).

( Pour tout domaine de carte et pour tout multi-indice CY


((DZ + (-l)lal+lDay )KE(z,Y))f( Y ) W ( Y ) l +0
(**’I quand E tend vers O uniformément par rapport à f

I sur tout borné d e V o( X )dont les fonctions sont à support


dans un domaine de carte.

Démonstration. I1 suffit de reprendre la démonstration de la Proposition 2.13 en


remarquant que l’on peut encore utiliser une partition de l’unité car les fonctions
d u n borné sont toutes à support dans un même compact et en utilisant la conclu-
sion du Lemme 2.12 sur l’équiconvergence. O

On a donc prouvé le résultat suivant :

Théorème 2.15. Soit (K,(X,~)),~~+


une famille de noyaux régularisants sur X x
X.
36 II. Courants, structure complexe

Si les conditions équivalentes (*) et (*') sont satisfaites, la famille ( T E ) E Edes


~+
régularisées de T convergefaiblement vers T dans V'O ( X ) .
Si les conditions équivalentes (**) et (**') sont satisfaites, la famille (TE)EER+
des régularisées de T convergefortement uersT dans VIo( X ) .
Pour terminer ce paragraphe nous allons construire des opérateurs régulari-
sants dont les noyaux sont des noyaux régularisants au sens de la Définition 2.5
qui vérifient les conditions (*) et (**). Cette construction est due à de Rham ([Rh],
3 15).
Considérons un recouvrement localement fini dénombrable de X par des do-
maines de carte (Ui)iEnhoméomorphes à R". Notons hi l'homéomorphisme de
Vi sur R". On peut alors trouver un recouvrement de X par des ouverts V , CC Ui
et des fonctions fi de classe C" à support compact dans Vi et telles que fi = 1
sur vi ( c f Annexe A, Lemmes 2.1 -et 2.2). Si T est une distribution sur X on pose
Ri,€T= &,fiT + ( 1 - f i ) T où Ri,, = hrr,hi* et T , est la convolution sur R" par
la fonction flEdu paragraphe 2.A. Au voisinage de tout compact de X la suite des
opérateurs R i ( € )= Ri,cO . . . O R I , €est stationnaire et on pose RE = lim Ri(&).
a d o z

Nous appellerons opérateurs régularisants de de Rham, des opérateurs régula-


risants construits par cette méthode.
Regardons par exemple le cas d u n e variété munie d'un atlas à deux cartes :

RET = Ri,ER2,ET = Ri,,fiR2,Ef~T+ Ri,,fi(l - f2)T


+ ( I - fl)RZ,€f2T+ ( 1 - f l ) ( 1 - f2)T
où le dernier terme de la somme est nul.
Le noyau associé à l'opérateur R, s'écrit

- fi(.))+ ( 1 - fl(~))KZ,E(Z,Z)f2(Z).
+Kl,E(Z,Z)fl(Z)(l
avec Ki,E,le noyau associé à l'image par hi de la convolution par Oc,.
Le théorème suivant a été prouvé par de Rham (Théorème 12, [Rh],5 15).

Théorème 2.16. Soient (R,)€>oune famille d'opérateur régularisant de de Rham et


T E D'O ( X ) une distribution sur X .
1) RETest une fonction de classeCm sur X .
2) Le support de R,T est contenu dans un voisinage arbitraire du support de T si
E est assez petit.
2) RETconvergefaiblement et fortement vers T quand E tend vers O.
Le lecteur pourra vérifier que les noyaux K , ,E E R+ , associés aux opérateurs
R, forment une famille de noyaux régularisant satisfaisant les conditions (*) et
(**).
2. Régularisation 37

C. Régularisation des courants


Pour régulariser les courants sur X , il suffit de remplacer les noyaux du para-
graphe B par des formes différentielles doubles sur X x X,Cw à support dans
un système fondamental d’entourages (U,),>O de la diagonale A de X x X . Soit
une telle famille. Si cp E D P ( X )est une forme différentielle de classe C”
à support compact dans X et si 7r1 et 7r2 désignent les deux projections X x X +
X , on pose

Si de plus le support de ‘p est contenu dans un domaine de carte U et si E est choisi


assez petit pour que 7rT1( U )nu, soit contenu dans un domaine de carte de X x X ,

alors

, . .
IUJ={l, ...,n }

où O(.) est la signature de la permutation ( I J ) ct ( 1 , . . . ,n) et dy la forme diffé-


rentielle dyl A . . . A dy,.
On peut faire une étude analogue à celle du paragraphe B et l’on obtient

Théorème 2.17. Soit ( $ E ) E > ~ une famille de formes différentielles sur X x X de


classe c”, à support propre contenu dans un système fondamental de la diagonale
A de X x X telle que dans toute carte de X x X on ait

&(GY) = ~,,I,J(x,y)dxI
A~ Y J
I U J={ l,...,n}
1n~=0
où lesfonctions K E , l , vérifient
j la condition (**‘) de la Proposition 2.13 etsont telles
que les fonctions (x C) sxK,,I,J(x,y)dy) convergent uniformément sur tout com-
pact du domaine de carte où elles sont définies vers la fonction constante égale à 1
quand E tend vers O dans R+. Si T E W ( X )est un courant de degrép sur la variété
X , la famille ( T E ) E E ~ régularisées
des + de T , définies par (T,,cp) = (T,cp,) pour
toute cp E Dn-P(X), où cpE est la régularisée de cp par $, converge vers T pour les
topologiesfaibles et fortes de D’P(X) quand E tend uers O dans R+ .

Démonstration. Par définition de la topologie forte de D’P(X),il sufiit de prouver


l’équiconvergencede la famille des régularisées de (O vers cp lorsque cp dé-
crit un borné de Dn-p(X). Soit (Vi)iE1 un recouvrement de X par des domaines
de cartes de X et (xi)iE1une partition de l’unité subordonnée à ce recouvrement.
Si B est un borné de Dn-p(X) et si cp E B,posons cpi = xicp. Puisque les fonctions
38 II. Courants, structure complexe

'p sont toutes à support dans un même conipact dans X , on peut écrire 'p = E,'pi
i€I
où I' est un sous-ensemble fini de I indépendant de 'p E t?. Par linéarité, on ob-
tient le résultat cherché en appliquant la Proposition 2.1 1 à chacune des 'pi. O

Définition 2.18. Si (~+/I',),~R+ est une famille de formes différentielles doubles sa-
tisfaisant aux hypothèses du Théorème 2.1 7, on appelle opérateur régularisant, les
opérateurs RE de V ' * ( X )dans lui-même définis par (RET, 'p) = (T,' p E ) pour
T E V " ( X ) et 'p E P ( X ) où les 'pE sont les régularisées de 'p obtenues à l'aide
des noyaux

3. INDICE DE KRONECKER DE DEUX COURANTS

On désigne par X une variété différentiable de classe C" et de dimension n.

Définition 3.1. Si T et S sont deux courants sur X tels que d"T + d"S=n, nous di-
s)
rons que l'indice de Kronecker de T et s,K ( T , est défini au sens de de Rham si
et~(R:,).,>o qui
quelles que soient les familles d'opérateurs régularisants ( R E ) E >
commutent avec l'opérateurd, la quantité (RETA R:,S, 1 ) possède une limite in-
dépendante des familles d'opérateurs choisies, lorsque E etEl tendent vers O, on note
K(T,S ) cette limite.
Si X = <c", on peut prendre pour régulariser les opérateurs associés aux noyaux
de convolution définis au paragraphe 2.A. Si X est une variété, les opérateurs régu-
larisants de de Rham commutent avec l'opérateur d (cf. [Rh],5 15, prop. 1).

Remarques
1) L'application ( T ,S ) H K ( T , S ) est bilinéaire.
2) Si l'un des deux courants T ou S est une forme différentielle de classe C" et si
le support de T ou le support de S est compact alors l'indice de Kronecker K ( T ,S )
de T et S existe et vaut (T A S , 1).(Cela résulte des propriétés de convergence des
régularisées dans D o(X) et dans V" ( X )pour la topologie forte des courants).
3) Si les supports de T et S ne se rencontrent pas et si T ou S est à support
compact, K ( T , S ) a un sens et est nul. En effet pour E et E' assez petit RETet R:,S
seront à supports disjoints et donc RETA RÉ,S = O.
Nous allons donner maintenant des conditions suffisantes d'existence pour l'in-
dice de Kronecker de deux courants.

Définition 3.2. On appellesupport singulier d'un courant le complémentairede l'en-


semble des points au voisinage desquels il est défini par une forme différentielle de
classeC". On notera S S ( T )lesupportsingulierdu courantT.
Si T E 73'' ( X )est un courant sur X et U un voisinage du support singulier de
T , on peut écrire T = T' + T" où T' est un courant dont le support est contenu
3. Indice de Kronecker de deux courants 39

dans U et T” une forme différentielle de classe C” sur X . I1 suffit de poser 7’’= pT


et T” = (1- p)T où p est une fonction de classe C “ , positive, à support dans U et
égaie à 1 au voisinage du support singulier de T .

+
Proposition 3.3. Si T et S sont deux courants sur X tels que doT d”S = n dont
l’un est à support compact et dont les supports singuliers ne se rencontrent pas, alors
l’indice de Kronecker K ( T , S ) de T et S a u n sens.

Démonstration. Sous les hypothèses de la proposition il existe des décompositions


T = T’ + T” et S = SI + S” où T” et S” sont des formes différentielles de classe
C” et où les supports de TI et SI ne se rencontrent pas. On peut alors appliquer I),
+
2) et3) delaremarqueet K ( T , S ) = K(T’,S”) K(T”,S’) K(T”,S”). + O

+
Proposition 3.4. Soient T et S deux courants sur X tels que d”T d”S = n - 1 et
dont l’un est à support compact. Si K (bT,S)ou K ( T , d S )existe l’autre existe aussi et
ils sont égaux, i.e.
K(bT,S) = K(T,dS).

Démonstration. Puisque les opérateurs régularisants R, et Ri, commutent avec d


et donc également avec b o n a
(R,bT,R:,S) = (bR,T,R:,S) = (R,T,dR:,S) = (R,T,R:dS)
d’où le résultat. O

Application :La Proposition 3.4 permet détendre la formule de Stokes au cas d u n


domaine D CC X à bord de classe C1 et d u n e forme différentielle w E C,-1 (D)
telle que dw, calculée au sens des courants, soit continue sur B.En effet, posons
T = [ D ] e t S = w,alorsK(bT,S)existeetvautSbDwetonadoncSbDw= SDdw.

+
Théorème 3.5. Soient T et S deux courants sur X tels que d”T d”S = n et dont
l’un est à support compact. Pour que l’indice de Kronecker K(T,S) des courantsT et
S existe il sufit que
S S ( T )n SS(bS) = 0 e t S S ( b T )n S S ( S ) = 0.

Remarque :On déduit du Théorème 3.5 que l’indice de Kronecker de T et S existe


dès que T est fermé à support compact et S est fermé.
Pour prouver le Théorème 3.5, nous avons besoin d u n e parametrix pour l’opé-
rateur d qui n’augmente pas le support singulier. Celle que nous présentons ici est
due à J.B. Poly.

Proposition 3.6. Si T est un courant sur X , il existe des opérateurs A et R tels que
l ) T - RT = d A T f A d T
40 II. Courants, structure complexe

2) A n'augmente pas le support singulier et R est régularisant.

Démonstration. Commençons par le cas où X = R".Notons 6 l'opérateur sur


D'(Rn)défini de la manière suivante: si T E D'(Etn),considéré comme forme
différentielle à coefficients distributions, s'écrit T = 'TIdxI, où ' signifie
I I
,onpose
I = ( i i ,...,ik)
il<...<ik

Remarquons que db + Sd = -A où A est le laplacien usuel A =


"
%.
ax,
2
Soit E
la solution élémentaire du Laplacien A, E = (n-2)t,,r>L-2
si n 2 3, E = & log T

s i n = 2 e t E = :sin= l o ù r = (xf+...+x~)1/2etsnl'airedelasphèreunité
de Rn.
Pour tout courant S à support compact dans R", on pose GS = -E * S , puis
K S = 6GS. Si S , considéré comme forme différentielle à coefficients distribu-
tions, a pour expression S = ' SIdxI le produit de convolution GS = E * S
I
s'écrit GS = - ' E * SIdxI d'où l'expression de K S
I

L'opérateur K : €'(IRn) -+ D'(Etn) ainsi défini a les propriétés suivantes :


+
a) S = dKS KdS, car S = -AGS = d6GS GdGS = dGGS GGdS. + +
b) K n'augmente pas le support singulier. En effet A est elliptique et par suite
GS est C" en dehors du support singulier de S.
Revenons au cas où X est une variété. Puisque X est réunion dénombrable de
compact, il existe un recouvrement dénombrable et localement fini de X par des
domaines de carte Wi CC X. D'après les Lemmes 2.3 et 2.1 de l'annexe A, on
peut alors trouver un recouvrement de X par des ouverts V, tels que V , CC Wi
et des fonctions vi de classe C" à support compact dans Wi telles que vi = 1 au
voisinage de V,. Pour tout courant T sur X , on pose
AiT = qiK(qiT)
(où par abus de notation on considère Wi comme un ouvert de R"),et
RIT = T - dAiT - AidT
+
= T - ( T , I ~ ) ~viK(d7i
T A T ) - dvi A K(viT).
(Pour être parfaitement rigoureux il faudrait considérer la carte (Wi,hi) de X et dé-
finir l'opérateur Ai par AIT = qi (h;') * ( K(hi)* (viT)).Le lecteur pourra vérifier
facilement que le fait d'avoir identifié Wi et son image par hi dans IRn ne modifie
pas les propriétés de Ai mais permet seulement d'avoir des écritures plus simples.)
3. Indice de Kronecker de deux courants 41

Les opérateurs Ai et Ri ont les propriétés suivantes :


+ +
a) T = dAiT AidT RiT par construction, d'où résulte dRiT = RidT.
b) Ai et Ri n'augmentent pas le support singulier. De plus, RIT est C" sur V, ;
en effet RIT et K(dqi A T ) coïncident sur E, et puisque K n'augmente pas le
support singulier, K(dqi A T ) est C" sur V, car dvi A T est nul sur V,.
On pose Ak = AkRkPl... Ri et Rk = RkRk-1.. . R I . Le recouvrement
(Wi)étant localement fini, on montre facilement que
RT = lim RkT et AT = lim AkT
k+m k+m

existent, car au-dessus d u n ouvert U CC X,RkT devient stationnaire et AkT


s'annule dès que k est assez grand. Les opérateurs A et R ont les propriétés souhai-
tées :
a) On a
R"'T - RkT = ( 1 - Rk)Rk-iT
= + Akd)Rk-lT
(dAk
= dAkT + AkdT

car Ri et d commutent, d'où par sommation


T - RT = dAT + AdT.
b) A n'augmente pas le support singulier car il en est ainsi de Ak.L'opérateur R
est régularisant car RkT est C" sur V , dès que IC 2 a. O

Démonstration du Théorème 3.5. D'après la Proposition 3.6, T et S admettent les


décompositions suivantes :
T = RT + dAT + AdT
S = RS + dAS + AdS.
Posons
Ti = RT, T2 = dAT, T3 = AdT
Si = RS, S2 = dAS, S3 = AdS.
Par linéarité K(T,S)sera défini si chacun des K(Ti,sk),z,k = 1,2,3, existe. Re-
marquons que Ti,i = 1,2,3,est un courant à support compact. Le courant Ti est
une forme de classe c" car R est régularisant. Par conséquent K(T1,sk)est défini
pour tout k = 1,2,3.Le courant S1 étant une forme de classe C", K(Ti,S,)existe
pour tout i = 1,2,3.Pour i=k=2, on peut appliquer la Proposition 3.4 et on obtient
K(T2,S2)=0.Les cas i = 2 et k = 3,i = 3 et k = 2,i = IC = 3, se déduisent de la
Proposition 3.3 car les opérateurs d et A n'augmentent pas le support singulier. ü

s
Corollaire 3.7. Formule de Stokes pour l'indice de Kronecker. Soient T et deux
courants sur X tels que doT + dos= n - 1 et dont l'un est à support compact. Si
SS(bT)n SS(bS) = 0
42 II. Courants, structure complexe

les indicesde KroneckerK(bT,S) etK(T,bS) existenteton a


K(bT,S) = (-l)doS-lK(T,bS).

Démonstration. C'est une conséquence immédiate du Théorème 3.5 et de la Pro-


position 3.4. u
Exemple d'application :Formule de Cauchy-Green dans @. Soit D un ouvert borné
de C à bordCl contenant l'origine. Si $ est une fonction de classe C" dans @. Après
identification de Cc avec IR2 on définit les formes différentielles de degré 1, d z et dZ
+
par d z = dx idy et dZ = dx - idy.
Si $ est une fonction de classe C" dans @. on pose T=$[D] où [DI désigne le
courant d'intégration sur D. Alors S S ( T ) = bD.
Si S = & $ alors dS = [O],où[O] est le courant d'intégration sur la variété
réduite au point O. En effet, si cp E Do(@), par définition de d on a

car S est défini par la forme différentielle localement intégrable & e.Pour E > O,
notons BE= { z E Qi I IzI < E } , alors

En appliquant le Théorème de Stokes, on obtient

car cp est à support compact. De plus

-dz =
L B , )."
Comme la fonction cp est de classe C" donc en particulier de classe C1 la première
intégrale du second membre tend vers O quand E tend vers O. D'autre part, par la
formule de Cauchy on a, pour tout E > O, & saBc
$ = 1.Par conséquent
( G c p ) = 4 0 ) = ([OI>cp).

+
Par ailleurs bT = -d$ A [O] $ A [bD]et donc SS(bT) = S S ( T ) = bD, de
plus SS(bS)= {O}, par conséquent SS(bT)n SS(bS)= 0 puisque O E D.
On peut donc appliquer le Corollaire 3.7 :

K(bT,S) = K ( - d$ A [DI + 11, A [ b D ]22lT,1y -dz-z)


4. Variétés analytiques complexes 43

Interprétation géométrique de l'indice de Kronecker


Nous donnons les résultats suivants sans démonstration ; le lecteur intéressé
pourra consulter [Rh, 201 et IL-Tl] pour plus de précisions et de meilleures condi-
tions suffisantes d'existence de l'indice de Kronecker de deux courants.
Si Y et Z sont deux sous-variétés fermées orientées de dimension p et n - p
de X qui se coupent transversalement et telles que Y ou 2 soit une sous-variété
compacte de X, alors les courants d'intégration [Y]et [Z] sur Y et Z sont fermés,
ils satisfont donc aux hypothèses du Théorème 3.5 et on a

~ ( [ Y I , [ Z l=) ([Y Z1,l).


Ici Y n2 est constitué d u n nombre fini de points et ( [ YnZ],l)est égal au nombre
de points de Y n Z en lesquels les orientations de Y et Z coïncident diminuée du
nombre de points en lesquels elles diffèrent. Plus généralement, si Y est Z sont
deux sous-variétés fermées orientées de X de dimension respective p et q qui se
coupent transversalement et telles que Y n Z soit une sous-variété de X et si cp est
+
une forme différentielle de classe C", de degré p q - 76, à support compact dans
Xona
n Yllcp).
~ ( [ Z I l [ YAl cp) = ([Z

4. VARIÉTÉ ANALYTIQUE COMPLEXE

Dans le cadre de l'étude des fonctions holomorphes, il est naturel d'introduire


des objets ayant, pour le calcul holomorphe, des proporiétés analogues à celles des
variétés différentielles pour le calcul différentiel, c'est-à-dire qui ont hérité locale-
ment des propriétés analytiques des ouverts de @".

Définition 4.1. SoitX un espace topologique, on appelle atlas complexe un ensemble


de cartes (U,cp)tel que les domaines U forment un recouvrement ouvert de X et les
applications cp soient des homéomorphismes de U sur un ouvert de cc",qui vérifient
la condition de compatibilité holomorphe: si U n U' # 0,l'application
cp' O 9-l : cp(un u')- i n u')
cp'(u
est une application biholomorphe entre ouverts de Cn.On dira que deux atlas com-
plexes sont compatibles si leur réunion est un atlas complexe. On définit ainsi une
relation d'équivalence.
44 II. Courants, structure complexe

Définition 4.2. On appelle variété analytique complexe un espace topologique sé-


paré, réunion dénombrable de compacts, muni d’une classe dëquivalence d’atlas
complexes.
Si X est une variété analytique complexe, x un point de X et (U,cp)une carte au
voisinage de x , cp est un homéomorphisme de U sur un ouvert de @” et n est appelé
la dimension complexe de X en x (comme dans le cas des variétés différentiables
n est bien sûr indépendant de la carte (U,cp)au voisinage de 2).On dira que X est
une variété analytique complexe de dimension n si pour tout x E X la dimension
complexe de X en x est égale à n. Si X et Y sont deux variétés analytiques com-
plexes, une application f : X -+ Y est dite holomorphe si elle est continue et si
pour tout couple de cartes (U,cp)et ( V , 9 )de X et Y tel que f ( U ) c V ,l’applica-
(fi,)
tion 1c, O O cp-’ : p ( U ) -+ $ ( V )est holomorphe. Lorsque Y = C on parlera
de fonction holomorphe. Comme dans le cas des applications de classe C Q ,il suffit
bien sûr de le vérifier pour toutes les cartes d u n atlas. On notera O ( X ) l’espace
vectoriel des fonctions holomorphes sur X à valeurs dans @.

Définition 4.3. Soit (U,cp) une carte d’une variété analytique complexe, alors cp est
uneapplication holomorphedeU dansCn, etsicp(x) = (zl(x),. . . ,z,(z)), où les
z j : U + C,j = 1, . . . ,n,sont des fonctions holomorphes sur U , les fonctions
( z 1 ,. . . ,zn) s’appellent les coordonnées holomorphes de X sur U définies par la
carte (U,cp).

Remarque: I1 est clair qu’une variété analytique complexe X de dimension n est


naturellement munie d’une structure de variété différentiable de classe C” de di-
mension 2n. Les espaces tangent T,X et cotangent T,X à X en x sont donc bien
définis. Considérons en particulier l’espace @T: X des 1-formes différentielles en
x E X à valeurs complexes qui est le dual du complexifié CTz X de T,X (cf.An-
nexe A, $ 4). Explicitons ce qui se passe dans une carte (U,cp) au voisinage de x où
+
les coordonnées locales sont (z1,. . . ,zn) avec z j = xj i y j , j = 1, . . . ,n. La fa-
mille {(d~l)~,(dy1),, . . . ,(d~,)~(dy,)~} est une base de CT,X et la base duale
a
correspondante dans @TzX est {(K)z,(&),,. . . ,(,)z,(&),a}. I1 est sou-
vent plus intéressant de considérer pour CT: X la base

. . ,(dzn)zl(dzn)z}
{ (dzï)z,(dzï)i1.
et pour CTz X la base duale associée que l’on note

On a par définition
4. Variétés analytiques complexes 45

Si f est une fonction à valeurs complexes de classe C1 sur un voisinage de z


dans X , sa différentielle dfz définit un élément de T,X qui s’écrit

n
Ou bien ( d f ) z =
i=l
%(z)(dz,), + ~ ( ~ ) ( C t z suivant
, ) , la base choisie, par
définition des bases dudes.
Un calcul simple montre que

ce qui correspond à la définition donnée au chapitre I.


Remarquons encore une fois que le fait d’associer à T,’X et à T,X leurs com-
plexifiés, c’est-à-dire de considérer des formes à valeurs complexes, ne fait pas in-
tervenir la structure de variété analytique complexe de X mais que cela peut être
fait pour n’importe quelle variété différentiable. Nous n’avons utilisé la structure de
variété analytique complexe de X que lors de l’écriture en coordonnées locales.
Terminons ce paragraphe en prouvant qu’une variété analytique complexe est
orientable. Soit X une variété analytique complexe de dimension n. D’aprèsla Pro-
position 6.2 de l’AnnexeA, X est orientable si elle possède un atlas c”, (Vi,
hi)iEl,
tel que pour tout i, j E I
> Osiz E Vi f l U j .
d i j ( z ) = det [ J ( h iO hjl)(hj(z))]
Considérons un atlas complexe (Vj,‘ p j ) j Ede ~ X . Si ‘ p j = hj +
i k j , l’ensemble
~ un atlas C” de X quivérifie pour z E Vi fl Vj
( U j ,( h j ,k j ) ) j E est

Une variété analytique complexe X est donc orientable et dans la suite de ce vo-
lume nous la munirons de l’orientation définie de la manière suivante lorsqu’un
atlas complexe (Vi,‘pi)iElde X est fixé : si ( z l ,. . . , 2,) sont des coordonnées ho-
lomorphes associées à la carte (Vi,‘pi)nous choisirons l’orientation associée à la
2n-forme différentielle
dZ1 A . . . AdZn A d 2 1 A ’ . . A d Z n

ce qui correspond à l’orientation défini par


d x l A . ‘ . A d z n A d y i A . . . A dy,
46 II. Courants,structure complexe

5. STRUCTURE COMPLEXE

Soit X une variété analytique complexe de dimension n. On va montrer que


pour tout point x E X , l'espace vectoriel réel T,'X possède une structure naturelle
d'espace vectoriel sur C.
Examinons tout d'abord le cas où X = Cn. Comme variété Coo, C? s'identi-
fie à R21n de manière naturelle, donc T,Cn = TXR2ln= R21n = C2" en repre-
nant l'identification naturelle de C" avec IR2". En identifiant ainsi T,Cn avec <c" ,
on a mis une structure de C-espace vectoriel sur T,Cln. Explicitons un peu cette
identification. Notons J : T , P -+ T,Cn l'application de multiplication par z.
C'est une application IR-linéaire qui vérifie J 2 = - Id. Dans la base usuelle de
T,C" = T,R21n,

o n a J ( ( L ) , ) = ("1, = -("),,
etJ(("),) 1 5 j 5 n.Aiors
ax, aY3 aY, ax,
( a + ib)v = av b J ( v ) .+
pour tout v E T,C" et tout nombre complexe a + ib E C
Les équations de Cauchy-Riemann homogènes, qui traduisent la @-linéarité de
(df), si f est un germe de fonction holomorphe en x,s'écrivent
( d f ) , ( J v ) = i(df),(v) pourtoutv E T,C".

Remarque :Cette relation entre la structure complexe sur T,Cn et les fonctions ho-
lomorphes, montre que J est indépendante du choix des coordonnées sur Cn . On
peut donc définir J pour des variétés analytiques complexes.

Théorème 5.1. Soit x une variété analytique complexe. Pour tout x E x , il existe
une uniqueapplicationR-linéaire J = J , : T , X + T , X telleque pour toutgerme
de fonction holomorphe en x,on ait
( d f ) , ( J v ) = i ( d f ) , ( v ) pourtoutv E T , X .
DepIus,J2 = - I d e t ( a + i b ) v = a v + b J ( v ) p o u r a + i b E C e t v ET,Xdélfinit
une structure d'espace vectoriel complexe sur T, X .

Démonstration. Prouvons tout d'abord l'unicité de l'application J .


Soient (21,. . . ,zn) un système de coordonnées holomorphes au voisinage de
z € X et (21,y1,zz,y2,.. . ,xn,yn)les coordonnées réelles sous-jacentes, pour tout
+
j = 1,.. . ,n o n a ( d z j ) , = ( d x j ) , i(dyj), soit ( d z j ) , = Re(dzj), et ( d y j ) , =
Im(dzj ), .
Calculons J ( &),pour k = 1, . . . ,n
6. Formes différentielles de type ( p , q ) 41

Puisque z j est holomorphe et dzj ( &),= b j k , on a

Par conséquent J(&), = ( %),


a et de même J ( ")%
aYk
= -( =),,
a d'où l'uni-
cité.
Définissons J par les relations ci-dessus pour des coordonnées holomorphes
(21 , . . . ,z,) fixées. D'après l'étude du cas de CY, J a les propriétés voulues et l'uni-
cité de J assure l'indépendance du choix des coordonnées. O
Étudions maintenant la relation entre les structures complexes de T,X et
CT,X. L'application J : T,X + T,X est IR-linéaire et satisfait J2= - Id, elle ne
possède donc pas de valeurs propres réelles et pour la diagonaliser on est amené à
considérer l'extension naturelle de J en une application @-linéaire,notée encore J,
de CT,X dans lui-même. Cette extension possède alors deux valeurs propres i et
-2. On notera T,ioX, le sous-espace propre associé à +i et T:l1X le sous-espace
propre associé à -2. On a
@T,X = T,>OX@ T,O>'X
Si ( z l ,. . . ,z,) est un système de coordonnées holomorphes au voisinage de x,les
vecteurs (( -)z, a
821
. . . ,( &),) forment une base de T,ioX et (( &),, . . . ,( =),a)
une base de T;i1X.
Remarquons que T,X muni de la structure de @-espacevectoriel définie par J
et X sont naturellement isomorphes par l'application qui à v fait correspondre
f (v - i J (v)). Cette application envoie la famille (( &),, . . . ,( &),) qui est une
base de T,X en tant que @-espace vectoriel sur la base ((&)z,. . . ,(=),) a de
T i , o X ; c'est donc un isomorphisme.
On définit T ' > O ( Xcomme
) la réunion disjointe pour x E X des T,)O(X) et on
note p la projection naturelle de T'>O(X)sur X .

Définition 5.2. Soient X une variété analytique complexe et A un ouvert de X . Un


champ de vecteurs holomorphe sur A est une application V : A -+ T ' i o ( X ) telle
quep O V = Id.

6. FORMES DIFFÉRENTIELLES DE TYPE ( p , q )

Soient X une variété analytique complexe de dimension n, et x un point de


X . L'existence d'une structure d'espace vectoriel complexe sur T,X nous invite à
considérer plus particulièrement les éléments de @T,X qui sont @-linéairespour
cette structure.
48 II. Courants, structure complexe

On définit l’espace des 1-formes différentielles de type (1,O) en z par


A1lO(T,*X)= { W E CT,*X I w ( J v ) = i w ( v ) , V v E CT,X}.

Exempie: Par définition de J , les différentielles (df), de germes de fonctions holo-


morphes en z sont de type (1,O).
Si (21,. . . ,zn) sont des coordonnées locales holomorphes au voisinage de z,
la famille ( ( d z l ) , , . . . , ( d z n ) z ) forme une base de A1yo(T:X). L‘espace conjugué
AoilT:X = A1>oT,X,dont une base dans les mêmes coordonnées est donnée par
( (&I),, . . . ,(&Yn),), est l’espace des formes de type (0,l) en z. On ala décompo-
sition en somme directe
CT,*X = A1’OT,*XCBAol’T,*X. (6.1)

Considérons maintenant les formes de degré supérieur. Si w est une forme diffé-
rentielle de degré T à valeurs complexes, c’est une combinaison linéaire d’éléments
de la forme w1 A . . . A wr où w j E CTZX. D’après (3.1),chaque w j , l 5 j 5 T ,
+
s’écrit w; wy avec w; E A1ioT,X et wy E AoilT,*X.Donc w est une combinai-
son linéaire d‘éléments qui s’écrivent q1 A . . . A qr où qj est soit de type ( O , l ) , soit
de type (1,O).
On dira que w est une forme différentielle de type ( p , q )ou de bidegré ( p , q )en z,
si w est combinaison linéaire d‘éléments de la forme w i i A . . .A wi, A G j , A . . .A G j q
où les w, sont des 1-formes de type (1,O) en z.
+
On note C:,,(X) le sous-espace de C:+q(X) formé des ( p q)-formes diffé-
rentielles qui sont de type ( p , q ) en chaque point. On a alors la décomposition en
somme directe
C3X) = @ cp,q(x).
p+q=r

Notons queC;,,(X) = {O} s i p o u q > n = dimê X.


Si (z1, . . . ,zn) sont des coordonnées holomorphes sur un domaine de carte U
de X, alors dzj E CTo(U)pour j = 1 , .. . ,n et toute (p,q)-forme w E C:,,(U)
s’écrit de manière unique
w = aIJdzI A &J

I4=P
IJI=q

où les U IJ sont des fonctions de classe C k sur U et où la sommation est faite sur les
multi-indices I = ( i l , . . . ,ip) et J = (j1, . . . , j q )strictement croissants.
7. Opérateurd et cohomologie de Dolbeault 49

7. OPÉRATEUR d ET COHOMOLOGIE DE DOLBEAULT

La décomposition des 1-formes différentielles sur une variété analytique com-


plexe en formes de type (0,l) et de type ( 1 , O ) va induire naturellement une décom-
position de l’opérateur d de différentiation extérieure en un opérateur de différen-
tiation holomorphe et un opérateur de différentiation antiholomorphe.
Soit X une variété analytique complexe de dimension n. Si f est une fonction
de classe C1 sur X, pour tout z E X on a

+
On peut donc écrire df = d f 8f où d f est une forme différentielle de type
(1,O) s u r X e t d f uneformedetype ( 0 , l ) s u r X .
Remarquons que la condition f E O ( X )est alors équivalente à 8f = O.
+
La décomposition d = d 8 s’étend aux formes de degré quelconque de la
manière suivante : si w E Cp’,q(X)est donnée, dans un système de coordonnées
holomorphes (21 , . . . ,zn) au voisinage de z E X, par w = a I J d z I A d Z J , on
lIl=p
IJI=q
a, par définition de d ,

dw = d ( a I j ) A dzI A d z j = (da1J + ~ C L I JA) dzr A d z J


III=p IIl=p
IJI=q IJI=q

On pose alors

dw = d ( a 1 J ) d z I A dZJ =
“ --aIJdz,
a A d z l A dZJ
IIl=p k=l 82,
IIl=p
lJI=q IJI=q
et

IJI=q

On a ainsi défini des opérateurs d et 8 sur Ci,q(X)tels que d(Ci,q(X)) soit contenu
dans Cp+l,q(X)et d(Cp’,q(X)) soit contenu dans Cp,q+l(X).

Proposition 7.1. Les opérateurs d et 8 ont les propriétés suivantes


+
a)d = d dsurC,’(X),
b) d O d = Old O d = 0,d O 8 +a
O d = O surCS,,(X),

c) d e t d commutent avec l’image réciproque.


50 II. Courants, structure complexe

Démonstration. La propriété al est une conséquence immédiate de la définition des


opérateurs d et a.
Soitw E C i , , ( X ) ,puisque d O d =O et d = d +aon a
O = ( 8 +d) O (a+a)W = ( d oa ) w + (a o d + d o a )w + ( a 0 a ) w
+
Or ( 8 O S ) w est de type ( p 2 , q ) , ( 3O O 8 + 8 û ) w est de type ( p + 1,q + 1) et
+
(8 0 3)w de type ( p , q 2), par conséquent chacun de ces termes est nul puisque
leur somme est nulle.
Soit F : X t Y une application holomorphe. Observons que si (cl,.. . ,&)
sont des coordonnées holomorphes au voisinage d’un point y E Y ,F*CJ = O F cJ
est une fonction holomorphe au voisinage de z = F-’(y) et donc P*(d(,) =
rl(<goF)estuneformedetype(1,O) etF*(ctcJ) = d ( G 0 F ) estuneformedetype
( 0 , l ) .On prouve donc en utilisant des coordonnées locales que F*(C;,,(X)) C
( X )pour tout p , q 2 O et k 2 O. Puisque d’après la Proposition 8.4 de l’Annexe
A o n a d F * = F*d, onpeutécrirepourw E C,,,(Y)
d ( F * w )+ d ( F * w )= d(F*w) = F * ( d w ) = F*(dw)+ F * ( E L )
la dernière égalité provenant de la linéarité de F * . En comparant les bidegrés, on
obtient d ( F * w ) = F * ( û w )e t d ( F * w ) = F * ( d w ) . O
L‘opérateur a que nous venons de définir s’appelle l’opérateur de Cauchy-
Riemann.
On note EP,q(X)l’espace des (p.q)-formes de classe C” sur X pour O 5 p 5
7~ etO 5 q 5 n. Ces espaces sont munis d’une topologie d‘espace de Fréchet
qui peut être caractérisée de la manière suivante : une suite ( w J ) J cd‘éléments
~
de EP)q(X)converge vers O si et seulement si pour tout domaine de carte U de X
dans lequel wgs’écrit wg = w : J d z ~A ~ Z les
J suites ( w ; J ) 3 E ~ convergent
lIl=p
IJI=q
vers zéro uniformément sur tout compact de U ainsi que toutes leurs dérivées.
L’opérateur 3 : E ~ , Q t (ExP)> ~ + ’ (est
X ) aiors un opérateur linéaire continu
et son noyau que l’on note Z p i Q ( Xest
) donc fermé.

Définition 7.2. On appelle groupes de cohomologie de Dolbeault les espaces


HP>P(X)= z”~“x)/a€P~q-’(X).

Ces espaces sont naturellement munis de la topologie quotient qui n’est en


~ ) pas toujours fermé. si ~ E P > ~ - ’ ( est
générai pas séparée car d ~ q - ’ ( n’est X)
fermé, H p > q ( Xest
) alors un espace de Fréchet.
Ces groupes caractérisent le défaut de résolubilité de l’équation de Cauchy-
Riemanndu = f pour f € z p > q ( X ) .
Terminons par la définition des groupes de cohomologie de Dolbeault avec
condition de support. On notera c la famille des compacts de X et si K est un
8. Espace tangent complexe au bord d'un domaine 51

compact d u n e variété M , @ désignera la famille des fermés de X = M \ K dont


l'adhérence dans M est compacte et Q la famille des fermés de M qui ne ren-
contrent pas K . Pour simplifier notons O l'une de ces trois familles. E O q ( X ) est
alors l'espace des (p,q)-formes de classe C" dans X dont le support appartient
à la famille O. Si 8 E O, on note E;,'(X) le sous-espace de Epiq(X) formé des
(p,q)-formes à support dans 8, on a alors E g 4 ( X ) = U &;>'(X).Remarquons
@€O
que si O est l'une des trois famiiles e, ou Q, X possède une suite exhaustive
O

(8i)iEw composée d'éléments de O (ie. X = U 8i,& c 8i+l). Les espaces


i€W
E;"(X) sont fermés dans & P ) q ( X )ce , sont donc des espaces de Fréchet et la to-
pologie de E;'(X) est la topologie la plus fine rendant continues les injections
a
E;;'(X) LJ E g q ( X ) .L'opérateur est un opérateur linéaire continu de E g q ( X )
. pose Z g q ( X )= ZPiq(X) n E e q ( X ) .
dans E g q + l ( X ) On

Définition 7.3. On appelle groupes de cohomologie de Dolbeauit à support dans O


les espaces
H g q X ) = zgy x)/aEgq- ( X ).

On munit ces groupes de la topologie quotient qui n'est pas séparée en général.
Ils caractérisent le défaut de résolubilité de l'équation de Cauchy-Riemann dans la
classe des formes à support dans la famille O.

8. ESPACE TANGENT COMPLEXEAU BORD D'UN DOMAINE

Pour introduire la notion de fonction CR (Chap. IV) et celle de domaine pseu-


doconvexe (Chap. Vi), nous aurons besoin des propriétés de l'espace tangent au
bord d'un domaine à bord lisse d u n e variété analytique complexe. L'objet de ce
paragraphe est l'étude analytique de cet espace. Nous considérons en particulier
l'influence de la structure complexe de la variété ambiante.
Dans un premier temps nous allons supposer seulement que x est une variété
différentiable de classe C".

Définition8.1. SoitD u n o u v e r t d e x , onditqueD a un borddeclasseCk,l 5 IC 5


oû,au voisinage de p E d D s'il existe un voisinage ouvert U de p dans X et une
fonction r E C k ( U )de clmseCk, à valeurs réelles telle que
U n D = {z E U I r ( z ) < O }
d r ( z ) # O, z E u.

OndiraquedD estdeclasseCk, s'ilestdeclasseCk au voisinagedechacundeses


points. Unefonction r E C k ( U )qui satisfait (8.1) est appelée fonction définissante
pour D en p. Si U est un voisinage de d D , T est une fonction définissante globale.
52 Il. Courants, structure complexe

Lemme 8.2. Soient r1 et 7-2 deux fonctions défnissantes pour D , de classe C‘ sur
un voisinage U de p E dD. Alors il existe une fonction strictement positive h E
C“l ( U ) telle que
r1 =hr2 surU
(8.2) pourz E U n BD.
drl(z)= h(z)dr2(z)

Démonstration. Remarquons que h est unique puisqu’elle est continue sur U et


2
qu’eile coïncide avec sur U \ dD.
On peut supposer, sans perte de généralité, que U est contenu dans un domaine
de carte de X . Soit q E U n dD fixé.Choisissons des coordonnées sur U pour que
q = O et U n d D = {z E Rn I z, = O} et supposons que r2(x) = IC,. Pour
z’ = (xi ,...,z,-l)voisindeO,onarl(x’,O) = Oetdonc

Posons h ( z ) = 1: $(x’,tz,)dt, c’est une fonction de classe Ck-l sur U qui


satisfait 7-1 = hr2 sur U .
Si IC 2 2, on a drl(z) = r2(z)dh(z)+ h(z)drZ(z)= h(z)dr~(x)si z E
u n dD.
Si IC = 1,q ( x ) = h(z)r~(z)= (h(z)- h(x1,0))r2(z)h(z1,0)r2(z)+ et donc
+
r1(z) = h(z’,O)drz(z’,O)o(x,) lorsque x, tend vers O, car h est continu sur U
et r2(z’,0) = O. On en déduit donc que drl(z) = h(z)drz(z)si z E U n dD.

il reste à prouver que h est strictement positive sur U . Comme h = 2


sur U\ D ,
h est strictement positive sur U \ D car 7-1 et r-2 sont des fonctions définissantes.
Puisque drl(z) # O sur U et drl(z) = h(z)dr2(x)sur U n dD, h ne s’annule pas
sur U n dD. La fonction h étant continue sur U , elle est donc strictement positive
sur U . O
Si D est un domaine à bord Ck au voisinage de p E dD, d D est alors une va-
riété différentiable de classe Ck au voisinage de p . On peut donc considérer l’espace
tangentTp(dD) e n p à d D .

Proposition8.3. Si T est une fonction défnissante pour D enp, on a


(8.3) Tp(dD) = {I E T u ( X ) I d T ( P ) ( I )= 0).
Si ( 2 1 , . . . ,xn) sont des coordonnées locales de X au voisinage de p , alors <E
Tp( d o ) si et seulement si

Démonstration. Soit U un voisinage de p tel que


d D n U = {z E U I . ( E ) < O} et dr(z)# O s i z E U.
8. Espace tangent complexe au bord d’un domaine 53

Notons i l’inclusion de d D n U dans X , elle induit une application injective


d i : T p ( d D ) T p ( X )telle que si a est une courbe dans d D passant par p repré-
sentant le vecteur v E Tp(dD),E= di(v)est la classe de i 0 a. Puisque l’image de
a est contenue dans d D , on a r O i O a O et donc
d
d r ( p ) ( < )= -(T O i O a)(O)= O
dt
ce qui prouve que après identification de T p ( d D )avec di(Tp(ûD))
(8.4) T P ( W c { E E T P ( X ) I d r ( p ) ( E ) = 0).
Comme de plus les deux membres de la relation (8.4) sont des espaces vectoriels
de dimension n - 1,l’inclusion dans (8.4) est une égalité. O

Remarque :La relation (8.3) montre que l’on peut identifier T p ( d D )avec les déri-
vées directionnelles en p qui sont nulles sur r.
Supposons maintenant que X est une variété analytique complexe de dimen-
sion n et D un ouvert de X à bord C k au voisinage de p E dD. La structure com-
plexe de X induit une structure supplémentaire sur Tp( d o ) .
Comme nous venons de le voir on peut identifier T p ( d D )à un sous-espace vec-
. J est la structure complexe sur
toriel réel de dimension réelle 2n - 1 de T p ( X ) Si
Tp( X ) ,on peut considérer JT, ( d o ) ,c’est également un sous-espace vectoriel réel
de dimension réelle 2n - 1de Tp( X )et donc
) T , ( ~ D )n J T , ( ~ D )
T;(~D=
est un sous-espace vectoriel réel de dimension réelle 2n - 2 de T p ( X )stable par
J ; c’est donc un sous-espace vectoriel complexe de T p ( X )de dimension com-
plexe n - 1. Remarquons que T:(dD) # {O) si et seulement si n 2 2. L‘espace
T F ( d D )est appelé espace tangent complexe en p à dD. Si l’on identifie Tp(X)
muni de la structure complexe J avec T,’,o(X),T:(ûD) est un sous-espace vecto-
riel de T’>O(X).

Proposition 8.4. Sir est une fonction déjînissante pour D enp E d D , on a


T ! ( d D )= {t E T,”O(X) I dr(p)(t) = O).
Si ( z 1 , . . . ,zn) sont des coordonnées holomorphes locales de X au voisinage de p
alors t E T: ( d o )si et seulement si

Démonstration. Puisque la fonction r est à valeurs réelles on a


dr(p)= dr(p) + dr(p) = 2 Re dr(p).
Par définition de T F ( d D )= T p ( d D )n J T p ( d D )et d‘après (8.3)
T Z ( d D )= {t E T,”O(X) I dr(p)(t) = dr(p)(Jt) = O).
54 II. Courants, structure complexe

Mais d r ( p ) étant une (1,O) -forme différentielle en p on a dr ( p )( J t ) = idr ( p )( t )


et donc
Re (dr(p)(Jt))= - I m d r ( p ) ( t ) .
On en déduit que
T:(dD) = { t E T,’l0(X) I R e d r ( p ) ( t )= Imdr(p)(t) = O}
= {t E T,’>O(X)I d r ( p ) ( t )= O}. O

Soit CTP( d o ) le complexifié de T,(dD),Tf(dD)


est un sous-espace vectoriel
de dimension n - 1 de CTp( d o ) .

Définition 8.5. L‘espace vectoriel Til1( d o ) = T F ( d D ) ,le sous-espace conjugué


de Tf ( d o ) dans CTp( d o ) ,est appelé espace des opérateurs de Cauchy-Riemann
tangentiels e n p E dD.
Remarquons que, si T est une fonction définissante pour d D en p et si on note
(z1,. . . ,zn) des coordonnées locales holomorphes sur X au voisinage de p , un vec-
teur T E Tp”>’ ( d o ) si et seulement si

Exemple: Si n = 2, T i > ’ ( d D est


) un C-espace vectoriel de dimension 1 engendré

Commentaires. La théorie des courants est développée dans les livres de Schwartz
[SC]et de de Rham [Rh].La régularisation dans les variétés et la théorie de l’indice de
Kronecker sont traitées également dans le livre de de Rham [Rh].Des précisions sur
l’indice de Kronecker peuvent être trouvées dans IL-TU. Pour écrire les paragraphes
4 à 8 de ce chapitre j’ai utilisé l’exposé des notions correspondantes du paragraphe 2
du chapitre III et d u paragraphe 2 du chapitre II du livre de M. Range [Ra].Pour u n
exposé plus complet, le lecteur intéressé pourra consulter le livre de R. Narasimhan
iNd1.
Chapitre III

Noyau et formule de
Bochner-Martinelli-Koppelman
Applications

Nous définissons dans ce chapitre un des outils fondamentaux de la théorie des repré-
sentations intégrales en analyse complexe : le noyau de Bochner-Martinelli-Koppelman.
Ce noyau est une généralisation du noyau de Cauchy à en.II nous permet de démon-
trer une formule de représentation intégrale, la formule de Bochner-Martinelli-Koppelinan,
qui étend la formule de Cauchy aux formes différentielles de type ( p , q ) dans en. Cette
formule joue un rôle important dans l’étude de l’opérateur 8. Elle nous pennet d’obtenir
nos premiers résultats sur la résolubilité de l’équation de Cauchy-Riemann dans e” en
considérant le cas où le second membre est à support compact. Le phénomène de Hartogs,
dont nous avons prouvé un cas particulier au chapitre I, est une conséquence de l’existence
d’une solution à support compact de l’équation de Cauchy-Riemann si ??, 2 2 et si le se-
cond membre est de bidegré ( 0 , l ) et à support compact. Les relations entre l’annulation
des groupes de cohomologie de Dolbeault à support compact en bidegré (0,I) et le phé-
nomène de Hartogs seront précisées au chapitre V. Nous utilisons également-
la formule de
Bochner-Martinelli-Koppelman pour étudier la régularité de l’opérateur 8 en prouvant un
théorème d’hypoellipticité holdérienne.

1. NOYAU ET FORMULE DE BOCHNER-MARTINELLI-KOPPELMAN

n
Pour (<,q)E en x en,on pose (<,q)= & q J .On considère l’ensemble E
j=1
défini par E = ( ( 6 , ~ ) E en x en I # O}, et sur l’ouvert E on définit la
(<,77)
forme différentielle ,LL par p(<,q) = ( < , ~ ) - ~ w ’ ( <A) ~ ( 7 1 avec
)

n
w ( q ) =d711A...Adqn et = C ( - l ) S - ’ E , d < l A . . . A d ~ j ~ . . .~~~,
w’(<) ~d
j=1
56 Ill. Noyau et formule de Bochner-Martinelli-Koppelman

où d& signifie que l'on a supprimé le terme d t j .

Lemme 1.1. Laformedifférentiellep vér@edp = O s u r E .

Démonstration. Calculons d p .

dP = n K , v ) - " w ( E ) A 477)- n(t>v)-"-1d((t,77))A 4)


A 477).

Comme d( (<,q))A w'(<)A w ( q ) = (<,q)w(E)A w ( ~ )on


, a bien d p = O.
On note A la diagonale de @" x Cn. L'application d de @" x C" \ A dans
Cn x @" définie par S(<,z) = ( c - Z , < - z ) a donc son image dans E. On considère
alors la forme différentielle S*p, eile est de classe C" sur @" x û? \ A et fermée
puisque p est fermée.

Définition 1.2. On appelle noyau de Bochner-Martinelli-Koppelman la forme diffé-


rentielle sur Cn x en \ A définie par B = m
(n-i)!
d * p . On a

On pose B = B i , où BC est de type ( p , q ) en z et ( n - p , n - q - 1) en <.


OlPln
Olqin-1
On pose également BPI = O.

Lemme 1.3. Pour tout(z,<) E C" x C" \ A, on a


- -
dB(z,<)= O et û,BQ(z,<)= -d<B;+,(z,<).
En particulierd<Bt(z,<)= O.

Démonstration. Notons ~ B (z) M la forme différentielle de classe C" sur @" privé
de O définie par k g ~ ( z=) k( "Z pi-Tl ))(!T , z ) .C'est une (n,n- 1)-forme et par consé-
quent d k = ~ dkBM. ~ Remarquons que B = kg^ où r est l'application holo-
<
morphe de Cn x Cn dans C" ,(z,<) I-+ - z . On en déduit donc que dB = d B .
Comme B = -(n-l)!
( j2*i p~e) t d p = O o n a d o n c d B = d B = O. Onobtientla
seconde relation en comparant les bidegrés. O

On peut donner une autre écriture de B en utilisant la notion de déterminant


sur une algèbre. Si d est une algèbre quelconque (par exemple l'algèbre des formes
différentielles) et si A = ( a i j ) l l i l n est une matrice d'ordre n à coefficients dans
lljin
d,on pose
det A = W a o ( l ) , l . .'a<r(n),n
UE8"
I. Noyau et formule de Bochner-Martinelli-Koppefrnan 57

où G, est le groupe des permutations de { 1, . . . ,n} et € ( a )la signature de la per-


mutation o. Ce déterminant a les propriétés suivantes :
(il det A dépend linéairement des colonnes de A pour des combinaisons li-
néaires à coefficients dans le centre de d .
(ii) Si pour des entiers IC et C, 1 5 k < C 5 n, = bkci et aie = beci pour tout
z E { 1, . . . ,n},où b k et be sont des éléments quelconques de A et où les ci sont
dans le centre de A, alors det A = O.
On peut alors écrire

-
ti dti ...dti
1
w'(<) = ~ det
( n - l)!

ce que l'on notera encore


1
w'(<) = det(6, 4 1.
( n - l)! v
~

-
n-1

On en déduit l'écriture suivante du noyau de Bochner-Martinelli-Koppelman


n-1

1 det(T - Z, dC - &) A u ( < - z )


IC - zIZn

Remarque :Observons que pour n = 1,on a BOO(z,C)= & &.C'est le noyau de


Cauchy usuel.

Proposition 1.4. Le noyau de Bochner-Martinelli-KoppelmanB est une forme dif-


férentielle localement intégrable sur Cn x Cn qui définit un courant que l'on note
encore B satisfaisant
(1.2) dB = dB = [A]
où [A] est le courant d'intégration sur la diagonale A de Cn x 67'.

Démonstration. Soient T : @" x --+ <cn l'application (z,<)I+ c - z et ~ B la


M
forme différentielle de classe C" sur Cn \ {O} définie par

\Y"" J T "
j=l

Les coefficients de ICBM sont localement intégrables dans Cn car ce sont des
O( I x I - ~ ~ + ' )
et par conséquent ICBM définit un courant sur C".Remarquons que
58 III. Noyau et formule de Bochner-Martinelli-Koppelman

et donc

(n-Z)! 1
On reconnaît alors la solution fondamentale du Laplacien E ( z ) =
1213n-2,
z E C", d'où
-
(1.3) dkBM = d k = [O] ~ ~
où [O] est le courant d'intégration en O, c'est-à-dire la masse de Dirac en O. Ob-
servons que B = T*ICBM et B est donc localement sommable sur Cn x Cn et
définit un courant que l'on note encore B. En considérant les images réciproques
des courants ~ B M et [O] par la projection 7 ,on déduit de (1.3) le résultat suivant
dB = dB = d ( ~ * k g=~~ ) * ( a k g ~ )
= T * [ O ] = [ T - ' ( O ) ] = [A]. O

Nous allons prouver maintenant que si K est un courant sur C" x C" défini
par une forme différentielle localement intégrable et de classe C" sur Cn x C" \ A
qui satisfait dK = [A], on peut lui associer une formule de représentation inté-
grale. En choisissant K = B,nous obtiendrons la formule de Bochner-Martinelli-
Koppelman.

Théorème 1.5. Soit K un courant sur C" x C" dé.fini par une forme différentielle
localement intégrableetdeclassec" sur@" x @" \ A , qui vérifiedK = [A]. Soient
D un domaine borné de C" à ffontière de classe C 1 et f une forme différentielle de
degrér, de classeCm sur). Alors

où d , est calculé au sens des courants.

Démonstration. Nous allons appliquer la formule de Stokes pour l'indice de Kro-


necker de deux courants (Chap. II, Cor. 3.7) aux deux courants T = [ D x D ] et
S = f(<) A K(z,C)A g(z) où g est une (271 - r)-forme différentielle à support
compact dans D.
Remarquons que SS(bT) = ( d D x D ) U ( D x a D ) et que SS(dS) est contenu
dansSS(S) = AnT;l(suppg), o ù ~ estlapremièreprojectionde@"
c xCn dans
C". Par conséquent, puisque g est à support compact dans D , SS(bT)et S S ( d S )
ne se rencontrent pas et nous avons K(bT,S) = K(T,dS).Calculons chacun des
membres de cette égalité :
K(bT,S) = q [ a D x Dl + [ D x a D ] , f ( c A) K(z,C)A g ( 4 )
r
1. Noyau et formule de Bochner-Martinelli-Koppelrnan 59

car g est à support compact dans D. D'autre part

d S = d c f ( C ) A K ( z ,C) A g(z)+(-l)'f(C) A [Al A d z )


+(-q'+lf(C) A K ( z ,C) A d C d 4
on a donc

U T ,dS) = LXD d c f ( C ) A K ( z ,C) A 9 ( z )

/
+(-1)'K([D x DI, f ( C > ~ [ A l ~ 9 ( z ) ) + ( - l ) r + 1
DxD
f(CNK(z7 C)Adzg(z)

car K est localement intégrable sur D x D et (A n nF1(supp 9 ) )ne rencontre pas


S S ( [ Dx O]).
De plus, par définition de [A] et puisque le support de f(<) A [A] A g ( z ) est
relativement compact dans D x D ,

Finalement

d'où l'égalité au sens des courants sur D

Si z $! D, la forme différentielle f(<) A K ( z ,C) est de classe C"" sur et on a


d K ( z ,C) = d z K ( z ,C) + d c K ( z ,C) = O. Onobtient alorsle résultat en appliquant
la formule de Stokes classique (cf Annexe A, Th. 7.1). O

Remarques 1.6
1) Observons que grâce au Théorème de Fubini la formule (1.5) s'écrit encore

(1.6)

pour toute forme différentielle g de degré (2n-r), de classe C" à support compact
dans D.
60 1II. Noyau et formule de Bochner-Martinelli-Koppelman

2) Le Théorème 1.5 reste vrai si D est un domaine à bord de classe C1 par mor-
e
ceaux comme dans la Remarque 7.2 2) de l'annexe A. On pose alors [all]= [S:].
i=l

<
3) Puisque pour tout E Cn, la forme différentielle z ct K(z,<)est localement
intégrable et continue sur Cn \ {<} les formes différentielles

sont continues sur Cn. La formule (1.6) a donc encore un sens dans le cas où f
- une forme différentielle continue sur D telle que df soit encore continue sur
est
D. Nous allons la prouver dans ce cadre. Si f est une forme différentielle continue
sur D telle que df soit encore continue sur D, nous allons construire une famille
(fE)~<E<EO de formes différentielles continues à support compact dans Cn telles
que les formes dfE soient aussi continues à support compact dans C" et les familles
( f E ) O < E < E O et (dfE)O<E<Eoconvergent uniformément sur D vers f et df respecti-
vement.
<
Pour tout i E d D , on note B ( J , r )la boule de centre et de rayon T et uc la
normale extérieure en E à dD. Choisissons T et EO assez petits pour que ( d D n
B ( < , T )-) tvc soit contenu dans D pour tout t E]O,E]. Notons U 1 , . . . ,Upun sous
recouvrement fini de d D par de telles boules et UOun ouvert relativement compact
dans D tel que (Uo,Ul,.. . ,Up)forme un recouvrement de D. Soit (xj)osjspune
famille de fonctions de classe C", à support compact dans Cn, à valeurs positives,
P
telles que supp xj c Uj et xj = 1sur D. On définit fE par
j=O

P
fE(2) = xo(z)f(-z) + xj(z)f(z - EVj).
j=i

Si E € ] O , E O [ , f E est une forme continue à support compact dans un voisinage de


D et grâce à la continuité uniforme de f sur D, la famille ( f E ) ~ < E < E O converge
uniformément vers f sur D. De plus
P
d f E ( 4 = xo(z)df(z) + Xj(4df(Z - E V j ) + dxo(z) A f ( z )
j-1
P

j=l

Les formes différentielles dfE sont continues à support compact au voisinage de


-
D pour [ grâce à la continuité uniforme de f et df sur D, la famille
E ~ ] O , E Oet
(dfE)o<E<Eoconverge uniformément vers df sur D.
En régularisant les formes différentielles f E par convolution, on obtient une
famille ( f E ) ~ < E < E o de formes différentielles de classe C" dans C* telles que
(fE)O<E<EO converge uniformément vers f sur D et (dfE)O<E<EO converge uni-
formément vers df sur D quand E tend vers O. Les courants ( [ d o ]A f E ) O < E < E o t
2. Résolubilité du 3 pour une donnée à support compact 61

([DI A dfE)O<E<EO et ([DI A f E ) ~ < E < E O convergent dors respectivement vers


[aD]A f , [ D ]A df et [Dl A f pour la topologie faible des courants d’ordre nul. Par
conséquent la formule (1.6) et donc la formule (1.4) s’étend au cas où f et df sont
seulement continues sur 0.

Théorème 1.7. Formule de Bochner-Martinelli-Koppelman. Soient D un domaine


borné de Cn à bord de classel‘, f une ( p , q )-forme différentielle continue surD telle
quedf soitaussicontinuesurn ( O 5 p 5 n,O 5 q 5 n ) .Alors
r r

où 8, est calculé au sens des courants.

Démonstration. C’est une conséquence immédiate du Théorème 1.5 et de la


Remarque 1.6, où l’on a remplacé K par le noyau B de Bochner-Martinelli-
Koppelman. Des considérations de bidegré permettent de remplacer l’opérateur d
par 8 et le noyau B par les BC. O

D U 3 POUR UNE DONNÉE À SUPPORT COMPACT


2. R~SOLUBILITÉ

Soit D un ouvert de IRn. Pour tout réel a,O < a < 1, et pour toute fonction
f:D+C on définit la norme holdérienne d’ordre a de f sur D par

xfx’

L‘ensemble A a ( D )= {f : D + C I if la,^ < +a} est l’espace vectoriel des


fonctions holdérienne d’ordre a sur D. C’est un espace de Banach. Toute fonction
f de A a ( D )est bornée et uniformément continue sur D. On note C a ( D ) ,l’espace
des fonctions continues dans D telles que if la,^ < +oo pour tout compact K de
D et si k est un entier, Ck+a(D)désigne l’espace des fonctions de classe C k dans
D dont toutes les dérivées partielles d’ordre k sont dans Ca ( D ) .
Si D est un ouvert de û? , on notera ( D )l’espace des formes différentielles
de type ( p , q ) dont les coefficients sont dans Ck+Q(D).Si f E CF,,(D) s’écrit
f = fIjdZI A d Z j où I = ( i l , .. . ,ip), 21 < . . . < i,, et J = ( j l , .. . ,jq),
I,J
j, < . . . < jp,
on définit la norme holdérienne d‘ordre a de f sur D par if la,^ =
S~PI,J I~I,J~~,D.
Soit B le noyau de Bochner-Martinelli-Koppelman défini au paragraphe 1 et D
un domaine borné à bord de classe C’. Si f est une forme différentielle bornée
62 Ill. Noyau et formule de Bochner-Martinelli-Koppelrnan

définie sur ô D , on pose, pour z E D ,

La forme différentielle E a D f est de classeCm dans D. Notons que pour des raisons
de bidegré, si f est de type ( p , q ) avec O 5 p 5 n et 1 5 q 5 n - 1,aiors

-
et B a D f = O si q = n.

Si f est une forme différentielle bornée définie sur D , on pose, pour z E D ,

-
Puisque B a une singularité intégrable en C = z , la forme différentielle BDf est
bien définie sur D.
Remarquons égaiement que si f est de type ( p , q ) ,on a

-
et en particulier Bof = O si q = O.

Proposition 2.1. Soit D un ouvert borné de CG" . Alors


1) pour touteforme différentielle f bornée sur D , la forme différentielle B D f est
de classeCa dans D pour touta,O < (Y < 1.
De plus, pour tout Q ,O < Q < 1, il existe une constante Ca telle que pour toute
forme différentielle f bornée sur D , on ait
I

l B D f la,D 5 calfI0,D
2) si f est une forme dflérentielle bornée de classe c k ,alors E D f est de classe
Ck+a dans D pour toutcu, O < Q < 1.

Démonstration. Par définition du noyau B (cf formule (1.1))il existe une constante
C telle que

où ozn désigne la mesure de Lebesgue sur R2".

Lemme 2.2. Soient n 2 1, un entier et R un réel strictement positif Il existe une


constante C telle que pour tous s et t E IRn tels que Is1 5 R et It1 5 R
2. Résolubilité du a pour une donnée a support compact 63

Démonstration du lemme. Pour s et t E R" fixés tels que (SI 5 R et It1 5 R,


considérons les ensembles suivants :

I C'lt - SI
en intégrant en coordonnées sphériques. De manière analogue on a

Par conséquent, puisque It/ I R et Is1 5 R, on a

Fin de la démonstration de la proposition. Grâce au lemme on a donc

I&f(z) - &f(I)I Iclfl0,Dlz - Cl1 b l z - I l l .


Comme pour tout (Y , a sup,,EED Iz - I I ' - ~ ( log Iz
E ] o , ~ [on II <
- +qle
résultat de i) est démontré.
64 III. Noyau et formule de Bochner-Martinelli-Koppelman

Supposons que f est bornée dans D et de classe C k , fixons z E D et prouvons


que BDf est de classe Ck+a au voisinage de z. Soit x E D ( D ) telle que x 1 sur =
un voisinage U, de z. Alors 5
, (1-x )f est de classe C" dans U, car B est de classe
C" sur Cn x Cn\ A. I1 suffit donc de prouver que -B Df est ~ de classe C k + a dans
U,. Supposons que f soit une (p,q)-forme, alors B D X f (e)
= JCED x(<)
f (C) A
B;-l(<lC).Posonsf (0
= fIJ(C)dCI A d'TJ
lIl=p
IJI=q

B;-~(<,<)
= BKLMNKK A CM A &L A d < N .
lKl=n-q-2
IL 1=q- 1
IMI=n-p
INI=P

On a alors B Df ( ~E ) = C L , N h L , N d f L A d<N où

Puisque x est à support compact dans D

A d c K A dCM.

+
Comme B = r * k B M les fonctions B K L M N ( < , <<) sont indépendantes de et <
localement intégrable en C. On peut alors dériver k fois sous le signe puisque fs,
est de classe C k , ce qui prouve que Box f est de classe C k et on a pour =k [VI
D ' h ~ (E)=
, ~

On déduit alors de la définition de B K L M N


qu'il existe une constante C telle que
pour tout t 1 w E D

ID'hLN(<) -D"hLN(W)I < CSuP I c D U ( x f I J ) ( C ) I


CED I , J

et on conclut comme dans la preuve de 1). O

Théorème 2.3. Soit D un domaine borné de C?' à bord de classe C' et f une (plq)-
formedifférentiellecontinuesurD tellequedf soitaussicontinuesurD,û 5 p 5 n,
2. Résolubilité du 8 pour une donnée à support compact 65

- -
O 5 q 5 n. Alors les formes d@érentielles Ba0 f , Bod f , E D f et a i i D f sont
continues dans D et on a

(2.5) (-l)p+'f = EaDf - E D 8 f +aBDf dansD.


- -
Démonstration. La régularité des formes différentielles E a D f , Bod f et E D f ré-
suite de la Proposition 2.1. D'après le Théorème 1.7 l'égalité (2.5) est vraie au sens
des courants, mais puisque les formes différentielles i i a f~,BDdf et f sont Conti-
I -

nues, aiors dBD f est continue. O

Corollaire 2.4. Formule de Bochner-Martinelli. Soient D un domaine borné à bord


C' dans U? et f une fonction de classeCl s u r D alors

lEaD
(0 m.,o
f A -L D
Si f est holomorphe dans D et continue dans D
8~f (0
A B;(z,[)= f (2) S ~ E
Z D.

/.
f (<) A BE(z,<)
= f ( z ) siz E D.
J,,aD

Observons que si n = 1,le Corollaire 2.4 n'est autre que la formule de Cauchy-
Green et la formule de Cauchy dans C.

Corollaire 2.5.
1) Soient q un entier tel que 1 5 q 5 n - 1 et f E Ci,q(C?) une (p,q)-forme
différentielle de classe C k ,k 2 O, a-fermée, à support compact dans C? . Alors il
existe une ( p , q - 1)-formedifférentielleu de classeCk++a,pour t o u t a ~ ] 0 , 1 [telle
,
que au = f dans C".
2) Si D est un domaine borné à bord C1 de C" , pour toute ( p , n )-forme f dans
Ci,"@), il existe une ( p , n - 1)-forme différentielle u de classe sur D, pour
touta E]O,l[,tellequedu = f dansD.

Démonstration. Prouvons l'assertion 1). Soit D un domaine borné à bord C' de C"
tel que D contienne le support de f.Appliquons le Théorème 2.3, on a alors
( - i ) p + q j ( z ) = diiD f (z)si z E D
car Bao f = - BDd f = O puisque f est d-fermée a support compact dans D . Po-
sons u ( z ) = BD f ( z ) = JCEcnf (<) A B:-l(zl<),
u est une forme de classe
pour tout a E ] o , ~ [cïaprès
, ia Proposition 2.1 et satisfait au = f sur P .
Prouvons l'assertion 2). Observons que BE = O pour tout p E {O, . . . ,n} et par
conséquent il résulte de la formule de Bochner-Martinelli-Koppelman que
-
(-l)p+"f(z) =ô, f ( < ) ~ B n - , ( z , < ) s i zD~
L D
66 III. Noyau et formule de Bochner-Martinelli-Koppelrnan

cette égalité étant prise au sens des courants si f est seulement continue. Posons
u ( z )= scED f (C) A B ~ _ , ( z , C u
) ,est la solution cherchée et u E pour tout
Q ~ ] 0 , 1 [d'après
, la Proposition2.1. O

Exemple :Supposons que n = q = 1. Si D est un domaine borné à bord C1 de C et


f une fonction de classe C k,k 2 O, sur D, l'équation aux dérivées partielles
a
-u= f
az
possède une solution uo de classe pour tout Q E]0,1[,donnée par

Pour obtenir ce résultat, il suffit d'appliquer l'assertion 21 du Corollaire 2.5 à la


(0,l)-forme différentielle f(z)&. La solution générale de l'équation (*) est alors
+
donnée paru = u~ h où h est holomorphe dans D.

3. RÉGULARITÉ DU 8

Nous allons étendre la formule de Bochner-Martinelli-Koppelman aux courants


à support compact et nous en déduirons un résultat d'hypoellipticité holdérienne
pour l'opérateur a.
On note toujours B(z,C)le noyau de Bochner-Martinelli-Koppelman dans C" .
Si f est une forme différentielle continue à support compact dans C" on pose pour
z E C"

Lemme 3.1. L'application &n est linéaire continue de V. (a?) dans C F (C"). De
plus si f est une ( p , q )-forme différentielle, Ecn f est de bidegré ( p , q - 1).

Démonstration. On déduit aisément de la Proposition 2.1 que Bp


f est une forme
différentielle de classe C", si f est de classe C". Remarquons que si f est de type
(p,q), f ( z ) = ScEcnf ( C ) A Bq_,(z,C)et donc &n f est de bidegré ( P A - 1).
Soit f E Ds(Cn), nous noterons D"Pf la forme différentielle
- obtenue en
remplaçant les coefficients f I J de f par leur dérivée Dao f I J . En reprenant la
démonstration de la Proposition 2.1 on montre facilement que D a p ( E pf ) =
-
B C n ( D a p f ) .Comme de plus (Bcnf lo,@ 5 C(supp f ) l f l o , p cela prouve la
continuité de & , car une suite de formes différentielles à support compact
converge vers O dans VD,(Cn)si tous les termes de la suite sont à support dans
3. Régularité du a 67

un même compact et si elle converge uniformément vers O ainsi que les suites de
ses dérivées. o
Si T est un courant à support compact dans C* on peut définir S'T en posant

(3.1) (B'T,cp) = (T,& 'p) = (T, 1 CEP


cp(C) A B(.,<))
pour toute 'p E D , ( C ) ; c'est un courant sur Cn.Remarquons que si T est de
bidegré ( p , q ) ,B'T est de bidegré ( p , q - 1).

Proposition 3.2. Soit f une ( p , q )-forme différentielle continue à support compact


dans e", notons T f le courant défini par f . Alors
-
B'Tf = (-l)P+"-'Bp f .

Proposition 3.3. Pour tout courant T à support compact dans C" , le courant B'T
est de classeCm sur C" \ supp T . Plus précisément il existe une forme différentielle
f à coeficients de classeCm dans C" \ supp T telle que
"TIC" \supp T =Tf.

Démonstration. I1 suffit de trouver une telle forme f pour tout ouvert U relative-
ment compact dans C* \ supp T . Fixons un tel U . Soit x une fonction de classe
x
C" dans Cn telle que = 1 dans un voisinage de supp T et x = O dans un voisi-
nage de Ü. Si cp E De( V ) par
, définition de B'T on a
68 Ill. Noyau et formule de Bochner-Martinelli-Koppelman

carx(z)(l-x(C))B(z,Ç) est uneformedifférelitielle declassec” surunvoisinage


de supp T x Cn . Par conséquent Ê?T coïncide sur U avec la forme différentielle
) est de classe C”.
( ct ( T , X ( z ) ( l - x ( C ) ) B ( z , < )qui O
A l’aide de l’opérateur B I , nous pouvons prouver une formule de Bochner-
Martinelli-Koppelmanpour les courants à support compact.

Théorème 3.4. Pour tout courant T à support compact dans Cn, on a la formule de
représentation suivante :

(3.2) T = - (B‘dT + dB‘T).


Démonstration. Supposons que T est de bidegré ( p , q ) et considérons une forme
cp E 2>n-,,n-,(Cn). D’après la formule (2.5) on ala représentation

(3.3) (-1)p+qp = dEp p - Bcndp


car cp est à support compact. Appliquons T aux deux membres de (3.3), on obtient

d’où le théorème. O
On peut alors déduire de cette formule un résultat de régularité pour l’opérateur
de Cauchy-Riemann.

Théorème 3.5. Soient X une variété analytique complexe et T u n courant de degré


O sur X . Si dT = T f ,où f est une (O,l)-formediflérentielle de classe C k sur X ,
IC = O , 1 , . . . ,CO, alors
T = T,, o ù g E n P+*(x).
O<a<l

En particulier sidT = O alors T = Th où h est une fonction holomorphe sur X .

Démonstration. Puisque l’assertion est locale on peut supposer que X est un ouvert
de C“ . II suffit alors de prouver que pour tout ouvert U CC X , il existe une fonction
g E n
O<a<l
Ck+Q(U) telle que T = Tg sur U . Soit x une fonction C” à support
compact dans X telle que x = 1 sur un voisinage de Ü. Appliquons la formule
(3.2) à x T , on obtient

-xT = B ’ ( d ( x T ) ) = B’(Tdx) + B’(xTf)


I _

(3.4)
car T est de degré O. Puisque supp(Tdx) CC U , il résulte de la Proposition 3.3
que g’(Tdx) = T,, oùg1 E C””(U).De plus g ’ ( x T f )coïncide avec 6, ( x f )
d’après la Proposition 3.2, par conséquent B’(xTf) E 0
Ck+”(C?) d‘après
O<a<l
4. Phénomène de Hartogs 69

la Proposition 2.1. Posons g = g1 + B'(xTf)IU ' On déduit alors de (3.4) que


TIu = Tg. O

Remarques 3.6
1) Le Théorème 3.5 est encore vrai lorsque T est un courant de bidegré ( p ,O),
car une ( p , 0)-forme différentielle d-fermée est à coefficients holomorphes donc de
classe C".
2) Si on remplace le courant T de degré O du Théorème 3.5 par un courant de
bidegré ( p , q ) , q 2 1, on montrera au chapitre V, 3 5, le résultat suivant : il existe
g E n
O<a<l
C,",z*(X) telle que dT = dTg,c'est-à-dire que si l'équation du =
f ,f E CP,,+,(X), possède une solution au sens des courants elle possède une
solution de classe pour tout (Y ~ ] 0 , 1 [ .

4. PH~NOMÈNE DE HARTOGS

Le but de ce paragraphe est de prouver que si D est un ouvert de @" , n 2 2, et


K un compact de D tel que D \ K soit connexe, toute fonction holomorphe dans
D \ K se prolonge holomorphiquement à D tout entier. Au chapitre I nous avons
prouvé ce résultat dans le cas où D est un polydisque de @" , n 2 2.
Commençons par préciser le Corollaire 2.5 lorsque f est une (O, 1)-forme.

Théorème 4.1. Soit f E Cg,l(ccZ) une (O, 1)-formedifférentiellede classeCk, k 2


O, d-fermée, à support compact dans Cn, n 2 2 . Alors il existe une fonction u de
classeCk+", pour t o u t a E]O,l[, à supportcompact telle que& = f sur(Cn. De
plus u est donnée par la représentation intégrale

Démonstration. Nous avons déjà prouvé dans le Corollaire 2.5 que la fonction u
donnée par (4.1) est une solution de classe Ck+a de l'équation du = f sur @
., I1
reste donc à montrer que u est à support compact dans P.Remarquons que u est
holomorphe en dehors du support de f car du = f. De plus si u est donnée par la
relation (4. I)

ce qui implique que u(z ) 4 O quand IzI tend vers l'infini.


Pour z E P,n 2 2, posons z = (2,z,) où z' E @"-l et z, E @. Puisque le
support de f est compact il existe R > O tel que si Jz'J> R, l'ensemble ( 2 ) x C
ne rencontre pas le support de f . Fixons un tel z', alors la fonction z, C ) u(z', z,)
70 III. Noyau et formule de Bochner-Martinelli-Koppelman

est holomorphe et tend vers O quand 12, I tend vers l'infini. D'après le Théorème
de Liouville elle est donc identiquement nulle. Nous avons donc montré que u est
nulie sur l'ouvert { z' E Cn I 12'1 > R}x C du complémentaire de supp f. Puisque
u est holomorphe sur C" \ supp f ,elle est donc identiquement nulle sur la com-
posante connexe non bornée de Cn \ supp f,ce qui prouve que IL est à support
compact. O

Remarque :Le Théorème 4.1 est faux pour n = 1. Cela résulte du fait plus général
suivant : si f est une (0,n)-formedifférentielle continue, d-fermée, à support com-
pact dans Cn ,l'équation du = f n'a en général pas de solution à support compact.
En effet si uo est une solution de l'équation du = f à support compact dans Cn et
si D est un ouvert de C" contenant le support de uo et à bord de classe C1, on a

Mais en appliquant la formule de Stokes, on obtient

k D
1 ~ 0A d z l A . . .Adzn =
s, d(Uo A d z l A . . .Adz,) =

et ce dernier terme n'est pas nul en général.


f A dzl A . . .Adzn

Théorème 4.2. Soit D un ouvert borné deCn tel queCn \ D soit connexe. Supposons
n > 1,alors pour toute fonction f holomorphe sur un voisinage d e d D , il existe une
fonction F holomorphe au voisinage de D qui coïncide avec f sur d D .

Démonstration. Notons U a D le voisinage de a D sur lequel f est définie et holo-


morphe et choisissons x une fonction C" à support dans U a D et égale à 1 au voi-
sinage de d D . Alors la fonction f = x f est définie dans Cn et coïncide avec f au
voisinage de dD. Posons

On a ainsi défini une (0,l)-forme différentielle de classe C" sur Cn à support dans
D , car df = df = O au voisinage de d D . De plus g est d-fermée dans C", on
peut donc considérer l'équation d u = g. D'après le Théorème 4.1, cette équation
possède une solution uo à support compact donc nulle sur un ouvert de C" \ D car
D est borné. Puisque duo = g,uO est holomorphe sur cc" \ D et comme C" \ D
est connexe par hypothèse, uo est identiquement nulle sur cc" \ D . Par conséquent
~

F = f - uo est la fonction cherchée. O

Corollaire 4.3. Soient D un domaine de cc" et K un compact de D tel que D \ K


soit connexe. Alors toute fonction holomorphe sur D \ K s'étend en une fonction
holomorphe sur D .

Démonstration. Sans perte de généralité on peut supposer que K est connexe. Soit
D' un domaine borné de cc" tel que C" \ D' soit connexe contenu dans D et
4. Phénomène de Hartogs 71

contenant K . Un tel ouvert existe car D \ K est connexe, il suffit de prendre


D' = { z E D I dist(z, K ) < E } , E assez petit, si D # @" et D' = B(0,R ) ,
R assez grand, si D = C" . Si f est holomorphe dans D \ K , eiie est holomorphe
au voisinage de ûD' et par le Théorème 4.2 il existe F holomorphe au voisinage de
-I
D telle que f laD, = FI ao,. Puisque dD' est une hypersurface réelle de @" et que
f et F sont holomorphes au voisinage dD' et coïncident sur dD', elles coïncident
sur la composante connexe de leur domaine de définition commun qui contient
F sur D'
do'. La fonction = F fsurD\K
est l'extension cherchée. O

Commentaires. La formule dite de Bochner-Martinelli, qui étend laformule de Cau-


chy à un domaine borné à bord lisse de @" , a été découverte indépendamment par
E. Martinelli [Ma 11 en 1938 et S. Bochner [Bo]en 1940. Ces deux auteurs l'ont utili-
sée pour donner une démonstration rigoureuse du phénomène de Hartogs ([Ma21 et
[Bo]).La généralisation au cas des formes différentielles a été obtenue par W Koppel-
man [KO]en 1967.
Des démonstrations de la formule de Bochner-Martinelli-Koppelman, différentes
de celle presentée ici, peuvent être trouvées dans [HelLel] et [Ra]. Les propriétés de
régularité données au paragraphe 2 sont également exposées dans ces deux volumes.
Le théorème de régularité pour le 5 est démontré dans le paragraphe 1 du premier
chapitre du livre de Henkin et Leiterer IHelLe21 et une démonstration du phénomène
de Hartogs, d'un esprit un peu différent, est donnée par Range dans le paragraphe 2
du chapitre N d e [Ra]. Dans [HO2],Hormander donne une autre démonstration du
Théorème 4.1, basée sur laformule de Cauchy-Green en dimension I, pour en déduire
le phénomène de Hartogs.
Chapitre IV

Extension de fonctions C R

En étudiant le phénomène de Hartogs au chapitre III, nous avons prouvé que si D est
un domaine borné simplement connexe de (??, n 2 2, toute fonction holomorphe au
voisinage du bord de D s'étend en une fonction holomorphe sur D. Par conséquent, la
trace sur d D d'une fonction holomorphe au voisinage de d D est la valeur au bord d'une
fonction holomorphe sur D et continue sur D. Nous nous intéressons ici à la caractérisation
des valeurs au bord des fonctions holomorphes définies sur un domaine borné D de cn
et continues sur D. Le résultat principal de ce chapitre est le théorème d'extension de
Bochner pour les fonctions C R définies sur le bord du domaine. Sa démonstration utilise
la transformée de Bochner-Martinelli que nous étudions au paragraphe 1. Nous prouvons
également une première généralisation du théorème de Bochner au cas des fonctions CR
définies seulement sur une partie du bord d'un domaine. Cette généralisation s'appuie elle
aussi sur les propriétés de la transformée de Bochner-Martinelli mais nécessite l'utilisation
d'une formule de Stokes pour les fonctions CR et la connaissance de primitives du noyau
de B ochner-Martinelli.

1. TRANSFORMÉE DE BOCHNER-MARTINELLI

Soient U un ouvert de Cc" et V une hypersurface réelle lisse de classe C1 dans U


(i.e. V est une sous-variété réelle de classe C1 de dimension réelle 2 n - 1 contenue
dans l'ouvert U de CC" Y telle que U \ V ait exactement deux composantes
connexes U+ et U - . On suppose que V est orientée et que son orientation coïn-
cide avec celle de du+.

Définition 1.1. Soit f une fonction continue à support compact définie sur V . On
définit la transformée de Bochner-Martinelli de f par
74 IV Extension de fonctions C R

Remarquons que F est une fonction de classe C" et même analytique réelle sur
U \ siipp f car @(a,<) est une forme différentielle à coefficients analytiques réels
sur CT' x @" \ A.
L'objet de ce paragraphe est l'étude de F au voisinage des points de supp f .

Remarque 1.2 :Soit D CC U un domaine à bord C1 par morceaux tel que D C U+


e t d D n V 3 supp f.Alorssiz E U\ ( V r i d D )

I1 est facile de construire un tel domaine D. On peut toujours supposer que V


est définie par V = {z E U I ~ ( z=) O}, où T est une fonction de classe C1 sur U
telle que d r ( z ) # O pour tout z E V. Soit D' un domaine à bordCl de V contenant
le support de f . I1 existe alors une fonction C',p, définie sur un voisinage de D'
telle que D' = { z E V n I p ( z ) < O } , i3D' = {z E U D ~I p ( z ) = ~ ( z=)
O}etdp(z)Adr(z) # Osiz E d D ' . P o u r ~> OonposeV, = { z E U I ~ ( z= )E } ,
si U+ = { z E U I ~ ( z >) O} et V, = {z E U I ~ ( z = ) - E } , si U+ = { z E
U I r ( z ) < O } . Pour E suffisamment petit d r ( z ) # O, si z E V, n { p 5 O}, et
d p ( z ) A & ( z ) # O, si t E V, n { p = O}. Supposons que l'on a choisi T tel que
U+ = { z E U I T ( Z ) < O} et dors si
D = {z E U I -E < ~ ( z<) O} n {z E U D I~p ( z ) < O } .
D est un domaine à bord C1 par morceaux satisfaisant les conditions de la Re-
marque 1.2.

Théorème 1.3.Soit f une fonction de classeC",O < a 5 1,àsupportcompactdans


I
V . Alors les fonctions FI u+ et F ci- ont des prolongements continus F + et F - à
U+ ü V et U - ü V et sur V, ces extensions satisfont la formule de Plemelj
F+I, - F-1. =f .

Démonstration. Soit D un domaine à bord C1 par morceaux vérifiant les hypo-


thèses delaRemarque 1.2, alors F ( z ) = J c E a D f ((')Bt(z,C).

Notons f une extension de classe C" de f à U . On peut construire de la ma- f


nière suivante. Soit ( U 2 ) , Eun
~ recouvrement de V par des ouverts tels que pour
C'
chaque z E I , il existe h, : U, + IR2" satisfaisant h,(V) = {x E IR2" I
x1 = O} et si U, n s u p p f # 0 alors U, n (i3D \ V ) = 0. On définit par f,
f a ( z ) = f ohL'(O,(h,)z(z),. . . , ( h z ) 2 n ( z ) ) p o u r zE U,;f,estdeclasseCasurU,
et satisfaitf,l u , n v v
= f. Posons UO = C" \ et soit ( x ~ ) ~ ~ I une partitionCm
~ ( O )
de l'unité relative au recouvrement ( I ! Y , ) , ~ I ~Alors
~~}. f = xzfzest l'extension
zEI
cherchée.
I. Transformée de Bochner-Martinelli 75

Posons F o ( z ) = F ( z ) - f ( z ) ,si z E D et F o ( z ) = F ( z ) ,si z # D. D’après la


formule de Bochner-Martinelli (Chap. III, Corollaire 2.4 et Remarque 1.6 2))

Fo(z) = JItoD (0 (f - f(z))B,O(z,C).

Puisque f est de classe C a et que , if = f on a (f (0- f ( z ) ) B i ( z , < )=


O ( ,c-z,~n-l-y). La forme différentielle ( f ( 0 - f ( z ) ) B g ( z , < )est donc à co-
efficients localement intégrables sur d D . Par conséquent FOest continue sur U
et l’existence de F+ et F - vérifiant F+Iv-F-Iv=f se déduit aisément de la
définition de Fo. O

Remarque :Sous les hypothèses du Théorème 1.3, on peut en fait prouver que F+
et F - sont de classe Co respectivement sur U+ U V et U - U V (cf [Cil).

Théorème 1.4. Soit zo E V fixé. On pose A, = V B (z 0 , r )pour T > O et on


note n, le vecteur unitaire normal à V en z dirigé vers U+. Pour r assez petit, si f
+
une fonction continue à support compact dans V ,alors F ( z tn,) - F ( z - tn,)
converge uniformément par rapport à z sur A, vers f ( z ) lorsque t tend vers O par
valeurs positives.

Démonstration. Choisissons r > O tel que B(zo,2r) C U et décomposons f en


+
f = f O fi, où supp f i c B(zo,2r)et f o E O sur B ( z 0 , r )n V . La transformée
de Bochner-Martinelli Fo de fo est évidemment continue sur B(z0,r) et il suffit
donc d’étudier la transformée de Bochner-MartinelliFi de f i .
Sans perte de généralité on peut supposer que zo = O et que r est suffisamment
petit pour que
1) ûB(0,2r)soit transverse à V . On notera dors D un domaine à bord C’
contenu dans B(0,2r)n U+ et tel que d D n V contienne le support de f i .
2) Si n, est la normale unitaire en z à V dirigée vers U+,il existe C < 1 tel que
I(< - z,n,)1 5 CIc - z Jpourtout z,( E B(0,2r)n V .
D’après la formule de Bochner-Martinelli, si z E A,.
f ( z ) pour t > O assez petit

Donc si It1 5 t o assez petit on a


G ( z , t )= F l ( z + t n z )- F I ( Z- tn,) - f(z)

Lemme 1.5. Il existe une constante c telle que


IBO(z + tn,,<) - B,O(z - tn,,C)lda(C) 5 C,pourz E A,,O < t 5 to.
A D
76 IV Extension de fonctions C R

Démonstration du Lemme 1.5. Posons


A ( t , < , )= IB,Ob+ tn,,(') - B,O(z - tn2,OI.
Par des calculs analogues à ceux de la démonstration du Lemme 2.2 du chapitre III,
on obtient l'estimation

A(t,<)i
1 1
CIItl ( max ( I< - I(' - ( z + tn,) p I< - ( 2 - tn,) 12n
( z - t n z )12n +
1.
Maispourz,< E B(0,2r) n V ,o n a I(' - z f tn,I2 2 (1 - c)[l( - 21' + t 2 ]carr a
été choisi tel que I(< - z I n,)l 5 cl< - zI. Par conséquent

Pourz E A,etyteiqueO < y < r,ona


s,, A(t,C)da(<)= J aD\B(z,r)
A(t,(')WC)+ JaDnB(z,r)
A(t,C)WC).

La première intégrale du second membre est clairement bornée uniformément par


rapport à z dans A,. Après paramétrisation de V n B(z,y),la seconde intégrale
est majorée par
t
I ( t )=
J xEWZn-' (1x12
MIR
En faisant le changement de variable y = t z , on obtient
+ t 2 ) n dV(x).

ce qui termine la démonstration du lemme. O

Fin de la démonstration du Théorème 1.4. Fixons E > O et choisissons q > O tel


que If(<) - f ( z ) l < 3 pour I< - zI < q. Découpons alors d D en deux parties
d D n B ( z , q )e t d D \ B ( z , q ) . Ondéduitalorsde (1.1) etduLemme 1.5l'estimation

Sur ûD \ B(z,q),A(t,<) I
= BE(z +tn,,<)- BE(z - tn,,<) dépend continûment I
de (t,<)et d'après (1.2) on a

Par conséquent l'intégrale du second membre de (1.3) tend vers O lorsque t tend
vers O de plus cette convergence est uniforme par rapport à z dans A, car Bg(z,<)
ne dépend que de z - <. I1 existe donc th tel que si O < t < th, pour z E A,, alors
IG(z,t)I < 2 ~ . O
2. Fonctions C R sur une hypersurface réelle 77

Corollaire 1.6. Si f est continue à support compact sur V et si FI u- admet une ex-
tension continue F - à U - U V alors FI,, admet une extension continue F+ à
U+ ü V e t o n a
F+I, - F-1, = f .

Démonstration. Soit zo E V fixé et w E U+ assez proche de ZO. On note z la


+
projection orthogonale de w sur V , on a alors w = z tn, où n, est la normale
unitaireenz àV. NousallonsmontrerqueF(w) tendvers F-(zo)+ f (zo),lorsque
w tend vers 20, ce qui prouvera le corollaire
IF(w) - F - ( z o ) - f (z0)l 5 IF(z + tn,) - F ( z - t n z ) - f (.)I
(1.4)
+If (2) - f (.O)[ + I F ( z + in,) - F-(zo)l.
Fixons E > O. Si w est assez proche de zo, on déduit du Théorème 1.4 que le pre-
mier terme du second membre de (1.4) est majoré par 5.De plus si w est assez
proche de zo, z est proche de zo et par continuité de f , le second terme est égaie-
ment majoré par :. Finalement si w tend vers zo, z - tn, tend aussi vers zo et la
continuité de F - sur U - ü V implique que le troisième terme est majoré par ü 5.
Exemple : Soit D un domaine borné à bord C1 et f E C(aD). Supposons que
JaD f(<)Bg(z,<) = Opourz # D, alors F ( z ) = saD f (<)Bg(z,C),
quiest définie
sur D , s'étend continûment à D et on a F ( z ) = f ( z ) si z E 30.

2. FONCTIONS C R SUR UNE HYPERSURFACERÉELLE

On désigne par V une hypersurface réelle orientée de classe C1 dans Cn. L'objet
de ce paragraphe est de définir une classe de fonctions sur V qui contient les traces
des fonctions holomorphes au voisinage de V et qui coïncide, lorsque V est le bord
d'un domaine D , avec les valeurs au bord des fonctions holomorphes dans D.

Définition 2.1. Une fonction f continue sur V est dite Cauchy-Riemann ( C R ) si


pour toute formedifférentielleX de bidegré (n,n- 2), de classeCm sur un voisinage
de V et telle que supp X n V soit compact, on a

Jv fax = O.

Remarque :En terme de courant f C R sur V signifie que f [VIo>', où [VIo>'


est la
partie de bidegré (0,l) du courant d'intégration sur V ,est d-fermé.

Exemple : Si F est une fonction holomorphe au voisinage de V , alors f = FI,


est C R sur V . En effet, soit X une (n,n - 2)-forme différentielle de classe C" au
78 IV Extension de fonctions C R

voisinage de V telle que supp X n V soit compact et soit D un domaine borné à


bord C1 par morceaux contenu dans les domaines de définition de F et A, tel que
d D n V 3 s u p p X n V et que l'orientation sur V coïncide avec celle de dD. Alors
Jv fax = JaDFaX par définition de D et car f = FI
= saDd(FX) car F est holomorphe
= SODd ( F X ) = O d'après la formule de Stokes
puisque X est de type (n,n - 2).

Définition 2.2. Une fonction f E C1 ( V ) est dite Cauchy-Riemann ( C R )sur V si


pour toutp E V etpour toutu E T i i l ( V )on a v ( f j = O

Remarque :Si V est définie par { z E U I ~ ( z =) O}, où U est un ouvert de Cn et T


une fonction C1 de U dans R telle que d r ( z ) # O si z E U , la fonction f E C'(V)
est CR si et seulement si pour tout p E V , on a

pour t E cntel que


n

j=l
e ( p ) t j = O.

Nous allons prouver que, si f est une fonction de classe C' sur V ,les deux défi-
nitions que nous venons de donner coïncident.

Lemme 2.3. Supposons que V est de classe C k , l 5 IC 5 00. Si f E C k ( V )est


une fonction C R au sens de la DéBnition 2.2, il existe un voisinage U de V et une
f
extension E Ck-l( U )de f telle que
(il JIv = f.
f
(il) Toutes les dérivées d'ordre k - 1 de sont dérivables en tout point z E V
et Dafest continue sur V pour [al= k .
(iii) df(z) = O pour toutz E V .

Démonstration. Pour pEV, soient L l ( p ) ,. . . , L n - l ( p ) une base de T k i o ( V )et


L n ( p ) # O un vecteur tel que T;>O(<cn) = T;io(V) @ CL, ( p ) .D'après la Défini-
tion 2.2, f C R signifie Lj ( p )f = 0 , j = 1, . . . ,n - 1, pour tout p E V .

On cherche une extension f de f qui vérifie -$( p ) = O, pour tout p E V , et


donc z n ( p ) f = O, pour tout p E V . Vérifions q i e cette condition détermine le
f
développement de Taylor de jusqu'à l'ordre 1 en tout point de V . Si V est définie
par { z E U 1 T ( Z ) = O } , où U est un ouvert de cc" et T une fonction de classe C k
de U dans R telle que d î ( z ) # O , si t E U , on peut choisir
3. Théorème de Bochner 79

-
On a alors ( L , - L,) ( r ) = O et donc L, (2) - En(2) est un élément de CTz (V)
pour tout z E V. Par conséquent si z,(z)f = O, pour z E V ; on obtient
LMf = [ L n ( z )- L ( 4 l f = [ L ( z ) Ldf)If,
-
si 2 E V, car flv= f . De plus L j ( z ) f = L j ( z ) f et Ej(z)f = O si z E V,l 5
j 5 ri - 1. CommeCT2Cn estengendrépar ( L i ( z ) , E i ( ~ )-) ~ < i l , , s E
i z V, vfest
donc entièrement déterminé pour tout v E CT2C" ,z E V.
On peut supposer que E,T(z) = 1, si z E V, et que f est la restriction
d'une fonction encore notée f de classe Ck sur U . On pose alors f ( z ) = f ( z ) -
r ( z ) ( E n f ) ( zpour
) f
z E U. I1 est clair que est de classe C"' et que SIv
= f .
1
Puisque T a. O et T est de classe C" on montre facilement (iil.
Par définition df(z) = O, si z E V, si et seulement si Zj(z)f = O pour tout
z- E V et tout j = 1, . . . ,n. Or zj (z)f = zj ( z ) f = O, si z E V, car f est C R et
~ , ( z ) f= Z,(z)f - (En(z)r)(En(z)f) = O, carE,(z)r = 1,siz E V . O
Nous pouvons maintenant montrer que les deux définitions coïncident lorsque
f est de classe C1 sur V.
Supposons que f E C1(V) est C R au sens de la Définition 2.2 et soit f une
extension de f à un voisinage de V satisfaisant aux conclusions du Lemme 2.3. Si
X est une (n,n- 2)-forme différentielle de classe C" au voisinage de V telle que
supp X n V soit compact, on a
Jv f a x = Jv fax carfi" = f
= Jv à(f~) caràf = O sur v
= Jv d ( f X ) = O car X est de type (n,n - 2)
d'après la formule de Stokes.
Réciproquement, si f E C'(V) est C R au sens de la Définition 2.1 et si f est
une extension de classe C1 de f à un voisinage de V on a 8(f[V]'l1) = O ce qui
implique (df) A [VI'>' = O car [VI est un courant fermé. si T est une fonction
définissante de V on a alors = 6% et donc df A [VIoi1= O équivaut à
ar ûf - --)
(--azk ûr ûf = Opour1 5 j < k. 5 n. Lesvecteurs(&(p)(q)P a -
ûzJ a?, azk
ar ( p )( & ) p ) ,
aF, 1 5 j < k 5 n, forment une famille génératrice de T:"( V), pour
toutp E aD , et donc v(f) = O, pour tout v E T j > l ( V ) , pE V .

3. THÉORÈME DE BOCHNER

Soit D un domaine à bord C', borné dans C" . On s'intéresse au problème sui-
vant : étant donné une fonction f continue sur a D , à quelles conditions sur f et
sur D peut-on étendre f en une fonction F continue sur D et holomorphe sur D.
On sait par le Théorème d'extension de Hartogs (chap. III, th. 4.2) que le pro-
blème a une solution pour n >. 2 si le bord de D est connexe et si f est la restriction
d u n e fonction holomorphe au voisinage de dD.
80 I V . Extension de fonctions C R

Déterminons tout d'abord des conditions nécessaires pour que le problème ait
une solution :
1) il faut que f soit CR.
En effet soit cy une forme différentielle de classe C" de bidegré (n,n- 2) définie
au voisinage de dD. Supposons que f s'étende en une fonction F continue s u r D et
holomorphe sur D. Notons x une fonction C" à support compact dans le domaine
de définition de cy et égale à 1 sur un voisinage de dD. On a dors
faCY= Fd(Xcy) par définition de F et x
= JD d(Fa(xa)) par la formule de Stokes
'( car cy est de bidegré (n,n- 2)
= sDd FF d ( Xd(xa)
= JD cy))
A =O car F est holomorphe dans D.

2) I1 faut que d D soit connexe ou bien que sa, f (<)BD(z,<)= O si z $! D.


Supposons que d D possède deux composantes connexes riet r2.
Notons ri
la composante qui borde la composante connexe non bornée de C" \ D et f i la
restriction de f à ri,i = 1,2. Si le problème a une solution, ii existe F continue
sur D, holomorphe sur D et telle que FI r, = fi,i = 1,2. Si K est la composante
connexe bornée de C" \ D , d'après le Théorème de Hartogs F s'étend en une fonc-
tion holomorphe F sur D ü K . D'après la formule de Bochner-Martinelli on a

O
si z E K et donc
f(<)~g(z,=
< )O si z $! D

car cette intégrale est clairement nulle si z est dans la composante connexe non
bornée de C" \ D dans ce cas.

Théorème 3.1. Théorème de Bochner. Soient D un domaine relativementcompact


à bord C1 de @" ,n 2 2, tel que C" \ D soit connexe. Si f est une fonction C R
continue sur d D , il existe une fonction F continue sur D, holomorphe sur D , telle
q u e F l a D = f . D e p l u s F ( z ) = J c t a D f ( < ) B g ( z , < ) s i zE D .

Démonstration. Prouvons tout d'abord l'unicité de F . Si Fi et Fz sont deux exten-


sions holomorphes de f à D , Fi - F2 est une fonction holomorphe sur D ,continue
sur D et telle que F I - F2 laD
= O. D'après le principe du maximum FI - F2 = O
sur D.
D'autre part si F existe, d'après la formule de Bochner-Martinelli

F ( z ) = J(EZiD
F(C)B,O(Z,<)=
CEaD
J
f (<Mxz,<) si E D,

car F laD
= f . (On a ainsi prouvé de nouveau i'unicité de FI.
3. Théorème de Bochner 81

Montrons maintenant l'existence de F . Considérons la fonction

Elle est de classe C" sur cc" \ dD. D'après l'étude de la transformée de Bochner-
Martinelli ( c f .Cor. 1.6) il suffit de prouver que F est holomorphe sur @" \ d D
et identiquement nulle sur C" \ D. Calculons 3 F sur C" \ D. On a a F ( z ) =
SrEaD f (C)d,Bg(z,C) maisd,Bg(z, <) = - d ~ B y ( z (), sur @" x @" \ A et donc
pour z E C" \ d D fixé, d F ( z ) = - SrCao
f ( C ) a ~ B y (C)
z , = O car f est une
fonction CR sur le compact dD. La fonction F est donc holomorphe sur C" \
dD. Remarquons que F ( z ) tend vers O quand IzI tend vers l'infini car IF(.)[ 5
<list(:,aD) . Puisque F est holomorphe sur @" \ D, n 2 2 et Qin \ D est connexe, F
est alors identiquement nulle sur @" \ D ( c f .démonstration du Théorème 4.1 dans
le chapitre IV). o

Théorème 3.2. Soient D un domaine relativement compact à bord C1 de @" et f est


une fonction continue sur d D . Pour qu'il existe une fonction F holomorphe dans D
continue surD telle que F I
ao= f il faut et il sufit que pour toute ( n ,n - 1)-forme
différentiellea!de classec", ô-fermée définie sur un voisinage de D on ait

f a ! = o.

Démonstration
1) Condition nécessaire : supposons qu'il existe F continue sur D et holo-
morphe sur D telle que F lao
= f et considérons une ( n ,n - 1)forme a! de classe
Cw, d-fermée au voisinage de D. Alors
.hDfa =SaDFa par définition de F
= SD d ( F a ) par la formule de Stokes
= SDd F A a + F3ja = O car F et a! sont 3-fermées.

2) Condition suffisante : montrons tout d'abord que f est CR. Soient A une
forme différentielle C", de bidegré ( n ,n - 2) définie sur un voisinage de d D et x
une fonction C" à support compact dans le domaine de définition de X et égale à
1 au voisinage de d D alors

-
car ~ ( x X )est une (n,n - 1)-forme différentielle de classe C", d-fermée, définie
au voisinage de D.
Considérons la fonction F ( z ) = ScEaDf (<)Bg(z,C). Elle est holomorphe sur
@" \dD d'après la démonstration du théorème précédent. Si z E @" \ D, B g ( z , .)
82 IV Extension de fonctions C R

-
est une (n,n- 1)-forme différentielle de classe Cm,d-fermée sur Cn \ { z } qui est
un voisinage de D.L'hypothèse faite sur f implique que
F(z)= f ( C ) B g ( z , ( )= O si z E Cn \o.
On déduit alors du Corollaire 1.6 que f est l'extension cherchée. O
Terminons ce paragraphe en étudiant la régularité de l'extension F lorsque f
est de classe C'".

Théorème 3.3. Soient D un domaine borné de C n , à bord de classe C" et f une


fonctionCR, declasseCk,l 5 k 5 m, surdD. Supposonsque:
soit Cn \ D est connexe et n 2 2,
soitsaD f a = O, pour toute (n,n - 1)-forme dflérentielle a de classe C" ,d-
-

fermée au voisinage de D.
Il existe alors une fonction F de classec'" s u r n , holomorphe dans D , telle que
=f'

Démonstration. L'existence et l'unicité de l'extension F résultent des Théorèmes


3.1 et 3.2. I1 ne reste plus qu'à étudier la régularité de F . Rappelons que

Montrons tout d'abord que F est de classe C1 sur 0.


En dérivant sous l'inté-
grale, on obtient

Comme B: est de type (n,n - 1) en ( et 8c-fermée, on peut écrire, pour J E


(1,.. . ,n}fixé,
BO = dc3 A B,
où B3 est une forme différentielle de type ( n - l , n - 1) telle q u e dcB3 = O. De
<
plus les coefficientsde B, sont des fonctions de - z . Par conséquent

Notons f" une extension de f satisfaisant aux conclusions du Lemme 2.3. On a alors
pour z E Cn \ d D
4. Formule de Stokes pour les fonctions CR 83

Puisque F = O sur C" \ D, il en est de même de et on déduit donc du Corol-


laire 1.6 que EID s'étend continûment à D.
a23

Le cas générai se démontre par récurrence sur IC. Supposons que le résultat est
vrai pour k 2 1. Soient f E ( d o )une fonction CR sur d D et June extension
de f satisfaisant aux conclusions du Lemme 2.3. Nous venons de prouver que si
pour z E C" \ d D alors pour t o u t j = 1,.. . ,n
F ( z ) = J c E a D f (Ç)Bg(z,<)

Puisque est holomorphe dans D et continue sur D et FI,, =f , laD


est
aZ3

-ai.
E l a D - ac, laD E C'(do). On déduit alors de l'hypothèse de récurrence
que E E C'((D),j = 1,.. . ,n, c'est-à-dire F E Ck+'(D). O

4. FORMULE DE STOKES POUR LES FONCTIONS CR

On désigne par V une hypersurface réelle de classe C' de C" ,n 2 2.


Soit D un domaine à bord C' relativement compact dans V. Si f est une fonc-
tion C R de classe C' sur V ,il résulte de la formule de Stokes que pour toute (n,n-
2)-forme différentielle a de classe C1 au voisinage de V on a

Le but de ce paragraphe est détendre la formule (4.1) au cas où f est seulement


continue.

Lemme 4.1. S i D est un domaine à bord C' relativement compact dans V , il existe
un domaine D borné dans C" , dont le bord est de classe C1 au voisinage de V , tel
que 6 n V = D et V coupe d D transversalement.

Démonstration. Puisque d D est une sous-variété de classe C', de codimension 2


de C" , il existe des fonctions T et p à valeurs réelles telles que
a) T est définie et de classe C' sur un voisinage UV de V dans C" ,V = {t E
UV I ~ ( z=) O} et d r ( z ) # O pourtout t E UV.
b) p est définie et de classe C' sur un voisinage UaD de d D dans C", d D =
{ z E V n UaD 1 p ( z ) = O}, d p ( z ) # O, pour tout z E UaD et D n U a ~ = { zE
v n ut30 I p ( z ) < o } .
c) d r ( z ) A d p ( z ) # O, pour tout z E UV fl U ~ D .
5
On définit aiors 6 de la manière suivante : c { z E UV I - E < T ( Z ) < E } ,
6 n V = D et 6 f i 1730 = { z E U ~ IDp ( z ) < O}, E étant choisi assezpetit pour
q u e U a D n { z E UV I - E < ~ ( z< )E } # 0. O
84 IV Extension de fonctions C R

Lemme 4.2. Soient D un domaine à bord C’ relativement compact dans V et 5 un


domaine associé à D par le Lemme 4.1. Si cp est une (2n - 1)-forme différentielle
continue sur V et (e une extension continue de cp à Cn on a

où K (. ,.) désigne l’indice de Kronecker.

Démonstration. NOUS aiions prouver que K([D],[v]O~’ -A (e) existe et qu’il est égal
às~,,~ (e ce qui coïncide avec socp par définition de D et (e. En utilisant une par-
tition de l’unité on peut supposer que le support de (e est suffisamment petit pour
que l’on soit dans la situation suivante : quitte à faire unchangement de coordon-
nées de classe C’, V est définie par l’équation x1 = O et D par 2 2 < O au voisinage
du support de (e.
Soient (e,),,, et CY,^)^,,^ deux familles de fonctions régularisantes. On a alors
5. Primitive du noyau de Bochner-Martinelli 85

La fonction cp étant continue à support compact, elle est donc uniformément conti-
+
nue et donc cp(0,u- x2 7 ~ 2 , ~ ”tend
) vers cp(O,u,z”)uniformément par rapport à
(u,z”),lorsque E et E” tendent vers O, si x E supp 0, et y E supp a,!. On en déduit
que
O

Théorème 4.3. Soit D un domaine relativement compact à bord C i de V. Pour toute


fonction f continueCR sur V et toute (n,n- 2)-forme différentiellea de classeCl
au voisinage de V on a

Démonstration. Soient 5 un ouvert de Cn associé à D par le Lemme 4.1, f une


extension continue de f à C? et 6 une (n,n - 2)-forme différentielle de classe C1
dans C” qui coïncide avec CY au voisinage de V. I1 résulte du Lemme 4.2 que

car a est de bidegré (n,n- 2). Mais la fonction f est C R et le courant [VIoi1A f&
de bidegré (n,n- l),par conséquent
d([VIo>’A f&)= d([V]o>lA f&)= [VI”’ A faa.
On obtient donc finalement

faa= K([D],d([V]O”A f&)).


ID
et par la formule de Stokes pour l’indice de Kronecker (Chap. II, Corollaire 3.7)

L fda = IC(b[D],[V]OJ A fa) = /aDnv


fa. = /aD
fa.

5. PRIMITIVE DU NOYAU BOCHNER-MARTINELLI

Rappelons que le noyau de Bochner-Martinelli

est une forme différentielle de classe C” dans C” x Cn \ A qui satisfait pour tout
z E Cn fixé,dcB!(z,<) = o s i < E \ {z}.
Dans ce paragraphe nous allons déterminer explicitement des formes différen-
tielles solutions de l’équation au = B;(z,.) sur certains ouverts de C” \ { z } .
86 iV Extension de fonctions C R

Soit z E C" fixé, on pose pour k = 1, . . . ,n

Démonstration. La fonction &étant holomorphe sur C" \ { C E C" I <k = Zk},


on a

Un calcul direct donne alors


-
acfik(z,<) = BO(z,<).
La forme f l k ( z , . ) est de bidegré (nln - 2), donc d R k ( z , . ) = dRk(z,.). O
Pour toute fonction cp holomorphe dans e" et pour tout z E Cn fixé, on pose
N , = {< E C" 1 cp(C) = cp(z)}. Nous allons déterminer des primitives du
noyau de Bochner-Martinelli sur les ouverts de la forme u,
= @" \ N,. Ces primi-
tives nous seront utiles pour prouver le théorème d'extension du paragraphe 6.Le
Lemme 5.1 résoud ce problème pour l'application coordonnée cp(z) = z k .

Lemme 5.2. Si cp est une fonction holomorphe dans Cn , il existe n fonctions holo-
morphes(hl, . . . JL") sur(Cn x @" tellesquepourtout(z,C) E Cn x cc"
n

(5.2) q(C) - v ( z ) = h k ( z , < ) ( C k - Zk).


k=l

Démonstration. Posons, pour k = 1,. . . ,n,

www.bibliomath.com
6. Un théorème d'extension pour les fonctions C R 87

la fonction hk est holomorphe sur @" x @" \ { (z,<) I z k = < k } elle se prolonge
par continuité à @" x @" car la fonction cp est holomorphe par rapport à la variable
z k . Le Théorème de Riemann (Chap. I, Th. 6.4) implique que h k est holomorphe
sur @" x @" . La relation (5.2) est une conséquence immédiate de la définition des
fonctions h k . O

Remarque :Le Lemme 5.2 n'est plus vrai si cp est seulement définie sur un ouvert fl
de @" . Nous verrons au chapitre VI11 des conditions sur fl pour que le Lemme 5.2
soit encore valide.
Nous pouvons définir maintenant

La forme différentielle @(xi.) est de classe C" sur Cn \ N,.

Proposition 5.3. La forme différentielle @ ( z , . )vérifie


d @ ( z , . ) = 34>(z,.) = B:(Z,.) sur @" \ N,.

Démonstration. La forme différentielle @ ( z , . )est de type (n,n - 2) et par consé-


quent d@(z,.) = d@(z?.). D'autre part puisque les fonctions cp,hk,k = 1 , .. . ,n
sont holomorphes et ( < k - zk)flk(z,<) est définie sur C" \ { z }

<
pour tout E @" \ N,. On déduit alors du Lemme 5.1 et de (5.2) que dç@(z,.)=
BO(z,.)sur @" \ N , en prolongeant par continuité. O

6. UN THÉORÈMED'FXTENSION POUR LES FONCTIONS C R

Considérons la situation géométrique suivante : soient V une hypersurface


réelle, fermée, orientée de classe C' de @" ,n 2 2, et I? un domaine à bord C' dans
V . On suppose que :
(i) d r est contenu dans M = { z E @" I Re cp(z) = O}, où cp est une
fonction holomorphe dans @" .
(ii) r c { z E @" I Recp(z) > O}.
(iii) d r est le bord d u n domaine borné A de M . On notera D l'ouvert borné
de @" dont le bord est ü 2.On suppose que l'orientation sur V coïncide avec
celle de dD.
Dans ce paragraphe nous allons prouver que si f est une fonction C R continue
r, r
sur il existe une unique fonction F continue sur DU et holomorphe sur D telle
que FI,= f .

www.bibliomath.com
88 IV Extension de fonctions C R

Ce résultat est un cas particulier du problème d'extension des fonctions C R à


partir d u n e partie du bord d u n domaine que nous pouvons formuler ainsi. Soient
D un domaine borné de C" , K un compact de dD tel que dD \ K soit une hyper-
surface réelle connexe de classe C' de @" \ K . A quelles conditions sur K toute
fonction C R continue sur dD \ K s'étend-elle en une fonction holomorphe sur D
continue sur D \ K ? Si K = 0, le problème est résolu par le Théorème de Bochner.
Ici nous résolvons le cas où K est contenu dans l'ensemble des zéros de la partie
réelle d u n e fonction holomorphe dans C" . Nous donnerons de nouvelles condi-
tions cohomologiques et géométriques sur K à la fin des chapitres V, VI1 et dans le
chapitre VIII.

r,
Théorème 6.1. Soit f une fonction C R continue sur il existe une unique fonction
F holomorphe dans D , continue sur D ü I' telle que F = f. I
Démonstration. Commençons par montrer l'unicité de F . Pour tout zo E D fixé,
on choisit E > O assez petit pour que zo E D, = D n {< E C" I Re cp(() > E } et
onnoter,=rn{(EC" I R ~ ~ ( C ) > E } ~ ~ A , = D ~ {I(REe cCp"( ( ) = ~ } ,
CE
alors dD, = ü A,. Supposons que F existe, elle est alors holomorphe sur D, et
continue sur DE,on peut donc lui appliquer la formule de Bochner-Martinelli :

Posons N , = {< E C" I y(<) = cp(z)}pour tout z E @" et remarquons que


N,, n {( E QIn I Re cp(C) = E } = 0 car zo E DE.I1 existe donc un voisinage de
A , qui ne rencontre pas N,, et si @ est la forme différentielle associée à cp définie
par la formule ( 5 . 3 ) on adC@(zo,() = B:(zo, () sur ce voisinage. Comme F est
holomorphe et @@O, .) de bidegré ( n ,n - 2) sur D, en appliquant la formule de
Stokes on obtient

car FI, = f et d r , c r,ce qui prouve l'unicité de F .


Prouvons maintenant l'existence de F . Dans un premier temps nous supposons
que la donnée f est continue sur F. En faisant tendre E vers O dans (6.1) on montre
que si F existe alors

(6.2) F(z)= s, Cl -
f(<)BO(z, s,, f ( O @ ( z ,C)
pour tout z E D. Considérons la fonction F définie par la formule (6.2). C'est une
fonction de classe C" sur @" \ ( M ü r) car B:(z, .) est défini et C" sur C" \ { z }
et @ ( z ,.) est de classe C" sur C" \ N,, où N , = {C E C" I ' p ( z )= cp(C)}. Nous
ailons montrer que F est l'extension cherchée et pour cela nous avons besoin du
résultat suivant qui sera prouvé au chapitre VI1 : si 'p est une fonction holomorphe

www.bibliomath.com
6. Un théorème d'extension pour les fonctions C R 89

dans C" ,n > 2, on définit U, = { z E C" I - E < Re cp(z) < E } , & > O. C'est un
domaine dholomorphie (cf Chap. VI, Prop. 1.16) et toute (n,n- 2)-forme différen-
tielle C" sur U, est a-exacte sur U,, c'est-à-dire H " J - 2 ( U E )= O (cf Chap. VII,
Th. 7.4).

ireétape :F est holomorphe s u r C" \ ( M U r)


En dérivant sous le signe J dans la formule (6.2), on a pour z E C? \ (rU M )
-
dF(z) = s,f(<)dzB,O(z1<)
- s,, f(oaz@(zl<)

et puisque a, BO = -de BY sur C"


-
x C" \ A,on obtient donc
-
W z )= - s, f (<)dcB?(z,<)
- /ar
f(<)az@(zl<).

Si n = 2, un calcul direct donne d F ( z ) = O pour tout z E D car BY(z;) est de


classe C" au voisinage d e r si z E D. Si n > 2, la proposition 5.3 implique
- - -
ac(d,@ + BY) = a,(ac@)+ dcB? = aZB,O+ acB1 = O
<
pour tout (z,<) E C" x C" tel que $! N , . Fixons z E D et choisissons E > O
assez petit pour que z $! U, = {< E û? I -E < R e v ( < ) < E } . La forme
+
différentielle d,@(z;) B Y ( z ; ) est une (n,n- 2)-formed-fermée de classe C"
sur U, car N , n U, = 0. Comme Hn,n-2(U,) = O, il-existe une (n,n - 3) forme
+
différentielle 6 , de classe C" sur U, telle que 36, = a,@(z,.) BY(z;) sur U,.
Soit 8, une (n,n- 3)-forme de classe C" dans C" qui coïncide avec 6, au voisinage
de aï.On a alors

En appliquant le Théorème 4.3, on obtient encore a F ( z ) = O.

Ze étape: F estidentiquementnulie sure" \ (Dü I?)


Considérons l'ouvert U = { z E C" I Re cp(z) $!
[O, supDRe 9 1). Pour
z E U,N, ne rencontre pas D et par conséquent @(z,.)est de classe C" au voisi-
nage de F. ComrneaC@(z,.) = BO(z,.)sur C" \ N,, la formule (6.2) et le Théo-
rème 4.3 impliquent que F(z)=O si z E U . De plus l'ouvert U rencontre toutes les
composantes connexes de C" \ (Dü M ) et F est holomorphe sur C" \ ( D UM ) ,
donc par le principe du prolongement analytique F est identiquement nulle sur
C" \ ( D U M ) .

se étape: FI, =f

PosonsFl(z) = Jr f(<)B;(z,<) etFz(z) = Jar f(<)@(z,<).Pardéfinitionde


F on a F = Fi - F 2 . La fonction F 2 est de classe C" sur C" \ M car l'ensemble
N , des singularités de a(.,.) ne rencontre pas d î si z $! M . La fonction Fi est la
transformée de Bochner-Martinellide f sur r,elle est de classe c" sur a? \ r.

www.bibliomath.com
90 IV Extension de fonctions C R

On pose FT = Fj ID et FJT = Fjlc,,\(EuM), j = 1,2. Remarquons que


-
FC se prolonge continûment en FC à (Cn \ (Dü M ) ) ü r. En effet FT =
IC,
F \(DUM) + F; et, d‘après la Ze étape, F est nulle sur Cn\ (Dü M ) . La conti-
nuité de Fz sur Cn\ M permet alors
- de conclure. Le Corollaire 1.6nous dit qu’alors
F’, se prolonge continûment en FT à D U r et F,’ 1 Ir
- & = f , donc F se 1
prolonge continûment à D u r en F et FIr = f car F2 est continue sur Cn \ M .
La démonstration du théorème dans le cas où f est continue sur est alors
terminée. Si f est seulement continue sur r, f est continue sur FEpour tout E > O
et l’on peut appliquer ce que nous venons de démontrer à D,. On obtient ainsi
une famille (F,),>O de fonctions holomorphes qui vérifient FE = F,, ID,ur, si
I
E’ > E à cause de l’unicité. La fonction F définie par F D,ur, = F, est l’extension
cherchée. O

Remarque :Quitte à utiliser un résultat qui ne sera démontré qu‘au chapitre VII,
nous avons préféré inclure le Théorème 6.1 dans ce chapitre plutôt que dans le cha-
pitre VI11 où il aurait pu également se trouver car la méthode de démonstration que
nous utilisons est du même type que celle du Théorème de Bochner.

Commentaires. Une lecture précise de la démonstration du Théorème d’extension de


Hartogs dans l’article de Bochner [Bo] montre que pour obtenir l’extension il sufit
que la donnée soit une fonction C R sur le bord du domaine. La démonstration du
Théorème d’extension de Bochner que nous donnons ici est celle de Harvey et Lawson
[HalLa]et de Cirka [Ci].Le cas où le bord du domaine n’est pas supposé connexe est dû
à Weinstock [We].Le théorème d’extension du paragraphe 6 a été prouvé par Lupac-
ciolu et Tomassini [LulTo]pour une donnée localement lipschitzienne. La démons-
tration de la formule de Stokes pour lesfonctions C R continues qui permetd’étendre
le résultat de Lupacciolu et Tomassini aux fonctions C R continues se trouve dans
[L-T2].La plupart de ces résultats sont rassemblés dans le livre de Kytmanov [Ky].

www.bibliomath.com
Chapitre V

Extension de fonctions holomorphes


et de fonctions C R dans les variétés

L‘objet de ce chapitre est l’étude du phénomène de Hartogs-Bochner dans les variétés


analytiques complexes. Nous commençons par étudier la relation entre le phénomène de
Hartogs et l’annulation du groupe de cohomologie de Dolbeault à support compact de bide-
gré (O, 1).Nous donnons ensuite des conditions cohomologiques qui permettent d’étendre
une fonction C R de classe c” définie sur une partie du bord d’un domaine en une fonction
holomorphe sur ce domaine tout entier. Cela généralise la situation géométrique étudiée à
la fin du chapitre IV. Pour obtenir des résultats analogues pour les fonctions C R de classe
ck nous avons besoin d’une part d’un résultat sur la résolution locale du 8 et d’autre part
d’un théorème d’isomorphisme entre les différents groupes de cohomologie Ha9q( X )qui
résulte de la résolution locale et d’éléments de théorie des faisceaux qui seront donnés dans
a
l’annexe B. Le résultat local est prouvé en résolvant le dans les domaines convexes à bord
de classe c2 à l’aide d’une nouvelle formule intégrale, la formule de Cauchy-Fantappié.

1. COHOMOLOGIE À SUPPORT COMPACT ET PHÊNOMÈNE DE HARTOGS

Dans ce paragraphe nous allons étudier le lien entre le phénomène d‘extension


de Hartogs dans une variété analytique complexe et l’annulation de certains
groupes de cohomologie de Dolbeault de cette variété.
Soit X une variété analytique complexe de dimension n. Nous dirons que le
phénomène de Hartogs se produit dans X si pour tout domaine D relativement
compact dans X tel que X \ D soit connexe et pour toute fonction f holomorphe
sur un voisinage Uao du bord de D , il existe une fonction F holomorphe dans un
voisinage de D qui coïncide avec f sur un voisinage de dD.
Nous avons prouvé au chapitre III, Théorème 4.2, que le phénomène de Hartogs
se produit dans <cn dès que n 2 2.

www.bibliomath.com
92 V. Extension de fonctions holomorphes et de fonctions C R

Théorème 1.1. Soit X une variété analytique complexe non compacte. Supposons
que pour toute (0,l) -forme différentielle u de classe Coo, à support compact dans
X et 8-exacte au voisinage de son support, il existe une fonction u de classe C" à
support compact dans X telle que 8u = u dans X , alors le phénomène de Hartogs
se produit dans X .

Démonstration. Soient D un domaine relativement compact de X tel que X \ D


soit connexe et f une fonction holomorphe sur un voisinage U ~ du D bord de D.
Considérons une fonction x E D ( X ) telle que supp x CC Va0 et x = 1 sur un
voisinage Va0 c U ~ de D d D et posons f = xf. La fonction f est de classe C"
dans X et holomorphe sur V ~ D .
Posons u = df sur D U Va0 et u = O sur X \ D.
Grâce à l'holomorphie de f sur V ~ D , de classe C" dans X et son support est
u est
contenu dans D. De plus, u = df sur D U V ~ D elle, est donc 8-exacte au voisinage
de son support. Par hypothèse il existe une fonction u de classe C", à support
compact dans X telle que du = u dans X . La fonction u est donc holomorphe dans
X\supp u,en particulier dans un voisinage de X\ D. D'autre part u étant à support
compact, elle est nulle sur un ouvert de X \ D et par prolongement analytique sur
un voisinage de X \ D car X \ D est connexe. I1 suffit alors de poser F = f - u.
En effet, F = f = f auvoisinagede d D e t 8 F = d f - du = O sur D U Vao. O

Définition 1.2. SoitX une variétédifférentiabledeclasseCk,O 5 k 5 m. Ondéj?nit


le nombre e ( X ) de bouts de X comme la borne supérieure du nombre de compo-
santes connexes non relativement compactes de X \K lorsque K décrit l'ensemble
des compacts de X .
Nous allons considérer des variétés à un bout, c'est-à-dire telles que e ( X ) = 1.
I1 résulte de la définition que, dans ce cas, pour tout compact K de X on peut
trouver un compact L de X contenant K tel que X \ L soit connexe.

Exemples
1) Un ouvert U de Cc a un bout si et seulement s'il est simplement connexe.
2) X est une variété compacte si et seulement si e ( X ) = O.
3) Si X possède une fonction dexhaustion, c'est-à-dire une fonction cp : X +
R telle que {x E X I cp(x) 5 c } CC X pour tout c E R, qui vérifie de plus la
condition suivante : il existe CO tel que {x E X I cp(x) = c } est connexe dès que
c 2 CO, alors X possède un seul bout.

Théorème 1.3. Soit X une variété analytique complexe possédant un seul bout. Sup-
posons que le phénomène de Hartogs se produit dans X , alors pour toute ( O , 1)-forme
différentielle u de classeC", à support compact dans X etd-exacte au voisinage de
son support, il existe une fonction u de classe C" à support compact dans X telle
quedu = u dansX.

Démonstration. Soit u une (0,l)-forme différentielle de classe C" à support com-


pact dans X , telle que u = aw sur un voisinage U du support de u. La fonc-

www.bibliomath.com
1. Cohomologie à support compact et phénomène de Hartogs 93

tion w est holomorphe sur U \ supp v. En vertu du phénomène de Hartogs, w se


prolonge holomorphiquement à chacune des composantes connexes relativement
compactes de U \ supp v en une fonction que nous noterons encore w. Puisque
X possède un seul bout, il existe un domaine D relativement compact contenu
dans la réunion de U et des composantes connexes relativement compactes de
X \ supp v et contenant supp v tel que X \ D soit connexe. La fonction w est
alors définie au voisinage de D et holomorphe au voisinage de d D et par le phéno-
mène de Hartogs sa restriction à un voisinage de d D se prolonge en une fonction w
holomorphe au voisinage de D. Posons u = w - w au voisinage de D et u = O sur
X \ D. La fonction u est de classe C" sur X , car w - W = O, au voisinage de dD,
de plus d u = dw = v au voisinage de D, car 6 est holomorphe, et d u = O = v sur
X \ D , car supp v c D.

Remarque : L'hypothèse sur le nombre de bouts de X dans le Théorème 1.3 est


indispensable. En effet, considérons le cas où X = C" \ { O } , n 2 2. Le phénomène
de Hartogs se produit dans X , car X est un ouvert de e", n 2 2. Soit x E D ( X )
i
telle que x ( z ) = 1 si < Izl < i, a 9
x ( z ) = 2 si < Iz( < et le support dex
ne rencontre pas { z E Cn I IzI < $ } u { z E Cn I $ < IzI < i} u{z E
C" I lzl > g}, posons v = dx si < IzI < :, et v = O sinon. C'est une
(0,l)-forme différentielle de classe C" dans X , à support compact et d-exacte au
voisinage de son support, mais il n'existe pas de fonction u à support compact telle
i
que d u = v. Si u existait, u serait holomorphe sur X \ { z E C" I < IzI < :},
nulle si IzI < T , pour T assez petit, et si IzI > R, pour R assez grand, donc nulle
sur x \ { z E C" I f < IzI < $ } par prolongement anaiytique et x - u serait
holomorphe sur { z E @" 1 2 < 1x1 < i}, constante égaie à 1 au voisinage de
IzI = 1 et constante égale à 2 au voisinage de 1x1 = 2, ce qui est impossible.
Comme conséquence immédiate du Théorème 1.1, on obtient le résultat sui-
vant reliant la cohomologie de Dolbeault à support compact dans X et le phéno-
mène de Hartogs.

Corollaire 1.4. Soit X une variété analytique complexe non compacte. Si


H,OJ(X)= O,
alors le phénomène de Hartogs se produit dans X .
Énonçons pour terminer une réciproque partielle du Corollaire 1.4, qui résulte
du Théorème 1.3.

Corollaire 1.5. Soit X une variété analytique complexe non compacte. Supposons -
que X possède un seul bout et que toute (0,l)-formedifférentielle de classeCm, a-
fermée, à support compact dans X est a-exacte dans x.
Alors, si le phénomène de
Hartogs se produit dans X ,on a

www.bibliomath.com
94 i! Extension de fonctions holomorphes et de fonctions C R

Remarques
1) Si X = cc" , les conditions du Corollaire 1.5 sont satisfaites, il y a donc équi-
valence entre le phénomène de Hartogs et l'annulation du groupe de cohomologie
de Dolbeault Hz>'(cc").
2) Si X est un ouvert connexe de C" dont le complémentaire n'a pas de com-
posante connexe bornée et pour lequel Ho>'(X ) = O, alors H:i' ( X ) = O car le
phénomène de Hartogs se produit dans tous les ouverts de Cn.

2. EXTENSION DE FONCTIONS C R DE CLASSE c"


Dans tout ce paragraphe X désignera une variété analytique complexe non
compacte.

Définition 2.1. Soit V une sous-variété de classeCm de X , une fonction f de classe


C" sur V est dite C R de classe C" si f admet une extension f de classe C" à un
voisinage de V telle q u e d f s'annule à l'ordre infini sur V .

Définition 2.2. Soient X une variété analytique complexe non compacte et K un


compact de X . Nous dirons que le couple ( X , K )possède la propriété de Hartogs-
Bochner C" si pour tout domaine D relativement compact dans X tel que
1) d D \ K soit une sous-variété de classeCm de X \ K ,
2) D \ K = Int(D \ K ) ,
3) X \ ( Dü K ) soit connexe
et toute fonction f C R de classe C" sur d D \ K , il existe une fonction F de classe
C" s u r D \ K , holomorphedansD \ K tellequeF/aD\K = f .
Comme dans le chapitre III, nous noterons @ la famille des fermés de X \K
dont l'adhérence dans X est compacte.

Théorème 2.3. Soient X une variété analytique complexe non compacte et K un


compact de X . On suppose que
H:l(X \ K)=O
alors ( X ,K ) possède la propriété de Hartogs-Bochner C".

Démonstration. On considère un domaine D relativement compact dans X satis-


faisant les conditions 1),2) et 3) de la Définition 2.2 et f une fonction C R de classe
C" sur d D \ K . Par définition des fonctions C R de classe C", f se prolonge en
une fonction f de classe C" sur X \ K telle que df s'annule à l'ordre infini sur
ûD \ K . Posons g = (x-
- D\K
)(df), où xD\K est la fonction caractéristique de
D \ K , g est une (0,l)-forme différentielle de classe C" sur X \ K dont le sup-
port est contenu dans D \ K . Puisque D \ K est un élément de @, on déduit de

www.bibliomath.com
2. Extension de fonctions CR de classe c" 95

l'hypothèse H:l(M \ K ) = O qu'il existe une fonction h de classe C" sur X \ K


dont le support appartient à et qui vérifie a h = g. La fonction h est holomorphe
dans X \ (DUK) et nulle sur un ouvert de X \ (DUK ) car X n'est pas compacte.
Comme X \ (ou K ) est connexe, par le principe du prolongement analytique h est
n u l l e s u r X \ ( D U K ) etparcontinuitésurX\(DUK). LafonctionF = f- hest
alors l'extension cherchée. En effet dF = df - 8 h = O sur D \ K et FlaD,K = f
car h est nulle sur X \ (D U K ) . O

Corollaire 2.4. Soit X une variété analytique complexe non compacte telle que
H:>l ( X ) = O, alors (X,@) possède la propriété de Hartogs-Bochner C", c'est-à-
dire pour tout domaine D relativement compact dans X à bord C" tel que X \ D
soit connexe et toute fonction f C R de classeCm sur d D il existe une fonction F de
classe C" dans D et holomorphe dans D telle que FI a D = f .
Terminons ce paragraphe en donnant des conditions sur K et X assurant
l'annulation du groupe de cohomologie H:l(X \ K).

Théorème 2.5. Soient X une variété analytique complexe de dimension n, n 2 2,


et K un compact de X tel que X \ K n'ait pas de composante connexe relativement
compacte. On suppose que
i) H Z i l ( X ) = O,
ii) le compact K possède une suite décroissante de voisinages ( U n ) n telle
E~
que n
nEN
U, = K et, pour t o u t n E N, l'application HZ,2(Un) --+H $ 2 ( X ) in-
duite par inclusion est injective,
alorsH:l(X \ K ) = O.
Ce théorème est une conséquence du lemme suivant :

Lemme 2.6. Soient X une variété analytique complexe, K un compact de X et U un


voisinage relativement compact de K. On suppose que
i) H ; ? l ( X )= O,
ii) l'application H Z ) 2 ( U )+ H ; i 2 ( X ) induite par inclusion est injective.
Alors pour toute forme différentielle f E COS; ( X \ K ) ,8-fermée, nulle en dehors
d'un compact de X , il existe g E C" ( X \ Ü),nulle en dehors d'un compact de X
telle queay = f dans X \ Ü.

x
Démonstration. Soit une fonction de classe C" sur X telle que x =
O au voisi-
nage de K et - 1 au voisinage de X \ U . La forme différentielle d(xf ) est alors
x
de classe C", d-fermée à support compact dans U , donc d'après iil il existe une
forme différentielle h E C r 1 ( X ) ,à support compact dans U telie que dh = d(xf )
x
dans X . Considérons la forme différentielle f - h. Elle est de classe C" à support
compact dans X et 8-fermée. L'hypothèse j) implique qu'il existe g E D ( X ) telle
que x f - h = 8.4.La fonction g Ix,v x
convient car f - h = f sur X \ Ü. O

www.bibliomath.com
96 V Extension de fonctions holomorphes et de fonctions C'R

Démonstration du Théorème 2.5. Soit f E COS; ( X \ K ) une forme différentielle


-
d-fermée,
- nulie en dehors d u n compact de X . Notons gn la solution de l'équation
dg = f dans X \ ÜnJonnée par le Lemme 2.6. La fonction gn+l - gn est alors ho-
lomorphe dans X \ U n et nulle en dehors d u n compact de X. Par prolongement
analytique, elle est donc nulle sur toutes les composantes non relativement com-
pactes de X \ Un. La fonction g définie par g = gn sur les composantes connexes
non relativement compactes de X \ Un convient car la réunion des composantes
connexes non relativement compactes des X \ Un est X \ K . O

Théorème 2.7. Soient X une variété analytique complexe et K un compact de X .


On suppose que H,P>q(X)= O pour un entier p 2 O et un entier q 2 1 alors
l'application naturellei : H g q ( X \ K ) + HP>q(X\ K ) est injective. En parti-
culiersi Hp>Q(X \ K ) = O, alors H g q ( X \ K ) = O.

Démonstration. Il faut prouver que si f E C,S(X \ K ) est une forme différentielle


-
d-fermée, nulle en dehors d u n compact de X telle que f = 8 g dans X \ K où
g E C,q),-,(X\K) alorsonpeuttrouvergo E CEq-,(X\K) nulleendehorsd'un
compact de X telle que f = ago dans X \ K . Soit x E D ( X ) telle que x 1sur
+
un voisinage de K Usupp f . Posons 9 = xg alors a9 = ax Ag x a g = ax +
Ag f
et la forme différentielle ax Ag se prolonge par O à X en une (p,q)-forme d-fermée
à support compact. Puisque H,Piq(X) = O, il existe h E DP>q-'(X)telle que
-

d h = ax A g sur X et par conséquent = ah + f. La forme différentielle


go = ij - h convient alors car h est à support compact dans X. O

3. FORMULE DE CAUCHY-FANTAPPIÉ. LEMME DE DOLBEAULT

L'objet de ce paragraphe est de construire de nouvelles formules intégrales qui


a
permettront de résoudre le sur des domaines de Cn lorsque la donnée n'est plus
à support compact.

Définition 3.1. Soit D un domaine borné de Cn. Une application w(z,<) =


<
( q ( z , < ) ,. . . ,w,(z,C)) de classe C' pour z E D et dans un voisinage Va0 de
d D à valeurs dans Cn est une section de Leray pour D si

(w(z,<),< - z ) # O pourtout (z,<) E D x dD.

Exemple :L'application w(z,<) = 3 - Z est une section de Leray pour tout domaine
borné D de cc". En effet
-
(w(z,<),< - z ) = (< - Z,C - z ) = I< - zI2 # O si z # <.

www.bibliomath.com
3. Formule de Cauchy-Fantappié.Lemme de Doibeault 97

Dans toute la suite D désignera un domaine borné à bord de classe C1 de U? et


w(z,c) une section de Leray pour D. On pose alors pour A E [O,l]

pour z E D et K V " ' ( ~ , ~ , A=


) ~ ~ ~ , z , c , x ( ~ ~A ( w(< c ,z )~, si
z , - ) z E D,
C E U ~ satisfont
D (w(z,<),<- z ) # O. Onnoteégaiement
n

et pour z E D et E UaD tels que (w(z,c),<- z ) # O.

-
Remarquons que Kc-' est le noyau de Bochner-Martinelli B défini au cha-
pitre III. Le noyau Kqw(z,<,A) est une forme différentielle continue de degré 2n - 1
sur {(.,<,A) E D x Uao x [O,i] 1 ( w ( z , c ) , <- z ) # O} . Le noyau K"(z,<) est
une forme différentielle continue de bidegré (n,n - 1) sur { ( z , c ) E D x I
( " ( z > O , c- 4 # 0 ) .

(e
Démonstration. Puisque la fonction - z ) est holomorphe en (z,<)et indépen-
dante de A, (aZ,<+
d x ) w ( c - z ) = O et par conséquent
(at,<+ & ) K q z , < J )=
+a.,<
(227r)n + dx)$Yz,C,A) A ' ..A (at,< + dx)V:(.,c,N A w(<- 2).
n
Mais sur D x UaD x [0,1]on a (v"(z,C,A),< - z ) = 1,ce qui implique (<j -
j=l
zj)(d,,ç + d x ) ~ ; ( z , C , X ) = O. On en déduit que pour z E D ,< E U ~ \D{ z } et
A E [OJI
(at,< + dx)#(z,<,A) A ...A (at,< + dx)$'(z,<,A) =0

www.bibliomath.com
98 V. Extension de fonctions holomorphes et de fonctions C R

ce qui prouve que + d x ) ~ (~z ," c , ~=) O.


(aZ,{
L'assertion
-
ii) se déduit des définitions des formes différentielles KqW, K Wet
B = KC-? et du résultat général suivant

qui s'obtient par un calcul direct (cf chapitre III, 1 pour la définition de p). 0

Théorème3.3. SoientD un domaine bornédeCn à bordde classeCl e t w ( z , c ) une


section de Leray pour D . On suppose que w est de classeC2 par rapport à z et que les
dérivées partielles de w d'ordre inférieur ou égal à 2 par rapport à z sont continues
sur D x U ~ DAlors . pour toute forme différentielle f continue sur D, on définit
l'opérateur T par

Tfk) = (J(CJ)€aDx[O,lIf (0 K q W ( z , c , +4 /
A
CED
f (0
A B ( 4 )

i) Si f E Cp",,(D) n CP,¶(D), s i w estdec1asseCk+' parrapportàz etsiles


dérivées partielles de w d'ordre inférieur ou égal à k +1 par rapportà z sont continues
sur D x U ~ Dalors, T f E Ci,¶- ( D ) .
ii) Si f est une ( p , q )-forme différentielle continue surD telle quedf soitaussi
continuesur D, O I. p,q 5 n, alors

(3.1) (-l)p+qf = 1 CEaD


f(c) A K W ( . , C )
- Tdf+dTf sur D.

Démonstration. Si w satisfait l'hypothèse de il, le noyau KqW(z,c,X) est de classe


C k par rapport à z. I1 résulte alors du théorème de dérivation sous le signe que s
s(C,x)EaDx[o,il f ( C) A K q W( z , C, XestdeclasseCk
) s u r D dèsque f estcontinuesur
ûD. Par ailleurs d'après la Proposition 2.1 du chapitre III, si f E Cp",q(0)nC,,,(D),
la forme différentielle 5,f = sCED
(e) f A B(.,c)est de classe Ck+a dans D pour
t o u t a ~ ] 0 , 1 [ParconséquentTf
. estdeclasseCk. S u r D x û D x [O,l] seulelapartie
de bidegré (p,q - 1) en z de K Q w(z,<,X) donne une contribution non nulle dans
le produit extérieur f(c) et comme EDf est de bidegré ( p , q - 1),la
A Kqw(.zz,<,X)
forme Tf est elle aussi de bidegré (p,q - 1).
Grâce à la formule de Bochner-Martinelli-Koppelman(chap. III, th. 2.31, pour
obtenir la formule (3.1) il suffit de prouver que

(3.2) 3, J
(C,A)€aDx [0,11
f(<)A K ~ ~ ( ~=
L J ) it,,(0 f A B(zt,C)-
-
a f ( 0A K"w(zlCIX).

www.bibliomath.com
3. Formule de Cauchy-Fantappié. Lemme de Dolbeault 99

Fixons z E D et appliquons la formule de Stokes à la forme différentielle f (C)A


KqW(z,C,X)sur d D x [0,1]:

Corollaire 3.4. Soient D un domaine borné de C", à bord de classe C' et w(z,C)
une section de Leray pour D qui dépend holomorphiquementde z et telle que toutes
ses dérivées partielles par rapport a z soient continues sur D x UaD. Alors pour
- af
toute ( p , q )-forme différentielle continue sur D telle que soit aussi continue sur
D,O 5 p 5 n , l 5 q 5 n , o n a
(34 f = aT: f + T;+,df dans D
où TpP = (- l ) P + q T et T est l'opérateur défini dans le Théorème 3.3.
Siaf = O, alors u = Tqf est une solution continue de l'équation au = f dans
D. De plus cette solution u est de classe Ca dans D pour tout a E]0,1[et si f est
de classe Ck dans D , 1 5 IC 5 +CO,alors u est de classe dans D pour tout
a €]0,1[.

www.bibliomath.com
1O0 VI Extension de fonctions holomorphes et de fonctions C R

Démonstrarion. D'après la formule (3.1),il suffit de prouver que, sous les hypo-
thèses du corollaire, JcEaD f (() A K"(z,<) = O si z E D pour obtenir la relation
'
(3'6). Mais si E D , &ao f (<) A K"(z,c)
= &aD f (() A (K")g(z>(), Où
(K"): est la partie de bidegré ( p , q ) en z de K", car dim d D = n - 2. Puisque
q 2 1,par définition de K", (K"): = O, car w est holomorphe en z , i.e. d,w = O ,
d'où le résultat. Si df = O, (3.6) implique f = dT: f dans D , donc u = Tf: est
solution de du = f sur D. La régularité de u résulte de la Proposition 2.1 du cha-
pitreIIIetdufaitquewétantdeclasseC" enz, ~ ~ C , x ~ E a D x ,fo (, (l )l A K q U ' ( z , ( , X )
est de classe C" sur D. O
Lorsque le domaine D est convexe à bord C2, il est facile de construire une
section de Leray pour D , holomorphe en la variable z . Soit T une fonction dé-
<
finissante de classe C2 pour D , on pose, pour au voisinage de d D , w ( z , ( ) =
(& (<), . . . &(0).L'application w est de classe C1 sur @" x U ~ etD indé-
pendante de z donc en particulier holomorphe en z. Si ( E d D , la condition
(w(z,<),(- z ) = O caractérise l'espace tangent complexe T t d D à d D en qui ne <
rencontre pas D car D est convexe. Par conséquent (w(z,<),<- z ) # O si z E D ,
< E d D et w est donc une section de Leraypour D.
On déduit alors immédiatement de cette construction et du Corollaire 3.4 que
l'on peut résoudre l'équation au = f,sur un ouvert convexe, borné D à bord C2,
lorsque f est une (p,q)-forme différentielle, O 5 p 5 n,l q 5 n, a-fermée de
ciasse C1 sur D. On a plus précisément le résultat suivant :

Théorème 3.5. Soient D un ouvert convexe borné de @" à bord de classeC2 etr une
fonction définisante de classeC2 pour D. Alors pour toute (p,q)-forme différentielle
f continue suri7 telle que df soit aussi continue sur D, O 5 p 5 n, i 5 q 5 n, on
a
f = dT:f T,+,df sur D +
OÙT:f )(. f (I')AK',w(z,C,X)+&D
= (-l)'+'( J ( C , x ) ~ a D x [ o , i ] f (()AB(z,())
etw(z1C) = (&(O,.. .,$<O).
En particulier, si df = O, on a f = dT: f . De plus si f est de classe C k dans D
alorsu = T: f estdeclasseCk+a dansD pourtoutrr E]O,I[.
Ce théorème prouve en particulier que l'on peut toujours résoudre localement
le d avec amélioration de la régularité (il suffit de considérer des petites boules par
exemple). Ce résultat s'appelle un Lemme de Poincaré pour le d ou Lemme de Doi-
beauit.
Terminons ce paragraphe en prouvant le Lemme de Dolbeault pour les cou-
rants.

Théorème 3.6.Soient D un ouvert conuexe borné de Cn et T un courant de bidegré


( p , q ) ,O 5 p 5 n, 1 5 q 5 n, d-fermé sur D. Alors pour tout ouuertU cc D, il

www.bibliomath.com
4. Isomorphisme de Dolbeault 101

existe un courant S sur U tel que dS = T sur U

Démonstration. Soient x une fonction c” à support compact dans Cn telle que


x 1 au voisinage de Ü et s u p p x CC D. Alors d’après le Théorème 4.4 du
chapitre III, on a la représentation
+
XT = - (B’d(xT) dB’(xT)) = - (B’(dxA T) dB’(xT)) + --
sur U .
c a r d T = O. Il suffit, pour conclure, de résoudrel’équationdu = ~?’(&AT)
- -
D’après la Proposition 4.3 du chapitre III, l?’($y A T) est de classe C“ au voisinage
de Ü. Sans perte
- -de généralité on peut supposer que U est convexe à bord C2 et on
résout du = l?’(dx A T) sur U en appliquant le Théorème 3.5. O

4. ISOMORPHISME DE DOLBEAULT

Soit X une variété analytique complexe de dimension n. On note RP le faisceau


des germes de p-formes holomorphes sur X et Hq(X,Rp)les groupes de cohomo-
logie de Cech de Rf’ sur X . (Les éléments de théorie des faisceaux utilisés dans ce
chapitre sont rappelés dans l’annexe B.)
On désigne par ZF,,cX), O 5 Q 5 00,le sous-espace des formes différentielles
f E CF,,(X) telles que df = O et par E;,,(X) le sous-espace des formes différen-
tielles f E Z;,,(X) telles que f = dg où g E C:,,-,(X). On pose HQiq(X) =
Z & ( X ) / E F , , ( X ) . Avec ces notations HG,(X) n’est autre que le groupe HP>q((X)
de cohomologie de Dolbeault défini au chapitre II. Pour déterminer si Z i r ( X )dé-
signe le sous-espace de DLG ( X )des courants d-fermés et ( X )le sous-espace
de Z ; r ( X ) des courants 6’-exacts, onpose H ! ’ & ( X )= Z ; r ( X ) / E i r ( X ) . On
note @ l’application Z & ( X ) + Z&F ( X )qui a une forme différentielle f associe
le courant Tf défini par f .

Théorème 4.1. Soit X une variété analytique complexe de dimension n. Alors


(4.1) H q ( X , R p )= O si p,q 2 n 1 +
et pour tout couple (p,q), O I :p,q 5 n, il existe des isomorphismes
(4.2) : H E > q ( X+ ) H q ( X , R p ) , O 5 Q 5 CO
6 P , q . HP’q
(4.3) - a 3 ( X ) +H q ( X , R p )
tels que, pour touta E [O, + 001,lediagramme

(4.4)
J

www.bibliomath.com
102 i! Extension de fonctions holomorphes et de fonctions C R

soit cornmutatg En particulier, pour0 5 (Y 5 oû et0 5 p,q 5 n, l'homomor-


phisme
(4.5) cp* : HZ'"X) -+ H ? Z ( X )
induit par est un isomorphisme.

Démonstration. On considère les faisceaux ZpS, des formes différentielles 8-


fermées de classe C a sur X, DL,qdes courants sur X , Zp77 des courants d-fermés
sur X et cr>.4 des formes différentielles de classe C a dont le d est aussi de classe C a
(ie.si u c x est un ouvert, C;,,(U) = {f E c;,,(u)I df E C;,q+l(u)}.).
Remarquons que ces faisceaux sont des faisceaux de €-module, où € désigne le
faisceau des germes de fonction C" sur X . Par conséquent, d'après la Proposition
3 de l'annexe B,
(4.6) H'(x,?&) =O si T 2i
et
(4.7) H'(X,Dh,q) = 0 si T 2 1.
I1 résulte de la régularité du d (chap. III, Th. 3.5 et Remarque 3.6) que l'application
cp : W ( X ) + Z i F ( X )
est un isomorphisme et, si O 5 (Y 5 CO, W ( X )= Z;,,(X). Le théorème est donc
vrai pour q = O.

-
Supposons q 2 1. Grâce au Lemme de Dolbeault pour les formes différentielles,
pour tout s = 1,. . . ,n la suite
- -
a
O Zpss-1 -+ c;,,-i + z;,,
4 0

- -
est exacte. Considérons la suite exacte longue de cohomologie associée à cette suite
( c f annexe B , Théorème 5)
- -
0 Z,q,-l(X) C,q,-l(X) 3 Z,q,(X) 6:4 ( P s)

...........................................................

I1 résulte de (4.6) que les morphismes de connexion

(4.8) %,(p,s) :H'(X,Z&)

sont des isomorphismes si T


un isomorphisme
- HP+l(X,Z;,s-l)
2 1et que le morphisme de connexion ~5&,,~ induit

(4.9) : H g S ( x )+ H1(X,Zpqs-l), 1 IsIn.

www.bibliomath.com
4. Isomorphisme de Dolbeault 103

Si q 2 n + 1,les isomorphismes (4.8) pour T 2 1,impliquent que


HQ(X,Z,q,) HQ-"(X,Zpqn).
-
Puisque Z;,,= C;,, et Z;,, = RP on a donc

H ~ ( X , R PY) Hq-"(X,ëF,,) si q 2n+1


et d'après (4.6) cela prouve (4.1).
Supposons 1 5 q 5 n et posons
p J , P = 69-1 1
a a,(p,i)
O ...O 4 4 P . q - l ) O ba,(Pd

Puisque les applications (4.9) et (4.8) sont des isomorphismes pour T 2 1 et


Z;,, = OP, on obtient un isomorphisme
dg19 I a ( X ) --+ H q ( X , R p ) .
HPz4
Le Lemme de Dolbeault pour les courants (Théorème 3.6) nous donne les suites
exactes
-
a
O + z,,,Oo_,+vp,s-l4 z,,; +O 15 s 5 n
a,
Grâce à la régularité du c'est-à-dire l'isomorphisme entre @ ( X ) et Z ; F ( X ) ,
et a la relation (4.7) on peut itérer la démonstration ci-dessus et on obtient un iso-
morphisme
f5?& : H y J X ) + H q ( X , R P ) .
De plus on a le diagramme commutatif de suites exactes courtes

- -
a
0 + Z&-i + cp,s-l 4 Z& 4 O

O -$
@I
zizi + V&
I. I. -

5 Z,lJ + o.
D'après la seconde assertion du Lemme du serpent (cf.annexe B, Lemme 7) chacun
des diagrammes

6: ( P .)
H'(X,Z,q,) '
i HT+l(X,Zpqs-l)

1
@*
H'(X,Z;,") hL-3s)
I
H'+l(X,Z-"P,S-l
@*
1
T 2 0,1< s s n

est commutatif et par conséquent par définition de @)q et b?': le diagramme (4.4)
est commutatif. O
Les isomorphismes du diagramme (4.4) sont appelés isomorphismes de Dol-
beauit.

www.bibliomath.com
104 V Extension de fonctions holomorphes et de fonctions C R

Remarques :On déduit du Théorème 4.1, les résultats suivants :


i) Si f est une forme différentielle de classe C a , O 5 Q 5 00,et s'il existe
un courant T tel que dT = T f alors il existe une forme différentielle g de classe C a
telle que dg = f (c'est l'injectivité de (4.5)).
ii) Pour tout courant T , 8-fermé il existe un courant S tel que T - dS soit
une forme différentielle de classe Cw (c'est la surjectivité de (4.5) pour (Y = 00).
On a plus précisément le corollaire :

Corollaire 4.2. Soit X une variété analytique complexe.


i) Pour tout courant T , d-fermé sur X et tout voisinage U du support de T ,
il existe un courant S sur X telle que T - dS soit une formed-fermée de classe C"
etsupp S c U .
ii) S i f estuneformedeclasseCk s u r X , k = û,1, ...,m e t T uncourantsur
X tels quedT = T f, alors pour tout voisinageU du support d e T , il existe une forme
différentielleg E 0 C k + + * ( X , Etellequedg
) = f surX etsuppg c U .
O<a<l

Démonstration. Prouvons 0. Choisissons un voisinage V du support de T tel que


-
V C U et soient x o et X I des fonctions de classe C" sur X telles que xo = 1 sur
un voisinage de X \ V et x o = O au voisinage du support de T ,x i = 1au voisinage
de X \ U et x i = O sur un voisinage de v.
Puisque T est d-fermé et que le morphisme (4.5) est surjectif,
- il existe un cou-
rant SOsur X et une forme différentielle fo de classe C", 8-fermée sur X tels que
T - dSo = T f osur X . Alors T f o= -aSo sur X \ supp T et comme le morphisme
(4.5) est injectif, il existe une forme C", g o , sur x \ supp T telle que fo = dg0 sur
+
X \ supp T . Sur X \ v o n a alors d(S0 T x o s o = ) T- fo+a,O= O . La surjectivité
du morphisme (4.5) implique alors l'existence
- v
d'un courant R sur X-\ et d u n e
forme différentielleg1 de classe C", 8-fermée +
-tels que SO Txogo - 8 R = T,, sur
+
X \ V. Le courant S = SO Txo,o-xisi- û(x1R)satisfaitl'assertion i).
Maintenant montrons id. Notons F le faisceau sur X défini de la manière sui-
vante :
Si V est un ouvert de X, F ( V ) est l'espace vectoriel des formes différen-
tielles g E n
O<a<l
Cf+a(V) telles que dg E 0
O<a<l
Cf+O(V). C'est un faisceau de
€-modules et par conséquent d'après la Proposition 3 de l'annexe B
(4.10) H l ( X , F )= o.

Soient V = (V,)iEl et W = (Wi)iEldes recouvrements ouverts de X tels


que, pour tout a, V, CC Wi,V, et Wi sont biholomorphes à la boule unité de C" .
Soit f E Cf( X ) ,d-fermée, daprès le Lemme de Dolbeault pour les formes (Théo-
rème 3.51, on peut trouver une famille de formes gi E
Oa<l
n
Cffa(Wi)telles que
-
a g i = f sur Wi. Si T est un courant sur X tel que 8T = T f , ïinjectivité du
morphisme (4.5) implique qu'il existe une forme différentielle u de classe C k sur

www.bibliomath.com
5. Théorème de Bochner et extension de fonctions C R dans les variétés 105

X telle que au = f sur X . Posons h, = g, - u sur V, alors h, E .Zk(W,)et


en appliquant à nouveau le Lemme de Dolbeault on obtient une famille de formes
IC, E Cf+"(V,) telles que dk, = h, sur V,. I1 en résulte que IC, - IC, E
O<a<l
F(K n V,) et grâce à (4.10) il existe une famille de formes u, E F(K)telles que
IC, - IC, = u,- u, sur V ,n V,.En posant u = 9%- du, sur V,,on obtient une forme
2i E
O<a<l
n Ck+a( x )telle que au = f sur X .
Nous venons de construire une solution ayant la régularité cherchée, il reste à
satisfaire
-
la condition de support. Puisque a u = f sur X, le courant T - Tu est
d-fermé sur X et la surjectivité du morphisme (4.5) pour (Y = CO implique -
qu'il
existe un courant S sur X et une forme différentielle goo de classe CO3, d-fermé
sur X tels que T - T, + as = Tgm. On a alors as= Tu+s, sur X \ supp T .
Grâce à la lrepartie de la démonstration il existe donc une forme différentielle h E
n
O<a<l
( X \ supp T )telle que ah = u +goo sur X \ supp T . Choisissons une
fonction x de classe C" dans X telle que x = O au voisinage du support de - T et
x = 1 dans un voisinage de X \ U . Alors la forme différentielle g = 2i +gm - a(Xh)
satisfait l'assertion ii). O

Une conséquence immédiate de l'assertion il du Corollaire 4.2 est le résultat


suivant qui nous sera utile au paragraphe 5 de ce chapitre.

Corollaire 4.3. Soient X une variété analytique complexe de dimension n, O une


des familles de supports définies dans le chapitre II, 7. On suppose que pour un
couple d'entiers ( p , q ) ,O 5 p 5 n, 1 5 q 5 n, H g q ( X ) = O, alors si T est un
( p , q )-courant, d-fermé dans X dont lesupportappartientà lafamillee, il existe un
courant S dont le support est un élément de O tel q u e d S = T sur X ,

5. THÉORÈMEDE BOCHNER ET EXTENSION DE FONCTIONS C R


DANS LES VARIÉTÉS

Nous allons étendre au cas des fonctions CR de classe C k les résultats obtenus
au paragraphe 2.

Théorème 5.1. Soient X une variété analytique complexe non compacte et K un


compact de X . On suppose que H$'(X \ K ) = O. Alors pour tout domaine D
relativement compact dans X tel que
i)dD\Ksoitunesous-uariétédeclmseCk,k 2 l , d e X \ K .
2) D \ K = I n t ( D \ K ) .
3) \ ( Du K ) est connexe
x
et toutefonction f CR de classeCs,O 5 s 5 IC, surdD \ K , il existe une fonction F
de clmseCS s u r D \ K , holomorphedans D \ K telleque Flao,K = f .

www.bibliomath.com
106 V Extension de fonctions holomorphes et de fonctions C R

Démonstration. Considérons le courant T = f [ d D \ C'est un courant de


bidegré (0,l) dans X \ K dont le support est contenu dans d D \ K qui est un
élément de la famille @. La fonction f étant CR,le courant T est d-fermé (en effet
si cp est une (n,n - 2) forme différentielle de classe C" à support compact dans
X\K,ona(dT,cp) = (T,dcp)= S<7D\KfA&î = O). L'hypothèseH;'(X\K) =
O et l'isomorphisme de Dolbeault prouvent alors l'existence d'un courant S,dont le
support appartient à la famille @, qui vérifie dS = T (cf Corollaire 4.3). Puisque le
support de T est contenu dans aD\K, dS est nul sur X\(dDüK);S est donc une
fonction holomorphe sur ( D \ K ) U (X \ (DUK ) ) (cf.chap. III, th. 4.5). Comme le
support de S est un élément de a, S est nulle sur un ouvert de X \ (Dü K ) car X
n'est pas compacte et DUK est compact. La connexité de X \ (DUK ) et principe
du prolongement analytique impliquent alors que S est nulle sur X \ (DU K ) .

I1 reste à déterminer le comportement de S près de aD\K. Cela résultera d u n e


<
étude locale, en effet si [ est un point fixé de d D \ K , V, un voisinage de dans
X \ K sur lequel on peut résoudre l'équation d R = f[aD\ K]"l1et SCun courant
de degré O tel que dSc = f [ a D \ sur V, on aura d(S - S C )= O sur V, et
S - SCsera une fonction holomorphe donc de classe C" sur Vc. Les courants S et
SCauront donc, modulo une fonction C", le même comportement sur Vc.
< <
Soit E d D \ K , choisissons un voisinage Uc de dans X \ K tel que
a) Uc est contenu dans un domaine de carte U de X .
b) I1 existe des coordonnées locales sur U telles que l'image de Uc par cette carte
soit un ouvert convexe borné de @".
c) Uc \ ( a l l ü K ) possède exactement deux composantes connexes.

Sans perte de généralité, nous pouvons identifier Uc et son image dans C".
D'après le Théorème 3.6 pour tout ouvert convexe Vc CC Uc il existe un courant
+
SE tel que dS, = T sur Vc. De plus SC = IL< B'(xT) où x est une fonction
C" à support compact dans Uc égale à 1 au voisinage de
- - vc
et uc une fonction de
classe C" solution de duc = B'(ax A T ) sur Vc. Sur Vc,le comportement de Se
est donc, modulo une fonction de classe C", le même que celui de

c'est-à-dire que celui de la transformée de Bochner-Martinelli de x f , que nous


avons étudiée au chapitre IV, 1. Le courant S étant nul sur Vc n (X \ (Dü K ) ) ,
sc IV,n(X\(DUK) se prolonge continûment en S c à V, n (X \ ( DuK ) )ainsi que la
I
transformée de Bochner-Martinelli de x f . Comme f est continue, SC Vcn(D\K) se
prolonge continûment en SE' à V, n ( D\ K ) et on a S l - S; = f sur ( d D \
K )nV,. Par conséquent SI D\K se prolonge en une fonction F continue sur O\ K
teiie que ~ l = f,car~ ~ \
= O. ~
Pour obtenir la régularité Ck de S jusqu'au bord il suffit d'étudier Fc(z) =

www.bibliomath.com
5. Théorème de Bochner et extension de fonctions C R dans les variétés 107

est de classe C" sur V,. Supposons que V, n a D soit un ouvert à bord C1. En
reprenant la démonstration du Théorème 3.3 du chapitre W, on obtient pour z E

où J est une extension de f satisfaisant aux conclusions du Lemme 2.3 du chapitre


IV. En appliquant la formule de Stokes, on a

où la dernière intégrale du membre de droite est une fonction C" sur Vc car Bj est
de classe C" sur C" x Cn\ A . Comme Fc diffère de S
I, - - O par des
\(DUW -
fonctions C" sur V, ,%Iv, \D se prolonge continûment à V, nD. Une récurrence
sur k termine la démonstration comme dans le cas du Théorème 3.3 du chapitre
IV. O

Corollaire 5.2. Théorème de Bochner. Soit X une variété analytique complexe non
compacte telle que H:>l( X ) = O. Pour tout domaine D relativement compact à
bord de classe C k de X tel que X \ D soit connexe et toute fonction f CR de classe
Cs suraD, O 5 s 5 k, il existe une fonction F de classeCs sur D, holomorphe dans
I
D et telle que F a. = f .

Démonstration. I1 suffit d'appliquer le Théorème 5.1 avec K = 0,les familles c et


coïncidant dans ce cas. O

Remarque :Les Théorèmes 2.5 et 2.7 donnent des conditions cohomologiques sous
lesquelles la conclusion du Théorème 5.1 est valable.

Commentaires. L'étude de l'extension des fonctions GR déJnies sur une partie d u


bord d'un domaine est principalement due à G. Lupacciolu [Lu1,2]. On peut en trou-
ver un excellent exposé dans [CilSt].Le Lemme de Poincaré pour l e a est dû à €? Dol-
beault et A. Grothendieck, c'est le point clé de la représentation des groupes de coho-
mologie desfaisceaux analytiques en termes de complexe pour lea (cf: [Do1,2]).Nous
a
prouvons le Lemme de Dolbeault en utilisant la résolution du dans les domaines
convexes à l'aide de la formule de Cauchy-Fantappié. Une autre démonstration du
Lemme de Dolheault utilisant la résolution d u d dans les polydisques est donnée dans
[HOZ]. La démonstration de l'isomorphisme de Dolbeault présentée ici se trouve dans
IHelLe21.

www.bibliomath.com
www.bibliomath.com
Chapitre VI

Domaines d’holomorphie
et pseudoconvexité

Nous avons rencontré à la fin du chapitre I et dans le chapitre III des ouverts de cc“
pour lesquels toute fonction holomorphe peut être prolongée à un ouvert plus grand. Les
ouverts qui n’ont pas cette propriété sont appelés domaines d’holomorphie. Ce chapitre
est consacré à l’étude des domaines d’holomorphie. Nous donnons, pour commencer, une
caractérisation des domaines d’holomorphie en termes de convexité holomorphe (Théorème
de Cartan-Thullen). Pour obtenir une caractérisation plus analytique nous introduisons la
notion de pseudoconvexité. Pour cela nous définissons les fonctions plurisousharmoniques.
Nous prouvons que tout domaine d’holomorphie est pseudoconvexe. La réciproque, appelée
problème de Levi, sera étudiée au chapitre VII.

1. DOMAINES D’HOLOMORPHIE ET CONVEXITÉHOLOMORPHE

En étudiant le phénomène de Hartogs au chapitre III nous avons vu qu’il existe


des ouverts 0 de C” tels que toute fonction holomorphe sur R s’étende holomor-
phiquement à un ouvert plus grand. Cela nous conduit à introduire la notion sui-
vante :

Définition 1.1. Un ouvert R de Cn est appelé domaine d’holomorphie s’il n’existe


pas d’ouverts 01 et 0 2 de Cn ayant les propriétés suivantes :
4 0 # a 1c R 2 n 0 ;
b) 522 est connexe et n’est pas contenu dans R ;
c) Pour toute f E C3(0), il existe une fonction f2 E C3(02) telle que f = fi sur
521.

La notion de domaine dholomorphie n’est vraiment intéressante que dans Cn ,


n 2 2, car dans @, tout ouvert 0 est un domaine dholomorphie (pour zo E dR, il
suffit de considérer la fonction f ( z ) = &I.

www.bibliomath.com
I10 VI. Domaines d 'holomorphieet pseudoconvexité

Exemples
1) I1 résulte du Théorème de Hartogs (chapitre III, Corollaire 4.3)que, si R est
un domaine de Cn, n 2 2, et K un compact de R, R \ K n'est pas un domaine
dholomorphie.
2) La boule euclidienne B(O,R),de centre O et de rayon R de @" est un do-
maine dholomorphie (pour zo E d B , il suffit de considérer la fonction f ( z ) =
n
i/R2 - Z ~ Z ;sizo = ( z y , . . . ,z:)).
j=l

3) La marmite de Hartogs Q = { (21,. . . ,zn) E C" I < f,1 5 i 5


ri -1 ou 5 Iz, I 5 T dans C", n 2 2, n'est pas un domaine dholomorphie (cf.
chapitre I, Th. 6.9).

Lemme 1.2. Tout ouvert convexe de C" est un domaine dholomorphie.

Démonstration. Si zo est un point fixé de dR, la convexité de R implique qu'il existe


une application IR-linéaire C de @" dans IR telle que C(z) < C(z0) pour tout z E R.
n
On peut écrire t ( z ) = crjzj + 0j.j et puisque C est à valeurs réelles on a ,Bj=
j=l
n
6 j ,j = 1,.. . ,n. Par conséquent C ( z ) = Re(h(z)), où h ( z ) = 2 ajzj pour
j=l
tout z E Cn. La fonction f ( z ) = h ( z ) -1h ( z o ) , qui est holomorphe sur R n'admet
pas de prolongement holomorphe au voisinage de zo ce qui prouve le lemme. 0
Nous allons essayer de caractériser les domaines d'holomorphie en terme de
convexité par rapport aux fonctions holomorphes.

Définition 1.3. Soient R un ouvert de Cn et K un compact de R, on définit l'enve-


loppe holomorphiquement convexe k , de K par

k n = {z E I If(z)l I sup Ifl,V'f


K
E OP)}.

Lemme 1.4. Soient R un ouvert de Cn et K un compact de R, alors k o est contenu


dans l'enveloppe convexe de K .

Démonstration. Rappelons que l'enveloppe convexe de K est l'intersection des


demi-espaces contenant K . De plus un hyperplan réel de Cn est défini par
l'équation Re(z,() = (Y, où ( E <c" est fixé et (Y E R Si un point zo E Cn
n'est pas dans l'enveloppe convexe de K , il existe ( E C" tel que Re(w,[) c
Re(.zo,() pour tout w E K . Considérons la fonction holomorphe dans C",
f ( z ) = exp((z - IO,()), ellevérifie If(10)l = 1 et If(w)l < 1pour tout w E K ,
donc IO Ka. O

www.bibliomath.com
I . Domaines d'holomorphie et convexité holomorphe 111

Corollaire 1.5. Si R est un ouuert de Cn et K un compact de R alors k n est borné


dans Cn .

Démonstration. C'est une conséquence immédiate du Lemme 1.4 car l'enveloppe


convexe d'un ensemble borné est bornée. O

Proposition 1.6. Soient R un ouuert de Cn et K un compact de R, alors


h

i) K c kne t k n = En.
ii) SiK' c K , k h c k ~ .
iii) Si D est un ouvertdeCn tel q u e R c D , alorska c k,.
iv) i?n estfermé dans R.
u) Étantdonné111 > O etc > O, siz ER \ KO,ilexistef E O(R) telleque
sup If1 < E e t f ( z ) > 111.
K

Démonstration. Les assertions il, ii) et iii) sont des conséquences immédiates de la
Définition 1.3.
n
h

Montrons ivj : remarquons que Kn = A f où A f = { z E R I 5[).(fI


f€o(n)
sup [fi}. Les fonctions de O(R) étant continues sur R, les ensembles A f sont fer-
K
més dans R et k n est donc fermé dans R.
Considérons l'assertion vj : si z E R \En, il existe une fonction h E O(R) telle
que sup (hl < lh(z)I. Après multiplication par une constante, on peut supposer
K
que supK Ihl < 1 < Ih(z)I. I1 suffit alors de poser f = he pour assez grand.
h

Remarque :Nous avons vu que Ka est toujours borné et fermé dans 0, mais en
général ce n'est pas un compact de R.

Théorème 1.7. Soit R un domaine d'holomorphie de @" , alors pour tout compact K
de R
d i s t ( k n , û R ) = dist(K,dR)
où dist(K,dR) = inf { 1w - zI I w E K, z E an} est la distance euclidienne de K
à an.
Si P(0,r)est le polydisque de centre O et de multirayon (TI,. . . ,rn) et a un
point de R, on pose
s;(a) = sup { A > O 1 a + AP(0,T) c O}.
ûnaalorsdist(a,dQ) = inf { & ( a ) I T > O, CT; = l}.
Lemme 1.8. Soient 0 u n ouvert de C", K u n compact de 0 et T un mucirayon. Si
Q > O est tel que 6 h ( z ) 2 7 pour tout t E K , alors, pour tout a E KO et toute
f E O(R), lasériede Taylorde f e n a conuergesurP(a,vr).

www.bibliomath.com
112 VI. Domaines d'holomorphieet pseudoconvexité

Démonstration du lemme. Fixons f E O(R) et 7' tel que O < 7' < 7. Alors
Q = U P ( a , ~ ' rest
aEK
) un compact de R, il existe donc M E R tel que sup
Q
5 If/
M . D'après les inégalités de Cauchy, on a supK loaf[ 5 ~ ! M ( V ' T )pour
- " , tout
a E W . Comme D"f E Q(R), par définition de k ~ ,
h

D " f ( a ) 5 a ! M ( q ' ~ ) - "pour


, tout a E KQ
et donc daprès le Lemme d'Abel, la série de Taylor de f en a E l ? ~converge sur
P(alq'r).Ceci étant vrai pour tout 7' < q ,il y a convergence sur P ( a , ~ r ) . O

Démonstration du théorème. Notons tout dabord que l'inclusion K c KQim-


plique l'inégalité
dist(kn,dR) 5 dist(K,dR).
Supposons que 7 = dist(K,aR) > dist(kQ,ûR),nous allons prouver qu'alors h

R n'est pas un domaine dholomorphie. Considérons un point a E KQ tel que


n
dist(a,dR) < 7. I1 existe un multirayon T tel que ri = 1 et S&(a) < 7 5
j=l
Sh ( z ) ,pour tout z E K. I1 résulte alors du Lemme 1.8 que la restriction à la com-
posante connexe de R n P ( a , ~ rcontenant
) a de toute fonction holomorphe sur
R se prolonge holomorphiquement à P ( a , ~ r )Comme. S&(a) < 7 , P ( a , ~ rn'est
)
pas contenu dans R ; l'ouvert R ne peut donc pas être un domaine dholomorphie.
Par conséquent si R est un domaine dholomorphie, l'inégalité dist(K0,ûR) 2
dist (K,dR)est satisfaite. O

I1 est alors naturel d'introduire la notion suivante :

Définition 1.9. Soit R un ouvert de Cn . On dira que 0 est holomorphiquement


convexe si pour tout compact K de R,k~est relativement compact dans R,
Si K est un compact de 0,K est O(R)-convexe si et seulement si K = KQ.

Exemples :Considérons l'ouvert R = { z E en I < IzI < 2} et le compact


K = { z E C n 11z1=1}deR.
5
1)Sin = 1,en utilisant les fonctions holomorphes sur 0,f ( z ) = et f (z)= z ,
on voit que ka = K, ce qui signifie que K est O(R)-convexe.
2) Sin 2 2, le phénomène de Hartogs implique que toute fonction holomorphe
f sur R s'étend en une fonction holomorphe f à la boule B(0,2).Si on applique
le principe du maximum à f , on obtient, lf(z)l = [).(fI
5 supK pour z tel If/, h

que < 121 < i et par conséquent B ( o , ~n)R c E-, ce qui prouve que KO n'est
pas relativement compact dans R. L'ouvert R n'est donc pas holomorphiquement
convexe.
Avec cette terminologie, le Théorème 1.7 signifie qu'un domaine dholomorphie
est holomorphiquement convexe. La suite de ce paragraphe va être consacrée à
prouver que les notions de domaine dholomorphie et d'ouvert holomorphique-
ment convexe sont en fait équivalentes.

www.bibliomath.com
1. Domaines d’holomorphie et convexité holomorphe 113

Lemme 1.10. Soit R un ouvert holomorphiquement convexe de @” . Alors R possède


~ compacts O(R)-convexes.
une suite exhaustive ( K j ) j €de

Démonstration. Nous ailons construire la suite ( K j ) j Epar


~ récurrence à partir
d u n e suite exhaustive (Qe)e€w de compacts quelconques de R. On pose K 1 =
n

Q I , c’est un compact de R car R est holomorphiquement convexe. Supposons


O
construits K I , . . . ,Kj et considérons l j 2 j tel que Kj C Q e J il
, suffit alors de
h

poser Kj+1 = &e,. o

Lemme 1.11. Soient0 un ouvert holomorphiquementconvexe de C”, (K j ) j c une ~


suite exhaustive de compacts O(52) -convexes de R et ( p j ) j E nune suite de points tels
quepj E Kj+i \ K j . Alors il existe unefonction f E O(R) telleque lim ( f ( p j I) =
3-00
+m.

00
Démonstration. La fonction f sera déterminée comme la somme d u n e série fu
u=l

où fu E o(o),sup ljUl <


K”
2-” et 1f3(pj)l > j + 1 + 5lfU(pj)l,s i j 2
u=l
2.
00
Remarquons que si une telle suite existe
( ~ V ) , ~ M . alors la série f u converge
u=l
uniformément sur tout compact K de O et donc sa somme f est holomorphe sur
R et s i j 2 2.

v#j V>j

00
Cela implique If(pj)l > j car Ifu(pj)I < 2-” 5 1. On construit la
U>j u=l
suite ( f v ) u E ~par récurrence. On pose f i O et si fi,. . . ,fe-l sont construites,
il résulte de l’assertion v) de la Proposition 1.6 qu’il existe fe E O(R) telle que
e- 1
SUP
Kt
Ifel < >
et ~fe(pe)~ +1 u= 1
~ . î ~ ( p ecarpe
)l, e Et.
Proposition 1.12. Un ouvert R de @” est holomorphiquement convexe si et seule-
ment si pour toute suite ( P , , ) ” ~ N C R sans point d’accumulation dans R,il existe
unefonction f E O(R) telle quesup If(p,) I = +m.
UEW

Démonstration. Supposons que R est holomorphiquement convexe et consi-


~ compacts O(R)-convexes de R (il en
dérons une suite exhaustive ( K j ) j €de
~ une suite de points de R sans
existe daprès le Lemme 1.10). Si ( p u ) u e est
point d’accumulation dans (1, il existe des suites (vk)kEn et ( j k ) k e ~telles que
pu, E Kjk+l\ Kjk. L‘existence de la fonction f est alors une conséquence du
Lemme 1.11.

www.bibliomath.com
114 VI. Domaines d'holomorphie et pseudoconvexité

Réciproquement soit K un compact de R. Par définition de la co_nvexité ho-


lomorphe, il suffit de prouver que toute suite (p,,),,€~d'éléments de KO possède
A h

un point d'accumulation dans KO. Soit (P,,),,~N une suite de points de KR.Alors
pour toute f E O(R), on a sup lf(p,,)l 5 sup If I < +CO. Puisque, par hypo-
U€N K
thèse, pour toute suite sans point d'accumulation dans R, il existe une fonction
holomorphe dans R non bornée sur cette suite, la suite (p,,),,€~précédente pos-
sède un point d'accumulation dans R. Comme de plus I?,
h
est fermé dans R, ce
point d'accumulation appartient à KR. o.

Application :Soit R un ouvert de e". Pour que R soit holomorphiquement convexe,


il suffit que, pour tout point p E dR, il existe une fonction fp E O(R) telle que
lim
Z+P
I fp(z)l = +CO. En effet, si ( P , , ) , , ~ West une suite d'éléments de R sans point
=ER
d'accumulation dans R, soit cette suite n'est pas bornée et alors la fonction f ( z ) =
z n'est pas bornée sur ( P , , ) , , ~ wsoit
, cette suite possède un point d'accumulation
p E dR et alors fp n'est pas bornée sur (P,,),,~w.D'après la Proposition 1.12, R
est alors holomorphiquement convexe. On prouve ainsi que tout ouvert de @. est
holomorphiquement convexe ainsi que tout ouvert convexe de @" .
Nous pouvons maintenant énoncer et démontrer le théorème de caractérisa-
tion des domaines d'holomorphie en terme de convexité holomorphe obtenu par
H. Cartan et I? Thullen.

Théorème 1.13. SoitR un ouvert de C" . Les conditions suivantes sont équivalentes:
i) R est y domaine d'holornorphie.
ii) dist(Kn,dR)= dist(K,dR),pour toutcompactK d e o .
iii) R est holornorphiquernent convexe.
iv) Il existe f E O(R) telle que pour tout couple d'ouverts R I et R2 de @"
satisfaisant les conditions a) et bj de la Définition 1.1 on ne peut pas trouver de fonc-
tionf E o ( R ~ )tellequef = f surR1.

Démonstration. Les implications iij iiij et ivj ==+ i] sont respectivement des
conséquences immédiates des Définitions 1.9 et 1.1. L'implication ij ==+ iij est
donnée par le Théorème 1.7. I1 ne reste à prouver que iii] ==+ iv).

Lemme 1.14. Soient R un ouvert de @", p un point de dR,U un voisinage connexe


d e p et D une Composante connexe de U n R. Alors d D n (U n 8 0 ) # 0.

Démonstration. Puisque D est une composante connexe de U n R, D est ouvert


dans C" et fermé dans U n R. L'ouvert U étant connexe et Détant strictement
inclus dans U , D ne peut pas être fermé dans U . Considérons un point q de la
frontière (dans U ) de D.Comme D est fermé dans U n 0,le point q ne peut être
que sur dR. O

www.bibliomath.com
I . Domaines d’holornorphie et convexité holomorphe 115

Lemme 1.15. SoientR un ouvertdeû? et(K,),€N unesuite exhaustive decompacts


de R.Alors il existe une suite ( u j ) j c n d’entiers naturels et une suite ( p j ) j c de
~ points
de R telles que les conditions suivantes soient satisfaites :
U p j E K,,,, \ K,,,.i E
2) pour toutp E dR et tout voisinage connexe U de p, toute composante connexe
D de U n R contient une infinité de points de la suite (pj)jEn.

Démonstration. On note (u,),€~ la suite des points de R ayant des coordonnées


rationnelles, T , la distance de a, à dR et B , la boule B(u,,r,) C R.On désigne
par (Qj)j€n une suite dont les éléments sont les B , et qui contient chaque B , une
infinité de fois. Par exemple, la suite B I ,B I ,&, B I ,Bz,B3,B I ,Ba, B3,Bq, . . ..
Posons K,=Ko et supposons que nous ayons construit des points p l , . . . ,pe-l
et des compacts K,, , . . . ,K,, vérifiant 1) pour j = 1, . . . ,C - 1. Comme Qj n’est
contenu dans aucun compact de R puisque c’est l’un des B,, il existe pe E Qe \
K,, . On choisit alors V e + i tel que pe E K,,,, et 1) est vérifiée pour j = C. Mon-
trons que 2) est égaiement satisfaite pour les suites que nous venons de construire
de proche en proche. Soient p E do, U un voisinage connexe de p et D une com-
posante connexe de U n R. D’après le Lemme 1.14, il existe q E d D f’ U n dR.
La suite ( u , ) , ~ Nétant dense dans (Cn, il existe a, E D suffisamment proche de
q pour que B , c D . Mais puisque B , apparaît une infinité de fois dans la suite
(Qj)jcn et pj E Qj, U n D contient une infinité de pointspj. O

Fin de la démonstration du Théorème 1.13. Supposons que R est holomorphique-


ment convexe.D’aprèsle Lemme 1.10, il possède une suite exhaustive (K,),€N de
compacts (?(R)-convexes. Nous pouvons alors appliquer le Lemme 1.11 aux suites
( p j ) j Eet~ (Kv,)jEnassociées à la suite ( K Y ) Vpar
E ~le Lemme 1.15 et construire
une fonction f E O(R) telle que lim (f(pj)l = m. Soient p E d a , U un voisi-
3-00
nage connexe de p et D une composante connexe de U n R. Supposons qu’il existe
h E O ( U )telle que h = f sur D. Soit U’ cc U un voisinage de p et D’ la com-
posante connexe de U’ n R qui rencontre D , alors sup Ihl 5 sup Ihl < +cû et f
D’ U’
doit donc être bornée sur D’. Mais cela est impossible car, par construction de la
suite ( p j ) j E w ,D’contient une infinité de p j et lim (f(pj)1 = +m. La fonction f
3+m
satisfait donc iv). O

Terminons ce paragraphe en donnant de nouveaux exemples de domaines


d’holomorphie et quelques propriétés de stabilité par les opérations ensemblistes

Proposition 1.16. Soient R un domaine d’holomorphie dans U? et f i , . . . ,fN E


c3 (O). Alors
n, ={z E R I Ifj(Z)l < 1, j = 1 , .. . , N }

est un domaine dholomorphie.

www.bibliomath.com
116 VI. Domaines d’holomorphieet pseudoconvexité

Démonstration. Soit K un compact de R f . Choisissons r < 1tel que I f j I 5 r dans


h

K pour tout j = 1, . . . ,N. Cette inégalité est bien sûr encore valable dans Ka et
n h

Ka est donc contenu dans R f . Mais KQ est compact puisque 0 est un domaine
h h

dholomorphie et contient KQ, ce qui implique que K a , est compact et prouve le


résultat. O

Remarque :Si Rf CC R, alors Rf est un domaine dholomorphie même si R n’en


est pas un car Ka, est fermé dans R,puisque k ~c,{ z E R I I f j ( z ) l 5 T } C
h

Rf.

Exemples
i) Si cp E C’(en), R = { z E C” I - A < Recp(z) < A } est un domaine
d’holomorphie.
-
2) Un ouvert R CC C” est un polyèdre analytique s’il existe un voisinage U de
R e t f l , . . . ,f N ~ ~ ? ( ~ ) t e i i e s q u{ Z eE U~I = l f j ( z ) I < 1 , j = i ,...,N } . u ~
polyèdre analytique est un domaine dholomorphie.

Proposition 1.17. L‘intérieurd’une intersection quelconque de domaines d’holomor-


phie est un domaine d’holomorphie.

Démonstration. Soit ( R z ~ )une


~ ~famille
J de domaines d’holomorphie, notons R
l’intérieur de n
Ri et supposons que R # a.
Si K est un compact de R, on a
ZEJ
O < d =dist(K,âR) 5 dist(K,ûO,), pour tout i E I. Les ouverts Ri étant
des domaines dholomorphie, il résulte du Théorème 1.7 que d 5 dist(ka dRi),
h
h 2 5

pour tout z E I . Comme KQ est contenu dans tous les KQ,, la distance de Ka auA

bord des Ri est supérieure ou égale à d ainsi que la distance de KR au bord de R.


L‘ouvert R est donc holomorphiquement convexe et d’après le Théorème 1.13, c’est
un domaine d’holomorphie. O

Proposition 1.18. Soient RI c Cm et R2 c @” deux domaines d’holomorphie.


Alors le produit cartésien R1 x 0 2 est un domaine d’holomorphie.

Démonstration. I1 suffit de prouver que pour tout compact K = K1 x K2 de R1 x


0 2 où Ki est un compact de Ri,i = 1,2, Knl x ~ est z relativement compact dans
R1 x 0 2 . Si f E c3(02;), i = 1 ou 2, alors f définit une fonction holomorphe sur
01 x R2 et par conséquent

A h h

Donc K a, xazest contenu dans KI)^, x ( K ~ ) qui Q~est relativement compact


dans 521 x 0 2 car les Ri, i = 1,2 sont holomorphiquement convexes. O

Si un ouvert R de C” n’est pas un domaine d’holomorphie, il est alors naturel


de se demander s’il existe un plus grand élément E ( R ) dans l’ensemble des ouverts

www.bibliomath.com
2. Fonctions plurisoushannoniques 1 I7

D contenant R tels que toute fonction holomorphe sur R s'étende en une fonction
holomorphe sur D.

Exemples
1) Soient O un domaine d'holomorphie de C",n 2 2, et K un compact de
O tels que O \ K soit connexe. Posons R = O \ K . I1 résulte du phénomène
de Hartogs et de la définition des domaines dholomorphie que E ( R ) existe et que
E ( R ) = O.
2) Soit p une fonction holomorphe dans C",n 2 2, on note O le domaine
d'holomorphie O = { z E C" I Re p(z) < O}. Si K est un fermé de O tel que
K CC C" et O \ K soit connexe, on pose R : O \ K . On déduit du théorème
d'extension donné dans le paragraphe 6 du chapitre Vet du phénomène de Hartogs
que E ( R ) existe et que E ( R ) = O.
Comme nous aiions le voir sur un exemple, en générai E ( R ) n'existe pas si on
se limite à la classe des ouverts de C" . Lorsqu'il existe, E ( R ) est appelé enveloppe
d'holomorphie de R.

Considérons le sous-ensemble y de C défini par y = { z E IR I 1 5 z 5 2} U


{z = 2eie I O 5 O 5 7r} U { z E IR I -2 5 z 5 O}. On note r le sous-ensemble
de C2 défini p a r r = y x {O}. Posons Wl = { z E C2 I O 5 Izl/< 1/2, O < -
1.~21< I} u { z E C2 1 O 2 lzll < 1, i / 2 < 1221 < I}. W I est unemarmite
de Hartogs et d'après le Théorème 6.9 du chapitre I, toute fonction holomorphe sur
W1 s'étend en une fonction holomorphe sur le bidisque D(0,l) x D ( 0 , l ) . Notons
W2 = D ( l , l / 4 ) x 0 ( 0 , 1 / 4 ) , W 3 = { z E C2 I dist(z,r) < 1/4} e t R = Wl U
W , U Ws. L'ouvert R de C2 est connexe car chacun des Wi,i = 1,2,3 est connexe
et CC: x {O} n 0 est connexe. Considérons la fonction f E O(R) qui coïncide avec
une détermination de d F sur W1 (f existe et est unique car R est connexe,
on la construit par prolongement analytique). Si l'enveloppe d'holomorphie E (R)
de R existait, en tant qu'ouvert de C2, nécessairement E ( R ) contiendrait l'ouvert
6 = D ( 0 , l ) x D ( 0 , l ) UW2 U W, ce qui est impossible. En effet, soit Fl'extension
de f à E ( R ) , la fonction z1 i-j Fln(zl,O)serait une fonction holomorphe sur (Cx
{O}) n 6, qui est un anneau autour du point (z,O), et elle coïnciderait avec f sur
(C x {O}) n R.Cela prouverait que d- a une détermination définie sur un
anneau autour de i, mais une telle détermination n'existe pas.

2. FONCTIONS PLURISOUSHARMONIQUES

Dans ce paragraphe, nous généralisons au cas de plusieurs variables complexes


la notion de fonction sous-harmonique. Ces nouvelles fonctions nous serviront à
définir la pseudoconvexité au paragraphe 3.

www.bibliomath.com
118 VI. Domaines d’holomorphie et pseudoconvexité

A. Fonctions harmoniques et fonctions sous-harmoniques


Nous rappelons pour commencer la définition et les principales propriétés des
fonctions harmoniques. Pour plus de détails le lecteur pourra se référer au para-
graphe 14 de [Hel et au chapitre I de [Krl.
Dans C, l’opérateur de Laplace A est défini par

A = - +d2
-=4- a2 a2
ax2 ay2 azai

Définition 2.1. Unefonction u de classeC2 dans un domaine D de@ est dite harmo-
nique si et seulement si Au = O dans D.

Proprié tés
1) Une fonction u à valeurs réeiles définie sur un ouvert D de @ est harmonique
si et seulement si u est localement la partie réelle d’une fonction holomorphe. En
particulier, une fonction harmonique est C” et même analytique réelle.
2 ) Propriété de la moyenne. Si u est une fonction harmonique sur D c C, alors

si { z I Iz - al 5 T } c D.
3) Principe d u maximum. Soit u une fonction harmonique à valeurs réelles sur
un ouvert D de C, alors :
i) Si u a un maximum local en a E D, u est constante au voisinage de a, donc
constante sur la composante connexe de D qui contient a.
ii) Si D est relativement compact dans C et si u E C(D),u ( z ) 5 max u,pour
aD
z E D.
4) Problème de Dirichlet. NotonsR un domaine à bord C1 de C. Si f est une
fonction continue sur le bord de a, il existe une unique fonction F E C(G)telle
que Flan = f et F soit harmonique dans R.

Définition 2.2. Unefonction u définie sur un ouvert D de @ à valeurs dans [ -00, +


00) est dite sous-harmonique si et seulement si
i) u estsemi-continuesupérieurement (s.c.s.),i.e. { z E D I u ( z ) < s} estouvert
pourtouts E R o u b i e n K u ( z ) 5 .(a) sia E D.
z-ia
ii) Pour tout compact K c D et toute fonction h continue sur K , harmonique
O

sur K , telle que h 2 u s u r d K , alors h 2 u sur K .

Remarques
-Si u -00, u est sous-harmonique.

www.bibliomath.com
2. Fonctions plurisousharmoniques 119

- Dans IR,A = &, les fonctions harmoniques correspondent aux fonctions


linéaires et par conséquent les fonctions sous-harmoniques sont les fonctions
convexes.

Proposition 2.3.Soit D un ouvert C.


i) Si u est sous-harmonique dans D , alors Xu est sous-harmonique dans D
pour toutX > O.
ii) Si (U , ) , ~ A est unefamille defonctionssous-harmoniquessur D telles que
u = sup u, soitfinie et semi-continue supérieurement alors u est sous-harmonique
,EA
sur D .
iii) Soit ( u n ) n E
est~une suite décroissante defonctions sous-harmoniquessur
D , alors u = lim unest sous-harmonique,
n+m

Démonstration. La lère et la 2ème assertion se déduisent immédiatement de la Dé-


finition 2.2.
Prouvons iiil. Observons que si u = lim u n , alors { z E D
71-00
I u(z) < s} =

u { z E D I un(z ) < s } pour tout s E R,c’est donc un ouvert et par conséquent


nEN
u est semi-continue supérieurement. Soient K un compact de D et h une fonction
O
continue sur K , harmonique sur K , telle que h 2 u sur d K . Étant donné E > O,
+
on pose E., = { z E dK I u3( 2 ) 2 h ( z ) E } , pour tout j E N. Les ensembles E.,
sont fermés dans dK, car les fonctions u.,sont s.c.s., ce sont donc des compacts.
De plus, la suite (E.,).,EN est décroissante et d’intersection vide. I1 existe donc un
+
entier C E N tel que El = 0, ce qui implique que ue 5 h E sur 3 K . Mais comme
+
la fonction u p est sous-harmonique on a ue 5 h E sur K , d’où u 5 h E sur +
K car la suite ( u n ) n Eest~ décroissante. Cela étant valable pour tout E > O, on a
u 5 hsurK. O

Corollaire 2.4. Pour tout ouvert D C @, la fonction


u ( z )= - log(dist(z,dD))
est sous-harmonique dans D .

Démonstration. Si D = @, u G -00 et donc u est sous-harmonique. Si D # @,


alors u est continue et u ( z ) = sup (- log Iz - Cl). Mais - log Iz - <I est une
CEaD
fonction harmonique, car c’est localement la partie réelle d u n e détermination de
- log( z - C), il résulte donc de l’assertion ii) de la Proposition 2.3 que u est sous-
harmonique. O
Nous allons donner plusieurs caractérisations de la sous-harmonicité.
Rappelons que si p est une mesure borélienne positive sur un compact K et u :
K + R ü {-CO} une fonction semi-continue supérieurement l’intégrale udp ,s

www.bibliomath.com
120 VI. Domaines d’holomorphieet pseudoconvexité

a un sens, eiie est définie par

L U d P = inf {
L
et u E L1( K , p )si et seulement si JK udp
cpdp I cp E C(K),(PL u}

> -CO.
Théorème 2.5. Soient D un ouvert de C et u une fonction semi-continuesupérieure-
ment de D dans JI% ü { -CO}. Les assertions suivantes sont équivalentes:
i) u est sous-harmonique.
ii) Pour tout disque A CC D et tout polynôme holomorphe f tel que u 5
R e f s u r d A , o n a u 5 Ref sura.
iii) Poura 6 D , ilexister,, O < r , < dist(u,ûD), telque

Remarque :La propriété iii) est une propriété locale et additive, on en déduit donc
que :
1) Si u1 et u2 sont des fonctions sous-harmoniques dans D, u1 u2 est sous- +
harmonique dans D .
2) Une fonction u définie sur un ouvert D de C est sous-harmonique si et seule-
ment si tout point de D possède un voisinage sur lequel u est sous-harmonique.

Lemme 2.6. Si u est une fonction semi-continue supérieurement sur un ouvert D de


C! qui satisfait la propriété iii) du Théorème 2.5 (Propriété de la sous-moyenne) alors
u satisfait le principe du maximum.

Démonstration. Raisonnons par l’absurde. Supposons que u vérifie la propriété de


la sous-moyenne et qu’elle possède un maximum local en un point a E D, c’est-à-
dire qu’il existe p > O tel que u ( z ) 5 .(a) pour tout z E D tel que Iz - al < p.
Si u n’est pas constante au voisinage de a, il existe zo E D tel que 1x0 - al = r <
min(p,r,) et u(z0) < .(a). Considérons l’ensemble { 0 E [0,27~]I u(u reio) < +
u ( u ) } ,c’est un ouvert de [0,27r]car u est S.C.S. et il est non vide car Izo - al = r.
On en déduit que

JT 21T
u(u + reie)dû <
Ju” u ( a ) d û = 27ru(a)

ce qui est en contradiction avec le fait que u satisfait iii) du Théorème 2.5. O

Démonstration d u Théorème 2.5


L‘implication i) + ii) est une conséquence immédiate de la définition des
fonctions sous-harmoniques.
Prouvons que iil iii). Soient a E D et r > O tels que A = { z E C I
Iz - al < r } CC D. Considérons une fonction cp E C(ûA)telle que cp 2 u

www.bibliomath.com
2. Fonctions plurisousharmoniques 121

sur dA. Grâce à la solution du problème de Dirichlet, on peut supposer que cp est
en fait continue sur a
et harmonique dans A. Pour T < 1, on pose cpT(z) =
cp(a
-
+ ~ ( -za ) ) . Les fonctions ainsi définies sont harmoniques au voisinage de
A et la famille converge uniformément vers cp sur lorsque T tend vers a
1. De plus, il existe des fonctions fT holomorphes au voisinage de telles que a
cpT = Re f T car aest simplement connexe. Pour tout E > O, il existe alors un
polynôme holomorphe f tel que
u5cpIRef <V+E
(il suffit essentiellement de prendre le début du développement de Taylor de f T
pour T assez proche de 1 et à un ordre assez élevé). On déduit de ii) et de la pro-
priété de la moyenne pour Re f que

.(a) 5 Re f ( a ) = & 27r

Re f ( a + reie)dû

Le réel E > O étant arbitraire, on obtient

pour toute 'p E C(dA) teile que u 5 cp sur dA, d'où le résultat par définition de
l'intégrale d'une fonction S.C.S.
Terminons la démonstration du théorème en prouvant que iii) implique i). Soit
O
K C D un compact et h E C (K ) une fonction harmonique dans K telle que u 5 11
sur d K . Nous allons montrer que si iii) est satisfaite, u 5 h sur K . Considérons la
fonction u - h, il résulte de iiil et de la propriété de la moyenne pour h que ( u - h )
O
vérifie iii) dans K et d'après le Lemme 2.6, u - h satisfait au principe du maximum.
Par conséquent, pour tout z E K , ( u - h ) ( z ) 5 sup(u - h ) 5 0, soit u 5 11 sur
i3K
K. O

Proposition 2.7. Soit D un ouvert de @. Si f E O(D)alors log If1 est sous-


harmonique dans D .

Démonstration. Soit a E D. Si f ( a ) = O, log ).(/fI


= -cc et iii) du Théorème
2.5 est satisfaite, si f ( a ) # O, il existe un voisinage simplement connexe de a sur
lequel f ne s'annule pas et log If1
est harmonique sur ce voisinage, iii) est donc
encore satisfaite. De plus log If1 est clairement S.C.S. O

Proposition 2.8. Soit cp une fonction convexe croissante sur R. On pose y( -00) =
lim cp(x).Si u est une fonction sous-harmonique sur un ouvert D de C, cp O u est
2+-m
sous-harmonique sur D.

www.bibliomath.com
122 VI. Domaines d'holomorphie et pseudoconvexité

Démonstration. Puisque la fonction 'p est convexe croissante, pour tout 20 E IR,il
+
existe un nombre réel k tel que p(z) 2 'p(z0) k ( z - 2 0 ) .Cela implique

pour tout z E D et T > O tel que D ( z , T )cc D. Choisissons z o = u(z + & s,"'
re")dO. On déduit de la sous-harmonicité de u et de la croissance de p que

ce qui prouve la proposition car cp O u est clairement S.C.S. O

Exemples : Si f E L?(A), I f / et plus généralement If/", CU > O, sont sous-


harmoniques.

Proposition 2.9. Soit u une fonction sous-harmonique sur un ouvert D de C. On


suppose que sur aucune composante connexe de D , u est identiquement égale à -CO.
Alors u est intégrable sur tout compact de D et en particulier u > -03 presque par-
tout (pour la mesure de Lebesgue).

Démonstration. Soit z E D tel que u ( z ) > -CO et A un disque fermé de centre


z contenu dans D. La fonction u étant s.c.s., elle est bornée supérieurement sur a
donc
udX < +m.
Si 6 désigne le rayon du disque A, la propriété de la sous-moyenne implique

udX = L'((I'" u(z + re")dû ) T dr 2 n b 2 u ( z ) > -03.


Par conséquent u est intégrable sur A. Notons E l'ensemble des z tels que u est
intégrable au voisinage de z , c'est un ouvert. I1 résulte de ce qui précède que ' ~ 1=
-00 au voisinage de tout point de D \ E et puisque u est S.C.S. D \ E est aussi
ouvert. Par conséquent D \ E est une réunion de composante connexes de D , qui
doit être vide par hypothèse car u = -03 sur D \ E. O
Terminons ce paragraphe en donnant une nouvelle caractérisation des fonc-
tions sous-harmoniques.

Théorème 2.10. Soit u une fonction sous-harmonique sur un ouvert D de @, non


identiqueà -03, sur chaque composante connexede D. Alors, pour toutev E V(D )
à valeurs positives on a

(2.2) SuAvdX 20
où X est la mesure de Lebesgue sur @.

www.bibliomath.com
2. Fonctions plurisousharmoniques 123

Démonstration. Soit r E R tel que O <r < dist(suppu,CD). Pour tout z E


supp v on a
2.rru(z) I: i2"+ u(z reie)dO

car u est sous-harmonique. Multiplions cette relation paru et intégrons par rapport
à A, ce qui est permis d'après la Proposition 2.9, on obtient alors

(2.3) / (I
u(z)
2"
u ( z - rei0)dû - 2 s v ( z ) ) d ~ ( z2) O.
Effectuons un développement de Taylor de u à l'ordre 2
du
U(Z + + +
all
h i k ) = U(Z) h - ( z ) k-(z) +
dX dY
1 d2u a2U d2U
+ +2hk-(z)
-2( h 2 -ax2
(z) dxdy + k Z 78Y
( z ) ) +O(lh+ikI3).
En remplaçant h + i k par -(r cos O + ir sin O ) et en intégrant par rapport à O on
obtient

I'"
Si on multiplie (2.3) par
rr2
u ( z - reie)dû - 2 ~ 4 =~ -AU(.)
)
2
+ O(r3).
5et si on fait tendre r vers O on obtient (2.2). O
Remarquons que si u est une fonction sous-harmonique de classe C2, le Théo-
rème 2.10 signifie que A u 2 O. Nous allons prouver la réciproque pour les fonc-
tions de classe C2. Elle est encore vraie pour les fonctions localement intégrables
sous la forme suivante, mais nous ne le démontrerons pas ici (cf [Ho2],th. 1.6.11) :
Soit u E L:,,(D) une fonction vérifiant uAudA 2 O, pour toute u E D ( D )à
valeurs positives, il existe une et une seule fonction U. sous-harmonique sur D ,
qui est égale à u presque partout.

Théorème 2. i l . Soitu unefonction de classeC2 sur un ouvert D de C telle que A u 2


O sur D, alors u est sous-harmonique dans D.

Démonstration. Soit K un compact de D et h une fonction continue sur K et har-


O
monique sur K telle que u = u - h 5 O sur a K .
Supposons dans un premier temps que A u > O et raisonnons par l'absurde.
O
S'il existe z E K tel que u ( z ) > O, u aura un maximum en un point zo EK et par
+
conséquent A v ( z 0 ) sera négatif ou nul. En effet si g ( t ) = u(xo it), où xo =
Re zo, g possède un maximum en t = yo = Im zo et par conséquent a2 v
aY (20) =
9 (yo) 5 O. On montrerait de même que 2
(20) 5 O et donc Au(20) 5 O. Mais
cela contredit le fait que A u = A u - A h > O car A h = O.
Revenons au cas où A u 2 O et posons u j ( z ) = u ( z ) 7 +
1+1* .Alors Auj =
Au +4 > O pour tout j E N* et uj est donc sous-harmonique d'après ce qui pré-
cède. La suite ( u j ) j Eest
~ une suite décroissante de fonctions sous-harmoniques

www.bibliomath.com
124 VI. Domaines d'holomorphie et pseudoconvexité

qui converge vers IL, il résulte alors de la Proposition 2.3, iii) que IL est sous-
harmonique. O
Terminons ce paragraphe par un lemme sur les valeurs moyennes des fonctions
sous-harmoniques qui nous sera très utile par la suite.

Lemme 2.12. Soitu une fonction sous-harmoniquesur ledisque { z E @ I Iz - al <


p } . Alors

est une fonction croissante d e r sur]O,r[.

Démonstration. Notons A ( r ) = { z E I Iz - al < r } et considérons deux réels


r1 et r2 tels que O < 7-1 < 7-2 < p. Soit cp E C(dA(r2)) telle que cp 2 u sur
dA(r2). Grâce à la solution du problème de Dirichlet, on peut supposer que cp est
en fait continue sur A(r2) et harmonique sur A(r2). La propriété de la moyenne
pour les fonctions harmoniques nous donne alors A(cp,r) = cp(a) pour r 5 r2.
Puisque u est sous-harmonique sur A(p), on a u 5 cp sur A(r2) et donc

A ( u , n ) I A(cp,r1) = A(cp,rz).
Finalement
A(u,r1) I inf {A(cp,r2),cp E C ( W 7 - 2 ) ) , cp 2 u} L A(W-2). O

B. Fonctions plurisousharmoniques
On désigne par D un ouvert de @" .

Définition 2.13. Unefonction u de D dans WU { -m} est dite plurisousharmonique


(psh) sur D si u est semi-continue supérieurement et si pour tout a E D et w E @" ,
+
la fonction X C) u ( a Xw) est sous-harmonique dans l'ouvert { X E Cc I a Xw E +
01.
On note PSH(D ) l'ensemble des fonctions plurisousharmoniques sur D.
Un certain nombre de propriétés des fonctions plurisousharmoniques sont des
conséquences directes des propriétés correspondantes des fonctions sous-harmo-
niques :
€ ~ famille de fonctions plurisousharmoniques sur D. Si u =
1) Soit ( u Z L , ) ,une
sup u, est fini et semi-continu supérieurement dans D , alors u est plurisoushar-
a€A
monique sur D.
2) Si ( U , ) , ~ W est une suite décroissante de fonctions plurisousharmoniques sur
D , alors u = lim un est plurisousharmonique.
n+co
3) L'ensemble PSH(D) est stable par addition et par multiplication par une
constante réelle positive.

www.bibliomath.com
2. Fonctions plurisousharmoniques 125

4) Une fonction u E PSH(D) si et seulement si u est plurisousharmonique au


voisinage de chaque point a E D .
5) Si f E O ( D ) ,alors log If/
et Ifla,
cy > O, sont plurisousharmoniques dans
D.

Remarque : Si D est un ouvert de C", la fonction u ( z ) = - log(dist(z,aD))


n'est pas nécessairement plurisousharmonique. En effet, considérons l'ouvert
D = C2 \ {O}.Soientu = (1,O) E D e t w = (0,1).Alors
u(u + Xw) = - log(dist(a + Xw,dD) = -log d m .
Cette fonction possède un maximum strict au point X = O, elle ne peut donc pas
être sous-harmonique, ce qui prouve que u n'est pas plurisousharmonique.

Théorème 2.14. Soient D un ouvert de @" et u une fonction de classe C2 dans D à


valeurs réelles. Alors u E PSH(D) si et seulement si pour tout z E D le Hessien
complexe de u au point z

est une forme hermitienne semi-déjinie positive sur @"

Démonstration. Un calcul direct donne


a2
-u(u
axai + Xw) = La+XwU(W).

Le résultat se déduit alors des Théorèmes 2.10 et 2.1 1 qui caractérisent les fonctions
sous-harmoniques de classe C2 par la positivité du laplacien. O

Corollaire2.15. Soient D un ouvert de @", D' un ouvert de@'" et F une application


holomorphedeD dans D'. Siu E PSH(D') n C'(DI), u O F E PSH(D).

Démonstration. Soit u E D et w E @", on a La(uO F ) ( w )= L F ( a ) u ( F ' ( a ) w )I1.


suffit alors d'appliquer le Théorème 2.14. O

Définition 2.16. Si D est un ouvert de C" et u une fonction de classe C2 sur D. On


appelle forme de Levi de u en z E D le Hessien complexe L,u de u en t , c'est-à-
dire la forme hermitienne

Définition 2.17. Unefonction u E P S H ( D ) n C2( D )est dite strictement plurisous-


harmonique dans D si et seulement si pour tout z E D la forme de Levi L,u de u au
point z est une forme hermitienne définie positive.

www.bibliomath.com
126 VI. Domaines d'holomorphie et pseudoconvexité

Nous voulons étendre le Corollaire 2.15 aux fonctions plurisousharmoniques


quelconques. Pour cela nous allons tout d'abord démontrer un théorème de régu-
larisation pour les fonctions plurisousharmoniques.

Lemme 2.18. Soit u une fonction plurisousharmonique sur un ouvert D de C" . On


suppose que sur aucune composante connexe de D, u est identiquement égale à -03.
Alors u est intégrable sur tout compact de D et en particulier u > -03 presque par-
tout.

Démonstration. I1 suffit de reprendre la démonstration de la Proposition 2.9 en rem-


plaçant le disque A par un polydisque. 17

Théorème 2.19. Soit D un ouvertde C", on pose Dj = { z E D I IzI < j et


d i s t ( z , û D ) > f }. Soit u une fonction plurisousharmonique sur D qui n'est pas
identiquement égale à -00 sur une composante connexe de D. Il existe alors une
suite ( u j ) j E nd'éléments deC"(D) telleque
1) u j est strictement plurisousharmoniquesur D j .
ii) u j ( z ) 2 u j + i ( z ) pourtoutz E Dj.
iii) lim u j ( z ) = u ( z ) pourtoutz E D.
"3'
iv) Si u est continue, la suite (u j ) j E w converge vers u uniformément sur tout
compact de D.

Démonstration. Soit 8 E D(R) une fonctionC", àvaleurs positives, àsupport dans


[-l,l]ettelleque scn û ( l z l ) d X ( z ) = 1.Puisque Dj est relativement compactdans
D , la fonction u est intégrable sur Dj et on peut considérer la fonction wj définie
Par

c'est une fonction de classe C" dans C" . Montrons que wj satisfait la propriété
de la sous-moyenne sur chaque morceau de droite complexe contenu dans Dj ce
qui prouvera que vj est plurisousharmonique sur Dj . Remarquons que wj ( z ) =
Jcn u ( z - $)û((<l)dX(<),pourzE D ~Sia . E D~etw E C" o n a

car u est plurisousharmonique. Grâce au Lemme 2.12 appliqué à la fonction sous


harmonique X c) u ( z - Ac), l'intégrale

I
u ( z - eit-)dt
j

www.bibliomath.com
www.bibliomath.com
DUOP ia 3 2 inoi mod
LZ I
128 VI. Domaines d'holomorphie et pseudoconvexité

Définition 2.21. Soient D un ouvert de Cn et u une fonction de classe C2 à valeurs


réelles dans D. On pose pour z,< E D

La fonction Fu(z,<)est appelée polynôme de Levi de u.


Le lemme suivant relie la forme de Levi de u et le polynôme de Levi de u avec le
développement de Taylor de u à l'ordre 2.

Lemme 2.22. Soient D un ouvert de Qin et u une fonction à valeurs réelles de classe
C2 dans D. Pour tout< E D e t z voisin de< on a :
u ( z ) = u ( < )- Repu(*,() + Lcu(z - <) + o(lC - ~ 1 ~ ) .

Démonstration. Soient ( ~ j ( < ) ) ~ 5 j les


5 2coordonnées
~ réelles de ( E Cn telles que
Cj = xj(C) + i ~ ~ + ~Un( calcul
< ) . direct donne

et

Le lemme résulte alors du développement de Taylor de u en ( à l'ordre 2 et des


définitions de Fu et Lcu. O

Théorème 2.23. Soit u une fonction strictement plurisousharmonique de classe C2


au voisinage de O 6 P. Si du(0) # O, il existe une application biholomorphe h
d'un voisinage U de O dans P sur un voisinage W de O dans Cn telle que u O h-' est
strictement convexe sur W ,c'est-à-dire
2n

j,k=l
e (<)tjtk > O pour tout < E w
et t E IR2" \ {O}, où xj = xj(C) sont les coordonnées réelles de < telles que <j =
xj (C) + ixj+n (C).
Démonstration. Puisque du(0) # O et u est à valeurs réelles, on a &(O) # O.
A

Supposons que %(O) # O. L'application h ( z ) := ( F ~ ( Z , O ) , Z. .~.,,zn) est alors


un biholomorphisme de U sur un voisinage V de O = h(0).Posons

f(<) = ( f i ( < ) ,. . . , f n ( C ) )= h-'(O

www.bibliomath.com
3. Pseudoconvexité 129

pour C E V . D'après le Lemme 2.22, pour < assez proche de O,


'u, O f ( 0= 4 0 ) - ReRA(f(C),O) + L o u ( f ( 0 ) + o(lf(Ol2).
Mais par définition de f = h-',FU(f(<),0)= <I, ce qui implique que lorsque <
tend vers O
' L O f ( C ) = 4 0 ) - ReC1 + LOW(<))+ o ( l f ( 0 l 2 ) .
1

Soit F = ( F i ,. . . ,Fn) la différentielle de f à l'origine, c'est-à-dire l'application


+
linéaire F : Cn + Cn telle que f ( < ) = F ( < ) û(l(12) <
lorsque tend vers O. On
a alors
' L O f ( 0= 4 0 ) - ReC1 + L o u ( F ( 0 )+ O(1Cl2>
1

lorsque C tend vers O, ce qui implique par unicité du développement de Taylor de u


en O que

Comme F ( < )# O si # O car f est biholomorphe en O et u est strictement pluri-


sousharmonique au voisinage de O on obtient

La fonction u étant de classe C 2 cette relation reste vraie si on remplace O par un


point ( variant dans un voisinage W de O. O
Terminons cette section par un lemme qui prouve que la stricte plurisoushar-
monicité est stable par petite perturbation.

Lemme 2.24. Soit p une fonction strictement plurisousharmonique de classec' dé-


finie au voisinage d'un compact K de P.Alors il existe E > O tel que, pour toute
fonction cp de classe C 2 au voisinage de K vérifiant I I
< E , pour tout z E K
+
et 1 5 j , k 5 n, la fonction p 'p soit encore strictement plurisousharmonique au
voisinage de K .

Démonstration. Par définition des fonctions strictement plurisousharmoniques, il


suffit de poser

3. PSEUDOCONVEXITÉ

Nous avons vu au paragraphe précédent que, si R est un ouvert quelconque de


Cn,la fonction - log(dist(z,dR)) n'est pas nécessairement plurisousharmonique.

www.bibliomath.com
130 VI. Domaines d'holomorphie et pseudoconvexité

Dans ce paragraphe nous allons étudier une nouvelle classe d'ouverts de C" ,les ou-
verts pseudoconvexes, qui sont caractérisés par le fait que la fonction -logarithme
de la distance au bord est plurisousharmonique. Nous allons prouver que cette
classe contient la classe des domaines dholomorphie( en fait nous verrons au cha-
pitre Vi1 qu'il y a identité entre ces deux classes).

Théorème 3.1. Si R est un domaine d'holomorphie dans C", alors


- log (dist (2,d e ) )

est une fonction plurisousharmonique continue.

Démonstration. La fonction u ( z ) = - log(dist(z,dR)est continue sur 0. Pour


prouver la plurisousharmonicité de u nous avons besoin du lemme suivant.

Lemme 3.2. Si R est un domaine d'holomorphie dans C" et K un compact de R,


pour toutefonction f E O(R) telleque lf(z)I 5 dist(z,dR), pour toutz E K , on
a l f ( z ) I 5 dist(z,dR),pourtoutz E k,.

Démonstration. Si /).(fI
5 dist(z,dR),pour tout multirayonr > O telque Er; =
1 on a [).(fI
5 & ( z ) (cf section 1 pour la définition de S&(z)). Si t E]0,1[,
l'ensemble
D = { w E C" 1 1w.j - Z j J 5 t ? - j J f ( Z ) J , j = 1 , .. . ,n,z E K}
est un compact de R. Si u E O(R), il existe alors une constante A4 telle que
lu(w)I 5 M , si w E D , et daprès les inégalités de Cauchy on a

Puisque la fonction f1"lDau est holomorphe sur R, l'inégalité (3.1) est encore
vraiesi z E k a . On a donc prouvé que le développement de Taylor de u en
( E K n converge sur le polydisque <+
If(()lP(O,r).Comme R est un domaine
dholomorphie ce polydisque doit être contenu dans R, ce qui implique If(<)l 5
d i s t ( ( , û R ) ,pour tout (' E k,. O

Fin de la démonstration du Théorème 3.1


Fixons toE R et w E Cn {O} et choisissons r > O, assez petit pour que
D = (20 +
rw I T E C , [ T ~ 5 T } soit contenu dans R. Notons bD = {zo rw I +
T E C,171 = r } . Soit f un polynôme holomorphe tel que

(34 - log (dist(z0 + ~ w , d R ) 5) Re f(r) pour 171 = r.


Considérons un polynôme holomorphe F dans cc" tel que F(z0 + T W ) = f ( ~ ;)
l'hypothèse (3.2) s'écrit alors
5 dist(z,dR) si
lëF(')I z E bD.

www.bibliomath.com
3. Pseudoconvexité 131

D’après le principe du maximum, l’enveloppe holomorphiquement convexe de bD


relativement à 0 contient D. On déduit alors du Lemme 3.2 que
- log (dist(z0 + T W , ~ R )5) R e f ( 7 ) pour 171 5 T.
Le Théorème 2.5 nous permet ensuite d’affirmerque la fonction
T ++- log(dist(z0 +T W J , ~ ~ ) )
est sous harmonique sur l’ouvert de C où elle est définie. Par conséquent la fonc-
tion - log(dist(z,dR)) est plurisousharmonique dans R. O
Nous allons donner maintenant d‘autres conditions équivalentes à la condition
du Théorème 3.1.

Définition 3.3. Si R est un ouvert de Cn . Si K est un sous ensemble compact de R,


on définit l’enveloppepsh-convexe de K relativement à R par
kR = { z E R I ~ ( z5) supu,Vu E PSH(R)}.
K

Remarque :Puisque f E O(R) implique If\ E PSH(R), il est clair que gg c k ~ .


On appellera disque analytique dans cc“ , une application holomorphe non
constante ‘p : A -+ C” où A est le disque unité de C. Si ‘p s’étend continûment
a
à on dira que ‘p(a)
est un disque analytique fermé et que ’p(ûA) est le bord du
disque.

Théorème 3.4. Soit R un ouvert de Cn . Alors les conditions suivantes sont équiva-
lentes :
i) - log(dist(z,dR)) est plurisousharmonique continue dans R.
ii) Il existe une fonction u plurisousharmonique continue dans R telle que,
pour toutc E IR,
R, = { z E R I u ( z ) < c } cc R.
iii) Si K est un compact de R,k; cc R.
iv) Soit (6,),,~ une famille de disques analytiques contenus dans R. Si
u
,EA
66, Cc 0 alors u
,EA
6, CC R (cette assertion s’appelle la “Kontinuitatssatz’3.

Démonstration. Prouvons tout d‘abord que i) implique ii). Posons u ( z ) = 121’ -


log(dist(z,ûR)). La fonction u est plurisousharmonique continue sur R, d’après
il, et il est clair qu’elle satisfait ii).
Supposons la condition ii) satisfaite. Soient K un compact de D et u la fonc-
tion donnée par ii). Posons c = maxK u,alors u 5 c sur Kg par définition de
l’enveloppe psh-convexe donc
k; c { z E R I u ( z ) 5 c } cc R.

www.bibliomath.com
132 VI. Domaines d'holomorphie et pseudoconvexité

Prouvons maintenant que iii) implique iv). Soient 6 un disque analytique fermé
de R et u E PSH(R) une-fonction plurisousharmonique dans 0. Considérons
une paramétrisation cp : A + R de 6. Alors u O cp est sousharmonique et par
conséquent pour tout z E K
Iuocp(z)I ISUP I ~ O c p ( 0 l .
CEaA
On en déduit que pour tout p E 6,

ce qui implique 6 c b^6:. Donc si ( 6 a ) a E est


~ une famille de disques analytiques
LEzz=-P
fermés de R, alors U 6, C ( U b6,) , ce qui prouve que iii) implique iv).
,EA ,EA
Pour terminer montrons que iv) implique la plurisousharmonicité de la fonc-
tion - log(dist(z,dR)). Comme dans la démonstration du Théorème 3.1, fixons
zo E R et w E Cn \ {O} et choisissons r > O, assez petit pour que D = { zo TW 1 +
T E @,IT[ 5 r } soit contenu dans R. Soit f un polynôme holomorphe tel que
- log (dist(z0 + ~ ~ , d f l5) )ref(^), pour IT( = r,
c'est-à-dire
(3.3) l e ë f ( T ) ) 5 dist(z0 + T W , ~ R ) ,si 171 = r.
Nous voulons prouver que cette inégalité reste vraie si 171 I r , ce qui démontrera
+
la sous harmonicité de T ++ - log(dist(z0 T W , ~ R )et) donc O. Soit a E @" tel
+
que la1 < 1. On considère l'application T ++ zo TW Xaeëf(') définie pour +
I T ( <_ r. Notons Da son image. Les D , sont des disques andytiques fermés de C" .
De plus bD, cc R donc Da cc R pour tout a tel que la( < 1d'après iv) appliqué
à la famille réduite au disque D,. On a donc
zo + rw + ue-f(.) E R, si la1 < i et (TI 5 r.
En faisant tendre (al vers 1,on obtient
5 dist(z0 + T W , ~ R ) ,si
le-f(T)l 171 5 r,
i.e. - log(dist(z0 + T W , ~ R )5) Ref(T), si 171 5 T . O

Définition 3.5. Un ouuertR de@" est ditpseudoconvexe si l'une des conditions équi-
valentes du Théorème 3.4 est vérifiée.

Définition 3.6. Une fonction cp continue définie sur un ouvert D de C", à valeurs
réelles est une fonction dexhaustion pour D si, pour tout c E R, l'ensemble D, =
{ z E D I cp( z ) < c} est relativementcompact dans D.

Remarques
1) Une fonction dexhaustion cp vérifie p(z) + cc quand z s'approche du bord
de D.

www.bibliomath.com
3. Pseudoconvexid 133

2) Un domaine D est donc pseudoconvexe si et seulement s'il admet une fonc-


tion d'exhaustion plurisousharmonique continue.

Corollaire 3.7. Si R est un domaine d'holomorphie dans C" alors R est pseudocon-
vexe.

Démonstration. C'est une conséquence immédiate du Théorème 3.1 et de la défi-


nition de la pseudoconvexité. O

Remarques
1) La réciproque du Corollaire 3.7 est vraie, elle sera démontrée au chapitre VII.
2) Si R est un ouvert holomorphiquemect convexe de @" ,il est clairement pseu-
doconvexe car pour K compact dans R, Kg c KO. On peut alors retrouver le
Corollaire 3.7 en utilisant le Théorème 1.13 à la place du Théorème 3.1.

Théorème 3.8. Soit (n,),,~ une famille d'ouverts pseudoconvexes de @", alors
l'intérieur R de l'intersection des R, est aussi pseudoconuexe.

Démonstration. Cela résulte de l'assertion i) du Théorème 3.4 et du fait que la borne


supérieure d u n e famille de fonctions plurisousharmoniques est plurisousharmo-
nique si elle est continue. Ici
- log(dist(z,dR))= sup - log(dist(z,dR,))
aEA
est bien continue. O

Nous allons prouver maintenant que la pseudoconvexité est en fait une pro-
priété locale du bord.

Théorème 3.9. Un ouvert R de Cn est pseudoconuexe si et seulement si tout point


[ E 0 possède un voisinage U, tel que U, n R soit pseudoconuexe.

Démonstration
Condition nécessaire : il suffit de prendre pour Uc un voisinage convexe de <
car U, n R est alors l'intersection de deux domaines pseudoconvexes, il est donc
pseudoconvexe.
Condition suffisante : supposons dans un premier temps que R est borné.
<
Soit E dR et Ut un voisinage de [ tel que Uc n R soit pseudoconvexe, alors
la fonction -log(dist(z,d(U[ n a))) est plurisousharmonique sur Uc n R.
Comme dist(z,d(UC n R)) = dist(z,dR) pour z assez proche de [, il existe
un voisinage U de dR tel que la fonction - log(dist(z,dR)) soit plurisoushar-
monique sur U n R. L'ouvert R étant borné, R \ U est compact et le nombre
m = SUP^,^(- log(dist(z,dR)) est fini. Par conséquent
cp(z) = max(- log(dist(z,dR)),lz12 + m + 1)

www.bibliomath.com
134 VI. Domaines d'holornorphie et pseudoconvexité

est une fonction plurisousharmonique d'exhaustion pour R ce qui implique que R


est pseudoconvexe.
Si R n'est pas borné, on applique l'argument précédent à l'ouvert R, =
R n B(0,v)qui satisfait encore l'hypothèse du théorème et qui est borné et donc
pseudoconvexe. Puisque 52 est la réunion croissante des a,,, la suite de fonctions
(- log(dist(z,dR,))) est une suite décroissante de fonctions plurisousharmo-
niques qui converge vers la fonction - log(dist(z,dR)) qui est donc plurisoushar-
monique. Par conséquent R est pseudoconvexe. O

Théorème 3.10. Soient R un ouvert pseudoconvexe de cc" et K un compact de R.


Alors pour tout voisinage U de kg dans R, il existe une fonction p telle que
i) p est strictement plurisousharmonique de classeCm dans R.
ii) p < O sur K et p > O sur R \ U .
iii) Pourtoutc E R,{z E R I p ( z ) < c } CC R.

Démonstration. Le point clé de la démonstration est de trouver une fonction cp plu-


risousharmonique continue satisfaisant ii) et iii). L'ouvert R étant pseudoconvexe,
il possède une fonction dexhaustion $, plurisousharmonique continue. Quitte à
ajouter une constante à $, on peut supposer que $ < O sur K . Soit K' = { z E R I
$ ( z ) 5 O}, K' est un compact de R car $ est une fonction d'exhaustion. Puisque
U est un voisinage de E:, pour tout z E K' n (R \ U ) ,il existe une fonction
cpz E PSH(R) telle que cpZ(z) > O et cpz < O sur K . De plus, grâce au Théo-
rème 2.19 de régularisation, on peut supposer que pz est continue. La fonction cpz
étant continue, elle est donc strictement positive sur un voisinage de z. Grâce à
la compacité de K' on peut donc trouver un nombre fini de fonctions ( p l , . . . , c p ~
strictement plurisousharmoniques continues sur R telles que
max(cp1,. . . , c p ~ )> O sur K' n (R \ U)
et max(cp1,. . . , c p ~ )< O sur K .
La fonction cp = max($,ql,. . . , c p ~ )est plurisousharmonique continue sur R et
satisfait ii) et iii].
Pour obtenir une fonction p plurisousharmonique de classe C" satisfaisant ii)
et iii), il suffit d'appliquer le lemme suivant.

Lemme 3.1 1. Soit u une fonction plurisousharmonique continue d'exhaustion pour


un domaine R c CY. Étant donné un compact K de R et un réel E > O , il existe
une fonction d'exhaustion strictement plurisousharmonique de classeCm ,p, pour R
telle que
u 5 psurR et Ip(z) -.()I < ~ p o u r zE K .

Démonstration. Pour j E Pi,on pose R j = { z E R I u ( z ) < j } . Alors R j c


c R et, quitte à ajouter une constante à u, on peut supposer que K c 00.Fixons
E > O. D'après le Théorème 2.19, il existe une suite ( u j ) j Ede
~ fonctions de classe

www.bibliomath.com
3. Pseudoconvexité 135

C" dans R telles que uj soit strictement plurisousharmonique sur Rj+2,u(z) <
u o ( z ) < u ( z ) + E pourz E si1 e t u ( z ) < u j ( z ) < U ( Z ) + i pourz E ~ j , 2j 1.
On en déduit que uj - j +
1 < O sur Rj-2 et uj - j 1 > O sur + \ Rj-1 si,
j 2 2. Soit x une fonction de classe C" sur IR telle que X ( t ) = O pour t 5 O et
x(t),x'(t) etx"(t) soientstrictementpositifspourt > O. A l o r s x o ( u j - j + i ) G O
sur 0 , - 2 et x 0 ( u j - j +
1) 2 O sur R \ Rj-2. En calculant la forme de Levi
on voit que x 0 ( u j - j +
1) est plurisousharmonique sur Rj+2 et strictement
plurisousharmonique positive sur 2.j\ R.i-1. On choisit alors par récurrence des
e
entiers mj tels que si e 2 2,pe = uo + mjx O (uj- j + 1) soit strictement
i=2
plurisousharmonique sur Re.On a ainsi construit une suite de fonctions ( p e ) e >
-2

qui vérifient pe = uo sur Ro, pe 2 u et pe = pe-1 sur Re-2. La fonction p =


pe a les propriétés demandées. O

Remarque :I1 résulte du Lemme 3.11 et de la définition des ouverts pseudoconvexes


qu'un ouvert R de C" est pseudoconvexe si et seulement s'il possède une fonction
d'exhaustion strictement plurisousharmonique de classe C2. Grâce au Lemme de
Morse suivant, en fait tout ouvert pseudoconvexe R de C" possède une fonction
strictement plurisousharmonique dexhaustion p de classe C2 telle que l'ensemble
de ses points critiques, i.e. { z E R I d p ( z ) = O}, soit discret dans R.

Lemme 3.12. Lemme de Morse. Soient R un ouvert de C" et p une fonction stric-
tement plurisousharmonique de classe C2 dans R. Alors, pour tout E > O, il existe
une forme IR-linéaire L : C" + IR telle que max IL(z)I 5 E , l'ensemble
L€C* ,Izl=l
+ +
Crit(p L ) = { Z E R I d ( p L ) ( z ) = O} soit discret dans R et p + L soit
strictement plurisousharmonique dans R.

Démonstration. Puisque p est de classe c2,daprès un Lemme de Morse (cf [Mi],


5 2, Lemme A ou [RI, Appendice A ou encore, [He/Le2],Appendice B), pour presque
+
toute forme IR-linéaire L : @" -+IR,les points critiques de p L sont isolés. Pour
tout E > O, on peut donc trouver une forme IR-linéaire L : Cn -+ IR telle que
max IL(z)I 5 E et que Crit(p+ L ) soit discret. I1 résulte de 1aDéfinition2.17
LEC" ,121=1
que p + L est strictement plurisousharmonique car les dérivées secondes de L sont
nulles. O

Corollaire 3.13. Sous les hypothèses du Théorème 3.10, il existe une fonction p satis-
faisant les conditions i), ii) et iii) du Théorème 3.10 et telle que de plus Crit(p) :=
{ z E R I d p ( z ) = O} soit discret dans 52.

Corollaire 3.14. Si R est un ouvert pseudoconvexe de Cn et K un compact de R, alors


g; = gP"cm . En particulier k; est fermé donc compact dans R.

www.bibliomath.com
136 VI. Domaines d'holomorphie et pseudoconvexité

Démonstration. Puisque kEncm = { z E R I u ( z ) < supK u,Vu E PSH(R)


C-(R)}, on a évidemment kn c kgnCm.Soit z E (1 \ kg, en appliquant
le Théorème 3.10 au compact K et au voisinage U = R \ { z } de k:, il existe
cp E PSH(R) n C"(R) teiie que cp(z) > O et 'p < O sur k; donc sur K . Par
conséquent z # O

Proposition 3.15. Soit R un ouvert de Cn . S'il existe une fonction plurisousharmo-


nique continue p définie sur un voisinage Uan du bord de R telle que
n Uan = { z E Uan I P ( Z ) < O}
alors R est pseudoconvexe.

Démonstration. Soient E da et E > O assez petit pour que B(<,E) soit rela-
tivement compacte dans Uan. D'après le Théorème 3.9, il suffit de prouver que
R n B ( J , Eest
) pseudoconvexe. Considérons la fonction plurisousharmonique dé-
finie au voisinage de RnB(<,E) par

cp(Z) = max(lz - i l - E,P(Z)).


Alors cp = O sur d(R n B(<,E)) et cp < O sur R n B(<,E).
Soit K un compact de
R n B ( ~ , Ealors
) , sup cp = a < O et
K
A

KgnB(F,-) c { z E n B(i,€)I ~ <


( 2 ) a } CC nB(<,E),
ce qui prouve que R n B ( J , Eest
) pseudoconvexe. O
Nous allons maintenant donner une caractérisation des domaines pseudocon-
vexes à bord de classe C2.

Théorème 3.16. Soient R un ouvert de C" à bord de classe C2 et p une fonction


de classe C2 à valeurs réelles définie sur un voisinage Uan du bord de R telle que
Uan n R = { z E Uan 1 p ( z ) < O } e t d p ( z ) # O pour toutz E 8R. AlorsR est
pseudoconvexe si et seulement si
(3.4) L , ~ ( w )2 O pour tout z E etw E T:(~R)
n
oùL,p(w) = &$-(z)wjWk estlaformedeLevidepaupointz etT:(dR)
j,lC=l
n
I'espacetangentcompiexe{w E CY I % ( z ) w j = O}.
j=l

Démonstration. Soit pl une autre fonction définissante de classe C 2 pour 0. Nous


avons vu, au chapitre II, Lemme 8.2, qu'il existe une fonction strictement positive h
de classe C1 sur dR teiie que pl = hp. Un calcul direct donne dors pour z E dR et
w E TF(dR)
J L P l ( W )= h(z)Lzp(w)

www.bibliomath.com
3. Pseudoconvexité 137

ce qui prouve que la condition (3.4) ne dépend pas du choix de la fonction définis-
sante pour R.
Condition nécessaire : soit p(z)= - dist(z,dfl), si zef2 et p(z)= dist(t,dfl),
si z E Cn \ R. Puisque dR est de classe C2, la fonction p est de classe C2 dans un
voisinage Uan du bord de R.Comme R est pseudoconvexe, la fonction - log( - p )
est plurisousharmonique de classe C2 sur R et donc

n
pour tout z E an n R et tout w E cn.si z E Uan n R e t si z(z)wj =O;
j=l
on a donc

ce qui est encore vrai si z E dR par passage à la limite, mais alors la condition

signifie que w E T," ( d o ) .


Condition suffisante : raisonnons par l'absurde. Supposons que R n'est pas
pseudoconvexe. Soit Uan un voisinage du bord de R sur lequel la fonction p dé-
finie par
p ( z ) = - dist(z,dR) s i z E R
p ( z ) = dist(z,dR) s i z E @" \ R
est de classe C2. Comme R n'est pas pseudoconvexe, il existe un point [ E R n
Uan telle que la fonction - log( - p ) n'est pas plurisousharmonique en (cf Théo- <
rème 3.9). Cela signifie qu'il existe w E cc" \ {O} tel que

Lorsque tend vers O, on a, d'après la formule de Taylor,

(3.5) + + +
log(-p(l+ xw)) = log Ip(<)I R e ( d ,Ox2) yIAI2 o(1XI2) +
où cy et ,O sont des constantes (cf Lemme 2.22). Choisissons 77 E Cn tel que =
( p ( ( ) / e t [ + v E dR.Posons&(A) = < + ~ w + ~ ~ e " ~ + < ~ s~ 5~ 1.D'après
, s i O
( 3 . 5 ) ,il existe& > O tel que si 1x1 < E et 0 < s 5 i

dist(<s(x),afl) 2 -P(< + - slvl leaX+BXZ I


lX*l
(3.6) 2 ~ p ( < ) l ( e ~- zs)leaX+PXzl
et par conséquent
dist(<,(X),dR) > O, si0 < s < 1et 1x1 5 E.
138 VI. Domaines d'holomorphie et pseudoconvexité

+
CommeÇ,(O) = 5 sq E 0 , s i 0 < s < 1, on endéduit que cs(X) E R, si
O < s < 1 et 1x1 5 E. En passant à la limite quand s tend vers 1, on obtient que
<
< l ( X ) E 2 pour 1x1 5 E. Puisque E Uan, quitte à diminuer E , on peut supposer
que<i(X) E 2 n U a n p o u r I X I 5 ~ e t a l o r s p ( c l ( X ) )= -dist(Ci(X),aR)etdonc,
d'après (3.6),

(3.7) - p ( < l ( ~ ) )2 p ( < ) ( e ~ + - i)/eax+ox21,pour 1x15 E .


Le membre de droite de (3.7) est une fonction strictement convexe positive de X au
voisinage de O. Puisque p ( ( I ( 0 ) ) = O, la fonction - p 0 <I est strictement convexe
en O et d ( p O <1)(0) = O. En particulier

On en déduit, puisque <I (A) est une fonction holomorphe de X que

ce qui contredit (3.4) car < + 7 E dR. O

Définition 3.17. Soient 0 un ouvert relativement compact de Cn à bord de classeC2


et p une fonction de classe C2 à valeurs réelles définie sur un voisinage Uan du bord
d e R tellequeUan n R = { z E Uan I p ( z ) < O } e t d p ( z ) # O pour toutz E dR.
On dira que R est strictement pseudoconvexe si et seulement si
(3.8) ~ , p ( w )> O pour tout z E e t w E T$(BR)\ {O}.

Remarque :La condition (3.8)est bien sûr indépendante de la fonction définissante


p choisie pour R.

Théorème 3.18. Un ouvert R relativement compact dans @" à bord de classe C2 est
strictement pseudoconvexe si et seulement s'il possède unefonction définissante stric-
tement plurisousharmonique de classe C2. Si R est strictement pseudoconvexe et si
p est une fonction définissante de classe C2 pour R,pour X assez grand, la fonction
fi = exP - 1 est une fonction définissante strictement plurisousharmonique de classe
C2.

Démonstration. Supposons que 0 possède une fonction définissante p strictement


plurisousharmonique de classe C2, alors pour tout z contenu dans un voisinage de
ûR et tout w E Cn \ {O}, L,p(w) > O, donc (3.8)est vérifiée.
Réciproquement supposons que R est strictement pseudoconvexe. I1 suffit de
prouver que pour X assez grand la fonction = exP - 1 est strictement plurisou-
sharmonique sur un voisinage Uan de dR car R n Uan = { z E Uan I fi(.) < O}
etdp(z) = XePdp(z) # Osiz E dR.O n a
3. Pseudoconvexité 139

Par conséquent pour z E ôR et w E Cn

(3.9)

Soit K = {(z,w) E û~ x I lull = i et 5


j,k=l
a w j ~ IkO}.PuisqueK est
compact et que d'après (3.8), I i5
=l
g ( z ) w j I > O, si (z,w) E K , on peut choisir
X assez grand pour que

I1 résulte alors de (3.9) et de la Définition 2.17 que 6 est strictement plurisoushar-


monique au voisinage de dR. O

Théorème 3.19. Soit R CC Cn un ouvert à bord de classe C2, strictement pseudo-


convexe. Alors il existe un voisinage U,defi et unefonction p : U, + R strictement
plurisousharmonique de classec' telle que dp( z ) # O si z E dR

et
R ={z E u, I p ( z ) < O}
dR = { z E u, I p ( z ) = O}.
Démonstration. D'après le Théorème 3.18, l'ouvert R possède une fonction défi-
nissante po strictement plurisousharmonique de classe C2, c'est-à-dire que po est
définie sur un voisinage Van du bord de R, d p o ( z ) # O si z E dR et R n Uan =
{ z E Van I p o ( z ) < O}. Soit 6 > O, assez petit pour que Kb = { z E Uan I -6 5
p o(z) 5 O} soit un compact de Usa. Choisissons une fonction x à valeurs réelles
de classe C" sur W, vérifiant ~ ( t=) -6, s i t 5 -6, x(0) = O, % ( t ) 2 O, pour
tout t E R, et g ( t ) > O, si -6 < t < +CO, et définissons p l par p l = -6 sur
Ks et pl = x 0 po sur Van. I1 résulte immédiatement des propriétés de x que
p l est une fonction plurisousharmonique de classe C2 sur R ü Uan, strictement
plurisousharmonique sur { z E Uan I po(z) > - 6 } , d p l ( z ) # O si z E dR et
52 = { z E R u Uan I pi(.) < O}.
On déduit du Théorème 3.10 qu'il existe une fonction p2 strictement plurisoushar-
monique de classe C" dans R telle que R, = { z E R I p 2 ( z ) < a } CC R pour
tout a E W. Choisissons ,f3 E R, assez grand pour que p l > - f sur R \ 520 et
I)E C" (C" ) à valeurs réelles telle que II, = 1 dans un voisinage de na et I)= O
dans un voisinage de C" \ 0. Définissons alors 6 2 par 6 2 = I)pz dans R et p 2 = O
dans a? \ R. La fonction 3 2 est strictement plurisousharmonique sur un voisi-
nage de na +
et donc pour tout c > O, pl cp2 est strictement plurisousharmonique
au voisinage de as. Comme de plus p l est strictement plurisousharmonique sur
+
Uan \ Ra et 6 2 = O sur Van \ 0, la fonction P = p l c62 est strictement plu-
risousharmonique de classe C2 sur U z = Uan ü R et R = { z E U z I $(.) < O},
I40 VI. Domaines d'holomorphie et pseudoconvexité

si c est choisi assez petit. Choisissons une fonction cp positive de classe C" dans
C" telle que 2 = { z E cc" I cp(z) = O} (cf Lemme 1.4.13 de [Na2],par exemple).
+
Quitte à restreindre U s , la fonction p = ,6 E(P est la fonction cherchée si E est
assez petit. O

Corollaire 3.20. SoitR CC C" un ouvertstrictementpseudoconvexe à borde2. Alors


pour tout compact K c ûO et tout voisinage UK de K dans Cn , il existe un ouvert
6 strictement pseudoconvexe à bord C2 tel que
OUK C ~ C O U U K .

Démonstration. Soient UE et p satisfaisant la conclusion du Théorème 3.19. Choi-


sissons une fonction x de classe C" à support compact dans UK f' Us2 à valeurs
-
strictement positives sur K . Pour E assezpetit, R = { z E U s 1 p ( z ) - E X ( Z ) < O}
convient. O
Nous allons étudier maintenant le lien entre la stricte convexité et la stricte
pseudoconvexité.

Proposition 3.21. Tout domaine R CC Cn strictement convexe à bord C2 est stricte-


ment pseudocon vexe.

Démonstration. C'est une conséquence du fait qu'une fonction strictement con-


vexe de classe C2 est strictement plurisousharmonique. O

Nous allons prouver que la réciproque est vraie localement modulo un change-
ment de coordonnées holomorphes.

Lemme 3.22. Soient V un ouvert de Cn et p une fonction strictement convexe de


classe C2 sur V . On pose D = { z E V I p ( z ) < O } , alors pour tout compact
convexe K C ri V et tout voisinage UK de K , il existe un ouvert strictement
convexe0 à bordC2 tel que K c c UK n D.

Démonstration. Puisque K est convexe, il existe un ouvert strictement convexe à


bord C", 01, tel que K CC Q: CC UK n V.Soit p l une fonction strictement
convexe de classe C" sur un voisinage Ul CC UK f' V de O: et telle que R : =
{ z E U1 I p l ( z ) < O } . Puisque aucun point du bord de 01
est un minimum local
de pi et puisque pi est strictement convexe, @I(<) <
# O pour tout E 801. Par
conséquent on peut trouver E > O assez petit pour que O: = { z E U1 I p l (2) <
E } CC U1. Choisissons des fonctions de classe C", f et y, de W dans IR ayant les

propriétés suivantes : g(t) > O, g ( t )2 O g(t) 3


2 O et ( t ) 2 O pour tout
t E IR,-1 < f ( t ) < û , s i t < û,f(û)= O , f ( t ) > 0 , s i t > û , g ( t ) = & s i t 5 O,
g ( t ) > O,sit > Oetg(t) = i , s i t > E . Posonscp(z,y) = f ( z ) + g ( y ) s i ( s , y ) E IR2.
Alors cp est une fonction convexe de classe 6"' sur IR2 qui vérifie 2 ( 5 , ~>) O et

@(z,y) 2 O sur IR^, cp(z,y) > O, si max(z,y - E ) > O et cp(z,y) < O, si z < O
aY
3. Pseudoconvexité 141

et y 5 O. Alors $ ( z ) = cp(p(z),pl(z))est une fonction strictement convexe de


classe C2 et si R = { z E Ul I $ ( z ) < O}, alors 0: n D c R c Qf n D et donc
n
K c c UK n D. Puisque $ est strictement convexe et qu’aucun point du bord
de R est un minimum local de $ , d $ ( z ) # O si z E dR et par conséquent R est un
ouvert strictement convexe à bord C2.

Théorème 3.23. Soient V un ouvert de Cn et p une fonction strictement plurisous-


harmonique de classe C 2 sur V telle que d p ( z ) # O pour tout z E î = { z E V I
p ( z ) = O } . SoitD = { z E V 1 p ( z ) < O } . Alorspourtoutpointl E r ilexisteun
voisinage Uc de et un ouvert strictement pseudoconvexe à bord C2, CC Cn, tel
que
i) U c n D c R c D .
ii) Il existe une application biholomorphe h défnie sur un voisinage convexe
d e n telle que h(R) soit strictement convexe.

Démonstration. D’après le Théorème 2.23, il existe une application biholomorphe


h d u n voisinage convexe V, de dans Cn sur un ouvert W de Cn telle que p O h-’
soit strictement convexe sur l’ouvert W . Soit U’ CC W une boule centrée en h ( l ) .
D’après le Lemme 3.22, il existe un ouvert 0’ strictement convexe à bord C2 tel que
-I
U n h(V, n D)C 2’ c h(Vc f? D). En posant Ut = h-’(U’) et R = h-’(Q’) on
obtient le théorème. O

Corollaire3.24. Un ouvert R relativement compact dans C“ à bordC2 est strictement


pseudoconvexe si et seulement si, pour tout point E d o , il existe un voisinage Uc
de dans CTzet une application biholomorphe h, défnie sur un voisinage convexe
de Üc telle que he (Uc n R) soit un ouvert strictement convexe à bord C2.

Démonstration. La condition est nécessaire d’après le Théorème 3.23. Elle est suffi-
sante par définition des ouverts strictement pseudoconvexes car la condition (3.8)
est invariante par changement de coordonnées holomorphes. O

Remarque : Nous venons de prouver que la pseudoconvexité stricte est la for-


mulation localement biholomorphiquement invariante de la convexité stricte. Un
contre-exemple dû à J.J. Kohn et L. Nirenberg montre qu’il n’y a pas de relation ana-
logue entre la convexité et la pseudoconvexité même lorsque le bord du domaine
est de classe C 2 (cf [KolNil).

Commentaires. L‘histoire de la caractérisation des domaines d’existence des fonc-


tions holomorphes débute avec les travaux de E Hartogs et E.E. Levi dans les pre-
mières années du siècle. La caractérisation en termes de convexité holomorphe est
due à H. Cartan et I! Thullen [CalTh]. Les fonctions plurisousharmoniques ont été
introduites par K. Oka et P Lelong, qui en ont décrit les principales propriétés [Lelll.
La plurisousharmonicitéde lafonction -log&, dont l’idée remonteà Hartogs [Harl,
a été prouvée par K. Oka [Okl, P Lelong [Le121et H. Bremermann [Br2].La condition
142 VI. Domaines d'holomorphie et pseudoconvexité

de Levi pour un domaine dholomorphie a été découverte en 1910 par E.E. Levi [Lev]
dans le cas de deux variables
L'ensemble des notions introduites et des théorèmes exposés dans ce chapitre se
trouvent dans la plupart des livres consacrés à la théorie des fonctions de plusieurs
variables complexes, [HelLell, [HoZl, [Kr], [Nall, [Ra],par exemple. Nous avons tout
particulièrement suivi l'exposé de Range [Ra] pour le Théorème de Cartan-Thullen
et la convexité holomorphe, celui de Hormander [HO21 pour les fonctions plurisou-
sharmoniques et la pseudoconvexité et celui de Henkin et Leiterer [HelLell pour les
domaines strictement pseudoconvexes à bord C2.
Chapitre VI1

Problème de Levi et résolution


du d dans les domaines
strictement pseudoconvexes

Ce chapitre est consacré à la résolution du problème de Levi, c’est-à-dire à la démons-


tration du fait que tout ouvert pseudoconvexe de en est un domaine d’holomorphie. La
méthode utilisée est l’étude du d dans les ouverts pseudoconvexes à l’aide de formules
de représentation intégrale locales pour les domaines strictement pseudoconvexes et de la
technique des bosses due à Grauert.
Nous commençons par étudier la résolution de l’équation de Cauchy-Riemann dans
les domaines strictement convexes bornés à bord c2 de en. A l’aide de la formule de
Cauchy-Fantappié introduite au chapitre V, nous prouvons que la solution est holdérienne
d’ordre 1 / 2 lorsque la donnée est continue sur l’adhérence du domaine. Ce résultat as-
socié à l’identité locale entre les domaines strictement pseudoconvexes à bord c2 et les
domaines strictement convexes nous permet d’obtenir, par des techniques d’analyse fonc-
tionnelle, un théorème de finitude pour certains groupes de d-cohomologie. Nous déve-
loppons la méthode des bosses de Grauert au paragraphe 4 pour prouver que ces groupes
de 3-cohomologie sont isomorphes aux groupes de cohomologie de Dolbeault définis au
chapitre II. Un résultat dû à Laufer, que nous présentons au paragraphe 5 , donne finalement
l’annulation des groupes de cohomologie de Dolbeault sur les ouverts strictement pseudo-
convexes bornés à bord c2 de en. Le paragraphe 6 est consacré à la construction d’une
formule intégrale globale pour résoudre le d dans les ouverts strictement pseudoconvexes
bornés à bord c2de en. Nous résolvons enfin le problème de Levi au paragraphe 7. Le der-
nier paragraphe généralise les résultats des paragraphes précédents aux variétés analytiques
complexes. Nous obtenons la caractérisation des variétés de Stein en termes de pseudo-
convexité. Nous prouvons également des théorèmes d’annulation pour la cohomologie de
Dolbeault à support compact ce qui nous permet, en les associant aux résultats cohomolo-
giques du chapitre V, de donner des conditions géométriques suffisantes pour l’extension
des fonctions CR.
144 VU. Problème de Levi

1. RÉSOLUTIONDU a AVEC ESTIMATIONSHOLDÉRIENNES


DANS LES OUVERTS STRICTEMENT CONVEXES

Soit D un ouvert borné strictement convexe à bord C2 de Cn . Alors il existe une


fonction p à valeurs réelles de classe C2 dans Cn telle que D = { z E Cn I p ( z ) <

t E IR2", où CY est un réel strictement positif et xj = xj ( z ) sont les coordonnées


+
réelles du point z E Cn teiles que zj = xj ( z ) ixj+, ( z ) .Comme nous l'avons vu
au chapitre V, paragraphe 3,

est une section de Leraypour l'ouvert D . Puisque D est strictement convexe, nous
avons l'estimation plus précise suivante :

Lemme 1.1. Il existe un voisinage UaD du bord de D et des nombres réels strictement
positifs E etP tels que, pour tout C E UaD et z E Cn tels que IC - z I 5 E , on ait
(1.1) 2 Re(w,(C),C - 2 ) 2 P(C) - P ( Z ) + PIC - zI2.

Démonstration. Soient xj = xj(C) les coordonnées réelles de C E Cn telles que


Cj= xj(C) + zj+n(C).Alors
2 Re(w,(C),C - 2)

En écrivant la formule de Taylor-Young on obtient

+ O(IC - zI2),
ce qui implique, puisque p est strictement convexe, que pour E assez petit et C dans
un voisinage UaD de d D
CY
2Re(w,(C),C - 4 2 P(C) - P ( Z ) + CI, - ZIZI si IC - zI IE. O

Dans le chapitre V, nous avons prouvé le théorème suivant :

Théorème 1.2. SoientD un ouvert convexe bornédeCn à bord de classeC2, e t p une


fonction dépnissante de classeC2 pour D . Alors pour toute ( p , q )-forme différentielle
-
1. Résolution du d avec estimations holdériennes 145

f continue sur D et telle que 3f soit aussi continue sur D, O Ip 5 n,O Iq 5 n,


on a
f = L f +Tfaf surD, siq = O
f =dT,Pf +T,f,df surD,sil 5 q 5 n

O ù L f = ScEaDf (0
A KWP(.,<)
et

T:f = (-l)p+q( 1 (C?A)€aox[o,11


f (0
A (.,C,X) + LED f (Cl A w.0)
En particuliersid f = O etq 2 1, u = T[ f est solution de l'équation& = f sur D .
De plus si f est de classeCk dans D , alors u = T t f est de classeCk++adans D pour
toutcu E]0,1[.
L'estimation donnée dans le Lemme 1.1 va nous permettre d'obtenir une esti-
mation en norme holdérienne d'ordre 1 / 2 pour la solution du dans le cas des a
domaines strictement convexes à bord de classe C2.
Nous avons déjà prouvé au chapitre III, Proposition 2.1, que, si D est un ouvert
borné de @" et f une forme différentielle bornée sur D ,

Lemme 1.3. Soient D un ouvert borné de Cn à bord de classe C', et Va0 et U s des
voisinagesdedD e t D . Soitw(z,<) = (wl(z,<),. . . ,wn(z,C))uneapplicationde
classe C' de lJEx U ~ dans D C" ayant les propriétés suivantes :
i) w(z,C)dépend holomorphiquement de z sur UE et (donc) dCw(z,<)dé-
pend aussi holomorphiquementde z sur UD.
ii) w(z,<)est unesection de LeraypourD.
iii) Pour tout point [ E d D , il existe un voisinage Uc de et des fonctions
de classe C' à valeurs réelles t l ( z , < ) ,. . . ,t2n-l(z,C) définies pour z et C dans un
voisinage Uc de [ telles que
(a) pour tout z E Uc,tl(z,.), . . . ,tan-1(z,.) sont des coordonnées réelles sur
d D n Uc
(bl il existe 6 > O tel que pour tout z E D n Ut et< E d D n Ut on ait

(1.2) l ( w ( ~ , o l C- .)I 2 6(ltl(.,<)l + It(.,C)12 + d i s t ( z , d D ) )


2n- 1
où It(z,<)12= Itj(,z,<)12etdist(z,dD) = inf{Iz - zI,z E d o } .
j=l
146 VU. Problème de Levi

Alors il existe une constante C telle que pour toute forme différentielle f continue
sur D
lR&fll/2,D 5 C1.f 10,D.

Démonstration. Notons que si n = 1,RzD = O. On suppose désormais que n 2 2


et on pose @(.,I)= (w(z,C),<- z ) . L'écriture sous forme de déterminant nous
donne

(2i7r)TLR;Df(z) = f (<I
~C.*)taD~Io.ll
( 1 3)
~ d e t 1 , n - i( v ~ ( ~ , C , A ) >+(~~A~ ),vC~ ( ~ ' c , AA W
) )( C

--
- 2)

avec VW(.,CJ) = (1 - 4-w ( z ' c ) + A IC-zl


-
c-- 4 et où dets,...Sm(ul,.
. .,urn) =
det(al,. . . , a l , . . . , u r n , .. . ,urn).
s1 s*

Pour simplifier nous supposerons que f est de bidegré (0,q) ; nous pouvons
donc remplacer w (( - z ) par w (C) dans (1.3).Grâce à l'hypothèse il, 8, w = O et
-

aZ@= O, d'où

En développant le déterminant dans (1.3),on obtient alors

où les p , sont des polynômes en A. et une intégration par rapport à X donne

Les coefficients de la forme différentielle RawDf sont donc des combinaisons li-
néaires d'intégrales du type suivant

où O 5 s 5 n - 2 , l 5 m 5 n, f l est un des coefficients de f et 11, le produit de


fonctions du type wj <. - Z j et -"L,j , k = 1, . . . ,n. Comme 11, contient au moins
un facteur du type cj ' 3
-
aCk
ZJ,il existe une constante Cl telle que 111,I 5 C1 IC - zl.
Pour estimer les intégrales (1.4) nous utiliserons un lemme dû à Hardy et Lit-
tlewood.
-
1. Résolution du a avec estimations holdériennes 147

Lemme 1.4. On considère D un domaine borné de R", à bord de classe C1 et g E


C1 (D) une fonction vérifiant
Idg(z)I 5 C,[dist(z,ûD)]"-'
où C, est une constante positive et Q ~ ] 0 , 1 [Alors
. g E A" (D). De plus il existe un
compact K de D et une constante C > O ne dépendant que de D et de Q tels que

lSIa,D I w,
+ 191Kl.

Démonstration. Démontrons, pour commencer, le résultat suivant :


( I1 existe E E]0,1[ tel que, si g est une fonction de classe
C1 dans D qui vérifie
I dg(x)I 5 C, [dist(z,dD)]"-',
alors 1g(z) - g(y)1 5 CC,Iz - y[", siz,y E D avec 1z - y1 <E
Puisque dD est de classe C1, il existe E > O assez petit et C' > O tels que si z , y E D
vérifient dist(z,dD) < E , dist(y,dD) < E et 111: - y1 < E , il existe une fonction
y,,, : [0,31z - y11 + D de classe C1 vérifiant Y,,~(O) = ~,y,,~(31z- y [ ) =
Y , / & % , ~ ( X ) ~ I C'si E [0,31z- 1/11, dist(y,,,(X),dD) 2 X si X E [O,lx- YI],
dist(y,,,(X),dD) 2 12 - y1 si X E [Ix - y1,21z - y11 et dist(y,,,(X),dD) 2
312 - 1/I - si X E [21z - y1,31z - YI].
On obtient alors

2
5 (-
(Y
+ l)C'C,lz - YIa.

Posons K = {z E D 1 dist(z,dD) 2 ~ / 2 } Puisque


. D est borné, K est compact.
De plus, puisque g est de classe C1 si z,y E K et Iz - y1 < E ,
1g(x) - g ( y ) I 5 C"1x - y1 5 C"Iz - yla si E <i
cequiprouvel'assertion (1.5).Ilrésultealorsde (1.5)que 1910 5 IglK+CCgEa <
+m. Donc si Iz - y1 > E ,
148 VU. Problème de Levi

Suite de la démonstration du Lemme 1.3. Grâce au Lemme 1.4, il suffit donc de


prouver que pour tout j = 1, . . . ,TI et z E D

où C est une constante indépendante de z E D et de f. On a


a 11, - a+/azj - ( n - s - l)(a@/azj)7/5
azj @n-s-ilç - 212s+2
-
an-s-1 I< - 2 p + 2 @7L+SI< - 42s+2

Comme $,% et sont bornés pour ( z , ( ) E is x a D et /?,hl L CI/<- 21, il


existe une constante C2 telle que

On peut donc trouver une constante C3 telle que ( z ) et (2) soient majorés
az,
Par

où dg2n-1 est la forme volume sur dD.


Montrons que, pour tout { E d D , il existe un voisinage U, de { et une constante
C, tels que pour z E D n U, on ait

et
-
I. Résolution du d avec estimations holdériennes 149

Etudions tout d'abord (1.9). Fixons J E d D et considérons un voisinage U , de et <


des coordonnées tl(z,<), . . . ,t2n-1(z,<) vérifiant l'hypothèse iii) du Lemme 1.3.
Notons p(z,<) la fonction définie pour z E U, ,C E d D nUc,teiie que pour z E Ut
fixé
< ). . . A d<t2n-ï(z,Ç).
dg2n-i = ~ ( z , < ) d < t i ( z , A
Ilexistey > Otelquepourz E U<,<E d D n U [ o n a i t I < - z l 2 ylt(z,<)letdonc
pour z E D n Uc

kDnU<
dg2n-1
I@ln-sl< -
'
~ ( z , < ) d ~ t i ( z A, <. ). . A d<tzn-i(z,<)
+ +
(Itl(z,<)I It(z,<)12 dist(z,dD))n-Slt(z,<)12s+1.
Quitte à restreindre Uc , on peut trouver des constantes r et R telles que Ip(z,<)15r
<
si z E Ut et E d D n U , et pour tout z E U, la surface d D n U, soit envoyée
<
par le difféomorphisme e ( t l ( z , < )., . . ,t2n-1(z,<)) sur un ouvert de la boule
de centre O et de rayon R de R2n-1, on a alors
dg2n- 1 <
kDnUc 1@1"-"1< - z12s + 1 -

6n-sy2s+l 1 ,GRZn-l (1x11


dxl A . . . A dx2n-l
+ 1xI2+ dist(z,dD))n-s1x12S+1
mais
+ +
(1x11 /z/' dist(z,dD))n-slz12S+12 (1x11 + 1x12+ d i ~ t ( z , d D ) ) ~ ~ x ~ ~ " - ~
et par conséquent

De manière analogue pour prouver (1.10) on obtient

dxl A . . . A dXzn-l
bn-s-ly2s+2

I1 reste donc à estimer les membres de droite de (1.11)et (1.12) pour terminer la
démonstration de (1.9) et (1.10).

Lemme 1.5. Soientn 2 1 e t R > O. Ilexisteuneconstantec > O tellequepourtout


E > O, on ait
150 VIL Problème de Levi

Démonstration. Prouvons 2). Pour n = 1,on a

Pour n 2 2, si x’ = ( 2 2 , . . . ,x,), une intégration par rapport àlavariable x1 donne

Montrons i i )

Fin de la démonstration du Lemme 1.3. Pour [ E d D , soit Ut un voisinage de [


tel que (1.9) et (1.10) soient satisfaites pour z E Ut n D. Si V, CC Ut est un
voisinage de 6 , les JaD\u, I < P l nde2n-i
- s l C - ~ I Z s + l et JaD\C; I < P . J n -duzn-l
s-lIC-ZIZs+Z

sont clairement bornées sur V, n D , par conséquent pour z E Vc ri D

(1.13)

et
(1.14)

Grâce àla compacité de d D , on peut donc trouver un voisinage V de aD tel que les
premiers membres de (1.13) et (1.14) soient bornés par C [ d i ~ t ( z , d D ) ] - ~pour
/’
tout z E V n D. Comme sur D \ V ces deux intégrales sont bornées cela termine
la preuve du lemme. O

Théorème 1.6. Soit D un domaine borné strictement convexe à bord C2 de C”. II


existe une constantec > O telle que pour toute forme différentiellef continue s u r D
(1.15) I R”f + G;Dflll/2,D 5 clfIû,D.
En particulier si f est une ( p , q )-forme différentielle continue s u r n , O 5 p 5 n,
1 5 q 5 n, tellequedf = O, lasolutionu =
- (-l)p+q(R” f +EDf ) del’équation
d u = f sur D satisfait l’estimation
(1.16) 1’41/2,D 5 Clf10,D.
1. Résolution du d avec estimations holdénennes 151

Démonstration. Grâce au Théorème 1.2 et au Lemme 1.3, il suffit de prouver que la


section de Leray w passociée au domaine D vérifie les hypothèses du Lemme 1.3
pour obtenir l’estimation (1.15).
Soit p une fonction définissante strictement convexe de D sur UT,alors

est une section de Leray pour D donc ii) est vérifiée. La section w pest indépendante
de z , elle satisfait donc également i). I1 reste à montrer iii). Notons xj = zj(()
+
les coordonnées réelles de C E @” telles que (3 = zj(<) i ~ j + ~ ( ( )Posons .
t1(z,O = I m ( w p ( 0 , -~ 2). Alors

Mais d~tl(z,c) A &(a)# O, pour tout z E d D , car le coefficient de dz, ( z ) A


dans la forme différentielle d g t l ( z , ( ) l C = e A d p ( z ) est -f (%(z))’ +
dz,+,(z)
(
(e , qui ne peut être nul pour tout j = 1, . . . ,n,car d p ( z ) # O. Fixons
( z ) ) ~ )ce
E aD,onpeutalorstrouverunvoisinageUc d e t e t desfonctionstz, . . . , t ~ , ~ - de 1
classe C1 sur Uc telles que pour tout z E Uc fixé, (tl ( z ; ) , t 2 , .. . .tznp1) soient des
coordonnéeslocalessurdDnUC. PosonstJ(z.() = t , ( ( ) - t , ( z ) pourz,Ç E Uc et
= 2 , . . .,2n-1. Pourtoutz E Uc, ( t l ( z > , ) , t z ( z , . ). ,. ,tan-l(z,.))sontalorsdes
coordonnées locales sur d D n Uc. Prouvons maintenant l’inégalité (1.2). Puisque
t , ( z , z ) = O, quitte à restreindre Uc, il résulte de la formule de Taylor qu’il existe
61 > Otelque I(-- zI 2 61/t(z,()l siz,( E Uc.Aprèsunenouvellerestrictionde
Uc, le Lemme 1.1 implique qu’il existe 6 2 tel que pour z,<E Uc
2I(wpKM - .)I 2 62(ltl(Z,C)I + P ( 0 - d.1 + It(< - z)I2),
ce qui prouve (1.2) car p = O sur d D et, après restriction de Uc, il existe 63 > O tel
que - p ( z ) 2 d3 dist(z,dD) si z E D n Uc. O
Terminons cette étude en prouvant à l’aide d’un contre-exemple dû à E.M. Stein
que l’estimation holdérienne d’ordre 1/2 que nous venons d‘obtenir ne peut pas
être améliorée.
+
Soit D = ((z1,zz) E Cn I 1z1I2 1zZI2 < l} la boule unité de C2. Notons
log la détermination du logarithme définie sur @ \ R+ et pour laquelle l’argument
varie entre O et 27r. On pose

(z1,zZ)= (1,O).
si
C’est une (0,l)-forme différentielle de classe C” sur D \ { (1,O)) car log(z1 - 1)
ne s’annule pas si z1 !$ (1, + CO). car 1 log(z1
De plus, f est continue sur 0, -
152 VIL Problème de Levi

1)I tend vers 03 quand z1 + let l'holomorphie de la fonction z e --I.-.-


log(z1-1)
sur D implique que af
= O dans D. Nous allons prouver que, si <r > 1/2, il
n'existe pas de fonction u définie sur D telle que au = f sur D et Iul,,~ < +m.
Supposons que u soit solution de l'équation au = f et vérifie Iul,,~< +m.
Puisque "(e) -
= f,la fonction u - A
-

log(z1-1) est holomorphe dans D. Soit


E tel q u e 0 < 2~ < 1, dorsles cercles { ( z I , t z ) E C2 1 21 = 1 - E , J z Z J = &}
et { (z1,za) E C2 I z1 = 1 - 2~,Iz21= fi}sont contenus-dans D. Appliquons
le Théorème de Cauchy à la fonction z2 ct u(zlrz2) - i o g ( ~ ~ - l sur
) chacun des
cercles. On obtient alors

- 2i7r~
-
lOg(-2E) '

Puisque 1 ~ 1 , <~ +CO, il existe donc une constante C > O telle que, pour tout E
vérifiant O < 2~ < 1,on ait

Or log( - E ) = Log
1I E ~ +
~-
1
log(-E) lOg(-2E) 1
z7r et log( - 2 ~ ) = Log 2
< CEa-1/2.
+ +
Log I E ~ ZT, par conséquent
Log 2 5 CE^-^/^^ log(-€) l o g ( - 2 ~ ) / ce
, qui est impossible.
En utilisant le Corollaire 3.22 du chapitre Vi, on déduit du Théorème 1.6 un ré-
sultat de résolubilité locale dans les domaines strictement pseudoconvexes bornés
à bord de classe C2.

Corollaire 1.7. Soient un ouvert borné strictement pseudoconvexe à bord C2 de C"


5 p 5 n , l 5 q 5 n, continue sura et
et f une formediflérentiellede type ( p , q ) ,O
-
<
d-fermée sur R. Alors pour tout< E d a , il existe un voisinage Uc de dans Cn, une
( p , q - 1)-forme dflérentielle uc E (U, n R) et une constante Cc > O telle
queduc = f suru< etIu<Ii/,,u,nn 5 c<IfIo,n.

Démonstration. Si 5 E d o , il résulte du Corollaire 3.22 du chapitre Vi, qu'il existe un


<
voisinage Ut de dans Cn et une application biholomorphe hc définie auvoisinage
de Üc telle que hc (Ucrio)soit un domaine borné strictement convexe à bordC2. Si
+
I

onposeuc = hiTh<= f,oùT = R:[(ucno) Bh(U,no),uc satisfait les conditions


demandées grâce au Théorème 1.6. O
-
2. Approximation uniforme locale des formes d-fermées 153

2. APPROXIMATION UNIFORMELOCALE DES FORMES ~ - F E R M É E S


DANS LES DOMAINES STRICTEMENT PSEUDOCONVEXES

Prouvons pour commencer que toute fonction holomorphe définie au voisi-


nage d u n convexe compact de C" peut être approchée uniformément sur cet en-
semble par des fonctions holomorphes dans C" .

Proposition 2.1. Soient K un convexe compact de C" et V un voisinage de K . Alors


toute (p,O) -forme holomorphe sur V,O 5 p 5 n peut être approchée uniformément
sur K par des (p,O)-formes holomorphes dans C" .

Démonstration. Puisque K est un convexe compact de C" et V un voisinage de


K , il existe un ouvert convexe D , à bord de classe C2 tel que K c D cc V et
D = ( 2 E C" I p ( z ) < O}, où p est une fonction convexe de classe C2 dans
Cn telle que d p ( z ) # O si z E C" \ D. Soit h une (p,O)-formeholomorphe sur
V. Posons D , = ( 2 E C" I p ( z ) < cy} et notons a0 la borne supérieure des
cy E R pour lesquels h peut être approchée uniformément sur K par des (p,O)-
formes holomorphes sur Da. Puisque K c D CC V ,on a a0 > O.
Nous allons prouver dans un premier temps que (YO = +m. Raisonnons par
l'absurde et supposons que (YO < +m. Pour tout cy > O, considérons la section de
Leray w,(<)= (+y<),. ,$y<))
.. pour Da alors @(z,<) = ( ~ p ( C ) , <- 4 est
une fonction holomorphe par rapport à z dans C" . Soit 6 > O, assez petit. Par dé-
finition de ao, la (p,O)-forme h peut être approchée uniformément sur K par des
(p,O)-formes holomorphes dans un voisinage de Dao-6. Pour obtenir la contra-
diction, il suffit de prouver que toute @,O)-forme holomorphe dans un voisinage
de Dao-6 peut être approchée uniformément sur K par des @,O)-formes holo-
morphes sur Dan+&. " . D'après la formule de Leray, si f est une (p,O)-forme holo-
morphe au voisinage de Dao-&, on a f ( z ) = f(c)
Qn(z,c)
w'
,
(WP(C))AW(C)

si z E Dao-6. Puisque dD,,-6 est compact, pour obtenir l'approximation cher-


chée, il suffit de montrer que pour tout [O E dD,,-6 fixé la fonction peut &
être approchée uniformément sur K x V&,où Vc, est un voisinage de €0 dans
aD,,-6, par des fonctions holomorphes en z sur Dao+6.Fixons €0 E dD,,-a et
choisissons un nombre fini de points E l , . . . ,& tels que cy0 - 6 = p(Ji) < . . . <
p ( ~ =) cy0 + S e t sup 1 -
@b ,&I-1)
I < 1pour j = 1, . . . ,k.Remarquons que
ZEK @(z,€3)

siIl - wl < i p o u r t o u t z E ~ , o n a z.s-~~


un voisinage V,, de €0. On a alors, pour E Vc,, <
i ?k&
FuK p I - @.(ZLl)
I< T < 1pour < dans

où la convergence est uniforme sur K x V,, et


154 VII. Problème de Levi

où la convergence est uniforme par rapport à z dans K . Par conséquent la fonc-


l être approchée uniformément sur K x V,, par des polynômes en
tion a ( ~ , cpeut
~

@ ( z , < ) , @ ( z > <. l. )>@(z,<k-l)


>. et qui sont des fonctions holomorphes sur
Dao+b.Après intégration sur BD,,-d, en utilisant une partition de l'unité finie su-
bordonnée à un recouvrement fini de 8D,,-b par des ouverts du type Vco,on ob-
tient une approximation uniforme de f sur K par des (p,O)-formes holomorphes
sur Dao+6.Par conséquent cy0 = fm.
Pour terminer la démonstration, il reste à montrer que pour tout E > O, il existe
une suite de (p,O)-formes holomorphes g j définies sur Dj+i, j = 0,1,. . . telle que
go = h ( D = Do c V )et

En effet, alors ( g j ) j G N converge uniformément sur tout compact de Cn vers une


(p,O)-forme g holomorphe dans C" et sup Ih - g1 < E . Pour construire cette suite,
K
supposons g o , . . . , g k déjà connus (pour k = 0,go = h) et puisque DI, est convexe
compact, la méthode que nous venons d'utiliser donne l'existence de (p,O)-formes
holomorphes g k + i définie sur Dk+2 telles que 1gk ( z )- g k + 1 ( z )I < & pour tout
z E Dk. O

Théorème 2.2. Soit D un ouvert strictement convexe borné à bord C2 de C". Si K


est un compact de D, toute forme différentielleû-ferméesur D et continue sur D est
limite uniforme sur K de formes différentiellesd-fermées continues dans e".
Démonstration. Quitte à faire une translation, on peut supposer que O E D. Soit
X > 1 un réel, notons D A = { z E C" I E D } , D A est un ouvert strictement
convexe
-
borné à bord C2 de C" contenant D. Si f est une (p,q)-forme différentielle
8-fermée sur D et continue sur D, O 5 p , q 5 n, on pose f x = pif où cpx est
l'homothétie de rapport ; fx est alors une (p,g)-formedifférentielle 8-fermée sur
D A .Fixons E > O et choisissons X > 1 tel que

Supposons dans un premier temps que q = O. La (p,O)-forme holomorphe f x


est définie sur le voisinage D A du convexe compact D. Par la Proposition 2.1, il
existe une (p,O)-forme g holomorphe dans Cn teile que

On déduit alors de (2.1) et (2.2) que supD If - gI < E.


Siq 2 1,ilexisteux E C : , ~ - ~ ( teiiequedux
D ~ ) = fxsurDx+i,carDx+i
est un ouvert borné strictement convexe à bord C2 contenu dans D A (cf th. 1.2).
Puisque Dx+i contient D, on peut trouver une fonction xx de classe C" à support
3. Finitude de la cohomologie de Dolbeault 155

compact dans Dx+l et égale à 1 sur D. On pose alors g = dxxux et grâce à (2.1)
supDIf - g1 < 5 < E. O

Corollaire 2.3. Soit R un ouvert borné strictement pseudoconvexe à bord C2 de C” .


<
Pour tout E 8 0 , il existe
~-
<
u n voisinage Uc de dans C” tel que toute forme dif-
férentielle continue sur Uc n 0, ô-fermée dans Uc ri R est limite uniforme sur tout
compact d e n n Uc de formes différentielles continues, d-fermées dans Cn .

Démonstration. C’est une conséquence immédiate du Théorème 2.2 et du Corol-


laire 3.24 du chapitre Vi. O

3. FINITUDE DE LA COHOMOLOGIEDE DOLBEAULT


DANS LES DOMAiNES STRICTEMENT PSEUDOCONVEXES

Le but de ce paragraphe est de déduire de la résolution locale du 8 avec esti-


mations holdériennes des théorèmes de finitude pour certains groupes de 8-coho-
mologie. Pour cela nous aurons besoin de quelques notions et résultats d’analyse
fonctionnelle qui sont rappelés dans l’annexe C.
Soit D un ouvert borné de C”, nous considèrerons les espaces de Banach
e:,@) des (p,q)-formes différentielles continues sur et Ap{i(D) des ( p , q ) -
formes différentielles holdériennes d’ordre 1/2 sur D ( c f .chapitre I I I , 5 2). On
pose I ~ ( DO )et si q 2 1 on note F pi / ,2q - l ( D )le domaine de définition
i / 2~ , - ~ =

de l’opérateur 8 en tant qu’opérateur de AP(i-l(D) dans Ci,,@), c’est-à-dire le


sous-espace des formes différentielles f E AP(:-l(D) telles que af,
pris au sens
des distributions, soit continue dans D et admette une extension continue à D.
On pose E i ( q ( D ) = 8(F’-l(D)). On note Zi,,(o)
le sous-espace des formes
différentielles f E Ci,,(D) telles que 8f = O dans D , c’est un sous-espace
fermé de l’espace de Banach C&(D). Enfin, nous noterons H:,’l,,(D) le quotient
q,,
(D)/G(Q
(D).

Proposition 3.1. Soient D un ouvert strictement pseudoconvexe borné à bord C2 de


C” ,p et q des entiers tels que O 5 p 5 n,O 5 q 5 n. Alors
il il existe des opérateurs linéaires continus TpP de l’espace C,”,,(D)dans
E ’ e s p a c e A ~ ~ ~ - l telsque,
(D) si f E C,”,,(D)vérifieaf E e,”,,@), o n a

(3.1) f = dT,Pf + T;+,df + KQ f


où KQest un opérateur compact deC,”,,(D) dans lui-même.
ii) Si q 2 1,aT; définit un opérateur linéaire continu de ZP,,(D) dans lui-
même dont l’image est de codimensionfinie.
156 VU. Problème de Levi

iii) E&?(D) est un sous-espace uectoriel fermé de codimension finie de


zp,q (D).
Démonstration. D’après le Corollaire 3.24 du chapitre VI, il existe un recouvrement
fini de D par des ouverts U1, . . . ,Um de Cn tels que, pour tout j = 1, . . . ,m, il
existe une application biholomorphe hj définie sur un voisinage de vj telle que
hj (Uj n D ) soit un ouvert borné strictement convexe à bord de classe C2. I1 résulte
alors des Théorèmes 1.2 et 1.6 que l’on peut trouver des opérateurs linéaires conti-
nus (T:)j,j = 1 , .. . ,m,deCi,,(D) dans AP(:-l(Uj n D ) tels que, si f E Cp,,(D)
etaf E Cp,q+l(D),
+
f = d(T,P)jf (T,+l)jdf sur Uj n D.
Choisissons des fonctions ( ~ j ) j = l , , ,de
. , classe
~ C” à support compact dans Cn
m m
telles que D n supp ‘ p j c Uj et ‘pj = 1 sur D et posons T: f = f,
‘ p j (T,P)j
j=l j=l
pour f E Cp”,,(D). Nous avons ainsi défini un opérateur linéaire continu de
CE,, (D)dans-:!iA ( D )qui vérifie
m
f = aT,Pf + T,+,af- acpj A (T,P)jf sur D.
j=l
m -
Posons Kif = - dpjA(T,P)jf,pour f E Ci,,(D).L‘opérateur K i ainsidéfini
j=l
est un opérateur linéaire continu de ( D )dans Ai(: (D). Grâce au Théorème
d’Ascoli c’est donc un opérateur compact de Cp”,,(D)dans lui-même, d‘où il. De
plus KQenvoie Zp,q(o) dans lui-même. En effet, si f E Zi,q(D),
on a
m m
-
dKtf = -a ( Cà‘pjA (T,P)jf) = C a V j A a(T,p)jf
j=l j=l
m
= Af d‘après (3.21, car f E ZP,,(o)
j=l
m
-
=O puisque C’pi= i sur D.
j=l
D’après (3.1),aT: = I - K QP sur Zp,,(n), pour q 2 1 et, K i étant compact,
l’image de I - KQest de codimension finie dans Zp,,(D), ce qui prouve ii).

L‘assertion iii) résulte de la proposition 4 de l’annexe C car EP(:(D), qui est


l’image par de
-
a ( D ) ,est de codimension finie puisqu’il contient l’image de
dT$ O

Corollaire 3.2. Si D est un ouvert strictement pseudoconuexe borné à bord C2 de Cn


alors
dimHi,’f,2(D) < +CO, si O 5 p 5 n et 1 5 q 5 n.
4. Invariance de la cohomologie de Dolbeault 157

4. INVARIANCE DE LA COHOMOLOGIE DE DOLBEAULT


PAR LES EXTENSIONS STRICTEMENTPSEUDOCONVEXES

A l’aide de la Beulenmethode de Grauert, nous allons prouver que pour un do-


maine strictement pseudoconvexe borné R de @” le groupe de d-cohomologie
HP” (E)est isomorphe au groupe de cohomologie de Dolbeault H p > q ( R )défini
%1/2
au chapitre II. Le Corollaire 3.2 impliquera alors que les groupes de cohomologie de
Dolbeault d’un domaine strictement pseudoconvexe borné de @” sont de dimen-
sion finie.

Définition 4.1. On appelle extension strictement pseudoconvexe élémentaire un


couple ordonné [ e 1 , & ] d’ouverts de @” à bord de classe C 2 tel que û1 c 8 2 , sa-
tisfaisant la condition suivante : il existe un ouvert V contenant 02 \ 61, des do-
maines Dl et D Z strictement pseudoconvexes tels que Dl c D2, 02 = 01 U D2,
81 n D2 = D1,(81 \ D z ) n (O2 \ 8 1 ) = 0 et uneapplication biholomorphedéj7nie
v
sur un voisinage de telle que h ( D j ) , j = 1,2, soit un domaine borné strictement
convexe à bord C z de C” .

Lemme 4.2. Soit [81,02]une extension strictement pseudoconvexe élémentaire. Alors


pour tout ( p , q ) ,O 5 p 5 n et0 5 q 5 n
i) l’application restriction H:,’:/z(8z) + H i ; : / i ( ë l ) estsurjective, siq 2 1,
ii) l’application restriction H:;:/,(&) + H:;:/2(81) est injective, siq 2 2
et si q =1 et 81 strictement pseudoconvexe borné,
iii) l’application restriction 2,”,,(82) + 2:,,(81) est d’image dense, si 81 est
strictement pseudoconvexe borné.
_ _ _ ~
Demonstration. Puisque (01 \ OZ) n ( 8 2 \ 81) = 0,on peut trouver des voisinages
V‘ et V” de e 2 \ 81 tels que V’ Cc V” Cc V et V” n ( 0 , \ D i ) = 0.Choisissons
une fonction x de classe C” dans C” telle que x = 1 sur V’ et supp x c V”.
Montrons il. Soit f i E 2,”,,(81),1 5 q 5 n, on cherche des formes différen-
tielles u1 E AP{:-l(el> et f 2 E ZP,,(~Z) telles que fz = f i - 3u1 sur 01. Comme
est l’image par une application biholomorphe, définie au voisinage de Di, d’un
domaine strictement convexe borné à bord C 2 , il existe u E A‘/’(D1) telle que
f i = au sur D1 ( c f Théorème 1.6). Posons

Les formes différentielles u1 et fz satisfont les conditions demandées.


1/z
Prouvons iil. Soient f2 E 2;,,(82) et u1 E A P , q - l ( û l )telles que du1 = fi
1/2
sur 01, nous cherchons uz E A,,,-,(&) telle que du2 = f i sur 82. Comme D i
est l’image par une application biholomorphe, définie au voisinage de 0 2 , d’un
158 VII. Problème de Levi

1/2
domaine strictement convexe borné à bord C 2 , il existe u E Ap,q-l (Dz)telle que
f2 = au sur 02 et par conséquent u - u1 E z:,~-~
(01).

1/2
telle que 8 v = u
Si q 2 2, il existe 2i E Ap,q-.2(D1) - u1 sur DI. Alors u1 -
-
û(x2i)= u sur V’ n ûl. Posons

aiorsu E AP,,-,(û2)
112 etau2 = fi sur&.
Supposons que q = 1 et 01 est strictement pseudoconvexe borné. I1 résulte
alors de la définition des extensions strictement pseudoconvexe élémentaires que
82 est aussi strictement pseudoconvexe borné et par conséquent E ~ f ? ( & est) un
sous-espace fermé de Z:”,,(&) d’après la Proposition 3.1, iii). I1 suffit donc de
construire une suite ( W k ) & N de (p,O)-formes différentielles holdériennes d‘ordre
e2
1 / 2 dans telles que 8wk soient continues sur $2 et lim If2 - &k l0,E, = O. La
k+oo
(p;O)-forme différentielle u - u1 est continue sur Di, 8-fermée sur D I . I1 résulte
alors du Théorème 2.2 qu’il existe une suite (?&)&N de (p,O)-formesholomorphes
dans V telles que
lim Ivk - - u l ) l g , E , n ~ u p p x= o.
k-tw

+
On définit aiors la suite ( W k ) k E N en posant W k = (1 - x)ul x ( u - U k ) . Mors
-
dWk = f i +(dx)(u- u1 - ‘uk) et la suite (Wk)&rÿ satisfait bien les conditions
demandées.
Terminons en prouvant iii). Soit f E 2 : , , ( $ 1 ) . D’après le Théorème 2.2, il
existe une suite ( z & ) & N de (p,q)-formes 8-fermées continues dans telles quev
‘im If - v k l o , ë l n s u p p x = O. On a alors
k-ioo

Posons fiE +
= (1 - x ) f X v k , c’est une suite de formes différentielles continues
sur $2 qui converge uniformément vers f sur $1 et telles que dfk = ax
A (f - v k )
converge uniformément vers O sur $ 2 . Grâce à la proposition 5 de l’annexe C et
puisque 0 2 est strictement pseudoconvexe car 81 l’est, il résulte de la Proposition
3.1 qu’il existe un opérateur linéaire continu T de Z,,,($2) dans C:,,-,($2) tel que
-
aT = I sur E,,,(&). Posons U k = T ( & A (f - W k ) ) , alors lim IUklo,g, = O et
- _- - k-tm
auk = dfk. Par conséquent, si f k = fk - U k , la suite ( f k ) & N est contenue dans
z:,,(&) et converge uniformément vers f sur $1. o

Lemme 4.3. Soit R un domaine strictement pseudoconvexe borné à bord C2 de @” et


p une fonction déjinissante strictement plurisousharmonique pour fl,i.e. fl = { z E
Uan I p ( z ) < O}. PosonsR, = { z E Van I p ( z ) < E } u 0. Pour1E.I assezpetit,R,
est un domaine strictement pseudoconvexe à bord C 2 . Il existe alors E O > O tel que,
4. Invariance de la cohomologie de Dolbeault 159

si -EO 5 cy < O 5 p 5 E O , on peut trouver un nombrefini de domaines 191,. . . ,ON


telsqueR, = 81 C 02 C . . . C ON = Rp et, pourj = 1 , . . . ,N - 1, [ û j , û j + l ] soit
une extension strictement pseudoconvexe élémentaire.

Démonstration. D'après le Théorème 3.23 du chapitrem, pour tout ( E da,il existe


un voisinage Uc de E dans @" et h, une fonction holomorphe au voisinage de Üc
telle que h(Uc n 0) soit strictement convexe à bord C2. Comme dR est compact,
on peut extraire un sous recouvrement fini ( U i ) l i i i , du recouvrement (Uc)cEan.
N
I1 existe alors EO > O tel que nE,\ RpEo C u U,. Choisissons des fonctions
i=l
( x j ) j = l , , , ,de
, ~classe C" à support compact dans @" telles que supp x j c Uj,
N
j = 1 , .. . , N , et xj = 1s u r a c o \ R + ~ .Pour a et p fixés tels que -EO 5 cy <
j=l
O < /3 5 EO, on pose
k
O k = (2 E CY I P ( Z ) - < (P - a ) CXj(4).
j=l
Alors R, = I90 c . . . c 8N = Rp et siE0 est assez petit [Oj+l,8j]est une extension
strictement pseudoconvexe élémentaire. O

Définition 4.4. Soient D CC R CC Cn des ouverts de @". On dira que R est une
extension strictement pseudoconvexe de D , s'il existe un voisinage U de \ D et
une fonction p strictement plurisousharmonique de classeC2 sur U telle que
D n U = { z E U I p ( z ) < O } et R n U = { z E U I p ( z ) < l } .
On dira que l'extension estnon critique si la fonction p est sans point critique.
Les résultats qui suivent restent valables sans l'hypothèse non critique. Ils se-
ront démontrés dans le cas général dans le paragraphe 8.

Proposition 4.5. Soient D , R des ouverts de C",D cc R cc @" tels que R soit
une extension strictement pseudoconvexe non critique de D . Alors
i) pour tout ( p , q ) , O 5 p 5 n, O 5 q 5 n, l'application restriction
Hi,':/2(G)+ est un isomorphisme,
ii) pour tout ( p , q ) , O 5 p 5 n, O 5 q 5 n, l'application restriction
Zp,q(o)-+ Zi,q(D)estd'image dense pour la topologie définie par la norme I lo,o.

Démonstration. Par définition d u n e extension strictement pseudoconvexe non cri-


tique, il existe un voisinage U de 2 \ D et une fonction p strictement plurisous-
harmonique de classe C2 sur U sans point critique telle que D n U = { z E U I
p ( z ) < O } e t R n U = { z E U I p ( z ) < l}.PosonsRt = D U { z E U I p ( z ) < t } ,
O 5 t 5 1.Soit T la borne supérieure de l'ensemble E des t E [0,1]pour lesquels il
existe une suite finie 81, . . . ,8k d'ouverts de cc" tels que D = 00 c . . . c ûk = Rt
et [0jp1,8j],j = 1,. . . ,k,soit une extension strictement pseudoconvexe élémen-
taire. Prouvons que T = 1. En effet si T < 1,d'après le Lemme 4.3, il existe EO > O
160 VIL Problème de Levi

tel que l'on puisse passer de àRT+~ par une suite finie d'extensions stricte-
ment pseudoconvexes élémentaires pour tout E < E O . Choisissons E < EO tel que
+
T - E E E alors T E est aussi dans E ce qui contredit le fait que T est la borne su-
périeure de E . Par conséquent T = 1. En appliquant alors le Lemme 4.3 à R = R1
avec ,6' = O et a E E , on obtient de plus que 1 E E .
Nous avons donc prouvé qu'il existe une suite finie 00, . . . ,ON d'ouverts de Cn
tels que
D = 00 c c ON = R
" '

et que [Oj-1,0j], j = 1,.. . , N , soit une extension strictement pseudoconvexe


élémentaire. Alors chacun des û j , j = O , . . . , N , est un ouvert strictement pseu-
doconvexe borné et d'après le Lemme 4.2, d u n e part toutes les applications res-
triction (ej) 3 H o,l/2(ëj-1)
P,~ sont des isomorphismes, si O < <p 71. et

1 q < < n, et donc la restriction cp = c p O~ . . . O (pl : Hi;:/2(fi) + Hi,'l/2(o)


11,
est un isomorphisme, d'autre part toutes les applications restriction Zj,q(??j)4
< < <
Z,",($j-l) sont d'image dense, si O p 5 n et O q n, et donc la restriction
$ = $N O . . . O $1 : Zj,,(D) + Z j > , ( o )est d'image dense. O

Théorème 4.6.Soit R un domaine strictement pseudoconvexe borné à bord c2 de


< < <
Cn . Alors, pour tout couple ( p , q ) ,O p n, 1 q 5 n, l'application restriction
H&-p) + Hplq(R)
est un isomorphisme.

Démonstration. Soit U un voisinage de 80. Choisissons D CC R tel que R \ U C


c D et R soit une extension strictement pseudoconvexe non critique de D. On a
alors les applications restriction

H&yD) Lp,H"lq(n) 3 HP>,


O ,1/2 (m.
En effet, par l'isomorphisme de Dolbeault HP>Q(R) s'identifie à Z~,,(R)/Z;,,(fl) n
-
1/2 -
aCj,,-,(R) et cp est donc bien définie car EP,, (R) c Z;,,(R) n aC~,,-,(R).
a
L'application restriction $ est elle aussi bien définie grâce à la régularité du ( c f
chap. III, Remarque 3.6). D'après la Proposition 4.5, $ O cp est un isomorphisme,
donc cp est injective et $ est surjective. Pour obtenir le théorème il suffit de prouver
que $ est injective ce qui résultera du lemme suivant :

Lemme 4.7. Soient D et R deux ouverts de Cn tels que D CC 0. On suppose qu'il


existe un voisinage U de R \ D et une fonction strictement plurisousharmonique
p de classe C2 sans point critique telle que D n U = { z E U I p ( z ) < O} et
D U { z E U I p ( z ) 5 C } CC R, pour toutC > O. Alors l'application restriction
HP?,((R) + H;;:/2(D)
estinjectivepourtout(p,q)telsqueO 5 p 5 n , i 5 q 5 n.
5. Théorème d'annulation pour la cohomologie de Dolbeault 161

Démonstration. On peut construire une suite


D = Do c D1 c ... c Di, c . .
d'ouverts bornés de C" tels que R = u DI, et
k>O
Dk+l est une extension stricte-

ment pseudoconvexe sans point critique de Di,, si IC E N. Soit f E Zi,q(R)telle


que f = a w o sur D, wo 6 Ap,q-
112 ( D ) . D'après la Proposition 4.5, i), il existe une

suite wk E ~ 112 i , )que f = dwi, sur Di,, car chaque Di, est une exten-
l ~ , , - ~ ( Dtelle
sion strictement pseudoconvexe non critique de DO. Nous allons construire une
suite (ui,)lcENde formes différentielles teiies que uk E C:,q-l(~k), duk = f sur
~ iet ,Iui,+l - ui,lo,B, 5 3. La suite (uk)kEW, ainsi construite, converge unifor-
mément sur tout compact de R vers une forme différentielle u E Ci,,-,(O) telle
que au = f sur D. Posons uo = wo et supposons construites u l l . . . , u k . La forme
différentielle wk+l - u k est un élément de Zi,,-,(o,) et, d'après la Proposition
4.5 ii), il existe (lti,+l E ~,",,-,(Oi,+l) telle que

Iwk+l - uk - Q l c + l l o , ~ , < 1 / 2 k .
-
On pose alors ui,+l = wk+l - a k + l et on a bien dui,+l =
- f sur car
d ( l t k + l = O sur Dlc+l, et I u k + l - u k l o , p , < 1/P. O

Corollaire 4.8. Si est un ouvert strictement pseudoconvexe borné à bord C2 de Cn,


alors
dimHp,q(R)<+CO, si O < p < n et 1L q < n .

Démonstration. C'est une conséquence immédiate du Corollaire 3.2 et du Théo-


rème 4.6. O

5. THÉORÈME D'ANNULATION POUR LA COHOMOLOGIE DE DOLBEAULT


DANS LES DOMAINES STRICTEMENT PSEUDOCONVEXES DE Cn

Nous présentons ici un résultat dû à Laufer [Lau]qui va nous permettre de dé-


duire du théorème de finitude du paragraphe 4 un théorème d'annulation pour les
groupes de cohomologie de Dolbeault. Ce résultat dit que si O est un ouvert de C",
les groupes de cohomologie de Dolbeault Hpiq(O), O 5 p 5 n, 1 5 q 5 n, sont
soit réduits à O, soit de dimension infinie.

Théorème 5.1. SoientO un ouvert de C, p et q des entiers tels que O 5 p 5 n,l I:


q 5 n - 1. Si EEq(O) = aCpsQ- (O) est un sous-espace vectoriel de codimension
finie dans ZEq(a),alors
E;q(w = z,qqw.
162 VIL Problème de Levi

Démonstration. Soit f E ZEq(0)\ (a).Puisque (O) est de codimension


finie dans 2pq(0), il existe un entier N E N* tel que le sous-espace vectoriel de
ZEq(0)engendré par f,zlf,. . . , z y f rencontre EEq(R).On peut donc trouver
des nombres complexes QO, . . . , O N , non tous nuls et une forme différentielle u E
CEq- (O) tels que
aof + alzlf + . ' . + a N z f J f = au sur R.
Ce qui s'écrit encore P(z1)fE EFq-,(R) avec P(z1)
le polynôme a0 a1z1 + +
+
. . . Q N Z ~ Notons
. Nfle minimum des degrés des polynômes P non nuls de
la variable z1 tels que P(z1)fE EEq(R)et Pfun polynôme de degré N f tel que
Pf(z1)f E E,OP,(R). Soient {fi,. . . , f k } C ZEQ(R)une base d u n supplémen-
taire algébrique de EEq(R)dans ZEq(R).Posons P = Pfi . . . P f k .Le polynôme
P vérifie alors
P(z1)fE EEq(R) pourtoute f E ZFq(R).
Notons NOle minimum de l'ensemble des entiers N tels qu'il existe un polynôme
P non nul de la variable z1, de degré N vérifiant P(z,)f E EEq(R)pour toute
f E ZEq(O). Supposons que NO 2 1 . Soit POun polynôme de degré NOen la
variable z1 tel que, pour toute f E ZEQ(0),Po(z1)f E E: (O). Fixons une forme
différentielle f E ZEq(R),quelconque, il existe alors u ~~<y~-~
(R) telle que
(5.1) ~o(z1)f = d u sur R.
Dérivons l'égalité ( 5 . 1 )par rapport à z1,on obtient

où et e sont les formes différentielles obtenues en dérivant les coefficients


des formes différentielles f et u par rapport à z1. La forme différentielle est
encore dans Zrq(0) et donc Po(z1)SE E,OP,(R).Par conséquent le polynôme
PO = 2 R ) toute f E ZE~(R).Comme dOFp0 =
vérifie FO(z1)f E E ~ ~ ( pour
NO - 1, cela contredit la minimalité de NOet donc NO = O. Nous avons ainsi
prouvé que (R) = Zpq(CI).

Corollaire 5.2. Si R est un ouvert strictement pseudoconvexe borné à bord C2 de @" ,


alors
H:,':,2(n) = Hplq(R) = O, si O 5 p 5 n et1 5 q 5 n.

Démonstration. Puisque Hp,q(R) = Z,qP(O)/E&(R), il résulte du Corollaire 4.8


et du Théorème 5.1 que Hp,q(R) = O. Le résultat complet est alors une consé-
quence du Théorème 4.6. O

Théorème 5.3. Soient R un ouvert strictement pseudoconvexe borné à bord C2 de


C" ,p et q des entiers tels que O 5 p 5 n et 1 5 q 5 n. Alors il existe un opérateur
-
6. Formule intégrale pour résoudre le d avec estimation holdérienne 163

1inéairecontinuT d e Z i , , ( a ) dansAk{:-l(R) t e l q u e T ( Z i , , ( n ) ) c F,',p-l(R) et


-

d O T=I.

Démonstration. Le Corollaire 5.2 nous dit que Zi,,(a) = Ej(:(R). I1 suffit alors
d'appliquer la proposition 5 de l'annexe C pour obtenir l'opérateur T .
Terminons ce paragraphe par un lemme qui nous servira dans le paragraphe 6.

Lemme 5.4. Soient R un domaine strictement pseudoconvexe borné à bord C2


de Cn et U, un voisinage de 52. Alors il existe un opérateur linéaire continu
T ; Zcl(Us) + C"(R) telque8Tf = f dans0 pourtoute f E 204;(Us).

Démonstration. Nous allons prouver que l'opérateur T : Z:,,(D) + R112(R)


donné par le Théorème 5.3 a les propriétés cherchées. Soit f E Zel(Us),alors
T f est définie et dTf = f sur R, car Z,.P;(V,) C Zfo,ll(D).Grâce au Théo-
a,
rème 3.5 du chapitre III sur la régularité du on a T f E C"(R). Copérateur T
définit donc un opérateur linéaire de ZC, ( U s ) dans C" (R). La continuité de T
comme opérateur linéaire entre les espaces de Fréchet Z?, (U,) et C" (O) résulte
alors du théorème du graphe fermé. En effet, soit (f n ) n E N une suite d'éléments de
Z r l ( U s )telle que la suite (f n , T f n )converge vers (f,g) dans Zel ( Us) x C" (CI).
La continuité de T sur Z & ( G ) implique que T f n converge uniformément vers Tf
a
sur et comme 8T f = f sur R, la régularité du 8 nous dit que T f E C" (a).
L'unicité de la limite implique alors que ( f , T f ) = (f,g),( f , g ) est donc dans le
graphe de T . O

Remarque :Une autre démonstration de ce lemme n'utilisant pas l'opérateur T du


Théorème 5.3 est donnée dans [HILl] ( c f Lemme 2.4.1).

6. FORMULE INTÉGRALEPOUR RÉSOUDRE LE 8AVEC ESTIMATIONS


HOLDÉRIENNESDANS LES DOMAINES STRICTEMENT PSEUDOCONVEXES

Soit R un domaine strictement pseudoconvexe borné à bordC2 de Cn. Nous al-


lons construire une fonction d'appui globale @(.,<) pour R, c'est-à-dire une fonc-
tion de classe C1 définie sur U s x Uan, où Uan est un voisinage de dR et U s =
U R, telle que @ dépende holomorphiquement de z dans U s et @(z,<)# O si
<
z E 2, E Van et z # <. Cette fonction jouerale rôle de (w(z,<),< - z ) dans les
formules intégrales, w étant une section de Leray associée à R.

Lemme 6.1. Soit 19un ouvert borné de C7'etp une fonction strictementplurisoushar-
164 VU. Problème de Levi

monique définie dans un voisinage de B. Posons

Soient a j k des fonctions de classeC' dans un voisinage d e 3 telles que

et E > O, choisi assez petit pour que


a2P B
(6.3) C , dniax
,IC-zl I. I-(<)--( d2P
I
z) < ~

2n2
pour j , k = 1,. . .,2n

où xj = xj(<) sont les coordonnées réelles de J E C" telles que < j = xj(<) +
Z X ~ + ~ ( < ) . Pourz,Ç E 3, ondéfinit

Alors pour tout z,C E e tels que IC - zI 5 E , on a l'estimation


(6.5) ReF(z1C) 2 P ( C ) - P ( Z ) + PIC - zI2.

Remarque :Puisque p est de classe C2 et P > O (car p strictement plurisousharmo-


nique) il existe des fonctions a j k et un réel E tels que (6.2) et (6.3) soient satisfaites.

< e
Démonstration. Soient et z dans tels que I< - zl 5 E . I1 résulte du Lemme 2.22
du chapitre Vi et de la formule de Taylor que si Fpest le polynôme de Levi de p

où lR(z,<)l5 BI< - zI2 d'après (6.3). Grâce à (6.1), on obtient


ReF,(t,O 2 P ( C ) - P ( Z ) + 2BIC - zI2,
mais on a lFp(.z,()- F(z,C)( 5 PIC - zI2,d'après (6.2) et donc Re F(z,C) 2
P ( 0 - P ( 2 ) + P l i - zI2. O

Théorème 6.2.SoitR un domaine strictement pseudoconvexe borné à bord de classe


C 2 de Cn, 6 un voisinage de dR et p une fonction strictement plurisousharmonique
de classeC2 définie dans u n voisinage de 3 telle que
R n 0 = { z E e 1 p(z) < O).
Soient&,P, F(z,<)choisis comme dans le Lemme 6.1 avec&assez petit pour que
{ z E C* I I( - zI 5 2&} c 6 pourtout ( E da.
6. Formule intégrale pour résoudre le d avec estimation holdérienne 165

Alors il existe une fonction @(z,<)de classeCl définie sur Usi x Uan, où Uan est un
voisinage de dR contenu dans 0 et U, = Uan ü R,telle que
0 @( z,C) dépend holomorphiquement de z dans U*
ii) Q ( t , C ) # O pourtoutz E Uc,C E Van tekqueII - zI 2 E ,
iii) il existe une fonction de classeCl, M ( z , ( ) définie et non nulle pour t E
UE, E Uan tels que I(' - zI 5 E , vérifiant
@kO = F ( 4 ) M ( z , C )
pourz E Ug,( E U ~ telsque
D I( - zI 5 E.

Démonstration. I1 résulte del'estimation (6.5) que Re F ( z , < ) 2 p(<) - p ( z ) +,h2


pour z,( E 6' et E 5 IC - zI 5 2 ~ Comme
. p = O sur 8 R et grâce au choix de
E , on peut trouver un voisinage Vafi de dR contenu dans 6' assez petit pour que

IpI 5 ,6$ sur Van et pour tout ( E Van la boule de centre C et de rayon 2~ est
contenue dans 6'. Posons Vsi = s2 U Van,alors pour (z,C) E Vz x Vafi vérifiant
IC - zI < ZE, z et ( appartiennent à 6' et Re F(z,C) 2 p$ pour z E VB,( E Van
tels que E 5 IC - zI 5 2 ~ Par. conséquent on peut définir lnF(z,C),où In est
la détermination principale du logarithme, pour z E VE,( E Van vérifiant E 5
IC - zI 5 2 ~Choisissons
. une fonction x de classe C" dans Cn telle que x(() = 1
si y 2.
5 etx(E) = Opour 2 Pourz E V ~ e,Ct E Van ondéfinit

Alors l'application C f(.,<)est de classe C' sur Van à valeurs dans Zpl(VG).
Choisissons un voisinage Uan CC Van tel que U, = R ü Uan soit strictement
pseudoconvexe borné à bord C2. I1 résulte du Lemme 5.4 qu'il existe un opérateur
linéaire continu T : ZOg;(V,) -+ C"(U,) tel que a T y = cp sur U, pour toute
'p E Z c l (Vs).Pour t E UB et ( E Uan, on pose

.(.,O = ( T ( f ( . , C ) ) ( z ) ,M ( 4 ) = exp(-u(z,C))
et
@kC) = { F(z,C)M(t,C)
exp(x(C -z)lnF(z,C)
si IC - zl
- u(z,C) si IC
5E
- zI 2 E .
I1 est clair que @ satisfait les conditions i] à iii] du théorème. O

Remarques
1) Notons que nous n'avons pas utilisé le fait que dR est de classe C2. Le Théo-
rème 6.2 est encore vrai si d p s'annule sur as2 (cf [HelLel]).
2) Pour obtenir le Théorème 6.2 nous n'avons pas besoin de toute la force du
Théorème 5.3. Nous avons seulement besoin de savoir que si une (0.1)-forme diffé-
rentielle est d-fermée au voisinage d u n domaine strictement pseudoconvexe, elie
est exacte sur ce domaine et la solution de l'équation de Cauchy-Riemann est don-
née par un opérateur linéaire.
166 Vil. Problème de Levi

Le Théorème 6.2, nous donne la solution du problème de Levi, pour les do-
maines strictement pseudoconvexes bornés à bord C2 (le cas général sera étudié
a u § 7).

Corollaire 6.3. Soit R un ouvert strictement pseudoconuexe borné à bord C2 de @".


Alors R est un domaine d'holomorphie.

Démonstration. Considérons la fonction @ associée au domaine R par le Théorème


6.2 et fixons un point 50 E do. Alors la fonction f (2) = &est holomorphe
dans R et f (2) tend vers l'infini quand z tend vers (0 dans D , elle ne peut donc se
prolonger holomorphiquement au voisinage (O.
Pour pouvoir appliquer la formule de Cauchy-Leray-Koppelman sur un do-
maine R strictement pseudoconvexe, nous devons maintenant construire une sec-
tion de Leray pour ce domaine qui sera associée à la fonction d'appui @ du Théo-
rème 6.2. I1 s'agit donc de trouver une application w de classe C1 sur U s x Uan,
holomorphe en z sur U s e t telle que (w(z,<),<- z ) = a(.,<).

Lemme 6.4. Soit R un ouvert strictement pseudoconuexe borné à bord C2 de C",


M1 = { z E Cn I z1 = O} et U, un voisinage de a.
Alors pour toute fonction
holomorphe f sur M1 n U z il existe une fonction f holomorphe dans R telle que
f = f suriî41 n R.
Démonstration. Si U1 est un voisinage assez petit de M1 n 2,alors en posant
F ( z ) = f ( O , z 2 , . . . ,zn)on obtient un prolongement holomorphe de f à U1. Choi-
sissons des voisinages UilUr de M I ri tels que Ui CC U; CC U1. Soit x une
fonction C" dans Cn telle que x = 1 sur Ui et supp x C U r , on pose

Alors cp est une (0,l)-formedifférentielle, &fermée de classe C" dans un voisinage


U de 0.D'après le Corollaire 5.2 appliqué à un domaine strictement pseudocon-
vexe à bord C2 contenant (;2 et contenu dans U , il existe une fonction u continue
dans telle que au = cp dans R, ce qui implique ~ ( F -x z l u ) = O dans R. Par
f
conséquent = F X - z1u est holomorphe dans R et puisque x =
1 sur R n M l
f = F = f dansRnM1. o

Lemme 6.5. Soient R un ouvert strictement pseudoconvexe borné à bord C2 de C",


h f k = ( 2 E CC" I 21 = . . . = zk = O}, i 5 k 5 n,etUE un voisinage d e n . Alors
si f est une fonction holomorphe dans UE telle que f = O sur M k f l UE il existe des
k
fonctions fi, . . . ,fk holomorphes dans fl telles que f ( 2 ) = zjfj ( z ) pour tout
j=l
z E 0.
-
6. Formule intégrale pour résoudre le a avec estimation holdérienne 167

Démonstration. Si k = 1, on peut poser f i ( z ) = f ( z ) / z 1 .Raisonnons par récur-


rence et supposons que le lemme est démontré pour Mk-1 dans @" , k - 1 5 c. Soit
f une fonction holomorphe dans U, telle que f ( z ) = O si z E Mk f' U z Choisis-
sons un ouvert strictement pseudoconvexe 6 tel que R CC 6 CC U s l'ensemble
6 n M1 est un ouvert strictement pseudoconvexe borné de M1 = CY-'. D'après
l'hypothèse de récurrence il existe des fonctions fj(z2, . . . , z n ) ,j = 2, . . . ,k,holo-
k -
morphes dans 6 n M 1 telles que f (2) = zj fj(z2,. . . ,zn) pour z E 6 nM I .
j=2
Le Lemme 6.4, nous donne alors l'existence
-
de fonctions f j , j = 2 , . . . ,k, holo-
morphes dans R telles que f j ( z ) = f j ( z 2 , . . . ,zn) pour z = (O,z2, . . . ,zn) E
E

R n M1. Pour terminer, il suffit alors de poser f 1 ( z ) = (f (2) - z j f j (2))


=2
pourz E R. O

Théorème 6.6. Soient O un ouvert strictement pseudoconvexe borné à bord C2 de


@" et Us2 un voisinage d e n . Si f est une fonction holomorphe sur U s il existe des
fonctions hj holomorphes s u r a x R telles que, pour (z,<) E R x R,on ait
n

j=i

-
Démonstration. Choisissons un ouvert strictement pseudoconvexe borné R con-
tenu dans CZn tel que R x R CC 6 CC Us2 x Us2 et définissons de nouvelles
coordonnées dans C2" en posant uj = <j - zj et uj+, = z j pour j = 1, . . . ,n.
Alors si on définit F par F ( z , < )= f(() - f ( z ) ,F est holomorphe sur U, x Us2 et
F = O sur UG x U, n {u E @2n I u1 = . . . = un = O}. On peut donc appliquer
le Lemme 6.5 à F ce qui donne le résultat en revenant aux coordonnées ( z , < ) . O
Pour construire la section de Leray w associée à nous avons besoin d u n e
version du Théorème 6.6 où f dépend de manière C1 d u n paramètre et où les f j
dépendent aussi de manière C 1 de ce paramètre.

Théorème 6.7. Soient X une variété de classe C k , k 2 1, 0 un ouvert strictement


pseudoconvexe borné à bord C2 de en
et Us2 un voisinage d e 2 . Si f est une fonction
de classe C k sur X à valeurs dans C" ( UE) telle que f (.,x)soit holomorphe sur UE
pourx E X , il existe des fonctions hj de classeCm sur (0 x O ) x X,1 5 j 5 n,
telles que hj (.,x)soit holomorphe sur R x R pour x E X et qui vérifient pour tout
x E X et(z,Ç) E R x R
71

f (<J)
- f(z,z) = h j ( < , ~ , 4 ( C-j 4 .
j=l

La démonstration du Théorème 6.7 suit pas à pas celle du Théorème 6.6. Nous
détaillerons seulement la version du Lemme 6.4 avec paramètre.
168 VU. Problème de Levi

Lemme 6.8. Soient X une variété de classeCk ,IC 2 1, R un ouvert strictement pseu-
doconvexe bornéà borde2 deCn, M1 = { z E Cn I z1 = O } , U z un voisinagede
R. Si f est une fonction de classe C k sur X à valeurs dans C" (U, n M I ) telle que
f (.,x)soit holomorphe sur Uz n M1 pour x E X , il existe une fonction de classe f
C k sur X à valeurs dans C" ( R ) telle que j (.,x) soit holomorphe sur R pour x E X
et vérifie pourx E X et (O,zz,. . . ,z,) E R
J((oA, . . . , z n ) , x ) = f((O>z2>...,zn),x).
Démonstration. Elle est analogue à celie du Lemme 6.4 dont nous reprenons les
notations. Posons

sizEXetzECn\U1,
cp est une forme différentielle de classe C k sur X x V i , 8,-fermée. Choisis-
sons un ouvert fi strictement pseudoconvexe à bord C2 tel que R c fi CC U1.
L'application x H cp(.,x)est de classe C k sur X à valeur dans Zrl( V I )D'après
. le
Lemme 5.4, il existe un opérateur linéaire continu T de Z,qi(Ul) dans C" (6)tel
q u e d o T = Id. Posonsu(.,x) = T(cp(.,x)).AlorsuestdeclasseCksurxàvaleurs
dans C"(6) et f(z,x) = x ( z ) F ( z , x ) - zlu(z,x) est la fonction cherchée. O

Corollaire 6.9. SoientR un domaine strictement pseudoconvexe borné de Cn, et@ la


fonction d'appui associée au domaine R par le Théorème 6.2 défnie sur U, x Uan.
Il existe un voisinage Van de 130,Van CC Uan et une application w de classeCl sur
Va x Van,où V z = Van U R, holomorphe en z sur V z telle que
n
@(.,C)
= C W j ( r , C ) ( C j - " j ) = (w,C - 2 )
j=l
pour z E Vo,<E Vao. De plus w est une section de Leray pour R.

Démonstration. En appliquant le Théorème 6.7 à @ on obtient


n

@((,CI - w.4 = hj(C,Z,C)(<j - " j )


j=l
et, puisque @(<,<) = 0,en prenant ( = C on a
n

@(Z,C) = C W j ( Z , C ) ( < j - "j)


j=1

où wj(z,<)= -hj (C,z,<)a les propriétés cherchées. O

Remarque :La section de Leray w ainsi obtenue convient également pour tous les
domaines strictement pseudoconvexes de la forme
a \ Van u {. E Van I P(.z) < -6)
-
6. Formule intégrale pour résoudre le d avec estimation holdénenne 169

pour 6 > O assez petit.


En utilisant la section de Leray globale que nous venons de construire, nous
a
obtenons un opérateur intégral qui permet de résoudre le avec estimation holdé-
rienne d'ordre 1/2.

Théorème 6.10.Soient un domaine borné strictement pseudoconuexe ù borde2 de


Cn et w la section de Leray associée ù R par le Corollaire 6.9. Il existe une constante
C telle que
i) pour touteforme différentielle f continue s u r n , l'intégrale

R$nf =/ (C>x)€anx[0,11
f (C) A K q U ' ( . , C , 4
satisfait l'estimation
I%nf I1/2,n I ClflO,r,
_ -
ii) pour toute (p,q)-formedifférentielle f continue sur R, ô-fermée dans R,
0 5 P 5 n,1 5 4 5 n ,
u = (-1)"+"R;nf + Bn f)
est solution de l'équation& = f dans R et vérifie

lul1/2,n 5 Clf I0,n.


Deplus, u E C&,(R) pourtoutcr E]0,1[ etsi f estdeclasseCk dansR,k =
1 , 2 , . . .,co,alorsu E pourtoutcr E ] o , ~ [ .

Démonstration. D'après le Théorème 3.3 du chapitre Vi il ne reste à prouver que 0.


Pour cela il suffit de montrer que la section de Leray w satisfait les hypothèses du
Lemme 1.3. Les conditions i) et ii) résultent du Corollaire 6.9, il faut prouver iii).
Fixons E R. Par définition de w et <p on a

(W(Z,O,C - 4 = F(Z1C)A4(Z,C)
où F et A4 ont les propriétés données dans le Lemme 6.1 et le Théorème 6.2. On
peut alors choisir un voisinage U, de [ assez petit pour qu'il existe 61 > O tel que

(6.6) - 4 I L 61 (+,O I
I (44),<
si z,< E Uc. Posons tl(z,C) = ImF(z,<) et soit xj = xj(<) les coordonnées
+
réelles de C E Cn teiles que ( j = x j (C) Zxj+, (C). Alors
170 VII. Problème de Levi

et par conséquent

Donc n//dCtl(z,<)lC=tA d p ( z ) / / 2 / / d p ( z ) / /pour


2 tout z E dR car le coeffi-
cient de dx, (2) A dx,+,(z) dans la forme différentielle du membre de gauche est
-[($(z))z +
(&(z))’]. Puisquedp(z) # Opourz E d R c a r R e s t à b o r d
C 2 ,quitte à restreindre Uc, on peut trouver-des fonctions - de classe C 1 ,&?,. . . , t ~ , , - ~
sur U , ,telles que pour tout z E Uc t 1 (z;) $ 2 , . . . ,t2n- 1 soient des coordonnées sur
~ c n û R . û n p o s e t , ( z , < )= i , ( ~ ) - t , ( z ) p o u r z , < ~U < , ~ =, .Z. . ,2 n - - l . ~ l o r s
pour tout z E Uc fixé les fonctions t l ( z , . ) ,. . . , t 2 n - l ( z , . ) sont aussi des coordon-
nées sur ûfl n Uc. Pour terminer il faut prouver l’estimation (I.2) pour ces coor-
données. Puisque t, ( z , z ) = O, quitte à restreindre encore Uc, la formule de Taylor
implique l’existence de 6 2 > O tel que IC - z / 2 &lt(z,C)I pour tout z,CE Uc. I1
résulte alors de l’estimation (6.5) du Lemme 6.1 que, après une nouvelle restriction
de U . ,on peut trouver 63 > O tel que pour z,C E Uc
IF(z,C)l 2 63(/ti(Z1<)I+ P ( < ) - P ( z ) + k(z,C)l2).
Comme p(C) = O, si <
E 8R , et comme il existe 64 > O tel que - p ( z ) 2
64dist(z,dR), si z E D n Uc, onaura
/ F ( z , < )2/ &i64((ti(Z,<)/+ /t(z,c)/2 + dist(z,dfi))
pour z E D n U, et < E d D n Uc. D’où le résultat en tenant compte de (6.6). O

Remarque :L‘intérêt du Théorème 6.10 par rapport aux résultats du paragraphe 5


est que l’opérateur intégral est beaucoup plus explicite, ce qui peut permettre de
montrer par exemple que la constante C dépend, en un certain sens, continûment
du domaine R.

7. PROBLÈME DE LEVI DANS Cn

Commençons ce paragraphe en prouvant le Théorème d‘approximation d’Oka-


Weil. I1 nous servira à résoudre le problème de Levi et à prouver l’annulation des
groupes de cohomologie de Dolbeault pour les ouverts pseudoconvexes de @” en
bidegré ( p , q ) ,O 5 p 5 n, 1 5 q 5 n.

Théorème 7.1.Soient0 C Cn un ouvertpseudoconvexeetK CC R un compact tel


h

que K = K i . Alors, si0 5 p 5 n, toute (p,O)-forme holomorphe dans un voisinage


de K peut être approchée uniformément sur K par des fonctions holomorphes dans
R.

Démonstration. Soit h une (p,O)-forme holomorphe dans un voisinage UK de K .


D’après le Corollaire 3.13 du chapitre VI, il existe une fonction strictement plurisou-
sharmonique de classe C” p : R -+ IR telle que
7. Problème de Levi dans Cn 171

i) R, = { z E R I p ( z ) < Q} CC R, pour tout Q E R,


ii) l’ensemble Crit(p) = { z E R 1 d p ( z ) = O} est discret dans R,
iii) p < O s u r K e t p > O s u r R \ U K .
Soit QO la borne supérieure des (Y E IR tels que h puisse être approché uniformé-
ment sur K par des (p,O)-formes holomorphes dans O,. Puisque h E C,,O(UK)
et a h = O sur U K ,(YO > O c a r p > O sur R \ U K . Pour prouver que a0 = +CQ,
puis démontrer le théorème il suffit de suivre pas à pas la démonstration du Théo-
rème 2.1 où la fonction (a et la section de Leray associées w sont définies de la ma-
nière suivante : Grâce au Théorème 6.2 au Corollaire 6.9 et à l’estimation (6.5) il
existe un réel 6 > O, une fonction C1, (a(.,<) et une application C1 à valeurs dans
<
en,w(z,<)définies pour z dans un voisinage de Dao+6et dans un voisinage de
-

Dao+g\ Dno-6 telles que


a) (a(z,<)et w(z,<)sont holomorphes en z ,
b)@(.,O = (d.,O,< - 4,
c)@(.,O +
# 0 si a 0 - 6 5 p ( < ) 5 Qo 6et p ( z ) < P ( < ) ?
d) w ( z , < )est une section de Leraypour Dao-6
et d’après la propriété iil de p, on peut supposer que d p ( z ) # O si z E dD,,-6 et
appliquer la formule de Leray au domaine Dao-6. O

Remarque :Le Théorème 7.1 peut être prouvé sans utiliser le 3 6 mais à l’aide de la
Proposition 4.5 comme cela sera fait pour l’assertion iil du Théorème 8.11.

Théoreme 7.2. Soit R C


A
en un ouvert pseudoconvexe. Alors pour tout compact K
d e R , Kg = Ka.
h A

Démonstration. On sait déjà que Kg C K R (cf.la remarque qui suit la Définition


3.3 du chapitre VI). Pour prouver la réciproque, choisissons un point E E R \
et construisons une fonction h holomorphe dans R telle que
(7.1) Ih(0l > y; lh(z)l.
I1 résulte du Corollaire 3.13 et du Lemme 2.24 du chapitre VI, qu’il existe un ouvert
5 -
strictement pseudoconvexe G cc R tel que K CC G, E E dG et G, = G, car
G est défini par { z E R I p ( z ) < O} où p est plurisousharmonique de classe C”
sur R. D’après le Théorème 6.2 et l’estimation (6.5),il existe une fonction de classe
<
C1, (z,<)définie pour dans un voisinage UaG de dG et z dans un voisinage UG
de G telle que (a(.,<) soit holomorphe en z dans U s (a(<,<) = O et (a(.,<) #O
<
pour tout E u ~ G\ G e t z E G. Alors pour tout ( 0 E U a G \ G fixé, & est
holomorphe en z dans un voisinage de E. Puisque K CC G, E E dG et (a(<,<) =
O, on peut choisir (0 E Uac \ G assez proche de pour que

5
Puisque G = G,, il résulte du Théorème 7.1 qu’il existe une fonction h holo-
morphe dans R telle que Ih(z) - &I < f pour tout z E G. Grâce à (7.2),
la condition (7.1) est alors satisfaite. O
172 VU. Problème de Levi

Corollaire 7.3. Un ouvert de Cn est un domaine d'holomorphie si et seulement s'il est


pseudoconvexe.

Démonstration. On a vu au chapitre Vi, Corollaire 3.7 que tout domaine d'holo-


morphie est pseudoconvexe. La réciproque est une conséquence immédiate du
Théorème 7.2, de la définition des ouverts pseudoconvexes (cf.chap. Vi, déf. 3.5) et
du Théorème de Cartan-Thullen (cf. chap. Vi, th. 1.13). O

Théorème 7.4. Soient D C Cn un ouvert pseudoconvexe, p et y des entiers tels que


0 5 p 5 n et 1 5 y 5 n et k E U {+CO}. Alors pour toute (p,y)-forme
différentielle f de classel'" dans D telle que8 f = O dans D , il existe une solution u
delëquation8u = f surD tellequeu E Ci:U,(D) pourtoutcu ~ ] 0 , 1 [ .

Démonstration. D'après le Corollaire 3.13 du chapitre Vi, il existe une fonction stric-
tement plurisousharmonique p de classe C" dans D telle que
i) D , = { z E D I p ( z ) < a } CC D p o u r t o u t a E R,
ii) l'ensemble Crit(p) = { z E D I d p ( z ) = O} est discret dans D .
Grâce à la propriété ii), on peut trouver une suite ( a u ) , , Ede~ réels tendant vers
l'infini telle que d p ( z ) # O si z E BD,,, D,, est un domaine strictement pseudo-
convexe à bord C" et u
V€N
Da,. Grâce au Théorème 6.10, pour tout v E N,il existe

des formes différentielles u , E ( D a , ) ,O < a < 1,telles que au,, = f dans


D a , . Nous obtiendrons une solution u de au = f sur D à l'aide des formes u,.
Supposons dans un premier temps que q 3 2 . Nous allons construire une suite
(vv),,>3 de formes différentielles solutions de 8v, = f sur Da, et telles que v, E
k+a-(D,,), O < a < 1, et v, = v,+l dans Da,-Î et u = lim v, sera la
CP/-l ,+CC
solution cherchée. Posons 03 = u3 et supposons construites v3, . . . ,ve pour C 2 3.
Alors ve-ue+l est &fermée dans Da, et le Théorème 6.10 nous donne une solution
'p E Cp,:?l(Da,_,), O < a < 1,d e & = we - ue+1 dans Da,-, . Choisissons une
fonction x de classe C" à support compact dans Da,-, et constante égale à 1 sur
Da,-, et posons ve+1 = u t t l + d(x'p). La forme différentielle ve+1 satisfait les
conditions demandées.
Considérons maintenant le cas y = 1. Nous allons construire une suite ( v , ) , L ~
de solutions de du,, = f dans D a , telles que vu E C ~ , ~ " ( D aet, ) lvv(z) -
v,+l(z)I < 2 - , pour z E Da,-l. Une telle suite converge uniformément sur
tout compact de D vers une (p,O)-forme u qui a les propriétés requises car les dif-
férences u - vu sont holomorphes sur Du. Posons v2 = u2 et supposons v2,. . . ,ve
construites pour 2 2. Alors la différence ve - u(+1 est holomorphe dans D,, et
grâce auThéorème 7.1 il existe v E cP,o(D),8-fermée telle que Ive(z) - uc+1 ( z ) -
.(.)I < 2-e pour z E Da,-, . I1 suffit alors de poser ve+1 = ue+1 - v. 17

Corollaire 7.5. Soit D un ouvert pseudoconvexede C" ,alors HP,q(D ) = O pour tout
(p,y) telque0 < p < n et1 5 y 5 n.
7. Problème de Levi dans cn 173

Théorème 7.6. Un ouvert D de enest un domaine d'holomorphie si et seulement si


H ' > ~ ( D=) O pour i 5 q 5 n - 1.

Démonstration. La condition nécessaire est une conséquence des Corollaires 7.3 et


7.5.
Nous allons prouver la condition suffisante par récurrence sur la dimension
complexe n. Si n = 1, l'hypothèse est vide, mais le théorème est vrai car tout
ouvert de C est un domaine d'holomorphie. Supposons que le théorème est vrai
pour les ouverts de Cn-',n 2 2 et considérons un ouvert D de C" pour lequel
H o ) q ( D )= O si 1 5 q 5 n - 1.
Montrons pour commencer que si L est une sous-variété linéaire affine de Cn
de dimension complexe n - 1, toute composante connexe de D n L considé-
rée comme un ouvert de L 2 CnP1 est un domaine dholomorphie. D'après
n L ) = O pour 1 5 q 5
l'hypothèse de récurrence, il suffit de prouver que Ho > q ( D
n - 2. Sans perte de généralité, on peut supposer que L = { z E @" I z, = O}. Soit
-
cp une (0,q)-formedifférentielle de classe c", d-fermée sur D n L , 1 5 q 5 n - 2,
alors cp s'étend
-
à un voisinage U de D n L dans D en une forme différentielle de
classe C", d-fermée, de type (0,q) (il suffit de considérer cp comme une forme ne
dépendant pas de zn). Soit x une fonction de classe C" dans D , égale à 1 sur un
voisinage de D n L dans D et à support dans U . On pose

-
+
On définit ainsi une (0,q 1)-forme différentielle de classe C", d-fermée dans
D tout entier. Puisque par hypothèse Ho>q+l(D)=- O, il existe une (0,q)-forme
différentielle de classe C" dans D telle que da = a. On a alors

sur D et comme Hotq(D) = O, il existe une (0,q - 1)-forme différentielle Q de


classe C" dans D telle que x@- zn% = 8s.En restreignant cette identité à L et
en posant 6' = QIL, on a obtenu une (0,q - 1)-forme différentielle 6' sur D n L
telle que 88 = cp ce qui prouve que H0+7(Dn L ) = O.
Supposons maintenant que D n'est pas un domaine d'holomorphie, il existe
alors deux ouverts D1 et 0 2 tels que 0 # D1 c D2 n D , 0 2 non contenu dans D
et pour toute fonction holomorphe dans D , il existe une fonction g2 E O ( & )
telle que g = g2 sur D1. Soient E Dl et L une sous-variété linéaire affine
de @" de dimension complexe n - 1 passant par et telle qu'il existe un point
( E a ( D n L ) n f 1 2 . Puisque toutes les composantes connexes de D n L sont
des domaines dholomorphie dans L 2 enpi ainsi que nous venons de le prou-
ver, il existe une fonction f holomorphe dans D n L qui ne peut être étendue
en une fonction holomorphe au voisinage de (. Comme H 0 ) l ( D ) = O, il ré-
sulte du Lemme 6.4 que f est la restriction à D n L d u n e fonction g holomorphe
174 VIL Problème de Levi

sur D (le Lemme 6.4 est donné sous l'hypothèse d u n ouvert 0 strictement pseu-
doconvexe, mais on remarque que la démonstration utilise seulement le fait que
Ho>'(R)= O). Mais cette fonction g s'étend en une fonction holomorphe au voisi-
nage de ce qui contredit l'hypothèse faite surf. Par conséquent D est un domaine
dholomorphie. O
Terminons ce paragraphe en regroupant dans un seul énoncé les résultats du
Corollaire 7.3, du Théorème 7.6 et du Théorème 1.13 du chapitre VI.

Corollaire 7.7. Soit D un ouvert de @" . Les conditions suivantes sont équivalentes :
i) D est un domaine d'holomorphie.
ii) D est holomorphiquement convexe.
iii) D est pseudoconvexe.
iv) Ho>'J(D) = O s i l 5 q 5 n - 1.

8. PROBLCME DE LEVI DANS LES VARIÉTÉS ANALnIQUES COMPLEXES

L'objet de ce paragraphe est de relier dans une variété analytique complexe la


notion de convexité holomorphe et l'existence d u n e fonction dexhaustion pluri-
sousharmonique de classe C2.

a
A. Résolution du dans les variétés analytiques complexes
Dans tout le paragraphe X désignera une variété analytique complexe de di-
mension n.

Définition 8.1. Un ouvert D relativement compact dans X est dit strictement pseu-
doconvexe s'il existe une fonction p strictement plurisousharmonique de classe C2
définie dans un voisinage D { z E U ~ ID
du bord de D et telle que D n U ~ =
p ( z ) < O} e t d p ( z ) # Opourtoutz E dD.

Remarque : La notion de fonction plurisousharmonique et strictement plurisou-


sharmonique a bien un sens dans une variété analytique complexe car elle est in-
variante par changement de coordonnées holomorphes.
La définition d u n ouvert strictement pseudoconvexe donnée ici coïncide avec
celle du chapitre Vi lorsque X = C". On peut également remarquer qu'un tel
domaine est à bord C2.

-
Contrairement à ce qui se passe dans C" , on ne peut pas toujours résoudre le
d dans un ouvert strictement pseudoconvexe d u n e variété analytique complexe
quelconque. Néanmoins la Proposition 3.1 ainsi que sa démonstration restent en-
core valables dans ce cadre plus général.
8. Problème de Levi dans les variétés analytiques complexes 175

Théorème 8.2. Soient D un ouvert strictement pseudoconuexe à bord C2 relative-


ment compact dans X , p etq des entiers tels que O 5 p 5 n, O 5 q 5 n. Alors
i) il existe des opérateurs linéaires continus T: de Cp,,(o)
dans Ai(:- (D)
telsque,sif E C:,,(D) vérifiedf E c;,,(D), o n a

où KQest un opérateur compactdeC;,q(D) dans lui-même,


ii) si q 2 1, dT,P définit un opérateur linéaire continu de Z,”,,(D)dans lui-
même dont l’image est de codimension finie,
iii) Ej(:(D) est un sous-espace vectoriel fermé de codimension finie de
zp,q (D).
Nous allons prouver maintenant que, si un ouvert D de X admet une fonction
définissante strictement plurisousharmonique de classe C2 définie au voisinage de
-
D et pas seulement sur un voisinage de d D , alors on peut résoudre le dans D.a
Notons qu’un domaine strictement pseudoconvexe de cc“ possède cette propriété
(cf chapitre Vi, Théorème 3.19), mais ce n’est pas le cas d’un domaine strictement
pseudoconvexe d u n e variété analytique complexe quelconque.

Définition 8.3. Unefonction continue sur X à valeurs réelles est dite d’exhaustion si
pour touta E R,l’ensemble{z E X I p ( z ) < O } est relatiuementcompactdansX.
Nous nous intéressons aux variétés analytiques complexes qui possèdent une
fonction dexhaustion strictement plurisousharmonique de classe C2.

Proposition8.4. Si X admet unefonction d’exhaustion strictement plurisousharmo-


nique de classec’, alors elle possède unefonction d’exhaustion strictement plurisou-
sharmonique de classe C2 dont l’ensemble des points critiques est discret.
Cette proposition est une conséquence immédiate du Lemme de Morse sui-
vant :

Lemme 8.5. Soient x une variété analytique complexe et p une fonction stricte-
ment plurisousharmonique de classe C2 dans X . Si K est un compact de X tel que
d p ( z ) # O pour tout z E K , alors pour tout E > O, il existe une fonction pE stricte-
ment plurisousharmonique de classeC2 dans X telle que
i) p - p, ainsi que ses dérivées premières et secondes sont majorées par€ sur
X,
ii) l’ensembleCrit (p,) = { z E X I dp, (2) = O } est discret dans X ,
iii) pE = p s u r K .

Démonstration. Soit UK un voisinage de K tel que dp # O dans U K . I1 existe alors


deux suites d’ouverts (Uj)jEw. et (Vj)jEw. relativement compacts dans X tels que
dX\UKC u uj,
oc>

j=l
176 VU. Problème de Levi

b) pour t o u t j , V, est un domaine de carte et Uj CC Vj,


c) V, n K = 0 pour tout j,
d) pour tout compact L de X il n'existe qu'un nombre fini d'indices j tels que
LnV,#0.
Grâce aux Lemmes 2.24 et 3.12 du chapitre VI, on peut construire une suite ( x j ) j E ~
de fonctions de classe C" dans X telles que pour tout j on ait
1) xj = O dans un voisinage de X \ V, et par conséquent xj = O sur K ,
2) la fonction p + + + . . . x j est strictement plurisousharmonique dans X
et n'a qu'un nombre fini de points critiques sur K ü Ü1 ü . . . ü Ü j ,
3) la fonction x j ainsi que ses dérivées premières et secondes sont majorées par
j X.
~ / 2 sur
03

Alors pE = p + xj convient. O
j=l

Dans les variétés analytiques complexes nous devons remplacer la notion


d'extension strictement pseudoconvexe élémentaire par celle un peu plus géné-
rale d'élément d'extension strictement pseudoconvexe pour pouvoir traverser les
points critiques.

Définition 8.6. On appelle élément d'extension strictement pseudoconvexe u n


couple ordonné [O1,821 d'ouverts de X à bord de classe C2 tel que 81 c 8 2 satisfai-
sant la condition suivante: il existe un ouvert pseudoconvexeV contenu dans un do-
maine de carte de X contenant 8 2 \ 81 et des domaines Dl et 0 2 strictement pseudo-
~-
convexestelsqueD1 c D 2 , 0 2= û 1 U D 2 , B i n D 2 = D1,(ûl \ D 2 ) n ( & \Ol) = 0
et une application biholomorphe définie sur un voisinage de 7à valeurs dans Cn
telle que h ( D j ) ,j = 1,2, soit un domaine borné strictement pseudoconvexe à bord
C2 de C" .
Le Lemme 4.2 reste valable pour cette notion si on remplace dans sa démons-
tration le Théorème 1.6 par le Théorème 5.3, le Théorème 2.2 par le Théorème 7.1
et la Proposition 3.1 par la Proposition 8.2. Nous allons étendre le Lemme 4.3 au cas
où la fonction p possède des points critiques isolés.

Lemme 8.7. Soit p : X + IR une fonction strictement plurisousharmonique de


classe C2 telle que Crit(p) soit discret. On pose D, = { z E X I p ( z ) < a } pour
a E IR et on suppose que dDo est compact. Il existe E > O tel que pour tout a,,û
vérifiant - E 5 a < O < p 5 E il existe u n nombre fini de domaines 81, . . . ,ON
telsque D, = 81 c . . . c ON c Dp e t p o u r j = 1 , . , , , N - 1, [Oj,Oj+l] soit un
élément d'extension strictement pseudoconvexe.

Démonstration. Puisque Crit p est discret il existe EO > O tel que Crit(p) (DEO \
) fini et contenu dans dDo. Notons < I , . . . ,<M les points critiques de p
D v E 0 soit
contenus dans DO et choisissons Vi,. . . ,VM des ouverts de X deux à deux dis-
joints tels que ,$ € % et Vj soit contenu dans un domaine de carte de X pour tout
j = 1,. . . ,M. Comme dDo est compact il existe des ouverts V M + .~. .,,V, conte-
8. Problème de Levi dans les variétés analytiques complexes 177

N
nus chacun dans un domaine de carte de X tels que Crit(p) f?( U 5 )= 0 et
j=M+1
N N
dDo \ Crit(p) C U V,. SoitE1 telque0 < ~1 < &oetDE1\ D-E, C U Vj.
j=M+1 j=l
~ classe C"
Choisissons des fonctions ( x j ) . j = l , , . . ,de à support compact dans Cn
N -
telles que supp x j C V,, j = 1,. . . ,N et x j = 1 sur D E ,\ DPEl.
Soit E tel que
=1
O<E<E1.Pouraetbfixésteisque-E-<a<O <p<E,onpose
k
Ok = (2 E I p ( z ) - a < (P - C Y ) C X j ( Z ) }
j=l

alors D, = 01 C . . . C ON C Do. Notons ( z l , , . . . ,zn,) des coordonnées ho-


N
lomorphes sur V, et posons C =
J=1
sup
Z€V, I . La fonction p étant

> O tel que pour tout <


J 1 J
strictement plurisousharmonique, il existe y E Cn et

. .
N
36 ( d x j ( z ) Ipour z E \ D-E1,alors si E < min(ii,&,) pour tout j
DE1 =
j=l
I , . . . ,N - 1,[ O j , O j + l ] est un élément d'extension strictement pseudoconvexe. O

Remarque :Si dDo nCrit ( p ) = 0 on peut autoriser CY = O ou ,O = O dans le Lemme


8.7.
Comme dans le cas de Cn, on peut définir la notion d'extension strictement
pseudoconvexe dans les variétés analytiques complexes.

Définition 8.8. Soient D CC 0 CC X des ouverts de X . On dira que est une


extension strictement pseudoconvexe de D s'il existe un voisinage U de (;2 \ D et
une fonction p strictement plurisousharmonique de ciasseC2 sur U telle que

D fl U = { z E U I p ( z ) < O} et d p ( z ) # O si z E a D
R n U = { z E U I p ( z ) < 1) et d p ( z ) # O si z E d o .

Remarque :Grâce au Lemme 8.5 la fonction p peut être choisie telie que Crit(p)
soit discret. En utilisant le Lemme 8.7 à la place du Lemme 4.3, la démonstration
de la Proposition 4.5 s'étend aux extensions strictement pseudoconvexes dans les
variétés andytiques complexes. On obtient donc :

Proposition 8.9. Soient D e t a des ouverts de X , D CC R CC X tels que soit une


extension strictement pseudoconvexe de D. Alors
178 VII. Problème de Levi

i) l’application restriction

est un isomorphisme,
ii) pour tout (p,q),O Ip 5 n,O 5 y 5 n, l’application restriction
Zp,q(2)-+Zp,q(D)estd’imagedense.
De même le Lemme 4.7 est encore vrai sous la forme suivante :

Proposition 8.10. Soient D et R deux ouverts de X tels que D cc 0. On suppose


qu’il existe un voisinage U de R\D et unefonction strictement plurisousharmonique
p de classec’ telle que D n U = { z E U I p ( z ) < O},dp(z) # O siz E i)D,
D U { z E U I p(z) I C } CC 0, pour toutC > O. Alors l’application restriction
H p i q ( R )-+ HP,‘
0,1,2 (D)

est injective pour tout ( p , q ) tel que O 5 p 5 n , l 5 q 5 n.


Nous pouvons maintenant prouver le résultat principal de ce paragraphe.

Théorème 8.11. Soient X une variété analytique complexe possédant une fonction
d’exhaustion p strictement plurisousharmonique de classe C 2 et D un ouvert de X
délfiniparD = { z E X I p ( z ) < (Y}telquedp(z) # Osiz E i)D.
i) Pourtoutcouple(p,q),O5 p I n,i I q 5n
HP>q
O , 1 / 2 ( 0 ) = 0.
Plus précisément il existe un opérateur linéaire continu T de l’espace de Banach
Z i , q( D )duns l’espacede Banach hP!t-l ( D ) tel que
-
dTf = f sur D pour toute f E Z;,,(D).
ii) Toute (p,O)-forme différentielle continue sur D et holomorphe dans D
peut être approchée uniformément s u r ) par des (p,O)-formes holomorphes sur X .
iii) Pour toutcouple (p,q),O 5 p 5 n,l 5 q 5 n
) o.
H P > * ( X=

Démonstration. Grâce au Lemme 8.5 appliqué avec K = û D , on peut supposer


que Crit(p) est discret. Notons (YO = minp(z). Si z E X vérifie p ( z ) = (YO, alors
ZEX
2 E Crit(p). Cet ensemble étant discret, il n’existe qu’un nombre fini de tels points
I
z dans X . Par conséquent, pour E > O assezpetit Dao+E= ( z E X p ( z ) < (YO +
E } est biholomorphe à une réunion finie de domaines strictement pseudoconvexes
bornés à bord C 2 de CCZ et donc d‘après le Corollaire 5.2, si O 5 p < n et 1 5 q 5 n
HP>q -
(8.2) 0,1/2(Dao+4 = 0.
Mais D est une extension strictement pseudoconvexe de Dao+E,la Proposition 8.9
implique donc que, si O 5 p 5 n et 1 5 q 5 n,
H:,’i/2(D) = O.
8. Problème de Levi dans les variétés analytiques complexes 179

L‘existence de l’opérateur T est alors une conséquence du Théorème 8.2 et de


la proposition 5 de l’annexe C. Nous avons ainsi prouvé il. Puisque le couple
( D a o + E , Xvérifie
) les hypothèses de la Proposition 8.10, l’assertion iii) résulte de
(8.2).
Prouvons iil pour terminer. Puisque Crit p est discret, on peut construire une
suite (pj)jew de réels tels que PO = <Y < /31 < P 2 < . . . tendant vers l’infini
telle que, si Do, = ( 2 E X I p ( z ) < /3j},dp(z) # O si t E dDoj. Pour
tout J’ E N, Dp,,, est alors une extension strictement pseudoconvexe de Do,.
Grâce a l’assertion ijl de la Proposition 8.9, pour tout E > O, si f E Z ~ , o ( ~ ) ,
on peut construire une suite (fJ)jEfüde formes différentielles telles que fj E
z,O,o(Dp,),fo= f et Ifj+i - fj(O,Da, < +ï. La suite ( f j ) j e w converge uni-
f
formément sur tout compact vers une (p,O)-forme holomorphe sur X telle que
If- fl0,D < E. O

B. Problème de Levi
Dans tout le paragraphe X désignera une variété analytique complexe de di-
mension n.

Définition 8.12. Pour tout compact K d e X , on définit

ii-x = ( 2 E x I If(z)l I: SUP If(<)l,VfE Q ( X ) } .


CEK

L‘ensemble k x est appelé l’enveloppe holomorphiquement convexe de K dans X .


Si K = K x , alors K est dit O(X ) -convexe.

Définition 8.13. Une variété analytgue complexe X est holomorphiquement con-


vexe si pour tout compact K de X , K x est compact.

Définition 8.14. Une variété analytique complexe X de dimension n est une variété
de Stein si
i) X est holomorphiquement convexe,
ii) pour tout point z E X , il existe n fonctions f i , . . . ,f n E Q ( X ) qui
forment un système de coordonnées locales au voisinage de X (c’est-à-direil existe
<
un voisinage U de z tel que l’application F : H (f1 (<) , . . . ,fn (<)) soit biholo-
morphe de U sur l’ouvert F ( U )de Pl.

Exemple :D’après le Théorème 1.13du chapitre VI tout domaine dholomorphie de


en est une variété de Stein.

Définition 8.15. Un sous-ensemble V d’une variété analytique complexe X de di-


mension n est une sous-variété analytique de dimension m < n si
i) V est fermé,
180 VU. Problème de Levi

ii) pour tout z E V il existe un voisinage w de z et des coordonnées locales


(z1, . . . ,z,) d e X tellesque
w nV = {< E w I ~ m + i ( <=) . . . = zn(<) = O}.
Remarquons que si ( f i , . . . ,f,) est un système de coordonnées locales de X
au voisinage de z E V , il existe m de ces fonctions qui forment un système de
coordonnées locales de V au voisinage de z .
On en déduit aisément le résultat suivant :

Proposition 8.16. Toute sous-variété analytique complexe d'une variété de Stein est
une variété de Stein. En particulier toute sous-variété analytique complexe de Cn est
une variété de Stein.

Remarque :On peut prouver, mais nous ne le ferons pas dans ce volume, que toute
variété de Stein est biholomorphiquement équivalente à une sous-variété analy-
tique complexe d u n certain <CN ( c f [Ho],3 5.3 par exemple).

Théorème 8.17. Soit X une variété de Stein, K un compact de X et U un voisinage


h

de K x . Alors il existe une fonction cp strictement plurisousharmonique de classe C"


dans X telle que
i) cp < O surK etcp > O s u r X \ U ,
ii) { z E X I cp(z) < c } CC X pourtoutc E R.

Démonstration. Puisque i? est O(X)-convexe et X holomorphiquement convexe,


on peut trouver une suite (Kj)jEw. de compacts O(X)-convexes tels que K1 =
cc
Kj+, et x = u K Kj,,
h

K , ~j c ~Posons
. u1 = u et vj = pourj 2 2. Pour
j=l
chaquej,choisissonsdesfonctionsfjkE O ( X ) , k = I , . . . k.teilesqueIfjkl < 1
' 3,.
sur K j et max I f j k ( z )I > 1,si z E Kj+2 \ U (il en existe car K j = K j ) .De plus,
l<k<k,
grâce à la condition ii) de la Définition 8.14, on peut, quitte à ajouter des fonctions,
supposer que le rang de la matrice

est égal à n pour tout z E Kj. En prenant des puissances des f j k on peut même
s'arranger pour que
k,
(8.3) 1 fjk(z)I2 < 2+, si z E K~
k=l

si E Kj+2 \ Uj.
k=l
8. Problème de Levi dans les variétés analytiques complexes 181

Grâce à (8.3),la série f j k ( z )f j k ( Ç ) converge uniformément sur tout com-


j,k
pact de X x X et définit une fonction qui est holomorphe en z et antiholomorphe
k.l
en <, par conséquent la fonction cp(z) = -1 + ( k=l I fjk(t)12) est de classe
i=l
Cm dans X . I1 est clair que cp(z) > j - 1,si z E X \ U j ,d'après (8.4), donc cp > O
sur X \ U et cp < O sur k donc sur K d'après (8.3). De plus iil est vérifiée grâce
à (8.4). Par ailleurs cp est plurisousharmonique car c'est la borne supérieure d'une
famille de fonctions plurisousharmoniques. Il reste à prouver que cp est strictement
<
plurisousharmonique. Soit E X fixé et (21, . . . ,zn) des coordonnées locales ho-
lomorphes au voisinage de <. Supposons que pour tout E Qin <

alors pour tout j

ce qui implique 5 = O car la matrice (2 (2)) k = l ,


[=I, .n
estderangnsit E K3.0

Pour prouver la réciproque du Théorème 8.17 nous aurons besoin du lemme


suivant :

Lemme 8.18. Soit X une variété analytique complexe possédant une fonction
dexhaustion p strictement plurisousharmonique de classe C2.
il Soit[ E X , a = p([) e t D , = {t E X I p ( t ) < a } . Supposons
que d p ( z ) # O pour tout z E dD,. Alors il existe une suite (f k ) k E N J . de fonctions
holomorphes dans X et une constante C telles que
a) fk(<) = 1 pourtoutk E N',
b) If k l o , D , L C pour toutk E N',
c)pourtoutcompactK c Da \ {I}, lim If k l o , K = O.
k+m
ii) Pour tout< E X et toute fonction f holomorphe dans un voisinagede[, il
existe unesuite (f k ) k E N defonctions holomorphesdansX tellesque lini d fk([) =
k+m
af ( E ) .
Démonstration
i) Soit X = (XI, . . . ,An) des coordonnées holomorphes dans un voisinage
Vc de t .Posons
182 VII. Problème de Levi

Alors IL est holomorphe dans Vc,u(<) = O et, d'après le Lemme 2.22 du chapitre
VI,
Re+) = P(Z) - P(<)

Puisque p est strictement plurisousharmonique, après avoir restreint Vc, on peut


trouver p > O tel que
(8.5) Reu(z) < p ( z ) - p(C) - ,8lA(z) - X(<)I2 pourtout z E V,.
Alors e"(<) = 1 et le"(")l < 1 si z E Dan Vc \ { E } . Choisissons un voisinage
<
We CC Vc de et une fonction x de classe C" sur X telle que x = 1 sur We
et suppx CC y.
Alors (ek"&),,,. est une suite de (0,l)-formes différentielles
C", à-fermées dans X telles que

Puisque dp( z ) # O si z E dD,, on peut appliquer le Théorème 8.11 i) et on obtient


une suite ( V k ) k N * de fonctions continues sur D, teiies que a u k = e'"& sur D, et
lim 12/klo,D, = O. Enposantfi, = Xeku-vk+uk(~),onobtientdesfonctionsJk
k+cc
holomorphes dans D, telles que j k ( < ) = 1pour tout k E W , sup&,* IfklO,l), <
+m et pour tout compact K c D, \ {<I, lim I f k l O , K = O. On construit aiors les
k+m
fonctions f k E O(x) cherchées en utilisant le Théorème d'approximation 8.11 ii).
ii) Supposons que f (I =) O. Posons = p ( < ) et considérons Vc,Wc,uet
(Y

x comme dans la démonstration de i). Quitte à restreindre V,, on peut supposer


que f est holomorphe sur h.
-En posant p k = f e'"&, k = 1,2, . . . on définit
x
une suite de (O, 1)-forme c" , 6'-fermées dans telles que supp p k CC \vc we.
I1 résulte de (8.5) qu'il existe 6 > 0 tel que iimk+, I p k l O , p , + a = o. D'après
le Lemme 8.5, on peut supposer que Crit(p) est discret dans X et donc choisir
O < E < S assez petit pour que d p ( z ) # O si z E dD,+,. On peut alors appli-
quer ie Théorème 8.11 i) et trouver des fonctions u k continues sur Da+€teiies que
-
6'Vk = p k sur Da+€ et lim I?JklO,p,+, = O. Comme = O sur We,les fonctions
k+m
uk sont holomorphes dans et grâce aux inégalités de Cauchy lim 6'vk (<) = o.
k+w
Les fonctions j k , définies par i k = x f e k u - v k , sont continues sur Da+€,holo-
morphes sur Da+Eet vérifient 6'fk (<) = 6' f (<) - 6 ' u k ( C ) . En utilisant le Théorème
8.11 ii), on peut trouver des fonctions f k E O ( X )telles que I f k - .fk lo,D,+, < l / l ~
et par conséquent iim lûf,(<) - 6 ' j k ( < ) I = O, grâce aux inégalités de Cauchy. Les
k+ca
fonctions fk ainsi construites conviennent. O

Théorème 8.19. Une variété analytique complexe X est de Stein si et seulement si X


admet une fonction dexhaustion p strictement plurisousharmonique de classe C2.
Pour tout a E R,les ensembles { z E X I p ( z ) 5 (Y}sont alors O(X) -convexes.
8. Problème de Levi dans les variétés analytiques complexes 183

Démonstration. La condition nécessaire est donnée par le Théorème 8.17.


Supposons que X possède une fonction d’exhaustion p strictement plurisou-
sharmonique de classe C2. La condition iil de la Définition 8.14 est une consé-
quence immédiate du Lemme 8.18 ii) car pour toute famille finie de fonctions ho-
lomorphes au voisinage d’un point ( de X, on peut trouver des fonctions holo-
morphes dans X dont le jacobien en 6 est arbitrairement proche du jacobien en (
de la famille initiale.
Posons D , = {z E X I p ( z ) < (Y},(YE R I1 suffit de prouver que, pour
tout (Y E W,les ensembles D,sont O(X)-convexes. Soit ( E X \ D,.D’après le
Lemme 8.5, il existe une fonction d’exhaustion cp strictement plurisousharmonique
de classe C2 dans X telle que Crit ( c p ) soit discret et suffisamment proche de p pour
que D, CC O,(<), pour OB = {z E X I cp(z) < p } , s i p E W. Quitte à ajouter
une petite constante à cp, on peut supposer de plus que dcp(z) # O si z E XI,(<).
En appliquant le Lemme 8.18 i) à a,(<) on peut alors trouver une fonction f E
O(X) teiie que f(6) = i et If1< i sur D,. O

Corollaire8.20. SoientX une variété de Stein, 2 et< deux points distincts de X . Alors
ilexisteunefonctionf E O(X) t e l l e q u e f ( z ) # f([).

Démonstration. D’après le Théorème 8.19, X possède une fonction dexhaustion p


strictement plurisousharmonique de classe C2. Le Lemme 8.5 implique qu’il existe
une fonction d’exhaustion cp strictement plurisousharmonique de classe C2 dans
X telle que Crit(cp) soit discret. Sans perte de généralité on peut supposer que
p ( z ) 5 c p ( ( ) . Posons D,(<) = {< E X I p(<) < y(()}. Quitte à ajouterune
<
petite constante à cp, on peut supposer de plus que dcp(<) # O si E dR,(<). En
appliquant le Lemme 8.18 il à et K = {z}, on peut trouver une fonction
f E O(X)telle que f(() = 1et donc If(z)l < 1 et f ( z ) # f((). o
Corollaire8.21. Si X est une variété de Stein de dimension n, alors

Démonstration. C’est une conséquence immédiate du Théorème 8.11 iii) et du


Théorème 8.19. O

Remarque :Contrairement au cas des ouverts de @” (cf Corollaire 7.7) l’annulation


des groupes de cohomologie Ho>Q(X), 1 5 q 5 n - 1,ne caractérise pas les varié-
tés de Stein parmi les variétés analytiques complexes ; ces groupes sont également
tous nuls lorsque X est un espace projectif, par exemple. I1 existe néanmoins une
caractérisation cohomologique des variétés de Stein (cf [Gu],vol III).

Proposition 8.22. SoitX une variété de Stein. Tout ouvertstrictementpseudoconvexe


D cc X est une variété de Stein.
184 VU. Problème de Levi

Démonstration. Puisque D est strictement pseudoconvexe il existe un voisinage


U ~ du D bord de D et une fonction p strictement plurisousharmonique de classe C2
D que D n U ~ =
sur U ~ tels D { z E UaD I p ( z ) < O}. Grâce au Théorème 8.19, X
possède une fonction dexhaustion p l strictement plurisousharmonique de classe
C2. Fixons& > Oassezpetitpourque { z E U ~ D 1 -E < p ( z ) < O} CC U ~ D
et choisissons une fonction x de classe C" sur [-m,O[ telle que ~ ( t =) O pour
t < - E , ~ ( t+) +m si t + 0 et x soit strictement convexe sur ] - &,O[. Alors
daprès la Proposition 2.8 du chapitre VI, x o p est strictement plurisousharmonique
sur { z E UaD I - E < p ( z ) < O} et p l +
x O p est une fonction dexhaustion
strictement plurisousharmonique de classe C2 pour D.Le Théorème 8.19 implique
alors que D est de Stein. O

C. Théorème d'annulation pour la cohomologie à support compact. Applications


I1 résulte des paragraphes 8.1 et 8.2 que si X est une variété de Stein de dimen-
sion n, pour tout couple (p,q),O 5 p 5 n , l 5 q 5 n
H " ' 4 ( X ) = o.
Nous allons nous intéresser ici à l'annulation des groupes de cohomologie à sup-
port compact H,Piq(X)sur une variété analytique complexe X .

Proposition 8.23. Soient X une variété analytique complexe de dimension n, p etq


des entiers tels que O 5 p 5 n, 1 5 q 5 n. On suppose que
O
E:-p,n-q+i(X) = {u E c n - p , n - q + i ( X ) I = E c:-p,n-q(x)I
est fermé dans C~-,,,-,+,(X) pour la topologie de la convergence unqorme
sur tout compact de X . Si f E C:,,(X) est une forme différentielle continue
à support compact 3-fermée dans X , alors l'équation 3 g = f a une solution
g E C,",,-,(X) à support compact dans X si et seulement si sx
f A cp = O pour
toutecp E C F - p , n - q ( X )d-ferméedansx.
,

Démonstration. Commençons par la condition nécessaire. Supposons qu'il existe


g E Ci,,-,(X) à support compact telle que a g = f dans X . Alors si cp E
Cr-p,n-q( X )est une forme 8-fermée dans X

grâce au Théorème de Stokes car g est à support compact.


Prouvons maintenant la condition suffisante. Supposons que sx
f A cp = O
pour toute forme 8-fermée cp E Cr-p,n-q(X).Nous allons définir une forme li-
néaire sur EE-,,,-,+,(X) de la manière suivante : si u E En-p,n-q+l(X),
O on
choisit E CE-p,n-q(X)telie que a u = u et on pose

F(u)= L f Au.
8. Problème de Levi dans les variétés analytiques complexes 185

L'application F est bien définie. En effet, d'après l'isomorphisme de Dolbeault, si


w,w E C:-,,,-,(X)vérifientdw = aw = h, ilexistecp E CE,,,-,(X),d-fermée
-
e
teiie que w - w - cp = d e pour E C:-p,n-q-l (X). I1 résulte alors de la formule
de Stokes que
jxf
0

A (w - w - cp) =0

et grâce à l'hypothèse sx f Aw = sx
f A w.Comme l'espace EE-,,,-,+,(X)
est supposé fermé, le théorème de l'application ouverte implique qu'il existe une
application linéaire continue 6 de E:-p,n-q+l (X) dans CE-p,n-q(X) telle que
-
86 = I. L'application F vaut alors <p O 6 où
:
O
-+ c
cn-p,n-q(x)
est la forme linéaire continue w i-+ sx
f A W. Par conséquent F est une forme li-
néaire continue sur E:-p,n-q+l (X).En appliquant le Théorème de Hahn-Banach
-
on peut étendre F en une forme linéaire continue F surC:-p,n-q+l (X). La forme
-
F définit donc un courant à support compact qui vérifie
(-l)"+"-'dF(h) = F(dh) = F ( d h )=
L f A h = (Tf,h),

pour toute forme h E Vn,n-q(X) c'est-à-dire (-l)P+q-ldF = Tfoù Tfest le


courant défini par f . La régularité du d (cf. chap. V, Cor. 4.2) implique alors qu'il
existe g E Cp,q-l (X)à support compact telie que
(-i)P+q--'dg= f dans X. O

Théorème 8.24. SoitX une variété de Stein de dimension n, alors


H,Plq(X)=O si O s p i n et O < q s n - l .

Demonstration. I1 résulte du principe du prolongement analytique que


H,P>O(X) = ûpourtoutp,
O p 5 n, <
car une variété de Stein ne possède pas de composante connexe compacte.
Supposons que 1 5 q 5 n. Puisque X est Stein d'après l'isomorphisme de
Dolbeault
H,P'q(x)zz HP>"(X) = o.
Par conséquent Z:-p,n-q+l (X) = E:-,,,-,+,(X) est fermé dans l'espace
O
Cn-p,n-q+l (X) pour O 5 p 5 n et 1 5 q 5 n. Nous pouvons donc appliquer la
Proposition 8.23. Si f E Ci,q(X)est une forme différentielle d-fermée à support
compact dans X nous allons évaluer sx -
f A cp pour cp E CF-p,n-q(X),8-fermée.
Si 1 5 q 5 n - l,H"-P>"-Q(X)= O et donc cp = 39 pour Q E Cr-p,n-q-l(X).
On en déduit en appliquant le Théorème de Stokes que
186 VII. Problème de Levi

car f est à support compact. I1 existe donc g E C:,q-l ( X )à support compact telle
que àg = f et par l'isomorphisme de Dolbeault cela implique H,P>q(X)= O (cf
chap. VI, cor. 4.3). O

Ce théorème d'annulation nous permet de donner des conditions géométriques


suffisantes pour le phénomène de Hartogs-Bochner et l'extension des fonctions
CR en utilisant les résultats du chapitre V
On déduit alors des Corollaires 1.4 et 5.2 du chapitre Vle Théorème de Hartogs-
Bochner dans les variétés de Stein.

Théorème 8.25. Soit X une variété de Stein de dimension n,n 2 2. Alors le phéno-
mène de Hartogs se produit dans X . Plus précisément pour tout domaine D relative-
ment compact à bord de classec'",k >_ 1,dans X tel que X \ D soit connexe et toute
fonction CRf de classeCs, O 5 s 5 k, surdD, il existe une fonction F de classeCs
sur D, I
holomorphe dans D telle que F a D = f .

Théorème 8.26. Soient X un variété de Stein de dimension n,n 2 2, et K un com-


pact de X,O(X)-convexe. Alors pour tout domaine D relativement compact dans
X tel que
1) ûD \ K soit unesous-variétéde classeC',k 2 1, de X \ K ,
2)D\ K = I n t o \ K ) ,
3) X \ (EU K ) est connexe
et toutefonction C R f de classec', O 5 s 5 k,surdD \ K , il existe une fonction F
de classeCs s u r D \ K , holomorphedans D \ K telleque F / a D , K = f.

Démonstration. D'après le Théorème 5.1 du chapitre V, il suffit de prouver que


H $ l ( X \ K ) = O.
Si X est de Stein de dimension n 2 2 alors par le Théorème 8.24, H;>l( X ) = O.
Si K est O(X)-convexe, daprès le Théorème 8.17, K possède une suite décrois-
sante (Up),,, de voisinages de Stein telle que n Up = K . De plus pour n 2
PEN
3,H,0>2(Vp)= O et les hypothèses du Théorème 2.5 du chapitre V sont satisfaites,
par conséquent H : ~ ( x \ K ) = O.
Considérons maintenant le cas n = 2. Prouvons que l'hypothèse ii) du Théo-
rème 2.5 du chapitre Vest encore satisfaite pour les voisinages (Up),,, de K don-
nés par le Théorème 8.17. Ces voisinages sont de la forme { p p < c } où p p est
une fonction strictement plurisousharmonique dexhaustion de X . Donc, grâce au
Théorème 8.11 ii), toute (r,O)-forme holomorphe sur Up est limite uniforme sur
tout compact de Up de (r,O)-formes holomorphes sur X. Soit f E c c 2 ( U p )une
forme 8-fermée à support compact dans Up qui s'écrit f = 8 g où g E Ccl( X ) est
à support compact dans X . Par la formule de Stokes une telle forme vérifie
8. Problème de Levi dans les variétés analytiques complexes 187

pour toute (2,O)-forme holomorphe cp dans X . D’après la Proposition 8.23, pour


prouver que f = ago où go E U p )est à support compact dans U p ,il suffit de
vérifier d u n e part que E&(U,) est fermé, ce qui est le cas car Up est de Stein (et
donc H i > l ( U p=) O) et d‘autre part que

pour toute (2,O)-forme holomorphe $J sur U p . Mais par définition des U p ,$J =
lim (Pnr où les (Pn sont des (2,O)-formes holomorphes sur X et donc f A II, =
n-tm UP

Remarque :Pour n 2 3, nous n’avons pas utilisé pleinement l’hypothèse que K


est O(X)-convexe, nous avons seulement utilisé le fait que K possède une suite
w
décroissante (Up),,, de voisinages de Stein telle que K = n Up. Un compact
p=o
d’une variété analytique complexe qui possède cette propriété s’appelle un com-
pact de Stein. Cette notion sera utilisée au chapitre ViII. En particulier, il résulte de
la Proposition 8.22 que, si D est un domaine strictement pseudoconvexe, relative-
ment compact d u n e variété analytique complexe, D est un compact de Stein.

Commentaires. Le problème de Levi dans les domaines de Cn a été résolu par Oka
[Ok], en 1942, pour n = 2, puis, au début des années 50, pour n quelconque par
Oka [Okl,H. Bremermann [Brll et E Norguet [Nol. En 1958, H. Grauert [Grl a donné
la solution d u problème de Levi dans les variétés de Stein à l’aide de la théorie des
a
faisceaux cohérents. La première démonstration de la résolubilité du dans les do-
maines pseudoconvexes n’utilisant pas la solution du problème de Levi est due à L.
Hormander [HOU.Cette démonstration parue en 1965 s’appuie sur des estimations
L2 pour le problème a-Neumann. Les premiers opérateurs intégraux pour résoudre
lea dans les domaines strictementpseudoconvexes de C” ont été construits au début
des années 70 par H. Grauert et I. Lieb [GrfLi]et G.M. Henkin [He2].Leur construction
utilise une formule intégrale prouvée indépendamment par G.M. Henkin [Hel]et E.
Ramirez [Ram].
Les méthodes que nous avons utilisées dans les paragraphes 1 à 4 s’étendent à
a
l’étude du dans les domaines q-convexes au sens de Andreotti-Grauert. Le lecteur
intéressé pourra consulter [HelLe2]. La démonstration du Théorème 5.1 est due à
Laufer [La]. La résolution du problème de Levi par la méthode des représentations
intégrales est exposée dans [HelLell et [Ra]. Une alternative à cette méthode est la
théorie L2 de Hormander qui est développée dans [Ho2]. La caractérisation coho-
mologique des domaines d’holomorphie se trouve dans [Gu]. Le Théorème 8.26 est
prouvé dans [LIT21 en utilisant une généralisation du noyau de Bochner-Martinelli
aux variétés de Stein.
Chapitre VI11

Caractérisation des singularités


illusoires pour les fonctions C R sur
un bord strictement pseudoconvexe

Dans une première partie nous donnons différentes caractérisations des compacts K du
bord d'un domaine D strictement pseudoconvexe d'une variété de Stein de dimension n qui
ont la propriété suivante : toute fonction C R continue sur d D \ K s'étend holomorphique-
ment à D tout entier. Lorsque n = 2, nous obtenons une caractérisation géométrique et si
n 2 3, des caractérisations cohomologiques. Nous prouvons entre autres que la condition
cohomologique suffisante donnée dans le Théorème 5.1 du chapitre V devient nécessaire si
la variété ambiante est de Stein et si on se resrtreint aux domaines strictement pseudocon-
vexes. Nous terminons par une caractérisation géométrique des compacts K solutions du
problème précédent lorsque la fonction à étendre est orthogonale aux (n,n - 1)-formes
-
d-fermées dont le support ne rencontre pas K . Cette condition correspond, lorsque K est
vide, à celle du Théorème 3.2 du chapitre IV.

1. RÉDUCTION AU CAS DES FONCTIONS CONTINUES

Soient X une variété analytique complexe de dimension n, D un domaine re-


lativement compact de X et K un sous-ensemble compact de d D tel que d D \ K
soit une sous-variété de classe Ck,k >1, de X \ K . Le compact K est une sin-
gularité illusoire pour les fonctions C R de classe Cs,O < <
s k, sur d D si toute
fonction C R de classe C" définie sur d D \ K s'étend en une fonction holomorphe
dans D et de classe Ck dans D \ K .
Dans les chapitres précédents nous avons donné des conditions cohomolo-
giques (cf chap. V, th. 5.1 associé aux th. 2.5 et 2.6) et des conditions géométriques
(cf chap. ViI,th. 8.26) suffisantes pour qu'un compact K de d D soit une singularité
illusoire pour les fonctions C R de classe C" sur dD. Dans ce chapitre nous alions
190 VIII. Caractérisation des singularités illusoires pour les fonctionsC R

nous intéresser au cas particulier où D est un domaine strictement pseudoconvexe


à bord Ck,k 2 2 et donner dans ce cas différentes caractérisations des singularités
illusoires pour les fonctions CR.
Remarquons tout d‘abord que si D est un domaine strictement pseudoconvexe
à bord Ck,k 2 2, de X et K un compact de d D , il existe un ouvert R de D tel que
( d D \ K ) U R soit un voisinage de all \ K dans D \ K et toute fonction C R de
classe C ” , O 5 s 5 k, sur d D \ K s’étend en une fonction holomorphe sur R et de
classe C” sur ( d D \ K ) ü R. C’est une conséquence immédiate de la proposition
suivante :

Proposition 1.1. SoitD un domainestrictementpseudoconvexeà bordek, k 2 2 , de


X e t x un point de dD. Il existe un voisinage V, de x dans X tel que toute fonction
C R de classeCs sur V, n d D s’étende en unefonction holomorphe sur V, n D et de
classe C” sur V, n D.

Démonstration. D’après le Théorème 3.23 du chapitre Vi, il existe un voisinage U,


de x et des coordonnées holomorphes sur ce voisinage relativement auxquelles
d D est convexe. Supposons ces coordonnées choisies telles que x = O et que
l’hyperplan tangent en z à d D ait pour équation Re z, = O. I1 existe alors E # O
assez petit pour que z E { z E U, I Rez, > E } n D c U,. Posons rx =
d D n { z E U, I Re z, > E } . Grâce à l’étude faite dans le paragraphe 6 du chapitre
IV, toute fonction C R de classe Cs sur rx s’étend en une fonction holomorphe sur
D n { z E U, I Rez, > ~ } e t d e c l a s s e C ~ s u r D n {Ez U, I Rez, > E } . Par
conséquent V, = { z E U, I Re z, > E } convient. O
Grâce à cette remarque, nous voyons que pour l’étude des singularités illusoires
pour les fonctions C R sur un bord strictement pseudoconvexe on peut se limiter
au cas des fonctions C R continues.

2. CAS DE LA DIMENSION 2

Soient X une variété analytique complexe et D un domaine relativement com-


pact de X. On note O ( D )l’espace vectoriel des fonctions holomorphes définies
sur un voisinage de D.

Définition2.1. Un sous-ensembleE d e n estO(D)-convexe sietseulementsi


h

- - -{ z
E = E O(D) E I If(z)l L SUP If(z)l,f E O ( D ) ) .
zEE

Remarque :Si D est strictement pseudoconvexe la condition pour un sous-ensem-


ble E de D d‘être O@)-convexe est équivalente à E est O(U)-convexe pour un
voisinage U de D, ce voisinage pouvant être choisi de Stein si X est de Stein. C’est
2. Cas de la dimension 2 191

une conséquence du ii) du Théorème 8.11 du chapitre VII, qui implique, dans ce
cas, la densité des fonctions holomorphes sur un voisinage U de D dans O@), ce
voisinage pouvant être choisi de Stein et tel que est O(U)-convexe, si X est de
Stein. I1 suffit si D admet une fonction définissante strictement plurisousharmo-
nique p sur un voisinage Va0 de d D , i.e. D n Va0 = { z E Va0 I p ( z ) < O} de
prendre U = D U { z E Va0 I p ( z ) < E } pour E assez petit (cf chap. VII, Th. 8.19
et Prop. 8.22).

Théorème 2.2. Soit D un domaine relativement compact, strictement pseudocon-


vexe à bord Ck,IC 2 2, d’une variété de Stein X de dimension 2. Alors pour tout
compact K contenu dans d D , les conditions suivantes sont équivalentes :
i) K est une singularité illusoire pour les fonctions C R sur d D ,
ii) K est O@) -convexe.

Démonstration. Prouvons ii) implique i). Soit U un voisinage de Stein de D tel que
K soit O(U)-convexe, il en existe d’après la remarque car D est strictement pseu-
doconvexe et X de Stein. Le Théorème 8.26 du chapitre Vi1 appliqué au triplet
( U , D , K ) dont
, les hypothèses sont clairement vérifiées, implique alors que K est
une singularité illusoire pour les fonctions C R sur dD.
Étudions maintenant la réciproque. Puisque D est strictement pseudoconvexe,
le Lemme 8.18 du chapitre Vi1 implique que k , ( ~n , d D = K . Soit Dl un do-
maine strictement pseudoconvexe de X tel que D c D’, n dD’ = K et
i?O (-D ’ ) = K Q(D)‘
- Pour obtenir un tel domaine D’ il suffit de faire une petite
perturbation C2 de d D laissant fixe K point par point, on peut alors passer de D
à D’ par une suite dénombrable d’éléments d’extension strictement pseudocon-
vexes ce qui donne la densité de O@’) dans O@). Grâce à un résultat /.dû .
à Slod-
kowski, que nous détaillerons ci-dessous dans le cas où X = <c2, D’ \ est
pseudoconvexe, c’est don2 un domaine dholomorphie. I1 existe alors une fonction
f holomorphe sur D’ \ qui ne peut s’étendre à aucun ouvert contenant
Dl \ i?o(B~). La fonction f est holomorphe au voisinage de d D \ K et puisque
K est une singularité illusoire pour les fonctions C R sur d D , elle s’étend holomor-
phiquement à D. On a donc D c Dl \ K,(E,, d’où k,(o, = K . O

Corollaire2.3. Soient X une variété de Stein de dimension 2 et D CC X un domaine


strictement pseudoconvexe à bord Ck,k 2 2, tel q u e n soit O(X)-convexe.Alors
pour tout compact K contenu dans d D les conditions suivantes sont équivalentes:
i) K est une singularité illusoire pour les fonctions C R sur d D ,
ii) K est O(X) -convexe.

Exemple :Si X = C2 et D = B la boule unité de C2, un compact K de la sphère


unité est une singularité illusoire pour les fonctions C R si et seulement si K est
polynômialement convexe.
192 Viil. Caractérisationdes singularités illusoires pour les fonctions C R

Explicitons maintenant le résultat de 2. Slodkowski [Sl]utilisé dans la démons-


tration du Théorème 2.2.

Lemme 2.4. Si K est une partie compacte de C2 et fl un domaine pseudoconvexe de


C2 tel que K n fl = 0, alors fl \ r? est pseudoconvexe.
Plus généralement si D est un domaine strictement pseudoconvexe et K un com-
pact de d D , D \ K,(B) est pseudoconvexe.
Ce lemme est une conséquence de la “Kontinuitatsatz” (cf.chap. Vi, Théorème
3.4) et du principe du maximum local de Rossi.

Principe du maximum local. Soient X un compact d’un ouuert U de Cn, et S une


partie de X U , alors S c (8sU ( S n X ) ) U ,où dS est le bord de S relativement à
h

Xu.
Nous ne prouverons pas ce résultat ici, le lecteur intéressé pourra consulter
[ROSI, [Stol ou [Stl.

Démonstration d u Lemme 2.4. Raisonnons par l’absurde. Supposons que fl \ k


n’est pas pseudoconvexe. Notons A le disque unité de C. D’après la “Kontinuitat-
satz”, après un changement de coordonnées dans C2,le bidisque A2 ne rencontre
pas
-
K et il existe une suite ( q j ) j E de ~ fonctions holomorphes sur un voisinage de
A dans C telles que Iqjl < f sur A et si on pose @ j ( s ) = ( s , q j ( s ) ) , l’application
<pj envoie a dans fl \ r? de telle sorte que dist(@j(eis),r?) > 6 > O, pour
h

tout 8 E IW et @ j ( O ) tend vers un point po E K quand j tend vers l’infini. Po-


sons fj ( 2 1 ,z2) = Z Z - - < plJ ( Z i ) ’ La fonction f j ainsi définie est holomorphe au voi-
sinage de r? n a2.
D’après le Théorème 7.1 du chapitre VII, on peut approcher
fj uniformément sur r? f? a2
par des fonctions holomorphes dans C2. Comme
Ifj I 5 max( ,2) sur r? n dA2 et puisque la borne supérieure de Ifj I sur k n a2
tend vers l’infini avec j , on peut donc construire une fonction f holomorphe dans
a2
h

C2 dont la borne supérieure sur K n est strictement supérieure à la borne su-


périeure sur K n dA2 ce qui contredit le principe du maximum local.
Pour obtenir la seconde assertion il suffit de remplacer C2 par un ouvert pseu-
doconvexe U de C2 tel que les fonctions holomorphes sur U soient denses dans
Q(D) et D soit O(U)-convexe et de répéter la démonstration précédente. O

3. CARACTÉRISATION COHOMOLOGIQUE EN DIMENSION n 23

Lorsque la dimension de la variété ambiante est plus grande que 3, nous


n’obtenons plus de caractérisation géométrique pour les singularités illusoires,
mais seulement une caractérisation cohomologique.
3. Caractérisation cohomologique en dimension n 23 193

Théorème 3.1. Soit D un domaine relativement compact, strictement pseudocon-


vexe à bordek, Ic 2 2 , d’une variétéde Stein X de dimension n 2 3. Alors pour tout
compact K contenu dans d D , les conditions suivantes sont équivalentes :
i) K est une singularité illusoire pour les fonctions C R s u r d D ,
ii) H o l l ( X \ K ) = O,
iii) H ~ ~ \ (K )x = O.

Démonstration. L‘implication iii) =+ il est une conséquence du Théorème 5.1 du


chapitre Vcar D étant strictement pseudoconvexe et K c d D les hypothèses 2) et
3) de ce théorème sont évidemment satisfaites. Le fait que ii) implique iii) résulte
du Théorème 2.7 du chapitre V, car X étant une variété de Stein on a H:)’ ( X ) = O
( c f chap. VII, th. 8.24). I1 reste à prouver que i) implique ii). Nous utiliserons le
lemme suivant :

Lemme 3.2. Soient X une variété de Stein de dimension n, n 2 3, et K un compact


de Stein. Alors
H o ) l ( X\ K ) = O.

Démonstration. Puisque K est un compact de Stein il possède par définition, une


suite décroissante (Up),,, de voisinages de Stein tels que l’adhérence de Up+,soit
contenue dans U, et K = n -
Up. Soit f une (0,l)-forme différentielle CO3, d-
PEN
fermée sur X \ K . Choisissons une suite ( X , ) , ~ N d‘éléments de D ( X ) tels que
x, = 1 au voisinage de Ü,+l et x, = O au voisinage de X \ Up. Prolongeons
(1 - x p ) f par O dans Ü,+1. Alors a(1 - x,)f = &yp A f estune (0,2)-forme
-
d-fermée à support compact dans Up.Puisque 17, est un ouvert de Stein et ri 2 3,
il existe une
- (0,l)-forme différentielle
- g, de classe C“ à support compact dans Up
+
telle que a(i - x , ) f = 3 g p , d‘où a ( g p (1 - xp)f)= O sur x et comme x est
+
de Stein, il existe 7, E C” ( X )telle que g, (1 - x,)f = 87, sur X . Remarquons
que yp+l - 7, est holomorphe dans X \ Ü, et que X \ Ü p est connexe car Up
est pseudoconvexe. I1 résulte alors du phénomène de Hartogs dans les variétés de
Stein ( c f .chap. VII, th. 8.25) qu’il existe une fonction h, holomorphe dans X telle
00
quehplX,Up = y,+l-y,.Posonsh = y1+ C(yj+1-yj-hj).Cettesommeest
j=l
localement finie sur X \K et définit donc une fonction h de classe C” sur X \ K.
De plus on a

Fin de la démonstration du Théorème 3.1.Puisque D est strictement pseudocon-


vexe, il existe des domaines strictement pseudoconvexes D’ et D” tels que D” c
D C D’et 0” n d D = K = D n do’. Nous -
allons prouver qu’étant donné
une (0,l)-forme différentielle f de classe C”, d-fermée dans X \ K , il existe une
194 Vlll. Caractérisation des singularités illusoires pour les fonctions C R

fonction g de classe C" sur X \ K telle que d g = f . Puisque D' est un ouvert
de Stein, il existe u1 E C" (D') telle que au1 = f sur D' ( c f chap. VI1 Corollaire
8.21 et Proposition 8.22). Comme 8'est un compact de Stein car D" est stricte-
ment pseudoconvexe, il résulte du Lemme 3.2 que l'on peut trouver une fonction
u2 E C"(X \ 8') telle que au2 = f sur x \ 3'.
La fonction v = u1 - u2
est définie et holomorphe sur D' \ 8'qui est un voisinage de d D \ K . Puisque
K est une singularité illusoire pour les fonctions C R sur d D il existe une fonction
V E O ( D )qui étend 'u à D. Posons
g = 7L1 - V sur D'
= u2 sur x \ D".
On définit ainsi une fonction de classe C" sur X\ K qui vérifie dg = f sur X \ K . 0

Remarque :I1 résulte du Théorème 3.1 que le fait que K soit une singularité illusoire
pour les fonctions C R sur le bord d u n domaine strictement pseudoconvexe ne
dépend pas du domaine strictement pseudoconvexe contenant K lorsque n 2 3
mais seulement de K lui-même et de ses propriétés en tant que sous-ensemble de
la variété X .

4. CARACTÉRISATIONDES SINGULARITÉSILLUSOIRES FAIBLES

Soient X une variété analytique complexe de dimension n, D un domaine re-


lativement compact de X et K un sous-ensemble compact de ûD tel que r =
d D \ K soit une sous-variété de classe C k , IC 2 1 , de X \ K . Le compact K est
une singularité illusoire faible pour les fonctions C R sur d D si pour toute fonction
f E C(r)orthogonale aux formes cp, de classe C" sur X , d-fermées, de bidegré
(n,n - 1), définies au voisinage de D et à support disjoint de K , i.e. fP = sr
O, il existe une fonction F holomorphe dans D continue dans D \ K telle que
FI = f . Notons que les fonctions considérées sont C R , puisque les formes d -
exactes sont d-fermées. Nous avons démontré au paragraphe 3 du chapitre IV que
si X = û? , K = 0 est une singularité illusoire faible pour les fonctions C R sur
d D et nous avons remarqué que les fonctions C R ne sont pas toujours orthogo-
nales aux (n,n- 1)-formesd-fermées en particulier lorsque r n'est pas connexe.
Commençons par des caractérisations cohomologiques.

Théorème 4.1. Soit D un domaine relativement compact, strictement pseudocon-


vexe à bord C2 d'une variété de Stein de dimension n 2 2 . Alors pour tout compact
K contenu dans d D , les conditions suivantes sont équivalentes :
i) K est une singularité illusoirefaible pour les fonctions C R sur d D ,
ii) Hoi'(X \ K ) estséparé,
iii) H:' ( X \ K ) est séparé.
4. Caractérisation des singularités illusoires faibles 195

Démonstration. Commençons en prouvant que ii) implique iii). Soit f une $,O,l)-
forme différentielle de classe C" sur X \ K appartenant à l'adhérence de 3,5:>( X \
K ) dont le support est contenu dans un compact L de X . Puisque H 0 > l ( X\ K )
est séparé, il existe g E c" ( X \ K ) telle que f = 39. La fonctiong est holomorphe
sur X \ ( Lü K ) .Puisque X est une variété de Stein, de dimension n 2 2, il résulte
du phénomène de Hartogs qu'il existe une fonction 9 E O ( X )qui coïncide avec g
en dehors d'un compact de X . Si on pose go = g - j , alors f = ago et le support
de go est relativement compact dans X . Par conséquent H 2 l ( X \ K ) est séparé.
Montrons maintenant que iiil implique il. Soit f une fonction -
C R continue
sur ï qui est orthogonale aux (n,n- 1)-formes différentielles C", d-fermées dont
le support est disjoint de K . D'après la Proposition 1.1, f possède une extension
holomorphe f à un voisinage U de ï dans D. Soit x une fonction C" sur X \ K
égale à 1 sur un voisinage de X \ ( D U K ) et nulle sur D \ U . Le support de ax
est alors relativement compact dans D. Notons E l'adhérence des (0,l)-formes
différentielles 8-exactes dans (CTl
( X \ K ) ) + .Nous allons prouver que f3x E E.
Raisonnons par l'absurde. Si fax $ E , il existe une forme linéaire continue T sur
(Ccl(X \ K ) ) +telle que TI, = O et (T,f3x) # O. On peut considérer T comme
un (n,n - 1)-courant sur X \ K à support fermé dans X et on a (T,dg) = O pour
toute fonction g E C" ( X \ K ) dont le support est relativement compact dans X ,
ce qui signifie que T est d-fermé. D'après le Corollaire 4.2 i) du chapitre V, il existe
une forme différentielle 'p de classe C", d-fermée dans X \ K et un courant S sur
+
X \ K , tous deux à support fermé dans X , tels que T = 3s cp. Comme f a x est
-

d-fermée dans X \ K , on a alors

d'après la formule de Stokes et l'hypothèse sur f , ce qui contredit le choix de T


donc fdx E E . Mais par hypothèse H(P'l(X \ K ) est séparé, donc fax
= 89,
où g est une fonction C" sur X \ K à support relativement compact dans X . La
fonction g est alors holomorphe sur un voisinage de X \ (D ü K ) et puisque X est
de Stein de dimension n 2 2, il résulte du phénomène de Hartogs qu'il existe une
fonction 9 E O ( X )telle que g = g sur un voisinage de X \ ( D U K ) . En posant
+
- = x f - g j on obtient une fonction holomorphe dans X \ K continue dans
F
D \ K qui coïncide avec f au voisinage de ï dans D donc avec f sur î.
Terminons en prouvant que i) implique ii). Puisque D est strictement pseu-
doconvexe, il existe des domaines strictement pseudoconvexes D' et D" tels que
D" c D c -D' et D" n d D = K = D n dD'. Soit f une (0,l)-forme diffé-
rentielle C", d-fermée sur X \ K telle que f soit la limite dans Cri ( X \ K ) de la
suite (8gj)jEw,où g j E C"(X \ K ) . Puisque D' est un ouvert de Stein,.il existe
' ) que f = au1 sur D'.
u1 E ~ " ( 0 tel
Supposons dans un premier temps que n 2 3. Comme 8'est un compact
de Stein, il résulte du Lemme 3.2 que Hoil(X \ 8')
= O. I1 existe alors u2 E
C"(X\D") telle que f = au, sur X\D". La fonction w = u1 -u2 est holomorphe
196 VIII. Caractérisation des singularités illusoires pour les fonctions C R

-
surlevoisinageD'\D''der etsicpestune (n,n-1)-formec", 8-ferméeàsupport
compact dans X \ K , on a

en appliquant à deux reprises le Théorème de Stokes.


-
Soit maintenant cp une (n,n- 1)-forme différentielle C", 8-fermée quelconque
dont le support ne rencontre pas K . Puisque D est strictement pseudoconvexe, D
possède une base de voisinages de Stein et il existe donc une (n,n- 2)-forme $ de
classe Coo,sur un voisinage relativement compact V de D telle que cp = sur V .a$
x
Soit une fonction C" sur X , identiquement nulle au voisinage de D et égale à 1
sur X \ V . Posons cpo = cp - a(x$)
= (1 - x)cp - ax A $. La forme cpo s'étend
par O à X \ K en une forme d-fermée à support compact dans X \ K . On a alors

car x est nulle au voisinage de D. Puisque K est une singularité illusoire faible il
existe une fonction V holomorphe sur D' telle que V = v sur D' \ 8'. Si on pose
g = u1 - V sur Dl
= 212 sur x\D",
on obtient une fonction g de classe C" sur X \ K telle que dg = f ,ce qui prouve
que H 0 > l ( X\ K ) est séparé.
Pour traiter le cas n = 2, la démonstration est analogue, mais on utilise que
H O ~ ~\ (8')
X est seulement séparé (aiors qu'il était nui pour n 2 31, ce que nous
allons démontrer. O

Proposition 4.2. Soient X une variété de Stein de dimension 2, et K un compact de


Stein. Alors H p i ' ( X \ K ) ,p 2 O, est un espace vectoriel topologique séparé.

Démonstration. Prouvons tout d'abord que, pour tout compact L de X \ K ,


DF2(X \ K ) f i dDP>l(X\ K ) est un sous espace fermé de DF2(X \ K).I1
suffit de montrer que si f E DPi2(X \ K ) , à support dans un compact L , est la
limite d u n e suite (f j ) j E N d'éléments de P 2 ( X \ K ) , à support dans L, tels que
fj = d g j , o ù g j E2?Pi1(X\K),alors f = d g , o ù g ~ D p ~ ' ( X \ K ) . O n p r o l o n g e
f à X par zéro, aiors, si cp E c~-~,~(x) est une forme d-fermée, on a grâce à la
formule de Stokes

sx f A cp = Jim
3'00 S-
x
dgj A cp = O.

La variété X étant de Stein, H,"-pl'(X) = O et par conséquent E;-,,,(X) est


fermé dans C;-,,,(X). La Proposition 8.23 du chapitre VI1 et la régularité du 8,
4. Caractérisation des singularités illusoires faibles 197

impliquent alors que f = dh, où h E DP>'(X).Puisque K est un compact de


Stein, il existe un ouvert de Stein U dans X tel que K C U C X \ L. La forme
h est d-fermée sur U et on a h = du sur U , où u E CEo.Soit x E D ( X ) une
fonction identiquement égale à 1 au voisinage de K et à support dans U . On pose
g = h - ~ ( x u g) est
, une (p,l)-forme différentielle C" sur X, à support compact
dans X \ K telle que 8 g = f .
La proposition résultera alors du lemme général suivant. O

Lemme 4.3. Soient M une variété analytique complexe de dimension n, p etq, p 2 O,


1 1 q < n , des entiers. Si pour tout compact L de M , V p q ( M )n dVplq-l(M) est
un sous espace fermé de V p q ( M ) alors
, Hn-Pln-q+'(M) est séparé. En particulier
H,P,q(M)est séparé si et seulement si Hn-p>"-q+' ( M )est séparé.
Nous allons prouver que sous les hypothèses du lemme l'espace

Er-p,n-q+l(M) = {. E
03
cn-p,n-q+l(M) I = dV,V E cr-p,n-q(M)}
I

est égal au sous-espace fermé Zr-p,n-q+l(M)de Zr-p,n-q+l(M)des formes


,s
différentielles f vérifiant f A cp = O pour toute cp E Dp)q-'(M) telle que dcp =
O dans M . Le Théorème de Stokes implique que EF-p,n-q+l(M)est contenu
- -
dans Z z p , n - q + l( M ) . Étudions l'inclusion inverse. Soit f E ZEp,n-q+l (M),
on définit une forme linéaire continue F sur DPiq-l(M) en posant F(cp) =
(-i)p+qlS,j A 'p pour 'p E D P ? ~ - ~ ( M ).
Puisque f E il
existe une forme linéaire H sur dDP>q-l(M)telle que F = H O 3. Pour prou-
ver la continuité de la forme linéaire H , il suffit, par définition de la topologie
de D P ) q ( M )de, montrer que pour tout compact L de M la restriction H L de H
à D p q ( M ) n dDp,q-'(M) est continue. Fixons L et considérons une suite ex-
haustive ( K j ) j c .de~ compacts de M . Pour chaque j, notons dj la restriction de
l'opérateur 3 à l'espace de Fréchet ZEq-,(Kj,L,M) = {f E Dg,"(M)I af
=

O sur Kj \ L } . L'espace D p q ( M ) n dDP+-'(M) est la réunion des images


des opérateurs 8j, mais comme il est fermé par hypothèse , c'est un espace de
Fréchet et le théorème de Bake implique alors qu'il existe j o tel que Imdj,ne soit
pas maigre. Par le théorème de l'application ouverte, l'application djo est surjec-
tive et ouverte, ce qui prouve la continuité de H L et celle de H . Par Hahn-Banach
l'appliction H s'étend en un ( n - p,n - q)-courant T qui vérifie

(dT,cp)= (-l)pfq(T,8cp)= (-l)p+qF(cp)


= 1 X
f A cp = (Tf,cp)

pourtoutecp E DP>Q-l(M). O n a d o n c d T = Tf et commef E C,"Lp,n-q+l ( M ) ,


par l'isomorphisme de Dolbeault, f E Er-p,n-q+l( M ) .
Prouvons la seconde assertion. La condition suffisante résulte de la Proposi-
tion 8.23 du chapitre Vi1 et de l'isomorphisme de Dolbeault. Si le groupe de CO-
homologie H,P,Q(M) est séparé, alors pour tout compact L de M , le sous espace
D p q( M ) n dDP,q-l ( M ) est fermé dans D p q (M ) , d'où la condition nécessaire
d'après la première assertion. O
198 VIII. Caractérisation des singularités illusoires pour les fonctions C R

Terminons par une caractérisation cohomologique intrinsèque et une caracté-


risation géométrique des singularités illusoires faibles.
Si F est un fermé de X , on note CEq(F)l'espace des germes de (p,q)-formes
différentielles sur F , c'est-à-dire la limite inductive sur les ouverts U de X conte-
nant F de la famille CEq(U),les applications Z U V : CEq(U) + Crq(V)pour
V c U étant simplement les applications restriction. L'opérateur 8 : c"(F) +
CEq+, ( F ) est bien défini et c'est une application continue, qui vérifie d O 8 = O.
On peut donc parler du groupe de cohomologie

où Z E q ( F ) = {u E C,qP(F) I 8 u = O}, HP)q(F)est muni naturellement de la


topologie quotient.

Théorème 4.4. Soit D un domaine relativement compact strictement pseudoconvexe


à bord C2 d'une variété de Stein de dimension n 2 2 . Alors pour tout compact K
contenu dans d D , les conditions suivantes sont équivalentes :
i) K est une singularité illusoirefaible pour les fonctions C R sur d D ,
h h

ii) D c ïO(D)oùro(D) = u { E - E c I? compact}.


O(D) I
iii) Pour tout compact L c D \ K , il existe un compact ï L c ï tel que
L c (h)O(D).
iv) H*J-' ( K ) = O.

Démonstration. Prouvons tout d'abord que ivl implique il. D'après l'équivalence
entre les assertions il et iiil du Théorème 4.1, il suffit de montrer que si le groupe
Hn,n-l ( K )est nul, alors H:'(X \ K ) est séparé. Notons Q la famille de supports
constituée par l'ensemble des fermés de X qui ne rencontrent pas K et considé-
rons le groupe ( X \ K ) de cohomologie de Dolbeault à support dans la fa-
mille Q. Nous allons prouver que ce groupe est nul si l'assertion iv) est satisfaite.
Soit f E Zg'"(X \ K ) une (n,n)-forme différentielle 8-fermée de classe C" sur
X \ K à support dans Q. Comme la variété X est de Stein, il résulte du Corollaire
8.21 du chapitre VI1 qu'il existe une (n,n - 1)- forme différentielle g de classe C"
sur X telle que 8f = g. Puisque le support de f est contenu dans q ,la forme g est
-
8-fermée au voisinage de K . La condition ivl implique alors qu'il existe un voisi-
nage U de K et une forme différentielle h de classe C" sur U telle que dh = g sur
U . Si x est une fonction de classe C" à support dans U et indentiquement égale à
1au voisinage de K , la forme 9 = g - d x h est à support dans 9 et vérifie 89 = f ,
donc H$'*(X \ K ) = O. Remarquons que le Lemme 4.3 reste valable si on rem-
place la famiiie c par la famille Q et la famille des fermés de X \ K par la famille @.
11 en résulte H : ~ (\xK ) est séparé.
Montrons que il implique iil. Supposons que K soit une singularité iiiusoire
faible pour les fonctions CR sur dD. Notons d(D U ï) l'algèbre des fonctions
continues sur I' ü D et holomorphes dans D. Comme K est une singularité illu-
soire faible, d(DU I?) n C ( r ) est une sous-algèbre fermée de C ( ï ) (en effet c'est
4. Caractérisation des singularités illusoires faibles 199

l’intersection des sous-espaces fermés Fv = {f E C(r) I r f y- = O}, où y


décrit l’ensemble des (n,n - 1)-formes différentielles de classe C30, d-fermées au
voisinage de D, dont le support ne rencontre pas K ) .Par conséquent l’application
restriction p de d ( D u r) sur d ( D u r) n C(r)est un isomorphisme topolo-
gique. Notons x son inverse. Si z est un point de D , le théorème de Hahn-Banach
implique l’existence d u n e forme linéaire continue : C(r) -+ C qui coïncide
$J

sur d ( D U I’) n C(r)avec l’application f I r e x(f Ir)(.) = f ( z ) . Grâce au


théorème de représentation de Riesz il existe donc une mesure pz de masse finie à
support compact sur r telle que

f(z) = L fksi f E d ( D u r).

Puisque d ( D n r)est une algèbre, pour tout k E N,on a

fk(z)= L f‘dp,, si f E d ( D u r).


On en déduit que, pour tout k E N,

En faisant tendre k vers l’infini. on obtient

lf(.)I I: SUP{lf(Ol I c E SUPPP2)l f E d ( D u r)?


- si

~ ) par définition de ro(B), D


ce qui prouve que z E ( s ~ p p p , ) ~et( donc,
h

c
r O (-D ) ’
h

Étudions maintenant l’implication iij + iiij. Nous aurons besoin de deux


lemmes.

Lemme 4.5. Soient D un domaine relativement compact strictement pseudoconvexe


à bord C2 d’une variété de Stein X de dimension n 2 2 et K un compact contenu
dans d D . Pour tout compact E c d D \ K , il existe un domaine D’ relativement
compact strictement pseudoconvexe à bord C2 contenant D tel que ôD’ nD = K et
O@‘) I ~ s o i t d e n s e d a n s O ( DetuncompactE’
) c ôDl\K telqueE C EC>(~~).
Démonstration. On obtient D‘ en effectuant une petite perturbation C2 de dD lais-
sant fixe K point par point. On peut alors passer de D à D’ par une suite d’éléments
d‘extension pseudoconvexe ce qui implique la densité de O ( 8 )I D dans O@).
Pour chaque IC E E , considérons le voisinage V, de IC dans X construit dans la
Proposition 1.1. On peut supposer que vz
ne rencontre pas K . L‘ensemble E
étant compact, E est recouvert par un nombre fini V I ,. . . ,Vp de tels V,. Notons
E’ = u (Vi naDl).Si D’ est assez proche de D , vi nD’, i = 1, . . . ,p, est un do-
P

i=l
-

maine du type étudié dans le paragraphe 6 du chapitre Vet donc E c O


200 Viii. Caractérisation des singularités illusoires pour les fonctions C R

Lemme 4.6. Soient Y un ouvert de Stein d'une variété de Stein de dimension n 2 2,


etE uncompactdeY. OnnoteE, = { z E X I dist(z,E)5 E } etonchoisits >O
assez petit pour que E, soit encore un compact de Y .Alors

Démonstration. Posons K = (E,)y, c'est un compact O(Y)-convexe, il possède


donc une base U de voisinages de Stein telle que pour tout U E U , O ( Y ) lu soit
dense dans O ( U )(cela résulte immédiatement du Théorème 8.17 et de la Proposi-
tion 8.9 du chapitre VII). On a alors
dist(Êy,dK)= inf dist(Êy,dU)= inf dist(Êu,dU)
U€U UEU

car ÊY = Êu puisque O ( Y ) lu est dense dans O ( U ) .Comme tout élément U de


U est un domaine dholomorphie car il est de Stein, il résulte du Théorème 1.13 du
chapitre Vi que
dist(Êy,dK)= inf dist(E,dU).
UEU

Maissi U E U , U contient E,, par conséquent dist(Êy,dK)2 E et donc ( Ê y ) , C


K.
A

Suite de la démonstration du Théorème 4.4. Supposons que D C ï o ( D ) , alors si


h

a E D \ K il existe un compact E, de î tel que a E (E,),(D). D'après le Lemme


4.5, on peut trouver un domaine DI strictement pseudoconvexe contenant D tel
que dD' n D = K et O ( 8 ) ID soit dense dans O ( D )et un compact EL C r' =
DI \ K tel que E, c (Ga)o(El). On a aiors
h h h

a E (Ea)o(D)= (E&(EJ) c ( W q E y
Ainsi que nous l'avons déjà remarqué dans le paragraphe 1 de ce chapitre, on
peut trouve; un voisinage de Stein U de 8 tel que pour tout compact C de 8,
A

C - = Cu. Avec les notations du Lemme 4.6 choisissons E assez petit pour que
O(D')
(Ea)€flD= 0 et ( nK = 0, ce qui est possible car E&est un compact de
cc" \D et les points de K sont des points pics pour O@'). Le Lemme 4.6 implique
alors que
B(a,E) c ((E)u),
c ((ELMU
h

et en vertu du principe du maximum local D n B(u,E) c (ïa)U, où ï a =


n d D est un compact de I?. Si L est un compact de d D \ K , L est
recouvert par un nombre fini d'ouverts Va de D de la forme D n B(u,E)et par
h

conséquent il existe un compact ï L c ï tel que L c ( ï r , ) o ( D ) .


Terminons en prouvant que iii) implique iv). Considérons une (n,n- 1)-forme
différentielle 'p d-fermée de classe C" sur un voisinage U de K et X une fonc-
tion de classe Coo à support compact dans U et égale à 1 sur un voisinage V de
4. Caractérisation des singularités illusoires faibles 201

K . L‘applicationf +-+ sDfax


A ‘p est une forme linéaire continue sur O@). Po-
sons L = D n supp ax, c’est un compact disjoint de K et d‘après iii), il existe un
compact J?L c I’ tel que

I1 résulte du Théorème de Hahn-Banach et du Théorème de représentation de Riesz


qu’il existe une mesure p L sur rLtelle que (pL,f)= JD fax
A ‘p si f E O@). Si
X D désigne la fonction caractéristique de D , a = X D ~ XA ‘p - p~ est une mesure
sur D u r qui vérifie (a,!) = O pour toute f E O ( D ) .L‘ouvert D étant stricte-
ment pseudoconvexe, il existe un domaine G‘ strictement pseudoconvexe tel que
supp a c GI,K n G’ = 0 et O ( D )soit dense dans o(G’) IG’n(D”r). (Pour obte-
nir GI,il suffit de pousser légèrement le bord de D à l’intérieur de D au voisinage de
K et de le pousser vers l’extérieur près du support de a ) .La mesure a définit alors
un (n,n)-courant Tuà support compact dans G’ qui vérifie (T,,f) = O pour toute
f E O(G’). Comme G’ est de - Stein, il existe un (n,n - 1)-courant S à support
compact dans G’ tel que Tu = dS. Mais Toest une forme différentielle de classe
C” sur D n G’, il résulte alors de la régularité du 8, ( c f chap. Vi, Corollaire 4.2 ii)),
qu’il existe une forme différentielle ‘po de classe C” sur D n G’ nulle au voisinage
de K telle que acpo = To sur D n GI. Considérons à présent un domaine G”
strictement pseudoconvexe tel que K c G” c D U V . En restreignant à G”, la
relation a’po = Tuon obtient aA A ‘p = 890 soit a(Xp - ‘po) = O sur GI’ (on
a implicitement prolongé X‘p par zéro pour la définir sur GI’ tout entier). Puisque
G” est de Stein, Hnln-’(G”) = O et il existe donc une (n,n - 2)-forme différen-
tielle II, de classe C” sur G” telle que X‘p - ‘po = aII, sur G”. Comme X = 1 et
‘po = O au voisinage de K , on aura aII, = ‘p au voisinage de K , ce qui prouve que
H n , n - l ( K ) = O. O

Commentaire.L’étudedes singularités illusoires pour les fonctions C R définies sur le


bord d’un domaine a débuté avec le travail de G. Lupacciolu et G. Tomassini [LulTo]
en 1984 et s’est développée rapidement dans les années qui ont suivi. Les résultats
les plus significatifs ont été prouvés par G. Lupacciolu [Lu1,2]. Un panorama de
l’ensemble des résultats obtenus sur ce sujet est exposé dans [CifStl.
Annexe A

Variétés différentiables,
formes différentielles

Le lecteur trouvera ici un certain nombre d'outils élémentaires de géométrie différen-


tielle qui sont utilisés dans ce volume. Après avoir introduit la notion de variété différen-
tiable, nous définissons l'algèbre des formes différentielles et nous prouvons le Théorème
de Stokes qui est le résultat fondamental de cette annexe.

1. VARIÉTÉS DIFFÉRENTIABLES

Définition 1.1. Sur un espace topologique X , une carte h de X est un homéomor-


phisme d'un ouvert U de X sur un ouvert de R" pour un certain entiern. L'ouvert U
est le domaine de la carte h ;on dit que c'est un ouvert de carte. On désigne parfois
la carte h par le couple (U,h ).
Si V est un ouvert de X , V c U , alors hl est une carte de domaine V .

Définition 1.2.
a) Deux cartes h et h' de X , de même domaine U sont dites q-compatiblessi les
deux homéomorphismes réciproques
h' O h-l : h ( U ) -4 h'(U)
h O h'-l : h'(U) -+h ( U )
sont de classe C'J, q E N* ü { m}, au sens des applications d'un ouvert de RP dans
un ouvert de RP'.
b) Deux cartes (U,h ) et (U',h') sont dites q-compatibles si: U f l U' = 0 ou bien
I
hl U n U , et h' UnU, sont q-compatiblesau sens de a).

Remarque: Si n et n' sont des entiers associés aux cartes h et h', ils sont égaux
lorsque h et h' sont compatibles. En effet, si q 2 1, la différentielled(h' O h-')(z)
pour 2 E h(U ) est une bijection linéaire de R* dans R"'et donc n = n'.
204 A. Vm'étés différentiables, formes différentielles

Définition 1.3. Un atlas de X de classe CQ est un ensemble de cartes deux à deux q -


compatibles dont les domaines constituent un recouvrement ouvert de X . Deux atlas
de classeCQsont dits compatibles si leur réunion est un atlas de classeCQ.

Remarque :La compatibilité est une relation d'équivalence dans l'ensemble des at-
las de classe CQde X .

Définition 1.4. On appelle variété différentiable de classe CQ un espace topologique


séparé, réunion dénombrable de compacts, muni dune classe d'équivalence d'atlas
de classe CQ.

Exemples
1)Un ouvert non vide D de Rn a une structure naturelle de variété Cm. Un atlas
est donné par { (D, IdD)}.
2) La sphère de R3 est une variété C" munie d u n atlas à deux cartes.
3) Si D est un ouvert relativement compact de Rn tel que pour tout P E d D il
existe un voisinage W, de P vérifiant d D f l W, = { x E W, I r p ( x ) = O} où r p
est une fonction de classe Ck,1 5 IC 5 00, sur W, et dr, # O sur d D n W,. Alors
d D est une variété de classe C k (c'est une conséquence du théorème des fonctions
implicites).
Si X est une variété différentiable, pour tout x E X , il existe une carte (U,h)
teile que x E U et h soit une application de U dans R" . L'entier n ne dépend que
de 5 , c'est la dimension de X en x.I1 est clair que n est fixe sur chaque composante
connexe de X .

Définition 1.5. Une variété différentiable dont toutes les composantes connexes sont
de dimension n sera dite de dimension n.

Définition 1.6. Soient X et Y deux variétés différentiables de classeCQ.Une applica-


tion f : X t Y est dite de classeCP,p 5 q, si elle est continue et vérifie la condition
suivante :pour tout couple de cartes (U,h ) , (V,k)de X et de Y tel que f ( U ) c V ,
1'application
IC O IV)
(f O h-' : h ( U ) -+ k(V)
est de classe C P en tant qu'application d'un ouvert de R" dans un ouvert de R" .
Notons qu'il suffitde vérifier ces propriétés pour l'ensemble des cartes d'un at-
las.
Si Y = R ou C, une application de classe C P de X dans Y est appelée fonction
de classe C P sur X .

Définition 1.7. Soit (U,h ) une carte d u n e variété différentiablex de classeCQ,alors


h est une application de classeCQde U dans R"
U -+ h ( U ) c R"
5 h ( z ) = (xi(x),. . . ,xn(x))
2. Partitions de 1 'unité 205

où lesxi : U -+R,j = 1, . . . ,n,sont desfonctions de classesCQsur U . Les fonctions


X I ,. . . ,x, sont appelées les coordonnées locales de X sur U définies par la carte
(U,h).

2. PARTITIONS DE L'UNITÉ

Dans ce paragraphe, nous construisons un outil qui permet de localiser les pro-
blèmes donnés sur une variété, en particulier de se ramener dans un domaine de
carte.

Lemme 2.1. Soit A un compact de IRn et U un ouvert contenant A. Il existe une


fonction réelle de classe Cm à support compact dans U , comprise entre O et 1 et égale
à 1 sur A.

Démonstration. Considérons la fonction définie sur R par

e ( t )= ce-* si It1 <1


{
e ( t )= O si It1 2 1
où C est une constante telle que s,
B(t)d t = 1. Elle est de classe C" sur R et son
support est l'intervalle [- 1,il.Pour E > O fixé, la fonction x e eE(x)= e , (T)
+
où 1x1 = (xf . . . x:)~/~,+ est de classe C" dans Rn,son support est la boule
fermée de centre O et de rayon E et elle prend ses valeurs dans [0,1].
Soit B un ouvert relativement compact de Rn tel que A cc B cc U . Posons
* = XB * QE

où X B est la fonction caractéristique de B. La fonction $ est C" sur R et à valeurs


dans [0,1]et si E < f min (dist(B,CU), dist(A,CB)) le support de 11, est un com-
pact contenu dans U et $J est constante égale à 1 sur A . O

Lemme 2.2. Soit U un recouvrement ouvert localement fini d'une variété différen-
tiable X . Pour chaque U E U , il existe un ouvert U' tel que Ü' C U et l'ensemble
des U' forme encore un recouvrement ouvert de X .

Démonstration. On suppose, sans perte de généralité que X est connexe et, quitte
à extraire, que le recouvrement U est dénombrable puisque X est réunion dénom-
brable de compacts (on prendra U' = 0 pour les U que l'on aura supprimés). Alors
u = (Ul,U2,U3,.
. .}.
Posons C1 = U1 \ ( U Uk),Cl est un fermé contenu dans U1 et X = Cl u
k22
~2 u ~3 u . .. Soit un ouvert tel que CI c U; c üi c ~ 1 .
206 A. Variétés différentiables, formes différentielles

Posons C2 = U2 \ (Ui U ( u Uk)),


k >-3
C2 est un fermé contenu dans U2 et X =

U: u Cz u Us u . . .. Soit Us un ouvert tel que C2 c U: c 7 7 2 c uZ.


En itérant cette construction on obtient une famille ( U k ) k Ed'ouverts
~ de X
tels que ükc u,. 11 reste à prouver que cette famille constitue un recouvrement
ouvert de X.
Pour tout z E X, il existe un plus grand entier n tel que z E Un, car U est
localement fini. Par construction des Uk on a

zEU;U-.U:,U
( u
k>n+l

et donc z E u Uk car le fait de remplacer Ur,par Uk pour k 2 n + 1ne peut pas


k>l
faire disparaître z puisque, par définition de n, z $! ( u
k>n+l
Uk). O

Théorème 2.3. Soit X une variété différentiable. Pour tout recouvrement ouvert
( R i ) i € d~ e X on peut trouverdes fonctions ( a i ) i Etellesque
~
1 ) cri est de classeCm à support compact dans Ri,
2) sur tout compact de X un nombre fini seulement des ai ne sont pas identique-
ment nulles,
3)pourtoutz E X , a i ( z ) 2 û e t Ccri(z)= 1.
i€I

Définition 2.4. Unefamille de fonctions ( c r i ) i E ~satisfaisant aux conditions du Théo-


rème 2.3 s'appelle une partition de l'unité localement finie subordonnée au recou-
vrement (Ri)iEI.

Démonstration du Théorème 2.3. Supposons tout d'abord que le recouvrement


(Ri)i€~ est localement fini, i.e. tout compact ne rencontre qu'un nombre fini de
ces ouverts, que tous les Ri sont relativement compacts dans X et que leur ad-
hérence est contenue dans un domaine de carte. En appliquant le Lemme 2.2, on
peut alors trouver un nouveau recouvrement (R;)~€Idépendant du même en-
semble d'indices et tel que C Ri. Grâce au Lemme 2.1, il existe des fonctions
('pi)i€~de classe C", comprises entre O et 1 telles que le support de cpi est contenu
dans Ri et cpi est égale à 1 sur R:. La somme cp = pi est définie sur X car pour
iEI
tout z E X seul un nombre fini de cpi(z)est non nul et elle est partout supérieure
ou égale à 1. Les fonctions ai = !$vérifient les conditions du théorème.
Supposons maintenant que le recouvrement ( R i ) i € est~ arbitraire. Comme X
est réunion dénombrable de compacts, on peut trouver un recouvrement plus fin,
localement fini, ( G j ) j €dépendant
~ d u n autre ensemble d'indice J et une appli-
cation de J dans I,j e i(j) tels que tout Gj est relativement compact dans X , cj
est contenu dans un domaine de carte et pour tout j E J,Gj c Ri(j). D'après la
lrepartiede la démonstration il existe une partition de l'unité (-yj)j€~
subordonnée
3. Espace cotangent en un point - Formesdifférentiellesde degré I 207

au recouvrement ( G j ) j E ~Posons
. alors cri = yj, pour tout i E I . La famille
i(j)=i
( a i ) i Esatisfait
l aux conditions du théorème. O

3. ESPACE COTANGENT EN UN POINT


FORMES DIFFÉRENTIELLESDE DEGRÉ 1

Soient X une variété différentiable de classe CQ, de dimension n et x E X.


On considère l’ensemble des couples (U,f) où U est un ouvert de X contenant
x et f E CP(U), p 5 q. On définit une relation d‘équivalence sur cet ensemble
par (U,f) (U’,f’) si et seulement s’il existe W c U n U’ tel que x E W et
N

I
f = w,. f’l On appelle germe de fonction CP en x une classe d‘équivalence pour
la relation précédente ; s’il n’y a pas de risque de confusion on identifie souvent un
germe avec un de ses représentants.

Définition 3.1. Une fonction f de classe CP,p 2 1, définie sur un voisinage W d’un
point x E X est dite stationnaire en x,s’il existe une carte (U,h) telle que x E U c
W et que toutes les dérivées partielles d’ordre 1 de f O h-‘ soient nulles en h(x).
Un germe de fonction CP,p 2 1, en x est stationnaire si et seulement si un de ses
représentants est stationnaire en x. (Notons qu’alors ils sont tous stationnaires).
Notons Cg(X) l’ensemble des germes de fonctions C P en x et Sg(X) le sous-
ensemble de Cg(X) constitué par les germes stationnaires. Cg(X) est un W-espace
vectoriel et S g ( X )est un sous-espace vectoriel de Cg(X).On peut remarquer que
Cg(X)/Sg(X)C:(X)/S:(X) pourtoutp 2 1.

Définition 3.2. Soit X une variété de classe Cq,q 2 1. L’espace vectoriel T,*(X) =
C;(X)/S:(X) estappeléespacecotangentàXenx.S i f E C:(X) onnotera(df),
son image dans T,*(X).Les éléments de T,*( X )sont les différentielles en x.
Soit (U,h)une carte telle que x E U , considérons l’application

L‘application
eh,=: T;(x)
(dfL

locales en x définies par la carte (U,h),


-
tL ( w ~ , w )

4.f h-l)(+)).
O

est linéaire, injective. Si ( X I ,. . . ,xn)désignent les coordonnées


la famille des d(xj O h-’)(h(x)) est une
base de L(Rn,IR) donc Oh,, est aussi surjective, c’est un isomorphisme. L‘espace
vectorielT,*(X) est donc de dimensionn et (dxl),,. . . ,(dx,), forment une base
de T,*(X).
Nous ailons exprimer les coordonnées d‘un élément (df)zde T,*(X)dans cette
base
ôf oh-’
(h(X))d(% O h-l)(h(x))
j=l
208 A. Variétés différentiables, formes différentielles

j=l

Définition 3.3. On définit T * ( X ) comme la réunion disjointe pour x E X des


T: ( X ) ,c'estl'espace cotangent à X et on notep la projection naturelle de T * ( X )
surX.

Définition 3.4. SoientX une uariétédifférentiable de classeCq,q 2 1,e t A un ouuert


de X . Une forme différentielle de degré 1sur A est une application w : A -+ T*( X )
telle quep O A = Id.
Soient (U,h)une carte de X et ( X I , . . . ,xn) les coordonnées locales associées.
Si w est une forme différentielle de degré 1 sur A , on a, pour tout x E A n U ,
n

wlA"u(x) = C.j(X)(dXj)Z.
j=l

On notera d z j la forme différentielle de degré 1 définie sur U par x ct (dxj),.


On peut alors écrire
n

j=l

où les aj sont des fonctions définies sur A nU.


La forme w sera dite de classe Ce,[ < q, si les fonctions a j sont de classe C e
sur A n U . Un calcul direct prouve que cette notion est indépendante du choix des
coordonnées.

Exemple 3.5 :Si f est une fonction de classe C1 sur l'ouvert A de X , l'application
z I-+ (df), définit une forme différentielle de degré 1, continue sur A , on l'appelle
la différentielle de la fonction f.Si A est un ouvert de Rn,df ainsi définie coïncide
avec la différentielle de la fonction f au sens classique après identification de TZX
avec L(Rn,R) pour tout z E A .

4. ESPACE TANGENT EN UN POINT - CHAMPS DE VECTEURS

Soit X une variété différentiable de classe Cq,q 2 1,et de dimension n et II: un


point de X.
Une courbe dans X passant par 2 E X est une application a de classe C1 d u n
intervalle ouvert I de R dans X telle que O E I et a(0) = z. On définit une rela-
tion d'équivalence sur l'ensemble des courbes de X passant par x par (Y p si et
N

seulement si pour toute fonction f de classe C1 définie au voisinage de z on a


4. Espace tangent en un point - Champs de vecteurs 209

Le lecteur pourra vérifier que si X est un ouvert de IRn , Q N ,ûsi et seulement si


cy’(0) = P’(0).

Définition 4.1. L‘ensemble des classes d’équivalence de courbes de X passant par x


pour la relation ci-dessus est appelé espace tangent en x à X . On le note T, ( X ) .
Si v E T, ( X )et si f est une fonction de classe C 1 au voisinage de x,on pose

où Q est un représentant de v. Cela s’interprète comme une dérivée directionnelle.


Pour X = R”, on vérifie facilement que

Remarquons que v(f) = v ( g ) si f et g E C ; ( X ) et f - g E S ; ( X ) . Si v E

dans IR
v : (df)x -
T, ( X ) ,on peut donc définir une application que l’on notera encore v de T,’ ( X )
d
,(f O a)(O)
où f est un représentant de l’élément (df), de T,’(X) et cy un représentant de v.
Vérifions que si v1 et v2 coïncident en tant qu’applications de T,’ ( X ) dans IR, ils
coïncident en tant qu’éléments de T, ( X ) .Soit ai un représentant de vi,z = 1,2. Si
vl et v2 coïncident comme application de T,‘ ( X )dans IR, pour toute fonction f de
classe C1 définie au voisinage de x , on a

mais cela signifie que a1 et a2 sont dans la même classe et donc que v1 = v2 dans
T,X. Un vecteur tangent en x à X peut donc être considéré comme une forme
linéaire sur T,’ ( X ) .

Proposition 4.2. Soient v E T, ( X ) et f et g des fonctions de classeCl au voisinage


d e x . Onapoura,b E IR
4a.f + b9) = 4 f ) + b v ( g )
4 f 9 >= v(f)g(x) + f(x)v(g).
(Une application ayant ces propriétés s’appelle une dérivation en 2).

Démonstration. I1 suffit d’appliquer les définitions. O

Exemple: Soit (U,h) une carte en x E X telle que h(x) = O et ( X I , .. . ,xn)les


coordonnées locales définies par cette carte. On note ( &),la classe de la courbe
t H h - l ( O , . . . ,O, t ,O,. . . ,O) pour tout j = 1,.. . ,n. Si f est une fonction de
TKi
classe C1 au voisinage de x on a pour j = 1,. . . ,n
210 A. Variétés différentiables, formes différentielles

Proposition 4.3. Les vecteurs (&,, . . . ,( &),forment une base de (2': ( X ) ) ' le
dual de 7:' ( X ) .

Démonstration. I1 suffit de vérifier que les vecteurs ( &),, . . . ,( G),


a forment la
basedualedelabase ((~IC~),)+I,...,~ deT:(X).Pourcelacalculons (&),(zIc).

ce qui prouve le résultat. O

Théorème 4.4.L'espace tangent en x à X s'identifie avec le dual de l'espace cotangent


enxàX,i.e.T,X = (T,(X))*.

Démonstration. D'après la remarque qui suit la Définition 4.1 et le premier point


de la Proposition 4.2, T , ( X ) s'injecte dans (7'; ( X ) ) * I1
. reste à prouver l'inclusion
inverse. Soit (U,h)une carte de X telle que IC E U , h ( z )= O et h ( U )coïncide avec
l'ouvert {ICE IR" I sup lxjl < I}. Si L E ( T ; ( X ) ) * ,alors grâce à la Propo-
j=l,...,n
n
sition 4.3 il existe des réels a l , . . . ,an tels que L = aj (&),.
Considérons des
j=l
fonctions yj,j= 1,.. . ,n, définies sur un intervalle ouvert I de IR contenant O et
telles que Iyj(t)I < 1 pour tout t E I et yj(t) = a j t au voisinage de O. Notons r la
courbe de X passant par IC définie par h-' O y où y(t) = (yl(t),. . . ,yn@)). Alors
L coïncide avec la classe de I? et par conséquent (T,*( X ) ) "c T, ( X ) . O

Remarque: T,'(X) est donc le dual de T , ( X ) et les bases et


((d1~j),)j=1,...,~
a
( ( K ) x ) j = l .,. . psont duales.

Onadoncsi(df), E T,*(X)

Si nous considérons des fonctions à valeurs dans @, nous pouvons définir l'es-
pace vectoriel sur @ des 1-formes différentielles au point IC E X , à valeurs com-
plexes. On le note CT: X, il s'identifie à l'espace des applications IR-linéaires de
T,X dans @. L'espace vectoriel @TzX est en fait le complexifié @@E T,*X de l'es-
pace vectoriel réel T,*X, c'est un espace vectoriel de dimension complexe n. On
peut considérer également le complexifié @T,X de l'espace vectoriel réel T,X.
+
Tout élément v E C T x X s'écrit de manière unique Y = v1 iva où Y I,va E T,X.
Une 1-forme différentielle w à valeurs complexes s'étend naturellement en une ap-
x +
plication @-linéaireW' : CT, -+ c en posant w' (v1 iva) = w (vi) iw (va). +
On montre facilement que CT; X et CT,X sont naturellement duaux en tant que
@-espaces vectoriels.
5. Algèbre des formes différentielles 21 1

Définition4.5. On d é f i n i t T ( X )comme la réunion disjointepourx 6 X d e s T x ( X ) ,


c'estl'espace tangent à X et on notep la projection naturelle d e T ( X )sur X .

Définition 4.6. SoientX une variétédifférentiable de classeC4,q 2 1,e t A un ouvert


de X . Un champ de vecteurs sur A est une application V : A + T ( X ) telle que
p O V = Id.
Soit (U,h)une carte de X et (ICI,. . . ,IC") les coordonnées locales associées. Si
V est un champ de vecteurs de A et si IC E A n U on a

On notera a le champ de vecteurs défini sur U par IC ( 8x1 On peut alors


ax,
écrire

où les aj sont des fonctions définies sur A n U .


Le champ de vecteurs V sera dit de classe C e $ < q , si les fonctions aj sont de
classe Ce sur A n U .

5. ALGÈBRE DES FORMES DIFFÉRENTIELLES

Soient X une variété différentiable de classe Cq:q 2 1,et z un point de X .


On considère la puissance extérieure rièmesur R,A'T: ( X ) ,de l'espace cotan-
gent TZ ( X ) à X en z. Pour la définition et les principales propriétés de la puis-
sance extérieure rièmed u n espace vectoriel le lecteur pourra consulter [Lan].Dans
le cadre qui nous intéresse nous allons utiliser l'interprétation plus concrète sui-
vante de la puissance extérieure dème.
Par définition A o T Z ( X ) = R et si T 2 1,comme T , * ( X )est le dual de T x ( X ) ,
on identifie h'T,* ( X ) avec le R-espace vectoriel des formes r-linéaires alternées
sur T, ( X ) ,c'est-à-dire les applications r-linéaires
w : T X ( X )x . . . x T 2 ( X ) +R
\
" /

r-fois
telles que si v1, . . . ,v, 6 T, ( X ) et a est une permutation de { 1, . . . , T }
w(vu(l),. . . , v u ( r )=
) sign(g)w(v1,. . .,vr)
où sign(a) désigne la signature de la permutation a. En particulier w ( v 1 , . . . , v T ) =
O si vi = vj pour i # j.

Remarque: On a A I T , ( X ) = T , * ( X ) et si T > dimT,(X) = d i m X , alors


A r T Z ( X ) = {O}.
212 A. Variétés différentiables,formes différentielles

On appelle algèbre extérieure de T; ( X )la somme A'T; ( X ) = @ ArT; ( X ) .


r>O

A. Produit extérieur
Le produit extérieur d u n e r-forme w de A r T Z ( X ) et d'une s-forme q de
+
A s T ; ( X ) est une ( r s)-forme, notée w A q, définie par

où l'on somme sur toutes les permutations a de l'ensemble (1, . . . ,r s}. Si r ou +


s est nul, par exemple T = O, w est un nombre réel et on pose w A 7) = wq.

Les relations précédentes et la distributivité par rapport à l'addition permettent


de définir le produit extérieur de deux éléments quelconques de A'T; ( X ) .On ob-
tient ainsi une loi de composition interne sur A'T; ( X ) que l'on note A. On vérifie
aisément que A est associative mais pas commutative. On a néanmoins
wAq= (-l)TSqAwsiw~ArTj(X)et~~AST,*(X).

Soient (U,h)une carte de X au voisinage de z et ( 2 1 , . . . ,z,) les coordonnées


locales associées. Pour r E { 1, . . . ,n}ia famille
{ ( d z j , ) z A . . . A (dxj,.)x,l5 ji < ... < j r 5 n}
est une base de A r T ; ( X ) , en particulier d i m A ' T , ( X ) = cn et toute r-forme w
de ArTZ ( X ) s'écrit

. . , j r ) de
où la sommation se fait sur les r-uplets strictement croissants (jl,.
(1,.. . ,n}'et
(dz~)=
, (dzj,), A . . . A (dzj,), si J = (jl,. . . , j r ) .
Remarquons que les coordonnées a J de w dans cette base sont données par
aJ=w((-),a ,..., ( - )a, ) s i J = (jl,...,j r ) .
8% 8%

Définition 5.1. SoientX une variétédifférentiablede classeCq,q 2 1,e t A un ouvert


de X . Une r-forme différentielle ou forme différentielle de degré T sur A est une
applicationw : A + A ' T * ( X ) = U A ' T ; ( X ) tellequep O w = Id s i p est ZQ
XEX
projection naturelledeA'T*(X) s u r X .
Soient (U,h)une carte de X et ( X I ,. . . ,zn)les coordonnées locales associées.
Si w est une r-forme différentielle sur A et si z E A n U on a
5. Algèbre des formes différentielles 213

~ forme différentielle de degré r définie par z Ç-) ( d z ~ ) , .On a


On notera d z la
donc w I = a J d z J où les U J sont des fonctions définies sur A n U .
J = ( j , 1 . . .,&I
j , <...<j,
La forme différentielle w sera dite de classe Ce,! < q, si et seulement si les fonc-
tions U J sont de classe Ce sur A n U . On noteraC:(A) l'espace vectoriel des formes
différentielles de degré r de classe Ce sur A.
Si w E CT(A)et q E C':(A),la forme différentielle w A q définie par w A q ( z )=
~ ( zA )q ( z )pour tout z E A est un élément de C:+,(A).La forme différentielle
d z ~J, = ( j l , . . . ,jr)
est donc le produit extérieur dxj, A . . . A d z j r .
Considérons l'espace vectoriel @ C:(A),le produit extérieur A que nous ve-
r20
nons de définir est une loi de composition interne sur @ C:(A) ; @ C:(A) est
r20 r>O
alors une algèbre appelée algèbre des formes différentielles de classe Ce sur A et
notée Cf(A).

B. Différentielle extérieure
Comme on l'a vu dans l'exemple 3.5, la différentielle df d'une fonction f de
classe C'sur un ouvert A de X , définit une 1-formecontinue sur A ;on a donc une
application d : C 1( A )+ C:(A) qui de plus satisfait la règle de Leibnitz
d u g ) = gdf + f d g
(cela se vérifie aisément à partir de la définition).
On veut étendre d à toute l'algèbre C!(A),l 2 1.

Théorème 5.2. Soient X une variété différentiable de classe CQ,q 2 2, et 1 un entier


tel que O 5 e < q. Il existe une unique application linéaired : Ci ( X ) -+ C: ( X )qui
vérifie
1) df est la différentielle de f si f E C' ( X ) ,
e
2 ) s i l 5 < q e t r 2 O alorsdw E Cf,:(X) siw E C:(X),
3)si f E C e ( X ) , 25 l 5 q, alorsd(df)= O,
4)siwl E C,'(X) etw2 E C s ( X ) alors
d(w1 A ~ 2 =) dwl A wz + ( - l ) r ~Al dW2.
L'application d ainsi déflnie est appelée différentielle extérieure sur X .

Démonstration. Remarquons tout d'abord que, si d existe, d est un opérateur local,


c'est-à-dire que si w1 et wz sont deux formes différentielles de degré T sur X qui
coïncident sur un ouvert U de X alors dwl et dw2 coïncident sur U . Pour cela,
montrons que si w E C,?(X)est nulle sur U dors dw = O sur U. Soit x E U et
=
f E C ' ( X ) telle que f (z) = O et f 1 auvoisinagede X \ U ,alors si w E C f ( X )
est nulie sur U , on a w = f w . D'après la propriété 4) de d,
dw = d( f w ) = df A w +fdw
214 A. Variétés différentiables, formes différentielles

et puisque f ( x ) = O et W ( X ) = O, on obtient d w ( z ) = O.
Pour prouver l'unicité d'un opérateur d satisfaisant ij, 2j, 3j et 4) il suffit donc
de considérer le cas où X est un domaine de carte U de X . Si (U,h)est une carte
de X et ( 2 1 , . . . ,xn)les coordonnées locales associées, w E C: ( U )s'écrit

J
où J = ( j l , . . . , j r ) E W , j , < . .. < j r , d x j = dxj, A . . . A d x j ? et U J E C'(U).
Puisque d est linéaire et d ( d x j ) = O, en appliquant 41, on obtient

et d est donc entièrement déterminé par sa valeur sur les fonctions.


L'opérateur d , s'il existe, étant local et unique il suffit de prouver son existence
dans un domaine de carte U . De plus par linéarité il suffit de définir d sur C:(U).
Soient (U,h)une carte de X et ( X I , . . . ,xn) les coordonnées locales associées. Si
w E CP(U),
W = aJdxJsurU

on a

dw = aaJ
daJ A d x J = -dxj A d x J sur U.
J = ( j ï ,...j,) J = ( j 1 , . . . j vj=i
)
dXj
j 1 <...<j, jl <...<j,

On vérifie facilement que d satisfait i), Z),3) et 4 ) . O

Coroiiaire5.3. Si2 5 C 5 q, d ( d w ) = O, pour toutw E C f ( X ) ;

Démonstration. I1 suffit de prouver le résultat dans un domaine de carte. Soient


(U,h) un domaine de carte et ( X I , . . . ,xn) les coordonnées locales associées. Si
w E C ; ( X ) ona

et

J = ( j i ,...fr)
Ji<...<jr

Alors d(dw1,) = ( d ( d a J )A d x J - d a J A d ( d z J ) )enutilisantlapro-


J = ( j i , ...,j v )
j1 <...<j,.
priété 4) et la linéarité de d. Grâce à la propriété 31 de d , d ( d a J ) = O et comme
d ( d x J ) = d ( d x j , A . . . A d x j , ) on déduit des propriétés 4) et 3) de d que d ( d z j ) =
O. Finalement on a bien d ( d w IV)
= O. O
5. Algèbre des formes différentielles 215

C. Image réciproque
Soient X et Y deux variétés différentiables et p : X + Y une application de
classe C1. Pour tout z E X , l'application p induit une application d p x de T x X
dans T p ( x ) Y ,
définie de la manière suivante : d p x (v)est la classe de la courbe po Q
où Q est un représentant de v E T, X . Par transposition on obtient une application
pz : h'T;(zlY -+ A'TZX. Elle est définie par

p;W(vl,...,vT) =W(d~z(vl),...,dllx(~r)),Si~l, . . ' , v rE T,X.


Si w est une forme différentielle sur un ouvert W de Y ,on définit une forme diffé-
rentielle p * w sur p - l ( W ) en posant ( p * w ) ( z ) = & ( w ( p ( z ) ) ) pour tout z dans
p - ' ( W ) . C'est i'image réciproque de w par p. On vérifie que pour les fonctions
f E C 1 ( Y ) , p * f = f O p et puisque l'opérateur d coïncide dans ce cas avec la
différentielle usuelle

d h * f ) ( z ) = d ( f O p)(z) = d f ( P ( Z ) )O d P ( Z ) = P * ( d f ) ( S ) .

Soient (U,h)et (V,k)deux cartes de X et Y respectivement définissant les co-


ordonnées locales ( 5 1 , . . . J,) et ( Y I , . . . ,ym). On suppose que p(U) c V .Soit w
une forme différentielle sur un ouvert W de Y dont la restriction à V n W s'écrit

Wlvnw = bJdyj1 A . . ' A d y j , ,


J=(j,,...,j,)
jl<...<j,
alors
p*w = bJ pd(Yj1 A ' ' .A d(yj, CL).
J = ( j i,...,j T )
ji<...<j,

Proposition 5.4. Soient X et Y deux variétés différentiables de classe C Q et p une


application de classe C q de X dans Y .
i) L'image réciproque p* est un homomorphisme d'algèbre de Co ( Y )dans
C,O( X )qui vérifie
~ * ( c ; ( Yc)c;(x)
) si0 5 e < q etr 2 O .
ii) p* commute avec les différentielles extérieures d x et d y sur X et Y . Plus
précisément si w est une forme différentielle de classeCe,î 5 e < q, sur Y alors

d x ( p * w )= P*(dYW).
iii) Si Z est une variété différentiable de classe C q et X : Y + Z une applica-
tion de classeCq alors
(A o p ) * = p* O A*.

Démonstration. i) résulte de l'écriture en coordonnées locales.


216 A. Variétés différentiables,formes différentielles

On obtient iil en se plaçant dans un domaine de carte V de Y . Si w E C:(Y)


s'écrit

alors

J = ( j i .. , j r )
jl<,,,<jT

= p* ( dbJ A d y J )
J = ( j i ,...,jr)
il<...<&
= P*(dYW)
car p* est un homomorphisme d'algèbre et iil est vrai pour les fonctions.
Pour obtenir iii) il suffit d'appliquer la définition de l'image réciproque. 0

6. INTÉGRATION DES FORMES DIFFÊRENTIELLES

Dans cette section on s'intéresse à l'intégration des n-formes différentielles sur


une variété différentiable orientée de dimension n.

A. Variétés orientables

Définition 6.1. Une variété X de classe C Q de dimension n est dite orientable s'il
existe une forme différentielle0 dedegrén continuesurx qui nes'annule passurX.
Deux formes différentielles01 et 0 2 définissent la même orientation sur X s'il existe
une fonction f continue, positive sur X telle que 01 = f 0 2 . Une variété orientable
sur laquelle on a choisi une orientation est dite orientée.

Remarque :Pour tout II: E X , l'espace vectoriel AnTZ ( X ) est de dimension 1 donc
deux n-formes 01 et 0 2 continues qui ne s'annulent pas sur X diffèrent d u n e
fonction continue sur X qui ne s'annule pas, cette fonction garde donc un signe
constant sur chaque composante connexe de X . Si X est orientable et connexe il y
a donc exactement deux orientations possibles sur X .
6. Intégration des formes différentielles 217

Si X est orientée par R, le système de coordonnées locales (21,. . . ,x,) associé


à la carte (U,h)est dit positivement orienté si la forme différentielle dzl A . . .Adz,
définit la même orientation que R,
Soit p : (X1,Rl) -+ (X2,Râ) unC' difféomorphisme entre deuxvariétés diffé-
rentiables orientées X1 et X2, on dit que p conserve l'orientation si p*R2 = f R 1
où f est une fonction positive sur XI.

Exemples
1) Si (ti, . . . ,t,) sont les coordonnées usuelles de IRn, la n-forme différentielle
d t 1 A . . . A d t , définit une orientation sur R,.
2) Un ouvert non vide D de R" est une variété orientée si on le munit de l'orien-
tation induite par celle de R" .
3) Si D C IRn est un ouvert à bord Ck,k 2 1,l'orientation usuelle de D induit
une orientation sur bD de la manière suivante : soient x E bD et T une fonction
définissante de classe Ck pour D sur un voisinage U de x,i.e.
U n D = { y E u l T ( y ) <û}etdr(y)#ûsiyE U n b D .
Quitte à restreindre U ,on peut supposer qu'il existe un système de coordonnées
positivement orienté défini par une carte (U,h)avec h = ( T , x ~.,. . J,), les ( n -
1) dernières coordonnées formant un système de coordonnées locales sur bD n
U . On oriente alors bD fi U par la ( n - 1)-forme Z*(dz2 A . . . A dz,) où z est
l'injection de bD n U dans U . Cette orientation est indépendante du choix de la
fonction définissant T de D et s'étend à bD tout entier en utilisant une partition de
l'unité (cf chap. II, 8).
Si X est une variété de classe C*,q 2 1, de dimension n et (Ui,hi)et (Uj,hj)
deux cartes de X, alors
hi O h;' n
: hj(ui uj)+ R"
est une application de classe C*,q 2 1et on pose
dij(x) = det[J(hi O h;')(hj(z))] pourx E Ui n Uj
où J désigne la matrice jacobienne.

Proposition 6.2. La variété X est orientable si et seulement si X possède un atlas


{(Ui,hi)}i,~ telque, pourtouti,j E I , d i j ( x ) > û six E Ui n Uj.

Démonstration. On peut supposer que X est connexe. Soit R une forme différen-
tielle continue de degré n sur X qui ne s'annule pas sur X. Si (Ua,ha)est une carte
dont les coordonnées locales associées sont ( X I , . . . ,x,), on pose Ra = d z l A
. . . A dz,, c'est une n-forme continue, sans zéros sur U,. Pour tout a E X il existe
une carte (U,,h,) telle que a E Va et R = gaRa où ga est une fonction conti-
nue, strictement positive sur U, (il suffit de remplacer h a ( z ) = ( 2 1 , . . . J , ) par
(21,. . . ,zn-l, - 2), si nécessaire). De plus sur Ua n ub,on a Ra = da&,, et par
conséquent dab = 2 > O sur V a n ub.
218 A. Variétés différentiables, formes différentielles

Réciproquement, supposons que {(Uz,h,)},E~ est un atlas de X tel que pour


tout a , j E I,d,, > O sur U, n U,. Posons comme ci-dessus R, = dxl A . . . A
dx, si ( X I ,. . . ,xn)sont les coordonnées locales associées à la carte (U,,h,). Soit
(X,),~I une partition de classe Cq de l'unité subordonnée au recouvrement ( U Z ) a E ~
et posons R = xzR,. La forme différentielle R est de classe C"' et de degré n
%€I
sur X. De plus si a E X et si I, désigne l'ensemble des indices z E I tels que
a E supp x,,on a

on a R ( a ) # O. O

B. Intégration des formes différentielles


Nous allons considérer successivement le cas d u n ouvert de Rn puis celui
d u n e variété différentiable.

1) Cas d'un ouvert de R"


Soient U un ouvert de Rn et 77 E C: ( U ) une forme différentielle continue de
degré n à support compact dans U . I1 existe alors une unique fonction continue f
à support compact dans U telle que
77 = f dxl A . . . A dx,.

On Dose alors

où le membre de droite représente l'intégrale de f sur U par rapport à la mesure de


Lebesgue dans Rn .
Si W est un ouvert de R" et F : W + F ( W ) = U un difféomorphisme de
classe C1,la formule de changement de variable pour l'intégrale de Lebesgue dans
Rn donne
f(x)dxi...dx, - f(F(t))ldet(dF(t))Idtl...dt.,
L,W, - lw
Si F préserve l'orientation on a
det(dF(t)) > Opourtoutt E W
et alors
6. Intégration des formes différentielles 219

2) Cas d'une variété


Soient X une variété différentiable de classe Cq de dimension n orientée et
(U,h)une carte de X dont le système de coordonnées locales ( 2 1 , . . . ,zn) est po-
sitivement orienté. Si w E CE ( U )est une forme différentielle continue de degré n à
support compact dans U , on pose

où le membre de droite est l'intégrale de la forme (h-l)*w sur l'ouvert h ( U )de IW"
au sens du 1).
Vérifions que cette définition est indépendante du choix de la carte (U,h).Soit
(U,k) une autre carte dont le système de coordonnées locales est positivement
orienté, alors l'application F = h O k-' : k ( U ) -+ h ( U )est un difféomorphisme
de classe C' qui préserve l'orientation et d'après le cas étudié en 1)

L U )
(h-')*w= JL,, F*(h-l)*w =
.I,,,, (h-1O F)*w= JL(u)(k-l)*w
ce qui prouve l'indépendance cherchée.
Considérons maintenant le problème de l'intégration des formes différentielles
dont le support n'est plus contenu dans un domaine de carte.
Soit X une variété différentiable de classe Cq, de dimension n, orientable, il
existe alors un atlas U de X dont les domaines de carte sont connexes et tel que
pour deux cartes (U,k)et (U',h') de U on ait det J(h' O h - l ) ( y ) > O pour tout
y = h ( z ) , z E U ri U', où J désigne la matrice jacobienne, d'après la Proposition
6.2. Supposons X connexe, orientée et considérons un atlas U = ( U i , h i ) i Ecor-
~
respondant à l'orientation de X . Soit ( x i ) i Eune
~ partition de l'unité subordonnée
au recouvrement ( U i ) i E Si
~ .w est une forme différentielle continue de degré n, à
support compact dans X , on pose

On montre facilement que cette définition est indépendante du choix de la partition


de l'unité et de l'atlas correspondant à l'orientation. Si X n'est pas connexe, on pose
sx w=
iEi
sx
'
w où les Xi sont les composantes connexes de X .

L'expression sxw définie ci-dessus s'appelle l'intégrale de la n-forme différen-


tielle w sur la variété orientée X. On remarque que si l'on change l'orientation de
X , l'intégrale est multipliée par -1.

Remarque :On n'a défini l'intégrale que pour les formes différentielles continues à
support compact, il est clair que comme dans le cas de Rn on peut étendre cette
notion à d'autres classes de formes, par exemple les formes à coefficients L1.
220 A. Variétés différentiables, formes différentielles

7. THÉORÈME DE STOKES

Nous ne prouverons pas dans ce paragraphe le Théorème de Stokes sous ses


hypothèses les plus générales mais seulement le cas particulier qui est utilisé dans
ce livre.

Théorème 7.1. Soit X une variété différentiable orientée de classe CQ,q 2 2, de di-
mension n et soit D CC X un ouvert relativement compact dans X à bord de classe
c1.S i w E c:-,(D) aiors

Remarques
1) L'hypothèse de régularité sur w signifie que w est définie et continue sur et
que les coefficients de w dans un système de coordonnées locales associées à une
carte (U,h ) sont de classe C1 dans U nD, c'est-à-dire que les dérivées partielles de
ces coefficients définies sur U n D s'étendent continûment à U n D.
2) L'orientation de bD est supposée être l'orientation induite par celle de D et
on a posé

où i est l'injection de bD dans X .

Démonstration du Théorème 7.1. L'ensembleD étant compact, on peut trouver un


e
nombre fini de cartes (U,,h,)l<,ie de X telles que DC u U, et si U, f l bD#0
i=1
pour un certain 2, aiors h, = (r,hl)où hl : Vi + IRn-' est défini par restriction à
U, n bD des coordonnées locales sur bD et D n U, = {x E U, I -1 < r ( z ) <
O}. Soit (x,) une partition de l'unité de classe CQ subordonnée au recouvrement
(uz)l<zie. Par linéarité il suffit de prouver que

JbDnU,
xzw= L,, d ( x , w ) pour 1 F 5 e.
ConsidéronstoutdabordlecasoùbDnU, # 0,alors (U,nbD,i, = h:lbDnu,)
est une carte positivement orientée de bD. Pour simplifier les écritures nous note-
rons U à la place de U,, h à la place de h, et x à la place de xz.
n

On pose ( h - ' ) * ( x w ) = g j ( t ) d t l A . . . A dtj-1 A dtj+' A . . A d t , où les


+

j=l
g j E C1( u n O)sont à support compact. Alors
( k - ' ) * i * ( x w ) = gl(O,tz,. . . ,tn)dtz A . . . A d t ,
et
7. Théorème de Stokes 22 1

n
(h-')*d(Xw) = d ( ( h - l ) * x w ) = x ( - l ) + l % d t l A A dt,.
j=l
dtj

Puisque h ( D n U ) c { t E IRn I -1 < tl < O } , ona


... dt,.

Les fonctions gj étant à support compact, on obtient

%dtj =O j = 2, ...,n et

=/ h(bDnU)
(k-l)*i*(xw) =

Supposons maintenant que Ui n bD = 0. On peut supposer que Vi c D et


puisque JbDnU, x z w = O, il suffit de prouver que su,
d ( x i w ) = O. En reprenant les
calculs du cas précédent, on remarque que l'on doit intégrer sur IRn des dérivées de
fonctions C' à support compact et que l'indice j = 1 se comporte cette fois comme
les autres et par conséquent su,
d ( x i w ) = O. O

Remarques 7.2
1) Si X est une variété compacte et X = D alors bD =
toute forme w E ~ ? : - ~ ( x ) .
0 et sx dw = O pour

2) On peut étendre facilement le Théorème de Stokes aux domaines à bord de


classe C' par morceaux définis de la manière suivante : il existe un recouvrement
fini { U I , .. . ,Ut} de bD par des ouverts de X et des fonctions ri E C'(!Yi) telles
que

et pour tout sous-ensemble {il, . . . ,iv} de { 1, . . . ,e} on a dri, A . . . A driY #


On note Ci = {x E Vi I ri(.) = O } & = Ci n bD alors
O sur Ui, A . . . A Viy.
les ensembles s i sont des variétés et bD =
C
U Si. Si on pose
i=l
sbD w=
;=I
C
sosa w la
formule de Stokes est encore valable.
Annexe B

Théorie des faisceaux

Cette annexe réunit les éléments de théorie des faisceaux nécessaires à la compréhen-
sion de la démonstration de l’isomorphisme de Dolbeault donnée au chapitre V.

Définition 1. SoitX un espace topologique. Un préfaisceau 3 sur X est la donnée


il pour chaque ouvert U de X d’un ensemble non vide 3(U ) ,
ii) pour chaque couple (U,V)d’ouverts de X tel que U c V d’une applica-
tion de restriction
PUV : 3 ( V )+ 3(W
telle que
1) pour tout ouvert U de X , puu = I ,
2) si U c V c W alors puw = puv O p v ~ Si. s E 3(V )on écrira souvent
I
pour simplifiers à la place de p u v s .
Si les ensembles 3 ( U )sont des groupes abéliens (resp. des anneaux) et les ap-
plications puv des homomorphismes de groupe (resp. d’anneau), le préfaisceau F
est un préfaisceau de groupes abéliens (resp. d’anneaux). Dans ce cas 3 ( 0 ) = {O}.
Si 3 et Ç sont des préfaisceaux de groupes abéliens (ou d’anneaux), un mor-
phisme de préfaisceau ‘p : 3 + Ç est une collection d’homomorphismes ‘pu :
<(U) + Ç ( U ) qui commutent avec les applications de restriction, i.e. telle que
3
Puv O cpv = vu O Puv.

Définition 2. Un préfaisceau 3 est un faisceau si et seulement s’il satisfait aux


axiomes de recollement.
( R I )Sis1,s2 E 3 ( U ) oùU = U Vi etsipu,usl = P U , U S Z pourtouti E I
%€I
alorssi = s2.
(Rz)Si U = u Ui et si pour chaque i
%€I
E I il existe si E 3 ( U i ) vérifiant les
conditions de compatibilité
224 B. Théorie des faisceaux

alorsilexistes E 3 ( U ) telle que pu,^^ = si.

Exemples :Si X est une variété analytique complexe O, C&, O 5a 5 CO, VL,q
sont des faisceaux sur X .

A. Cohomologie de Cech à valeurs dans un faisceau 3


Soient X un espace topologique, 3 un faisceau de groupes abéliens sur X et
U = (Ui)iE~ un recouvrement ouvert de X . Sip E N,on note a = ( ( Y O , . . . ,ap)
tout élément de IP+' et on pose U, = U,, n. . TWO,.Unep-cochaînec du recou-
vrement U à valeurs dans 3 est une application qui à tout élément a E IP+' asso-
cie un élément c, de 3 ( U a )et qui est alternée comme fonction de a. L'ensemble
CP(U,3) des p-cochaînes de U à valeurs dans 3 est muni d'une structure de
groupe abélien déduite de celle de 3.
On définit l'opération cobordhp : CP(U,3) + CP+l(U,F)par
P+ 1
(SPC), = (- l ) j C a o . . .&, ...aP + l lu,
j=O

où la notation & j signifie que l'indice aj a été supprimé. On pose CP(U,F)= O et


S P = O pourp < O. En degré O et 1 on obtient par exemple

1
p = 1,c = (C,,),(S c)ap. = (cp. - + CaB)IU,o,.
Le lecteur vérifiera aisément que S P + l O S p = O.

On note ZP(U,.F) = { c E CP(U,.F) I 6Pc = O } le groupe desp-cocycies à


valeurs dans 3 et
EP(U,F) = {Sp-lc I c E C p - y U , F ) }
le groupe des p cobords à valeurs dans 3,E p ( U , 3 ) est alors un sous-groupe de
Z.(U,F). On peut dors introduire le groupe quotient
H P ( U , 3 )= Z P ( U , 3 ) / E P ( U , 3 )
on l'appelle le p-ième groupe de cohomologie de Cech de 3 relativement à U . Re-
marquons que si c est un O-cocycle alors c, - CO = O dans U, n Up pour tout a et
p. Les ( C , ) , ~ I définissent alors un élément s E 3(X)tel que slue = c,. Donc
H 0 ( U , 3 )= F ( X ) .

Maintenant, soit V = ( V , ) ~ , Jun autre recouvrement de X qui est plus fin que
+ I telle que V, c U p ( j )pour
U ,c'est-à-dire tel qu'il existe une application p : J
tout j E J . On peut alors définir une application p. : C ' ( U , 3 ) + C'(VIF) en
posant
-
(flC)~O-% - Cp(<ro)...p(a,)lVe,,.,,~.
Cohomologie de tech à valeurs dans un faisceau 3 225

I1 est clair que cette application commute avec 6 et définit donc une application
p* : HP(U,F) -+ HP(V,F). Notons que l'application p* est indépendante du
choix de p . En effet, si p' est une autre application ayant les mêmes propriétés
que p , les applications p' et p'* sont homotopes. Définissons l'application hP :
C p ( U , F )+ Cp-'(V,F) par

Un calcul direct donne la formule dhomotopie


6P-l hP + hP+'SP = - Pp.

Par conséquent si c est un cocycle, on obtient p"c - p'c = Sh'c est un cobord et
p* coïncide donc avec p i * .
Considérons qu'un recouvrement de X est un sous-ensemble de P ( X ) ,la fa-
mille de tous les recouvrements de X est alors un ensemble et nous allons pouvoir
considérer la limite inductive des groupes H P ( U , 3 )par rapport à l'application p * .
Le p-ième groupe de cohomoiogie de cech de 3 sur X , H P ( X , 3 ) ,est la limite
inductive
H P ( X , F )= 9 H P ( U , 3 )
U
quandU décrit l'ensemble des recouvrements ouverts de X. Plus précisément, cela
signifie que les éléments de H P ( X , 3 )sont les classes d'équivalence dans l'union
disjointes des groupes HP(U,F) où un élément de H P ( U , 3 ) et un élément de
HP(V,.F)sont identifiés si leurs images coïncident dans H P ( W , T ) pour un re-
couvrement W de X plus fin que U et V .

Proposition 3. Soient X une variété différentiable de classe C" et E le faisceau des


germes de fonction de classe CM sur X . Si 3 est un faisceau de €-modules sur X ,
alors H P ( U , 3 ) = O pour toutp > O et tout recouvrementU de X . En particulier
H P ( X , 3 ) = O pourp > O.

Démonstration. Soient c E Z P ( U , 3 )et ( ( p i ) i € ~une partition C" de l'unité subor-


donnée au recouvrement U . Si a E IP, on pose
c; = (pica,.
i€I

I1 est clair que c' E CP-' ( U , 3 ) ,car 8est un faisceau de &-moduleset si Q E P+'
P
(Sp-lc'), = ~ ( P i ~ ( - l ) ~ C i a o . . . â , . . . , =
p &7i(Ca - (6PC)iao...a,)
iEI j=o iEI

= (pic, = c,
iEI

car c est un cocycle. Ce qui termine la démonstration.


226 B. Théorie des faisceaux

B. Suite exacte longue de cohomologie


Soient F$,% trois faisceaux de groupes abéliens sur X , cp et $des morphismes
de faisceau tels que la suite
O + F + Ç 4 % 4 0
soit exacte, c’est-à-dire cp est injectif, $ est surjectif et l’image de cp est égale au
noyau de $.
Cette suite exacte définit une suite exacte
O 4 C P ( U , F ) + C”(U,Ç) 4 C”(U,E)
mais en général la dernière application n’est pas surjective. On note C,$(U,%)
l’image de CP(U,Ç) dans CP(U,%). On voit facilement que 6 envoie C,$(U,E)
dans C;” (U,%).On a ainsi défini le complexe des cochaînes relevables et on note
H ; ( U , E ) les groupes de cohomologie associés. On obtient alors la suite exacte
O +C P ( U , F ) + C”(U,Ç) 4 C,$(U,%)+ o.
Le théorème suivant résulte alors directement du Lemme du serpent, que nous ex-
poserons à la fin de cette annexe.

Théorème 4. Il existe un morphisme de connexion


6’ : H;(U,%) --+ H P + l ( U , F )
et une suite exacte longue

5 HO(U,Ç) -%H i ( U , % ) d; H ’ ( U , F )
O --+ HO(U,F)
-5Hl(U,Ç) 5H i ( U , % ) it H 2 ( U , F ) 4. . .
où cp* et $* sont les applications naturellement induites par cp et $,
Si V = (V,)jEjest un recouvrement plus fin que U et p : J -+ I une applica-
tion telle que V, C U,,j) pour tout j E J , on peut définir comme précédemment
une application
p* : H,$(U,%)--+ H,$(V,%)
qui est indépendante du choix de p.

Théorème 5. Si X est paracompact (c’est-à-diresi X est séparé et si tout recouure-


ment de X admet un recouvrement plus fin localementfini) et si
O+F+Ç+E+O
est une suite exacte defaisceaux, il existe une suite exacte longue
O +HO(X,F) --+ HO(X,Ç) +HO(X,R) +H ’ ( X , F ) --+
+H 1 ( X , Ç )4 H l ( X , X ) +H 2 ( X , F ) --+ . . .
qui est la limite inductive sur les recouvrementsU de X des suites exactes du Théo-
rème 4.
Lemme du serpent 227

Démonstration. I1 suffit de prouver que l'application naturelie


9 H $ ( U , X ) +lq,HP(U,3t)
U U
est un isomorphisme. Pour cela nous aiions montrer que toute cochaîne de 3t de-
vient relevable dans Ç après avoir pris un recouvrement plus fin.

Lemme 6. Sic E C P ( U , X ) ,il existe un recouvrementv = ( V j ) j E plusfin


~ queU et
uneapplicationp : J + I t e l s q u e p c E C ; ( V l î i ) .

Démonstration. Puisque X est paracompact, on peut supposer que U est locale-


ment fini. On peut choisir un recouvrement (Wi)i,l tel que wic Vi pour tout i.
Pour chaque x E X, choisissons un voisinage ouvert V, de x tel que
i) si x E Wi, alors V, c Wi,
ii) si x E Vi ou si V, n Wi # 0, aiors V, c Vi,
iii) si x E V,, Q E Ip+',alors c, E C p ( U , , X ) se relève dans Ç(V,).
Un tel voisinage V, existe car par définition des morphismes de faisceaux toute
section de 3t se relève localement en une section de G et comme x n'appartient qu'à
un nombre fini d'ensembles Wi (resp. Vi)on n'a besoin de relever qu'un nombre
fini de section et il n'y a qu'un nombre fini de condition pour satisfaire i) et ii).
Choisissons p : X -+ I telle que 5 E W f ( , )pour tout x. La condition i)
implique alors V, C IVf(,) donc le recouvrement V = ( V z ) z ,est
~ plus fin que
U.Si Vzo...,p# 0, on a
v,, n Wf(,,) 3 KOn K, # 0 pour 0 5 j 5 P
et donc V z o c U f ( z o ~ . . .daprès
f ( z p ) ii). La condition iii) implique que la section
c ~ ( ~ ~ ) . .se. relève
~ ( , ~dans
) Ç(V,,) et en particulier dans Ç(V,o . . . , p ) . Par consé-
quent pPc est relevable dans G. O

C. Lemme du serpent
Un complexe de groupes abéliens ( K ' , d ) est une suite

où les K Qsont des groupes abéliens et les dQdes homomorphismes de groupe tels
que dQ+' O dQ = O . Les groupes de cohomologie associés au complexe ( K ' , d ) sont
les H Q ( K ' )= ker dq/ I m d Q - l .
Un morphisme cp du complexe ( K ' , d ) dans le complexe (L',b) est une suite
( V ~ ) ~ , dhomomorphismes
N de groupes cpQ : K Q -+ LQsatisfaisant les relations
de commutation
cpQ'l O dQ = 69 O cpQ.
I1 en résulte que cpQ(kerd Q ) c ker 6 9 et cpq(1rndQ-') c IrnbQ-'. Par conséquent
cp induit, pour chaque q, un homomorphisme CpQ : H Q ( K * + ) HQ(L*).
228 B . Théorie des faisceaux

Lemme 7. Soit
O --+ K' -f+ L' -% M' -+O

une suite exacte courte de complexes de groupes abéliens. Il existe alors un homo-
morphisme de connexion
799 : H Q ( M ' )-+ H Q + l ( K * )

telle que la suite longue de cohomologie

O +HO(K') --+ HO(L') + HO(M') 3 H l ( K ' ) -+


-+ H l ( L ' ) -+ H l ( M ' ) -5H 2 ( K * )+ . . .
soit exacte.
De plus pour tout diagramme commutatifde suites exactes courtes de complexes
de groupes abéliens.

O --+ K' --+ L' --+ M' + O

Le diagramme de suites exactes longues de cohomologie associe

est cornmutat$

Démonstration. Commençons par construire l'homomorphisme de connexion 6.


Considérons le diagramme commutatif suivant où les lignes sont exactes

1 1 1
O - + KQ 3 LQ 3 Mq + O
1 dq 1 1-Yq
6q

O -+ KQ+1 + LQ+1
@+I
$5MQ+1 --+ 0
1 dq+' 1 1-P+'
6q+'

0 --$ Kq+2 9 2 ~ 9 + 2 $2 ~ q f 2 -+

1 1 1.
Si m E keryq représente l'élément { m } de H q ( M ' ) dors 6{m} = {k} E
H q + l ( K )est la classe obtenue par la construction suivante
Lemme du serpent 229

k E Kq+1 's bQ[ I E


Pl

Lq+1
*q+1
c-) 0E
1
-Yq
Mq+1

L'élément e est choisi tel que $ q ( e ) = m, ce qui est possible car $Q est surjective.
Comme $ q + 1 ( 6 q e ) = yq(m) = O, il existe un unique élément k E KQ+ltel que
+
(pq+'(k) = bq.! à cause de l'exactitude de la ligne q 1. L'élément k est en fait
contenu dans ker dq+' car ( p Q f 2 est injective. En effet
@+2 ( dq + l IC) = P + ' ( ( p q + l k ) = P + ' ( S Q C ) = O =+ dQ+'k = o.
L'application 29q sera bien définie si on prouve que la classe de cohomologie { k } ne
dépend que de { m }et non du représentant m choisi. Soit 6 un autre représentant
+
de m, alors m = m yq-lp. Grâce à la surjectivité de $"', il existe X E LQ-'
telle que $-'(A) +
= p. Soit ë E Lq tel que $ q ( ë ) = m dp = $ q ( l + W I X ) .
+ +
Puisque la ligne q est exacte on a ë = 1 6 q - l ~ ( p q ( t c ) où IC. E ~q alors S q ë =
+ +
bq! b q ' p q ( ~=) ( p Q + ' ( k - ) où = k d 4 1 ~a .la même classe de cohomologie que
IC.
Montrons l'exactitude de la suite longue de cohomologie. Prouvons tout
d'abord que ker 194 = Im $ 4 . Si { m } E I r n $ q , on peut choisir m tel que
m = $?(e) avec bqC = O, il résulte alors de la définition de 294 que 29q{m} = O.
Réciproquement si d q { m } = { k } = O, cela signifie que k = @IC. donc @e =
(pq+'(k) = ( p q + l ( d q ~ ~= s i n = $"(a).
. ) bq((p'J(i;)) Alors e - @ ( I C . ) E ker6q et
m = $ q ( [ - @ ( I C . ) ) donc { m } E Im$Q.
Montrons maintenant que Im 29q= ker +q+'. Soit { k } un élément de ker $q+'
alors cpq+l(k) E Irnbq, il existe donc C tel que cpqfl(k) = 691. Si m = $ q ( [ )
on a, par définition de 294, {k} = 29q{m}. L'inclusion inverse est immédiate par
définition de 29Q.
La démonstration de l'égalité Im = ker $ q ainsi que la commutativité du
+Q

dernier diagramme sont laissées au lecteur, O


Annexe C
Analyse fonctionnelle

Nous désignerons par E et F des espaces de Banach sur @.

Définition 1. Une application 1inéaireT de E dans F estcompacte sipour toutsous-


ensemble borné U de E , T (U ) est relativement compact dans F .

Remarque :I1 résulte immédiatement de la définition qu’une application linéaire


compacte est continue.
Rappelons les propriétés classiques des opérateurs compacts

Théorème 2. Soient E un espace de Banach, T une application linéaire compacte de


E dans lui-même.
+
1) dim ker(1 T ) < +m.
ii) Im(I + T ) est un sous-espacefermé de E .
+
iii) dim ker(1 T ) = dim(E/ Im(1 T ) ) . +
Le lecteur intéressé par la démonstration de ces résultats pourra consulter [Ru].

Définition 3. On appelle opérateur de E dans F une application linéaire T définie


sur un sous-espace vectoriel D ( T ) de E à valeurs dans F . L‘espace D ( T ) est le do-
maine de définition de T .
Le graphe Ç( T ) de l’opérateurT est le sous-espace vectoriel de E x F formé des
couples ( z , T ( z )oùz
) décritD(T).
Un opérateur T de E dans F est dit fermé si le graphe Ç ( T ) de T est un sous-
espace vectorielfermé de E x F .

Remarque :D’après le théorème du graphe fermé un opérateur T de E dans F est


une application linéaire continue de E dans F si et seulement si D ( T ) = E et T
est fermé.
Les propositions suivantes sont prouvées dans l’appendice 2 de [HelLe 11. Pour
la commodité du lecteur nous les redémontrons ici.
232 C. Analyse fonctionnelle

Proposition 4. Soit T un opérateur fermé de E dans F de domaine de définition


D ( T ) . Supposons que T ( D ( T ) )soit de codimensionfinie dans F , alors T ( V ( T ) )
est un sous-espace vectoriel fermé de F .

Démonstration. Notons n la codimension du sous-espace T ( V ( T )dans ) F . Choi-


sissons une application linéaire S : C” + F telle que Im S T ( D ( T ) )= F . +
Soit T’ l’opérateur de E @ C” dans F dont le domaine de définition est D ( T ’ ) =
D ( T ) @ C” et qui est défini par T ’ ( z )= T ( z )pour z E D ( T ) {O} et T’(z)=+
S(z) pour z E {O} @ C”. L‘opérateur T’ est fermé et T ’ ( D ( T ’ ) =) F.
Munissons D ( T ’ ) de la norme graphe associée à l’opérateur T’, i.e. si z E
= IIzlI
D ( T ’ ) , IIzIlr,, +
llT’(z)ll,D ( T ’ ) est alors un espace de Banach. En
effet soit (Z”)”CN une suite de Cauchy dans (D(T’),ll /IrT,)alors ( X , ) , ~ N et
(T’(z,)),~N sont des suites de Cauchy dans les espaces de Banach E @ C* et F .
I1 existe donc z E E @ C” et y E F tels que lim z, = x et lim T’(z,) = y.
71-03 n-03
L‘opérateur T’ étant fermé x E D ( T ’ )et y = T ( z )par conséquent z, tend vers z
dans (D(T’),llIr,,).
Posons ker T’ = {x E D(T’) I T ’ ( z ) = O } , c’est un sous-espace fermé de
(D(T’),ll[IrT,)car T’ est un opérateur fermé. L‘espace vectoriel D ( T ’ ) / ker T’
est donc un espace de Banach. Notons !?’ l’opérateur de D ( T ’ ) /ker T’ dans F
h

induit par T ’ , c’est une bijection de D ( T ’ ) / ker T’ sur F qui est continue car T’ est
un o p é r h u r fermé. Le théorème de l’application ouverte implique alors que son
inverse (TI)-’ est un opérateur linéaire continu de F sur D ’ ( T ’ ) /ker T ’ . On a

T ( D ( T ) )= ( ( ? ) - ‘ ) - ‘ ( D ( T ) + {O}/ ker T’)


+
et D ( T ) {O}/ ker T’ est un sous-espace fermé de D ( T ’ ) / ker T’ ; la continuité
de (TI)-’ implique donc que T ( D ( T ) )est un sous-espace vectoriel fermé de F . O

Proposition 5. Soit T un opérateur fermé de E dans F de domaine de déBnition


V ( T ) .Supposons que
i) T ( D ( T ) )= F .
ii) Il existe une application linéaire continue S de F dans E tel que Im S c
D ( T ) et I - T S est une application linéaire compacte de F dans lui-même.
Alors il existe une application linéaire continue? de F dans E telle que Im ? c
D ( T )etTF = I .

Démonstration. Posons K = T S - I,par hypothèse c’est une application linéaire


+
compacte de F dans F et T S = I K . D’après le Théorème 2 , il, ker T S est de
dimension finie il possède donc un supplémentaire topologique G dans F , i.e. G
est un sous-espace vectoriel fermé de F et F = G e k e r TS. D’aprèsle Théorème 2
iil et iiil,Im T S est un sous-espace vectoriel fermé de codimension finie dans F , il
admet donc lui aussi un supplémentaire topologique H dans F , i.e. H est un sous-
espace vectoriel fermé de F et F = H @ Im T S , de plus dim H = dim ker T S .
Analyse fonctionnelle 233

Puisque T ( D ( T ) ) = F , on peut construire une application linéaire R :


kerTS -+ D ( T ) telie que TR(kerTS) = H et T R ( z ) # O pour tout IC # O
dans kerTS (si ( e l , . . . , e k ) est une base de kerTS, ( h l , .. . , h k ) une base H
et &,i = 1 , . . . ,IC des éléments de D ( T ) tels que T ( & ) = hi, il suffit de poser
R(ei) = t i ) .On définit alors une application linéaire continue de F dans E en
posant
$(x) = S(z) si z E G
$(IC)
= R ( z ) si x E kerTS.

Alors T S est inversible et 5= S(TS)-l convient. O


Bibliographie

[Bo] BOCHNERs. - Analytique and meromorphic continuation by means of


Green’s formula, Ann. of Math. 44 (ig43),652-673.
[Brl] BREMERMANNH.J. - über die Aquivalenzder pseudokonvexen Gebiete
und der Holomorphegebiete im Raum von n komplexen Veranderli-
chen, Math. Ann. 128 (ig54),63-91.
[Br2] H.J. - Complex convexity, Trans. of the A.M.S. 82 (19561,
BREMERMANN
17-51.
[Ca/Thl CARTAN H. ET THULLEN P. - Zur Theorie der Singularitaten der Funk-
tionen mehrerer komplexen Veranderlichen, Math. Ann. 106 (ig32),
617-647.
[ci] CIRKAE.M. - Analytic representation of CR functions, Math. USSR
Sbornik 27 (ig75), 526-553.
[Ci/St] CIRKAE.M.ET STOUTE.L. - Removable singularitiesin the boundary, As-
pects of Math., Vieweg E26 (i994), 43-104.
[Di/Sc] DIEUDONNÉ J. ET SCHWARTZ L. - La dualité dansles espaces (F)
et (vF),
Ann. Inst. Fourier (Grenoble) 1 (ig4g),61-101.
[Dol] DOLBEAULT P. - Formes différentielles et cohomologie sur une variété
analytique complexe 1, Ann, of Math. 64 (1956),83-130.
[Do21 DOLBEAULT P. - Formes différentielles et cohomologie sur une variété
analytique complexe Il, Ann. of Math. 65 (ig57),282-330.
[Eh] EHRENPREIS L. - A new proof and an extension of Hartogs’theorem,
Bull. Amer. Math. Soc. 67 (1961),507-509.
[Gr] GFIAUERTH. - On Levi’s problem and the embedding of real analytic
manifolds, Ann. of Math. 68 (1958),460-472.
[GrlLi] GRAUERT H. ET LIEB I.. - Das Ramirezsche Integral und die Losung der
Gleichungd f = LY im Bereich der beschrankten Formen, Proc. Conf.
Complex Analysis, Rice Universityl969, Rice Univ. Studies 56 (1970),
236 Bibliographie

29-50.
[Gu] GUNNING R.C. - introduction to holomorphic functions ofseveral com-
plex variables,Wadsworth and Brooks Kole, Belmont, 1990.
[Harl HARTOGSF. - Einige Folgerung aus der Cauchyschen integralformel bei
Funktionen mehrerer Veranderlichen,Münch. Ber. 36 (1906),223-242.
[HalLaI HARVEY R. ET LAWSON B. - On boundaries o f complex analytic varieties
i, Ann. of Math. 102 (ig75),233-290.
[Hel] HENKING.M. - integral representations o f functions holomorphic in
strictly pseudoconvex domains and some applications, Math. USSR
Sb. 7 (1969),597-616.
[He21 HENKIN G.M. - integral representations o f functions in strictlypseudo-
convex domains and applications to the d-problem, Math. USSR Sb.
11 (1970),273-281.
[He/Lel] HENKIN G.M. ET LEITERERJ. - Theory o f functions on complex mani-
folds, Akademie-Verlag Berlin and Birkhaüser-Verlag Basel, Boston,
Berlin, 1984.
[He/Le2] HENKIN G.M. ET LEITERERJ. - Andreotti-Grauert theory by integral for-
mulas, Akademie-Verlag Berlin and Progress in Math. 74 Birkhaüser-
Verlag Basel, Boston, Berlin, 1988.
[Hol] HORMANDER L. - L2 estimates and existence theorems for thed opera-
tor, Acta. Math. 113 (1965),89-152.
[Ho21 HORMANDER L. - An introduction to complex analysis in several va-
riables, 2nd ed., North Holland Publishing CO.,Amsterdam, 1973.
[KolNi] KOHN J.J. ET NIRENBERGL. - A pseudoconvex domain not admitting a
holomorphic support function, Math. Ann. 201 (ig73),265-268.
KOPPELMANw. - The Cauchyintegral for differentialforms, Bull. Amer.
Math. Soc. 73 (1967),554-556.
KRANTZS.G. - Function theory ofseveral complex variables,John Waiey
and Sons, New York, 1982.
KYTMANOV A.M. - The Bochner-Martinelli integral and its applications,
Birkhaüser-Verlag Basel, Boston, Berlin, 1995.
LANG s. - Algebra, Addison-Wesley Publishing CO., 1972.
LAUFERH.B. - On the infinite dimensionalityof the Dolbeault cohomo-
logiegroups, Proc. Amer. Math. Soc. 52 (i975),293-296.
LAURENT-THIÉBAUT c. - Produits de courants et formule des résidus,
Bull. Soc. Math. France, 2e série 105 (i981),113-158.
LAURENT-THIÉBAUT c. - Sur l’extension des fonctions C R dans une va-
riété de Stein, Ann. Math. Pura ed. Appl. 150 (1988),141-152.
Bibliographie 237

[L-TiLe] LAURENT-THIÉBAUT c. ET LEITERERJ. - Andreotti-Grauert theory on real


hypersurfaces, Quaderni della Scuola Normale Superiore di Pisa, 1995.
LELONGP. - Les fonctions plurisousharmoniques, Ann. Ec. Norm. Sup.
62 (1945),301-338.
LELONGP. - La convexité et les fonctions analytiques de plusieurs va-
riables complexes, J. Math. Pures Appl. 31 (ig5z), 191-219.
LEVIE.E. - Studii siu punti singolari essenziali delle funzioni analitiche
di due O più variabili complesse, Ann. Math. Pura ed. Appl. 17 (igio),
61-87.
LUPACCIOLUG. - Someglobal result on extension ofCR objects in com-
plex manifolds, Trans. of the A.M.S. 321 (19901,761-774.
LUPACCIOLUG. - Characterisation ofremovable sets in stronglypseudo-
convex boundaries, Ark. Mat. 32 (igg4),455-473.
LUPACCIOLUG. ET TOMASSINI G. - Un teorema di estensione per le CR-
funzioni, Ann. Math. Pura ed. Appl. 137 (19841,257-263.
MARTINELLI E. - Alcuni teoremi integrali per le funzioni analitiche di
più variabili complesse, Mem. della R. Acad. d’Italia 9 (19381,269-283.
MARTINELLI E. - Sopra una dimostrazione de R. Fueterper un teorema
di Hartogs, Comm. Math. Helv. 15 (ig4z/43), 340-349.
NARASIMHANR. - Several complex variables, Univ. of Chicago Press,
Chicago, 1971.
NARASIMHANR. - Analysis on real and complex manifolds, 2nd ed.,
Masson et Cie, Paris, 1973.
E. - Surles domaines d’holomorphie des fonctions uniformes
NORGUET
de plusieurs variables complexes (passage du local au global), Bull.
Soc. Math. France 82 (19541, 137-159.
OKAK. - Collected Papers, Transl. by R.Narasimhan with comments by
H. Cartan, R. Remmert ed., Springer-Verlag, New-York, 1984.
RAMIREZ E. - Ein Divisionsproblem und Randintegraldarstellungen in
der komplexen Analysis, Math. Ann. 184 (1970),172-187.
RANGER.M. - Holomorphic functions and integral representations in
several complex variables, Graduate text in Math 108, Springer-Verlag,
New York, Berlin, Heidelberg,Tokyo, 1986.
DE RHAM G. - Variétés différentiables, Hermann, Paris, 1960.
ROSSI H.- The local maximum modulus principle, Ann. of Math. 72
(196O), 1-11.
ROSAYJ.P. ET STOUTE.L. - Rado’s theorem forCR functions, Proc. Amer.
Math. Soc. 106 (19891, 1017-1026.
238 Bibliographie

RUDIN w. - Functional Analysis, 2nd ed., Mc Graw-Hill International


Editions, 1991.
L. - Théorie des distributions, Hermann, Paris, 1966.
SCHWARTZ
SLODKOWSKI z. - Analytic set-valued functions and spectra, Math. Ann.
256 (i981),363-386.

[SPI SPIVAKM. - A comprehensive introduction to differential geometry, Pu-


blish or Perish, Inc., Houston, 1970-1979.
STOLZENBERG G. - Uniform approximation on smooth curves, Acta
Math. 115 (19661, 185-198.
STOUT E.L. - The theory of uniform algebras, Bogden and Quigley, Tar-
rytown on Hudson, 1971.
WEINSTOCK B.M. - Continuous boundary values ofanalytic functions of
several complex variables, Proc. Amer. Math. Soc. 21 (1969), 463-466.
Index des notations

Espaces de fonctions, de formes différentielles


espace des fonctions continues sur D 1.1
espace.desfonctions IC fois continûment différentiables surD 1.1

espace des fonctions indéfiniment différentiables sur D 1.1


espace des fonctions continues localement holdériennes 111.2
d'ordre (Y dans D
espace des fonctions de classe C k dans D 111.2
espace des formes différentielles de type (p,y) à coefficients 111.2
dans (D)
espace des formes différentielles de degré p de classe C" à 11.1
support compact dans X
espace des courants de dimension p sur X 11.1

espace des courants de degré y sur X 11.1

espace des courants sur X 11.2

espace des formes différentielles de classe C" à support com- 11.2


pact de X
espace des formes différentielles de type (p,y), d-exactes à v.4
coefficients dans C" ( X )
espace des courants d-exacts sur X v.4

espace des fonctions de classe C" sur X 11.1


espace des formes différentielles de degré p de classe c" II. 1
sur X
espace des formes différentielles de bidegré ( p , q ) de classe 11.7
C" sur X
espace des formes différentielles de classe C" dans X 11.2
240 Index des notations

Ep(X) espace des formes différentielles de classe Coo, de bidegré 11.7


( p , q )à support dans la famille O
-
d-cohomologie des formes C" v.4
-
d-cohomologie des courants v.4
groupe de cohomologie de Dolbeault de bidegré ( p , q ) de X 11.7
groupe de cohomologie de Dolbeault à support dans la fa- 11.7
mille O
groupe de cohomologie de Dolbeault Z,",,(D)/Ep!,2(D) v11.3

groupe de cohomologie de Cech du faisceau F v.4


espace des fonctions holdériennes d'ordre (Y dans D 111.2
espace des fonctions holomorphes sur D 1.1
espace des applications holomorphes de D dans Cm 1.5
faisceau des germes de p-formes holomorphes v.4
espace des fonctions plurisousharmoniques sur D v1.2
espace des formes différentielles de type ( p , q ) ,d-fermée à co- v.4
efficients dans C" (A)
espace des courants 8-fermés sur X v.4
espace des formes différentielles de type ( p , q ) ,de classe Coo,
- 11.7
8-fermées sur X
ZgyX) espace des formes différentielles d-fermées de classe Coo, de 11.7
bidegré ( p , q ) à support dans la famille O

<
boule de centre et de rayon r de CY 111.1

enveloppe holomorphiquement convexe de K relativement VI.1


àR
enveloppe psh-convexe de K relativement à R v1.3
<
polydisque de centre et de rayon T 1.2
bord distingué du polydisque P 1.2
support singulier du courant T 11.3
espace tangent en x à X A.4
espace cotangent en z à X A.3
espace tangent holomorphe en x à X 11.5
espace tangent antiholomorphe en x à X 11.5
Index des notations 24 1

Normes

Ilf Ilk,D norme Ck sur D 1.1


1l.f [ID norme uniforme sur D I. 1
If la,D norme holdérienne d'ordre a sur D 111.2
I4 norme sur @" I.1

Autres symboles
K(T,S) indice de Kronecker des courants T et S 11.3
[YI courant d'intégration sur Y II.1
Index terminologique

analytique coordonnées
ensemble analytique 13 coordonnées holomorphes 44
sous-variété analytique complexe 13, 179 coordonnées locales 205
variété analytique complexe 43 cotangent
atlas 204 espace cotangent 208
atlas complexe 43 espace cotangent en un point 207
biholomorphe 12 courant
Bochner courant de degré q 26
formule de Bochner-Martinelli 65 courant de dimension p 23
formule de Bochner-Martinelli- courant d’intégration 24
Koppelman 61 courants d’ordre 6 24
noyau de Bochner-Martinelli- différentielle
Koppelman 56 différentielle 207
Théorème de Bochner 80 différentielle extérieure 213
transformée de Bochner-Martinelli 73 dimension
bord distingué 4 dimension 204
bout 92 dimension complexe 43
carte disque analytique 131
carte 203 distribution 28
ouvert de carte 203 domaine d’holomorphie 109
Cauchy enveloppe
fonction Cauchy-Riemann (CR)77 enveloppe d’holomorphie 117
fonction C R de classe Cm 94 enveloppe holomorphiquement
formule de Cauchy 4 convexe 110, 179
inégalités de Cauchy 5 enveloppe psh-convexe 131
opérateurs d e Cauchy-Riemann exhaustion 132, 175
tangentiels 54 extension
système de Cauchy-Riemann homogène 2 élément d‘extension strictement pseudo.
champ convexe 176
champ devecteurs 211 extension strictement pseudo-
champ de vecteurs holomorphe 47 convexe 159, 177
cochaine 224 extension strictement pseudoconvexe
cocycles 224 élémentaire 157
cohomologie faisceau 223
groupe de cohomologie d e Cech 224 fonction définissante 51
groupes de cohomologie de Dolbeault 50 forme
groupes de cohomologie de Dolbeault forme différentielle 208
àsupport 51 forme différentielle de degré T 212
convexe germe 207
holomorphiquement convexe 112, 179 Hartogs
O(R)-convexe 112 phénomène de Hartogs 17, 91
O@)-convexe 190 propriété de Hartogs-Bochner Cm 94
244 Index terminologique

Hessien complexe 125 propriété de la sous-moyenne 120


holomorphe 2 pseudoconvexe
image pseudoconvexe 132
image directe 27 strictement pseudoconvexe 138, 174
image réciproque 27, 215 régularisées 30
indice de Kronecker 38 section de Leray 96
inversion locale 12 singularité illusoire 189
isomorphisme de Dolbeault 103 singularité illusoire faible 194
Kontinuitatssatz 131 sous-harmonique 118
Lemme de Morse 135 Stokes
Lemme de Schwarz 9 formule de Stokes pour l’indice de
Levi Kronecker 41
forme de Levi 125 Théorème de Stokes 220
polynôme de Levi 128 support
noyaux régularisants 30 support d’un courant 25
opérateur support singulier 38
domaine de définition d u n opérateur 231 tangent
opérateur 23 1 espace tangent 21 1
opérateur compact 231 espace tangent complexe 53
opérateur de Cauchy-Riemann 50 espace tangent en un point 209
opérateur fermé 231 théorème
opérateurs régularisants de de Rham 36 Théorème de Bochner 80
partition de l’unité 206 Théorème de l’application ouverte 8
plurisousharmonique Théorème de Montel 11
plurisousharmonique 124 Théorème de Rad0 16
strictement plurisousharmonique 125 Théorème de Riemann 15
polydisque 4 variété
préfaisceau variété analytique complexe 43
morphisme de préfaisceau 223 variété différentiable 204
préfaisceau 223 sous-variété analytique complexe 13, 179
principe du maximum 9 variété de Stein 179
produit extérieur 212