Math-Net.

Ru
Общероссийский математический портал

Joseph Liberman, Теорема Denjoy для производной от про-

извольной функции по непрерывной функции, Матем. сб.,
1941, том 51, номер 1, 221–236

Использование Общероссийского математического портала Math-Net.Ru подразу-

мевает, что вы прочитали и согласны с пользовательским соглашением
http://www.mathnet.ru/rus/agreement

Параметры загрузки:
IP: 196.200.180.29
29 декабря 2023 г., 00:56:13
1941 МАТЕМАТИЧЕСКИЙ СБОРНИК Т. 9 (51), N.1
RECUEIL MATHEMATIQUE

Theoreme de Denjoy sur la derivee d'une fonction arbitraire

par rapport a une fonction continue
Joseph Liberman (Leningrad)
Introduction
Soient f(x) et cp (x) deux fonctions finies arbitrages, definies dans le segment
[0, 1]. Determinons les nombres derives de Dini de la fonction f(x) par rapport
a la fonction cp (x) de la manlere suivante:
nombre derive superieur a droite

D+ [/ W ] - Пшх *$=$* • ой <? (x') > f (x),

nombre derive superieur к gauche

nombre derive inferieur к droite

т
л:' - > л: T V /

nombre derive inferieur a gauche

D- [f(x)] = Urn fi£Zff(& • T И < * W-

En certains points queiques-uns de ces nombres derives peuvent ne pas exister \.
Dans la suite, sauf avis contraire, on supposera toujours que les fonctions
finies f(x) et cp (JC) sont definies dans le segment 0 ^ л г ^ 1 et que pour
Г ensemble E1 des points de discontinuite de la fonction cp (x) on a Tegalite
mescp(£1) = 0" a e
Le but de cet article est de demontrer le
i Le probleme sur la determination d'une fonction f (x) par ses nombres derives
par rapport a <p (x) a ete etudie par:
L e b e s g u e (Lemons sur l'integration et la recherche des fonctions primitives.
Deuxieme edition, Paris, 1928),
G a c c i o p o l i [Atti Mem. Accad. Sci. Padova, 50, (1934)]
et
P e t r o v s k y [Rec. math., 41, (1934)].
2
Cette egalite a lieu si <p (x) est continue.
222 Joseph Liberman

T h e o r e m e 5. Pour tous les x£ [0, 1], sauf peut-etre un ensemble E tel que
mes cp (E) = 0, tous les nombres derives de Dini existent et verifient Vune
des relations:
1) D~ [/(*)] = 5+ [f(x)] = + oo, Z)~ [/(*)] = D+ [f(x)] = — oo,
2) D~lf(x)]^-oot-oo<n^[f(x)] = D^[f(x)]<+oo, D+f/(x)]^+oo ,
3) ^ r / W ] - + o o , - o o < D - r / ( x ) ] ^ 5 + [ / W ] < + o o , J D+|/W]=-oo>
4) _cx> < D~[f(x)] = D-[f(x)]= Dt[f(x)] = D$[f(x)] < + oo.
Le theoreme 5 sera demontre si Ton demontre le
T h e o r e m e 4. Pour tous les х£[0, 1], sauf peut-etre un ensemble E1 tel
que mes cp(£1) = 0, ou bien D~^[f(x)~\ existe et est egal d - | - o o , ou bien
E>^[f(x)] et Dy[f(x)] existent, sont finis et egaux.
Considerons dans l'espace XYZ a coordonnees xy y> z I'ensemble A des
points (x9 cp (x), f(x)). Designons par Enk I'ensemble des points (x, y, z)£A
tels que
Ъ*=1<х<*+1,
1
n ^ ^ n '
II) pour chaque point (x\ y\ z')£A tel que k—^ < xf < ^ t i et y'>y
on a Pinegalite
г' — 2 г < л ( у — у).
Theoreme 1. Si 3f [f(x)]ф-\-oo , // existe deux nombres entiers # >> 0
et k tels que (x, cp (x), f(x)) £ Enk.
D e m o n s t r a t i o n . Prenons une suite de couples d'entiers positifs (nit k)
( / = 1 , 2, 3 , . . . ) tels que

Supposons que pour tous les / (x, cp (л;), f(x))£Eniki. Alors pour chaque / il
existe un x.£[0, 1] tel que
et
* ^ < * / < ^ Г ' ?(*/)>?(*) / ( * / ) — / ( * ) ^ M ? (*/) — ? (•*))•
Mais alors /}j!~ [/(.*")] existe et

ce qui contredit aux conditions du theoreme. Ainsi le theoreme 4 et, par con­
sequent, le theoreme 5 seront demontres si Ton demontre le
T h e o r e m e 3. Pour tous les x £ [0,1], sauf peut-etre un ensemble E1 tel que
mes cp (&) = 0, si (x, ср(лг), f(x))£ %Enky alors D~\f{x)] et D+ [f (x)] exi-
stent, sont finis et egaux.
Dans le § 1 on demontre le theoreme 5.
D e f i n i t i o n . Nous dirons qu'un couple arbitraire de fonctions1 (f(x), cp (x))
1
Les fonctions considerees dans le present article sont toujours finies et determi-
nees dans le segment [0, 1J.
 Theoreme de Denjoy sur la derivee d'une fonction 223

verifie le theoreme de Denjoy si pour tous les -££[0,1], sauf peut-etre un ensem-
ble E, mescp(£) = 0, tous les nombres derives de Dini de la fonction f(x) par rapport
a la fonction cp (x) existent et verifient l'une des relations du theoreme 5 *.
Dans le § 2 on demontre les theoremes:
T h e o r e m e 8. Pour que le couple (f(x), cp (x)) verifie le theoreme de
Denjoy quelle que soit la fonction f(x), il faut et il suffit que Vensemble Ег
des points de discontinuite de y(x) verifie la condition mescp [E^) = 0.
T h e o r e m e 9. Pour que le couple (f(x), cp (л;)) verifie le theoreme de
Denjoy quelle que soit la fonction f(x), il faut et il suffit que les couples
((fW3> ?(•*)) et ((cp (л:) ——
J I) 3 , cp (x)) verifient le theoreme de Denjoy.

§1
2
L e m r a e 1. Si (x, y, z)£Eak , alors pour chaque point (x'y y\ z') £ A
tel que
6t У>У
~ < ^ < л
on a rinegalite
z' — z^n(y'—y).

D e m o n s t r a t i o n . Comme (лг, у, z) £ Enk e t y > j / , il existe pour chaque

£ > 0 un point (*",y\ z") €E n k tel que
n\y—y"\ + \z — z''\<e et У > / .
Alois d'apres la definition de Enk on a
z'— z"^n(y'— /).
Done,
z' — z^n(y'— y) + n\y— / | - J - | * _ z"\^n(y'— y) + e
et comme s est arbitraire
z1— z^n(y'— y),
ce qu'il fallait demontrer.
D'une maniere analogue on demontre le
L e m m e II. Si (x,y, z) et (x\y\zr) appartiennent a Enk et y'^y, on a
r
z — z^n(y'—y).
Dans la suite la projection de Tensemble P sur le plan YZ sera designee
par P r z , la projection de Pensemble P sur Гахе Y sera designee par PY.
L e m m e III. Pour tous les y^E^, sauf peut-etre un ensemble denom-
f f
brable, il n existe qu un seul z tel que (y, z) £ E^.
Pour demontrer ce lemme considerons l'ensemble M(m) de tous les y£EYk
pour lesquels il existe deux valeurs zx et z2 telles que

tV>*/)€££ z , \У\ + \*Л^>п (f=l,2) et Zl—z27&±.

1
Voir la p. 222.
2
Pour les notations topologiques voir F. H a u s d o r f f , Mengenlehre, Berlin,
1927. Le symbole E designe la fermeture de E.
224 Joseph Liberman

II est evident que chaque у exceptionnel appartient к un ensemble M(m) pour

un m assez grand.
Montrons qu'il n'existe pas de suite у £ M(m) telle que pour tous les q on
а уq<Cyq-v ®n sait qu'il en resulte que Tensemble M (m) est au plus de­
nombrable.
Supposons qu'une telle suite existe. Sans restreindre la generalite on peut
supposer que les points

\yq\ + \*iq\<*m ( / = 1 , 2) (flr=l, 2, 3 , . . . ) ,

z
\q—z4^1n ( ^ = 1 » 2 , 3,...),

sont choisis de telle maniere qu'ils convergent respectivement vers les points

(y,zx) et (y, z2). Alors ZX—Z2^- et \y\ + \z.\^m (/=1,2).

Si p^> q, alors en vertu du lemme II on a

z z
ig — 2P^n(yq—yp)-
Quand p tend vers oo, alors z2 tend vers z2 et nous aurons a la limite
z
iq — *2^п(Уд — У);

en faisant tendre q vers со, nous aurons — ^ 0, ce qui est impossible. Done,
1'ensemble considere est au plus denombrable et par consequent l'ensemble de
tous les у exceptionnels est au plus denombrable.
L e m m e IV. Pour chaque у £ E*k il existe un nombre fini N k (y) tel que
f
I) si у' >y et ( / , z ) 6 < / , on a

H) si y'<y et ( / , z') £ E™% on a

z
'^Kk(y)+ny'-
Demonstration. Comme y£E%k il existe un z tel que

Soit У^>у et (3;', z')^E^, alors en vertu du lemme II

2' — г ^ ; / 2 ( У — у )
pu, ее qui est le merne,
z' ^ (z — ny) -f- лу'.
et
Si У < . У (y'>z')€E%k> on a en vertu
^u Iemme
II
z— z'^n(y—y')
 Theoreme de Denjoy sur la derivee d'une fonction 225

ou, ce qui est le meme,

z' ^{z — ny) -f- ny'
et nous pouvons prendre pour Nnk(y) le nombre (z — ny).
L e m m e IV, 1. Si
SU
inf 3><0'<C P У et y\= sup y,

si d'ailleurs
У2= inf ^ y,
V^y'*y<:EYnk
alors y\ et y\ appartiennent d E%k.
Demonstration. Comme y\ = sup y, il existe une suite yvy2,...

convergeant vers y\ et telle que у^Ё^ et у^у1+г (/ = 1 , 2 , 3 , . . . ) . Si

tous les yt a partir d'un certain indice sont egaux, alors il sont tous egaux
a y\ a partir de cet indice et, par consequent, on a y\ £ EYk.
Si au contraire notre suite est essentiellement croissante, alors a partir d'un
certain indice m tous les^. (i^m) surpassentj^;^ est la projection sur Гахе Kdu
point (xrypzi)^Eak. Comme pour i^m tous les yt^>yu on trouvera, en
vertu du lemme IV, un nombre N tel que pour i^m on a
Zg^N+ny^N+ny1.
Comme y'<^ sup j / , il existe un y"^>y' tel que У б ^ . Alors en vertu du

lemme IV il existe un Nx tel que pour tous les / on a

z. ^ Nt -f- nyg ^ Nt -f- nyv

Done, la suite (x., y., z^ ( / = 1 , 2 , 3 , . . . ) est bornee. Done, on peut en extraire

une suite partielle convergente
2
(*ik> Уь* г*) (*=!» < 3> • • • ) •
Comme Enk est un ensemble ferme, le point limite de cette suite partielle
(x, уy z) appartient a Enk. Done, y$.EYnk. D'ailleurs, y=y\, done y'x £ EYnk .
D'une maniere analogue on raisonne pour y'r Le lemme est demontre.
Determinons sur Г ensemble EYnk une fonction £nk(y) en posant
тах
КЛУ)= _ z>
iy>*)tEYJ
si уф inf j / , et
min
ЬПЛУ)= _ M

si
y= inf j / et inf y^Elk.

15 Математический сборник, т. 9 (51), N. 1.

226 Joseph Liberman

II est evident que pour tous les У € E%k et y' £EYk tels que y'^>y on a l'ine-
galite

Etendons la definition de la fonction finie Zak(y) sur l'intervalle

( j / , = iirf y, y2 = sup y)
y(EL y<Enk
de la maniere suivante:
Solt уг <Cy' <Ly» et y' g ЪупЬ . Posons
y\ — sup _ у

[d'apres le .lemme IV, 1 у\еЩк1 et z\= tnk (y\);

Alors
[d'apres le lemme IV, 1 У , € £ j j et 4 = ^ 0 ^ ) . K ' l < + °° . C = 1 » 2 ) et

4 ~ *i<«0£— У)-
Posons
ЫУ)="(У-У)+4
on a
Alors, si У < С У < С X»
*«*(/)-*,*(/) = « ( / - / ) • (la)
On a d'ailleurs, d'apres la definition de £ яА (У),

£«*(/>-*«* (4)=«(/-*').
Done, comme ^ ^ ^ ( У ) et z'2 = Z,ttk{y2),

^(У'2)-^(У')^п(у-2-у'). (lb)
et alors
Soit . У б Д ^ У~>У\ J ' ^ y . Done,
^(У-^(У)^«(^-У)
et alors, en vertu de (lb),

Si y€.EYnk et j ; < y , on obtient

^(У)-^(У</г(У-у.
Soit maintenant у^Щк et 3 / > У ; alors, si y>y*v on a

^ ( У — ^(У'2)^П(У— y'J-
En faisant 1'addition de cette derniere inegalite et de l'inegalite (lb), nous obte-
nons
5„» 0 4 - * , * ( / ) < «tv-У)-
Si у<С.У'гу o n a la
relation (la). Done, pour tous \esy^(yl7y2) et У € (.УрЛ).
des que y^>y', on a pour la fonction prolonged l'inegalite
^(.У)-^(УХ"(^-У)- (i)
 Theoreme de Denjoy sur la derivee d'une fonction 227

T h e o r e m e 2. Presque pour tous les у dans Гintervalle (yvy2) la fonc­

tion c,hk (y) possede une derivee finie %nk (y).
En effet,
*i* iy)=ft* (У)—ПУ\+ПУ-
En vertu de Pinegalite (1) [Swjfe(v) — ny] est une fonction monotone, done £nk(y)
comme somme de deux fonctions monotones possede presque partout dans Fintervalle
(yuy2) une derivee unique et finie. Ainsi le theoreme est demontre.
L e m m e V. Si
*=-'<«*£
et
inf jv <C ^ (x) <C SU
P У>

on a

Demonstration. Soit У = sup y, alors, d'apres le lemme IV, 1,

on а У g Enk, done il existe un z' tel que

et
*'<5.*(У). (^
Soit <р(лг)€£^, Alors У<^ср(лг) et en vertu du lemme I on a l'inegalite
/W-^'<«[?W-y]. (b)
D'apres la definition de la fonction ^nk (y) on a
Ku [<p (•*)]=^ ft (*) - 3 / ' ] + ^ (У). (с)
On tire de (a), (b) et (c) l'inegalite

Soit cp (#) £ Д £ . Alors У = <p (л:) et pour chaque point (xrt, y", я") £ Л tel que
et o n a en v e r t u
——- <C•*" <C ~ У^?^) du lemme I rinegalite
n
z — z'^n[y" — ср(лг)].
Supposons que / ( * ) > S^ [<p (*)]• Alors /(лг) > * V done
* " — / w o СУ—?w].
Mais alors, comme ~~ <Глг<Г , on a
(х,ч(х),;(х))£Ел,
done, d'apres la definition de la fonction £nk(y),

Done, notre hypothese etait fausse et Ton a toujours

Le lemme est demontre.

15*
228 Joseph Liberman

L e m m e VI. Pour tous les у £ E„k, sauf au plus une infinite denombrable
de ces y, des que (x, y, z) £ E^, on a

2) // existe deux suites

(x., y„ z,) <= Еф et (x\, y)y z[) £ Enk (i = 1, 2, 3, . . . )

telles que
lim x.= lim x\=x, z^Zjy,), z't=ZM,

y.>y et y\<y (7=lf2,3,..J.

D e m o n s t r a t i o n . En vertu du lemme III on a z = £nk(y) partout, sauf

peut-etre au plus pour un ensemble denombrable Q de valeurs de y. Soient q >> 0
et p deux entiers positifs. Soit Епк;рд Pensemble des points (лг, у, z) £ Enk — Q
tels q u e ^ 1 - < * < £ ± - . Ц est evident que pour tous \es у£Е%к;рд, sauf au
plus un ensemble fini Q£| de telles valeurs de у *, il existe des points
( * ' . / , J)€Enk;Pq et {л?,У,2Г).€Еяк;рд tels que / > j > e t y < j / . II est evi­
dent, comme y1 et y" n'appartiennent pas к Q, que Ton a

II est d'ailleurs evident que

|лг — л г ' К - et \x — л г " | < - .

Posons

P*Q

L'ensemble Qak est au plus denombrable. Prenons un point (x, yy z) £ Enk tel
que y£Qnk et une suite de couples d'entiers positifs (п., k.) ( / = 1 , 2, 3, . . . )
tels que
я.>0, lim/*, = oo, lim — = л г et < - <^ - ^ — < - - I — .

Comme у £ Qn£> d'apres ce que nous venons de dire, il existe pour chaque /
deux points (xp yp z) 6 Enk et (x'p y'£1 z[) g Enk tels que

Prenons deux suites (xp yp z!) et (x'pyr z^). Ces suites verifient toutes nos con-
ditions.
En reunissant le theoreme 2 et les lemmes V et VI, on obtient le

1
II est evident que Qp^k contient deux elements au plus.
 Theoreme de Denjoy sur la derivee d'une fonction 229

T h e o r e m e 3 1 . Pour tous les x£[0y 1], saufpeut-etre un ensemble E1 tel

que mes y(E1) = 0, si

les nombres derives D^[f(x)] et D~[f(x)] existent, sont finis et egaux.

D e m o n s t r a t i o n . Soit e\k l'ensemble des y£EYnk pour lesquels ink(y) ne
possede pas de derivee unique et finie. Soit e\k l'ensemble des у forme de tous
les y— sup у et y= inf y. Soit Qnk le meme ensemble que dans le lemme VI.

Soit Ег l'ensemble des points de discontinuite de la fonction ср(лг) et soit

Comme mes cp (E1) = 0, on a

mescp(£i)<pies(S^ + ^ + Q J в
я, k

et en vertu du theoreme 2 et du lemme VI nous obtenons

mescp(£1) = 0. (1)
Comme (*, cp (JC),/(JC)) 62 ^ » N existe deux entiers / z > 0 et k tels que
(x,y(x),f(x))£Ettk, done
*=J<*<*±i
/2 ^ ^ /I

Comme d'ailleurs ®(x)€e2nk, on a

inf у <^ <p (лг) <[ sup j / .

Comme x£Ev le point x est un p o i n t d e с о n t i n u i t ё de la fonction cp (x)

et pour les x' voisins de л: on a
k
-^<xf<k-~ et inf
y<V(x')< sup y.

Done, en vertu du lemme V, on a

Comme y(x)£Qak, on a
/ ( * ) = £„» Dp (*)].
ou bien en soustrayant la seconde relation de la premiere
/ ( * ' ) — / ( * ) < 5 ^ [<p (x')] - 5 r t [cp (*)].
1
Dans la suite jusqu'a la fin de ce paragraphe nous nous appuierons toujours sur
ce fait que l'ensemble Ex des points de discontinuite de la fonction <p (x) verifie la
condition mes cp (Ег) = 0.
2
Le symbole cp-1 (E) designe l'ensemble 8 tel que <?{8) = E.
3
Le symbole mes cp (E) designe la mesure exterieure de l'ensemble cp (E).
230 Joseph Liberman

Si maintenant cp (x1) > cp (x), alors

f\x') -f{x) j n k [cp (x')] - \nk [у (*)]
_ ?(*') — ¥ ( * ) ^ ? ( i r ' , —?(;С) • I1)
Comme cp (x) £ ^ , il existe une derivee uriique et finie

et nous obtenons done en passant a la limite dans les deux membres de 1'ine-
galite (Г)

j£, f$Effi<*«ly)\nU- (2)

On obtient de meme
Hm f(x')-f(x) * /vl, , ч (3)
* — * Ф (X1) —- Ф (л:) ^ ^nk \У1 I jf=Ф Ы •
cp (л:') < ф (л:)

Comme v(x)£Qnk, il existe des suites x. et ^ . ( / = 1 , 2 , 3 , . . . ) telles que

1) l i m ^ . = \1тх.= х,
/-ИХ) /-*00

2) <p (лг;.)< to (x), <p ( * , ) > ? ( * ) ,

3) f(x[) = ^ [<p (УД /(x.) = ^ [ ? (x,)].
II suit de 1) et 2) que
D~[f(x)] et D 9 + [/(*)] existent. (1'")
On obtient de 1), 2), 3) et (1")
_ f(X')-f(x) nmf(Xi) f{x)==
x.^x <P (x ) — <p (x) , W o o ? (x,-) — <p (x)
9 (A'O > ? (*)

-•Z f w - f w — - 2 * * ( y ) l >=* <*> • (4)

On obtient de meme

Ф (*') < ? (x)

En reunissant (1"), (2) et (4) avec (1"') et (1"), (3) et (5) avec (1'"), nous voyons
que pour x^E1* les nombres derives de Dini D+[f(x)] et D~[f(x)\ existent,
sont finis et egaux. Le theoreme est demontre.
II.suit evidemment des theoremes (1) et (3) le
T h e o r e m e 4. Pour tons les x £ [0, 1], sauf peut-etre un ensemble E1
te que mes cp (E1) = 0, on bien D+[f(x)]
1
existe et est egal a - j - oo, ou
bien D~ [f(x)] et D* [f(x)\ existent, sont finis et egaux.
L e m m e VII. Pour tous les x £ [ 0 , 1], sauf peut-etre un ensemble E2 tel
que mescp (£2) = 0, ou bien D~[f(x)] existe et est egal a — o o , ou bien
AT [/(*)] e* AT [/(•*)] existent, sont finis et egaux.
En effet, comme _
D;U(x)]^-Dt,[/(x)]
*~Tci x est tel que (x, ? (x), f (x)) £ 2 Enk-
 Theoreme de Denjoy sur la derivee d'une fonction 231

et
D;U(X)]=-DZ,[/(X)I
en vertu du theoreme 4 notre affirmation est vraie.
L e m m e VIII. Pour tous les x £ [ 0 , 1], sauf peut-etre tin ensemble EB
tel que tries cp(£3) = 0, ou bien D~[f(x)] existe et est egal a -\-oo, ou bien
+
D [f(x)] et D~ [/(л:)] existent, sont finis et egaux.
En effet, comme
D-[f(x)] = — D-[—f(x)-\
et
A: № ) ] = - A : [-/(*)].
en vertu du lemme VII notre affirmation est vraie.
On demontre tout a fait de meme le
L e m m e IX. Pour tous les x £ [ 0 , 1], sauf peut-etre un ensemble £ 4 tel
que mescp (Е*) = 0, ou bien D+[f(x)] existe et est egal d—-oo, ou bien
D~[f(x)] et £) + [f(x)] existent, sont finis et egaux.
On a evidemment le
L e m m e X. Si tous les nombres derives de Dini de la fonction f(x) par
rapport a la fonction cp (x) existent, on a
A; №)] < D ; [/Ml
et

4
Soit E=^El. Alors mes y(E)~0 et en vertu du theoreme 4 et des
/=i
lemmes VII—X on a le
T h e o r e m e 5. Pour tous les лг£[0, 1], sauf un ensemble E tel que
mes^(Z:):=0, tous les nombres derives de Dini existent et Von a
ou bien 1) D-[f(x)-] = D;[f{x)] = +oo, D~[f (x)] = D; [f(x)]=-со,
ou bien 2) D-[/{x)] = —oo, — oo < D * [/(*)] = 5 ~ [ / ( * ) ] < + oo,
A ; [/(*)] = + oo,
ou bien 3) Д 7 [/(*)] = + o o , — « > < Д 7 [/(*)] = £ } [ / ( * ) ] < + 0 0 ,
A ; t/(*)]=—~.
ou bien 4) —oo < D~ [/ (*)] = D~ [/ (*)] = D+ [ / (*)] = Щ [/(*)] <+<x>.
C'est precisement le theoreme enonce dans l'introduction.

§2
T h e o r e m e 6. Si Г ensemble E des points de discontinuite de la fonction
y(x) 1 verifie la condition mescp(£)^>0, il existe un ensemble E1czE tel que
mes to (fj) ^> 0 et que
1
Les fonctions considerees dans cet article sont toujours flnies et definies dans
le segment [0, 1].
232 Joseph Liberman

1) pour x £ £ , tpus les nombres derives des fonctions / 0 (x) = cp (x)d et

Д (x) = (cp (x) -f-1) 3 />#r rapport a cp (x) existent,
2) 5/ x g £ j , /es nombres derives de Dini de Гипе au moins des fonctions
f.(t)(i=0, \) par rapport a la fonction y(t) pour t — xne verifient aucune
des relations du theoreme 5.
D e m o n s t r a t i o n . Soit £ I'ensemble de tous les x£E pour lesquels il
existe une suite xm (m== 1, 2, 3, . . . ) qui converge vers x et telle que lim cp (xm)
existe et surpasse cp(x), c'est-a-dire

lim c p ( x j > c p ( x ) .

m -> 00

Comme E=<§ -{~(E—$), on a ou bien mes <p(c$)^>0, ou bien

mescp(£ — < £ ) > 0 .

Supposons pour fixer les idees que mescp (£) > 0 . Designons par e Pensemble
des x £ [ 0 , 1] pour lesquels il n'existe aucune suite x'm (m= 1, 2, 3, . .) con-
vergeant vers x et telle que

( _ 1 )m ? (xj y(_i)my (x) et lim cp (x'm) = cp (x).

m-+oo

II est aise de montrer que I'ensemble cp (e) est au plus denombrable et que, par
consequent, mescp(^ — e)^>0. Posons Ex—$— e. Alors mescp (£,) ] > 0 .
Soit x£Ev alors x£ef done tous les nombres derives de Dini dont nous
avons besoin existent* D'ailleurs,

f
lim
1
>\x')-^x}=
x ~* r
<?(Xf)^o{X)

= Шп [(<? (x') +1)8 + (<? (*') + i) (<p (*)+/) + (<p (x) - f /)«] >
X1 —> X

^ inf [s2 - f s (с? (л:) + i) + (cp (x) - f /)2] > — 00.

Par consequent

* £ [ / / ( * ) ] > — «> et D ; [/,(*>]>-<*> (/ = 0,1). (1)

Montrons maintenant que pour t-=x pour les nombres derives de Dini de
Tune au moins des fonctions f. (t) (/ = 0, 1) par rapport a la fonction cp (t) aucune
des relations du theoreme 5 n'a lieu,
 Theoreme de Denjoy sur la derivee d'une fonction 233

Supposons le contraire. Alors en vertu de (1) pour t = x tous les nombres

derives de Dini de la fonction f.(t) (/ = 0, 1) par rapport a cp (t) sont finis et
egaux. Par consequent
— oo < D : [ / , ( * ) ] = £ ; [ / , ( * ) ] < + o o (/ = 0,1). (2)

Comme x£e, il existe une suite xm (m=l, 2, 3, . . . ) qui converge vers x et

telle que
4(x'm)>(?№ et lim
?Ю = ¥(4
m -»oo
Pour cette suite on'a

lim - Л ' ( ' 4 ; МХ)=Щ[х)+ф (/ = 0,1)

:-**> <P (^V — <P (•*)
et en vertu de (2) nous avons

g[//W]=o;[//W]=3(?w+^ (/=o,i). (3)

Comme x££, il existe une suite xm{m=\y 2, 3, . . . ) qui converge vers x
te etet
et telle que lim cp (л;т) existe
m-»oo
£= lim <p(*J><p(*).
En vertu de (3)
3cp(;t)2 = lim Щ^-—^

et nous avons
*im <p(*J< + °°-
m -* oo
Done, en vertu de (3),

3(y(x)-\-i)* = lim / ; ( *" ) ~^ ( g = (g + /)a + (S + 0(?(*) + 0 +

+ (cp(x)4-/p (/ = o,i)
ou bien
S2 -f- £<р(лг) — 2cp (A:)2 = Зср (л:) / — 3Si (/=0,1). (4)
Posons /==0; nous aurons
&-\-ty(x) — 2<р(лг)2 = 0.
on
Comme £><?(#), obtient de la derniere equation

Soit £ = /cp (л:). Alors

/2cp (лг)2 - j - /9 (л:)2 — 2<p (л;)2 = О
et, comme ср(лг)^=0, on a
/ 2 + / — 2 = 0,
done / est egal a 1 ou bien a — 2 . Comme £>ср(лг), on а 1ф\, done
/=—2.
234 Joseph Liberman

Posons / = 1 , alors nous aurons

$2 _|_ ty до _ 2cp (*)* = Зср (x) — 35,

ou bien, en remplagant £ par —2<р(лг), nous aurons

ce qui est impossible. Notre theoreme est done demontre.

On deduit immediatement du theoreme 6 le
T h e o r e m e 7. Si Vensemble E des points de discontinuite de la fonction
y(x) verifie la condition mescp(Z;)^> 0, alors Vun au moins des couples de
fonctions (ср(лг)3, ср(лг)) et ((cp (x) -j-1)3» ? (*)) ^ verifie pas le theoreme de
D enjoy1.
D e m o n s t r a t i o n . Soit encore

fi(x) = (<t(x) + *Y (/ = 0,1).

En vertu du theoreme 6 il existe un ensemble E1czE tel que
a)'mis<p(£ , 1 )>0,
b) pour tous les х£Ег tous les nombres derives de Dini des fonctions f.(t)
(/ = 0, 1) par rapport a cp (/) pour / = л; existent et pour Tune au moins des
fonctions/- (/ = 0, 1) ces derives ne verifient aucune des relations du theoreme 5.
Designons par £0 l'ensemble des x£Ex tels que pour t = x les nombres
derives de Dini de la fonction / 0 (t) par rapport a la fonction cp (t) ne verifient
aucune des relations du theoreme 5. Definissons d'une maniere analogue $v Au
moins pour Tune des valeurs de / (/ = 0,1) on a mes />p(^)^>0. Supposons
pour fixer les idees que mes cp (So) ^> 0- Alors le couple des fonctions (cp (x)3, cp (x))
ne verifie pas le theoreme de Denjoy, ce qui demontre notre theoreme.
T h e o r e m e 8. Pour que le couple (f(x), cp (л:)) verifie le theoreme de
Denjoy quelle que soit la fonction f(x), il est necessaire et suffisant que Ven­
semble E des points de discontinuite de cp (x) verifie la condition mes cp (E) = 0.
D e m o n s t r a t i o n . Le theoreme 7 prouve la necessity. Le theoreme 5 prou-
ve la suffisance.
On deduit aussi des theoremes 5 et 7 le
T h e o r e m e 9. Pour que le couple (f(x),y(x)) verifie le theoreme de
Denjoy quelle que soit la fonction f(x), il est necessaire et suffisant que les
couples (cp(x)3, ср(лг)) et ((cp (x)-{-l)3, cp (x)) verifient le theoreme de Denjoy.
D e m o n s t r a t i o n de la s u f f i s a n c e . Supposons que les couples
(cp (л:)3, cp (x)) et ((cp(x)-j- l) 3 , <p(x)) verifient le theoreme de Denjoy. Alors en
vertu du theoreme 7 l'ensemble E des points de discontinuite de la fonction cp (лг)
verifie Tegalite mes cp (E) = 0. Done, mescp (E) = 0. Mais dans ce cas d'apres
le theoreme 5 le couple (f(x), cp (x)) verifie le theoreme de Denjoy quelle que
soit la fonction f(x).
La n e c e s s i t e est evidente.

1
Voir la definition a la p. 222.
 Теорема Den joy для производной 235

En concluant, montrons qu'on peut construire deux fonctions croissantes veri-

fiant la condition de Lipschitz et pour lesquelles sur un ensemble de mesure
positive aucune des relations du theoreme 5 n'est verifiee, c'est-a-dire que dans
ie theoreme 5 l'affirmation mes ср(£) = 0 ne peut pas etre remplacee par l'affir-
mation mesZ: = 0.
Soit J^c^O, 1] un ensemble parfait partout non dense et mes Ex = -^ . Soit E
l'ensemble des points de densite de l'ensemble Ег; on sait que mes E=mesEv
Soit cp2 (лс) la fonction caracteristique de l'ensemble [0,1] — Ev Soit cp (.*;)==
X

[ ю1(х)с1х et soit f(x) — x. Alors la fonction cp (x) est croissante et Ton a

и
| cp (AT) — cp (x') \^\x — x'\.

Soit x£E, alors on sait que ср'(л;) = 0 et nous avons, cp (x) etant une fonction
croissante,

urn
x'+x <?(X')~-<?(X)
+ oo.
Done, si x£Ey les nombres derives de Dini de la fonction f(t) par rapport a
la fonction cp (t) pour t = x ne verifient aucune des relations-du theoreme 5, ce
qui prouve que notre affirmation est vraie.
(Поступило в редакцию 22/VI 1940 г.)

Теорема Denjoy для производной от произвольной

функции по непрерывной функции
И. М. Либерман (Ленинград)
(Резюме)
Пусть f(x) и ср(дг)— конечные функции, определенные в промежутке [0, 1].
Пусть, кроме того, множество Ег точек разрыва функции ср (х) удовлетворяет
условию
mescp (£^ = 0.
Тогда для всех л;£[0,1], исключая такое множество £", что mescp (E) — 0, все
производные Дини функции f(x) по функции ср (лг) существуют, и для них имеет
место одно из соотношений:
1) D7[f(x)] = D+[fW]=+oo, D;[f(x)] = Df[f(x)-]=— oo ,
2) Dr[f(x)]=—oo, - oo<D+[/(*)] = D7[/W]<+cx>,

3) D 7 [ / ( * ) ] = + o o , — o o < D 7 [ / H ] = D+[/H]<+oo,
D+[f(x)]=-oo,
4) _ oo < D " [/(x)] = О' [f(x)] = D+ [f(x)] = Dt[f(x)] < + oo.
236 И. М. Либерман

Будем говорить, что пара функций (f(x)> cp (х)) удовлетворяет теореме Den joy,
если для всех лг, исключая множество Е с mescp (£) = 0, все производные Дини
функции f(x) по функции <р (х) существуют и для них имеет место одно из
указанных четырех соотношений.
Имеют место теоремы:
Т е о р е м а 8. Для того, чтобы для всякой функции f(x) пара функций
(f(x), cp (Л:)) удовлетворяла теореме Den joy, необходимо и достаточно, что­
бы множество Е точек разрыва функции ср (х) удовлетворяло условию
mescp (E) = 0.
Т е о р е м а 9. Для того, чтобы для всякой функции f(x) пара функ­
ций (f(x), у(х)) удовлетворяла теореме Denjoy, необходимо и достаточно,
чтобы пары (cp (x)s, cp (х)) и ((ср (лг) -f-1) 3 , ср (х)) удовлетворяли теореме Denjoy.