Université de Lille I U.F.R. de Mathématiques - Laboratoire A.G.A.T. - U.M.R. 8524

Approximation diophantienne, dynamique des chambres de Weyl et répartition d’orbites de réseaux

Thèse soutenue le 13 Décembre 2002 par François MAUCOURANT

pour obtenir le titre de Docteur en Mathématiques Pures

Directeur de Thèse Livio FLAMINIO  Université de Lille I
Rapporteurs  François LEDRAPPIER École Polytechnique
Frédéric PAULIN  École Normale Supérieure
Examinateurs Martine BABILLOT Université d’Orléans
Marc BOURDON  Université de Lille I
Yves GUIVARC’H  Université de Rennes

Numéro d’ordre: 3260

Sun Tzu dit : [..]

Maintenant, voici les cinq éléments de l’art de la guerre :

I. La mesure de l’espace. II. L’estimation des quantités.

III. Les règles de calculs. IV. Les comparaisons.

V. Les chances de victoire.

Les mesures de l’espace sont dérivées du terrain; les quantités dérivent de la mesure; les chiffres émanent des quantités;

les comparaisons découlent des chiffres, et la victoire est le fruit des comparaisons.

Sun Tzu, L’Art de la Guerre, VI-Vème s. av. JC.

Introduction

Cette thèse se découpe en trois parties indépendantes, qui correspondent respectivement aux chapitres 1 à 3, au chapitre 4 et au chapitre 5.

1. Approximation diophantienne et chambres de Weyl

La première partie de cette thèse (chapitres 1 à 3) exploite la relation entre approximation diophantienne et géométrie hyperbolique, ou plus généralement la dynamique des chambres de Weyls sur les variétés de Hilbert. Une telle relation est historiquement connue depuis longtemps - on pense tout d’abord à Ford, dans les années 20, puis à H. Cohn [Coh55] et R. Rankin [Ran57] dans les années 50. Mais cette relation ne commença à être vraiment exploitée (sous une forme plus explicite que précédemment, et de manière plus systématique) qu’au début des années 80, après (entre autres) les articles de S. Dani [Dan85] et D. Sullivan [Sul82] qui montrèrent par l’exemple la fécondité du sujet. Si cette relation fut utilisée pour obtenir des résultats géométriques à partir de résultats d’approximation diophantienne connus depuis longtemps, la déduction de propriétés d’approximation diophantienne à partir de raisonnements géométriques est également possible, comme le montrèrent par exemple Beardon, Lehner, Sheingorn [BLS86] d’un côté, et A. Haas [Haa86] indépendamment, lorsqu’ils publièrent leurs preuves géométriques du théorème dû à Markoff décrivant la partie supérieure à 1/3 du spectre de Markoff (voir le théorème 1.1). C’est dans cette deuxième optique que se place ce travail. La relation approximation diophantienne-géométrie et dynamique y est abordée d’un point de vue constante d’approximation-profondeur de pénétration dans les cusps (je ne parlerais pas de la vitesse de pénétration dans les cusps). La partie 1 donne les notions classiques d’approximation diophantienne, et sert d’introduction à la partie 2 où est définie une notion d’approximation diophantienne (homogène à une variable) pour un corps 𝕂, extension finie de ℚ, ainsi que quelques corollaires immédiats. Cette définition est une légère variation d’une définition de R. Quême [Quê91], et également une variation d’un cas particulier de E. Burger [Bur92],[Bur93]. Son originalité tient essentiellement à la remarque que l’on peut classer les fractions suivant le groupe de classes d’idéaux du corps choisi, idée déjà présente dans [Swa68]. Par exemple, lorsque l’anneau des entiers O du corps 𝕂 est principal, la définition est la suivante.

Soit π_{𝕂} : 𝕂 → E = ℝ^{r} × ℂ^{s} le plongement canonique de ce corps de nombre, où (r,s) désigne les nombres de plongements réels et complexes non conjugués respectivement de 𝕂. Soit pour z = (z_{i})_{i=1,..,r+s} élement de E, on note

||z||_{∞} = sup_{i=1,..,r+s} |z_{i}|,

et

N(z) = ∏_{i=1}^{r} |z_{i}| ∏_{i=r+1}^{r+s} |z_{i}|^{2}.

Pour z dans E on définit

ν_{𝕂}(z)^{r+2s} = lim_{ϵ→0} lim inf_{(p,q)∈O×(O−{0}),||z−π_{𝕂}(p/q)||_{∞}<ϵ} N(z − π_{𝕂}(p/q))N(q)^{2}.

Le spectre de Lagrange est alors

L_{𝕂} = {ν_{𝕂}(z) : z ∈ E − π_{𝕂}(𝕂)} .

L’exemple des corps imaginaires quadratiques est abordé dans la partie 3. Dans la partie 4, j’introduis un "spectre"^{1} issu d’une situation topologique générique, et en tire les quelques corollaires élémentaires qui en découlent. L’intérêt de cette partie est essentiellement de montrer que certaines propriétés des spectres de Markoff et Lagrange sont des conséquences purement topologiques de la correspondance géométrique, et donc valables quelle que soit l’extension finie de ℚ choisie, conséquences qui n’étaient pas toujours connues et qui dans ce cadre sont particulièrement simples.

Le chapitre 2 fait le lien entre les définitions de la partie 2 et la partie 4, à travers les théorèmes 2.2 et 2.3; cette correspondance est bien connue lorsque le corps 𝕂 est égal à ℚ ou à un corps imaginaire quadratique - ici, l’originalité est de traiter de manière unifiée toutes les extensions finies de ℚ et de préciser à quelle notion d’approximation diophantienne correspondent les différents cusps de la variété V_{𝕂} associée. Ces théorèmes nous permettent, par exemple, d’obtenir une nouvelle définition, géométrique cette fois, des spectres. Plus précisémment, le plongement canonique π_{𝕂} induit un plongement de P SL_{2}(O) dans (P SL_{2}(ℝ))^{r} × (P SL_{2}(ℂ))^{s}, que l’on fait agir par isométries sur (T^{1}ℍ^{2})^{r} ×(T^{1}ℍ^{3}), le produit des espaces tangents unitaires aux espaces hyperboliques de dimension 2 et 3 respectivement. Le quotient de cet espace par cette action est noté CW (V_{𝕂}), la variété des chambres de Weyl sur la variété de Hilbert associée à 𝕂. Le flot géodésique ϕ sur chaque composante du produit (T^{1}ℍ^{2})^{r} ×(T^{1}ℍ^{3}) passe au quotient en une action ϕ de A = ℝ^{r+s} sur CW (V_{𝕂}). Si l’on appelle A^{+} le semi-groupe de A = ℝ_{+}^{r+s} formé par les temps positifs sur chaque composante, on peut définir l’ω-limite d’une chambe de Weyl w dans CW (V_{𝕂}) comme étant les sous-ensemble fermé de CW (V_{𝕂}) suivant :

1. entre guillements, ce n’est pas à priori le spectre d’un opérateur.

ω_{+}(w) = ⋂_{t̄∈A^{+}} \overline{⋃_{t̄′∈A^{+}} ϕ^{t̄+t̄′}w}.

La description géométrique du spectre de Lagrange est alors

Proposition. Il existe sur CW (V_{𝕂}) une fonction f à valeur dans ℝ, continue et propre (essentiellement une fonction de Busemann, voir la formule 5), telle que l’on ait

L_{𝕂} = { inf_{ω_{+}(w)} exp(−f) : w ∈ CW (V_{𝕂}), ω_{+}(w) ≠ ∅} .

J’en tire ensuite quelques corollaires immédiats, qui sont les traductions des propriétés vues dans la partie 4. En particulier, on peut remarquer que dans tous les cas où la constante de Hurwitz (définie comme sup L_{𝕂}) est connue (voir partie 3), c’est la constante d’approximation d’un nombre fini de classes modulo SL_{2}(𝕂) de nombres quadratiques sur 𝕂, et elle est isolée dans les deux spectres. Sans pour autant généraliser cette observation, les corollaires 2.7 et 3.5 donnent des restrictions à ce sujet, dans le cas général et dans le cas imaginaire quadratique respectivement. On peut résumer quelque-une de ces propriétés dans la proposition suivante - le lecteur se reportera au corps du texte pour les énoncés relatifs au spectre de Markoff M_{𝕂}:

Proposition. Soit 𝕂 un corps de nombre.

1. Il existe z dans E tel que

ν_{K}(z) = sup L_{𝕂}.

2. Si sup L_{𝕂} n’est pas un nombre algébrique, alors il existe un nombre non dénombrable de z dans E tels que ν_{𝕂}(z) = sup L_{𝕂} .

3. Si 𝕂 est un corps imaginaire quadratique, et si la constante de Hurwitz sup L_{𝕂} n’est pas un nombre algébrique, alors sup L_{𝕂} n’est pas isolée dans L_{𝕂}.

Je considère ensuite dans le chapitre 3 le cas où la variété est de rang 1, c’est à dire lorsque 𝕂 = ℚ ou un corps imaginaire quadratique, pour montrer le théorème 3.4, dont voici la partie de l’énoncé qui concerne le spectre de Lagrange.

Théorème (Théorème 3.4). Soit 𝕂 = ℚ(i\sqrt{d}), d entier positif sans facteur carré. Notons EQ(ℂ) l’ensemble des nombres complexes quadratiques sur 𝕂. Alors

L_{𝕂} = \overline{\{ν_{𝕂}(z)|z ∈ EQ(ℂ)\}}.

En particulier, L_{𝕂} est compact.

Dans le cadre classique 𝕂 = ℚ, ce théorème est dû à T. Cusick [Cus87] ; la compacité du spectre de Markoff est, elle, automatique indépendamment du rang, cf lemme 1.5. La démonstration utilise en particulier le lemme de fermeture d’Anosov, dont une preuve dans le cadre d’espaces CAT (−1) est fournie en annexe. Est ensuite abordé dans la section 3 le problème de la calculabilité de la constante de Hurwitz pour un corps imaginaire quadratique quelconque, avec un algorithme proposé pour calculer des valeurs approchées de cette constante.

Une question qu’on m’a souvent posée et qui appelle quelques commentaires est celle-ci : pourquoi je ne généralise pas les propriété de fermeture du spectre de Lagrange au rang supérieur à 2, c’est-à-dire lorsque l’anneau des entiers de 𝕂 possède un groupe d’unités infini. Tout d’abord, techniquement, les outils ne fonctionnent plus (le lemme de fermeture, par exemple, est encore valable mais ne parle que de flots et ne dit rien sur les actions). Une réponse plus intéressante consiste à faire le lien avec la conjecture de Margulis concernant les ensembles fermés invariants sous l’action du groupe diagonal (et qui est essentiellement qu’il y en a peu, et qu’ils sont tous d’origine arithmétique); je pense que dans ce cas le spectre de Lagrange est discret (sauf au point 0) et est égal à l’ensemble des constantes correspondant aux nombres quadratiques sur 𝕂 (c’est à dire correspondant aux tores compacts). Le même type de problème a été rencontré par E. Burger, qui fait la remarque qu’il ne trouve qu’un nombre dénombrable d’exemples de nombres mal approchables selon sa définition [Bur93]. A travers la correspondance décrite ici, on verra que la forme du spectre de Markoff en rang supérieur s’avère intimement liée à la conjecture de Margulis pour les variétés de Hilbert, conjecture dont S. Dani m’a dit qu’il ne voyait pas de preuve poindre à l’horizon, en dépit de résultats récents dans cette direction [LW01].

2. Alternative de Borel-Cantelli dynamique

Le chapitre 4 aborde un sujet un peu différent. D. Sullivan a montré que la vitesse d’approche d’un point à l’infini d’une variété hyperbolique de volume fini noncompacte, est, sur un rayon géodésique générique, logarithmique. Il utilisait pour cela la relation entre approximation diophantienne et vitesse d’approche d’un cusp mêlée à des techniques de la preuve du théorème de Khintchine; ce résultat a été généralisé par D. Kleinbock et G. Margulis dans le cas d’espaces de rang supérieur [KM99] et par S.Hersonsky et F. Paulin [HP01a] dans le cas des variétés à courbure strictement négative.

Par analogie, on peut reprendre le problème géométrique étudié par Sullivan en remplaçant le point à l’infini par un point quelconque de la variété hyperbolique (le rapport avec l’approximation diophantienne devenant alors également analogique). Ceci a déjà été fait par Hersonsky et Paulin [HP01b] en ce qui concerne l’estimation de la dimension de Hausdorff des géodésiques s’approchant exponentiellement vite d’un point fixé d’une variété compacte à courbure strictement négative. Ici, le problème est le suivant. Soit V = Γ\ℍ^{n} une variété hyperbolique de volume fini. Notons T^{1}V l’ensemble des vecteurs unitaires tangents à V, π : T^{1}V → V la projection canonique, ϕ^{t} le flot géodésique sur T^{1}V, et B(q,r) ⊂ V la boule hyperbolique de centre q ∈ V et de rayon r. On se donne une fonction (r_{t})_{t≥0} de ℝ_{+} à valeur dans ℝ_{+}^{∗}.

La question est de savoir, pour un point p de V fixé, quel sera la mesure de Liouville de l’ensemble des vecteurs v tels qu’il existe t_{i} → +∞, tels que π(ϕ^{t_{i}}v) ∈ B(p,r_{t_{i}}), autrement dit tels que {t ≥ 0 : π(ϕ^{t}v) ∈ B(p,r_{t})} n’est pas borné.

Théorème (Théorème 4.1). (Cibles rétrécissantes) Supposons que (r_{t})_{t≥0} soit décroissante. Alors, suivant que

∫_{0}^{∞} r_{t}^{n−1}dt

diverge ou converge, presque tout ou presque aucun vecteur engendre un rayon géodésique qui rencontre pour des temps t arbitrairement grands les boules de centre p, de rayon r_{t}.

Le corollaire suivant semble être nouveau.

Corollaire (Corollaire 4.2). Pour tout point p dans V, pour presque tout v, on a :

lim sup_{t→+∞} \frac{− ln(d(p,π(ϕ^{t}v)))}{ln(t)} = \frac{1}{n − 1}

3. Exemples de répartitions d’orbites de réseaux

Enfin, le dernier chapitre 5 s’intéresse à des résultats de répartition semblables au théorème ergodique de Birkhoff concernant l’action d’un réseau Γ d’un groupe de Lie sur un espace homogène G/H, H sous-groupe abélien. Ces exemples sont essentiellement inspirés par l’article de F. Ledrappier [Led99], et des résultats proches dans l’esprit ont été indépendamment prouvés par A. Gorodnik. On donne en particulier les trois exemples suivants. Dans le premier, la dérivée de Radon-Nikodyn qui apparaît n’est pas un produit de fonctions à variables séparées (contrairement aux exemples connus jusqu’à ce jour), et dans le deuxième la convergence est remarquablement uniforme. Le troisième est un cas particulier d’un théorème plus général concernant la répartition des plats géodésiques d’un espace selon un sous-groupe discret d’isométries.

Théorème (voir le Théorème 5.2). Soit

M_{0} = [ \begin{matrix}0 & 1 & 0 \\ 0 & 0 & 1 \\ 0 & 0 & 0 \end{matrix} ] ,

on définit X comme la variété (de dimension 6) des matrices conjuguées à M_{0}. Elle porte une mesure (non nulle, unique à homothétie près) μ qui est SL_{3}(ℝ)-invariante. Il existe une application δ : X^{2} → ℝ_{+}^{∗}, continue, à variables non séparées, telle que si Γ un réseau de SL_{3}(ℝ), qui agit (par conjugaison) sur X, cette action est alors ergodique, et si l’on note

B(T) = {γ ∈ Γ : tr(^{t}γγ) ≤ T^{2}},

alors pour tout f continue à support compact de X dans ℝ, pour tout x dans X de Γ-orbite dense, on a

lim_{T →+∞} \frac{1}{T^{2}} ∑_{γ∈B(T)} f(γx) = \frac{1}{covol(Γ)} ∫_{X} f(y)δ(x,y)dμ(y).

Théorème (Théorème 5.3). Soit ℍ^{n} un espace hyperbolique, X = ∂ℍ^{n}. Soit Γ ⊂ Isom(ℍ^{n}) un sous-groupe discret et non élémentaire d’isométries, de mesure de Bowen-Margulis finie. Notons μ_{o} la mesure de Patterson-Sullivan associée au point o ∈ ℍ^{n}. Soient f : ∂ℍ^{n} → ℝ une fonction continue, et un point o ∈ ℍ^{n} fixé. Notons

B(T) = {γ ∈ Γ : d(γo,o) < T },

où d désigne la distance hyperbolique. Alors, pour tout ξ ∈ ∂ℍ^{n}:

lim_{T →+∞} \frac{1}{|B(T)|} ∑_{γ∈B(T)} f(γξ) = \frac{1}{μ_{o}(∂ℍ^{n})} ∫_{∂ℍ^{n}} fdμ_{o},

et cette convergence est uniforme en ξ ∈ ∂ℍ^{n} lorsque T → +∞.

Théorème (voir le théorème 5.4). Soit ℍ^{n} un espace hyperbolique, X l’espace des géodésiques orientées de ℍ^{n}, μ une mesure SO(n,1)-invariante sur X, et o un point de ℍ^{n}. Il existe c tel que si Γ est un réseau de ℍ^{n}, et si on définit

B(T) = {γ ∈ Γ : d(o,γo) ≤ T },

alors pour toute fonction f dans L^{1}(μ) et μ-presque tout x dans X, on a

lim_{T →+∞} \frac{1}{T} ∑_{γ∈B(T)} f(γx) = \frac{c}{covol(Γ)} ∫_{X} fdμ.

On remarquera que, dans le premier et troisième exemple, le cardinal de B(T) n’est pas asymptotique à la normalisation de la somme. Il ne s’agit pas ici de moyennes.

Remarques finales. Le théorème 3.4 a fait l’objet d’un article accepté pour publication à la revue Ergodic theory and dynamical systems [Mau02].

Remerciements

Je remercie de tout coeur Livio de m’avoir patiemment guidé le long du chemin initiatique menant aux secrets et arcanes de la géométrie dynamique contemporaine. Je remercie aussi l’équipe de géométrie dynamique du laboratoire AGAT, et plus particulièrement Cornelia Drutu, Marc Bourdon et Youssef Hantout pour les nombreux échanges mathématiques que j’ai pu avoir avec eux, qui ont été très stimulants pour mon travail. En dehors du laboratoire, Nimish Shah nous a apporté beaucoup en venant nous exposer à Lille la théorie de Ratner; mes discussions avec lui ont toujours été très intéressantes et je l’en remercie. Je suis infiniment redevable et reconnaissant envers Frédéric Paulin pour la foule de corrections, critiques et suggestions qu’il a apporté au manuscript original, ainsi qu’à mon article, sans lesquelles certains passages seraient restés incompréhensibles.

Quand à mes collègues de bureau, Jean-Paul, Pierre-Marie et Habiba, ils ont toujours su être là pour venir prendre un café, matière première essentielle à la production de théorèmes. Enfin, ce travail ne serait pas sans le soutien moral d’Axelle.

x INTRODUCTION

Table des matières

Introduction iii 1. Approximation diophantienne et chambres de Weyl iii 2. Alternative de Borel-Cantelli dynamique vi 3. Exemples de répartitions d’orbites de réseaux vii Remerciements ix

Chapitre 1. Cadre général de l’étude 1 1. Cadre classique 1 2. Approximation diophantienne dans les corps de nombres 3 3. Corps imaginaires quadratiques 8 4. Spectres des hauteurs d’un espace 11

Chapitre 2. L’équivalence des définitions 17 1. La variété de Hilbert 17 2. La correspondance géométrique 21 3. Application au cas des variétés de Hilbert 24 4. Quelques corollaires 28

Chapitre 3. Le cas de rang 1 31 1. Un théorème sur les spectres dans les espaces CAT (−1) 31 2. Application au cas arithmétique de rang 1 36 3. Sur la constante de Hurwitz 38

Chapitre 4. Lemme de Borel-Cantelli et loi de puissance 45 1. Énoncé des résultats 45 2. Rappels et notations 46 3. Preuves 49 4. Conclusion 55

Chapitre 5. Quelques répartitions d’actions de réseaux 57 1. Introduction 57 2. Cas du plongement géodésique 62 3. Preuve du théorème 5.2 69 4. Action au bord d’un groupe kleineen 85

Annexe A. Lemme de fermeture 87 Annexe B. Un calcul de géométrie Euclidienne 95

Annexe C. Quelques preuves manquantes 97 1. Preuve du lemme 5.1 97 2. Preuve du lemme 5.3 98 3. Preuve du lemme 5.11 99

Bibliographie 101

CHAPITRE 1 Cadre général de l’étude

1. Cadre classique

L’objet de cette partie est d’introduire, pour le lecteur non initié, quelques résultats classiques de l’approximation diophantienne homogène à une variable. Le lecteur averti trouvera cependant dans ces rappels les motivations des généralisations qui suivront. Mes références principales sur ce sujet sont Cassels [Cas57] et Cusick-Flahive [CF89].

L’approximation diophantienne traite de la manière dont on peut approcher un nombre réel par les nombres rationnels. Un théorème, dû à Dirichlet, affirme que pour tout réel irrationnel x, on peut trouver une infinité de fractions p/q telles que

|x − \frac{p}{q}| q^{2} ≤ 1.

La question de savoir à quel point ce résultat est optimal conduit à la définition suivante.

Définition 1.1. Soit x ∈ ℝ − ℚ. On définit la constante de meilleure approximation de x par la formule :

ν(x) = lim inf_{(p,q)∈ℤ×(ℤ−\{0\},|q|→∞} |x − \frac{p}{q}| q^{2}

Le spectre de Lagrange est par définition l’ensemble des ν(x) pour x parcourant ℝ − ℚ. Il sera noté L_{ℚ}.

Ce spectre est parfois appelé spectre de Hurwitz, et pour certains auteurs le spectre est l’ensemble 1/L_{ℚ}. Il est apparu que l’étude de cet ensemble est fortement liée à l’étude des minima de formes quadratiques, et a amené Markoff à s’intéresser aux objets suivants.

Définition 1.2. Désignons par F Q(ℝ) l’ensemble des formes quadratiques réelles à deux variables, indéfinies et non dégénérées. Si q ∈ F Q(ℝ) s’écrit

q(x,y) = αx^{2} + βxy + γy^{2},

on définit le discriminant de q

Δ(q) = β^{2} − 4αγ > 0,

et la quantité

μ(q) = inf_{(x,y)∈ℤ×ℤ−\{(0,0)\}} \frac{|q(x,y)|}{\sqrt{|Δ(q)|}}

L’ensemble des μ(q), pour q parcourant F Q(ℝ), est un sous-ensemble de ℝ^{+} appelé spectre de Markoff , noté M_{ℚ}.

Dans la suite, F Q(ℝ) ne désignera pas exactement la même chose mais plutôt les classes d’équivalence de formes quadratiques selon la relation de proportionnalité, cette confusion étant destinée à alléger les notations ( mais ne change pas μ(q), ni M_{ℚ} ).

De nombreux auteurs ont essayé de décrire ces spectres. Le théorème suivant rassemble de nombreux résultats qui en donnent une vue partielle, essentiellement sur la partie inférieure et supérieure.

Théorème 1.1. Les deux spectres admettent la description commune suivante :

1. (Korkine-Zolotareff, 1873; Markoff, 1879; Hurwitz, 1891)

L_{ℚ}∩ ]1/3; +∞[ = M_{ℚ}∩ ]1/3; +∞[ = {ν_{m}},

où, pour m un nombre entier tel qu’il existe m_{1},m_{2} entiers plus petits que m vérifiant l’équation

m^{2} + m_{1}^{2} + m_{2}^{2} = 3mm_{1}m_{2},

on a

ν_{m} := \frac{m}{\sqrt{9m^{2} − 4}}.

Il existe une infinité de telles solutions.Les trois premières valeurs sont

ν_{1} = \frac{1}{\sqrt{5}}, ν_{2} = \frac{1}{2\sqrt{2}}, ν_{3} = \frac{5}{\sqrt{221}}.

2. (Hall, 1947; Freiman, 1975) Il existe c > 0 tel que

[0; c] ⊂ L_{ℚ} ∩ M_{ℚ},

c pouvant être pris égal à 1/5, et on connaît explicement sa valeur optimale.

3. (Tornheim, 1955; Freiman, 1968)

L_{ℚ} ⊂ M_{ℚ},

et l’inclusion est stricte.

4. (Cusick, 1975) Le spectre de Lagrange L_{ℚ} est l’adhérence de l’ensemble des constantes d’approximation des nombres réels quadratiques sur ℚ. Le spectre de Markoff M_{ℚ} est l’adhérence des μ(q) où q est de la forme

q(x,y) = (xα − y)(xβ − y),

avec α et β deux nombres réels quadratiques sur ℚ.

2. Approximation diophantienne dans les corps de nombres

Dans ce paragraphe, je définis une notion d’approximation diophantienne homogène à une variable pour un corps de nombres quelconque. On se réfèrera au livre de Samuel [Sam67] pour les notions de théorie algébrique des nombres.

Soit 𝕂 une extension finie de ℚ. Les différents plongements de 𝕂 dans ℝ et ℂ non conjugués par la conjugaison complexe seront respectivements notés σ_{1},..,σ_{r} et σ_{r+1},..,σ_{r+s}. Dans toute la suite, on notera m = [𝕂 : ℚ] = r + 2s et n = r + s.

Le plongement canonique de K est alors :

π_{𝕂} : 𝕂 → E = ℝ^{r} × ℂ^{s},
x ↦ (σ_{1}(x),..,σ_{r+s}(x)).

Soit O l’anneau des entiers de 𝕂. On sait que π_{𝕂}(O) est un réseau de E, et que π_{𝕂} donne lieu à un plongement :

\overline{π_{𝕂}} : P SL_{2}(𝕂) → G = ∏_{i=1}^{r} P SL_{2}(ℝ) × ∏_{i=1}^{s} P SL_{2}(ℂ) = P SL_{2}(E).

On notera Γ_{𝕂} = \overline{π_{𝕂}}(P SL_{2}(O)). Il est facile de voir que c’est un sous-groupe discret du groupe de Lie G. Il est bien connu que c’est en fait un réseau (par exemple [Bor69], théorème 13.1 et son corollaire 13.2, ainsi que l’exemple 7.16). Dans toute la suite, nous écrirons les éléments de ces groupes comme des matrices bien qu’en réalité ce soient des éléments de P SL_{2}(.). Nous noterons aussi

\overline{E} = ∏_{i=1}^{r}(ℝ ∪ \{∞\}) × ∏_{i=1+r}^{n}(ℂ ∪ \{∞\}),

sur lequel G agit par le produit des actions projectives sur chacun des termes. On notera encore ∞ le point (∞))_{i=1..n} de \overline{E}.

Le groupe des classes d’idéaux fractionnaires de 𝕂 sera noté C(𝕂), et son cardinal h(𝕂). Le théorème de Dirichlet nous dit que O^{×} est isomorphe au produit ℤ^{r+s−1} × μ(𝕂), où μ(𝕂) désigne le groupe (fini) des racines de l’unité contenues dans 𝕂. Nous noterons w(𝕂) le cardinal de μ(𝕂). La norme d’un élément x de 𝕂 est par définition :

N_{𝕂}(x) = ∏_{σ:𝕂→ℂ}σ(x) = ∏_{i=1}^{r} σ_{i}(x) × ∏_{i=r+1}^{r+s} |σ_{i}(x)|^{2},

où le premier produit désigne le produit sur tous les plongements 𝕂 → ℂ. On notera Δ_{𝕂} le discriminant de O. La classe de l’idéal engendré par x et y sera notée ⟨x,y⟩.

On a posé une fois pour toute n = r + s. Pour z = (z_{1},..,z_{n}) ∈ ℝ^{r} × ℂ^{s}, on notera la norme sup usuelle

||z||_{∞} = sup_{i} |z_{i}|,

et

N(z) = ∏_{i=1}^{r} |z_{i}| ∏_{i=r+1}^{n} |z_{i}|^{2}.

Remarquons que N est simplement le prolongement de la valeur absolue de la norme de 𝕂 via le plongement π_{𝕂}, ou plus exactement

N(π_{𝕂}(x)) = |N_{𝕂}(x)|.

Ce n’est bien sûr pas une norme au sens usuel; cependant nous continuerons à l’appeler ainsi. Remarquons que E possède une structure d’anneau produit (non intègre), qui respecte le plongement π_{𝕂}; ainsi, on notera a/b, pour a,b ∈ E, N(b) ≠ 0, le quotient terme à terme dans chaque espace du produit E. Par abus de notation, on considèra 𝕂 et O comme des sous-anneaux de E, et on négligera d’écrire π_{𝕂}.

Soit P ⊂ C(𝕂) un ensemble non vide de classes.

On pose C_{ϵ}^{P} (z) = {(p,q) ∈ O^{2}| ||z − π_{𝕂}(p/q)||_{∞} < ϵ,⟨p,q⟩ ∈ P }.

Définition 1.3. Soit z = (z_{1},..,z_{n}) ∈ E. On définit

ν_{P} (z) = lim_{ϵ→0} ( inf_{(p,q)∈C_{ϵ}^{P} (z)} N_{𝕂}(q)^{2}N (z − π_{𝕂} (\frac{p}{q})))^{1/[𝕂:Q]} ,

qu’on appelle constante de meilleure approximation de z par P dans 𝕂.

Lorsque P = C(𝕂) (en particulier si O est principal), on pourra négliger l’indice P et écrire simplement ν_{𝕂}. Le lecteur remarquera que dans le cas 𝕂 = ℚ ou 𝕂 une extension quadratique imaginaire, cette définition correspond aux définitions usuelles, avec P = C(𝕂) ou bien P le singleton donné par la classe des idéaux principaux, suivant les auteurs. Dans le cas présent, nous pouvons la raffiner en considérant des idéaux non principaux. Cette idée n’est pas complètement nouvelle, elle apparaît par exemple dans les travaux de Swan [Swa68] dans le cas 𝕂 imaginaire quadratique. Le lemme et son corollaire suivant permettront de se ramener à des suites de forme bien particulière dans la définition de ν_{P}.

Lemme 1.1 ([Fre90] page 37, lemme 3.5_{2}). Soit I = ⟨u,v⟩ = ⟨p,q⟩ un idéal entier. Alors il existe

[ \begin{matrix}a & b \\ c & d \end{matrix} ] ∈ SL_{2}(O)

telle que :

u = ap + bq,
v = cp + bq.
□

Corollaire 1.2. Si P = {I} est un singleton, que I est un idéal entier de norme minimale dans sa classe, et que I = ⟨p,q⟩, alors ν_{P} (z)^{[𝕂:ℚ]} est la borne inférieure des nombres de la forme

lim inf_{k→∞} N (z − \frac{a_{M_{k}}p + b_{M_{k}}q}{c_{M_{k}}p + d_{M_{k}}q} ) N(c_{M_{k}}p + d_{M_{k}}q)^{2},

pour une suite de matrices (M_{k})_{k} dans Γ_{𝕂}, de coefficients a_{M_{k}},b_{M_{k}},c_{M_{k}},d_{M_{k}}, vérifiant que

\frac{a_{M_{k}}p + b_{M_{k}}q}{c_{M_{k}}p + d_{M_{k}}q}

tend vers z pour la norme || ||_{∞}. □

Dans le cas où n = r + s = 1, remarquons que la dernière condition n’est pas nécessaire.

Définition 1.4. On appelera spectre de Lagrange de 𝕂 par rapport à P l’ensemble

L_{P} = {ν_{P} (z)|z ∈ E − π_{𝕂}(𝕂)}.

On notera simplement L_{𝕂} lorsque P = C(𝕂)

Nous n’avons pas encore prouvé que ces spectres soient bornés (mais c’est le cas). Cependant on appelera

C_{𝕂} = sup L_{𝕂}

la constante de Hurwitz du corps 𝕂.

Tournons-nous maintenant vers les formes quadratiques, pour définir un spectre de Markoff. Pour tout 1 ≤ i ≤ r (resp. r < i ≤ r + s), donnons-nous une forme quadratique q_{i} à deux variables, et à coefficients réels (resp. complexe), indéfinie et non dégénérée (resp. non dégénerée). Notons^{1} F Q(E) l’ensemble de applications

q : E^{2} → E,

qui s’écrivent

q (x_{i},y_{i}) = (q_{i}(x_{i},y_{i}))_{1≤i≤n} ,

modulo l’action par homothétie de (ℝ^{∗})^{r} × (ℂ^{∗})^{s}. Un tel q sera appelé par abus de langage une forme quadratique. Le discriminant de l’un de ses représentants est par définition le produit pondéré des discriminants

Δ(q) = ∏_{i=1}^{r}(β_{i}^{2} − 4α_{i}γ_{i}) ∏_{i=r+1}^{n}(β_{i}^{2} − 4α_{i}γ_{i})^{2},

où l’on a noté

q_{i}(x,y) = α_{i}x^{2} + β_{i}xy + γ_{i}y^{2}.

De façon équivalente, en utilisant la structure d’anneau de E, on peut dire q est une forme quadratique à coefficients dans E, q(x,y) = ax^{2} + bxy + cy^{2}, où a,b,c sont dans E, les classes d’équivalences sont modulo la multiplication par E^{∗} (l’ensemble des éléments de E de norme non nulle), et le discriminant Δ(q) = N(b^{2} − 4ac) est supposé non nul, σ_{i}(b^{2} − 4ac) > 0 pour tout i compris entre 1 et r, σ_{i} étant ici le prolongement (par continuité) de l’application déjà notée σ_{i} de 𝕂 dans ℝ (ou ℂ).

Définition 1.5.

μ_{P} (q) = ( inf_{(x,y)∈π_{𝕂}(O^{2}−\{0,0\})} \frac{N(q(x,y))}{|Δ(q)|^{\frac{1}{2}}})^{1/[𝕂:ℚ]}

Cette application est bien définie, c’est-à-dire que c’est une fonction invariante sous l’action des homothéties, indépendante du représentant choisi. Nous obtenons ici un autre corollaire du lemme 1.1 :

Corollaire 1.3. Si P = {I} est un singleton, que I est un idéal entier de norme minimale dans sa classe, et que I = ⟨p,q⟩, alors

μ_{P} (q)^{[𝕂:ℚ]} = inf_{M∈Γ_{𝕂}} \frac{N(q(a_{M}p + b_{M}q,c_{M}p + d_{M}q))}{\sqrt{|Δ(q)|}},

1. Cette notation n’est pas tout à fait exacte, puisque F Q(E) dépend en fait de (r,s)

où les coefficients de M sont notés a_{M},b_{M},c_{M} et d_{M}. □

Définition 1.6. On appelera spectre de Markoff de 𝕂 par rapport à P l’ensemble

M_{P} = {μ_{P} (q)|q ∈ F Q(E)}.

On note encore cet ensemble M_{𝕂} lorsque P = C(𝕂).

Muni de ces définitions, il est très facile de voir que l’on a les relations suivantes lorsque l’on fait varier P ou 𝕂:

ν_{P} (z) = inf_{I∈P} ν_{{I}}(z), (1)

μ_{P} (q) = inf_{I∈P} μ_{{I}}(z). (2)

Si 𝕂′/𝕂 est une extension galoisienne, on a un plongement naturel des espaces vectoriels associés :

π_{E′/E} : E → E′.

Il est alors facile de voir que, pour x ∈ E, on a

ν_{𝕂′}(π_{E′/E}(x)) ≤ ν_{𝕂}(x),

et des formules semblables correspondant au morphisme C(𝕂) → C(𝕂′).

Définition 1.7. Soit 𝕂′/𝕂 une extension quadratique, et (r,s),(r′,s′) les signatures respectives de 𝕂 et 𝕂′. Si r′ = 2r (et donc s′ = 2s), l’extension 𝕂′/𝕂 sera qualifiée de réelle. Si x est dans une extension quadratique réelle de 𝕂, comme on peut rassembler par paire les plongements de 𝕂′ à l’aide du groupe de Galois d’ordre 2 de 𝕂′/𝕂, on peut lui associer 2^{n} points de E de façon naturelle en choisissant pour chaque terme du produit de E l’un des deux morphismes de la paire associée. Les points de E ainsi obtenus définissent l’ensemble des nombres quadratiques de E, et ces ensembles de 2^{n} points de E les ensembles de nombres quadratiques conjugués.

Ces points quadratiques sont exactement les éléments de E vérifiant une équation quadratique dans E à coefficients dans 𝕂. Les points de E ainsi obtenus sont les analogues des nombres quadratiques réels dans le cas 𝕂 = ℚ, et ils bénéficient des mêmes propriétés (voir par ex. le lemme 2.2). Maintenant, remarquons comme précisé dans l’introduction que les définitions précédentes sont très proches d’un cas particulier de la situation étudiée par Edward Burger, et proches également d’une définition de Roland Quême. La majoration dans le théorème 1 de l’article [Bur92] reste valable dans notre cas, et on en déduit une majoration "à la Dirichlet"

C_{𝕂} ≤ ((\frac{2}{π} )^{2s} |Δ_{𝕂}|)^{1/m} .

La majoration issue de l’article de R. Quême s’avère meilleure dans notre cas (on rappelle que m = [𝕂 : ℚ]) :

Proposition 1.2. [Quê91]

C_{𝕂} ≤ ((\frac{4}{π} )^{2s} \frac{m!^{2}}{m^{2m}} |Δ_{𝕂}|)^{1/m} .

Il existe une notion de multiplicité pour un élément d’un des deux spectres. Il faut tout d’abord remarquer que ν_{P} et μ_{P} sont invariants sous les actions respectives de Γ_{𝕂} sur \overline{E} et F Q(E). Ceci sera prouvé dans la suite (Corollaire 2.4), l’action de Γ_{𝕂} sur \overline{E} étant l’action projective sur chacun des facteurs via les homomorphismes σ_{i}, et l’action sur les formes quadratiques étant donnée par

(γ.q)(x,y) := q(γ^{−1}(x,y)),

pour q ∈ F Q(E), γ ∈ Γ_{𝕂} une matrice de coefficients a,b,c,d et x,y ∈ E, l’action de γ^{−1} sur E^{2} étant l’action linéaire matricielle. L’ensemble des z de \overline{E} tels que ν_{P} (z) = c, où c est une constante fixé, est donc la réunion d’ensemble de classes modulo l’action de Γ_{𝕂}, et il en est de même des q dans F Q(E) tels que μ_{P} (z) = c.

Définition 1.8. On appelle multiplicité de c dans L_{P} (resp. M_{P}) le cardinal de l’ensemble des classes modulo l’action de Γ_{𝕂} dont la réunion est ν_{P}^{−1}(c) (resp. μ_{P}^{−1}(c)).

Exemple 1 : 1/3 est de multiplicité ℵ_{1} dans L_{ℚ} et M_{ℚ} [Cas57]. Exemple 2 : La conjecture de l’unicité affirme que tout élément > 1/3 de L_{ℚ} est de multiplicité 1 ([Cas57], p 33).

On se servira de cette notion au paragraphe 4.

3. Corps imaginaires quadratiques

Soit d un entier positif sans facteur carré, et soit 𝕂 = ℚ(\sqrt{−d}). Il existe une abondante littérature sur l’approximation diophantienne dans 𝕂, et quelques constantes d’Hurwitz ont été calculées, ainsi que parfois la partie supérieure du spectre (i.e. la partie discrète avant le premier point d’accumulation). Cette partie est dédiée au rappel des propriétés connues dans ce cas. En voici la liste pour les corps dont l’anneau est principal, résumées dans un tableau, avec lorsque j’ai pu le retrouver dans la littérature un point x tel que ν_{𝕂}(x) = C_{d} la constante d’Hurwitz, et une matrice loxodromique de SL_{2}(O) stabilisant x. Ce tableau complète celui de Hersonsky et Paulin [HP02]. Certaines matrices M ont été calculées en suivant la preuve du lemme 2.2 à partir du x présent dans la bibliographie, et pour d’autres valeurs c’est x qui a été déduit de M.

d  C_{d}  x  M
1 1/\sqrt{3}  (1 + i\sqrt{3})/2  [ \begin{matrix}2 − i & 2i \\ −2i & 2 + i \end{matrix} ]
2 1/\sqrt{2}  (1 + i)\sqrt{2}/2  [ \begin{matrix}3 − 2i\sqrt{2} & −4 \\ −4 & 3 + 2i\sqrt{2} \end{matrix} ]
3 1/\sqrt[4]{13}  (1 − i\sqrt{3})/4  [ \begin{matrix}i\sqrt{3} − 1 & −(5 + i\sqrt{3})/2 \\ (1 + 3i\sqrt{3})/2 & (i\sqrt{3} − 7)/2 \end{matrix} ]
+(1 − 3i\sqrt{3})^{\frac{\sqrt{(19−27i\sqrt{3})/2}}{28}}
7 1/\sqrt[4]{8}  -  -
11 2/\sqrt{5}  (2 + \sqrt{5} + i\sqrt{11})/4  [ \begin{matrix}(5 + i\sqrt{11})/2 & (3 − i\sqrt{11})/2 \\ 2 & (1 − i\sqrt{11})/2 \end{matrix} ]
19  1  (1 + i\sqrt{19})(1 + 1/\sqrt{5})/2  -
43  ?  ?  ?
67  ?  ?  ?
163  ?  ?  ?

Dans certains cas, la partie supérieure du spectre a été identifiée par Asmus Schmidt [Sch75],[Sch78],[Sch83], par exemple

L_{ℚ(i)}∩ ]1/2; +∞[ = M_{ℚ(i)}∩ ]1/2; +∞[ = {ν_{m}}_{m},

avec ν_{m} une suite tendant vers 1/2, mais il n’existe pas d’interprétation géométrique connue comme dans le cas standard 𝕂 = ℚ où tout élément des spectres > 1/3 correspond à une géodésique simple sur un revêtement particulier de la surface modulaire [Haa86], [BLS86].

La propriété suivante semble spécifique au cas r + s = 1 (le cas de rang 1).

Proposition 1.3. Pour q ∈ F Q(ℝ), x ∈ ℝ, et tout 𝕂 imaginaire quadratique:

μ_{ℚ}(q) = μ_{𝕂}(q) = μ_{{O}}(q),

ν_{ℚ}(x) = ν_{𝕂}(x) = ν_{{O}}(x).

Ainsi le spectre de Lagrange de ℚ est inclus dans le spectre de Lagrange de 𝕂, et de même pour le spectre de Markoff.

Preuve. On a ν_{ℚ}(x) ≥ ν_{𝕂}(x), et μ_{ℚ}(q) ≥ μ_{𝕂}(x), et il nous faut montrer les inégalités inverses. Montrons d’abord l’assertion concernant la constante d’approximation. Si 𝕂 = ℚ(i\sqrt{d}), d entier positif sans facteurs carrés, alors suivant que d est congru à trois modulo quatre ou non, l’anneau O des entiers est respectivement ℤ[\frac{1}{2}(i\sqrt{d} + 1) ou ℤ[i\sqrt{d}]. Dans les deux cas, on peut conclure que la partie imaginaire d’un élément de O − ℤ est plus grande en valeur absolue que \sqrt{3}/2. Ainsi, si x est réel, p,q dans O tels que p/q n’est pas réel, alors on a l’inégalité

|x − \frac{p}{q}| ≥ |ℑ (\frac{p}{q})| ≥ \frac{|ℑ(\overline{q}p)|}{|q|^{2}} ≥ \frac{\sqrt{3}}{2} \frac{1}{|q|^{2}} .

Comme ν_{ℚ}(x) ≤ 1/\sqrt{5} < \sqrt{3}/2, il ne nous reste à prouver, pour conclure que ν_{ℚ}(x) = ν_{𝕂}(x), que si p/q, fraction de 𝕂, approche x sur l’axe réel, on peut prendre p,q entiers. En effet, 𝕂 ∩ ℝ = ℚ, et donc si p/q est réel, alors p/q = p′/q′, où p′/q′ est une fraction irréductible rationnelle. Comme N(p)N(q′) = N(p′)N(q) se réecrit N(p)q^{′2} = p^{′2}N(q), on en déduit que q^{′2} divise N(q) puisque p′ et q′ sont premiers entre eux. Ainsi |q′| ≤ |q| et p′/q′ constitue une approximation de x au moins aussi bonne que p/q, au sens que

|x − \frac{p}{q}| |q|^{2} ≥ |x − \frac{p′}{q′} | |q′|^{2}.

Maintenant, venons-en aux formes quadratiques. Si q est une forme quadratique binaire non dégénérée, non définie, on peut tout d’abord supposer (quitte à échanger les variables) que q s’écrit

q(x,y) = (yz − x)(yz′ − x),

où z,z′ sont deux réels (distincts). Alors pour x,y complexes, et y non nul, on a

|q(x,y)|^{2} = |y|^{4}|z−\frac{x}{y}|^{2}|z′−\frac{x}{y}|^{2} = |y|^{4}((z−ℜ(x/y))^{2}+(ℑ(x/y))^{2})((z′−ℜ(x/y))^{2}+(ℑ(x/y))^{2}),

et donc

|q(x,y)|^{2} ≥ |y|^{4}(ℑ(x/y))^{2}((z − ℜ(x/y))^{2} + (z′ − ℜ(x/y))^{2}).

Or pour tout s réel, on a l’inégalité (z − s)^{2} + (z′ − s)^{2} ≥ (z − z′)^{2}/2. Ainsi, pour tout x,y, y non nul, on a

|q(x,y)| ≥ |y|^{2}|ℑ(x/y)| \frac{|z − z′|}{\sqrt{2}}.

De même que précédemment, si x,y sont dans O, si y est non nul et si x/y n’est pas réel, alors

|ℑ(x/y)| ≥ \frac{\sqrt{3}}{2|y|^{2}} ,

et ainsi

|q(x,y)| ≥ \frac{\sqrt{3}}{2\sqrt{2}}\sqrt{|Δ(q)|} ≥ \frac{1}{\sqrt{5}}\sqrt{|Δ(q)|},

et donc |q(x,y)| ≥ μ_{ℚ}(q)\sqrt{|Δ(q)|}. Nous pouvons toujours nous ramener au cas où y est non nul, et dans le cas où x/y est réel, c’est alors un rationnel, s’écrivant comme fraction irréductible x′/y′ dans ℤ, et nous pouvons montrer de même que précédemment que |q(x′,y′)| ≤ |q(x,y)|.

Le théorème suivant est une application directe des travaux de Hersonsky et Paulin aux définitions introduites précédemment. Il sera généralisé par la suite.

Théorème 1.4. [HP02] Tous les spectres L_{P} et M_{P} sont bornés. On a de plus

sup L_{𝕂} = sup M_{𝕂}.

Il faut également faire remarquer que l’approximation diophantienne dans le corps des quaternions peut rentrer dans le cadre de rang 1 (voir [Sch69]).

4. Spectres des hauteurs d’un espace

Soit X un espace topologique localement compact, A un groupe topologique abélien agissant continuement sur X, A^{+} un semi-groupe qui engendre A, et f : X → ℝ une fonction continue et propre. L’objet de cette partie est de faire une étude sommaire de quantités ν_{f},μ_{f} et d’ensembles L(f),M(f) définis un peu plus loin. L’un des buts du chapitre 2 sera justement de voir que les spectres L_{P} ,M_{P} vus dans la partie 2 sont issus d’une définition comme celle qui suit, et bénéficient donc de certaines propriétés, qui sont données dans les lemmes suivants. Pour x dans X, notons

ω_{+}(x) = ⋂_{a∈A^{+}} \overline{⋃_{b∈A^{+}}(ab).x},

qu’on peut appeler l’ensemble oméga-limite de x. Définition 1.9. Soit x ∈ X, on définit ν(x) et μ(x) par

ν_{f}(x) = exp (− sup_{ω_{+}(x)} f) ,

μ_{f}(x) = exp (− sup_{Ax} f) .

On définit les L,M-spectres de f comme les sous-ensembles de ℝ_{+} L(f) = {ν_{f}(x)|x ∈ X},

M(f) = {μ_{f}(x)|x ∈ X}.

Déduisons-en maintenant quelques propriétés élémentaires. Lemme 1.4. Si Δ désigne la différence symétrique d’ensembles, on a :

M(f)Δ{inf_{y∈Y} e^{−f(y)}|Y ≠ ∅,AY = Y } ⊂ {0},

M(f)Δ\{inf_{y∈Y} e^{−f(y)}|Y ≠ ∅,\overline{AY} = Y \} ⊂ \{0\},

et

L(f) ⊂ M(f)

Preuve. L’inclusion

M(f) ⊂ {inf_{y∈Y} e^{−f(y)}|Y,AY = Y }

est claire car les orbites sont des ensembles invariants. Reste à voir que

{inf_{y∈Y} e^{−f(y)}|Y,AY = Y } ⊂ M(f) ∪ {0}.

Soit Y un ensemble invariant non vide tel que inf_{y∈Y} e^{−f(y)} > 0, alors sup_{Y} f < +∞. Or

f(\overline{Y}) ⊂ \overline{f(Y)}

car f est continue, donc comme f est propre il existe y ∈ \overline{Y} tel que f(y) = sup_{Y} f. Or Ay ⊂ \overline{Y} par continuité de l’action de A, et donc

sup_{Ay} f = sup_{Y} f,

ce qui conclut la preuve de la première assertion, la deuxième en découle après la remarque que pour tout ensemble Y, on a

sup_{Y} f = sup_{\overline{Y}} f.

Pour la dernière assertion, comme ω_{+}(x) est un ensemble invariant, il nous faut juste vérifier que 0 ∈ L(f) implique 0 ∈ M(f). Or, s’il existe x tel que

sup_{ω_{+}(x)} f = +∞,

alors comme

ω_{+}(x) ⊂ \overline{Ax},

et que sup_{Ax} f = sup\overline{Ax} f, on a aussi sup_{Ax} f = +∞.

Lemme 1.5. M(f) ∪ {0} est un sous-ensemble fermé de ℝ. De plus, si μ ∈ M(f) − {0}, alors il existe x ∈ X tel que f(x) = − ln(μ) et μ_{f}(x) = μ.

Preuve. Soit (Ax_{i})_{i} une suite d’orbites telles que μ_{i} = μ_{f}(x_{i}) converge vers μ > 0 ∈ ℝ. Quitte à translater x_{i}, nous pouvons supposer que

− ln(μ_{i}) − 1/i ≤ f(x_{i}) ≤ − ln(μ_{i},)

et à partir d’un certain rang que | ln(μ_{i}) − ln(μ)| < 1. Comme x_{i} est dans le compact f^{−1}([− ln(μ) − 2, − ln(μ) + 1]), la suite x_{i} admet un point d’accumulation x. Ainsi f(x) = − ln(μ) par continuité de f. De plus, pour tout a ∈ A,

f(ax) = lim_{i→∞} f(ax_{i}) ≤ lim sup_{i→∞} μ_{i} = μ

et donc

sup_{Ax} f = μ.

La deuxième assertion se déduit de la preuve de la première, en considérant la suite constante égale à n’importe quelle orbite incluse dans μ_{f}^{−1}(μ).

Lemme 1.6. Supposons que f est minorée, alors

sup L_{f} = sup M_{f}.

Notons C_{f} cette borne supérieure commune. On l’appellera la constante d’Hurwitz de (X,f). Alors il existe x ∈ X, tel que :

μ_{f}(x) = ν_{f}(x) = C_{f}.

Preuve. Soit β un minorant de f. Regardons les ensembles

K_{α} = ⋂_{a∈A} af^{−1}([β; α]).

C’est une suite croissante d’ensembles compacts (éventuellement vides) et invariants, car f est propre. Ainsi, il existe une constante α_{0} ∈ [β; +∞] telle que K_{α} = ∅ si et seulement si α < α_{0}, car si

α_{0} = inf{α|K_{α} ≠ ∅},

on a

K_{α_{0}} = ⋂_{α>α_{0}} K_{α},

qui est donc non vide. Posons C_{f} = exp(−α_{0}). Soit x ∈ X, posons α = sup_{ω_{+}(x)} f, et α′ = sup_{Ax} f. Alors ω_{+}(x) ⊂ K_{α} et Ax ⊂ K_{α′}, et donc α ≥ α_{0}. D’autre part, si x ∈ K_{α_{0}}, Ax et ω_{+}(x) sont des sous-ensembles de K_{α_{0}} et donc

ν_{f}(x) = μ_{f}(x) = C_{f}.

Lemme 1.7. Soit μ une mesure finie sur X de support X, supposons que f n’est pas majorée et que l’action de A sur (X,μ) soit ergodique. Alors pour μ-presque tout x ∈ X, ν_{f}(x) = μ_{f}(x) = 0.

Preuve. Comme μ_{f} et ν_{f} sont des fonctions mesurables et invariantes sous l’action de A, ces fonctions sont constantes presque partout. Soient c_{1},c_{2} ces constantes. Soit U_{α} = f^{−1}(]α, + ∞[), comme pour tout x ∈ U_{α},

exp(−f(x)) < e^{−α},

et que U_{α} est de mesure strictement positive par hypothèse sur f et μ, on a c_{1} < e^{−α} pour tout α > 0 et donc c_{1} = 0. Par le lemme de récurrence de Poincaré, presque tout x ∈ U_{α} vérifie x ∈ ω_{+}(x), et de même c_{2} = 0.

Dans la suite, nous supposerons que A est σ-compact, c’est à dire réunion dénombrable de compacts.

Le lemme suivant est probablement connu.

Lemme 1.8. Soit Y ⊂ X un ensemble A-invariant compact minimal. Alors soit Y est une orbite compacte, soit Y est réunion d’un ensemble non dénombrable d’orbites disjointes.

Preuve. C’est une application directe du théorème de Baire. En effet, Y étant A-invariant, on peut toujours l’écrire comme réunion d’orbite disjointes :

Y = ⨆_{y∈Z} Ay.

Il nous faut montrer que Z dénombrable implique que Z est un singleton. Supposons donc que Z est dénombrable. Mais si A = ∪_{k}A_{k} où chaque A_{k} est compact, on a :

Y = ⋃_{y∈Z,k} A_{k}y.

Si tous les A_{k}y sont d’intérieur vide dans Y, alors par le théorème de Baire Y est d’intérieur vide dans Y. Donc il existe y dans Z et k tel que A_{k}y n’est pas d’intérieur vide. Soit donc U un ouvert non vide de Y contenu dans A_{k}y, AU = Y car le complémentaire de AU dans Y est un fermé invariant, qui est nécessairement vide par minimalité de Y. Donc Ay = Y, et donc

Z = {y}.

Corollaire 1.5. Supposons que f est minorée, et que μ_{f}^{−1}(C_{f}) ne contienne pas d’orbite compacte. Alors μ_{f}^{−1}(C_{f}) est une réunion non dénombrable d’orbites.

Preuve. Reprenons les notations de la preuve du lemme 1.6. Soit Y un compact invariant minimal inclus dans K_{α_{0}}, alors l’application du lemme 1.8 conclut.

16 1. CADRE GÉNÉRAL DE L’ÉTUDE

CHAPITRE 2 L’équivalence des définitions

1. La variété de Hilbert

J’introduis dans cette section la variété de Hilbert associée à 𝕂, ainsi que la variété des chambres de Weyl, avec toutes les définitions et remarques qui vont avec. Nous noterons ℍ^{2}, ℍ^{3} respectivement, le plan hyperbolique et l’espace hyperbolique de dimension 3. On note :

Ω = ∏_{i=1}^{r} ℍ^{2} × ∏_{i=r+1}^{r+s} ℍ^{3},

espace sur lequel G agit à gauche. Un point de Ω sera repéré par ses coordonnées dans le modèle du demi-plan (resp. demi-espace) supérieur dans chaque élément du produit: x = (z_{i},t_{i})_{i=1,..,n} où z_{i} ∈ ℝ si 1 ≤ i ≤ r, z_{i} ∈ ℂ si i > r, et t_{i} > 0. Nous noterons V_{𝕂} l’orbifolde quotient (variété de Hilbert) Γ_{𝕂}\Ω, et π_{V_{𝕂}} le revêtement d’orbifold : Ω → V_{𝕂}. Par élément loxodromique de P SL_{2}(E), on entend une application qui a exactement 2^{n} points fixes dans \overline{E}. Par point parabolique d’un sous-groupe discret Γ de P SL_{2}(E), on entend un point de \overline{E} qui est l’unique point fixe (dans \overline{E}) d’une application γ de Γ. Par cusp de Γ\Ω, on entend une classe modulo l’action de Γ de points paraboliques de \overline{E}. L’espace \overline{E} sera parfois désigné comme la frontière de Furstenberg de Ω.

Nous rappelons le théorème bien connu suivant, et qui pourra être trouvé dans [Fre90], par exemple.

Théorème 2.1. L’application (𝕂∪∞) → C(𝕂), x ↦ ⟨1,x⟩, induit une bijection naturelle Γ_{𝕂}\(𝕂∪∞) → C(𝕂) de l’ensemble des cusps de V_{𝕂} dans le groupe de classe d’idéaux fractionnaires de O.

Dans le résultat précédent, on convient que l’idéal engendré par (1,∞) est égal à O. Pour la définition du bord de Ω, on se réfèrera à [Bal95]. Un ouvert dense U de ∂Ω, invariant par le groupe G, peut être décrit de la façon suivante :

U = \{(z,θ)|z ∈ \overline{E},θ ∈ S^{n−1}∩]0,1]^{n}\},

le plongement i (que l’on considèrera comme une identification) dans ∂Ω étant donné par

i(z,θ) = lim_{t→+∞}((z_{i},e^{−α_{i}t}))_{i},

avec θ = (α_{1},..,α_{n}), ∑_{i} α_{i}^{2} = 1. Cette expression est valable si tous les z_{i} sont finis. Sinon, on remplace dans l’expression précédente le terme correspondant à un z_{i} = ∞ par (0,e^{α_{i}t}). L’action de G est ici g(z,θ) = (gz,θ).

Il est facile de vérifier que l’image de ce plongement est bien un ouvert dense du bord : c’est en fait l’ensemble ∂Ω_{reg} des points réguliers du bord. Ainsi, nous parlerons d’un point de \overline{E} comme d’une classe asymptotique de chambres de Weyl de Ω. Rappelons que la fonction de Busemann est définie pour ξ un point du bord ∂Ω et deux points x,y de Ω comme la limite

B_{ξ}(x,y) = lim_{t→+∞} d(r(t),x) − t,

où r(t) désigne le rayon géodésique infini partant de y vers ξ. Soit ξ_{0} ∈ U le point à l’infini régulier (∞,θ), et soit x_{0} ∈ Ω le point (0,1)_{i=1,..,r+S}. Soit x = (z_{i},h_{i})_{i} un point de Ω. On a alors la formule suivante pour la fonction de Busemann du point ξ_{0}

Lemme 2.1.

e^{−B_{ξ_{0}}(x,x_{0})} = ∏_{i=1}^{n} h_{i}^{α_{i}}.

□

Soit ρ : Γ → G une représentation d’un groupe Γ, et π_{V} : Ω → V = ρ(Γ)\Ω la projection canonique. On peut définir une "fonction de Busemann" sur V de la façon suivante. Soit ζ ∈ ∂Ω un point parabolique, p̃ dans Ω, et q dans V

Définition 2.1. On pose

B_{ζ}^{ρ}(q,p̃) := inf_{q̃|π_{V} (q̃)=q} B_{ζ}(q̃,p̃),

où la fonction dans le deuxième terme est la fonction de Busemann sur Ω.

On se réfèrera ici à l’article de H.C. Im Hof [IH85] pour la description générale de l’action sur les chambres de Weyls. Dans notre cas, le sous-groupe abélien de G, A = (ℝ_{+}^{∗})^{n} identifié au groupe matriciel

A = \{([ \begin{matrix}e^{t_{i}} & 0 \\ 0 & e^{−t_{i}} \end{matrix} ])_{i=1,..,n} : t_{i} > 0\} ,

agit sur la variété CW (Ω) des chambres de Weyl de Ω, qui est le produit des T^{1}ℍ^{2}, T^{1}ℍ^{3}, les espaces tangents unitaires des espaces hyperboliques.

Etant donnée une orbifolde quotient V = Γ(V)\Ω, de volume fini et de cusps C(V), cette action descend en une action sur l’ensemble CW (V) = Γ(V)\CW (Ω) des chambres de Weyl de l’orbifolde V. On se fixe dans la suite le semi-groupe A^{+} = {(t_{1},..,t_{n}) : t_{i} > 0} ⊂ A, qui est l’intérieur d’une chambre de Weyl standard.

Définition 2.2. On dira que deux chambres de Weyl de Ω sont asymptotes si elles définissent le même point de la frontière de Furstenberg. On dira que deux chambres de Weyl de V sont asymptotes si elles ont deux relevés asymptotes. En particulier, si w,w′ ∈ CW (V) sont asymptotes, alors :

ω_{+}(w) = ω_{+}(w′).

On a bien sûr un revêtement naturel π_{CW} : CW (V) → V qui à une chambre de Weyl de V associe son point base. On utilisera la paramétrisation de Hopf suivante pour les chambres de Weyls de Ω : notons (E × E)^{∗} l’ensemble des (z,z′) dans E tels que N(z − z′) ≠ 0. Il existe une bijection :

CW (Ω) → (E × E)^{∗} × A,

qui est la bijection déduite par produit des paramétrisations de Hopf de T^{1}ℍ^{2} et T^{1}ℍ^{3}. La mesure de Liouville sur CW (Ω) s’exprime à l’aide de cette paramétrisation

dw = 2^{r+2s} \frac{dzdz′da}{N(z − z′)^{2}} . (3)

Enfin, la propriété suivante peut être vue comme une généralisation du théorème de Lagrange : un réel est quadratique sur ℚ si et seulement si son développement en fraction continue est périodique.^{1}

Lemme 2.2. Les plats de Ω qui se projettent sur des tores plats compacts dans V_{𝕂} sont exactement ceux dont les 2^{n} points à l’infini sont des nombres quadratiques conjugués (voir définition 1.7).

Preuve. Si on considère les 2^{n} points à l’infini d’un relevé d’un tore compact, il existe une matrice loxodromique γ de Γ_{𝕂} (en fait un sous-groupe abélien de rang n) stabilisant chacun de ces points à l’infini. Si ((x_{i})_{i},(y_{i})_{i}) ∈ E^{2} décrivent ces points (au sens que la i-ème coordonnée d’un point à l’infini est soit x_{i}, soit y_{i}), alors l’équation décrivant ces points fixes γz = z nous donne pour chaque coordonnées une équation du second degré d’inconnue z,

1. Il est sans doute déjà connu mais je ne lui connais pas de référence. D’autres exemples similaires sont par exemple dans [LW01].

σ_{i}(c)z^{2} + σ_{i}(d − a)z − σ_{i}(b) = 0,

à coefficients dans 𝕂, dont x_{i} et y_{i} sont solutions, et ainsi c’est un ensemble de nombres quadratiques conjugués (on a le bon nombre d’équations à coefficients réels).

Réciproquement, si un ensemble rectangulaire de 2^{n} points de E est un ensemble de nombres quadratiques conjugués, ils sont issus d’un nombre x dans 𝕂′, 𝕂′ extension réelle de degré 2 de 𝕂. De par le théorème des unités de Dirichlet, le facteur abélien libre du groupe des unités de 𝕂′ est de rang 2r + 2s − 1 = 2n − 1, et le facteur abélien libre du groupe des unités de 𝕂 est de rang r+s−1 = n−1. Comme la norme relative (cf [Sam67]) satisfait

N_{𝕂′/ℚ}(u) = N_{𝕂/ℚ}(N_{𝕂′/𝕂}(u)),

on en déduit que le facteur abélien libre du groupe ker(N_{𝕂′/𝕂}) des éléments de norme relative pour l’extension 𝕂′/𝕂 égale à 1 est de rang n. Soit u ∈ ker(N_{𝕂′/𝕂}), qui ne soit pas de torsion. Soit M ⊂ 𝕂′ le O-module de base (1,x). Comme M est commensurable à O′ (en le sens que leur intersection est un sous-groupe d’indice fini de chacun d’eux), et que la multiplication par u stabilise O′, il existe k > 0 tel que la multiplication par u^{k} stabilise M. Soit

A = [ \begin{matrix}a & b \\ c & d \end{matrix} ] ,

la transposée de la matrice de multiplication par u^{k} dans la base (x,1). Comme xu^{k} = ax + b et u^{k} = cx + d, on a pour tout z dans l’ensemble des points conjugués

A(z) = \frac{az + b}{cz + d} = \frac{zu^{k}}{u^{k}} = z,

équation qui est à lire comme une équation dans E. Comme A est de déterminant 1 = N_{𝕂′/𝕂}(u^{k}) et n’est pas de torsion, ses valeurs propres dans chaque coordonnées i sont distinctes de 1 et −1, et c’est bien un élément loxodromique de Γ_{𝕂} stabilisant tout point de l’ensemble rectangulaire de départ. Il y a donc un groupe de rang n ainsi engendré par les différents éléments u de ker(N_{𝕂′/𝕂}). Comme le stabilisateur dans G du plat défini par les 2^{n} points conjugués admet un sous-groupe d’indice fini isomorphe à ℝ^{n}, le sous-groupe formé précedemment en est un réseau et le quotient est compact.

2. La correspondance géométrique

Dans cette section, on relie les quantités diophantiennes et dynamiques introduites dans les parties précédentes. On fixe le point à l’infini :

ξ_{0} = ((∞)_{i=1,..,n}, θ_{0} = ((\frac{1}{\sqrt{r + 4s}})_{i=1,..,r} , (\frac{2}{\sqrt{r + 4s}})_{i=r+1,..,n})) ,

et le point de référence x_{0} = (0,1)_{i=1,..,n} dans Ω. Traitons tout d’abord le cas des ’formes quadratiques’. Le lemme suivant fait le lien entre plats et produits de formes quadratiques.

Lemme 2.3. Il existe une bijection canonique G-équivariante q ↦ G(q) entre F Q(E) et l’ensemble des plats totalement géodésiques maximaux non orientés de Ω.

Nous pourrions simplement remarquer que P SL_{2}(ℝ) (resp P SL_{2}(ℂ)) agit transitivement sur F Q(ℝ) (resp. F Q(ℂ)) et que le stabilisateur de q(x,y) = xy est égal au stabilisateur de la géodésique non orientée, non pointée, reliant les deux points de ∂ℍ^{2} (resp ∂ℍ^{3}) 0 et ∞, sous l’action du même groupe vu comme groupe d’isométrie de ℍ^{2} (resp ℍ^{3}). Il en est ainsi de même pour l’action produit de G sur les ensembles produits. Mais il n’est sans doute pas inutile de décrire un peu plus cette bijection.

A tout q = (q_{i})_{i} dans F Q(E), on associe le plat géodésique G(q) (sans orientation) ayant pour points à l’infini les points de coordonnées (ξ_{i})_{1≤i≤n}, où ξ_{i} est racine de l’équation q_{i}(z,1) = 0. En général, il y en a toujours 2 distinctes. Si q_{i}(z,1) est de degré 1, on prend comme points à l’infini la racine et ∞ ∈ ∂ℍ^{2} ou ∂ℍ^{3}. Cette manière de définir nous donne ainsi toujours 2^{n} points à l’infini. Il y en a en effet autant que de chambres de Weyls.

Réciproquement, à un plat géodésique P non orienté de Ω, en notant ξ_{i},ξ′_{i} ses points à l’infini dans le i-ìeme facteur, on considère la forme quadratique q(P) = (q_{i})_{i} avec

q_{i}(x,y) = (yξ_{i} − x)(yξ′_{i} − x),

ou éventuellement q_{i}(x,y) = (yξ_{i} − x)y si un des points à l’infini est ∞ ∈ ∂Ω. Venons-en maintenant aux "nombres" de E.

Lemme 2.4. Il existe une bijection canonique z ↦ R(z) entre \overline{E} et l’ensemble des classes asymptotiques de chambres de Weyl de Ω, qui est G-équivariante.

Comme précédemment, cette bijection est claire sur chaque H^{2} et H^{3}, un point du bord étant par définition une classe (faiblement) asymptotique de rayons géodésiques, et s’obtient ensuite par produit. Plus explicitement, nous nous intéresserons au passage au quotient par Γ_{𝕂} de cette bijection.

A un élément z de \overline{E}, on associe la classe asymptotique R(z) de chambres de Weyl de V_{𝕂} à laquelle appartient toute chambre dont un relevé a pour point à l’infini z. Réciproquement, à une chambre de Weyl de V_{𝕂}, on peut associer la classe modulo Γ_{𝕂} de point à l’infini dans \overline{E} d’un relevé de cette chambre au produit de demi-espaces supérieurs. En particulier les éléments de 𝕂 sont associés aux chambres de Weyl qui se terminent dans les cusps en respectant l’indexation de 𝕂 et des cusps selon C(𝕂), c’est à dire en respectant l’association du théorème 2.1. Soit w une chambre de Weyl de R(z), alors l’ω-limite positive ω_{+}(w) ne dépend en fait que de R(z), ce qui justifie l’écriture de cet ensemble comme ω_{+}(R(z)).

Il sera dans la suite plus commode d’associer à un élément de \overline{E}, non pas une classe asymptotique, mais un représentant de cette classe. A un élément z = (z_{1},..,z_{n}) dans E on associe la chambre de Weyl W_{0}(z) dans Ω définie par:

W_{0}(z) = {(z_{i},e^{−t_{i}})|t_{i} ≥ 0},

et le plat maximal contenant W_{0}(z), défini par

p_{0}(z) = {(z_{i},t_{i})|t_{i} > 0},

et on notera W (z) l’image de W_{0}(z) dans V_{𝕂}.

Le lemme suivant, qui sera par la suite appliqué à différentes représentations de Γ_{𝕂} reliées chacune à un cusp, nous permettra de faire le lien avec l’approximation diophantienne.

Soit

γ = ([ \begin{matrix}a_{i} & b_{i} \\ c_{i} & d_{i} \end{matrix} ])_{i=1,..,n} = [ \begin{matrix}a & b \\ c & d \end{matrix} ] ∈ SL_{2}(E).

Lemme 2.5 (Lemme fondamental). Avec les notations précédentes sur z,x_{0},γ,ξ_{0}, on a :

min_{x∈γ^{−1}p_{0}(z)} exp(B_{ξ_{0}}(x,x_{0})) = (N(C)^{2}N (\frac{A}{C} − z) 2^{r+2s})^{\frac{1}{\sqrt{r+4s}}}

De plus, l’unique point x réalisant le minimum vérifie

γx = (z_{i}, |z_{i} − \frac{a_{i}}{c_{i}} |)_{i} . (4)

Preuve. Soit x dans γ^{−1}p_{0}(z), notons x = (u_{i},h_{i})_{i=1,..,n}. On sait (ou bien l’on calcule) que dans chaque facteur du produit Ω (c’est à dire dans chaque copie de H^{2} ou H^{3}), l’horosphère centrée en \frac{a_{i}}{c_{i}}), image par [ \begin{matrix}a_{i} & b_{i} \\ c_{i} & d_{i} \end{matrix} ] d’une

horosphère centrée en l’infini de hauteur euclidienne h_{i}, est de rayon euclidien r_{i} avec :

\frac{1}{2h_{i}|c_{i}|^{2}} = r_{i}

On regarde les cercles (resp. sphères) tangents aux bords des ℍ^{2}, (resp. ℍ^{3}) en les points a_{i}/c_{i} et passant par les projections sur chaque composante de γx. Ils sont de rayon euclidien r_{i}. On note γx = (z_{i},t_{i})_{i=1,..,n}. Le théorème de Pythagore nous dit que

r_{i}^{2} = (t_{i} − r_{i})^{2} + |z_{i} − \frac{a_{i}}{c_{i}} |^{2}.

C’est à dire qu’on a les égalités :

r_{i} = \frac{1}{2}(t_{i} + \frac{|z_{i} − \frac{a_{i}}{c_{i}} |^{2}}{t_{i}})

Et donc :

\frac{1}{2h_{i}|c_{i}|^{2}} = \frac{1}{2}(t_{i} + \frac{|z_{i} − \frac{a_{i}}{c_{i}} |^{2}}{t_{i}})

Ainsi, le produit des n égalités précédentes ou de leur carré, suivant qu’elles correspondent à un facteur réel ou complexe, nous donne :

((∏_{i=1}^{r} h_{i})( ∏_{i=r+1}^{s} h_{i}^{2})N(c)^{2})^{−1} = ∏_{i=1}^{r} (t_{i} + \frac{|z_{i} − \frac{a_{i}}{c_{i}} |^{2}}{t_{i}} ) ( ∏_{i=r+1}^{n} (t_{i} + \frac{|z_{i} − \frac{a_{i}}{c_{i}} |^{2}}{t_{i}} ))^{2}

Ou encore, en utilisant la formule pour la fonction de Busemann sur Ω :

exp(B_{ξ_{0}}(x,x_{0}))^{\sqrt{r+4s}}N(c)^{−2} = ∏_{i=1}^{r}(t_{i} + \frac{|z_{i} − \frac{a_{i}}{c_{i}} |^{2}}{t_{i}}) ( ∏_{i=r+1}^{n}(t_{i} + \frac{|z_{i} − \frac{a_{i}}{c_{i}})|^{2}}{t_{i}}))^{2}

Le i-ème terme du produit de gauche est minimisé lorsque t_{i} = |z_{i} − \frac{a_{i}}{c_{i}} | et l’unique minimum est atteint pour x = γ^{−1}((z_{i},t_{i})_{i=1,..,n}), et alors :

exp(\sqrt{r + 4s}B_{ξ_{0}}(x,x_{0})) = N(z − \frac{a}{c})N(c)^{2}2^{r+2s}.

Le lemme suivant est l’analogue du précédent pour les formes quadratiques.

Proposition 2.6. Soient q ∈ F Q(E) et ρ un morphisme d’un groupe Γ dans G, d’image discrète. Alors

inf_{γ∈Γ} \frac{N(q(d, − c))}{\sqrt{|Δ(q)|}} = 2^{−[𝕂:ℚ]} inf_{p∈π_{V} (G(q))} e^{\sqrt{r+4s}B_{ξ_{0}}^{ρ}(p,x_{0})},

où

ρ(γ) = ([ \begin{matrix}a_{i} & b_{i} \\ c_{i} & d_{i} \end{matrix} ])_{i=1,..,n} = [ \begin{matrix}a & b \\ c & d \end{matrix} ] ∈ SL_{2}(E).

Preuve. Montrons d’abord la première affirmation. Écrivons

q_{i}(x,y) = (yη_{i} − x)(yη′_{i} − x).

Par le lemme 2.1, on a, en posant α_{i} = \frac{1}{\sqrt{r+4s}} si i ≤ r, α_{i} = \frac{2}{sqrtr+4s} sinon,

sup_{p∈G(q)} e^{−B_{ξ_{0}}(p,x_{0})} = ∏_{i=1}^{n} (\frac{1}{2}|η_{i} − η′_{i}|)^{α_{i}} ,

et de même,

sup_{p∈ρ(γ)G(q)} e^{−B_{ξ_{0}}(p,x_{0})} = ∏_{i=1}^{n} (\frac{1}{2} \frac{|η_{i} − η′_{i}|}{|(c_{i}η_{i} + d_{i})(c_{i}η′_{i} + d_{i})|})^{α_{i}} .

On obtient, d’après les valeurs de α_{i} et après avoir remarqué que |η_{i} − η′_{i}|^{2} = |Δ(q_{i})|,

2^{−[𝕂:ℚ]} inf_{p∈ρ(γ)G(q)} e^{\sqrt{r+4s}B_{ξ_{0}}(p,x_{0})} = \frac{N(q(−d,c))}{\sqrt{|Δ(q)|}}.

En passant à l’infimum sur tous les γ dans Γ, on obtient bien l’égalité annoncée.

3. Application au cas des variétés de Hilbert

Dans cette partie, on établit que les quantités diophantiennes définies dans la partie 2 sont égales aux quantités géométriques définies dans la partie 4, pour une certaine fonction f et le fibré des chambres de Weyls de la variété de Hilbert correspondante.

Fixons le corps 𝕂, extension finie de ℚ, et commençons par décrire certaines représentations du groupe Γ_{𝕂}. Soit une classe \overline{I} dans C(𝕂), dont on choisit un représentant I, qui soit un idéal entier de norme minimale parmi les représentants de cette classe.

Soient p,q dans O deux éléments qui engendrent I. Il existe alors μ et ν dans I^{−1} tels que

pν + qμ = 1.

Soit M l’élément de G défini par

M = \overline{π_{𝕂}} ([ \begin{matrix}p & −μ \\ q & ν \end{matrix} ]) .

Alors

M^{−1} = \overline{π_{𝕂}} ([ \begin{matrix}ν & μ \\ −q & p \end{matrix} ]) .

On pose Γ_{M} = M^{−1}Γ_{𝕂}M, et ρ(γ) = M^{−1}γM. Un élément g dans Γ_{M} s’écrit

g = \overline{π}_{𝕂} ([ \begin{matrix}pνa + pμc + qνb + qμd & −μνa − μ^{2}c + ν^{2}b + μνd \\ −pqa + p^{2}c − q^{2}b + pqd & μqa − μpc − qνb + pνd \end{matrix} ])

= \overline{π}_{𝕂} ([ \begin{matrix}A & B \\ C & D \end{matrix} ]) ,

avec

γ = MgM^{−1} = \overline{π}_{𝕂} ([ \begin{matrix}a & b \\ c & d \end{matrix} ]) ∈ Γ_{𝕂}.

3.0.1. Formes quadratiques et plats. Rappelons que π_{CW} : CW (V_{𝕂}) → V_{𝕂} est la projection canonique. Fixons I,M,p,q comme dans la partie précédente. Notons ρ_{0} : Γ_{𝕂} → G l’inclusion. On définit une application f_{I} : CW (V_{𝕂}) → ℝ par

f_{I}(w) = −\frac{\sqrt{r + 4s}}{[𝕂 : ℚ]}B_{(p/q,θ_{0})}^{ρ_{0}}(π_{CW} (w),x_{0})

+ ln(2) + \frac{\sqrt{r + 4s}}{[𝕂 : ℚ]}B_{ξ_{0}}(x_{0},M^{−1}x_{0}). (5)

Cette fonction est continue et propre sur CW (V_{𝕂}). Si P est une partie non vide de C(𝕂), notons

f_{P} = sup_{I∈P} f_{I}.

Si P = C(𝕂), on pose f_{𝕂} = f_{C(𝕂)}. Nous allons maintenant relier explicitement les objets de la partie 4 appliquées à (CW (V_{𝕂}),f_{P}) avec les quantités diophantiennes.

Théorème 2.2. Les définitions arithmétiques et géométriques de μ coïncident. En d’autres termes, pour tout q dans F Q(E),

μ_{P} (q) = μ_{f_{P}} (π_{V_{𝕂}}(G(q))). (6)

Preuve. D’après la formule 2, et la définition de f_{P}, il nous suffit de le prouver pour P un singleton. Soit donc P = {I}. Soit ρ la représentation décrite précédemment, et soit q dans F Q(E), ρ(γ^{−1}) dans Γ_{M}. Ecrivons

ρ(γ) = [ \begin{matrix}A & B \\ C & D \end{matrix} ] , γ = [ \begin{matrix}a & b \\ c & d \end{matrix} ] .

Alors, on a

M [ \begin{matrix}D & −B \\ −C & A \end{matrix} ] = Mρ(γ)^{−1} = γ^{−1}M,

et donc

M [ \begin{matrix}D \\ −C \end{matrix} ] = [ \begin{matrix}ap + bq \\ cp + dq \end{matrix} ] .

Ainsi,

q(M(D, − C)) = q(cp + dq,ap + bq),

d’où, par la proposition 2.6,

inf_{γ∈Γ_{𝕂}} \frac{N(q(cp + dq,ap + bq))}{\sqrt{|Δ(q)|}} = 2^{−[𝕂:ℚ]} inf_{p∈π_{V} (G(M^{−1}q)} e^{\sqrt{r+4s}B_{ξ_{0}}^{ρ}(p,x_{0})}.

Le corollaire 1.3 nous permet ainsi d’affirmer que

2^{−[𝕂:ℚ]} inf_{p∈π_{V} (M^{−1}G(q))} e^{\sqrt{r+4s}B_{ξ_{0}}^{ρ}(p,x_{0})} = μ_{P} (q)^{[𝕂:ℚ]}.

Maintenant exprimons la relation de cocycle de la fonction de Busemann

B_{ξ_{0}}^{ρ}(p,x_{0}) = B_{Mξ_{0}}^{ρ_{0}}(Mp,Mx_{0}) = B_{Mξ_{0}}^{ρ_{0}}(Mp,x_{0}) − B_{Mξ_{0}}(Mx_{0},x_{0})
= B_{Mξ_{0}}^{ρ_{0}}(Mp,x_{0}) − B_{ξ_{0}}(x_{0},M^{−1}x_{0})

Ce qui, avec la remarque π_{V} (M^{−1}G(q)) = π_{V_{𝕂}}(G(q)), conclut la preuve.

3.0.2. Approximation diophantienne et ω-limites.

Théorème 2.3. Les définitions arithmétiques et géométriques de ν coïncident. En d’autres termes, pour tout z dans E − 𝕂,

ν_{P} (z) = ν_{f_{P}} (W (z)). (7)

Preuve. De même que dans la preuve précédente, la formule 1 nous permet de supposer que P est un singleton. Soit P = {I}, et ρ la représentation définie précédemment. Tout d’abord, montrons que

ν_{{I}}(z) ≥ ν_{f_{I}}(W (z)).

D’après le corollaire 1.2, il existe une suite

γ_{l} = \overline{pi}_{𝕂} [ \begin{matrix}a_{l} & b_{l} \\ c_{l} & d_{l} \end{matrix} ] ∈ Γ_{𝕂},

tels que, lorsque l → +∞,

||z − \frac{a_{l}p + b_{l}q}{c_{l}p + d_{l}q} ||_{∞} → 0, (8)

et

N (z − \frac{a_{l}p + b_{l}q}{c_{l}p + d_{l}q} ) N(c_{l}p + d_{l}q)^{2} → ν_{\{I\}}(z)^{[𝕂:ℚ]}. (9)

Soit x_{l} le point de ρ(γ_{l})^{−1}p_{0}(M^{−1}z) réalisant le minimum dans le lemme 2.5, appliqué à la transformation M^{−1}γ_{l}M. On obtient :

exp(\sqrt{r + 4s}B_{ξ_{0}}(x_{l},x_{0})) = N(C_{l})^{2}N (M^{−1}γ_{l}M(∞) − M^{−1}z) 2^{[𝕂:ℚ]},

car A_{l}/C_{l} = Mγ_{l}M^{−1}(∞). Or, on peut calculer que

C_{l} = (pc_{l} + qd_{l})(p − qγ_{l}M(∞)),

et

N (M^{−1}γ_{l}M(∞) − M^{−1}z) = \frac{N(z − γ_{l}M(∞))}{N(−qz + p)N(−qγ_{l}M(∞) + p)}.

Ce qui nous donne

exp(\sqrt{r + 4s}B_{(p/q,θ_{0})}(Mx_{l},Mx_{0}))

= N(pc_{l} + qd_{l})^{2}N (γ_{l}M(∞) − z) \frac{N(p − qγ_{l}M(∞))}{N(p − qz)}2^{[𝕂:ℚ]},

Lorsque l → ∞, l’expression précédente tend vers (2ν_{{I}}(z))^{[𝕂:ℚ]}, de par les expressions 8 et 9. La suite ρ(γ_{l})x_{l} converge vers M^{−1}z dans W_{0}(M^{−1}(z)) d’après l’équation 4. Donc l’ensemble des points d’accumulation de π_{V_{𝕂}}(Mx_{l})_{l} est contenu dans π_{CW} (ω_{+}(MW (M^{−1}z))) = π_{CW} (ω_{+}(W (z))), et donc par continuité de f, on obtient bien ν_{{I}}(z) ≥ ν_{f_{I}}(W (z)).

Montrons maintenant la réciproque :

ν_{{I}}(z) ≤ ν_{f_{I}}(W (z)).

Soit w_{l} une suite de sous-chambres de Weyls dans MW_{0}(M^{−1}z) dont les pointsbases x_{l} tendent vers z pour la topologie euclidienne, tels que exp(−f_{I}(πw_{l})) → ν_{f_{I}}(W (z))), π étant ici la projection CW (Ω) → CW (V_{𝕂}). On pose y_{l} = M^{−1}x_{l}. Ainsi, d’après la définition de B_{ξ_{0}}^{ρ} et le lemme 2.5, il existe une suite g_{l} de Γ_{M} telle que :

exp(\sqrt{r + 4s}B_{ξ_{0}}^{ρ}(g_{l}y_{l},x_{0})) ≥ N(C_{l})^{2}N (\frac{A_{l}}{C_{l}} − M^{−1}z) 2^{[𝕂:ℚ]}.

De plus, quitte à changer y_{l} grâce au lemme 2.5, on peut supposer qu’il y a égalité, et l’équation 4 nous dit alors que

||g_{l}(∞) − M^{−1}z||_{∞} → 0.

Mais on peut écrire, en posant γ_{l} = Mg_{l}M^{−1},

exp(\sqrt{r + 4s}B_{ξ_{0}}^{ρ}(M^{−1}γ_{l}x_{l},x_{0})) = 2^{[𝕂:ℚ]} (\frac{N(\frac{p}{q} − γ_{l}(\frac{p}{q}))}{N(z − \frac{p}{q})}) (N(c_{l}p + qd_{l})^{2}N (γ_{l}(p/q) − z)) ,

tout comme dans la première partie de la preuve. En passant à la limite, on obtient l’inégalité annoncée, car ||z − γ_{l}(p/q)||_{∞} tend bien vers 0.

4. Quelques corollaires

Nous énonçons maintenant quelques conséquences directes des théorèmes 2.2 et 2.3. Le premier est bien connu lorsque n = 1, mais mérite d’être noté. On n’avait jusqu’alors pas précisé de mesure sur F Q(E), mais comme F Q(E) s’identifie naturellement à l’espace des plats de Ω, il existe ainsi une mesure G-invariante sur cet espace issue de la mesure de Haar de G.

Corollaire 2.4. Les fonctions ν_{P} et μ_{P} sur \overline{E} et F Q(E) sont Γ_{𝕂}-invariantes. Elles sont nulles presques partout.

Preuve. L’invariance résulte des formules 6 et 7. La deuxième partie se déduit du lemme 1.7 de la façon suivante; soit F ⊂ E un ensemble de mesure finie et positive tel que ν_{P} est constant sur F. L’ensemble des chambres w ∈ CW (V_{𝕂}) telles que w admet un relevé à Ω ayant pour point à l’infini positif un élément de F est de mesure non nulle d’après la formule 3, et on applique alors le lemme 1.7.

Ce corollaire est l’analogue du résultat de Tornheim. J’ignore si l’inclusion est stricte.

Corollaire 2.5. Pour tout P ⊂ C(𝕂) non vide, on a :

L_{P} ⊂ M_{P}

Preuve. C’est l’application directe du lemme 1.4.

Le corollaire suivant généralise le théorème 1.4.

Corollaire 2.6. La définition suivante de C_{𝕂} a bien un sens

C_{𝕂} = sup L_{𝕂} = sup M_{𝕂}.

Et il existe q dans F Q(E), et z dans E tels que

μ_{𝕂}(q) = ν_{𝕂}(z) = C_{𝕂}.

Si P est non vide, L_{P} et M_{P} sont bornées.

Preuve. La première partie est l’application directe du lemme 1.6, il n’y a qu’à vérifier que f_{C(𝕂)} est bien minorée. La dernière assertion découle du fait topologique suivant : il existe un compact K de V_{𝕂} intersectant tout plat géodésique, car un voisinage horosphérique suffisamment petit ne contient aucun plat entier.

Corollaire 2.7. Si la constante de Hurwitz n’est pas atteinte par un "nombre" de E ’quadratique réel’, alors sa multiplicité est non dénombrable dans chacun des deux spectres. C’est en particulier le cas si ce n’est pas un nombre algébrique.

Preuve. Si la constante de Hurwitz n’est pas atteinte par un "nombre quadratique réel" de E, d’après le lemme 2.2, le corollaire 1.5 s’applique et la multiplicité est non dénombrable dans le spectre de Markoff. Remarquons qu’un plat de Ω et à fortiori de V_{𝕂} peut être donné par des points antipodaux dans le rectangle des 2^{n} points à l’infini. Si elle était de multiplicité dénombrable dans le spectre de Lagrange, en particulier l’ensemble des points à l’infini des plats donnant lieu à la constante de Hurwitz serait dénombrable, mais ces plats sont inclus dans ceux définis grâce à des paires de points de cet ensemble, ce qui nous donne un nombre dénombrable, contredisant la conclusion sur la multiplicité du spectre de Markoff. Pour la dernière assertion, on peut calculer que la constante d’approximation d’un nombre quadratique de 𝕂 dans E est toujours algébrique (voir [HP02]).

1. UN THÉORÈME SUR LES SPECTRES DANS LES ESPACES CAT (−1) 31

CHAPITRE 3 Le cas de rang 1

1. Un théorème sur les spectres dans les espaces CAT (−1)

Soit Ω un espace métrique simplement connexe, complet et localement compact, géodésique et CAT (−1) (référence [Bal95]). Notons T^{1}Ω l’ensemble des plongements isométriques de ℝ dans Ω, il est naturellement muni d’une action ϕ^{t} de ℝ qui consiste à translater l’isométrie et d’une involution v ↦ −v, qui change le signe du temps.

Soit Γ un sous-groupe discret du groupe Isom(Ω) des isométries de Ω, notons V = Γ\Ω et T^{1}V = Γ\T^{1}Ω les espaces quotients. Pour v dans T^{1}V, on note ω_{+}(v) son ensemble ω-limite positif, i.e. l’ensemble des points d’accumulation de ϕ^{t}v lorsque t → +∞. Le but de cette partie est de prouver le théorème suivant :

Théorème 3.1. Soit f : T^{1}V → ℝ une fonction continue et propre. Soit J_{0} l’ensemble des vecteurs périodiques de T^{1}V, et J l’ensemble des vecteurs de T^{1}V tels que ω_{+}(v) et ω_{+}(−v) soient chacun vide ou bien une orbite périodique. Alors

1.

ℝ ∩ \{sup_{t∈ℝ}f(ϕ^{t}v)|v ∈ T^{1}V \} = \overline{ℝ ∩ \{sup_{t∈ℝ}f(ϕ^{t}v)|v ∈ J\}},

2.

ℝ ∩ \{lim sup_{t→+∞} f(ϕ^{t}v)|v ∈ T^{1}V \} = \overline{\{sup_{t∈ℝ}f(ϕ^{t}v)|v ∈ J_{0}\}}.

Autrement dit, avec les notations de la partie 4,

ln(M(f)) = ℝ ∩ \overline{\{sup_{t∈ℝ}f(ϕ^{t}(v))|v ∈ J\}},

ln(L(f)) = \overline{\{sup_{t∈ℝ}f(ϕ^{t}(v))|v ∈ J_{0}\}}.

(Les adhérences sont prises dans ℝ, et non pas dans \overline{ℝ}.)

Soient π : T^{1}Ω → Ω et π : T^{1}V → V les projections canoniques, et ∂Ω le bord de Ω (voir [Bal95]). La paramétrisation de Hopf nous permet de faire l’identification :

T^{1}Ω = ((∂Ω × ∂Ω) − diag) × ℝ.

Si v ∈ T^{1}Ω, nous noterons v_{+} et v_{−} les éléments de ∂Ω tels que v = (v_{+},v_{−},t) pour un certain t dans ℝ. Ce sont les extrémités en +∞ et −∞ de la géodésique définie par v .

Nous utiliserons sur T^{1}Ω la distance d suivante : si v,v′ ∈ T^{1}Ω, alors

d(v,v′) = \frac{1}{2} ∫_{ℝ} d(πϕ^{t}v,πϕ^{t}v′)e^{−|t|}dt.

Cette distance a l’avantage d’être convexe, i.e. l’application de la variable t

t ↦ d(ϕ^{t}v,ϕ^{t}v′)

est convexe, car intégrale positive de fonctions convexes. En particulier, si v_{+} = v′_{+}, alors cette application est décroissante. Notons encore que cette distance est invariante par isométrie, et induit donc une distance sur T^{1}V, encore notée d. Les distances d sont invariantes par renversement du temps, et satisfont d(ϕ^{t}v,ϕ^{s}v) = |t − s|.

Nous utiliserons dans la suite la version du lemme de fermeture d’Anosov [Ano69] ci-dessous.

Théorème 3.2 (Lemme de fermeture, cas non compact CAT (−1)). Pour tout ϵ > 0, il existe δ > 0 et T > 0 tel que pour tout v ∈ T^{1}V et t ≥ T tels que d(v,ϕ^{t}(v)) < δ, il existe γ ∈ Γ, loxodromique, w ∈ T^{1}V, et t′ > 0 tels que la géodésique fermée de V associée à γ soit (w(s))_{s∈[0,t′]}, |t − t′| < ϵ, ϕ^{t′}(w) = w, et pour tout s ∈ [0,t], d(ϕ^{s}(w),ϕ^{s}(v)) < ϵ. De plus, δ(ϵ) et T (ϵ) ne dépendent pas de Γ ni de Ω, et ont des valeurs explicites.

Preuve. Cette version du lemme de fermeture d’Anosov est prouvée en appendice A.

Preuve de l’assertion 1 du théorème 3.1. Montrons d’abord que l’ensemble ℝ∩{sup_{t∈ℝ} f(ϕ^{t}v)|v ∈ T^{1}V } est fermé. Ensuite, il nous suffira pour conclure de montrer que l’ensemble ℝ ∩ {sup_{t∈ℝ} f(ϕ^{t}v)|v ∈ J} en est une partie dense. Soit (ϕ^{ℝ}v_{i})_{i} une suite d’orbites telles que μ_{i} = sup_{t∈ℝ} f(ϕ^{t}v_{i}) converge vers μ ∈ ℝ. Quitte à translater v_{i} à l’aide du flot, nous pouvons supposer que μ_{i} − 1/i ≤ f(v_{i}) ≤ μ_{i}, et à partir d’un certain rang que |μ_{i} − μ| < 1. Comme v_{i} est dans le compact f^{−1}([μ − 2,μ + 1]), la suite v_{i} admet un point d’accumulation v. Ainsi f(v) = μ par continuité de f. De plus, pour tout t ∈ ℝ:

f(ϕ^{t}v) = lim_{i→∞} f(ϕ^{t}v_{i}) ≤ lim sup_{i→∞} μ_{i} = μ,

et donc

sup_{t∈ℝ}f(ϕ^{t}v) = μ.

Montrons maintenant que ℝ ∩ {sup_{t∈ℝ} f(ϕ^{t}v)|v ∈ J} est un sous ensemble dense de ℝ ∩ {sup_{t∈ℝ} f(ϕ^{t}v)|v ∈ T^{1}V }. Soit ϕ^{ℝ}v une orbite du flot géodésique, telle que μ = sup_{t∈ℝ} f(ϕ^{t}v) < +∞. Soit K le 1-voisinage fermé de f^{−1}([μ − 1,μ + 1]), qui est compact. Soit δ(ϵ) le module de continuité de f sur K, c’est à dire

δ(ϵ) = sup_{x,y∈K,d(x,y)≤ϵ} |f(x) − f(y)|.

Prenons ϵ > 0 tel que δ(2ϵ) + 2ϵ < 1. Quitte à opérer une translation, nous pouvons imposer |μ − f(v)| < ϵ.

Supposons d’abord que ω_{+}(v) ≠ ∅. Soit w ∈ ω_{+}(v), w̃ ∈ T^{1}Ω un relevé de w, et U ⊂ U′ deux voisinages ouverts de w̃ ∈ T^{1}Ω, de diamètre plus petit que ϵ, vérifiant que pour tout v^{(1)},v^{(2)} ∈ U, il existe v^{(3)} ∈ U′ tel que v_{+}^{(3)} = v_{+}^{(1)} et v_{−}^{(3)} = v_{−}^{(2)}.

En appliquant le lemme de fermeture d’Anosov, il existe T_{1} > T_{2} > 0, aussi grands que l’on veut, et une géodésique périodique de longueur T avec |T − (T_{1} − T_{2})| < ϵ, ayant un vecteur unitaire tangent v′ tel que pour tout t ∈ [0,T]

d(ϕ^{t+T_{1}}v,ϕ^{t}v′) < ϵ,

et que v′,ϕ^{T_{1}}v aient des relevés ṽ′,ϕ^{T_{1}} ṽ dans U.

Il existe ainsi w̃_{0} dans U′ tel que (w̃_{0})_{+} = (ṽ′)_{+} et (w̃_{0})_{−} = (ṽ)_{−}. En particulier, pour t ≥ 0, on a les inégalités

d(ϕ^{t}w_{0},ϕ^{t}v′) ≤ d(ϕ^{t}w̃_{0},ϕ^{t}ṽ′) ≤ d(w̃_{0},ṽ′) ≤ ϵ,

car w̃_{0},ṽ′ sont tous deux dans U′. De même, pour t ≤ 0,

d(ϕ^{t}w_{0},ϕ^{t+T_{1}}v) ≤ d(w̃_{0},ϕ^{T_{1}} ṽ) ≤ ϵ,

car w̃_{0},ϕ^{T_{1}} ṽ sont tous deux dans U′. Ainsi, en vertu des inégalités précédentes, l’orbite de w_{0} est contenue dans le 2ϵ-voisinage de l’orbite de v, car l’orbite de v′ est contenue dans le ϵ-voisinage de l’orbite de v. Comme d(ϕ^{−T_{1}}w_{0},v) ≤ ϵ et |μ − f(v)| ≤ ϵ, on a

|f(ϕ^{−T_{1}}w_{0}) − μ| ≤ δ(ϵ) + ϵ < 1.

En particulier, sup_{t∈ℝ} f(ϕ^{t}w_{0}) ≥ μ−δ(ϵ)−ϵ, et l’ensemble f(ϕ^{ℝ}w_{0})∩[μ−1,μ+1] est non vide. De plus, si ϕ^{t}w_{0} ∈ f^{−1}([μ−1,μ+1]), il existe t′ ∈ ℝ tel que d(ϕ^{t}w_{0},ϕ^{t′}v) ≤ 2ϵ, et alors ϕ^{t′}v est dans K et

f(ϕ^{t}w_{0}) ≤ f(ϕ^{t′}v) + δ(2ϵ) ≤ μ + δ(2ϵ).

Comme f(ϕ^{ℝ}(w_{0})) est connexe, on peut en conclure que

f(ϕ^{ℝ}w_{0}) ⊂ ] − ∞,μ + δ(2ϵ)].

D’où, finalement :

| sup_{t∈ℝ}f(ϕ^{t}w_{0}) − μ| ≤ δ(2ϵ) + ϵ.

Nous avons ainsi obtenu une nouvelle géodésique ϕ^{ℝ}(w_{0}), telle que l’ω-limite positive soit une orbite périodique, et sur laquelle la borne supérieure de f est aussi proche que l’on veut de celle sur la géodésique initiale, car f est uniformément continue sur K. Si ω_{+}(v) = ∅, prenons w_{0} = v. Appliquons la même technique à partir de l’orbite ϕ^{ℝ}(−w_{0}), nous pouvons obtenir une troisième orbite, dont les ω-limites positive et négative sont chacune soit périodique, soit vide, et sur laquelle la borne supérieure de f est aussi proche que l’on veut de celle sur la géodésique initiale. Ce qui conclut la preuve.

Preuve de l’assertion 2 du théorème 3.1. Montrons d’abord l’inclusion du terme de gauche dans celui de droite. Soit w ∈ T^{1}V tel que ω_{+}(w) ≠ ∅ et ν = lim sup_{t∈ℝ} f(ϕ^{t}w) < +∞. Comme f^{−1}([ν − 1,ν]) est compact, et qu’un ensemble ω-limite est fermé, il existe v ∈ ω_{+}(w) tel que f(v) = ν.

Nous reprenons ici un argument très proche de celui de Sa’ar Hersonsky et Frédéric Paulin dans [HP02], où ils démontrent que la constante d’Hurwitz peut se calculer uniquement à l’aide de la profondeur de pénétration des géodésiques périodiques.

Soit δ > 0. Il existe T_{1},T_{2} > 0, T_{1} − T_{2} aussi grand que l’on veut, tel que les vecteurs v_{i} = ϕ^{T_{i}}w ∈ T^{1}V vérifient d(v_{i},v) < δ. Soit ϵ > 0, il existe, par le lemme de fermeture d’Anosov, pourvu que T_{1} − T_{2} soit suffisamment grand, un δ tel qu’il existe une orbite périodique g(t) de période T avec |T − (T_{1} − T_{2})| < ϵ, telle que pour tout t ∈ [0,T],

d(g(t),ϕ^{t+T_{2}}w) < ϵ.

Par des techniques de continuité uniforme semblables à celles de la preuve de la proposition précédente, nous obtenons une orbite périodique sur laquelle la borne supérieure de f est aussi proche que l’on veut de celle sur l’ensemble ω-limite initial.

La deuxième étape, indépendante, consiste à démontrer la réciproque :

\overline{\{sup_{t∈ℝ}f(ϕ^{t}v)|v ∈ J_{0}\}} ⊂ \{ sup_{v∈ω_{+}(w)} f(v)|w ∈ T^{1}V, ω_{+}(w) ≠ ∅\}.

Soit une suite G_{i} de géodésiques périodiques orientées, T^{1}G_{i} l’ensemble des applications localement isométriques de ℝ dans V, d’image G_{i} et respectant l’orientation de G_{i}, telle que ν_{i} = sup_{v∈T^{1}G_{i}} f(v) converge vers ν ∈ ℝ. Nous extrairons librement des sous-suites de G_{i}, tout en continuant à noter la suite de la même manière. Par compacité de f^{−1}([ν − 1,ν + 1]), les ensembles T^{1}G_{i} ont un point d’accumulation (lorsque i tend vers l’infini) v, tel que f(v) = ν. Ainsi, il nous suffit, pour conclure la démonstration, de construire un vecteur w vérifiant :

v ∈ ω_{+}(w) ⊂ ⋂_{i>0} \overline{⋃_{j>i} T^{1}G_{j}} .

Soit ṽ un relevé de v dans T^{1}Ω, posons ϵ_{i} = 2^{−i}. On peut trouver :

B_{i} = V_{i} × W_{i}×]t_{0} + ϵ_{i},t_{0} + ϵ_{i}[,

une suite décroissante de voisinages de ṽ, V_{i},W_{i} des ouverts relativement compacts de fermetures disjointes, et telle que ∩_{i}B_{i} = {ṽ}, et que chaque B_{i} soit inclus dans une boule de T^{1}Ω de rayon 2ϵ_{i}. Désignons par γ_{i} ∈ Γ la transformation telle que pour tout v_{i} ∈ T^{1}G_{i}, on ait γ_{i}(v_{i}) = ϕ^{l_{i}}(v_{i}), où l_{i} est la longueur de G_{i}.

On peut alors supposer que π^{−1}(T^{1}G_{i})∩B_{i} ≠ ∅. Soit donc v_{i} ∈ T^{1}G_{i}∩B_{i}. Comme le point à l’infini attractif de γ_{i} est dans V_{i}, quitte à considérer un itéré de γ_{i}, on peut supposer que γ_{i}(\overline{V_{i}}) ⊂ V_{i}, et de même \overline{W_{i−1}} ⊂ γ_{i}(W_{i}).

Considérons la suite V′_{i} = γ_{1}γ_{2}...γ_{i}(V_{i}), avec V′_{0} = V_{1}. Remarquons tout d’abord que cette suite est décroissante au sens de l’inclusion : comme γ_{i+1}(V_{i+1}) ⊂ V_{i+1} ⊂ V_{i}, c’est évident. De même, W′_{i} = γ_{1}γ_{2}...γ_{i}(W_{i}) est une suite croissante. Soit ξ ∈ ∩_{i>0}\overline{V′_{i}} ≠ ∅, soit η ∈ W_{1}. On pose w = (ξ,η,t_{0}) ∈ B_{1}. Montrons maintenant par récurrence qu’il existe L_{i} ∈ [−16ϵ_{i} + l_{i},16ϵ_{i} + l_{i}], tel que :

ϕ^{L_{1}+L_{2}+...+L_{i}}(w) ∈ γ_{1}...γ_{i}(B_{i}),

En effet, c’est vrai pour i = 0 avec B_{0} = B_{1}. Supposons que ce soit vrai pour i, et posons

v′_{i+1} = γ_{1}...γ_{i}(v_{i+1}) ∈ γ_{1}...γ_{i}(B_{i+1}).

On a alors :

ϕ^{l_{i+1}}(v′_{i+1}) = (γ_{1}...γ_{i})γ_{i+1}(γ_{1}...γ_{i})^{−1}(v′_{i+1}) ∈ γ_{1}...γ_{i}γ_{i+1}(B_{i+1}).

Comme ξ ∈ γ_{1}...γ_{i+1}(V_{i+1}) et η ∈ W_{1} ⊂ γ_{1}...γ_{i+1}(W_{i+1}), il existe T tel que ϕ^{T} (w) ∈ γ_{1}...γ_{i+1}(B_{i+1}). Comme les B_{i} sont de diamètre < 2ϵ_{i}, l’inégalité triangulaire appliquée aux points v′_{i+1}, ϕ^{l_{i+1}}(v′_{i+1}), ϕ^{L_{1}+...+L_{i}}(w) et ϕ^{T} (w) nous donne

|T − (L_{1} + .. + L_{i}) − l_{i+1}| < 4(ϵ_{i} + ϵ_{i+1}) < 16ϵ_{i+1}.

Ainsi on pose L_{i+1} = T − (L_{1} + .. + L_{i}).

Il ne reste qu’à vérifier que w vérifie bien les propriétés annoncées, mais c’est facile car ainsi pour tout t ∈ [L_{1} + .. + L_{i},L_{1} + .. + L_{i} + L_{i+1}], la projection de ϕ^{t}(w) sur T^{1}V est à distance < 20ϵ_{i} de T^{1}G_{i}, et les projections de ϕ^{L_{1}+..+L_{i}}(w) nous donnent une suite d’adhérence v.

Ainsi, dans le cas d’un espace CAT (−1), on a la propriété suivante, dont la deuxième assertion se démontre de la même manière que dans le corollaire 2.7.

Corollaire 3.3. Supposons f minorée. Si C_{f} est isolée dans L_{f}, alors il existe un vecteur périodique v tel que

μ_{f}(v) = ν_{f}(v) = C_{f}. (10)

Si, au contraire, il n’existe aucun vecteur périodique vérifiant 10, alors il existe un nombre non dénombrable de vecteurs v d’orbites disjointes et deux à deux non faiblement asymptotes tels que 10 ait lieu (et C_{f} n’est pas isolée, ni dans L_{f} ni dans M_{f}). □

2. Application au cas arithmétique de rang 1

J’applique ici le théorème précédent à la situation où r + s = n = 1, c’est à dire lorsque V_{𝕂} est une orbifolde de Bianchi.

Soit EQ(E) l’ensemble des éléments de E − 𝕂 algébriques de degré 2 sur 𝕂, et G_{P} l’ensemble des géodésiques (non orientées ni pointées) de V_{𝕂} dont les relevés sur Ω ont des points à l’infini qui soient dans EQ(E) ou bien des éléments p/q de 𝕂 tels que ⟨p,q⟩ ∉ P. Notons Q_{P} l’ensemble des formes quadratiques correspondantes, c’est à dire de la forme :

q(x,y) = λ(x − αy)(x − βy),

où λ ∈ E − {0}, α,β sont soit quadratiques, soit rationnels avec la condition exprimée ci-dessus. L’interprétation dynamique de ces définitions est donnée dans le lemme suivant.

Lemme 3.1. Les éléments de G_{P} sont les géodésiques non orientées (vues comme paire d’orbites opposées, de la forme g = (ϕ^{ℝ}(v)) ∪ (ϕ^{ℝ}(−v))), avec ω_{+}(v) (resp. ω_{−}(v)) soit vide, soit périodique, et telles que pour tout I dans P, on a

μ_{f_{I}}(g) > 0.

Preuve. Si ω_{+}(v) = ∅, et si un relevé ṽ ∈ Ω de v s’écrit v = (v_{+},v_{−},t), alors v_{+} = p/q ∈ 𝕂, avec ⟨p,q⟩ ∉ P. En effet, un vecteur qui sort de tout compact sous l’action du flot a une orbite nécessairement orthogonale à une horosphère, centrée en un certain p/q ∈ 𝕂. Si ⟨p,q⟩ ∈ P, alors la géodésique vérifie clairement μ_{f_{I}}(g) = 0. La réciproque est facile.

Ce théorème a déjà été démontré par Cusick [Cus87] dans le cas 𝕂 = ℚ. Cependant, l’approche dynamique permet plus de souplesse, puisque qu’elle n’utilise pas de codage du type fractions continues; or leur théorie dépend énormément de 𝕂.

Théorème 3.4.

M_{P} = \overline{\{μ_{P} (q)|q ∈ Q_{P} \}},
L_{P} = \overline{\{ν_{P} (x)|x ∈ EQ(E)\}}.

En particulier, L_{P} et M_{P} sont fermés.

Preuve. Nous appliquons le théorème 3.1 à la fonction f_{P} sur T^{1}V_{𝕂}. Cette fonction est continue et propre, et on pourra remarquer que c’est le minimum parmi une famille finie de fonctions de Busemann. Le résultat est donc immédiat, au vu des lemmes 2.2 et 3.1, modulo la vérification que 0 appartient bien aux deux spectres, et est bien dans l’adhérence des ensembles ci-dessus; mais c’est vrai car presque toute orbite est dense, ainsi que presque toute ω-limite positive, et l’ensemble des vecteurs périodiques est dense.

Le corollaire 3.3 s’applique, et se traduit si 𝕂 est imaginaire quadratique par :

Corollaire 3.5. Si C_{𝕂} est isolée dans L_{𝕂}, alors il existe un nombre complexe z, quadratique sur 𝕂, et une forme quadratique complexe q à coefficients dans O tels que

μ_{𝕂}(q) = ν_{𝕂}(z) = C_{𝕂}. (11)

Dans le cas contraire où il n’existe pas de z quadratique tel que ν_{𝕂}(z) = C_{𝕂}, ou bien s’il n’existe pas de q à coefficients dans 𝕂 telle que μ_{𝕂}(q) = C_{𝕂}, alors la multiplicité de C_{𝕂} est non dénombrable dans les deux spectres et C_{𝕂} n’est pas isolée, ni dans L_{𝕂} ni dans M_{𝕂}. □

Pour conclure cette partie, donnons un indice que l’inclusion L_{P} ⊂ M_{P} pourrait bien être stricte. Pour que ce soit vrai, il faut déjà que les fermetures d’orbites ne soient pas toutes des ω-limites. Rappelons-nous des ensembles J et J_{0} du théorème 3.1, V étant ici une variété hyperbolique. On remarquera que l’exemple dû à Freiman d’élément de M_{ℚ} − L_{ℚ} est du type de celui décrit dans cette proposition [Cus87].

Proposition 3.2. Soit v ∈ J −J_{0} tel que ω_{+}(v) ≠ −ω_{+}(−v). Alors la fermeture de l’orbite de v n’est pas un ensemble ω-limite.

Preuve. Supposons d’abord que ω_{+}(v),−ω_{+}(−v) soient des orbites périodiques distinctes. Choisissons un voisinage tubulaire dans T^{1}V de l’orbite de v, suffisamment petit pour qu’il ait une forme de monture de lunettes dont les branches soient cassées, c’est à dire topologiquement deux tores pleins T_{1} et T_{2} reliés par un cylindre plein C, la géodésique engendrée par v allant de T_{1} à T_{2}, et tel que pour tout w ∈ C, le germe de rayon géodésique engendré par w soit rentre dans T_{2}, soit sort de la paire de lunettes T_{1} ∪ T_{2} ∪ C. Procédons par l’absurde, et supposons que l’adhérence de la géodésique engendrée par v soit égale à ω_{+}(v′) pour un certain v′, alors il existe T > 0 tel que ϕ^{[T;+∞[}(v′) soit inclus dans le voisinage tubulaire. Soit s tel que ϕ^{s}(v) ∈ C, alors il existe t > T tel que ϕ^{t}(v′) arbitrairement proche de ϕ^{s}(v), et en particulier ϕ^{t}(v′) ∈ C. Dans le futur, le rayon engendré par ϕ^{t}(v′) est ainsi coincé dans T_{2} ∪ C et ne visitera plus jamais T_{1}, ce qui est une contradiction avec le fait que la géodésique engendrée par v est dans l’ω-limite de v′. Si ω_{+}(v), − ω_{+}(−v) ne sont pas tous deux périodiques, l’un d’eux seulement est vide et la preuve fonctionne de même, en prenant pour T_{1} ou T_{2} un cylindre plein.

3. Sur la constante de Hurwitz

Soit 𝕂 un corps imaginaire quadratique sur ℚ. Dans [HP02] est démontrée la formule suivante pour C_{{O}}

(12)  C_{O} = inf_{γ∈Γ_{𝕂},loxodromique} max_{γ′∈Γ_{𝕂}} \frac{\sqrt{tr(γ)^{2} − 4}}{2|c(γ′γγ^{′−1})|},

où c(γ) désigne l’élément de la deuxième ligne, première colonne de la matrice γ. En effet, si g est une géodésique périodique de V_{𝕂} de vecteur directeur v, et si on désigne par Γ(g) l’ensemble des γ dans Γ correspondant à g, alors

μ_{f_{O}}(g) = max_{γ∈Γ(g)} \frac{\sqrt{tr(γ)^{2} − 4}}{2|c(γ)|}. (13)

Le but de cette partie est de démontrer la proposition suivante.

Proposition 3.3. Il existe un algorithme (explicite) qui, étant donné ϵ > 0, calcule explicitement une matrice M dans Γ_{𝕂} loxodromique et z dans ℂ tel que Mz = z et

C_{𝕂} − ϵ ≤ ν_{𝕂}(z) ≤ C_{𝕂}.

Comme on ne connaît pas de constante de Hurwitz qui ne soit pas donnée par une classe de conjugaison de Γ_{𝕂} (c’est-à-dire que l’inf est un min dans la formule 12), et qui ne soit pas isolée dans le spectre de Markoff, on peut s’attendre à ce que pour ϵ suffisamment petit, la valeur approchée donnée par l’algorithme soit en fait exacte. Malheureusement, je ne connaît pas de critère permettant de détecter si c’est le cas. La première étape consiste à trouver un sous-groupe de Γ_{𝕂} d’indice fini sans torsion; un sous-groupe de congruence modulo un élément p de O, fera l’affaire pourvu que la seule racine de l’unité dans 𝕂 congrue à 1 modulo p soit 1. Notons

Γ[p] = ker (SL_{2}(O) → SL_{2}(O/pO)) ,

ce sous-groupe distingué. Remarquons que p = 5, par exemple, convient toujours. Nous aurons besoin du lemme suivant, qui est une adaptation du lemme des tiroirs, auquel on rajoute le lemme de fermeture. Notons v(r) le volume dans T^{1}ℍ^{n} des boules de centre un vecteur et de rayon r, pour la distance définie précedemment.

Lemme 3.4. Soit V = Γ\ℍ^{n} une variété hyperbolique, avec Γ sans torsion. Soit v ∈ T^{1}V, tel que pour tout t ≥ 0, le rayon d’injectivité en π(ϕ^{t}v) est au moins ϵ_{1}. Alors pour tout ϵ dans ]0,ϵ_{1}[, soient δ = δ(ϵ) et T = T (ϵ) donnés par le lemme de fermeture 3.2, il existe t_{1} < t_{2} dans [0,L], où L désigne

L = δ (([T/δ] + 2)\frac{μ(T^{1}V)}{v(δ/2)} + 1) . (14)

et w ∈ T^{1}V, T_{0} > 0, tels que pour tout t ∈ [0,T_{0}],

d_{T^{1}V} (ϕ^{t+t_{1}}v,ϕ^{t}w) < ϵ,

|T_{0} + t_{1} − t_{2}| < ϵ et ϕ^{T_{0}}w = w.

Preuve. Soient δ,T > 0 les constantes données par le lemme de fermeture d’Anosov, qui sont fonction de ϵ, données par exemple explicitement dans le corollaire A.1.

Considérons pour i entier naturel les vecteurs v_{i} = ϕ^{iδ}v, et les voisinages B_{i} qui sont les boules de centre v_{i} et de rayon δ/2. Leur volume est v(δ/2), il est indépendant de i à cause de l’hypothèse sur le rayon d’injectivité et parce qu’il n’y a pas de torsion . Et donc, si on pose

m = [([T/δ] + 2)\frac{μ(T^{1}V)}{v(δ/2)}] + 1,

il existe un point de T^{1}V qui appartient à au moins [T/δ] + 2 boules B_{i}. Donc il existe i < j ≤ m, tels que

d_{T^{1}V} (v_{i},v_{j}) ≤ δ,

et |i − j| ≥ [T/δ] + 1. Ainsi δ|i − j| > T. Nous pouvons ainsi appliquer directement le lemme de fermeture 3.2 qui permet de conclure. De plus, on peut prendre

L_{ϵ} = δ (([T/δ] + 2)\frac{μ(T^{1}V)}{v(δ/2)} + 1) .

Corollaire 3.6. Supposons que l’on connaisse 0 < ν_{0} ≤ C_{𝕂}. Soit ϵ_{1} le minimum du rayon d’injectivité aux relevés à Γ[k]\ℍ^{3} des points-bases des vecteurs v ∈ T^{1}V_{𝕂} tels que

f_{𝕂}(v) ≤ − ln(ν_{0}).

Pour tout ϵ ∈]0,ϵ_{1}[, il existe L > 0 donné par la formule 14 avec μ(T^{1}V_{𝕂}) remplacé par μ(T^{1}V_{K}) [Γ_{𝕂} : Γ[k]], tel que si v_{1},...,v_{k} ∈ T^{1}V_{𝕂} sont des vecteurs tangents à (respectivement) toutes les géodésiques périodiques de longueur au plus L, alors

− ln(C_{𝕂}) ≤ inf_{i=1,...,k} − ln(ν_{f_{𝕂}}(v_{i})) ≤ − ln(C_{𝕂}) + 2ϵ.

Preuve. L’inégalité de gauche est triviale. Montrons celle de droite. Comme la constante d’Hurwitz est atteinte (lemme 1.6), il existe v ∈ T^{1}V_{𝕂} tel que μ_{𝕂}(v) = C_{𝕂}, et appliquons le lemme 3.4 à la variété Γ[k]\ℍ^{3}, un vecteur v′ relevé de v, et ϵ. C’est légitime d’après le choix de ϵ_{1}. Nous obtenons un vecteur w′ que nous projetons en w sur T^{1}V_{𝕂}. Le vecteur w est nécessairement de la forme ±ϕ^{t}(v_{i}) pour certains t,i, car il est périodique de période L. Comme l’orbite de w est contenue dans un ϵ-voisinage de l’orbite de v, et que f_{𝕂} est 2-lipschitzienne, car (r,s) = (1,0) ou (0,1) et les fonctions de Busemann sont 1-lipshitziennes, on obtient ainsi l’inégalité annoncée.

Nous pouvons faire les remarques suivantes. La première est celle qui sera de loin la plus difficile à implémenter.

Remarque 3.1. Il existe un algorithme (A_{1}) qui étant donné T > 0, fournit une liste finie de matrices M_{1},..,M_{l} de Γ_{𝕂} telle que pour toute matrice M de Γ_{𝕂} de trace t de module inférieur à T et loxodromique (c’est à dire t^{2} − 4 n’est pas de module 1), il existe i tel que M est conjuguée dans Γ_{𝕂} à l’une des matrices M_{i}.

Preuve. Tout d’abord, il n’y a qu’un nombre fini de traces possibles. Remarquons ensuite que si M, loxodromique, est de trace t, soit (x_{1},x_{2}) un vecteur propre de M de valeur propre u_{t} = (t + \sqrt{t^{2} − 4})/2. En écrivant l’équation matricielle on remarque que, si on note A_{t} l’anneau des entiers de 𝕂[\sqrt{t^{2} − 4}], alors le sous-O-module de ℂ engendré par x_{1},x_{2} est un A_{t}-module, défini à une constante multiplicative près à partir du choix de u_{t}, et de plus la matrice de multiplication par u_{t} dans la O-base (x_{1},x_{2}) est la transposée de M. Il est facile de voir que si M′ est de trace t également, alors M est conjugué à M′ dans GL_{2}(O) si et seulement si les deux modules obtenus (à partir de la même valeur propre u_{t}) sont égaux modulo une homothétie. Comme on peut toujours prendre x_{1},x_{2} ∈ 𝕂[\sqrt{t^{2} − 4}], on peut aussi supposer x_{1},x_{2} ∈ A_{t} et le module ⟨x_{1},x_{2}⟩, qui est un idéal de A_{t}, peut être supposé d’indice < B_{t} par des techniques classiques de théorie des nombres (voir la finitude du groupe de classes d’idéaux [BC67],[Sam67]), où B_{t} est une constante dépendant uniquement de A_{t}.

A partir de ces données, un algorithme (qui n’a pas prétention à être optimal) peut être le suivant : on calcule tous les B_{t} correspondants aux A_{t} pour |t| ≤ T. On énumère ensuite à l’aide d’une ℤ-base du ℤ-module libre de rang 4 qu’est A_{t} tous ses sous-groupes d’indice < B_{t} (la redondance n’est pas gênante pour la théorie de l’algorithme). Puis on élimine ceux qui ne sont pas des A_{t}-modules (en multipliant leurs générateurs par un des 4 générateur de A_{t} et en vérifiant que les changements de base obtenus sont bien à coefficients dans ℤ). Pour chacun de ces modules, on calcule la matrice M de multiplication par u_{t} dans une O-base, qui est de déterminant 1 et donc dans Γ_{𝕂}. On rajoute alors à la liste N_{1}^{−1} ^{t}MN_{1},..,N_{w(𝕂)}^{−1} ^{t}MN_{w(𝕂)} où N_{1},..N_{w(k)} sont des représentants préalablement choisis des classes de GL_{2}(O) modulo SL_{2}(O).

Il est probable que l’on puisse calculer les ν_{{O}}(z_{i}), pour z_{i} point fixe de l’action de M_{i}, uniquement à l’aide des idéaux calculés ci-dessus, en calculant l’élément de cet idéal de norme minimale. Néanmoins, il existe une méthode plus géométrique pour déterminer le maximum dans la formule 13.

Remarque 3.2. Etant donné une matrice M loxodromique dans Γ_{𝕂} , il est possible de calculer explicitement la constante d’approximation liée à cette matrice, c’està-dire ν_{P} (z), où z est point fixe de l’action projective de M dans ℂ.

Preuve. Faisons-le pour P = {O}. Soit

M = [ \begin{matrix}a & b \\ c & d \end{matrix} ] ∈ SL_{2}(O),

notons t = a+d sa trace, et choisissons une fois pour toute une racine carrée complexe \sqrt{t^{2} − 4}. Les deux points fixes de M sont

z,z′ = \frac{a − d ± \sqrt{t^{2} − 4}}{2c},

et la géodésique g reliant z et z′ est périodique de longueur

2 |ln (|\frac{t + \sqrt{t^{2} − 4}}{2}|)| ,

que l’on peut majorer par 2 ln(ρ), où ρ est défini par :

ρ = |t| + \sqrt{|t^{2} − 4|},

car | ln(x)| ≤ ln(x + 1/x) pour tout x > 0, et

|\frac{t + \sqrt{t^{2} − 4}}{2}|^{−1} = |\frac{t − \sqrt{t^{2} − 4}}{2}| ≤ \frac{1}{2}(|t| + \sqrt{|t^{2} − 4|}).

Soit x ∈ H^{3} le point de la géodésique à la verticale du milieu , m = (a − d)/2c du segment [z,z′]. L’argument est le suivant : la constante d’approximation de cette géodésique g est égale à 1/2h, où h est la hauteur de la plus haute (dans le modèle du demi-espace) géodésique de la forme γg, γ ∈ Γ_{𝕂}. Soit γ_{0}g une géodésique, et soit y le point le plus haut de cette géodésique. Comme l’intervalle I de longueur 2 ln(ρ) centré en x contient un domaine fondamental pour la projection de g dans V_{𝕂}, il existe γ ∈ Γ_{𝕂} tel que γγ_{0}g = g et γy ∈ I, notons alors p/q = γ(∞) ∈ 𝕂 et r(p/q) le rayon de l’horosphère centrée en p/q et tangente en γy à g. L’intervalle I peut se décrire comme l’arc de cercle euclidien des points x′ ∈ g tels que l’angle euclidien θ entre les demi-droites [m,x) et [m,x′) vérifie :

cos(θ) ≥ \frac{2}{ρ + ρ^{−1}} .

En effet, la relation entre la distance hyperbolique d(x,x′), pour x′ dans g, et l’angle θ est

tanh(d(x,x′)/2) = tan(θ/2),

et en utilisant la relation trigonométrique

cos(θ) = \frac{1 − tan(θ/2)^{2}}{1 + tan(θ/2)^{2}} ,

nous obtenons la relation désirée. Puisque γy est dans l’intervalle I, le rayon r(p/q) vérifie

r(p/q) ≥ \frac{|z − z′|}{2} \frac{2}{ρ + ρ^{−1}} .

Comme h ≥ \frac{|z−z′|}{2}, et r(p/q) = 1/(2h|q|^{2}), nous avons en combinant ces inégalités

|q|^{2} ≤ \frac{ρ + ρ^{−1}}{|z − z′|^{2}} ,

qui s’écrit encore

|q|^{2} ≤ \frac{|c|^{2}}{|t^{2} − 4|}(ρ + ρ^{−1}).

Remarquons que le nombre de q dans O vérifiant cette inégalité est fini. D’autre part, si l’on pose :

u(s) = \frac{2s + d − a}{\sqrt{t^{2} − 4}},

on peut calculer (voir la partie B en annexe):

r(p/q) = \frac{|z − z′|}{4}\sqrt{(1 + |u(p/q)|^{2})^{2} − 4ℜ(u(p/q))^{2}}.

On a donc une deuxième minoration de r(p,q) qui s’exprime

r(p/q) ≥ \frac{|z − z′|}{4} |1 − |u(p/q)|^{2}| .

En utilisant cette fois la majoration

r(p/q) ≤ \frac{1}{|z − z′| |q|^{2}} ≤ \frac{1}{|z − z′|},

car |q| ≥ 1, nous obtenons

|1 − |u(p/q)|^{2}| ≤ \frac{4}{|z − z′|^{2}} .

En exprimant u(p/q) en fonction de p/q, z,z′ et m, on obtient

|\frac{p}{q} − m|^{2} ≤ 1 + \frac{|z − z′|^{2}}{4} .

Pour q fixé, il n’y a qu’un nombre fini de p tels que cette dernière inégalité soit vraie. Donc, les couples (p,q) ∈ O^{2} tels que ⟨p,q⟩ est dans la classe de O , satisfaisant les deux inégalités est un ensemble F_{M} fini et calculable explicitement. Ainsi, on a la formule suivante pour calculer ν_{{O}}(z) :

ν_{\{O\}}(z) = inf (( inf_{(p,q)∈F_{M}} r(p/q)|q|^{2}) ,\frac{|c|}{\sqrt{|t^{2} − 4|}}) .

En conclusion, les remarques 3.1 et 3.2 montrent que tout dans le corollaire 3.6 est explicitement calculable. Nous pouvons toujours prendre

ν_{0} = \frac{1}{\sqrt{5}},

puis calculer ϵ_{1}. Le calcul de δ,T est donné par le corollaire A.1, celui de L par le lemme 3.4, puis le calcul des matrices (M_{i})_{1≤i≤k} par la remarque 3.1 et celui de leur constante d’approximation associée par la remarque 3.2. La fonction v qui apparaît dans le calcul de L doit être estimée indépendamment.

CHAPITRE 4 Lemme de Borel-Cantelli et loi de puissance

1. Énoncé des résultats

L’objet de ce chapitre (qui devrait s’appeler Borel-Cantelli-Khintchine-Sullivan) est de prouver un analogue du théorème de Khintchine dans le cadre dynamique suivant : soit V = Γ\ℍ^{n} une variété hyperbolique de volume fini. Notons T^{1}V l’ensemble des vecteurs unitaires tangents à V, π : T^{1}V → V la projection canonique, ϕ^{t} le flot géodésique sur T^{1}V, et B(q,r) ⊂ V la boule hyperbolique de centre q ∈ V et de rayon r. On se donne une fonction (r_{t})_{t≥0} décroissante de ℝ_{+} à valeur dans ℝ_{+}^{∗}.

La question est de savoir, pour un point p de V fixé, quel sera la mesure de Liouville de l’ensemble des vecteurs v tels qu’il existe t_{i} → +∞, tels que π(ϕ^{t_{i}}v) ∈ B(p,r_{t_{i}}), autrement dit tels que {t ≥ 0 : π(ϕ^{t}v) ∈ B(p,r_{t})} n’est pas borné.

Théorème 4.1. (Cibles rétrécissantes) Supposons que (r_{t})_{t≥0} soit décroissante. Alors, suivant que

∫_{0}^{∞} r_{t}^{n−1}dt

diverge ou converge, presque tout ou presque aucun vecteur engendre un rayon géodésique qui rencontre pour des temps t arbitrairement grands les boules de centre p, de rayon r_{t}.

Corollaire 4.2. (Loi de puissance pour les points) Pour tout p de V, pour presque tout v, on a :

lim sup_{t→+∞} \frac{− ln(d(p,π(ϕ^{t}v)))}{ln(t)} = \frac{1}{n − 1}

On pourrait se poser une question légèrement différente, à savoir quelle est la mesure de Liouville de l’ensemble des vecteurs v tels que {t ≥ 0 : π(ϕ^{t}v) ∈ B(p,r_{t})} soit de mesure de Lebesgue infinie.

Proposition 4.1. Supposons que (r_{t})_{t≥0} soit décroissante. Alors, suivant que

∫_{0}^{∞} r_{t}^{n}dt

diverge ou converge, presque tout ou presque aucun vecteur engendre un rayon géodésique qui passe un temps infini dans les boules de centre p, de rayon r_{t}. □

La preuve n’est qu’une légère modification de la preuve du théorème 4.1. J’ignore si de tels résultats sont encores vrais lorsques la variété considérée est de courbure variable strictement négative, pour la mesure de Liouville ou bien celle de Bowen-Margulis. Parmi les améliorations possibles, je compte rédiger et publier une version où la variété pourra être hyperbolique complexe, quaternionique ou bien le plan hyperbolique de Cayley, et où les boules ne seront plus supposées de même centre, mais toujours décroissantes au sens de l’inclusion.

2. Rappels et notations

Soit (ϕ^{t})_{t∈ℝ} un flot agissant sur un espace mesuré de probabilité (X,μ) tel que l’action préserve la mesure et soit ergodique.

On considérera des familles (continues) de fonctions F = (f_{s})_{s∈[0,+∞[} où f_{s} : X → ℝ. Une telle famille F sera dite

– positive, si chaque f_{s} l’est;

– décroissante, si s < t implique que pour tout x ∈ X, f_{t}(x) ≤ f_{s}(x);

– mesurable, si F : [0, + ∞[×X → ℝ l’est.

Pour une famille F = (f_{s})_{s∈[0,+∞[} on notera S_{T} [F] la fonction de X dans ℝ

S_{T} [F](x) = ∫_{0}^{T} f_{t}(ϕ^{t}x)dt,

et si f ∈ L^{1}(μ), on note μ(f_{t}) := ∫_{X} f_{t}(x)dμ(x). On notera encore :

I_{T} [F] = ∫_{0}^{T} μ(f_{t})dt.

Dans cette situation, nous pouvons dégager quelques propriétés générales, peutêtre implicitement connues, mais qui méritent quelques explications, par analogie avec le lemme de Borel-Cantelli (partie facile) et la loi du 0-1 de Kolmogorov en probabilité.

Lemme 4.2. Soit F = (f_{t})_{t∈[0,+∞[} une famille mesurable et positive de fonctions. Alors la condition

I_{∞}[F] = ∫_{0}^{∞} μ(f_{t})dt < +∞,

implique que S_{T} [F] converge presque partout et au sens L^{1} vers une fonction positive et L^{1}.

Preuve. En effet, posons

S_{∞}[F](x) = lim_{T →∞} S_{T} [F](x),

qui est une fonction à valeurs dans ℝ_{+} ∪ {+∞}, existe car S_{T} [F](x) est croissante en la variable T. De par le théorème de convergence monotone de Lebesgue (cf Rudin, th 1.26 [Rud80]), S_{∞}[F] existe et est dans L^{1}(μ) , car d’intégrale I_{∞}[F]. Le théorème de convergence dominée ([Rud80], th 1.34) permet alors de conclure que la convergence est également au sens L^{1}.

Lemme 4.3. Soit F = (f_{t})_{t∈[0;+∞[} une famille mesurable, positive et décroissante de fonctions, et supposons que f_{0} ∈ L^{2}(μ). Supposons que

I_{∞}[F] = ∫_{0}^{∞} μ(f_{t}) = +∞,

alors tout point d’adhérence faible dans L^{2}(μ) de x ↦ S_{T} [F](x)/I_{T} [F] lorsque T → +∞ est égal à la constante 1 presque partout.

Preuve. Soit h une limite faible dans L^{2}(μ) d’une sous-suite S_{T_{n}}[F]/I_{T_{n}}[F], et soit t > 0 fixé. Nous voulons d’abord montrer que h ≤ h ∘ ϕ^{t}. On a :

S_{T_{n}+t}[F](x) − S_{T_{n}}[F](x) = ∫_{T_{n}}^{T_{n}+t} f_{s}(ϕ^{s}x)ds ≤ ∫_{0}^{t} f_{0}(ϕ^{s}(ϕ^{T_{n}}(x)))ds.

Cette différence est donc positive et bornée dans L^{2}. Divisons par I_{T_{n}}[F], nous avons donc que S_{T_{n}+t}[F](x)/I_{T_{n}}[F] converge faiblement vers h. D’un autre côté,

S_{T +t}[F](x) − S_{T} [F](ϕ^{t}x) = ∫_{0}^{T +t} f_{s}(ϕ^{s}x)ds − ∫_{0}^{T} f_{s}(ϕ^{t+s}x)ds

= ∫_{0}^{t} f_{s}(ϕ^{s}x)ds + ∫_{0}^{T} (f_{s+t} − f_{s})(ϕ^{t+s}x)ds.

Par décroissance de f_{t}, on a

S_{T +t}[F](x) − S_{T} [F](ϕ^{t}x) ≤ ∫_{0}^{t} f_{s}(ϕ^{s}x)ds,

et en divisant par I_{T} [F], nous obtenons :

\frac{S_{T_{n}+t}[F](x)}{I_{T_{n}}[F]} − \frac{S_{T_{n}}[F](ϕ^{t}x)}{I_{T_{n}}[F]} ≤ \frac{S_{t}[F](x)}{I_{T_{n}}[F]}

Soit E l’ensemble des x tels que h(x) ≥ h(ϕ^{t}x). On a :

∫_{E} \frac{S_{T_{n}+t}[F](x)}{I_{T_{n}}[F]} − \frac{S_{T_{n}}[F](ϕ^{t}x)}{I_{T_{n}}[F]}dμ(x) ≤ \frac{∫_{E} S_{t}[F](x)dx}{I_{T_{n}}[F]},

et en interprétant ces intégrales comme des produits scalaires avec la fonction caractéristique de E, nous obtenons lorsque n → +∞:

∫_{E} h(x) − h(ϕ^{t}x)dμ(x) ≤ 0.

Par définition de E, on a donc h ≤ h ∘ ϕ^{t} presque partout, et ainsi h = h ∘ ϕ^{t} presque partout car la mesure μ est invariante. Donc h est constante presque partout par ergodicité de la mesure μ. Comme S_{T} [F]/I_{T} [F] est d’intégrale 1, h aussi, donc h = 1 presque partout.

Lemme 4.4. Soit F = (f_{t})_{t∈[0;+∞[} une famille mesurable, positive et décroissante de fonctions, et supposons que f_{0} ∈ L^{1}(μ). Supposons que

I_{∞}[F] = ∫_{0}^{∞} μ(f_{t}) = +∞,

alors la fonction de la variable x à valeurs dans [0, + ∞]

L(x) = lim sup_{T →+∞} \frac{S_{T} [F](x)}{I_{T} [F]},

est constante presque partout.

Preuve. On a

S_{T +t}[F](x) − S_{T} [F](ϕ^{t}x) = ∫_{0}^{T +t} f_{s}(ϕ^{s}x)ds − ∫_{0}^{T} f_{s}(ϕ^{t+s}x)ds

= ∫_{0}^{t} f_{s}(ϕ^{s}x)ds + ∫_{0}^{T} (f_{s+t} − f_{s})(ϕ^{t+s}x)ds

Pour simplifier cette expression, notons pour t > 0 G^{(t)} = (g_{s}^{(t)}) la famille de fonctions définie par

∀s ≥ 0, g_{s}^{(t)} = f_{s} − f_{s+t}.

L’équation précédente s’écrit donc :

S_{T +t}[F](x) − S_{T} [F](ϕ^{t}x) = S_{t}[F](x) − S_{T} [G^{(t)}](ϕ^{t}x)

Par décroissance de F, G^{(t)} est positive, et de plus μ(g_{s}^{(t)}) = μ(f_{s}) − μ(f_{s+t}), et donc :

I_{∞}[G^{(t)}] = I_{t}[F] < ∞

Par le lemme 4.2, pour presque tout x,S_{T} [G^{(t)}](x) a une limite finie H^{(t)}(x), qui est dans L^{1}(μ). Ainsi :

\frac{S_{t}[F](x)}{I_{T} [F]} ≥ \frac{I_{T +t}[F]}{I_{T} [F]} \frac{S_{T +t}[F](x)}{I_{T +t}(x)} − \frac{S_{T} [F](ϕ^{t}x)}{I_{T} [F]} ≥ −\frac{H^{(t)}(ϕ^{t}x)}{I_{T} [F]}.

Comme F est une famille décroissante et que I_{∞}[F] = +∞, I_{T +t}[F]/I_{T} [F] converge vers 1 lorsque T tend vers l’infini. De la dernière équation, nous pouvons ainsi déduire que pour tout x tel que H^{(t)}(x) < ∞,

L(x) = L(ϕ^{t}x).

Si t ≤ 1, alors H^{(t)}(x) ≤ H^{(1)}(x). Les ensembles L^{−1}([a,b]) sont donc invariants par ϕ^{t} à un ensemble de mesure nulle près, pour tout a < b, a et b dans [0, + ∞] et tout t compris entre 0 et 1. Par ergodicité de ϕ^{t}, ces ensembles sont de mesure 0 ou 1. Une dichotomie sur l’intervalle [a,b] permet de conclure que L est constant presque partout.

3. Preuves

Lemme 4.5. Il existe une constante c_{1} telle que si deux boules de ℍ^{n}, de centres et diamètres respectifs (o_{1},r_{1}), (o_{2},r_{2}) vérifient r_{1} < 1, r_{2} < 1, et d(o_{1},o_{2}) > 2, alors la mesure des géodésiques de ℍ^{n} passant par ces deux boules est majorée par :

c_{1}r_{1}^{n−1}r_{2}^{n−1}e^{−(n−1)d(o_{1},o_{2})}

Preuve. Les symboles c′,c′′,... désigneront des constantes fixes. La mesure des géodésiques passant par B(o_{1},r_{1}) est au plus c′r_{1}^{n−1}. Comme l’aire de la sphère de centre o_{1} et de rayon r = d(o_{1},o_{2}) est au moins c′′e^{(n−1)r}, on peut trouver des points p_{1},...,p_{k} sur cette sphère qui soient deux à deux à distance au moins 2r_{2}, avec

k ≥ c′′′ \frac{e^{(n−1)r}}{r_{2}^{n−1}} .

Par homogénéité de ℍ^{n}, la mesure des géodésiques passant par la boule (o_{1},r_{1}) et la boule (p_{k},r_{2}) est indépendante de k et aussi égale à la quantité recherchée. Comme une telle géodésique ne coupe au plus que 2 boules du types (p_{k},r_{2}), la mesure recherchée est inférieure à

2\frac{cr_{1}^{n−1}}{k} ≤ c_{1}r_{1}^{n−1}r_{2}^{n−1}e^{−(n−1)r}.

Soit p un point de V, fixé dans ce qui suit. Soit R le minimum de 1 et du rayon d’injectivité de V en p, et soit (r_{t})_{t≥0} une suite décroissante tendant vers 0 telle que r_{0} < R/2, et r_{t+α}/r_{t} tendant vers 1 lorsque t tend vers l’infini, uniformément pour les ensembles compacts de paramètre α. Il sera commode pour la suite de définir r_{t} pour les temps négatifs comme étant égal à r_{0}.

On définit une famille f_{t} de fonctions de la manière suivante. Soit v ∈ T^{1}V, si π(v) n’est pas dans la boule de centre p et de rayon 1, alors f_{t}(v) = 0. Sinon, considérons le segment géodésique S maximal de vecteur directeur v et contenu dans la boule fermée de centre p et de rayon 1. Il existe un unique θ ∈ [−R,R] tel que π(ϕ^{θ}v) réalise la distance de S à p. Si θ ∈ [−R/2,R/2] et d(S,p) < r_{t}, on définit f_{t}(v) = 1, et 0 sinon. L’intégrale de cette fonction le long du flot compte ainsi les entrées dans la boule de centre p et de rayon r_{t} du rayon géodésique considéré, avec un facteur R. Remarquons encore que ces fonctions sont symétriques, dans les sens f_{t}(w) = f_{t}(−w). Il existe une constante c_{2} > 0, tel que lorsque t → +∞:

∫_{T^{1}V} f_{t}(v)dv ∼ c_{2}r_{t}^{n−1}

La famille F = (f_{t})_{t≥0} est une famille décroissante et positive de fonctions sur T^{1}V, et on a l’asymptotique en prenant pour μ la mesure de Liouville sur T^{1}V

I_{T} [F] ∼ c_{2} ∫_{0}^{T} r_{t}^{n−1}dt,

pourvu que l’un des deux termes tende vers l’infini.

Proposition 4.6. (Borel-Cantelli-Khintchine-Sullivan pour les points des variétés hyperboliques). Supposons que ∫_{0}^{∞} r_{t}^{n−1}dt diverge. Alors, il existe une constante c ∈]0,∞] telle que pour presque tout v ∈ T^{1}V:

lim sup_{T →∞} \frac{S_{T} [F](v)}{∫_{0}^{T} r_{t}^{n−1}dt} = c

Preuve. Nous voulons majorer la norme L^{2} de S_{T} [F]. Par le théorème de Fubini,

S_{T} [F](v)^{2} = 2 ∫_{0}^{T} ∫_{0}^{s} f_{t}(ϕ^{t}v)f_{s}(ϕ^{s}v)dtds.

Intégrons sur v ∈ T^{1}V, puis appliquons le changement de variable w = ϕ^{s}v, on obtient

∫_{T^{1}V} S_{T} [F](v)^{2}dv ≤ 2 ∫_{0}^{T} ∫_{0}^{s} ∫_{T^{1}V} f_{s}(w)f_{t}(ϕ^{t−s}w)dwdtds,

Soit p̃ un relevé de p dans ℍ^{n} et G = (g_{t})_{t≥0} la suite de fonctions définie de la même manière que f_{t}, mais pour la variété ℍ^{n}, le point p̃, et le même R. Ainsi, le relevé f̃_{t} de la fonction f_{t} à T^{1}ℍ^{n} s’écrit :

f̃_{t}(v) = ∑_{γ∈Γ} g_{t}(γ(v)).

Soit D un domaine fondamental de Γ contenant la boule de centre p de rayon R. On peut réécrire :

∫_{T^{1}V} S_{T} [F](v)^{2}dv ≤ 2 ∫_{0}^{T} ∫_{0}^{s} ∫_{T^{1}D} f̃_{s}(w)f̃_{t}(ϕ^{t−s}w)dwdsdt,

et donc

∫_{T^{1}V} S_{T} [F](v)^{2}dv ≤ 2 ∫_{0}^{T} ∑_{γ∈Γ} ∫_{0}^{s} ∫_{T^{1}D} g_{s}(w)g_{t}(γϕ^{t−s}w)dwdtds.

Changeons encore de variable, en posant v = −w, ce qui nous donne en utilisant la symétrie des fonctions g_{t}:

∫_{T^{1}V} S_{T} [F](v)^{2}dv ≤ 2 ∫_{0}^{T} ∫_{T^{1}D} ∑_{γ∈Γ} ∫_{0}^{s} g_{s}(v)g_{t}(γϕ^{s−t}v)dvdtds.

Pour i entier strictement positif, notons Γ_{i} l’ensemble fini des γ dans Γ tels que la distance entre p̃et γp̃soit comprise dans l’intervalle [i−1,i+1]. Comme les ensembles Γ_{i} recouvrent Γ, on a :

∫_{T^{1}V} S_{T} [F](v)^{2}dv ≤ 2 ∫_{0}^{T} ∑_{i>0} ∑_{γ∈Γ_{i}} ∫_{0}^{s} ∫_{T^{1}D} g_{s}(v)g_{t}(γϕ^{s−t}v)dvdtds.

Pour γ,v,s et t fixés, la quantité

g_{s}(v)g_{t}(γϕ^{s−t}v)

est non nulle si et seulement s’il existe (θ_{1},θ_{2}) ∈ [−R/2,R/2]^{2} tels que π(ϕ^{θ_{1}}v) soit à distance plus petite que r_{s} de p̃, et π(ϕ^{θ_{2}+s−t}v) soit à distance plus petite que r_{t} de γ^{−1}p̃. Dans ce cas, cette quantité vaut 1 et on peut affirmer, en vertu de l’inégalité triangulaire, que l’on a

|(s − t) − d(p̃,γp̃)| < |θ_{1}| + |θ_{2}| + r_{t} + r_{s} ≤ 2R,

et que de plus le rayon géodésique (ϕ^{u}v)_{u≥−1} coupe la boule de centre γ^{−1}p̃ et de rayon r_{s−d(p̃,γp̃)−2R} (car (r_{t}) est décroissante), et la boule de centre p̃ de rayon r_{s}.

Avec cette restriction sur t, nous obtenons à s,v et γ dans Γ_{i} fixés

∫_{0}^{s} g_{s}(v)g_{t}(γϕ^{s−t}v)dt ≤ 4R

dans tous les cas, et cette quantité est nulle si la géodésique engendrée par v ne coupe pas les deux boules de centres et rayons respectifs (p̃,r_{s}),(γ^{−1}p̃,r_{s−i−2R−1}), ou si s < i − (2R + 1). Dans le cas où i ≥ 2R + 3, on a s − t ≥ 2 et donc la mesure de telles géodésiques est alors majorée par c_{1}r_{s}^{n−1}r_{s−i−2R−1}^{n−1}e^{−(n−1)(i−1)}. L’intervalle des vecteurs v d’une telle géodésique tels que g_{s}(v) > 0 étant au plus de longueur 1, on obtient à s et γ ∈ Γ_{i} fixés, lorsque i ≥ 2R + 3

∫_{T^{1}D} ∫_{0}^{s} g_{s}(v)g_{t}(γϕ^{s−t}v)dtdv ≤ 4Rc_{1}r_{s}^{n−1}r_{s−i−2R−1}^{n−1}e^{−(n−1)(i−1)},

et l’intégrale est en fait nulle si s + 2R + 1 < i. Ainsi, si i ≥ 2R + 3,

∑_{γ∈Γ_{i}} ∫_{T^{1}D} ∫_{0}^{s} g_{s}(v)g_{t}(γϕ^{s−t}v)dtdv ≤ 4Rc_{1}r_{s}^{n−1}r_{s−i−2R−1}^{n−1}e^{−(n−1)(i−1)}N_{i},

où N_{i} désigne le nombre d’éléments de Γ_{i}, et la somme majorée est nulle si s+2R+1 < i. Mais il est classique que N_{i} ≤ c_{4}e^{(n−1)i}, c_{4} dépendant uniquement de p (voir par exemple [Sul79]). On en conclut l’inégalité

∫_{0}^{T} ∑_{i>0} ∑_{γ∈Γ_{i}} ∫_{0}^{s} ∫_{T^{1}D} g_{s}(v)g_{t}(γϕ^{s−t}v)dvdtds

≤ c_{3} ∫_{0}^{T} ∑_{i=[2R+4]}^{[s+2R]+1} r_{s}^{n−1}r_{s−i−2R−1}^{n−1}ds + ∫_{0}^{T} ∑_{i=1}^{[2R+3]} ∑_{γ∈Γ_{i}} ∫_{T^{1}D} ∫_{0}^{s} g_{s}(v)g_{t}(ϕ^{s−t}v)dtdvds.

Observons que ∪_{i=1}^{[2R+3]}Γ_{i} est un ensemble fini, soit K son cardinal. De plus, on a par décroissance de (r_{t}), r_{s−i−2R−1}^{n−1} ≤ ∫_{s−i−2R−2}^{s−i−2R−1} r_{t}^{n−1}dt. Ceci nous donne :

∫_{T^{1}V} S_{T} [F](v)^{2}dv ≤ 2c_{3} ∫_{0}^{T} r_{s}^{n−1} ∑_{i=[2R+4]}^{[s+2R+1]} ∫_{s−i−2R−2}^{s−i−2R−1} r_{t}^{n−1}dtds+K ∫_{0}^{T} ∫_{T^{1}D} 4Rg_{s}(v)dv,

∫_{T^{1}V} S_{T} [F](v)^{2}dv ≤ 2c_{3} ∫_{0}^{T} r_{s}^{n−1} ∫_{−4R−3}^{s−2R−4} r_{t}^{n−1}dtds + c_{5} ∫_{0}^{T} r_{t}^{n−1}dt,

∫_{T^{1}V} S_{T} [F](v)^{2}dv ≤ 2c_{3} ∫_{0}^{T} r_{s}^{n−1} ∫_{−4R−3}^{s} r_{t}^{n−1}dtds + c_{5} ∫_{0}^{T} r_{t}^{n−1}dt,

et par le théorème de Fubini,

∫_{T^{1}V} S_{T} [F](v)^{2}dv ≤ c_{3} (∫_{0}^{T} r_{s}^{n−1}ds)^{2} + ((4R + 3)c_{3}r_{0} + c_{5}) (∫_{0}^{T} r_{s}^{n−1}ds) .

Ce qui montre que S_{T} [F]/I_{T} [F] est bornée dans L^{2}, et ainsi qu’elle a un point d’adhérence faible dans L^{2}. Ce point est nécessairement la fonction constante 1, car le lemme 4.3 s’applique. De par le lemme 4.4, la fonction

lim sup_{T →+∞} S_{T} [F](v)/I_{T} [F]

est constante presque partout. Cette constante est plus grande que 1. En effet, supposons le contraire; alors il existe ϵ > 0 et un ensemble E ⊂ T^{1}V, de mesure strictement positive, tels que pour T suffisamment grand et pour tout v ∈ E,

S_{T} [F](v)/I_{T} [F] < 1 − ϵ,

et donc

∫_{E} S_{T} [F](v)/I_{T} [F] < (1 − ϵ)μ(E),

contredisant le fait qu’une limite faible de S_{T} [F](v)/I_{T} [F] soit la fonction constante 1.

Nous sommes maintenant en mesure de prouver les assertions de la partie 1.

Preuve du théorème 4.1. Cas de Convergence. Supposons ∫_{0}^{+∞} r_{t}^{n−1}dt < +∞. Pour tout w ∈ T^{1}V et s ≥ 4R, si π(w) appartient à la boule B_{s}, alors

∫_{−2R}^{2R} f_{s}(ϕ^{t}w)dt ≥ R.

Comme F = (f_{s})_{s≥0} est décroissante, ceci implique que

∫_{s−4R}^{s} f_{t}(ϕ^{t−s+2R}w)dt ≥ R,

et donc si π(ϕ^{s}v) est dans B_{s}, on a

∫_{s−4R}^{s} f_{t}(ϕ^{t+2R}v)dt ≥ R.

D’un autre côté, le lemme 4.2 nous dit que pour preque tout v,

∫_{0}^{∞} f_{t}(ϕ^{t}v)dt < ∞,

et donc, pour presque tout v, on a

∫_{0}^{∞} f_{t}(ϕ^{t}(ϕ^{2R}v))dt < ∞,

et par la remarque précédente, ceci implique que pour t assez grand et v dans un ensemble de mesure pleine, π(ϕ^{t}v) n’est pas dans B_{t}.

Cas de Divergence. Supposons ∫_{0}^{+∞} r_{t}^{n−1}dt = +∞. Pour tout s > R/2, si π(ϕ^{t}w) n’est pas dans B_{s} pour tout t ∈ [−R, + R], alors par définition de f_{s}, on a

∫_{−R/2}^{+R/2} f_{s}(ϕ^{t}w)dt = 0,

Comme la famille F est décroissante, on obtient

∫_{s}^{s+R} f_{t}(ϕ^{t−s}w)dt = 0.

D’autre part, si pout un certain T > 0 et tout t ≥ T, π(ϕ^{t}v) n’est pas dans B_{t}, alors π(ϕ^{t}v) n’est pas dans B_{s} pour tout s ≥ t ≥ T car (B_{t}) est décroissante, et donc pour tout t ∈ [−R,R], tout s ≥ T + R, π(ϕ^{s−R+t}v) n’est pas dans B_{s}. Donc, pour tout s ≥ T + R, on a

∫_{s}^{s+R} f_{t}(ϕ^{t−R}v)dt = 0.

Ceci montre que S_{∞}[F](ϕ^{−R}v) < +∞, si le rayon géodésique (ϕ^{t}v)_{t≥0} n’intersecte B_{t} que pour des temps t bornés. Mais de par la proposition précédente, S_{∞}[F](v) = +∞ pour presque tout v, et donc la situation précédente ne se produit que pour un ensemble de mesure nulle.

Preuve du corollaire 4.2. Soit ϵ ≥ 0, posons r_{t} = t^{−1/(n−1)−ϵ} pour t > 1, et r_{t} = 1 si t ≤ 1. Si ϵ > 0, alors I_{∞}[F] < +∞ et donc presque tout rayon géodésique ne rentre qu’un nombre fini de fois dans une boule de rayon 2r_{t} et de centre p au temps t. Donc

lim sup_{t→+∞} \frac{− ln(d(p,π(ϕ^{t}v)))}{ln(t)} ≤ \frac{1}{n − 1} + ϵ.

Si ϵ = 0, au contraire presque tout rayon géodésique rentre pour une infinité de temps t_{n} → ∞, dans une boule de rayon r_{t}/2 et de centre p. Donc

lim sup_{t→+∞} \frac{− ln(d(p,π(ϕ^{t}v)))}{ln(t)} ≥ \frac{1}{n − 1},

ce qui conclut la loi de puissance pour les points.

4. Conclusion

On peut pousser l’analogie avec l’approximation diophantienne et le théorème de Khintchine un peu plus loin, en considérant la fonction f(v) = d(π(v),p), qui est continue et propre. En particulier, les résultats particuliers au rang 1 des chapitres précédents s’appliquent, et l’approche des rayons géodésiques à un point p fixé donne lieu à deux spectres compacts M(p) (resp. L(p)) qui sont l’ensemble des distances possibles entre les points-bases des ensembles invariants sous l’action du flot géodésique (resp. les ensembles ω-limites).

56 4. LEMME DE BOREL-CANTELLI ET LOI DE PUISSANCE

CHAPITRE 5 Quelques répartitions d’actions de réseaux

1. Introduction

Soient Γ un sous-groupe discret d’un groupe de Lie, et (B(T))_{T ≥0} une famille croissante de sous-ensembles finis de Γ - on pense ici aux boules de rayon T, centrée en e, pour une certaine distance sur Γ. Supposons que Γ agisse sur une variété topologique X (par exemple, un espace homogène). Nous nous intéressons à des convergences du type : il existe deux fonctions F : ℝ_{+} → ℝ_{+} et δ : X^{2} → ℝ^{+}, et une mesure μ sur X, tels que pour certains x ∈ X (par exemple, μ-presque tout x, ou bien tout x d’orbite dense) et pour toute fonction f de X dans ℝ continue à support compact, on a

lim_{T →+∞} \frac{1}{F (T)} ∑_{γ∈B(T)} f(γx) = ∫_{X} f(y)δ(x,y)dμ(y).

Le théorème ergodique de Birkhoff, pour Γ = ℤ et B(T) l’intervalle [−T,T] ∩ ℤ, est l’exemple le plus marquant de ce type de résultat concernant la répartition des orbites sous une action. Lorsque Γ est un groupe hyperbolique au sens de Gromov, K. Fujiwara et A. Nevo ont montré qu’une action de Γ sur un espace mesuré (X,μ), avec μ une mesure ergodique et de probabilité, satisfait (sous une hypothèse de mélange) le théorème ergodique ponctuel pour les boules du graphe de Cayley [FN98]. Mais beaucoup d’actions naturelles de réseaux de groupes de Lie échappent à ce cadre, et en particulier les deux exemples suivants.

Théorème (Ledrappier; Gorodnik). [Led99], [Gor02b ] Soient Γ un réseau de SL_{n}(ℝ) agissant matriciellement sur ℝ^{n}, f une fonction continue à support compact de ℝ^{n} dans ℝ, et soit

B(T) = {γ ∈ Γ : tr(^{t}γγ) ≤ T^{2}}.

Alors pour tout x dans ℝ^{n} dont l’orbite Γx n’est pas discrète si n = 2, ou dont l’orbite est dense si n > 2, on a

lim_{T →+∞} \frac{1}{T^{(n−1)^{2}}} ∑_{γ∈B(T)} f(γx) = \frac{c_{n}}{covol(Γ)||x||^{n−1}} ∫_{ℝ^{n}} \frac{f(y)}{||y||}dL(y),

où L est la mesure de Lebesgue de ℝ^{n}, c_{n} une constante positive ne dépendant que de la dimension n, et covol(Γ) est le covolume de Γ.

Théorème (Gorodnik). [Gor02a ] Soient Γ un réseau de SL_{n}(ℝ) agissant sur la variété des drapeaux G de ℝ^{n}, f une fonction continue de G dans ℝ, et B(T) comme précedémment, et désignons par m la mesure SO(n)-invariante sur G, alors pour tout x ∈ G,

lim_{T →+∞} \frac{1}{T^{n(n−1)}} ∑_{γ∈B(T)} f(γx) = \frac{c′_{n}}{covol(Γ)} ∫_{G} fdm,

où c′_{n} désigne une constante indépendante de Γ.

L’objet de cette étude est de donner différents exemples de cas où la convergence C a bien lieu, avec différents comportements : convergence presque partout ou partout, dépendance de δ(x,.) en x, comparaison entre F (T) et le cardinal de B(T). Ces exemples sont tous d’origine algébrique, plus précisemment nous regardons l’action de réseaux Γ (ou d’un sous-groupe discret) de groupes de Lie G sur certains espaces homogènes G/H, où H est un sous-groupe de G.

Dans le premier exemple que l’on donne, l’espace admet des mesures invariantes de masse infinie, et pour ces mesures la convergence a lieu presque partout vers un multiple de la mesure choisie.

Théorème 5.1. Soient n ≥ 2, A le groupe des matrices diagonales n × n à coefficients positifs, X = SL_{n}(ℝ)/A, Γ un réseau de SL(n,ℝ). Il existe une mesure μ non nulle sur X qui est invariante par l’action de SL_{n}(ℝ) par multiplication à gauche sur X. Soit d une distance riemannienne invariante à gauche sur SL_{n}(ℝ)/SO(n), on définit pour x_{0} ∈ SL_{n}(ℝ) et T ≥ 0,

B_{Γ}(x_{0},T) = {γ ∈ Γ : d(x_{0}SO(n),γx_{0}SO(n)) ≤ T }.

Alors pour tout f ∈ L^{1}(μ), tout x_{0} ∈ SL_{n}(ℝ), pour μ-presque tout x ∈ X, on a

lim_{T →+∞} \frac{1}{T^{n−1}} ∑_{γ∈B_{Γ}(x_{0},T)} f(γx̄) = c ∫_{X} fdμ,

où c est une constante indépendante de f et Γ.

On peut également changer la façon de compter, c’est à dire opter pour un choix différent de boules B(T); le premier des deux exemples suivants est en effet comparable de ce point de vue au théorème précédent. Dans le deuxième exemple, il existe une mesure invariante infinie naturelle, mais comme dans le théorème de Ledrappier-Gorodnik, la convergence a lieu avec des mesures qui lui sont absolument continues. De plus, et contrairement à l’exemple de Ledrappier-Gorodnik, la fonction δ(x,y) n’est pas un produit de deux fonctions à variables séparées x et y, et c’est à dire les mesure δ(x,y)dμ(y) ne sont pas proportionnelles entre elles.

Théorème 5.2. Soit M_{0} une matrice 3 × 3, à valeurs propres réelles, dont le polynôme caractéristique est égal au polynôme minimal, et qui n’a pas de valeur propre de multiplicité exactement 2, X la variété des matrices conjuguées par SL_{3}(ℝ) à M_{0}, et soit Γ un réseau de G = SL_{3}(ℝ), agissant par conjugaison sur X. On pose

B(T) = {γ ∈ Γ : tr(^{t}γγ) ≤ T^{2}}.

Soient μ la mesure sur X qui est G−invariante par conjugaison (définie à une constante multiplicative près), et f : X → ℝ une fonction continue à support compact. Alors

– Si M_{0} possède une valeur propre de multiplicité 3, alors pour tout x dont l’orbite Γx est dense, on a

lim_{T →+∞} \frac{1}{T^{2}} ∑_{γ∈B(T)} f(γx) = \frac{c′}{covol(Γ)} ∫_{X} f(y)δ(x,y)dμ(y).

– Si M_{0} est diagonalisable, alors pour μ-presque tout x dans X, on a

lim_{T →+∞} \frac{1}{(ln(T))^{2}} ∑_{γ∈B(T)} f(γx) = \frac{c}{covol(Γ)} ∫_{X} f(y)dμ(y).

La fonction δ est continue, peut s’expliciter et est indépendante de Γ et f. De même, les constantes c > 0 et c′ > 0 ne dépendent pas ni de Γ, ni de f.

Enfin, nous donnons l’exemple suivant, analogue au théorème de Gorodnik, où l’espace est compact mais n’admet pas de mesure finie invariante non triviale, et où la convergence a lieu uniformément. La limite dépend seulement de la manière de compter les éléments de Γ, et ces différentes limites selon ces choix donneront lieu à des mesures absolument continues entre elles.

Théorème 5.3. Soit ℍ^{n} un espace hyperbolique, et X = ∂ℍ^{n}. Soit Γ un sousgroupe discret et non élémentaire de Isom(ℍ^{n}), de mesure de Bowen-Margulis finie. Notons μ_{o} la mesure de Patterson-Sullivan associée à un point o de ℍ^{n} fixé. Soient f : X → ℝ une fonction continue. Notons

B(T) = {γ ∈ Γ : d(γo,o) < T },

où d désigne la distance hyperbolique. Alors, pour tout ξ ∈ X, on a

lim_{T →+∞} \frac{1}{|B(T)|} ∑_{γ∈B(T)} f(γξ) = \frac{1}{μ_{o}(X)} ∫_{X} fdμ_{o},

et cette convergence est uniforme en ξ lorsque T → +∞.

Nous attirons l’attention du lecteur sur la différence entre ce type de résultats et les résultats d’équidistribution d’Eskin-Mac Mullen [EM93]. En effet, ils considèrent le comptage d’orbites discrètes selon Γ sur le grande boules de G/H. Ici, le problème est de déterminer la densité locale d’une orbite générique sur de grandes boules de Γ.

Les preuves des théorèmes 5.1 et 5.2 étant assez longues et ayant nombres de points communs, il ne semble pas inutile de faire une esquisse leurs démonstrations.

Dans les deux cas, il s’agit d’étudier la répartition des orbites de Γ agissant à gauche sur un espace homogène G/H (voir 3.1 pour se ramener à ce cas dans le th. 5.2). L’idée de départ est, comme dans [Led99], de considérer l’action duale du groupe H (abélien dans les cas considérés) à droite sur Γ\G, et d’appliquer un théorème ergodique ponctuel pour cette action. On verra que dans chacun des cas, G s’écrit comme un produit G/H × H à l’aide d’une section continue p : G/H → G, et que la mesure de Haar de G se décompose en la mesure produit d’une mesure G-invariante sur H et de la mesure de Haar de H. Enfin, l’action de Γ sur G = G/H × H sera ainsi donnée par un cocycle continu c : Γ × G/H → H:

γ(gH,h) = (γgH,h + c(γ,gH)),

cocycle que l’on peut même écrire

c(γ,gH) = p(γgH)^{−1}γp(gH).

La présentation faite dans la partie 2 sera cependant un peu plus générale, voir 3.2 dans l’autre cas. A partir d’une fonction f continue à support compact sur G/H, on définit d’abord une fonction f̃ sur G, en choisissant une approximation de l’unité χ : H → ℝ_{+}, c’est à dire une fonction continue positive, à support compact et d’intégrale 1, et en posant

f̃(gH,h) = f(gH)χ(h);

puis une fonction f̄: Γ\G → ℝ par

f̄(Γg) = ∑_{γ∈Γ} f̃(γg).

Soit p_{0}H dans G/H, tel que p(p_{0}H) = p_{0}. Alors, si {E(T)}_{T ≥0} est une famille de sous-ensemble mesurables de H,

∫_{E(T)} f̄(Γp_{0}h)dh = ∑_{γ∈Γ} f(γp_{0}H) ∫_{E(T)} χ(c(γ,p_{0}H) + h)dh.

L’idée est de choisir E(T) de telle sorte que cette dernière somme soit égale à la somme recherchée ∑_{γ∈B(T)} f(γp_{1}H). Imaginons que nous puissions nous ramener au cas où χ est le delta de Dirac en l’élement neutre de H. On pourrait alors réecrire l’équation

∫_{E(T)} f̄(Γp_{0}h)dh = ∑_{γ∈Γ : c(γ,p_{0}H)∈−E(T)} f(γp_{0}H).

Imaginons maintenant que l’on puisse aussi se ramener au cas où le support de f est un point p_{1}H, qui vérifie p(p_{1}H) = p_{1}. (cette hypothèse étant bien sûr impossible à vérifier à moins que f soit nulle...). Comme dans la somme de droite, nous pouvons nous limiter aux termes non nuls, c’est à dire aux γ vérifiant γp_{0}H = p_{1}; dans ce cas, c(γ,p_{0}H) = p_{1}^{−1}γp_{0}. Autrement dit, pour retrouver la somme recherchée à droite, on veut que (γ ∈ B(T) et γp_{0}H = p_{1}H) soit équivalent à (p_{1}^{−1}γp_{0} ∈ −E(T) et γp_{0}H = p_{1}H). Les boules B(T) étant données par l’intersections de Γ avec des boules B(T) de G (suivant les cas, par exemple B(T) = {γ ∈ G : tr(^{t}γγ) ≤ T^{2}} ), le choix −E(T) = (p_{1}^{−1}B(T)p_{0})∩H convient (et ne dépend pas de Γ). Ensuite, on peut calculer que la H-mesure de Haar de E(T) a une asymptotique de la forme δ(p_{0}H,p_{1}H)F (T) ( dépendante à priori de p_{0}H et p_{1}H). Or, comme on aurait alors

∫_{E(T)} f̄(Γp_{0}h)dh = ∑_{γ∈B(T)} f(γp_{0}H),

si l’on pouvait appliquer un théorème ergodique ponctuel pour la famille de boules E(T), on aurait alors

lim_{T →+∞} \frac{1}{F (T)} ∑_{γ∈B(T)} f(γp_{0}H) = \frac{δ(p_{0}H,p_{1}H)}{covol(Γ)} ∫_{Γ\G} f̄

= \frac{δ(p_{0}H,p_{1}H)}{covol(Γ)} ∫_{G/H} f = \frac{1}{covol(Γ)} ∫_{G/H} f(gH)δ(p_{0}H,gH)d(gH).

Bien sûr, il y a de nombreux problèmes dans cette esquisse de preuve ! Dans la preuve du th. 5.1, les choses seront assez simples grâce à l’utilisation d’une inégalité triangulaire. Par contre, pour le th. 5.2, il nous faudra introduire deux ouverts relativement compacts U et U de G/H et H respectivement (contenant par la suite les supports de f et χ respectivement), puis étudier des sous-ensembles de H, K_{1}(T,U,U) et K_{2}(T,U,U), qui nous permettront d’encadrer la somme recherchée (partie 3.3), en étudiant la dépendance en p_{1}H des ensembles E(T) (qui seront notés par la suite −E_{(p_{0},p_{1})}(T)). Ensuite, on s’intéressera dans la partie 3.4 à l’ensemble Y des p_{0}H pour lesquels on a un théorème ergodique ponctuel selon les boules E_{(p_{0},p_{1})}(T), la difficulté venant du fait que ces ensembles nous soient imposés par la construction précédente. Enfin, dans la partie 3.5, on recollera les morceaux en utilisant un lemme dérivé des partitions de l’unité, nous permettant de supposer librement que le support de f est dans le petit ouvert U qui sera imposé par d’autres paramètres.

2. Cas du plongement géodésique

Dans cette section nous donnons la preuve du théorème 5.1 en démontrant le théorème 5.4, qui est plus général et inclut en particulier l’action de certains réseaux d’espaces CAT (−1) sur l’espace des plongements géodésiques. Nous prouvons aussi ici le corollaire 5.5, qui sera l’un des ingrédients de la preuve du théorème 5.3.

2.1. Hypothèses, données de départ. Soit (X,d_{0}) un espace métrique complet localement compact, muni de plus d’une pseudo-distance d (c’est à dire une distance ne satisfaisant pas nécessairement d(x,y) = 0 ⇒ x = y), compatible avec la topologie (c’est-à-dire que d : X^{2} → ℝ^{+} est continue), telle que les boules fermées de d soient compactes; en particulier, X est nécessairement σ-compact (c’est-à-dire réunion dénombrable de compacts). Soit A = ℝ^{k}, pour un certain k ≥ 1, muni d’une norme ||.||. On suppose que A agit à droite par par homéomorphismes sur X, de façon que

∀x ∈ X, ∀a ∈ A, d(xa,x) = ||a||.

On normalise la mesure de Lebesgue sur A de telle sorte que la mesure de la boule unité fermée B_{A} de A soit 1. L’espace des isométries de (X,d_{0}) est muni de la topologie de la convergence uniforme sur les compacts. Soit Γ un groupe discret et fermé d’isométries de (X,d_{0}) agissant à gauche, tel que tout γ dans Γ − {Id_{X}} n’ait aucun point fixe. On demande à ce que les actions de Γ et A commutent, c’est à dire à ce que pour tout x,a,γ dans X,A,Γ respectivements,

(γx)a = γ(xa).

Supposons de plus l’existence d’une section continue p : X/A → X, c’est-à-dire une fonction continue satisfaisant x̄ = p(x̄)A. On requiert l’existence d’un point (fixé) x_{0} dans X tel que pour tout x̄ dans X/A, tout γ dans Γ, on ait l’inégalité

d(γp(x̄),p(γx̄)) ≤ d(x_{0},γx_{0}).

Les espaces quotients X/A et Γ\X sont munis des topologies quotients, et sont naturellements pourvus d’une action, pour l’un l’action à gauche de Γ, et pour l’autre à droite de A.

2.2. Exemples. Dans cette partie, on détaille quelques exemples de la situation décrite plus haut.

Exemple 1 : Soit X = T^{1}ℍ^{n} l’ensemble des vecteurs unitaires tangents à un espace hyperbolique ℍ^{n}, muni d’une distance invariante par isométries d_{0}, et de la pseudodistance d qui est la distance hyperbolique entre point-base des vecteurs. Soit A = ℝ, k = 1, agissant par le flot géodésique sur X, muni de la valeur absolue standard. Soit Γ un groupe discret d’isométries de ℍ^{n}, vérifiant que tout γ dans Γ − {Id_{ℍ^{n}}} n’a aucun point fixe dans T^{1}ℍ^{2} (c’est le cas si Γ est sans torsion, ou bien si n = 2 et les isométries sont directes). Soit x_{0} un vecteur fixé de ℍ^{n}, et p(x̄) le vecteur unitaire tangent à la géodésique orientée x̄ basé en la projection orthogonale du point-base de x_{0} sur x̄. Comme γp(x̄) est le vecteur de γx̄ basé en la projection orthogonale du point-base de γx_{0} et que la projection orthogonale sur une géodésique réduit les distances, nous avons bien l’inégalité

d(p(γx̄),γp(x̄)) ≤ d(x_{0},γx_{0}).

Exemple 2 : Soit X = G = SL_{n}(ℝ), pour n ≥ 2, muni d’une distance d_{0} riemannienne G-invariante à gauche, et de la pseudo-distance d relevée de la distance riemannienne G-invariante à gauche sur SL_{n}(ℝ)/SO(n) définie par : d(xSO(n),ySO(n)) est la racine carrée de la somme des carrés des logarithmes des valeurs propres de la matrice (y^{t}y)^{−1}(x^{t}x). Soit A le sous-groupe de G des matrices diagonales, à coefficients positifs, de déterminant 1; on a alors k = n − 1. La pseudo-distance vérifie bien que a ↦ d(xa,x) est une norme (euclidienne) sur A (vue comme un espace vectoriel, via l’application logarithme matriciel), indépendante de x dans G. Soit Γ un sous-groupe discret de SL_{n}(ℝ); il agit sans point fixe par translation à gauche sur G. Soit x_{0} un point fixé de X = G, et p(gA) l’unique point ga de gA tel que gaK soit la projection orthogonale de x_{0}K sur le plat gAK de SL_{n}(ℝ)/SO(n), qui est bien défini car A ∩ K = {I_{n}}. Comme l’espace riemannien SL_{n}(ℝ)/SO(n) est un espace CAT (0) (voir [Hel78]), la projection orthogonale sur un plat géodésique réduit bien les distances.

2.3. Résultats. Remarquons le lemme et la proposition suivante.

Lemme 5.1. Sous ces hypothèses, X/A et Γ\X sont séparés, localement compacts et σ-compacts. De plus, pour tout x_{0} dans X, l’application

X/A × A → X,
(xA,a) ↦ p(xA)a,

est un homéomorpisme. Sur X/A × A, nous obtenons ainsi une action de Γ, donnée par

γ(xA,a) = (γxA,a + c(γ,xA)),

où c : Γ × X/A est un cocycle continu à valeur dans A, c’est à dire vérifiant

c(γγ′,xA) = c(γ,γ′xA) + c(γ′,xA).

Enfin, Γ est dénombrable, et tout point de Γ\X possède un rayon d’injectivité strictement positif.

La preuve se trouvera en annexe C. Une mesure borélienne régulière, finie sur les compacts, sera appelée mesure de Radon.

Proposition 5.2. Il existe une bijection affine entre les mesure de Radon Ainvariantes dur Γ\X, et les mesures de Radon Γ-invariantes sur X/A. Cette bijection, qui sera notée par la suite μ ↦ μ̄, respecte la propriété d’ergodicité par rapport aux actions respectives de A et Γ.

Preuve. Soit μ une mesure sur Γ\X, borélienne régulière, finie sur les compacts et A-invariante. Soit f continue de X dans ℝ à support compact, alors la fonction

f̄(Γx) = ∑_{y∈Γx} f(y),

est une fonction continue à support compact de Γ\X dans ℝ. En effet, le support est compact puisque f̄ est nulle en dehors de la projection du support de f. Vérifions la continuité. Soit Γx dans Γ\X, l’orbite Γx vue comme sous-ensemble de X est discrète, et il existe une boule B = B(x,ϵ) telle que γB ∩ B ≠ ∅ implique que γ = e. Quitte à restreindre B de façon à ce que ce soit encore vrai pour \overline{B}, qui soit compact, alors la projection sur Γ\X restreinte à \overline{B} est un homéomorphisme sur son image (application continue bijective d’un compact dans un espace séparé), et il existe un relevé continu de ΓB dans B. Le lemme C.1 nous permet ainsi de voir f̄ restreint à ΓB comme une somme finie de compositions du relèvement, d’un nombre fini de γ et de f, ce qui implique la continuité en x.

L’application

Λ : C_{c}^{0}(X) → ℝ,
f ↦ ∫_{Γ\X} f̄dμ,

est une forme linéaire positive, et donc par le théorème de représentation de Riesz (cf th. 2.14 [Rud80], et aussi th. 2.17), applicable car X est bien séparé, σ-compact et localement compact, il existe une mesure régulière μ̃ telle que

Λ(f) = ∫_{X} fdμ̃.

Cette mesure est finie sur les compacts car μ est finie sur les compacts. Comme μ est A-invariante et que f̄ ∘ a = \overline{f ∘ a} pour tout a dans A, Λ est également A-invariante et donc μ̃. Soit maintenant g une fonction continue à support compact de X/A dans ℝ, et h une fonction positive continue à support compact sur A, d’intégrale 1 pour la mesure de Lebesgue. En utilisant sur X les coordonnées X/A × A, ce qui est légitime, on définit une fonction g̃ sur X par la formule

g̃(xA,a) = g(xA)h(a).

Cette fonction est alors continue et à support compact,de par l’homéomorphisme X ∼ X/A × A.

L’application

Λ′ : C_{c}^{0}(X/A) → ℝ,
g ↦ ∫_{X} g̃dμ̃,

est une forme linéaire positive, et donc par le théorème de représentation de Riesz, applicable car X/A est bien séparé, σ-compact et localement compact, il existe une mesure régulière μ̃ telle que

Λ′(g) = ∫_{X/A} gdμ̄.

Cette mesure est finie sur les compacts car μ̃ l’est. Reste à vérifier la Γ-invariance. On a, pour tout γ dans Γ,

{ \atop g ∘ γ}(xA,a) = g ∘ γ(xA)h(a),

et donc

Λ′(g ∘ γ) = ∫_{X/A×A} g(γxA)h(a)dμ̃(xA,a).

Comme le cocycle c est continu, et la mesure μ̃ est A-invariante et régulière, on a

Λ′(g ∘ γ) = ∫_{X/A×A} g(γxA)h(a + c(γ,xA))dμ̃(xA,a),

ou encore, comme μ̃ est Γ-invariante,

Λ′(g ∘ γ) = Λ′(g).

Réciproquement, à une mesure μ̄ borélienne régulière de X/A, finie sur les compacts, qui est Γ-invariante, on associe la mesure sur X/A × A produit de μ̄ et de la mesure de Lebesgue L sur A, ce qui nous donne une mesure μ̃ sur X, régulière, Ainvariante et finie sur les compacts. Par le même argument de continuité du cocycle c, elle est de plus Γ-invariante. Enfin, on peut revenir à une mesure sur Γ\X, de la façon suivante : soit f une fonction continue à support compact de Γ\X, on peut, à l’aide de partitions de l’unité subordonnées à un recouvrement par de petites boules de diamètre inférieur au rayon d’injectivité en un point de ces boules, trouver une fonction g de X dans ℝ, satisfaisant ḡ = f. Le reste des vérifications est mécanique.

Lemme 5.3. Soit f mesurable (pour la tribu des boréliens), à support compact de X dans ℝ, alors la formule

f̄(Γx) = ∑_{y∈Γx} f(y),

définit une fonction mesurable, et à support compact de Γ\X dans ℝ, bornée si f est bornée.

La preuve se trouve en annexe C.

Soit l’ensemble fini

B_{Γ}(x_{0},T) = {γ ∈ Γ : d(x_{0},γx_{0}) ≤ T }.

Théorème 5.4. Soit μ une mesure de Radon de probabilité sur Γ\X, invariante par l’action de A et ergodique. Elle définit une mesure μ̃ sur X et une mesure μ̄ sur X/A, décrites dans la proposition 5.2 et sa preuve. Si f est une fonction dans L^{1}(μ̄) sur X/A, alors pour tout x_{0} ∈ X, pour μ̄-presque tout x̄ ∈ X/A, on a

lim_{T →+∞} \frac{1}{T^{k}} ∑_{γ∈B_{Γ}(x_{0},T)} f(γx̄) = ∫_{X/A} fdμ̄.

Preuve. Fixons une fois pour toute x_{0} ∈ X. On commence par définir pour γ ∈ Γ et x̄ ∈ X/A:

h(γ,x̄) = d(γp(x̄),p(γx̄)).

Par hypothèse, on a

h(γ,x̄) ≤ d(x_{0},γx_{0}).

De plus, pour tout x̄ fixé et pour tout compact K ⊂ X/A, il existe b tel que si γ ∈ Γ est tel que γx̄ ∈ K, alors

h(γ,x̄) ≥ d(x_{0},γx_{0}) − b.

En effet, le "quadrilatère" x_{0},γx_{0},γp(x̄),p(γx̄) a ses cotés [x_{0},p(γx̄)] et γ[x_{0},p(x̄)] de taille bornée, car γx̄ ∈ K.

On peut supposer que f : X/A → ℝ est positive, et écrivons

f = f_{1} + f_{ϵ},

où f_{1} est à support K compact et f_{ϵ} de norme L^{1} petite, toutes deux positives; c’est possible car X/A est σ-compact et μ finie sur les compacts. On définit une fonction f̃ sur X de la façon suivante :

f̃(y) = \{ \begin{matrix}f(yA) & si & d(p(yA),y) ≤ 1, \\ 0 & sinon. \end{matrix}

Considérons pour Γy ∈ Γ\X,

f̄(Γy) = ∑_{z∈Γy} f̃(z).

Cette fonction f̄ est dans L^{1}(μ) et vérifie

∫_{Γ\X} f̄dμ = ∫_{X/A} fdμ̄,

En effet, par décomposition de la mesure μ relevée à X, le choix de f̃et le théorème de Fubini, on a

∫_{X} f̃dμ = ∫_{X/A} fdμ̄,

et ce premier terme est bien l’intégrale de f̄. On a de même deux fonctions f̄_{1} et f̄_{ϵ}, obtenues de la même façon.

Soient x̄ ∈ X/A, y = p(x̄) et b la constante définie par K et x̄. Prouvons que pour T > b + 1,

∫_{(T −b−1)B_{A}} f̄_{1}(Γya)da ≤ ∑_{γ∈B_{Γ}(x_{0},T)} f(γx̄) ≤ ∫_{(T +1)B_{A}} f̄(Γya)da. (15)

En effet, pour tout t > 0, on peut écrire :

∫_{tB_{A}} f̄_{1}(Γya)da = ∑_{γ∈Γ} ∫_{tB_{A}} f̃_{1}(γya)da.

On veut majorer cette somme; pour cela, on se restreint aux termes non nuls. Supposons donc que γ soit tel que ∫_{tB_{A}} f̃_{1}(γya)da ≠ 0. Alors d(γy,p(γyA)) ≤ t + 1, car f̃_{1}(γya) est nulle si d(p(γyA),γya) > 1. Mais d(γy,p(γyA)) = h(γ,yA) car y = p(yA). De plus γyA ∈ K car sinon f̃_{1}(γya) serait également nul pour tout a. On a donc, comme h(γ,yA) ≤ t + 1,

d(x_{0},γx_{0}) ≤ t + b + 1.

Comme on a dans tous les cas

∫_{tB_{A}} f̃_{1}(γya)da ≤ ∫_{A} f̃_{1}(γya)da = f_{1}(γx̄) ≤ f(γx̄),

nous avons prouvé l’inégalité de gauche de (15) en prenant t = T − b − 1.

De même, si γ est tel que d(x_{0},γx_{0}) ≤ t−1, alors d(γy,p(γyA)) = h(γ,x̄) ≤ t−1 ce qui implique que l’ensemble des a tels que d(γya,p(γyA)) ≤ 1 est inclut dans tB_{A}, et donc

∫_{tB_{A}} f̃(γya)da = f(γx̄),

et ainsi, en prenant t = T + 1, on démontre l’inégalité de droite de (15)

∑_{γ∈B_{Γ}(x_{0},T)} f(γx̄) ≤ ∫_{(T +1)B_{A}} f̄(Γya)da.

Divisons l’encadrement (15) par T^{k} et faisons tendre T vers l’infini, en appliquant le théorème ergodique presque sûr (voir plus loin le th. 5.7 de [Cha70], par exemple, pour les actions de ℝ^{k}), nous obtenons pour presque tout x̄ ∈ X/A:

∫_{Γ\X} f̄_{1}dμ ≤ lim inf_{T →∞} \frac{1}{T^{k}} ∑_{γ∈B_{Γ}(x_{0},T)} f(γx̄) ≤ lim sup_{T →∞} \frac{1}{T^{k}} ∑_{γ∈B_{Γ}(x_{0},T)} f(γx̄) ≤ ∫_{Γ\X} f̄dμ,

et comme nous pouvons prendre f_{1} aussi proche que l’on veut de f en norme L^{1}, ceci termine la démonstration.

Notons également le corollaire suivant de la preuve, qui ne nécessite pas l’existence d’une mesure de probabilité A-invariante et ergodique.

Corollaire 5.5. Si f : X/A → ℝ est bornée et à support compact, il existe C > 0 tel que pour tout T ≥ 1, tout x̄ ∈ X/A, on a la majoration uniforme

\frac{1}{T^{k}} ∑_{γ∈B_{Γ}(x_{0},T)} f(γx̄) ≤ C.

Preuve. Sous ces hypothèses, en reprenant la preuve précédente, de par le lemme 5.3, f̄ est en fait bornée et mesurable, et l’inégalité (15) divisée par T^{k} nous permet de conclure. (L’existence d’une mesure ergodique de probabilité finie sur les compacts n’était pas utilisée pour démontrer (15) ).

3. Preuve du théorème 5.2

3.1. Description des espaces. Soit M_{0} une matrice 3×3, à valeur propres réelles, dont le polynôme caractéristique est égal au polynôme minimal, et qui n’a pas de valeurs propres de multiplicité 2 exactement. Comme la dimension est 3,qui est impair, deux matrices sont conjuguées si et seulement si elles le sont modulo SL_{3}(ℝ). Nous avons alors 2 possibilités pour M_{0}, 2 cas que nous traiterons en parallèle. Le premier cas est lorsque M_{0} n’a qu’une valeur propre réelle λ_{1}, M_{0} est alors (à conjugaison près)

M_{0} = [ \begin{matrix}λ_{1} & 1 & 0 \\ 0 & λ_{1} & 1 \\ 0 & 0 & λ_{1} \end{matrix} ] ,

et le deuxième cas est celui où M_{0} possède trois valeurs propres réelles (λ_{1},λ_{2},λ_{3}), deux-à-deux distinctes, M_{0} est alors (à conjugaison près)

M_{0} = [ \begin{matrix}λ_{1} & 0 & 0 \\ 0 & λ_{2} & 0 \\ 0 & 0 & λ_{3} \end{matrix} ] .

Dans le premier cas, le stabilisateur (par l’action par conjugaison) de M_{0} dans G = SL_{3}(ℝ) est exactement égal à

H = \{h(x,y) = [ \begin{matrix}1 & x & x^{2}/2 + y \\ 0 & 1 & x \\ 0 & 0 & 1 \end{matrix} ] : (x,y) ∈ ℝ^{2}\} ,

et dans le second cas le stabilisateur de M_{0} possède un sous-groupe distingué H d’indice fini, qui est

H = \{[ \begin{matrix}e^{x} & & 0 \\ 0 & e^{y} & 0 \\ 0 & 0 & e^{−x−y} \end{matrix} ] : (x,y) ∈ ℝ^{2}\} .

Le stabilisateur est dans les deux cas un groupe abélien isomorphe à ℝ^{2} via les coordonnées (x,y) fournies ici. Nous utiliserons la notation multiplicative pour la loi de groupe lorsque H sera vu comme un sous-groupe de G, et notation additive lorsque nous travaillerons dans H lui-même. La variété X des matrices conjuguées à M_{0} est alors, dans le premier cas, difféomorphe par un difféomorphisme G-équivariant, à l’espace homogène G/H, et dans le deuxième cas c’est un quotient fini de G/H. Insistons sur le fait que l’action par conjugaison de G sur X se transforme en une action à gauche de G sur G/H. En particulier, les valeurs des λ_{i} n’ont pas d’importance puisque les variétés obtenues pour des λ_{i} disctincts sont difféomorphes par un difféomorphisme G-équivariant. C’est en pratique sur ces espaces homogènes que nous travaillerons, et que nous montrerons les résultats. Dans les deux cas, G/H porte une mesure μ, qui est G-invariante, dans la classe des mesures de Lebesgue, et unique à homothétie près. En effet, G est unimodulaire, et H abélien ([Bou63], VII.2 théorème 3)).

3.2. Section et homéomorphisme. Il sera par la suite essentiel de disposer d’une section continue de G/H dans G.^{1} On va vérifier que la définition suivante est correcte : on définit p : G/H → G par p(gH) = gh, où h est l’unique point critique de l’application de H dans ℝ

h ↦ tr(^{t}h^{t}ggh).

Dans le premier cas, soit g ∈ G, et soit N la matrice ^{t}gg. Elle est symétrique, notons ses coefficients de la manière suivante

N = [ \begin{matrix}A & B & C \\ B & D & E \\ C & E & F \end{matrix} ] .

Remarquons qu’alors, B^{2} < AD, de par l’inégailté de Schwarz appliquée aux vecteurscolonnes de g, inégalité stricte car g est inversible. On prend sur H les coordonnées x,z, avec z = y + x^{2}/2. Alors

\frac{∂}{∂x}tr(h^{t}h^{t}gg) = tr((\frac{∂h}{∂x} ^{t}h + h\frac{∂^{t}h}{∂x})N),

et par multiplication matricielle explicite, on obtient

\frac{∂}{∂x}tr(h^{t}h^{t}gg) = 2Ax + 2Bz + 2(E + B).

De même,

\frac{∂}{∂z} tr(h^{t}h^{t}gg) = 2Bx + 2Az + 2C.

1. Je ne connais pas d’interprétation géométrique de ces sections, autre que "la minimisation de la norme 2 matricielle sur gH"). Le choix de ces sections particulières n’a d’influence que sur la simplicité de certains calculs.

L’ équation

\frac{∂}{∂x}tr(h^{t}h^{t}gg) = \frac{∂}{∂z} tr(h^{t}h^{t}gg) = 0

a bien une unique solution (x,z) puisque le déterminant du système est 4A^{2} + 4(AD − B^{2}) > 0. De plus, p est même différentiable en fonction de g. Lorsque x = 0, z = 0, on trouve alors que la projection p(gH) satisfait

tp(gH)p(gH) = [ \begin{matrix}A & B & 0 \\ B & D & −B \\ 0 & −B & F \end{matrix} ] ,

pour certains A,B,D,F réels. De par la forme de ces matrices, on a nécessairment A > 0, B > 0, B^{2} < AD, B^{2} < DF, B^{2} < AF et comme le déterminant est 1, on a de plus

ADF − B^{2}(A + F) = 1.

De même dans le deuxième cas, on peut vérifier que le point critique est unique et que si g ∈ G, alors^{t}p(gH)p(gH) est de la forme

tp(gH)p(gH) = [ \begin{matrix}A & B & C \\ B & A & E \\ C & E & A \end{matrix} ] .

Il y a également le même type de restrictions sur la forme de ce matrices que dans le premier cas. Elles ont par exemple nécessairement un déterminant égal à 1, et A > 0, B^{2} < A^{2}, etc.

On a bien sûr p(gH)H = gH pour tout g dans G. Définissons maintenant l’application D de G dans H

D(g) = g^{−1}p(gH).

Nous avons maintenant un difféomorphisme

G/H × H → G,
(gH,h) ↦ p(gH)h,

de réciproque

G → G/H × H,
g ↦ (gH,D(g)^{−1}).

La mesure de Haar μ_{G} de G, vue sur G/H × H, se décompose comme le produit de μ et de la mesure de Lebesgue de H, identifié à ℝ^{2}. En effet,la mesure produit sur G/H × H est G-invariante de par sa régularité et la continuité du cocycle associé à la section p, de même que dans le cas du paragraphe 2.

3.3. Etude de certaines fonctions sur H. Pour deux éléments p_{0},p_{1} dans l’image de la section p, et h dans H, on pose

G_{(p_{0},p_{1})}(h) = tr((^{t}p_{0}p_{0})^{−1} ^{t}h(^{t}p_{1}p_{1})h).

Cette fonction est continue et propre de H dans ℝ_{+}^{∗}. En effet, on peut l’écrire

G_{(p_{0},p_{1})}(h) = tr(^{t}(p_{1}hp_{0}^{−1})(p_{1}hp_{0}^{−1})),

et sous cette forme c’est la restriction à l’ensemble p_{1}Hp_{0}^{−1} du carré de la norme 2 matricielle. Comme H est paramétré par les coordoonnées (x,y), nous écrirons parfois G_{(p_{0},p_{1})}(x,y).

On étudiera les famille d’ensembles indexées par T, lorsque U est un ouvert relativement compact de ℝ^{2} et U un ouvert relativement compact de G/H:

E_{(p_{0},p_{1})}(T) = {(x,y) ∈ ℝ^{2} : G_{(p_{0},p_{1})}(x,y) ≤ T^{2}} ,

K_{1}(T,U,U) = U + ⋃_{gH∈U} E_{(p_{0},p(gH))}(T),

K_{2}(T,U,U) = {(x,y) ∈ ℝ^{2} : (x,y) + U ⊂ ⋂_{gH∈U} E_{(p_{0},p(gH))}(T)} .

Ces ensembles ont les propriétés suivantes. Rappelons que

B(T) = {γ ∈ Γ : tr(^{t}γγ) ≤ T^{2}},

et que D(g) = g^{−1}p(gH).

Lemme 5.4. Soit p_{0}H,p_{1}H deux éléments de G/H, tels que p_{0} = p(p_{0}H) et p_{1} = p(p_{1}H). Soient U et U deux voisinages relativements compacts de 0 dans H et de p_{1}H dans G/H. Les ensembles K_{i}(T,U,U), i = 1,2, vérifient les propriétés suivantes : (H1) Si γ est dans B(T) et γp_{0}H est dans U alors −D(γp_{0}) + U est inclus dans K_{1}(T,U,U), (H2) Si (−D(γp_{0}) + U) ∩ K_{2}(T,U,U) ≠ ∅ et γp_{0}H est dans U alors γ est dans B(T).

Preuve. On a toujours

γp_{0} = p(γp_{0}H)D(γp_{0})^{−1},

et donc γ = p(γp_{0}H)D(γp_{0})^{−1}p_{0}^{−1}. Ainsi, par définition de G_{(.,.)}(.), on a

tr(^{t}γγ) = G_{(p_{0},p(γp_{0}H))}(−D(γp_{0})). (16)

Donc γ ∈ B(T) est équivalent à −D(γp_{0}) ∈ E_{(p_{0},p(γp_{0}H))}(T). Les deux propriétés recherchées découlent directement de la définition des ensembles K_{i}(T,U,U).

Remarques : Si l’on voulait travailler avec une autre famille de boule sur Γ, en prenant par exemple B_{1}(T) la boule de Γ pour une norme ||.|| quelconque sur M_{3}(ℝ), il nous suffirait de redéfinir G_{(p_{0},p_{1})}(h) de manière analogue à la formule 16. Plus précisemment, on définirait

H_{(p_{0},p_{1})}(h) = ||p_{1}hp_{0}^{−1}||,

et on étudierait les ensembles

J_{(p_{0},p_{1})}(T) = {(x,y) ∈ ℝ^{2} : H_{(p_{0},p_{1})}(x,y) ≤ T } ,

de manière analogue à ceux E_{(p_{0},p_{1})}(T) de G_{(p_{0},p_{1})} (le lecteur fera bien attention qu’ici, j’ai choisit de travailler avec G = H^{2}). Heuristiquement, si l’aire de J_{(p_{0},p_{1})}(T) est asymptotique (lorque T tend vers l’infini) à δ_{1}(p_{0}H,p_{1}H)F_{1}(T), alors le résultat auquel on peut s’attendre est de la forme : pour tout f continue à support compact, pour μ-presque tout x dans G/H

\frac{1}{F_{1}(T)} ∑_{γ∈B_{1}(T)} f(γx) → ∫_{G/H} f(y)δ_{1}(x,y)dμ(y).

Remarquons que par l’équivalence des normes, la taille F_{1} ne dépend pas de la norme choisie initialement. De plus, remarquons que la détermination de δ_{1} e F_{1} ne dépend que de la mesure de Haar de H, et non celle de G, et que l’on peut espérer que le résultat ci-dessus soit encore vraie pour toute mesure μ Γ-invariante, ergodique, finie sur les compacts, pour les mêmes fonctions δ_{1} et F_{1}.

Revenons aux deux cas qui nous intéressent. La suite de cette section est dévolue aux preuves des deux propositions suivantes. L’idée majeure est de se ramener à l’étude de E_{(p_{0},p_{1})}(T) au lieu des ensembles K_{i}(T,U,U) en montrant qu’ils diffèrent peu. Dans le deuxième cas, c’est encore plus simple puisqu’on perd toute dépendance en p_{0},p_{1}. Dans chaque cas, on obtient une asymptotique de l’aire de E_{(p_{0},p_{1})}(T) (qui nous donnera effectivement le facteur de récurrence F (T), et la dérivée de de Radon-Nikodyn de répartition δ). On désigne par Δ la différence symétrique d’ensembles, et par L la mesure de Lebesgue sur H identifié à ℝ^{2}.

Proposition 5.5. Dans le premier cas, pour tout p_{0}H,p_{1}H dans G/H, avec p_{0} = p(p_{0}H), p_{1} = p(p_{1}H), pour U ouvert relativement compact de ℝ^{2}, T > 0, et η dans ]0,1/2[, on définit les ensembles suivants :

K′_{1}(T,U,η) = E_{(p_{0},p_{1})} (\frac{T}{1 − η} ) + U,

K′_{2}(T,U,η) = \{(x,y) ∈ ℝ^{2} : (x,y) + U ⊂ E_{(p_{0},p_{1})} (\frac{T}{1 + η} )\} .

Alors, 1. Il existe δ : G/H → ℝ_{+}^{∗} continue, telle que lorsque T → ∞,

L(E_{(p_{0},p_{1})}(T)) ∼ δ(p_{0}H,p_{1}H)T^{2}.

2. Pour tout τ > 0, il existe U voisinage ouvert borné de 0 dans ℝ^{2} tel que pour tout U′ ⊂ U voisinage ouvert de 0 dans ℝ^{2}, tout η > 0, et pour i = 1,2, on ait pour tout T suffisamment grand :

E_{(p_{0},p_{1})} (\frac{T e^{−τ}}{1 + η} ) ⊂ K′_{i}(T,U,η) ⊂ E_{(p_{0},p_{1})} (\frac{T e^{τ}}{1 − η} ) .

3. Pour tout p_{0}H,p_{1}H dans G/H, avec p_{0} = p(p_{0}H), p_{1} = p(p_{1}H), tout η dans l’intervalle ]0,1/2[, il existe U voisinage de p_{1}H dans G/H, tel que pour tout U un ouvert borné de ℝ^{2} et tout T suffisamment grand, on ait les inclusions

E_{(p_{0},p_{1})}(T) ⊂ K_{1}(T,U,U) ⊂ K′_{1}(T,U,η),

et

K′_{2}(T,U,η) ⊂ K_{2}(T,U,U) ⊂ E_{(p_{0},p_{1})}(T).

Proposition 5.6. Dans le deuxième cas, il existe une famille E′(T) de sousensembles de ℝ^{2} telle que, pour tout p_{0}H,p_{1}H dans G/H, avec p_{0} = p(p_{0}H), p_{1} = p(p_{1}H), tout U ouvert borné de ℝ^{2}, tout U voisinage relativement compact de p_{1}H dans G/H, les ensembles K_{i}(T,U,U) vérifient

lim_{T →+∞} \frac{L(K_{i}(T,U,U)ΔE′(T))}{L(E′(T))} = 0.

De plus, lorsque T → ∞,

L(E′(T)) ∼ \frac{9}{2}(ln(T))^{2}.

3.3.1. Etude du premier cas - Preuve de la proposition 5.5. Si l’on détaille un peu plus cette application G_{(p_{0},p_{1})}, dans le premier cas on peut écrire qu’il existe A_{i},B_{i},D_{i},F_{i},i = 1,2 telles que

tp_{i}p_{i} = [ \begin{matrix}A_{i} & B_{i} & 0 \\ B_{i} & D_{i} & −B_{i} \\ 0 & −B_{i} & F_{i} \end{matrix} ] .

Posons

α_{1} = (A_{0}D_{0} − B_{0}^{2})A_{1}, α_{2} = 2(A_{0}D_{0} − B_{0}^{2})B_{1} + 2A_{1}A_{0}B_{0},
α_{3} = (A_{0}F_{0}A_{1} + D_{1}(A_{0}D_{0} − B_{0}^{2}) + 2A_{0}B_{0}B_{1}) .

En utilisant les restrictions sur les coefficients A_{i},B_{i},D_{i},F_{i}, on voit que α_{1} > 0. Remarquons que ces coefficients ne peuvent pas prendre n’importe quelles valeurs. En effet, par exemple α_{1} > 0, et en dévellopant l’expression

α_{1}α_{3} − α_{2}^{2}/4 = (A_{0}D_{0} − B_{0}^{2})^{2}(A_{1}D_{1} − B_{1}^{2}) + A_{1}^{2}A_{0}(A_{0}D_{0}F_{0} − B_{0}^{2}(A_{0} + F_{0})),

on voit, en utilisant que A_{0}D_{0}F_{0} − B_{0}^{2}(A_{0} + F_{0}) = 1, A_{i} > 0 et A_{i}D_{i} > B_{i}^{2}, qu’on a nécessairement

4α_{1}α_{3} − α_{2}^{2} > 0.

Nécessairement, on a aussi α_{3} > 0. On obtient par calcul matriciel en partant de la définition de G_{(p_{0},p_{1})}, en utilisant le fait que toutes les matrices apparaissant ont 1 pour déterminant, que

G_{(p_{0},p_{1})}(x,y) = α_{1} (\frac{x^{2}}{2} + y)^{2} + α_{2} (\frac{x^{2}}{2} + y) x + α_{3}x^{2} + α_{4} (\frac{x^{2}}{2} + y) + α_{5}x + α_{6},

où α_{4},α_{5},α_{6} dépendent polynômialement des A_{i},B_{i},D_{i},F_{i} (et peuvent être explicités, mais n’ont aucune importance dans la suite). En particulier, les coefficients α_{i} sont des fonctions continues de p_{0},p_{1}. Nous admettrons pour l’instant l’asymptotique quand à l’aire de E_{(p_{0},p_{1})}(T), et que la fonction intervenant ici est

δ(p_{0}H,p_{1}H) = \frac{2π}{\sqrt{4α_{1}α_{3} − α_{2}^{2}}} .

On pourrait calculer cette asymptotique directement, mais ce sera conséquence de la preuve de la proposition 5.9 . Nous admettons ainsi pour l’instant le premier point de la proposition 5.5. Le troisième point est conséquence des définitions des ensembles K_{i},K′_{i}, E_{(p_{0},p_{1})} et du lemme suivant.

Lemme 5.7. Soit p_{0},p_{1} fixés. Pour tout η dans l’intervalle ]0,1[, il existe un voisinage U de p_{1}H tel que l’on ait

1 − η/2 < lim inf_{(x,y)∈ℝ^{2}} inf_{gH∈U} \frac{G_{(p_{0},p(gH))}(x,y)}{G_{(p_{0},p_{1})}(x,y)} ≤ lim sup_{(x,y)∈ℝ^{2}} sup_{gH∈U} \frac{G_{(p_{0},p(gH))}(x,y)}{G_{(p_{0},p_{1}))}(x,y)} < 1 + η/2.

Preuve. Posons la fonction de x,y et des paramètres α

Q_{α}(x,y) = α_{1} (\frac{x^{2}}{2} + y)^{2} + α_{2} (\frac{x^{2}}{2} + y) x + α_{3}x^{2}.

On peut changer les variables (x,y) en les variables (x,z) avec z = x^{2}/2 + y, car ce changement de variable est une application continue et propre, et les limites inférieures et supérieures resteront inchangées. La fonction G_{(p_{0},p(gH))}(x,z) est alors la somme de la forme quadratique Q_{α} définie positive, d’une forme linéaire et d’une constante. Seule la forme quadratique Q_{α} intervient dans l’expression voulue, et ses coefficients α_{i} dépendent continûemment de gH. Il est donc possible de trouver un voisinage U de p_{1}H vérifiant la propriété requise.

Il nous reste à montrer le deuxième point de la proposition 5.5. Tout d’abord, le résultat ne dépend pas de η, de par la définition de K′_{i}, et on peut se ramener au cas où η = 0. On peut calculer en utilisant que Q_{α} est une forme quadratique définie positive, qu’en dehors d’un compact de ℝ^{2} nous avons les majorations (où M > 0 est une constante fixée dépendant seulement de p_{0},p_{1})

|\frac{∂G_{(p_{0},p_{1})}}{∂x} (x,y)| ≤ MG_{(p_{0},p_{1})}(x,y),

|\frac{∂G_{(p_{0},p_{1})}}{∂y} (x,y)| ≤ MG_{(p_{0},p_{1})}(x,y).

De part les majorations différentielles classiques (le lemme de Gronwall, me semblet-il?), on a

G_{(p_{0},p_{1})}(x + x′,y + y′) ≤ G_{(p_{0},p_{1})}(x,y)exp(M|x′| + M|y′|).

Ainsi, si l’on note diam(U) le diamètre de U qui contient 0,

K′_{1}(T,U,η) ⊂ E_{(p_{0},p_{1})} (\frac{exp(2M diam(U))T}{1 − η} ) ,

et on en déduit de même que

K′_{2}(T,U,η) ⊃ E_{(p_{0},p_{1})} (\frac{exp(−2M diam(U))T}{1 + η} ) .

C’est ce que l’on voulait.

3.3.2. Etude du deuxième cas - Preuve de la proposition 5.6. Dans le deuxième cas, en écrivant que h est décrit par les deux variables x,y introduites dans la représentation matricielle de H, et qu’il existe A_{i},B_{i},C_{i},E_{i},i = 1,2 tels que

tp_{i}p_{i} = [ \begin{matrix}A_{i} & B_{i} & C_{i} \\ B_{i} & A_{i} & E_{i} \\ C_{i} & E_{i} & A_{i} \end{matrix} ] ,

on obtient par calcul matriciel, en utilisant que ces matrices ont 1 pour déterminant, que

G_{(p_{0},p_{1})}(x,y) = α_{1}e^{2x} + α_{2}e^{2y} + α_{3}e^{−2x−2y} + α_{4}e^{x+y} + α_{5}e^{−x} + α_{6}e^{−y},

avec

α_{1} = A_{1}(A_{0}^{2} − E_{0}^{2}) > 0, α_{2} = A_{1}(A_{0}^{2} − C_{0}^{2}) > 0, α_{3} = A_{1}(A_{0}^{2} − B_{0}^{2}) > 0,

α_{4} = 2B_{1}(E_{0}C_{0} − A_{0}B_{0}), α_{5} = 2E_{1}(B_{0}C_{0} − A_{0}E_{0}),
α_{6} = 2C_{1}(B_{0}E_{0} − A_{0}C_{0}).

On peut vérifier, par des calculs semblables au premier cas, longs mais sans difficulté majeure, que l’on a

4α_{1}α_{2} − α_{4}^{2} > 0, 4α_{1}α_{3} − α_{6}^{2} > 0,
4α_{2}α_{3} − α_{5}^{2} > 0.

Posons pour T > 1 et a réel positif, E′(T,a) comme l’intérieur du triangle T (T,a) de sommets (en coordonnées (x,y)) (−2 ln(T)−2a, ln(T)+a), (ln(T)+a, ln(T)+a) et (ln(T) + a, − 2 ln(T) − 2a). On pose de plus E′(T) = E′(T,0).

Lemme 5.8. Pour tout U ouvert borné, tout U ouvert relativement compact de G/H, il existe a_{1},a_{2} deux nombres réels tels que pour tout T > e^{−a_{1}}, pour tout g_{1}H ∈ U,

E′(T,a_{1}) ⊂ K_{1}(T,U,U) ⊂ E′(T,a_{2}),

et

E′(T,a_{1}) ⊂ K_{2}(T,U,U) ⊂ E′(T,a_{2}).

Esquisse de preuve. Il sera commode de définir les formes quadratiques suivantes :

Q_{α}^{(1)}(u,v) = α_{1}u^{2} + α_{2}v^{2} + α_{4}uv,
Q_{α}^{(2)}(u,v) = α_{1}u^{2} + α_{3}v^{2} + α_{6}uv,
Q_{α}^{(3)}(u,v) = α_{2}u^{2} + α_{3}v^{2} + α_{5}uv.

Les discriminants de ces formes quadratiques sont, on l’a déjà noté automatiquement négatifs. On peut vérifier que

– Lorsque (x,y) tend vers l’infini dans le domaine x + y ≥ 0, alors

G_{α}(x,y) ∼ Q_{α}^{(1)}(e^{x},e^{y}).

– Lorsque (x,y) tend vers l’infini dans le domaine y ≤ 0, alors

G_{α}(x,y) ∼ Q_{α}^{(2)}(e^{x},e^{−x−y}).

– Lorsque (x,y) tend vers l’infini dans le domaine x ≤ 0, alors

G_{α}(x,y) ∼ Q_{α}^{(3)}(e^{y},e^{−x−y}).

En utilisant ces équivalents sur chacun des trois domaines et en estimant la taille de G_{(p_{0},p_{1})}(x,y) sur les côtés du triangle T (T,a), on calcule qu’il existe des constantes b_{1},b_{2} telles que

E_{(p_{0},p_{1})}(e^{a}b_{1}T) ⊂ E′(T,a) ⊂ E_{(p_{0},p_{1})}(e^{a}b_{2}T).

Cette estimation peut être rende uniforme en p_{1} dans U, car les coefficients des formes quadratiques Q_{α}^{(i)} dépendent continûement de p_{1}. Quitte à rajouter une constante dépendant du diamètre de U, on obtient le résultat désiré.

3.4. Ensembles de validité du théorème ergodique ponctuel. Soit Γ un réseau de G. Nous utiliserons le résultat suivant, dû à N. Shah, dont nous rappelons une version légèrement simplifiée.

Théorème 5.6 (Shah,[Sha94], corollaire 1.2). Soit G un groupe algébrique réel, Γ un réseau de G. Soit Θ : ℝ^{k} → G une application algébrique régulière (au sens qu’elle se prolonge en une application algébrique de ℂ^{k} dans G(ℂ)), telle que Θ(0) = e. Alors il existe un sous-groupe fermé F de G contenant Θ(ℝ^{k}) tel que F Γ est fermé et admet une unique mesure μ_{F} de probabilité F -invariante, et pour tout f dans C_{c}^{0}(G/Γ), on a

lim_{R→+∞} \frac{1}{L(B_{R})} ∫_{t∈B_{R}} f(Θ(t)Γ)dL(t) = ∫_{F Γ} fdμ_{F} ,

où B_{R} désigne la boule de rayon R de ℝ^{k} centrée en 0.

3.4.1. Premier cas.

Proposition 5.9. Supposons que Γp_{0}H est dense dans G (c’est à dire que l’orbite sous l’action de Γ de p_{0}H est dense dans G/H). Alors pour tout g ∈ p_{0}H, et pour toute fonction f : Γ\G → ℝ continue à support compact, on a

\frac{\sqrt{4α_{1}α_{3} − α_{2}^{2}}}{2πT^{2}} ∫_{E_{(p_{0},p_{1})}(T)} f(Γgh)dh → ∫_{Γ\G} fdμ_{G}.

Preuve. Posons β = \sqrt{4α_{1}α_{3} − α_{2}^{2}}/2α_{1}, et notons

Θ(u,v) = [ \begin{matrix}1 & β^{−1}u & v − \frac{α_{2}}{2α_{1}β} u \\ 0 & 1 & β^{−1}u \\ 0 & 0 & 1 \end{matrix} ] = h(β^{−1}u,v − \frac{α_{2}}{2α_{1}β} u − \frac{u^{2}}{2β^{2}} ).

Cette application est polynomiale et régulière au sens de [Sha94]. Appliquons le théorème précédent au réseau Γ′ = p_{0}^{−1}Γp_{0}. J’affirme que F = G nécessairement. En effet,

p_{0}^{−1}(Γp_{0}H) = Γ′Θ(ℝ^{2}),

est dense dans G par hypothèse, et est contenu dans Γ′F qui est fermé. Donc Γ′F = G, et comme F est fermé, Γ dénombrable, le théorème de Baire nous dit que F est d’intérieur non vide, et par suite F = G car G est connexe. Ainsi, μ_{F} est la mesure G-invariante de probabilité sur Γ\G, et pour toute fonction f de C_{c}^{0}(Γ\G, on a

lim_{T →+∞} \frac{α_{1}}{πT^{2}} ∫_{u^{2}+v^{2}≤T^{2}/α_{1}} f(gΘ(u,v))dudv = ∫_{Γ\G} fdμ_{G}.

Or

Q_{α}(β^{−1}u,v − \frac{α_{2}}{2α_{1}β} u − β^{−2}u^{2}) = α_{1}(u^{2} + v^{2}).

Soit E′_{α} = {(x,y) : Q_{α}(x,y) ≤ T^{2}}. Comme

G_{(p_{0},p_{1})}(x,y) = Q_{α}(x,y) + o(Q_{α}(x,y)),

on a pour tout ϵ > 0 et T assez grand

E′_{α}(T (1 − ϵ)) ⊂ E_{(p_{0},p_{1})}(T) ⊂ E′_{α}(T (1 + ϵ)),

et il ne nous reste plus qu’à calculer le jacobien du changement de variable (u,v) ↦ (x,y). Il est constant et égal à β.

Remarquons que comme corollaire de la preuve, on a l’asymptotique lorsque T tend ver l’infini

L (E_{(p_{0},p_{1})}(T)) ∼ \frac{2π}{\sqrt{4α_{1}α3 − α_{2}^{2}}} T^{2}.

3.4.2. Deuxième cas. Nous utiliserons la version suivante du théorème ergodique ponctuel pour les actions de ℝ^{2}.

Théorème 5.7 ([Cha70]). Soit (E_{n})_{n} une suite d’ensembles de ℝ^{2} vérifiant

1. Pour tout v ∈ ℝ^{k}, on a la condition de Følner

lim_{n→∞} \frac{L(E_{n}Δ(v + E_{n}))}{L(E_{n})} = 0.

2. Il existe un constante K > 0 telle que pour tout n,

\frac{L(E_{n} − E_{n})}{L(E_{n})} ≤ K.

3.

∪_{n}E_{n} = ℝ^{k},

4. (E_{n})_{n} est croissante.

Alors pour tout action de ℝ^{k} sur un espace X, toute mesure μ de probabilité sur X, invariante et ergodique, tout f dans L^{1}(μ), on a pour presque tout x, lorsque n tend vers l’infini

∫_{E_{n}} f(v.x)dL(v) → ∫_{X} fdμ.

Remarquons que dans la suite, les quantificateurs seront inversés : on écrira qu’il existe un ensemble de de mesure pleine de validité du théorème ergodique ponctuel pour les fonctions de C_{c}^{0}(X), et non par que pour toute fonction L^{1}, il existe un ensemble de validité du théorème ergodique. Cette formulation est légitime car, avec les notations du théorème précédent, C_{c}^{0}(X) ⊂ L^{1}(μ) lorsque la mesure est finie sur les compacts (ici, elle est de probabilité), et C_{c}^{0}(X) est séparable si X est une variété.

Lemme 5.10. Il existe un ensemble Y ⊂ G/H, de complémentaire de μ-mesure nulle, tel que pour toute application f de Γ\G dans ℝ, continue à support compact, tout g dans G tel que gH est dans Y,

lim_{T →+∞} \frac{1}{L(E′(T))} ∫_{E′(T)} f(Γgh)dL(h) = ∫_{Γ\G} f.

Preuve. Tout d’abord, remarquons que pour E′(n) satisfait aux hypothèses du théorème précédent, car l’action de A sur Γ\G est ergodique. Il s’ensuit qu’il existe un ensemble Y′ de Γ\G, de mesure pleine pour lequel pour toute fonction f continue à support compact, pour tout Γg dans Y′, on ait

\frac{1}{L(E′(n))} ∫_{E′(n)} f(Γgh)dL(h) →_{T →+∞} ∫_{Γ\G} f.

Comme L(E′(n + 1))/L(E′(n)) tend vers 1, c’est encore vrai pour T réel et non plus n entier. Remarquons que Y′ est H-invariant. Comme Γ est dénombrable, l’ensemble Y′′ des g dans G tels que Γg est dans Y′ est de mesure pleine (i.e. son complémentaire est de mesure nulle). Cet ensemble est encore A-invariant, et s’écrit comme un produit Y′′ = Y × A. Par décomposition locale de la mesure de Haar μ_{G}, Y est encore de mesure pleine.

3.5. Conclusion de la preuve. Notons par Y dans le premier cas l’ensemble des points de G/H dont l’orbite par Γ est dense, et dans le second cas l’ensemble de mesure pleine décrit par le lemme 5.10.

Corollaire 5.8. Pour tout ϵ > 0, p_{0}H dans Y et p_{1}H dans G/H, il existe U un voisinage relativement compact de p_{1}H et U un voisinage relativement compact de 0 dans ℝ^{2} tel que tels que les ensembles K_{i}(T,U,U) satisfont la propriété suivante ( en plus de (H1) et (H2) ) (H3) Pour tout fonction f continue, positive, à support compact, de Γ\G dans ℝ, on a les inégalités

(1 − ϵ) ∫_{Γ\G} f ≤ lim inf_{T →+∞} \frac{1}{L(K_{i}(T,U,U))} ∫_{K_{i}(T,U,U)} f(Γp_{0}h)dL(h)

≤ lim sup_{T →+∞} \frac{1}{L(K_{i}(T,U,U))} ∫_{K_{i}(T,U,U)} f(Γp_{0}h)dL(h) ≤ (1 + ϵ) ∫_{Γ\G} f.

Preuve. Montrons-le dans le premier cas. Le deuxième cas est beaucoup plus facile (comparer les propositions 5.5 et 5.6). Soit ϵ > 0, prenons deux réels η > 0 et τ > 0 tels que

|\frac{e^{4τ}}{(1 − η)^{4}} − 1| ≤ ϵ,

et

|\frac{e^{−4τ}}{(1 + η)^{4}} − 1| ≤ ϵ.

La troisième affirmation de la proposition 5.5 nous donne un ouvert U relativement compact contenant p_{1}H. Puisque nous avons déjà choisi τ > 0, la deuxième affirmation de la proposition 5.5, nous donne un ouvert U relativement compact, contenant 0. Soit f une fonction continue, positive, à support compact de Γ\G à valeurs dans ℝ. Alors des inclusions issues de 5.5 2) et 3) :

E_{(p_{0},p_{1})}(T) ⊂ K_{1}(T,U,U) ⊂ K′_{1}(T,U,η) ⊂ E_{(p_{0},p_{1})} (\frac{T e^{τ}}{1 − η} ) ,

E_{(p_{0},p_{1})} (\frac{T e^{−τ}}{1 + η} ) ⊂ K′_{2}(T,U,η) ⊂ K_{2}(T,U,U) ⊂ E_{(p_{0},p_{1})}(T),

et de la positivité de f, nous déduisons que pour i = 1,2,

∫_{E_{(p_{0},p_{1})}( \frac{T e^{−τ}}{1+η} )} f(Γp_{0}h)dL(h) ≤ ∫_{K_{i}(T,U,U)} f(Γp_{0}h)dL(h) ≤ ∫_{E_{(p_{0},p_{1})}(\frac{T e^{τ}}{1−η})} f(Γp_{0}h)dL(h).

Divisons ces inégalités par δ(p_{0}H,p_{1}H)T^{2}, on obtient en passant à la limite à l’aide du lemme 5.9 (ce qui est légitime puisque p_{0}H est dans Y), et en utilisant la deuxième affirmation 5.5 2), les inégalités

\frac{e^{−2τ}}{(1 + η)^{2}} ∫_{Γ\G} f ≤ lim inf_{T →+∞} \frac{1}{δ(p_{0}H,p_{1}H)T^{2}} ∫_{K_{i}(T,U,U)} f(Γp_{0}h)dL(h),

et

lim sup_{T →+∞} \frac{1}{δ(p_{0}H,p_{1}H)T^{2}} ∫_{K_{i}(T,U,U)} f(Γp_{0}h)dL(h) ≤ \frac{e^{2τ}}{(1 − η)^{2}} ∫_{Γ\G} f.

Il ne nous reste qu’à remarquer que les encadrements d’ensembles 5.5 2) et 3) nous donnent également un encadrement de leurs aires. Le rapport des aires

\frac{L(K_{i}(T,U,U))}{δ(p_{0}H,p_{1}H)T^{2}} ,

est donc asymptotiquement compris, grâce à 5.5 2), entre e^{−τ}/(1 + η)^{2} et e^{τ}/(1 − η)^{2}. C’est ce que nous voulions.

Le lemme élémentaire suivant, inspiré des techniques de [Led99], est une application des partitions de l’unité. Une preuve est fournie en annexe C.

Lemme 5.11. Soient X un espace métrique localement compact, μ une mesure borélienne finie sur les compacts, et (λ_{T})_{T >0} une famille de mesures. Supposons qu’il existe une application

ξ : X → ℝ_{+}^{∗},

continue, telle que pour tout ϵ > 0 et tout y ∈ X, il existe un ouvert U contenant y tel que pour toute application f : X → ℝ_{+} continue, positive et à support dans \overline{U},

(1 − ϵ)ξ(y) ∫_{X} fdμ ≤ lim inf_{T →+∞} ∫_{X} fdλ_{T} ,

et

lim sup_{T →+∞} ∫_{X} fdλ_{T} ≤ (1 + ϵ)ξ(y) ∫_{X} fdμ.

Alors pour toute application f continue à support compact,

lim_{T →+∞} ∫_{T} fdλ_{T} = ∫_{X} f(y)ξ(y)dμ(y).

Nous pouvons maintenant conclure la preuve.

Soit p_{0}H dans Y, p_{0} = p(p_{0}H). En posant ξ(gH) = δ(p_{0}H,gH) dans le premier cas et ξ(gH) = 1 dans le second, nous sommes ramenés à prouver l’hypothèse du lemme 5.11. Soit p_{1}H dans G/H, et soit ϵ > 0. On peut supposer p_{1} = p(p_{1}H). Soit U le voisinage relativement compact de p_{1}H donné par le corollaire 5.8, et soit f une fonction de G/H à valeurs dans ℝ, continue, positive et dont le support compact est contenu dans U. Prenons un τ > 0 arbitraire, le corollaire 5.8 nous donne ainsi un voisinage U de 0 dans ℝ^{2}. Soit χ : H → ℝ une fonction continue positive telle que

∫_{H} χ(h^{−1})dL(h) = 1,

et de support contenu dans U. Soit f̄: G → ℝ, la fonction définie par :

f̄(g) = ∑_{γ∈Γ} f(γgH)χ(D(γg)).

On a :

∑_{γ∈B(T)} f(γg_{0}H) = ∫_{H} ( ∑_{γ∈B(T)} f(γg_{0}H)χ(h^{−1})) dL(h).

Comme la mesure dL(h) est invariante à gauche^{2} , nous avons

∑_{γ∈B(T)} f(γp_{0}H) = ∑_{γ∈B(T)} ∫_{H} f(γp_{0}H)χ (h^{−1}D(γp_{0})) dL(h).

2. à droite également, mais ce n’est pas ce que l’on utilise.

Alors, en utilisant les propriétés (H2) et (H1) du lemme 5.4, on peut écrire en remarquant que D(γp_{0}h) = h^{−1}D(γp_{0}):

∫_{K_{2}(T,U,U)} (∑_{γ∈Γ} f(γp_{0}H)χ (D(γp_{0}h))) dL(h) ≤ ∑_{γ∈B(T)} f(γp_{0}H)

≤ ∫_{K_{1}(T,U,U)} (∑_{γ∈Γ} f(γp_{0}H)χ (D(γp_{0}h))) dL(h),

c’est-à-dire

∫_{K_{2}(T,U,U)} f̄(p_{0}h)dh ≤ ∑_{γ∈B(T)} f(γp_{0}H) ≤ ∫_{K_{1}(T,U,U)} f̄(p_{0}h)dh.

Comme f̄est Γ-invariante, elle peut se voir comme une fonction de Γ\G dans ℝ_{+}, et est alors continue et à support compact. On a d’après la propriété (H3) l’encadrement

(1 − ϵ)ξ(p_{1}H) ∫_{Γ\G} f̄ ≤ lim inf_{T →+∞} \frac{1}{F (T)} ∑_{γ∈B(T)} f(γp_{0}H),

lim sup_{T →+∞} \frac{1}{F (T)} ∑_{γ∈B(T)} f(γp_{0}H) ≤ (1 + ϵ)ξ(p_{1}H) ∫_{Γ\G} f̄.

Nous venons de montrer que l’on peut appliquer le lemme 5.11 à la suite de mesures :

λ_{T} = \frac{1}{F (T)} ∑_{γ∈B(T)} δ_{γp_{0}H},

où δ_{x} est la mesure de Dirac au point x.

3.6. Variables non séparées de la fonction δ. Montrons maintenant que δ n’est pas un produit de deux fonctions des variables séparées p_{0}H, p_{1}H, ni symétrique en ces variables.

Soit p_{0} la matrice identité et p_{1} la matrice

p_{1} = [ \begin{matrix}1 & 1 & 0 \\ 0 & 1 & 0 \\ 0 & −1 & 1 \end{matrix} ] ,

on calcule que

tp_{1}p_{1} = [ \begin{matrix}1 & 1 & 0 \\ 1 & 3 & −1 \\ 0 & −1 & 1 \end{matrix} ] .

Alors le calcul direct nous permet de montrer que

δ(p_{0}H,p_{0}H) = π/\sqrt{2}, δ(p_{0}H,p_{1}H) = π/\sqrt{3},
δ(p_{1}H,p_{1}H) = π/3, δ(p_{1}H,p_{0}H) = \sqrt{2}π/3.

Ainsi,

\frac{δ(p_{0}H,p_{1}H)δ(p_{1}H,p_{0}H)}{δ(p_{0}H,p_{0}H)δ(p_{1}H,p_{1}H)} ≠ 1.

4. Action au bord d’un groupe kleineen

Dans cette partie, nous démontrons le théorème 5.3. Soit ℍ^{n} un espace hyperbolique, Γ un sous-groupe discret de Isom(ℍ^{n}), non élémentaire , tel que la mesure de Bowen-Margulis associée sur T^{1}Γ\ℍ^{n} soit finie. Notons μ_{x} et ν_{x} respectivement la mesure de Patterson-Sullivan relative à Γ, et la mesure harmonique de probabilité, associées au point x ∈ ℍ^{n}.

Un ingrédient essentiel de la preuve est le résultat suivant, dû à Thomas Roblin :

Théorème 5.9 ([Rob02], corollaire 1 du théorème 4.1.1). Avec les notations précédentes, en supposant que Γ admette une mesure de Bowen-Margulis-Sullivan finie, la convergence suivante a lieu au sens faible dans l’espace des mesures de probabilité sur ℍ^{n} ∪ ∂ℍ^{n} lorsque T → +∞:

\frac{1}{|B(T)|} ∑_{γ∈B(T)} δ_{γo} → \frac{1}{μ_{o}(∂H^{n})}μ_{o}.

Preuve du théorème 5.3. Nous commencerons par prouver que la fonction

F_{T} (ξ,η) = \frac{1}{|B(T)|} ∑_{γ∈B(T)}(f(γξ) − f(γη))

converge uniformément vers 0 lorsque T → ∞. Pour cela, fixons ϵ > 0 et notons K(ϵ) le compact de ∂ℍ^{n} × ∂ℍ^{n} − diag,

K(ϵ) = {(ξ,η) ∈ ∂ℍ^{n} × ∂ℍ^{n} : d(ξ,η) ≥ ϵ}.

Notons ω(ϵ) le module de continuité de f. Alors

|F_{T} (ξ,η)| ≤ ω(ϵ) + \frac{1}{|B(T)|} ∑_{γ∈B(T)} |f(γξ) − f(γη)|1_{K(ϵ)}(γξ,γη).

On a désigné la fonction caractéristique de K(ϵ) par 1_{K(ϵ)}. De part le corollaire 5.5 appliqué à l’exemple de l’espace des géodésiques de ℍ^{n} (voir l’exemple 1 de la partie 2.2),

∑_{γ∈B(T)} |f(γξ) − f(γη)|1_{K(ϵ)}(γξ,γη) = O(T),

uniformément en ξ,η. Comme Γ non élémentaire, T/|B(T)| tend vers 0; en effet, le corollaire 2 du théorème 4.1.1 de [Rob02] nous dit que la fonction orbitale |B(T)| croît exponentiellement en T. Donc F_{T} converge uniformément vers 0.

Pour conclure, il suffit de montrer que lorsque T → ∞,

∫_{∂ℍ^{n}} \frac{1}{|B(T)|} ∑_{γ∈B(T)} f(γξ)dν_{o}(ξ) → \frac{1}{μ_{o}(∂ℍ^{n})} ∫_{∂ℍ^{n}} fdμ_{o}.

En effet,

∫_{∂ℍ^{n}} \frac{1}{|B(T)|} ∑_{γ∈B(T)} f(γξ)dν_{o}(ξ) = \frac{1}{|B(T)|} ∑_{γ∈B(T)} ∫_{∂ℍ^{n}} f(ξ)dν_{γ^{−1}o}(ξ),

et il suffit maintenant d’appliquer le résultat de T.Roblin à la fonction de ℍ^{n} ∪ ∂ℍ^{n}, définie pour x dans ℍ^{n} par

g(x) = ∫_{∂X} f(ξ)dν_{x}(ξ),

et égale à f sur ∂ℍ^{n}. C’est bien une fonction continue, et la convergence donnée par le théorème 5.9 , modulo le changement de variables γ ↦ γ^{−1} (qui laisse les boules B(T) invariantes), est exactement ce qu’il nous fallait pour conclure que la limite est bien celle annoncée.

ANNEXE A Lemme de fermeture

Cette section est dédiée à la preuve du lemme de fermeture 3.2, analogue dans un cadre un peu différent du lemme de fermeture d’Anosov [Ano69]. Il faut faire plusieurs remarques cependant : les constantes du lemme sont universelles dans le sens où elles ne dépendent que de la courbure d’Alexandrov-Topogonov de X; le choix de la métrique sur T^{1}X, qui n’est pas importante dans le lemme original d’Anosov, est ici cruciale, car si Γ\X est non compacte, un changement de métrique sur T^{1}X peut faire disparaître l’universalité du δ. Enfin, remarquons que l’hypothèse CAT (−1) peut être remplacée par CAT (−a) pour a > 0, par simple homothétie, la convention CAT (−1) n’étant prise que par souci de simplification des calculs. De plus, la preuve fournit des fonctions T (ϵ), δ(ϵ) explicites :

Corollaire A.1 (Constantes explicites).

T = sup (ln(8/ϵ), ln(1 + \sqrt{2}),3ϵ) ,

δ = \frac{ϵ ln (\frac{1+u}{1−u})}{16 + 2ϵ},

où l’on a posé :

u = \frac{64 − ϵ^{2} − 16ϵ}{64 − ϵ^{2} + 16ϵ} tanh(ϵ/16).

Nous donnons tout d’abord des estimées de distances dans le plan hyperbolique, qui nous seront utiles dans la suite. Nous utiliserons les fonctions de référence :

F_{λ,μ}(t) = λe^{t} + μe^{−t}.

L’espace vectoriel de ces fonctions est de dimension 2, stable par translation du temps et dérivation, et engendré par les fonction cosh , sinh. Ces fonctions possèdent la propriété suivante :

Lemme A.1. Soit λ,λ′,μ,μ′,t_{1} < t_{2} 6 nombres réels. Si on a pour i = 1,2, l’inégalité

F_{λ,μ}(t_{i}) ≥ |F_{λ′,μ′}(t_{i})|,

et si de plus F_{λ,μ} ne s’annule pas sur [t_{1},t_{2}], alors pour tout t ∈ [t_{1},t_{2}], on a

F_{λ,μ}(t) ≥ |F_{λ′,μ′}(t)|.

Preuve. Soit g(t) le quotient défini sur [t_{1},t_{2}]

g(t) = \frac{F_{λ′,μ′}(t)}{F_{λ,μ}(t)}.

Sa dérivée est :

g′(t) = \frac{F_{λ,μ}(t)F_{λ′,−μ′}(t) − F_{λ,−μ}(t)F_{λ′,μ′}(t)}{(F_{λ,μ}(t))^{2}},

C’est à dire

g(t) = −\frac{2(λ′μ + λμ′)}{(F_{λ,μ}(t))^{2}}.

Ainsi g est monotone. Comme elle est en valeur absolue plus petite que 1 en t_{1},t_{2}, c’est encore vrai pour t ∈ [t_{1},t_{2}].

Lemme A.2. Soit g_{1},g_{2} deux géodésiques du plan hyperbolique H^{2}, supposons que g_{1} est paramétrée par longueur d’arc. La fonction L(t), distance du point g_{1}(t) à la géodésique g_{2}, est de la forme :

sinh L(t) = |F_{λ,μ}(t)|,

où λ,μ ∈ ℝ.

Preuve. Si g_{1} et g_{2} s’intersectent et que g_{1}(0) est le point d’intersection, et α l’angle d’intersection, alors la distance s’exprime :

sinh L(t) = | sin(α) sinh(t)|.

Si g_{1} et g_{2} ne s’intersectent pas, si elles ne sont pas asymptotes, et si g_{1}(0) est l’intersection de g_{1} avec l’orthogonale commune à g_{1} et g_{2}, et L_{0} la distance entre les deux droites, on a:

sinh L(t) = cosh(t) sinh(L_{0}).

Un paramétrage différent de celui choisit dans les deux cas donne simplement une autre valeur de λ et de μ. Le cas où elles sont asymptotes correspond au cas où λμ = 0.

Lemme A.3. Soient g_{1},g_{2} deux géodésiques du plan hyperbolique H^{2}, g_{1} paramétrisée par longueur d’arc. Soit L la fonction distance du point g_{1}(t) avec g_{2}, et soient t_{1} < t_{2} deux réels. Alors pour t ∈ ℝ:

sinh L(t) ≤ F_{λ,μ}(t),

avec

λ = \frac{e^{−t_{1}} sinh(L(t_{2})) + e^{−t_{2}} sinh(L(t_{1}))}{2 sinh(t_{2} − t_{1})},

μ = \frac{e^{t_{1}} sinh(L(t_{2})) + e^{t_{2}} sinh(L(t_{1}))}{2 sinh(t_{2} − t_{1})}.

Preuve. En effet, d’après le lemme précédent, il existe λ,μ tels que :

sinh L(0) = |λ_{0} + μ_{0}|,
ϵ_{1} sinh L(t_{1}) = λ_{0}e^{t_{1}} + μ_{0}e^{−t_{1}},
ϵ_{2} sinh L(−t_{2}) = λ_{0}e^{−t_{2}} + μ_{0}e^{t_{2}},

avec ϵ_{1},ϵ_{2} ∈ {+1,−1}. En inversant le système formé par les deux dernières équations, on obtient :

λ_{0} = \frac{e^{−t_{2}}ϵ_{1} sinh(L(t_{1})) − e^{−t_{1}}ϵ_{2} sinh(L(t_{2}))}{2 sinh(t_{1} − t_{2})},

μ_{0} = \frac{−e^{t_{2}}ϵ_{1} sinh(L(t_{1})) + e^{t_{1}}ϵ_{2} sinh(L(t_{2}))}{2 sinh(t_{1} − t_{2})}.

Les valeurs données de λ,μ sont telles que pour tout t

F_{λ,μ}(t) ≥ |F_{λ_{0},μ_{0}}(t)|.

Lemme A.4. Soit g une géodésique de H^{2} paramétrée par le temps et x ∈ H^{2}. La fonction distance L(t) du point g(t) au point x est de la forme :

cosh L(t) = λe^{t} + μe^{−t}.

De plus, si t_{1} < t_{2} sont deux réels, alors :

cosh(L(t)) ≤ F_{λ,μ}(t),

avec

λ = \frac{e^{−t_{1}} cosh(L(t_{2})) + e^{−t_{2}} cosh(L(t_{1}))}{2 sinh(t_{2} − t_{1})},

μ = \frac{e^{t_{1}} cosh(L(t_{2})) + e^{t_{2}} cosh(L(t_{1}))}{2 sinh(t_{2} − t_{1})}.

Preuve. Si g est paramétrée de telle sorte que g(0) soit la projection de x sur g, le théorème de Pythagore hyperbolique donne

cosh L(t) = cosh(d_{0}) cosh(t),

où d_{0} est la distance de x à g. La deuxième partie s’obtient de la même manière que dans le lemme précédent.

Soit X un espace simplement connexe, complet, métrique géodésique et CAT (−1) (référence [Bal95]). Rappelons que T^{1}X désigne l’ensemble des plongements isométriques de ℝ dans X, et que l’on utilise la distance suivante : si v,v′ ∈ T^{1}X:

d_{T^{1}X}(v,v′) = ∫_{ℝ} d_{X}(v(t),v′(t))\frac{e^{−|t|}}{2} dt.

En plus d’être convexe et invariante par les isométries de X, cette distance a la propriété suivante [Bou95] pour tout T ≥ 0 :

e^{−T} sup_{t∈[−T,T]} d_{X}(v(t),v′(t)) ≤ d_{T^{1}X}(v,v′) ≤ sup_{t∈[−T,T]} d_{X}(v(t),v′(t)) + 2e^{−T} . (17)

Le lemme suivant nous sera utile.

Lemme A.5. Soient v,w ∈ T^{1}X, soit L(t) la distance de v(t) à l’image de w et soient T_{1} < T_{2}. Alors, pour tout t ∈ [T_{1},T_{2}], on a:

sinh L(t) ≤ F_{λ,μ}(t),

avec

λ = \frac{e^{−T_{1}} sinh(L(T_{2})) + e^{−T_{2}} sinh(L(T_{1}))}{2 sinh(T_{2} − T_{1})},

μ = \frac{e^{T_{1}} sinh(L(T_{2})) + e^{T_{2}} sinh(L(T_{1}))}{2 sinh(T_{2} − T_{1})}.

Preuve. Soient λ,μ comme dans l’énoncé, et soit E ⊂ [T_{1},T_{2}] l’ensemble des temps t pour lesquels

sinh L(t) ≤ F_{λ,μ}(t).

Il est facile de vérifier que E est un compact contenant T_{1} et T_{2}. Nous allons montrer que pour tout t_{1} < t_{2} tous deux éléments de E, il existe t ∈]t_{1},t_{2}[ appartenant à E. Ceci impliquera que E = [T_{1},T_{2}]. Soient donc deux tels t_{i}.

Pour i = 1,2, soit p_{i} le point de w tel que d_{X}(v(t_{i}),w) = d_{X}(v(t_{i}),p_{i}). Nous pouvons trouver dans H^{2} deux triangles de comparaison (a,b,p′_{1}) et (b,p′_{1},p′_{2}) correspondants aux triangles (v(t_{1}),v(t_{2}),p_{1}) et (v(t_{2}),p_{1},p_{2}) respectivement, car il est possible de les prendre accollés dos à dos. Remarquons tout d’abord que les angles intérieurs α = { \atop p′_{2}p′_{1}a} et β = { \atop p′_{1}p′_{2}b} sont tous deux plus grands que π/2. En effet, pour l’angle α par exemple, la dérivée de la distance au point a le long de la géodésique orientée (p′_{1},p′_{2}) est − cos(α), et nous pouvons comparer la distance à a d’un point p proche de p_{1} sur le segment [p′_{1},p′_{2}] à la distance du point correspondant sur w à v(t_{1}), en passant par le point d’intersection avec la diagonale [p_{1},b] du segment [p,a]. Il en est de même pour β. Il s’ensuit donc que la médiatrice au segment [p′_{1},p′_{2}] coupe le segment [a,b] en un point c. Notons q′ le milieu de [p′_{1},p′_{2}], et e′ l’intersection de [f′,c] avec [b,p′_{1}]. Soient e,q,v(t) les points des segments respectifs [v(t_{2}),p_{1}],[p_{1},p_{2}], [a,b] correspondant à e′,f′,c. Nous avons donc, par comparaison dans le triangle (v(t_{1}),v(t_{2}),p_{1}), l’inégalité

d_{X}(v(t),e) ≤ d(c,e′).

De même, dans le triangle (v(t_{2}),p_{1},p_{2}), on a:

d_{X}(e,q) ≤ d(e′,q′),

et donc

L(t) ≤ d_{X}(v(t),q) ≤ d(c,e′) + d(e′,q′) = d(c,q′).

Or la distance sur la droite (a,b) à la droite (p′_{1},p′_{2}) est une fonction de la forme :

sinh L′(s) = |F_{λ′,μ′}(s)|,

pour certains λ′,μ′. Comme

L′(t_{1}) ≤ d(a,p′_{1}) ≤ L(t_{1}) ≤ F_{λ,μ}(t_{1}),

et de même pour t_{2}, on a pour i = 1,2

|F_{λ′,μ′}(t_{i})| ≤ F_{λ,μ}(t_{i}).

D’où, comme t ∈ [t_{1},t_{2}], on peut en déduire par le premier lemme que

|F_{λ′,μ′}(t)| ≤ F_{λ,μ}(t),

donc

sinh d(q′,c) = sinh L′(t) ≤ F_{λ,μ}(t).

et ainsi t ∈ E. Nous avons bien trouvé un point intérieur à [t_{1},t_{2}] dans E.

Nous pouvons maintenant, après ces longs préliminaires, rentrer dans le vif du sujet.

Preuve du théorème 3.2. Soit ϵ > 0, tel que tanh(ϵ/16) < 1. Prenons T > 0 suffisamment grand pour que les trois inégalités suivantes soient vraies:

e^{−T} ≤ \frac{ϵ}{8},

T > 3ϵ, sinh(T) > 1.

Prenons ϵ′ > 0 suffisamment petit tel que l’inégalité suivante soit vraie :

tanh(ϵ′)\frac{sinh(T) + 1}{sinh(T) − 1} ≤ tanh(ϵ/16).

Soit enfin δ > 0 suffisamment petit, vérifiant l’inégalité suivante :

δ < \frac{ϵ′}{1 + e^{T}} .

Nous allons vérifier que T et δ ainsi choisis conviennent. Soient v et t > T tels qu’il existe γ ∈ Γ, d_{T^{1}X}(ϕ^{t}(v),γ(v)) < δ. Le v de l’énoncé du lemme est le projeté sur Γ\X du v considéré ici, et le γ est déduit par passage au revêtement universel. Suivant la classification des isométries des espaces d’Hadamard [Bal95], γ est soit parabolique, soit elliptique, soit loxodromique. Si γ est loxodromique ou elliptique, notons Y l’ensemble invariant de déplacement minimal par γ, qui est respectivement une géodésique globalement invariante ou un ensemble convexe de points fixes. Soit p ∈ Y tel que d_{X}(v(0),Y) = d_{X}(v(0),p). Notons t′ = d_{X}(p,γp) le déplacement de p, il est nul si et seulement si γ est elliptique. Soit d = d_{X}(v(0),p) = d_{X}(γv(0),γp).

Par l’inégalité triangulaire,

|d_{X}(v(t),γp) − d| ≤ δ ≤ ϵ′,

et comme la fonction distance à Y est convexe le long des géodésiques,

d_{X}(v(T),Y) ≤ d + δ ≤ d + ϵ′.

Donc

d_{X}(v(T +t),Y) ≤ d_{X}(v(T +t),γ(v)(T))+d_{X}(γ(v)(T),Y) ≤ e^{T} d_{X}(v(t),γ(v)(0))+(d+δ),

d_{X}(v(T + t),Y) ≤ (1 + e^{T})δ + d,

d’où

d_{X}(v(T + t),Y) ≤ d + ϵ′.

\underline{1er Cas :} Supposons d’abord que γ est elliptique. Le raisonnement se fera par l’absurde. On a p = γp. Si d ≤ ϵ, on a alors:

T ≤ t = d_{X}(v(0),v(t)) ≤ d_{X}(v(0),p) + d_{X}(p,v(t)) ≤ 2d + δ ≤ 3ϵ,

et nous obtenons une contradiction car T > 3ϵ.

Nous supposons donc que d > ϵ > ϵ′. Nous pouvons trouver dans H^{2} un triangle de comparaison (p′,a,b) au triangle (p,v(0),v(T + t)). Soit c le point sur le segment (a,b) correspondant au point v(t). Comme X est un espace CAT (−1), on a:

cosh(d_{X}(v(t),p)) ≤ cosh(d(c,p′)) ≤ F_{λ,μ}(t)

Avec :

λ = \frac{e^{−t−T} cosh(d_{X}(v(0),p)) + cosh(d_{X}(v(t + T),p))}{2 sinh(t + T)}

μ = \frac{e^{t+T} cosh(d_{X}(v(0),p)) + cosh(d_{X}(v(t + T),p))}{2 sinh(t + T)}

Et donc :

cosh(d − ϵ′) ≤ \frac{2 cosh(t) cosh(d + ϵ′)}{sinh(t + T)},

d’où :

coth(d) ≤ \frac{sinh(T) + 1}{sinh(T) − 1} tanh(ϵ′).

Comme coth(d) > 1, nous obtenons une contradiction. L’isométrie γ ne peut donc être elliptique.

\underline{2ème Cas :} Le cas parabolique se traite de manière analogue : prenons pour p un point tel que d_{X}(p,γ(p)) soit très petit, nous pouvons approcher la situation précédente où l’on avait un point fixe par ce point "quasi-invariant". Les estimées resteront les mêmes, à une constante arbitrairement petite près. Par l’absurde, γ ne peut être un élément parabolique.

\underline{3ème Cas :} Nous sommes donc arrivés à la conclusion que γ est loxodromique. Nous allons montrer dans un premier temps que d < ϵ/16. Soit L(s) la distance du point v(s) à la géodésique Y. Posons tout d’abord :

λ = \frac{sinh(L(t + T)) + e^{−T −t} sinh(L(0))}{2 sinh(T + t)},

μ = \frac{sinh(L(T + t)) + e^{T +t} sinh(L(0))}{2 sinh(T + t)}.

Ainsi nous avons l’inégalité :

sinh(d_{X}(v(t),Y)) = sinh(L(t)) ≤ F_{λ,μ}(t),

sinh(L(t)) ≤ \frac{cosh(t) sinh(L(t + T)) + cosh(T) sinh(L(0))}{sinh(T + t)},

sinh(L(t)) ≤ \frac{2 cosh(t)}{sinh(t + T)} sinh(d + ϵ′),

sinh(d − ϵ′) ≤ \frac{sinh(d) cosh(ϵ′) + sinh(ϵ′) cosh(d)}{sinh(T)}.

Ce qui se traduit par :

tanh(d) ≤ tanh(ϵ′)\frac{1 + sinh(T)}{sinh(T) − 1},

d’où :

tanh(d) ≤ tanh(ϵ/16),

et ainsi d ≤ ϵ/16. Soit w le paramétrage unitaire de la géodésique Y tel que w(0) = p , et orienté de façon à ce que γ(w) = ϕ^{t′}w. On a :

|t − t′| = |d_{X}(v(0),v(t)) − d_{X}(w(0),w(t′))| ≤ d_{X}(v(0),w(0)) + d_{X}(w(t′),v(t)),

|t − t′| ≤ d_{X}(v(0),p) + d_{X}(w(t′),γ(v)(0)) + d_{X}(γ(v)(0),v(t)),

|t − t′| ≤ d + d + δ ≤ ϵ/8 + ϵ/16,

et ainsi :

|t − t′| ≤ ϵ/4.

Pour s ∈ [0,T], d_{X}(v(−s),x) = d_{X}(γ(v)(−s),x) ≤ d_{X}(γ(v)(−s),v(t−s))+d_{X}(v(t−s),x) ≤ e^{s}δ+d,

d_{X}(v(−s),x) ≤ e^{T} δ + d ≤ ϵ/4 + ϵ/16.

Et donc :

d_{T^{1}X}(v,w) ≤ ϵ/4 + 2e^{−T} ≤ ϵ/2.

Majorons de même d_{T^{1}X}(ϕ^{t}(v),ϕ^{t}(w)) : d_{T^{1}X}(ϕ^{t}(v),ϕ^{t}(w)) ≤ d_{T^{1}X}(ϕ^{t}(v),γ(v)) + d_{T^{1}X}(γ(v),ϕ^{t′}(w)) + d_{T^{1}X}(ϕ^{t}(w),ϕ^{t′}(w)),

d_{T^{1}X}(ϕ^{t}(v),ϕ^{t}(w)) ≤ δ + d_{T^{1}X}(v,w) + |t − t′|,

d_{T^{1}X}(ϕ^{t}(v),ϕ^{t}(w)) ≤ ϵ/16 + ϵ/2 + ϵ/4,
d_{T^{1}X}(ϕ^{t}(v),ϕ^{t}(w)) ≤ ϵ.

Comme la fonction s ↦ d_{T^{1}X}(ϕ^{s}(v),ϕ^{s}(w)) est convexe, nous obtenons bien l’inégalité annoncée.

ANNEXE B Un calcul de géométrie Euclidienne

Soit P un plan de ℝ^{3}, identifié au plan complexe (par une isométrie). Soit C un cercle, inclut dans un plan P′ orthogonal à P, et tel que la droite P ∩ P′ passe par le centre de C. Notons z,z′ les deux point d’intersection de C avec P. Soit S une sphère tangente à P en un point noté x; on suppose que S intersecte C en un et un seul point, et on veut une relation entre le rayon r de S et les nombres complexes z,z′,x.

Dans un premier temps, supposons que z = 1 et z′ = −1. Remarquons que la distance de x au plan P′ est alors égale à ℑ(x). Soit C_{1} l’intersection de P′ et S; c’est un cercle, dont le centre a est à distance \sqrt{ℜ(x)^{2} + r^{2}} du centre o = 0 de C. Notons r_{1} sont rayon; par le théorème de Pythagore, on a

r_{1}^{2} = r^{2} − ℑ(x)^{2}.

Comme C_{1} et C ont un unique point de tangence m, on a que o,m,a sont alignés. En retranchant les deux équations

am^{2} = r_{1}^{2}, om^{2} = 1,

et en utilisant les expressions de r_{1} et oa, nous obtenons

o⃗a.o⃗m = \frac{1 + |x|^{2}}{2} .

Comme ces deux vecteurs sont colinéaires, on a en élevant au carré

r^{2} + ℜ(x)^{2} = (\frac{1 + |x|^{2}}{2} )^{2} ,

et donc

r = \frac{1}{2}\sqrt{(1 + |x|^{2})^{2} − 4ℜ(x)^{2}},

ce qui est l’expression voulue pour r.

Maintenant, si z et z′ ne sont pas égaux à 1 et −1, nous pouvons appliquer une homothétie de rapport 2/|z − z′|, ainsi qu’une rotation et une translation, de telle sorte que P soit invariant et que la transformation s’écrive sur P

u(y) = \frac{2y − (z + z′)}{z′ − z}.

96 B. UN CALCUL DE GÉOMÉTRIE EUCLIDIENNE

Ainsi, u(z) = 1 et u(z′) = −1. Le calcul précedent s’applique, et la formule pour r devient donc, après tranformation inverse,

r = \frac{|z − z′|}{4}\sqrt{(1 + |u(x)|^{2})^{2} − 4ℜ(u(x))^{2}}.

ANNEXE C Quelques preuves manquantes

1. Preuve du lemme 5.1

Nous aurons besoin du lemme suivant.

Lemme C.1. Sous les hypothèses de la partie 2, toute orbite de Γ dans X est discrète. De plus, pour tout compact K de X, l’ensemble des transformations γ de Γ telles que γK ∩ K ≠ ∅ est fini.

Preuve. Prouvons tout d’abord la deuxième assertion. Soit γ_{n} une suite de tels éléments de Γ. Vus comme applications d’un compact K_{i} dans X, c’est une famille équicontinue (car ce sont des isométries), et le théorème d’Arzela-Ascoli (applicable car X est complet) nous dit que l’on peut trouver une limite. Par un procédé diagonal sur des compacts (K_{i})_{i∈ℕ}, légitime car X est σ-compact, nous pouvons faire converger ces éléments (uniformément sur les compacts) vers une application γ_{∞} de X dans X, qui a la propriété γ_{∞}(K)∩K ≠ ∅. Cette application est nécessairement une d_{0}-isométrie. Comme Γ est discret et fermé, la suite γ_{n} possède donc une sous-suite constante. En d’autre termes, l’ensemble des γ tels que γK ∩ K ≠ ∅ est donc fini. La première assertion se déduit de la deuxième. Soit K un voisinage compact quelconque d’un point x de X, l’ensemble des γ tels que γK ∩ K ≠ ∅ est fini, mais tous les éléments de γ différents de l’identité Id_{X} n’ont pas x comme point fixe (par hypothèse sur Γ), et par conséquent quitte à restreindre K, on a que x est isolé dans Γx.

Preuve du lemme 5.1. Montrons d’abord que X/A est séparé. Soient xA,yA deux points de X/A, et notons B(x,ϵ) la boule ouverte pour d_{0} de centre x, rayon ϵ. Supposons que pour tout ϵ strictement positif, on ait

B(x,ϵ)A ∩ B(y,ϵ)A ≠ ∅.

Pour ϵ = 1/n, il existe donc a_{n} dans A tels que x_{n}a_{n} = y_{n}, x_{n} tendant vers x e y_{n} vers y. Comme d(x_{n}a_{n},x_{n}) = ||a_{n}|| = d(y_{n},x_{n}), a_{n} est bornée et une sous-suite converge vers a. Ainsi xa = y et donc xA = yA si xA n’est pas séparé de yA. Montrons maintenant que Γ\X est séparé, à l’aide du lemme précédent. En effet, soient K un voisinage compact de x et y, deux points de X. De par le lemme précédent, la distance d_{0}(x,Γy) est un atteinte par un γy, pour un certain γ. Ainsi, si γy ≠ x, les orbites par Γ des boules ouvertes de centre respectifs x et y, de rayon d_{0}(x,γy)/2, sont disjointes.

La locale compacité et σ-compacité de X/A et Γ\X découlent de celles de X.

Pour la deuxième partie, l’application X/A × A → X est un application continue. Soit

ϕ : X → X/A × A,
x ↦ (xA,D(x)),

où D(x) est l’unique a dans A tel que p(xA)a = x - il existe car p(xA)A = xA et est unique car d(ya,ya′) = ||a − a′|| pour tout y dans X, et tout a,a′ dans A. Alors ces deux applications sont réciproques l’une de l’autre, et il ne reste à prouver que la continuité de ϕ. Il suffit donc de prouver la continuité de D. Soit x ∈ X et ϵ ans l’intervalle ]0,1[, soit K_{1} un voisinage compact de c(x) dans A de diamètre inférieur à ϵ/2, il existe par uniforme continuité un voisinage K_{2} de p(xA) tel que pour tout y dans K_{2}et a dans K_{1}, on ait d(ya,x) < ϵ/2. Soit U un voisinage de x tel que pour tout z ∈ U, p(zA) est dans K_{2}, alors d(p(zA)c(z),p(zA)c(x)) = ||D(z) − D(x)|| et, par l’inégalité triangulaire,

d(p(zA)D(z),p(zA)D(x)) ≤ d(z,x) + d(x,p(zA)D(x)) < ϵ/2 + ϵ/2.

Le cocycle c se définit comme

c(γ,xA) = D(γp(xA)).

La relation de cocycle découle de la commtutativité des actions de Γ et A. Enfin, le fait que Γ est dénombrable découle de la deuxième assertion du lemme C.1, du fait que X est σ-compact et que aucun élément de Γ n’a pas de point fixe.

2. Preuve du lemme 5.3

Preuve. Le support de f̄ est compact puisque c’est le projeté du support de f. Si B est un borélien de X saturé (c’est-à-dire ΓB = B dans X), alors sa projection dans Γ\X est également borélienne, car la tribu engendrée par les ouverts saturés de X est en bijection avec la tribu des boréliens (engendrée par les ouverts) de Γ\X, car la projection est ouverte (En fait, tout borélien se projette sur un borélien car Γ est dénombrable). On peut supposer f positive. Soit f̃ la fonction de X définie par

f̃(y) = ∑_{γ∈Γ} f(γy).

Cette somme est presque nulle, et a bien un sens. Comme Γ est dénombrable, f̃ est également mesurable et par suite f̄l’est. Enfin, si f est bornée, l’application du lemme C.1 au support de f nous permet de voir que la somme définissant f̄ a au plus un nombre fini N de termes non nuls, et donc que sup |f̄| ≤ N sup |f|.

3. Preuve du lemme 5.11

Preuve. Quitte à écrire f = sup(f,0) − sup(−f,0), on peut supposer f positive. Soit ϵ > 0, pour tout y dans le support supp(f) de f, il existe par hypothèse et continuité de ξ un voisinage ouvert U(y) de y vérfiant l’hypothèse et tel que pour tout z dans U(y), |ξ(z)−ξ(y)| < ϵ. Comme supp(f) est compact, il existe y_{1},...,y_{k} tels que les ouverts U(y_{i}) recouvrent supp(f). Soit, pour i = 1,..,k, des fonctions g_{i} : X → ℝ_{+} qui forment une partition de l’unité subordonnée au recouvrement précédemment choisit. On peut prendre par exemple, si on note Y^{c} le complémentaire d’un ensemble Y, et d la distance sur X,

g_{i}(z) = \frac{d(x,U(y_{i})^{c})}{∑_{j=1}^{k} d(x,U(y_{j})^{c})}.

De par l’hypothèse, comme fg_{i} est à support dans \overline{U(y_{i})}, on a pour un T_{i} > 0 et tout T > T_{i},

|∫_{X} fg_{i}dλ_{T} − ξ(y_{i}) ∫_{X} fg_{i}dμ| ≤ 2ϵ sup_{supp(f)}(ξ) ∫_{X} fg_{i}dμ.

Sommant ces inégalités pour i = 1,..,k (c’est légitime car les fg_{i} sont positives), on obtient en utilisant que ∑_{i=1}^{k} g_{i} = 1 sur supp(f), l’inégalité valable pout T > sup T_{i},

|∫_{X} fdλ_{T} − ∫_{X} f(∑_{i=1}^{k} ξ(y_{i})g_{i})dμ| ≤ 2ϵ sup_{supp(f)}(ξ) ∫_{X} fdμ.

Or, pour tout z dans supp(f),

|∑_{i=1}^{k} ξ(y_{i})g_{i}(z) − ξ(z)| ≤ ∑_{i=1}^{k} g_{i}(z)|ξ(z) − ξ(y)| ≤ ϵ,

car |ξ(z) − ξ(y)| < ϵ dès que g_{i}(z) > 0. Ainsi, pour T > sup T_{i},

|∫_{X} fdλ_{T} − ∫_{X} fdμ| ≤ ϵ (2 sup_{supp(f)}(ξ) + 1) ∫_{X} fdμ.

Comme ϵ > 0 est arbitraire, CQFD.

100 C. QUELQUES PREUVES MANQUANTES

Bibliographie

[Ano69] D. V. Anosov. Geodesic flows on closed Riemann manifolds with negative curvature. Proceedings of the Steklov Institute of Mathematics, No. 90 (1967). Translated from the Russian by S. Feder. American Mathematical Society, Providence, R.I., 1969.

[Bal95] Werner Ballmann. Lectures on spaces of nonpositive curvature, volume 25 of DMV Seminar. Birkhäuser Verlag, Basel, 1995. With an appendix by Misha Brin.

[BC67] Z. I. Borevitch and I. R. Chafarevitch. Théorie des nombres. Traduit par Myriam et Jean-Luc Verley. Traduction faite d’après l’édition originale russe. Monographies Internationales de Mathématiques Modernes, No. 8. Gauthier-Villars, Paris, 1967.

[BLS86] A. F. Beardon, J. Lehner, and M. Sheingorn. Closed geodesics on a Riemann surface with application to the Markov spectrum. Trans. Amer. Math. Soc., 295(2):635–647, 1986.

[Bor69] Armand Borel. Introduction aux groupes arithmétiques. Publications de l’Institut de Mathématique de l’Université de Strasbourg, XV. Actualités Scientifiques et Industrielles, No. 1341. Hermann, Paris, 1969.

[Bou63] N. Bourbaki. Éléments de mathématique. Fascicule XXIX. Livre VI: Intégration. Chapitre 7: Mesure de Haar. Chapitre 8: Convolution et représentations. Actualités Scientifiques et Industrielles, No. 1306. Hermann, Paris, 1963.

[Bou95] Marc Bourdon. Structure conforme au bord et flot géodésique d’un CAT(−1)-espace. Enseign. Math. (2), 41(1-2):63–102, 1995.

[Bur92] Edward B. Burger. Homogeneous Diophantine approximation in S-integers. Pacific J. Math., 152(2):211–253, 1992.

[Bur93] Edward B. Burger. Badly approximable systems and inhomogeneous approximation over number fields. In Number theory with an emphasis on the Markoff spectrum (Provo, UT, 1991), volume 147 of Lecture Notes in Pure and Appl. Math., pages 33–41. Dekker, New York, 1993.

[Cas57] J. W. S. Cassels. An introduction to Diophantine approximation. Cambridge Tracts in Mathematics and Mathematical Physics, No. 45. Cambridge University Press, New York, 1957.

[CF89] Thomas W. Cusick and Mary E. Flahive. The Markoff and Lagrange spectra, volume 30 of Mathematical Surveys and Monographs. American Mathematical Society, Providence, RI, 1989.

[Cha70] Jacqueline Chatard. Applications des propriétés de moyenne d’un groupe localement compact à la théorie ergodique. Ann. Inst. H. Poincaré Sect. B (N.S.), 6:307–326; erratum, ibid. (N.S.) 7 (1971), 81–82, 1970.

[Coh55] Harvey Cohn. Approach to Markoff’s minimal forms through modular functions. Ann. of Math. (2), 61:1–12, 1955.

[Cus87] T. W. Cusick. Endpoints of gaps in the Markoff spectrum. Monatsh. Math., 103(2):85–91, 1987.

[Dan85] S. G. Dani. Divergent trajectories of flows on homogeneous spaces and Diophantine approximation. J. Reine Angew. Math., 359:55–89, 1985.

[EM93] Alex Eskin and Curt McMullen. Mixing, counting, and equidistribution in Lie groups. Duke Math. J., 71(1):181–209, 1993.

[FN98] Koji Fujiwara and Amos Nevo. Maximal and pointwise ergodic theorems for wordhyperbolic groups. Ergodic Theory Dynam. Systems, 18(4):843–858, 1998.

[Fre90] Eberhard Freitag. Hilbert modular forms. Springer-Verlag, Berlin, 1990.

[Gor02a] Alexander Gorodnik. Lattice action on the boundary of sl_{n}(r). preprint, 2002.

[Gor02b] Alexander Gorodnik. Uniform distribution of orbits of lattices on spaces of frames. preprint, 2002.

[Haa86] Andrew Haas. Diophantine approximation on hyperbolic Riemann surfaces. Acta Math., 156(1-2):33–82, 1986.

[Hel78] Sigurdur Helgason. Differential geometry, Lie groups, and symmetric spaces. Pure and applied mathematics. Academic Press, New York, 1978.

[HP01a] Sa’ar Hersonsky and Frédéric Paulin. Counting orbit points in coverings of negatively curved manifolds and hausdorff dimension of cusp excursions. preprint, 2001.

[HP01b] Sa’ar Hersonsky and Frédéric Paulin. Hausdorff dimension of Diophantine geodesics in negatively curved manifolds. J. Reine Angew. Math., 539:29–43, 2001.

[HP02] Sa’ar Hersonsky and Frédéric Paulin. Diophantine approximation for negatively curved manifolds. Math. Z., 241(1):181–226, 2002.

[IH85] Hans-Christoph Im Hof. An Anosov action on the bundle of Weyl chambers. Ergodic Theory Dynam. Systems, 5(4):587–593, 1985.

[KM99] D. Y. Kleinbock and G. A. Margulis. Logarithm laws for flows on homogeneous spaces. Invent. Math., 138(3):451–494, 1999.

[Led99] François Ledrappier. Distribution des orbites des réseaux sur le plan réel. C. R. Acad. Sci. Paris Sér. I Math., 329(1):61–64, 1999.

[LW01] Elon Lindenstrauss and Barak Weiss. On sets invariant under the action of the diagonal group. Ergodic Theory Dynam. Systems, 21(5):1481–1500, 2001.

[Mau02] François Maucourant. Sur les spectres de lagrange et de markoff des corps imaginaires quadratiques. to appear, Ergodic theory and dynamical systems, 2002.

[Quê91] Roland Quême. On Diophantine approximation by algebraic numbers of a given number field: a new generalization of Dirichlet approximation theorem. Astérisque, (198-200):273– 283 (1992), 1991. Journées Arithmétiques, 1989 (Luminy, 1989).

[Ran57] R. A. Rankin. Diophantine approximation and horocyclic groups. Canad. J. Math., 9:277– 290, 1957.

[Rob02] Thomas. Roblin. Ergodicité et unique ergodicité du feuilletage horosphérique, mélange du flot géodésique et équidistributions diverses dans les groupes discrets en courbure négative. preprint, 2002.

[Rud80] Walter Rudin. Analyse réelle et complexe. Masson, Paris, 1980. Translated from the first English edition by N. Dhombres and F. Hoffman, Third printing.

[Sam67] Pierre Samuel. Théorie algébrique des nombres. Hermann, Paris, 1967.

[Sch69] Asmus L. Schmidt. Farey simplices in the space of quaternions. Math. Scand., 24:31–65, [Sch75] Asmus L. Schmidt. Diophantine approximation of complex numbers. Acta Math., 134:1–85,

1975.

[Sch78] Asmus L. Schmidt. Diophantine approximation in the field Q(i(11^{1/2})). J. Number Theory, 10(2):151–176, 1978.

[Sch83] Asmus L. Schmidt. Diophantine approximation in the Eisensteinian field. J. Number Theory, 16(2):169–204, 1983.

[Sha94] Nimish A. Shah. Limit distributions of polynomial trajectories on homogeneous spaces. Duke Math. J., 75(3):711–732, 1994.

[Sul79] Dennis Sullivan. The density at infinity of a discrete group of hyperbolic motions. Inst. Hautes Études Sci. Publ. Math., (50):171–202, 1979.

[Sul82] Dennis Sullivan. Disjoint spheres, approximation by imaginary quadratic numbers, and the logarithm law for geodesics. Acta Math., 149(3-4):215–237, 1982.

[Swa68] Richard G. Swan. Generators and relations for certain special linear groups. Bull. Amer. Math. Soc., 74:576–581, 1968.