CHTOUCAS DE DRINFELD ET CONJECTURE DE RAMANUJAN-PETERSSON Laurent LAFFORGUE SOCIÉTÉ MATHÉMATIQUE DE FRANCE Publié avec le concours du CENTRE NATIONAL DE LA RECHERCHE SCIENTIFIQUE Laurent Lafforgue (Equipe de recherche associée DO752 du CNRS). Mots-clés : géométrie algébrique arithmétique, corps de fonctions, variétés modulaires de Drinfeld, représentations automorphes, opérateurs de Hecke, formule des points fixes, formule des traces de Selberg. Code matière AMS 1980 (version 1985) : 11 G, 14 G 25, 11 G 09, 11 F 70, 11 F 60, 14 F 20, 11 F 72. Table des matières Introduction ........................................... 5 Chapitre 1 D-chtoucas : généralités . 1. Définitions, structures de niveau. opérations ............... 15 - a) Notations ................................... 15 b) D-chtoucas à droite et à gauche .................. 16 c) Structures de niveau en dehors du zéro et du pôle .....1 8 d) Les opérations Frobo, Frob, et * ................. 20 e) Les opérateurs de Hecke ........................2 2 f) Le morphisme det : Chtb., + ~ht&, ............. 26 2 . Représentabilité . Lissité .............................. 29 - 3 . Chtoucas triviaux . Applications ........................ 41 - 4 . Correspondances de Hecke ............................ 48 - a) Préliminaires ................................. 48 b) Algèbres de Hecke ............................. 49 c) Correspondances de Hecke ....................... 50 d) Sous-champs des points fixes ..................... 56 . Chapitre II Chtoucas réductibles Filtrations de Harder- . Narasimhan 1. V-Chtoucas réductibles . Sous-champs d'iceux ............. 59 - a) Définitions ................................... 59 b) Les morphismes chtqtr& -+ Chtb,, et ~htsotrz"+ Cht;., ......................... 64 - c) Les morphismes chtqtrD? + ~ht;;; x Spec IF, / Aut E et chtsotr;: Spec P, / Aut E x ~htg., ...........7 0 d) Les champs Extn., (E. y) et ExtD>,( y.E ) ...........7 6 2 . Filtrations canoniques de Harder.Narasimhan . Applications . . 85 - a) Pentes . Filtrations canoniques de Harder-Narasimhan . 85 b) Les sous-champs ouverts ~ht"'~'~ ..............9 4 c) Les horocycles ............................... 101 . Chapitre III .D escription adélique des chtoucas Nombres de Lefschetz 1 . - Rappels : 9-espaces et F,. modules de Dieudonné. d'après Drinfeld ......................................... 105 2 . Description à isogénie près des 2)-chtoucas de rang r sur F, . 110 - 3 . Description d'une classe d'isogénies de V-chtoucas ........ 123 - 4 . Description des groupoïdes de points fixes ............... 129 - 5 . Nombres de Lefschetz ............................... 139 - a) Polygones de Harder-Narasimhan ................ 139 b) DSfinition des nombres de Lefschetz .............. 144 6 . Expression intégrale des nombres de Lefschetz ............ 147 - a) Fonctions de troncature ........................ 143 b) Expression intégrale .......................... 152 c) Transfert pour les termes elliptiques .............. 158 Chapitre IV .L e cas des V-chtoucas de rang r = 1 1 . Projectivité ...................................... 163 - 2 . Cohomologie t-adique des schémas ~ht&I/a?" ............ 166 - 3 . Généralités sur les représentations admissibles ............ 177 - a) Représentations admissibles. Homomorphismes de traces ................................... 177 b) Corps de rationalité . Corps de définition ........... 182 c) Représentations admissibles des produits tensoriels d'algèbres .................................. 186 4 . Calcul des traces . Applications ........................ 191 - a) Formules des traces ........................... 191 b) Représentations automorphes ................... 197 rF rF c) Représentations e-adiques de x attachées aux représentations automorphes .................... 201 rF d) Représentations e-adiques de attachées aux représentations automorphes .................... 209 Chapitre V .C alcul des nombres de Lefschetz en rang r 2 2 Polygones canoniques de Harder-Narasimhan et troncatures .. d'Arthur ........................................ 217 a) Petit dictionnaire des adèles et des fibrés ..........2 17 b) Polygones et filtrations canoniques de Harder-Narasimhan .......................... 218 c) Troncatures par le polygone canonique . Un peu de combinatoire .............................. 220 d) Conséquences de l'invariance locale ............... 223 e) Conséquences de la compacité du support ..........2 25 Transfert ........................................ 229 . a) Traces tronquées d'Arthur et nombres de Lefschetz ...2 29 b) Une fonction de troncature auxiliaire ............. 231 c) Première transformation ....................... 235 d) Suite et fin du calcul .......................... 241 Le cas où x a plusieurs facteurs premiers distincts .........2 47 . a) Préliminaires ................................ 247 b) Démonstration du théorème 10 (i) du paragraphe V.2d 253 Le cas où x est une puissance d'un polynôme irréductible ...2 56 - a) Préliminaires sur les sous-groupes de commutateurs et les intégrales orbitales ....................... 256 b) Encore une nouvelle fonction de pente maximale .....2 60 c) Introduction d'un facteur de convergence ..........2 64 d) Décomposition par classes de conjugaison et par places 268 Chapitre VI Formule des traces d'Arthur-Selberg et conjecture . de Ramanujan-Petersson 1. Rappels sur la décomposition spectrale de Langlands .......2 79 - a) Notations .................................. 279 b) Degrés . Polygones. Groupes de caractères .......... 280 c) Paires discrètes .............................. 282 d) Séries d'Eisenstein . Opérateurs d'entrelacement .....2 84 e) La décomposition spectrale de Langlands .......... 287 f) Expression spectrale des noyaux ................. 289 2 . - La formule des traces d'Arthur-Selberg : le côté spectral ....2 90 a) Une assertion d'intégrabilité .................... 290 b) Démonstration de ladite intégrabilité ............. 292 c) Première transformation des coefficients de Fourier par échange de deux sommations ................... .298 d) Transformées de Fourier des fonctions de troncature. Condition de recollement d'Arthur ............... 300 e) Calcul des coefficients de Fourier au moyen de l'isométrie de Langlands ............................... .304 f) Enoncé des résultats ......................... .307 3. Application à la conjecture de Ramanujan-Petersson ........3 10 - a) Composantes locales. Valeurs propres des opérateurs de Hecke ...................................3 10 b) Rappels sur les zéros et pôles des opérateurs d'entrelacement ............................. . 31 2 c) Rappels sur les spectres discrets, d'après Mœglin et Waldspurger ............................. .313 d) Enoncé du théorème principal .................. .314 e) Commencement de la démonstration : Application de la formule des traces d'Arthur-Selberg, du théorème des points fixes de Grothendieck-Lefschetz et du théo- rème de pureté de Deligne ..................... .316 f) Fin de la démonstration : Identification de la forme des différents termes dans la formule des traces ......... 319 Bibliographie ......................................... 327 Introduction L'objet principal de ce livre est la conjecture de Ramanujan-Petersson sur les corps de fonctions. Rappelons de quoi il s'agit. On considère F un corps de fonctions dont le corps des constantes IFq est fini à q éléments, F, les complétés de F en les différentes places x, deg, les valuations associées et A l'anneau des adèles de F. Toute représentation admissible irréductible n de GL,(A), r 2 1, est un produit @ n, de représentations admissibles irréductibles des GL,(F,). 2 Pour presque toute x, n, est non ramifiée et il existe dans CX r nombres zl (n,), . . . , z, (T,), bien définis à permutation près, tels que n, soit un sous- quotient de l'induite normalisée du caractère ( q Fd eg(x)z(l nx))degx(')x . .. x (q'"-Td eg(x)z,(nx))degx(di)e GL1(F,) x x GL1(F,). Quand n, est unitaire, la famille {Izl (n,)l, . . . , Iz,(~,)l} dans ilû: est symétrique par rapport à q Y deg("). D'autre part, à toutes représentations automorphes cuspidales irréducti- > bles unitaires n, n' de GL,(A), GL,,(A), r, r' 1, est associée la fonction s H L(s, n 8 8)d e Rankin-Selberg. C'est une fonction rationnelle en qS dont les pôles sont sur les droites Re s = O, Re s = 1. Les deux conjectures suivantes sont bien connues : CONJECTUR1E (Ramanujan-Petersson). - Soit n une représentation automorphe cuspidale irréductible unitaire de GL,(A). Alors, en toute place x où n est non ramifiée, on a lzi(nx)1 = qr-1z de g(x),1 5 i 5 r. CONJECTUR2E. - Soient n, n' deux représentations automorphes cus- pidales irréductibles unitaires de GL,(A), GL,, (A). Alors tous les zéros de S. la fonction s H L(s, n 8 7i') sont sur la droite Re s = Rappelons que Drinfeld a successivement prouvé la conjecture 1 (et même en fait la correspondance de Langlands) dans les cas suivants : quand une des composantes n, de n est la représentation de Steinberg et r = 2, en étudiant la cohomologie à coefficients constants des variétés modulaires classifiant les faisceaux elliptiques de rang 2 (et ce travail a été généralisé par Laumon en rang quelconque) ; quand une des composantes n, de n est supercuspidale et r = 2, en étudiant la cohomologie à coefficients dans certains systèmes locaux des variétés modulaires classifiant les faisceaux elliptiques de rang 2 (et ce travail a été généralisé par Flicker et Kazhdan en rang quelconque) ; quand r = 2, en étudiant la cohomologie des variétés modulaires classifiant les chtoucas de rang 2. Rappelons d'autre part que dans la situation de la conjecture 1, Jacquet et Shalika ont obtenu l'encadrement q-4 deg(x) < q1-rz de g(x) lzi (T,) 1 < deg(x), 1 <- i 5 r, et que dans la situation de la conjecture 2, Jacquet, Piatetski-Shapiro, Shahidi et Shalika ont montré que les zéros de la fonction L envisagée sont dans la bande O < Re s < 1. Notre résultat principal est le suivant : THÉORÈMPER INCIPAL. - (i) Soit n une représentation automorphe cuspidale irréductible uni- taire de GL, (A).A lors : Si r est impair, T vérifie la conjecture 1 et on pose E, = 0. Si r est pair, ou bien n vérifie la conjecture 1 et on pose E, = 0, ou bien pour toute place x où IT est non ramifiée, la moitié parmi les zi( T,), 1 5 i a5) r, sont de module q(?+a)deg(x) et l'autre moitié de module q(-q deg(z) et on pose E, = +. (ii) Pour deux telles représentations T, n' de GL,(A), GL,t(A), tous les zéros de L(s, T 8 7r') sont sur la droite Re s = si E, = E,I et sur les droites Res = 31 , Res = $ si E, # E,I . La démonstration de ce théorème est calquée sur celle de Drinfeld en rang 2. On s'intéresse aux modules d'éléments {zi( T,)) et (qS,L (s, n@7r1)= O). L'idée est de relier ces derniers aux valeurs propres de l'opérateur de Frobenius agissant sur la cohomologie à supports compacts d'une certaine variété de type fini sur IF, (en combinant le théorème des points fixes de Grothendieck-Lefschetz et une formule des traces d'Arthur-Selberg convenable) et d'invoquer le théorème de pureté de Deligne. Drinfeld a introduit des objets permettant de réaliser ce projet. Ce sont les variétés (ou plutôt les champs) classifiant les chtoucas de rang r. Ce livre rassemble la thèse de l'auteur (Orsay, 1994) et une prépublica- tion ultérieure (Orsay, 1995). Un résumé en a été présenté dans deux notes parues aux Comptes Rendus de l'Académie des ~ciénceds e Paris (tome 322, série 1, 1996). En voici le contenu détaillé : On commence dans le chapitre 1 par rappeler la définition des chtoucas ainsi que les principales propriétés géométriques de leurs champs classi- fiant~. Soit X la courbe projective lisse sur IF, dont le corps des fonctions est F. Par souci de généralité et suivant une idée de Stuhler, on introduit également D une algèbre à division centrale de dimension d2 sur F et 27 une Ox-Algèbre finie de fibre générique D qui soit maximale pour cette propriété. Un V-chtouca de rang r sur un schéma S (sur IF,) est un diagramme où E, &' sont des V [XI Os-Modules à droite localement libres de rang r sur X x S, '& désigne le D [XI Os-Module (Idx x Robs)*&, et j et t sont des homomorphismes D IXI Os-linéaires, injectifs et dont les conoyaux sont - supportés respectivement par les graphes de morphismes pôle ,i : S -+ X et zéro io : S -+ X et sont localement libres de rang d comme Os-Modules. Etant donné I X un sous-schéma fermé fini évitant le zéro et le pôle, une structure de niveau I sur un tel V-chtouca consiste en la donnée d'isomorphismes EI -L VIT [XI OS, Ei VT IXI OS compatibles avec j et t. On généralise les résultats de [Drinfeld, 19871 en s'inspirant des argu- ments de [Laumon, Rapoport, Stuhler]. On prouve que les champs Cht&,I classificant les D-chtoucas de rang r avec structure de niveau I sont algébriques au sens de Deligne-Mumford. L'application qui à un V-chtouca associe son zéro et son pôle définit des morphismes ChtLYI X\I x X\I -t qui sont localement de type fini et même lisses de dimension relative - 2(rd 1) au-dessus de X1\I x X1\I, où l'on note XI le plus grand ou- - vert de X en to-us les points fermés duquel l'algèbre D est déployée. Et pour tous sous-schémas fermés finis emboîtés I J X, le foncteur c-t d'oubli Chtl-,,j Cht'-,,, au-dessus de X\ J x X\J est représentable fini étale galoisien. En notant A le schéma complémentaire dans X x X de la diagonale et de ses transformées par les puissances de (Frobx x Idx) et de (Idx x Frobx), on dispose dans les Cht;,I de deux morphismes de Frobenius partiels Robo et Frob, au-dessus des endomorphismes (Robx x Idx) et (Idx x Robx) de A. Leur composé dans un sens ou dans l'autre est le morphisme de Frobenius. Soient a E AX un idèle de degré 1, DA l'ordre maximal dans DA = D gF A qui correspond à V, G le schéma en groupes sur F des automorphismes de E = DT, K le sous-groupe ouvert compact maximal GLT(VA) de GL,(DA) = G(A), 7-f l'algèbre de Hecke de G(A) c'est-à-dire l'algèbre de convolution des fonctions localement constantes à support compact de G(A) dans Q et, pour tout I -+ X, Zr la sous-algèbre des fonctions invariantes à gauche et à droite par KI = Ker[K GLT(VI)]. -t Alors on dispose sur le champ représentable @ Chtl-,,I/ az d'une action I à droite de G(A). Elle est équivalente à la donnée, pour tout I X, d'un ~t homomorphisme de 'FII dans l'anneau des correspondances finies étales de Chtb,I/a". Les champs Cht&,I/a" sont localement de type fini et n'ont qu'un nombre fini de composantes connexes mais, pour r _> 2, ils ne sont pas de type fini. On cherche donc dans le chapitre II à les écrire de façon aussi naturelle que possible comme des réunions filtrantes d'ouverts de type fini, en généralisant le dernier paragraphe de [Drinfeld, 19871 qui traite le cas D= F,r=2. Dans ce but, on choisit de recourir aux notions de filtrations et polygones canoniques de Harder-Narasimhan. Pour cela il nous faut, étant donné S = Spec K le spectre d'un corps algébriquement clos, disposer d'une fonction rang et d'une fonction degré sur les objets de la catégorie abélienne des diagrammes E= LE't (E +T-E ) où E, &' sont des D 3€ K-Modules cohérents et j, t induisent des isomor- phismes au-dessus d'un ouvert non vide. Comme fonction rang on prendra 2 évidemment rg = rg £ = rg£'. En revanche, les deux fonctions deg(det E) et deg(det E') sont distinctes et aucune ne paraît préférable à l'autre. On est donc amené à introduire un paramètre réel a et à définir la famille de fonctions deg, E = a deg(det £) + (1 - a)d eg(det &') . Pour tout réel a et tout polygone p : [O,r] R+, on construit -t maintenant des ouverts ~ht2:~'~da ns les Chtb,I en demandant que le po-ly gone a-canonique de Harder-Narasimhan soit majoré par p. Les cht"Prn <P /az sont de type fini et si I est de degré assez grand en fonction , de p, ce sont des schémas. Ils sont stables par l'action de la sous-algèbre de 'FII constituée des fonctions dont le support est contenu dans KAX.E t chaque Chtl;;"~" est transformé par Robo et Rob, respectivement en Chtr,p-a -l <P -e 1-t Chtr,-p rn+l<p V J 'D,I Pour tous polygones p, q avec O 5 p 5 q, on décrit aussi les différences entre les Cht;;jSq et les ~ht2:;" comme des réunions finies disjointes de strates, les horocycles. Chaque horocycle est plongé par une immersion localement fermé et il est muni par ailleurs d'un morphisme lisse dans un ~ht;;?.~'O avec r' < r, morphisme dont les fibres sont des groupes commutatifs unipotents. Dans le chapitre III, on considère O, oo deux places distinctes de F correspondant à des points fermés de X', u', s' 2 1 deux entiers et u = u' deg(O), s = sldeg(oo), et f' E 'FI une fonction sur G(A) de la forme