Lecture Notes in Mathematics 5651 Editors: A. Dold, Heidelberg B. Eckmann, ZUrich .F Takens, Groningen Subseries: Fondazione C.I.M.E., Firenze Adviser: Roberto Conti L. B outet de Monvel C. de Concini C. Procesi .P Schapira M. Vergne ,seludom-D noitatneserpeR ,yroehT dna mutnauQ spuorG Lectures given at the 2nd Session of the Centro Internazionale Matematico Estivo (C.I.M.E.) held in Venezia, Italy, June 12-20, 1992 Editors: G. Zampieri, A. D'Agnolo galreV-regnirpS Berlin Heidelberg weN kroY London Paris Tokyo Hong Kong Barcelona Budapest Authors Louis Boutet de Monvel D6partement de Math6matiques, Universit6 Paris VI ,2 Place Jussieu, F-75252 Paris, France Corrado De Concini Scuola Normale Superiore Piazza dei Cavalieri, 7, 1-56126 Pisa, Italy Claudio Procesi Dipartimento di Matematica, Universit~ "La Sapienza" Piazzale Aldo Moro, 5, 1-00185 Roma, Italy Pierre Schapira Universit6 de Paris XIII, CSP Math6matique F-93430 Villetaneuse, France Mich~le Vergne Ecole Normale Sup6rieure 45, rue d'Ulm, F-75005 Paris, France Editors Giuseppe Zampieri Andrea D'Agnolo Dipartimento di Matematica, Universita di Padova Via Belzoni, 7, 1-35131 Padova, Italy Mathematics Subject Classification (1991): Primary: 58, 71 Secondary: 22 ISBN 3-540-57498-0 Springer-Verlag Berlin Heidelberg New York ISBN 0-387-57498-0 Springer-Verlag New York Berlin Heidelberg This work si subject to copyright. All rights are reserved, whether the whole or part of the material is concerned, specifically the rights of translation, reprinting, re-use of illustrations, recitation, broadcasting, reproduction on microfilms or in any other way, and storage in data banks. Duplication of this publication or parts thereof is permitted only under the provisions of the German Copyright Law of September 9, 1965, in its current version, and permission for use must always be obtained from Springer-Verlag. Violations are liable for prosecution under the German Copyright Law. (cid:14)9 Springer-Verlag Berlin Heidelberg 1993 Printed in Germany Typesetting: Camera-ready by author/editor 46/3140-543210 - Printed on acid-free paper PREFACE In this CIME session we aimed at proposing to a wide audience the language and the techniques of various fields (such as D-modules, K- theory, equivariant cohomology, microlocal study of sheaves and quan- tization of groups) converging to recent common results on index theorems and representation theory. The contents of the lectures can be roughly divided into two groups: D-modules and microlocal study of sheaves .P( Schapira and J.-P. Schneiders), K-theory and D-modules .L( Boutet de Monvel), G-equiva- riant cohomology .N( Berline and M. Vergne) The theory of quantum groups, with particular emphasis to the quantization of some remarkable Poisson groups (C. De Concini and C. Procesi). The last ingredient of the school was the magic of Venice. A. D'Agnolo G. Zampieri Paris, March 19th, 1993 This CIME Session was held at Ca Dolfin under the sponsorship of the University of Venice. The organizers wish to heartily acknowledge the President of the University of Venice, Prof. G. Castellani, for the excellency of his hospitality. TABLE OF CONTENTS L. BOUTET DE MONVEL, Indice des syst~mes diff~rentiels ........ 1 C. DE CONCINI, C. PROCESI, Quantum Groups ................... 31 P. SCHAPIRA, J.P. SCHNEIDERS~ Index theorems for R-constructible sheaves and D-modules ............ 141 N. BERLINE, M. VERGNE, The equivariant Chern character and index of G-invariant operators ................. 157 INDICE DES SYSTI~,MES DIFFERENTIELS L. BOUTET DE MONVEL Dans ces notes nous nous proposons de d6crire la formule d'indice d'Atiyah et Singer pour les syst6mes d'op6rateurs diff6rentiels et son extension au cas relatif due ~ Mal- grange et l'auteur. Cette formule d6crit le nombre de solutions d'un syst6me d'6quations diff~rentielles -- ou plus exactement, parce qu'il s'agira pratiquement toujours de com- plexes elliptiques d'op6rateurs diff~rentiels, la caract6ristique d'Euler, somme altern6e de nombres de Betti de la cohomologie du syst6me -- en terrnes d'invariants topologiques plus simples attach6s ~ ce syst6me. 1I y a une version absolue du th6orbme d'indice, off l'indice est un nombre entier, et des versions avec param6tres, off l'indice est un fibr6 virtuel sur l'espace des param6tres, ou avec action de groupe compact 1~o l'indice est une repr6sentation du groupe, ou relative oh l'indice est un nouveau syst6me diffSrentiel dont on d6crit des invariants topologiques en fonction de ceux de l'ancien. L' 6nonc6 que nous d6crivons ici tient compte en outre plus explicitement des supports, en s'inspirant de la d6finition du micro-support des faisceaux constructibles et de la description de la formule de l'inclice qu'en d6duit P.Schapira dans ses conf6rences. w INTRODUCTION, DESCRIPTION DU PROBLEME Formellement l'indice d'un complexe d'op6rateurs lin6aires est d6fini comme suit: on se donne un complexe, c'est s dire une suite a : ... +---- Ek ~ Ek+l ---+ ''" d'espaces vectoriels complexes E k et d'applications lin6aires a k E L(Ek; Ek+l), telle que ak+l Oak = 0 pour tout k (une application lin6alre a : E0 +-- E1 s'identifie s un complexe de longueur 2, concentr~ en degr6s 0, 1). La cohomologie de a est le complexe de diff~rentielle nulle H(a) = kera/Ima (Hk(a) = kerak/Imak-1). Si H(a) est de dimension finie, i.e. si les Hk(a) sont de dimension finie, et nuls sauf pour un hombre fini d'indices k C Z, l'indice (ou caract6ristique d'Euler) de a est la somme altern~e: Ind a = ~(-1) k dim Hk(a) (on a Ind a = ~-'~(-1) k dim E k si le complexe a est lui m6me de dimension finie) Les complexes dont on s'occupera ici ne sont pas abstraits mais ont une origine ou une signification g6om6trique: ce sont des complexes d'op6rateurs diff6rentiels sur une vari6t6 et la formule d'indice d'Atiyah et Singer relie leur indice s des invariants g6om6triques de a. La formule d'indice pour un syst6me elliptique d~6quations aux d6riv6es partielles a son origine dans le th6or6me de Riemann-Roch de la g6om6trie complexe, plus pr6cis6ment sous la forme que lui ont donn6 Hirzebruch, et Grothendieck dans le cas relatif. Voici une description de cette formule, en termes de K-th6orie, rfsumant celle de Baum, Fulton, Mac Pherson: soient X un espace analytique projectif eomplexe, et Z C X une partie compacte. A tout faisceau coh6rent M de Oi-modules ~ support dans Zest associ6 un 616ment M du groupe de Grothendieck K Z ~n/X~ k ~) qui est le groupe engendr6 par les classes d'isomorphismes M de Ox-modules coh~rents ~ support dans Z et les relations M -- M' + M" s'il existe une suite exacte 0 ~-- M' ~--M~--- M" ~ 0. 1I existe un homomorphisme canonique K~n(X) ~-- K~~ ffo K~~ est le groupe d'Atiyah des "fibres vectoriels virtuels support dans Z', qui d~crit les propri~t~s additives et invariantes par d~formation des complexes de fibr6s vectoriels topologiques exacts en dehors de Z (ce groupe sera d~fini plus en d~tail an w Suivant Baum, Fulton, Mac Pherson, le th~or~me de Pdemann-Roch relatif exprime que cet homomorphisme commute aux images directes propres (il commute aussi aux images inverses). Ce th~or~me doit ~tre compl~t~ par la description de l'image directe K-th~orique, qui est d~finie au moyen du th~or~me de p~riodicit~ de Bott. On exprime aussi le th~or~me d'indice en termes de cohomologie au moyen de Fisomorphisme de Chern: ch : K~z~ | q --~ H~'(X, q) qui permet de traduire en termes de cohomologie ce qui ne d~pend pas de la torsion. Le thfior~me de Riemann-Roch "classique" de Hirzebruch est la traduction en termes coho- mologiques (via le caract~re de Chern) du cas particulier de l'~nonc~ ci-dessus lorsque le but est un point (K(point) = Z). Les fonctions holomorphes sont les solutions du syst~me elliptique des fiquations de Cauchy-Riemalm et on salt que pour eelles-ci, les sem@ro@ht de finitude sur une vari6t~ compacte sont un cas particulier d'un th6or~me de finitude analogue pour les solutions des systbmes elliptiques d'6quations aux d6riv6es partielles lin6aires (la d6finition sera rappel6e plus loin); il 6tait alors naturel de chercher k g6n6raliser aux systbmes elliptiques la formule de Riemalm-Roch de Hirzebruch. Les objets qui nous int6resseront d'abord ici sont les syst~mes elliptiques d'6quations diff6rentielles lin6aires sur une vari6t6 compacte, ou un peu plus g6n6ralement les syst~mes dont l'espace des solutions est de dimension finie. Un syst~me, ou eomplexe~ d'6quations diff6rentielles lin6aires peut ~tre d6crit comme suit: on se donne une vari6t6 X, complexe, ou r6elle de classe C ~176 une suite de fibr6s vectoriels complexes E = (E~), j E Z (Ej = 0 saul pour un nombre fini d'indices j), et une suite P = (Pj) d'op6rateurs de type Ej *--- Ej+~ telle que Pj+I o Pj -= 0 pour tout j (nous consid~rerons (E, P) = ((E/), (Pj)) comme un objet gradu~ et ~crirons simplement P~ = 0). Un op~rateur P de type E0 *--- 1E peut toujours ~tre consid~r~ comme un complexe de longueur 2. On consid~re alors le faisceau gradu~ de cohomologie de P : H(P) = ker(P)/Ira(P) (Hi(p) = ker Pj/Im Pj_a) et leurs espaces de sections globales. Par exemple si Pest un op~rateur de type E0 *--- Ea, assimil~ ~ un complexe de longueur ,2 H~ = ker Pest l'espace des solutions de l'~quation Pf = 0, et l'espace Ha(P) des sections de E1 rood Im P mesure l'obstruction ~ la r~solution de l'~quation Pf = g (il est aussi ~troitement lie k l'espace des solutions de l'~quation adjointe P*g = 0). Les complexes d'op~rateurs qui se p%sentent naturellement sont souvent localement exacts, et ont ~t~ construits pour caleuler la cohomologie, au sens g~om~trique, de X coefficients darts le faiseeau des solutions d'un syst~me d'@quations diff@rentielles (parce que le faisceau des fonetions C ~ ou analytiques sur une vari~t~ C ~ ou analytique rfielle est cohomologiquement trivial). Ainsi sur une vari~tfi X %elle, le faisceau constant Cx (dont les sections sont les fonctions localement constantes) est le faisceau des solutions de l'6quation df = 0, et la cohomologie H*(X,C) est celle du complexe de De Rham de la diff~rentielle ext~rieure op~rant sur les formes diff~rentielles; si X est une vari~t& complexe, les fonctions holomorphes sont les solutions des ~quations de Cauchy-Riemann: Of = 0, et la cohomologie H*(X, Ox) ~ coefficients dans le faisceau Ox des fonctions holo- morphes est celle du complexe de Dolbeault, de la diff~rentielle ext~rieure antiholomorphe O. Le Laplacien, ou plus g~n~ralement l'op&rateur de Laplace-Beltrami operant sur les formes diff~rentielles d'une vari~t~ Riemannienne, est un exemple plus ancien d'op~rateur elliptique; il est subordonnfi .5 l'exemple pr~c~dent: A =-dd* + d*d. On d~finit le symbole d'un op~rateur, ou d'un complexe d'ope~rateurs diff~rentiels: si Pest d'ordre rn son symbole est le polynSme O'p homog~ne de degr~ m qu'on obtient en ne gardant que les termes de plus haut degr~ m lorsqu'on 6crit P comme polyn6me des d6rivations O/Oxj, dans n'importe quel systbme de coordonn6es. On a, pour toute fonction C ~ 0~ et toute section u de E ~-**P(~'*~) = ~(dv)~ + O(<-') plus g6n6ralement si (E, P) est un complexe d'opfrateurs diff6rentiels, ap s'interpr~te comme un complexe de fibr6s vectoriels sur le fibr6 cotangent T'X, de type zr-lE --* ~r-lE, oh r7 est la projection T*X ~ X et 7r-lE d6signe le rel~vement de E .5 T*X (dans la suite nous 6crirons E au lieu de 7r-lE). Si X est une vari6t6 r6elle, on dit alors que Pest ellip- tique si pour tout covecteur imaginaire pur ~ # 0, le symbole ap(() est une suite exacte d'espaces vectoriels 1 . L'ellipticit6 est une propri6t6 simple d'un systbme P qui, jointe s une condition de compacit6 du domaine sur lequel on calcule ces solutions (par exemple que la vari&t6 de base soit compacte), assure que les groupes de cohomologie sont de dimension finie. La dimension individuelle de ehacun des groupes de cohomologie Hi(P) d'un com- plexe elliptique P n'est pas stable par d6formation ou par petite perturbation, et peut 8tre difficile .5 calculer; mais l'indice, ou caract6ristique d'Euler: x(P) = Y~(-1) j dim HJ(P), est tr~s stable, de mfime que la condition de finitude (ellipticit6). Pour un syst&me elliptique P il est alors naturel d'imaginer que l'indice ne d6pend que de caract&res topologiques plus grossiers du symbole ap, etest donn6 par une extension de formule analogue s la formule de Riemann-Roch. Les deux exemples ci-dessus (d et O) sont elliptiques et le th6orbme de Riemann-Roch de la g6om~trie complexe apparaltra ainsi comme cas particulier du th6orhme d'indice pour les systbmes elliptiques, appliqu~ s O. Comme nous l'avons mentionn6 la formule de l'indice pour les systbmes elliptiques est tr~s stable par perturbation ou d6formation, aussi n'est il pas essentiellement restrictif de se limiter aux syst&mes elliptiques .5 coefficients analytiques: toute vari6t6 paracompacte X 2 possbde une structure analytique r6elle, et tout systbme elliptique sur X peut ~tre d6form6 en un systbme .5 coefficients analytiques (une telle isotopie prfserve l'indice, et, pour l'essentiel, les objets topologiques 6voqufs ci-dessus). Dans toutes ces notes nous supposerons donc que les vari6t6s consid~r~es sont analytiques, et nous consid6rerons tou- jours une vari6t6 analytique r~elle comme germe d'une vari~t~ complexe au voisinage d'une sous-varift6 U totalement r6elle. Un inconv6nient est que ce point de vue est plus rigide, et certaines constructions ou d~formations topologiques sont moins faciles que dans le cadre C ~ mais elles ont le plus souvent un analogue grgce au fait que le faisceau des fonctions 1 La d~finition complete qu'on reverra plus loin est la suivante: P est elliptique si la vari~t~ car- act~ristique carP ne contient pas de covecteur imaginaire pur (ou r~el) non nul; c'est le cas si ap(~) est exact pour ~ imaginaire pur non nul. 2 Dans la suite les vari~t~s que nous consid~rerons seront toujours paracompactes et ce mot sera orals. analytiques r@elles est cohomologiquement trivial. Cet inconv@nient est largement corn- @snep par le far que les syst~mes d'@quations diff@rentielles s coefficients analytiques sont commod@ment d~crits par la th@orie des Z)-modules, qui est d@crite au w On dispose pour les ~D-modules analytiques de notions raisonnables de finitude ou de coh@rence, et d'image directe ou inverse par une application anMytique, qui n'existent pas pour les syst~mes s coefficients C ~176 La notion d'image directe, que nous rappelons au w est essentielle dans notre description du th~or~me d'indice relatif. En particulier l'image directe par immer- sion ferm@e (plongement) permettra de plonger n'importe quel syst@me dans une @t@irav plus simple telle que R n ou un espace projectif, de fa~on plus naturelle que dans l'article original d'Atiyah et Singer. L'ellipticit@ n'est pas pr~serv@e par plongement, et on est amen@ s en resilar@n@g la d@finition, en introduisant, suivant l'id@e de B. Malgrange, la notion de presqu'ellipticit@ qui est d@crite au w La presqu'ellipticit@ est stable par image directe et donne lieu aux mSmes sem@ro@ht de finitude, et au m@me em@ro@ht d'indice que l'ellipticit@. Mais elle s'applique dans plus de cas; en particulier un :D-module holonSme est toujours prequ'elliptique, et le th@or~me d'indice pour les modules holonSmes est ainsi @rtnom@d dans le m@me cadre que celui des syst@mes elliptiques. Jusqu's pr@sent nous n'avons parl@ que de solutions C ~ ou analytiques r6elle; on peut aussi @tudier les solutions distributions, ou plus g@n@ralement s coefficients dans un faisceau F convenable. Suivant Schapira et Schneiders il sera commode d'incorporer au faisceau des coefficients la description du domaine dans lequel on calcule les solution, qui ne sera pas toujours X tout entier, ce qui sera particuli~rement utile sur une @t@irav X complexe ffo on est encore plus amen@ s varier le domaine. Dans les notes de Schapira-Schneiders, F -- Ox | r est associ@ s un faisceau r@el-constructible r Ici en nous inspirant du travail de M. Ohana, nous nous limiterons au cas plus simple ffo F est le faisceau des germes de fonctions holomorphes au voisinage d'une @t@irav-suos s bord (ou s coins) de X. La formule de l'indice comportera ainsi plusieurs ~l@ments: 1) un objet topologique d@crivant des propri~t@s additives et invariantes par -amrof@d tion d'un syst~me diff@rentiel elliptique P. Dans ces notes cet objet sera un @rbif virtuel (s support) P, tnem@l@ de I(c~,r p(T*X), o~ car Pest la @t@irav caract@ris- tique de P; on peut le remplacer par une classe de cohomologie s support, grs au caract~re de Chern comme mentionn@ plus haut. 2) un objet topologique F d@crivant de fa~on analogue les s@t@irporp du faisceau de fonctions ou distributions F des coefficients dans lesquels on calcule les solutions. Ici, F sera un @l~ment de Kss r 1:1o SS r est le micro-support de r d~fini par Kashiwara et Schapira. 3) une formule universelle produisant s partir de ces donn@es, et moyennant une con- dition suppl~mentaire de compacit@, un nombre (ou plus g~n~ralement un @rbif virtuel ou une classe de cohomologie sur l'espace des param~tres, dans le cas re- latif). La condition de compacit@ est que car P N SS r soit compact, ce qui complete la condition d'ellipticit& car P n SS r C {0} (on a not@ {0} la section nulle). Le produit PF est alors bien d6fini, s support compact et le th6or~me d'indice af- firme que l'indice de P (s coefficients dans F) en est l'image K-th@orique (d6finie au w Le premier ingr@dient de notre d6monstration est la K-th@orie, qui est d@crite au w Le deuxi&me ingr@dient est la th6orie des :D-modules. La presqu'ellipticit@ et le em&ro@ht d'indice dans la cas absolu sont d6crits au w et le cas relatif au w w K-THI~ORIE ET OPERATEURS DE TOEPLITZ 2.1 Rappels de K-th~orie. a. Ddfinitions. Soient X un espace topologique paracompact, Z C X une partie ferm~e (ou plus g~n~ralement une famille de supports3). Nous renvoyons s Atiyah ou Steenrod pour la d~finition des fibres vectoriels sur X. Nous nous int~ressons aux morphismes a : E -+ F de flbr~s vectoriels complexes sur X tels que a soit un isomorphisme en dehors de Z, et plus g~n~ralement aux complexes de fibres vectoriels exacts en dehors de Z. On note Kz(X) le groupe des classes d'~quivalence a de tels complexes a pour la relation d'~quivalence engendr6e par les relations: (i) a + b = a @ b (ii) a = 0 s'il existe une ddformation exacte en dehors de Z de a sur un complexe exact. On note encore K(X) = Kx(X). Si aet b sont des complexes de fibrds on a a = b si et seulement s'il existe un complexe exact c et une ddformation exacte en dehors de Z de a (cid:12)9 c sur b (cid:12)9 c; en particulier on a a = b si a et b sont quasi-isomorphes, en particulier s'il existe un morphisme a +-- b qui induise un isomorphisme en cohomologie. Muni de la loi ci-dessus Kz(X) est un groupe; on a -a = a* = a(1) off a(1) d~signe le complexe d~cal4 (ak-1) si a = (ak) et a* d&signe l'adjoint de a (pour n'importc qucllcs mdtriqucs hermitiennes). Le produit tensoriel de deux complexes a et b ((a | = Op(ap | 1 + (--1)Pl | bk-p)) est exact en tout point so un des deux facteurs l'est; par passage au quotient on d6finit alnsi une loi de produit bilin6alre Kz (X) x Kz, (X) +-- Kzn z, (X) pour laquelle Kx (X) = K(X) est un armeau et les Kz(X) sont des K(X)-modules. Soit Hun espace de Hilbert. On note Fred(H) C L(H) l'ensemble des op6rateurs de Fredholm. Si X D Z sont comme plus haut on note Fz(X) le groupe des classes d'homotopie de fonction continues A : X +-- Fred(H) telles que A soit inversible en dehors de Z. Parce que GL(H) est contractile (th. de N. Kuiper) Fz(X) s'identifie aussi au groupe des classes d'homotopie de familles continues d'opdrateurs de Fredholm sur un fibr4 hilbertien (un tel fibr6 est toujours trivial). Une telle famille peut toujours &tre consid6r6e comme un complexe de longueur 2 et de cette fagon Fz(X) s'identifie aussi au groupe des classes d'homotopie de complexes de Fredholm hilbertiens exacts en dehors de Z (c'est s dire de complexes de fibrds hilbertiens dont la cohomologie est de dimension firde en tout point et nulle en dehors de Z; deux tels complexes sont 4quivalents s'il existe une dSformation du premier sur le second, exacte en dehors de Z). De falt si (2.1) D : ..- ----+ Hk ~ Hk+l +---- "" est un tel complexe, et qu'on note Dz (ou simplement D) sa classe dans Fz, on montre ~14mentairement, par r4currence sur la longueur de D, qu'on a D = 0(D) si O(D) est la famille d'op~rateurs de Fredholm: (2.2) )D(3c = D - D* : OH2k ----+ @H2k+l. 3 On notera cK la K-th$orie ~ support compact. Atiyah suppose toujours que le support Zest compact (ou contenu dans la famille des parties cornpactes). Nous avons omis cette condition, inutile au niveau des d$finitions, et qui ne sera jamais r6alis4e dans ces notes oh X est un fibr6 cotangent, et Z partie conique de X.