M ÉMORIAL DES SCIENCES MATHÉMATIQUES ÉLIE CARTAN Lathéoriedesgroupesfinisetcontinusetl’analysissitus Mémorialdessciencesmathématiques,fascicule42(1952),p. 1-61. <http://www.numdam.org/item?id=MSM_1952__42__1_0> ©Gauthier-Villars,1952,tousdroitsréservés. L’accès aux archives de la collection « Mémorial des sciences mathé- matiques » implique l’accord avec les conditions générales d’utilisation (http://www.numdam.org/legal.php). Toute utilisation commerciale ou im- pressionsystématiqueestconstitutived’uneinfractionpénale.Toutecopie ouimpressiondecefichierdoitcontenirlaprésentementiondecopyright. Article numérisé dans le cadre du programme Numérisation de documents anciens mathématiques http://www.numdam.org/ &SM m*6 MÉMORIAL DES SCIENCES MATHÉMATIQUES PUBLIE SOUS LE PATRONAGE DE L'ACADÉMIE DES SCIENCES DE PARIS, DES ACADÉMIES DE BELGRADE, BRUXELLES, BUCAREST, COÏMBRE, CRACOVIE, KIEW, MADRID, PRAGUE, ROME, STOCKHOLM (FONDATION MITTAG-LEFFLER), DE LA SOCIÉTÉ MATHÉMATIQUE DE FRANCE, AVEC LA COLLABORATION DE NOMBREUX SAVANTS. DIRECTEUR Henri VILLAT Membre de l'Institut, Professeur à la Sorbonne, Directeur du « Journal de Mathématiques pures et appliquées ». FASCICULE XLII La théorie des groupes finis et continus et l'Aiialysis sitns Par ÉLIE CAIITAN Membre de l'Institut Professeur à la Faculté des Sciences de Paris PARIS GAUTHIER-VILLARS, IMPRIMEUR-EDITEUR LIBRAIRE DO BUREAU DES LONGITUDES, DE L'ÉCOLE POLYTECHNIQUE Quai des Grands-Augustins, 55 Nouveau tirage 1952 Copyright by Gauthier-Villars, ig52. Tous droits de traduction, de reproduction et d'adaptation réservés pour tous pays. LA THÉORIE DES GROUPES FINIS ET CONTINUS ET L'ANALYSIS SITUS Par M. Élie CAUTAN. INTRODUCTION. La première idée d'appliquer des considérations d'Analysés si tus à la théorie des groupes finis et continus remonte à Hurwitz[4] qui, en 1897, se servit, dans la recherche des invariants, d'intégrales appliquées à tout le domaine de certains groupes clos (groupe linéaire d'une forme d'Hermite définie positive, groupe orthogonal). Ce procédé fut utilisé en 1925 par H. Weyl [8] qui, grâce à des considérations tf Analyses situs appliquées aux groupes semi-simples clos, fit faire des progrès importants à la théorie de la représentation linéaire des groupes semi-simples, théorie dont E. Cartan avait posé les bases en 1912 en se plaçant au point de vue infinitésimal de S. Lie, mais avec une lacune qu'on n'a pas encore réussi à combler par voie algébrique.-A un point de vue différent, H. Poincaré [o, 6, 7], dans trois Mémoires pénétrants publiés en 1900, 1901 et 1908, montra l'importance du rôle joué par les transformations singulières d'un groupe dans la théorie de la structure de ce groupe, rôle analogue à celui que jouent les points critiques d'une fonction analytique. Signalons enfin deux Mémoires de O. Schreier [24 et 25], parus en 1926 et 1927, sur les groupes continus abstraits envisagés d'un point de vue très général. Dans tous ces travaux qui, à part ceux relativement récents de H. Weyl et O. Schreier, sont restés^ isolés, les groupes finis et con tinus sont étudiés dans leur domaine entier d'existence et non pas 2 EUE CARTAN. seulement, avec S. Lie, au voisinage de la transformation identique : ce sont des études « intégrales » et non « locales ». Le but de ce Fasci cule est de passer en revue, en se plaçant au point de vue « intégral», un certain nombre de problèmes fondamentaux que pose la théorie des groupes, soit qu'on envisage, comme au Chapitre I, un groupe fini et continu comme une variété à l'intérieur de laquelle on a défini une loi de multiplication ou de composition associative, satisfaisant à un minimum de conditions de continuité, soit qu'on introduise, comme au Chapitre II, pour obtenir ce que j'appelle les groupes de Lie, des hypothèses supplémentaires sur les propriétés analytiques de la loi de composition du groupe. On ne connaît aucun groupe fini et continu qui ne soit pas un groupe de Lie; un théorème fondamental (n° 26) montre que si un tel groupe existe, il ne peut être isomorphe à aucun groupe linéaire. Dans la théorie même des groupes de Lie, signalons l'insuffisance des démonstrations ordinaires du troisième théorème fondamental qui ne prouvent l'existence, un système de constantes dk$ étant donné, que d'un morceau de groupe, incapable peut-être de se prolonger pour former un groupe complet; une démonstration rigoureuse du théorème est résumée au Chapitre IL Signalons aussi la recherche des conditions nécessaires et suffisantes auxquelles doit satisfaire un sous-groupe $*, connexe ou mixte, d'un groupe de Lie G pour que g soit le plus grand sous-groupe laissant invariant un point d'une variété transformée transitivement par G : ces conditions ne sont pas de nature exclusivement locale. Les variétés susceptibles d'être transformées transitivement par un groupe de Lie ne sont du reste pas quelconques au point de vue de Y Analysis situs. Le Chapitre 111 est consacré à l'étude des groupes clos, qui jouent un rôle si important dans les applications. Le Chapitre IV expose les principes, envisagés du point de vue de la théorie des groupes, de la théorie des espaces riemanniens symétriques due à E. Cartan, dont les applications à la Géométrie et à la théorie des groupes elle-même " sont d'une grande variété. La théorie de la représentation linéaire des groupes clos, a\ec les applications qu'on en peut faire à la théorie des systèmes orthogonaux complets de fonctions dans une variété close transformée transitive* ment par un groupe clos, est laissée complètement de côté dans ce Fascicule, dont elle aurait trop facilement fait déborder le cadre, peut-être déjà trop étendu. LA THÉORIE DES GROUPES FINIS ET CONTINUS ET L'ANALYSIS SITUS. CHAPITRE I. GÉNÉRALITÉS SUR LES VARIÉTÉS ET LES GROUPES CONTINUS ABSTRAITS. I. — Variétés; variétés closes et ouvertes1. 1. La notion de variété est suggérée par celles de ligne et de sur face plongées dans l'espace ordinaire. Nous la préciserons, la généra liserons et la limiterons en même temps par l'introduction d'un certain nombre de postulats, analogues à ceux qui ont été énoncés par F. Hausdorff dans ses Grundzùge der Mengenlehre (Leipzig, i9'4). Nous appellerons variété à n dimensions un ensemble d'éléments ou points tel qu'on puisse définir un système de sous-ensembles, appelés voisinages, satisfaisant aux conditions suivantes : A. A chaque voisinage V est associée une correspondance biuni- coque déterminée entre les points de V et les points d'une hyper- sphère 2 de Vespace euclidien à n dimensions. Les points de Vqui correspondent à des points intérieurs à 2 seront dits intérieurs à <V i les autres constituent la frontière de V. B. Tout point de la variété est intérieur à au moins un voisi nage. G. Soient 1? un voisinage quelconque, 2 l1 hypersphère qui lui est associée, M un point intérieur à V, m le point correspondant de 2 et o- une hypersphère de centre m intérieure à 2. Il existe un voisinage V intérieur à °J et tel que les correspondants dans 2 de tous les points de V appartiennent à CT. D. Soient M un point appartenant à l'intérieur ou à la frontière de *V, m son correspondant dans 2, V un voisinage contenant M à son intérieur. Il existe une hypersphère cr<le centre m telle que les correspondants dans <V de tous les points de 2 qui appar tiennent à cr soient intérieurs à V. E. Etant donnés deux points distincts M et N, on peut trouver deux voisinages ayant respectivement M ^ Nà leur intérieur et n'ayant aucun point commun. 4 ÉLIE CARTAN, 2. Un point A de la variété est dit point d'accumulation pour un ensemble infini de points distincts de cette variété si tout voisinage contenant A à son intérieur contient au moins un point de l'ensemble distinct de A. Tout ensemble infini de points distincts appartenant à un même voisinage *V admet au moins un point d'accumulation appar tenant à V (en vertu des postulats A, D et du théorème de Bolzano- Weierstrass). On dit qu'une suite infinie de points A A , . . ., A„, ... tend vers n 2 un point limite A si, étant donné un voisinage quelconque ^contenant A à son intérieur, tous les points de l'ensemble sont, à partir d'un certain rang, intérieurs à V. La suite infinie ne peut pas tendre vers un autre point limite B (en vertu du postulat E). De tout ensemble infini admettant un point d'accumulation A on peut extraire une suite infinie de points distincts tendant ver» A. Il résulte des postulats A, C et D que la correspondance biunivoque qui existe entre l'intérieur d'un voisinage V Ql l'intérieur de l'hyper- sphère 2 qui lui est associée est bicontinue. On peut donc définir analytiquement d'une manière univoque les points intérieurs à tout voisinage d'une variété à n dimensions au moyen de n coordonnées, de telle sorte que deux points infiniment voisins aient des coordonnées infiniment voisines. 3. Un chemin continu est un ensemble de points qu'on peut mettre en correspondance biunivoque avec les valeurs numériques d'une variable réelle t satisfaisant à o<£<i, de telle sorte que si t -+t , la n 0 suite des points correspondant à t tende vers le point correspondant n à A». La variété est dite connexe si deux points quelconques peuvent être reliés par un chemin continu. Nous ne considérerons que dos variétés connexes ou formées d'un nombre fini ou d'une infinité dénombrable de variétés connexes. 4. Admettons maintenant l'hypothèse supplémentaire suivante : F. // est possible de trouver des voisinages en nombre fini ou en infinité dénombrable tels que tout point de la variété soit intérieur à au moins l'un de ces voisinages. Nous conviendrons de dire pour abréger que la variété est recou verte par les voisinages considérés. LA THÉORIE DES GROUPES FINIS ET CONTINUS ET L'ANALYSIS SITUS. 5 Rangeons les voisinages considérés dans un certain ordre v v, ... v , .... u t r n Nous supprimerons de la suite précédente le premier voisinage *Va pour lequel tout point intérieur à *Va est intérieur à l'un au moins des voisinages précédents. Nous recommencerons cette opération sur la nouvelle suite obtenue, et ainsi de suite. Aous. arriverons ainsi à une suite de voisinages telle que dans chaque voisinage Vi de la suite il existe au moins un point intérieur qui ne soit intérieur à aucun des voisinages <V\, Va, ...,^i_i. Une telle suite sera dite normale. 5. Les variétés susceptibles d'être recouvertes par une suite nor male finie de voisinages se distinguent des autres par des propriétés caractéristiques. En effet, considérons dans une telle variété un ensemble infini de points; il existera au moins un des voisinages de la suite, soit *V , contenant une infinité de points de l'ensemble, par a suite (n° 2) l'ensemble donné admet au moins un point d'accumu lation. Supposons au contraire que la variété soit recouverte par une suite normale d'une infinité dénombrable de voisinages. Prenons dans chaque voisinage *Vi un point M intérieur à V, mais qui ne soit 4 t intérieur à aucun des voisinages précédents. L'ensemble infini ainsi obtenu ne peut avoir aucun point d'accumulation. Un tel point A en effet serait intérieur à un certain voisinage % sans être intérieur aux voisinages précédents; soit V un voisinage (n'appartenant pas à A la suite normale) intérieur à V* et contenant A à son intérieur; aucun des points M^, MA ? ..." de l'ensemble n'appartient à V et par +2 k suite V ne peut contenir qu'un nombre fini de points de l'ensemble, k ce qui est en contradiction avec l'hypothèse. Nous dirons qu'une variété est ouverte ou close suivant qu'on peut ou non trouver des ensembles infinis de points n'admettant aucun point d'accumulation. On voit que si une variété close peut être recouverte par une infinité dénombrable de voisinages, elle peut l'être par un nombre fini de voisinages (généralisation du théorème de Heine-Borel). Une variété formée d'une infinité dénombrable de variétés connexes ne peut être close. ÉLIE CARTAN. II. - Groupes finis et continus abstraits. 6. On appelle groupe abstrait un ensemble d'éléments sur lesquels on a défini une opération, dite multiplication, faisant corres pondre à deux éléments quelconques A, B rangés dans un certain ordre un troisième élément noté AB, et satisfaisant aux conditions suivantes : a. Il existe un élément I .(élément unité) tel que, pour tout élément A, on ait IA = Al = A; Jb. A tout élément k. correspond un élément krx tel que kkr{ = 1; c. On a (AB)C = A(I)G). Il résulte de ces hypothèses que l'on a aussi A"*A = I. En effet l'égalité BA = CA entraîne B = C; par suite le produit A""1 A = J se confond avec I à cause des égalités JA~' = A-1 AA-1 = A"' I = IA"1. L'égalité AB = AC entraîne donc aussi B = C. < 7. On peut associer à chaque élément A du groupe abstrait une opération ou transformation V>, à savoir celle qui fait correspondre k à l'élément M du groupe l'élément M'= AM. Cet ensemble de trans formations contient la transformation identique ©| ; à chaque transformation Î5 correspond une transformation inverse © _i; A A enfin la résultante des transformations ï\ et © effectuées succes B sivement est la transformation J\1'=I)(AM) = (BA)M, qui correspond à l'élément BA. Nous dirons que les transforma tions © réalisent le groupe abstrait comme groupe de transforma v tions. Elles constituent le groupe des paramètres du groupe abstrait. Les transformations M'=MA définissent le second groupe des paramètres. 8. Le groupe abstrait est dix, fini et continu d'ordre r si ses élé ments engendrent une variété à r dimensions; si de plus, étant LA THÉORIE DES GROUPES FINIS ET CONTINUS ET L'ANALYSIS SITUS. 7 données deux suites infinies d'éléments k et B„ tendant respec n tivement vers A et B, la suite infinie d'éléments k B tend vers AB; ft fl si enfin, k tendant vers I, A~' tend vers I. Si V est un voisinage de n 0 la variété du groupe contenant à son intérieur l'élément I, l'ensemble des éléments kV obtenus en multipliant A par les éléments de V 0 9 pourra être regardé comme un autre voisinage contenant l'élément A à son intérieur. Il en sera de même de l'ensemble des éléments *v7 A. 0 Le groupe fini et continu est dit connexe ou mixte suivant que sa variété est connexe ou bien formée d'un nombre fini ou d'une infinité dénombrable de variétés connexes; l'une des familles connexes d'élé ments dont il est composé, à savoir celle qui contient l'élément I, définit par elle-même un groupe. 9. La variété d'un groupe abstrait fini et continu satisfait toujours d'elle-même à l'hypothèse F : elle peut être recouverte par une infinité dénombrable de voisinages k V , en désignant par V H 0 9 un quelconque des voisinages contenant l'élément l à son intérieur. Nous allons d'abord montrer que tout élément du groupe, qu'on peut supposer connexe, peut être obtenu par la multiplication d'un nombre fini d'éléments intérieurs à V . Joignons en effet l'élément I 0 à un élément donné A par un chemin continu, un élément variable du chemin dépendant d'un paramètre t variant de o à i. Soit t la 0 borne inférieure de l'ensemble des valeurs de t correspondant aux éléments du chemin qui ne peuvent pas être obtenus par le procédé indiqué, et soit A l'élément correspondant. L'élément A lui-même 0 0 ne peut pas être le produit d'un nombre fini q d'éléments intérieurs à V , car pour toutes les valeurs de t supérieures à t et suffisamment 0 0 voisines de t , on aurait un élément qui serait le produit de q -h i 0 éléments intérieurs à V^ Considérons maintenant le voisinage A ^ ; 0 0 il contient des éléments de la courbe correspondant à des valeurs de t inférieures à / et aussi voisines qu'on veut de t , par exemple un 0 0 élément A' = k s, s étant aussi voisin de 1 qu'on veut, par exemple 0 0 assez voisin de I pour que s~* appartienne à V ; il en résulte que 0 l'élément A =A' s"' est le produit d'un nombre fini d'éléments inté 0 o rieurs à V , ce qui est contraire à l'hypothèse. {) Donnons-nous maintenant un entier/?; on peu!, par hypothèse, mettre les éléments de V en correspondance biunivoque continue 0 avec les points d'une hypersphère 2 de rayon R dans l'espace ordi-