Initiation aux probabilités Traduction de la quatrième Sheldon M. ROSS édition américaine Traduit de l'américain par Christian Hofer et Frédéric Dorsaz Presses polytechniques et universitaires romandes DANS LA COLLECTION «ENSEIGNEMENT DES MATHÉMATIQUES» DIRIGÉE PAR LE PROFESSEUR ROBERT C. DALANG Calcul différentiel et intégral Jacques Douchet et Bruno Zwahlen 1 Fonctions réelles d'une variable réelle 2 Fonctions réelles de plusieurs variables réelles - Exercices résolus 3 Fonctions réelles d'une variable réelle - Exercices résolus 4 Fonctions réelles de plusieurs variables réelles - Exercices résolus Algèbre linéaire Renzo Cairoli Cours d'analyse, 3 volumes Srishti-D. Chatterji Algèbre linéaire Robert C. Dalang, Amel Chaabouni Recherche opérationnelle pour ingénieurs I Dominique de Werra, Thomas M. Liebling, Jean-François Hêche Recherche opérationnelle pour ingénieurs II Jean-François Hêche, Thomas M. Liebling, Dominique de Werra Analyse, Recueil d'exercices et aide-mémoire vol. 1 et 2 Jacques Douchet Analyse avancée pour ingénieur Bernard Dacorogna, Chiara Tanteri Introduction à l'analyse numérique Jacques Rappaz, Marco Picasso Les Presses polytechniques et universitaires romandes sont une fondation scientifique dont le but est principalement la diffusion des travaux de l'Ecole polytechnique fédérale de Lausanne, d'autres universités francophones ainsi que des écoles techniques supérieures. Le catalogue de leurs publications peut être obtenu par courrier aux Presses polytechniques et universitaires romandes, EPFL - Centre Midi, CH-1015 Lausanne, par E-Mail à [email protected], par téléphone au (0)21 693 41 40, ou par fax au (0)21 693 40 27. www.ppur.org Version originale: A first course in probability Copyright © 1994 (1976, 1984, 1988) Macmillan Publishing Company Traduction de la quatrième édition américaine revue et augmentée ISBN 2-88074-327-3 © 1987, 1990, 1995, 1996, 1999, 2002, 2004, Presses polytechniques et universitaires romandes, CH-1015 Lausanne Tous droits réservés. Reproduction, même partielle, sous quelque forme ou sur quelque support que ce soit, interdite sans l'accord écrit de l'éditeur. Imprimé en Suisse Avant-propos à l'édition française Publié par Macmillan, New York, sous le titre «A first course in probability», cet ouvrage a été écrit en anglais en 1976 par Sheldon M. Ross. Il fait partie de la nouvelle génération de textes d'introduction au calcul des probabilités. Nouveau dans le sens qu'il s'éloigne de l'ouvrage phare de Feller «An introduction to probability theory and its applications», en mettant l'accent sur les notions de probabilité conditionnelle, plutôt que sur les aspects combinatoires de la probabilité. Dès sa parution, ce livre a connu un succès énorme auprès des universités et des collèges américains. Le succès de la traduction française, publiée par les Presses polytechniques romandes en 1987, n'en fut pas moins grand car l'ouvrage comblait une lacune de la littérature traitant du calcul des probabilités en langue française. Il a très vite été reconnu comme un texte excellemment adapté aux besoins des étudiants qui cherchent une introduction au sujet à la fois directe et rigoureuse sans un appareil mathématique trop lourd. Cette troisième édition française, basée sur la quatrième version américaine de 1994, retient le même nombre de chapitres que la précédente, mais se distingue par une nouvelle organisation de la matière. En particulier, les notions de l'espérance mathématique et de la variance d'une variable aléatoire sont avancées au chapitre 4, immédiatement après l'introduction des variables aléatoires discrètes. Cela entraîne des changements dans les chapitres suivants et donne lieu à toute une classe de problèmes nouveaux. Par conséquent, le nombre total des exercices théoriques et des problèmes s'élève dans cette édition à presque 600. Le succès du texte de S. Ross réside en premier lieu dans le choix excellent des exemples, exercices et problèmes et cet ouvrage restera très attractif dans les années à venir, pour des cours d'initiation aux probabilités au niveau universitaire. Cette nouvelle version a été préparée par Monsieur F. Dorsaz. Je le remercie du soin et de l'engagement manifestés pour cette tâche. Peter Nüesch Préface «... On réalise en fin de compte que la théorie des probabilités n'est tout simple- ment que le bon sens réduit à du calcul. Elle nous fait apprécier avec exactitude ce que l'esprit bien fait sent déjà par une sorte d'instinct, souvent sans être capable d'en rendre compte... Il est remarquable que cette science, qui a pris son origine dans l'étude des jeux de chance, soit devenue l'objet le plus important de la connaissance humaine. Les questions les plus importantes de la vie ne sont en réalité, pour l'essentiel, que des problèmes de probabilité». Ainsi pensait le «Newton» des Français, le célèbre mathématicien et astronome Pierre Simon, marquis de Laplace. On est en droit de penser que l'illustre marquis - qui fut d'ailleurs l'un des grands contributeurs à l'essor des probabilités - a un peu exagéré. Il n'en est pas moins certain que la théorie des probabilités est devenue un outil d'importance fondamentale pour un nombre considérable de scientifiques, d'ingénieurs, de médecins, de juristes et d'industriels. En fait l'homme éclairé a appris à ne plus demander «est-ce ainsi?» mais plutôt «quelle est la probabilité qu'il en soit ainsi?». Ce livre se veut une introduction élémentaire à la théorie mathématique des probabilités pour les étudiants qui possèdent assez de connaissances préalables en calcul différentiel et intégral, qu'ils travaillent en mathématiques, dans les sciences de l'ingénieur et même dans n'importe quelle science en général (y compris les sciences sociales et du management). Il essaie de présenter non seulement la partie mathémati- que de la théorie des probabilités mais aussi, et à travers une foule d'exemples, les nombreuses applications possibles de cette connaissance. Dans le chapitre 1 sont présentés les principes de base de l'analyse combinatoire, qui sont extrêmement utiles pour le calcul des probabilités. Dans le chapitre 2 on considère les axiomes de la théorie des probabilités et on montre comment ils peuvent être utilisés pour calculer les probabilités auxquelles on s'intéresse. Ce chapitre inclut une preuve de l'importante (et malheureusement sou- vent négligée) propriété de continuité des probabilités, qui est alors utilisée pour la résolution d'un paradoxe. Le chapitre 3 traite des très importantes notions de probabilité conditionnelle et d'indépendance d'événements. Par une série d'exemples, nous illustrerons com- ment les probabilités conditionnelles interviennent non seulement quand des informa- tions partielles sont disponibles mais aussi comme outils pour nous permettre de calculer des probabilités plus facilement, même si aucune information partielle n'est présente. Cette technique qui permet efficacement d'obtenir des probabilités en conditionnant réapparaît au chapitre 7, où nous l'utilisons avec la notion d'espérance conditionnelle. VIII Préface Dans les chapitres 4, 5 et 6 est discuté le concept de variable aléatoire. Les variables aléatoires discrètes sont traitées au chapitre 4, les variables continues au chapitre 5 et les variables conjointes au chapitre 6. Les importants concepts d'espérance et de variance d'une variable aléatoire sont introduits dans les chapitres 4 et 5. Ces quan- tités sont alors déterminées pour plusieurs types courants de variables aléatoires. Des propriétés supplémentaires de l'espérance sont présentées dans le chapitre 7. De nombreux exemples illustrant l'utilité du résultat «l'espérance d'une somme de variables aléatoires est égale à la somme de leurs espérances» sont également donnés. Ce chapitre comprend d'autre part une section sur l'espérance conditionnelle, incluant son utilisation en vue de la prédiction, et une autre sur les fonctions génératrices des moments. Enfin, la dernière section présente la distribution normale multivariée ainsi qu'une preuve simple concernant la distribution conjointe de la moyenne et de la variance d'un échantillon provenant d'une distribution normale. Au chapitre 8 sont présentés les principaux résultats théoriques de la théorie des probabilités. Nous démontrerons en particulier la loi forte des grands nombres et le théorème central limite. Notre démonstration de la loi forte est relativement simple en admettant que les variables aléatoires ont un quatrième moment fini, et celle du théorème central limite repose sur le théorème de continuité de Levy. Des inégalités sur les probabilités sont aussi présentées dans ce chapitre, telles que l'inégalité de Markov, celle de Chebyshev et les bornes de Chernoff. La dernière section du chapitre 8 donne une borne pour l'erreur induite par l'approximation d'une probabilité concernant la somme de variables aléatoires indépendantes de Bernoulli par la proba- bilité correspondante d'une variable aléatoire de Poisson de même espérance. Le chapitre 9 présente quelques thèmes choisis tels que les chaînes de Markov, le processus de Poisson ainsi qu'une introduction à la théorie de l'information et du codage. Le chapitre 10 traite des aspects de la simulation de façon plus étoffée que dans l'édition précédente. De nombreux exemples sont traités tout au long du texte et le lecteur trouvera aussi quantité d'exercices - où l'on a distingué des exercices théoriques et des problèmes - proposés pour approfondissement. Un grand soin a été porté à la formulation de ces exemples et problèmes. Une solution à la plupart des problèmes est indiquée à la fin de l'ouvrage tandis que pour les enseignants un recueil de solutions est disponible.1 Nous aimerions remercier les correcteurs suivants: Thomas R. Fischer, Texas A & M University; Jay Devore, California Politechnic University, San Luis Obispo; Robb J. Muirhead, University of Michigan; David Heath, Cornell University; M. Samuels, Purdue University; I.R. Savage, Yale University; R. Müller, Stanford University. K. B. Athreya, Iowa State University; Phillip Beckwith, Michigan Tech; Howard Bird, St. Cloud State University; Steven Chiappari, Santa Clara University; James Clay, University of Arizona at Tucson; Francis Conlan, University of Santa Clara; Fred Leysieffer, Florida State University; Ian McKeague, Florida State University; Helmut Mayer, University of Georgia; N. U. Prabhu, Cornell University; Art Schwartz, University of Michigan at Ann Arbor; Therese Shelton, Southwestern University; and Allen Webster, Bradley University. 1 Seulement dans la version anglaise. Pour l'obtenir, s'adresser directement à Macmillan Publishing Company 866 Third Avenue, New York, New York 10 022. Table des matières PRÉFACE VII CHAPITRE 1 ANALYSE COMBINATOIRE 1.1 Introduction 1 1.2 Principe fondamental de dénombrement 2 1.3 Permutations 3 1.4 Combinaisons 6 1.5 Coefficients multinomiaux 10 1.6 Répartition de boules dans des urnes 12 1.7 Exercices théoriques 14 1.8 Problèmes 17 CHAPITRE 2 AXIOMES DES PROBABILITÉS 2.1 Introduction 23 2.2 Ensemble fondamental et événement 23 2.3 Axiomes des probabilités 28 2.4 Quelques théorèmes élémentaires 31 2.5 Ensembles fondamentaux à événements élémentaires équiprobables 35 2.6 Théorème de passage à la limite 44 2.7 Probabilité en tant que mesure du crédit accordé à un fait 48 2.8 Exercices théoriques 49 2.9 Problèmes 53 CHAPITRE 3 PROBABILITÉ CONDITIONNELLE ET INDÉPENDANCE 3.1 Introduction 61 3.2 Probabilités conditionnelles 61 3.3 Formule de Bayes 66 X Initiation aux probabilités 3.4 Evénements indépendants 75 3.5 Fonction de probabilité conditionnelle 90 3.6 Exercices théoriques 97 3.7 Problèmes 102 CHAPITRE 4 VARIABLES ALÉATOIRES 4.1 Variables aléatoires 115 4.2 Fonctions de répartition 120 4.3 Variables aléatoires discrètes 123 4.4 Espérance 126 4.5 Espérance d'une fonction d'une variable aléatoire 128 4.6 Variance 132 4.7 Variable de Bernoulli et variable binomiale 134 4.8 Variable aléatoire de Poisson 144 4.9 Autres lois discrètes 154 4.10 Exercices théoriques 163 4.11 Problèmes .. 168 CHAPITRE 5 VARIABLES ALÉATOIRES CONTINUES 5.1 Introduction 183 5.2 Espérance et variance de variables aléatoires continues ... 186 5.3 Variable aléatoire uniforme 191 5.4 Variables aléatoires normales 195 5.5 Variables aléatoires exponentielles 208 5.6 Autres distributions continues 216 5.7 Distribution d'une fonction de variable aléatoire 221 5.8 Exercices théoriques 223 5.9 Problèmes 228 CHAPITRE 6 VARIABLES ALÉATOIRES SIMULTANÉES 6.1 Définition des distributions simultanées 235 6.2 Variables aléatoires indépendantes 245 6.3 Sommes de variables aléatoires indépendantes 255 6.4 Distributions conditionnelles 260 6.5 Statistiques d'ordre 265 6.6 Changement de variables multidimensionnelles 270 6.7 Exercices théoriques 277 6.8 Problèmes 281 CHAPITRE 7 PROPRIÉTÉS DE L'ESPÉRANCE 7.1 Introduction 289 7.2 Espérance d'une somme de variables aléatoires 290 7.3 Covariance, variance de sommes, corrélation 305 7.4 Espérance conditionnelle 316 7.5 Espérance conditionnelle et prédiction 328 7.6 Fonctions génératrices des moments 333 7.7 Autres propriétés des variables aléatoires normales 334 7.8 Définition générale de l'espérance mathématique 347 Table des matières XI 7.9 Exercices théoriques 349 7.10 Problèmes 358 CHAPITRE 8 THÉORÈMES LIMITES 8.1 Introduction 371 8.2 Loi faible des grands nombres 371 8.3 Théorème central limite 375 8.4 Loi forte des grands nombres 382 8.5 Autres inégalités 385 8.6 Bornes pour l'erreur de probabilité commise en approximant une loi binomiale par une loi de Poisson 391 8.7 Exercices théoriques 394 8.8 Problèmes 396 CHAPITRE 9 THÈMES CHOISIS DE PROBABILITÉ 9.1 Processus de Poisson 401 9.2 Chaînes de Markov 404 9.3 Surprise, incertitude, entropie 410 9.4 Théorie du codage et entropie 414 9.5 Exercices théoriques et problèmes 420 9.6 Références 423 CHAPITRE 10 SIMULATION 10.1 Introduction 425 10.2 Techniques générales pour la simulation de variables aléatoires continues 428 10.3 Simulation de variables aléatoires discrètes 436 10.4 Techniques de la réduction de la variance 438 10.5 Problèmes 442 SOLUTIONS À QUELQUES PROBLÈMES CHOISIS 447 INDEX 453