Springers Lehrbücher der Informatik Herausgegeben von o. Univ.-Prof. Dr.-Ing. Gerhard H. Schildt Technische Universität Wien Springer-Verlag Wien GmbH Reinhard Viertl Einführung in die Stochastik Mit Elementen der Bayes-Statistik und der Analyse unscharfer Information Dritte, überarbeitete und erweiterte Auflage Springers Lehrbücher der Informatik Springer-Verlag Wien GmbH o. Univ.-Prof. Dipl.-Ing. Dr. techno Reinhard Kar! Wolfgang Viertl Institut fur Statistik und Wahrscheinlichkeitstheorie Technische Universität Wien, Österreich Das Werk ist urheberrechtlich geschützt. Die dadurch begründeten Rechte, insbesondere die der Übersetzung des Nachdruckes, der Entnahme von Abbildungen, der Funksendung, der Wiedergabe auf photomechani schem oder ähnlichem Wege und der Speicherung in Datenverarbeitungsanlagen, blei ben, auch bei nur auszugweiser Verwertung, vorbehalten. © 2003 Springer-Verlag Wien Ursprünglich erschienen bei Springer-Verlagl\Vien 2003 Produkthaftung: Sämtliche Angaben in diesem Fachbuch/wissenschaftlichen Werk er folgen trotz sorgfältiger Bearbeitung und Kontrolle ohne Gewähr. Eine Haftung des Autors oder des Verlages aus dem Inhalt dieses Werkes ist ausgeschlossen. Satz, Druck und Bindung: Druckerei zu Altenburg GmbH, D-04600 Altenburg Gedruckt auf säurefreiem, chlorfrei gebleichtem Papier - TCF SPIN: 10920640 Mit 51 Abbildungen Bibliografische Informationen Der Deutschen Bibliothek Die Deutsche Bibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; dataillierte bibliografische Daten sind im Internet über <http://dnb.ddb.de> abrufbar. ISSN 0938-9504 ISBN 978-3-211-00837-9 ISBN 978-3-7091-6080-0 (eBook) DOI 10.1007/978-3-7091-6080-0 Meiner Mutter in Dankbarkeitgewidmet Vorwort zur dritten Auflage SeitdemErscheinenderzweitenAuflagehaben sich einige Neuerungenergeben,diein dieserAuflageberiicksichtigtsind.DadasBuchauchalsBegleittextzueinerVorlesung "Statistik und Wahrscheinlichkeitstheorie" dient, sind jetzt Uberlegungen zurstatisti schen Beschreibungvon Daten an den Beginngestellt. UrndemThemaWahrscheinlichkeitstheorieentgegen zukommen,wurden unscharfe Wahrscheinlichkeitsverteilungensowie der ExistenzsatzfurstochastischeProzessezu satzlichaufgenommen. Am Anfang werden einige Erganzungen zur klassischen Mathematik dargestellt, diemanzurBeschreibungundAnalyseunscharferMessungenundunscharferA-priori Informationbenotigt, Im Kapitel iibcr die statistische Analyse bei unscharfer Information wurde der GroBteil iiberarbeitet und die seit dem Erscheinen der zweiten Auflage erarbeiteten Innovationeneingebaut. Das Literaturverzeichnis wurde ebenfalls iiberarbeitet und altere Werke zum Teil durch aktuellereersetzt. Da esschwierig ist, ein Buch ohne Fehler zu produzieren, bin ich fiirKorrekturen oder konstruktive Kritik dankbar. Dafiir ist eine elektronische Kontaktadresse einge richtet: [email protected] Zu danken ist einigen Personen: Herrn Dipl.-Ing. Dr. Dietmar Hareter fur seinen BeitragzuAbschnitt46 sowiefurdieAnfertigungder zum Teil neu gestaltetenAbbil dungenunddie kritischeDurchsichtdesgesamtenBuches.Herrn ProfessorH.Schildt, dem Herausgeberder Serie, inderdasBuch erscheint,flirseine konstruktiveKritik, die zu einigen Verbesserungen gefiihrt hat, einigen Studierenden fur das Auffinden von Druckfehlem und Anregungen zur Verbesserung, sowie Frau Ingrid Winkelhofer fur dieErstellungeinigerschwierigerManuskriptteile.SchlieBlichhatesmeineFraudurch ihren Einsatz moglichgemacht,das Manuskript zeitgcrcchtfertigzustellen. Vorwort zur zweiten Auflage Dieses Buch ist die zweite,iiberarbeiteteAuflage eines Buches,das aus Vorlesungen entstand,die ander Technischen Universitat Wien als Einfiihrungindie Wahrschein lichkeitsrechnungund Statistik gehalten wurden.Damit wird dem Wunschzahlreicher Studierendernachgckommen,cin begleitendcsLchrbuchverfiigbarzuhaben. DervorliegendeBand isteine Einfiihrungindie grundlegendenGedankenstochas tischer Modellbildung, die heute aus vielen wissenschaftlichen Disziplinennicht mehr wegzudenken ist. Damit solche Modellesinnvollangewendetwerden konnen, isteine gewisse Kenntnis der Wahrscheinlichkeitsrechnung unumganglich notwendig. Eine EinfiihrungindiegrundlegendenElementederWahrscheinlichkeitstheoriebildetdaher denersten Teil. Sollen realePhanornenebeschriebenwerden,soistdieEntscheidungfiireinpassen desModell aufderGrundlagebeobachteterDatenzentral. Diese ProblematikistInhalt der schliel3endenStatistik.Der zweiteTeil des Buches gibt cine kleine Einfiihrung in diese Probleme und Methoden.Dabei werden neben klassischen statistischenVerfah renauch aktuelle BayesscheAnalysemethodenberiicksichtigt. Die BayesscheStatistik wirdmeistvernachlassigt, bildet aber dieMoglichkeit,Vorinformationinquantitativer Weise indie Analyse einzubringen. Schliel3lichwird im letzten Kapitel aufdasinden Anwendungeniiul3erstwichtige Problem unscharfer Daten als Grundlage statistischer Analysen eingegangen. Dieser Bereich fehIt in fast allen Einfiihrungen indie Stochastik- wie Wahrscheinlichkeits rechnungund schlieBende Statistikauch genanntwerden- vollig. Natiirlich sinddiehierbehandeltenThemenkreisenureinkleinerAusschnittausder Wahrscheinlichkeitsrechnung und Statistik, also eine erste Einfiihrung, die es dem Leserermoglichen solI,stochastische Modelle und ihre statistischeAnalyseverstehen zukonnen, VertiefendeundweiterfiihrendeLiteraturwirdangegeben,wobei derBlick winkelinRichtungAnwendunggeht.DeminteressiertenLesermiissteesaufderGrund lagedes hierbehandeltenStoffes moglichsein,statistischeAnalysenund stochastische Modellbildungen im jeweiligen Anwendungsgebiet mit geringem zusatzlichem Auf wanddurchzufiihren. Fur die Verbesserung der Erstauflage istvielen zu danken:Studierenden fiirkriti scheKommentareunddasAufspurenvonDruckfehlem,RezensentenundKollegenfiir konstruktive Vorschlage, speziell Herm Ass.-Prof.Dr. W.Gurker, sowie Frau Univ. Doz.Dr.S.Friihwirth-SchnatterfiirdieHilfebeider HerstellungvonAbbildungen,vor allem aber meinerFrau fiirdie flotte und sorgfaltigeErstellungdes adaptierten Manu skriptes.Dem Verlagdanke ich,trotzdes sehr engen Zeitrahmens zurBearbeitungder zweiten Auflage, fiirdieguteZusammenarbeit. R.Viertl Inhalt Kapitel I. Einleitung . I WasistStatistik?............................................ 2 1.1 Beschreibende Statistik ....................................... 2 1.2 Theoretische Statistik 3 1.3 Angewandte Statistik 4 1.4 Ubungen .................................................. 4 2 Wasist Wahrscheinlichkeit?................................... 5 2.1 Ubungen :................................................. 5 3 WasistStochastik? .......................................... 6 3.1 Stochastische Grollen 6 3.2 Begleitende Beispiele ........................................ 6 3.3 ZurGeschichte der Stochastik 7 3.4 Ubungen .................................................. 8 4 MathematischeErganzungen 9 4.1 Unscharfe Mengen 9 4.2 Zahlenund unscharfeZahlcn 9 4.3 Unscharfe Vektoren II 4.4 Funktionen von unscharfenArgumenten 12 4.5 Rechnen mitunscharfen Zahlen ................................ 14 4.6 Unscharfe Funktionen ........................................ 16 4.7 Obungcn .................................................. 17 Kapitel II. Grundlagen derWahrscheinlichkeitsrechnung 19 5 Wahrscheinlichkeiten . 20 5.1 Klassische Wahrscheinlichkeitsdefinition . 20 5.2 Gcometrische Wahrscheinlichkeiten . 20 5.3 HaufigkeitsinterprctationderWahrscheinlichkeiten . 20 5.4 AxiomatischeWahrscheinlichkeiten . 21 5.5 SubjektiveWahrscheinlichkeiten . 22 5.6 UnscharfeWahrscheinlichkeiten . 22 5.7 Ubungen . 23 x Inhalt 6 Wahrscheinlichkeitsrdume ..................................... 24 6.1 Ereignisfelder............................................... 24 6.2 Wahrscheinlichkeitsverteilungen................................ 26 6.3 Beispielevon Wahrscheinlichkeitsraumen 27 6.4 Ubungen................................................... 27 7 Strukturallgemeiner Wahrscheinlichkeitsrdume 28 7.1 Satz tiberWahrscheinlichkeitsraume ............................. 28 7.2 Boolesche Ungleichung ....................................... 28 7.3 Additionsthcorem furWahrschcinlichkcitcn ....................... 29 7.4 Bedingte Wahrscheinlichkeiten ................................. 30 7.5 Multiplikationstheoremfur Wahrscheinlichkeiten 30 7.6 Satzvonder vollstandigenWahrscheinlichkeitund BayesschcFormel 30 7.7 Obungen .. .. . .... .. . . 31 8 StochastischeUnabhdngigkeitundProduktwahrscheinlichkeitsriiume .. 32 8.1 StochastischcUnabhangigkeit .................................. 32 8.2 Produktwahrscheinlichkeitsraume ............................... 33 8.3 Ubungen................................................... 34 Kapitcl III. StochastischcGroDen und deren Wahrscheinlichkeits- verteilungen 35 9 Stochastische Groj3en 36 9.1 Mathematisches Modell ....................................... 36 9.2 Wahrscheinlichkeitsverteilungeiner stochastischenGroBe 37 9.3 Ubungen ................................................... 38 10 VerteilungsfunktioneneindimensionalerstochastischerGrofien 39 10.1 Verteilungsfunktionen... ..................................... 40 10.2 Typen vonVerteilungsfunktionen ............................... 42 10.3 Obungen... ................................................ 43 II Diskreteeindimensionale Verteilungen ........................... 44 11.1 Dirac-Verteilung (j~ 44 11.2 DiskreteGleichverteilungD'; 45 11.3 AltemativverteilungAp• . •• • •• • • • • • • •• • • •• • •• • •. • . • • • • • • • • • • • • • 45 11.4 BinomialverteilungBn,p . . . . . .•. •••. ••. •••. . . . . . . . . . . . . . . . •. ••• 46 11.5 Hypergeometrischc VertcilungHN,A,n ... . ••••• ••. ••. ••••• •••••• •• 47 11.6 Poisson-VerteilungP~ .................... .............. 47 11.7 Geometrische VerteilungG, 48 11.8 Obungen .......... ................................ .... ... .. 48 12 Kontinuierliche eindimensionale Verteilungen 49 12.1 KontinuierlicheGleichverteilung Ua,b . •. . . . . ••••. ••. •••. . . . . . . . . . 49 12.2 ExponentialverteilungEXT ••. •. . .. . . . . . •••••••. ••. .. . . . . . . ••••• 50 12.3 Standard-NormalverteilungN(O,I) .... .............. ... ......... 51 12.4 Allgemeine NormalvertcilungN(/-l,d) ........................... 52 Inhalt XI 12.5 LogarithmischeNormalverteilungLN(/l-,d) . 53 12.6 t-Verteilungtn •• ••••••• ••• ••• •.•• ••• •• ••••••• .• .•• •••• ••• ••• 54 12.7 Chiquadrat-Verteilungx;' . 55 12.8 F-VerteilungFm.n ••••••••••••.. •••••.. •••••. •. ••. •. ••• . •• . •• 56 12.9 BetaverteilungBe(a,b) . 56 12.10 Gammaverteilungy(ex,(3) . 57 12.11 Weibullverteilung Weier,(3) . 57 12.12 Modus(=Modalwert)einer Verteilung . 58 12.13 Ubungen . 58 13 Gemischte eindimensionale Verteilungen . 59 13.1 Mischverteilungen . 61 13.2 Ubungcn . 61 14 Erwartungswerteinereindimensionalenstochastischen GrofJe . 62 14.1 DiskreteVerteilungen . 62 14.2 KontinuierlicheVerteilungen . 63 14.3 GemischteVerteilungen . 64 14.4 Ubungen . 64 15 Erwartungswerte von FunktionenstochastischerGrofJen . 65 15.1 Momentevon stochastischenGrollen bzw. Wahrscheinlichkeitsverteilungen . 66 15.2 VarianzeinerstochastischenGrol3c . 66 15.3 Ubungen . 68 16 Stochastische Vektorenundmehrdimensionale Wahrscheinlichkeitsverteilungen . 69 16.1 Diskretem-dimensionale Verteilungen . 70 16.2 Kontinuierlichem-dimensionale Verteilungen . 71 16.3 Gemischtem-dimensionaleVerteilungen . 73 16.4 Randverteilungen . 73 16.5 Ubungen . 76 17 Kovarianz,KorrelationundUnabhiingigkeit stochastischerGriflen . 77 17.1 Erwartungswertvon Funktionenvon stochastischenVektoren . 77 17.2 Kovarianz . 78 17.3 Korrelationskoeffizient . 80 17.4 StochastischeUnabhangigkeit . 81 17.5 Ubungen . 83 18 Bedingte Verteilungen undbedingteErwartung . 84 18.1 DiskreteVerteilungen . 84 18.2 KontinuierlicheVerteilungen . 85 18.3 Bedingte Erwartung . 86 18.4 Ubungen . 88 19 CharakteristischeFunktionen . 89 19.1 Satz tiber charakteristische Funktionen . 90 19.2 Ubungen . 91