Probabilistic Arithmetic by Robert Charles Williamson(cid:0) B(cid:1)E(cid:1) (cid:2)Q(cid:1)I(cid:1)T(cid:1)(cid:3)(cid:0) M(cid:1)Eng(cid:1)Sc(cid:1) (cid:2)Qld(cid:3) A thesis submitted for the degree of Doctor of Philosophy(cid:0) Department of Electrical Engineering(cid:0) University of Queensland(cid:0) August(cid:0) (cid:1)(cid:2)(cid:3)(cid:2)(cid:4) Statement of Originality To the best of the candidate(cid:5)s knowledge and belief(cid:0) the material presented in this thesis is original(cid:0) except as acknowledged in the text(cid:0) and the material has not been submitted(cid:0) either in whole or in part(cid:0) for a degree at this or any other university(cid:4) Robert Williamson(cid:4) ii Abstract This thesis develops the idea of probabilistic arithmetic(cid:4) The aim is to replace arithmetic operations on numbers with arithmetic operations on random variables(cid:4) Speci(cid:6)cally(cid:0) we are interested in numerical methods of calculating convolutions of probability distributions(cid:4) The long(cid:7)term goal is to be able to handle random prob(cid:7) lems (cid:8)such as the determination of the distribution of the roots of random algebraic equations(cid:9) using algorithms which have been developed for the deterministic case(cid:4) To this end(cid:0) in this thesis we survey a number of previously proposed methods for calculating convolutions and representing probability distributions and examine their defects(cid:4) We develop some new results for some of these methods (cid:8)the Laguerre transform and the histogram method(cid:9)(cid:0) but ultimately (cid:6)nd them unsuitable(cid:4) We (cid:6)nd that the details on how the ordinary convolution equations are calculated are secondary to the di(cid:10)culties arising due to dependencies(cid:4) When random variables appear repeatedly in an expression it is not possible to determine the distribution of the overall expression by pairwise application of the convolutionrelations(cid:4) Wepropose amethodforpartiallyovercomingthisproblemin the form of dependency bounds(cid:0) These are bounds on the distribution of a function of randomvariableswhen onlythemarginaldistributionsof thevariables areknown(cid:4) They are based on the Fr(cid:11)echet bounds for joint distribution functions(cid:4) We develope(cid:10)cientnumericalmethods for calculating these dependencybounds and show how theycan be extendedin a numberof ways(cid:4) Furthermorewe show how they are related to the (cid:12)extension principle(cid:13) of fuzzy set theory which allows the calculation of functions of fuzzy variables(cid:4) We thus provide a probabilistic interpre(cid:7) tation of fuzzy variables(cid:4) We also study the limiting behaviour of the dependency bounds(cid:4) This shows the usefulness of interval arithmetic in some situations(cid:4) The limiting result also provides a general law of large numbers for fuzzy variables(cid:4) In(cid:7) terrelationships with a number of other ideas are also discussed(cid:4) A number of potentially fruitful areas for future research are identi(cid:6)ed and the possible applications of probabilistic arithmetic(cid:0) which include management of nu(cid:7) mericuncertaintyin arti(cid:6)cialintelligencesystemsand the study of random systems(cid:0) are discussed(cid:4) Whilst the solution of random algebraic equations is still a long way o(cid:14)(cid:0) the notion of dependency bounds developed in this thesis would appear to be of independent interest(cid:4) The bounds are useful for determining robustness of indepen(cid:7) dence assumptions(cid:15) one can determinethe range of possible results when nothing is known about the joint dependence structure of a set of random variables(cid:4) iii Acknowledgements I would like to acknowledge the help and support of the following people who con(cid:7) tributed to this thesis in various ways(cid:4) Most importantly I would like to publicly thank my wife Angharad(cid:0) who has assisted megreatly in numerous ways over the years(cid:4) Without her help and support this thesis would not have been possible(cid:4) I am deeply grateful for all the assistance she has provided(cid:4) I would also like to thank(cid:15) My supervisor(cid:0) Professor Tom Downs(cid:0) for continued support(cid:0) assistance and encouragement(cid:0) and for being a solver of administrative problems rather than a generator of them(cid:16) Former head of department Professor Mat Darveniza(cid:0) who helped me as a be(cid:7) ginning graduate student and later assisted in my obtaining a CPRA scholarship in order to pursue my PhD studies(cid:16) The head of department(cid:0) Professor Tom Parnell(cid:0) for the use of departmental facilities in the preparation of this thesis(cid:16) Dr Phil Diamond of the Department of Mathematics(cid:0) University of Queensland(cid:0) for useful advice and discussions and for the loan of some papers(cid:16) An anonymous referee of the International Journal of Approximate Reasoning(cid:0) for a question which led to section (cid:17)(cid:4)(cid:18) of chapter (cid:19)(cid:16) Professor Brian Anderson of the Australian National University(cid:0) whose simple questionastowhetherIhad lookedatanylimitingresultswaspartofthemotivation for chapter (cid:17)(cid:16) Dr Helen McGillivray of the Department of Mathematics(cid:0) Universityof Queens(cid:7) land(cid:0) for a discussion on con(cid:6)dence intervals and other matters and the loan of a book(cid:16) Dr Guy West of the Department of Economics(cid:0) University of Queensland(cid:0) for discussions and the loan of some papers(cid:4) The following people assisted me by sending comments on some questions and reprints of their papers(cid:15) Professor Alice Agogino (cid:8)Universityof California at Berke(cid:7) ley(cid:9)(cid:0)Dr PieroBonissone (cid:8)GeneralElectricResearchLabs(cid:0) New York(cid:9)(cid:0) Dr Joel Bren(cid:7) ner (cid:8)Palo Alto(cid:9)(cid:0) Professors Didier Dubois and Henri Prade (cid:8)University of Toulouse III(cid:9)(cid:0) Professor Ju(cid:20)rgen Garlo(cid:14) (cid:8)Institut fu(cid:20)r Angewandte Mathematik Universit(cid:20)at iv Freiburg(cid:9)(cid:0)Professor RobinGiles(cid:8)Queen(cid:5)sUniversity(cid:0)Ontario(cid:9)(cid:0)Professor V(cid:4)L(cid:4)Girko (cid:8)Kiev University(cid:9)(cid:0)Dr Ellen Hisdal (cid:8)University of Oslo(cid:9)(cid:0) Professor M(cid:4) Sambandham (cid:8)Atlanta University(cid:9)(cid:0) Dr Elie Sanchez (cid:8)Marseille(cid:9)(cid:0) Professor Berthold Schweizer (cid:8)University of Massachusetts(cid:0) Amherst(cid:9)(cid:0) Professor Eugene Seneta (cid:8)University of Sydney(cid:9)(cid:0)Professor Ross Shacter(cid:8)Stanford University(cid:9)(cid:0)DrOskar Sheynin(cid:8)Moscow(cid:9)(cid:0) Professor Ushio Sumita (cid:8)University of Rochester(cid:9) and Professor Klaus Weise (cid:8)Physikalisch(cid:7)Technische Bundesanstalt(cid:0) Braunschweig(cid:0) West Germany(cid:9)(cid:4) I would also like to thank the indulgence of the Electrical Engineering librarian Mrs Barbara Kormendy(cid:0) and the Mathematics Librarian Mrs Freida Kanowski(cid:4) It is a pleasure to acknowledge a debt to Donald Knuth and Leslie Lamport A for the development of TEX and LTEX under which this thesis was prepared(cid:0) and to James Alexander for his TIb bibliographic preprocessor(cid:4) These tools were most useful(cid:4) Financial support from a Commonwealth Postgraduate Research Award and a grant from the Australian Research Grants Scheme is gratefully acknowledged(cid:4) Finally(cid:0) I would like to acknowledge an intellectual debt to Karl Popper(cid:0) who(cid:0) through his writings(cid:0) has taught me the importance of clarity of exposition and honesty of thought(cid:4) Publications Most of the material in this thesis has been(cid:0) or will be(cid:0) published elsewhere(cid:4) The following is a list of papers(cid:0) either published(cid:0) submitted(cid:0) or nearing submission(cid:0) which report material on the topic of this thesis(cid:4) Some of these papers report further material which is not included in this thesis(cid:4) (cid:1)(cid:4) Robert C(cid:4) Williamsonand Tom Downs(cid:0) (cid:12)Probabilistic Arithmeticand theDis(cid:7) tribution of Functions of Random Variables(cid:0)(cid:13) Proceedings of the (cid:1)st IASTED Symposiumon Signal Processing and its Applications(cid:0) Brisbane(cid:0) August (cid:1)(cid:2)(cid:3)(cid:21)(cid:0) (cid:1)(cid:1)(cid:18)(cid:22)(cid:1)(cid:1)(cid:2)(cid:0) (cid:1)(cid:2)(cid:3)(cid:21)(cid:4) (cid:8)Parts of chapter (cid:18)(cid:0) including further details and examples on the histogram method(cid:9)(cid:4) (cid:18)(cid:4) RobertC(cid:4)WilliamsonandTomDowns(cid:0)(cid:12)TheInverseandDeterminantofa(cid:18) (cid:18) (cid:0) UniformlyDistributed Random Matrix(cid:0)(cid:13) Statistics and Probability Letters(cid:0) (cid:0)(cid:1) (cid:1)(cid:23)(cid:21)(cid:22)(cid:1)(cid:21)(cid:24)(cid:0) (cid:1)(cid:2)(cid:3)(cid:2)(cid:4) (cid:8)Chapter (cid:21)(cid:9)(cid:4) (cid:19)(cid:4) Robert C(cid:4) Williamson and Tom Downs(cid:0) (cid:12)Probabilistic Arithmetic(cid:15) Numeri(cid:7) cal Methods for Calculating Convolutions and Dependency Bounds(cid:0)(cid:13) accepted for publication in the International Journal of Approximate Reasoning(cid:0) (cid:1)(cid:2)(cid:3)(cid:2)(cid:4) (cid:8)Chapter (cid:19)(cid:9)(cid:4) (cid:25)(cid:4) Robert C(cid:4) Williamson(cid:0) (cid:12)An Extreme Limit Theorem for Dependency Bounds of Normalised Sums of Random Variables(cid:0)(cid:13) accepted for publication in Infor(cid:1) mation Sciences(cid:0) (cid:1)(cid:2)(cid:3)(cid:2)(cid:4) (cid:8)Chapter (cid:17)(cid:9)(cid:4) (cid:17)(cid:4) RobertC(cid:4)Williamson(cid:0)(cid:12)TheLawofLargeNumbersforFuzzyVariablesundera GeneralTriangularNormExtensionPrinciple(cid:0)(cid:13)underrevisionforresubmission to Fuzzy Sets and Systems(cid:0) (cid:1)(cid:2)(cid:3)(cid:2)(cid:4) (cid:8)Chapter (cid:23)(cid:9)(cid:4) (cid:23)(cid:4) Robert C(cid:4) Williamson(cid:0) (cid:12)Interval Arithmetic and Probabilistic Arithmetic(cid:0)(cid:13) to appear in the proceedings of SCAN(cid:7)(cid:3)(cid:2) IMACS(cid:7)GAMM(cid:7)GI International Symposium on Computer Arithmeticand Self(cid:7)Validating Numerical Methods(cid:0) Basel(cid:0) October (cid:1)(cid:2)(cid:3)(cid:2)(cid:4) (cid:8)A summaryof chapters (cid:19) and (cid:17)(cid:0) and a discussion of the relationship between probabilistic arithmetic and interval arithmetic(cid:9)(cid:4) (cid:21)(cid:4) Robert C(cid:4) Williamson and Tom Downs(cid:0) (cid:12)Probabilistic Arithmetic(cid:15) Relation(cid:7) ships with Other Ideas(cid:0)(cid:13) to be submitted to the International Journal of Ap(cid:1) proximate Reasoning(cid:0) (cid:1)(cid:2)(cid:3)(cid:2)(cid:4) (cid:8)Chapter (cid:25)(cid:9)(cid:4) vi (cid:3)(cid:4) Robert C(cid:4) Williamson and Tom Downs(cid:0) (cid:12)Numerical Methods for Calculating Convolutions of Probability Distributions(cid:0)(cid:13) to be submitted to Mathematics and Computers in Simulation(cid:0) (cid:1)(cid:2)(cid:3)(cid:2)(cid:4) (cid:8)Chapter (cid:18)(cid:9)(cid:4) (cid:2)(cid:4) Robert C(cid:4) Williamson(cid:0) (cid:12)The Quotient of Two Normal Random Variables(cid:15) An HistoricalStudy(cid:0)(cid:13)inpreparation(cid:0) (cid:1)(cid:2)(cid:3)(cid:2)(cid:4) (cid:8)Tracesthehistoryofasimpleproblem related to probabilistic arithmetic(cid:9)(cid:4) (cid:1)(cid:24)(cid:4) Robert C(cid:4) Williamson(cid:0)(cid:12)The DiscreteT(cid:7)conjugate Transform(cid:0)(cid:13) in preparation(cid:4) To be submitted to Information Sciences(cid:0) (cid:1)(cid:2)(cid:3)(cid:2)(cid:4) (cid:8)Extends the T(cid:7)conjugate transform (cid:26) see section (cid:23)(cid:4)(cid:25) and chapter (cid:17)(cid:9)(cid:4) Contents (cid:2) Probabilistic Arithmetic (cid:3) The Very Idea (cid:2) (cid:1)(cid:4)(cid:1) Motivation (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:1) (cid:1)(cid:4)(cid:18) Outline of Results (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:19) (cid:1)(cid:4)(cid:18)(cid:4)(cid:1) Di(cid:14)erent Methods for Calculating Convolutions and the La(cid:7) guerre Transform Method (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:19) (cid:1)(cid:4)(cid:18)(cid:4)(cid:18) The Dependency Bounds and Numerical Methods of Calcu(cid:7) lating Them (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:19) (cid:1)(cid:4)(cid:18)(cid:4)(cid:19) Precursors(cid:0)MultipleDiscoveries(cid:0)andRelationshipswithFuzzy Sets (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:25) (cid:1)(cid:4)(cid:18)(cid:4)(cid:25) The Inverse and Determinant of a Random Matrix (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:25) (cid:1)(cid:4)(cid:18)(cid:4)(cid:17) A Limiting Result for Dependency Bounds (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:25) (cid:1)(cid:4)(cid:19) Thesis Structure(cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:17) (cid:1)(cid:4)(cid:25) Notational Conventions (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:23) (cid:4) Numerical Methods for Calculating Convolutions of Probability Distributions (cid:0) (cid:18)(cid:4)(cid:1) Introduction(cid:0) Aim and Analytical Methods (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:21) (cid:18)(cid:4)(cid:1)(cid:4)(cid:1) History(cid:0) Motivation and Outline (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:3) (cid:18)(cid:4)(cid:1)(cid:4)(cid:18) Exact Analytical Results (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:2) (cid:18)(cid:4)(cid:1)(cid:4)(cid:19) Specialised Formulae for Convolutions (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:1)(cid:1) (cid:18)(cid:4)(cid:1)(cid:4)(cid:25) Integral Transforms (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:1)(cid:18) (cid:18)(cid:4)(cid:1)(cid:4)(cid:17) The H(cid:7)function Method (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:1)(cid:25) (cid:18)(cid:4)(cid:18) Miscellaneous Numerical Methods for Calculating Convolutions (cid:0) (cid:0) (cid:0) (cid:1)(cid:17) (cid:18)(cid:4)(cid:18)(cid:4)(cid:1) Normal Approximations and other Parameterised Distributions (cid:1)(cid:17) (cid:18)(cid:4)(cid:18)(cid:4)(cid:18) Methods Based on Moments (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:1)(cid:23) (cid:18)(cid:4)(cid:18)(cid:4)(cid:19) Non(cid:7)Linear Transformations (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:1)(cid:2) (cid:18)(cid:4)(cid:18)(cid:4)(cid:25) Direct Sampling of the Densities for Sum and Di(cid:14)erence Con(cid:7) volutions (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:1)(cid:2) viii (cid:18)(cid:4)(cid:18)(cid:4)(cid:17) The Skinner(cid:27)Ackroyd Method (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:18)(cid:24) (cid:18)(cid:4)(cid:18)(cid:4)(cid:23) Spline Based Methods (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:18)(cid:18) (cid:18)(cid:4)(cid:19) Laguerre Transforms and Other Orthonormal Transforms (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:18)(cid:19) (cid:18)(cid:4)(cid:19)(cid:4)(cid:1) The Laguerre Transform Method (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:18)(cid:25) (cid:18)(cid:4)(cid:19)(cid:4)(cid:18) Distributions of Products and Quotients using the Laguerre and Mellin Transforms (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:18)(cid:23) (cid:18)(cid:4)(cid:19)(cid:4)(cid:19) Distribution of Products and Quotients Calculated with the Laguerre Transform Directly (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:18)(cid:21) (cid:18)(cid:4)(cid:19)(cid:4)(cid:25) Distributions of Products and Quotients using the Laguerre Transform and Logarithmic(cid:27)Exponential Transformation of Variables (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:19)(cid:24) (cid:18)(cid:4)(cid:19)(cid:4)(cid:17) Other Types of Laguerre Transforms and Related Results (cid:0) (cid:0) (cid:0) (cid:19)(cid:2) (cid:18)(cid:4)(cid:19)(cid:4)(cid:23) Conclusions on the Laguerre Transform Method (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:25)(cid:1) (cid:18)(cid:4)(cid:25) The Histogram and Related Methods (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:25)(cid:18) (cid:18)(cid:4)(cid:25)(cid:4)(cid:1) The Histogram Representation (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:25)(cid:18) (cid:18)(cid:4)(cid:25)(cid:4)(cid:18) Combining Histograms to Calculate Convolutions (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:25)(cid:25) (cid:18)(cid:4)(cid:25)(cid:4)(cid:19) Kaplan(cid:5)s Method of Discrete Probability Distributions (cid:0) (cid:0) (cid:0) (cid:0) (cid:17)(cid:24) (cid:18)(cid:4)(cid:25)(cid:4)(cid:25) Moore(cid:5)s Histogram Method (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:17)(cid:17) (cid:18)(cid:4)(cid:17) Interval Arithmetic and Error Analysis (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:17)(cid:17) (cid:18)(cid:4)(cid:17)(cid:4)(cid:1) The Standard Interval Arithmetic (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:17)(cid:23) (cid:18)(cid:4)(cid:17)(cid:4)(cid:18) Triplex Arithmeticand Dempster(cid:5)s Quantile Arithmetic(cid:0) (cid:0) (cid:0) (cid:0) (cid:17)(cid:21) (cid:18)(cid:4)(cid:17)(cid:4)(cid:19) IntervalArithmeticand Con(cid:6)dence Intervalsfromthe Metrol(cid:7) ogist(cid:5)s Point of View (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:17)(cid:2) (cid:18)(cid:4)(cid:17)(cid:4)(cid:25) Permutation(cid:7)Perturbation and Related Methods (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:23)(cid:18) (cid:5) Numerical Methods for Calculating Dependency Bounds and Con(cid:6) volutions (cid:7)(cid:5) (cid:19)(cid:4)(cid:1) Introduction (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:23)(cid:25) (cid:19)(cid:4)(cid:1)(cid:4)(cid:1) The Problem (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:23)(cid:17) (cid:19)(cid:4)(cid:1)(cid:4)(cid:18) The Idea of Probabilistic Arithmeticand the Need for Depen(cid:7) dency Bounds (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:23)(cid:17) (cid:19)(cid:4)(cid:1)(cid:4)(cid:19) Methods of Handling the Errors in Probabilistic Arithmetic (cid:0) (cid:23)(cid:21) (cid:19)(cid:4)(cid:1)(cid:4)(cid:25) Outline of the Rest of This Chapter (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:23)(cid:3) (cid:19)(cid:4)(cid:18) De(cid:6)nitions and Other Preliminaries (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:23)(cid:3) (cid:19)(cid:4)(cid:18)(cid:4)(cid:1) Distribution Functions (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:23)(cid:3) (cid:19)(cid:4)(cid:18)(cid:4)(cid:18) Binary Operations (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:23)(cid:2) (cid:19)(cid:4)(cid:18)(cid:4)(cid:19) Quasi(cid:7)Inverses (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:23)(cid:2) (cid:19)(cid:4)(cid:18)(cid:4)(cid:25) Triangular(cid:7)norms (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:21)(cid:24) (cid:19)(cid:4)(cid:18)(cid:4)(cid:17) Copulas and Joint Distribution Functions(cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:21)(cid:24) (cid:19)(cid:4)(cid:18)(cid:4)(cid:23) The Triangle Functions (cid:1) and (cid:2) and (cid:3)(cid:7)convolutions (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:21)(cid:1) (cid:19)(cid:4)(cid:19) Dependency Bounds and their Properties (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:21)(cid:18) (cid:19)(cid:4)(cid:19)(cid:4)(cid:1) The Dependency Bounds (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:21)(cid:18) (cid:19)(cid:4)(cid:19)(cid:4)(cid:18) Pointwise Best(cid:7)Possible Nature of the Bounds (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:21)(cid:25) (cid:19)(cid:4)(cid:19)(cid:4)(cid:19) Examples (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:3)(cid:24) (cid:19)(cid:4)(cid:19)(cid:4)(cid:25) Exclusive Use of Lower and Upper Bounds (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:3)(cid:21) (cid:19)(cid:4)(cid:25) Numerical Representation (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:3)(cid:21) (cid:19)(cid:4)(cid:25)(cid:4)(cid:1) Duality (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:3)(cid:3) (cid:19)(cid:4)(cid:25)(cid:4)(cid:18) NumericalRepresentation and the Calculation of ldb(cid:0) and udb(cid:0) (cid:2)(cid:18) (cid:19)(cid:4)(cid:25)(cid:4)(cid:19) Numerical Calculation of (cid:3)(cid:7)Convolutions (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:2)(cid:23) (cid:19)(cid:4)(cid:25)(cid:4)(cid:25) Calculation of Moments and other Functionals (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:2)(cid:2) (cid:19)(cid:4)(cid:25)(cid:4)(cid:17) Examples (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:1)(cid:24)(cid:24) (cid:19)(cid:4)(cid:17) Incorporating and Updating Dependency Information (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:1)(cid:24)(cid:21) (cid:19)(cid:4)(cid:17)(cid:4)(cid:1) General Idea (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:1)(cid:24)(cid:21) (cid:19)(cid:4)(cid:17)(cid:4)(cid:18) Interpretation of Dependencies Implied by CXY (cid:28) W (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:1)(cid:24)(cid:21) (cid:1) (cid:19)(cid:4)(cid:17)(cid:4)(cid:19) Use of CXY (cid:28) W in Probabilistic Arithmetic Calculations (cid:0) (cid:0) (cid:1)(cid:1)(cid:1) (cid:1) (cid:19)(cid:4)(cid:17)(cid:4)(cid:25) Measures of Dependence (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:1)(cid:1)(cid:18) (cid:19)(cid:4)(cid:23) Use of Mixtures for Nonmonotonic Operations (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:1)(cid:1)(cid:19) (cid:19)(cid:4)(cid:23)(cid:4)(cid:1) Introduction and General Approach (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:1)(cid:1)(cid:19) (cid:19)(cid:4)(cid:23)(cid:4)(cid:18) ComplicationsArisingfromthe useof Lowerand UpperProb(cid:7) ability Distributions (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:1)(cid:1)(cid:25) (cid:19)(cid:4)(cid:23)(cid:4)(cid:19) Di(cid:10)culties Introduced by Using the Numerical Approximations(cid:1)(cid:1)(cid:23) (cid:19)(cid:4)(cid:23)(cid:4)(cid:25) NumericalAlgorithmsfor SplittingDistributions into Positive and Negative Parts and Recombining Them (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:1)(cid:1)(cid:3) (cid:19)(cid:4)(cid:23)(cid:4)(cid:17) Conclusions on the use of Mixtures for Nonmonotonic Opera(cid:7) tions (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:1)(cid:18)(cid:17) (cid:19)(cid:4)(cid:21) Conclusions (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:1)(cid:18)(cid:17) (cid:8) Relationships with Other Ideas (cid:2)(cid:4)(cid:9) (cid:25)(cid:4)(cid:1) Introduction (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:1)(cid:18)(cid:3) (cid:25)(cid:4)(cid:18) George Boole(cid:5)s Results on Fr(cid:11)echet Bounds and Some Recent Exten(cid:7) sions and Applications (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:0) (cid:1)(cid:18)(cid:2)