This page intentionally left blank ThinkingandDeciding,FourthEdition Beginningwithitsfirsteditionandthroughthreesubsequenteditions,Thinkingand Decidinghasestablisheditselfastherequiredtextandimportantreferenceworkfor studentsandscholarsofhumancognitionandrationality. Inthis,thefourthedition, Jonathan Baron retains the comprehensive attention to the key questions addressed inthepreviouseditions—Howshouldwethink? What,ifanything,keepsusfrom thinkingthatway? Howcanweimproveourthinkinganddecisionmaking? —and his expanded treatment of topics such as risk, utilitarianism, Bayes’s theorem, and moral thinking. Withthe student in mind, the fourthedition emphasizes the devel- opmentofanunderstandingofthefundamentalconceptsinjudgmentanddecision making. This book is essential reading for students and scholars in judgment and decisionmakingandrelatedfields,includingpsychology,economics,law,medicine, andbusiness. JonathanBaronisProfessorofPsychologyattheUniversityofPennsylvania. Heis theauthorandeditorofseveralotherbooks, mostrecentlyAgainstBioethics. Cur- rentlyheiseditorofthejournalJudgmentandDecisionMakingandpresidentofthe SocietyforJudgmentandDecisionMaking(2007). Thinking and Deciding FourthEdition JonathanBaron UniversityofPennsylvania CAMBRIDGE UNIVERSITY PRESS Cambridge, New York, Melbourne, Madrid, Cape Town, Singapore, São Paulo Cambridge University Press The Edinburgh Building, Cambridge CB2 8RU, UK Published in the United States of America by Cambridge University Press, New York www.cambridge.org Information on this title: www.cambridge.org/9780521862073 © Cambridge University Press 1988, 1994, 2000, 2008 This publication is in copyright. Subject to statutory exception and to the provision of relevant collective licensing agreements, no reproduction of any part may take place without the written permission of Cambridge University Press. First published in print format 2007 ISBN-13 978-0-511-46487-4 eBook (NetLibrary) ISBN-13 978-0-521-86207-3 hardback Cambridge University Press has no responsibility for the persistence or accuracy of urls for external or third-party internet websites referred to in this publication, and does not guarantee that any content on such websites is, or will remain, accurate or appropriate. Contents Prefacetothefourthedition xiii I THINKINGINGENERAL 1 1 Whatisthinking? 5 Typesofthinking . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 Thesearch-inferenceframework . . . . . . . . . . . . . . . . . . . . . . 6 Thinkingaboutbeliefs . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 Howdosearchprocesseswork? . . . . . . . . . . . . . . . . . . . . . . 14 Knowledge,thinking,andunderstanding . . . . . . . . . . . . . . . . . . 17 Naivetheories . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17 Understanding . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29 2 Thestudyofthinking 31 Descriptive,normative,andprescriptive . . . . . . . . . . . . . . . . . . 31 Methodsforempiricalresearch . . . . . . . . . . . . . . . . . . . . . . . 34 Observation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34 Computermodelsandartificialintelligence . . . . . . . . . . . . . 46 Generalissues . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47 Developmentofnormativemodels . . . . . . . . . . . . . . . . . . . . . 50 Descriptivemodelsandheuristics. . . . . . . . . . . . . . . . . . . . . . 53 Developmentofprescriptivemodels . . . . . . . . . . . . . . . . . . . . 54 Classificationofbiases . . . . . . . . . . . . . . . . . . . . . . . . . . . 54 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58 3 Rationality 61 Goodthinkingandgoalachievement . . . . . . . . . . . . . . . . . . . . 61 Optimalsearch . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62 Themeaningofrationality . . . . . . . . . . . . . . . . . . . . . . 63 Rationalityandluck . . . . . . . . . . . . . . . . . . . . . . . . . . 64 v vi CONTENTS Objectionstorationality . . . . . . . . . . . . . . . . . . . . . . . 65 Rationalityandemotion . . . . . . . . . . . . . . . . . . . . . . . . . . . 67 Rationalityandbelief . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70 Rationalbeliefformation . . . . . . . . . . . . . . . . . . . . . . . 70 Self-deception . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71 Beliefsasacauseofdesires. . . . . . . . . . . . . . . . . . . . . . 73 Arepeopleeverreallyirrational? . . . . . . . . . . . . . . . . . . . . . . 74 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 74 4 Logic 77 Whatislogic? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77 Typesoflogic . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80 Difficultiesinlogicalreasoning . . . . . . . . . . . . . . . . . . . . . . . 82 Mentalmodels. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 84 Logicalerrorsinhypothesistesting . . . . . . . . . . . . . . . . . . . . . 88 Thefour-cardproblem . . . . . . . . . . . . . . . . . . . . . . . . 88 Theerroraspoorthinking . . . . . . . . . . . . . . . . . . . . . . 89 Resistancetoinstruction . . . . . . . . . . . . . . . . . . . . . . . 90 Dualprocessesandrationalization . . . . . . . . . . . . . . . . . . 91 Contenteffects . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92 Extensionsoflogic . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 97 II PROBABILITYANDBELIEF 99 5 Normativetheoryofprobability 103 Whatisprobability? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 106 Thefrequencytheory . . . . . . . . . . . . . . . . . . . . . . . . . 107 Thelogicaltheory . . . . . . . . . . . . . . . . . . . . . . . . . . . 108 Thepersonaltheory . . . . . . . . . . . . . . . . . . . . . . . . . . 109 Constructingprobabilityjudgments. . . . . . . . . . . . . . . . . . . . . 112 Probabilityaswillingnesstobet . . . . . . . . . . . . . . . . . . . 112 Comparisonwithachancesetup . . . . . . . . . . . . . . . . . . . 113 Well-justifiedprobabilityjudgments . . . . . . . . . . . . . . . . . . . . 113 Coherencerulesandexpectedutility . . . . . . . . . . . . . . . . . 115 Evaluatingprobabilityjudgments . . . . . . . . . . . . . . . . . . . . . . 118 Calibration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 118 Scoringrules . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 119 Bayes’stheorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 121 Anexamplefrommedicine . . . . . . . . . . . . . . . . . . . . . . 121 FormulasforBayes’stheorem . . . . . . . . . . . . . . . . . . . . 123 Whyfrequenciesmatter . . . . . . . . . . . . . . . . . . . . . . . . 126 WhenBayes’stheoremisusefulandwhenitisn’t . . . . . . . . . . 129 CONTENTS vii Coincidences . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 130 TheMontyHallproblem . . . . . . . . . . . . . . . . . . . . . . . 131 UseofBayes’stheoreminexpertsystems . . . . . . . . . . . . . . 132 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 134 6 Descriptivetheoryofprobabilityjudgment 137 Accuracyofprobabilityjudgments . . . . . . . . . . . . . . . . . . . . . 137 Frequencyjudgments . . . . . . . . . . . . . . . . . . . . . . . . . 137 Calibrationandinappropriateextremeconfidence . . . . . . . . . . 139 Improvingcalibrationbyconditionalassessment. . . . . . . . . . . 144 Heuristicsandbiasesinprobability . . . . . . . . . . . . . . . . . . . . . 146 Therepresentativenessheuristic . . . . . . . . . . . . . . . . . . . 146 Theavailabilityheuristic . . . . . . . . . . . . . . . . . . . . . . . 153 Subadditivity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156 Hindsightbias . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 157 Averaging . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159 7 Hypothesistesting 161 Hypothesesinscience . . . . . . . . . . . . . . . . . . . . . . . . . . . . 162 Anexamplefrommedicine . . . . . . . . . . . . . . . . . . . . . . 162 Testingscientifichypotheses . . . . . . . . . . . . . . . . . . . . . 165 Thepsychologyofhypothesistesting . . . . . . . . . . . . . . . . . . . . 168 Conceptformation . . . . . . . . . . . . . . . . . . . . . . . . . . 169 Congruencebias. . . . . . . . . . . . . . . . . . . . . . . . . . . . 171 Informationbiasandthevalueofinformation . . . . . . . . . . . . 177 Utilityandalternativehypotheses. . . . . . . . . . . . . . . . . . . 181 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 182 8 Judgmentofcorrelationandcontingency 183 Correlation,cause,andcontingency . . . . . . . . . . . . . . . . . . . . 183 Accuracyofjudgment . . . . . . . . . . . . . . . . . . . . . . . . . . . . 186 Attentionalbias . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 186 Attentionalbiasinjudgingcorrelation . . . . . . . . . . . . . . . . 186 Attentionalbiasinjudgingcontingency . . . . . . . . . . . . . . . 189 Effectofgoalsonillusionofcontrol . . . . . . . . . . . . . . . . . 191 Effectsofpriorbelief . . . . . . . . . . . . . . . . . . . . . . . . . . . . 192 Illusorycorrelation . . . . . . . . . . . . . . . . . . . . . . . . . . 193 Personalitytraits . . . . . . . . . . . . . . . . . . . . . . . . . . . 193 Priorbeliefandattentionalbias . . . . . . . . . . . . . . . . . . . . 195 Understandingtheoryandevidence. . . . . . . . . . . . . . . . . . 196 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 198 viii CONTENTS 9 Activelyopen-mindedthinking 199 Examplesofactivelyopen-mindedthinking . . . . . . . . . . . . . . . . 200 Mysidebiasandirrationalbeliefpersistence . . . . . . . . . . . . . . . . 203 Theorderprinciple,theprimacyeffect,andtotaldiscrediting . . . . 205 Theneutral-evidenceprinciple . . . . . . . . . . . . . . . . . . . . 208 Effectofactiveopen-mindednessonoutcomes . . . . . . . . . . . . . . . 211 Determinantsandrelatedphenomena . . . . . . . . . . . . . . . . . . . . 213 Beliefsaboutthinking . . . . . . . . . . . . . . . . . . . . . . . . . 213 Distortionofbeliefsbydesires . . . . . . . . . . . . . . . . . . . . 215 Relatedresults. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 219 Factorsthatmoderatebeliefpersistence . . . . . . . . . . . . . . . . . . 221 Elasticjustification . . . . . . . . . . . . . . . . . . . . . . . . . . 221 Valueconflict . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 222 Accountability. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 222 Stress . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 223 Groupthink . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 224 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 226 III DECISIONSANDPLANS 229 10 Normativetheoryofchoiceunderuncertainty 233 Expected-utilitytheory . . . . . . . . . . . . . . . . . . . . . . . . . . . 237 Expectedvalue . . . . . . . . . . . . . . . . . . . . . . . . . . . . 238 Expectedutility . . . . . . . . . . . . . . . . . . . . . . . . . . . . 238 Otherexamplesofcomparisonoferrors . . . . . . . . . . . . . . . 242 Whyexpected-utilitytheoryisnormative . . . . . . . . . . . . . . . . . . 243 Thelong-runargument . . . . . . . . . . . . . . . . . . . . . . . . 243 Theargumentfromprinciples . . . . . . . . . . . . . . . . . . . . 245 Analternativeprinciple: Tradeoffconsistency . . . . . . . . . . . . 249 Theutilityofmoney. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 250 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 255 11 Descriptivetheoryofchoiceunderuncertainty 257 Experienced,predicted,anddecisionutility . . . . . . . . . . . . . . . . 258 Biasindecisionsunderuncertainty . . . . . . . . . . . . . . . . . . . . . 259 TheAllaisparadox . . . . . . . . . . . . . . . . . . . . . . . . . . 260 Prospecttheory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 262 Probability: Thepifunction. . . . . . . . . . . . . . . . . . . . . . 263 Utility: TheValuefunctionandframingeffects . . . . . . . . . . . 267 Extendingprospecttheorytoeventswithoutstatedprobabilities . . 271 Rank-dependentutilitytheories . . . . . . . . . . . . . . . . . . . . . . . 272 Emotionaleffectsofoutcomes . . . . . . . . . . . . . . . . . . . . . . . 275 Regretandrejoicing. . . . . . . . . . . . . . . . . . . . . . . . . . 275