Why Facts Don’t Change Our Minds

Der var nogle studerende, der opdagede, at de havde et geni til den opgave. Ud af femogtyve par sedler identificerede de den ægte seddel korrekt fireogtyve gange. Andre opdagede, at de var håbløse. De identificerede den rigtige tone i kun ti tilfælde.

Som det ofte er tilfældet med psykologiske undersøgelser, var hele opsætningen et påskud. Selv om halvdelen af sedlerne faktisk var ægte – de var blevet fremskaffet fra Los Angeles County Coroner’s Office – var de mange sedler opdigtede. De studerende, der havde fået at vide, at de næsten altid havde ret, var i gennemsnit ikke mere skarpsindige end de studerende, der havde fået at vide, at de for det meste tog fejl.

I anden fase af undersøgelsen blev bedrageriet afsløret. De studerende fik at vide, at det egentlige formål med eksperimentet var at måle deres reaktioner på, om de troede, at de havde ret eller uret. (Dette viste sig også at være et bedrag.) Endelig blev de studerende bedt om at vurdere, hvor mange selvmordsbreve de rent faktisk havde kategoriseret korrekt, og hvor mange de troede, at en gennemsnitlig studerende ville få ret. På dette tidspunkt skete der noget mærkeligt. Eleverne i gruppen med høj score sagde, at de mente, at de faktisk havde klaret sig ganske godt – betydeligt bedre end den gennemsnitlige elev – selv om de, som de lige havde fået at vide, ikke havde nogen som helst grund til at tro på dette. Omvendt sagde de, der var blevet tildelt gruppen med de lave karakterer, at de troede, at de havde klaret sig betydeligt dårligere end den gennemsnitlige studerende – en konklusion, der var lige så ubegrundet.

Se mere

“Når først de er dannet”, bemærkede forskerne tørt, “er indtryk bemærkelsesværdigt vedholdende.”

Et par år senere blev et nyt sæt Stanford-studerende rekrutteret til en beslægtet undersøgelse. De studerende fik udleveret informationspakker om et par brandmænd, Frank K. og George H. I Franks biografi stod der bl.a., at han havde en lille datter, og at han kunne lide at dykke. George havde en lille søn og spillede golf. Pakkerne indeholdt også mændenes svar på det, som forskerne kaldte Risky-Conservative Choice Test. Ifølge en version af pakken var Frank en succesfuld brandmand, som i testen næsten altid valgte den sikreste løsning. I den anden version valgte Frank også den sikreste løsning, men han var en elendig brandmand, som flere gange var blevet “indberettet” af sine overordnede. Endnu en gang blev de studerende midtvejs i undersøgelsen informeret om, at de var blevet vildledt, og at de oplysninger, de havde fået, var helt fiktive. De studerende blev derefter bedt om at beskrive deres egne overbevisninger. Hvilken slags holdning til risiko troede de, at en succesfuld brandmand ville have? De elever, der havde modtaget den første pakke, mente, at han ville undgå det. De studerende i den anden gruppe troede, at han ville omfavne den.

Selv efter at beviserne “for deres overbevisninger er blevet fuldstændig tilbagevist, undlader folk at foretage passende revisioner af disse overbevisninger”, bemærkede forskerne. I dette tilfælde var fiaskoen “særligt imponerende”, da to datapunkter aldrig ville have været nok information til at generalisere ud fra.

Stanford-undersøgelserne blev berømte. Da de kom fra en gruppe akademikere i halvfjerdserne, var påstanden om, at folk ikke kan tænke klart, chokerende. Det er det ikke længere. Tusindvis af efterfølgende eksperimenter har bekræftet (og uddybet) dette resultat. Som alle, der har fulgt med i forskningen – eller endda lejlighedsvis har læst et eksemplar af Psychology Today – ved, kan enhver kandidatstuderende med et clipboard påvise, at folk, der ser fornuftige ud, ofte er fuldstændig irrationelle. Sjældent har denne indsigt virket mere relevant, end den gør lige nu. Alligevel er der stadig en vigtig gåde tilbage:

Spændt for en masse af det, der kan kaldes kognitionsvidenskabeligt sprog, lyder Mercier og Sperbers argumentation mere eller mindre som følger: Menneskets største fordel i forhold til andre arter er vores evne til at samarbejde. Samarbejde er vanskeligt at etablere og næsten lige så vanskeligt at opretholde. For ethvert individ er det altid bedst at gå på frihjul. Fornuften udviklede sig ikke for at sætte os i stand til at løse abstrakte, logiske problemer eller endda for at hjælpe os med at drage konklusioner ud fra ukendte data; den udviklede sig snarere for at løse de problemer, der opstår ved at leve i samarbejdsgrupper.

“Fornuften er en tilpasning til den hypersociale niche, som mennesket har udviklet for sig selv,” skriver Mercier og Sperber. Vaner, der virker underlige, fjollede eller bare dumme fra et “intellektualistisk” synspunkt, viser sig at være smarte, når de ses fra et socialt “interaktionistisk” perspektiv.

Tænk på det, der er blevet kendt som “bekræftelsesbias”, den tendens, som folk har til at tage imod oplysninger, der støtter deres overbevisninger, og afvise oplysninger, der modsiger dem. Af de mange former for fejlagtig tænkning, der er blevet identificeret, er bekræftelsesbias blandt de bedst katalogiserede; det er genstand for hele lærebøger med eksperimenter. Et af de mest berømte af disse blev udført, igen, på Stanford. Til dette eksperiment samlede forskerne en gruppe studerende, som havde modsatrettede holdninger til dødsstraffen. Halvdelen af de studerende var for den og mente, at den afskrækkede kriminalitet; den anden halvdel var imod den og mente, at den ikke havde nogen effekt på kriminalitet.

De studerende blev bedt om at reagere på to undersøgelser. Den ene gav data til støtte for argumentet om afskrækkelse, og den anden gav data, der satte spørgsmålstegn ved det. Begge undersøgelser – du gættede det – var opdigtede og var blevet designet til at præsentere, hvad der objektivt set var lige overbevisende statistikker. De studerende, der oprindeligt havde støttet dødsstraffen, vurderede dataene for afskrækkelse som meget troværdige og dataene imod afskrækkelse som lidet overbevisende; de studerende, der oprindeligt havde været imod dødsstraffen, gjorde det omvendte. Ved eksperimentets afslutning blev eleverne endnu en gang spurgt om deres holdninger. De, der i begyndelsen havde været for dødsstraf, var nu endnu mere for den; de, der havde været imod den, var endnu mere fjendtlige.

Hvis fornuften er designet til at skabe fornuftige vurderinger, så er det svært at forestille sig en mere alvorlig designfejl end bekræftelsesbias. Forestil dig, foreslår Mercier og Sperber, en mus, der tænker på samme måde som vi gør. En sådan mus, der “er opsat på at bekræfte sin tro på, at der ikke er nogen katte i nærheden”, ville hurtigt blive en middag. I det omfang, at bekræftelsesbias får folk til at afvise beviser for nye eller undervurderede trusler – den menneskelige pendant til katten rundt om hjørnet – er det et træk, der burde være blevet udvalgt imod. Det faktum, at både vi og den overlever, hævder Mercier og Sperber, beviser, at den må have en eller anden adaptiv funktion, og denne funktion, hævder de, er relateret til vores “hypersociabilitet.”

Mercier og Sperber foretrækker udtrykket “myside bias”. Mennesker, påpeger de, er ikke tilfældigt godtroende. Når vi bliver præsenteret for en andens argumentation, er vi ret dygtige til at spotte svaghederne. Næsten altid er de holdninger, som vi er blinde over for, vores egne.

Et nyligt udført eksperiment udført af Mercier og nogle europæiske kolleger demonstrerer denne asymmetri på en pæn måde. Deltagerne blev bedt om at besvare en række enkle ræsonnementsproblemer. De blev derefter bedt om at forklare deres svar og fik en chance for at ændre dem, hvis de identificerede fejl. Flertallet var tilfredse med deres oprindelige valg; mindre end femten procent ændrede mening i trin to.

I trin tre blev deltagerne vist et af de samme problemer sammen med deres svar og svaret fra en anden deltager, som var kommet frem til en anden konklusion. Endnu en gang fik de mulighed for at ændre deres svar. Men der var blevet spillet et trick: De svar, der blev præsenteret for dem som en andens svar, var i virkeligheden deres egne og omvendt. Omkring halvdelen af deltagerne indså, hvad der foregik. Blandt den anden halvdel blev folk pludselig meget mere kritiske. Næsten 60 procent afviste nu de svar, som de tidligere havde været tilfredse med.

Denne skævhed afspejler ifølge Mercier og Sperber den opgave, som fornuften har udviklet sig til at udføre, nemlig at forhindre os i at blive taget på røven af de andre medlemmer af vores gruppe. Da vores forfædre levede i små grupper af jægere og samlere, var de først og fremmest optaget af deres sociale status og af at sikre, at det ikke var dem, der risikerede deres liv på jagt, mens de andre slentrede rundt i hulen. Der var ikke mange fordele ved at ræsonnere klart, mens der var meget at vinde ved at vinde argumenter.

Blandt de mange, mange spørgsmål, som vores forfædre ikke bekymrede sig om, var de afskrækkende virkninger af dødsstraf og de ideelle egenskaber for en brandmand. De behøvede heller ikke at kæmpe med fabrikerede undersøgelser, eller falske nyheder, eller Twitter. Det er derfor ikke underligt, at fornuften i dag ofte synes at svigte os. Som Mercier og Sperber skriver: “Dette er et af mange tilfælde, hvor miljøet ændrede sig for hurtigt til, at den naturlige udvælgelse kunne indhente det.”

Næsten alle i USA, og faktisk i hele den udviklede verden, kender toiletter. Et typisk skylletoilet har en keramisk skål fyldt med vand. Når håndtaget trykkes ned, eller der trykkes på knappen, bliver vandet – og alt, hvad der er blevet aflejret i det – suget ind i et rør og derfra videre ud i kloaksystemet. Men hvordan sker det egentlig?

I en undersøgelse, der blev gennemført på Yale, blev universitetsstuderende bedt om at vurdere deres forståelse af dagligdags apparater, herunder toiletter, lynlåse og cylinderlåse. Derefter blev de bedt om at skrive detaljerede, trinvise forklaringer på, hvordan apparaterne fungerer, og om at vurdere deres forståelse igen. Tilsyneladende afslørede indsatsen for de studerende deres egen uvidenhed, for deres selvvurderinger faldt. (Toiletter, viser det sig, er mere komplicerede, end de ser ud til at være.)

Sloman og Fernbach ser denne effekt, som de kalder “illusionen om forklaringsdybde”, stort set overalt. Folk tror, at de ved meget mere, end de faktisk gør. Det, der gør det muligt for os at holde fast i denne tro, er andre mennesker. I tilfældet med mit toilet er der en anden, der har designet det, så jeg nemt kan betjene det. Det er noget, som mennesker er meget gode til. Vi har stolet på hinandens ekspertise lige siden vi fandt ud af at jage sammen, hvilket sandsynligvis var en vigtig udvikling i vores udviklingshistorie. Vi samarbejder så godt, hævder Sloman og Fernbach, at vi næsten ikke kan se, hvor vores egen forståelse slutter og andres begynder.

“En konsekvens af den naturlighed, hvormed vi deler det kognitive arbejde”, skriver de, er, at der “ikke er nogen skarp grænse mellem en persons ideer og viden” og “de andre gruppemedlemmers”.

Denne grænseløshed, eller om man vil foretrække, forvirring, er også afgørende for det, vi betragter som et fremskridt. Efterhånden som mennesker opfandt nye redskaber til nye måder at leve på, skabte de samtidig nye områder af uvidenhed; hvis alle havde insisteret på, at de f.eks. skulle beherske principperne for metalbearbejdning, før de tog en kniv i hånden, ville bronzealderen ikke have betydet ret meget. Når det drejer sig om nye teknologier, er ufuldstændig forståelse en styrke.

Det sted, hvor det bringer os i problemer, er ifølge Sloman og Fernbach på det politiske område. Det er én ting for mig at skylle ud i et toilet uden at vide, hvordan det fungerer, og en anden ting for mig at gå ind for (eller være imod) et indvandringsforbud uden at vide, hvad jeg taler om. Sloman og Fernbach citerer en undersøgelse fra 2014, ikke længe efter at Rusland annekterede det ukrainske område Krim. Respondenterne blev spurgt, hvordan de mente, at USA skulle reagere, og også om de kunne identificere Ukraine på et kort. Jo mere forkert de lå i forhold til geografien, jo mere sandsynligt var det, at de gik ind for en militær intervention. (De adspurgte var så usikre på Ukraines beliggenhed, at medianen af gættene var forkert med 1.800 km, dvs. omtrent afstanden fra Kiev til Madrid.)

Undersøgelser om mange andre spørgsmål har givet lignende rystende resultater. “Som regel opstår stærke følelser om emner ikke på baggrund af dyb forståelse”, skriver Sloman og Fernbach. Og her forstærker vores afhængighed af andre hjerner problemet. Hvis din holdning til f.eks. den overkommelige sundhedslov er grundløs, og jeg er afhængig af den, så er min mening også grundløs. Når jeg taler med Tom, og han beslutter sig for at være enig med mig, er hans mening også grundløs, men nu, hvor vi tre er enige, føler vi os meget mere selvsikre med vores synspunkter. Hvis vi nu alle sammen afviser alle oplysninger, der er i modstrid med vores mening, som ikke overbevisende, får man, ja, Trump-administrationen.

“Det er sådan, et vidensfællesskab kan blive farligt”, konstaterer Sloman og Fernbach. De to har udført deres egen version af toileteksperimentet, hvor de har erstattet husholdningsgadgets med offentlig politik. I en undersøgelse foretaget i 2012 spurgte de folk om deres holdning til spørgsmål som f.eks: Bør der være et sundhedsvæsen med en enkelt betalersystem? Eller meritbaseret løn til lærere? Deltagerne blev bedt om at vurdere deres holdninger alt efter, hvor enige eller uenige de var i forslagene. Derefter blev de bedt om at forklare så detaljeret som muligt, hvilke konsekvenser gennemførelsen af hvert forslag ville få. På dette punkt løb de fleste ind i problemer. Da de endnu en gang blev bedt om at vurdere deres synspunkter, skruede de ned for intensiteten, så de enten var enige eller uenige i mindre grad.

Sloman og Fernbach ser i dette resultat et lille lys til en mørk verden. Hvis vi – eller vores venner eller eksperterne på CNN – brugte mindre tid på at tale og mere på at forsøge at gennemskue konsekvenserne af politiske forslag, ville vi indse, hvor uvidende vi er, og moderere vores synspunkter. Dette, skriver de, “kan være den eneste form for tænkning, der vil knuse illusionen om forklaringsdybde og ændre folks holdninger.”

I “Denying to the Grave: Why We Ignore the Facts That Will Save Us” (Oxford) undersøger Jack Gorman, psykiater, og hans datter, Sara Gorman, specialist i folkesundhed, kløften mellem det, videnskaben fortæller os, og det, vi fortæller os selv. De beskæftiger sig med de vedholdende overbevisninger, som ikke blot er beviseligt forkerte, men også potentielt dødelige, som f.eks. overbevisningen om, at vacciner er farlige. Det farlige er naturligvis ikke at blive vaccineret; det er derfor, vaccinerne blev skabt i første omgang. “Vaccination er en af den moderne medicins triumfer,” bemærker Gormans. Men uanset hvor mange videnskabelige undersøgelser, der konkluderer, at vacciner er sikre, og at der ikke er nogen forbindelse mellem vaccinationer og autisme, er anti-vaccinerne ubevægelige. (De kan nu regne med på deres side – en slags – Donald Trump, som har sagt, at selv om han og hans kone fik deres søn Barron vaccineret, nægtede de at gøre det efter den tidsplan, som børnelægerne anbefaler.)

Gorman’erne hævder også, at måder at tænke på, som nu virker selvdestruktivt, på et tidspunkt må have været adaptive. Og de dedikerer også mange sider til bekræftelsesbias, som, hævder de, har en fysiologisk komponent. De citerer forskning, der tyder på, at folk oplever ægte glæde – et dopaminrus – når de behandler oplysninger, der støtter deres overbevisninger. “Det føles godt at ‘holde fast i sine holdninger’, selv om vi tager fejl”, konstaterer de.

Gormans ønsker ikke blot at katalogisere de måder, hvorpå vi tager fejl; de ønsker at korrigere for dem. Der må være en måde, hævder de, at overbevise folk om, at vacciner er gode for børn, og at håndvåben er farlige. (En anden udbredt, men statistisk uholdbar tro, som de gerne vil miskreditere, er, at man bliver mere sikker af at eje en pistol). Men her støder de på netop de problemer, som de har opregnet. Det ser ikke ud til at hjælpe at give folk nøjagtige oplysninger; de ignorerer dem simpelthen. At appellere til deres følelser virker måske bedre, men det er naturligvis i modstrid med målet om at fremme sund videnskab. “Den udfordring, der er tilbage”, skriver de mod slutningen af deres bog, “er at finde ud af, hvordan man kan tage fat på de tendenser, der fører til falsk videnskabelig tro.”

“The Enigma of Reason”, “The Knowledge Illusion” og “Denying to the Grave” blev alle skrevet før valget i november. Og alligevel foregriber de Kellyanne Conway og fremkomsten af “alternative fakta”. I disse dage kan det føles som om, at hele landet er blevet overgivet til et stort psykologisk eksperiment, der enten ledes af ingen eller af Steve Bannon. Rationelle agenter ville være i stand til at tænke sig frem til en løsning. Men på dette område er litteraturen ikke betryggende. ♦