Angenommen, das Land Freedonia diskutiert darüber, ob sein Nachbarland Sylvania dafür verantwortlich ist, dass kürzlich Meteoriten auf seine Städte niedergestürzt sind. Es gibt verschiedene Anhaltspunkte, die das nahelegen: Die Meteoriten trafen Städte nahe der sylvanischen Grenze; die sylvanischen Aktienmärkte verzeichneten vor dem Meteoriteneinschlag ungewöhnliche Schwankungen und den sylvanischen Botschafter Trentino hörte man etwas von “himmlischer Vergeltung” murmeln.

Doch dann sagt dir jemand: “Ich denke nicht, dass Sylvania für die Meteoriteneinschläge verantwortlich ist. Ihr Handel mit uns beläuft sich jährlich auf Milliarden von Dinars.” Du wendest ein: “Aber die Meteoriten trafen Städte, die nahe bei Sylvania liegen, ihre Aktienmärkte waren auffällig volatil und ihr Botschafter sprach danach von himmlischer Vergeltung.” Da diese drei dir bereits bekannten Argumente das eine neue überwiegen, bleibst du der Ansicht, dass Sylvania verantwortlich ist. Du glaubst eher, als dass du zweifelst.

Priors unzulässigerweise verstärken

Doch eine weitere Person widerspricht dir: “Ich denke nicht, dass Sylvania für die Meteoriteneinschläge verantwortlich ist. Einen Asteorideneinschlag zu steuern, ist sehr schwierig. Sylvania besitzt hingegen nicht einmal ein Raumfahrtprogramm.” Du antwortest: “Aber die Meteoriten trafen Städte in der Nähe von Sylvania, ihre Investoren wussten es und der Botschafter hat es zugegeben!“ Diese drei Argumente überwiegen erneut das eine neue. Also bleibst du weiter dabei, dass Sylvania verantwortlich ist. Ja, deine Überzeugung hat sich sogar verstärkt. Zweimal hast du nun die Anhaltspunkte gewichtet und beide Male sprachen sie mit einem Verhältnis von 3 zu 1 gegen Sylvania.

Du stösst auf immer neue Argumente, die Sylvania entlasten, aber jedes neue Argument unterliegt mit 3 zu 1. Dadurch wird dein Prior, dass Sylvania tatsächlich verantwortlich ist, jedesmal verstärkt. (Ein Prior ist die Überzeugung, die man bezüglich einer Hypothese hat, bevor man mit neuen Argumenten zu dieser Hypothese konfrontiert wurde.) Das Problem ist aber, dass du deinen Prior auf unzulässige Weise verstärkt hast. Du hast die dir bereits bekannten Argumente einfach jedesmal rezitiert, wenn du auf neue Argumente gestossen bist. Und mit jeder neuen Wiederholung hast du sie argumentativ erneut gewichtet. Ein Argument wird jedoch nicht dadurch stärker, dass es wiederholt wird. Diese Logik wäre selbst dann falsch, wenn du alle Argumente mehrfach zähltest. (Stelle dir einen Wissenschaftler vor, der ein Experiment mit 50 Versuchspersonen durchführt, das ihm aber keine statistisch signifikante Ergebnisse liefert, worauf er einfach die Ergebnisse mehrfach gewichtet.) Aber selektiv nur einzelne Argumente mehrfach zu zählen, ist eine reine Farce. (Ich erinnere mich, wie ich als Kind einen Trickfilm geschaut habe, in dem ein Schurke die Beute seiner Bande nach folgendem Algorithmus an ihre Mitglieder verteilte: “Eins für dich, eins für mich. Eins für dich, eins-zwei für mich. Eins für dich, eins-zwei-drei für mich.”)

Priors probabilistisch anpassen

Wenn eine rationale Person neuen Argumenten begegnet, die ihrem Prior widersprechen, sollte sie seine Wahrscheinlichkeit den neuen Argumenten entsprechend nach unten anpassen. Die Wahrscheinlichkeit des Priors mag dann immer noch hoch sein, aber entsprechend tiefer als sie es ohne die neuen Argumente wäre. Man kann sich dem Updating seines Priors nicht entziehen, indem man einfach die bereits bekannten Argumente, die den Prior unterstützen, immer wieder aufsagt, denn man hat sie bereits berücksichtigt und sie können deshalb seine Wahrscheinlichkeit nicht ungeachtet der neuen Argumente aufrechterhalten oder gar erhöhen.

Wenn sie mit neuen Argumenten konfrontiert werden, die ihrem Prior widersprechen, versuchen jedoch viele Leute, ihren Prior zu rechtfertigen, ohne seine Wahrscheinlichkeit herunterzuschrauben. Und natürlich finden sie unterstützende Argumente, die sie bereits kennen. Ich muss auch immer aufpassen, diesen Fehler nicht selbst zu machen. Er kann im Extremfall dazu führen, dass wir aufgrund eines einzigen Arguments unseren Prior gegen eine Vielzahl neuer guter Argumente verteidigen – und zwar einfach nur deshalb, weil wir das eine Argument, das den Prior unterstützt, genügend oft wiederholen. Das entspricht nicht unserem Ziel, die Wahrscheinlichkeit unserer Priors graduell an neue Argumente anzupassen.