Prognosen: Wie erwartet weniger als erwartet


Sollte man das eigene Vermögen dem Fondsmanager des Jahres anvertrauen? Wird der Bewerber mit dem besten Abschneiden beim Eignungstest das halten, was er verspricht? Wir erläutern heute, warum es eigentlich nicht überraschen sollte, dass ein ausgewählter Bestperformer dazu neigt, in der Folge eher schwächere Ergebnisse als erwartet abzuliefern.

Betrachten wir einmal eine Gruppe von Personen, deren Potenzial beurteilt werden soll. Dies kann beispielsweise über einen Leistungstest in der Schule, durch das Umsatzergebnis der geführten Filiale oder aufgrund des relativen Zuwachses des verwalteten Fonds erfolgen.

In unserem Szenario hat jede Person ein theoretisches Potenzial; das tatsächlich erhaltene Ergebnis wird aber auch zufällig durch die Tagesform der Kandidaten beeinflusst. Als Modell verwenden wir eine Normalverteilung, deren Erwartung das theoretische Potenzial beschreibt und deren Varianz den zufälligen Einfluss wiedergibt. Wir nehmen an, dass die Tagesform der Kandidaten nicht von einer gemeinsamen externen Quelle abhängt, sodass keine Korrelationen zwischen den Kandidaten auftreten.

Werfen wir zunächst einmal einen Blick auf einen Extremfall der Verteilung der Potenziale: Alle beteiligten 7 Personen haben in unserem ersten Beispiel die exakt gleichen Anlagen mit einem theoretischen Potenzial von 50 und einer Standardabweichung von 10. Wir gehen vom Testszenario aus und in der folgenden Grafik sind auch die Ergebnisse des einzigen durchgeführten Tests eingetragen (bitte klicken Sie auf die Grafik für eine vergrößerte Darstellung!):

Testergebnisse von 7 PersonenTestergebnisse von 7 Personen

Hier hatte Person 1 einen Wert von 59 erzielt. Müssten wir eine einzige Person aussuchen, so kann dies nach logischen Gesichtspunkten nur Person 1 sein. Wird diese Person nun ausgewählt und später einem erneuten Test unterzogen, so ist der erwartete Score aber weiterhin nur 50. D. h. in diesem Kontext ist es plausibel, dass der maximale Score über alle Personen hinweg eher höher als 50 liegt, der erwartete Score bei einem zweiten Test weiterhin bei 50 verbleibt und somit mit einer höheren Wahrscheinlichkeit von einer Enttäuschung auszugehen ist.

Wir können auch einmal alle 7 Personen in einem zweiten Durchlauf B antreten lassen und Punkte für Ränge vergeben – 7 Punkte für den ersten Platz bis zu 1 Punkt für den letzten Platz. Die folgende Grafik visualisiert, wie viele Punkte im zweiten Durchlauf B erzielt wurden, wenn im ersten Durchlauf A eine bestimmte Punktzahl erzielt wurde. Die roten Linien zeigen auf die durchschnittlichen Punktzahlen im Durchgang B bei 100.000 Simulationsdurchgängen.

Tendenz zur MitteTendenz zur Mitte

Wie man sieht, spielt der Platz des ersten Durchlaufs A keine Rolle: Jede Punktzahl im Durchlauf B wird mit gleicher Wahrscheinlichkeit erzielt, unabhängig vom Wert des Durchlaufs A. Deshalb ist die mittlere Punktzahl im Durchlauf B auch 4, egal wie viele Punkte im ersten Durchgang A erzielt wurden. Für die Topscorer des ersten Durchlaufs mit 7 Punkten heißt dies, dass sie im Durchschnitt absteigen. Die schwächelnden Personen des ersten Durchgangs hingegen werden tendenziell eher besser platziert sein.

Betrachten wir wieder den Fall, dass nur eine Person ausgewählt wird und sich im Alltag (= Test B) bewähren muss. Kann man die erwartete Enttäuschung berechnen? Eine exakte Ableitung ist nicht ohne – der Verfasser dieses Blogartikels hat gerade einmal einen exakten Ausdruck für die Erwartung des Maximums bei zwei beteiligten Versuchspersonen gefunden – hier beträgt die Erwartung

formel

Bei den gegebenen 7 Personen begnügen wir uns hier mit Simulationsergebnissen. Für insgesamt 100.000 Durchläufe (100.000-mal „7 Personen treten an, eine wird ausgewählt und absolviert einen zweiten Test“) haben wir jeweils die maximale Punktzahl ermittelt und im Histogramm am rechten Bildrand wiedergegeben.

Die erwartete Enttäuschung beträgt 14 PunkteDie erwartete Enttäuschung beträgt 14 Punkte.

Im Mittel liegt des Maximum von 7 unabhängig normalverteilten Zufallszahlen N(50;10) bei ca. 64. Das heißt, wird somit die Person mit dem Maximum ausgewählt, so beträgt das erwartete Absacken ganze 14 Punkte.

Betrachten wir nun eine weitere Konstellation, bei der die 7 Teilnehmer mit 35, 40, 45, 50, 55, 60 und 65 unterschiedliche erwartete Potenziale besitzen:

Die erwartete Enttäuschung beträgt 9 PunkteDie erwartete Enttäuschung beträgt 9 Punkte.

Über Simulationen kann man die Erwartung des Maximums mit etwa 70 schätzen. Hier besitzen aber die Personen unterschiedlich große Wahrscheinlichkeiten, das beste Testergebnis zu stellen. Aus der Simulation gewonnene Schätzer dieser Wahrscheinlichkeiten sind in der Grafik unten angegeben. Beispielsweise erzielt die Person mit dem höchsten erwarteten Potenzial 65 in ca. 50.5 % aller Durchläufe das beste Ergebnis, aber selbst die Person mit dem geringsten erwarteten Potenzial 35 hat in immerhin 0.2 % der Durchläufe am besten abgeschnitten.

Aus diesen Anteilen lässt sich die erwartete Punktzahl der ausgewählten Person zu 0.002 * 35+ 0.007 * 40 + 0.022 * 45 + 0.057 * 50 + 0.135 * 55 + 0.272 * 60 + 0.505 *65 = 61 schätzen. Auch hier wird also im Mittel die ausgewählte Person im zweiten Durchgang ein um ca. 9 Punkte schlechteres Ergebnis erzielen.

Werden wieder alle 7 Personen zum zweiten Test eingeladen und vergeben wir wieder Punkte (7 für den 1. Platz bis zu 1 für den 7. Platz), so besteht der folgende durchschnittliche Zusammenhang zwischen den Punktzahlen in Durchgang A und Durchgang B:

Leichte Tendenz zur MitteLeichte Tendenz zur Mitte

Immerhin gibt es hier eine sichtbare Korrelation zwischen den Punktzahlen aus den beiden Durchläufen. Nichtsdestotrotz ist auch hier das Phänomen zu beobachten, das als Regression zur Mitte bezeichnet wird: Personen, die im 1. Durchgang sehr gute Ergebnisse erzielt haben, werden im zweiten eher schwächer abschneiden und umgekehrt werden die Underperformer der ersten Runde sich im Vergleich zum ersten Durchgang öfter verbessern.

Der Begriff „Regression zur Mitte“ verführt zu folgendem Experiment aus dem Bereich der Predictive Analytics: Wir lassen alle sieben Personen zu zwei Tests A und B antreten und versuchen, aus dem Ergebnis des Tests A das Ergebnis des Tests B vorherzusagen. Damit etwas mehr Daten für den folgenden Plot zur Verfügung stehen, nehmen wir an, dass wir nicht nur eine, sondern 100 derartige Gruppen vorliegen haben. Es ergibt sich dann die folgende Punktwolke:

regression_to_the_meanRegression zur Mitte

Schauen wir auf die Formel B = 25 + 0.5 * A der angegebenen Regressionsgeraden, so ergibt eine kleine Umformung


B = 50 + 0.5 * ( A – 50 )

Hier wird deutlich, warum der Begriff „Regression zur Mitte“ verwendet wird: 50 ist das mittlere erwartete Potenzial aller Personen. Für die Vorhersage des B-Resultats wird jeweils die Abweichung zum mittleren erwarteten Potenzial halbiert. Bei einem Ergebnis von A = 70 ergibt sich ein Überschuss von A – 50 = 20. Dieser wird halbiert und wieder zum mittleren Wert addiert. Es ergibt sich eine Prognose von 60 für den Durchgang B. Analog wird für einen niedrigen Wert von A = 30 im zweiten Durchgang 40 vorhergesagt.

Kehren wir zurück zur einfachen Siebenergruppe, aus der wir nach dem ersten Test A eine Person auswählen.

Der erwartete Score der ausgewählten Person aus Durchgang A liegt immer mindestens so hoch wie das Maximum der erwarteten Potenziale aller 7 Personen (hier im Beispiel gilt 70 >= 65). Im Durchgang B ist nun nur noch eine Person unterwegs. Im besten Fall ist dies Person Nr. 7 mit der Erwartung von 65, aber es kann mit einer positiven Wahrscheinlichkeit auch jede der anderen Personen sein, die jedoch eine geringere Erwartung besitzen. Das erwartete Ergebnis der ausgewählten Person in Durchgang B kann also höchstens 65 sein (hier im Beispiel gilt: 61 <= 65).Dies bedeutet, dass die ausgewählte Person in der Erwartung nie positiv überraschen kann (im Einzelfall kann sich die ausgewählte Person steigern, aber im Mittel über viele solcher Testsituationen nicht.)

Gibt es denn nicht wenigstens ein bisschen Hoffnung? Nicht systematisch enttäuscht wird man, wenn die ausgewählte Person diejenige mit dem höchsten erwarteten Potenzial ist. Eine Möglichkeit, diesen Zustand zu erreichen, besteht darin, mehrere unabhängige Tests durchführen zu lassen, bevor die Auswahl aufgrund der mittleren Performanz getroffen wird.

Die folgende Grafik zeigt das Ergebnis bei Verwendung des Mittelwertes aus 25 Tests:

Der beste Bewerber setzt sich fast immer durch!Der beste Bewerber setzt sich fast immer durch!

Hier wird der beste Kandidat in über 96 % aller Fälle ausgewählt, für die restlichen 4% ist es der zweitbeste Teilnehmer. Die erwartete Performanz des ausgewählten Kandidaten liegt somit nur noch knapp unter den optimalen 65.

Anschaulich gesprochen sind keine Enttäuschungen zu erwarten, wenn der oder die optimalen Testkandidaten auch an einem schlechten Tag besser abschneiden als die geringer qualifizierten Personen an einem guten Tag. Durch die Verwendung des Mittelwerts einer genügend großen Anzahl von Tests lässt sich dieser Zustand immer erreichen.

Eine interessante Erweiterung wäre gegeben, wenn die zufälligen Schwankungen nicht nur durch den Kandidaten entstehen, sondern auch teilweise durch Variationen der Tests generiert werden. Hier wäre es statthaft, z.B. positive Korrelationen zwischen den Testergebnissen der Kandidaten anzunehmen.

Bezüglich der Regression zur Mitte ist vor allem in der Versuchsplanung Vorsicht geboten: Werden Versuchspersonen aus einer Stichprobe beispielsweise aufgrund ihres hohen Blutdruckes für die Medikamenteneinnahme ausgewählt, dann ist bereits ein blutdrucksenkender Effekt allein wegen der Regression zur Mitte zu erwarten. Wenn den in einem Test am schlechtesten abschneidenden Schülern Nachhilfe empfohlen wird, sollte sich der Nachhilfelehrer die tendenziell besseren Noten vielleicht doch nicht vollständig auf die Fahne schreiben!

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.