Psychologische Diagnostik, Klassifikation - Universität Regensburg

Psychologische Diagnostik, Klassifikation
Wintersemester 2010/20011
Prof. Dr. Jan Drösler,
Universität Regensburg
Übersicht
1. Entscheidung bei Unsicherheit
2. Klassifikation bei bekannten Wahrscheinlichkeitsdichten
(a) Quadratische Separierung
(b) Lineare Separierung
(c) Abstandsklassifikation
Beispiel
Mittels eines Intelligenztests sollen hochbegabte
Schüler klassifiziert werden. (rechte
Verteilungsdichte der Ergebnisse).
Jeder Schnitt bei irgendeinem c erzeugt
vier Gruppen: true negative, true positive,
false negative und false positive. Zu untersuchen
ist eine in bestimmter Hinsicht optimale
Entscheidung.
.
Aufgabenstellung
Optimale Klassifikation setzt Validierung
sämtlicher eingesetzter Verfahren voraus.
.
Die eingesetzten Begriffe entstammen der
statistischen Entscheidungstheorie. Die
verwendeten Abkürzungen variieren von
Autor zu Autor. Schürmann (1977) benutzt
anstelle der sonst in der entscheidungstheoretisch
begründeten Diagnostik verwendete
Bezeichnungen für die Naturzustände, die
Entscheidungen, die Konsequenzen, die
Befunde, die Optimalitätskriterien und die
Entscheidungsregeln
< W, A, S, X, K, D >,
mit a = d(x) die Abkürzungen
< W, W^, C, V, O, D >,
mit W^ = d( v).
Signaldetektion
Die Erkennung schwacher Reize in einem
gestörten Umfeld wird sonst gern als Beispiel
psychologischer Experimentierkunst
vorgeführt. Ist es den Experimentatoren
ddort doch gelungen, den Einfluß von
Reaktionsneigungen zu neutralisieren und
dadurch besser die Sinnesleistungen zu
studieren. Hier wird die Signalentdeckung
kurz wegen des den Versuchspersonen
unterstellten Entscheidungsprinzips kurz
besprochen. Es ist der statistischen Entscheidungstheorie
entlehnt und soll in der
geschilderten Lage bei jedem von und
wirksam sein.
Der Wahrnehmungspsychologe studiert
hier eigentlich eine Umkehrung des Klassifikationsproblems:
Die Mittelwertsdifferenz
α soll bestimmt werden.
Neu war an diesem Ansatz, daß die Reaktion
der Versuchsperson als Entscheidung
aufgefasst wurde, deren Richtigkeit bzw.
Falschheit mit unterschiedlichen Konsequenzen
belegt wurde. Im Laborjargon
spricht man zunächst von outcomes:

„Outcomes“
ROC- Kurve
Yes
No
Signal hit miss
Noise false alarm correct
rejection
Diese sind mit monetären Konsequenzen
verbunden, die man pay-off nennt.
Pay-off
Yes
Signal C C
SY
N oise C C
N Y
No
Nach der Theorie bestimmen die pay-offs
zusammen mit den Auftretenswahrscheinlichkeiten
von Signal und Noise das cut-off
Kriterium, das die Versuchsperson gerade
einsetzt. Von Interesse für den Wahrnehmungspsychologen
ist nur die Mittelwertsdifferenz
der beiden Verteilungen von
Sinnesempfindungen, der ohne Signal
(nois) und der anderen. Diese Mittelwertsdifferenz
lässt sich aus den hit-Raten und
den false alarm-Raten für jedes durch eine
spezielle pay-off Matrix bestimmte Teilexperiment
ermitteln.
SN
N N
Sie enthält für alle Teilexperimente die hit-
Raten gegen die false-alarm-Rate abgetrage.
Der Grad ihrer Krümung ist ein Maß
für die Mittelwersdifferenz der beiden Verteilungen
von Sinnesempfindungen.
Optimalität
Die eigentliche Theorie der Signalentdeckung
besteht darin, dem Organismus ein
Optimierungsprinzip zu unterstellen. Es ist
die Minimierung des Risikos: Die Versuchsperson
wählt Alternative Yes bzw.
No, deren Kostenerwartung am geringsten
ist.
Seien P( x | S ) bzw P( x | N ) die Flächen
unter den Verteilungsdichten, die rechts
von x liegen, dann soll gelten, die Versuchsperson
reagiert entsprechend der folgenden
Ungleichung::
C (1 P ( x | N )) C (1 P ( x | S ))
N N
C P ( x | S ) C P ( x | N )
SY
N Y
SN
Sie verkörpert das Entscheidungsprinzip
der Erwartungswertmaximierung, da in ihr
Erwartungswerte (Risiken) verglichen
werden.
Das Scharlatanieproblem
Scharlatane, die in Medizin oder Psychologie
ihr Unwesen treiben werden oft erst
überraschend spät enttarnt. Das kann daran
liegen, daß sie sich bei diagnostischen
Äußerungen intuitiv nach den a priori

Wahrscheinlichkeiten der Fallgruppen
richten. Dieser Effekt läßt sich auch professionell,
also unter Berücksichtigung von
Symptomen ausnutzen, wie noch gezeigt
werden wird..
Neyman-Pearson-Statistik
Die uns von der Hypothesenprüfung her
geläufige Neyman-Pearson-Statistik gewichtet
die Wahrscheinlichkeiten nicht. Sie
berücksichtigt nur „Fälle“. Eine Gewichtung
wirkt sich aus als ob bestimmte Fälle
häufiger (bzw. seltener) auftreten als andere.
Dieser Umstand erklärt die o. g. Tatsache,
daß sowohl in der Psychologie wie
auch in der Medizin diagnostische Scharlatane
oft erstaunlich lange nicht als solche
auffallen, sofern sie die tatsächlichen Häufigkeiten
der Fallgruppen auch nur intuitiv
berücksichtigen.
Ein dreidimensionales Beispiel stammt von
Rulon et al.(1973). Es handelt sich um
Bewerber bei einer Fluggesellschaft die
als Mechaniker (grün) bzw. als Schalterpersonal
(rot) klassifiziert werden sollen,
nachdem für jeden drei Testwerte erhoben
worden sind.
Ein zweidimensionales Beispiel bietet Eysencks
Maudsley Personality Inventory
(MPI) ,Eysenck, 1959, das den Versuchspersonen
Werte in „Extraversion“ und
„Neurotizismus“ zuweist. Die Graphik
zeigt die Ergebnisse von zwei Fallgruppen,
die mit Hilfe von Klassifikationsverfahren
möglichst optimal zu trennen sind.
Diese Trennung der Fallgruppen wird
durch Konstruktion einer Trennlinie in der
Ebene, im folgenden Diagramm als Ebene
eingezeichnet, bewerkstelligt.
Für ein Durchdenken des diagnostischen
Vorgangs kann es von Vorteil sein, sich
daran zu erinnern, daß dabei Information
übertragen wird. Sofern diese Überlegungen
nicht im oberflächlichen schematischen
Darstellungen stecken geblieben
sind, haben sie zu praktikablen Klassifikationsverfahren
geführt (vgl. etwa Schürmann,
1977),

Um hier exakte Schlüsse zu ziehen , muß
zunächst das Verteilungsgesetz der Symptome,
bezogen auf die Fallgruppen untersucht
werden.
Die Fallgruppenzugehörigkeit wird als
zufällige Veränderliche angesetzt. Die
Symptome bilden einen diskreten Merkmalsvektor
v,
Schürmann sieht Diagnostik als Dekodierung
von Signalen an.
p ( ) p ( , v)
V
p ( v) p ( , v)
Man spricht von einer diskrete vektoriellen
Zufallsvariable und hat damit Anschluß an
das große einschlägige Repertoir der
Wahrscheinlichkeittheorie und Statistik
gefunden.
Die Validierungsuntersuchung erzeugt
Paare (, v).
p(,v) = p(v, )
das Verteilungsgesetz des Untersuchungs-
Prozesses.
Randverteilungen
Der Untersuchungsprozeß ist ebenso zu
entschlüsseln, wie eine technische Signalübertragung
in Anwesenhet von Übertragungsstörungen
Der Fallgruppenzugehörigkeiten bzw. der
Symptome Bedingte Verteilungen
Wahrscheinlichkeit der Fallgruppen bei
gegebenem Symptom v, bzw. Wahrscheinlichkeit
des Symptoms bei gegebener Fallgruppe
ω :
p( | v)
p( v | )
p( , v)
p( v)
p( , v)
p ( )
Beispiel: Taylor & Russel, 1939
Fallgruppen bestehen hier aus Personen,
für die gilt:„bewährt sich“ bzw.„bewährt
sich nicht“. Auch ohne psychologische
Eignungsuntersuchung bewährt sich ein
bestimmter Anteil der Bewerber. Dieser

Anteil wird allein durch die Anforderungen
des Arbeitgebers bestimmt.
Validität ausgedrückt durch bedingte
Wahrscheinlichkeit: Eine psychologische
Eignungsuntersuchung taugt nur dann,
wenn der Anteil der Bewährten unter den
Zugelassenen größer ist als „von Natur
aus“. Die Zusammenhänge lassen sich bei
Betrachtung einer Isodensite der zweidimensionalen
Verteilungsdichte von Testund
Kriteriumswerten erläutern.
f ( x, y )
f ( y | x)
f ( x)
1 y
m it f ( y ) exp( )
2 2
Eingesetzt ergibt sich
1 1
f ( y | x) exp(
2
2
2 1
2 (1 )
2 2 2
[ y x ] ) m it der Streuung
2
y|
x
1
2
xy
Ungewissheitsreduktion und Validität
Die diagnostisch interessanten Wahrscheinlichkeiten
lassen sich in Abhängigkeit
vom Validitätskoeffizienten, der natürlichen
Bewährungsquote und dem Schnitt
beim Test berechnen. Ausgangspunkt ist
die bivariate Standardnormalverteilungsdichte
von Test x und Kriterium y.
Die bivariate Wahrscheinlichkeitsdichte
Der Normalverteilung ist
f ( x, y)
1
2 1
2
1
2 2
exp( [ x 2 x y y ])
2
2 (1 )
Mit ihrer Hilfe lässt sich die bedingte Verteilungsdichte
des Kriteriums bestimmen.
Der Informationsgewinn durch psychologische
Eignungsuntersuchung ist aus dem
Vergleich von bedingter und unbedingter
Verteilungsdichten der Kriteriumswerte
ersichtlich.
Bezeichnet man das Verhältnis der Fehlervarianz
zur true-Varianz im Sinne der
klassischen Testtheorie als verbleibende
Unsicherheit nach der psychologischen
Untersuchung, dann ergibt sich eine quadratische
Abhängigkeit diese Größe vom
Validitätskoeffizienten.
. Die Bewährungsquote
Aus diesen Beziehungen kann bei gegebener
natürlicher Bewährungsquote, dem
Validitätskoeffizienten und dem Schnitt
beim Test die Bewährungsquote berechnet
werden. (z. B. mittels Maple Skript „Taylor-Russel“).

Taylor- Russel Nomogramm
Das Risiko der diagnostischen Entscheidung
e
Im Nomogramm liest man ab, wie sich bei
gegebner Validität – hier 0.60 – der Anteil
der Bewährten unter den Zugelassenen mit
größer werdender Zulassungsquote verändert.
Läßt man sämtliche Bewerber zu, so
erreicht man den rechten Rand des Nomogramms
und damit die „natürliche“
Bewährungsquote.
Zuordnung der Diagnose K zur Fallgruppe
ω:
Der Erwartungswert E der Kosten C über
die Symptome v und die Diagnosen e und
die Fallgruppen k , mit eo der Rückweisung
„weiß nicht“ :
e
{0,1, 2, ..., " k "}
R E ( C ) C p ( C )
R C ( k , e( v)) p ( v, k )
v
k
p ( v, k ) p ( k | v) p ( v)
Einsetzen zeigt, daß das Gesamtrisiko der
Entscheidung der Erwartungswert der Einzelrisiken
über die Symptome ist:
R C ( k , e( v)) p ( k | v) p( v)
v
v k
R
( e, v) p( v)
Bedingtes Risiko
v
Für die Berechnungen ist eine zweite Art
der Zuordnung vorteilhafter, die den einzelnen
Befunden eigene Dimensionen zuschreibt:
R C ( k , e( v)) p ( k | v)
v ( e , v )
k
0 C ( k , e)
Gesucht ist das Minimum von R im Hinblick
auf die Entscheidungsregel e(v).
Minimum einer Summe
Das bedingte Risiko wird betrachtet, da
eine Summe dann minimal wird, wenn
sämtliche Summanden minimal sind.

Optimale Entscheidungsfunktion
Erwartungswertminimierung als Optimalitätskriterium
bedeutet: Berechne für alle
k+1 möglichen Entscheidungen e
K
R ( e) C ( k , e) p( k | v)
k
1
und suche unter allen R(e) den kleinsten
Wert.
Test: gut mittel schlecht
1.16 1.04 0.88
R( e) 0.20 0.80 1.60
3.78 2.52 0.84
Die Berechnung im einzelnen
Seien
Gang der Berechnung
A = [a1, a2, ...,ak]
B = [b1,b2,...,bk]
und
Benötigt wird dazu die Kostenmatrix der
diagnostischen Aufgabe (Zeilen: Diagnosen,
Spalten: Fallgruppemzugehörigkeit, z.
B.:
P (k | v)
Außerdem eine Berechnung der bedingten
Wahrscheinlichkeiten der Fallgruppe, gegeben
das Symptom aus den beobachteten
„anderen“ bedingten Wahrscheinlichkeiten
des Symptoms (Zeile), gegeben die Fallgruppe
(Spalte), z. B.:
Die Risikomatrix
2 2
C ( e, k ) 0 5
7 0
0.36 0.04
P ( k | v) 0.18 0.12
0.06 0.24
Befund (Spalten) und Diagnosen (Zeilen:
„weiß nicht“, „geeignet“, „nicht geeignet“)
bestimmen die Risiken. Für einen gegebenen
Befund wird die Diagnose mit dem
geringsten Kostenrisiko verwendet.
Vektoren gleicher Länge k, Dann ist
T
A B B A a b a b a b ... a b
das Skalarprodukt derVektoren, nämlich
die Summe der Elemente des einen Vektors,
vor der Summierung gewichtet mit
den entsprechenden Elementen des anderen
Vektors.
Beispiel Korrelationskoeffizient
Der Schätzer r für den Produkt-Moment
Korrelatonskoeffizienten r ist eine Funktion
von fünf Skalarprodukten. Dabei ist 1
= [1,1,...,1] eine Liste der Länge k von
Einsen und X bzw. Y die k Meßwerte.
r
xy
Optimierung
T
k
i 1
i i 1 1 2 2
k k
T T T
k X Y X 1 Y 1
T T 2 T T 2
( k X X ( X 1) )( k Y Y ( Y 1) )
Optimierung erfordert eine mit den Rückschlußwahrscheinlichkeiten
p (k | v) gewichtete
Summation über die Spalten der
Kostenmatrix C.
p ( v) [ p (1 | v), p (2 | v),..., p ( k | v)]
R [ R (0), R (1),..., R ( k )]
T
R C p ( v)
T
T
R ist der Risikovektor.

Optimales Diagnosesystem
.
Einfache symmetrische Kostenmatrix
Bei einer größeren Anzahl von zu klassifizierenden
Fallgruppen und damit einer
ebensogroßen Zahl von möglichen Entscheidungen
führt der Ansatz einer einfachen
Symmetrischen Kostenmatrix zu erheblichen
Vereinfachungen im Ver-fahren.
Das Verteilungsgesetz
Über den merkmalserzeugenden Prozeß
{v,k} ist nicht mehr als Kenntnis der rückschlußwahrscheinlichkeiten
erforderlich,
nicht das vollständige Verteilungsgesetz p
(v,k ). Ist dies jedoch gegeben, können
daraus Rückschlußwahrscheinlich-keiten
abgeleitet werden:
p( v, k)
p ( k | v) , m it
p( v)
K
p ( v) p ( v, k )
k
Minimum und isotone Abbildung
1
Die Minimumsuche wird nicht beeinflußt,
wenn man alle Werte der gleichen isotonen
Transformation unterwirft, etwa mit p(v)
multipliziert. Man betrachtet anstelle des
Risikovektors R den Ausdruck
'
T
R p( v) * C p( v) C p ( v)
Dabei ist p‘(v) ein Vektor, der entsteht,
wenn man die Komponenten von p(v)
sämtlich mit p(v) multipliziert, der Auftretenswahrscheinlichkeit
von v. Während
p(v) die Rückschlußwahrscheinlichkeiten
von v auf k enthält, gibt p´(v) die entsprechenden
Verbundwahrscheinlichkeiten an.
Für die Bestimmung des Risikovektors
spielt der Unterschied keine Rolle.
T
'
C ( k , kˆ) C für kˆ
0,
r
0 für kˆ
0,
C für kˆ
0, kˆ
k .
f
Dabei sind Cr die Kosten für die Rückweisungsentscheidung.
Deshalb ist die
Matrix, genau betrachtet, nicht symmetrisch.
Das Risiko bei gegebener Entscheidung
lässt sich ausdrücken als
R ( e 0)
k
K
1
e 1
C
r
R ( e 0) C p ( k | v) C p ( k | v)
f
k 1 k e 1
Eine Vereinfachung ist möglich:
W egen p ( k | v ) 1 gilt
k
R ( e 0) C und
K
1
r
R ( e 0) C (1 p ( e | v))
f
Die Rückweisungsentscheidung
Praktisch wird zuerst die größte Rückschlußwahrscheinlichkeit
herausgesucht
K
f

und diese dann mit dem Schwellenwert b
verglichen.
1
C
C
Die Kosten für eine Zurückweisung müsen
daher > 0 sein und nicht größer als Cf.
Bayessche Regel
Die Bayessche Regel
p( k | v)
ist nichts anderes als die hier abgeleitete
Entscheidungsregel, nur um den die Entscheidung
nicht beeinflussenden Faktor
1/p(v) erweitert. Dadurch wird deutlich,
daß Risikominimierung als Erwartungsweertminimierung
auf die Anwendung der
Bayesschen Regel hinausläuft.
Entscheidungsregel
r
f
C
Die Entscheidungsregel lautet:
f
C
f
C
p( v | k ) p( k )
p( v)
p ( v | e) p ( e) k { p ( v | k ) p ( k )} und
m ax
p ( v | e) p ( e) p ( v)
r
Umgekehrt proportionale Kostenfunktion
Einheitliche Kostenfestsetzung führt dazu,
daß häufig eintretende Fälle sicherer klassifiziert
werden, als seltene Fälle. Beispiel:
p (1) = 0,01, p (2) = 0,99. Die Entscheidungsregel,
alle Fälle der Klasse 2 zuzuordnen,
garantiert eine Fehlerrate von
nur 1 %. Andererseits sollen, etwa bei Vorsorgeuntersuchungen,
gerade die seltenen
Fälle gefunden werden! Man setzt unter
solchen Umständen die Kosten der Fehlentscheidung
umgekehrt proportional zur
Auftretenswahrscheinlichkeit.
Berechnung des bedingten Risikos
R ( e 0) C p ( k | v)
Dieser Ausdruck läßt sich durch Einfügen
des fehlenden Terms k = e und anschließendem
Wiederabzuges rechnerisch vereinfachen:
Vereinfachung
Die Entscheidung bleibt dieselbe, wenn
man die bedingten Risiken R ausdrückt
durch
Das führt zum Minimumvergleich:
Gebiete
k
K
1
e 1
r
R ( e 0) C ( k ) p ( k | v) C ( k ) p ( k | v)
k
k 1 k e 1
K
R ( e 0) C ( k ) p( k | v) C ( e) p( e | v)
k
D C ( k ) p ( k | v)
R
k
K
1
k
w egen p ( k | v ) 1
k
K
1
1
k
D ( e 0) C ( k ) p ( k | v)
C
k
D ( e 0) C ( e) p ( e | v)
K
1
k
k
Bereits im Eindimensionalen, d. h. bei Berücksichtigung
nur eines einzigen Tests als
Symptom führt die entscheidungsregel zu
einer Zerlegung der Testergebnisse in
„Gebiete“ der Testwerte.
k
K
r
k
C ( k)
k
C
K p ( k )
f
Die Rückweisungskosten bleiben wie
sonst.

Das Gebiet Gk einer Klasse ist dadurch
definiert, daß die Unterscheidungsfunktion
Dk(v) alle anderen Unterscheidungsfunktionen
überragt.
f ( x, y )
Isodensiten
1
2 1
1 ( x )
x
exp{ [
2
2(1 )
x
y
x
2
2
2 ( x )( y )
x
1 2
( y )
y
y
2
]}
y
Der gesamte Merkmalsraum ist auf diese
Weise erfaßt. Es gibt keine natürlichen
Zurückweisungsgebiete.
Merkmalsverteilungen bekannt
Linien gleicher Wahrscheinlichkeitsdichte
heißen Isodensiten. Sie sind beim Vergleich
mehrerer Dichten zur Einteilung des
Symptombereichs in Gebiete ausschlaggebend.
Im Mehrdimensionalen, also bei der Verwendung
mehrerer Tests als Entscheidungsgrundlage,
gestalten sich die Verhältnisse
besonders übersichtlich, wenn die
Merkmalsverteilungen als bekannt vorausgesetzt
werden. Da viele Test-ergebnisse
stets sich unimodal und symmetrisch verteilen,
werden häufig normalverteilte
Merkmale vorausgesetzt. Wegen der Anschaulichkeit
sei die Darstellung hier zunächst
auf zwei zunächst standardnormalverteilte
Merk-male beschränkt,
1 1
2 2
f ( x, y ) exp{ [ x 2 x y y ]}
2
2
2 1
2(1 )
N-dimensionale Normalverteilung
Sind die Streuungen s ≠ 1, verändert sich
der Ausdruck zu
f ( x, y )
1
2 1
x
y
Nehmen schließlich die Erwartungswerte
Ausprägungen µ ≠ 0 an, so schlägt auch
dies sich in dem Ausdruck nieder:
2
2 2
1 x 2 xy y
exp{ [ ]}
2
2(1 )
x
1 2
y
Bei der Verwendung von mehr als zwei
Tests zur diagnostischen Entscheidungsfindung
ist unsere viuelle Anschauung
überfordert. Um dennoch die Übersicht zu
behalten, führt man Matrixschreibweise an.
Die fettgedruckten Buchstaben kennzeichnen
nun ganze Listen von Testergebnissen
mehrere Tests für alle in der
Validierungsstudie untersuchten Personen.
1 (v - μ) K (v - μ )
p ( v ) exp( )
N
(2 ) | K |
2
μ = E (v), K E{( v - μ) (v - μ )}
T
T -1

K ist die Kovarianzmatrix,. Sie ist quadratisch
und symmetrisch
Quadratische Formen
Quadratische Formen kommen in der Formel
der mehrdimensionalen Normalverteilung
vor. Sie sind es, die die Intensität (im
Ein- und Zweidimensionalen die Höhe) der
Dichte bestimmen. Der geometrische Ort
ihrer gleichen Ausprägung kennzeichnet
die Isodensiten, die für die Gebietsaufteilung
benötigt werden.
Q
T
a K a
Q wird nicht negativ, man sagt,
Q ist nicht-negativ definit.
Q definiert den Ort konstanter
Wahrscheinlichkeitsdichte
Matrizenrechnung
Matrizenrechnung behandelt die Arithmetik
ganzer Listen von Untersuchungsdaten
so, als ob es sich um einzelne Zahlen handeln
würde. Die praktischen Implikationen
des Verfahrens versteht besser, wer über
etwas Einsicht in die Struktur von Vektorräumen
verfügt.
Ein Vektorraum V = < , , > liegt vor,
wenn eine für eine Menge von Vektoren
(Listen von reellwertigen Eintragungen)
eine kommutative Addition definiert ist.
Weil die Untersuchungsergebnisse einzelner
Personen als solche Listen angesehne
werden können, die etwa bei der Mittelwertbildung
über die Personen addiert
werden, ist der Begriff des Vektorraumes
in der psychologischen Diagnostik leicht
anwendbar.
M : V V
M()
Varianz-Kovarianz-Matrizen
Von besonderem psychodiagnostischen
Interesse sind Varianz-Kovarianz-
Matrizen. Sie enthalten die Information
über den statistischen Zusammenhang von
Listen von Untersuchungsergebnissen, z.
B. von Tests.
Varianz-Kovarianzmatrizen sind Symmetrisch,
weil die Kovarianz von Test A und
Test B die gleiche ist, wie die von Test B
und Test A. Außerdem sind die auf der
Hauptdiagonalen eingetrageenen Varianzen
stets positiv. Dadurch sind diese Matrizen
spezielle Vektorraum-Homomorphismen.
Sie sind diagonalähnlich. Das
bedeutet, ihre Wirkung auf einen Vektor
kann – in einem geeigneten Koordinatensystem
- durch eine Diagonalmatrix beschrieben
werden, Diagonalmatrizen
enthalten nur auf der Hauptdiagonalen von
Null verschiedene Eintragungen. Ihre statistische
Interpretation ist die Varianz-
Kovarianz-Matrix von Untersuchungsergebnissen,
die paarweise nicht korrelieren,
weil sämtliche Kovarianzen verschwinden.
Paarweise unkorrelierte Größen
Für Varianz-Kovarianzmatrizen kann man
wegen ihrer Diagonalähnlichkeit deshalb
ein Bezugssystem finden in dem sämtliche
mittels der Ausgangsvariablen neu definierte
Größen unkorreliert sind. Ein einfaches
Beispiel ist die 2 x 2 Matrix der Korrelation
von Zeit und Fehlern in einem
Geschicklichkeitstest, z. B. Springreiten.
Wirklich zum Tragen kommt diese Theorie,
wen es um Matrizen M geht, das sind
Listen von Listen Sie werden als Vektorraum-Homomorphismen
angesehen, weil
sie auf Vektoren operieren und aus ihnen
neue Vektoren erzeugen:

Merkmale. Wie Zeit und Fehler ausgedrückt
sind, lassen sich nicht in eine mit
irgendeiner arithmetischen Operation verträglichen
Rangreihe bilden. Rangreihen
von Personen sind aber ein Hauptziel der
psychologischen Diagnostik. Deshalb ordnet
man nun die neue Variable Zeit + Fehler
und bezeichnet sie als Geschicklichkeit.
Die andere davon unabhängige Variable
Zeit – Fehler vernachlässigt man als irrelevant.
Faktorenanalyse
Abb.: Zeit (Abszisse) und Fehler (Ordinate)
korrelieren negativ. Durch Drehung der
Achsen mit Winkel 45° um das Zentroid
entstehen Linearkombinationen Zeit + Fehler
und Zeit – Fehler als neue, nun stochastisch
unabhängige Bezugsgrößen. Approximiert
man die Informationen nur durch
eine von ihnen (Zeit + Fehler) so lassen
sich die Probanden sinnvoll, nämlich nach
Geschicklichkeit rangordnen.
Eine Beschreibung der in der Varianz-
Kovarianz-Matrix enthaltenen Information
durch eine Diagonalmatrix erhält man graphisch
auf einfache Weise: Man verlegt
den Ursprung des Korrelationsdiagramms
in den Ort der Mittelwerte von Zeit und
Fehlern (das Zentroid). Dann dreht man
das neue Koordinatensystem um 45° gegen
den Uhrzeiger. Nun staucht man in diesen
neuen Koordinaten die Achsenmaßstäbe
auf die Länge Eins (dividiert durch die
Länge der Halbachsen der isodensen Ellipse).
Die Ellipse wird dadurch zum Kreis.
Kreisförmige Isodensiten stehen für das
Fehlen einer Korrelation. In dem neuen
(gedrehten) Koordinatensystem korrelieren
die (neuen) Variablen also nicht. Die Information
die sie vermitteln ist nicht mehr
redundant.
Ermöglichung von Rangordnung
Der Zweck der Umformung besteht darin,
die Untersuchungsergebnisse brauchbarer
zu machen. Leistungen, die durch zwei
Daß die neuen Variablen Linearkombinationen
der alten sind, ist kennzeichnend für
das Verfahren. Es ist Ausdruck des Umstandes,
daß das gesuchte Koordinatensystem
für statistisch unabhängige Größen aus
dem gegebenen allein durch Drehung hervorgeht.
Nur unter dieser Einschränkung
ist das Problem auch rechnerisch als so
genannte Eigenwertlösung zu bewältigen.
In der Psychologie heißt die Annäherung
der Information einer bestimmten Anzahl
von Untersuchungsergebnissen durch eine
geringere Anzahl Faktorenanalyse.
Quadratische Formen
Q
T
a K a
Die Größe Q im Exponenten der multivariaten
Normalverteilung wird nicht negativ,
man sagt, Q ist nicht-negativ definit. Q
definiert den Ort konstanter Wahrscheinlichkeitsdichte.
Im Zweidimensionalen ist
das eine Ellipse, im Dreidimensionalen
eine Ellipsoid und in –nicht mehr anschaulich
darstellbaren – höheren Dimensionen
ein Hyperellipsoid.
Orientierung der Ellipsen
Die Lösung des Gleichungssystems
[ K - I] b = 0
ergibt die Längen der Halbachsen und
die Matrix der b, der Tansformation auf
diese „Hauptachsen“. Man nennt die

„Eigenwerte“ und die b die „Eigenvektoren“
der Korrelationsmatrix K. I ist eine
DiagonalMatrix mit lauter Einsen auf der
Hauptdiagonalen.
Eigenwertproblem algebraisch
Die Gleichung
[ K - I]
b = 0
hat für b nur dann eine nichttriviale Lösung,
wenn die Matrix in der Klammer
singulär ist, d. h. eine Determinante von
Null besitzt. Dadurch sind die bestimmt.
Nun können die b berechnet werden.
Eigenwertproblem geometrisch
Testwerte und Kovarianzmatrizen
Der Zusammenhang wird besonders deutlich,
wenn man auf Erwartungswert Null
umgerechnete Testwerte betrachtet: In der
Definition der Kovarianz
cov(x,y) = E(X*Y) - E(X)*E(Y)
wird nun der hintere Term gleich Null.
Testwerte und Korrelationsmatrizen
Normiert man die Testwerte außerdem auf
Varianzen von Eins, so sind bereits die
Kovarianzen identisch mit den Korrelationskoeffizienten.
Das ist zulässig, weil die
Varianz in der Normalverteilung nichts
anderes als ein Maßstabsfaktor ist. Ist X
die n x k Matrix der Testwerte, so ist unter
diesen Umständen die Schätzung der Kovarianzmatrix
S = X‘ X gegeben, also
durch ein einziges Matrixprodukt. Die
Matrix S ist symmetrisch.
Diagonalähnlichkeit
Faktorenanalyse
Die Information, die in einer Varianz-
Kovarianzmatrix bzw. einer Korrelationsmatrix
steckt, ist direkt nur schwer zu entnehmen.
Wegen der ‚positive manifold‘
hängen normalerweise alle psychologischen
Größen untereinander zusammen.
Geometrisch betrachtet hat man stets
schiefwinklige Koordinatensysteme vor
sich, die eine Orientierung erschweren.
Faktoranalyse findet ein passendes rechtwinkliges
Koordinatensystem und zeigt,
wie man dessen Achsen interpretieren
kann.
Eine symmetrische Matrix ist diagonalähnlich,
wenn eine Koordinatentransformation
für die Größen, z. B. Tests ausführbar
ist, nach deren Anwendung nur
unkorrelierte Werte auftreten. Für je zwei
korrelierende Zufallsgrößen lassen sich
Linearkombinationen der beiden finden,
die unkorreliert sind. Geometrisch wird die
gegebene elliptische Isodensite dadurch in
dem neuen Koordinatensystem zum Kreis.
Begriffserklärung
Der Begriff „diagonalähnlich“ rührt daher,
daß für sämtlich paarweise unkorrelierte
Größen die Kovarianzmatrix eine Diagonalmatrix
ist. Die Algebra lehrt, daß für
symmetrische reellwertige Matrizen mit
posotiven Eintragungen auf der Hauptdiagonalen
die gesuchte Transformation der
Kovarianzmatrix auf Diagonalform stets
existiert. Die Eintragungen in der Diagonalmatrix
heißen Eigenwerte der Kovarianzmatrix,
die Transformationen des

Koordinatensystems heißen Eigenvektoren.
Die gewünschte Rangreihe lässt sich jetzt
(eindimensional) nach Zeit + Fehler erstel-
1 .7 .5 .644 .751 -.142 2.01 len 0 und 0 als „Geschicklichkeit“ .664 .587 .490 interpretie
.7 1 .3 .587 -.605 -.537 0 .261 0 .751 .605 .263
.5 .3 1 .490 -.263 .831 0 0 .721 .142 .537 .831
Praktische Durchführung
Die Berechnung der Matrix der Eigenvektoren
E und der Eigenwerte Λ ist recht
aufwendig. Seit uns Expertensysteme wie
Maple oder Mathematica zur Verfügung
stehen, erfordert die Berechnung nur die
Eingabe eines einzigen Befehls „Eigenvalues(Σ)“Er
zerlegt die Kovarianzmatrix Σ
Σ = E . Λ . E´
Das einfachste Beispiel
Im universellen psychologischen Beispiel
einer Testleistung, die nach „Zeit“ und
„Fehler“ bewertet wird, lässt sich zunächst
wegen der Mehrdimensionalität des Ergebnisses
keine Rangreihe der Leistungen
der Versuchspersonen herstellen. Eine Eigenwertanalyse
ergibt bei gegebener Korrelationsnmatrix
von Zeit und Fehlern Σ :
G egeben
1
1
1 1 1 1
1 0
2 2 2 2
1 1 0 1 1 1
2 2 2 2
Die Transformation mittels E
1 1
2 2 1
x y x y x y
1 1 2
2 2
ren. Die andere neue Dimension Zeit –
Fehler wird vernachlässigt, weil sie als
irrelevant angesehen wird.
Drei Dimensionen
Auch hier bewirkt die Transformationsmatrix
Drehungen, diesmal aber solche um
die drei Achsen im Raum.
Räumliche Interpretation
Man kann die Transformationsmatrix nach
den drei Winkeln auflösen und erhält 42°,
17° und 29°. Nach der Formel für die multivariate
Normalverteilung (Folie 65) kann
man eine räumliche Darstellung zeichnen:
Klassenweise normalverteilte Merkmale
besitzen fallgruppenspezifische Erwartungswertvektoren
und ebenso fallgruppenspezifische
Kovarianzmatrizen. Bei
einfacher symmetrischer Kostenfunktion
wird nun die Unterscheidungsfunktion
Dk(v)=p(k)p(v|k)
für jede Ort und jede Fallgruppe berechnet
und von diesen das Maximum gesucht.
Dadurch ergibt sich eine Gebietseinteilung.
Gebietsgrenzen
sind dort gegeben, wo gilt Dk (v)=Dj(v).
läuft hier auf eine Drehung des Bezugssystems
um 45° hinaus, denn die neuen Achsen
sind y – x = const. bzw. x+y = const.

Quadratischer Klassifikator
Im Zweidimensionalen sind die Trennlinien
Kurven zweiten Grades, also Parabeln,
Ellipsen oder Hyperbeln. Im Grenzfalle
können auch Geraden auftreten.
g
Der Maximumvergleich wird durch monotone
Transformationen nicht gestört. Deshalb
logarithmiert man die Formel der n-
dimensionalen Normalverteilung und erhält
eine einfachere Entscheidungsfunktion:
1 1
T -1
D ( v ) ln( p ) ln | K | [( v - μ ) K (v - μ )]
k
k
k k k k
2 2
Bestimmung der Grenzen
Setzt man in die Gleichung Dk(v)=Dj(v)
ein und erweitert mit dem Faktor 2, so
erhält man die Gleichung der Grenzfläche
gjk(v)=0:
| K | p
k
k
T -1
ln 2 ln ( v μ ) K (v μ )
| K | p
kj k k k
T -1
)
j j j ).
( v-μ K (v - μ
j
Diese Differenz von quadratischen Formen
läßt sich selbst als quadratische Form
schreiben:
T 1
0 0 0
g g ( v v ) M ( v v )
kj
Dabei bedeuten g0, v0 und M
j
Zuordnung der Fälle zu den Fallgruppen
Die Zuordnung geschieht durch Berechnung
der Wahrscheinlichkeitsdichten am
Ort des zu klassifizierenden Falles für alle
Fallgruppen und Auswahl der Fallgruppe,
bei der diese Dichte am größten ist. Dabei
vereinfachen sich die Berechnungen, wenn
die Varianz-Kovarianzmatrizen für alle
Fallgruppen gleich sind.
Validität
Die Bestimmung der Verschiedenheit von
Fallgruppen. Klassifikation setzt voraus,
daß sich die anfallenden Fälle tatsächlich
nachweislich verschiedenen Fallgruppen
zuordnen lassen. Diese Unterscheidung ist
uns im eindimensionalen Falle, d. h. bei
Verwendung eines einzigen Tests oder
sonstigen Merkmals als Varianzanalyse
geläufig.
Abhängige und unabhängige Zufallsgrößen
Die für Korrelationsmatrizen Σ stets mögliche
Umformung T auf eine Diagonalmatrix
Λ
Läßt sich umkehren
T´ Σ T = Λ
Σ = T Λ T´
wenn man von einer Korrelationsmatrix Λ
unkorrelierter Zufallsgrößen ausgeht, wie
sie Zufallszahlengenaratoren benutzen.
Durch geeignte Wahl von T können Zufallsgrößen
mit vorgegebener Interkorrelation
erzeugt werden.

Erzeugung von korrelierten (Pseudo-
)Daten
Man zieht zunächst mittels eines Zufallsgenerators
unabhängige Reihen von Zufallszahlen
und transformiert sie dann mit
der auf der vorigen Folie beschriebenen
Transformation T auf Zufallszahlenreihen
mit den gewünschten korrelativen Zusammenhängen.
Die Trennlinie der beiden Verteilungen ist
durch die Linie gleicher Dichte definiert.
Beispiel, Eysenck, 1959
Varianzanalyse
Dysthymiker- und Psychosomatiker-
Pseudodaten, auf Grund der Stichprobenparameter
erzeugt.
Verteilungsdichten
Validitätsfragen im Zusammenhang der
Klassifikation werden meist varianzanalytiscvh
behandelt. Geprüft wird die Nullhypothese,
nach der sämtliche Stichproben
aus einer einzigen Fallgruppe stammen.
R.A. Fisher hat gezeigt, daß unter diesen
Umständen zwei unabhängige Schätzungen
der gleichen Varianz existieren. Eine
Schätzung die Varianz greift auf die Varianzen
der verschiedenen Stichproben
zurück, die andere auf die Varianz der
Stichprobenmittelwerte.
Voraussetzungen
Der Zusammenhang zwischen Varianz und
Standardfehler des Stichprobenmittels besteht
nur bei Normalverteilung des Merkmals.
Daher die Voraussetzung der Normalität.
Diese Voraussetzung wird außerdem
bemüht, wenn die Prüfgrößen der Quadratsummen
„zwischen“ und „innerhalb“
(beide Chi-Quadrat) in das F-Verhältnis
gesetzt werden, weil nur Summen standardnormalverteilter
Quadrierte Zufallsgrößen
chiquadrat-verteilt sind.

Die Mächtigkeit (Power) eines statistischen
Tests
Vier Größen hängen bei statistischen Tests
zusammen: Effektgröße , Wahrscheinlichkeit
des Fehlers der ersten Art ,
Wahrscheinlichkeit des Fehlers der zweiten
Art und Stichprobengröße N.
Ein Beispiel aus der Klassifikation kann
diesen Zusammenhang veranschaulichen
(vgl. Maple-Skript).
Statistische Weiterungen
Falls die Varianz-Kovarianzmatrizen nicht
gleich sind, müssen weiterreichende statistische
Prüfungen der Differenz der Mittelwerts-Vektoren
angestellt werden, die z.
B. in Tatsuoka, beschrieben sind.
Signifikanz der Abweichung einer einzigen
Fallgruppe von μ0
ei bei bekannter Varianz-Kovarianz-Matrix
Σ ist für p Merkmale und N Versuchspersonen
die Prüfgröße
T 1
0 0
N ( X ) ( X ) verteilt
2
p
w ie (1 )
Bei zu schätzender Varianz-
Kovarianzmatrix S
Hier ist die Prüfgröße
T 1
S X - μ
0 0
N ( N 1)( X-μ ) ( )
verteilt wie
p( N 1)
F
( N p)
p
N p
Vergleich von zwei Stichproben
Vergleich von mehreren Stichproben
Wilks Kriterium
Die Prüfgröße ist Λ . Bartlett(1947) hat
gezeigt, daß
V = [ N – 1 - ( p + K ) / 2 ] log (Λ)
angenähert Chi-Quadrat-verteilt ist, mit p *
(K-1) Freiheitsgraden. Dabei ist N die Anzahl
der Versuchspersonen, p die Anzahl
der Tests und K die Anzahl der (mutmaßlichen)
Fallgruppen.
(Wird fortgesetzt).
Literatur
Anderson, T. W.,1958 : An Introduction to
Multivariate Statistical Analysis, New
York, Wiley
Schürmann, J., 1977. Polynom Klassifikatoren
für Zeichenerkennung, Ansatz Adaption,
Anwendung. München: Oldenbourg
Tatsuoka, M.,M.,1971, Multivaariate
Analysis, Techniques for Educational and
Psychological Research, New York,
Wiley.
ist mit W der „within“ Schätzung der Varianz-Kovarianz-Matrix
die Prüfgröße
n n ( n n 2) (1) (2) (1) (2)
1 2 1 2
T -1
( X - X ) W ( X - X )
n n
1 2
1 2
verteilt w ie
(n n 2) p
1 2 F
n n p 1
p
n1 n2
p 1