Hirn-Computer-Interface
Hirn-Computer-Interface Hirn-Computer-Interface
Dr. Andrea Kübler Jürgen Mellinger Institut für Medizinische Psychologie und Verhaltensneurobiologie Prof. Dr. Niels Birbaumer Wadsworth Center, Albany, USA Theresa Vaughan Dr. Jon Wolpaw Miguel Jordan Ursula Mochty Tamara Matuz Eric Sellers Gerwin Schalk Barbara Wilhelm Slavica von Hartlieb and all patients… Dr. D. McFarland
- Page 2 and 3: Gehirn-Computer Schnittstelle Brain
- Page 5 and 6: Messen des EEG 16 channels Band pas
- Page 7 and 8: imagined finger movement imagined t
- Page 9 and 10: TTD_short.AVI
- Page 11 and 12: Mü-Rhythmus Patient has to modify
- Page 13 and 14: mu training nice.AVI
- Page 15: P300 - eine Reaktion auf Bedeutsamk
- Page 18 and 19: Fear of Imcompetence Fear Score 7 5
- Page 20 and 21: Patient A 7,1 90 7 80 Challenge Sco
- Page 22 and 23: imagined finger movement imagined t
- Page 24 and 25: ECoG Implantation
- Page 26 and 27: ECoG : Vorläufige Ergebnisse Bishe
- Page 28 and 29: Communication with pH modulation Pa
- Page 30 and 31: Das Locked-in-Syndrom Ursachen •
- Page 32 and 33: Mensch steuert FES Video Tom mit Gr
Dr. Andrea Kübler<br />
Jürgen Mellinger<br />
Institut für Medizinische<br />
Psychologie und<br />
Verhaltensneurobiologie<br />
Prof. Dr.<br />
Niels<br />
Birbaumer<br />
Wadsworth Center,<br />
Albany, USA<br />
Theresa Vaughan<br />
Dr. Jon Wolpaw<br />
Miguel Jordan<br />
Ursula Mochty Tamara Matuz Eric Sellers<br />
Gerwin Schalk<br />
Barbara Wilhelm<br />
Slavica von Hartlieb<br />
and all patients…<br />
Dr. D. McFarland
Gehirn-<strong>Computer</strong> Schnittstelle<br />
Brain-<strong>Computer</strong> <strong>Interface</strong> (BCI)<br />
Definition<br />
• Ein Steuerungssystem, das keine peripheren<br />
Nerven und Muskeln einsetzt<br />
• Nachrichten werden durch die elektrischen Signale<br />
des Gehirns übermittelt
Das grundlegende Prinzip<br />
• Interaktion dreier anpassungsfähiger<br />
Steuerungseinheiten: die Benutzer, die Schnittstelle<br />
und die Anwendung<br />
• Die Benutzer produzieren Signale, in denen die<br />
Nachricht verschlüsselt ist<br />
• Die Schnittstelle verwandelt diese Signale in<br />
Befehle zur Anwendungssteuerung<br />
• Der BCI Gebrauch ist eine Fähigkeit, die die<br />
Benutzer und die Schnittstelle bewältigen und<br />
aufrechterhalten müssen
Messen des EEG<br />
16 channels<br />
Band pass – filtered: 0.01-70 HZ
Selbstkontrolle des EEGs<br />
Bedingungen<br />
• 1. Echtzeit-Feedback des EEG-Signals<br />
• 2. Belohnung richtiger Antworten<br />
sehr<br />
gut!
imagined finger<br />
movement<br />
imagined tongue<br />
movement<br />
electrocorticogram<br />
single neuron<br />
firing rate<br />
invasive<br />
Types of BCIs<br />
Sensorimotor<br />
rhythm<br />
.....<br />
non-invasive<br />
Amplitude [µV]<br />
bottom target<br />
Frequency [Hz]<br />
top target<br />
on off on off on<br />
P300<br />
Amplitude [µV]<br />
-20<br />
-10<br />
0<br />
10<br />
20<br />
slow cortical potentials<br />
A....M<br />
N....Z<br />
30<br />
0 1 2 3 4 5<br />
Zeit [s]<br />
37
Brain-<strong>Computer</strong> <strong>Interface</strong><br />
Langsame kortikale<br />
Potentialverschiebungen<br />
(slow cortical potentials, SCP)<br />
• Kortikale<br />
Spannungsveränderungen im<br />
Bereich von 100ms bis zu<br />
mehreren Sekunden<br />
• Langsamer als die sonstigen EEG<br />
Rhythmen<br />
• Ihre Amplitude wird in erster Linie<br />
bestimmt durch die<br />
psychologischen Eigenschaften des<br />
Stimulusmaterials<br />
• Stellen kortikale Resourcen zur<br />
Verfügung
TTD_short.AVI
imagined finger<br />
movement<br />
imagined tongue<br />
movement<br />
electrocorticogram<br />
single neuron<br />
firing rate<br />
invasive<br />
Types of BCIs<br />
Sensorimotor<br />
rhythm<br />
.....<br />
non-invasive<br />
Amplitude [µV]<br />
bottom target<br />
Frequency [Hz]<br />
top target<br />
on off on off on<br />
P300<br />
Amplitude [µV]<br />
-20<br />
-10<br />
0<br />
10<br />
20<br />
slow cortical potentials<br />
A....M<br />
N....Z<br />
30<br />
0 1 2 3 4 5<br />
Zeit [s]<br />
37
Mü-Rhythmus<br />
Patient has to modify the<br />
amplitude of a SMR rhythm:<br />
This can be done by<br />
imagination of movement<br />
e.g. imagination of kicking with<br />
feet
Mü-Rhythmus<br />
• 8-12 Hz Aktivität über<br />
sensomotorischen<br />
Arealen während<br />
Entspannung<br />
• Arkadenförmig<br />
• Verschwindet bei<br />
Bewegung und bei<br />
Bewegungsvorstellung
mu training nice.AVI
imagined finger<br />
movement<br />
imagined tongue<br />
movement<br />
electrocorticogram<br />
single neuron<br />
firing rate<br />
invasive<br />
Types of BCIs<br />
Sensorimotor<br />
rhythm<br />
.....<br />
non-invasive<br />
Amplitude [µV]<br />
bottom target<br />
Frequency [Hz]<br />
top target<br />
on off on off on<br />
P300<br />
Amplitude [µV]<br />
-20<br />
-10<br />
0<br />
10<br />
20<br />
slow cortical potentials<br />
A....M<br />
N....Z<br />
30<br />
0 1 2 3 4 5<br />
Zeit [s]<br />
37
P300 – eine Reaktion auf Bedeutsamkeit
Psychologische Faktoren und der<br />
Gebrauch von BCI<br />
BCI<br />
Stimmung<br />
Motivation<br />
Lernen!<br />
? Benutzer<br />
Anwendung
Fear of Imcompetence<br />
Fear Score<br />
7<br />
5<br />
3<br />
Fear of Incompetance during SMR training<br />
1<br />
1 5 9 13 17<br />
Sessions
Accuracy (%)<br />
90<br />
80<br />
70<br />
60<br />
50<br />
40<br />
30<br />
20<br />
10<br />
0<br />
Accuracy (%)<br />
Incompetence Fear<br />
3.5<br />
3<br />
2.5<br />
2<br />
1.5<br />
1<br />
0.5<br />
0<br />
Fear Score<br />
1 5 9<br />
Session
Patient A<br />
7,1<br />
90<br />
7<br />
80<br />
Challenge Score<br />
6,9<br />
6,8<br />
6,7<br />
6,6<br />
6,5<br />
6,4<br />
6,3<br />
6,2<br />
Challenge<br />
Performance<br />
1 5 9 13 17<br />
70<br />
60<br />
50<br />
40<br />
30<br />
20<br />
10<br />
0<br />
Accuracy (%)<br />
Session
90<br />
7<br />
Accuracy (%)<br />
80<br />
70<br />
60<br />
50<br />
40<br />
30<br />
20<br />
10<br />
0<br />
Accuracy (%)<br />
interest<br />
6<br />
5<br />
4<br />
3<br />
2<br />
1<br />
0<br />
Interest Score<br />
1 5 9 13 17<br />
Session<br />
Patient D während Mü-Training
imagined finger<br />
movement<br />
imagined tongue<br />
movement<br />
electrocorticogram<br />
single neuron<br />
firing rate<br />
invasive<br />
Types of BCIs<br />
Sensorimotor<br />
rhythm<br />
.....<br />
non-invasive<br />
Amplitude [µV]<br />
bottom target<br />
Frequency [Hz]<br />
top target<br />
on off on off on<br />
P300<br />
Amplitude [µV]<br />
-20<br />
-10<br />
0<br />
10<br />
20<br />
slow cortical potentials<br />
A....M<br />
N....Z<br />
30<br />
0 1 2 3 4 5<br />
Zeit [s]<br />
37
Versuche mit Tieren<br />
Aktivität im<br />
motorischen<br />
Cortex der Ratte<br />
ersetzt<br />
tatsächliche<br />
Bewegung --<br />
"Gedanke" an<br />
Hebeldruck reicht<br />
(Chapin et al. 1999)
ECoG Implantation
ECoG in a locked-in patient
ECoG : Vorläufige Ergebnisse<br />
Bisher wurde BCI-Training bei 5 Epilepsiepatienten<br />
und einer vollständig gelähmten Patientin<br />
durchgeführt<br />
Der Fortschritt der Leistung und die<br />
Signalübertragungsrate sind generell<br />
NICHT besser als mit EEG
Communication with pH modulation<br />
Fig.1 pH electrode placed in the oral cavity inside the sulcus<br />
between check and teeth.<br />
Fig.2 pH electrode and digital pH meter
Communication with pH modulation<br />
Patient A<br />
0,20<br />
0,16<br />
***<br />
with imagery of lemon<br />
with imagery of milk<br />
Patient A<br />
Imagery of lemon<br />
Imagery of milk<br />
Salivary pH changes<br />
0,12<br />
0,08<br />
0,04<br />
0,00<br />
-0,04<br />
-0,08<br />
***<br />
Accuracy (%)<br />
100<br />
95<br />
90<br />
85<br />
80<br />
75<br />
70<br />
-0,12<br />
65<br />
-0,16<br />
1 2 3 4 5 6<br />
Sessions<br />
-0,20<br />
"Yes" Question<br />
(n=18)<br />
"No" Question<br />
(n=18)<br />
Agreement<br />
(n=18)<br />
Disagreement<br />
(n=18)<br />
Task
Wozu das eigentlich?<br />
1 Kommunikation für Gelähmte<br />
2 Prosthetik<br />
3 .......?????<br />
4 just for fun!
Das Locked-in-Syndrom<br />
Ursachen<br />
• Degenerative neurologische Erkrankungen wie<br />
Amyotrophe Lateralsklerose (ALS)<br />
• Schlaganfall<br />
• Schädel-<strong>Hirn</strong>-Traumata<br />
• Infantile Zerebralparese
Die längste Nachricht,<br />
die mit bloßem <strong>Hirn</strong> geschrieben wurde<br />
Neumann et al., Neuropsychologia, 2003
Mensch steuert FES<br />
Video<br />
Tom mit Graz BCI
BCI macht Spaß?