Evaluation in der deutschen Entwicklungszusammenarbeit - HWWI
Evaluation in der deutschen Entwicklungszusammenarbeit - HWWI Evaluation in der deutschen Entwicklungszusammenarbeit - HWWI
Hintergrund und Ziele der Untersuchung 51 Beobachtung und aussagekräftigen Berichterstattung über die Wirkung der Entwicklungszusammenarbeit“ verfügt (DAC 2005: 81). Die Diskussion um adäquate Untersuchungsansätze für die Messung und Erklärung von Wirkungen der EZ hat auch in Deutschland begonnen. Das BMZ und verschiedene EZ-Organisationen (z.B. GTZ, KfW, DWHH und Misereor) bemühen sich um die Entwicklung und Anwendung robuster Evaluationsansätze für Wirkungsanalysen. Diese Ansätze dürften es in Deutschland nach wie vor schwer haben sich durchzusetzen. Zum einen weil solche Studien, da sie deutlich aufwendiger sind, mehr kosten als die bisherigen Evaluationen. Zum anderen weil „Rigorous Impact Evaluations“ immer mit dem Einsatz quantitativer Methoden (wenn natürlich nicht ausschließlich!) einhergehen. Viele EZ-Organisationen wenden jedoch – auch für Wirkungsevaluationen – nur partizipative qualitative Methoden an. Diese sind jedoch – auch ein Ergebnis der oben beschriebenen Auswertung vorliegender Studien – hierfür kaum geeignet. Impact Evaluationen ohne systematische Befragung der Zielgruppe werden einheitlich nicht mehr als ausreichend angesehen. Einige Gespräche mit Zielgruppenvertretern im Rahmen von Vor-Ort Besuchen genügen nicht: „It is all too common-place to restrict data collection to key informant interviews and perhaps a few focus groups“ (White 2006a: 20). Hier ist in Deutschland noch ein erheblicher Diskussionsbedarf zu erkennen, um Anschluss an die internationale Methodenentwicklung im Bereich Rigorous Impact Evaluations zu finden. Dabei ist es keinesfalls erforderlich, darunter nur statistischökonometrisch basierte Methoden zu verstehen. Die empirische Sozialforschung bietet eine Vielfalt von Untersuchungsdesigns für die Evaluation von Wirkungen an (vgl. die vergleichenden Ausführungen von Stockmann (2006: 224ff.) hierzu). Darüber hinaus ist zu bedenken, dass eine noch so akkurate Wirkungserfassung (what difference did this program make?) noch keine Antwort auf die Frage liefert warum eine Maßnahme unter welchen Bedingungen Wirkungen entfaltet hat (what works, under what conditions?). Hierfür ist neben einem adäquaten Untersuchungsdesign die vorherige Aufstellung von Ursache-Wirkungs-Hypothesen notwendig. Die von der GTZ im Rahmen von AURA entwickelten Wirkungsketten reichen für diesen Zweck nicht aus, da sie keine Aussagen über die zugrundeliegenden Hypothesen, also die theoretisch vermuteten Wirkungszusammenhänge liefern. Ohne programmtheoretische Unterfütterung kann jedoch kaum ein adäquates Untersuchungsdesign für die Wirkungsanalyse entwickelt werden. Deshalb dürfte sich der Evaluationsansatz für Wirkungsanalysen der Zukunft vor allem durch die Ableitung von vermuteten Ursache-Wirkungsbeziehungen und ihrer adäquaten empirischen Überprüfung auszeichnen. 1.6 Ziel der Untersuchung Vor dem Hintergrund der letzten Systemprüfungen und der beschriebenen Entwicklungen hat das BMZ Ende 2006 beschlossen, eine erneute Systemprüfung in Auftrag zu geben. Ziel der Untersuchung sollte es sein zu überprüfen, ob das Evaluationssystem der bilateralen deutschen EZ unter strategisch-konzeptionellen, organisatorischen, Management- und methodischen Gesichtspunkten den an die Evaluationen heute zu stellenden Ansprüchen adäquat Rechnung trägt (vgl. Anhang 1). Als Referenz für die Beurteilung sollten insbesondere die OECD/DAC-Prinzipien, -Kriterien und -Standards für gute Evaluation, die Bundeshaushaltsordnung und die einschlägigen Verwaltungsvorschriften
52 Axel Borrmann & Reinhard Stockmann zur Erfolgskontrolle sowie die DeGEval-Standards herangezogen werden. Zu überprüfen war insbesondere, ob und wie die deutschen EZ-Organisationen die in der letzten Systemprüfungen angemahnten Reformen aufgegriffen und umgesetzt und sich an das veränderte nationale und internationale Umfeld angepasst haben. Ferner sollte den Aspekten der Arbeitsteilung und Zusammenarbeit im deutschen Evaluierungssystem, der internationalen Kooperation, der Einbindung der Evaluierung in umfassende Systeme des Qualitäts- und Wissensmanagement sowie Fragen der Wirksamkeit und der Qualität des Evaluierungsmanagements besondere Aufmerksamkeit gewidmet werden. Auf der Grundlage einer umfassenden Bestandsaufnahme sollte die Untersuchung schließlich Empfehlungen für die künftige Weiterentwicklung des Systems entwickeln und dabei die aktuellen Überlegungen zur zukünftigen Gestaltung der Durchführungsstrukturen im Bereich der staatlichen bilateralen Entwicklungszusammenarbeit berücksichtigen. Direkte Nutzer der Untersuchung sollen die Entscheidungsträger im Management des BMZ und der übrigen deutschen EZ-Organisationen sowie die Mitarbeiter der Evaluationseinheiten der EZ-Organisationen sein. Darüber hinaus erwartet das BMZ, dass die Ergebnisse der Systemprüfung auch für die operativ tätigen Mitarbeiterinnen und Mitarbeiter sowie die interessierte nationale und internationale Öffentlichkeit von Relevanz sein werden. Es ist ausdrücklich darauf hinzuweisen, dass die vorliegende Untersuchung die Prüfung der Systemeigenschaften zum Gegenstand hat, nicht jedoch eine Evaluation des Erfolgs der EZ-Aktivitäten der untersuchten Organisationen, auch nicht eine durchgängige Prüfung der Qualität der Evaluationsberichte darstellt.
- Seite 2 und 3: Evaluation in der deutschen Entwick
- Seite 4 und 5: Axel Borrmann Reinhard Stockmann Ev
- Seite 6 und 7: Vorwort Evaluation in der Entwicklu
- Seite 8 und 9: Inhaltsübersicht Band 1: Systemana
- Seite 10 und 11: Inhalt Abkürzungsverzeichnis......
- Seite 12: 4 Die Qualität der Evaluationssyst
- Seite 15 und 16: 14 HIPC Heavily Indebted Poor Count
- Seite 18 und 19: Zusammenfassung 17 0 Zusammenfassun
- Seite 20 und 21: Zusammenfassung 19 Evaluationspraxi
- Seite 22 und 23: Zusammenfassung 21 Nützlichkeit In
- Seite 24 und 25: Zusammenfassung 23 ein hohes Kompet
- Seite 26 und 27: Zusammenfassung 25 Organisationen,
- Seite 28 und 29: Zusammenfassung 27 Um die Unabhäng
- Seite 30 und 31: Zusammenfassung 29 Robuste Methoden
- Seite 32 und 33: Hintergrund und Ziele der Untersuch
- Seite 34 und 35: Hintergrund und Ziele der Untersuch
- Seite 36 und 37: Hintergrund und Ziele der Untersuch
- Seite 38 und 39: Hintergrund und Ziele der Untersuch
- Seite 40 und 41: Hintergrund und Ziele der Untersuch
- Seite 42 und 43: Hintergrund und Ziele der Untersuch
- Seite 44 und 45: Hintergrund und Ziele der Untersuch
- Seite 46 und 47: Hintergrund und Ziele der Untersuch
- Seite 48 und 49: Hintergrund und Ziele der Untersuch
- Seite 50 und 51: Hintergrund und Ziele der Untersuch
- Seite 54 und 55: Untersuchungsdesign 53 2 Untersuchu
- Seite 56 und 57: Untersuchungsdesign 55 2.2 Untersuc
- Seite 58 und 59: Untersuchungsdesign 57 Nur sieben d
- Seite 60 und 61: Untersuchungsdesign 59 Für diese E
- Seite 62 und 63: Untersuchungsdesign 61 2.5 Gutachte
- Seite 64: Untersuchungsdesign 63 Ein besonder
- Seite 67 und 68: 66 Axel Borrmann & Reinhard Stockma
- Seite 69 und 70: 68 Axel Borrmann & Reinhard Stockma
- Seite 71 und 72: 70 Axel Borrmann & Reinhard Stockma
- Seite 73 und 74: 72 Axel Borrmann & Reinhard Stockma
- Seite 75 und 76: 74 Axel Borrmann & Reinhard Stockma
- Seite 77 und 78: 76 Axel Borrmann & Reinhard Stockma
- Seite 79 und 80: 78 Axel Borrmann & Reinhard Stockma
- Seite 81 und 82: 80 Axel Borrmann & Reinhard Stockma
- Seite 83 und 84: 82 Axel Borrmann & Reinhard Stockma
- Seite 85 und 86: 84 Axel Borrmann & Reinhard Stockma
- Seite 87 und 88: 86 Axel Borrmann & Reinhard Stockma
- Seite 89 und 90: 88 Axel Borrmann & Reinhard Stockma
- Seite 91 und 92: 90 Axel Borrmann & Reinhard Stockma
- Seite 93 und 94: 92 Axel Borrmann & Reinhard Stockma
- Seite 95 und 96: 94 Axel Borrmann & Reinhard Stockma
- Seite 97 und 98: 96 Axel Borrmann & Reinhard Stockma
- Seite 99 und 100: 98 Axel Borrmann & Reinhard Stockma
- Seite 101 und 102: 100 Axel Borrmann & Reinhard Stockm
H<strong>in</strong>tergrund und Ziele <strong>der</strong> Untersuchung 51<br />
Beobachtung und aussagekräftigen Berichterstattung über die Wirkung <strong>der</strong> <strong>Entwicklungszusammenarbeit</strong>“<br />
verfügt (DAC 2005: 81).<br />
Die Diskussion um adäquate Untersuchungsansätze für die Messung und Erklärung<br />
von Wirkungen <strong>der</strong> EZ hat auch <strong>in</strong> Deutschland begonnen. Das BMZ und verschiedene<br />
EZ-Organisationen (z.B. GTZ, KfW, DWHH und Misereor) bemühen sich um die Entwicklung<br />
und Anwendung robuster <strong>Evaluation</strong>sansätze für Wirkungsanalysen. Diese<br />
Ansätze dürften es <strong>in</strong> Deutschland nach wie vor schwer haben sich durchzusetzen. Zum<br />
e<strong>in</strong>en weil solche Studien, da sie deutlich aufwendiger s<strong>in</strong>d, mehr kosten als die bisherigen<br />
<strong>Evaluation</strong>en. Zum an<strong>der</strong>en weil „Rigorous Impact <strong>Evaluation</strong>s“ immer mit dem<br />
E<strong>in</strong>satz quantitativer Methoden (wenn natürlich nicht ausschließlich!) e<strong>in</strong>hergehen. Viele<br />
EZ-Organisationen wenden jedoch – auch für Wirkungsevaluationen – nur partizipative<br />
qualitative Methoden an. Diese s<strong>in</strong>d jedoch – auch e<strong>in</strong> Ergebnis <strong>der</strong> oben beschriebenen<br />
Auswertung vorliegen<strong>der</strong> Studien – hierfür kaum geeignet. Impact <strong>Evaluation</strong>en ohne<br />
systematische Befragung <strong>der</strong> Zielgruppe werden e<strong>in</strong>heitlich nicht mehr als ausreichend<br />
angesehen. E<strong>in</strong>ige Gespräche mit Zielgruppenvertretern im Rahmen von Vor-Ort Besuchen<br />
genügen nicht: „It is all too common-place to restrict data collection to key <strong>in</strong>formant<br />
<strong>in</strong>terviews and perhaps a few focus groups“ (White 2006a: 20).<br />
Hier ist <strong>in</strong> Deutschland noch e<strong>in</strong> erheblicher Diskussionsbedarf zu erkennen, um Anschluss<br />
an die <strong>in</strong>ternationale Methodenentwicklung im Bereich Rigorous Impact <strong>Evaluation</strong>s<br />
zu f<strong>in</strong>den. Dabei ist es ke<strong>in</strong>esfalls erfor<strong>der</strong>lich, darunter nur statistischökonometrisch<br />
basierte Methoden zu verstehen. Die empirische Sozialforschung bietet<br />
e<strong>in</strong>e Vielfalt von Untersuchungsdesigns für die <strong>Evaluation</strong> von Wirkungen an (vgl. die<br />
vergleichenden Ausführungen von Stockmann (2006: 224ff.) hierzu).<br />
Darüber h<strong>in</strong>aus ist zu bedenken, dass e<strong>in</strong>e noch so akkurate Wirkungserfassung (what<br />
difference did this program make?) noch ke<strong>in</strong>e Antwort auf die Frage liefert warum e<strong>in</strong>e<br />
Maßnahme unter welchen Bed<strong>in</strong>gungen Wirkungen entfaltet hat (what works, un<strong>der</strong> what<br />
conditions?). Hierfür ist neben e<strong>in</strong>em adäquaten Untersuchungsdesign die vorherige<br />
Aufstellung von Ursache-Wirkungs-Hypothesen notwendig. Die von <strong>der</strong> GTZ im Rahmen<br />
von AURA entwickelten Wirkungsketten reichen für diesen Zweck nicht aus, da sie<br />
ke<strong>in</strong>e Aussagen über die zugrundeliegenden Hypothesen, also die theoretisch vermuteten<br />
Wirkungszusammenhänge liefern. Ohne programmtheoretische Unterfütterung kann<br />
jedoch kaum e<strong>in</strong> adäquates Untersuchungsdesign für die Wirkungsanalyse entwickelt<br />
werden. Deshalb dürfte sich <strong>der</strong> <strong>Evaluation</strong>sansatz für Wirkungsanalysen <strong>der</strong> Zukunft vor<br />
allem durch die Ableitung von vermuteten Ursache-Wirkungsbeziehungen und ihrer<br />
adäquaten empirischen Überprüfung auszeichnen.<br />
1.6 Ziel <strong>der</strong> Untersuchung<br />
Vor dem H<strong>in</strong>tergrund <strong>der</strong> letzten Systemprüfungen und <strong>der</strong> beschriebenen Entwicklungen<br />
hat das BMZ Ende 2006 beschlossen, e<strong>in</strong>e erneute Systemprüfung <strong>in</strong> Auftrag zu<br />
geben. Ziel <strong>der</strong> Untersuchung sollte es se<strong>in</strong> zu überprüfen, ob das <strong>Evaluation</strong>ssystem <strong>der</strong><br />
bilateralen <strong>deutschen</strong> EZ unter strategisch-konzeptionellen, organisatorischen, Management-<br />
und methodischen Gesichtspunkten den an die <strong>Evaluation</strong>en heute zu stellenden<br />
Ansprüchen adäquat Rechnung trägt (vgl. Anhang 1). Als Referenz für die Beurteilung<br />
sollten <strong>in</strong>sbeson<strong>der</strong>e die OECD/DAC-Pr<strong>in</strong>zipien, -Kriterien und -Standards für gute<br />
<strong>Evaluation</strong>, die Bundeshaushaltsordnung und die e<strong>in</strong>schlägigen Verwaltungsvorschriften