Evaluation in der deutschen Entwicklungszusammenarbeit - HWWI

Evaluation in der deutschen Entwicklungszusammenarbeit - HWWI Evaluation in der deutschen Entwicklungszusammenarbeit - HWWI

03.10.2013 Aufrufe

Hintergrund und Ziele der Untersuchung 51 Beobachtung und aussagekräftigen Berichterstattung über die Wirkung der Entwicklungszusammenarbeit“ verfügt (DAC 2005: 81). Die Diskussion um adäquate Untersuchungsansätze für die Messung und Erklärung von Wirkungen der EZ hat auch in Deutschland begonnen. Das BMZ und verschiedene EZ-Organisationen (z.B. GTZ, KfW, DWHH und Misereor) bemühen sich um die Entwicklung und Anwendung robuster Evaluationsansätze für Wirkungsanalysen. Diese Ansätze dürften es in Deutschland nach wie vor schwer haben sich durchzusetzen. Zum einen weil solche Studien, da sie deutlich aufwendiger sind, mehr kosten als die bisherigen Evaluationen. Zum anderen weil „Rigorous Impact Evaluations“ immer mit dem Einsatz quantitativer Methoden (wenn natürlich nicht ausschließlich!) einhergehen. Viele EZ-Organisationen wenden jedoch – auch für Wirkungsevaluationen – nur partizipative qualitative Methoden an. Diese sind jedoch – auch ein Ergebnis der oben beschriebenen Auswertung vorliegender Studien – hierfür kaum geeignet. Impact Evaluationen ohne systematische Befragung der Zielgruppe werden einheitlich nicht mehr als ausreichend angesehen. Einige Gespräche mit Zielgruppenvertretern im Rahmen von Vor-Ort Besuchen genügen nicht: „It is all too common-place to restrict data collection to key informant interviews and perhaps a few focus groups“ (White 2006a: 20). Hier ist in Deutschland noch ein erheblicher Diskussionsbedarf zu erkennen, um Anschluss an die internationale Methodenentwicklung im Bereich Rigorous Impact Evaluations zu finden. Dabei ist es keinesfalls erforderlich, darunter nur statistischökonometrisch basierte Methoden zu verstehen. Die empirische Sozialforschung bietet eine Vielfalt von Untersuchungsdesigns für die Evaluation von Wirkungen an (vgl. die vergleichenden Ausführungen von Stockmann (2006: 224ff.) hierzu). Darüber hinaus ist zu bedenken, dass eine noch so akkurate Wirkungserfassung (what difference did this program make?) noch keine Antwort auf die Frage liefert warum eine Maßnahme unter welchen Bedingungen Wirkungen entfaltet hat (what works, under what conditions?). Hierfür ist neben einem adäquaten Untersuchungsdesign die vorherige Aufstellung von Ursache-Wirkungs-Hypothesen notwendig. Die von der GTZ im Rahmen von AURA entwickelten Wirkungsketten reichen für diesen Zweck nicht aus, da sie keine Aussagen über die zugrundeliegenden Hypothesen, also die theoretisch vermuteten Wirkungszusammenhänge liefern. Ohne programmtheoretische Unterfütterung kann jedoch kaum ein adäquates Untersuchungsdesign für die Wirkungsanalyse entwickelt werden. Deshalb dürfte sich der Evaluationsansatz für Wirkungsanalysen der Zukunft vor allem durch die Ableitung von vermuteten Ursache-Wirkungsbeziehungen und ihrer adäquaten empirischen Überprüfung auszeichnen. 1.6 Ziel der Untersuchung Vor dem Hintergrund der letzten Systemprüfungen und der beschriebenen Entwicklungen hat das BMZ Ende 2006 beschlossen, eine erneute Systemprüfung in Auftrag zu geben. Ziel der Untersuchung sollte es sein zu überprüfen, ob das Evaluationssystem der bilateralen deutschen EZ unter strategisch-konzeptionellen, organisatorischen, Management- und methodischen Gesichtspunkten den an die Evaluationen heute zu stellenden Ansprüchen adäquat Rechnung trägt (vgl. Anhang 1). Als Referenz für die Beurteilung sollten insbesondere die OECD/DAC-Prinzipien, -Kriterien und -Standards für gute Evaluation, die Bundeshaushaltsordnung und die einschlägigen Verwaltungsvorschriften

52 Axel Borrmann & Reinhard Stockmann zur Erfolgskontrolle sowie die DeGEval-Standards herangezogen werden. Zu überprüfen war insbesondere, ob und wie die deutschen EZ-Organisationen die in der letzten Systemprüfungen angemahnten Reformen aufgegriffen und umgesetzt und sich an das veränderte nationale und internationale Umfeld angepasst haben. Ferner sollte den Aspekten der Arbeitsteilung und Zusammenarbeit im deutschen Evaluierungssystem, der internationalen Kooperation, der Einbindung der Evaluierung in umfassende Systeme des Qualitäts- und Wissensmanagement sowie Fragen der Wirksamkeit und der Qualität des Evaluierungsmanagements besondere Aufmerksamkeit gewidmet werden. Auf der Grundlage einer umfassenden Bestandsaufnahme sollte die Untersuchung schließlich Empfehlungen für die künftige Weiterentwicklung des Systems entwickeln und dabei die aktuellen Überlegungen zur zukünftigen Gestaltung der Durchführungsstrukturen im Bereich der staatlichen bilateralen Entwicklungszusammenarbeit berücksichtigen. Direkte Nutzer der Untersuchung sollen die Entscheidungsträger im Management des BMZ und der übrigen deutschen EZ-Organisationen sowie die Mitarbeiter der Evaluationseinheiten der EZ-Organisationen sein. Darüber hinaus erwartet das BMZ, dass die Ergebnisse der Systemprüfung auch für die operativ tätigen Mitarbeiterinnen und Mitarbeiter sowie die interessierte nationale und internationale Öffentlichkeit von Relevanz sein werden. Es ist ausdrücklich darauf hinzuweisen, dass die vorliegende Untersuchung die Prüfung der Systemeigenschaften zum Gegenstand hat, nicht jedoch eine Evaluation des Erfolgs der EZ-Aktivitäten der untersuchten Organisationen, auch nicht eine durchgängige Prüfung der Qualität der Evaluationsberichte darstellt.

H<strong>in</strong>tergrund und Ziele <strong>der</strong> Untersuchung 51<br />

Beobachtung und aussagekräftigen Berichterstattung über die Wirkung <strong>der</strong> <strong>Entwicklungszusammenarbeit</strong>“<br />

verfügt (DAC 2005: 81).<br />

Die Diskussion um adäquate Untersuchungsansätze für die Messung und Erklärung<br />

von Wirkungen <strong>der</strong> EZ hat auch <strong>in</strong> Deutschland begonnen. Das BMZ und verschiedene<br />

EZ-Organisationen (z.B. GTZ, KfW, DWHH und Misereor) bemühen sich um die Entwicklung<br />

und Anwendung robuster <strong>Evaluation</strong>sansätze für Wirkungsanalysen. Diese<br />

Ansätze dürften es <strong>in</strong> Deutschland nach wie vor schwer haben sich durchzusetzen. Zum<br />

e<strong>in</strong>en weil solche Studien, da sie deutlich aufwendiger s<strong>in</strong>d, mehr kosten als die bisherigen<br />

<strong>Evaluation</strong>en. Zum an<strong>der</strong>en weil „Rigorous Impact <strong>Evaluation</strong>s“ immer mit dem<br />

E<strong>in</strong>satz quantitativer Methoden (wenn natürlich nicht ausschließlich!) e<strong>in</strong>hergehen. Viele<br />

EZ-Organisationen wenden jedoch – auch für Wirkungsevaluationen – nur partizipative<br />

qualitative Methoden an. Diese s<strong>in</strong>d jedoch – auch e<strong>in</strong> Ergebnis <strong>der</strong> oben beschriebenen<br />

Auswertung vorliegen<strong>der</strong> Studien – hierfür kaum geeignet. Impact <strong>Evaluation</strong>en ohne<br />

systematische Befragung <strong>der</strong> Zielgruppe werden e<strong>in</strong>heitlich nicht mehr als ausreichend<br />

angesehen. E<strong>in</strong>ige Gespräche mit Zielgruppenvertretern im Rahmen von Vor-Ort Besuchen<br />

genügen nicht: „It is all too common-place to restrict data collection to key <strong>in</strong>formant<br />

<strong>in</strong>terviews and perhaps a few focus groups“ (White 2006a: 20).<br />

Hier ist <strong>in</strong> Deutschland noch e<strong>in</strong> erheblicher Diskussionsbedarf zu erkennen, um Anschluss<br />

an die <strong>in</strong>ternationale Methodenentwicklung im Bereich Rigorous Impact <strong>Evaluation</strong>s<br />

zu f<strong>in</strong>den. Dabei ist es ke<strong>in</strong>esfalls erfor<strong>der</strong>lich, darunter nur statistischökonometrisch<br />

basierte Methoden zu verstehen. Die empirische Sozialforschung bietet<br />

e<strong>in</strong>e Vielfalt von Untersuchungsdesigns für die <strong>Evaluation</strong> von Wirkungen an (vgl. die<br />

vergleichenden Ausführungen von Stockmann (2006: 224ff.) hierzu).<br />

Darüber h<strong>in</strong>aus ist zu bedenken, dass e<strong>in</strong>e noch so akkurate Wirkungserfassung (what<br />

difference did this program make?) noch ke<strong>in</strong>e Antwort auf die Frage liefert warum e<strong>in</strong>e<br />

Maßnahme unter welchen Bed<strong>in</strong>gungen Wirkungen entfaltet hat (what works, un<strong>der</strong> what<br />

conditions?). Hierfür ist neben e<strong>in</strong>em adäquaten Untersuchungsdesign die vorherige<br />

Aufstellung von Ursache-Wirkungs-Hypothesen notwendig. Die von <strong>der</strong> GTZ im Rahmen<br />

von AURA entwickelten Wirkungsketten reichen für diesen Zweck nicht aus, da sie<br />

ke<strong>in</strong>e Aussagen über die zugrundeliegenden Hypothesen, also die theoretisch vermuteten<br />

Wirkungszusammenhänge liefern. Ohne programmtheoretische Unterfütterung kann<br />

jedoch kaum e<strong>in</strong> adäquates Untersuchungsdesign für die Wirkungsanalyse entwickelt<br />

werden. Deshalb dürfte sich <strong>der</strong> <strong>Evaluation</strong>sansatz für Wirkungsanalysen <strong>der</strong> Zukunft vor<br />

allem durch die Ableitung von vermuteten Ursache-Wirkungsbeziehungen und ihrer<br />

adäquaten empirischen Überprüfung auszeichnen.<br />

1.6 Ziel <strong>der</strong> Untersuchung<br />

Vor dem H<strong>in</strong>tergrund <strong>der</strong> letzten Systemprüfungen und <strong>der</strong> beschriebenen Entwicklungen<br />

hat das BMZ Ende 2006 beschlossen, e<strong>in</strong>e erneute Systemprüfung <strong>in</strong> Auftrag zu<br />

geben. Ziel <strong>der</strong> Untersuchung sollte es se<strong>in</strong> zu überprüfen, ob das <strong>Evaluation</strong>ssystem <strong>der</strong><br />

bilateralen <strong>deutschen</strong> EZ unter strategisch-konzeptionellen, organisatorischen, Management-<br />

und methodischen Gesichtspunkten den an die <strong>Evaluation</strong>en heute zu stellenden<br />

Ansprüchen adäquat Rechnung trägt (vgl. Anhang 1). Als Referenz für die Beurteilung<br />

sollten <strong>in</strong>sbeson<strong>der</strong>e die OECD/DAC-Pr<strong>in</strong>zipien, -Kriterien und -Standards für gute<br />

<strong>Evaluation</strong>, die Bundeshaushaltsordnung und die e<strong>in</strong>schlägigen Verwaltungsvorschriften

Hurra! Ihre Datei wurde hochgeladen und ist bereit für die Veröffentlichung.

Erfolgreich gespeichert!

Leider ist etwas schief gelaufen!