Evaluation in der deutschen Entwicklungszusammenarbeit - HWWI

Evaluation in der deutschen Entwicklungszusammenarbeit - HWWI Evaluation in der deutschen Entwicklungszusammenarbeit - HWWI

03.10.2013 Aufrufe

Evaluationssysteme deutscher EZ-Organisationen 113 Überblick Generell ist festzustellen, dass sich viele EZ-Organisationen seit der letzten Systemprüfung sehr bemüht haben, die Qualität ihrer Evaluationen zu erhöhen und dabei auch große Erfolge haben, andere jedoch kaum. Insgesamt hat sich die Heterogenität zwischen den EZ-Organisationen deshalb noch weiter vergrößert. Dass das Qualitätsniveau der Evaluationen über alle untersuchten Organisationen hinweg betrachtet insgesamt noch immer nicht zufrieden stellt, hat eine Reihe von Ursachen: Es liegt zum einen daran, dass in vielen der untersuchten Organisationen die für die Qualitätssicherung notwendigen Instrumente (z.B. Handreichungen, Ablaufmuster, Qualitätscheckraster) und Verfahren nicht in ausreichendem Maße existieren oder nur in einem kleinen Teil der durchgeführten Evaluationen angewendet werden. Zum anderen trägt zu dem Ergebnis bei, dass die diversen Standards für Evaluation, unabhängig von der herausgebenden Institution (z.B. DAC oder DeGEval), nicht von allen EZ-Organisationen beachtet, von einigen wenigen sogar als „unpassend“ abgelehnt werden. Die Wirkungsorientierung ist zwar bei fast allen als entwicklungspolitische Ausrichtung akzeptiert, aber nur wenige EZ- Organisationen machen intensive Anstrengungen, Wirkungen methodisch anspruchsvoll zu erfassen und auf ihre Kausalität hin zu analysieren. Darüber hinaus weisen viele der bisher verwendeten Evaluationsformen erhebliche methodische Defizite im Hinblick auf die zu beantwortende Fragestellung auf. Häufig ist das Untersuchungsdesign nicht angemessen, es wird kein Methodenmix sondern es werden entweder nur qualitative oder quantitative Erhebungsmethoden und durchweg simple Auswertungsverfahren verwertet. Viele der genannten Qualitätsprobleme scheinen in den meisten der untersuchten EZ- Organisationen keinen Eingang in die eigene Qualitätsbewertung (im Self-Assessments und in den Interviews) gefunden zu haben, so dass es zu einer enormen Diskrepanz zwischen der Selbsteinschätzung einzelner EZ-Organisationen und der durch die Gutachter vorgenommenen Bewertungen anhand der oben genannten Kriterien kommt. Bis auf wenige Ausnahmen halten alle EZ-Organisationen ihre Evaluationen für qualitativ hochwertig, auch dann, wenn sie fast gar keine durchführen, eine Wirkungserfassung für unmöglich halten und außer Gesprächen kaum andere Methoden einsetzen. Nur wenige EZ-Organisationen zeigen sich selbstkritisch und benennen Verbesserungsbedarfe. So z.B. BMZ und GTZ, die darauf hinweisen, dass die Berichtsqualität des Öfteren unter mangelnder Sprache, fehlender durchgängiger Argumentation („roter Faden“), empirisch nicht ausreichend belegten Behauptungen, nicht direkt aus den Analysen abgeleiteten Empfehlungen und insgesamt defizitären Analysen leidet. Zudem würden häufig zu viele und zu unspezifische Empfehlungen ausgesprochen. Obwohl auch andere EZ- Organsation mit diesen Qualitätsproblemen konfrontiert sein dürften, werden sie kaum irgendwo explizit thematisiert. Zu den Befunden im Einzelnen: Qualitätssicherung (QS) Nur im BMZ ist das Evaluationsreferat mittlerweile für die Durchführung und QS aller Evaluationen zuständig. Die frühere Praxis, nach der ausgewählte Evaluationen auch von anderen Einheiten des BMZ gesteuert werden konnten, wurde seit 2005 de fakto weitgehend beendet. In der KfW trägt FZ-E die Verantwortung für alle Ex-post Evaluationen,

114 Axel Borrmann & Reinhard Stockmann die den Hauptteil aller Evaluationen ausmacht. Anders sieht es schon in der GTZ aus, bei der sich zahlreiche Arbeitseinheiten die QS teilen. Die Stabstelle Evaluation ist hauptverantwortlich für die jährlich 30 Fremdevaluationen, und im Prinzip auch für die PFK, die den überwiegenden Anteil an allen Evaluationen ausmachen. Sie hat erst 2004 damit begonnen, auch die PFK in ihre Qualitätssicherung mit einzubeziehen und ein nachträgliches, zweijähriges Monitoring vorzunehmen. Bei InWEnt ist zwar die Abteilung Q&E für die QS nach PriME zuständig, doch für die Einhaltung der dort definierten Qualitätsstandards sind die programmdurchführenden Abteilungen verantwortlich, die gegenüber Q&E nicht weisungsgebunden sind. Bei den nicht-staatlichen Organisationen sind bis auf wenige Ausnahmen die operativen Einheiten für die QS von Evaluationen verantwortlich. Nur in wenigen Fällen haben die vorhandenen Evaluationseinheiten darauf Einfluss (z.B. bei der KAS, deren Stabstelle Evaluation sogar für die Umsetzungskontrolle verantwortlich ist, bei der HSS oder der DWHH). Zur Qualitätssicherung tragen bei KfW und GTZ die Wirtschaftsprüfer bei. Der BRH überprüft darüber hinaus vor allem die Ordnungsmäßigkeit und Wirtschaftlichkeit des Einsatzes von Haushaltsmitteln. Er legt selbstständig und nach eigenem Ermessen Prüfungsinhalte (Sinnhaftigkeit und Einhaltung von formalen und fachlichen Qualitätskriterien) und Prüfungstiefe (ggf. einschließlich eigener Vor-Ort-Kontrollen) fest. Die Aufgabe der Wirtschaftsprüfer besteht insbesondere in der Nachprüfung, ob KfW und GTZ ihren vertraglichen Verpflichtungen, wie die Einhaltung der formalen und fachlichen Vorgaben des BMZ bei der Verwendung und Verwaltung der Haushaltsmittel, nachkommen. Standards Einige Organisationen versuchen Qualitätsstandards in Evaluationshandbüchern, -leitlinien und anderen Dokumenten vorzugeben. Wenn die Einhaltung jedoch weitgehend den operativen Abteilungen allein überlassen wird, kann eine einheitliche Qualität nicht erwartet werden. Dies erklärt zum Teil sicherlich auch die sehr unterschiedliche Güte von Evaluationen in ein und derselben Organisation. Noch schwieriger wird es, wenn die Verantwortlichkeit weitgehend bei den operativen Einheiten liegt und solche die Qualität definierenden Dokumente komplett fehlen. Ein wichtiger Schritt zur Qualitätsverbesserung besteht deshalb erstens darin, Evaluationshandbücher und -leitlinien zu erarbeiten sowie Qualitätsstandards festzulegen. Hierfür können sich viele EZ-Organisationen, die über solche Dokumente nicht verfügen, bei anderen (z.B. BMZ, KfW, GTZ, InWEnt oder im nicht-staatlichen Bereich insb. bei DWHH) Anregungen holen, so dass sich der Aufwand in Grenzen halten dürfte und keinesfalls das Rad neu erfunden werden muss. Die Festlegung von Qualitätsstandards und Leitlinien, sowie die Überprüfung ihrer Einhaltung durch eine Evaluationseinheit oder auch nur einen Evaluationsverantwortlichen ist keine Frage der Organisationsgröße oder des Kontextes, in dem die EZ-Organisation tätig ist. Gerade kleine Organisationen haben den großen Vorteil, dass sie die Durchsetzung und Einhaltung von Evaluationsregeln leichter überprüfen können als große komplexe Organisationen, die zu dem vielleicht noch stark dezentralisiert sind.

114 Axel Borrmann & Re<strong>in</strong>hard Stockmann<br />

die den Hauptteil aller <strong>Evaluation</strong>en ausmacht. An<strong>der</strong>s sieht es schon <strong>in</strong> <strong>der</strong> GTZ aus, bei<br />

<strong>der</strong> sich zahlreiche Arbeitse<strong>in</strong>heiten die QS teilen. Die Stabstelle <strong>Evaluation</strong> ist hauptverantwortlich<br />

für die jährlich 30 Fremdevaluationen, und im Pr<strong>in</strong>zip auch für die PFK, die<br />

den überwiegenden Anteil an allen <strong>Evaluation</strong>en ausmachen. Sie hat erst 2004 damit<br />

begonnen, auch die PFK <strong>in</strong> ihre Qualitätssicherung mit e<strong>in</strong>zubeziehen und e<strong>in</strong> nachträgliches,<br />

zweijähriges Monitor<strong>in</strong>g vorzunehmen. Bei InWEnt ist zwar die Abteilung Q&E<br />

für die QS nach PriME zuständig, doch für die E<strong>in</strong>haltung <strong>der</strong> dort def<strong>in</strong>ierten Qualitätsstandards<br />

s<strong>in</strong>d die programmdurchführenden Abteilungen verantwortlich, die gegenüber<br />

Q&E nicht weisungsgebunden s<strong>in</strong>d.<br />

Bei den nicht-staatlichen Organisationen s<strong>in</strong>d bis auf wenige Ausnahmen die operativen<br />

E<strong>in</strong>heiten für die QS von <strong>Evaluation</strong>en verantwortlich. Nur <strong>in</strong> wenigen Fällen haben<br />

die vorhandenen <strong>Evaluation</strong>se<strong>in</strong>heiten darauf E<strong>in</strong>fluss (z.B. bei <strong>der</strong> KAS, <strong>der</strong>en Stabstelle<br />

<strong>Evaluation</strong> sogar für die Umsetzungskontrolle verantwortlich ist, bei <strong>der</strong> HSS o<strong>der</strong> <strong>der</strong><br />

DWHH).<br />

Zur Qualitätssicherung tragen bei KfW und GTZ die Wirtschaftsprüfer bei. Der BRH<br />

überprüft darüber h<strong>in</strong>aus vor allem die Ordnungsmäßigkeit und Wirtschaftlichkeit des<br />

E<strong>in</strong>satzes von Haushaltsmitteln. Er legt selbstständig und nach eigenem Ermessen Prüfungs<strong>in</strong>halte<br />

(S<strong>in</strong>nhaftigkeit und E<strong>in</strong>haltung von formalen und fachlichen Qualitätskriterien)<br />

und Prüfungstiefe (ggf. e<strong>in</strong>schließlich eigener Vor-Ort-Kontrollen) fest. Die Aufgabe<br />

<strong>der</strong> Wirtschaftsprüfer besteht <strong>in</strong>sbeson<strong>der</strong>e <strong>in</strong> <strong>der</strong> Nachprüfung, ob KfW und GTZ<br />

ihren vertraglichen Verpflichtungen, wie die E<strong>in</strong>haltung <strong>der</strong> formalen und fachlichen<br />

Vorgaben des BMZ bei <strong>der</strong> Verwendung und Verwaltung <strong>der</strong> Haushaltsmittel, nachkommen.<br />

Standards<br />

E<strong>in</strong>ige Organisationen versuchen Qualitätsstandards <strong>in</strong> <strong>Evaluation</strong>shandbüchern, -leitl<strong>in</strong>ien<br />

und an<strong>der</strong>en Dokumenten vorzugeben. Wenn die E<strong>in</strong>haltung jedoch weitgehend<br />

den operativen Abteilungen alle<strong>in</strong> überlassen wird, kann e<strong>in</strong>e e<strong>in</strong>heitliche Qualität nicht<br />

erwartet werden. Dies erklärt zum Teil sicherlich auch die sehr unterschiedliche Güte von<br />

<strong>Evaluation</strong>en <strong>in</strong> e<strong>in</strong> und <strong>der</strong>selben Organisation. Noch schwieriger wird es, wenn die<br />

Verantwortlichkeit weitgehend bei den operativen E<strong>in</strong>heiten liegt und solche die Qualität<br />

def<strong>in</strong>ierenden Dokumente komplett fehlen.<br />

E<strong>in</strong> wichtiger Schritt zur Qualitätsverbesserung besteht deshalb erstens dar<strong>in</strong>, <strong>Evaluation</strong>shandbücher<br />

und -leitl<strong>in</strong>ien zu erarbeiten sowie Qualitätsstandards festzulegen.<br />

Hierfür können sich viele EZ-Organisationen, die über solche Dokumente nicht verfügen,<br />

bei an<strong>der</strong>en (z.B. BMZ, KfW, GTZ, InWEnt o<strong>der</strong> im nicht-staatlichen Bereich <strong>in</strong>sb. bei<br />

DWHH) Anregungen holen, so dass sich <strong>der</strong> Aufwand <strong>in</strong> Grenzen halten dürfte und<br />

ke<strong>in</strong>esfalls das Rad neu erfunden werden muss. Die Festlegung von Qualitätsstandards<br />

und Leitl<strong>in</strong>ien, sowie die Überprüfung ihrer E<strong>in</strong>haltung durch e<strong>in</strong>e <strong>Evaluation</strong>se<strong>in</strong>heit<br />

o<strong>der</strong> auch nur e<strong>in</strong>en <strong>Evaluation</strong>sverantwortlichen ist ke<strong>in</strong>e Frage <strong>der</strong> Organisationsgröße<br />

o<strong>der</strong> des Kontextes, <strong>in</strong> dem die EZ-Organisation tätig ist. Gerade kle<strong>in</strong>e Organisationen<br />

haben den großen Vorteil, dass sie die Durchsetzung und E<strong>in</strong>haltung von <strong>Evaluation</strong>sregeln<br />

leichter überprüfen können als große komplexe Organisationen, die zu dem vielleicht<br />

noch stark dezentralisiert s<strong>in</strong>d.

Hurra! Ihre Datei wurde hochgeladen und ist bereit für die Veröffentlichung.

Erfolgreich gespeichert!

Leider ist etwas schief gelaufen!