Evaluation in der deutschen Entwicklungszusammenarbeit - HWWI

Evaluation in der deutschen Entwicklungszusammenarbeit - HWWI Evaluation in der deutschen Entwicklungszusammenarbeit - HWWI

03.10.2013 Aufrufe

Evaluationssysteme deutscher EZ-Organisationen 121 Zusammenfassung Insgesamt kann festgehalten werden, dass viele der EZ-Organisationen sich in den letzten Jahren deutlich um Qualitätsverbesserung ihrer Evaluationen bemüht haben. Hierfür werden neue QS-Instrumente eingeführt, die Standards für Evaluation werden zunehmend als Leitlinien für das Handeln umgesetzt und vor allem wurde die Orientierung auf Wirkungen zum handlungsleitenden Kriterium für die EZ. Allerdings gibt es auch eine Reihe von untersuchten EZ-Organisationen, die noch kein ausreichendes Qualitätsbewusstsein entwickelt haben. Deshalb ist die Schere zwischen den Organisationen, die sich in den letzten Jahren der anspruchsvollen Aufgabe gestellt haben, nicht nur die Entwicklungspolitik an den erzielten Wirkungen auszurichten, sondern dies auch anhand von Evaluationen belegen zu wollen, und denen, die Wirkungen für nicht messbar oder den Aufwand dafür für nicht tragbar halten und deshalb darauf verzichten, immer größer geworden. Ähnlich verhält es sich mit den Standards für Evaluation, die mit ganz wenigen Ausnahmen von allen EZ-Organisationen als nützlich betrachtet werden. Doch in dem Bemühen, diese in der Evaluation umzusetzen, tritt erneut eine erhebliche Bandbreite auf. Dieser Sachverhalt ist bei der Wirkungsorientierung nicht anders. Innerhalb kürzester Zeit hat diese Neuausrichtung bei fast allen EZ-Organisationen Akzeptanz gefunden und es gibt auch eine Vielzahl von EZ-Organisationen, die versuchen, ihr M&E darauf auszurichten und entsprechende Instrumente zu entwickeln. Doch insgesamt betrachtet hat sich dieser Wandel noch nicht auf die angewendeten Evaluationsdesigns und -methoden übertragen. Weitgehend wird noch immer so evaluiert, als ob es diese Neuausrichtung gar nicht gäbe. Unabhängig von dieser Orientierung auf Wirkungen, die Evaluation vor neue Herausforderungen stellt, ist zu beobachten, dass die meisten EZ-Organisationen für ihre Evaluationen einfache Designs und Methoden anwenden. Nur wenige setzen neben qualitativen in größerem Umfang auch quantitative Verfahren ein. Wenn sich dies ändern soll, dann müssen die EZ-Organisationen höhere Qualitätsansprüche entwickeln und die eingesetzten Gutachter müssen dazu in der Lage sein oder in die Lage versetzt werden, diese Ansprüche zu erfüllen. Hierfür sind natürlich auch zeitliche und finanzielle Ressourcenausstattungen entsprechend anzupassen. Um eine einheitliche und damit vergleichbare Qualität von Evaluationen entwickeln und sichern zu können, bedarf es zumindest organisationsintern, aber besser noch organisationsübergreifend, einheitlicher Standards, Leitlinien, Handreichungen und Evaluationshandbücher. Die Evaluationseinheiten in den EZ-Organisationen sollten durchgängig für die Qualitätsentwicklung und QS verantwortlich gemacht und stärker als bisher miteinander vernetzt werden (z.B. durch eine gemeinsame interne Internetplattform für die Evaluationsabteilungen aller EZ-Organisationen), um stärker voneinander profitieren zu können. Nachdem die Wirkungsorientierung nahezu von allen EZ-Organisationen als (Neu-) Ausrichtung der EZ akzeptiert wurde, steht die Evaluation vor der Herausforderung, angemessene und praktische Instrumente zu entwickeln, die den („neuen“) entwicklungspolitischen Ansprüchen auch gerecht werden. Nach wie vor kann das methodische Qualitätsniveau der Evaluation in der EZ insgesamt nicht zufriedenstellen. Während ein Teil der EZ-Organisationen dies durchaus selbstkritisch einräumt und Verbesserungen anstrebt, gibt es eine Reihe von EZ- Organisationen, bei denen noch Überzeugungsarbeit geleistet werden muss. Insgesamt

122 Axel Borrmann & Reinhard Stockmann betrachtet scheint sich die Qualitätsschere bei den untersuchten EZ-Organisationen seit der letzten Systemprüfung weiter vergrößert zu haben. Im staatlichen Sektor zwischen BMZ, KfW, GTZ auf der einen und DED, PTB und BGR auf der anderen Seite. Dazwischen InWEnt, das sich mit PriME gerade auf den Weg gemacht hat, Anschluss zu finden. Im nicht-staatlichen Sektor zeigen sich bei einem insgesamt erheblichen Nachholbedarf die gravierendsten Qualitätsunterschiede. Als beispielgebend kann hier vor allem die DWHH genannt werden. Während die meisten EZ-Organisationen – unabhängig von ihrer Größe oder dem derzeitigen Entwicklungsstand ihrer Evaluationssysteme – weitere Verbesserungspotenziale und -notwendigkeiten angesichts der neuen Herausforderungen an die Evaluation konstatieren, gibt es einige wenige EZ-Organisationen, die keinen Änderungsbedarf sehen, da sie ihre Evaluationen für qualitativ befriedigend halten, obwohl die Systembewertung erhebliche Mängel identifizierte. 3.7 Personal Zur Beurteilung des für Evaluationen eingesetzten Personals wurden quantitative und qualitative Kriterien herangezogen: Zunächst wird zwischen internem (der EZ- Organisationen zugehörigem) Personal und externem Personal (z.B. Gutachtern, Beratern etc.) unterschieden. Für die EZ-Organisationen wird neben der Zahl des für Evaluation zuständigen Personals, deren Qualifikationsprofil analysiert und festgestellt, welche Qualifizierungsmechanismen (Vorbereitung auf die Tätigkeit in der Evaluationseinheit, Aus- und Weiterbildung im Bereich Evaluation) vorhanden sind. Anschließend wird das Qualifikationsprofil der von den EZ-Organisationen eingesetzten Gutachter vor dem Hintergrund der Qualifikationsanforderungen durch die Auftraggeber analysiert sowie deren Rekrutierung, Diversifierungsgrad und Unparteilichkeit. Personalausstattung Im Hinblick auf die Personalausstattung kann insgesamt festgestellt werden, dass seit der letzen Systemprüfung nur zwei EZ-Organisationen ihre Evaluationseinheiten stark ausgebaut haben. Dies gilt vor allem für die KfW, die ihr für Evaluation zuständiges Personal von vier auf acht Mitarbeiter verdoppelt hat (nur „professionals“) und die GTZ, die ihre Stababteilung auf sieben „professionals“ aufstockte. Mit dieser Entwicklung konnte das BMZ nicht Schritt halten. Nach wie vor verfügt BMZ-E nur über 3½ Planstellen, inklusive der Referatsleiterin. Mit dieser Ausstattung bewegt sich das BMZ im internationalen Vergleich am untersten Ende. Länder mit einem deutlich niedrigeren EZ-Budget 41 wie Norwegen (2,8 Mrd. $), Kanada (3,7 Mrd. $) oder die Niederlande (5,1 Mrd. $) verfügen über Evaluationseinheiten, die mit doppelt bis viermal so viel Personal ausgestattet sind. Eine ähnlich geringe Personalstärke wie BMZ-E weisen nach einer internationalen Vergleichstabelle (BMZ-Fallstudie, Anhang 1) nur noch Dänemark (bei jedoch dreimal höherem Evaluationsbudget, obwohl die ODA-Leistungen nur ein Fünftel 41 ODA Leistungen 2005. Deutschland: 9,9 Mrd. US $ (BMZ 2006a: 429).

<strong>Evaluation</strong>ssysteme deutscher EZ-Organisationen 121<br />

Zusammenfassung<br />

Insgesamt kann festgehalten werden, dass viele <strong>der</strong> EZ-Organisationen sich <strong>in</strong> den letzten<br />

Jahren deutlich um Qualitätsverbesserung ihrer <strong>Evaluation</strong>en bemüht haben. Hierfür<br />

werden neue QS-Instrumente e<strong>in</strong>geführt, die Standards für <strong>Evaluation</strong> werden zunehmend<br />

als Leitl<strong>in</strong>ien für das Handeln umgesetzt und vor allem wurde die Orientierung auf<br />

Wirkungen zum handlungsleitenden Kriterium für die EZ. Allerd<strong>in</strong>gs gibt es auch e<strong>in</strong>e<br />

Reihe von untersuchten EZ-Organisationen, die noch ke<strong>in</strong> ausreichendes Qualitätsbewusstse<strong>in</strong><br />

entwickelt haben. Deshalb ist die Schere zwischen den Organisationen, die<br />

sich <strong>in</strong> den letzten Jahren <strong>der</strong> anspruchsvollen Aufgabe gestellt haben, nicht nur die<br />

Entwicklungspolitik an den erzielten Wirkungen auszurichten, son<strong>der</strong>n dies auch anhand<br />

von <strong>Evaluation</strong>en belegen zu wollen, und denen, die Wirkungen für nicht messbar o<strong>der</strong><br />

den Aufwand dafür für nicht tragbar halten und deshalb darauf verzichten, immer größer<br />

geworden.<br />

Ähnlich verhält es sich mit den Standards für <strong>Evaluation</strong>, die mit ganz wenigen Ausnahmen<br />

von allen EZ-Organisationen als nützlich betrachtet werden. Doch <strong>in</strong> dem Bemühen,<br />

diese <strong>in</strong> <strong>der</strong> <strong>Evaluation</strong> umzusetzen, tritt erneut e<strong>in</strong>e erhebliche Bandbreite auf.<br />

Dieser Sachverhalt ist bei <strong>der</strong> Wirkungsorientierung nicht an<strong>der</strong>s. Innerhalb kürzester<br />

Zeit hat diese Neuausrichtung bei fast allen EZ-Organisationen Akzeptanz gefunden und<br />

es gibt auch e<strong>in</strong>e Vielzahl von EZ-Organisationen, die versuchen, ihr M&E darauf auszurichten<br />

und entsprechende Instrumente zu entwickeln. Doch <strong>in</strong>sgesamt betrachtet hat sich<br />

dieser Wandel noch nicht auf die angewendeten <strong>Evaluation</strong>sdesigns und -methoden<br />

übertragen. Weitgehend wird noch immer so evaluiert, als ob es diese Neuausrichtung<br />

gar nicht gäbe. Unabhängig von dieser Orientierung auf Wirkungen, die <strong>Evaluation</strong> vor<br />

neue Herausfor<strong>der</strong>ungen stellt, ist zu beobachten, dass die meisten EZ-Organisationen für<br />

ihre <strong>Evaluation</strong>en e<strong>in</strong>fache Designs und Methoden anwenden. Nur wenige setzen neben<br />

qualitativen <strong>in</strong> größerem Umfang auch quantitative Verfahren e<strong>in</strong>.<br />

Wenn sich dies än<strong>der</strong>n soll, dann müssen die EZ-Organisationen höhere Qualitätsansprüche<br />

entwickeln und die e<strong>in</strong>gesetzten Gutachter müssen dazu <strong>in</strong> <strong>der</strong> Lage se<strong>in</strong> o<strong>der</strong> <strong>in</strong><br />

die Lage versetzt werden, diese Ansprüche zu erfüllen. Hierfür s<strong>in</strong>d natürlich auch zeitliche<br />

und f<strong>in</strong>anzielle Ressourcenausstattungen entsprechend anzupassen.<br />

Um e<strong>in</strong>e e<strong>in</strong>heitliche und damit vergleichbare Qualität von <strong>Evaluation</strong>en entwickeln<br />

und sichern zu können, bedarf es zum<strong>in</strong>dest organisations<strong>in</strong>tern, aber besser noch organisationsübergreifend,<br />

e<strong>in</strong>heitlicher Standards, Leitl<strong>in</strong>ien, Handreichungen und <strong>Evaluation</strong>shandbücher.<br />

Die <strong>Evaluation</strong>se<strong>in</strong>heiten <strong>in</strong> den EZ-Organisationen sollten durchgängig<br />

für die Qualitätsentwicklung und QS verantwortlich gemacht und stärker als bisher<br />

mite<strong>in</strong>an<strong>der</strong> vernetzt werden (z.B. durch e<strong>in</strong>e geme<strong>in</strong>same <strong>in</strong>terne Internetplattform für<br />

die <strong>Evaluation</strong>sabteilungen aller EZ-Organisationen), um stärker vone<strong>in</strong>an<strong>der</strong> profitieren<br />

zu können.<br />

Nachdem die Wirkungsorientierung nahezu von allen EZ-Organisationen als (Neu-)<br />

Ausrichtung <strong>der</strong> EZ akzeptiert wurde, steht die <strong>Evaluation</strong> vor <strong>der</strong> Herausfor<strong>der</strong>ung,<br />

angemessene und praktische Instrumente zu entwickeln, die den („neuen“) entwicklungspolitischen<br />

Ansprüchen auch gerecht werden.<br />

Nach wie vor kann das methodische Qualitätsniveau <strong>der</strong> <strong>Evaluation</strong> <strong>in</strong> <strong>der</strong> EZ <strong>in</strong>sgesamt<br />

nicht zufriedenstellen. Während e<strong>in</strong> Teil <strong>der</strong> EZ-Organisationen dies durchaus<br />

selbstkritisch e<strong>in</strong>räumt und Verbesserungen anstrebt, gibt es e<strong>in</strong>e Reihe von EZ-<br />

Organisationen, bei denen noch Überzeugungsarbeit geleistet werden muss. Insgesamt

Hurra! Ihre Datei wurde hochgeladen und ist bereit für die Veröffentlichung.

Erfolgreich gespeichert!

Leider ist etwas schief gelaufen!