Estudio retrospectivo sobre las evaluaciones de la asistencia a los ...

Estudio retrospectivo sobre las evaluaciones de la asistencia a los ... Estudio retrospectivo sobre las evaluaciones de la asistencia a los ...

ieg.worldbankgroup.org
from ieg.worldbankgroup.org More from this publisher
11.07.2015 Views

ESTUDIO RETROSPECTIVO SOBRE LAS EVALUACIONES DE LA ASISTENCIA A LOS PAÍSES: AUTOEVALUACIÓN DEL DEOLa metodología actualde las EvAP podríamodificarse de variasformas para aumentar sutransparencia, coherenciay facilidad de lectura.grama para determinar supertinencia, eficacia, efectosdirectos, sostenibilidade impacto institucional.• Una dimensión relativaa la atribución, en que elevaluador asigna la responsabilidadpor los efectosdirectos del programa a cuatro categorías deagentes: a) el cliente; b) el Banco; c) los sociosy otros interesados, y d) las fuerzas exógenas(por ejemplo, los fenómenos de la naturaleza,las crisis económicas internacionales y otrosacontecimientos similares).Para seguir adelantese necesita adoptarun método orientadohacia los resultados,que vincule claramentelos objetivos einstrumentos delBanco con losresultados alcanzados.Con la introducción de esta metodología formal,la estructura y el contenido de las EvAP seasemejaron más. Cada EvAP comienza con unexamen de la situación general de desarrollo y lapertinencia de los objetivos de la EAP correspondiente.Ese examen va seguido de una evaluacióndetallada de todos los productos y servicios empleadospara lograr los objetivos del Banco. En latercera sección se determina si se han logrado losobjetivos del Banco y se incluyen las calificacionesde la EvAP. Se evalúan los aportes de los diferentesasociados al logro de los resultados obtenidosy, para concluir, se ofrecen recomendaciones y enseñanzas.A pesar de la adopción y divulgación deuna metodología formal de EvAP, las entrevistasrevelaron una percepción de que lametodología de la evaluación podría perfeccionarsepara que fuera más transparente ycoherente. En su mayoría, los integrantes delCODE opinaron que las EvAP eran sistemáticamentede alta calidad y contenían un análisis sustantivode los programas delBanco en los países. Sin embargo,se expresaron preocupacionespor la incompatibilidadde los resultados y las variacionesde la calidad. Los integrantesdel CODE expresaronpreocupación por el hechode que, a veces, los documentosse enfocan demasiado enla observación del cumplimientocon los objetivos ofi-ciales de cada institución y desatienden el impactoque tiene el Banco en el desarrollo del país. Opinaronque una EvAP debería concentrarse en los resultadosalcanzados y en la forma de empleo de losinstrumentos para lograr esos resultados. El personaldel Banco también expresó preocupación por lametodología de EvAP. Opinó que la metodologíano era clara, uniforme, coherente ni racional. Además,afirmó que eran demasiado pocas las EvAPque proporcionaban resultados y enseñanzas queofrecieran orientación pragmática para la administraciónde futuros programas. Algunos funcionariosdel Banco manifestaron preferencia por las evaluacionesenfocadas en un limitado número de sectoresespecíficos, más que por las centradas en elprograma de todo un país.La propia evaluación del DEO también revelaque la metodología actual de las EvAP podríamodificarse de varias formas para aumentar sutransparencia, coherencia y facilidad de lectura.Para determinar la exactitud de la percepción de losintegrantes del CODE y del personal del Banco, elDEO contrató a un evaluador externo independientepara analizar la actual metodología de EvAP sin restriccionesni condiciones previas. También se examinaronlos métodos de evaluación de programasadoptados por otros donantes multilaterales y bilaterales18 . A partir de este análisis y de las encuestassobre el uso, surgieron varias observaciones. El actualmétodo tridimensional de EvAP ha creado un formatocoherente de presentación de informes, de maneraque con el tiempo el lector sabe qué esperar encada capítulo. Pero este enfoque metodológico tambiénparece tener varias deficiencias:• La estructura tiende a poner mayor énfasis en losinstrumentos del Banco (préstamos, actividadesde asesoramiento y análisis, y coordinación de laayuda) que en el impacto o los resultados de susintervenciones. En las EvAP se recalcan más los insumosde los programas que su impacto en el desarrollo.Trece de las 18 EvAP con estructurasclaramente similares dedicaron dos veces y mediomás atención a los insumos en comparación con laprestada al impacto en el desarrollo.• Al parecer, diferentes secciones de las EvAPpueden llevar a diversas conclusiones. Comose señaló en la Parte I, en un tercio de las EvAP,las calificaciones satisfactorias de la cartera, en14

PARTE II: ¿CÓMO PUEDE MEJORARSE EL INSTRUMENTO DE LAS EVAP?promedio, no guardaron relación con la calificaciónsatisfactoria de los efectos directos del programaen su conjunto. Si bien la explicación esbastante sencilla (es decir, una evaluación particularde un proyecto o un estudio económico ysectorial tiende a enfocarse en los principalesobjetivos declarados del proyecto sin determinarnecesariamente qué tan pertinentes fueronpara alcanzar las metas generales del programavigente en ese entonces), la estructura de la evaluaciónno es conducente a analizar las razonesfundamentales de esa desconexión.• La estructura cambia de punto de enfoque deuna sección a la siguiente, por lo que es difícilseguir el hilo de la narración. La actual estructurade la EvAP alterna entre un enfoque en elcliente (primera sección), otro en el Banco (segundasección) y otro de nuevo en el cliente. Porende, es difícil seguir el vínculo entre los objetivos(discutidos en la primera sección) y los efectosdirectos (discutidos más adelante en latercera sección), y ver la conexión entre los insumosy servicios del Banco (evaluados en la segundasección) y los efectos directos específicos.• La terminología de la EvAP carece de claridad ycoherencia. El examen interno de EvAP efectuadopor el DEO reveló que la terminología empleadaen diferentes evaluaciones a veces pareceser incoherente, puesto que diferentes jefes deproyecto pueden interpretar el mismo conceptode una forma algo distinta. Por ejemplo, la distinciónentre la actuación del Banco y los efectos directosde sus programas es ambigua en algunasevaluaciones, lo cual puede ser consecuencia deque las estrategias del Banco están orientadashacia objetivos de nivel superior y no establecenclaramente un conjunto de objetivos intermedios.Otro ejemplo es la forma de considerar laatribución, que es inherentemente un conceptocomplejo en un programa de país.Para seguir adelante se necesita adoptar unmétodo orientado hacia los resultados, quevincule claramente los objetivos e instrumentosdel Banco con los resultados alcanzados.Los resultados deben estar en la estructura orgánicade la EvAP, y la evaluación de los instrumentos delBanco (productos y servicios) debe verse sencillamentecomo una forma de probar si se han logradoLos países no sonlaboratorios y en las EvAPno se informa sobreexperimentos; en elmundo real es sumamentedifícil controlar y aislarotras influencias.los resultados finales, queson los objetivos principalesdel Banco. Esto es compatiblecon el marco orientadohacia los resultados, adoptadoen la formulación de estrategiasdel Banco y tambiéncon la metodología adoptadapor otras instituciones donantes.El método consistiría en esbozar los principalesobjetivos y resultados que el Banco aspira alograr en cada país, a partir de las EvAP. Las deliberacionessobre la estrategia se basarían en un sencillomodelo de lógica que vincule los insumos conlos resultados previstos a partir de la informaciónpresentada en la propia estrategia y en los documentosafines. Por cada objetivo (y resultado deseado),en la evaluación se ponderaría la eficacia (ypertinencia) de los instrumentos empleados, asícomo el aporte relativo del Banco (en contraposicióna otros aportes) a ese objetivo. Este método seorientaría hacia los resultados y abordaría la principalrecomendación de los integrantes del Directorio,a saber, que las EvAP deben concentrarse en elefecto real en los mismos.En varias EvAP se han comenzado a adoptarvarios aspectos de esta nueva metodología.Por ejemplo, en la EvAP de Zambia seseñalaron cuatro temas principales (objetivos)con los cuales el Banco se propone reducir la pobreza:i) promover un entorno macroeconómicoestable; ii) privatizar las empresas del Estado; iii)enfocar la asistencia directamente en los grupospobres y vulnerables, y vi) mejorar la eficiencia y lagestión del sector público. En esa EvAP se procedióluego a examinar las actividades del Banco y aevaluar los resultados en cada uno de los cuatrocampos por separado, que luego se resumió ensus calificaciones generales. En la EvAP de Brasil seseñalaron y analizaron los adelantos hacia el logrode los objetivos principales de alivio de la pobrezay crecimiento sostenible, así como los objetivossecundarios respectivos. En época más reciente,durante el ejercicio de 2004, en las EvAP de China,Túnez, Bosnia-Herzegovina y Croacia se adoptóun método orientado hacia los objetivos.El examen de las EvAP y del enfoque metodológicode otros donantes efectuado por elDEO indica que también se necesitan cam-15

ESTUDIO RETROSPECTIVO SOBRE LAS EVALUACIONES DE LA ASISTENCIA A LOS PAÍSES: AUTOEVALUACIÓN DEL DEOLa metodología actual<strong>de</strong> <strong><strong>la</strong>s</strong> EvAP podríamodificarse <strong>de</strong> variasformas para aumentar sutransparencia, coherenciay facilidad <strong>de</strong> lectura.grama para <strong>de</strong>terminar supertinencia, eficacia, efectosdirectos, sostenibilida<strong>de</strong> impacto institucional.• Una dimensión re<strong>la</strong>tivaa <strong>la</strong> atribución, en que elevaluador asigna <strong>la</strong> responsabilidadpor <strong>los</strong> efectosdirectos <strong>de</strong>l programa a cuatro categorías <strong>de</strong>agentes: a) el cliente; b) el Banco; c) <strong>los</strong> sociosy otros interesados, y d) <strong><strong>la</strong>s</strong> fuerzas exógenas(por ejemplo, <strong>los</strong> fenómenos <strong>de</strong> <strong>la</strong> naturaleza,<strong><strong>la</strong>s</strong> crisis económicas internacionales y otrosacontecimientos simi<strong>la</strong>res).Para seguir a<strong>de</strong><strong>la</strong>ntese necesita adoptarun método orientadohacia <strong>los</strong> resultados,que vincule c<strong>la</strong>ramente<strong>los</strong> objetivos einstrumentos <strong>de</strong>lBanco con <strong>los</strong>resultados alcanzados.Con <strong>la</strong> introducción <strong>de</strong> esta metodología formal,<strong>la</strong> estructura y el contenido <strong>de</strong> <strong><strong>la</strong>s</strong> EvAP seasemejaron más. Cada EvAP comienza con unexamen <strong>de</strong> <strong>la</strong> situación general <strong>de</strong> <strong>de</strong>sarrollo y <strong>la</strong>pertinencia <strong>de</strong> <strong>los</strong> objetivos <strong>de</strong> <strong>la</strong> EAP correspondiente.Ese examen va seguido <strong>de</strong> una evaluación<strong>de</strong>tal<strong>la</strong>da <strong>de</strong> todos <strong>los</strong> productos y servicios empleadospara lograr <strong>los</strong> objetivos <strong>de</strong>l Banco. En <strong>la</strong>tercera sección se <strong>de</strong>termina si se han logrado <strong>los</strong>objetivos <strong>de</strong>l Banco y se incluyen <strong><strong>la</strong>s</strong> calificaciones<strong>de</strong> <strong>la</strong> EvAP. Se evalúan <strong>los</strong> aportes <strong>de</strong> <strong>los</strong> diferentesasociados al logro <strong>de</strong> <strong>los</strong> resultados obtenidosy, para concluir, se ofrecen recomendaciones y enseñanzas.A pesar <strong>de</strong> <strong>la</strong> adopción y divulgación <strong>de</strong>una metodología formal <strong>de</strong> EvAP, <strong><strong>la</strong>s</strong> entrevistasreve<strong>la</strong>ron una percepción <strong>de</strong> que <strong>la</strong>metodología <strong>de</strong> <strong>la</strong> evaluación podría perfeccionarsepara que fuera más transparente ycoherente. En su mayoría, <strong>los</strong> integrantes <strong>de</strong>lCODE opinaron que <strong><strong>la</strong>s</strong> EvAP eran sistemáticamente<strong>de</strong> alta calidad y contenían un análisis sustantivo<strong>de</strong> <strong>los</strong> programas <strong>de</strong>lBanco en <strong>los</strong> países. Sin embargo,se expresaron preocupacionespor <strong>la</strong> incompatibilidad<strong>de</strong> <strong>los</strong> resultados y <strong><strong>la</strong>s</strong> variaciones<strong>de</strong> <strong>la</strong> calidad. Los integrantes<strong>de</strong>l CODE expresaronpreocupación por el hecho<strong>de</strong> que, a veces, <strong>los</strong> documentosse enfocan <strong>de</strong>masiado en<strong>la</strong> observación <strong>de</strong>l cumplimientocon <strong>los</strong> objetivos ofi-ciales <strong>de</strong> cada institución y <strong>de</strong>satien<strong>de</strong>n el impactoque tiene el Banco en el <strong>de</strong>sarrollo <strong>de</strong>l país. Opinaronque una EvAP <strong>de</strong>bería concentrarse en <strong>los</strong> resultadosalcanzados y en <strong>la</strong> forma <strong>de</strong> empleo <strong>de</strong> <strong>los</strong>instrumentos para lograr esos resultados. El personal<strong>de</strong>l Banco también expresó preocupación por <strong>la</strong>metodología <strong>de</strong> EvAP. Opinó que <strong>la</strong> metodologíano era c<strong>la</strong>ra, uniforme, coherente ni racional. A<strong>de</strong>más,afirmó que eran <strong>de</strong>masiado pocas <strong><strong>la</strong>s</strong> EvAPque proporcionaban resultados y enseñanzas queofrecieran orientación pragmática para <strong>la</strong> administración<strong>de</strong> futuros programas. Algunos funcionarios<strong>de</strong>l Banco manifestaron preferencia por <strong><strong>la</strong>s</strong> <strong>evaluaciones</strong>enfocadas en un limitado número <strong>de</strong> sectoresespecíficos, más que por <strong><strong>la</strong>s</strong> centradas en elprograma <strong>de</strong> todo un país.La propia evaluación <strong>de</strong>l DEO también reve<strong>la</strong>que <strong>la</strong> metodología actual <strong>de</strong> <strong><strong>la</strong>s</strong> EvAP podríamodificarse <strong>de</strong> varias formas para aumentar sutransparencia, coherencia y facilidad <strong>de</strong> lectura.Para <strong>de</strong>terminar <strong>la</strong> exactitud <strong>de</strong> <strong>la</strong> percepción <strong>de</strong> <strong>los</strong>integrantes <strong>de</strong>l CODE y <strong>de</strong>l personal <strong>de</strong>l Banco, elDEO contrató a un evaluador externo in<strong>de</strong>pendientepara analizar <strong>la</strong> actual metodología <strong>de</strong> EvAP sin restriccionesni condiciones previas. También se examinaron<strong>los</strong> métodos <strong>de</strong> evaluación <strong>de</strong> programasadoptados por otros donantes multi<strong>la</strong>terales y bi<strong>la</strong>terales18 . A partir <strong>de</strong> este análisis y <strong>de</strong> <strong><strong>la</strong>s</strong> encuestas<strong>sobre</strong> el uso, surgieron varias observaciones. El actualmétodo tridimensional <strong>de</strong> EvAP ha creado un formatocoherente <strong>de</strong> presentación <strong>de</strong> informes, <strong>de</strong> maneraque con el tiempo el lector sabe qué esperar encada capítulo. Pero este enfoque metodológico tambiénparece tener varias <strong>de</strong>ficiencias:• La estructura tien<strong>de</strong> a poner mayor énfasis en <strong>los</strong>instrumentos <strong>de</strong>l Banco (préstamos, activida<strong>de</strong>s<strong>de</strong> asesoramiento y análisis, y coordinación <strong>de</strong> <strong>la</strong>ayuda) que en el impacto o <strong>los</strong> resultados <strong>de</strong> susintervenciones. En <strong><strong>la</strong>s</strong> EvAP se recalcan más <strong>los</strong> insumos<strong>de</strong> <strong>los</strong> programas que su impacto en el <strong>de</strong>sarrollo.Trece <strong>de</strong> <strong><strong>la</strong>s</strong> 18 EvAP con estructurasc<strong>la</strong>ramente simi<strong>la</strong>res <strong>de</strong>dicaron dos veces y mediomás atención a <strong>los</strong> insumos en comparación con <strong>la</strong>prestada al impacto en el <strong>de</strong>sarrollo.• Al parecer, diferentes secciones <strong>de</strong> <strong><strong>la</strong>s</strong> EvAPpue<strong>de</strong>n llevar a diversas conclusiones. Comose señaló en <strong>la</strong> Parte I, en un tercio <strong>de</strong> <strong><strong>la</strong>s</strong> EvAP,<strong><strong>la</strong>s</strong> calificaciones satisfactorias <strong>de</strong> <strong>la</strong> cartera, en14

Hooray! Your file is uploaded and ready to be published.

Saved successfully!

Ooh no, something went wrong!