Professional Documents
Culture Documents
Evaluacin de Proyectos
~ Mtodos Prcticos para la Evaluacin de Proyectos ~
Septiembre de 2004
i
Parte III: Gestin de las Evaluaciones del Proyecto 104
Captulo 1 Problemas en la Gestin de Evaluaciones 105
1. El Papel de los Departamentos Operativos del
Proyecto de la JICA 106
2. Preparacin de la Publicidad de un Contrato 109
3. Preparacin Preliminar de la Evaluacin 116
4. Gestin de las Evaluaciones en el Sitio 118
5. Preparacin del Informe de Evaluacin 122
6. Retroalimentacin de los Resultados de la
Evaluacin 123
Captulo 2 Puntos en la Evaluacin Ex-ante y Ex-post 124
1. Puntos Clave de los Estudios de Evaluacin Ex-
ante 127
2. Puntos del Seguimiento y los Estudios de
Evaluacin Intermedia 146
3. Puntos Principales de los Estudios de
Evaluacin Final 159
4. Puntos Principales de las Evaluaciones Ex-post 195
ii
Parte I
Evaluacin de Proyectos
de la JICA
Captulo 1 Descripcin General de la Evaluacin de Proyectos
de la JICA
Consejos!
- Hay tres objetivos para el uso de la Evaluacin de Proyectos de la JICA: 1)
herramienta para la gestin del ciclo del proyecto; 2) herramienta para acentuar los
efectos de aprendizaje para una gestin de proyecto ms efectiva; 3) asegurar la
rendicin de cuentas.
- Los criterios para una buena evaluacin son 1) utilidad, 2) justicia y neutralidad, 3)
credibilidad, 4) participacin de los pases socios, etctera. Cuando se adopta la
2
responsabilidad completa de dichos criterios se obtiene una evaluacin ms calificada.
3
1. Objetivos de la Evaluacin de Proyectos de la JICA
4
de los pases socios emplean las lecciones de los proyectos pasados a modo de
referencias tiles cuando planean e implementan proyectos similares. Adems, el proceso
de evaluacin en s contribuye a ampliar el conocimiento y desarrollar las capacidades de
las personas participantes y, por tanto, sirve como un proceso de aprendizaje.
Uso de la Retroalimen-
tacin de la Evaluacin
Gestin de Proyectos
Asegurar la
Rendicin de
Acentuar el Efecto Cuentas a los
Asegurar la Responsabilidad
de la JICA
5
2) Tipos de Evaluacin de Proyectos de la JICA
El Informe sobre el Mejoramiento del Sistema de Evaluacin de la AOD del Ministerio del
Exterior, publicado en marzo de 2000, clasific la evaluacin de la AOD en tres niveles: a
nivel de poltica, a nivel de programa y a nivel de proyecto, como se muestra en la Figura
1-1-2. El informe solicita que se mejore la evaluacin a nivel de poltica y a nivel de
programa. El Ministerio del Exterior lleva a cabo evaluaciones a nivel de poltica tales como
el Programa de Asistencia a Pases y las Iniciativas a Sectores Especficos, as como
evaluaciones a nivel de programa por sectores y esquemas. La JICA conduce las
evaluaciones a nivel de programa y de proyecto. La Figura 1-1-3 muestra cmo evaluar el
ciclo de gestin de la JICA. Existen dos ciclos: el ciclo pequeo (ciclo del proyecto) y el
gran ciclo (ciclo del programa).
6
Figura 1-1-2 Sistema de la AOD y la Evaluacin de la JICA
Carta de la AOD
Nivel de Poltica
Polticas bsicas de la JICA
Poltica Intermedia de la Plan a Mediano Plazo
Sistema de Evaluacin
Lineamientos Temticos
Programa de Asistencia por Pas de la JICA
Iniciativas por sector especfico
Problema de
Desarrollo del Pas A
Problema de Desarrollo
Problema de
Desarrollo
Programa de Programa de
Cooperacin de la JICA Cooperacin de la JICA
Proyectos Independien-
Proyectos Independien-
Nivel de Proyecto
Proyectos de la JICA
Proyectos de la JICA
Proyectos de la JICA
Proyectos de la JICA
Otros Donadores
Cooperacin de
Cooperacin de
Otros Donadores
tes del Pas A
7
Figura 1-1-3 Tipos de Evaluacin por Etapas durante el Ciclo del Proyecto
Retroalimentacin Plan
Retroalimentacin
Ciclo del Proyecto
Evaluacin
Evaluacin Ex-ante
Ex-post
Retroalimentacin Retroalimentacin
Implementacin
Post Imple-
mentacin
Evaluacin Evaluacin
final intermedia
8
i) Evaluacin de Programa por Pas
Esta evaluacin integral examina los efectos generales de la cooperacin de la JICA para
el desarrollo de un pas objetivo a lo largo de los proyectos. Despus de aclarar y analizar
los efectos generales de la cooperacin de la JICA y las dificultades que encontr, esta
evaluacin brinda lecciones y recomendaciones para el mejoramiento del Programa por
Pas de la JICA para del pas en cuestin.
i) Evaluacin Ex-ante
La evaluacin ex-ante se realiza sobre un proyecto solicitado por un pas receptor. Primero
incluye un estudio del proyecto para determinar su necesidad as como su conformidad
con el Programa por Pases de la JICA. Se aclaran los detalles del proyecto y sus
resultados esperados. Despus se examina y evala de manera integral la importancia del
proyecto. En la evaluacin ex-ante, los indicadores de evaluacin se establecen y utilizan
para medir el efecto del proyecto en evaluaciones posteriores, desde la evaluacin
intermedia hasta la evaluacin ex-post.
9
resultados, se puede revisar el plan original del proyecto o fortalecer la estructura de la
operacin en caso de ser necesario.
10
iii) Evaluacin Conjunta
Esta evaluacin se realiza en colaboracin con organizaciones en los pases objetivo o con
las agencias de asistencia de otros pases donantes. La evaluacin conjunta con los
pases socios es efectiva para compartir con la JICA el reconocimiento sobre los efectos
de dichos proyectos y sus problemas. Tambin contribuye con los mtodos de evaluacin
del aprendizaje y a mejorar la capacidad de aquellos pases para realizar sus evaluaciones.
Esta evaluacin es efectiva para promover el aprendizaje mutuo de los mtodos de
evaluacin y la coordinacin de la asistencia.
11
3. Sistema de Evaluacin de la JICA
12
(departamentos y oficinas en el extranjero responsables de la operacin de los proyectos).
Los papeles principales de cada una de estas partes son los siguientes:
i) Comit de Estudios de Evaluacin
El comit est encabezado por el vicepresidente de la JICA a cargo de la planeacin y
evaluacin y est compuesto por los directores administrativos de los departamentos
relacionados. El comit examina y discute las polticas de evaluacin bsicas de la JICA,
as como los mtodos para proporcionar la retroalimentacin de la evaluacin. Bajo este
comit, se establece un Grupo de Trabajo de Estudio de la Evaluacin para estudiar,
deliberar e informar sobre las cuestiones y problemas relacionados.
13
Adems del establecimiento de un buen sistema de evaluacin, tambin es esencial la
creacin de recursos humanos con habilidades de evaluacin para mejorar la calidad de
las evaluaciones de la JICA. La JICA brinda programas de capacitacin para su personal
tanto en su Oficina Central como en las oficinas en el extranjero, mediante un programa de
capacitacin a distancia desarrollado en colaboracin con el Instituto del Banco Mundial.
14
4. Retroalimentacin de la Evaluacin
15
estudios sintticos sobre las evaluaciones para identificar las tendencias comunes. A partir
del 2004, se aadi una nueva columna al documento de evaluacin ex-ante para anotar
comentarios sobre las lecciones aplicadas tomadas de proyectos similares pasados. Esto
representa un paso ms para una mejor retroalimentacin de la evaluacin.
16
Figura 1-1-4 Sistema de Retroalimentacin
Agencias de
Departamentos Proyecto Implementacin
Operativos de la Objetivo Organizaciones
JICA, Organizaciones Preocupadas por
Interesadas los pases objetivo
en Japn
Agencias de
Mejorar la Gestin de Asistencia de
los Proyectos / Proceso otros pases
donadores
de Aprendizaje de la Proceso de
Organizacin la Evaluacin
Asegurar la Rendicin
de cuentas
Pblico /
Contribuyentes Pblico de
Japoneses los Pases
Objetivo
17
5. Criterios para una Buena Evaluacin
Para brindar informacin adecuada que valga la pena utilizar es necesario satisfacer
criterios tales como 1) utilidad, 2) imparcialidad e independencia, 3) credibilidad y 4)
participacin de los pases socios; todos estos puntos son importantes para llevar a cabo
una Buena Evaluacin.
(1) Utilidad
Los resultados de las evaluaciones deben ser claros y tiles para que se puedan emplear
en la toma de decisiones de la organizacin. Es necesario establecer claramente los
objetivos de la evaluacin, y para que la retroalimentacin sea ms efectiva, es
recomendable que la evaluacin refleje las necesidades de los usuarios previstos. La
informacin relativa a los resultados de la evaluacin se emplea en diversas etapas
durante el ciclo del proyecto y tambin se utiliza en la formulacin de estrategias ms
efectivas, as que es muy importante que esa informacin est fcilmente disponible y que
la implementacin de la evaluacin est lista justo a tiempo.
(3) Credibilidad
Para obtener una informacin de evaluacin verosmil, es esencial que los evaluadores
tengan conocimientos especializados de los campos objetivo y los esquemas (tipos de
proyectos) y que estn bien versados en el mtodo de investigacin cientfica. Un
evaluador con estas caractersticas es capaz de producir informacin verosmil que es el
resultado de un anlisis objetivo de aquellos factores que indican xito o fracaso. Adems,
18
es importante compartir el proceso de evaluacin en s con las partes interesadas del
proyecto ya que as se asegura la transparencia. En el proceso, es importante incluir las
diferentes opiniones propuestas relativas a las lecciones aprendidas y las
recomendaciones en el informe, y dejarlas al veredicto del pblico. La transparencia es
indispensable para aumentar la credibilidad con el pblico y tambin tiene un efecto nada
pequeo en qu tanto de la informacin de la evaluacin se utiliza.
19
Captulo 2 Marcos de Trabajo y Pasos Bsicos de la
Este captulo consta de dos partes: 1) el marco de trabajo de la evaluacin, y 2) los pasos
principales del estudio de la evaluacin. En la Parte II se incluye una explicacin detallada
de las metodologas de evaluacin.
Consejos!
- La evaluacin es una herramienta prctica para gestionar de manera efectiva un
proyecto.
- La evaluacin tiene tres etapas: 1) valoracin de los resultados del proyecto; 2) juicio
de valor con base en los Cinco Criterios de Evaluacin; y 3) elaboracin de
recomendaciones, atencin a las lecciones aprendidas y la retroalimentacin.
20
1. La Evaluacin como una Herramienta de Gestin
21
2. Marco de Trabajo de la Evaluacin
Hay tres tipos de valoracin indispensables para analizar la situacin real y los resultados
del proyecto. La medicin de los resultados sirve para ver qu se ha logrado en un
proyecto y hasta qu punto (o para ver la validez de los planes y valores objetivo en el
caso de la evaluacin ex-ante). El examen del proceso de implementacin es para analizar
qu est sucediendo en el proceso para alcanzar su objetivo y cmo afecta al
funcionamiento (o para ver si el proceso est bien planeado en el caso de la evaluacin
ex-ante). Por ltimo, el examen de las relaciones causales es para determinar si los
resultados del proyecto se deben a la intervencin del mismo analizando las relaciones
causales entre el proyecto y los efectos que haya (o para ver la validez del diseo del
proyecto en el caso de la evaluacin ex-ante).
22
El examen del proceso de implementacin tiene el objetivo de investigar todo el proceso
de actividades y lo que est sucediendo durante la implementacin del proyecto. En la
evaluacin intermedia, el evaluador examina el dinamismo dentro de un proyecto
concentrndose en aquellos aspectos tales como si las actividades se realizaron segn lo
planeado, si un proyecto se gestion correctamente, si aquellos interesados en un
proyecto se llevan bien entre ellos, o cmo perciben la situacin los beneficiarios. Tambin
es necesario examinar cualquier factor en el proceso de implementacin que haya podido
influir en el logro de sus objetivos.
En la evaluacin ex-ante se examina el contenido de los planes del proyecto
poniendo atencin al proceso de implementacin. Este proceso incluye la importancia de
las actividades para producir los resultados y objetivos planeados, la idoneidad del sistema
de gestin y las relaciones con el beneficiario y las organizaciones relevantes.
Con frecuencia, la informacin sobre el proceso de implementacin se convierte en
evidencia de apoyo para la eficiencia y la efectividad y por lo tanto pude ser til para el
anlisis de los factores que contribuyen o dificultan el xito del proyecto. En el caso de la
evaluacin ex-ante, se puede utilizar la informacin para prevenir obstculos y para
redisear los planes originales o la planeacin de un proyecto similar en el caso de la
evaluacin intermedia, final o ex-post.
Es indispensable examinar los resultados del proyecto en esas tres formas. Para poder
mejorar la operacin de un proyecto, se deben identificar algunos factores que lo dificultan,
sobre todo mediante un examen de los procesos de implementacin y de las relaciones
causales. Si se identifica algn problema en el proceso de implementacin, es posible que
la raz del problema sea un problema de gestin. O, cuando no se ha construido
correctamente el enlace causal, se podra atribuir la responsabilidad a la planeacin en s.
Adems, el seguimiento juega un papel muy importante con respecto a la
evaluacin. El seguimiento es un trabajo de rutina y brinda informacin para volver a
disear el plan de un proyecto si es necesario. La informacin del seguimiento contiene
23
bastantes datos sobre los resultados y el proceso de implementacin y, por tanto, es
una importante fuente de informacin para el estudio de evaluacin. Si el seguimiento no
se realiza adecuadamente, es posible que falten datos e informacin necesarios para la
evaluacin.
Por otro lado, una falla de la implementacin implica que hay una causa
para la falla en la implementacin del proyecto (insumos, actividades,
resultados, condiciones internas, etc.) o en los sistemas de gestin.
24
Figura 1-2-1 Valoracin de los Resultados - Tres Aspectos
25
(2) Juicio de Valor con Base en Cinco Criterios de Evaluacin
La evaluacin se realiza con el propsito de realizar un juicio de valor con base en el logro
de los resultados. La JICA adopt Cinco Criterios de Evaluacin para realizar una
evaluacin (principalmente evaluacin de proyectos), que propuso en 1991 el Comit de
Asistencia para el Desarrollo (DAC) en la Organizacin para la Cooperacin Econmica y
el Desarrollo (OECD). Estos cinco criterios, como se muestra a continuacin, se
establecieron para utilizarse en la evaluacin de las actividades de asistencia a partir de
una amplia gama de criterios. (Consulte la seccin 2-2-1 para una explicacin ms
detallada)
i) Pertinencia
Un criterio para considerar la validez y necesidad de un proyecto en cuanto a si los efectos
esperados del proyecto (o el objetivo del proyecto y el objetivo general) satisfacen las
necesidades de los beneficiarios objetivo; si la intervencin de un proyecto es adecuada
como una solucin a los problemas en cuestin; si el contenido de un proyecto es
consistente con las polticas; si las estrategias y enfoques del proyecto son relevantes, y si
se justifica implementar el proyecto con fondos pblicos de la AOD.
ii) Efectividad
Un criterio para considerar si la implementacin de un proyecto a beneficiado (o
beneficiar) a los beneficiarios a quienes est dirigido o a la sociedad objetivo.
iii) Eficiencia
Un criterio para considerar cmo se convierten los recursos econmicos/insumos en
resultados. Se concentra principalmente en la relacin entre el costo del proyecto y los
efectos.
iv) Impacto
Un criterio para considerar los efectos del proyecto con atencin a los efectos de largo
plazo, incluyendo los directos o indirectos, positivos o negativos, intencionales o
involuntarios.
v) Sustentabilidad
Un criterio para considerar si los efectos producidos continan una vez que se termina la
asistencia.
Se utilizan los Cinco Criterios de Evaluacin para evaluar desde un punto de vista
integral el valor de llevar a cabo un proyecto. El evaluador examina los efectos de un
proyecto, as como la idoneidad del volumen de recursos para producir los efectos (es
decir, la eficiencia). El valor de realizar un proyecto podra disminuir si cuesta ms de lo
necesario aunque haya producido efectos enormes, o si los efectos son limitados a pesar
26
de la gran escala de insumos utilizada. Tambin, para juzgar la validez de una intervencin
de asistencia, se examina la importancia de las estrategias, as como la sustentabilidad de
los efectos despus que la asistencia termina. Por tanto, utilizar los cinco criterios para
evaluar un proyecto permite ver su valor desde puntos de vista diferentes y, como
resultado, se puede especificar diversos factores que influyen en el xito o fracaso del
proyecto. Cuando se evalan proyectos, ya sea para valorar los resultados o predecir el
futuro, las perspectivas variarn dependiendo del momento en que se encuentre el ciclo de
operacin cuando se realiza el estudio de evaluacin El enfoque de cada criterio tambin
variar entre los proyectos. Sin embargo, la JICA decidi bsicamente cubrir todos los
cinco criterios en cualquier tipo de estudio de evaluacin.
Los resultados de una evaluacin tienen valor nicamente cuando se utilizan. La JICA
considera la evaluacin como una herramienta prctica de gestin y por ello es necesario
hacer recomendaciones especficas y tomar lecciones a partir de los resultados de la
evaluacin. Las recomendaciones y lecciones aprendidas se deben enviar a los
departamentos relevantes de la JICA y a las organizaciones relacionadas para que se
puedan utilizar para el mejoramiento del proyecto objetivo o de las operaciones en el futuro.
Cuando se hacen dichas recomendaciones es indispensable especificar los factores
que influyen para contribuir o dificultar un proyecto y para comprender lo que se ha
aprendido. Por ejemplo, cuando se descubre que el proyecto no es efectivo, es necesario
identificar los factores que lo dificultan examinando tanto el proceso de implementacin
como las relaciones causales, y con base en dichos factores, se deben proponer
recomendaciones y lecciones aprendidas. Otro ejemplo sera, en caso de encontrar un
problema en la distribucin del personal en la agencia de implementacin, se necesitara
hacer algunas recomendaciones para cambiar la situacin. En caso que los resultados de
la evaluacin nos digan que es necesario otro grupo de resultados para obtener los efectos
esperados, se debern proponer recomendaciones para volver a disear los resultados.
En suma, la evaluacin tiene tres etapas: 1) valoracin de los resultados; 2) emisin
de un juicio de valor sobre el proyecto; y 3) elaboracin de recomendaciones y toma de
lecciones aprendidas mediante el anlisis de los factores que contribuyen o dificultan el
proceso, y la retroalimentacin. No es posible realizar una evaluacin til sin cualquiera de
estas tres fases.
27
3. Pasos Principales de la Evaluacin de Proyectos de la JICA
28
Pasos del Estudio de Evaluacin:
- Cul es el
(1) Confirmar el objetivo
objetivo de la
de la evaluacin
evaluacin?
- Qu es la
(3) Formular un plan de
metodologa de
trabajo para la evaluacin
la evaluacin?
- Tomar en
consideracin las
preguntas de la
evaluacin, las
bases para el juicio,
los datos
necesarios y los
mtodos de
recopilacin de
datos
- Realizar el
(4) Recopilar datos
estudio de
evaluacin en los
sitios el proyecto
- Recopilar datos
Reali- en Japn, de ser
zacin necesario
- Interpretar datos
(5) Analizar e interpretar datos y emitir un juicio
de valor
29
- Hacer recomendaciones y tomar
lecciones aprendidas
Informacin
de los (6) Informar sobre los resultados - Reunir los
resultados de la evaluacin resultados de la
evaluacin
- Enviarlos a los usuarios
potenciales
Retroali-
mentacin
30
Tabla 1-2-1 Actividades principales de cada paso durante la evaluacin
Pasos de la Qu hacer Puntos a considerar
Evaluacin
1. Confirmar el z Confirmar el objetivo de la evaluacin. - Observe que el enfoque de la evaluacin
objetivo de la z Confirmar quines son los usuarios difiere dependiendo del tipo de
evaluacin potenciales. evaluacin
z Confirmar el contenido de los planes y la
situacin actual.
Asegurarse que la situacin real se refleja
- No se debe crear un nuevo Marco
en el Marco Lgico/PDM. Lgico/PDM slo para que la evaluacin
Organizar la informacin de seguimiento
Plan de la Evaluacin
31
- En caso que los valores objetivo o los
medios de verificacin descritos en el
Marco Lgico/PDM no sean adecuados,
z Decidir bases para el juicio: Comparar tomar en consideracin nuevos criterios
criterios o valores objetivo/diseo de la o medios.
evaluacin. - Al examinar la efectividad o impacto,
adoptar el diseo de evaluacin de
antes y despus o el mtodo de diseo
semi-experimental.
- Se deben tomar en cuenta los datos
cuantitativos y cualitativos al considerar
los datos necesarios.
z Decidir cules son los datos necesarios y las - Al identificar las fuentes de datos, poner
fuentes de datos. mucha atencin en las diferencias de
gnero, relativas a la etnia y de clases
sociales.
z Seleccionar los mtodos de recopilacin de - Hacer un esfuerzo por aumentar la
datos: encuestas con cuestionarios, credibilidad de los datos combinando
entrevistas, revisin de literatura, etc. varios mtodos de recopilacin de datos.
- Utilizar con flexibilidad la Tabla de
Evaluacin aadiendo los puntos/temas
necesarios, ya que se trata de una
z Crear una Tabla de Evaluacin. herramienta prctica para discutir con
las partes interesadas el plan de trabajo
de la evaluacin.
Implemen-
32
z Analizar los datos recopilados aplicando
mtodos de anlisis cuantitativos y - Analizar los factores que han influido en
cualitativos. un proyecto, as como los factores que
z Evaluar un proyecto (o emitir juicios de han contribuido a l o lo han dificultado.
valor) utilizando los Cinco Criterios de
5. Anlisis e - Describir las razones y especificar las
Evaluacin con base en el anlisis de datos bases de los resultados de la
Interpretacin de e identificando los factores que contribuyen o evaluacin.
Datos dificultan el proceso. - Las recomendaciones y las lecciones
z Llegar a conclusiones con base en los aprendidas deben ser especficas y
resultados de la evaluacin de los Cinco prcticas con evidencia que las
Criterios de Evaluacin. respalde.
z Hacer recomendaciones y tomar lecciones
aprendidas.
z Reunir los resultados de la evaluacin en la
- Hacer el esfuerzo de enviar los
Tabla de Evaluacin Ex-ante o en la Tabla
Informacin
33
Parte II
Mtodos de Evaluacin
de la JICA
34
Captulo 1 Confirmacin de los Objetivos de la Evaluacin y
Organizacin de la Informacin sobre el Proyecto Seleccionado
Consejos!
- Los propsitos de la evaluacin varan entre la evaluacin ex-ante, intermedia, final y
ex-post. Como primer paso de la planeacin de la evaluacin, es importante
confirmar los propsitos de la evaluacin y compartir la informacin entre las partes
interesadas sobre cmo y quin utilizar los resultados de dicha evaluacin.
- La informacin que se debe obtener con anticipacin incluye el contenido del plan de
un proyecto y el nivel de realizacin del proyecto.
- En caso que la situacin real del proyecto no se refleje en su Marco Lgico/PDM, ser
necesario realizar algunos ajustes. Sin embargo, esto no significa que se cambie el
Marco Lgico/PDM para hacer el estudio de evaluacin ms fcil.
35
1. Confirmacin del Objetivo de la Evaluacin
Cuando se planea la evaluacin, antes que nada, el evaluador y las partes interesadas
relacionadas deben confirmar el propsito de la evaluacin. Existen varios mtodos de
evaluacin dependiendo del propsito. Los resultados de la evaluacin podran terminar
siendo intiles y sin objeto, a menos que las personas interesadas compartan su
propsito y uso. Por lo tanto, es muy importante confirmar para qu y quin va a utilizar
los resultados de la evaluacin y planear la evaluacin para satisfacer su propsito.
El propsito de la evaluacin difiere dependiendo de la etapa en que se encuentra
el ciclo del proyecto al momento de realizarla, como se muestra a continuacin.
37
2. Comprensin del Panorama General del Proyecto Seleccionado
38
ii) Acerca de los Resultados del Proyecto
Otra clase de informacin que se debe obtener es el resultado de un proyecto al
momento de la evaluacin. En trminos de la evaluacin intermedia, es importante
conocer los insumos y resultados reales, as como la situacin actual del proceso de
implementacin. En cuanto a la evaluacin final, adems de ese tipo de informacin
tambin se debe obtener el nivel de xito del propsito del proyecto. Por lo general,
podemos obtener informacin acerca de esos puntos en los resultados del seguimiento.
Sin embargo, si es necesario, se pueden llevar a cabo encuestas adicionales durante la
evaluacin.
iii) Fuentes principales de informacin
A continuacin se muestran las fuentes principales de informacin para conocer el
panorama general de un proyecto.
39
Figura 2-1-1 Descripcin General Conceptual de la Informacin sobre el
Proyecto Objetivo
Situacin al momento de
la evaluacin
(resultados, proceso de la
implementacin, etc.
40
3. Uso del Marco de Trabajo Lgico
El marco lgico es una herramienta til para comprender cules son los objetivos,
actividades e insumos de un proyecto, cmo se seleccionan los valores objetivo y las
mediciones, y cules son los riesgos de un proyecto.1 El marco lgico se ha utilizado para
la planeacin y gestin de proyectos. El marco lgico puede brindarle al evaluador
informacin sobre la situacin real y la lgica o teora de los proyectos. Se puede obtener
la siguiente informacin a partir del marco lgico.
Sin embargo, en la realidad el contenido del marco lgico puede no ser muy claro y
lgico o, en algunos casos, no se han esclarecido los valores objetivo. En ese caso, el
evaluador debe conocer cul es la situacin real de un proyecto a partir de los
documentos relevantes o de entrevistar a las personas interesadas. Adems, la
oportunidad de tener una discusin con las partes interesadas le puede ayudar a
considerar qu es lo que se debe investigar para medir los efectos del proyecto y cules
son los criterios que se deben utilizar para juzgar el nivel de xito de los objetivos.
i) Qu es el Modelo Lgico?
El modelo lgico es una de las teoras de evaluacin de proyectos y constituye la base
terica del marco lgico.
1
El marco de trabajo lgico (logframe) es una herramienta de gestin para mejorar el desarrollo del plan
de intervencin (DAC), y la PDM (Matriz de Diseo del Proyecto) de la JICA es un tipo de marco lgico.
Este manual utiliza la terminologa del marco lgico ms ampliamente aceptada en el mbito
internacional.
41
El modelo lgico...
El modelo lgico representa la teora de evaluacin de la teora de un programa. Algunas
veces se describen en trminos tales como la lgica de los resultados de un programa y la
teora de la accin, dependiendo de los investigadores. La evaluacin de la teora de un
programa se lleva a cabo cuando se confirma o asume un patrn de causa y efecto en los
programas y proyectos.
Al utilizar un modelo lgico, se esclarecen las relaciones causales del proyecto objetivo y
eso ayuda a los evaluadores a investigar si los insumos del proyecto realmente estn
produciendo los efectos como se supuso o si se estn observando impactos como se
esperaba, y/o si existe alguna falla de teora en el proyecto.
42
Definicin de Resultado y Productos
Resultado:
Los efectos a corto, mediano y largo plazo, posibles o alcanzados, de los beneficios de
una intervencin para el desarrollo. Con frecuencia, los resultados a largo plazo se
conocen como impacto.
Productos:
Los productos, bienes de capital y servicios derivados de una intervencin para el
desarrollo. Los beneficios tambin pueden incluir cambios derivados de la intervencin
que son relevantes para alcanzar los resultados.
43
Figura 2-1-2 El Modelo Lgico
Cambios en el beneficiario
Resultados
finales y/o la sociedad como
consecuencia de un
proyecto de largo plazo
Resultados
Cambios intermedios en el
Resultados
intermedios beneficiario y/o la
sociedad como
consecuencia de un
proyecto
44
Figura 2-1-3 Un Ejemplo del Modelo Lgico:
El Proyecto de Mejoramiento de la Salud Materno Infantil
Gestin del
Proyecto
actividades actividades actividades
45
Figura 2-1-4 Un Ejemplo del Marco lgico de trabajo de la JICA
(Resumen Narrativo)
El Proyecto de Mejoramiento de la Salud Materno-Infantil
Objetivo General
Se ha reducido la tasa de mortalidad
infantil
Se ha reducido la tasa de mortalidad materna
Resultados
Gestin del
actividades actividades actividades
proyecto
46
(3) Revisin del Marco Lgico: Para Ver si Refleja la Situacin Real de un Proyecto
En la JICA, se formula un marco lgico al momento de la planeacin de un proyecto,
aplicando las relaciones causales del modelo lgico. Durante y despus de la evaluacin
intermedia es posible relacionar los contenidos del marco lgico con los planes de trabajo
de evaluacin hasta el punto donde el marco lgico describa la situacin real de un
proyecto (en caso que existan varias versiones del marco lgico, se aplica la ms
reciente). Sin embargo, en realidad existen casos donde el marco lgico no est
formulado clara o tericamente y, por lo tanto, no refleja la situacin real de un proyecto.
Algunas veces no solo las relaciones causales no estn bien identificadas, sino tambin
los indicadores, objetivos, medios de verificacin y suposiciones importantes. En ese
caso, el evaluador debe ajustar el marco lgico para que refleje lo que est sucediendo
en el sitio del proyecto lo ms acertadamente posible utilizando otra informacin del
proyecto. Por ejemplo, en el caso que lo que est escrito como propsito del proyecto se
pueda considerar como un beneficio nicamente, el evaluador - trabajando en consenso
con las partes interesadas - puede ajustar el propsito del proyecto examinando los
materiales relacionados o entrevistando a aquellos interesados para descubrir cules son
los efectos que se esperan originalmente. Con base en los resultados del monitoreo, el
evaluador tambin puede ajustar los indicadores de manera ms adecuada.
La tarea de ajustar el marco lgico no significa que el evaluador puede formular un
marco lgico supuesto ni establecer los valores objetivo para poder evaluarlos
fcilmente. El objetivo de la evaluacin es el contenido planeado y los resultados del
proyecto. Por lo tanto, la intencin de revisar el marco lgico al momento de planear la
evaluacin es ajustar su contenido de acuerdo con lo que est sucediendo realmente en
el sitio.
Generalmente es difcil construir relaciones causales en el marco lgico cuando el
contenido planeado o los objetivos no son claros incluso despus de haber revisado otra
informacin. Como resultado, tal vez no podamos evaluar el proyecto en un sentido real.2
En ese caso, podemos formular la pregunta de evaluacin sobre el propsito supuesto
del proyecto y, una vez que se identifica el propsito, medir el grado de realizacin.
En caso de la evaluacin ex-ante, sus resultados se reflejan en la formacin y/o
revisin del marco lgico y en el establecimiento de una base para un seguimiento fluido
y las evaluaciones posteriores.
La figura 2-1-5 muestra los pasos para la revisin del marco lgico al momento de la
planeacin de la evaluacin.
2
Sin embargo, en la JICA no ocurrira ese caso ya que actualmente se realiza la evaluacin ex-ante. En
caso que llegara a suceder en la evaluacin intermedia o en la final, sera una cuestin de la calidad de
la evaluacin ex-ante en s o del seguimiento.
47
Figura 2-1-5 Uso del Marco Lgico en la Evaluacin
real de un proyecto?
No S
* <Ejemplo>
Cuando el propsito del proyecto no es claro,
existen varias posibles medidas que se
pueden adoptar, como se muestra a
continuacin:
- Formular una pregunta de evaluacin sobre cul
El marco lgico modificado
debiera ser el propsito del proyecto.
est estructurado - Reflejar el propsito compartido implcitamente
entre las partes interesadas.
lgicamente?
- Establecer como objetivo del proyecto aquellos
El contenido est especificado
efectos supuestos que se podran producir a
travs de las actividades.
No S - Desistir de evaluar la efectividad haciendo la
comparacin con los planes originales.
- (En cualquier caso) investigar por qu el propsito
no es claro.
48
(4) Idoneidad de los Indicadores y Medios de Verificacin en el Marco lgico
En el marco lgico hay una columna de indicadores para medir los objetivos. En la
columna, la medicin de productos, el propsito del proyecto y la meta general se
establecen de manera especfica con los objetivos. Adems, la siguiente columna a la
derecha, medios de verificacin muestra los mtodos de recopilacin de datos para los
indicadores. Esa informacin es indispensable para dar seguimiento a un proyecto.
Tambin se puede utilizar para confirmar los resultados del proyecto y para determinar
los datos que se necesitan y los mtodos de recopilacin de datos en un estudio de
evaluacin.
El evaluador necesita examinar si el propsito del proyecto est descrito con los
indicadores y mtodos de medicin adecuados. Si los indicadores no se establecen
adecuadamente, la informacin sobre los resultados del proyecto que enva la agencia de
implementacin podra no ser confiable. En ese caso, los evaluadores pueden realizar
encuestas adicionales para obtener datos sobre los resultados.
Indicadores
z Directos/Vlidos: Si los indicadores explican directamente un fenmeno. Los
indicadores ms directos explican el objetivo con mayor claridad y por lo tanto facilitan
la medicin del nivel de rendimiento.
Mtodos de Medicin
z Prcticos: Si los mtodos de medicin son prcticos. El costo de la medicin depende
de las estrategias de medicin y de la credibilidad de los datos secundarios. Si se
cuenta con datos secundarios muy confiables, se puede establecer un simple indicador
prctico al costo mnimo. Los indicadores que slo se pueden medir a partir de
encuestas de gran escala podran no ser prcticos desde el punto de vista del costo y
el tiempo. Los mtodos de medicin son parte de las herramientas de gestin
utilizadas para el seguimiento y la evaluacin. Otro criterio importante para seleccionar
los mtodos de medicin es la accesibilidad y oportunidad para obtener datos.
z Confiabilidad: Si los datos recopilados son confiables. Los datos pueden ser ms
confiables si se pueden obtener los mismos resultados en cada medicin. La fuente
de informacin tambin debe ser confiable y es necesario eliminar hasta donde sea
posible las parcialidades de un encuestador.
50
(5) Ubicacin del Marco Lgico en un Programa
51
Figura 2-1-6 Ubicacin de un Programa y los Proyectos
suministro de agua del medio ambiente urbano se planta de purifica- La gente adquiere
de higiene de basura
52
(6) Conexin entre el Marco Lgico y los Planes de Trabajo de la Evaluacin
El marco lgico contiene informacin til para realizar los planes de trabajo de la
evaluacin. Por ejemplo, las preguntas de evaluacin sobre la efectividad e impacto
pueden reflejar el modelo de relaciones causales del marco lgico. Adems, los valores
objetivo de los indicadores y medios de verificacin pueden ser la base para identificar los
datos necesarios y los mtodos de recopilacin de datos. La figura 2-1-7 muestra el uso
de la informacin en el marco lgico para hacer los planes de trabajo de la evaluacin.
En la Parte II, Captulo 2 se explican en detalle los planes de trabajo de la evaluacin.
Figura 2-1-7 Uso del Marco Lgico para Hacer los planes de Trabajo de
la Evaluacin
Suposiciones
I t t
Relaciones Causales Bases de juicio
53
4. Comprensin de la Situacin de Implementacin: Informacin sobre
los Resultados y el Proceso de Implementacin
54
Informacin que se obtiene mediante el examen del proceso de
implementacin
Examen de actividades
z Se realizan las actividades como se haba planeado? De ser as, cules son
los factores que contribuyen?
z Hay alguna actividad que no se haya realizado por completo? De ser as,
cules son las razones?
z Los insumos del proyecto son suficientes para continuar las actividades?
General
Cules son los factores importantes o asuntos clave que contribuyen a los efectos del
proyecto? (por ejemplo, los mtodos de la transferencia tcnica, el equipo e
instalaciones brindados, el plan de operacin, los servicio que brinda el proyecto, la
seleccin de una regin objetivo, el tamao de un grupo objetivo, etc.).
55
Captulo 2 Planeacin de la Evaluacin del Proyecto
Este captulo explica los asuntos clave que se deben considerar para planear la
evaluacin. La preguntas de evaluacin se explicarn como el primer paso para hacer
un plan de trabajo, seguidas de las bases para el juicio, los datos necesarios y fuentes
de informacin y los mtodos de recopilacin de datos.
Consejos!
- Primero, determinar lo que necesitamos conocer en la evaluacin (preguntas de la
evaluacin). Los Cinco Criterios de Evaluacin nos ayudarn a formular las preguntas
de la evaluacin tan especficas como sea posible.
- Por ltimo, reunir todos los elementos de planeacin en una Tabla de Evaluacin, una
herramienta para desarrollar planes de trabajo de evaluacin. Es necesario aplicar la
Tabla de Evaluacin flexiblemente para satisfacer los diferentes propsitos de cada
estudio de evaluacin.
56
Pasos del Estudio de Evaluacin
Planeacin
de la (2) Organizar la informacin sobre
de datos
Implemen-
tacin
(5) Anlisis e interpretacin de
d t
Dar a
(6) Dar a conocer los resultados de
conocer los
la evaluacin
resultados
Retroalimen-
tacin
57
Pasos para hacer un plan de evaluacin
58
Formato del Cuadro de Evaluacin
Pertinencia
Efectividad
Eficiencia
Impacto
Sustenta-
bilidad
Otros
59
1. Desarrollo de las Preguntas de Evaluacin
ii) Conexin entre las Preguntas de Evaluacin y los Cinco Criterios de Evaluacin
Como se explic en la seccin anterior, la JICA adopta los Cinco Criterios de Evaluacin
de la DAC (es decir, pertinencia, efectividad, eficiencia, impacto y sustentabilidad) para
emitir un juicio de valor sobre los resultados del proyecto. Se pueden desarrollar las
preguntas de evaluacin de acuerdo con estos cinco criterios. Por ejemplo, en caso de
una evaluacin final del Proyecto de Capacitacin de Maestros de Matemticas y
Ciencias, las preguntas de evaluacin para determinar la efectividad del proyecto
podran ser: Hubo alguna mejora en los mtodos de enseanza de los maestros como
consecuencia del proyecto? o Ha habido algn cambio en las actitudes de los
maestros? Preguntas ms especficas podran ser: Cmo evalan los estudiantes los
cambios en las actitudes de los maestros? y El nivel de rendimiento de los maestros
satisfizo los valores objetivos (nicamente si el sistema para evaluar los mtodos de
enseanza se introdujo en el proyecto como un sistema de seguimiento)? Mientras ms
60
especficas sean las preguntas ms fcil ser desarrollar posteriormente un plan de
trabajo para la evaluacin. Al hacerlo, la calidad de la evaluacin en s podra mejorar.
No tenemos que cubrir todos los criterios con un conjunto completo de preguntas de
evaluacin. Necesitamos tener cuidado de no establecer preguntas de evaluacin
automticamente con base en los cinco criterios, sino desarrollar las preguntas
principales que proporcionarn respuestas tiles para mejorar el proyecto. Por lo tanto,
es posible que el nfasis entre los criterios sea diferente. En el caso de una evaluacin
interna con el propsito de mejorar los proyectos, los resultados sern irrelevantes a
menos que los intereses principales del personal de la JICA y de otras partes interesadas
se reflejen en las preguntas de evaluacin. Sus preocupaciones e intereses son el punto
de partida de la evaluacin. En ese proceso, podemos establecer qu preguntas crticas
se deben atender primero. Por lo general, el presupuesto y perodo de una evaluacin es
limitado y con frecuencia es difcil responder todas las preguntas. El personal de la JICA
debe discutir de manera extensa con las otras partes interesadas qu es lo que se debe
investigar exhaustivamente y luego seleccionar las preguntas de evaluacin importantes.
A continuacin se explican las relaciones entre los Cinco Criterios de Evaluacin y
las preguntas de evaluacin. Unas preguntas de evaluacin adecuadas facilitarn la
identificacin de los datos necesarios e indicadores en un estudio de evaluacin.
61
Figura 2-2-1 Modelo Conceptual de Cmo Desglosar una Pregunta Principal
(Caso de Evaluacin Final del
Proyecto de Capacitacin de Maestros de Matemticas y Ciencias)
(Pregunta Principal)
La implementacin del proyecto fue vlida?
Pertinencia Sustentabilidad
Cinco Criterios de
Evaluacin Eficiencia
Efectividad
Impacto
i ii iii iv v
62
Figura 2-2-2 Ejemplo de Preguntas de Evaluacin: preguntas principales
y preguntas secundarias
Caso: Curso de Capacitacin para el Manejo del Riego
El proyecto fue efectivo? (efectividad)
63
(2) Perspectivas de los Cinco Criterios de Evaluacin
Como se explic en una seccin anterior, los Cinco Criterios de Evaluacin se utilizan
para evaluar un proyecto objetivo desde diversos puntos de vista y, durante el proceso,
identificar los factores que contribuyen o dificultan el mismo. Con base en dichos factores,
se pueden formular buenas lecciones aprendidas y recomendaciones. La tabla 2-2-1
muestra las perspectivas principales de cada criterio. Se puede hacer referencia a ellos
cuando se desarrollan las preguntas de evaluacin. La figura 2-2-3 muestra las
relaciones conceptuales entre los Cinco Criterios de Evaluacin y el marco lgico. Tal
como se explic, de acuerdo con los cinco criterios, es posible que la informacin de un
marco lgico no sea suficiente para realizar una evaluacin integral.
Es necesario desarrollar las preguntas de evaluacin adecuadas para cada criterio,
refirindose a los documentos del proyecto y al marco lgico. El marco lgico brinda
informacin para puntualizar y establecer prioridades para las preguntas de evaluacin de
manera sistemtica al sealar las conexiones causales entre los componentes del
proyecto (incluyendo los productos, actividades e insumos) y los resultados (incluyendo
las metas generales y el propsito del proyecto), as como las suposiciones que
sustentan el proyecto. Si la lgica del marco lgico es correcta, el evaluador podr utilizar
directamente la descripcin del proyecto que aparece en el marco lgico para formular las
preguntas sobre su nivel de rendimiento. Por otro lado, si el marco lgico no est
estructurado de manera lgica, el evaluador deber crear preguntas de evaluacin
relevantes junto con las partes interesadas.
64
Tabla 2-2-1 Perspectivas de los Cinco Criterios de Evaluacin
Pertinencia Necesidad
z El proyecto coincide con las necesidades de un rea o sociedad
objetivo?
Examinar la z El proyecto coincide con las necesidades de los grupos objetivo?
justificacin o Prioridad
necesidad de z El proyecto es consistente con la poltica de asistencia para el
implementar un extranjero de Japn y los programas por pas de la JICA?
proyecto z El proyecto es consistente con los planes de desarrollo de un pas
socio?
Pertinencia como un Medio
z La estrategia del proyecto est produciendo impacto sobre los
asuntos de desarrollo en el sector relacionado de un pas socio?
(Los enfoques, reas objetivo o grupos son adecuados? Hay algn
efecto sinergtico de los proyectos de otros donadores en el mismo
sector?, etc.)
z Los grupos objetivo seleccionados se consideran adecuados (como
un objetivo o en su tamao)?
z El proyecto es pertinente desde el punto de vista de la igualdad?
(Los efectos y costos del proyecto se comparten de igual manera?
Hay algn efecto de difusin ms all de los grupos objetivo?, etc.)
z Japn obtiene alguna ventaja por extender la cooperacin tcnica en
el sector o sub-sector relacionado? (Hay alguna acumulacin de
conocimiento (know-how) y experiencias en relacin con las
tecnologas objetivo en Japn?, etc.)
Efectividad z Es el propsito del proyecto lo suficientemente especfico? (Los
indicadores y medios de verificacin son adecuados?)
Examinar los efectos z Se alcanz (o alcanzar) el propsito del proyecto?
de un proyecto z El logro deriv (o deriva) de los beneficios?
z Existe alguna influencia de suposiciones importantes en el logro del
propsito del proyecto?
Cules son los factores que dificultan/contribuyen a la efectividad?
66
Figura 2-2-3 La Relacin entre los Cinco Criterios de Evaluacin y el
Marco Lgico (Figura Conceptual)
Meta general
Impacto
Pertinencia
Propsito del
Proyecto
Actividades
Eficiencia
(Examen del
proceso de
(nota)
implementacin) Insumos
Esta figura muestra principalmente la relacin entre los Cinco Puntos de Evaluacin y el
Marco Lgico. El marco lgico es nicamente una de las fuentes de informacin en una
evaluacin y uno necesita analizar tambin otra informacin. Por ejemplo:
para la pertinencia, tambin se necesita informacin tal como los planes de
desarrollo de un pas socio, los antecedentes del proyecto, las necesidades del
beneficiario, las estrategias del proyecto y la formulacin de planes.
es necesario analizar la eficiencia desde tres puntos de vista: 1) productividad; 2)
costo-beneficio y 3) costo-efectividad;
para el impacto, no slo se describe la meta general como un efecto esperado en el
marco lgico, sino tambin es necesario investigar las influencias inesperadas
positivas y negativas; tambin se examina la pertinencia de las estrategias en el marco
67
de trabajo de un programa;
para la sustentabilidad, se deben formular varias preguntas como se describe en la
tabla 2-2-1; y
para la efectividad y el impacto, cuando se examinan las relaciones causales entre
la implementacin del proyecto y los efectos es necesario incluir aquellos aspectos
tales como las condiciones internas, el proceso de implementacin del proyecto y las
condiciones externas inesperadas.
68
(3) Cmo describir las preguntas de evaluacin en una tabla de evaluacin
* Comparacin con los datos obtenidos a partir del cuestionario de la encuesta que
supuestamente se realiz despus del proyecto.
** El uso de los datos obtenidos a partir de las observaciones directas concuerda con las
listas de verificacin de las actividades de supervisin
*** Medida mediante las calificaciones de la prueba.
**** Medicin de la proporcin de maestros que trabaja continuamente en la misma escuela
al momento de la evaluacin.
69
2. Bases del Juicio
Refirase a la media de la regin completa a la que pertenece el rea objetivo: para establecer
valores objetivo refirindose a la media de la regin completa a la que pertenece el rea objetivo (por
Refirase a los casos exitosos de proyectos similares: para aprender de las experiencias en los
casos exitosos de proyectos similares realizados bajo condiciones anlogas. Esto se basa en la idea
que el proyecto objetivo debe alcanzar el mismo xito que esos casos.
Refirase a los valores objetivo establecidos por las agencias especializadas: para utilizar los
valores estndar establecidos por las agencias especializadas - por ejemplo, los criterios de calidad
70
(2) El Punto de Vista al Evaluar las Relaciones Causales
71
manera de examinar las relaciones causales es medir los datos regularmente y observar
la transicin y su tendencia en series de tiempo.
72
(3) Cmo describir la base de juicio en la tabla de evaluacin
73
<Cuadro 3: El Mtodo de Diseo Experimental y el Mtodo de Diseo
Semi-experimental>
Fuentes: Ryu Yoshiaki, Ryo Sasaki (2000), Seisakuhyoka no riron to giho (Teoras y Tcnicas de la
Evaluacin de Polticas), Tagashuppan, p. 50-71; Lipsey RF (1999), Evaluacin: Un Enfoque
Sistemtico, 6a. edicin, SAGE, p. 279-306.
74
3. Consideracin los Datos y Fuentes de Informacin Necesarios
El siguiente paso es identificar cules son los datos que se deben recopilar y de dnde
para poder contestar las preguntas de evaluacin. Parte del proceso para encontrar los
indicadores especficos para medir un fenmeno es la tarea de identificar los datos
necesarios. Por ejemplo, un evaluador deber decidir un mtodo de medicin: por
ejemplo, si se debe medir la riqueza mediante el ingreso anual o el nmero de ganado
en una situacin especfica del proyecto. Por lo general hay diversas maneras de medir
un fenmeno y, por lo tanto, se debe elegir la medicin ms adecuada.
Existen dos tipos de informacin o datos para responder a las preguntas de evaluacin:
1) los datos cuantitativos; y 2) los datos cualitativos. Se debe conocer la naturaleza
diferente de cada tipo de dato ya que afecta la recopilacin de datos y los mtodos de
anlisis en un estudio de evaluacin. (Consulte los mtodos de anlisis cuantitativo y
cualitativo en 2-2-4)
i) Datos Cuantitativos
Los datos cuantitativos son aquellos expresados en valores numricos (por ejemplo, el
volumen de la cosecha de productos agrcolas, la tasa de alfabetizacin, la tasa de
mortalidad infantil, el rea de tierra de riego, la cantidad de instalaciones construidas y el
promedio de calificacin de una prueba). Los datos cuantitativos se utilizan ms para
evaluar los resultados de un proyecto o el grado de logro en valores numricos: es decir,
calcular el ingreso promedio de cierto grupo mediante el anlisis estadstico, y ver la
correlacin entre los antecedentes acadmicos y el ingreso. Los datos cuantitativos
tambin son adecuados para analizar la situacin de un grupo relativamente grande
realizando encuestas de muestreo.
Es posible cuantificar los aspectos cualitativos - que no son tan fciles de medir
en valores numricos - mediante una encuesta por cuestionario de opciones mltiples o a
travs de la observacin con una lista de verificacin. Por ejemplo, para investigar el
grado de satisfaccin de la gente, un evaluador puede calcular el porcentaje de gente
satisfecha preparando cinco opciones mltiples: 1) completamente satisfecho; 2)
moderadamente satisfecho; 3) ni satisfecho ni descontento; 4) un poco descontento; y 5)
completamente descontento. Uno puede entonces calcular el valor medio del grado de
satisfaccin si codifica esas opciones con nmeros del cinco al uno respectivamente.
Cuando se miden cambios en la actitud o percepcin de la gente, es posible cuantificar
los cambios definiendo la actitud o la percepcin en trminos concretos. Por ejemplo,
para poder analizar cmo cambiaron las actitudes de los maestros y los mtodos de
enseanza despus de recibir la capacitacin, se pueden definir dichos cambios como
75
"adoptando un mtodo participativo en clase", "la actitud hacia los estudiantes que no
pueden ir a la par con el avance de la clase, la manera de ensear con herramientas
experimentales limitadas, o la forma de estimular la creatividad de los alumnos. Esto se
puede medir a travs de la observacin de un tercero a mediante una encuesta por
cuestionario para los maestros.
Debido a que los datos cuantitativos se recopilan de manera sistemtica y
uniforme, tambin pueden ser ms confiables y fciles de analizar. No obstante, no se
puede obtener fcilmente informacin de antecedentes tales como la razn por la cual se
observa un fenmeno y cmo se adquiere el status quo.
76
Tabla 2-2-2 Ejemplos de Datos Cuantitativos y Cualitativos
78
<Cuadro 4: Encuesta por Censo y Encuesta por Muestreo>
79
<Cuadro 5: Muestreo Terico>
80
4. Mtodos de Recopilacin de Datos
81
Tabla 2-2-4 Mtodos Principales de Recopilacin de Datos y sus
Caractersticas
Mtodos de Recopilacin
Pros Contras/Consejos
de Datos
1. Revisin de la Literatura
incluyendo Datos Existentes
z La credibilidad de la
Informes del proyecto, z Menos costo en informacin y datos estn en
registros de seguimiento, comparacin con tela de juicio.
literatura sobre los sectores otros mtodos, y por
relacionados, datos lo tanto, eficiente.
z Tal vez no se obtengan los
datos necesarios.
estadsticos, informes de
otros donantes, etc.
2. Observacin Directa z Las habilidades y
La situacin sobre el uso de parcialidades de los
las instalaciones y el equipo, encuestadores influyen en los
la idoneidad de la resultados.
z Poco costo.
infraestructura y los servicios, z Se debe de asegurar
el sitio de capacitacin, la objetivamente combinndolo
forma de comportamiento de con otros mtodos de
la gente, etc. encuesta.
z Para obtener los datos
necesarios se requiere de
habilidades para desarrollar
3. Encuesta por Cuestionario
z Es posible obtener al un cuestionario adecuado.
mismo tiempo z Tal vez no se cubra toda la
(Encuesta Enquete)
informacin sobre un informacin importante si la
tema a partir de
Hacer las mismas preguntas poblacin de la encuesta es
a todos los objetivos median- diversos objetivos. de tamao limitado.
z Las respuestas de
te un cuestionario y analizar z Las tasas de respuesta no
los encuestados se
los datos obtenidos. son predecibles.
pueden comparar
Hay dos tipos de cuestiona-
fcilmente. z No hay oportunidad para que
rios: 1) el cuestionario auto- los encuestadores aclaren las
aplicado que los encuestados z Es relativamente fcil intenciones de las preguntas
analizar las
llenan directamente; y 2) el ya que no hay ocasin para
cuestionario donde un en- respuestas de las
una conversacin directa.
preguntas con
cuestador le hace preguntas (Consejos)
respuesta
a los encuestados y toma
obligatorias ya que
z Formular preguntas con
notas de sus respuestas (no palabras y expresiones
se pueden
se autoaplica). sencillas para que los
cuantificar.
encuestados puedan
comprender las intenciones
de las mismas.
82
z Prestar suficiente atencin
para escribir una carta de
solicitud en la forma correcta.
z Tomar en consideracin los
Hay dos tipos de preguntas: antecedentes sociales y
1) preguntas con respuestas
culturales y las formas de
obligatorias donde se dan
expresin para que se
opciones de respuesta espe-
transmita correctamente la
cficas; y 2) preguntas de
intencin de las preguntas.
interpretacin abierta donde
los encuestados responden
z Que el volumen no sea muy
grande.
en sus propias palabras.
z Seleccionar los tipos de
respuesta al tiempo que se
toma en consideracin los
mtodos de anlisis de datos.
z Requiere tiempo.
z Las habilidades del
4. Encuesta por Entrevista z Es posible tratar de encuestador influyen sobre
manera flexible con los resultados.
Hay varios tipos de entrevis- los encuestados, z La parcialidad de un individuo
dependiendo de la puede influir sobre los
ta, dependiendo del objetivo -
situacin. resultados.
entrevista individual, de gru-
po, de informante clave, etc. z Es posible obtener z En muchos casos, no es
ms informacin a posible cuantificar los datos y,
partir de las por tanto, generalizar los
Hay tres tipos de entrevistas resultados.
reacciones de los
dependiendo de la estructura
encuestados - por
de las preguntas.
ejemplo, sus expre- (Consejos)
siones faciales, vo- z Crear preguntas suponiendo
Entrevista Estructurada: Se ces, etc. una conversacin agradable.
preparan preguntas espec-
z Es posible hacer z Evitar preguntas largas o
ficas, al igual que en la
preguntas adiciona- demasiadas preguntas.
encuesta por cuestionario.
les para obtener ms z Tratar de obtener informacin
detalles. observando las expresiones
faciales, actitudes, etc. de los
encuestados.
Entrevista semi-estructurada:
Se preparan las preguntas
principales. Se formulan
preguntas adicionales durante
la entrevista cuando es
necesario.
83
z No es adecuada para temas
de naturaleza delica-da.
z Algunos encuestados po-dran
5. Discusin del Grupo de z Es relativamente controlar la discusin.
Control fcil llevarla a cabo. z Los encuestados tal vez no
z Se obtiene expresen sus verdaderos
Un grupo de alrededor de informacin sobre sentimientos si los temas
10 personas con los mismos temas especficos estn relacionados con las
antecedentes discuten sobre desde varios puntos normas sociales.
temas (o preguntas) de vista a partir de la z Las habilidades del mode-
especficas. Se puede obtener interaccin de los rador influyen en las
su percepcin hacia los temas participantes. discusiones (es necesario
o ideas observando la z Es muy fcil tener moderadores capa-ces).
discusin. escuchar las z Seleccionar cuidadosamen-te
objeciones. a los miembros (mximo 12
personas).
z Pida a alguien que lleve un
registro de la discusin.
84
Tabla 2-2-5 Consejos para Preparar Cuestionarios y Preguntas
Para poder aprovechar al mximo los pros y reducir al mnimo los contras de cada
mtodo de recopilacin de informacin es necesario combinar diferentes mtodos. Por
ejemplo, se puede realizar una encuesta por cuestionario para complementar los datos
existentes. O, se puede llevar a cabo una discusin del grupo de control entre la gente de
la localidad para conocer su percepcin una vez que se ha entendido la tendencia
85
general a partir de una encuesta por cuestionario. Tambin es posible realizar una
encuesta utilizando mtodos de recopilacin de datos cuantitativos y cualitativos. Es
importante considerar la combinacin de varios mtodos para reducir las parcialidades de
los encuestadores y los encuestados.
z Facilite una discusin del grupo de control despus de obtener resultados a travs
de una encuesta por cuestionario o revisin de literatura para poder investigar an
ms la informacin de los antecedentes.
Facilite una discusin de un grupo de control para comprender los factores que
afectaron al proyecto. Una discusin de ese tipo puede ayudar a explicar las
razones y los antecedentes detrs de los resultados de la encuesta por cuestionario
(pregunte a los participantes por qu razn se obtuvieron los resultados).
Pida a los participantes que apoyen la evidencia de los datos en los informes de
seguimiento (es decir, en caso que los resultados sean bajos) y en los factores
influyentes.
z Realice una entrevista de grupo con varios informantes utilizando las mismas
preguntas.
Es posible conocer cmo perciben las partes interesadas un fenmeno especfico.
Los datos podran ser ms confiables.
86
< Cuadro 6: Triangulacin >
La triangulacin se realiza para poder aplicar diversas tcnicas de recopilacin
de datos para aprovechar al mximo los pros y reducir al mnimo los contras de
cada recopilacin. Este enfoque intenta comprender la realidad completa al
examinar un fenmeno desde diferentes ngulos, y que un slo mtodo puede
describir nicamente una parte de la realidad. En las evaluaciones, los siguientes 4
tipos de triangulacin pueden contribuir a la verificacin y validacin de los anlisis
cualitativos.
3. Triangulacin de los Analistas: Utilizar varios analistas para revisar los resultados
87
(3) Tipos de Mtodos de Anlisis de Datos
88
< Cuadro 7: Mtodos Bsicos de Anlisis Cuantitativo >
z Incorporacin Simple y Anlisis Estadstico Simple
El mtodo de anlisis cuantitativo simple trata con una sola variable. Este mtodo es
adecuado para examinar el grado de logros o comparar esos logros con los valores
objetivo. Aunque es un mtodo sencillo, proporciona datos valiosos y, por lo tanto, es til
para realizar la evaluacin. A continuacin se describen los tipos de anlisis.
Frecuencia (es decir, cuntas personas respondieron s y cuntas no)
Distribucin porcentual (es decir, la proporcin de personas que
respondieron por cada 100)
Tendencia central (la media, el modo, la mediana)
Desviacin estndar (para ver qu tan alejados estn los valores de la
media)
z Incorporacin Cruzada
Este tipo de mtodo de anlisis estadstico observa cmo cada una de las personas
que contestaron de cierta forma a una pregunta responde a otra, o la tendencia de
respuestas dependiendo de la atribucin. Por ejemplo, cuando se crea una tabla (una
tabulacin cruzada) con dos variables: 1) la variable horizontal es la costumbre de
lavarse las manos; y 2) la variable vertical es la participacin en la campaa de
higiene, podemos calcular la frecuencia o proporcin de personas que acostumbran
lavarse las manos con base en su participaron en la campaa o no. Este mtodo es til
para comparar un grupo objetivo con un proyecto y un grupo de control sin proyecto
(con/sin), o para examinar la influencia de un proyecto sobre diferentes grupos.
z Coeficiente de correlacin
Este tipo de mtodo de anlisis estadstico examina si existe o no una relacin lineal
entre dos grupos de valores numricos para dos variables (por ejemplo, los datos del
nivel de ingreso y del nivel de educacin). Hay dos tipos de relaciones en esa direccin:
1) una relacin positiva donde el aumento en el valor de una variable est acompaada
por un aumento en el valor de la otra; y 2) una relacin negativa donde la disminucin en
el valor de una variable est acompaada por un aumento en el valor de la otra.
z Anlisis con mltiples variables
Este tipo de mtodo de anlisis estadstico trata con tres o ms variables. El anlisis
con mltiples variables incluye la regresin mltiple para analizar diversas variables y el
anlisis factorial para analizar el grado de influencia de otros factores sobre una
variable. Este mtodo se utiliza para examinar las relaciones causales entre variables
donde se calcula una correlacin y requiere de un software especial de anlisis.
(Fuente: Atsuko Isoda (2003), Captulo 3: Joho/Deta no Shushu to Bunsekishuho (Mtodos de
Journal, p. ??.)
89
< Cuadro 8: Mtodos Bsicos del Anlisis Cualitativo >
z Explicar la Situacin
Transmitir a los lectores (aquellos que podran utilizar los datos cualitativos) el
panorama general de un proyecto, incluyendo lo que est suciediendo en el sitio del
proyecto, cmo lo perciben las partes interesadas y en qu situacin se estn
implementado actividades o eventos especficos, etc.
90
5. Formulacin de una Tabla de Evaluacin
Pertinencia
Efectividad
Eficiencia
Impacto
Sustentabi-
lidad
Otros
91
Tabla 2-2-7 Ejemplo de una Tabla de Evaluacin:
(Caso: Proyecto de Capacitacin de Maestros de Matemticas y Ciencias)
Preguntas de Evaluacin Fuentes
Datos Mtodos de
Cinco Bases del de
Temas Temas necesa- Recopilacin
Criterios Juicio Informa-
principales menores rios de Datos
cin
Compara- Valor pro- 250 Encuesta por
cin con el medio del maestros cuestionario
valor objeti- ndice para capacita-
vo (el valor medir la dos
Mejoraron medio no calidad de
los mtodos es menor los mto-
de ensean- de 3.0) dos docen-
za de los tes
maestros? Compara-
cin antes/
despus
Percepcin 30 Grupo de
de los ins- instructo- control
La calidad tructores res
de la educa- Comparaci Califica- 250 Prueba
cin en la n con el cin pro- maestros
escuela mo- valor obje- medio de capacita-
Efectividad Mejor el
delo mejor tivo (la cali- la prueba dos
grado de
gracias al ficacin
comprensin
proyecto? promedio
de los
no es me-
maestros en
nor de 80
cuanto al
puntos)
contenido de
los temas?
Compara-
cin antes/
despus
Los maes- Comparaci- Proporcin Documen- Revisin de la
tros capacita- n con el de los tos del literatura
dos partici- valor objeti- maestros proyecto
pan continua- vo (80 por que siguen
mente en ac- ciento si- involucra-
tividades de guen invo- dos
educacin? lucrados)
92
Captulo 3 Interpretacin de Datos e Informacin de los
Resultados de la Evaluacin
Este captulo explica cmo interpretar los datos y cmo reunir los resultados de la
evaluacin.
Consejos!
- La evaluacin no termina con la recopilacin y anlisis de datos. Tambin es muy
importante continuar con la interpretacin de los mismos e informar sobre los
resultados llegando a un consenso sobre ellos con las partes interesadas.
93
1. Interpretacin de Datos
adoptar algunos juicios de valor de acuerdo con los criterios de evaluacin. Al mismo
analizar a fondo los factores influyentes que afectaron los resultados. Esta tarea se
conoce como interpretacin. Como hemos visto hasta ahora, el estudio de evaluacin
sigue el proceso que empieza con la recopilacin de datos pasa por el anlisis de
proyecto de acuerdo con los Cinco Criterios de Evaluacin; y 2) llegar a una conclusin
La primera tarea es evaluar un proyecto mediante los cinco criterios y especificar los
factores que llevaron a los resultados de la evaluacin. Por ejemplo, supongamos que
aldeanos pudieron tener acceso al agua potable gracias al proyecto? es 60 por ciento
de todos los aldeanos pudieron tener acceso al agua potable. En caso que el evaluador
objetivo (80 por ciento de los aldeanos), ser necesario analizar los factores que
inhibieron el logro del objetivo. Puede existir un problema con la ubicacin donde se
instalaron los trabajos de agua, o que el comit de manejo del suministro de agua no est
funcionando correctamente.
Si la conclusin nicamente indica que la efectividad es alta sin analizar los factores
que dificultan o contribuyen, o si los informa la puntuacin de cada criterio, es posible que
no se puedan utilizar los resultados para mejorar el proyecto. Slo cuando se identifican
tiles.
(2) Conclusin
El siguiente paso es llegar a una conclusin para cada uno de los cinco criterios con base
en los resultados de la interpretacin. En una evaluacin que utiliza los cinco criterios, el
obstante, para llegar a una conclusin, el evaluador debe emitir un juicio de valor por
consideracin todos los criterios. Por ejemplo, en una evaluacin ex-ante, un equipo
de los planes es adecuado o no. En caso de una evaluacin final, un equipo juzga si un
proyecto tiene xito y si se debe concluir la asistencia. El equipo tambin debe brindar
Cuando se llega a una conclusin, se puede aplicar el siguiente enfoque para volver a
adecuado o no. Por ejemplo, si la efectividad es baja a pesar de que la eficiencia (la
relacin entre los insumos y los productos) es alta en un proyecto, pueden existir algunos
produzcan los efectos aunque se considere adecuada la estructura del proyecto (las
95
relaciones causales lgicas), puede haber problemas en el proceso de implementacin (o
96
2. Recomendaciones y Propuestas de las Lecciones Aprendidas
consejos sobre un proyecto objetivo para la JICA o para aquellos interesados en las
Es importante alcanzar algn consenso entre las partes interesadas (incluyendo los
Temas a examinar
z Es necesario hacer las recomendaciones/lecciones aprendidas con base en la
informacin obtenida a travs del proceso de anlisis e interpretacin de datos. El
contenido debe satisfacer el propsito de la evaluacin.
z Las recomendaciones/lecciones aprendidas deben estar dirigidas a los usuarios
potenciales de los resultados de la evaluacin.
z Evite recomendaciones/lecciones aprendidas vagas y poco prcticas.
z Las recomendaciones deben ser especficas y estar clasificadas por prioridades con
un marco de tiempo determinado (por ejemplo, a corto o largo plazo) hasta donde
sea posible para que las siguientes medidas se puedan adoptar fcilmente.
zLas lecciones deben ser generalizadas y estar conceptualizadas para que se puedan
aplicar ampliamente.
97
Tabla 2-3-1
Flujo de Interpretacin de Datos y las Recomendaciones/Lecciones
Aprendidas
z Valor numrico de los datos segn el anlisis cuantitativo
Anlisis de Datos z Temas e incidentes obtenidos a travs del anlisis
cualitativo
98
3. Envo de Informacin sobre los Resultados de la Evaluacin
los recursos (sobre todo tiempo y dinero) invertidos en la evaluacin. Los informes deben
explicar los temas clave de manera clara para aquellos que no participan directamente en
el estudio de evaluacin, para que puedan seguir y entender los resultados con facilidad.
En la JICA, los resmenes tales como la Tabla de Evaluacin Ex-ante y la Tabla del
se deben preparar en ingls para retroalimentar a los pases socios. Estos resmenes de
responsabilidad. (Consulte las tablas 2-3-2, 2-3-3 y 2-3-4 que muestran ejemplos de los
resultados de la evaluacin.
99
Tabla 2-3-2 Ejemplo del Contenido de un Informe de Evaluacin (en una
Evaluacin Final)
ndice
Prlogo
Fotografas
Abreviaturas
- Insumos y Productos
- Proceso de Implementacin
100
Tabla 2-3-2 (continuacin)
Captulo 4 Resultados de la Evaluacin
4-2 Conclusin
5-1 Recomendaciones
Apndice:
101
Tabla 2-3-3 Ejemplo del Resumen de una Evaluacin Intermedia y
Final
I. Lineamientos del Proyecto
Pas: Ttulo del Proyecto:
Problema/Sector: Esquema de cooperacin:
Divisin a cargo: Costo total: _____ yenes
Divisin del Departamento Costo por participante: _____ yenes
Porcentaje de la contribucin de Japn: _ %
(R/D): Organizacin de Implementacin del Pas Socio:
Perodo de (Extensin): Organizacin de Apoyo en Japn:
Cooperacin (F/U) :
Cooperacin
Relacionada:
(1) Meta General (Copie su meta general, propsito del proyecto, productos de su PDMe)
(3) Productos
(4) Insumos
Del lado japons:
Experto de largo plazo ______ Equipo Yenes
Experto de Corto Plazo ______ Costo local Yenes
Becarios recibidos ______ Otros Yenes
(2) Efectividad
(3) Eficiencia
(4) Impacto
(5) Sustentabilidad
102
2 Factores que promueven la sustentabilidad y el impacto
4 Conclusin
5 Recomendaciones
6 Lecciones Aprendidas
103
Tabla 2-3-4 Hoja de Evaluacin Ex-ante (Proyectos de Cooperacin
Tcnica)
1. Ttulo del Proyecto:
2. Descripcin General de la Cooperacin
(1) Descripcin general del objetivo y productos del proyecto
(2) Perodo de Cooperacin
(3) Monto total de la cooperacin (Japn)
(4) Agencia de Implementacin en el Pas Socio
(5) Agencia de Cooperacin en Japn
(6) Grupo Objetivo y Beneficiarios
3. Necesidad y posicin de la cooperacin
(1) Situacin actual y Problemas
(2) Posicin dentro de las polticas nacionales del gobierno del pas A
(3) Posicin dentro de la poltica japonesa de asistencia para el extranjero y del plan de la
JICA para la implementacin de programas por pas
4. Marco de Trabajo de la Cooperacin
(1) Objetivo de la Cooperacin (Efectos Directos)
i) Objetivos a alcanzar al final de la cooperacin (Propsito del Proyecto)
ii) Objetivos que se espera alcanzar despus del final de la cooperacin (Meta General)
(2) Productos y Actividades
(3) Insumos
i) Del lado japons
ii) Del lado del pas socio
(4) Factores externos (suposiciones importantes que deben concretarse)
5. Resultados de la Evaluacin con base en los cinco criterios de evaluacin
(1) Pertinencia
(2) Efectividad
(3) Eficiencia
(4) Impacto
(5) Sustentabilidad
6. Consideracin de los problemas de Pobreza, Gnero y Medio Ambiente
7. Lecciones Aprendidas de Experiencias Pasadas
8. Plan de Evaluacin para el Futuro
104
Parte III
Gestin de la Evaluacin
del Proyecto
105
Captulo 1 Problemas en la Gestin de Evaluaciones
Este captulo explica cmo debe la JICA gestionar los proyectos de evaluacin (es decir,
su mtodo) y los problemas que se deben abordar. En muchos casos, consultores
manejan la recopilacin de datos y el anlisis de las evaluaciones; sin embargo, los
departamentos operativos del proyecto deben gestionar el estudio de evaluacin -
incluyendo la contratacin de consultores - para asegurar que ste se realiza de acuerdo
con el propsito de la evaluacin.
Consejos!
- La gestin empieza con la preparacin del aviso pblico sobre el contenido de la
evaluacin. Este aviso debe aclarar el propsito y antecedentes de la evaluacin y
las preguntas de la evaluacin. Cuando se est preparando el aviso es til referirse
a un TOR.
- Es extremadamente importante seleccionar el personal adecuado para asegurar la
calidad de la evaluacin.
- Cuando se est preparando y manejando la Tabla de Evaluacin, el departamento
operativo del proyecto debe brindar informacin y asesora adecuada al equipo de
evaluacin ya que tiene mayor acceso a la informacin que sobre la que la tabla se
basa.
- Cuando se coordine con el personal del sitio, es necesario incluir en la evaluacin
cualquier consejo que el gobierno de la contraparte brinde sobre la tabla.
- Al hacer los preparativos previos a la evaluacin, es importante enviar cuestionarios y
hacer citas con el personal interesado. En este momento se debe confirmar si el
cuestionario refleja o no el contenido de la tabla y si las personas que se entrevistaron
en las citas son fuentes de informacin adecuadas o no. Tambin es muy importante
tener suficiente tiempo para los preparativos.
- En el estudio de campo, es muy importante crear un consenso con los socios en
relacin con el diseo de la evaluacin y sus resultados.
- La compilacin de los resultados de la evaluacin (que incluye la formulacin de
recomendaciones y lecciones aprendidas) es un proceso vital que influye en cmo se
aplica la evaluacin. Es necesario hacer esfuerzos para confirmar que los resultados
de la evaluacin se presenten como la base para formular recomendaciones y
lecciones especficas y prcticas.
- El departamento operativo del proyecto es responsable de examinar los resultados de
la evaluacin y retroalimentarlos a los proyectos.
106
1. El Papel de los Departamentos Operativos del Proyecto de la JICA
Las evaluaciones de la JICA, desde la etapa ex-ante hasta la ex-post, se realizan con el
propsito de gestionar la operacin del proyecto; y por ello es necesario que los
resultados de la evaluacin se retroalimenten directamente a la toma de decisiones. Para
que esto suceda, el personal de la JICA, (supervisores del proyecto, jefes de evaluacin y
supervisores de departamento) que pertenezca a un departamento a cargo de un
proyecto especfico debe encargarse personalmente de realizar las evaluaciones. Es
ms, dicho personal adquiere el doble papel de evaluador y de gerente de evaluacin
para que puedan ayudar al lado evaluador como miembros del equipo de evaluacin.
Por lo general, el perodo de evaluacin se puede dividir en tres sub-perodos: el
perodo preparatorio, el perodo de evaluacin en el sitio y el perodo de
consolidacin. En cada uno, el departamento operativo del proyecto y el equipo de
evaluacin realizan principalmente las siguientes tareas.
3
El perodo de evaluacin ex-post de las evaluaciones de programas por pas, las
evaluaciones de programas y otros es largo
108
evaluacin en el sitio de trabajo de la evaluacin)
- Estudio de la composicin del equipo de evaluacin
- Preparacin de la publicidad de un contrato
109
2. Preparacin de la Publicidad de un Contrato
110
Tabla 3-1-2: Ejemplos de los Puntos incluidos en los TORs de Evaluacin
1. Antecedentes y Propsito
- Descripcin del proyecto que se va a evaluar
- Propsito de la evaluacin
- Objetivo/receptor esperado de los resultados de la evaluacin (es decir, el usuario de
los resultados de la evaluacin)
2. Preguntas Principales de la Evaluacin
- Cinco criterios de evaluacin (incluyendo las razones cuando se incluyen criterios de
prioridad)
- Preguntas de la evaluacin (Qu se debe aprender a travs de la evaluacin? y
preguntas principales relacionadas)
3. Mtodos de Evaluacin Sugeridos/Requeridos
- Presentacin de un marco de trabajo para el mtodo de evaluacin dentro de un
alcance viable (es decir, comparacin con reas sin proyecto, comparacin
antes/despus de los grupos de implementacin, evaluacin participativa, anlisis
estadsticos, anlisis de la eficiencia de costos, anlisis cualitativo, etc.)
- Presentacin de los mtodos de recopilacin de datos especficamente deseables, si
los hubiere (por ejemplo, cuestionarios, entrevistas, grupos de control, etc.; incluya
fuentes de informacin y muestras objetivo si es posible)
- Lista de las fuentes de informacin existentes
4. Miembros del Equipo y Papeles
- Papeles de los miembros del equipo; divisin de responsabilidades
- Habilidades que necesita cada miembro del equipo (por ejemplo, conocimiento
necesario de un experto sobre la evaluacin arriba mencionada, capacidad analtica,
experiencia, habilidades de lenguaje, etc.; si hay requisitos deseables, se deben
enumerar junto con los requisitos mnimos)
5. Calendario de las Tareas Principales
- Tareas principales y calendarios especficos para el perodo preparatorio, la evaluacin
en el sitio y el perodo de consolidacin
6. Productos esperados
- Tipos de productos esperados, personas a recibir los productos y plazo lmite
- Temas propuestos para incluir en el Informe de Evaluacin
- Otros materiales
7. Presupuesto
- Desglose del presupuesto y monto total
111
planes de proyecto, hay una probabilidad alta de que las preguntas de evaluacin se
concentren en el contenido del plan del proyecto, su pertinencia, su pertinencia ante otros
programas y su eficiencia. Despus de considerar preguntas que sern la base de la
evaluacin, es posible pensar en preguntas an ms especficas desglosando estas
preguntas; sin embargo, este paso se puede dejar pendiente hasta la seleccin de los
miembros del equipo. Como la JICA ha generado normas de evaluacin (los Cinco
Criterios de Evaluacin), es posible tomar en consideracin preguntas de evaluacin
especficas utilizando estas normas como referencia. (Ver 2-2-1.)
4
Incluso para las evaluaciones internas, es necesaria la perspectiva de un tercero para mantener la
objetividad. Por ello, las terceras partes que no estn involucradas en la implementacin del proyecto se
pueden emplear como lderes del equipo o miembros.
112
participativas y habilidades en el anlisis cualitativo y la moderacin. El examen de las
habilidades que los miembros del equipo deben poseer es una labor en extremo
importante ya que tiene un impacto directo sobre la calidad de la evaluacin.
113
Despus de estudiar aquellos puntos como los arriba presentados, es importante
reflejarlos en un aviso pblico adecuado. El contenido del aviso debe diferir de acuerdo
con el propsito de la evaluacin, las preguntas de la evaluacin, el mtodo supuesto de
recopilacin de datos, etc. Es inconcebible que cada evaluacin tenga un aviso pblico
que presente la misma metodologa. Para poder llevar a cabo una evaluacin til, la
parte que solicita la evaluacin debe considerar qu tipo de metodologa es deseable,
qu tipos de tecnologa se necesitan y quin debe administrar estas tecnologas.
La tabla 3-1-3 presenta los puntos del aviso pblico que se utilizan en los contratos de
servicio actuales de la JICA as como su relacin con los temas de estudio. Aunque la
imagen conceptual de los productos esperados y otros elementos estudiados no se
deben incluir necesariamente en el aviso pblico, estos puntos se deben compartir de
manera adecuada entre el personal interesado una vez que se hayan determinado los
miembros del equipo.
114
Tabla 3-1-3: Ejemplos de puntos en los avisos pblicos y su relacin con
los puntos de estudio
*Por favor consulte la tabla 3-1-2 para ver ejemplos de los puntos del TOR.
115
propsito de la los resultados de la evaluacin y Principales de
evaluacin, etc. preguntas principales de la evaluacin la Evaluacin
que deben verificar esta solicitud (El
objetivo no es conducir una evaluacin
bajo los Cinco Criterios de Evaluacin)
9. Responsa- Mtodo de Estudio del marco de trabajo de la 3. Mtodos de
bilidades evaluacin, evaluacin: mtodos principales de Evaluacin
responsabilidad evaluacin Sugeridos/Req
es especficas ueridos
10. Otros Necesidad de Es necesario considerar los puntos
temas intrpretes, etc. que no se mencionaron arriba pero
que tienen un peso importante sobre
las habilidades del consultor
116
3. Preparacin Preliminar de la Evaluacin
Criterios y mtodos
- Presentar los criterios y mtodos de la evaluacin (por ejemplo, los valores objetivo,
mtodos de comparacin, etc.)
- Si no hay valores objetivo en el marco lgico o si se considera que los indicadores no
son adecuados, discutir nuevos criterios (para sustituir los valores objetivo) e
indicadores con las personas interesadas.
Datos necesarios
- Prestar materiales relativos a los datos existentes (informacin de seguimiento,
estadsticas, etc.)
118
4. Gestin de las Evaluaciones en el Sitio
5
Si la evaluacin cuenta con un elemento de participacin fuerte, es conveniente llevar a cabo talleres
para que el personal interesado pueda participar en la labor de diseo de la evaluacin. Consulte el
Anexo II para obtener informacin sobre la evaluacin participativa.
119
(2) Recopilacin y anlisis de datos
Una vez que empieza la evaluacin, se debe confirmar el progreso (por ejemplo, se est
realizando la recopilacin de datos sin retrasos? Hay algn problema en la tasa de
respuestas?). El proceso de analizar y evaluar los datos recopilados incluye la
evaluacin de acuerdo con los Cinco Criterios de Evaluacin, la formulacin de una
conclusin y la preparacin de recomendaciones y lecciones aprendidas. Adems de lo
anterior, la administracin debe asegurar que se realiza un anlisis apropiado desde los
siguientes puntos de vista.
121
Tabla 3-1-4: Composicin Muestra de unas Minutas
- Documento de consenso
- Anexo: Resumen del Informe del Estudio de Evaluacin
Introduccin
-Objetivo del Estudio de Evaluacin
-Miembros del Equipo de Evaluacin
-Calendario del Estudio
2. Metodologa de la Evaluacin
-Preguntas e Indicadores de la Evaluacin
-Mtodo de Recopilacin y Anlisis de Datos
-Limitaciones del Mtodo
4. Resultados de la Evaluacin
-Pertinencia
-Efectividad
-Eficiencia
-Impacto
-Sustentabilidad
5. Conclusin
122
5. Preparacin del Informe de Evaluacin
Una vez que el equipo regresa a Japn, se renen los resultados de la evaluacin en una
Tabla de Evaluacin Ex-ante o Tabla de Resumen de los Resultados de la Evaluacin
y en un Informe de la Evaluacin. Si no fue posible finalizar el anlisis e interpretacin de
datos lo suficiente durante el perodo de la evaluacin en el sitio, ser necesario continuar
con el anlisis. Se preparar un resumen del informe en el idioma oficial del pas
objetivo y se enviar a las organizaciones interesadas en ese pas. La preparacin de un
informe fcil de entender es una parte extremadamente importante de la evaluacin. No
hay posibilidades de retroalimentar los resultados de la evaluacin si no se presentan
apropiadamente. Un miembro del personal del departamento operativo del proyecto
actuar como miembro del equipo para escribir el informe, sin embargo, para poder
mantener la calidad del informe ser importante que el departamento verifique si el
informe fue escrito con claridad o no. Especficamente se debe poner atencin en los
siguientes puntos (consulte la Tabla 2-3-2 sobre el formato del informe).
123
6. Retroalimentacin de los Resultados de la Evaluacin
124
Captulo 2 Temas en la Evaluacin Ex-ante y Ex-post
125
Tabla 3-2-1 Diferencias entre los Puntos de Vista segn el Tipo de
Proyecto de Evaluacin
Evaluacin Seguimien- Evaluacin Evaluacin Evaluacin
Nota 2
Ex-ante to Intermedia Final Ex-post
Confirmacin
de los Nota 1 z z z
resultados
Comprensin
del proceso
z z z
de implemen-
tacin
<Cinco Criterios de Evaluacin>
Pertinencia
z - z z
Efectividad
- z -
Eficiencia - z z -
Impacto - z
Sustentabi-
- z
lidad
Nota 1: En caso de una evaluacin ex-ante, esto significa realizar un estudio de base o
establecer indicadores.
Nota 2: Por lo general, un examen con base en los Cinco Criterios de Evaluacin est
fuera del alcance del seguimiento, pero para su operacin y gestin, es
importante tener siempre en mente los puntos de vista de estos Cinco
Criterios de Evaluacin.
126
Figura 3-2-1 Mtodos de Evaluacin de Proyectos y su Aplicacin en los
Estudios de Evaluacin
De la aplicacin a la Flujo de la
Evaluacin Ex-ante Confirmacin del marco lgico
Evaluacin
evaluacin ex-ante
Formulacin de los
Creacin de la tabla de
documentos del resumen de los
proyecto* Presentacin de resultados de la
Formulacin de la evaluacin y el informe
los Resultados de la evaluacin
Tabla de la
Evaluacin Ex-ante Recomen- Lecciones
daciones Aprendidas
Implementacin Retroalimentacin
Uso
Dar a conocer los Dar a conocer los
resultados resultados
127
1. Puntos Clave de los Estudios de Evaluacin Ex-ante
128
Figura 3-2-2 Los Dos Papeles de los Estudios de Evaluacin Ex-ante
implementacin
Documentos del
proyecto
Tabla de Eva-
luacin Ex-ante
Evaluacin ex-ante del plan
Las evaluaciones ex-ante evalan planes antes de iniciar un proyecto. Los resultados de
la evaluacin se utilizan para mejorar el plan y para juzgar la pertinencia del proyecto. Por
tanto, la evaluacin primero se realiza haciendo nfasis principalmente en la pertinencia.
Evaluacin de pertinencia quiere decir examinar si la cooperacin de la JICA es
pertinente desde el punto de vista de i) necesidad - existe la necesidad en la regin,
sociedad y entre los residentes aplicables?, ii) prioridad - la poltica de desarrollo del
pas socio coincide con las prioridades de Japn?, y iii) la idoneidad del proyecto como un
medio - por qu se eligi un proyecto con este tipo de objetivo? La regin objetivo y el
grupo objetivo son adecuados? - y otros. Cuando se evalan los otros criterios de
evaluacin (efectividad, impacto, sustentabilidad, etc.) el punto que difiere ms de los
estudios de evaluacin de la intermedia y de las evaluaciones posteriores a ella es que la
evaluacin se basa en predicciones y prospectos en lugar de logros y datos del proceso
de implementacin anteriores. En concreto, el examen es sobre si realmente se producir
o no un efecto cuando se implemente el proyecto segn este plan, y si el proyecto est
129
planeado de tal manera que el efecto se puede comprender y verificar de manera
confiable o no6.
Los exmenes que no evalan los logros sino la validez de un plan con base en las
predicciones y prospectos incluyen esencialmente dos aspectos. Uno es examinar si cada
componente de un proyecto es claro y razonable o no. Aqu, se consideran la idoneidad
de los indicadores y metas establecidos, qu tan apropiados son los medios para obtener
los indicadores, y otros puntos con base en su relacin con los datos de base. El examen
considera si el efecto pronosticado se puede lograr y es conveniente. Cuando se observa
su relacin con los datos de base, es importante primero utilizar un mtodo de
investigacin para obtener esos datos y luego considerar si es posible un seguimiento
posterior. Si los medios para obtener los indicadores son demasiado costosos para ser
prcticos, esos datos no se podrn utilizar. Cuando se hacen recomendaciones sobre los
indicadores adecuados, metas y los medios para obtener los indicadores a travs de este
tipo de examen, tambin se construye una base para el seguimiento y la evaluacin
despus que empez un proyecto. (Refirase a 2-1-3 (4) sobre cmo verificar los
indicadores y valores bjetivo.)
El otro aspecto es examinar si la estructura del plan del proyecto (es decir, la relacin
entre el propsito y los medios) est formulada de manera adecuada y si hay prospectos
de alcanzar el objetivo esperado. Este punto de vista cuestiona la lgica de las relaciones
causales entre los componentes individuales de un proyecto. Tambin es necesario
realizar un examen profundo sobre si las actividades planeadas para cierto objetivo son
adecuadas. Para estos exmenes, se puede utilizar el concepto de modelo lgico, una
teora de evaluacin descrita en la Parte II, Captulo 1 (refirase a 2-1-3). Cuando se trata
de examinar el plan del proyecto segn un marco lgico (el modelo de causa y efecto
donde los insumos conducen a las actividades, que a su vez conduce a los productos y
que finalmente conducen al objetivo), tal vez el producto para obtener un objetivo, o las
actividades o insumos para alcanzar un producto sean insuficientes. La valoracin
tambin puede descubrir que el enfoque que se tiene pensado para un proyecto no es
eficiente ya que, comparado con la inversin, su efecto ser pequeo. Otra posibilidad es
que suposiciones /riesgos importantes sean demasiado altos y que su influencia en el
proyecto sea demasiada. El dar retroalimentacin sobre los resultados de esos exmenes
al trabajo de planeacin para poder desarrollar un plan mejor y ms apropiado conduce a
la gestin efectiva del proyecto.
6
Un mtodo para los estudios de evaluacin que incluye el punto de vista de si el efecto se puede
verificar y comprender es la Determinacin de la Evaluabilidad. Este mtodo utiliza investigacin
cualitativa enfocada en la lgica del proyecto, en qu tan claro es el objetivo y en los indicadores
establecidos, tratando de identificar si el proyecto evaluado satisface las condiciones mnimas de
evaluabilidad. (Para obtener ms informacin refirase a Rossi, PH., Freeman, H.E., Lipsey, M.W.,
Evaluacin - Un enfoque sistemtico (Evaluation A systematic approach), 6a ed, 1999, SAGE
Publication, p. 157.)
130
Los estudios de evaluacin ex-ante son principalmente sobre planes, y por lo tanto, la
planeacin y la investigacin necesarias para realizar una evaluacin se conducen y
determinan simultneamente. Por esta razn, no se realiza ningn trabajo de acuerdo con
un diseo de evaluacin predeterminada como en los dems estudios de evaluacin. Las
tablas siguientes son listas de verificacin de los puntos de vista para una evaluacin con
base en un borrador de un plan de proyecto.
Es necesario referirse a estas listas de verificacin antes de la evaluacin en el
sitio en el estudio de evaluacin ex-ante, para poder confirmar si los temas de la encuesta
estn completos. Luego, esto se debe reflejar en el plan del estudio. Sin embargo,
observe que los siguientes slo son los principales puntos de verificacin. Se deben
agregar puntos a las encuestas que correspondan con el contendido del proyecto,
conforme sea necesario.
131
Tabla 3-2-2 Principales Puntos de Verificacin en los Estudios de
Evaluacin Ex-ante (los puntos que se muestran con fondo gris se examinan con
base en la situacin y logros reales)
Puntos de Puntos de Verificacin de la Evaluacin
Evaluacin
Plan
La meta general, el objetivo del proyecto y el producto son claros?
Cada indicador expresa de manera precisa su significado respectivo?
tacin garantizado?
132
(Principales Puntos de Verificacin en los Estudios de Evaluacin Ex-ante - continuacin)
Puntos de Puntos de Verificacin de la Evaluacin
Evaluacin
<<Cinco Criterios de Evaluacin>>
Necesidad
El proyecto es consistente con las necesidades del pas, regin o
sociedad objetivo?
El proyecto es consistente con las necesidades del grupo objetivo?
Prioridad
El proyecto es consistente con la poltica de desarrollo del pas socio?
El proyecto es consistente con la poltica de asistencia para el
extranjero de Japn y del plan de la JICA para la implementacin de
programas por pas?
Sustentabilidad como un medio
El proyecto es adecuado como estrategia para producir un efecto con
Pertinencia respecto a los temas de desarrollo del campo y sector objetivo del pas
socio? (El enfoque y la regin objetivo del proyecto son adecuados?
Qu efectos de sinergia hay para brindar ayuda con la cooperacin de
otros donantes?)
La seleccin del grupo objetivo es adecuada? (Meta, volumen,
distribucin de gneros, etc.)
Hay algn efecto de difusin ms all del grupo objetivo?
Los beneficios del efecto y la carga de los costos estn distribuidos
equilibradamente?
Japn tiene una ventaja tecnolgica? (Japn tiene conocimientos
(know-how) acumulados sobre la tecnologa objetivo? Es posible
aprovechar las experiencias de Japn? etc.)
133
(Principales Puntos de Verificacin en los Estudios de Evaluacin Ex-ante - continuacin)
Puntos de Puntos de Verificacin de la Evaluacin
Evaluacin
Producto
Los indicadores del producto expresan con exactitud su significado?
Las metas para el producto son adecuadas?
Los medios para obtener los indicadores del producto son adecuados?
(Se han medido los indicadores necesarios? Son demasiado
costosos? Se pueden reproducir? Se pueden utilizar como medios de
seguimiento? etc.)
Relaciones causales
Se han planeado suficientes actividades para producir el producto?
Se tiene planeado un insumo de una cantidad y calidad adecuada para
realizar las actividades?
Las suposiciones importantes de las actividades al producto se
perciben correctamente? Existe una posibilidad alta que las
suposiciones importantes sean verdad?
Eficiencia
(Prospecto) Momento oportuno
Se plane correctamente el momento del insumo?
Costo
El producto justifica el costo que se va a invertir si se compara con
proyectos similares (comparacin con el costo total o los costos unitarios
de proyectos similares de la JICA y otros donantes o con proyectos
similares realizados por el pas en cuestin)? (Hay algn medio
alternativo para obtener los mismos resultados a menor costo? Es
posible alcanzar un nivel de logro ms alto con el mismo costo?)
El objetivo del proyecto justifica el costo que se va a invertir si se
compara con proyectos similares (comparacin con el costo total o los
costos unitarios de proyectos similares de la JICA y otros donantes o
con proyectos similares realizados por el pas en cuestin)? (Hay algn
medio alternativo para obtener los mismos resultados a menor costo?
Es posible alcanzar un nivel de logro ms alto con el mismo costo?)
134
(Principales Puntos de Verificacin en los Estudios de Evaluacin Ex-ante - continuacin)
Puntos de Puntos de Verificacin de la Evaluacin
Evaluacin
Meta general:
Los indicadores de la meta general la expresan con exactitud?
Los indicadores y objetivos de la meta general son adecuados de
acuerdo con los datos de base?
Los medios para obtener los indicadores de la meta general son
adecuados? (Se han medido los indicadores necesarios? Son
demasiado costosos? Se pueden reproducir? Se pueden utilizar como
medios de seguimiento? etc.)
Relaciones causales
Se espera alcanzar la meta general como un efecto del proyecto?
La relacin y lgica entre la meta general y los temas de desarrollo son
claras?
Las suposiciones importantes del objetivo del proyecto a la meta
general se perciben correctamente? Existe una posibilidad alta que las
Impacto suposiciones importantes sean verdad?
(Prospecto) Hay factores que obstruyen el logro de la meta general?
Efectos de difusin
Se asume que hay algn efecto o influencia ms all de la meta
general? Se estn tomando medidas para contrarrestar influencias
especialmente negativas?
* Influencias sobre el establecimiento de polticas y sobre la
preparacin de leyes, sistemas, normas y similares
* Influencias sobre los aspectos sociales y culturales tales como
gnero, derechos humanos, ricos y pobres
* Influencia sobre la proteccin ambiental
* Influencia derivada de cambios tecnolgicos
* Influencias econmicas sobre la sociedad objetivo, las partes
del proyecto, los beneficiarios, etc.
Existen diferentes influencias positivas y negativas debido a las
diferencias entre gneros, grupos tnicos, o estratos sociales?
135
(Principales Puntos de Verificacin en los Estudios de Evaluacin Ex-ante - continuacin)
Puntos de Puntos de Verificacin de la Evaluacin
Evaluacin
Polticas y sistemas
La asistencia de la poltica continuar una vez que termine la
cooperacin?
Los reglamentos y sistemas legales pertinentes estn preparados?
Hay planes para su preparacin?
En el caso de proyectos dirigidos a sitios piloto, se cuentan con
esfuerzos asegurados para ayudar posteriormente con la difusin?
Otros
Hay algn otro factor que pudiera obstaculizar la sustentabilidad?
(Considerado con base en los resultados de la evaluacin
anterior)
Es posible lograr el objetivo del proyecto en la situacin actual
(cambios en el grupo o sociedad objetivo)?
Necesidad de
Es necesario ajustar los insumos, actividades y productos?
ajustes Hay alguna nueva suposicin importante que influya en el proyecto?
Cmo han cambiado los problemas, puntos, riesgos, etc. que se
sealaron en la evaluacin ex-ante?
Qu puntos se deben recordar para el futuro?
136
(4) Interpretacin y Resumen de los Datos de la Evaluacin Ex-ante
La interpretacin de los datos de la evaluacin ex-ante se centra en los Cinco Criterios de
Evaluacin. La interpretacin se resume en la Tabla de Evaluacin Ex-ante. En los
estudios de evaluacin ex-ante, es necesario reflejar los factores que dificultan y
obstaculizan el proyecto identificados en el proceso de evaluacin en los planes que se
incluyen en los documentos del proyecto. Adems, es necesario proponer el proyecto de
tal manera que, hasta donde sea posible, no lo afecten estos factores. Por otro lado, los
asuntos que se juzg se deben revisar despus que inici el proyecto se escriben en el
tema aplicable de la columna de los Cinco Criterios de Evaluacin en la Tabla de
Evaluacin Ex-ante. Estos temas a recordar se implementan tambin como metas de
seguimiento una vez que empez el proyecto y es necesario ubicarlas como temas
sujetos a seguimiento, junto con una verificacin del nivel de logro de los objetivos y
productos.
La Tabla de Evaluacin Ex-ante resume una descripcin del informe de los
resultados de la evaluacin ex-ante. Las bases del por qu se realiz la interpretacin de
esta manera, etc., se deben enviar como anexos de los documentos del proyecto (por
ejemplo, resultados de las entrevistas, resultados del anlisis del material, resultados de
la encuesta por cuestionario y otros resultados).
La Tabla 3-2-3 ofrece una descripcin de cada punto en la Tabla de Evaluacin
Ex-ante y resume los puntos a recordar cuando se llena la tabla. El caso 1 presenta un
ejemplo de cmo llenar una Tabla de Evaluacin Ex-ante.
137
Tabla 3-2-3 Tabla de Evaluacin Ex-ante: Contenido y Temas a Recordar
(para proyectos de cooperacin tecnolgica medianos y grandes)
138
proporcionado, aceptacin de
becarios, otros
ii) Pas A (monto total: yenes)
Gastos del personal de la contraparte,
arreglos para las instalaciones y
terrenos, otros
(4) Factores externos (suposiciones
importantes que se espera que se
realicen).
i) Condiciones previas
ii) Suposiciones importantes para alcanzar
el producto
iii) Suposiciones importantes para alcanzar
el objetivo del proyecto
iv) Suposiciones importantes para alcanzar
la meta general
5. Resume la interpretacin de los datos, el z Describa claramente las bases y
Resultados juicio sobre el valor del proyecto y los razones de cada evaluacin. Sin
de la factores que limitan cada uno de los embargo, los resultados del anlisis
Evaluacin Cinco Criterios de Evaluacin. y los datos se deben anexar por
de acuerdo separado.
con los [Temas Principales]
Cinco (1) Pertinencia z Los temas a recordar cuando se
Criterios de (2) Efectividad implemente el proyecto se deben
Evaluacin (3) Eficiencia escribir en palabras concretas junto
(4) Impacto con sus bases. stos tambin sern
(5) Sustentabilidad importantes como temas de
seguimiento una vez que empiece el
proyecto.
139
Caso 1: Resumen de la Evaluacin Ex-ante
(2) Posicin dentro de las polticas nacionales del gobierno del pas A
El mejoramiento de la educacin secundaria en materia de ciencias y educacin
es una poltica principal del plan de desarrollo nacional del pas A. El pas A est
140
tratando de mejorar la calidad tanto desde el aspecto material como humano,
preparando instalaciones y material de enseanza o expandiendo la capacitacin
de los maestros. Especficamente en cuanto a la capacitacin de los maestros, el
plan maestro de educacin y capacitacin en este pas propone capacitar a los
maestros que estn actualmente en servicio. El documento de estrategia para la
lucha contra la pobreza (PRSP) tambin contiene esta propuesta como parte del
desarrollo de recursos humanos.
(3) Posicin dentro de la poltica japonesa de asistencia para el extranjero y del plan de la
JICA para la implementacin de programas por pas
En Japn, el marco de trabajo general de la AOD y sus polticas a mediano plazo
estn dando una prioridad alta a la asistencia para la capacitacin de recursos
humanos, sobre todo en el campo de educacin en los pases en vas de
desarrollo para reducir la pobreza y promover el desarrollo de la sociedad. El plan
de asistencia por pas para el pas A tambin coloca al desarrollo de la educacin
y de recursos humanos como un rea central. Este proyecto es adems parte del
programa para fortalecer la educacin en materia de ciencias y matemticas en los
planes de implementacin de programas por pas de la JICA.
ii) Objetivos que se espera alcanzar despus del final de la cooperacin (Meta General):
Las habilidades en materia de ciencias y matemticas de los jvenes en el rea de
la capital deben mejorar.
141
personal de capacitacin, indicador de habilidades mejoradas del
personal de capacitacin (por lo menos dos temas ms despus de la
implementacin que antes de ella)
ii) Producto: En los centros de capacitacin del distrito se establece un sistema de re-
entrenamiento para los maestros en servicio.
Actividad: Implementar un re-entrenamiento para los maestros en servicio impartido por
instructores de maestros de los centros de capacitacin del distrito.
<Indicadores/metas> 300 asistentes en total, indicador de la habilidad de entrenamiento
(por lo menos dos temas ms despus de la implementacin que antes
de ella)
iii) Producto: Se refuerza el papel de los centros de capacitacin como centros de recursos.
Actividad: Desarrollar material docente, reorganizar y distribuir literatura
<Indicadores/metas> Desarrollo de 30 tipos de material docente en el centro de
capacitacin central, publicacin de por lo menos 20 documentos
nuevos en cada centro de capacitacin (cinco lugares),
establecimiento de un sistema de distribucin a las escuelas
secundarias objetivo.
(3) Insumos
i) Condiciones previas
(nada en particular)
142
5. Resultados de la Evaluacin con base en los Cinco Criterios
de Evaluacin
Como resultado de una evaluacin desde los puntos de vista que se mencionan a
continuacin, juzgamos que es apropiado implementar la cooperacin.
(1) Pertinencia
Este proyecto se debe considerar de alta pertinencia por las siguientes razones:
z El plan de asistencia por pas para el pas A tambin coloca el desarrollo de la educacin
y los recursos humanos como un tema central, y sobre todo el fortalecimiento de la
educacin en materia de ciencias y matemticas como una cuestin de desarrollo.
z Las regiones Occidentales son el objetivo de este proyecto porque aqu se puede
observar un deterioro de la educacin en comparacin con el resto del pas. La prioridad
y necesidad son extremadamente altas, y es muy adecuado haber seleccionado esta
regin como objetivo.
(2) Efectividad
z A partir de los puntos arriba mencionados, consideramos que se puede lograr una
instruccin de alta calidad para los maestros actualmente en servicio mediante tres
medios: la creacin de un sistema de capacitacin (concentrado en el centro de
capacitacin central), la implementacin de la capacitacin y el mejoramiento del centro
de recursos.
(3) Eficiencia
z Los expertos de largo plazo ya estn arreglados. La mayora de los expertos de largo
plazo tienen experiencia como Voluntarios Japoneses para la Cooperacin con el
Extranjero y se puede esperar que comprendan la situacin real en el pas A y trabajar
de manera eficiente en las actividades de campo.
z Un impacto negativo podra ser el aumento de la brecha educativa entre las regiones
Occidentales y las otras regiones. Creemos que para asegurar que los resultados de
este proyecto se expandan a escala nacional, se requiere el apoyo continuo del
ministerio de educacin y la coordinacin con otros donantes tales como el Banco
Mundial.
(5) Sustentabilidad
144
Como se muestra a continuacin, el gobierno socio promete continuar con los
efectos de este proyecto cuando termine el mismo.
En proyectos similares pasados, tanto el donante como el lado receptor tenan el punto de
vista estereotipado que la causa del deterioro de la educacin en materia de ciencias y
matemticas era la escasez de instalaciones y equipo educativos. Sin embargo, el
mejoramiento de nicamente las instalaciones y equipo, est vagamente sustentado y una
leccin aprendida es que los aspectos del manejo escolar y las habilidades de los
maestros tambin son importantes. En el estudio de base al inicio del proyecto, se hicieron
investigaciones no slo en relacin con las instalaciones y el equipo. Por el contrario, la
investigacin tambin se enfoc en la actitud de los maestros hacia la instruccin y en los
mtodos de instruccin y el hecho que se descubri es que existen problemas importantes
del lado humano que influyen en cmo se establece la estrategia de este proyecto.
145
8. Plan de Evaluacin para el Futuro
z Evaluacin Intermedia: alrededor de febrero, 2006
z Evaluacin Final: alrededor de febrero, 2008
z Evaluacin Ex-post: planeada para implementarse alrededor de tres aos despus que
la cooperacin termine
146
2. Puntos del Seguimiento y de los Estudios de Evaluacin Intermedia
147
Tabla 3-2-4 Puntos de Verificacin Principales del Seguimiento
Tema de Puntos de Verificacin Principales del Seguimiento
Seguimiento
Cmo es el insumo real?
Funcionamiento
Hasta qu grado se alcanz el producto?
El producto se gener segn lo planeado?
Las suposiciones importantes de las actividades hacia el producto son
Generacin del verdaderas?
producto Los temas a recordar sealados en la evaluacin ex-ante presentan algn
problema?
Qu factor dificulta la generacin del producto?
Las actividades se implementaron segn lo planeado?
Hay algn problema en el mtodo de transferencia de tecnologa?
Si las actividades no son como se planean, qu factor las dificulta?
Se satisficieron las condiciones previas?
Hay suficiente comunicacin dentro del proyecto?
Hay suficiente comunicacin entre la Oficina Central de la JICA, la oficina
local y el proyecto? La Oficina Central de la JICA y la oficina local adoptan
Actividades y el
medidas adecuadas y brindan asesora pertinente para la operacin y la
proceso de
gestin?
implementacin
El proyecto tiene un buen reconocimiento en la agencia de implementacin o
contraparte? Hay un fuerte sentido de conciencia de la iniciativa propia?
El grado de participacin del grupo objetivo y las organizaciones
relacionadas con el proyecto es alto? El proyecto est altamente
reconocido?
Los temas a recordar sealados en la evaluacin ex-ante presentan algn
problema?
Los insumos se realizan como se plane?
Hay algn problema en la calidad, cantidad y tiempos del insumo?
El insumo se pone a trabajar lo suficiente para generar el producto?
Insumos
Si hay algn problema, cul es el factor que obstaculiza?
Los temas a recordar sealados en la evaluacin ex-ante presentan algn
problema?
(Considerado con base en los resultados del seguimiento de los
temas anteriores)
Es posible lograr el objetivo del proyecto en la situacin actual (cambios en
Necesidad de ajustes el grupo o sociedad objetivo)?
Es necesario ajustar los insumos, actividades y productos?
Hay alguna nueva suposicin importante que influya en el proyecto?
Qu puntos se deben recordar para el futuro?
148
(2) Propsito y Puntos de Vista de la Evaluacin en los estudios de Evaluacin
Intermedios
149
Tabla 3-2-5 Principales Puntos de Verificacin en los Estudios de
Evaluacin Intermedia (los puntos que se muestran con fondo gris se examinan con
base en la situacin y logros reales)
150
Pronstico de Logros del Objetivo del proyecto
Efectividad Observando los resultados de los insumos y productos y la actividad,
(Prospectos) es probable alcanzar el objetivo del proyecto?
Existe algn factor que obstaculice el logro del objetivo del proyecto?
Relaciones causales
Efectividad El producto es suficiente para alcanzar el objetivo del proyecto?
(Prospectos) - En este momento, las suposiciones importantes del producto hacia el
continuacin objetivo del proyecto siguen siendo correctas? Es probable que las
suposiciones importantes se concreten?
151
Prediccin del logro de la meta general
Observando los resultados de los insumos y productos y el estado de
actividad, hay posibilidades de producir la meta general como un efecto
del proyecto? (Es posible verificar el efecto en la evaluacin ex-post?)
Es posible que el logro de la meta general tenga un impacto sobre el
plan de desarrollo del pas socio?
Hay factores que obstruyen el logro de la meta general?
Relaciones causales
La meta general y el propsito del proyecto son consistentes?
Impacto Las suposiciones importantes del objetivo del proyecto hacia la meta
(Prospectos) general tambin son correctas en este momento? Existe una
posibilidad alta que las suposiciones importantes sean verdad?
Efectos de difusin
* Si se pueden
observar impactos Se asume que hay algn efecto o influencia ms all de la meta
negativos, examine general? Se estn tomando medidas para contrarrestar influencias
los factores con especialmente negativas?
base en la * Influencias sobre el establecimiento de polticas y sobre la
situacin real y preparacin de leyes, sistemas, normas y similares
revise el proyecto. * Influencias sobre los aspectos sociales y culturales tales como
gnero, derechos humanos, ricos y pobres
* Influencia sobre la proteccin ambiental
* Influencia derivada de cambios tecnolgicos
* Influencias econmicas sobre la sociedad objetivo, las partes
del proyecto, los beneficiarios, etc.
Existen diferentes influencias positivas y negativas debido a las
diferencias entre gneros, grupos tnicos, o estratos sociales?
Hay algn otro impacto negativo? Qu medidas se han
tomado para eliminarlos?
Polticas y sistemas
La poltica de asistencia continuar an cuando termine la
cooperacin?
Los reglamentos y sistemas legales pertinentes estn preparados?
Hay planes para su preparacin?
En el caso de los proyectos dirigidos a sitios piloto, se puede asegurar
que posteriormente se realizarn esfuerzos para ayudar a difundirlos?
153
(3) Diseo de la Evaluacin Intermedia
Esta seccin explica los puntos para crear una tabla de evaluacin para la evaluacin
intermedia y presenta el ejemplo de un caso. Por favor consulte el Captulo 2, Parte II
para obtener una descripcin detallada de los mtodos de diseo de la evaluacin.
<Preguntas de Evaluacin>
En esta encuesta, las partes involucradas acordaron de antemano realizar la evaluacin
con atencin a los siguientes temas. Las preguntas de evaluacin reflejan la creacin de
conciencia de los problemas de las partes involucradas y es clara la intencin de mejorar
el proyecto mediante la evaluacin intermedia.
z Qu problemas hay en el proceso de implementacin del proyecto (organizacin
administrativa, cambio de la percepcin y habilidades mejoradas del personal del
proyecto, etc.)?
z Una vez terminada la cooperacin, el proyecto se puede sustentar sin ayuda del
exterior? Qu puntos se deben atender en el futuro para esto?
154
ii) Temas al considerar criterios y mtodos de juicio
Para emitir un juicio del valor (es decir, evaluar) con base en los datos recopilados, se
necesita hacer una comparacin antes/despus, una comparacin del nivel de logros y
metas y un anlisis de las relaciones causales. El anlisis de las relaciones causales
cuestiona si realmente se produjo el efecto gracias a la implementacin del proyecto. En
una evaluacin intermedia, se examinan los prospectos del efecto, pero todava no se
pueden examinar las relaciones causales con base en los logros. Por ello, cuando se
juzgan principalmente los resultados e insumos, es vital una comparacin entre el sitio de
implementacin del proyecto y otro sitio (para el mtodo, consulte 2-2-2).
156
Figura 3-2-3 Uso del Estudio de Evaluacin Intermedia: Ajustes del
Proyecto
Conducen a una
implementacin
157
Caso 3: Uso de los Resultados de la Evaluacin Intermedia
158
como un problema en la evaluacin intermedia. El nuevo producto y actividades se
aadieron al marco lgico.
(Producto y actividades principales aadidas)
Producto: 5 Promocin de actividades para la sustentabilidad.
Actividades: 5-1 Organizar comits y grupos de estudio para cada tema.
(Ocho comits y cuatro grupos de estudio para crear el borrador del plan de
estudio y de instruccin, libros de texto, material de aprendizaje en video,
educacin y cooperacin con las regiones vecinas, etc., se renen
regularmente y crean guas y manuales.)
5-2 Celebrar seminarios sobre cmo usar y manejar el equipo.
(Crear manuales de usuario para el equipo y celebrar seminarios en
intervalos regulares.)
5-3 Implementar el seguimiento
(Realizar un seguimiento cada medio ao con base en el marco lgico, y
revisar actividades o repetir las guas si es necesario.)
Cada seis meses, se celebr un taller de seguimiento con base en el marco lgico. A travs de
este taller, la comunicacin continu sin problemas, igual que la gestin del proyecto - y el trabajo
en equipo se fortaleci. Como resultado, tanto los expertos como las contrapartes interactuaron
la contraparte, muchos apreciaron el hecho que a travs de este sistema se pudo obtener un
No hay problemas particulares en el mantenimiento y manejo del equipo. Consideramos que ste
es el resultado de crear manuales del equipo para el usuario y celebrar seminarios sobre cmo
intermedia.
159
3. Puntos Principales de los Estudios de Evaluacin Final
160
Tabla 3-2-6 Principales Puntos de Verificacin en los Estudios de
Evaluacin Final (los puntos que se muestran con fondo gris se examinan con base
en la situacin y logros reales)
Puntos de Puntos de Verificacin de la Evaluacin
Evaluacin
Se realiz el insumo de acuerdo con lo planeado? (en comparacin con los
valores planeados)
Verificacin de
El producto se gener segn lo planeado? (compare con las metas)
los logros
Se alcanzar el objetivo del proyecto? (compare con las metas)
Hay posibilidades de alcanzar la meta general? (compare con las metas)
Las actividades se implementaron segn lo planeado?
Hay algn problema en el mtodo de transferencia de tecnologa?
Hay algn problema en el sistema de gestin del proyecto (sistema de
seguimiento, proceso de toma de decisiones, funcin de la Oficina Central y la
oficina local* de la JICA?
El proyecto tiene un buen reconocimiento en la agencia de implementacin y la
contraparte?
Verificacin del Se asign una contraparte adecuada?
proceso de El grado de participacin del grupo objetivo y las organizaciones relacionadas
implementacin con el proyecto es alto? El proyecto est altamente reconocido?
Qu factores influyeron los problemas que se presentaron en el proceso de
implementacin del proyecto y en el efecto producido?
* Una pregunta para verificar la idoneidad de la capacidad de gestin
de la divisin de implementacin en la JICA y la oficina local. Por
ejemplo, la respuesta rpida y la asesora del seguimiento para los
ajustes durante la implementacin, comunicacin suficiente con el sitio
del proyecto, cooperacin con agencias relacionadas en Japn, etc.
161
Se alcanz el objetivo del proyecto? (resultado del examen de logros)
Relaciones causales
El resultado fue suficiente para alcanzar el objetivo del proyecto? La
lgica si el resultado se produce, podremos alcanzar el objetivo del
proyecto fue razonable?
Las suposiciones importantes del resultado hacia el objetivo del
proyecto tambin son correctas en este momento? Hubo alguna
influencia a partir de las suposiciones importantes?
Cules son los factores que dificultaron y promovieron el logro del
objetivo del proyecto?
Generacin del resultado
La generacin del resultado es adecuado? (resultado del examen de
logros)
Relaciones causales
Las actividades fueron suficientes para generar el resultado?
Las suposiciones importantes de las actividades al resultado tambin
son correctas en este momento? Hubo alguna influencia a partir de las
suposiciones importantes?
Momento oportuno
Se realizaron los insumos en cantidad y calidad adecuadas en el
momento adecuado para conducir las actividades?
Eficiencia
Las actividades se implementaron en el momento oportuno?
Costo
El producto justifica el costo invertido en comparacin con proyectos
similares (comparacin del costo total o unitario de un proyecto similar
realizado por la JICA u otros donantes en el pas?) (Hay algn medio
alternativo para obtener el mismo producto a menor costo? Se pudo
lograr ms con el mismo costo?
El logro del objetivo del proyecto justifica el costo invertido en
comparacin con proyectos similares (comparacin del costo total o
unitario de un proyecto similar realizado por la JICA u otros donantes en
el pas?) (Hay algn medio alternativo para obtener los mismos
resultados a menor costo? Se pudo lograr ms con el mismo costo?)
Prospectos para el logro de la meta general
Observando los resultados de los insumos y productos y el estado de
actividad, hay posibilidades de alcanzar la meta general como un efecto
del proyecto? (Es posible verificar el efecto en la evaluacin ex-post?)
Es posible que el logro de la meta general tenga un impacto sobre el
plan de desarrollo del pas socio?
Hay factores que obstruyeron el logro de la meta general?
Relaciones causales
Las metas generales y el objetivo son consistentes?
Las suposiciones importantes del objetivo del proyecto hacia la meta
general tambin son correctas en este momento? Existe una posibilidad
alta que las suposiciones importantes sean verdad?
Impacto
Efectos de difusin
(Prospecto) Hubo algn impacto positivo o negativo adems de la meta general?
* Influencias sobre el establecimiento de polticas y sobre la
preparacin de leyes, sistemas y normas
* Influencias sobre los aspectos sociales y culturales tales como
gnero, derechos humanos y pobreza
* Influencia sobre la proteccin ambiental
* Influencia derivada de cambios tecnolgicos
* Influencias econmicas sobre la sociedad objetivo, las partes
del proyecto y los beneficiarios
Hay impactos diferentes dependiendo de las diferencias entre gneros,
grupos tnicos o clases (sobre todo impactos negativos)?
Hay alguna otra influencia negativa?
162
(Principales Puntos de Verificacin en los Estudios de Evaluacin Final - continuacin)
Puntos de Puntos de Verificacin de la Evaluacin
Evaluacin
Polticas y sistemas
La poltica de asistencia continuar an cuando termine la
cooperacin?
Los reglamentos y sistemas legales pertinentes estn preparados?
Hay planes para su preparacin?
En el caso de los proyectos dirigidos a sitios piloto, se cuenta con
esfuerzos confiables para ayudar a difundirlos posteriormente?
Aspectos organizativos y financieros
Se tiene la capacidad organizativa suficiente para implementar
actividades que produzcan efectos incluso an termine la cooperacin?
(Asignacin de recursos humanos, proceso de toma de decisiones, etc.)
Las agencias de implementacin tienen un sentido de conciencia de la
iniciativa propia suficientemente asegurado?
Sustentabili- El presupuesto (incluyendo los gastos de operacin) est asegurado?
dad Se han tomado medidas presupuestarias suficientes del lado del otro
pas?
(Prospectos)
Es probable que aumente el presupuesto en el futuro mediante la
implementacin del proyecto? Las medidas para asegurar los
* Lo que es
presupuestos son suficientes?
importante para la
sustentabilidad
Aspecto tcnico
depende de los Se estn aceptando los mtodos de transferencia de tecnologa
proyectos. El empleados en el proyecto? (Nivel de tecnologa, factores sociales y
estudio se debe convencionales, etc.)
conducir despus El equipo se maneja y mantiene apropiadamente?
de entender esto. El proyecto contiene un mecanismo para su difusin?
Es probable que la agencia de implementacin pueda mantener el
mecanismo para su difusin?
En el caso del proyecto piloto, es posible transferir la tecnologa a otros
sitios?
Sociedad, cultura y medio ambiente
Hay alguna posibilidad de inhibir un efecto sostenido por la falta de
consideracin hacia las mujeres, los pobres y los socialmente
vulnerables?
Hay alguna posibilidad de obstaculizar un efecto sostenido debido a la
falta de consideracin hacia el medio ambiente?
Sustentabilidad en general
Considerando los aspectos anteriores como un todo, la sustentabilidad
es alta o baja?
163
(2) Diseo del Estudio de Evaluacin
Lo siguiente explica los puntos para crear una tabla de evaluacin para la evaluacin final.
Por favor consulte el Captulo 2, Parte II para obtener una descripcin detallada de los
mtodos de diseo de la evaluacin.
cuestionarios que consistan de docenas de pginas (desanimando a la parte receptora a responder) o se hicieron
borradores de preguntas cuya respuesta se poda haber inferido de la literatura y materiales existentes. En el caso de
los estudios de evaluacin reales, se necesita la habilidad de investigadores sociales profesionales. Para obtener ms
detalles sobre los mtodos, consulte la bibliografa anexa Tcnicas y mtodos de encuestas (Survey techniques and
methods).
165
Caso 4: Preguntas de Evaluacin en la Evaluacin Final
(Este reporte se basa en un estudio de evaluacin real, pero su contenido se ha modificado parcialmente)
166
<Evaluacin final del seguimiento del plan de mejoramiento
de la tecnologa de vaciado>
El objetivo de este proyecto es que el centro de vaciado sea capaz de brindar servicios
tcnicos adecuados a la industria de vaciado. Para ello, realizamos una transferencia de
tecnologa de vaciado, cursos de capacitacin y consultas tcnicas y brindamos equipo.
Como este estudio es para la evaluacin de un proyecto de seguimiento, el borrador de las
preguntas de la evaluacin se realiz tomando en consideracin los antecedentes de la
cooperacin de seguimiento. En otras palabras, la razn de la cooperacin para el
seguimiento fue el hecho de que a travs del proyecto real, la agencia de implementacin no
pudo crear un sistema capaz de brindar servicios tcnicos adecuados a la industria privada de
vaciado, as que el estudio de evaluacin se centr en un examen para ver si se haba
resuelto este punto.
z Preguntas de Evaluacin: Puede ahora el sistema brindar servicios tcnicos
adecuados a la industria privada de vaciado?
167
Caso 5: Tabla de Evaluacin en la Evaluacin Final
z Agencia de implementacin
Centro nacional de vaciado del pas D
z Perodo de implementacin
Mayo, 1998 a abril, 2002
z Preguntas de Evaluacin
i) Los resultados del seguimiento muestran que el proyecto marcha sin problemas.
La efectividad es realmente alta? De ser as, qu factores contribuyen a
ello?
ii) El aseguramiento independiente de recursos financieros se considera un factor
importante para la sustentabilidad cuando termine el proyecto.
Cules son los prospectos para esto? Qu otras medidas se necesitan para
la sustentabilidad?
168
En muchos casos, si es pertinente, se pueden
utilizar los resultados de evaluaciones
anteriores (Ex-ante, Tabla de Evaluacin,
z Ejemplo de tabla de evaluacin documentos del proyecto, Informe de la
Evaluacin Intermedia, etc.).
z Opinin de z Divisin a
las partes cargo del Grupos de
interesadas Ministerio control
de Industria
z Expertos
z Contraparte
(C/P)
z Gestin de
las
pequeas y
medianas
empresas
El proyecto El proyecto reas de Poltica de Revisin del
es consistente aborda los atencin de la asistencia del material
con la poltica temas asistencia para pas D
de asistencia centrales de Japn al pas D
para el asistencia?
169
extranjero de El proyecto z Existencia Plan de Revisin del
Japn? El aborda el de implementacin material
enfoque del plan de programas del programa por
proyecto es implementaci en el rea pas de la JICA
adecuado n de de vaciado
como medio? programa z Ubicacin
por pas de en los
la JICA? programas
170
[Efectividad] * El material que aparece con fondo gris ya se recopil
Preguntas de Evaluacin Crite-
rios y
Datos Fuente de Recopilacin
Pregunta Mto-
Cinco Pregunta Necesarios Informacin de Datos
secundaria dos de
Criterios de
Juicio
Evaluacin
Se alcanz el (segn la Tabla (segn la Tabla Revisin del
Otros producto? de Resultados) de Resultados) material
Est Compa- Desarrollo del Lista de Revisin del
aumentando racin nmero de asistentes del material
el nmero antes/ asistentes centro
de asisten- despus
tes de las
compaas?
El centro El grado de Satisfac Grado de Asistentes Encuesta por
brinda satisfaccin cin satisfaccin anteriores cuestionario
capacitacin de ante la prome- promedio
alta calidad? capacitacin dio de
es alto? cada
curso de
por lo
menos
3.5 (5
niveles)
El grado de Por lo z Nivel de z Encuesta Encuesta por
Efectividad
171
Hay otros Opinin de las z C/P Grupos de
factores de partes z Expertos control
contribucin interesadas z Administra-
adems del cin
proyecto? superior de
las
compaas
Informacin del Informe de Revisin del
proceso de seguimiento material
implementacin
La tasa de Tasa de * C/P (cabeza del Entrevistas
separacin separacin del centro)
del trabajo trabajo, razones
en el C/P de la separacin
est del trabajo
Hay factores influyendo?
que obstruyen (Suposicio-
el logro del nes
objetivo del importantes)
proyecto? Hay alguna Opinin de las z C/P Grupos de
otra partes z Expertos control
influencia? interesadas
Informacin del Informe de Revisin del
proceso de seguimiento material
implementacin
172
[Eficiencia] * El material que aparece con fondo gris ya se recopil
Preguntas de Evaluacin Crite-
rios y
Datos Fuente de Recopilacin
Pregunta Mto-
Cinco Pregunta Necesarios Informacin de Datos
secundaria dos de
Criterios de
Juicio
Evaluacin
Desde el punto La cantidad z Hechos del Tabla de Revisin del
de vista del de expertos envo real logros material
producto enviados, z Actitud de Encuesta por
Otros
obtenido, la sus reas de trabajo de Informe cuestionario
calidad, experiencia los expertos trimestral
cantidad y y la z Opinin de C/P, Entrevistas
oportunidad del oportunidad las partes expertos
producto con que se interesadas
fueron enviaron
adecuadas? fueron
adecuadas?
contenido de z Opinin de
Informes de
la capacita- las partes
cin, el las agencias Entrevistas
interesadas
perodo de que
capacitacin aceptaron
y la becarios
oportunidad C/P,
de acepta- expertos
cin de
becarios
fueron
adecuados?
La z Colocacin Tabla de la Revisin del
cantidad, de C/P colocacin material
colocacin y z Opinin de real de C/P Encuesta por
habilidades cuestionario
de los C/P
las partes
interesadas
C/P, Entrevistas
fueron expertos
adecuadas?
Hay algn z Condicin z Esquema Observacin
problema en actual de del equipo Directa
la calidad, los edificios z C/P Encuesta por
tamao y e instalacio- z Expertos Cuestionario
convenien- nes Entrevistas
cia de los z Colocacin
edificios e del equipo
instalacio- z Opinin de
nes? las partes
interesadas
173
El monto z Costo real z Tabla de Revisin del
de que cubri costos material
presupuesto el socio compartidos
del proyecto z Presupues- reales
fue to anual del z Tabla del
adecuado? centro presupuesto Entrevistas
z Opinin de del centro
las partes z * C/P
interesadas (cabeza del
centro)
z Expertos
El z Proporcin z Registros Revisin del
mejoramien- de C/Ps que del centro material
to de recibieron la z Expertos
habilidades transferen- Entrevistas
de los C/Ps cia de
contribuye a tecnologa
la z Opiniones
efectividad? expertas
Los costos Compa- z Costo C/P (cabeza Entrevistas
generales racin general del centro)
invertidos con los invertido
fueron costos z Tipo de
adecuados? genera- producto y
les in- poblacin
vertidos beneficiada
en pro- de
Los costos yectos
fueron proyectos
simila- similares
adecuados en res
comparacin
El costo Compa- z Costos z C/P Entrevistas
con proyectos
unitario para racin unitarios de z Expertos
similares?
realizar una con los la capacita- z Informes de
sesin de costos cin evaluacin
capacitacin unitarios z Costos de
es de pro- unitarios proyectos
adecuado? yectos para la similares
simila- capacitacin
res en proyec-
tos similares
Hay algn Opinin de z C/P Grupos de
factor que las partes z Expertos control
dificulte la interesadas
eficiencia?
174
[Impacto] * El material que aparece con fondo gris ya se recopil
Preguntas de Evaluacin Crite-
rios y
Datos Fuente de Recopilacin
Pregunta Mto-
Cinco Pregunta Necesarios Informacin de Datos
secundaria dos de
Criterios de
Juicio
Evaluacin
Otros
Mejoraron Evaluacin z 30 Encuesta por
las tecnolgica compaas cuestionario
habilidades de las representa-
de los compaas tivas en 15
ingenieros representa- estados
en las tivas en 15
pequeas y estados del
medianas pas
Hay compaas?
posibilidades
de alcanzar la
meta general?
Est Desarrollo Material Revisin del
aumentando de los sobre material
el orden? logros de logros de
negocios de negocios en
las 30
compaas compaas
representa- representa-
tivas en 15 tivas
estados del
pas
Cambios en Desarrollo del Estadsticas de Revisin del
Impacto
175
Hay alguna z Papel de las z Agencias Entrevistas
lnea agencias de de capaci-
divisoria con capacitacin tacin rela-
respecto a relaciona- cionadas
las otras das z Ministerio
agencias de de la
capacitacin Industria
relacionadas z Opinin de z Compaas
y hay algn las partes z C/P
efecto interesadas z Expertos
sinrgico?
Cmo z Trabajo 100 Encuesta por
evaluaron el actual personas cuestionario
efecto de la z Auto- que
capacitacin evaluacin terminaron
las personas de las la capaci-
que la personas tacin
terminaron? que termi-
El proyecto naron la
contribuy en capacitacin
gran medida al con
impacto respecto al
producido? cambio en
su nivel de
habilidades
tcnicas
Hay alguna Compa- Opinin de Personas Entrevistas
diferencia en racin las partes involucra-
el resultado con los interesadas das en las
del trabajo trabaja- compaas
de las dores de
personas la mis-
que trabajan ma com-
en la misma paa
compaa que no
entre recibie-
aquellas que ron la
recibieron la capaci-
capacitacin tacin
y las que
no?
176
[Sustentabilidad] * El material que aparece con fondo gris ya se recopil
Preguntas de Evaluacin Criterios
y Mto- Datos Fuente de Recopilacin
Pregunta
Cinco Pregunta dos de Necesarios Informacin de Datos
secundaria
Criterios de Juicio
Evaluacin z Continuidad z Ministerio Entrevistas
de apoyo de de la
Otros las agencias Industria
relaciona- z Organiza-
das ciones
La z Colabora- industria-
ubicacin del cin con las les
centro en la agencias
industria de relaciona-
vaciado es das
clara? z Papel del
centro
seguimiento de segui-
z Opinin de miento
las partes del centro
interesadas z C/P
(cabeza
La del
organizacin centro),
tiene expertos
potencial La situacin z Situacin Tabla de Revisin del
para financiera es financiera presu- material
continuar el buena? del centro puesto,
negocio? z Opinin de varias Entrevistas
las partes tablas
interesadas financie-
ras
C/P,
expertos
Los z Plan para el z Plan para Revisin del
esfuerzos asegura- el asegu- material
para el asegu- miento in- ramiento
ramiento dependiente indepen- Entrevistas
independiente de recursos diente de
de recursos financieros recursos
financieros z Opinin de financie-
marchan sin las partes ros
problema? interesadas z C/P,
expertos
177
Mejor la Compa- z Resultados z Expertos Entrevistas
capacidad de racin de la z C/P
entrenamiento antes/ evaluacin Auto-
del C/P? despus de los evaluacin
expertos (encuesta por
z Resultados cuestionario)
de la auto-
evaluacin
del C/P
La z Existencia z C/P Entrevistas
Se tecnologa de capacita- z Expertos
estableci la transferida se cin mutua
tecnologa difundir dentro de la
transferida? dentro de la agencia de
agencia de implemen-
implementa- tacin
cin? z Opinin de
las partes
interesadas
El equipo se z Estado del z Informes Revisin del
maneja y manteni- del man- material
mantiene miento y tenimien-
apropiada- manejo to y del Entrevistas
mente? z Opinin de manejo
las partes z C/P,
interesadas expertos
178
(3) Interpretacin del Resumen de los Datos de Evaluacin Final
Tal como se explica en la Parte II, Captulo 3, evaluacin significa interpretar los datos
recopilados y analizados - no es suficiente si slo se enumeran los datos y se aaden los
resultados del cuestionario. Los estudios de evaluacin final se realizan al final de un
proyecto, e incluyen ver si vali la pena implementar el proyecto, por qu algunas cosas
no salieron bien y qu efectos tuvo el proyecto. La interpretacin se basa en los
resultados del anlisis de los factores que dificultaron y contribuyeron al proyecto. Estos
resultados tambin son una fuente de informacin importante que dirige a los evaluadores
hacia recomendaciones y lecciones aprendidas concretas y prcticas.
La interpretacin consiste de una evaluacin de cada uno de los Cinco Criterios
de Evaluacin y una conclusin que es un anlisis cruzado de ellos. Si los factores que
dificultan y contribuyen no se analizan lo suficiente en la evaluacin de los Cinco Criterios
de Evaluacin, no habr una base para la conclusin y la evaluacin no producir
recomendaciones y lecciones aprendidas concretas. En algunos informes de evaluacin,
se presentan las recomendaciones y lecciones aprendidas aunque no se presenten bases
slidas en la evaluacin de los Cinco Criterios. En estos casos, no se refleja ningn
resultado de una investigacin y anlisis amplios con base en los cinco criterios, y las
recomendaciones y lecciones aprendidas carecen de poder de convencimiento.
El siguiente paso, con base en los resultados de la interpretacin y anlisis, es
hacer un borrador de las recomendaciones y lecciones aprendidas y crear un informe.
Las recomendaciones presentan medidas concretas, propuestas y asesora sobre el
mejoramiento del proyecto evaluado. Las lecciones aprendidas se identifican a partir de
las experiencias de proyectos aplicables, y se pueden generalizar o conceptualizar hasta
cierto grado. Tambin sirven como referencia de otros proyectos similares vigentes, o
para encontrar y formular proyectos en el futuro. Tambin es necesario incluir las
recomendaciones para eliminar los factores inhibidores identificados en la interpretacin.
Los factores inhibidores se pueden presentar en proyectos similares como lecciones
aprendidas para que dichos proyectos no repitan los mismos errores. Tambin pueden
aprovecharse como lecciones aprendidas para hacer que los proyectos similares sean
ms efectivos.
Los evaluadores deben establecer claramente a quines se dirigen estas
recomendaciones y lecciones (a los receptores de la retroalimentacin). Las
descripciones concretas tales como la divisin de implementacin, la oficina local, la
agencia de implementacin en el pas socio, las organizaciones residentes, los expertos,
la contraparte, etc., facilitan el seguimiento posterior. Tambin es efectivo dar
recomendaciones por separado, de acuerdo con su trmino de realizacin -
recomendaciones a mediano y largo plazo y recomendaciones a corto plazo.
La tabla 3-2-7 ofrece un resumen de puntos a recordar en la interpretacin.
Despus de la tabla presentamos ejemplos de los Cinco Criterios de Evaluacin y la
conclusin (Casos 6 y 7). Observe que la forma de los casos que se presenta es una de
muchas. No es necesario tener que seguir la forma que presentamos todas las veces.
179
Tabla 3-2-7 Puntos para Recordar cuando se Interpretan los Resultados
del Estudio
Puntos para Recordar Ejemplo/Consejo
[Cinco Criterios de Evaluacin]
z La realizacin de la evaluacin (consulte los casos que aparecen a
(=respuesta a las preguntas) continuacin)
con base en los datos
recopilados y analizados por
separado de cada pregunta de
la evaluacin facilita la
interpretacin y uso efectivo de
la tabla de evaluacin.
z En la evaluacin de cada uno Ejemplo: La capacidad de llevar a cabo
de los Cinco Criterios, la capacitacin es alta y sta se realiz
Compilacin segn lo planeado. Por otro lado, la
asegrese que escribe una
conclusin para cada criterio. evaluacin por parte de los becarios no
fue muy buena.
180
z Identifique claramente las bases Ejemplo: La mayora de las
de la evaluacin en el texto de personas que terminaron la
la interpretacin. Si es capacitacin calificaron muy alto el
necesario, proporcione curso de capacitacin. Por lo tanto,
explicaciones fciles de la efectividad del proyecto es alta".
entender utilizando, por
ejemplo, tablas o grficas para (Cunta gente es la mayora y
aumentar la credibilidad de los qu tan alta es su proporcin?
resultados de la evaluacin (sin Cules son las bases de la
Presentacin
embargo, no es necesario incluir evaluacin alta?) Todo esto no es
de bases todas las grficas y tablas en el claro. El borrador de la conclusin
texto principal. Evite expresar tiene que hacerse con referencia en
temas importantes como las el anlisis de resultados del estudio.
bases del juicio en la
evaluacin, sus resultados, etc.
nicamente en tablas y grficas
o en los resultados de la
investigacin sin explicarlos en
el texto).
z Bsicamente la evaluacin se Ejemplo: Los Resultados de las
debe basar en los datos entrevistas con expertos muestran
cuantitativos, pero los datos que la buena disposicin de la
cualitativos tambin son tiles. contraparte hacia el proyecto y su
Por ejemplo, es posible compromiso han aumentado.
presentar resultados a partir de
los factores de anlisis que se (Es necesario anotar de inmediato y
pueden leer en las entrevistas o presentar como bases los
de otras bases muy comportamientos, fenmenos, etc.,
convincentes (por ejemplo, la que indican indirectamente que
adquisicin del ISO 9000). aument el compromiso.
z No presente como bases los Ejemplo: El equipo se obtuvo
datos sin elaborar de los segn lo planeado, y el
resultados del estudio sino los mantenimiento y manejo tambin es
resultados de su anlisis. adecuado (ver el Anexo 1).
Presente los datos relacionados
en anexos. Si la informacin adicional es el
informe del mantenimiento y el
manejo, no es claro lo que se debe
Presentacin tomar de ste. Los resultados de un
de bases anlisis del informe (por ejemplo, la
tasa de operacin, tasa de defectos,
tiempo promedio y costo requerido
por reparaciones, etc.) se deben
presentar como bases dentro del
texto principal.
181
z Junto con las bases para juzgar Ejemplo: Hasta ahora, 150
la evaluacin, especifique personas asistieron a los seminarios
claramente por qu el resultado de salud para residentes, pero la
fue como fue y analice los cantidad de asistentes est
factores inhibidores y disminuyendo cada ao (se anexa
contribuyentes. Si esto no es una tabla con los cambios a lo largo
claro, no se pueden desarrollar de los aos). Como el grado de
recomendaciones o lecciones satisfaccin y comprensin de los
aprendidas concretas. asistentes hacia la salud es alta, las
actividades del IEC fueron
efectivas.
182
z Si se hace un borrador de las
Respuestas a preguntas de control, contstelas
las preguntas primero en la conclusin.
de evaluacin
183
Caso 6: Interpretacin de una Evaluacin Final
[Pertinencia]
Este proyecto se debe considerar de alta pertinencia por las siguientes razones:
184
completamente su papel. La implementacin de este proyecto, que est dirigido a
fortalecer la funcionalidad del centro, es consistente con las necesidades.
[Efectividad]
La efectividad de este proyecto se considera alta hasta cierto punto debido a las
siguientes razones, pero las revisiones del contenido de la capacitacin son
insuficientes.
i) El nivel de logro del objetivo del proyecto se considera alto hasta cierto punto.
En las evaluaciones de los asistentes a los cursos de capacitacin, el nivel de
satisfaccin promedio con respecto al material de estudio y la sesin supera el 3.5 en
cada curso (Tabla 2 - omitida aqu). La hoja de seguimiento de tecnologa de los
expertos tambin muestra altos niveles de habilidades tcnicas de la contraparte
(consulte el anexo 2).
La cantidad de becarios enviados de las compaas aument gradualmente
durante el tercer ao del proyecto, pero disminuyo en el cuarto ao y en la primera
mitad del quinto ao (Tabla 3 - omitida aqu). En los antecedentes, la cantidad de
asistentes disminuy porque cambiaron las necesidades de la industria (consulte el
anexo 1: Resultados de entrevistas a expertos y compaas). Los expertos sealaron
que con el tamao relativamente pequeo de la industria de vaciado, los esfuerzos
correspondientes a las necesidades de las compaas - tales como la introduccin de
tecnologas nuevas y la planeacin de nuevos cursos de capacitacin - eran
insuficientes.
En cuanto al suministro de servicios tcnicos, el nivel de satisfaccin en la
encuesta de seguimiento que implement el centro de las compaas result alto,
pero los expertos sealaron que los criterios de evaluacin no eran claros, por lo que
decidimos realizar una encuesta por cuestionario y entrevistas como un equipo de
investigacin. En una encuesta por cuestionario de 50 compaas, 36 respondieron
que estaban razonablemente satisfechas con los servicios del centro de vaciado. En
las entrevistas a las compaas (10 compaas), ocho respondieron que estn
utilizando la tecnologa que adquirieron en el centro en sus propios sitios de
fabricacin y que, en general, estn satisfechos con el trabajo del centro.
ii) Suponemos que el producto contribuy en gran medida al logro del objetivo del
proyecto.
La transferencia de tecnologa a la contraparte marcha sin problemas. Sus
habilidades tcnicas son de primer nivel en el pas D, y sus habilidades se utilizan en
185
la capacitacin y los servicios tcnicos. (Tabla 4: Evaluaciones por habilidad tcnica,
junto con la hoja de evaluacin de los expertos - omitidas aqu.) En cuanto al grado de
contribucin del mejoramiento de habilidades tcnicas de la contraparte, una encuesta
por cuestionario de la contraparte mostr que (a) un promedio de 80% de la
tecnologa transferida se utiliza en los cursos de capacitacin, y (b) 16 de los 22
encuestados contestaron que utilizan la tecnologa transferida para brindar servicios
tcnicos.
El equipo obtenido en el proyecto se utiliza suficientemente tanto en la capacitacin
como para servicios tcnicos. (Tabla 5: Tasa de operacin del equipo - omitida aqu.)
El problema con la tasa de rotacin de la contraparte, que se haba asumido como
un riesgo que obstaculizara el logro del objetivo del proyecto, qued en que tan slo
tres de 25 personas abandonaron su empleo. Considerando que la tasa de rotacin
en otras instituciones del gobierno y del sector privado es de un promedio de 50%,
podemos considerar que aqu la tasa de rotacin no es un factor inhibidor especfico.
[Eficiencia]
Desde el punto de vista del producto obtenido, los insumos se
manejaron eficientemente.
186
iii) La colocacin de las contrapartes fue adecuada en su mayor parte, pero muchos
tenan otro trabajo al mismo tiempo.
Las contrapartes se colocaron segn lo planeado. A la fecha, slo 3 de las 25
personas dejaron su trabajo, as que la estabilidad es buena. De acuerdo con los
planes iniciales, las contrapartes se dedicaran de tiempo completo a su trabajo en
el proyecto, pero en la realidad, casi la mitad de ellos (diez personas) tenan que
hacer otro trabajo al mismo tiempo. Segn las entrevistas con las contrapartes que
tenan otros trabajos al mismo tiempo, el tiempo promedio que le dedicaban a las
actividades del proyecto era alrededor de 41% de su tiempo de trabajo total, y
muchos sealaron que era difcil preparar la capacitacin mientras hacan otro
trabajo. No obstante, el hecho de que el proyecto haya producido un efecto incluso
cuando no todas las contrapartes estaban dedicadas a l tiempo completo (consulte
la pgina de Eficiencia) tambin nos permite juzgar que la eficiencia de la
implementacin fue alta.
iv) El costo total invertido en el proyecto fue tan bajo como el costo de proyectos
similares.
Comparado con el costo total de proyectos similares (proyectos del centro de
vaciado en los pases A y B), el costo de este proyecto fue aproximadamente 20%
ms bajo. Claro que hay diferencias en la situacin financiera de los pases objetivo,
en las etapas de desarrollo y en las mismas actividades, pero cuando observamos
el desglose del costo comparativamente, vemos que existe una diferencia notable
en los gastos de personal para los expertos (Tabla 8: Comparacin del desglose de
costos - omitida aqu). Creemos que en este proyecto, la combinacin eficiente de
expertos de corto plazo provoc la reduccin de costos. El siguiente factor que
redujo el costo general es que una gran parte del equipo se obtuvo localmente
(Tabla 8, mostrada arriba).
Fue imposible hacer una comparacin del costo unitario de la capacitacin ya que
(a) fue difcil sustituir el insumo con un valor econmico numrico para cada
producto, y (b) no existen costos unitarios por capacitacin en proyectos similares
que pudieran servir como comparativo de eficiencia.
[Impacto]
Se puede reconocer el siguiente impacto de la implementacin del proyecto y la
posibilidad de alcanzar la meta general de tres a cinco aos es alta.
187
ii) En entrevistas con las partes interesadas, los siguientes puntos se sealaron
como efectos de difusin positivos por la implementacin del proyecto.
z Fue posible reforzar (impacto en la industria) la colaboracin de agencias
relacionadas (asociacin de ingenieros del pas D, organizaciones industriales).
z Para utilizar la capacidad mejorada de capacitacin por proyecto y expandir el
rea no slo a nivel nacional, se est planeando el esquema de capacitacin para
terceros pases de la JICA.
z La tecnologa X, que se introdujo en el proyecto, incluye consideraciones para el
medio ambiente, y a travs de visitas a la fundicin, aument el inters de la
industria de vaciado del pas D por el medio ambiente (impacto sobre los aspectos
ambientales).
[Sustentabilidad]
Los prospectos de la sustentabilidad del proyecto sern posibles si los recursos
financieros y el equipo se manejan ms adecuadamente.
188
En cuanto al mantenimiento y manejo del equipo, se esboz un plan de
mantenimiento preventivo y tambin durante el tiempo que el proyecto est vigente,
esperamos que el mantenimiento y el manejo se implementen de acuerdo con este
plan.
2. Conclusin
Este proyecto se implement en respuesta a la poltica nacional y a las
necesidades de la agencia de implementacin (centro nacional de vaciado) y a las
fuertes necesidades de la industria de vaciado en el pas D con la intencin de
mejorar la tecnologa de vaciado de la pequea y mediana empresa en este pas.
Con el mejoramiento de las capacidades tcnicas del centro nacional de vaciado
Este caso
llega a una ahora se brindan capacitacin y servicios tcnicos de alta calidad, y esperamos que
conclusin a la larga mejoren las habilidades tcnicas de las mismas compaas. Este proyecto
teniendo en tuvo una alta efectividad.
mente Entre los factores contribuyentes podemos mencionar, por ejemplo, el hecho de
preguntas que se hayan implementado las actividades casi como se haba planeado y que la
de
evaluacin agencia de implementacin ya tena capacidad operativa de cierto nivel. Otro factor
de alto es que los recursos humanos se colocaron de manera adecuada. Otro factor
nivel. contribuyente importante es la buena relacin que se construy basada en la
confianza mutua entre los expertos y las contrapartes. El seguimiento se realiz
adecuadamente y ambas partes siguieron las actividades como socios,
compartiendo el objetivo de este proyecto. En nuestro enfoque hacia la cooperacin
tcnica introdujimos de dos a tres productos objetivo por cada rea de transferencia
de tecnologa, y transferimos la tecnologa a travs de la fabricacin de dichos
productos objetivo. Esto ayud a mantener un equilibrio entre la teora y las
habilidades prcticas y tambin comunic una gua prctica a las compaas, al
tiempo que estableca metas claras. Esto result ser efectivo para una transferencia
de tecnologa sin problemas.
Por otro lado, sigue habiendo cierta preocupacin con respecto a la
sustentabilidad. Actualmente, la proporcin de ingreso independiente del suministro
de servicios tcnicos y dems en el centro nacional de vaciado es de 50%, lo que la
hace ser una organizacin con una tasa de autofinanciamiento relativamente alta.
Sin embargo, el valor del equipo proporcionado en este proyecto alcanza los 354
millones de yenes, y esperamos que cada ao se requieran gastos de procuracin
de materiales de consumo y piezas necesarios para la operacin, as como los
gastos de mantenimiento tales como costos de reparacin. Adems, existe la
preocupacin en cuanto a la reduccin de ingresos debido a la disminucin de
asistentes, como se muestra en el estudio de evaluacin que se realiz. En cuanto a
los antecedentes de la disminucin, algunos sealan que no se dio necesariamente
respuesta suficiente a los cambios recientes en las necesidades de capacitacin de
las compaas y es probable que sea necesario reaccionar ms activamente ante
estas necesidades que incluyen la comercializacin. En cuanto al mantenimiento y
manejo del equipo - hasta ahora, los expertos de corto plazo han reparado, ajustado,
En las
etc. parte del equipo. En el futuro, una seccin de los servicios de mantenimiento
recomen-
daciones se tendr que manejarlo independientemente.
incluyen Segn los resultados de la evaluacin utilizando los Cinco Criterios de
detalles ms Evaluacin, ni el plan (estrategia del proyecto, relaciones causales) ni el proceso de
concretos implementacin muestran ningn problema serio, y por ello pudimos confirmar que
sobre cmo
la meta general se va a alcanzar y creemos que la cooperacin se puede terminar
trabajar
para sin problemas. En el futuro, el centro necesita realizar esfuerzos ms slidos para
asegurar asegurar los recursos financieros al mismo tiempo que responde a los cambios de la
recursos situacin.
financieros.
189
Caso 7: Interpretacin de una Evaluacin Final (2)
El caso aqu fue que la prioridad era alta, pero el plan no era adecuado en algunos puntos como medio
para solucionar problemas. En este caso, un punto de vista importante de la evaluacin es la pregunta
sobre el tipo de influencia que puede tener la baja importancia del plan en la efectividad del proyecto.
Tambin es importante un examen sobre el proceso de implementacin, y si el seguimiento se realiz de
manera adecuada respondiendo a los cambios de la situacin o no.
190
Aqu las relaciones causales entre el efecto y el
proyecto se evaluaron cualitativamente a travs de
una comparacin con distritos no pilotos (aplicacin
[Efectividad] de un diseo semi-experimental.
La razn para esto es la mayor conciencia de los beneficiarios, sobre todo las
mujeres embarazadas y la madres, que es una consecuencia del mejoramiento de
capacidades del personal de atencin mdica y de una revitalizacin de actividades con
participacin ciudadana que, nuevamente, son el resultado de la introduccin de listas
de supervisin para las revisiones mdicas de bebs y nios pequeos (incluyendo el
uso de libretas de abono para maternidad), oportunidades para que mdicos,
enfermeras, parteras y dems partes interesadas discutan actividades y problemas, y el
desarrollo de una amplia variedad de material educativo.
191
Aqu, se explican los elementos tanto positivos como
negativos antes que el equipo de estudio de evaluacin
emita su juicio final.
[Efectividad]
192
Aqu los evaluadores trataron de
[Eficiencia] comparar con proyectos similares
pero no encontraron un proyecto
comparable.
El insumo humano y fsico tanto de Japn como del pas E en este proyecto se utiliz
eficientemente y contribuy a los productos de las actividades. Hubo un gran insumo de
equipo en este proyecto, ascendiendo a 375 millones de yenes. Esto fue necesario
como la inversin inicial del centro, y potencialmente el equipo se utilizar por mucho
tiempo. Tambin es necesario examinar la eficiencia de este insumo desde un punto de
vista a largo plazo.
Observe que como no se ha realizado ningn proyecto en frica que brinde el mismo
tipo de capacitacin en las mismas reas tcnicas del centro, fue difcil comparar este
proyecto con los costos de otros.
193
Aqu los evaluadores detectaron
cambios en los indicadores de la meta
general. Sin embargo, se desconoce
[Impacto] la relacin causal con el proyecto.
Proyecto para la Prevencin de Enfermedades Infecciosas entre los Nios
Propsito del Proyecto: Fortalecer el establecimiento del sistema de prevencin de
enfermedades infecciosas (principalmente polio, pero tambin tuberculosis) que estn
dentro del alcance del EPI (Programa Extendido de Vacunacin).
En los ltimos cinco aos, las tasas de mortalidad de bebs, nios menores de cinco
aos y mujeres embarazadas han disminuido. Creemos que, en gran medida, estas
mejoras se deben a que ha disminuido la cantidad de brotes de enfermedades
infecciosas. Esto se logr a travs del reforzamiento de la aplicacin del sistema de
prevencin de enfermedades del EPI en el proyecto y de las actividades mdicas
materno infantiles que se fortalecieron como parte de las actividades.
1995 2000
Mortalidad de bebs y nios pequeos (por cada 1,000 104 82
nacimientos)
Mortalidad de nios menores de cinco aos (por cada 170 106
1,000 nacimientos)
Mortalidad de mujeres embarazadas y parturientas (por 656 530
cada 100,000 nacimientos) (1993)
194
El caso aqu es que desde los aspectos
polticos, tecnolgicos y financieros, la
sustentabilidad es alta aunque existe
todava posibilidades para mejorar.
[Sustentabilidad]
Programa de Mejoramiento para el Centro Mdico y la Seguridad Ocupacional
Propsito del Proyecto: Fortalecer las funciones del Centro de Salud y la Seguridad
Ocupacional.
Algunos de los agricultores lderes ahora guan a otros agricultores y esperamos que la
tcnica se divulgue en el futuro. Sin embargo, para seguir investigando y divulgando las
tcnicas en un rea ms extendida, el laboratorio necesita mantener la capacidad de
investigacin de vegetales y la Oficina de Extensin del Ministerio de Agricultura
necesita determinar los detalles de cmo apalancar la iniciativa del sector privado para
la divulgacin y fortalecer la capacidad de manejo.
A lo largo de la cooperacin, no podemos negar que el pas P no adopt una carga
suficiente de los costos locales. Por el momento, el laboratorio planea continuar sus
actividades con presupuestos nacionales. Su propio ingreso se paga por completo al
tesoro nacional, y luego se le regresa al laboratorio. No obstante, como existen muchos
factores de incertidumbre, tales como el calendario y proporcin del reembolso, la
situacin actual hace difcil ver un prospecto brillante para el mantenimiento y desarrollo
del efecto directo del programa y para el desarrollo organizativo y la difusin de la
produccin de vegetales.
En cuanto al aspecto tcnico, la contraparte adquiri slidamente las tcnicas
transferidas, pero en realidad no podemos decir que se han establecido en la
organizacin. Como investigadores, las contrapartes establecieron sus propios temas
de investigacin, pero no han llegado a un nivel en que puedan implementar los
mtodos de investigacin totalmente por s mismos.
Las Evaluaciones Ex-post verifican si los efectos directos que persegua el proyecto
continan cierto tiempo despus de la terminacin de la cooperacin. Los resultados de
estas evaluaciones se retroalimentan a proyectos similares de la JICA en la fase de
planeacin o a la formulacin de programas a macro nivel, por ejemplo, los Programas
por Pas de la JICA. stos se reflejan en la implementacin efectiva y eficiente de dichos
proyectos.
Como ya termin la cooperacin de la JICA, el resultado de las evaluaciones ex-post
tambin incluye recomendaciones para la organizacin del pas socio que contina las
actividades. Adems, un factor importante es que de la gestin de la organizacin como
un todo se extraen recomendaciones y lecciones aprendidas concretas para los esfuerzos
futuros de la JICA.
En las evaluaciones ex-post, los estudios se enfocan en dos criterios de evaluacin:
impacto - que se espera aparezca despus de cierto tiempo de haber terminado la
cooperacin, y sustentabiidad - donde los evaluadores observan si el efecto se produce
de manera continua despus que termin la cooperacin. Hasta la evaluacin final, estos
criterios siempre se examinaron sobre la base de sus posibilidades, pero en la evaluacin
ex-post, se examinan sobre la base de sus resultados. Si es necesario, las evaluaciones
tambin se realizan desde el punto de vista de la pertinencia (consulte la tabla 3-2-1).
Cuando se evala el impacto, es importante verificar las relaciones causales del
proyecto de cooperacin, igual que en el caso de la efectividad. Otros factores
independientes del proyecto pueden influir con mucha facilidad en el impacto, ya que es
un efecto indirecto esperado a largo plazo. Si el proyecto est ubicado como parte de un
programa, los evaluadores tambin deben observar los impactos desde el punto de vista
de los efectos sinrgicos con otros proyectos.
Cuando se examina la sustentabilidad, es posible realiza el anlisis refirindose al
insumo, actividades y productos continuados del proyecto de cooperacin, sobre todo si
el proyecto sigue dirigido por la misma organizacin que lo dirigi durante la cooperacin.
Por ejemplo, en los proyectos de capacitacin y divulgacin, los evaluadores pueden
captar la sustentabilidad si observan el estado de implementacin de las capacitaciones y
el desarrollo del material de enseanza. Adems, si el trabajo contina de una manera
nueva que es diferente al proyecto de cooperacin y esto muestra un efecto directo, los
evaluadores necesitan considerar si el nuevo sistema se desarroll a partir del efecto
directo de la cooperacin. Por ejemplo, en los proyectos de R/D, es posible examinar la
sustentabilidad captando el proceso de utilizacin de tcnicas desarrolladas para el
siguiente desarrollo.
196
Tabla 3-2-8 Puntos de Verificacin de las Evaluaciones Ex-post
Puntos de Puntos de Verificacin de la Evaluacin
Evaluacin
Nivel de logros de la meta general
Se alcanz la meta general? (compare con las metas)
Qu influencia tiene el logro de la meta general sobre el plan de
desarrollo del pas socio?
Contribuye a la solucin de problemas de desarrollo?
Cules son los factores que dificultaron y promovieron el logro de la
meta general?
Relaciones causales
La meta general es un impacto producido a travs de la
implementacin del proyecto?
Las suposiciones importantes del propsito del proyecto a la meta
Impacto general son correctas? Hay alguna influencia a partir de las
suposiciones importantes?
Efectos de difusin
Hubo algn impacto positivo o negativo adems de la meta general?
* Influencia sobre el desarrollo de polticas, leyes, normas y similares
* Influencias sobre los aspectos sociales y culturales tales como gnero,
derechos humanos, ricos y pobres
* Influencia sobre la proteccin ambiental
* Influencia derivada de cambios tcnicos
* Influencias econmicas sobre la sociedad objetivo, las partes
interesadas, los beneficiarios
Hay impactos diferentes dependiendo de las diferencias entre gneros,
grupos tnicos o estratos sociales (sobre todo impactos negativos)?
La agencia de implementacin del pas socio continua con las
actividades del proyecto? El efecto que persegua el proyecto
(propsito del proyecto o meta general) se produce continuamente con
esto?
Sustenta- Cules son los factores que dificultan y que contribuyen a la
bilidad sustentabilidad?
(Prospectos) Polticas y sistemas
* Continuidad del apoyo poltico
* Lo que es * Desarrollo de estipulaciones y sistemas legales relacionados
indispensable para * En el caso de proyectos centrados en sitios piloto, existen esfuerzos
asegurar la confiables para ayudar a divulgar los efectos directos posteriormente?
sustentabilidad Aspectos organizativos y financieros
depende del z Se tiene suficiente capacidad organizativa para implementar
contenido del actividades que produzcan efectos? (Asignacin de recursos
proyecto. Se debe humanos, proceso de toma de decisiones, etc.)
implementar el z Se tiene un sentido de conciencia de la iniciativa propia en las
estudio con esto en agencias de implementacin?
mente. z Aseguramiento del presupuesto (incluyendo los gastos de operacin)
Tcnicas
z Establecimiento de tcnicas transferidas
z Mantenimiento y manejo del equipo
z Hay algn mecanismo de divulgacin (incluyendo la divulgacin a
197
otras regiones de proyectos que se implementaron en los sitios piloto?
Sociedad, cultura, medio ambiente
z Hay factores que obstaculizan debido a la falta de consideracin
hacia las mujeres, los pobres y los socialmente vulnerables?
z Hay factores que obstaculizan debido a la falta de consideracin al
medio ambiente?
* Las evaluaciones ex-post examinan los resultados y los procesos de implementacin y
evalan la pertinencia segn sea necesario. Estos puntos de vista de evaluacin se manejan
igual que en las evaluaciones finales.
El diseo de las evaluaciones ex-post tambin sigue el mismo proceso que otros estudios
de evaluacin. Consulte la Parte II, Captulo 2 para obtener explicaciones ms detalladas
sobre el diseo de la evaluacin. Las caractersticas del diseo de la evaluacin ex-post
son las siguientes:
i) Temas cuando se consideran las preguntas de evaluacin
Las principales preguntas de evaluacin comunes a todas las evaluaciones ex-post
son continua el efecto sin apoyo externo despus que termin la cooperacin? y se
produjo un impacto de largo plazo? Desde el punto de vista de los Cinco Criterios de
Evaluacin, impacto" y sustentabilidad son los criterios principales para esta evaluacin.
La evaluacin final termin de verificar la eficiencia y la efectividad y, por principio, la
evaluacin ex-post no verifica estos criterios.
Para hacer un borrador de preguntas de evaluacin ms concretas, los evaluadores
pueden utilizar los informes de las evaluaciones intermedia y final. Como ya se
examinaron los pronsticos de las posibilidades de sustentabilidad e impacto, los
evaluadores pueden obtener claves de lo que es importante verificar.
ii) Temas al considerar criterios y mtodos de juicio
Al examinar el impacto en las evaluaciones ex-post, los evaluadores necesitan
comparar el nivel de logros con las metas y analizar las relaciones causales para
determinar si la cooperacin realmente caus el impacto. A diferencia de los exmenes
de efectividad, con frecuencia los exmenes de impacto cubren amplias reas de la
sociedad objetivo, y en muchos casos, es adecuado captar las tendencias, por ejemplo,
en las encuestas por muestreo (consulte 2-2-2 para informacin sobre mtodos de
comparacin y 2-2-3 para encuestas por muestreo).
iii) Temas relativos a las fuentes de informacin y mtodos de recopilacin de datos
En comparacin con otros estudios de evaluacin es difcil identificar las fuentes de
informacin despus que termin la cooperacin ya que es posible que hayan transferido
a las personas que participaron en la cooperacin o que stas dejen sus trabajos.
Dependiendo del caso, los evaluadores necesitan consultar con anticipacin con la
agencia de implementacin del proyecto que se va a evaluar e identificar las fuentes de
198
informacin adecuadas junto con la agencia (consulte 2-2-1 para informacin sobre los
mtodos de recopilacin, tipos de datos y caractersticas/puntos a recordar).
iv) Temas relativos a la tabla de evaluacin
Al igual que en las otras evaluaciones, es necesario resumir el mtodo de evaluacin
en una tabla de evaluacin. Las evaluaciones ex-post se realizan bajo la iniciativa de la
oficina en el extranjero, para que sea posible consultar directamente a las partes
interesadas del pas socio que participaron en el diseo de la evaluacin. En este
momento, la tabla de evaluacin tambin se puede utilizar como herramienta de
comunicacin. El proceso de compartir el diseo con las agencias socias es importante
tambin para profundizar el conocimiento comn de la evaluacin y para obtener el
compromiso de parte del socio en relacin con el estudio de evaluacin.
Tal como se explica en la Parte II, Captulo 3, evaluacin significa interpretar los datos
recopilados y analizados - no es suficiente si slo se enumeran los datos y se aaden los
resultados del cuestionario. Al igual que en las evaluaciones intermedia y final, el proceso
de interpretacin de las evaluaciones ex-post realiza una "evaluacin de cada uno de los
cinco Criterios de Evaluacin" y luego saca una conclusin. De ella se extraen las
recomendaciones y lecciones aprendidas.
Las metas principales de retroalimentacin de las evaluaciones ex-post son las
organizaciones que implementan el proyecto (el proyecto continua despus de la
cooperacin), la divisin de implementacin respectiva de la JICA, y las oficinas de la
JICA en el extranjero. Sobre todo en el caso de la ltima, los resultados de las
evaluaciones ex-post se convierten en fuentes de informacin importantes para hacer
bosquejos de programas para el rea especfica de ese pas, o cuando se hace el
borrador de proyectos nuevos. Incluso si se vio algn efecto durante la cooperacin
(aunque los resultados de la evaluacin final hayan sido buenos), en algunos casos los
efectos no estn sustentados al final de la cooperacin y no contribuyen al objetivo a
largo plazo que el proyecto persegua. En estos casos, se cuestiona el valor de la
implementacin misma del proyecto, y estos casos brindad lecciones aprendidas valiosas
con respecto a cmo se deben formular los planes y estrategias de un proyecto.
La retroalimentacin a la JICA se utiliza principalmente para las siguientes
consideraciones.
z Establecimiento de estrategias a largo plazo para el rea respectiva
z Programa de cooperacin en el rea respectiva
z Seleccin de las agencias de implementacin adecuadas
z Necesidad de incorporar una estrategia para fortalecer la capacidad
organizativa
z Estrategias efectivas del proyecto
199
z Implementacin de proyectos relacionados en el rea correspondiente
Observe que, en principio, las evaluaciones ex-post se realizan bajo la iniciativa
de las oficinas en el extranjero.
200
Preguntas Frecuentes
relativas a la Evaluacin
de Proyectos de la JICA
201
Preguntas Frecuentes Relativas a la Evaluacin de Proyectos de la JICA
2.2 No entiendo la relacin entre las preguntas de evaluacin y los Cinco Criterios de Evaluacin.
3. Mtodo de encuestas cuando hay un problema con el marco lgico
3.1 Qu se debe hacer cuando el propsito del proyecto es simplemente una nueva exposicin del
producto?
3.2 Qu se debe hacer cuando la meta general difiere del propsito del proyecto?
3.3 Cmo se evalan los proyectos que tienen dos propsitos?
3.4 Cmo se evalan los proyectos que tienen planos vagos o que difieren de la PDM que se
prepar inicialmente?
4. Indicadores
4.1 Qu se debe hacer cuando no hay suficientes indicadores o no coinciden con el propsito del
proyecto?
4.2 Cmo se debe llevar a cabo la evaluacin cuando se determina que no existen valores objetivo
o son inadecuados?
4.3 Cmo se puede verificar si los valores objetivo son adecuados?
4.4 Es necesario considerar todos los indicadores como cuantitativos?
5. Mtodo de evaluacin
5.1 No me queda claro qu significa la "lgica" del proyecto.
5.2 Cmo se deben presentar los resultados de la evaluacin cuando parece que el proyecto no
podr alcanzar su propsito?
5.3 El proyecto est implementando actividades que no se mencionan en el marco lgico y dichas
actividades estn produciendo productos. Cmo se evalan esos productos? Se consideran
efectos indirectos?
5.4 No entiendo cul es el punto de vista del proceso de implementacin y cmo se utiliza en la
evaluacin.
5.5 Cmo se evalan puntos tales como el nivel de funciones aumentadas, conocimientos/
habilidades mejoradas y empoderamiento?
5.6 Cuando se evala el mejoramiento de capacidad, etc., cmo se evalan los proyectos que no
tuvieron buen seguimiento hasta el momento de la evaluacin?
5.7 Cmo se evalan los proyectos que se implementan en colaboracin con otros donadores o los
proyectos del gobierno de un pas socio que la JICA asume parcialmente?
6. Cinco Criterios de Evaluacin
6.1 Por qu son necesarios los Cinco Criterios de Evaluacin?
6.2 Es necesario examinar los cinco criterios, an en el caso de proyectos pequeos?
6.3 Es suficiente con slo discutir la pertinencia que coincide con el plan de desarrollo y la poltica
de asistencia?
202
6.4 Cuando se verifica la efectividad, cmo se debe considerar la relacin causal con los productos?
6.5 Cmo se debe considerar el impacto cuando se va a determinar si es resultado de la
implementacin del proyecto?
6.6 Cmo se debe considerar la eficiencia de la cooperacin tcnica?
7. Papel de la Tabla de Evaluacin
7.1 Por qu es necesaria la Tabla de Evaluacin cuando existe el marco lgico?
7.2 No entiendo la relacin entre la Tabla de Evaluacin y el marco lgico.
7.3 Cmo evito que los datos necesarios y el alcance de la encuesta ocupen proporciones enormes
cuando prepare la Tabla de Evaluacin?
7.4 Incluso si preparo una Tabla de Evaluacin, no s cmo utilizarla.
7.5 Por qu no se utiliza la PDM?
8. Pas socio
8.1 Es necesaria la participacin del pas socio en la evaluacin?
8.2 Cmo debe proceder en la evaluacin si el pas socio tiene su propio mtodo de evaluacin?
9. Preparacin del Informe de Evaluacin
9.1 Es necesario preparar una versin en ingls del informe?
9.2 Qu puntos se deben tener en mente cuando las personas a cargo verifiquen el informe?
203
una variedad de tcnicas de evaluacin necesarias
en la evaluacin de la JICA, tales como la aplicacin
del marco lgico con base en un modelo lgico,
verificacin del proceso de implementacin,
preparacin de la Tabla de Verificacin, verificacin
de las relaciones causales, mtodos para llevar a
cabo evaluaciones cuantitativas y cualitativas, etc.
Por consiguiente, las evaluaciones no utilizan
nicamente el mtodo PCM.
- Por ejemplo, los talleres participativos, que son una
caracterstica principal del mtodo PCM, se utilizan
como medio para obtener consenso entre las partes
interesadas en la evaluacin ex-ante y estn
produciendo efectos. Sin embargo, es importante
tomar nota que hacer esto no es tan suficiente como
una evaluacin ex-ante. Cuando se realizan las
evaluaciones ex-ante, adems de las encuestas de
base y las valoraciones de necesidades, es
importante utilizar al mximo las tcnicas de
evaluacin arriba mencionadas.
2. Preguntas de Evaluacin
2.1 No entiendo qu son las - La evaluacin es una respuesta a las preguntas Pgs. 51 - 54
preguntas de evaluacin. sobre el proyecto, y las preguntas de evaluacin
son el punto de partida para encontrar dicha
respuesta.
- Las preguntas de evaluacin comparan las
etapas del proyecto evaluado y cada elemento de
su contenido con el propsito del mismo. Se
establecen para cubrir temas que se deben
abordar para su verificacin. El departamento que
est a cargo del proyecto considera cules son los
204
puntos que se deben verificar y cules podran ser
tiles para corregir y mejorar el proyecto.
2.2 No entiendo la relacin - La JICA utiliza los Cinco Criterios de Evaluacin Pgs. 51 54
entre las preguntas de como base para sus evaluaciones de proyectos y,
evaluacin y los Cinco en esencia, la evaluacin del proyecto (juicio de
Criterios de Evaluacin. valor) se realiza tomando en consideracin los
cinco criterios. Cuando se consideran preguntas
de evaluacin especficas, es ms fcil establecer
preguntas si se observa cada criterio. La persona
a cargo puede seleccionar entre los cinco criterios
aquellos puntos que requieren nfasis y aquellos
que no.
- Sin embargo, en las evaluaciones sobre un tema
especfico, la pregunta de evaluacin y el tema
especfico son lo mismo. En esos casos, los Cinco
Criterios de Evaluacin no se pueden utilizar como
base.
205
eran el propsito y los productos del proyecto?
como pregunta de evaluacin. Despus lleve a
cabo una encuesta enfocndose en entrevistas
con personas interesadas y revisiones de
materiales. Luego, con base en esto, vuelva a
verificar la efectividad y eficiencia del proyecto.
- Por ltimo, hay muchos casos donde los
indicadores difieren, incluso si estn expresados
de la misma manera en la descripcin general del
proyecto. Por lo tanto, es importante ver primero
los indicadores. (En el caso de la columna
izquierda, si el indicador para el Producto 2 se
refiere al nivel de mejoramiento tcnico de los
agricultores y el indicador para el propsito del
proyecto seala hacia el mejoramiento de la
productividad de la cosecha, no se puede decir
que estn describiendo lo mismo con diferentes
palabras.)
206
- En el primer caso, comntelo con las personas
interesadas para que se enfoquen en una sola meta
cuando hagan el diseo de evaluacin. Si las
metas no se pueden unificar, es necesario evaluar
el proyecto por separado, como dos proyectos
diferentes.
- En casos donde hay muchos proyectos, y se
puede asumir que estn reunidos en un solo
programa, realice la evaluacin considerando la
meta del programa. Por ejemplo, si no hay un
programa general que cubre varias reas, y hay
marcos lgicos que se enfocan en cada rea,
verifique los resultados, el proceso de
implementacin, la eficiencia y la efectividad de
cada marco lgico; luego realice una evaluacin
creando un marco lgico para el programa en
general que observe la pertinencia, el impacto y la
sustentabilidad (los grupos del proyecto se
implementan con base en la misma estrategia, as
que les deber ser posible compartir propsitos y
metas generales del proyecto).
3.4 Cmo se evalan los - Si el proyecto tiene un plan vago, primero trate de Pg. 38 - 40
proyectos que tienen arreglar el proyecto a evaluar utilizando al mximo
planos vagos o que difieren el modelo lgico del proyecto y armando un marco
de la PDM que se prepar de trabajo para l. Cuando haga esto, consulte la
inicialmente? informacin cualitativa obtenida mediante las
revisiones de los documentos del proyecto y los
informes relacionados, entrevistas con las partes
interesadas, etc.
- Con base en esto, examine las preguntas de
evaluacin, las normas de juicio, los mtodos de
recopilacin de datos, etc., y prepare una Tabla de
Evaluacin.
- En el caso de proyectos que tienen planes vagos
o que no son lgicos, hay casos donde puede ser
difcil enfocarse en cul de los muchos efectos
directos es el propsito del proyecto y cules son
los efectos indirectos. Esto pasa sobre todo
cuando el proyecto mismo es el resultado directo y
donde no hay conciencia de los resultados a largo
plazo. En esos casos, es imposible realizar una
evaluacin cercana de la Efectividad e Impacto
entre los Cinco Criterios de Evaluacin. Por tanto,
realice la evaluacin dentro de un alcance factible
207
una vez que decida explicar estas limitaciones en el
Informe de la Evaluacin. Este tipo de evaluacin
no es intil, ya que existe la posibilidad de poder
obtener recomendaciones y lecciones aprendidas
concretas relativas a la etapa de planeacin (por
ejemplo, falta de claridad en los resultados
esperados, falta de conciencia entre el personal del
proyecto y problemas de gestin).
4. Indicadores
4.1 Qu se debe hacer - Si se considera que los indicadores son Pgs. 41 - 43
cuando no hay suficientes insuficientes o inadecuados, el equipo de
indicadores o no coinciden evaluacin debe considerar indicadores nuevos y
con el propsito del llevar a cabo una evaluacin que sea consistente
proyecto? con estos indicadores.
- En este caso, existe una alta probabilidad de que
surjan problemas en los resultados del proyecto que
se comprende mediante el seguimiento. Por lo
tanto, se puede suponer que el enfoque de la
evaluacin no se extender ms all de la
verificacin de resultados debido a las limitaciones
de tiempo. En este caso, es importante observar
claramente dichas limitaciones en el Informe de
Evaluacin utilizando el siguiente tipo de
declaraciones: a) no se pudo realizar una
evaluacin completa sobre la verificacin de la
relacin causal, etc., b) como resultado, el marco de
trabajo de seguimiento y la evaluacin intermedia
fueron insuficientes (en el caso de evaluaciones
finales), y c) como no se pudo implementar la
evaluacin con indicadores inadecuados, es
importante estudiar correctamente la pertinencia de
los indicadores aprovechando las oportunidades
que se presentan no slo en la evaluacin ex-ante,
sino tambin en el seguimiento.
4.2 Cmo se debe llevar a - El equipo de evaluacin puede establecer un Pg. 61
cabo la evaluacin cuando alcance razonable de los criterios de comparacin
se determina que no para la evaluacin (por ejemplo, valores promedio
existen valores objetivo o del pas, normas internacionales de juicio, etc.).
son inadecuados?
208
patrones. Por favor consltelos cuando realice las
evaluaciones.
1. Casos donde las necesidades de los
beneficiarios se enumeran como los valores
objetivo sin modificacin. Es importante volver
a determinar si estos criterios son adecuados o
no comparndolos contra la escala y
actividades del proyecto.
2. Casos en donde no es claro cmo se determin
el nmero de personas objetivo. Por ejemplo, si
el valor objetivo es se capacitarn 200
trabajadores de extensin, no hay mencin de
por qu el nmero 200 es pertinente (por
ejemplo, qu impacto tendr sobre el sistema
de divulgacin, etc.).
3. Casos en donde, aunque el nivel de
satisfaccin y otros trminos se cuantifican y se
establecen como valores objetivo, las razones
detrs de esas cantidades no son claras. Por
ejemplo, si el valor objetivo es 50% de los
participantes en la capacitacin estn
satisfechos, la base para la cifra 50% no es
clara.
4.4 Es necesario considerar - Como regla, los indicadores se deben ver como Pgs. 41 - 43
todos los indicadores como cuantitativos para conservar la objetividad. Sin
cuantitativos? embargo, en los casos donde esto es difcil, es
posible realizar una evaluacin indicando las bases
cualitativas que son aceptables para las partes
interesadas. Por ejemplo, es posible utilizar
adquisicin de calificaciones internacionales (por
ejemplo, ISO9000, etc.) o emisin de certificados
de una entidad autorizada.
- El punto importante es confirmar si las partes
interesadas aceptan o no los puntos que se estn
utilizando como bases para la evaluacin.
5. Mtodo de evaluacin
5.1 No me queda claro qu - La evaluacin verifica si los insumos o actividades Pgs. 33- 38
significa la "lgica" del realmente condujeron o no a los resultados que se
proyecto. esperaban al inicio. Los proyectos que se
determina tienen una tasa alta de incidencia se
consideran lgicos. Es importante considerar
planes que tienen las posibilidades ms altas de
producir los efectos finales deseados despus de
haber considerado por completo las suposiciones
209
importantes del marco lgico (en el rea de la
evaluacin y la investigacin se utiliza con
frecuencia el trmino verosmil).
- Aunque se puede utilizar el enfoque si-entonces
del marco lgico como referencia para confirmar la
lgica, es importante considerar los siguientes
puntos de vista para confirmar la pertinencia de su
contenido:
1. Consulte las experiencias de proyectos similares.
2. Aprenda cules mtodos son efectivos para cada
rea (es necesario tener expertos y consultores
que hagan esto).
3. Estudie los mtodos de implementacin de otros
donadores.
4. Tome en cuenta la experiencia nacional en el
rea objetivo.
5.2 Cmo se deben presentar - Describa las bases de la poca posibilidad de Pg. 40
los resultados de la alcanzar el propsito del proyecto (resultados de las
evaluacin cuando parece mediciones de los indicadores, etc.) y analice y
que el proyecto no podr explique los factores que dificultaron el progreso y
alcanzar su propsito? condujeron a esta situacin. La evaluacin ganar
importancia si stos se reflejan en las
recomendaciones y lecciones aprendidas. Como la
evaluacin se realiza para mejorar el proyecto, es
importante observar claramente las razones por las
que tiene una tasa de logros baja.
5.3 El proyecto est - El hecho que se estn llevando a cabo actividades Pgs. 38 - 40
implementando actividades del proyecto significa que en cierto grado estn
que no se mencionan en el utilizando insumos del mismo, y por tanto, no son
marco lgico y dichas efectos indirectos.
actividades estn - Si estas actividades adicionales se pueden incluir
produciendo productos. como parte de las actividades del proyecto (y si no
Cmo se evalan esos hay problemas en trminos de la lgica), inclyalos
productos? Se en la evaluacin.
consideran efectos - En caso que no exista una conexin directa entre
indirectos? las actividades adicionales y el propsito y
productos del proyecto, estudie los antecedentes
para saber por qu se aadieron estas actividades
y cul es su pertinencia. Por ejemplo, si estas
actividades se implementaron por un exceso de
insumos, esto conduce a preguntas sobre la
pertinencia del plan de insumos y el proceso de
implementacin. O, si las actividades adicionales
estn contribuyendo a la generacin de productos o
210
a alcanzar el propsito del proyecto, se pueden
evaluar como factores contribuyentes.
5.4 No entiendo cul es el - La informacin sobre el proceso de Pgs. 46- 47
punto de vista del proceso implementacin incluye el estado de
de implementacin y cmo implementacin de actividades y los puntos que
se utiliza en la evaluacin. ocurren en el sitio del proyecto. Por lo tanto, existe
mucha informacin cualitativa en esos puntos, tal
como la comunicacin entre los expertos y las
contrapartes, la relacin entre el proyecto y los
beneficiarios, y la relacin entre la Oficina Central
de la JICA y el proyecto. Aunque algunos de estos
puntos tal vez no se entiendan con slo medir los
valores objetivo de los indicadores, pueden tener un
impacto sobre la gestin del proyecto.
- Con frecuencia se puede utilizar la informacin
sobre el proceso de implementacin cuando se
analizan los factores que dificultan y que
contribuyen en un proyecto (por ejemplo,
identificacin de la falla de implementacin). Por
lo tanto, cuando estudie cada uno de los Cinco
Criterios de Evaluacin, observe la correlacin entre
el proceso de implementacin-la informacin
relacionada y los resultados del estudio de los
criterios. En los casos donde se confirma alguna
correlacin (pero no lo suficiente para demostrar
una relacin causal), realice entrevistas y
cuestionarios para buscar una relacin causal de
mayor profundidad.
5.5 Cmo se evalan puntos - Incluso aquellos puntos que a simple vista Pgs. 41 - 43
tales como el nivel de parecen difciles de medir (aumento de las
funciones aumentadas, funciones, mejoramiento del conocimiento/
conocimientos/ habilidades tecnologa, empoderamiento, etc.), es posible llevar
mejoradas y a cabo evaluaciones estableciendo indicadores
empoderamiento? sustituto, etc. Por ejemplo, en el caso del aumento
de las funciones, considere concretamente la
funcin que se debe aumentar. Si el objetivo es
aumentar la capacidad para implementar la
capacitacin, es posible evaluar el aumento de
habilidad para implementar la capacitacin
observando 1) el proceso de implementacin y la
idoneidad de sus actividades consecutivas,
incluyendo la planeacin e implementacin de la
capacitacin, la auto-evaluacin, y la revisin de los
planes de capacitacin (se necesitar una serie de
211
indicadores para medir estos puntos), y 2) si los
participantes en la capacitacin y los expertos
comprometidos con la transferencia de tecnologa
consideran la capacitacin adecuada (se
necesitan indicadores detallados para determinar
que tan apropiada la consideran).
- De la misma manera, considere indicadores
sustituto para el mejoramiento del conocimiento/
tcnico y el empoderamiento. En cuanto al
incremento de capacidad de recursos humanos, en
muchos casos (excepto en la educacin bsica),
ste se considera como una herramienta donde la
gente cumple con cierto tipo de meta, y es posible
utilizar indicadores para medir los beneficios
exactos y cambios positivos que han ocurrido. Por
ejemplo, la gente encontr trabajo como resultado
de los esfuerzos para aumentar el conocimiento?
O, aument la influencia de los ciudadanos en la
poltica como resultado de los esfuerzos hacia el
empoderamiento (por ejemplo, el nmero de
recomendaciones de polticas, etc.)? O, de nuevo,
se estimularon las actividades de los grupos de
jvenes de la comunidad como resultado del
empoderamiento (ejemplos de las actividades
reales, etc.)?
- Los siguientes mtodos principales se pueden
utilizar para medir estos indicadores:
1. Medicin del aumento de capacidad comparando
las calificaciones de las pruebas antes y
despus de la implementacin del proyecto.
2. Medicin del aumento de capacidad utilizando
una hoja de clasificacin que se desarroll
antes del proyecto.
3. Comparacin de las habilidades de la gente a la
que se dirigi el proyecto con gente a la que no.
4. Estudio de las calificaciones (evaluaciones
ampliamente reconocidas) obtenidas para
mostrar adquisicin de habilidades.
5.6 Cuando se evala el - Si no se ha implementado una encuesta base o Pgs. 62 - 63
mejoramiento de la seguimiento hasta el momento de la evaluacin, es Pgs. 77 - 78
capacidad, etc., cmo se imposible captar los cambios mediante
evalan los proyectos que comparaciones antes/despus o mediciones
no tuvieron buen regulares. Por consiguiente, la evaluacin ser
seguimiento hasta el poco persuasiva. Sin embargo, es posible hacer
momento de la evaluacin? comparaciones de los cambios con gente o
sociedades en regiones vecinas donde no se
212
implement el proyecto. Incluso si esto no se
puede hacer, realice encuestas utilizando diferentes
mtodos sobre fuentes de informacin que sean tan
diferentes como sea posible (es decir, verificacin
trilateral) y trate de recopilar datos objetivamente,
etc.
5.7 Cmo se evalan los - En el caso de proyectos que se implementaron en Pgs. 43- 44
proyectos que se colaboracin con otros donadores y gobiernos
implementan en socios, realice la evaluacin considerando el
colaboracin con otros proyecto como parte de un programa.
donadores o los proyectos - En este caso, aunque la meta principal del
del gobierno de un pas proyecto de la JICA sea la meta del programa, en
socio que la JICA asume todos los casos el propsito del proyecto es el
parcialmente? beneficio que se espera se exprese mediante la
implementacin del proyecto de la JICA.
- Es muy probable que las actividades y metas de
los proyectos de otros donadores y gobiernos
socios se conviertan en suposiciones importantes
del proyecto de la JICA. Por lo tanto, es importante
tener comunicacin con estos donadores/gobiernos
sobre la demarcacin de papeles y
responsabilidades. Adems, con el inters de
compartir las metas, es aconsejable tener
discusiones que empiecen al principio de la etapa
de planeacin y que incluyan la validez de la
estrategia del proyecto de cada lado.
213
efectivo pero tiene costos que son ms altos de lo
necesario (punto de vista de la eficiencia) y por
tanto no se puede esperar que sea sustentable.
Para poder evaluar la validez de los proyectos del
sector pblico-beneficio (que no se pueden medir
utilizando nicamente la tasa de rentabilidad y la
proporcin de las utilidades, como en el caso del
sector privado), es importante realizar verificaciones
desde diversos puntos de vista.
- Por otro lado, la prioridad que se le da a cada uno
de los Cinco Criterios de Evaluacin vara
dependiendo del tipo de proyecto y de los temas
involucrados. Por ejemplo, en el caso de un
proyecto a pequea escala, tal vez no sea
adecuado llevar a cabo una encuesta por
cuestionario, que cuesta dinero, y por tanto se
deben utilizar otros mtodos de verificacin sencilla.
O, si la gente interesada est conciente que la
eficiencia es un punto de inters primario para el
proyecto, tal vez sea necesario realizar una
encuesta que ponga ms nfasis en la verificacin
de la eficiencia.
6.2 Es necesario examinar - Aunque puede haber muchas diferencias en la
los cinco criterios, an en importancia que se le da a los cinco criterios, es
el caso de proyectos necesario examinarlos todos.
pequeos? - En el caso de las evaluaciones ex-ante de
proyectos pequeos, se debe poner atencin
especial a la pertinencia y hasta el ltimo se
deben estudiar las preguntas se producirn los
resultados? y el proyecto es muy caro? en
trminos de la eficiencia y la efectividad para
asegurar la rendicin de cuentas.
- El alcance de la evaluacin y la recopilacin de
datos se deben realizar adecuadamente dentro del
presupuesto. En los casos donde no se pueden
realizar estudios amplios debido a las limitaciones
del presupuesto, revise la documentacin y los
materiales lo ms que le sea posible.
6.3 Es suficiente con slo - No, no es suficiente. Lo que no se debe olvidar es Pg. 56
discutir la pertinencia que el punto de vista que examina si la estrategia y los
coincide con el plan de medios para lograr que el proyecto sea efectivo
desarrollo y la poltica de frente a un problema de desarrollo en el pas socio
asistencia? son adecuados o no. Los ejemplos incluyen
mtodos de transferencia de tecnologa,
214
establecimiento de actividades y seleccin de
metas y regiones.
- En las evaluaciones ex-ante, evale la pertinencia
de la estrategia con base en las encuestas de base
y la valoracin de las necesidades. Necesitamos
estar siempre concientes que los talleres
participativos por s mismos no siempre son
suficientes.
6.4 Cuando se verifica la - Cuando se observa la relacin causal entre el Pgs. 62 - 63
efectividad, cmo se debe efecto y la implementacin de un proyecto de Pg. 188
considerar la relacin cooperacin tcnica, el mtodo que se usa ms
causal con los productos? comnmente es una combinacin de dos
elementos: 1) comparacin de las condiciones
antes y despus de la implementacin del proyecto,
y 2) evaluacin para determinar si los artculos
producidos, habilidades y servicios que forman el
producto del proyecto se estn utilizando para
satisfacer el propsito del mismo o si estn
vinculados con la realizacin del propsito del
proyecto.
- En las comparaciones antes/despus, se
requieren los datos base que se recopilaron en la
evaluacin ex-ante o inmediatamente despus que
inici el proyecto. Cuando observamos la conexin
con el producto, si el propsito del proyecto es, por
ejemplo, mejorar la habilidad de capacitacin de
las instituciones de capacitacin en el pas socio,
estudie el grado en que se estn utilizando las
nuevas habilidades que se adquirieron a travs del
proyecto (es decir, el producto), el grado al que se
estn enseando las habilidades correctamente,
etc. Tambin es posible verificar si el equipo y los
materiales proporcionados (es decir, el producto) se
estn utilizando.
- Adems, estudie para ver si las suposiciones
importantes mencionadas en el marco lgico, as
como otros elementos externos supuestos estn
influyendo en el proyecto.
6.5 Cmo se debe considerar - Bsicamente se puede utilizar el mismo mtodo Pg. 62 - 63
el impacto cuando se va a descrito en el caso de la efectividad. Sin embargo,
determinar si es resultado en el caso del impacto, es importante tener en
de la implementacin del mente que el impacto es el efecto que surge
proyecto? despus que ha pasado cierto tiempo de la
implementacin del proyecto, y que puede haber
una gran cantidad de influencias de incertidumbres
que no estn relacionadas con el proyecto.
215
- De los temas incluidos bajo impacto, la meta
general incluye el beneficio que alcanza a los
beneficiarios finales y que cubre un amplio rango.
Por ello, es necesario llevar a cabo las encuestas
por muestreo y las comparaciones con las regiones
y gente a la que no se dirigi el proyecto. Aunque
es difcil especificar dichas regiones y personas, es
posible hacer comparaciones entre la gente,
regiones y organizaciones que tienen cualidades
muy similares dentro de un rango limitado para
recopilar los datos base y ver los cambios del
impacto (incluyendo las comparaciones
antes/despus) antes de la implementacin del
proyecto. Por ejemplo, hubo un caso en un
proyecto para estimular a maestros de ciencias y
matemticas, en que se hicieron comparaciones
entre las calificaciones de las pruebas de alumnos
de matemticas y ciencias, y entre los estudiantes
que tomaban clase con maestros capacitados y con
maestros sin capacitacin. (La prueba se realiz a
nivel nacional y no form parte de un proyecto.)
6.6 Cmo se debe considerar - Eficiencia es un punto de vista que considera si Pg. 57
la eficiencia de la los recursos invertidos llegaron de manera
cooperacin tcnica? oportuna, si se utilizaron lo ms econmicamente
posible y si se obtuvieron efectos finales o no. Por
ejemplo, los juicios los materiales y equipo
necesarios se proporcionaron lo ms
econmicamente posible en el sitio y la cantidad
de expertos de largo plazo se redujo al mnimo
mediante el uso de tantos expertos de un tercer
pas como fue posible representan evaluaciones de
eficiencia. De ser posible, las comparaciones de
costos con casos menos eficientes lo hacen ms
convincente.
- Dentro de una escala factible, realice
comparaciones con proyectos similares utilizando
clculos de costos. Por ejemplo, calcule el costo
unitario de cada producto y vea si est dentro de
lmites apropiados. Si es difcil calcular el costo
unitario, es posible comparar los costos generales
utilizando metas de la misma escala y proyectos
que tengan productos similares.
Actualmente, la JICA no cuenta con una base de
datos suficiente para comparar la eficiencia
216
(eficiencia de proyectos similares). Por esta razn,
pueden existir casos donde sea imposible realizar
una evaluacin adecuada calculando los costos
(juicio de valor por comparacin). Por tanto,
cuando sea posible, es importante acumular estos
datos expresando los costos en tablas.
217
preguntas de la evaluacin, los datos a recopilar,
los mtodos de recopilacin, las normas de
evaluacin, etc. Por otro lado, el marco lgico es
una tabla que brinda una descripcin general del
plan de proyecto que se va a evaluar; brinda la
informacin que se necesita cuando se estudian los
mtodos de evaluacin.
7.2 No entiendo la relacin - No siempre es posible utilizar en la evaluacin los Pg. 49-50
entre la Tabla de indicadores, valores objetivo y etapas para Pg. 82
Evaluacin y el marco introducir los indicadores que aparecen en el marco
lgico. lgico tal como estn. A veces no son adecuados.
Por lo tanto, el equipo de evaluacin debe examinar
cuidadosamente si es posible utilizar esos puntos
tal como estn.
- Cuando examine el mtodo de evaluacin
mediante la Tabla de Evaluacin, va a necesitar
otra informacin que no est incluida en el marco
lgico. Por ejemplo, cuando observamos la
pertinencia, es necesario utilizar la informacin
sobre el plan de desarrollo, los antecedentes detrs
del establecimiento de la estrategia de asistencia,
etc., que no estn incluidas en el marco lgico. -
Tambin en el rea de impacto, cuando se buscan
efectos indirectos surge la necesidad de identificar
los diversos elementos que rodean al proyecto y
que no aparecen en el marco lgico.
7.3 Cmo evito que los datos - Como generalmente el tiempo y el dinero para las Pg. 82
necesarios y el alcance de evaluaciones estn limitados, es necesario limitar
la encuesta ocupen los mtodos de evaluacin. Para ello, es necesario
proporciones enormes considerar varias perspectivas, incluyendo 1) qu
cuando prepare la Tabla de clase de datos es absolutamente esencial para
Evaluacin? responder a las preguntas de la evaluacin, y 2) si
existe una probabilidad alta de obtener esos datos.
- Cuando prepare un cuestionario con base en la
Tabla de Evaluacin, tenga en mente que la hoja
debe ser prctica (por ejemplo, un cuestionario de
10 pginas no es adecuado).
- Sin embargo, para que los datos sean confiables,
tambin es importante realizar una evaluacin que
combine tantos mtodos como sea posible. Por
ejemplo, cuando observe los efectos que tendr la
construccin de un pozo, no es suficiente con slo
entrevistar a una persona de la agencia de
implementacin; tambin es importante recopilar
datos de muchas otras fuentes, incluyendo los
usuarios, las organizaciones de mujeres en una
218
comunidad y la asociacin de agua. Limitar los
mtodos de evaluacin no significa seleccionar
nicamente un mtodo.
7.4 Incluso si preparo una - Una vez que prepar la Tabla de Evaluacin, Pg. 82
Tabla de Evaluacin, no s prepare una hoja de estudio y una lista de
cmo utilizarla. documentos a recopilar con base en la tabla y
prepare la evaluacin.
- Cuando realice la evaluacin, utilice la tabla para
verificar si hacen falta datos recopilados o no.
Despus de recopilar los datos, regrese a las
preguntas en la Tabla de Evaluacin para analizar
las respuestas a cada pregunta. Puede compilar
los resultados en el Informe de la Evaluacin.
219
que utilizan sus pases socios. No obstante,
despus de examinar detenidamente los mtodos
de evaluacin de ambas partes, es necesario llegar
a un acuerdo sobre un mtodo de evaluacin
comn.
- Como las evaluaciones siempre tienen un
propsito, despus de comparar los propsitos es
posible utilizar correctamente normas de evaluacin
nuevas que se piense son necesarias. Es
importante siempre tener en mente la razn de la
evaluacin para seguir adelante adecuadamente
con las preguntas de la evaluacin y la recopilacin/
anlisis de datos.
9. Preparacin del Informe de Evaluacin
9.1 Es necesario preparar - Es esencial que se prepare una versin en ingls Pg. 113
una versin en ingls del del Informe de Evaluacin para poder compartir los
informe? resultados de la evaluacin con el pas socio y as
poder utilizar los resultados en proyectos y
cooperacin posteriores. Aunque se prepara una
Minuta de las Juntas (M/M) al final de la evaluacin,
hay muchos temas que no se incluyen en las
Minutas. Por ello, se prepara el Informe de
Evaluacin en ingls como paso final.
9.2 Qu puntos se deben - Se debe poner mucha atencin para asegurarse Pg. 113
tener en mente cuando las que el informe incluye los siguientes puntos
personas a cargo principales.
verifiquen el informe? 1. Se comprendieron exactamente los resultados
del proyecto?
2. Se verific la relacin causal entre los efectos y
el proyecto?
3. Se mencionan con precisin las bases de los
juicios de evaluacin?
4. Se analizaron adecuadamente los factores
contribuyentes y los que obstaculizan?
5. Los resultados de la verificacin del proceso de
implementacin se utilizaron en el anlisis de
los factores contribuyentes y que obstaculizan?
6. Las recomendaciones y lecciones aprendidas
se basan precisamente en los resultados de la
evaluacin?
220
Materiales Anexos
I. Qu es el Marco Lgico?
II. Qu es la Evaluacin Participativa?
III. Qu es la Medicin de Resultados?
IV. Lista de Documentos de Referencia
221
Material Anexo I: Qu es el Marco de Trabajo Lgico?7
7
Materiales de referencia:
- NORAD (Agencia Noruega de Cooperacin para el Desarrollo): The Logical Framework Approach
(LFA):Handbook for Objective-oriented Project Planning [El Enfoque del Marco Lgico: Manual de
Planeacin de Proyectos por Objetivos] (1990)
- FASID (Fundacin para Estudios Avanzados en Desarrollo Internacional): Project Cycle
Management: Management Tool for Development Assistance [Gestin del Ciclo del Proyecto:
Herramienta de Gestin para la Asistencia para el Desarrollo] (2001)
8
De acuerdo con la definicin de la OCDE-DAC, el marco lgico (logframe) es una herramienta de
gestin utilizada para mejorar el diseo de las intervenciones para el desarrollo. Concretamente, la
Matriz de Diseo del Proyecto (PDM) que utiliza la JICA es una forma de marco lgico, y este documento
se refiere a todas esas matrices con el nombre general de marco lgico en la teora de la evaluacin.
222
Grfica 1-1: Temas de Desarrollo y el Marco Lgico
223
Tabla 1-1: Marco Lgico (Logframe)
(Resumen Narrativo) Indicadores Medios de Suposiciones
Verificables Verificacin Importantes
Objetivamente
Meta General Indicadores y valores Fuentes de Condiciones necesarias
Efectos indirectos, a objetivo para medir los informacin para los para que los efectos del
largo plazo; impacto logros hacia la meta indicadores en la proyecto sean
sobre la sociedad general columna de la sustentables
objetivo izquierda
Propsito del Indicadores y valores Fuentes de Factores externos que
Proyecto objetivo para medir los informacin para los se deben satisfacer
Efectos directos sobre logros hacia e indicadores en la para que el proyecto
el grupo y sociedad propsito del proyecto columna de la pueda contribuir con la
objetivo izquierda meta general, pero que
al mismo tiempo son
inciertos
Productos Indicadores y valores Fuentes de Factores externos que
Bienes y servicios que objetivo para medir los informacin para los se deben satisfacer
son producidos logros hacia los indicadores en la para que el proyecto
mediante la productos columna de la pueda contribuir con el
implementacin de izquierda propsito del proyecto,
actividades pero que al mismo
tiempo son inciertos
Actividades Insumos Factores externos que
Actividades para (Tanto de Japn como del pas socio) se deben satisfacer
generar los productos para que el proyecto
pueda generar
productos, pero que al
mismo tiempo son
inciertos
Condiciones previas
Condiciones que se
deben satisfacer antes
de iniciar las actividades
Al centro de la composicin lgica del marco lgico est la relacin vinculada entre
actividades - productos - propsito del proyecto - meta general. Es la lgica de la
hiptesis si-entonces; por ejemplo si se realiza una actividad, entonces se obtendr un
producto; si se obtiene el producto, entonces se cumplir con el propsito del proyecto; y
si se cumple con el propsito del proyecto, entonces contribuir con la meta general. El
proceso de construir esta hiptesis est basado en el conocimiento de la situacin actual
que se obtiene observando las relaciones de causa y efecto involucradas en los
problemas que enfrenta el grupo objetivo y su sociedad, as como las causas de estos
problemas (es decir, anlisis del problema). Mientras ms realista sea la hiptesis, mejor
ser el plan del proyecto. Por tanto, los siguientes puntos son importantes: a) conexin
directa entre los elementos si y entonces (mientras mas directa, mejor), b) control de
varios problemas mediante los esfuerzos del proyecto, y c) actividades efectivas y de bajo
riesgo. Esta lgica se puede utilizar para encontrar las relaciones causales del proyecto y
224
los resultados cuando se realiza el seguimiento y las evaluaciones (consulte la Parte II,
Captulo 1 del texto principal).
Si la lgica si-entonces por s misma fuera suficiente para generar los productos
esperados, no habra necesidad de adoptar pasos posteriores. Sin embargo, como la
lgica si-entonces es el nico medio que tiene el proyecto para solucionar problemas,
existe una variedad de factores externos que pueden tener un impacto sobre el proyecto.
El marco lgico identifica estos factores en la columna Suposiciones Importantes y
aclara el vnculo entre la lgica de las actividades - productos - propsito del proyecto -
meta general y las suposiciones importantes. Esto incluye expresar el contenido
general del plan del proyecto utilizando la lgica si-entonces en la siguiente relacin
vinculada: si se implementa una actividad, y, adems, se satisfacen las condiciones
externas que son importantes pero que el programa no puede controlar (y), entonces se
pueden obtener los productos. (La lgica para el paso productos - propsito del
proyecto - meta general es la misma.) Las condiciones externas son una herramienta
efectiva para la planeacin y formulacin del proyecto desde estas perspectivas: Es
suficiente nicamente implementar el contenido del plan del proyecto? e Incluso si se
implementa el proyecto, habrn elementos externos que obstaculicen la expresin de
los resultados?
Cuando se realiza el seguimiento o las evaluaciones, las suposiciones importantes
juegan un papel importante como meta de las encuestas. El entorno del proyecto est
cambiando siempre. Y en muchos casos, las suposiciones importantes que se
identificaron durante la formulacin del proyecto tienen un impacto que excede lo
predicho en la implementacin del proyecto. Aqu es importante revisar el contenido del
plan y confirmar suposiciones importantes nuevas a travs del seguimiento y la
evaluacin intermedia. En las evaluaciones finales y ex-post, a veces las condiciones
externas son factores que obstaculizaron el logro de las metas. Por eso, el evaluado
debe estudiar si se dio seguimiento a la presencia de dichas condiciones externas
durante la implementacin del proyecto o no. Es necesario evitar que las suposiciones
importantes se manejen como puntos que confunden dnde recae la responsabilidad en
el proceso de implementacin.
225
Cuadro 1-2: Composicin Lgica del Marco Lgico
<<Meta general>>
La meta general es el efecto a largo plazo que se espera alcanzar mediante la
implementacin de un proyecto. Cuando se planea un proyecto es necesario dedicar
suficiente atencin a estudiar cmo contribuir la meta general al tema de desarrollo (es
posible que el tema de desarrollo en s se convierta en la meta general, dependiendo del
proyecto). La JICA percibe la meta general como el impacto que sentir la sociedad
objetivo de tres a cinco aos despus que termin el proyecto.
226
generalmente se alcanza al final del proyecto. 9 Por tanto, el nivel de logros hacia el
propsito del proyecto es una seal que indica si el proyecto est generando productos o
no y si la implementacin del proyecto tuvo sentido. Cuando los proyectos que
generan productos pero que no expresan beneficio para el grupo objetivo, la inversin de
una gran cantidad de recursos y la implementacin del proyecto en s pierden su
importancia.
<<Productos>>
Los productos son bienes y servicios que genera el proyecto hacia el logro del
propsito del proyecto. A diferencia del propsito del proyecto que indica un cambio
positivo para los beneficiarios, los productos se refieren a cuestiones que generan
aquellos que implementan el proyecto. Si observamos un proyecto que se enfoca en la
capacitacin, por ejemplo, la implementacin de la capacitacin es un producto,
mientras que el propsito del proyecto ser mejoramiento de los conocimientos de los
becarios, aplicacin de la tecnologa adquirida en el sitio de trabajo, etc.
9
Hay casos, dependiendo del contenido o las caractersticas del proyecto, donde no se obtienen efectos
directos sino hasta cierto tiempo despus que ste termin. En un proyecto de riego, por ejemplo, no se
pueden obtener cambios en la proyeccin del arroz hasta despus que se terminaron las instalaciones
de riego.
227
Los indicadores y valores objetivo se establecen en las encuestas de base y otras
actividades en la etapa de planeacin. En la evaluacin ex-ante, el estudio de pertinencia
de dichos indicadores, los valores objetivo y los medios para obtenerlos son parte
importante del trabajo de verificacin. Los indicadores deben coincidir con el contenido
de las metas y los productos, y es importante que los medios para medirlos sean
objetivos y reproducibles (es decir, que con el mismo mtodo se puedan obtener los
mismos tipos de datos sin importar quin hace la medicin).
La determinacin de indicadores fciles de entender eleva la transparencia del
proyecto y es una parte esencial de su gestin. Mediante los indicadores es posible
verificar si el proyecto se est implementando de acuerdo con el plan inicial o no (es decir,
realizar un seguimiento). Dependiendo del proyecto, tal vez sea necesario revisar los
valores objetivo iniciales debido a diversos cambios del entorno externo y de las
condiciones de implementacin del proyecto. De acuerdo con esto, tal vez sea tambin
necesario volver a formular el contenido de los insumos, actividades y dems puntos.
229
Cuadro 1-3: Mtodos para Determinar las Suposiciones Importantes
No es una suposicin
El proyecto puede controlar
SI importante
la condicin?
230
Material Anexo II: Qu es la Evaluacin Participativa?10
10
Materiales de referencia:
- Instituto de Cooperacin Internacional, Agencia de Cooperacin Internacional del Japn:
Participatory Evaluation and International Cooperation [Evaluacin Participativa y Cooperacin
Internacional] (2001)
- Cousin, J.B. y Whitmore, E.: Framing Participatory Evaluation, Understanding and Practicing
Participatory Evaluation, New Direction for Evaluation, [Construccin de la Evaluacin Participativa,
Conocimiento y Prctica de la Evaluacin Participatica, Nueva Direccin de la Evaluacin] American
Evaluation Association [Asociacin Norteamericana de Evaluacin], Jossey Bass, San Francisco;
pgs. 5 23
11
Entre los ejemplos podemos mencionar Stakeholder-based Evaluation [Evaluacin con base en las
Partes Interesadas], Democratic Evaluation [Evaluacin Democrtica], Utilization-focused Evaluation
[Evaluacin por Uso] y Empowerment Evaluation [Evaluacin del Empoderamiento]
231
beneficiarios finales). Esta participacin est incluida en actividades tales como la
preparacin de los planes de evaluacin; abastecimiento, recopilacin y anlisis de
informacin; y modificacin de los planes iniciales del proyecto. Aqu evaluacin no
se refiere nicamente a las evaluaciones realizadas al trmino de los proyectos, sino
tambin a las evaluaciones ex-ante, el seguimiento durante la implementacin del
proyecto, las evaluaciones finales y las evaluaciones ex-post.
232
Material Anexo III: Qu es la medicin de Resultados?12
12
Materiales de referencia:
- Hatry, H.P.: Performance Measurement: Getting Results [Medicin de Resultados: Cmo Obtener
Resultados], Urban Institute, Washington D.C. (1999)
- Sasaki, R. y Nishikawa- Sheikh, N.: Current Development and Prospects of Performance
Measurement [Desarrollo Actual y Prospectos de la Medicin de Resultados] The Japanese Journal
of Evaluation Studies, Vol. 1, No. 2 (2001); pgs. 45 - 52
13
Evaluacin del programa en este contexto se refiere a la evaluacin de polticas pblicas, programas
pblicos, etc.
14
Las definiciones de los diversos elementos de los programas (impacto, actividad, producto y efecto
final) son las mismos que se presentan en el modelo lgico en el texto principal (consulte la Parte II,
Captulo 1).
233
verificaciones aproximadamente una vez al ao, se requieren verificaciones frecuentes
para determinar si determinadas acciones administrativas estn teniendo xito o no,
dnde estn los problemas, y si se estn generando resultados finales o no. Esto con el
fin de incitar a las partes interesadas a dar pasos hacia el mejoramiento del proyecto. Por
tanto, la medicin de resultados se aplica fcilmente cuando se realizan evaluaciones que
slo observan los cambios dentro de la regin objetivo, sin los grupos comparativos que
tipifican al mtodo de diseo experimental. Adems, como incluye la medicin comn de
indicadores desde los perodos previos al proyecto hasta los posteriores a ste, permite
una retroalimentacin rpida de los resultados.
Estas caractersticas hacen que la medicin de resultados sea apropiada para los
proyectos que brindan servicios pblicos. Esto se debe a que en los servicios pblicos es
necesario verificar constantemente la calidad de los beneficios que reciben los clientes y
beneficiarios y la eficiencia de dichos beneficios. Sin embargo, la medicin de resultados
no es muy adecuada para el sector de investigacin bsica o los proyectos que requieren
de una planeacin a largo plazo.
Existen tres limitaciones y puntos que se deben recordar en relacin con la medicin de
resultados. Primero, como recopila datos nicamente de la regin objetivo de un
programa sin utilizar grupos de comparacin, es difcil verificar las relaciones causales
con el programa. En otras palabras, no se puede ignorar el impacto de elementos
externos sobre el programa. Adems, si slo se percibe el nivel de logros del efecto final,
es imposible identificar las razones por las que se alcanz dicho nivel, lo que dificulta el
diseo de estrategias para mejorar el programa. Ya se seal que para contrarrestar
estas limitaciones lo ms posible cuando se realiza la medicin de resultados, es
necesario proporcionar suficientes detalles alrededor de la implementacin del proyecto y
explicaciones de los datos del efecto final.
Segundo, hay casos en que no es posible medir directamente los efectos finales.
Uno, por ejemplo, es la medicin de la reduccin de puntos indeseables, tales como la
reduccin de la criminalidad o del consumo de drogas. En casos como stos, es
necesario medir los cambios en el nmero de incidentes y desarrollar indicadores
substituto que puedan captar la reduccin de la criminalidad identificando las tendencias.
Tercero, la informacin de evaluacin que ofrece la medicin de resultados es tan
slo una parte de la informacin utilizada en la toma de decisiones y no es una
informacin que pueda afectar directamente los procesos de toma de decisiones sobre la
distribucin del presupuesto, el personal, etc. El objetivo principal de la medicin de
resultados es plantear preguntas, no presentar contramedidas o soluciones.
Aunque hay varias aplicaciones de la gestin de resultados, el mtodo de
evaluacin que utiliza la USAID (Agencia Norteamericana para el Desarrollo
Internacional) de los Estados Unidos representa una aplicacin que se combina con los
mtodos de evaluacin tradicional. Desde 1994, la USAID ha estado implementando la
medicin de resultados en todos sus programas. Al mismo tiempo, ha estado haciendo
una lista de programas extremadamente exitosos y de programas fallidos, realizando
evaluaciones tradicionales de dichos programas e identificando cursos de accin
utilizando el anlisis detallado para buscar las causas. ste es un ejemplo de la medicin
de resultados de bajo costo y fcil implementacin combinada con evaluaciones
detalladas muy costosas, y est recibiendo atencin como un mtodo para utilizar los
presupuestos de evaluacin de manera efectiva.
234
Material Anexo IV: Bibliografa
(** Aqu se enumeran los libros y materiales en ingls. Por favor consulte los Lineamientos
para la Evaluacin de Proyectos de la JICA - edicin japonesa para informacin sobre los
libros y materiales de referencia en japons.
z JICA
- Lineamientos de la Evaluacin de Proyectos de la JICA
Oficina de Evaluacin, Departamento de Planeacin y Evaluacin, Japan
International Cooperation Publishing Co., Ltd., 2002
- Pgina Web de Evaluacin http://www.jica.go.jp/evaluation/index.html
z Ministerio de Asuntos Exteriores (Japn)
- Pgina Web de la AOD http://www.mofa.go.jp/policy/oda/index.html
z JBIC
- Informes de Evaluacin Ex-Post
- http://www.jbic.go.jp/english/oec/post/index.php-
z DAC
Glosario de los Principales Trminos sobre Evaluacin y Gestin Basada en
Resultados del DAC, OCDE, 2002
- http://www.idcj.or.jp/JES/DACyougoshu0214.pdf -
z ADB
- Lineamientos para la Preparacin de los Informes de Auditoria de los Resultados de
un Proyecto
(http://peo.asiandevbank.org/Documents/Guidelines/P.par/dpc)
- Pgina Web http://www.peo.asiandevbank.org/
z AusAID
- Pgina Web de Evaluacin
http://www.ausaid.gov.au/about/pia/Quality_Assurance_Page.cfm
z CIDA
- CIDA Evaluation Guide [Gua de Evaluacin de la CIDA], Jan.2000
- Asian Branch: A Guide for Self-Assessment and Monitoring [Oficina Asitica: Gua
para la Auto-Evaluacin y el Seguimiento], Ene. 2000.
z DANIDA
- Evaluation Guidelines [Lineamientos de Evaluacin] Febrero 1999 (2a edicin,
revisada 2001)
235
- http://www.um.dk/danida/evalueringsrapporter/eval-gui/index.asp -
- Pgina Web de Evaluacin http://www.um.dk/danida/evalueringer/
z EC
- Evaluation in the European Commission: A Guide to the Evaluation Procedures and
Structures Currently Operational in the Commissions External Co-operation
Programmes [Evaluacin en la Comisin Europea: Una Gua hacia los
Procedimientos y Estructuras de Evaluacin Actualmente en Uso en los Programas
de Cooperacin Exterior de la Comisin]
http://europa.eu.int/comm/europeaid/evaluation/methods/guidelines_en.pdf
- Pgina Web de Evaluacin
http://europa.eu.int/comm/europeaid/evaluation/methods/index.htm
z GTZ
- Project Monitoring: An Orientation for Technical Cooperation Projects [Seguimiento
de Proyectos: Una Orientacin sobre los Proyectos de Cooperacin Tcnica], 1998.
z UNICEF
- A UNICEF Guide for Monitoring and Evaluation: Making a Difference [Gua de la
UNICEF sobre Seguimiento y Evaluacin: Para Hacer la Diferencia], 1991
- Pgina Web de Evaluacin http://www.unicef.org/reseval/
z USAID
- Performance Monitoring and Evaluation TIPS [CONSEJOS sobre Seguimiento y
Evaluacin de Resultados]
http://www.usaid.gov/pubs.usaid_eval/#02
http://www.dec.org/partners/eval.cfm
z Banco Mundial
- Assessing Development Effectiveness: Evaluation in the World Bank and the
International Finance Corporation [Evaluacin de la Efectividad del Desarrollo:
Evaluacin en el Banco Mundial y en la Corporacin Financiera
Internacional],1998.
- Pgina Web de Evaluacin http: //www.worldbank.org/html/oed/evaluation
z OCDE DAC
- Pgina Web de Evaluacin http://www.oecd.org/dac/Evaluation/index.htm
- Red de Evaluacin del DAC
http://www.oecd.org/dac/Evaluation/htm/evallinkmem.htm
Mtodo de Evaluacin
236
New Directions for Evaluation [Nuevas Direcciones de Evaluacin], No.87, Jossey
Bass
<< Medicin de los Resultados >>
z Performance Measurement: Getting Results [Medicin de los Resultados: Cmo
Obtener Resultados]
Hatry, H.P., Urban Institute, 2000
z Clarifying Goals, Reporting Results [Aclarando Metas, Dando a Conocer
Resultados]
Wholey, J.S. y Newcomer, K.E., In Katherin Newcomer, Using Performance
Measurement to Improve Public and Nonprofit Programs [Uso de la Medicin de
Resultados para Mejorar los Porgramas Pblicos y No Lucrativos], New Direction for
Evaluation [Nueva Direccin de Evaluacin], 1997
<< Mtodo de Diseo Experimental >>
z Social Experimentation [Experimentacin Social], Sage Classics 1
Campbell, D.T. y Russo, M.J., Sage Publications, 1999
z Quasi-experimentation: Design and analysis issues for field settings [Semi-
experimentacin: Diseo y anlisis de temas para el ambiente de campo]
Cook, T.D. y Campbell, D.T., Rand McNally, 1979
<< Evaluacin Cualitativa >>
z Qualitative Research & Evaluation Methods [Investigacin Cualitativa y
Mtodos de Evaluacin]
Patton, M.Q., Sage Publications, 2002
z Qualitative Data Analysis: An Expanded Sourcebook [Anlisis Cualitativo de
Datos: Un Libro de Consulta Expandido] (2a ed.)
Miles, M.B. y Huberman, A.M., Sage Publications, 1994
<< Estudio de Caso >>
z The Art of Case Study Research [El Arte de la Investigacin del Estudio de
Caso]
Stake, R. E., Sage Publications, 1995
z Case Study Research [Investigacin del Estudio de Caso]
Yin, R.K., Sage Publications, 1984
<< Evaluacin del Programa de Desarrollo >>
z Monitoring and Evaluating Social Programs in Developing Countries: A
handbook for policy makers, managers, and researchers [Seguimiento y
Evaluacin de Programas Sociales en los Pases en Vas de Desarrollo: Un
manual para quienes hacen las polticas, gerentes e investigadores]
Valadez, J. y Bamberger, M., Banco Mundial, 1994
z Evaluating Country Development Policies and Programs: New Approaches for a
New Agenda [Evaluacin de las Polticas y Programas de Desarrollo de los
Pases: Nuevos Enfoques para una Nueva Agenda]
New Directions for Evaluation [Nuevas Direcciones de Evaluacin], No. 67, Jossey-
Bass
<< Evaluacin Participativa >>
z Foundation of Empowerment Evaluation [Bases de la Evaluacin del
Empoderamiento]
Fetterman, D.M., Sage, 2001
z Participatory Evaluation in Education; Studies in Evaluation Use and
Organizational Learning [Evaluacin Participativa en la Educacin; Estudios del
Uso de la Evaluacin y el Aprendizaje Organizativo]
Cousins, J.B. y Earl, L.M., Falmer, 1995
z Partners in Evaluation: Evaluating Development and Community Programs with
Participants [Socios en la Evaluacin: Evaluacin de los Programas para el
Desarrollo y Comunidades con Participantes]
Feuerstein, M.T., MacMillan, 1986
z Evaluating the Arts in Education: A Responsive Approach [Evaluacin de las
Artes en la Educacin: Un Enfoque Responsivo]
Stake, R. E., Merrill, 1975
z Participatory Evaluation and International Cooperation [Evaluacin
Participativa y Cooperacin Internacional]
237
Institute for International Cooperation [Instituto de Cooperacin Internacional], JICA,
2001
<< Evaluacin Organizativa >>
z Self-Assessment Tools for Nonprofit Organization [Herramientas de Auto-
Valoracin para la Organizacin no Lucrativa]
Druchker, P.F.Foundation, Joseey-Bass, 1993
<< Paquete de Evaluacin >>
z Program Evaluation Kit [Paquete de Evaluacin de Programas], 2a Ed., Sage
Publications, 1987
1) Evaluators Handbook [Manual del Evaluador]
2) How To Focus An Evaluation [Cmo Enfocar una Evaluacin] (Stecher B.M. y
Davis W.A.)
3) How To Design A Program Evaluation [Cmo Disear un Programa de
Evaluacin] (Fitz-Giboon C.T. y Morris L.L.)
4) How to Use Qualitative Methods in Evaluation [Cmo Utilizar los Mtodos
Cualitativos en la Evaluacin] (Patton M.Q.)
5) How to Assess Program Implementation [Cmo Evaluar la Implementacin del
Programa] (King J.A., Morris L.L. y Fitz-Gibbon C.T.)
6) How to Measure Attitudes [Cmo Medir las Actitudes] (Henerson M.E., Morris L.L.
y Fitz-Gibbon C.T.)
7) How to Measure Performance And Use Tests [Cmo Medir los Resultados y
Utilizar las Pruebas] (Morris L.L, Fitz-Gibbon C.T. y Lindheim E.)
8) How to Analyze Data [Cmo Analizar los Datos]
9) How to Communicate Evaluation Findings [Cmo Comunicar los Resultados de la
Evaluacin] (Morris L.L, Fitz-Gibbon C.T. y Freeman M.E.)
Tcnicas de Evaluacin
Diarios
z Japan Evaluation Research: Japan Evaluation Society [Investigacin de
Evaluaciones del Japn: Sociedad de Evaluacin del Japn]
z American Journal of Evaluation: The American Evaluation Association [Diario
Norteamericano de Evaluacin: La Asociacin Norteamericana de Evaluacin]
238
239