Académique Documents
Professionnel Documents
Culture Documents
Evaluacin de Proyectos
~ Mtodos Prcticos para la Evaluacin de Proyectos ~
Septiembre de 2004
NDICE
Parte I: Evaluacin de Proyectos de la JICA
Captulo 1 Descripcin General de la Evaluacin de Proyectos
de la JICA
1. Objetivos de la Evaluacin de Proyectos de la
JICA
2. Tipos de Evaluacin de Proyectos de la JICA
3. Sistema de Evaluacin de la JICA
4. Retroalimentacin de la Evaluacin
5. Criterios para una Buena Evaluacin
Captulo 2 Marcos de Trabajo y Pasos Bsicos de la Evaluacin
de Proyectos de la JICA
1. La Evaluacin como una Herramienta de Gestin
2. Marco de Trabajo de la Evaluacin
3. Pasos Principales de la Evaluacin de Proyectos
de la JICA
33
55
59
69
2
4
6
12
15
18
20
21
22
28
34
35
37
39
53
74
80
90
92
93
96
98
104
105
106
109
116
118
122
123
124
127
146
159
195
200
Materiales Anexos
1. Qu es el Marco de Trabajo Lgico?
2. Qu es la Evaluacin Participativa?
3. Qu es la Medicin de Resultados?
4. Bibliografa
220
221
230
232
234
ii
Parte I
Evaluacin de Proyectos
de la JICA
Consejos!
- Hay tres objetivos para el uso de la Evaluacin de Proyectos de la JICA: 1)
herramienta para la gestin del ciclo del proyecto; 2) herramienta para acentuar los
efectos de aprendizaje para una gestin de proyecto ms efectiva; 3) asegurar la
rendicin de cuentas.
pblico.
la
JICA
se
esfuerza
para
implementar
estrategias
para
una
retroalimentacin efectiva.
Los criterios para una buena evaluacin son 1) utilidad, 2) justicia y neutralidad, 3)
credibilidad, 4) participacin de los pases socios, etctera. Cuando se adopta
la
de los pases socios emplean las lecciones de los proyectos pasados a modo de
referencias tiles cuando planean e implementan proyectos similares. Adems, el proceso
de evaluacin en s contribuye a ampliar el conocimiento y desarrollar las capacidades de
las personas participantes y, por tanto, sirve como un proceso de aprendizaje.
Acentuar el Efecto
Cuentas a los
Realizacin
de Aprendizaje del
Contribuyentes /
de la
Evaluacin
Personal y las
Implementar
Organizaciones
Proyectos de
interesadas
Manera ms
Efectiva y Eficiente
Asegurar la Responsabilidad
de la JICA
Nivel de Poltica
Sistema de Evaluacin
de toda la AOD
Poltica Intermedia de la
AOD
Programa de Asistencia por Pas
Iniciativas por sector especfico
Nivel de Programa
Problema de
Desarrollo del Pas A
Problema de Desarrollo
Problema de
Desarrollo
Problema de Desarrollo
del Pas A
Programa de
Cooperacin de la JICA
Cooperacin de
Otros Donadores
Proyectos de la JICA
Proyectos de la JICA
Proyectos Independien-
Cooperacin de
Otros Donadores
Proyectos de la JICA
Proyectos de la JICA
Proyectos Independien-
Nivel de Proyecto
Figura 1-1-3 Tipos de Evaluacin por Etapas durante el Ciclo del Proyecto
Retroalimentacin
Plan
Evaluacin
Ex-post
Programa Temtico
por Pas
Encuesta de solicitudes
especficas por asunto
Plan
Retroalimentacin
Evaluacin
Ex-post
Retroalimentacin
Retroalimentacin
Implementacin
Post Implementacin
Evaluacin
final
Evaluacin
intermedia
i)
Esta evaluacin integral examina los efectos generales de la cooperacin de la JICA para
el desarrollo de un pas objetivo a lo largo de los proyectos. Despus de aclarar y analizar
los efectos generales de la cooperacin de la JICA y las dificultades que encontr, esta
evaluacin brinda lecciones y recomendaciones para el mejoramiento del Programa por
Pas de la JICA para del pas en cuestin.
i) Evaluacin Ex-ante
La evaluacin ex-ante se realiza sobre un proyecto solicitado por un pas receptor. Primero
incluye un estudio del proyecto para determinar su necesidad as como su conformidad
con el Programa por Pases de la JICA. Se aclaran los detalles del proyecto y sus
resultados esperados. Despus se examina y evala de manera integral la importancia del
proyecto. En la evaluacin ex-ante, los indicadores de evaluacin se establecen y utilizan
para medir el efecto del proyecto en evaluaciones posteriores, desde la evaluacin
intermedia hasta la evaluacin ex-post.
i)
Para poder mejorar la calidad y objetividad de su evaluacin, la JICA encarga cierta parte
de sus estudios de evaluacin a terceros que no participaron en la planeacin e
implementacin de los proyectos que se van a evaluar. Por ello mismo, la JICA tambin
incluye en la evaluacin a quienes tienen mucha experiencia en las reas objetivo, tales
como universidades, instituciones de investigacin, acadmicos, consultores, etc.
10
11
12
13
14
4. Retroalimentacin de la Evaluacin
La JICA considera que la funcin de retroalimentacin de la evaluacin es doble: 1)
retroalimentacin para la gestin y operacin de proyectos y 2) retroalimentacin para el
pblico.
15
estudios sintticos sobre las evaluaciones para identificar las tendencias comunes. A partir
del 2004, se aadi una nueva columna al documento de evaluacin ex-ante para anotar
comentarios sobre las lecciones aplicadas tomadas de proyectos similares pasados. Esto
representa un paso ms para una mejor retroalimentacin de la evaluacin.
16
Departamentos
Operativos de la
JICA, Organizaciones
Interesadas
en Japn
Proyecto
Objetivo
Agencias de
Asistencia de
otros pases
donadores
Mejorar la Gestin de
los Proyectos / Proceso
de Aprendizaje de la
Organizacin
Agencias de
Implementacin
Organizaciones
Preocupadas por
los pases objetivo
Proceso de
la
Evaluacin
Asegurar la Rendicin
de cuentas
Pblico /
Contribuyentes
Japoneses
Pblico de
los Pases
Objetivo
17
(1) Utilidad
Los resultados de las evaluaciones deben ser claros y tiles para que se puedan emplear
en la toma de decisiones de la organizacin. Es necesario establecer claramente los
objetivos de la evaluacin, y para que la retroalimentacin sea ms efectiva, es
recomendable que la evaluacin refleje las necesidades de los usuarios previstos. La
informacin relativa a los resultados de la evaluacin se emplea en diversas etapas
durante el ciclo del proyecto y tambin se utiliza en la formulacin de estrategias ms
efectivas, as que es muy importante que esa informacin est fcilmente disponible y que
la implementacin de la evaluacin est lista justo a tiempo.
El grupo de estudio de
(3) Credibilidad
Para obtener una informacin de evaluacin verosmil, es esencial que los evaluadores
tengan conocimientos especializados de los campos objetivo y los esquemas (tipos de
proyectos) y que estn bien versados en el mtodo de investigacin cientfica.
Un
18
opiniones
propuestas
relativas
las
lecciones
aprendidas
las
19
Captulo 2
Consejos!
-
La evaluacin tiene tres etapas: 1) valoracin de los resultados del proyecto; 2) juicio
de valor con base en los Cinco Criterios de Evaluacin; y 3) elaboracin de
recomendaciones, atencin a las lecciones aprendidas y la retroalimentacin.
20
21
22
23
24
25
26
de la gran escala de insumos utilizada. Tambin, para juzgar la validez de una intervencin
de asistencia, se examina la importancia de las estrategias, as como la sustentabilidad de
los efectos despus que la asistencia termina. Por tanto, utilizar los cinco criterios para
evaluar un proyecto permite ver su valor desde puntos de vista diferentes y, como
resultado, se puede especificar diversos factores que influyen en el xito o fracaso del
proyecto. Cuando se evalan proyectos, ya sea para valorar los resultados o predecir el
futuro, las perspectivas variarn dependiendo del momento en que se encuentre el ciclo de
operacin cuando se realiza el estudio de evaluacin El enfoque de cada criterio tambin
variar entre los proyectos. Sin embargo, la JICA decidi bsicamente cubrir todos los
cinco criterios en cualquier tipo de estudio de evaluacin.
(3) Hacer Recomendaciones, Aprender Lecciones y Dar Retroalimentacin
Los resultados de una evaluacin tienen valor nicamente cuando se utilizan. La JICA
considera la evaluacin como una herramienta prctica de gestin y por ello es necesario
hacer recomendaciones especficas y tomar lecciones a partir de los resultados de la
evaluacin. Las recomendaciones y lecciones aprendidas se deben enviar a los
departamentos relevantes de la JICA y a las organizaciones relacionadas para que se
puedan utilizar para el mejoramiento del proyecto objetivo o de las operaciones en el
futuro.
Cuando se hacen dichas recomendaciones es indispensable especificar los factores
que influyen para contribuir o dificultar un proyecto y para comprender lo que se ha
aprendido. Por ejemplo, cuando se descubre que el proyecto no es efectivo, es necesario
identificar los factores que lo dificultan examinando tanto el proceso de implementacin
como las relaciones causales, y con base en dichos factores, se deben proponer
recomendaciones y lecciones aprendidas. Otro ejemplo sera, en caso de encontrar un
problema en la distribucin del personal en la agencia de implementacin, se necesitara
hacer algunas recomendaciones para cambiar la situacin. En caso que los resultados de
la evaluacin nos digan que es necesario otro grupo de resultados para obtener los efectos
esperados, se debern proponer recomendaciones para volver a disear los resultados.
En suma, la evaluacin tiene tres etapas: 1) valoracin de los resultados; 2) emisin
de un juicio de valor sobre el proyecto; y 3) elaboracin de recomendaciones y toma de
lecciones aprendidas mediante el anlisis de los factores que contribuyen o dificultan el
proceso, y la retroalimentacin. No es posible realizar una evaluacin til sin cualquiera de
estas tres fases.
27
28
- Cul es el
objetivo de la
evaluacin?
- Quines son los usuarios
potenciales de los resultados?
Planeacin
de la
Evaluacin
Realizacin
- Comprender el
contenido de los
planes del
proyecto
- Comprender la
situacin actual
del proyecto
- Qu es la
metodologa de
la evaluacin?
- Tomar en
consideracin las
preguntas de la
evaluacin, las
bases para el
juicio, los datos
necesarios y los
mtodos de
recopilacin de
datos
- Realizar el
estudio de
evaluacin en los
sitios el proyecto
- Recopilar datos
en Japn, de ser
necesario
- Interpretar datos
y emitir un juicio
de valor
29
- Reunir los
resultados de la
evaluacin
- Enviarlos a los usuarios
potenciales
Retroalimentacin
30
Plan de la Evaluacin
Puntos a considerar
Observe que el enfoque de la evaluacin
difiere dependiendo del tipo de
evaluacin
31
Implementacin
4. Recopilacin de
Datos
32
5. Anlisis e
Interpretacin de
Datos
Informacin
6. Envo de
Informacin sobre
los Resultados de la
Evaluacin
33
Parte II
Mtodos de Evaluacin
de la JICA
34
Captulo 1
Confirmacin de los Objetivos de la Evaluacin y
Organizacin de la Informacin sobre el Proyecto Seleccionado
Este captulo explica el primer paso de la planeacin de la evaluacin, es decir la
confirmacin del propsito de la evaluacin y cmo comprender el panorama completo
del proyecto objetivo.
Consejos!
- Los propsitos de la evaluacin varan entre la evaluacin ex-ante, intermedia, final y
ex-post.
La informacin que se debe obtener con anticipacin incluye el contenido del plan de
un proyecto y el nivel de realizacin del proyecto.
En caso que la situacin real del proyecto no se refleje en su Marco Lgico/PDM, ser
necesario realizar algunos ajustes. Sin embargo, esto no significa que se cambie el
Marco Lgico/PDM para hacer el estudio de evaluacin ms fcil.
35
Examina
si
un
proyecto
est
produciendo
efectos
adecuadamente a la mitad del proceso. Los resultados de la
evaluacin intermedia se utilizan para mejorar la estrategia del
proyecto, as como para aprender lecciones para proyectos
similares.
Evaluacin Final:
Examina
si
un
proyecto
est
produciendo
efectos
adecuadamente al final del perodo del proyecto. Los resultados
de la evaluacin final se utilizan para decidir si el proyecto se
debe terminar o si se le debe dar seguimiento. Las lecciones que
se toman de los resultados tambin se aprovechan como
lecciones aprendidas para proyectos similares.
Evaluacin Ex-post:
36
Podra ser una buena idea convocar una ocasin con todos los
37
38
conocer los insumos y resultados reales, as como la situacin actual del proceso de
implementacin. En cuanto a la evaluacin final, adems de ese tipo de informacin
tambin se debe obtener el nivel de xito del propsito del proyecto. Por lo general,
podemos obtener informacin acerca de esos puntos en los resultados del seguimiento.
Sin embargo, si es necesario, se pueden llevar a cabo encuestas adicionales durante la
evaluacin.
iii) Fuentes principales de informacin
A continuacin se muestran las fuentes principales de informacin para conocer el
panorama general de un proyecto.
39
Relaciones causales en el
proyecto
(cmo se producirn los
efectos esperados al
implementar el proyecto)
40
Insumos/recursos
Sin embargo, en la realidad el contenido del marco lgico puede no ser muy claro y
lgico o, en algunos casos, no se han esclarecido los valores objetivo. En ese caso, el
evaluador debe conocer cul es la situacin real de un proyecto a partir de los
documentos relevantes o de entrevistar a las personas interesadas.
Adems, la
oportunidad de tener una discusin con las partes interesadas le puede ayudar a
considerar qu es lo que se debe investigar para medir los efectos del proyecto y cules
son los criterios que se deben utilizar para juzgar el nivel de xito de los objetivos.
i) Qu es el Modelo Lgico?
El modelo lgico es una de las teoras de evaluacin de proyectos y constituye la base
terica del marco lgico.
1
El marco de trabajo lgico (logframe) es una herramienta de gestin para mejorar el desarrollo del plan
de intervencin (DAC), y la PDM (Matriz de Diseo del Proyecto) de la JICA es un tipo de marco lgico.
Este manual utiliza la terminologa del marco lgico ms ampliamente aceptada en el mbito
internacional.
41
El modelo lgico...
El modelo lgico representa la teora de evaluacin de la teora de un programa. Algunas
veces se describen en trminos tales como la lgica de los resultados de un programa y la
teora de la accin, dependiendo de los investigadores. La evaluacin de la teora de un
programa se lleva a cabo cuando se confirma o asume un patrn de causa y efecto en los
programas y proyectos.
Al utilizar un modelo lgico, se esclarecen las relaciones causales del proyecto objetivo y
eso ayuda a los evaluadores a investigar si los insumos del proyecto realmente estn
produciendo los efectos como se supuso o si se estn observando impactos como se
esperaba, y/o si existe alguna falla de teora en el proyecto.
42
43
Resultados
finales
Cambios en el beneficiario
y/o la sociedad como
consecuencia de un
proyecto de largo plazo
beneficiario y/o la
sociedad como
Resultados
Cambios intermedios en el
Resultados
intermedios
consecuencia de un
proyecto
Resultados
directos
Cambios ms directos en el
beneficiario y/o la sociedad
como consecuencia de un
proyecto
Beneficios
Productos, bienes de
capital y servicios
de un proyecto
Actividades
Insumos
Gestin
del Proyecto
como consecuencia
Recursos humanos,
financieros y fsicos
44
Resultado
Final
Se reduce la tasa de
mortalidad materna
Se mejora el nivel
Se reduce la tasa de
de nutricin infantil
infeccin infantil
Aumenta la
proporcin de
partos normales
Se mejora el nivel de
nutricin materna
Resultado
Intermedio
Se brindan servicios
adecuados en el
MCHC
Las madres
pueden utilizar
el MCHC
Se reconsideran el ambiente
Se mejora el
espaciamiento
Los trabajadores de la
Los trabajadores de la
La gente adquiere
salud adquieren
conocimientos
salud adquieren
mejores habilidades
ms
conocimientos
Se construye el Centro
Se mejora la
Se brinda a la gente
de Salud Materno-
capacitacin de los
Infantil (MCHC)
trabajadores de la salud
nutricin e higiene
Resultado
Directo
Gestin del
Proyecto
actividades
Insumos
actividades
actividades
Insumos
Insumos
45
Resultados
Resultados
Se construye el
Se mejora la capacita-
Centro de Salud
Materno-Infantil
de atencin a la salud
Se brinda a la gente
educacin sobre
salud, nutricin e
higiene
actividades
actividades
Insumos
Insumos
actividades
Insumos
Gestin del
proyecto
46
(3) Revisin del Marco Lgico: Para Ver si Refleja la Situacin Real de un Proyecto
En la JICA, se formula un marco lgico al momento de la planeacin de un proyecto,
aplicando las relaciones causales del modelo lgico. Durante y despus de la evaluacin
intermedia es posible relacionar los contenidos del marco lgico con los planes de trabajo
de evaluacin hasta el punto donde el marco lgico describa la situacin real de un
proyecto (en caso que existan varias versiones del marco lgico, se aplica la ms
reciente). Sin embargo, en realidad existen casos donde el marco lgico no est
formulado clara o tericamente y, por lo tanto, no refleja la situacin real de un proyecto.
Algunas veces no solo las relaciones causales no estn bien identificadas, sino tambin
los indicadores, objetivos, medios de verificacin y suposiciones importantes.
En ese
caso, el evaluador debe ajustar el marco lgico para que refleje lo que est sucediendo
en el sitio del proyecto lo ms acertadamente posible utilizando otra informacin del
proyecto. Por ejemplo, en el caso que lo que est escrito como propsito del proyecto se
pueda considerar como un beneficio nicamente, el evaluador - trabajando en consenso
con las partes interesadas - puede ajustar el propsito del proyecto examinando los
materiales relacionados o entrevistando a aquellos interesados para descubrir cules son
los efectos que se esperan originalmente. Con base en los resultados del monitoreo, el
evaluador tambin puede ajustar los indicadores de manera ms adecuada.
La tarea de ajustar el marco lgico no significa que el evaluador puede formular un
marco lgico supuesto ni establecer los valores objetivo para poder evaluarlos
fcilmente. El objetivo de la evaluacin es el contenido planeado y los resultados del
proyecto. Por lo tanto, la intencin de revisar el marco lgico al momento de planear la
evaluacin es ajustar su contenido de acuerdo con lo que est sucediendo realmente en
el sitio.
Generalmente es difcil construir relaciones causales en el marco lgico cuando el
contenido planeado o los objetivos no son claros incluso despus de haber revisado otra
informacin. Como resultado, tal vez no podamos evaluar el proyecto en un sentido real.2
En ese caso, podemos formular la pregunta de evaluacin sobre el propsito supuesto
del proyecto y, una vez que se identifica el propsito, medir el grado de realizacin.
En caso de la evaluacin ex-ante, sus resultados se reflejan en la formacin y/o
revisin del marco lgico y en el establecimiento de una base para un seguimiento fluido
y las evaluaciones posteriores.
La figura 2-1-5 muestra los pasos para la revisin del marco lgico al momento de la
planeacin de la evaluacin.
Sin embargo, en la JICA no ocurrira ese caso ya que actualmente se realiza la evaluacin ex-ante. En
caso que llegara a suceder en la evaluacin intermedia o en la final, sera una cuestin de la calidad de
la evaluacin ex-ante en s o del seguimiento.
47
No
* <Ejemplo>
Cuando el propsito del proyecto no es claro,
existen varias posibles medidas que se
pueden adoptar, como se muestra a
continuacin:
est estructurado
lgicamente?
El contenido est especificado
No
Se necesitan
algunas ideas
cuando se
realizan los
planes de
trabajo de
evaluacin*
El marco lgico se
puede utilizar para
realizar los planes
de trabajo de
evaluacin
48
49
z Confiabilidad: Si los datos recopilados son confiables. Los datos pueden ser ms
confiables si se pueden obtener los mismos resultados en cada medicin. La fuente
de informacin tambin debe ser confiable y es necesario eliminar hasta donde sea
posible las parcialidades de un encuestador.
ii) Valores Objetivo
Los valores objetivo brindan la base para juzgar los resultados y, por tanto, son una parte
muy importante del marco lgico. Es indispensable que las partes interesadas lleguen a
un acuerdo sobre los valores objetivo durante la fase de planeacin del proyecto. Si
resulta que no se establece una meta clara en la planeacin del proyecto, el evaluador y
dems partes interesadas tendrn juntas para decidir cul ser la base de juicio utilizando
los criterios o datos estadsticos relacionados. (Consulte el cuadro 2)
50
51
El sistema de
La organizacin administrativa
Se construye una
suministro de agua
planta de purifica-
Marco lgico
relativo al
proyecto de
mejoramiento de la
construccin de la
administracin del
planta de
medio ambiente
purificacin de agua
La gente adquiere
conocimientos y
La basura se
conceptos de
elimina
higiene.
adecuada mente.
Proyecto
de
Proyecto de
educacin
eliminacin
de higiene
de basura
52
Figura 2-1-7 Uso del Marco Lgico para Hacer los planes de Trabajo de
la Evaluacin
Contenido del marco lgico
Se puede
utilizar para
desarrollar
Preguntas de evaluacin
Suposiciones
I
Relaciones Causales
Bases de juicio
Indicadores
(Valores Objetivo)
Datos Necesarios
Medios de
Verificacin
Fuentes de informacin
y mtodos de
recopilacin de datos
53
Los
54
55
Consejos!
- Primero, determinar lo que necesitamos conocer en la evaluacin (preguntas de la
evaluacin). Los Cinco Criterios de Evaluacin nos ayudarn a formular las preguntas
de la evaluacin tan especficas como sea posible.
Por ltimo, reunir todos los elementos de planeacin en una Tabla de Evaluacin, una
herramienta para desarrollar planes de trabajo de evaluacin. Es necesario aplicar la
Tabla de Evaluacin flexiblemente para satisfacer los diferentes propsitos de cada
estudio de evaluacin.
56
Planeacin
de la
Evaluacin
evaluacin
Implementacin
(5) Anlisis e interpretacin de datos
Dar a
conocer los
resultados
Retroalimentacin
57
Qu se debe conocer a
travs de la evaluacin
58
Preguntas
principales
Preguntas
secundarias
Bases de
juicio
Datos
necesarios
Fuentes
de
Informacin
Mtodos
de
Recopilacin de
Datos
Pertinencia
Efectividad
Eficiencia
Impacto
Sustentabilidad
Otros
59
ii) Conexin entre las Preguntas de Evaluacin y los Cinco Criterios de Evaluacin
Como se explic en la seccin anterior, la JICA adopta los Cinco Criterios de Evaluacin
de la DAC (es decir, pertinencia, efectividad, eficiencia, impacto y sustentabilidad) para
emitir un juicio de valor sobre los resultados del proyecto. Se pueden desarrollar las
preguntas de evaluacin de acuerdo con estos cinco criterios. Por ejemplo, en caso de
una evaluacin final del Proyecto de Capacitacin de Maestros de Matemticas y
Ciencias, las preguntas de evaluacin para determinar la efectividad del proyecto
podran ser: Hubo alguna mejora en los mtodos de enseanza de los maestros como
consecuencia del proyecto? o Ha habido algn cambio en las actitudes de los
maestros? Preguntas ms especficas podran ser: Cmo evalan los estudiantes los
cambios en las actitudes de los maestros? y El nivel de rendimiento de los maestros
satisfizo los valores objetivos (nicamente si el sistema para evaluar los mtodos de
enseanza se introdujo en el proyecto como un sistema de seguimiento)? Mientras ms
60
automticamente con base en los cinco criterios, sino desarrollar las preguntas
principales que proporcionarn respuestas tiles para mejorar el proyecto. Por lo tanto,
es posible que el nfasis entre los criterios sea diferente. En el caso de una evaluacin
interna con el propsito de mejorar los proyectos, los resultados sern irrelevantes a
menos que los intereses principales del personal de la JICA y de otras partes interesadas
se reflejen en las preguntas de evaluacin. Sus preocupaciones e intereses son el punto
de partida de la evaluacin. En ese proceso, podemos establecer qu preguntas crticas
se deben atender primero. Por lo general, el presupuesto y perodo de una evaluacin es
limitado y con frecuencia es difcil responder todas las preguntas. El personal de la JICA
debe discutir de manera extensa con las otras partes interesadas qu es lo que se debe
investigar exhaustivamente y luego seleccionar las preguntas de evaluacin importantes.
A continuacin se explican las relaciones entre los Cinco Criterios de Evaluacin y
las preguntas de evaluacin.
61
Pertinencia
Sustentabilidad
Cinco Criterios de
Evaluacin
Eficiencia
Efectividad
Impacto
ii
iii
iv
62
participantes
estn
satisfechos
con
el
buena
evaluacin
sobre
su
trabajo
cuando
63
64
Examinar la
justificacin o
necesidad de
implementar un
proyecto
Efectividad
Examinar los efectos
de un proyecto
Eficiencia
Examinar la
eficiencia de un
proyecto
Impacto
Para examinar los
efectos del proyecto
incluyendo los
efectos de difusin a
largo plazo
z
z
z
z
65
Sustentabilidad
Para examinar la
sustentabilidad
despus de
concluida la
cooperacin de la
JICA
66
Efectividad Sustentabilidad
los Productos)
Productos
Actividades
Eficiencia
(Examen del
proceso de
implementacin)
Insumos
(nota)
Esta figura muestra principalmente la relacin entre los Cinco Puntos de Evaluacin y el
Marco Lgico. El marco lgico es nicamente una de las fuentes de informacin en una
evaluacin y uno necesita analizar tambin otra informacin. Por ejemplo:
para la pertinencia, tambin se necesita informacin tal como los planes de
desarrollo de un pas socio, los antecedentes del proyecto, las necesidades del
beneficiario, las estrategias del proyecto y la formulacin de planes.
es necesario analizar la eficiencia desde tres puntos de vista: 1) productividad; 2)
costo-beneficio y 3) costo-efectividad;
para el impacto, no slo se describe la meta general como un efecto esperado en el
marco lgico, sino tambin es necesario investigar las influencias inesperadas
positivas y negativas; tambin se examina la pertinencia de las estrategias en el marco
67
de trabajo de un programa;
para la sustentabilidad, se deben formular varias preguntas como se describe en la
tabla 2-2-1; y
para la efectividad y el impacto, cuando se examinan las relaciones causales entre
la implementacin del proyecto y los efectos es necesario incluir aquellos aspectos
tales como las condiciones internas, el proceso de implementacin del proyecto y las
condiciones externas inesperadas.
68
Datos
necesarios
Fuente
de
Informacin
Mtodos
de
Recopilacin de
Datos
Efectividad
Impacto
Preguntas de Evaluacin
Preguntas principales
Preguntas secundarias
Mejoraron los mtodos de enseanza de
los maestros?*
La calidad de la educacin
Mejor la actuacin de los maestros en
en la escuela modelo mejor
clase?**
gracias al proyecto?
Mejor la comprensin de los maestros
acerca del contenido de los temas?***
Los maestros capacitados
participan continuamente en
actividades de
educacin?****
Mejor el promedio general en la prueba
Mejoraron las habilidades
anual a nivel nacional?
de aprendizaje de los
Los estudiantes aumentaron su grado de
alumnos gracias al proyecto?
satisfaccin con las clases?
Nota: No tiene ningn sentido establecer preguntas de evaluacin a menos que se puedan
recopilar los datos necesarios. Se supone que se deben recopilar los siguientes datos para las
preguntas arriba mencionadas.
* Comparacin con los datos obtenidos a partir del cuestionario de la encuesta que
supuestamente se realiz despus del proyecto.
** El uso de los datos obtenidos a partir de las observaciones directas concuerda con las
listas de verificacin de las actividades de supervisin
*** Medida mediante las calificaciones de la prueba.
**** Medicin de la proporcin de maestros que trabaja continuamente en la misma escuela
al momento de la evaluacin.
69
columna de los indicadores se puede utilizar como dichos criterios. En caso que no se
hayan especificado los valores objeto, un evaluador necesita establecer los criterios para
determinar tanto el nivel de logro y contra qu se deber comparar dicho logro. Por
ejemplo, para evaluar un nivel de seguridad del agua, uno puede aplicar los criterios de
calidad del agua que estableci la OMS.
Refirase a las necesidades del grupo objetivo: para establecer valores objetivo con base en la
norma que espera el grupo objetivo.
Refirase a la media de la regin completa a la que pertenece el rea objetivo: para establecer
valores objetivo refirindose a la media de la regin completa a la que pertenece el rea objetivo (por
ejemplo, pas, perfectura).
Refirase a los casos exitosos de proyectos similares: para aprender de las experiencias en los
casos exitosos de proyectos similares realizados bajo condiciones anlogas. Esto se basa en la idea
que el proyecto objetivo debe alcanzar el mismo xito que esos casos.
Refirase a los valores objetivo establecidos por las agencias especializadas: para utilizar los
valores estndar establecidos por las agencias especializadas - por ejemplo, los criterios de calidad
del agua de la OMS.
70
En
otras palabras, no es posible medir los efectos de un proyecto con slo observar los
cambios de los beneficiarios objetivo.
71
manera de examinar las relaciones causales es medir los datos regularmente y observar
la transicin y su tendencia en series de tiempo.
particulares en la JICA.
72
Datos
necesarios
Fuente
de
Informacin
Mtodos
de
Recopilacin de
Datos
Efectividad
Impacto
Preguntas de Evaluacin
Temas principales
Mejoraron los
mtodos de
enseanza de los
La calidad de la
maestros?
educacin en la
escuela
modelo
Mejor la
mejor gracias al
comprensin de los
proyecto?
maestros acerca del
contenido de los
temas?
Mejoraron las
habilidades de
aprendizaje de los
alumnos gracias al
proyecto?
Temas menores
Mejor el promedio
general en la prueba
anual a nivel
nacional?
Los estudiantes
(Datos Cualitativos)
aumentaron su grado
de satisfaccin con
las clases?
73
74
i) Datos Cuantitativos
Los datos cuantitativos son aquellos expresados en valores numricos (por ejemplo, el
volumen de la cosecha de productos agrcolas, la tasa de alfabetizacin, la tasa de
mortalidad infantil, el rea de tierra de riego, la cantidad de instalaciones construidas y el
promedio de calificacin de una prueba). Los datos cuantitativos se utilizan ms para
evaluar los resultados de un proyecto o el grado de logro en valores numricos: es decir,
calcular el ingreso promedio de cierto grupo mediante el anlisis estadstico, y ver la
correlacin entre los antecedentes acadmicos y el ingreso. Los datos cuantitativos
tambin son adecuados para analizar la situacin de un grupo relativamente grande
realizando encuestas de muestreo.
Es posible cuantificar los aspectos cualitativos - que no son tan fciles de medir
en valores numricos - mediante una encuesta por cuestionario de opciones mltiples o a
travs de la observacin con una lista de verificacin. Por ejemplo, para investigar el
grado de satisfaccin de la gente, un evaluador puede calcular el porcentaje de gente
satisfecha preparando cinco opciones mltiples: 1) completamente satisfecho; 2)
moderadamente satisfecho; 3) ni satisfecho ni descontento; 4) un poco descontento; y 5)
completamente descontento. Uno puede entonces calcular el valor medio del grado de
satisfaccin si codifica esas opciones con nmeros del cinco al uno respectivamente.
Cuando se miden cambios en la actitud o percepcin de la gente, es posible cuantificar
los cambios definiendo la actitud o la percepcin en trminos concretos. Por ejemplo,
para poder analizar cmo cambiaron las actitudes de los maestros y los mtodos de
enseanza despus de recibir la capacitacin, se pueden definir dichos cambios como
75
"adoptando un mtodo participativo en clase", "la actitud hacia los estudiantes que no
pueden ir a la par con el avance de la clase, la manera de ensear con herramientas
experimentales limitadas, o la forma de estimular la creatividad de los alumnos. Esto se
puede medir a travs de la observacin de un tercero a mediante una encuesta por
cuestionario para los maestros.
Debido a que los datos cuantitativos se recopilan de manera sistemtica y
uniforme, tambin pueden ser ms confiables y fciles de analizar. No obstante, no se
puede obtener fcilmente informacin de antecedentes tales como la razn por la cual se
observa un fenmeno y cmo se adquiere el status quo.
76
El nmero de participantes en la
capacitacin
El nmero de maestros capacitados
Las calificaciones de los estudiantes
en la prueba
El ndice para medir la calidad de los
mtodos de enseanza*
Cuando la gente de la
77
78
muestreo es menor del 10 por ciento, y por ello, se prefiere que el nmero de muestreo sea
de 100 o ms. Bsicamente hay dos tipos de muestreo: 1) muestreo al azar; y 2) muestreo
de no probabilidad.
79
identificar otros datos que pueden estar relacionados con los factores e incidentes que
seal la encuesta anterior. Dicho proceso de repeticin se puede terminar cuando ya no
se espera ningn hallazgo nuevo.
80
Tabla 2-2-3
Encuesta por
Cuestionario
Preguntas
Pregunestructutas
radas
directas
Datos
Cuantitativos
Datos
Cualitativos
Observacin
Encuesta
por
Entrevista
Discusin del
Grupo de
Control
?*
Observacin
Usando la
Lista de
Verificacin
Visitas al
sitio
* Podemos cuantificar los resultados hasta cierto punto cuando la entrevista est
estructurada.
81
z La
credibilidad
de
la
informacin y datos estn en
tela de juicio.
z Tal vez no se obtengan los
datos necesarios.
z Las
z
3. Encuesta por Cuestionario z Es posible obtener al
mismo
tiempo
(Encuesta Enquete)
informacin sobre un
tema a partir de
Hacer las mismas preguntas
diversos objetivos.
a todos los objetivos medianz Las respuestas de
te un cuestionario y analizar
los encuestados se
los datos obtenidos.
pueden
comparar
Hay dos tipos de cuestionafcilmente.
rios: 1) el cuestionario autoaplicado que los encuestados z Es relativamente fcil
analizar
las
llenan directamente; y 2) el
respuestas
de
las
cuestionario donde un enpreguntas
con
cuestador le hace preguntas
respuesta
a los encuestados y toma
obligatorias ya que
notas de sus respuestas (no
se
pueden
se autoaplica).
cuantificar.
z
z
habilidades
y
parcialidades
de
los
encuestadores influyen en los
resultados.
Se
debe
de
asegurar
objetivamente combinndolo
con otros
mtodos
de
encuesta.
Para obtener los datos
necesarios se requiere de
habilidades para desarrollar
un cuestionario adecuado.
Tal vez no se cubra toda la
informacin importante si la
poblacin de la encuesta es
de tamao limitado.
Las tasas de respuesta no
son predecibles.
No hay oportunidad para que
los encuestadores aclaren las
intenciones de las preguntas
ya que no hay ocasin para
una conversacin directa.
(Consejos)
Formular
preguntas
con
palabras
y
expresiones
sencillas
para
que
los
encuestados
puedan
comprender las intenciones
de las mismas.
82
z Es posible tratar de
z Requiere tiempo.
z Las
habilidades
del
encuestador influyen sobre
los resultados.
z La parcialidad de un individuo
puede influir sobre los
resultados.
z En muchos casos, no es
posible cuantificar los datos y,
por tanto, generalizar los
resultados.
Hay varios tipos de entrevista, dependiendo del objetivo entrevista individual, de gruz
po, de informante clave, etc.
Entrevista semi-estructurada:
Se preparan las preguntas
principales.
Se
formulan
preguntas adicionales durante
la entrevista cuando es
necesario.
Entrevista
Sin Estructura:
nicamente se aclara la
intencin de la entrevista. Se
hacen preguntas libres a cada
encuestado.
83
de z Es
relativamente
fcil llevarla a cabo.
z Se
obtiene
Un grupo de alrededor de
informacin
sobre
10 personas con los mismos
temas
especficos
antecedentes discuten sobre
desde varios puntos
temas
(o
preguntas)
de vista a partir de la
especficas. Se puede obtener
interaccin de los
su percepcin hacia los temas
participantes.
o
ideas
observando
la z Es
muy
fcil
discusin.
escuchar
las
objeciones.
5. Discusin
Control
del
Grupo
A continuacin se
describen algunos consejos sobre cmo preparar los cuestionarios y las preguntas de
acuerdo con los diferentes mtodos de recopilacin de datos.
84
Recopilacin
de
Datos
Anlisis),
Ed.
NPO
Corporation
Ayus,
85
general a partir de una encuesta por cuestionario. Tambin es posible realizar una
encuesta utilizando mtodos de recopilacin de datos cuantitativos y cualitativos. Es
importante considerar la combinacin de varios mtodos para reducir las parcialidades de
los encuestadores y los encuestados.
z Realice una entrevista de grupo con varios informantes utilizando las mismas
preguntas.
Es posible conocer cmo perciben las partes interesadas un fenmeno especfico.
Los datos podran ser ms confiables.
86
87
anlisis de datos para que puedan planear estudios de evaluacin y crear los Trminos
de Referencia (TORs) para quienes los consulten.
diferentes caractersticas de los mtodos de anlisis de datos, les ayudar a decidir los
planes de trabajo de evaluacin adecuados. Hay dos tipos de anlisis de datos: 1)
anlisis cuantitativo; y 2) anlisis cualitativo - exactamente igual que los tipos de datos.
Se deben utilizar de manera complementaria.
El anlisis cuantitativo demuestra el grado de logro o relaciones causales mediante
datos cuantitativos con bases estadsticas. Intenta presentar los resultados de la
evaluacin tan cientficamente como sea posible.
Por otro lado, el anlisis cualitativo utiliza la informacin cualitativa obtenida de la
revisin de literatura, entrevistas o discusiones del grupo de control, etc. El conjunto de
herramientas analticas no se prepara con anticipacin, y en el proceso del anlisis de
datos es posible construir a partir de la deduccin el significado de los datos, hechos
nuevos o las relaciones entre los factores.
Las parcialidades de los encuestados y los analistas pueden influenciar los resultados
del anlisis cualitativo. Para poder asegurar la objetividad de los resultados, es necesario
incorporar medidas tales como que un tercero realice el anlisis o combinar los mtodos
de recopilacin de datos. Uno de los pros del anlisis cualitativo es su habilidad para
obtener informacin detallada sobre poblaciones objetivo locales y cambios en el
comportamiento de la gente. Los resultados del anlisis cualitativo se pueden utilizar
como evidencia de soporte para los resultados del anlisis cuantitativo, y con ello ayudar
a identificar los diversos factores que influyen en los resultados del proyecto.
88
89
90
Lo importante es que se
Preguntas
secundarias
Bases
juicio
Datos
de
necesarios
Fuentes
de
Informacin
Mtodos
de
Recopilacin
de
Datos
Pertinencia
Efectividad
Eficiencia
Impacto
Sustentabilidad
Otros
91
92
Consejos!
- La evaluacin no termina con la recopilacin y anlisis de datos.
Tambin es muy
93
1. Interpretacin de Datos
La evaluacin no termina con la recopilacin y anlisis de datos para determinar el valor
medio o el grado de satisfaccin Con base en esos resultados de anlisis, es necesario
adoptar algunos juicios de valor de acuerdo con los criterios de evaluacin. Al mismo
tiempo, para poder hacer recomendaciones y lecciones aprendidas tiles, es necesario
analizar a fondo los factores influyentes que afectaron los resultados.
Esta tarea se
conoce como interpretacin. Como hemos visto hasta ahora, el estudio de evaluacin
sigue el proceso que empieza con la recopilacin de datos pasa por el anlisis de
datos y llega hasta la interpretacin de los resultados.
El proceso de interpretacin tiene dos pasos: 1) adoptar juicios de valor sobre un
proyecto de acuerdo con los Cinco Criterios de Evaluacin; y 2) llegar a una conclusin
con base en dichos juicios.
94
(2) Conclusin
El siguiente paso es llegar a una conclusin para cada uno de los cinco criterios con base
en los resultados de la interpretacin. En una evaluacin que utiliza los cinco criterios, el
evaluador percibe un proyecto desde el punto de vista de cada criterio individual. No
obstante, para llegar a una conclusin, el evaluador debe emitir un juicio de valor por
cada propsito de la evaluacin desde un punto de vista integral, tomando en
consideracin todos los criterios. Por ejemplo, en una evaluacin ex-ante, un equipo
encargado de la evaluacin decide si es vlido o no realizar un proyecto y si el contenido
de los planes es adecuado o no. En caso de una evaluacin final, un equipo juzga si un
proyecto tiene xito y si se debe concluir la asistencia. El equipo tambin debe brindar
evidencia para el juicio a partir de los resultados.
Cuando se llega a una conclusin, se puede aplicar el siguiente enfoque para volver a
examinar un proyecto: 1) las relaciones causales supuestas entre la implementacin del
proyecto y los efectos fueron adecuadas o no; y 2) el proceso de implementacin fue el
adecuado o no. Por ejemplo, si la efectividad es baja a pesar de que la eficiencia (la
relacin entre los insumos y los productos) es alta en un proyecto, pueden existir algunos
problemas en el proceso de planeacin que especificaba las relaciones causales que
produciran los efectos esperados (o los planes originales).
O, en caso que no se
produzcan los efectos aunque se considere adecuada la estructura del proyecto (las
95
formular
especficamente.
recomendaciones
proponer
las
lecciones
aprendidas
ms
96
consejos sobre un proyecto objetivo para la JICA o para aquellos interesados en las
agencias de implementacin.
Temas a examinar
z Es necesario hacer las recomendaciones/lecciones aprendidas con base en la
informacin obtenida a travs del proceso de anlisis e interpretacin de datos. El
contenido debe satisfacer el propsito de la evaluacin.
z Las recomendaciones/lecciones aprendidas deben estar dirigidas a los usuarios
potenciales de los resultados de la evaluacin.
z Evite recomendaciones/lecciones aprendidas vagas y poco prcticas.
z Las recomendaciones deben ser especficas y estar clasificadas por prioridades con
un marco de tiempo determinado (por ejemplo, a corto o largo plazo) hasta donde
sea posible para que las siguientes medidas se puedan adoptar fcilmente.
zLas lecciones deben ser generalizadas y estar conceptualizadas para que se puedan
aplicar ampliamente.
97
Tabla 2-3-1
Flujo de Interpretacin de Datos y las Recomendaciones/Lecciones
Aprendidas
z Valor numrico de los datos segn el anlisis cuantitativo
z Temas e incidentes obtenidos a travs del anlisis
cualitativo
Anlisis de Datos
Resultados
de
Evaluacin Mediante
Cinco
Criterios
Evaluacin
la
los
de
9
9
9
98
99
100
4-2 Conclusin
- Examine los factores que dificultan o contribuyen y emita juicios sobre la
evaluacin de resultados a partir de un punto de vista amplio
- Resuma los temas ms notables cuando sea necesario
Captulo 5 Recomendaciones y Lecciones Aprendidas
5-1 Recomendaciones
- Describa las medidas especficas, sugerencias y consejos relativos a un
proyecto objetivo o a un programa de cooperacin relacionado.
- Describa las recomendaciones de cada usuario potencial, en orden de
prioridad, y de ser posible, en un marco de tiempo.
5-2 Lecciones Aprendidas
- Describa informacin til, obtenida a partir de los proyectos objetivo, para
determinar proyectos y formular proyectos similares o la implementacin y
la gestin de otros proyectos vigentes.
- Describa informacin til para formular un programa de cooperacin en el
rea relacionada.
Apndice:
1.
2.
Entrevistados Principales
3.
Minutas
4.
Tabla de Evaluacin
5.
6.
7.
8.
101
Perodo
Cooperacin
(R/D):
de (Extensin):
(F/U) :
Cooperacin
Relacionada:
1 Antecedentes del Proyecto
(2) Efectividad
(3) Eficiencia
(4) Impacto
(5) Sustentabilidad
102
103
104
Parte III
Gestin de la Evaluacin
del Proyecto
105
Consejos!
-
106
107
departamento operativo utiliza este proceso para promover el consenso dentro del equipo
de evaluacin.
La
Preparacin de informes
108
de trabajo de la evaluacin)
Estudio de la composicin del equipo de evaluacin
Preparacin de la publicidad de un contrato
109
enfoques desde el punto de vista de quin haya pedido la evaluacin. En el caso de las
partes contratadas, el TOR aclara el alcance de su autoridad y responsabilidad.
El
Las preguntas
110
Propsito de la evaluacin
Habilidades que necesita cada miembro del equipo (por ejemplo, conocimiento
necesario de un experto sobre la evaluacin arriba mencionada, capacidad analtica,
experiencia, habilidades de lenguaje, etc.; si hay requisitos deseables, se deben
enumerar junto con los requisitos mnimos)
6. Productos esperados
-
Otros materiales
7. Presupuesto
En caso de las
111
planes de proyecto, hay una probabilidad alta de que las preguntas de evaluacin se
concentren en el contenido del plan del proyecto, su pertinencia, su pertinencia ante otros
programas y su eficiencia. Despus de considerar preguntas que sern la base de la
evaluacin, es posible pensar en preguntas an ms especficas desglosando estas
preguntas; sin embargo, este paso se puede dejar pendiente hasta la seleccin de los
miembros del equipo. Como la JICA ha generado normas de evaluacin (los Cinco
Criterios de Evaluacin), es posible tomar en consideracin preguntas de evaluacin
especficas utilizando estas normas como referencia. (Ver 2-2-1.)
Como se explic en el
Si la evaluacin se va a centrar en la
Incluso para las evaluaciones internas, es necesaria la perspectiva de un tercero para mantener la
objetividad. Por ello, las terceras partes que no estn involucradas en la implementacin del proyecto se
pueden emplear como lderes del equipo o miembros.
112
Como el consultor local conoce la situacin local, es posible que incluya la perspectiva
local no slo en la implementacin de la evaluacin, sino tambin en el anlisis de
datos.
El consultor local domina el idioma local.
Es ms fcil obtener la cooperacin de la gente objetivo de la evaluacin.
Se puede emplear al consultor local de tal manera que satisfaga las condiciones
locales de muestreo/recopilacin de encuestas por cuestionario, etc.
113
114
1. Consultor
que se va a
contratar
2. Perodo
programado
de
operaciones
3. Vacunas
necesarias
4. Propuesta
bsica
5. Puntos a
recordar
cuando se
hagan las
descripciones
Puntos de
responsabilidad,
aos de
experiencia
(despus de
haberse
graduado de la
universidad)
Perodo
preparatorio,
perodo de
envo, perodo
de
consolidacin,
etc.
Necesarias/
innecesarias
Nmero de
copias que se
deben enviar,
perodo para
enviarlas, etc.
Idiomas, pas/
regin objetivo,
operaciones
similares
Relacin con
el contenido*
del TOR
4. Miembros
del Equipo y
Papeles
5. Calendario
de las Tareas
Principales
4. Miembros
del Equipo y
Papeles
3. Mtodos de
Evaluacin
Sugeridos/Req
ueridos
4. Miembros
del Equipo y
Papeles
1.
Antecedentes y
Propsito
2. Preguntas
6.
Condiciones
Posibilidades de
refuerzo,
condiciones de
remuneracin,
etc.
7.
Composicin
del personal
Composicin del
equipo de
evaluacin
8. Propsito
general
Antecedentes de
la evaluacin,
descripcin del
proyecto,
115
propsito de la
evaluacin, etc.
9. Responsabilidades
10. Otros
temas
Mtodo de
evaluacin,
responsabilidad
es especficas
Necesidad de
intrpretes, etc.
Principales de
la Evaluacin
3. Mtodos de
Evaluacin
Sugeridos/Req
ueridos
116
(Consulte el
Captulo 2, Parte II, para ver la metodologa bsica de cada punto dentro de la Tabla de
Evaluacin.) Como el departamento operativo tiene mayor acceso a la informacin del
proyecto necesaria para el diseo de evaluacin, el departamento debe gestionar el
proceso de formulacin del diseo de evaluacin al tiempo que comparte la informacin
arriba mencionada con el equipo.
El departamento operativo proporcionar la informacin necesaria para preparar la
Tabla de Evaluacin al tiempo que presta atencin a las siguientes cuestiones para
asegurar la calidad de la evaluacin.
117
118
necesario
explicar
las
perspectivas
para
confirmar
las
condiciones
de
Si la evaluacin cuenta con un elemento de participacin fuerte, es conveniente llevar a cabo talleres
para que el personal interesado pueda participar en la labor de diseo de la evaluacin. Consulte el
Anexo II para obtener informacin sobre la evaluacin participativa.
119
Los datos recopilados y los resultados del anlisis se mencionan como la base de las
recomendaciones/lecciones aprendidas?
120
121
Documento de consenso
Introduccin
-Objetivo del Estudio de Evaluacin
-Miembros del Equipo de Evaluacin
-Calendario del Estudio
2. Metodologa de la Evaluacin
-Preguntas e Indicadores de la Evaluacin
-Mtodo de Recopilacin y Anlisis de Datos
-Limitaciones del Mtodo
4. Resultados de la Evaluacin
-Pertinencia
-Efectividad
-Eficiencia
-Impacto
-Sustentabilidad
5. Conclusin
122
actuar como miembro del equipo para escribir el informe, sin embargo, para poder
mantener la calidad del informe ser importante que el departamento verifique si el
informe fue escrito con claridad o no. Especficamente se debe poner atencin en los
siguientes puntos (consulte la Tabla 2-3-2 sobre el formato del informe).
Se especifica claramente que las bases de los juicios se derivan de los resultados de
la evaluacin?
123
124
125
SeguimienNota 2
Evaluacin
Evaluacin
Evaluacin
Intermedia
Final
Ex-post
Ex-ante
to
Nota 1
Confirmacin
de los
resultados
Comprensin
del proceso
de implementacin
<Cinco Criterios de Evaluacin>
Pertinencia
Eficiencia
Impacto
Efectividad
Sustentabilidad
Nota 1: En caso de una evaluacin ex-ante, esto significa realizar un estudio de base o
establecer indicadores.
Nota 2: Por lo general, un examen con base en los Cinco Criterios de Evaluacin est
fuera del alcance del seguimiento, pero para su operacin y gestin, es
importante tener siempre en mente los puntos de vista de estos Cinco
Criterios de Evaluacin.
126
Flujo de la
Evaluacin
Estudio de base
Prediccin sobre el proceso
de implementacin
Juicio de valor con base
en los Cinco Criterios de
Evaluacin/prediccin
del efecto producido y
factores que dificultan
Comprensin de la
situacin real del
proyecto
z
z
z
Resultados
Proceso
de
Implementacin
Relaciones
causales
Cinco Criterios de
Evaluacin
Confirmacin del
marco lgico
Confirmacin de
los resultados
Confirmacin del proceso
de implementacin
Juicio de valor con base en los
Cinco Criterios de
Evaluacin/prediccin del
efecto producidor y factores
que dificultan
Conclusin
<Juicio general >
proyecto*
Presentacin de
Formulacin de la
los Resultados
Creacin de la tabla de
resumen de los
resultados de la
evaluacin y el informe
de la evaluacin
Determinacin de la
necesidad/
pertinencia del
proyecto
Formulacin de los
documentos del
Tabla de la
Recomendaciones
Evaluacin Ex-ante
Implementacin
Lecciones
Aprendidas
Retroalimentacin
Uso
127
Uso del
marco lgico
evaluacin ex-ante
Creacin del
marco lgico
128
Plan de
implementacin
Documentos del
proyecto
Tabla de Evaluacin Ex-ante
Un mtodo para los estudios de evaluacin que incluye el punto de vista de si el efecto se puede
129
Los exmenes que no evalan los logros sino la validez de un plan con base en las
predicciones y prospectos incluyen esencialmente dos aspectos. Uno es examinar si cada
componente de un proyecto es claro y razonable o no. Aqu, se consideran la idoneidad
de los indicadores y metas establecidos, qu tan apropiados son los medios para obtener
los indicadores, y otros puntos con base en su relacin con los datos de base. El examen
considera si el efecto pronosticado se puede lograr y es conveniente. Cuando se observa
su relacin con los datos de base, es importante primero utilizar un mtodo de
investigacin para obtener esos datos y luego considerar si es posible un seguimiento
posterior. Si los medios para obtener los indicadores son demasiado costosos para ser
prcticos, esos datos no se podrn utilizar. Cuando se hacen recomendaciones sobre los
indicadores adecuados, metas y los medios para obtener los indicadores a travs de este
tipo de examen, tambin se construye una base para el seguimiento y la evaluacin
despus que empez un proyecto. (Refirase a 2-1-3 (4) sobre cmo verificar los
indicadores y valores bjetivo.)
El otro aspecto es examinar si la estructura del plan del proyecto (es decir, la relacin
entre el propsito y los medios) est formulada de manera adecuada y si hay prospectos
de alcanzar el objetivo esperado. Este punto de vista cuestiona la lgica de las relaciones
causales entre los componentes individuales de un proyecto. Tambin es necesario
realizar un examen profundo sobre si las actividades planeadas para cierto objetivo son
adecuadas. Para estos exmenes, se puede utilizar el concepto de modelo lgico, una
teora de evaluacin descrita en la Parte II, Captulo 1 (refirase a 2-1-3). Cuando se trata
de examinar el plan del proyecto segn un marco lgico (el modelo de causa y efecto
donde los insumos conducen a las actividades, que a su vez conduce a los productos y
que finalmente conducen al objetivo), tal vez el producto para obtener un objetivo, o las
actividades o insumos para alcanzar un producto sean insuficientes. La valoracin
tambin puede descubrir que el enfoque que se tiene pensado para un proyecto no es
eficiente ya que, comparado con la inversin, su efecto ser pequeo. Otra posibilidad es
que suposiciones /riesgos importantes sean demasiado altos y que su influencia en el
proyecto sea demasiada. El dar retroalimentacin sobre los resultados de esos exmenes
al trabajo de planeacin para poder desarrollar un plan mejor y ms apropiado conduce a
la gestin efectiva del proyecto.
130
determinan simultneamente. Por esta razn, no se realiza ningn trabajo de acuerdo con
un diseo de evaluacin predeterminada como en los dems estudios de evaluacin. Las
tablas siguientes son listas de verificacin de los puntos de vista para una evaluacin con
base en un borrador de un plan de proyecto.
Es necesario referirse a estas listas de verificacin antes de la evaluacin en el
sitio en el estudio de evaluacin ex-ante, para poder confirmar si los temas de la encuesta
estn completos. Luego, esto se debe reflejar en el plan del estudio. Sin embargo,
observe que los siguientes slo son los principales puntos de verificacin. Se deben
agregar puntos a las encuestas que correspondan con el contendido del proyecto,
conforme sea necesario.
131
Planeacin
* Algunos puntos
son los mismos
Relaciones causales
de evaluacin que
aparecen ms
adelante. De todas
maneras se
mencionan en el
encabezado de
esta tabla como
puntos a confirmar
primero en una
estn
establecidas
adecuadamente?
La
lgica
producto
evaluacin ex-ante
Proceso de
Implemen-
tacin
(Prospecto)
garantizado?
Hay algn otro tema o factor que dificulta las actividades y stos se
debieran recordar en el proceso de implementacin del proyecto
132
Efectividad
(Prospecto)
Relaciones causales
Se alcanzar el objetivo del proyecto como efecto de ste una vez que
se complete?
Se ha planeado suficiente producto para alcanzar los objetivos del
proyecto?
Las suposiciones importantes del producto al objetivo del proyecto se
perciben correctamente? Existe una posibilidad alta que las
suposiciones importantes sean verdad?
Hay factores que obstruyen el logro del objetivo del proyecto?
133
Evaluacin
Producto
Los indicadores del producto expresan con exactitud su significado?
Relaciones causales
Se han planeado suficientes actividades para producir el producto?
Se tiene planeado un insumo de una cantidad y calidad adecuada para
realizar las actividades?
correctamente?
Existe
una
posibilidad
alta
que
las
Eficiencia
(Prospecto)
Momento oportuno
Se plane correctamente el momento del insumo?
Costo
134
Evaluacin
Meta general:
Relaciones causales
Se espera alcanzar la meta general como un efecto del proyecto?
La relacin y lgica entre la meta general y los temas de desarrollo son
claras?
Impacto
(Prospecto)
Efectos de difusin
135
Necesidad de
ajustes
136
137
Contenido
El ttulo del proyecto
Describe brevemente el contenido del
proyecto de la evaluacin ex-ante
(1)
(2)
(3)
(4)
(5)
(6)
3.
Necesidad y
posicin de
la
cooperacin
4. Marco de
Trabajo de
la
Cooperacin
Puntos a Recordar
[Temas Principales]
Descripcin general principalmente
del objetivo y productos del
proyecto
Perodo de Cooperacin
Monto total de la cooperacin
(Japn)
138
proporcionado, aceptacin de
becarios, otros
ii) Pas A (monto total: yenes)
Gastos del personal de la contraparte,
arreglos para las instalaciones y
terrenos, otros
(4) Factores externos (suposiciones
importantes que se espera que se
realicen).
5.
Resultados
de la
Evaluacin
de acuerdo
con los
Cinco
Criterios de
Evaluacin
6.
Consideracin de los
problemas
de Pobreza,
Gnero y
Medio
Ambiente
7. Lecciones
Aprendidas
de
Experiencias
Pasadas
8. Plan de
Evaluacin
para el
Futuro
i) Condiciones previas
ii) Suposiciones importantes para alcanzar
el producto
iii) Suposiciones importantes para alcanzar
el objetivo del proyecto
iv) Suposiciones importantes para alcanzar
la meta general
Resume la interpretacin de los datos, el
juicio sobre el valor del proyecto y los
factores que limitan cada uno de los
Cinco Criterios de Evaluacin.
(1)
(2)
(3)
(4)
(5)
[Temas Principales]
Pertinencia
Efectividad
Eficiencia
Impacto
Sustentabilidad
139
1.
2.
(1)
(5)
Universidad B
Ministerio de Educacin, universidad para la
Descripcin de la seriedad del
capacitacin de maestros de ciencias y
problema. ste es un punto de vista
matemticas (centro de capacitacin central
para evaluar la importancia
y centros de capacitacin del distrito)
(6)
Grupo Objetivo y Beneficiarios
Aproximadamente 3,000 maestros de la regin Occidental (cinco prefecturas)
(aproximadamente 650 escuelas secundarias)
(Mapa anexo - se omiti aqu.)
3.
(1)
(2)
140
141
Insumos
142
Pertinencia
Este proyecto se debe considerar de alta pertinencia por las siguientes razones:
z Las regiones Occidentales son el objetivo de este proyecto porque aqu se puede
observar un deterioro de la educacin en comparacin con el resto del pas. La prioridad
y necesidad son extremadamente altas, y es muy adecuado haber seleccionado esta
regin como objetivo.
z En esta rea, podemos aprovechar las experiencias de Japn en el pasado con el
proceso de desarrollo educativo, esta cooperacin es de alta pertinencia.
(2)
Efectividad
Este proyecto promete ser efectivo por las siguientes razones:
143
momento es alto.
z A partir de los puntos arriba mencionados, consideramos que se puede lograr una
instruccin de alta calidad para los maestros actualmente en servicio mediante tres
medios: la creacin de un sistema de capacitacin (concentrado en el centro de
capacitacin central), la implementacin de la capacitacin y el mejoramiento del centro
de recursos.
(3)
Eficiencia
Este proyecto promete ser eficiente por las siguientes razones:
z Los expertos de largo plazo ya estn arreglados. La mayora de los expertos de largo
plazo tienen experiencia como Voluntarios Japoneses para la Cooperacin con el
Extranjero y se puede esperar que comprendan la situacin real en el pas A y trabajar
de manera eficiente en las actividades de campo.
z Se planea utilizar las instalaciones y equipo existentes en los centros de capacitacin lo
ms que se pueda, y las copiadoras, computadoras personales y equipo para los
experimentos de ciencias y matemticas incluidos en el plan se obtendrn dentro del pas
A, para que el costo del equipo y material (
yenes) sea bajo en comparacin con
proyectos similares.
z Un impacto negativo podra ser el aumento de la brecha educativa entre las regiones
Occidentales y las otras regiones. Creemos que para asegurar que los resultados de
este proyecto se expandan a escala nacional, se requiere el apoyo continuo del
ministerio de educacin y la coordinacin con otros donantes tales como el Banco
Mundial.
(5)
Sustentabilidad
144
145
146
147
Seguimiento
Funcionamiento
Generacin del
producto
verdaderas?
Los temas a recordar sealados en la evaluacin ex-ante presentan algn
problema?
Qu factor dificulta la generacin del producto?
Las actividades se implementaron segn lo planeado?
Hay algn problema en el mtodo de transferencia de tecnologa?
Si las actividades no son como se planean, qu factor las dificulta?
Se satisficieron las condiciones previas?
Hay suficiente comunicacin dentro del proyecto?
Hay suficiente comunicacin entre la Oficina Central de la JICA, la oficina
Actividades y el
proceso de
implementacin
Insumos
Necesidad de ajustes
148
149
Verificacin
del proceso
de
implementacin
150
Efectividad
(Prospectos)
Efectividad
El producto es suficiente para alcanzar el objetivo del proyecto?
(Prospectos) - En este momento, las suposiciones importantes del producto hacia el
objetivo del proyecto siguen siendo correctas? Es probable que las
continuacin
suposiciones importantes se concreten?
Eficiencia
las metas)
Hay factores que obstruyen el logro del producto?
Relaciones causales
Las actividades fueron suficientes para producir el producto?
Los insumos fueron suficientes para producir el producto?
Las suposiciones importantes de las actividades al producto tambin
son correctas en este momento? Hay alguna influencia a partir de las
suposiciones importantes?
Momento oportuno
Se realizaron los insumos en cantidad y calidad adecuadas en el
momento adecuado para conducir las actividades segn lo planeado?
Se est implementando?
Costo
El producto justifica el costo que se va a invertir si se compara con
proyectos similares (comparacin con el costo total o los costos unitarios
de proyectos similares de la JICA y otros donantes o con proyectos
similares realizados por el pas en cuestin)? (Haba algn medio
alternativo para alcanzar el mismo producto a menor costo? Fue
posible alcanzar una mayor eficiencia por el mismo costo?)
Hay prospectos de alcanzar el objetivo del proyecto que justifique el
insumo si se compara con proyectos similares (comparacin con el
costo total o los costos unitarios de proyectos similares de la JICA y
otros donantes o con proyectos similares realizados por el pas en
cuestin?). (Hay algn medio alternativo para obtener los mismos
resultados a menor costo? Es posible alcanzar un nivel de logro ms
alto con el mismo costo?)
151
Impacto
(Prospectos)
* Si se pueden
observar impactos
negativos, examine
los factores con
base en la
situacin real y
revise el proyecto.
152
Necesidad de
ajustes
153
<Preguntas de Evaluacin>
En esta encuesta, las partes involucradas acordaron de antemano realizar la evaluacin
con atencin a los siguientes temas. Las preguntas de evaluacin reflejan la creacin de
conciencia de los problemas de las partes involucradas y es clara la intencin de mejorar
el proyecto mediante la evaluacin intermedia.
z Qu problemas hay en el proceso de implementacin del proyecto (organizacin
administrativa, cambio de la percepcin y habilidades mejoradas del personal del
proyecto, etc.)?
z Una vez terminada la cooperacin, el proyecto se puede sustentar sin ayuda del
exterior? Qu puntos se deben atender en el futuro para esto?
Con base en estas preguntas de evaluacin, la evaluacin se realiz con atencin en
la eficiencia y prospectos de sustentabilidad. Para la pertinencia se utiliz
informacin que se pudo obtener al examinar los prospectos de sustentabilidad
(pertinencia del enfoque del proyecto, condicin de la asistencia poltica en el pas B).
Los otros criterios de evaluacin (prediccin de la efectividad e impacto) tambin se
cubrieron en menor grado.
154
155
cualquier dato til obtenido a partir de otros temas, o cualquier otro dato que se pueda
utilizar.
156
Extraccin de recomendaciones
Direccin, consejo y propuestas de
mejoramiento con base principalmente en el factor limitante
Conducen a una
implementacin
efectiva del proyecto
157
antecedentes, este proyecto es de alta pertinencia. Este proyecto se dirige a todas las
escuelas de educacin temprana en el pas y se considera como el camino ms corto
para mejorar la calidad en las guarderas a nivel nacional. Por lo tanto, la pertinencia del
enfoque tambin es alta.
Con la implementacin del proyecto, se est haciendo progreso en el establecimiento
de sistemas relativos a la educacin temprana - se introdujeron exmenes de certificacin
para la educacin temprana, la introduccin de reuniones regulares del Comit para
Reforzar la Cooperacin de la Prctica Educativa y Clnica y otros, y es claro que el
impacto es grande.
Por otro lado, es necesario reforzar el seguimiento y manejo del equipo para
considerar la sustentabilidad. En las condiciones actuales, el sistema de manejo es
insuficiente y todava hay preocupaciones en relacin con la sustentabilidad del efecto
despus del final de la cooperacin.
158
159
160
Verificacin del
proceso de
implementacin
Se realiz el insumo de acuerdo con lo planeado? (en comparacin con los valores planeados)
El producto se gener segn lo planeado? (compare con las metas)
Se alcanzar el objetivo del proyecto? (compare con las metas)
Hay posibilidades de alcanzar la meta general? (compare con las metas)
Las actividades se implementaron segn lo planeado?
Hay algn problema en el mtodo de transferencia de tecnologa?
Hay algn problema en el sistema de gestin del proyecto (sistema de seguimiento, proceso de to
de decisiones, funcin de la Oficina Central y la oficina local* de la JICA?
El proyecto tiene un buen reconocimiento en la agencia de implementacin y la contraparte?
Se asign una contraparte adecuada?
El grado de participacin del grupo objetivo y las organizaciones relacionadas con el proyecto
alto? El proyecto est altamente reconocido?
Qu factores influyeron los problemas que se presentaron en el proceso de implementacin
proyecto y en el efecto producido?
* Una pregunta para verificar la idoneidad de la capacidad de gestin de la divisin de
implementacin en la JICA y la oficina local. Por ejemplo, la respuesta rpida y la asesora
del seguimiento para los ajustes durante la implementacin, comunicacin suficiente con e
sitio del proyecto, cooperacin con agencias relacionadas en Japn, etc.
Relaciones causales
El resultado fue suficiente para alcanzar el objetivo del proyecto? La lgica si el resulta
se produce, podremos alcanzar el objetivo del proyecto fue razonable?
Las suposiciones importantes del resultado hacia el objetivo del proyecto tambin s
161
Eficiencia
Impacto
(Prospecto)
posibilidades de alcanzar la meta general como un efecto del proyecto? (Es posible verific
el efecto en la evaluacin ex-post?)
Es posible que el logro de la meta general tenga un impacto sobre el plan de desarrollo d
pas socio?
Hay factores que obstruyeron el logro de la meta general?
Relaciones causales
Las metas generales y el objetivo son consistentes?
Las suposiciones importantes del objetivo del proyecto hacia la meta general tambin s
correctas en este momento? Existe una posibilidad alta que las suposiciones important
sean verdad?
Efectos de difusin
Hubo algn impacto positivo o negativo adems de la meta general?
* Influencias sobre el establecimiento de polticas y sobre la preparacin de leyes,
sistemas y normas
* Influencias sobre los aspectos sociales y culturales tales como gnero, derechos
humanos y pobreza
* Influencia sobre la proteccin ambiental
* Influencia derivada de cambios tecnolgicos
* Influencias econmicas sobre la sociedad objetivo, las partes del proyecto y los
beneficiarios
Hay impactos diferentes dependiendo de las diferencias entre gneros, grupos tnicos
clases (sobre todo impactos negativos)?
Hay alguna otra influencia negativa?
162
depende de los
proyectos. El
estudio se debe
conducir despus
de entender esto.
163
164
stos se deben utilizar tanto como sea posible. Los evaluadores tambin deben
considerar cuidadosamente cmo recopilar los datos que todava no existen y que
necesitan investigarse. El proceso de crear preguntas y hojas de cuestionarios
adecuados tambin es extremadamente importante. Es necesario considerar muchos
puntos al crear cuestionarios - hacer un borrador de las preguntas desde el punto de vista
de la persona que responde para obtener opiniones sinceras, verificaciones cruzadas
sobre una percepcin mediante mltiples preguntas, o el uso de seleccin mltiple para
entender las tendencias a partir de datos cuantificados.*
165
166
167
168
Pregunta
Pregunta
secundaria
Criterios y
Mtodos de
Juicio
Datos
Necesarios
Ubicacin y
contenido del
plan de
produccin de
vaciado en el
plan de calidad y
productividad
Otros
El efecto que
busca el
proyecto es
consistente
con la poltica
nacional del
pas D?
Pertinencia
Las
necesidades
de
cooperacin
del centro de
vaciado son
altas?
El tamao
del grupo
objetivo es
adecuado?
El proyecto
es consistente
con la poltica
de asistencia
para el
extranjero de
El proyecto
aborda los
temas
centrales de
asistencia?
z
z
La seleccin
del grupo
objetivo es
adecuada?
Resultados
del estudio
de base
Fuente de
Informacin
Percepciones del
personal del
centro
Percepciones de la
pequea y
mediana
empresa
Proporcin
del grupo
objetivo en
comparacin con
todo el pas
D
Opinin de
las partes
interesadas
reas de
atencin de la
asistencia para
Japn al pas D
Recopilacin
de Datos
Proyecto del
plan de
calidad y
productividad
Divisin a
cargo del
Ministerio
de Industria
Revisin del
material
Documentos del
proyecto
Personal del
centro
Revisin del
material
Entrevistas
Entrevistas
Entrevistas
Gestin de
las
pequeas y
medianas
empresas
Tabla de
Logros del
Proyecto
Documentos del
proyecto
Revisin del
material
Entrevistas
z
Divisin a
cargo del
Ministerio
de Industria
z
Expertos
z
Contraparte
(C/P)
z Gestin de
las
pequeas y
medianas
empresas
Poltica de
asistencia del
pas D
Grupos de
control
Revisin del
material
169
El proyecto
aborda el
plan de
implementaci
n de
programa
por pas de
la JICA?
z
Japn tiene
una ventaja
tecnolgica en
comparacin
con otros
pases?
Existencia
de
programas
en el rea
de vaciado
Ubicacin
en los
programas
Plan de
implementacin
del programa por
pas de la JICA
Revisin del
material
Experiencias en
asistencia
en el campo
de vaciado
Experiencia
s de Japn
en el rea
de vaciado
Entrevistas
Divisin de
la JICA a
cargo del
proyecto
Comisin de
apoyo
nacional
170
Pregunta
Pregunta
secundaria
Criterios y
Mtodos de
Juicio
Fuente de
Informacin
(segn la Tabla
de Resultados)
(segn la Tabla
de Resultados)
Revisin del
material
Comparacin
antes/
despus
Desarrollo del
nmero de
asistentes
Lista de
asistentes del
centro
Revisin del
material
Satisfac
cin
promedio de
cada
curso de
por lo
menos
3.5 (5
niveles)
Por lo
menos
80% de
los
interrogados
estn
satisfechos
Estndares de
calidad
del
centro
Grado de
satisfaccin
promedio
Asistentes
anteriores
Encuesta por
cuestionario
Encuesta
completa de
todas las
compaas
objetivo (n
compaas)
* 10
compaas
entre stas
Libros de
control de
calidad del
centro
Expertos
Encuesta por
cuestionario
Registros
del centro
Expertos
Revisin del
material
Registros
de
capacitacin
Registros
de servicio
C/P
Expertos
Revisin del
material
Se alcanz el
producto?
El centro
brinda
capacitacin de
alta calidad?
Efectividad
Datos
Necesarios
Est
aumentando
el nmero
de asistentes de las
compaas?
El grado de
satisfaccin
ante la
capacitacin
es alto?
El grado de
satisfaccin
de las
compaas
es alto?
El centro
brinda servicios
de soporte
tcnico de alta
calidad?
El producto
del proyecto
contribuye al
logro del
objetivo del
proyecto?
La calidad
de los
productos
que produce
el C/P es
alta?
El mejoramiento de
habilidades
de los C/Ps
contribuye a
la
efectividad?
Se utiliza el
equipo?
Se
adquieren
las
tecnologas
en las
capacitacion
es y
mediante la
capacitacin
y servicio?
Nivel de
satisfaccin
Razn para
el
descontento
z
z
Datos de
calidad
Opiniones
expertas
Proporcin
de C/Ps que
recibieron la
transferencia de
tecnologa
z Opiniones
expertas
Tipos de equipo
utilizados en los
servicios de
capacitacin y
tcnicos, as
como la
frecuencia de uso
Contenido de la
transferencia de
tecnologa y
planes de estudio
z
z
z
z
z
Recopilacin
de Datos
Entrevistas
Revisin del
material
Entrevistas
Entrevistas
Entrevistas
171
Hay otros
factores de
contribucin
adems del
proyecto?
Hay factores
que obstruyen
el logro del
objetivo del
proyecto?
La tasa de
separacin
del trabajo
en el C/P
est
influyendo?
(Suposiciones
importantes)
Hay alguna
otra
influencia?
Opinin de las
partes
interesadas
z
z
C/P
Expertos
z Administracin
superior de
las
compaas
Informe de
seguimiento
Grupos de
control
Entrevistas
Opinin de las
partes
interesadas
Grupos de
control
Informacin del
proceso de
implementacin
Informe de
seguimiento
Informacin del
proceso de
implementacin
Tasa de
separacin del
trabajo, razones
de la separacin
del trabajo
C/P
Expertos
Revisin del
material
Revisin del
material
172
Pregunta
Desde el punto
de vista del
producto
obtenido, la
calidad,
cantidad y
oportunidad del
producto
fueron
adecuadas?
Pregunta
secundaria
Criterios y
Mtodos de
Juicio
z
La cantidad
de expertos
enviados,
sus reas de
experiencia
y la
oportunidad
con que se
enviaron
fueron
adecuadas?
Los tipos,
cantidad y
oportunidad
de la
instalacin
del equipo
proporcionado fueron
adecuados?
Eficiencia
La cantidad
de becarios
aceptados,
las reas, el
contenido de
la capacitacin, el
perodo de
capacitacin
y la
oportunidad
de aceptacin de
becarios
fueron
adecuados?
La
cantidad,
colocacin y
habilidades
de los C/P
fueron
adecuadas?
Hay algn
problema en
la calidad,
tamao y
conveniencia de los
edificios e
instalaciones?
Datos
Necesarios
Comparacin
de los
resultados
reales
con el
plan
z
z
Fuente de
Informacin
Hechos del
envo real
Actitud de
trabajo de
los expertos
Opinin de
las partes
interesadas
Hechos
sobre el
equipo
proporciona
do
realmente
Uso del
equipo
Opinin de
las partes
interesadas
Hechos de
la aceptacin real de
los becarios
Opinin de
las partes
interesadas
Colocacin
de C/P
Opinin de
las partes
interesadas
Condicin
actual de
los edificios
e instalaciones
Colocacin
del equipo
Opinin de
las partes
interesadas
Tabla de
logros
Informe
trimestral
Recopilacin
de Datos
Revisin del
material
Encuesta por
cuestionario
C/P,
expertos
Entrevistas
Tabla de
logros
Equipo, uso
y tabla de
manejo
C/P,
expertos
Revisin del
material
Encuesta por
cuestionario
Tabla de la
aceptacin
real de los
becarios
Revisin del
material
Encuesta por
cuestionario
Informes de
las agencias
que
aceptaron
becarios
Entrevistas
Entrevistas
C/P,
expertos
Tabla de la
colocacin
real de C/P
C/P,
expertos
Esquema
del equipo
C/P
Expertos
Revisin del
material
Encuesta por
cuestionario
Entrevistas
Observacin
Directa
Encuesta por
Cuestionario
Entrevistas
173
El monto
de
presupuesto
del proyecto
fue
adecuado?
Costo real
que cubri
el socio
Presupuesto anual del
centro
Opinin de
las partes
interesadas
z
z
z
El
mejoramiento de
habilidades
de los C/Ps
contribuye a
la
efectividad?
Los costos
generales
invertidos
fueron
adecuados?
Los costos
fueron
adecuados en
comparacin
con proyectos
similares?
Hay algn
factor que
dificulte la
eficiencia?
El costo
unitario para
realizar una
sesin de
capacitacin
es
adecuado?
z
Comparacin
con los
costos
generales invertidos
en proyectos
similares
Comparacin
con los
costos
unitarios
de proyectos
similares
Proporcin
de C/Ps que
recibieron la
transferencia de
tecnologa
Opiniones
expertas
Costo
general
invertido
Tipo de
producto y
poblacin
beneficiada
de
proyectos
similares
Costos
unitarios de
la capacitacin
Costos
unitarios
para la
capacitacin
en proyectos similares
z
z
Opinin de
las partes
interesadas
Tabla de
costos
compartidos
reales
Tabla del
presupuesto
del centro
* C/P
(cabeza del
centro)
Expertos
Registros
del centro
Expertos
Revisin del
material
C/P (cabeza
del centro)
Entrevistas
C/P
Expertos
Informes de
evaluacin
de
proyectos
similares
Entrevistas
C/P
Expertos
Grupos de
control
Entrevistas
Revisin del
material
Entrevistas
174
Pregunta
Otros
Hay
posibilidades
de alcanzar la
meta general?
Impacto
Hay algn
otro efecto de
difusin?
Pregunta
secundaria
Criterios y
Mtodos de
Juicio
Datos
Necesarios
Mejoraron
las
habilidades
de los
ingenieros
en las
pequeas y
medianas
compaas?
Est
aumentando
el orden?
Cambios en
el volumen
de
exportacin
de las
pequeas y
medianas
compaas
de vaciado
Cambios en
la productividad promedio de las
pequeas y
medianas
compaas
de vaciado
Impacto
sobre las
polticas y
sistemas
relacionados
con las
compaas
de vaciado
Comparacin
antes/
despus
Evaluacin
tecnolgica
de las
compaas
representativas en 15
estados del
pas
Desarrollo
de los
logros de
negocios de
las
compaas
representativas en 15
estados del
pas
Desarrollo del
volumen de
exportacin
Fuente de
Informacin
z
30
compaas
representativas en 15
estados
Encuesta por
cuestionario
Material
sobre
logros de
negocios en
30
compaas
representativas
Revisin del
material
Estadsticas de
exportacin
Revisin del
material
Desarrollo de la
productividad
promedio
Estadsticas de
la industria de
vaciado
Revisin del
material
Opinin de las
partes
interesadas
Entrevistas
z
Hay alguna
otra
influencia
(positiva o
negativa)?
Recopilacin
de Datos
Papeles de la
industria de
vaciado
z
z
Opinin de las
partes
interesadas
Ministerio
de la
Industria
Personas
involucradas en las
compaas
C/P
Expertos
Diario de
vaciado
Ministerio
de la
Industria
Personas
involucradas en las
compaas
C/P
Expertos
Revisin del
material
Entrevistas
175
Hay alguna
lnea
divisoria con
respecto a
las otras
agencias de
capacitacin
relacionadas
y hay algn
efecto
sinrgico?
Cmo
evaluaron el
efecto de la
capacitacin
las personas
que la
terminaron?
z
z
El proyecto
contribuy en
gran medida al
impacto
producido?
Hay alguna
diferencia en
el resultado
del trabajo
de las
personas
que trabajan
en la misma
compaa
entre
aquellas que
recibieron la
capacitacin
y las que
no?
Comparacin
con los
trabajadores de
la misma compaa
que no
recibieron la
capacitacin
Papel de las
agencias de
capacitacin
relacionadas
Opinin de
las partes
interesadas
z
z
Trabajo
actual
Autoevaluacin
de las
personas
que terminaron la
capacitacin
con
respecto al
cambio en
su nivel de
habilidades
tcnicas
Opinin de
las partes
interesadas
Agencias
de capacitacin relacionadas
Ministerio
de la
Industria
Compaas
C/P
Expertos
Entrevistas
100
personas
que
terminaron
la capacitacin
Encuesta por
cuestionario
Personas
involucradas en las
compaas
Entrevistas
176
Pregunta
Pregunta
secundaria
Criterios
y Mtodos de
Juicio
Datos
Necesarios
z
Otros
z
La
ubicacin del
centro en la
industria de
vaciado es
clara?
La
organizacin
tiene potencial
de operacin
y de gestin?
z
z
z
Sustentabilidad
La
organizacin
tiene
potencial
para
continuar el
negocio?
La situacin
financiera es
buena?
Fuente de
Informacin
Continuidad
de apoyo de
las agencias
relacionadas
Colaboracin con las
agencias
relacionadas
Papel del
centro
Funciones
de cada
divisin
Colocacin
y estabilidad
del personal
Establecimiento de
un sistema
de
seguimiento
Opinin de
las partes
interesadas
Situacin
financiera
del centro
Opinin de
las partes
interesadas
Los
esfuerzos
para el aseguramiento
independiente
de recursos
financieros
marchan sin
problema?
Plan para el
aseguramiento independiente
de recursos
financieros
Opinin de
las partes
interesadas
Recopilacin
de Datos
Ministerio
de la
Industria
Organizaciones
industriales
Entrevistas
Reglas
operativas de la
organizacin
Tabla de
colocacin del
personal
Registros
de seguimiento
del centro
C/P
(cabeza
del
centro),
expertos
Revisin del
material
Tabla de
presupuesto,
varias
tablas
financieras
Revisin del
material
C/P,
expertos
Plan para
el aseguramiento
independiente de
recursos
financieros
C/P,
expertos
Entrevistas
Entrevistas
Revisin del
material
Entrevistas
177
Mejor la
capacidad de
entrenamiento
del C/P?
Comparacin
antes/
despus
Se
estableci la
tecnologa
transferida?
La
tecnologa
transferida se
difundir
dentro de la
agencia de
implementacin?
El equipo se
maneja y
mantiene
apropiadamente?
z
z
Resultados
de la
evaluacin
de los
expertos
Resultados
de la autoevaluacin
del C/P
Existencia
de capacitacin mutua
dentro de la
agencia de
implementacin
Opinin de
las partes
interesadas
Estado del
mantenimiento y
manejo
Opinin de
las partes
interesadas
Expertos
C/P
Entrevistas
C/P
Expertos
Entrevistas
Informes
del mantenimiento y del
manejo
C/P,
expertos
Revisin del
material
Autoevaluacin
(encuesta por
cuestionario)
Entrevistas
178
179
Verificacin
de las
relaciones
causales
(Interpretacin de la
lgica)
180
Presentacin
de bases
Presentacin
de bases
181
Anlisis de
los factores
inhibidores y
contribuyentes
z
Relaciones
entre
resultados,
proceso de
implementacin y los
Cinco
Criterios de
Evaluacin
[Conclusin]
z Los resultados de la evaluacin de
los Cinco Criterios de la Evaluacin
(u otros criterios de evaluacin) son
la base para la conclusin.
Observe los resultados de la
evaluacin en forma
interrelacionada. Despus describa
brevemente los temas que merecen
comentarios.
Presentacin
de las bases
para la
conclusin
z
La conclusin conduce a
recomendaciones y lecciones
aprendidas concretas.
182
Respuestas a
las preguntas
de evaluacin
183
184
[Efectividad]
La efectividad de este proyecto se considera alta hasta cierto punto debido a las
siguientes razones, pero las revisiones del contenido de la capacitacin son
insuficientes.
i) El nivel de logro del objetivo del proyecto se considera alto hasta cierto punto.
En las evaluaciones de los asistentes a los cursos de capacitacin, el nivel de
satisfaccin promedio con respecto al material de estudio y la sesin supera el 3.5 en
cada curso (Tabla 2 - omitida aqu). La hoja de seguimiento de tecnologa de los
expertos tambin muestra altos niveles de habilidades tcnicas de la contraparte
(consulte el anexo 2).
La cantidad de becarios enviados de las compaas aument gradualmente
durante el tercer ao del proyecto, pero disminuyo en el cuarto ao y en la primera
mitad del quinto ao (Tabla 3 - omitida aqu). En los antecedentes, la cantidad de
asistentes disminuy porque cambiaron las necesidades de la industria (consulte el
anexo 1: Resultados de entrevistas a expertos y compaas). Los expertos sealaron
que con el tamao relativamente pequeo de la industria de vaciado, los esfuerzos
correspondientes a las necesidades de las compaas - tales como la introduccin de
tecnologas nuevas y la planeacin de nuevos cursos de capacitacin - eran
insuficientes.
En cuanto al suministro de servicios tcnicos, el nivel de satisfaccin en la
encuesta de seguimiento que implement el centro de las compaas result alto,
pero los expertos sealaron que los criterios de evaluacin no eran claros, por lo que
decidimos realizar una encuesta por cuestionario y entrevistas como un equipo de
investigacin. En una encuesta por cuestionario de 50 compaas, 36 respondieron
que estaban razonablemente satisfechas con los servicios del centro de vaciado. En
las entrevistas a las compaas (10 compaas), ocho respondieron que estn
utilizando la tecnologa que adquirieron en el centro en sus propios sitios de
fabricacin y que, en general, estn satisfechos con el trabajo del centro.
ii) Suponemos que el producto contribuy en gran medida al logro del objetivo del
proyecto.
La transferencia de tecnologa a la contraparte marcha sin problemas. Sus
habilidades tcnicas son de primer nivel en el pas D, y sus habilidades se utilizan en
185
[Eficiencia]
Desde el punto de vista del producto obtenido, los insumos se
manejaron eficientemente.
i) Los expertos se enviaron adecuadamente.
El envo de expertos se realiz segn lo planeado, para que la transferencia de
tecnologa planeada se pudiera llevar a cabo (Tabla 6: Hechos sobre el envo real
de expertos - omitida aqu). En la encuesta por cuestionario con la contraparte, 10
de los 22 encuestados dijeron que desde el punto de vista del producto alcanzado,
el envo de expertos fue adecuado. Sobre todo se evalu altamente la calidad de
los expertos a corto plazo. Esto se debe, por ejemplo, a que se enviaron expertos de
una calidad adecuada en relacin con los cargos de la tecnologa que se pag a sus
patrones mismos que suspendieron su trabajo (en compaas privadas) durante ese
perodo y porque se volvieron a enviar a algunos de los expertos de corto plazo.
Cuando tambin consideramos el tiempo limitado que las contrapartes tenan para
la transferencia de tecnologa (como la mayora de las contrapartes tenan otros
trabajos al mismo tiempo), podemos suponer que el mtodo de transferencia
concentrada de tecnologa mediante expertos de corto plazo fue adecuado.
Muchas de las contrapartes (13 de 22) mencionaron que otro de los factores que
contribuyeron al logro del objetivo hasta el final del proyecto fue el papel que jugaron
los expertos de largo plazo. Los expertos de largo plazo eran expertos con amplio
conocimiento y experiencia en vaciado, as como coordinadores que conocan muy
bien las circunstancias sociales del pas D. Suponemos que los factores que
promovieron el proceso de implementacin para la cooperacin tcnica fueron el
establecimiento de la comunicacin que se bas en una comprensin de la sociedad
y tambin la asistencia tecnolgica.
ii) La obtencin del equipo se realiz adecuadamente.
El equipo se obtuvo segn lo planeado y lo estn manejando correctamente
(Tabla 7: Lista de equipo, Tabla 5 (mostrada arriba) - omitida aqu). Algunos equipos
necesitaron ms tiempo del planeado para su instalacin y no estuvieron listos a
tiempo para el trabajo de los expertos de corto plazo, as que en ciertos campos
(campo X), la transferencia de tecnologa fue imposible. Sin embargo, el efecto
sobre el proyecto como un todo fue pequeo, gracias a clases complementarias que
ofrecieron los expertos de corto plazo cuando el equipo estuvo listo despus de
haber regresado a casa.
186
iii) La colocacin de las contrapartes fue adecuada en su mayor parte, pero muchos
tenan otro trabajo al mismo tiempo.
Las contrapartes se colocaron segn lo planeado. A la fecha, slo 3 de las 25
personas dejaron su trabajo, as que la estabilidad es buena. De acuerdo con los
planes iniciales, las contrapartes se dedicaran de tiempo completo a su trabajo en
el proyecto, pero en la realidad, casi la mitad de ellos (diez personas) tenan que
hacer otro trabajo al mismo tiempo. Segn las entrevistas con las contrapartes que
tenan otros trabajos al mismo tiempo, el tiempo promedio que le dedicaban a las
actividades del proyecto era alrededor de 41% de su tiempo de trabajo total, y
muchos sealaron que era difcil preparar la capacitacin mientras hacan otro
trabajo. No obstante, el hecho de que el proyecto haya producido un efecto incluso
cuando no todas las contrapartes estaban dedicadas a l tiempo completo (consulte
la pgina de Eficiencia) tambin nos permite juzgar que la eficiencia de la
implementacin fue alta.
iv) El costo total invertido en el proyecto fue tan bajo como el costo de proyectos
similares.
Comparado con el costo total de proyectos similares (proyectos del centro de
vaciado en los pases A y B), el costo de este proyecto fue aproximadamente 20%
ms bajo. Claro que hay diferencias en la situacin financiera de los pases objetivo,
en las etapas de desarrollo y en las mismas actividades, pero cuando observamos
el desglose del costo comparativamente, vemos que existe una diferencia notable
en los gastos de personal para los expertos (Tabla 8: Comparacin del desglose de
costos - omitida aqu). Creemos que en este proyecto, la combinacin eficiente de
expertos de corto plazo provoc la reduccin de costos. El siguiente factor que
redujo el costo general es que una gran parte del equipo se obtuvo localmente
(Tabla 8, mostrada arriba).
Fue imposible hacer una comparacin del costo unitario de la capacitacin ya que
(a) fue difcil sustituir el insumo con un valor econmico numrico para cada
producto, y (b) no existen costos unitarios por capacitacin en proyectos similares
que pudieran servir como comparativo de eficiencia.
[Impacto]
Se puede reconocer el siguiente impacto de la implementacin del proyecto y la
posibilidad de alcanzar la meta general de tres a cinco aos es alta.
i) Suponemos que es muy probable que se alcance la meta general.
Un indicador de la meta general mejoramiento del poder tcnico de las compaas
es el aumento de pedidos debido al mejoramiento de capacidad tcnica. Sin
embargo, en la encuesta por cuestionario realizada con las compaas en la
evaluacin final, no pudimos determinar ese cambio. En la auto-evaluacin de las
compaas realizada por el equipo de estudio de evaluacin, 70% de 50 compaas
respondieron que sus capacidades tcnicas mejoraron en algn rea (Tabla 9 omitida aqu). Especficamente muchas compaas que recibieron servicios tcnicos
informaron casos de xito en el mejoramiento de la calidad de los productos gracias
al mejoramiento de las tecnologas X e Y. stos se pueden percibir como el
surgimiento de un impacto a partir del centro de vaciado (consulte la Tabla 10 para
ver los tipos de casos de xito que dieron a conocer las compaas - omitida aqu).
Es necesario que el ministerio de industria en cooperacin con el ministerio de
polticas de la industria y el ministerio de promocin de la inversin aborden el
problema de fondeo de cada una de las pequeas y medianas empresas, que es
una de las suposiciones importantes, pero debido a la importancia de vaciado para
la industria automotriz ya existe un sistema de asistencia y no creemos que esto se
convierta en un problema tan serio.
Con base en estos hechos, es probable que la demanda aumente dentro de tres a
cinco aos.
187
ii) En entrevistas con las partes interesadas, los siguientes puntos se sealaron
como efectos de difusin positivos por la implementacin del proyecto.
z Fue posible reforzar (impacto en la industria) la colaboracin de agencias
relacionadas (asociacin de ingenieros del pas D, organizaciones industriales).
z Para utilizar la capacidad mejorada de capacitacin por proyecto y expandir el
rea no slo a nivel nacional, se est planeando el esquema de capacitacin para
terceros pases de la JICA.
z La tecnologa X, que se introdujo en el proyecto, incluye consideraciones para el
medio ambiente, y a travs de visitas a la fundicin, aument el inters de la
industria de vaciado del pas D por el medio ambiente (impacto sobre los aspectos
ambientales).
[Sustentabilidad]
Los prospectos de la sustentabilidad del proyecto sern posibles si los recursos
financieros y el equipo se manejan ms adecuadamente.
i) Hay promesas de continuar el apoyo poltico y del sistema.
El centro de vaciado es un instituto de capacitacin vocacional especializado en
la tecnologa de vaciado. Ha brindado recursos humanos a la industria de vaciado
del pas D a razn de ms de 250 personas por ao desde 1983 y es una institucin
importante para las pequeas y medianas empresas. Como centro tcnico para el
vaciado, tambin brinda servicios a gran nmero de compaas de vaciado. Cuando
consideramos el importante papel que juegan la pequea y mediana empresa en la
industria del pas D - que consiste principalmente de la industria automotriz - el
papel del centro de vaciado ser indispensable tambin en el futuro. El ministerio de
polticas de la industria, el ministerio de promocin del medio ambiente, los institutos
de capacitacin vocacional en todo el pas, el Centro de Desarrollo de vaciado (una
organizacin de la industria) y otras agencias relacionadas anunciaron que
continuarn apoyando al centro de vaciado.
ii) El centro de vaciado adquiri capacidades organizativas y operativas, pero hay
preocupacin por la planeacin del personal y el aseguramiento de recursos
financieros.
La percepcin de todos los expertos es que las capacidades operativas y
administrativas han mejorado en gran medida en comparacin con la situacin antes
de iniciar el proyecto.
La tabla 12 muestra la situacin financiera (omitida aqu). As como se invirtieron
grandes sumas en equipo, cada ao se requerirn los gastos de procuracin de
materiales de consumo y piezas necesarias para la operacin y los gastos de
mantenimiento tales como costos de reparacin. Con el aumento de actividades
tambin aumentarn los gastos (Tabla 13 - omitida aqu), y existe la preocupacin
que en el futuro cercano los recursos financieros sean insuficientes. En estos
momentos, la proporcin de recursos financieros obtenidos independientemente en
comparacin con los gastos es de alrededor de 50%, y ser an ms necesario
aumentar los ingresos a partir de los principales recursos financieros actuales cuotas de capacitacin y cuotas de servicio tcnico (por ejemplo, revisar el
contenido de las capacitaciones y servicios tcnicos, desarrollar estrategias de
mercado para asegurar clientes, etc.).
iii) Los prospectos de que la tecnologa transferida se va a difundir y establecer
son altos.
La hoja de seguimiento de tecnologa de los expertos tambin muestra que las
contrapartes cuentan con grandes capacidades de capacitacin (consulte el anexo 2
- omitido aqu). Adems, el material de enseanza desarrollado y los productos
objetivo producidos son de alta calidad. Los factores que conducen a la expectativa
que la tecnologa se va a establecer son, por ejemplo, planes del centro de vaciado
para realizar capacitaciones cruzadas de diferentes reas y su capacidad de autodesarrollo (tal como inscripcin en el curso de maestros).
188
2. Conclusin
Este caso
llega a una
conclusin
teniendo en
mente
preguntas
de
evaluacin
de alto
nivel.
En las
recomendaciones se
incluyen
detalles ms
concretos
sobre cmo
trabajar para
asegurar
recursos
financieros.
189
[Pertinencia]
El caso aqu fue que la prioridad era alta, pero haba problemas
con algunas de las necesidades de los beneficiarios (necesidad).
La tecnologa que no est en sincrona con las necesidades puede
convertirse en un factor que obstruya la efectividad y el impacto.
El caso aqu fue que la prioridad era alta, pero el plan no era adecuado en algunos puntos como medio
para solucionar problemas. En este caso, un punto de vista importante de la evaluacin es la pregunta
sobre el tipo de influencia que puede tener la baja importancia del plan en la efectividad del proyecto.
Tambin es importante un examen sobre el proceso de implementacin, y si el seguimiento se realiz de
manera adecuada respondiendo a los cambios de la situacin o no.
190
[Efectividad]
Distrito Piloto
1.8
Distritos No-pilotos
2.3
4.3
1.7
59.0
12.0
La razn para esto es la mayor conciencia de los beneficiarios, sobre todo las
mujeres embarazadas y la madres, que es una consecuencia del mejoramiento de
capacidades del personal de atencin mdica y de una revitalizacin de actividades con
participacin ciudadana que, nuevamente, son el resultado de la introduccin de listas
de supervisin para las revisiones mdicas de bebs y nios pequeos (incluyendo el
uso de libretas de abono para maternidad), oportunidades para que mdicos,
enfermeras, parteras y dems partes interesadas discutan actividades y problemas, y el
desarrollo de una amplia variedad de material educativo.
191
[Efectividad]
192
[Eficiencia]
193
[Impacto]
1995
104
2000
82
170
106
656
(1993)
530
194
[Sustentabilidad]
Programa de Mejoramiento para el Centro Mdico y la Seguridad Ocupacional
Propsito del Proyecto: Fortalecer las funciones del Centro de Salud y la Seguridad
Ocupacional.
En cuanto al aspecto poltico, el nuevo Noveno Plan de Desarrollo Nacional incluye la
promocin eficiente de la salud y la seguridad en el sitio de trabajo, y enumera nueve
actividades relativas a la salud ocupacional y la seguridad (actividades educativas, etc.).
El personal que trabaja en el centro tiene experiencia en dar a conocer trabajos de
investigacin, anlisis cientficos y xamenes, y en seminarios de organizacin
relacionados con el rea de la salud ocupacional y la seguridad. El centro adquiri una
gran cantidad de tcnicas y un gran nmero de personal con antecedentes de
educacin de alto nivel. De lo anterior, consideramos que la sustentabilidad tecnolgica
es alta. En cuanto al aspecto organizativo, al momento de la evaluacin final se est
llevando a cabo una reestructuracin organizativa, pero tambin despus de esta
reestructuracin, el centro dice que mantendr la organizacin, actividades y personal
actuales.
Por otro lado, hay un tema importante: asegurar expertos mdicos en el rea de
salud ocupacional y seguridad de otras organizaciones cuya cooperacin es
indispensable, as como asegurar operadores de maquinaria y dems personal de
asistencia en el rea de la salud ocupacional y la seguridad. Actualmente, los
prospectos de estabilidad financiera son buenos, ya que el centro asegur recursos
financieros del presupuesto nacional y se sistematiz el aseguramiento de
presupuestos mediante la fundacin del seguro de lesiones de trabajo.
De lo anterior, creemos que existen suficientes posibilidades de que el centro podr
utilizar de manera efectiva y continua los efectos directos de este proyecto en el futuro y
que tiene una alta sustentabilidad.
196
Impacto
Sustentabilidad
(Prospectos)
* Lo que es
indispensable para
asegurar la
sustentabilidad
depende del
contenido del
proyecto. Se debe
implementar el
estudio con esto en
mente.
197
198
informacin adecuadas junto con la agencia (consulte 2-2-1 para informacin sobre los
mtodos de recopilacin, tipos de datos y caractersticas/puntos a recordar).
iv) Temas relativos a la tabla de evaluacin
Al igual que en las otras evaluaciones, es necesario resumir el mtodo de evaluacin
en una tabla de evaluacin. Las evaluaciones ex-post se realizan bajo la iniciativa de la
oficina en el extranjero, para que sea posible consultar directamente a las partes
interesadas del pas socio que participaron en el diseo de la evaluacin. En este
momento, la tabla de evaluacin tambin se puede utilizar como herramienta de
comunicacin. El proceso de compartir el diseo con las agencias socias es importante
tambin para profundizar el conocimiento comn de la evaluacin y para obtener el
compromiso de parte del socio en relacin con el estudio de evaluacin.
implementacin misma del proyecto, y estos casos brindad lecciones aprendidas valiosas
con respecto a cmo se deben formular los planes y estrategias de un proyecto.
La retroalimentacin a la JICA se utiliza principalmente para las siguientes
consideraciones.
z
199
200
Preguntas Frecuentes
relativas a la Evaluacin
de Proyectos de la JICA
201
1.2
2. Preguntas de evaluacin
2.1
2.2
No entiendo la relacin entre las preguntas de evaluacin y los Cinco Criterios de Evaluacin.
Qu se debe hacer cuando el propsito del proyecto es simplemente una nueva exposicin del
producto?
3.2
Qu se debe hacer cuando la meta general difiere del propsito del proyecto?
3.3
3.4
Cmo se evalan los proyectos que tienen planos vagos o que difieren de la PDM que se
prepar inicialmente?
4. Indicadores
4.1
Qu se debe hacer cuando no hay suficientes indicadores o no coinciden con el propsito del
proyecto?
4.2
Cmo se debe llevar a cabo la evaluacin cuando se determina que no existen valores objetivo
o son inadecuados?
4.3
4.4
5. Mtodo de evaluacin
5.1
5.2
5.3
5.4
5.5
5.6
Cuando se evala el mejoramiento de capacidad, etc., cmo se evalan los proyectos que no
tuvieron buen seguimiento hasta el momento de la evaluacin?
5.7
Cmo se evalan los proyectos que se implementan en colaboracin con otros donadores o los
proyectos del gobierno de un pas socio que la JICA asume parcialmente?
6.2
6.3
Es suficiente con slo discutir la pertinencia que coincide con el plan de desarrollo y la poltica
de asistencia?
202
6.4
Cuando se verifica la efectividad, cmo se debe considerar la relacin causal con los productos?
6.5
6.6
7.2
7.3
Cmo evito que los datos necesarios y el alcance de la encuesta ocupen proporciones enormes
cuando prepare la Tabla de Evaluacin?
7.4
7.5
8. Pas socio
8.1
8.2
Cmo debe proceder en la evaluacin si el pas socio tiene su propio mtodo de evaluacin?
9.2
Qu puntos se deben tener en mente cuando las personas a cargo verifiquen el informe?
La evaluacin ex-ante se
enfoca en la planeacin
del
no
entiendo el significado de
la
se
sta.
proyecto,
evaluacin
pero
que
proceso.
Pg. 118
No entiendo la diferencia
participativa
mtodo de evaluacin de
la JICA.
proyectos
que
participacin.
incorpora
el
concepto
de
203
del
proceso
de
implementacin,
las
evaluaciones
no
utilizan
las
valoraciones
de
necesidades,
es
2. Preguntas de Evaluacin
2.1
preguntas de evaluacin.
Pgs. 51 - 54
Se
204
No
entre
entiendo
las
la
relacin
preguntas
evaluacin
los
de
Cinco
Criterios de Evaluacin.
Pgs. 51 54
simplemente
una
nueva
Pgs. 38 - 40
Ejemplo
Propsito
del
Divulgar
la
Proyecto:
tecnologa
agricultores modelo
Productos:
1)
Se
Tecnologa
que
la
seguimiento
es
interesado.
entrevistas
con
el
personal
2) Se divulga la Tecnologa
205
Despus lleve a
personas
materiales.
interesadas
revisiones
de
3.2
hacer
Pgs. 38 - 40
Qu
se
debe
Pg. 192
proyecto?
Cmo
se
evalan
los
propsitos?
Pgs. 38 - 40
dentro de un programa.
206
Si las
los
resultados,
el
proceso
de
(los
grupos
del
proyecto
se
3.4
Cmo
se
los
tienen
inicialmente?
informacin
proyectos
evalan
que
cualitativa
obtenida
mediante
Pg. 38 - 40
las
207
4. Indicadores
4.1
Qu
se
debe
hacer
insuficientes
indicadores o no coinciden
con
el
propsito
del
proyecto?
inadecuados,
el
equipo
Pgs. 41 - 43
de
Por lo
utilizando
declaraciones:
a)
no
el
siguiente
se
pudo
tipo
realizar
de
una
con
indicadores
inadecuados,
es
se
determina
que
no
Pg. 61
son inadecuados?
4.3
adecuados?
208
Casos
donde
las
necesidades
de
los
comparndolos
contra
la
escala
Casos
en
donde,
aunque
el
nivel
de
en
la
capacitacin
estn
Es necesario considerar
cuantitativos?
Pgs. 41 - 43
Sin
5. Mtodo de evaluacin
5.1
No me queda claro qu
significa
proyecto.
la
"lgica"
del
esperaban al inicio.
Pgs. 33- 38
Es importante considerar
209
la
investigacin
se
utiliza
con
5.2
los
la
alcanzar su propsito?
resultados
de
importancia
si
stos
se
reflejan
en
Pg. 40
las
El
proyecto
est
implementando actividades
que no se mencionan en el
marco
efectos indirectos.
lgico
actividades
dichas
estn
productos.
productos?
Se
en la evaluacin.
consideran
efectos
produciendo
indirectos?
Pgs. 38 - 40
actividades
adicionales
y el propsito
210
No entiendo cul es el
La
informacin
sobre
el
implementacin
de implementacin y cmo
se utiliza en la evaluacin.
incluye
el
proceso
de
estado
de
Pgs. 46- 47
los
factores
contribuyen
en
que
un
dificultan
proyecto
(por
que
ejemplo,
proceso
de
implementacin-la
informacin
relacin
causal),
realice
entrevistas
5.5
parecen
funciones
funciones,
aumentadas,
difciles
de
medir (aumento
mejoramiento
del
de
las
conocimiento/
conocimientos/ habilidades
mejoradas
empoderamiento?
Pgs. 41 - 43
la
capacidad
para
implementar
la
para
implementar
la
capacitacin
de
sus
actividades
consecutivas,
211
la
capacitacin
adecuada
(se
En cuanto al
reconocidas)
obtenidas
para
Cuando
se
evala
el
Pgs. 62 - 63
de
la
Pgs. 77 - 78
mejoramiento
imposible
comparaciones
no
regulares.
tuvieron
seguimiento
hasta
buen
captar
los
cambios
antes/despus
mediante
mediciones
el
momento de la evaluacin?
212
implement el proyecto.
Incluso si esto no se
Cmo
se
evalan
proyectos
los
que
se
en
con
otros
implementan
colaboracin
Pgs. 43- 44
parcialmente?
la
demarcacin
responsabilidades.
compartir
las
de
papeles
metas,
es
aconsejable
tener
Pgs. 21 - 22
los
Pgs. 55- 59
Cinco
Evaluacin?
Criterios
de
perspectiva integral.
una
evaluacin
sin
Cinco
Criterios
de
213
los
Cinco
Criterios
de
Evaluacin
vara
llevar
cabo
una
encuesta
por
Es
necesario
examinar
el
caso
de
proyectos
pequeos?
6.3
desarrollo y la poltica de
asistencia?
de
Pg. 56
transferencia
de
tecnologa,
214
siempre
concientes
que
los
talleres
la
Pgs. 62 - 63
Cuando
se
verifica
Pg. 188
considerar
la
relacin
comnmente
es
una
combinacin
de
dos
En
las
comparaciones
antes/despus,
se
el impacto cuando se va a
determinar si es resultado
de la implementacin del
proyecto?
Pg. 62 - 63
215
(incluyendo
las
comparaciones
6.6
la
los
eficiencia
de
cooperacin tcnica?
la
recursos
invertidos
llegaron
de
Pg. 57
manera
se
proporcionaron
lo
ms
Dentro
de
una
escala
factible,
realice
suficiente
para
comparar
la
eficiencia
216
Por tanto,
Comparacin
de
los
costos
de
inversin
generales.
Propsito
del
proyecto/costo
de
la
inversin
Por qu es necesaria la
Tabla
Evaluacin
lgico?
de
La
Tabla
de
Evaluacin
implementar la evaluacin.
describe
Pg. 82
cmo
217
No entiendo la relacin
Pg. 49-50
entre
indicadores,
Pg. 82
la
Evaluacin
Tabla
y
el
de
marco
lgico.
valores
objetivo
etapas
para
necesarios y el alcance de
la
ocupen
encuesta
proporciones
enormes
Evaluacin?
Pg. 82
Por
218
una
Tabla de Evaluacin, no s
Incluso
si
preparo
cmo utilizarla.
Pg. 82
prepare la evaluacin.
- Cuando realice la evaluacin, utilice la tabla para
verificar si hacen falta datos recopilados o no.
Despus de recopilar los datos, regrese a las
preguntas en la Tabla de Evaluacin para analizar
las respuestas a cada pregunta. Puede compilar
los resultados en el Informe de la Evaluacin.
7.5
Por qu no se utiliza la
PDM?
Pg. 82
Es
necesaria
la
Pgs. 109-
110
en la evaluacin?
indispensable
que
la
evaluacin
tambin
se
evaluacin?
Y muchos
219
No obstante,
Es
Es
necesario
preparar
informe?
Pg. 113
Qu puntos se deben
personas
principales.
verifiquen el informe?
cargo
Pg. 113
220
Materiales Anexos
I.
II.
III.
IV.
Qu es el Marco Lgico?
Qu es la Evaluacin Participativa?
Qu es la Medicin de Resultados?
Lista de Documentos de Referencia
221
Materiales de referencia:
NORAD (Agencia Noruega de Cooperacin para el Desarrollo): The Logical Framework Approach
(LFA):Handbook for Objective-oriented Project Planning [El Enfoque del Marco Lgico: Manual de
Planeacin de Proyectos por Objetivos] (1990)
FASID (Fundacin para Estudios Avanzados en Desarrollo Internacional): Project Cycle
Management: Management Tool for Development Assistance [Gestin del Ciclo del Proyecto:
Herramienta de Gestin para la Asistencia para el Desarrollo] (2001)
8
De acuerdo con la definicin de la OCDE-DAC, el marco lgico (logframe) es una herramienta de
gestin utilizada para mejorar el diseo de las intervenciones para el desarrollo. Concretamente, la
Matriz de Diseo del Proyecto (PDM) que utiliza la JICA es una forma de marco lgico, y este documento
se refiere a todas esas matrices con el nombre general de marco lgico en la teora de la evaluacin.
-
222
Mejorar la tasa
Se mejora la
Se construyen
Mejorar la
de extensin de
organizacin de
plantas de
conciencia de
Se elimina la
basura
la planta de agua
la
purificacin de
higiene de los
debidamente
potable
administracin
agua
ciudadanos
del medio
ambiente
Marco lgico de
urbano
Marco lgico de
Marco lgico de
Marco lgico de
un programa
un proyecto de
para construir
educacin
proyecto para
plantas de
sanitaria
mejorar la
purificacin de
administracin del
agua
un proyecto de
mejoramiento del
servicio de
abastecimiento
Marco lgico de un
un programa de
eliminacin de
basura
medio ambiente
urbano
223
Meta General
Efectos indirectos, a
largo plazo; impacto
sobre la sociedad
objetivo
Propsito del
Proyecto
Efectos directos sobre
el grupo y sociedad
objetivo
Productos
Bienes y servicios que
son producidos
mediante la
implementacin de
actividades
Actividades
Actividades para
generar los productos
Indicadores
Verificables
Objetivamente
Indicadores y valores
objetivo para medir los
logros hacia la meta
general
Indicadores y valores
objetivo para medir los
logros hacia e
propsito del proyecto
Indicadores y valores
objetivo para medir los
logros hacia los
productos
Medios de
Verificacin
Suposiciones
Importantes
Fuentes de
informacin para los
indicadores en la
columna de la
izquierda
Fuentes de
informacin para los
indicadores en la
columna de la
izquierda
Condiciones necesarias
para que los efectos del
proyecto sean
sustentables
Fuentes de
informacin para los
indicadores en la
columna de la
izquierda
Insumos
(Tanto de Japn como del pas socio)
224
los resultados cuando se realiza el seguimiento y las evaluaciones (consulte la Parte II,
Captulo 1 del texto principal).
Si la lgica si-entonces por s misma fuera suficiente para generar los productos
esperados, no habra necesidad de adoptar pasos posteriores. Sin embargo, como la
lgica si-entonces es el nico medio que tiene el proyecto para solucionar problemas,
existe una variedad de factores externos que pueden tener un impacto sobre el proyecto.
El marco lgico identifica estos factores en la columna Suposiciones Importantes y
aclara el vnculo entre la lgica de las actividades - productos - propsito del proyecto meta general y las suposiciones importantes.
general del plan del proyecto utilizando la lgica si-entonces en la siguiente relacin
vinculada: si se implementa una actividad, y, adems, se satisfacen las condiciones
externas que son importantes pero que el programa no puede controlar (y), entonces se
pueden obtener los productos.
proyecto - meta general es la misma.) Las condiciones externas son una herramienta
efectiva para la planeacin y formulacin del proyecto desde estas perspectivas: Es
suficiente nicamente implementar el contenido del plan del proyecto? e Incluso si se
implementa el proyecto, habrn elementos externos que obstaculicen la expresin de
los resultados?
Cuando se realiza el seguimiento o las evaluaciones, las suposiciones importantes
juegan un papel importante como meta de las encuestas. El entorno del proyecto est
cambiando siempre.
225
Suposicin Importante
Meta General
Condiciones de
si
Sustentabilidad
entonces
si
Productos
si
entonces
Actividades
si
y
Condiciones Previas
entonces
si
<<Meta general>>
La meta general es el efecto a largo plazo que se espera alcanzar mediante la
implementacin de un proyecto. Cuando se planea un proyecto es necesario dedicar
suficiente atencin a estudiar cmo contribuir la meta general al tema de desarrollo (es
posible que el tema de desarrollo en s se convierta en la meta general, dependiendo del
proyecto). La JICA percibe la meta general como el impacto que sentir la sociedad
objetivo de tres a cinco aos despus que termin el proyecto.
226
generalmente se alcanza al final del proyecto. 9 Por tanto, el nivel de logros hacia el
propsito del proyecto es una seal que indica si el proyecto est generando productos o
no y si la implementacin del proyecto tuvo sentido.
generan productos pero que no expresan beneficio para el grupo objetivo, la inversin de
una gran cantidad de recursos y la implementacin del proyecto en s pierden su
importancia.
<<Productos>>
Los productos son bienes y servicios que genera el proyecto hacia el logro del
propsito del proyecto. A diferencia del propsito del proyecto que indica un cambio
positivo para los beneficiarios, los productos se refieren a cuestiones que generan
aquellos que implementan el proyecto. Si observamos un proyecto que se enfoca en la
capacitacin, por ejemplo, la implementacin de la capacitacin es un producto,
mientras que el propsito del proyecto ser mejoramiento de los conocimientos de los
becarios, aplicacin de la tecnologa adquirida en el sitio de trabajo, etc.
Hay casos, dependiendo del contenido o las caractersticas del proyecto, donde no se obtienen efectos
directos sino hasta cierto tiempo despus que ste termin. En un proyecto de riego, por ejemplo, no se
pueden obtener cambios en la proyeccin del arroz hasta despus que se terminaron las instalaciones
de riego.
227
importante establecer metas que tengan las mayores posibilidades de llevarse a cabo; sin
embargo, en la realidad hay una serie de factores externos que el proyecto no puede
controlar y que tambin lo afectan.
228
como medios para evadir responsabilidades en caso que el proyecto no marche bien. Es
importante discutir las suposiciones importantes como parte de la planeacin del proyecto
para determinar las actividades y metas que se deben establecer para que el proyecto
sea ms efectivo y tenga menos riesgos.
Las condiciones previas se refieren a las condiciones que se deben satisfacer
antes de implementar el proyecto. Se refieren a las condiciones que, si se satisfacen,
permitirn el inicio de las actividades (y no obstaculizarn las operaciones una vez que
inicie el proyecto).
229
La condicin es importante
para el proyecto?
No es una suposicin
NO
importante
No es una suposicin
SI
Casi es
un hecho
importante
No es una suposicin
importante
Es probable,
pero no es
seguro
Es una suposicin
Se puede modificar el
contenido del proyecto?
importante (incluida
en el marco lgico y
NO
se le da seguimiento)
230
Materiales de referencia:
Instituto de Cooperacin Internacional, Agencia de Cooperacin Internacional del Japn:
Participatory Evaluation and International Cooperation [Evaluacin Participativa y Cooperacin
Internacional] (2001)
Cousin, J.B. y Whitmore, E.: Framing Participatory Evaluation, Understanding and Practicing
Participatory Evaluation, New Direction for Evaluation, [Construccin de la Evaluacin Participativa,
Conocimiento y Prctica de la Evaluacin Participatica, Nueva Direccin de la Evaluacin] American
Evaluation Association [Asociacin Norteamericana de Evaluacin], Jossey Bass, San Francisco;
pgs. 5 23
-
11
Entre los ejemplos podemos mencionar Stakeholder-based Evaluation [Evaluacin con base en las
Partes Interesadas], Democratic Evaluation [Evaluacin Democrtica], Utilization-focused Evaluation
[Evaluacin por Uso] y Empowerment Evaluation [Evaluacin del Empoderamiento]
231
232
Materiales de referencia:
Hatry, H.P.: Performance Measurement: Getting Results [Medicin de Resultados: Cmo Obtener
Resultados], Urban Institute, Washington D.C. (1999)
Sasaki, R. y Nishikawa- Sheikh, N.: Current Development and Prospects of Performance
Measurement [Desarrollo Actual y Prospectos de la Medicin de Resultados] The Japanese Journal
of Evaluation Studies, Vol. 1, No. 2 (2001); pgs. 45 - 52
-
13
Evaluacin del programa en este contexto se refiere a la evaluacin de polticas pblicas, programas
pblicos, etc.
14
Las definiciones de los diversos elementos de los programas (impacto, actividad, producto y efecto
final) son las mismos que se presentan en el modelo lgico en el texto principal (consulte la Parte II,
Captulo 1).
233
234
235
236
237
238
239