Académique Documents
Professionnel Documents
Culture Documents
Captulo 1
Generalidades
1.1 Qu es evaluar?........................................................................................................................... 10
1.2 A qu preguntas responde?...................................................................................................... 10
1.3 Definicin del alcance de la evaluacin................................................................................. 11
1.3.1 Paso 1: Identificar el programa a evaluar.......................................................................... 13
1.3.2 Paso 2: La cadena de resultados o cadena de valor.................................................... 13
1.3.3 Paso 3: La cadena de entrega.................................................................................................. 15
1.3.4 Paso 4: El mapeo de informacin.......................................................................................... 16
1.3.5 Paso 5: Construccin de la hiptesis de evaluacin................................................... 16
1.3.6 Paso 6: Definicin de objetivos y alcance de la evaluacin.................................... 16
1.4 Seleccin del tipo de evaluacin ............................................................................................. 16
1.4.1 Cmo seleccionar el tipo de evaluacin?....................................................................... 17
1.5 Estudio de caso: Plan Nacional de Consolidacin Territorial............................................ 18
1.5.1 Paso 1: Identificar el programa o poltica a evaluar..................................................... 18
1.5.2 Paso 2: La cadena de resultados............................................................................................ 22
1.5.3 Paso 3: La cadena de entrega.................................................................................................. 22
1.5.4 Paso 4: El mapeo de informacin ......................................................................................... 23
1.5.5 Paso 5: Construccin de la hiptesis de evaluacin................................................... 25
1.5.6 Paso 6: Definicin de objetivos y alcance de la evaluacin.................................... 25
1.5.7 Seleccin del tipo de evaluacin necesario para el anlisis................................... 25
Captulo 2
Evaluacin de Procesos
2.1 Caractersticas y Usos.................................................................................................................. 29
2.2 Desarrollo de la evaluacin....................................................................................................... 30
2.2.1 Definir los procesos a evaluar ................................................................................................ 30
2.2.2 Recoger informacin de cada una de las reas.............................................................. 32
2.2.3 Analizar y reportar la informacin ....................................................................................... 32
2.2.4 Uso de los resultados.................................................................................................................. 35
Gua para la Evaluacin de Polticas Pblicas
Captulo 3
Evaluacin de productos
3.1 Caractersticas y Usos.................................................................................................................. 39
3.2 Desarrollo de la evaluacin....................................................................................................... 40
3.2.1 Definir los productos esperados............................................................................................ 40
3.2.2 Establecer metas y asociar indicadores............................................................................. 40
3.2.3 Recoleccin de informacin..................................................................................................... 41
3.2.4 Analizar y reportar el estado de los productos ............................................................. 42
3.2.5 Uso de los resultados.................................................................................................................. 43
Captulo 4
Evaluacin ejecutiva E2+
4.1 Caractersticas y Usos.................................................................................................................. 51
4.2 Desarrollo de la Evaluacin....................................................................................................... 51
4.2.1 Visin general del programa ................................................................................................... 52
4.2.2 Anlisis de eficacia........................................................................................................................ 53
4.2.3 Anlisis de eficiencia................................................................................................................... 54
4.2.4 Calidad de los bienes y/o servicios...................................................................................... 57
4.2.5 Recomendaciones ........................................................................................................................ 57
4.2.6 Uso de los resultados.................................................................................................................. 59
Captulo 5
Evaluacin de resultados
5.1 Caractersticas y Usos.................................................................................................................. 63
5.2 Desarrollo de la Evaluacin....................................................................................................... 66
5.2.1 Identificar los resultados esperados .................................................................................. 67
5.2.2 Priorizar los resultados a evaluar.......................................................................................... 67
5.2.3 Construir indicadores.................................................................................................................. 67
5.2.4 Fijar metas......................................................................................................................................... 68
5.2.5 Recoleccin de informacin..................................................................................................... 68
5.2.6 Anlisis mediante una metodologa ................................................................................... 69
5.2.7 Uso de los resultados.................................................................................................................. 69
5.3 Metodologas de medicin......................................................................................................... 69
Captulo 6
Evaluacin de impacto
6.1 Caractersticas y Usos.................................................................................................................. 80
6.2 Desarrollo de la Evaluacin....................................................................................................... 81
6.2.1 Disear el modelo......................................................................................................................... 81
6.2.2 Muestreo y Recoleccin de informacin........................................................................... 85
6.2.3 Mtodos cuantitativos para el anlisis de la informacin........................................ 85
6.2.4 Mtodos cualitativos para el anlisis de la informacin........................................... 87
6.2.5 Integrando mtodos cuantitativos y cualitativos.......................................................... 88
6.3 Estudio de caso: Familias en Accin......................................................................................... 89
6.3.1 El programa....................................................................................................................................... 89
6.3.2 Objetivos y alcance de la evaluacin ................................................................................. 89
4
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Captulo 7
Evaluacin costo-beneficio
7.1. Definiciones, usos y aplicacin. .................................................................................................. 105
7.1.1. Definiciones......................................................................................................................................... 105
7.1.2. Usos......................................................................................................................................................... 106
7.1.3. Aplicacin............................................................................................................................................. 106
7.2. Desarrollo de la Evaluacin Costo-Beneficio......................................................................... 107
7.2.1 Identificar los objetivos del programa ............................................................................... 107
7.2.2 Definir otras alternativas .......................................................................................................... 107
7.2.3 Establecer el marco de referencia conceptual............................................................... 108
7.2.4 Estimar el valor econmico de los costos y beneficios mediante
una metodologa preestablecida........................................................................................... 109
7.2.5 Estimar el valor presente neto................................................................................................ 110
7.2.6 Estimar la relacin costo-beneficio...................................................................................... 112
7.2.7 Estimar la rentabilidad................................................................................................................ 112
7.2.8 Uso de los resultados.................................................................................................................. 112
7.3 Metodologas utilizadas ............................................................................................................ 114
7.3.1 Los enfoques.................................................................................................................................... 114
7.3.2 Herramientas para construir alternativas susceptibles de comparacin......... 115
7.3.3 Herramientas para valorar costos y beneficios.............................................................. 116
7.3.4 Herramientas para cuantificar la incertidumbre relacionada al riesgo.............. 117
7.4 Estudio de caso: Familias en Accin......................................................................................... 118
7.4.1 El programa....................................................................................................................................... 118
7.4.2 La evaluacin................................................................................................................................... 118
7.4.3 Anlisis Costo-Beneficio............................................................................................................. 119
Captulo 8
Evaluacin institucional
8.1 Caractersticas y Usos.................................................................................................................. 125
8.2 Desarrollo de la Evaluacin....................................................................................................... 125
8.2.1 Perspectiva de la evaluacin .................................................................................................. 125
8.2.2 Unidad de anlisis......................................................................................................................... 126
8.2.3 Metodologa de anlisis............................................................................................................. 127
8.2.4 Levantamiento de informacin.............................................................................................. 127
8.2.5 Anlisis de la informacin......................................................................................................... 128
8.2.6 Uso de los resultados.................................................................................................................. 128
8.3 Metodologas utilizadas ............................................................................................................................. 128
8.3.1 La metodologa SADCI................................................................................................................. 128
8.3.2 La metodologa PROSE................................................................................................................ 131
8.3.3 La metodologa OCAT................................................................................................................... 133
8.3.4 La Lista de chequeo S/No o Tarjeta de puntuacin (Scorecard)........................... 135
8.4 Estudio de caso: Poltica de Vivienda y Tierras para PD ..................................................... 136
8.4.1 La Poltica........................................................................................................................................... 136
5
Gua para la Evaluacin de Polticas Pblicas
Captulo 9
Glosario..................................................................................................................................................................................... 141
Captulo 10
Bibliografa de apoyo......................................................................................................................................................... 145
Captulo 11
Anexos........................................................................................................................................................................................ 159
11.1 Mtodos ms utilizados de recoleccin de informacin..................................................... 161
11.2 Perfiles para evaluaciones de procesos.................................................................................. 163
11.3 Perfiles para evaluaciones de productos................................................................................ 164
11.4 Perfiles para la E2+ ....................................................................................................................... 165
11.5 Perfiles para evaluaciones de resultados............................................................................... 166
11.6 Perfiles para evaluaciones de impacto.................................................................................... 167
11.7 Perfiles para Lneas de Base....................................................................................................... 168
11.8 Perfiles para evaluacin institucional .................................................................................... 169
6
PRESENTACIN
Este documento hace parte de las Guas Metodolgicas de la DSEPP-DNP, cuyo objeto
es orientar al lector en el proceso de implementacin de sistemas de seguimiento y
evaluacin. En esta entrega, se presenta una gua tcnica y conceptual, que incluye tanto
las definiciones, como el diseo y ejemplos de los tipos de evaluaciones ms utilizados en
la DSEPP. Lo anterior comprende desde entender el funcionamiento del programa a
evaluar, mediante una herramienta como la cadena de resultados, pasando por el proceso
de definicin del alcance e hiptesis de la evaluacin, hasta la determinacin del tipo de
evaluacin apropiado para responder a las preguntas formuladas.
Para finalizar, quiero agradecer a todas las personas que apoyaron la elaboracin de este
documento, muchos de ellos ya no estn en la Direccin, pero su trabajo fue vital para
lograr esta publicacin. Agradezco especialmente, a Ariane Ortiz y David Ibez quienes
aportaron los insumos fundamentales para el desarrollo de este trabajo. De igual forma,
agradezco a Armando Ardila, Diego Dorado e Ivn Durn quienes con su trabajo y juiciosa
revisin lograron darle un alto estndar de calidad a la publicacin que hoy tengo el gusto
de presentar.
.
CAPTULO I
Captulo I
Generalidades
Oleksandr Shevchenko
Una evaluacin se debe entender como una investigacin sistemtica y objetiva aplicada en
alguno de los diferentes eslabones de la cadena de resultados o valor (insumos, procesos, productos,
resultados e impactos) que tiene como finalidad mejorar el diseo, la implementacin, la ejecucin y
los efectos de un plan, poltica, programa o proyecto a travs de la toma de decisiones (DEPP, 2010).
10
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Actores Experto ajenos al proyecto examinan aspectos del programa, herramienta del
Externa
control
11
Gua para la Evaluacin de Polticas Pblicas
Anlisis de actores
Una evaluacin estar mejor formulada, de- preguntas que se quieran resolver con la
sarrollada y sus recomendaciones sern debi- evaluacin; usa los resultados.
damente discutidas y utilizadas en el ciclo de
la poltica pblica, si se involucra en todo el El gerente del programa: plantea preguntas
proceso a los actores interesados. La evaluacin que se quieran resolver con la evaluacin;
debe responder a diferentes expectativas y este facilita la disponibilidad de informacin;
anlisis permite catalogarlas, considerando apoya el trabajo de campo en regiones o
los intereses de los diversos agentes. Para un municipios para encuestas; usa los resul-
acercamiento inicial, los actores relacionados tados.
con una evaluacin4 se pueden clasificar en:
Los tcnicos del programa: participan en
El cliente principal de la evaluacin: el el diseo de la evaluacin; acompaan su
actor clave o grupo de actores patroci- desarrollo; facilitan la disponibilidad de
nadores que solicitan la evaluacin y los informacin.
principales destinatarios de sus productos.
El proveedor de fondos para la evaluacin:
Los actores involucrados: personas y orga- Banca multilateral, entidad del gobierno
nizaciones que no son el cliente principal, central o el mismo ente ejecutor del pro-
pero que se caracterizan por tener una grama.
participacin y/o un inters en la inter-
vencin (beneficiarios directos/indirectos, El diseador de la evaluacin-DNP-: pre-
organizaciones que proveen fondos, fun- para y lidera procesos entre los diferen-
cionarios gubernamentales, funcionarios tes actores relacionados para definir los
electos y empleados del gobierno con objetivos de la evaluacin, determinar la
intereses pertinentes en la intervencin, informacin disponible, costear la eva-
directores del programa, gerentes y el luacin, desarrollar cronogramas, fijar el
personal contratado, hacedores de pol- equipo necesario para la ejecucin y sus
tica, la comunidad, los grupos de inters responsabilidades, construir parmetros
y asociaciones). necesarios para la muestra, consolidar
los trminos de referencia; seleccionar el
Para profundizar en un anlisis de roles e equipo de evaluacin; hacer seguimiento
intereses de actores relacionados, existen al equipo de evaluacin as como a la
diversas herramientas. Lo importante en esta adopcin de las recomendaciones y la
etapa es tener en cuenta que el proceso de difusin de resultados.
definicin del alcance de la evaluacin debe
ser participativo. El equipo de evaluacin-firma de con-
sultora-: se compone bsicamente de un
Cules son los actores y el rol que juegan en director de la evaluacin, un experto en
una evaluacin desarrollada por la DSEPP? evaluacin, expertos sectoriales, analistas,
un estadstico experto en muestreo, un
El diseador de poltica Presidencia, diseador de encuestas, un grupo de en-
Ministerios, DNP, Entidades u Organismos cuestadores y su responsable, y un equipo
con inters en la intervencin: plantea que organiza y procesa los datos.
12
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
13
Gua para la Evaluacin de Polticas Pblicas
Identifica los supuestos que se estn haciendo, tos (el impacto deseado o meta final se presenta
lo que puede convertirse en una plataforma a menudo como la ltima etapa en el modelo).
para formular las preguntas de evaluacin y
los conectores lgicos de accin. La cadena de resultados de un programa muestra
la secuencia causal de los procesos que componen
Seala las variables de intervencin, a las la intervencin8. Aunque no revela especficamente
cuales se har seguimiento con la evaluacin. cmo son los vnculos de causalidad, s expone cmo
es el orden secuencial del programa a travs de los
La forma simple de relacin de causalidad fue insumos que necesita, de los procesos que genera
propuesta por Suchman (1967) como una alter- para movilizar sus recursos, de los bienes y servicios
nativa para entender modelos de marco lgico: que crea, de los efectos a corto y mediano plazo
De esta forma se plantean las etapas de una sobre los niveles de bienestar de los beneficiarios
cadena de razonamientos para mostrar cmo se del programa y de los impactos reales que produce.
interrelacionan las causas y se generan los efec-
Algunos tips
La cadena de resultados
Son los resursos Actividades que Son los bienes y Comprende los Cambios reales
(financieros, hu- emprenden el pro- servicios que se cambios en las productos del pro-
manos y materia- grama, los cuales obtienen a travs condiciones de grama medios en
les) que se usan movilizan los insu- de la intervencin. los beneficiarios trminos de bien-
en la interven- mos para generar a corto y mediano estar de los bene-
cin. productos plazo que ocacio- ficiarios.
especificos. nan los productos
creados por la in-
tervencin
Recursos Efectos
8 Morra y Rist (2009) plantean la cadena de resultados como una forma de desarrollar la Teora de Cambio.
14
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Resultados de mediano plazo: las personas El mayor ingreso disponible de las familias
permite un mayor consumo de alimentos y
cambian su comportamiento (se lavan ms de gastos para educacin. Los nios tienen
frecuentemente las manos, se ponen tapa- mayor nutricin y permanencia en los centros
bocas cuando tienen sntomas). educativos
9 Barber (2009).
15
Gua para la Evaluacin de Polticas Pblicas
Las preguntas que se quieren responder son: 1.3.6 Paso 6: Definicin de objetivos y
alcance de la evaluacin
Qu nivel de detalle de informacin maneja
el programa? Al saber cul es la hiptesis de la evaluacin,
determinar su alcance permite: establecer los
Cmo funciona el sector? objetivos, delimitar lo que se va y lo que no se va
a incluir en el estudio y especificar las principales
Cmo funcionan los programas con este preguntas a resolver por parte de la evaluacin.
tipo de objetivos en Colombia? Cmo en el En cuanto a estas ltimas, es imperativo aclarar si:
contexto internacional?
Son preguntas de gestin del programa?
Cules son las fuentes de informacin del
programa (registros administrativos, informa- Son preguntas de poltica?
cin, lnea de base)?
Son preguntas de operatividad?
En este ejercicio, es crucial entender tanto los
supuestos y justificacin sobre los que se fun- Son preguntas del diseo del programa?
damenta la existencia del programa, como tener
claro el conocimiento existente de este tipo de Son preguntas de implementacin?
programas.
Son preguntas de capacidad institucional?
1.3.5 Paso 5: Construccin de la hiptesis
de evaluacin Son preguntas de costo-beneficio?
Los pasos anteriores deben contribuir a definir Son preguntas de los resultados del programa?
la hiptesis principal de la evaluacin. sta es
esencial para orientar el proceso y permite llegar Son preguntas del impacto del programa?
a las conclusiones concretas de la evaluacin.
Al definir las preguntas, es necesario hacer una
Una hiptesis bien formulada aclara las variables priorizacin para demarcar el objetivo general, los
que se van a analizar, las relaciones entre ellas, y objetivos especficos y el alcance de la evaluacin.
plantea los objetivos del estudio. A partir de all, se
podrn identificar las necesidades de informacin, 1.4 Seleccin del tipo de
disear los indicadores a medir y delinear una
estrategia de evaluacin slida que proporcione evaluacin
respuestas a las preguntas propuestas.
A continuacin, se puede entrar a seleccionar el
tipo de evaluacin que ms se ajusta al alcance.
16
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Tiempo de Implementacin
del programa
Planeacin y
Diseo Implementacin Entrega de productos y servicios
17
Gua para la Evaluacin de Polticas Pblicas
18
Tipos de Evaluacin y razones para su uso
Razones tcnicas Otras razones
Evaluar la necesidad de
El programa es necesario? Los recur-
un programa orientar recursos,
Evaluacin preimple- Antes de implementacin: so se podran usar de otra forma para
Comparar con usos alter- Diseador de poltica costo medio justificar inver-
mentaria evaluacin ex ante lograr ese objetivo? El programa tie-
nativos de recursos para siones
ne supuestos y justificacin vlidos?
atacar un problema
Antes de implementacin:
con levantamientos de in- Cul es la situacin inicial antes
diseador de poltica,
formacin posteriores para de una intervencin? En qu as- Costo me-
Conocer los valores de los gerente, estadistico, Diseo de encuesta y
evaluacin de mediano y pectos se espera que el programa dio (entre Tcnico, justificar
Para lnea de base indicadores clave antes firma para recolec- primer levantamiento de
largo plazo del programa. Se tenga algn impacto? Qu se debe US50.000 y inversiones
de la intervencin cin de informacin, informacin
puede hacer en la etapa de medir para seguir o evaluar una 100.000)
beneficiarios,control
entrega de productos, pero intervencin?
no es lo ideal
Fuentes: Judy Baker (2000), Social Impact (2008), Kusek y Rist (2004), B.O.T. (2004). Adaptacin del autor.
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
19
20
Razones tcnicas Otras razones
operaciones desarro- Durante implementacin: deseado? Cules son las razones para Modificar procesos
Evaluacin Diseador de pol-
lladas en determinada se puede incorporar en el el logro o no de los productos? Son Indicadores de insu- Bajo costo s del programa, iden-
de procesos tica, gerente, fun-
intervencin, estudiar si sistema de monitoreo o eficientes las operaciones del programa? mos, de gestin, pro- se incorpora tificar cuellos de
(formative cionarios, firma de
se estn llevando a cabo puede ser uncomponente Dnde estn las diferencias entre el diseo cedimientos, tareas, en sitema de botella para el logro
evaluacin) u consultora (si es con
y de qu manera afectan importante de la evaluacin y ejecucin del programa? Cmo estn actividades monitoreo de los productos y
operaciones impacto)
el logro de los productos de impacto afectando los insumos la entrega de los resultados
y los resultados productos?
Informacin secunda-
Cmo son el diseo, el manejo operativo,
ria administrativa y de
Hacer un anlisis rpido Diseador de polti- la estructura organizacional, el manmejo
entrega del servicio, Modificar programa
de la articulacin y con- ca, gerente, tcnico, Durante la etapa de imple- financiero, las actividades de seguimiento y
Evaluacin ejercicio tipo cadena en diseo, imple-
sistencia entre insumos, funcionarios, consul- mentacin o de entrega de evaluacin del programa? Tiene coherencia US 35.000
Ejecutiva (E2) de resultados, cadena mentacin o conti-
procesos, productos y tor o firma, benefi- productos y servicios la implementacin con el diseo? Cmo
de entrega, entrevistas nuar financiacin
resultados esperados ciarios es la calidad de la implementacin? Cul
y grupos focales a be-
es laeficacia y eficiencia del programa?
neficiarios
Fuentes Judy Baker (2000), Social Impact (2008), Kusek y Rist (2004), B.O.T. (2004). Adaptacin del autor.
Razones tcnicas Otras razones
Fuentes Judy Baker (2000), Social Impact (2008), Kusek y Rist (2004), B.O.T. (2004). Adaptacin del autor.
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
21
Gua para la Evaluacin de Polticas Pblicas
Insumos Procesos Productos Resultados Impactos Fase de control: se implementa en zonas don-
de persiste la presencia activa de los grupos
armados ilegales, estructuras de narcotrfico
Areas recuperadas militarmente y bandas criminales, as como en zonas de
Compromisos presupuestales y polticos establecidos desmovilizacin de las autodefensas ilegales.
Acuerdos comunitarios concertados
Acuerdos institucionales locales
Por medio de un esfuerzo militar intensivo,
Planes operativos regionales de consolidacin el Estado deber cumplir con el objetivo de
Mapas de monitoreo de consolidacin territorial desarmar y neutralizar estas organizaciones
Proyectos sociales y de activacin econmica
criminales y, simultneamente, romper las
redes e infraestructura del narcotrfico en
Insumos Procesos Productos Resultados Impactos la zona.
22
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Responde a la pregunta: cmo funciona el pro- reas principales para iniciar la consolidacin:
grama, cul es su diseo, cules son sus objetivos? Zona Macarena y Ro Cagun, Zona Pacfico
(Nario, Cauca, Buenaventura, Sur de Choc),
En el artculo 6 del Plan Nacional de Desarrollo Zona Bajo Cauca Antioqueo y Sur de Crdoba,
2006-2010 Estado Comunitario: Desarrollo para Zona Sur de Tolima y Sur de Valle del Cauca.
Todos Descripcin de los principales programas
de inversin, se establece en su numeral 2 la reas de transicin hacia la consolidacin:
Poltica de Defensa y Seguridad Democrtica. Zona Montes de Mara, Zona Sierra Nevada
Esta poltica tiene el propsito de avanzar en la de Santa Marta y Zona Oriente Antioqueo.
consolidacin de las condiciones de seguridad,
para que a travs de ellas se construya una Nacin reas Complementarias: Zona Arauca, Zona
que haga de la seguridad democrtica un verda- Putumayo, Zona Catatumbo y Zona Bajo Atrato.
dero puente hacia la paz, la reconciliacin y la
prosperidad general. En este sentido, adems de b. Direccionamiento y Gestin
las metas en materia de preservacin de la vida,
la Poltica de Defensa y Seguridad Democrtica Con el fin de garantizar la capacidad de realizar
debe tener un componente importante de pol- de manera eficiente las estrategias del PNCT y
tica social. Alcanzar estos objetivos requerir la armonizarlas con el esfuerzo militar, el Consejo
concurrencia de esfuerzos del Gobierno Nacional, Directivo del Centro de Coordinacin y Accin
la comunidad internacional, las entidades terri- Integral -CCAI- , adelanta el direccionamiento
toriales y la sociedad colombiana. estratgico, emite instrucciones y mantiene lazos
a nivel nacional y territorial para la implemen-
El Plan Nacional de Consolidacin Territorial tacin de los planes regionales estratgicos de
surge como una estrategia para implementar lo consolidacin y su correspondiente operatividad.
23
Gua para la Evaluacin de Polticas Pblicas
24
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Evaluacin
Evaluacin de impacto
de operaciones
Primer
Lnea de base
seguimiento
Junio 2010
Junio 2012
25
CAPTULO II
Captulo II
Evaluacin de procesos
VV Voennyy
La evaluacin de procesos es la evaluacin de la dinmica interna de los organismos de ejecucin,
sus instrumentos de poltica, sus mecanismos de prestacin de servicios, sus procedimientos de
gestin y los vnculos que existen entre todos estos componentes(OECD, 2002).
La evaluacin de procesos es un tipo de eva- los indicadores de gestin como insumo para el
luacin, concentrado en el segundo eslabn anlisis de los procesos.
de la cadena de valor, en el cual se identifican
las relaciones que cada una de las actividades La principal caracterstica de este tipo de eva-
requiere para producir un bien o servicio. Este luacin es examinar los procedimientos y tareas
ejercicio parte de las siguientes preguntas gua, involucradas en la implementacin de un progra-
que el evaluador espera responder: ma. Por lo tanto, sta:
29
Gua para la Evaluacin de Polticas Pblicas
1 Malik (2002).
30
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Se pueden detallar los procesos y su relacin El evaluador debe aclarar el mtodo por
con el producto con ayuda de preguntas como2: el cual la informacin ser recogida y
analizada, incluye a la persona respon-
Qu se necesita que hagan los empleados sable.
para que entreguen el producto?
c. Identificar los insumos qu se necesita
Qu se requiere de un cliente o usuario del para hacerlo? Entradas
programa?
El evaluador debe relacionar la(s) fuente(s)
Cmo se seleccionan los empleados? de informacin que indican que la acti-
vidad se ha producido.
Qu productos van a ser provistos a los
usuarios o clientes? d. Identificar los productos qu se entrega?
Salidas
Cul es el proceso general que los clientes o
usuarios deben pasar para recibir el producto? El evaluador debe producir un documento
que contenga pruebas tangibles (indica-
Cules son las fortalezas del programa segn dores) que muestren el progreso hacia el
los usuarios? cumplimiento de la meta.
Cules son las fortalezas del programa segn e. Identificar los beneficiarios a quin se
los empleados? entrega? Clientes
Qu quejas se oyen con frecuencia por parte El evaluador debe determinar quines
de los usuarios? son los clientes de la actividad.
Con base en qu deciden los empleados o El evaluador registra las fechas previstas
usuarios que el producto ya no se necesita? tanto de inicio como de finalizacin para
llevar a cabo la actividad. Es claro que
La informacin de los procesos del programa algunas operaciones van a ocurrir antes
se organiza en un mapa de procesos donde se que otras y/o se producirn de forma
identifican las actividades, acciones y actores3:
2 McNamara (2006).
3 As mismo se encuentra el plan de accin que reporta los procesos de cada objetivo del programa: plan para el desarrollo de una
evaluacin de operaciones (Kusek y Gorgensen, 2010).
31
Gua para la Evaluacin de Polticas Pblicas
4 Pawson (2006).
5 Pawson (2006).
6 Patton (2009).
7 Bliss y Emshoff (2005).
8 Estos siete desperdicios son: sobreproduccin, esperas entre procesos, transporte, exceso de inventario, defectos en los bienes o
servicios producidos, exceso de procesos y sobreprocesamiento.
32
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Procesos P1 P2 P3 P4 P5 Productos
Tiempo de operaciones de
valor aadido. Ej: Creacin de
un subsidio, tratamiento de la
muestra, etc.
Tratamiento en Operaciones
de: No valor aadido.
Ej: recibir, esperar, etc.
El Lean Manufacturing se puede resumir en cuatro Seiri - Clasificar: separar lo que es indis-
tipos de indicadores: pensable de lo que no lo es para el de-
sarrollo de las operaciones del programa.
Calidad: busca que no haya defectos o errores.
Seiton - Ordenar: poner lo que es necesario
No repeticiones: busca que el proceso slo en un lugar inmediatamente accesible.
tenga que hacerse una vez.
Seiso - Limpiar: realizar una depuracin
Valor agregado al cliente final: busca que el para que los procesos fluyan como estn
proceso le aada valor al beneficiario final diseados.
y no sea simplemente un trmite que slo
satisface a un cliente interno. Seiketsu - Estandarizar: homogeneizar
procedimientos y actividades.
Oportunidad: busca que los procesos se
hagan a tiempo. Shitsuke - Disciplina y Entrenamiento:
creacin de reglas que guen la imple-
Herramientas del enfoque mentacin de los procesos, adems de
Lean Manufacturing la instauracin de retroalimentaciones
y capacitaciones para que los procesos
a. Mapa del flujo del valor (Value Stream) sean eficientes.
b. 5S: es un mecanismo que organiza los pro- c. Justo a tiempo (Just in Time): el objetivo de sta
cesos y actividades con el fin de generar es proveer la cantidad de productos prevista,
un estado ideal en el que nicamente sean de un modo muy riguroso. Consiste en pro-
utilizados los insumos necesarios, todo se ducir lo planeado slo cuando es requerido,
encuentre ordenado e identificado, se hayan en el tiempo establecido y elaborado por un
suprimido las fuentes de desperdicio y exista proceso especfico.
un control mediante el cual se vigilen los
procesos. Las 5S son:
33
Gua para la Evaluacin de Polticas Pblicas
Mejorar continuamente las actividades y Anlisis de datos y mejora del proceso: aqu
procesos desarrollados. el evaluador puede recurrir a indicadores
de calidad que le permitan determinar si los
Reducir la variabilidad innecesaria en los procesos se realizaron segn los criterios del
procesos de produccin. programa y los beneficiarios.
34
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
El enfoque Six Sigma se sustenta en seis pasos Diagramas de Pareto: el evaluador seala
principales: las causas principales de los problemas que
surgen en los procesos, a travs de una orga-
Definir el producto y/o servicio del programa. nizacin de prioridades de mayor a menor en
donde se indique cules procesos y subpro-
Identificar los requisitos de los beneficiarios cesos son responsables de los efectos en el
del programa. programa.
Comparar los requisitos con los productos. Grficas de control: el evaluador estudia los
procesos, su dinmica y genera un esquema
Describir el proceso a evaluar. de control para anclar su comportamiento
de acuerdo con un valor medio acotado por
Evaluar el proceso. lmites superior e inferior, de modo que se
eviten anormalidades.
Medir la calidad y producto.
2.2.4 Uso de los resultados
En paralelo a estos pasos14, el enfoque emplea
medidas de calidad para poder evaluar la per- Las conclusiones de la evaluacin de procesos
tinencia de los procesos y actividades del pro- son tiles para:
grama. Estas herramientas tienen como objetivo
encontrar y diagnosticar posibles problemas, Identificar y modelar los procesos y activida-
entre ellas tenemos: des de un programa.
35
CAPTULO III
Captulo III
Evaluacin de productos
Tito Wong
La evaluacin de productos es un tipo de evalua- tienen los productos en la poblacin u objetos
cin que se utiliza para analizar en qu medida se de intervencin.
logr cumplir con las metas de productos entre-
gados frente a los insumos invertidos. Responde Este tipo de evaluacin analiza los productos,
a las siguientes preguntas orientadoras: bienes de capital o servicios que resultan de una
intervencin. Su propsito es comparar los indi-
Fueron las actividades desarrolladas sufi- cadores de insumo con los de producto y puede,
cientes para realizar los productos acordados? con un anlisis costo-eficiencia, determinar si se
maximizaron los productos al menor costo o, con
Se hicieron todas las actividades presupues- una evaluacin de procesos, explicar en trminos
tadas? de la gestin del programa por qu se lograron o
no los productos planeados. As mismo, la evalua-
Se entregaron los productos planeados? cin de productos puede ser til en momentos
de restricciones de tiempo o dinero.
Tuvieron los productos la calidad y oportu-
nidad esperadas? Es importante que1:
1 ADB (2007).
39
Gua para la Evaluacin de Polticas Pblicas
Se tenga en cuenta que los componentes y son relevantes para el logro de los efectos del
no son productos, sino un conjunto de pro- programa2.
ductos agrupados por razones financieras o
administrativas. Para la definicin de los productos es crucial
tener claro el problema por el cual se cre la
Se incorporen indicadores de producto rela- intervencin y, de esta forma, poder relacionar
cionados con la gestin y el desempeo para las actividades y productos generados3. Se de-
programas complejos. ben evitar frases muy largas para enunciar los
productos, pues dificultan la identificacin del
3.2 Desarrollo de la evaluacin indicador de producto (ver ejemplo de formula
cin de productos). Si estos se encuentran correc-
Una vez se aclaran los objetivos, el alcance de la tamente formulados, el indicador ser l mismo.
evaluacin y se concluye que lo requerido es una
evaluacin de productos, se pasa a las etapas de 3.2.2 Establecer metas4 y asociar
planeacin, diseo, implementacin y uso de los indicadores
resultados de la evaluacin.
Las metas son necesarias para tener un punto
En el desarrollo de una evaluacin de productos de referencia con el cual comparar el avance en
el primer paso es tener claridad sobre cules son determinado perodo de tiempo, de actividades
los productos en la cadena de resultados de la y productos. En principio, las metas deben estar
intervencin: fijadas por el programa. Para cada producto es
importante tener una medicin observable y
Definir los productos esperados del programa elaborar indicadores que contribuyan a cuantificar
que se va a evaluar. el desempeo del programa.
40
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
41
Gua para la Evaluacin de Polticas Pblicas
3.2.4 Analizar y reportar el estado de los Podra haberse hecho una intervencin
productos mejor, menos costosa o ms eficiente en el
tiempo?
En esta fase se construye un estado del arte
de los insumos, las actividades y los productos Habra podido otra intervencin diferen-
planeados, con respecto a los que efectivamente te resolver el mismo problema a un costo
se desarrollaron de acuerdo con la informacin menor?
recolectada. A partir de ste se mide la evolucin
de los productos mediante una tabulacin, cm- El ejercicio se efecta con los rubros de gasto,
puto o registro de las actividades que puedan ser insumos y actividades; se comparan los costos
expresadas tanto de manera cuantitativa como unitarios con referencias mximas y mnimas
cualitativa. Lo anterior se puede complementar de mercado, para establecer si los costos del
con un anlisis costo-eficiencia o una evaluacin proyecto son adecuados. Es fundamental que
de procesos. las fuentes de informacin queden claramente
identificadas12. Tambin se pueden considerar
Anlisis costo-eficiencia otros factores, no slo los precios de mercado,
para caracterizar variables que no se miden con
Es un anlisis que permite sopesar el costo de ese rasero.
mltiples alternativas para obtener productos
iguales o similares11 y as encontrar el proceso A continuacin se muestra un ejemplo de un
ms eficiente y adoptarlo. Mide los productos rubro de una actividad del programa de mejora
generados en relacin con los insumos utilizados nutricional de nios menores de 5 aos. El costo
y responde a preguntas como: de este tem, comparado con diversas opciones,
se puede calificar como razonable. Podra clasi-
Justifican los productos el costo de las ac- ficarse como elevado de encontrarse en un nivel
tividades? ms alto que el valor que se establezca como el
comparativo alto. La conclusin a la que se llegue
Qu medidas se han tomado durante la tambin depende de su desfase frente al punto
planeacin e implementacin para asegurar de referencia o del anlisis que se haga para cada
el uso eficiente de recursos? uno de los valores.
Valor Valor
Costo Descripcin Descripcin Costo Conclusio-
Rubro comparativo comparativo Desfase
unitario costo bajo costo alto razonable nes
bajo alto
Valor
promedio
Valor internacional
Suplemen-
promedio en programas Costo
to nutricio- 3000 2000 5000 3500 0
suplemento nutricionales razonable
nal
ICBF de Argentina,
Mxico y
Chile
42
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
13 La DSEPP adems de acompaar todo el proceso de implementacin de la evaluacin, hace seguimiento a sus recomendaciones.
14 UNFPA(2004).Tool n.o 5, part.V.
15 DEPP, DNP (2010). Evaluacin Ejecutiva (E2) Programa Estrategia Territorios Digitales: Aprovechamiento de las TIC en Colombia.
Consultora realizada por Julio Villarreal.
43
Gua para la Evaluacin de Polticas Pblicas
Medios de
Nombre Frmula Meta 2010 Meta 2011 Periodicidad
verificacin
Nmero de nuevas goberna-
Nuevas goberna-
ciones vinculadas a la estra-
ciones vinculadas 6 6 Anual MINTIC
tegia TD con respecto al ao
a la estrategia TD
inmediatamente anterior
Nuevos munici- Nmero de nuevos municipios
pios vinculados vinculados respecto al ao 20 20 Anual MINTIC
a la estrategia TD inmediatamente anterior
Entre los insumos definidos por el Ministerio de A continuacin se presenta un cuadro de resumen
TIC se encuentra la financiacin de los convenios, con el presupuesto destinado a la estrategia TD
que se adelanta de manera conjunta entre las durante el periodo 2007-2009 para Antioquia,
partes involucradas, el Ministerio de TIC y los uno de los territorios con los que se ha firmado
Gobiernos territoriales (alcaldas o gobernacio- convenio.En ste tambin se discrimina la fuen-
nes). Si los territorios no comprometen recursos te de los recursos aportados (Ministerio de TIC,
Gobierno territorial).
44
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
En cuanto a las actividades, se enumeran las fuera del control y alcance de los ejecutores de
misionales que se han determinado y que se los territorios.
desarrollan cronolgicamente durante la ejecu-
cin de los proyectos en los territorios, por cada Por una parte se evidencia que la calidad de
componente. A manera de ilustracin se listan las los productos y servicios entregados bajo el
actividades del componente de infraestructura, componente infraestructura dependen en su
stas son las que el consultor ha sealado como gran mayora del proveedor de los mismos; por
necesarias para la produccin o generacin de ejemplo, la calidad de la conectividad, de los
subcomponentes, pues no hay un registro, plan, computadores, de los tableros digitales, etc., est
gua o metodologa en la estrategia TD donde completamente determinada por el servicio que
estn previamente definidas: prestan los proveedores de stos. Es decir, en su
gran mayora no son aspectos que estn bajo el
1. Se diagnostica y evala el estado de la in- control de la entidad ejecutora.
fraestructura de TIC en el TD.
Por otra parte se reconoce la posibilidad de en-
2. Se identifican y priorizan las necesidades de frentarse a riesgos asociados con eventos propios
infraestructura de TIC en el TD. de la naturaleza y el clima o con la calidad de los
servicios pblicos en la zona de intervencin. En
3. Se definen las intervenciones a realizar y algunos casos, sobretodo en regiones apartadas
los criterios de seleccin y focalizacin de y lejanas como en Magdalena Medio Digital, los
beneficiarios de infraestructura TIC en el TD. servicios de conectividad y equipos se han vis-
to afectados por tormentas elctricas que han
4. Se seleccionan los beneficiarios: puntos a co- quemado equipos instalados en la zona y han
nectar, instituciones o entidades que recibirn ocasionado cadas de la seal inalmbrica de
infraestructura (computadores, telecentros, internet. En otros casos se tienen zonas en las
aulas digitales, telemedicina, etc.). cuales el servicio de energa elctrica es muy
deficiente, razn por la cual el funcionamiento
5. Se actualiza la infraestructura de TIC de de los equipos se ve perjudicado.
acuerdo con las mejores prcticas actuales.
Analizar y reportar el estado de los productos
6. Se desarrolla, instala y prueba la infraestruc-
tura de TIC seleccionada para el TD. En el componente infraestructura, la calidad de
los productos y servicios est determinada en
Se han encontrado dos factores de riesgo im- gran medida por los proveedores y por el apoyo
portantes que pueden tener un efecto signifi- tcnico y las garantas que ofrezcan. As las co-
cativo en la entrega y calidad de los productos sas, los procesos y las reglas de seleccin de los
o servicios ofrecidos por los TD, pero que estn mismos son la clave para garantizar una buena
45
Gua para la Evaluacin de Polticas Pblicas
46
CAPTULO IV
Captulo IV
Evaluacin ejecutiva E2+
Darren Green
Los sistemas de evaluacin contribuyen a generar Tener un tipo de evaluacin rpido es esencial
informacin acerca del logro de los objetivos en el sistema de evaluacin de cualquier pas.
planeados por parte de los programas: qu tan En Chile, las Evaluaciones de Programas Guber-
efectivos han sido en el corto, mediano y largo namentales (EPG) dependen de la Direccin de
plazo, si han alcanzado sus metas de manera efi- Presupuestos (DIPRES) y han sido adelantadas
ciente y si hay mejores alternativas de conseguir desde 1997. Las EPG tienen como objetivo dis-
estos resultados con menos recursos. As mismo, poner de informacin que apoye la gestin de los
institucionalizan los esfuerzos de monitoreo y programas pblicos y el anlisis de resultados en
evaluacin que se hagan y sistematizan los ejer- el proceso de asignacin de recursos pblicos2.
cicios de identificacin, diseo, implementacin En Estados Unidos, se encuentra el Program As-
y uso de los diferentes tipos de evaluacin en sessment Rating Tool (PART) desarrollado por la
los niveles nacional, local y sectorial. Office of Management and Budget (OMB). sta es
una herramienta de diagnstico creada en 2002
Con la evolucin de la demanda por evaluar para los programas federales que, mediante un
cada vez ms programas, surgi la necesidad cuestionario cerrado, evala el desempeo de
de tener una evaluacin rpida que permitiera los programas y propone ajustes3. En Mxico, el
tener una visin general del programa en un Consejo Nacional de Evaluacin de la Poltica de
perodo corto de tiempo. La Evaluacin Ejecu- Desarrollo Social (CONEVAL) es la entidad res-
tiva (E2), se dise en la DSEPP y se aplic a 17 ponsable de las evaluaciones de los programas
programas entre 2007 y 2011. A partir de estas federales. En 2007 empez a implementar la
experiencias piloto y el anlisis detallado de estas Evaluacin de Consistencia y Resultados, cuyo
evaluaciones1, se obtuvieron lecciones tanto de objetivo es tener un diagnstico sobre la capa-
forma como de fondo (gracias a la contribucin cidad institucional, organizacional y de gestin
de los diversos consultores que participaron en de los programas hacia resultados4.
su desarrollo y del equipo de la DSEPP), lo que
ha permitido replantear ciertos aspectos del tipo La E2+ se cre con la intencin de generar in-
de evaluacin que se presenta a continuacin, formacin oportuna y pertinente para que las
transformando la E2 en la E2+. entidades, tanto las ejecutoras como las que
1 El autor analiz 8 informes de E2 realizadas en 2009, teniendo en cuenta aspectos como la calidad de los reportes, la pertinencia
de los insumos utilizados, el acompaamiento y supervisin por parte de la DEPP y la calidad de las recomendaciones. En general
se observ que son informes muy completos, sin embargo su estructura rgida no permite que se entienda de manera tan clara el
concepto integral que da el consultor acerca del programa.
2 Ver pgina web Dipres, Chile: http://www.dipres.gob.cl/572/article-37369.html
3 Ver pgina web: http://www.whitehouse.gov/omb/.
4 Ver pgina web: http://www.coneval.gob.mx/cmsconeval/rw/pages/evaluacion/evaluaciones/consistencia/index.es.do
49
Gua para la Evaluacin de Polticas Pblicas
asignan los recursos, tomen decisiones sobre Los usuarios estn satisfechos con los pro-
ajustes a los programas en el corto plazo e in- ductos/servicios entregados?
crementen la eficiencia y eficacia de la ejecucin
de las polticas pblicas. Se espera con este tipo Es pertinente seguir financiando el programa
de evaluacin: o algunos de sus componentes?
Encontrar los cuellos de botella del programa Ser un proceso analtico ms global e
en la cadena de resultados y en la cadena de integrado.
entrega de los productos y servicios.
Permitir ordenar la estructura operativa
Generar unas recomendaciones acerca de y establecer relaciones de causalidad
cmo perfeccionar el diseo y los procesos entre los insumos, procesos, productos
del programa. y resultados de corto plazo del pro
grama.
Evaluar el grado de satisfaccin del benefi-
ciario o cliente del programa. Realizar un anlisis de la eficiencia,
eficacia y calidad del programa.
As mismo, es importante conocer sus limitaciones.
La evaluacin ejecutiva no permite: b. Las E2+ se diferencian de las evaluaciones
de impacto por:
Probar estadsticamente si el programa caus
el resultado o atribuir resultados exclusiva- Distinguir entre un error de diseo y
mente a la intervencin. un error de implementacin al analizar
un programa.
Analizar resultados de mediano y largo plazo
(impactos). Determinar los cuellos de botella entre
los insumos, procesos, productos y
Considerando lo anterior, esta evaluacin res- resultados.
ponde (entre otras) a las siguientes preguntas:
Ser una herramienta ms flexible que
Cul es el desempeo general del programa? permite tomar decisiones en el corto
plazo.
Se encuentra la implementacin del programa
acorde con su diseo? No llegar a conclusiones metodolgi-
camente robustas sobre los resultados
Cul es la relacin de causalidad entre los y los impactos de los programas.
diferentes componentes del programa? Cul
es la cadena de resultados (o valor) del pro- No establecer relaciones de causalidad
grama? entre el desempeo de las intervencio-
nes y los cambios en las condiciones
Cul es la cadena de entrega del programa? y comportamientos observados en los
Dnde estn los cuellos de botella en la beneficiarios y en las comunidades.
cadena de entrega de cada uno de los pro-
ductos/servicios?
50
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
5 Definido por el glosario de la OECD (2002) como una: Funcin continua que utiliza una recopilacin sistemtica de datos sobre
indicadores especificados para proporcionar a los administradores y a las partes interesadas principales de una intervencin para el
desarrollo, indicaciones sobre el avance y el logro de los objetivos as como de la utilizacin de los fondos asignados. El seguimiento
hace un levantamiento permanente de informacin de indicadores, que pueden ser de gestin, producto o resultado.
51
Gua para la Evaluacin de Polticas Pblicas
6 Las consultoras desarrolladas para llevar a cabo una E2 tenan como requisito adems de los tres informes, entregar un concepto
acerca de la herramienta utilizada.
7 Adems de las recomendaciones de los consultores acerca de la herramienta, se hizo un estudio detallado de 8 E2 realizadas en
2009, en el cul se observ la calidad de los reportes, la pertinencia de los insumos, as como el acompaamiento y supervisin a las
recomendaciones.
8 rea territorial que cubre el programa. Aun cuando el programa tenga previsto tener una presencia nacional, actualmente puede estar
ejecutndose nicamente en parte del territorio.
9 Tiempo total durante el cual el programa ha estado y estar siendo ejecutado. Dependiendo de sus objetivos y naturaleza, el programa
puede haberse diseado sin plazo de trmino, o bien tener un horizonte definido de funcionamiento. Ej.: 1998- 2006.
52
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
ste debe ser corto y conciso. Se requiere que el Estimar el nivel efectivo de cumplimiento
consultor haga explcita referencia a las fuentes de de las actividades de acuerdo con las metas
informacin (evidencia y soportes) que sustentan fijadas al momento del diseo del programa.
sus interpretaciones.
Determinar el nivel de produccin de cada
Descripcin general. bien y/o servicio, cuantificar los bienes y/o
servicios entregados.
Cadena de resultados del programa construida
de manera detallada. Establecer el nivel efectivo de cumplimiento
de las metas establecidas para la produccin
Concepto integral del programa, de cada una de los bienes y/o servicios.
de las etapas (insumos, procesos, productos
y resultados) y su articulacin. Sealar los organismos responsables y las
modalidades de produccin o formas de
4.2.2 Anlisis de eficacia proveer los bienes y/o servicios.
10 OECD (2002).
11 Barber (2009).
12 Ibdem.
53
Gua para la Evaluacin de Polticas Pblicas
Estimar los tiempos y recursos necesarios Cmo se compara la eficiencia de este pro-
para llevar a cabo cada uno de los pasos a lo grama con otros de objetivos y propsitos
largo de la cadena de entrega de los bienes similares (tanto pblicos como privados y
y/o servicios del programa. comunitarios)?
Constatar si el programa cuenta con activi- Tiene el programa por lo menos un indica-
dades de evaluacin y control. dor de eficiencia, con lnea de base, metas y
cronograma definidos?
4.2.2.2 El producto
Tiene el programa un conocimiento detalla-
Se debe adjuntar la cadena de entrega detallada do de todos los costos directos e indirectos
de cada uno de los bienes y/o servicios de la in- indispensables para el cumplimento de las
tervencin, los indicadores de cumplimiento de metas planteadas?
actividades y productos prioritarios, los mapas de
flujo del programa y los cuellos de botella que Cmo se compara la eficiencia de este pro-
se encuentran en cada etapa para cada bien y/o grama en la produccin de los componentes
servicio analizado. especficos con otros de objetivos y propsitos
similares (tanto pblicos como privados y
4.2.3 Anlisis de eficiencia comunitarios)?
13 OECD (2002).
14 DEPP, DNP (2006).
15 Se deben incorporar los tems considerados y los supuestos utilizados en las estimaciones.n incorporar los tems considerados y los
supuestos utilizados en las estimaciones.
54
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Actualizada
Organizada
(documento oficiales
Disponible
Completa
documental
del programa,
(entrevistas,
Tema Subtema Calidad datos del sistema
talleres,
de informacin
levantamiento
documentos fuente
directo)
secundaria)
Diseo del programa 0%
Justificacin
Poltica sectorial e intitucional
Descripcin general
Objetivo a nivel de fin
Objetivos a nivel de propsito
Poblacin objetivo
Cadena de resultados
Descripcin de los insumos (desagregar ppales.
Insumos)
Insumos financieros
Insumo 1...
Visin general
Insumo 2...
Insumos no financieros
Insumo 1...
Insumo 2...
Descripcin de los procesos (desagregar ppales,
procesos)
Actividad 1...
Descripcin de los productos (desagragar ppales,
productos)
Producto 1...
Descripcin de los resultados (desagregar ppales,
resultados)
Resultado 1...
Eficacia
Cumplimiento de las actividades
Metas de produccin de bienes y servicios
Nivel de produccin de cada bien y/o servicio,
disponibilidad de indicadores
Modalidades de produccin y responsables
55
Gua para la Evaluacin de Polticas Pblicas
Por ejemplo
2012
Componente 1
Componente 2
Componente 3
Fuente:
Componente 1
Componente 2
Componente 3
Fuente:
Ao Costo Total Componentes por Beneficiario18 Costo Total Programa por Beneficiario19
2002
2003
2004
2005
Fuente:
56
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
4.2.4 Calidad de los bienes y/o servicios El anlisis de calidad de los productos, tanto vis-
to por el lado de la oferta como de la demanda,
Adems del anlisis de la oferta del programa, contrasta la informacin del programa con las
es importante tener un anlisis de percepcin experiencias y prioridades de los participantes
de la demanda. ste permite completar la visin (personal del programa y otros actores interesados)
general del programa, de lo que pasa realmente lo que posibilita ver el programa y su marco general
en el terreno y de los potenciales resultados e a travs de los ojos de los grupos afectados y de
impactos que el programa va a generar. las personas involucradas su implementacin21.
El anlisis debe ser representativo de los bene- Reporte desde el punto de vista de la oferta
ficiarios del programa, con el objeto de extraer de productos y resultados generados por el
conclusiones generalizables. Se pueden utilizar programa: basado en informacin secunda-
medios que no resulten costosos como las entre- ria e indicadores de calidad de los bienes y
vistas por telfono, correo electrnico o pginas servicios.
web. stas deben ser cortas (mximo 10 pregun-
tas) y se deben circunscribir al entendimiento Reporte desde el punto de vista de la deman-
del programa, de su objetivo, entre otros, lo que da de los productos y resultados generados
permite tener informacin de manera relativa- por el programa: encuestas a los beneficiarios
mente rpida. para estudio de percepcin del programa. El
universo entrevistado debe ser representa-
Estas encuestas pueden suplementarse con m- tivo. Anlisis de satisfaccin de los clientes
todos cualitativos de investigacin como grupos de los bienes y/o servicios entregados por el
focales. programa.
Esta informacin directa se complementa con la Las recomendaciones deben dar un concepto
informacin disponible que tenga el programa integral acerca del programa y proponer una l-
acerca de sus resultados, abarcando temas como: nea de planeacin estratgica en un perodo de
metas e indicadores de cobertura efectiva, cali- tiempo entre corto y mediano plazo para tomar
dad y oportunidad de los bienes y/o servicios, acciones correctivas. Con base en el anlisis
uso de los bienes y/o servicios por parte de los realizado, el consultor llena un formato de cali-
beneficiarios y resultados. ficacin de los principales aspectos encontrados
en el anlisis del programa. Posteriormente, se
57
Gua para la Evaluacin de Polticas Pblicas
preparan y relacionan planes especficos funcio- con la tabla de informacin disponible: la visin
nales para mostrar los detalles de cmo se debe general (diseo y cadena de resultados), eficacia
implementar la estrategia para lograr objetivos, y eficiencia (cadena de entrega), y calidad (por
misiones y propsitos del programa en el trmi- parte de la oferta y de la demanda), para generar
no recomendado. Es importante que el consultor sus recomendaciones. stas deben ceirse a los
vincule los tres productos y sus temas en conjunto temas tratados en el documento.
Formato de calificacin
EVALUACIN EJECUTIVA (E2+) Sinerga
Puntaje
1 2 3 4
En esta seccin se debe realizar un juicio valorativo fundado en cada uno de los temas que se analizan en los diferentes mbitos de la evaluacin. Para cada una
de las reas de Evaluacin se ha definido un nmero limitado de preguntas, las cuales se agregan en subtemas y temas. Cada pregunta debe basar su puntaje en la
deficiencias
Problemas
informacin de soporte includa en los informes, el consultor deber llevar a cabo un anlisis detallado de las razones que justifican la calificacin de 1 para serias
Muy bien
Serias
deficiencias, 2 problemas, 3 bien y 4 muy bien, en cada caso.
Bien
Temas Subtemas de Puntaje
Preguntas Puntaje preguntas
de evaluacin evaluacin subtema
Se ajustan los bienes y servicios del programa a sus objetivos (fines y propsitos)?
Diseo del
programa Tiene el programa beneficiarios objetivo claramente definidos y afectados por el problema, necesidad
o inters?
Reflejan los criterios de uso, asignacin y distribucin de insumos los objetivos estratgicos del programa?
Diseo del
Tiene el programa los recursos financieros necesarios para su operacin y sostenibilidad en el tiempo?
programa
Cuenta el programa con insumos no financieros suficientes, adecuados y de calidad para realizar las
actividades planeadas?
Cadena de Cuenta el programa con una buena planeacin operativa?
resultados
Tiene el programa un sistema de informacin adecuado?
Cuenta el programa con criterios y mecanismos operativamente eficientes para su seleccin, priorizacin
y focalizacin de los beneficiarios objetivo?
Cuenta el programa con mecanismos y criterios para la mejora de los bienes y servicios?
Es efectivo el programa en el cumplimiento de las metas establecidas para la produccin de los bienes
y/o servicios?
Eficacia
Estn integradas y articuladas las actividades entre si para el buen desarrollo de la operacin y resolucin
y Efectividad
de los cuellos botella en su gestin?
Son los tiempos y recurso los necesarios para llevar a cabo cada uno de los pasos a lo largo de la cadena
de entrega de los bienes y/o servicios entregados?
REA 3: CALIDAD
58
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Tener una lista de las recomendaciones prio- El evaluador debe incorporar en el plan de
rizadas. accin cada recomendacin aceptada y las
que no, justificarlas.
Manejar un proceso para discutir las reco-
mendaciones realizadas por los consultores Finalmente, se debe decidir si las recomen-
con los actores involucrados. daciones se hacen pblicas o no para hacer
su seguimiento.
59
CAPTULO V
Captulo V
Evaluacin de resultados
Zadiraka Evgenii
La evaluacin de resultados (outcome evalua- finiciones con el objeto de que estos trminos
tion) es un tipo de evaluacin que se utiliza para queden claros en el desarrollo de la gua1.
estudiar los cambios en las condiciones de los
beneficiarios como consecuencia (directa o indi- Tipos de Indicadores
recta, atribuible o no) de los productos entregados
por una intervencin en un horizonte de corto y
mediano plazo. Indicador de gestin: mide procesos, accio-
nes y operaciones adelantados dentro de la
La palabra resultado, en su concepcin bsica etapa de implementacin de una poltica,
se asemeja a un efecto o consecuencia. Cuando programa o proyecto.
se habla de resultado en un programa se puede
definir de la siguiente manera: Indicador de producto: refleja los bienes
y servicios cuantificables producidos y/o
Beneficios o cambios en los individuos o pobla- aprovisionados directamente por una po-
ciones durante su participacin o despus de su ltica, programa o proyecto.
participacin en las actividades del programa.
Los resultados se encuentran bajo la influencia Indicador de efecto: muestra los efectos
de los productos de un programa y se pueden generados por los productos de una de-
relacionar con el comportamiento, habilidades, terminada poltica, programa o proyecto
conocimiento, actitudes, valores, condiciones u sobre la poblacin directamente afectada.
otros atributos. (United Way of America, 1996). Teniendo en cuenta la temporalidad en la
cual se presentan los efectos (corto, mediano
Para medir los procesos de planeacin de las o largo plazo) y los criterios de causalidad
entidades se utilizan herramientas como los entre la intervencin y stos (directos o
indicadores de gestin, producto, resultado e indirectos) se puede dividir esta categora
impacto. En general, los primeros se utilizan entre indicadores de resultado e impacto.
cuando se hace un seguimiento operativo al
proceso de implementacin, mientras que los
tres ltimos se encargan de evaluar el avance
en el nivel estratgico del programa. De acuerdo 5.1 Caractersticas y Usos
con la necesidad que se tenga de informacin
del programa, se recurre a uno u otro tipo de Los objetivos de una evaluacin de resultados
indicador. A continuacin se presentan sus de- son:
63
Gua para la Evaluacin de Polticas Pblicas
Concluir a partir de su anlisis lo que se debe Una evaluacin de resultados puede llegar a
cambiar en la intervencin para mejorar el utilizar tanto indicadores de producto como
resultado, puesto que pueden haber cuellos de resultado, especialmente si se quiere
de botella en las otras etapas del programa explicar cul es el origen de estos.
(ej: desarrollo de procesos, entrega de pro-
ductos) que no necesariamente se analizan
con una evaluacin de este tipo. Por ejemplo
Qu tan efectivo fue el programa en lograr En el largo plazo los impactos pueden
sus objetivos de corto y mediano plazo? responder a preguntas sobre cambios
en valores, condiciones y estatus.
Cul es la dinmica de los indicadores aso-
ciados a la medicin de los resultados de la
intervencin?
64
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
b. En un programa que aconseja a las fa- poltica pblica a evaluar se ha completado, de tal
milias para que mejoren la calidad de su forma que los bienes y servicios ya se han empe-
alimentacin, los productos, resultados zado a entregar a los beneficiarios. Sin embargo,
e impactos esperados seran: para poder establecer el grado de avance de los
efectos de la intervencin, es importante tener
Productos: nmero de reuniones realiza- mediciones de indicadores de los beneficiarios
das; nmero de familias aconsejadas. antes de su inicio.
Resultados o efectos de corto plazo: ali- Con una herramienta como el seguimiento5, se
mentos ms nutritivos incluidos en los puede realizar el levantamiento continuo de
productos de su canasta familiar bsica, informacin de indicadores de gestin, produc-
que antes no consuman. tos, resultados e impactos. Tanto el seguimiento
como la evaluacin son elementos clave en la
Resultados o efectos de mediano plazo: gestin, sin embargo, hacen sus contribuciones
la familia tiene una mejor alimentacin. en diferentes formas y momentos del tiempo6:
5 Definido por el glosario de la OECD (2002) como una: Funcin continua que utiliza una recopilacin sistemtica de datos sobre
indicadores especificados para proporcionar a los administradores y a las partes interesadas principales de una intervencin para el
desarrollo, indicaciones sobre el avance y el logro de los objetivos as como de la utilizacin de los fondos asignados.
6 Morra y Rist (2009).
65
Gua para la Evaluacin de Polticas Pblicas
Se centra en las modificaciones de los com- Despus de que se aclaran los objetivos y el
portamientos y contextos relacionados con el alcance de la evaluacin se pasa a la etapa de
ente o poblacin beneficiaria de los productos planeacin y diseo de sta, en donde se definen
entregados por la poltica pblica. los resultados a medir, sus metas y se construyen
indicadores apropiados para medir los cambios
Especifica los esfuerzos de las instituciones generados por el programa en los beneficiarios.
y de las partes interesadas en el proceso de Los pasos que se recomienda seguir son9:
intervencin.
Identificar los resultados esperados del pro-
No slo expone el aumento o disminucin grama o poltica que se va a evaluar.
de los indicadores, sino que incorpora en el
anlisis el comportamiento de las instituciones Priorizar estos resultados para determinar
o agentes involucrados en la poltica pblica. cules se van a medir y analizar, con los re-
Para esto debe contar con informacin reco- cursos disponibles.
lectada peridicamente.
Especificar medidas observables o indicadores
Su costo es moderado y su ejecucin es re- de efecto para cada resultado construccin
lativamente veloz. de indicadores.
66
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Identificar la informacin necesaria para medir Como se mencion, este tipo de evaluacin debe
estos indicadores e identificar cmo puede tener en cuenta la necesidad de medir los pro-
ser recolectada. gresos realizados en relacin con los resultados
(directos o indirectos) esperados y verificar si
Analizar y reportar los resultados. se han alcanzado. Por esta razn, es importante
que para cada resultado a evaluar se puedan
Usar los resultados. construir indicadores que capturen dinmicas
observables. Esta parte es decisiva en la evalua-
5.2.1 Identificar los resultados esperados cin de resultados, pues se pasa de una misin y
unos objetivos a veces intangibles o difciles de
Los resultados se pueden identificar segn los cuantificar, a unos indicadores con actividades
objetivos que haya fijado el programa a evaluar. asociadas monitoreables.
El objetivo general debe indicar los efectos de
largo plazo a los que se quiere llegar con la inter- Una de las metodologas existentes que relacio-
vencin y los objetivos especficos, los efectos nan los objetivos y los indicadores es conocida
de corto y mediano plazo. como SMART; sta plantea que los objetivos
deben ser especficos, medibles, realizables,
Tambin se puede deducir cules son los resul- pertinentes y con plazos definidos para su cum-
tados esperados partiendo de las principales plimiento.
actividades planteadas.
Objetivos SMART
En principio, el programa debe tener establecidos
sus resultados esperados al empezar en su etapa
de diseo. Si esto ocurre y el programa presenta Specific (Especfico): el objetivo debe ser
metas, indicadores y un sistema de informacin S preciso sobre cmo, dnde y cundo va a
peridica para alimentarlos, el evaluador tendra cambiar la situacin de los beneficiarios.
que analizar estos elementos y priorizar con los
Measurable (Medible): el objetivo debe
actores involucrados los resultados que se van
M establecer metas y beneficios que se
a evaluar.
puedan medir.
Sin embargo, es posible que algunos de estos
pasos se hayan obviado en el diseo del pro- Achievable (Realizable): El objetivo debe
A
grama, por lo que el evaluador, en conjunto con poderse cumplir.
los actores involucrados, deber reconstruirlos.
67
Gua para la Evaluacin de Polticas Pblicas
68
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
69
Gua para la Evaluacin de Polticas Pblicas
Tipos de variables
Para hacer una evaluacin de resultados se puede dirigido a jvenes desempleados Sisbn 1 y 2 de
utilizar el mtodo Antes Despus (Before-After siete reas metropolitanas: Bogot, Medelln, Cali,
study) que requiere tener datos antes y despus Barranquilla, Bucaramanga, Manizales y Cartagena.
de la intervencin, pero slo para el grupo de Este programa tena como objetivo contribuir a
beneficiarios. Este mtodo permite hacer compara- mejorar los niveles y la calidad del empleo de los
ciones a lo largo del tiempo y anlisis transversales beneficiarios a travs de acciones de formacin
con posterioridad al proyecto. Los resultados se para el trabajo que incluyeron formacin laboral
obtienen hallando la diferencia entre el valor de para un oficio y prcticas laborales en empresas
las variables antes y despus de la intervencin. formalmente constituidas. Estas acciones esta-
Su debilidad es que al eliminar la comparacin ban dirigidas a incrementar la empleabilidad y,
al inicio del programa se debe suponer que no en consecuencia, las posibilidades de insercin
existi otro factor que pudo haber modificado el laboral y social de los jvenes beneficiarios del
comportamiento de los beneficiarios a lo largo programa.
del tiempo de intervencin del programa.
La formacin se llevara a cabo por entidades
Cuando no se tienen los datos del antes y despus, de capacitacin (ECAP)14 que desarrollaran la
se pueden utilizar modelos de corte transversal fase lectiva con duracin de tres meses y haran
como: modelos de probabilidad o regresiones los arreglos para una fase prctica, de otros tres
lineales que dan cuenta de los indicadores defi- meses de duracin, en empresas seleccionadas.
nidos pero solamente en el momento en el cual De esta manera, se esperaba que tanto los jve-
se levanta la informacin. nes beneficiarios como las ECAP se acercaran al
entorno empresarial.
Aplicacin de las herramientas:
Estudio de caso Identificar los resultados del programa o poltica
a evaluar
El programa13
Estos son los principales resultados que se
El programa Jvenes en Accin (JeA) fue uno de queran lograr con el programa Jvenes en
los componentes de la Red de Apoyo Social (RAS) Accin:
13 Informe anlisis de resultados de las primeras convocatorias de programa Jvenes en Accin. Consultora para la evaluacin de
impacto del Subprograma Jvenes en Accin. Unin Temporal IFS Econometra S.A. SEI, junio de 2004.
14 Las ECAP son entidades pblicas o privadas que preparan, presentan y ejecutan los cursos de formacin laboral, financiados por el
Programa en los trminos, condiciones y plazos establecidos en cada una de las convocatorias.
70
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Desarrollar en los jvenes habilidades bsi- obstculos para acceder al mercado de trabajo
cas para el trabajo y especficas en un oficio y a un mundo donde el joven por su condicin
dado, hasta alcanzar el nivel de trabajador social se senta totalmente excluido).
semi-calificado.
Jvenes que tienen expectativas de continuar
Promover el desarrollo de habilidades bsicas, con su educacin formal o de tomar capaci-
sociales y comunicativas del joven que me- taciones adicionales.
joren su capacidad de vinculacin al trabajo
y su desempeo laboral. Para el resultado b) Mejorar su capacidad de
vinculacin al trabajo y desempeo laboral, se
Fortalecer la oferta de formacin laboral con utilizaron los siguientes indicadores:
base en la demanda de los sectores produc-
tivos y las caractersticas y expectativas de Vinculacin al mercado de trabajo: proporcin
los jvenes beneficiarios. de jvenes que han conseguido empleo antes
y despus del programa (empleabilidad).
Para cada resultado especificar medidas
observables o indicadores de resultado Tiempo que dur buscando empleo: tiempo
de espera para conseguir un trabajo antes y
Las variables objeto de anlisis tuvieron en cuenta despus del programa.
las caractersticas de los jvenes, as como el tipo
de ECAPs y empresas donde hicieron la capa- Condiciones laborales de enganche en empleos
citacin. Para la caracterizacin de los jvenes posteriores a la capacitacin: tipo de empleo
egresados se tuvieron en cuenta: (formal o informal), asalariado o independien-
te, etc.
Sexo, edad, nivel educativo, responsabilida-
des, capacitaciones anteriores y experiencia Nivel de ingresos: salario antes y despus de
laboral. la participacin en el programa.
Posteriormente, para evaluar los cambios que se Tiempo de enganche y duracin de empleos
dieron en los jvenes gracias al programa, en el posteriores a la capacitacin.
resultado a) Desarrollar habilidades bsicas y
cambios o logros que reportan los beneficiarios, Para el resultado c) Fortalecer la oferta de ca-
se plantearon los siguientes indicadores: pacitacin laboral, se utilizaron los siguientes
indicadores:
Jvenes que consideran que han desarrolla-
do habilidades de comunicacin gracias al Nmero de empresas con las que las ECAP
programa. hacen acuerdos de prctica laboral.
Jvenes que consideran que mejor su au- Nmero de ECAPs que han actualizado los
toestima. perfiles ocupacionales tras la concertacin
con las empresas.
Jvenes que consideran que fortalecieron su
capacidad para relacionarse. Nmero de ECAPs que han incorporado nue-
vas metodologas pedaggicas y la prctica
Jvenes que tienen inters en continuar o laboral como parte de la formacin.
profundizar la capacitacin recibida.
Nmero de ECAPs que han dado un nfasis
Jvenes que consideran que su comporta- a la formacin humana y a las competencias
miento cambi (lo cual les permite superar los bsicas del trabajador.
71
Gua para la Evaluacin de Polticas Pblicas
Percepcin de las ECAP respecto a si encuen- de un diseo muestral estratificado por tipo de
tran que han experimentado algn nivel de empresa (segn sector econmico y tamao).
fortalecimiento a partir de su participacin
en el programa. El anlisis de la informacin cuantitativa sigui
una metodologa que permiti obtener resulta-
Percepciones generales sobre el programa, dos basados en la muestra completa de todas las
motivaciones y expectativas de trabajo. convocatorias consideradas, se utiliz un diseo
estratificado de elementos. La estratificacin para
Fijar una meta para estos indicadores los jvenes consisti en una clasificacin por
convocatoria en la que participaron, por grupos
En este aparte es necesario observar las metas de ECAPs segn tipo, por clase de capacitacin
que tena el programa Jvenes en Accin en los recibida, por tipo de empresa donde se hizo la
indicadores planteados para lograr los resultados prctica y por nivel de educacin previa. Se busc
a), b) y c) y si stas eran numricas concretas o una representatividad proporcional segn estas
si simplemente aluden a mejorar la situacin de variables, con probabilidad igual de seleccin.
los beneficiarios del programa en cada uno de En esta etapa del trabajo se enfatiz en los re-
estos aspectos. sultados y no en el impacto del programa, por lo
que no se compara la situacin de estos jvenes
Identificar la informacin necesaria para medir con un grupo de control, aunque s se trata de
estos indicadores e identificar cmo puede ser hacer comparaciones con algn referente y con
recolectada la situacin anterior a la exposicin a JeA, de
manera que se puedan intuir algunos posibles
La informacin necesaria se obtuvo a travs de resultados. Sin embargo, como se menciona en
encuestas estructuradas de tipo cuantitativo que los puntos anteriores, en una evaluacin de re-
se hicieron a jvenes egresados, ECAPs y empre- sultados no se puede, en rigor, atribuir los efectos
sas. La informacin de tipo cualitativo por medio con certeza al programa mismo ya que tambin
de entrevistas y grupos focales con los tres tipos podran deberse a causas diferentes que no estn
de actores del programa. Adems se recogieron siendo controladas.
resultados basados en la informacin existente
en las bases de datos de JeA, as como en otros El componente cualitativo requiri de informacin
estudios y evaluaciones existentes. primaria detallada para el anlisis de los resulta-
dos de las primeras convocatorias del programa,
Para la recoleccin de la informacin cuantitativa que se recolect a partir de la conduccin de 18
se disearon encuestas estructuradas para los tres grupos focales con jvenes, 11 con ECAPs y 9 con
agentes involucrados en el programa: Jvenes, empresas; 12 entrevistas con ECAPs y 6 estudios
ECAPs y empresas, stas fueron aplicadas durante de caso con empresas, todos ellos en las reas
el mes de diciembre del 2003. Para los jvenes, metropolitanas de Bogot, Medelln y Cartage-
la muestra estadstica incluy egresados de las na. Se prepararon instrumentos especialmente
primeras convocatorias que en el momento de diseados tanto para la obtencin, organizacin
la encuesta tenan entre 6 y 18 meses fuera del y presentacin de la informacin. sta se obtuvo
programa - segn la convocatoria a la cual asistie- aplicando metodologas de investigacin social
ron. Se encuestaron de manera presencial a 1.037 dirigidas a explorar, describir y explicar aspec-
personas. En cuanto a las ECAP, se encuest el uni- tos seleccionados de carcter sociolgico en el
verso de instituciones que impartieron cursos en contexto de JeA. Se busc comprender ciertos
alguna convocatoria realizada. Para las empresas, hechos y el significado que los protagonistas les
inicialmente se haba diseado un esquema de atribuan a ellos. Con los resultados se espera
encuesta para ser aplicado telefnicamente pero facilitar la comprensin de los procesos e inte-
se opt por hacerlo con visitas presenciales. Se racciones sociales, pero no se pretende hacer
obtuvieron 686 encuestas efectivas provenientes generalizaciones sobre un hallazgo sino ms bien
72
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
profundizar en sus dinmicas e implicaciones. Todos los actores participantes del programa
De esta manera, utilizando como insumo bsico coincidieron en que un resultado del mismo
la percepcin de los actores sociales sobre su es el cambio que opera en los jvenes con
experiencia y el sentido que le asignan a sta, su paso por JeA. La formacin en diferentes
se espera encontrar hallazgos que contribuyan temas de desarrollo personal (proyecto de
a una mejor toma de decisiones. vida) logr mejoras en sus habilidades de
comunicacin, autoestima y comportamientos,
Analizar y reportar los resultados lo cual les permiti superar obstculos para
acceder al mercado de trabajo y a un mundo
Tanto los jvenes, como las ECAP y las empresas del cual el joven, por su condicin social, se
coincidieron en identificar como principal resul- senta totalmente excluido.
tado del programa el cambio que se dio en los
jvenes a raz de su paso por ste. Los egresa- Mejorar su capacidad de vinculacin al tra-
dos, adems de adquirir conocimientos que les bajo: JeA se constituy en parte del proceso
sirven para el trabajo, recibieron capacitacin formativo de los beneficiarios que deseaban
y formacin en diferentes temas de desarrollo seguir educandose. Por esta razon, se resalta
personal que JeA aglomeraba bajo el nombre de el efecto de integracin social que produjo el
proyecto de vida. programa, llegando a sectores de la poblacin
que necesitaban del apoyo de la Sociedad
Cobertura de JeA: Los beneficiarios de las para vencer los obstculos que a este respecto
primeras convocatorias de JeA representa- confrontan. Por otro lado, para la gran mayora,
ron un 93% de los jvenes Sisben 1 y 2. Los casi un 90% de los beneficiarios de JeA, la
mayores ndices de cobertura se presentaron prctica laboral fue su primera experiencia
en Manizales y los menores en Barranquilla. con un trabajo formal. La labor de introduccin
Entre las caractersticas de los jvenes vale al mercado formal de trabajo fue uno de los
la pena destacar mayor presencia relativa principales resultados de JeA.
de mujeres, y entre ellas de aquellas con
hijos, entre los beneficiarios de 18 a 25 aos. Los principales aspectos analizados con res-
Cabe subrayar que el rasgo de cobertura ms pecto a la empleabilidad fueron la proba-
significativo se da por el nivel educativo de bilidad de emplearse, los tipos de empleo,
los beneficiarios del programa, 75% de los los salarios y la duracin de empleo. Se
cuales tiene educacin secundaria completa encontraron tres aspectos en los cuales la
mientras que para la poblacin objetivo de empleabilidad mejor, particularmente en
JeA, jvenes Sisben 1 y 2, solamente el 10% el caso de los hombres.
cuenta con secundaria completa o ms estu-
dios. Esto apunta a que el proceso de alguna Los resultados encontrados respecto a la
manera present autoseleccin de los ms probabilidad de emplearse mostraron que
educados, bien sea por las preferencias por un 40% de los beneficiarios se encontraban
parte de los jvenes, la seleccin de las ECAP empleados al momento de la encuesta. Sin
o las condiciones del mercado de trabajo. embargo, debe tenerse en cuenta que la co-
yuntura del mercado laboral para personas
Desarrollar habilidades bsicas en los jvenes: similares que no asistieron a JeA tampoco
Los jvenes comentaron que despus de fue estimulante. Frente a estos ltimos, los
JeA conocieron nuevas posibilidades para egresados del programa presentan una situa-
continuar capacitndose o estudiando, lo cin igual a la del total de jovenes de 18-25
cual se confirm al observar el nmero de aos. En general, la proporcin de benefi-
beneficiarios que efectivamente han hecho ciarios que consiguieron empleo fue mayor
nuevos cursos en el corto tiempo transcurrido despus de egresados (55,45%) que antes
despus de haber completado JeA. (51,78%), aunque esta relacin se observ
73
Gua para la Evaluacin de Polticas Pblicas
tanto para hombres como para mujeres fue salarial de corto plazo al programa, esto slo
significativamente mayor para los hombres. se podr corroborar con certidumbre en la
Adicionalmente, fue significativa en una de evaluacin de impacto.
las siete reas metropolitanas y para los
jvenes que tienen secundaria completa. Finalmente, en otros aspectos de la empleabi-
Un 42,6% de los jvenes consigui empleo lidad, resulta aparente que el tiempo de espera
durante los primeros seis meses despus de para conseguir un trabajo es razonablemente
salir del programa. Esta proporcin fue mucho corto mientras que la permanencia media en
mayor para los hombres (58,9%) que para las sus trabajos, los cuales generalmente son
mujeres (36,1%). temporales, es del orden de los seis meses.
74
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
tuvo el efecto de ampliar su red de relaciones diseo y la operacin de las siguientes convo-
empresariales. El mecanismo de la prctica catorias de JeA. Tambin sirvieron de insumo
laboral obligatoria como requisito para la para afinar el levantamiento de la informacin
formulacin de sus propuestas a JeA, fue el inicial para la evaluacin de impacto de la cuarta
estmulo concreto que les llev a intensificar convocatoria.
tales relaciones.
En trminos de la operacion regular del progra-
Parece entonces existir consenso de que tan- ma se recomend una mejora en los medios de
to las ECAP con nuevos programas como las comunicacin utilizados hasta el momento, o la
ECAP existentes que adaptaron sus programas, utilizacin de nuevos mecanismos para dar una
adems de contribuir a una ampliacin de la mayor cobertura a la informacin sobre la oferta
oferta, se fortalecieron en aspectos que inci- de cursos, para que los jvenes pudieran elegir
den en la calidad como son la actualizacin el curso que ms se ajustara a sus preferencias
de los perfiles ocupacionales por efecto de y un incremento en la asistencia de orientacin
la concertacin con las empresas, la incorpo- profesional a los jvenes participantes, princi-
racin de nuevas metodologas pedaggicas, palmente por parte de las ECAP.
la adopcin de la prctica laboral como parte
de la formacin y el nfasis en la formacin Otra leccin que se desprendo de este anlisis
humana y en las competencias bsicas del fue la conveniencia de que el sistema de infor-
trabajador. macin de JeA se complementara con un sistema
de autoevaluacin continua. Las experiencias y
Uso de los resultados enseanzas que sugirieron los resultados del
estudio indicaron la importancia de aprovechar-
Se esperaba que los resultados que se presen- las correctamente para el perfeccionamiento del
taron en el informe fueran utilizados para el programa.
75
CAPTULO VI
Captulo VI
Evaluacin de impacto
Kavram
La evaluacin de impacto estudia si los cambios Identificar efectos no previstos en los bene-
en el bienestar son efectivamente debidos a la ficiarios, ya sean positivos o negativos.
intervencin y no a otros factores (Khandker, S.
Koolwal, G & Samad, H., 2010). Para lo cual responde, entre otras, a las siguientes
preguntas:
La evaluacin de impacto es una evaluacin
ex-post, es decir, posterior a la ejecucin del Qu le habra pasado a los beneficiarios de
programa, pues los impactos de un programa se la intervencin si el programa no hubiese
observan determinado tiempo despus de su existido?
implementacin.
Qu tanto de los efectos sobre los benefi-
La evaluacin de impacto es un tipo de evaluacin ciarios se le pueden atribuir al programa y
que se utiliza para medir el impacto o efecto de qu tanto a otros factores?
un programa en un grupo de individuos, hogares
o instituciones y examinar si esos efectos son Qu tan efectivo fue el programa en lograr
atribuibles especficamente a la intervencin sus objetivos? Hubo cambios, y de qu
del programa. (Baker, 2000). magnitud, en los problemas atacados por el
programa?
Este tipo de evaluaciones tienen como fin:
Se justifican los costos?
Atribuir impactos a un programa y examinar
si est generando los efectos deseados. Se podra modificar el diseo del programa
para mejorar sus efectos?
Tener evidencia concluyente para la toma
de decisiones de poltica, as como en la Hubo efectos inesperados?
priorizacin y justificacin en el uso de los
recursos. Por ejemplo
79
Gua para la Evaluacin de Polticas Pblicas
80
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
En la Grfica se explica de manera visual el con- acumulacin de capital humano rompe con la
trafactual. Se puede observar que antes de la transmisin intergeneracional de la pobreza.
intervencin los grupos de control y de tratamiento
comienzan en el mismo estado de bienestar: Ei Los modelos se construyen para interpretar
Gc y Ei Gb. Luego de la intervencin, el grupo de la realidad de manera simplificada mediante
control llega a un estado de bienestar Ef C y el variables y relaciones lgicas. Existen va-
grupo de tratamiento a Ef Gb. El contrafactual riables que no se pueden observar o medir
muestra el estado que habra alcanzado el grupo directamente por lo que se usan variables
de tratamiento en ausencia del programa, Ef C, Proxy (que son una aproximacin al parmetro
proveyendo el punto de referencia necesario para de inters).
determinar el xito del programa. Con la medi-
cin de Ef C frente a Ef Gb, el evaluador puede Muestreo y recoleccin de datos: es nece-
establecer el impacto debido exclusivamente al sario definir cmo y qu tipo de muestra se
programa. va a recolectar. El muestreo y recoleccin de
datos se pueden hacer con diversas tcnicas.
Ef C
6.2.1 Disear el modelo
ctual
rafa
Ei Gc Ei Gb Con
t Cada diseo de evaluacin de impacto tiene que
estar adaptado al contexto en el cual se desarrolla
Programa el programa, al tipo de intervencin y a los actores
Ti Tf Tiempo
involucrados. Por lo tanto, no hay una aproxima-
cin estndar para delinear una evaluacin de
Fuente: Khandker, S. Koolwal, G. & Samad, H. (2001). Adaptacin
impacto. Sin embargo, las metodologas utilizadas
del Autor. en los diseos de evaluacin recurren a mtodos
tanto cuantitativos como cualitativos.
Para realizar este proceso es fundamental con- Entre los mtodos de origen cuantitativo se
tar con una serie de indicadores que puedan encuentran los diseos experimentales, consi-
encapsular y cuantificar de forma vlida y fiable derados como la solucin ptima, y los diseos
los impactos del programa, al igual que una hi- cuasi-experimentales, que pueden dar resultados
ptesis lgicamente vlida que postule, en forma confiables si se hacen de manera adecuada. Para
convincente, por qu los cambios observados los mtodos de origen cualitativo existen los
en los indicadores de resultados e impacto del diseos no experimentales.
proyecto son realmente consecuencia de ste y
no de otros factores ajenos al mismo. Cada diseo de evaluacin responde a factores
como el tipo de programa, las preguntas de evalua-
6.2 Desarrollo de la Evaluacin cin, la informacin disponible y las restricciones
polticas, presupuestales y temporales. Segn el
Para llevar a buen trmino una evaluacin de caso en particular, las evaluaciones pueden com-
impacto se deben seguir tres pasos especficos: binar mtodos cuantitativos y cualitativos que,
sumados a un ptimo diseo de evaluacin y una
Disear el modelo: el modelo es la represen- informacin muy completa, arrojan resultados lo
tacin terica de los procesos. Por ejemplo, la ms confiables posibles.
81
Gua para la Evaluacin de Polticas Pblicas
Esta gua se enfocar en explicar cada una de Criterio tico: la seleccin aleatoria deja a
estas aproximaciones, planteando sus fortalezas algunos individuos por fuera del programa
y debilidades1. aun cuando son elegibles para el mismo.
1 Esta gua explica las metodologas ms utilizadas. Para mayor detalle sobre otras metodologas referirse a: Baker, Judy (2000).
2 Ibid.
82
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
83
Gua para la Evaluacin de Polticas Pblicas
en la base de datos, se deben introducir en desercin es muy alta (alrededor del 90%)
la regresin para eliminar el sesgo. la muestra debe ser ampliada o se debe
complementar con otras bases de datos.
Por ejemplo
Por ejemplo
Suponga que para ingresar en el programa los
individuos deben decidir si participan o no. Si
Si los que se van del grupo de control son los
los individuos ms pobres son aquellos que
de mejor (peor) desempeo, las mediciones
deciden enrolarse en el programa, mientras
de impacto estarn sobrestimadas (subesti-
que los menos pobres deciden no hacerlo, se
madas) ya que la comparacin se har con
incluye una variable como el ingreso de las
beneficiarios con cambios muy pequeos
familias en la regresin para eliminar el sesgo
(grandes) en los resultados.
de seleccin.
84
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Los datos resultantes pueden ser difciles de El anlisis de la informacin de una evaluacin de
procesar y analizar. impacto depender del diseo que la evaluacin
3 Para profundizar en cada uno de los mtodos, ver referencias en captulo de bibliografa. Entre otros ver Baker, Judy (2000); Bamberger,
Michael (2006); Khander, S. Koolwal, G & Samad, H. (2009).
85
Gua para la Evaluacin de Polticas Pblicas
86
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
abajo del umbral y s pueden ser participes no son exclusivas a la evaluacin de impacto,
(grupo de tratamiento). se pueden utilizar en todo tipo de evaluaciones.
Este mtodo utiliza los datos en dos momentos Evaluaciones Participativas Rpidas
del tiempo para los dos grupos muestrales (EPR)5: son una serie de mtodos con
(tratamiento y control). La primera diferencia participacin de los beneficiarios quienes
es la comparacin entre el grupo de tratamien- proporcionan informacin sobre su situa-
to y el de control antes de la intervencin. La cin, los problemas de la colectividad y los
segunda diferencia es la comparacin entre cambios que se producen con el tiempo.
el grupo de tratamiento y de control despus
de la intervencin. Grupos focales: son un conjunto de per-
sonas que documentan informalmente
El impacto es la diferencia entre la primera un tema especfico relacionado con el
y la segunda diferencias. Esta tcnica puede programa que se esta evaluando. Cada
ser aplicada tanto a datos transversales como grupo tiene un moderador quien lleva un
a datos panel. guin de los temas a desarrollar, pero no
existen preguntas de respuesta cerrada
Mtodo de Variables Instrumentales como en el caso de los cuestionarios.
(Instrumental variables): Los participantes expresan sus puntos de
vista y el moderador puede explorar las
Se usa cuando la inclusin en el programa razones y la intuicin detrs de estos.
es endgena, es decir que los individuos
se autoseleccionan y por tanto no se puede Entrevistas en profundidad: permiten
identificar alguna caracterstica particular obtener informacin sobre el punto de
que los hace participar. Las variables ins- vista y la experiencia de las personas,
trumentales se usan primero para predecir instituciones o grupos.
la participacin en el programa y luego para
observar la variacin del indicador de resul- Estudios de caso6: es un mtodo de anli-
tados con los valores proyectados. sis de una situacin compleja. Se basa en
el entendimiento de sta (tomada como
un conjunto y dentro de su contexto7), el
6.2.4 Mtodos Cualitativos para el anlisis
cual se obtiene a travs de su descripcin
de la informacin y anlisis.
Los mtodos cualitativos son otro medio por el Paneles de expertos: es una revisin
cual el evaluador puede construir las relaciones por pares, o por un grupo de referencia,
causales de impacto del programa sobre la po- compuesto de expertos externos para
blacin objetivo que recibi la intervencin. Sin proporcionar insumos en temas tcnicos o
embargo, como se mencion anteriormente, estas de otra ndole cubiertos por la evaluacin8.
relaciones se refieren ms a la percepcin de los
beneficiaros frente al programa. Estas tcnicas
4 Ver en Gorgens y Kusek (2009) el captulo acerca de How to analyze qualitative data. (pg. 437).
5 Ver referencias adicionales en captulo Bibliografa.
6 Dependiendo del alcance, los estudios de caso pueden ser costosos.
7 Morra y Friedlander (2001).
8 PNUD (2009).
87
Gua para la Evaluacin de Polticas Pblicas
9 Bamberger (1999).
10 Idem.
88
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Esquema de Subsidios
Los mtodos de investiga-
cin pueden ser adaptados Es difcil controlar si el en- Tipo de Monto de Edad de Beneficiarios
a la cultura de los entrevista- trevistador est imponiendo Condicin
subsidio subsidio atencin a 2007
dos. Respuestas no escritas las respuestas. Asistencia a
y no verbales son posibles. 1.680.005
controles de
Nutricional $46.500 0 - 6 aos nios menores
crecimiento
de 7 aos
y desarrollo
Las respuestas pueden si- Es difcil analizar e interpre-
1.118.831
tuarse en un contexto cul- tar un nmero grande de Escolar
$14.000 7 - 11 aos nios entre 7 y
Asistencia
tural y poltico. casos de estudio. primaria escolar
11 aos
960.783 jve-
Escolar Se- 12 - 17 Asistencia
La mayora de los mtodos Algunos mtodos pueden $28.000 nes entre 12 y
cundaria aos escolar
17 aos
de investigacin no imponen no ser apropiados cultural-
respuestas. mente. Fuente: Programa Familias en Accin (2008).
89
Gua para la Evaluacin de Polticas Pblicas
14 Ver tambin Cochran (1968), Rosenbaum y Rubin (1983), y Heckman, Ichimura, y Todd (1998).
90
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Grupos focales a diversos tipos de madres En consecuencia, una Lnea de Base responde
beneficiarias del Programa en municipios fundamentalmente a tres preguntas:
tratamiento.
Cul es la situacin inicial de la poblacin
Talleres para agentes municipales del pro- o entidad que va a recibir la intervencin?
grama, agentes regionales (UCR) y agentes
nacionales (UCN). Qu se debe medir para hacer seguimiento
y evaluacin de la intervencin?
Entrevistas colectivas a madres elegibles, no
beneficiarias, y a madres con nios en los Cul es realmente el esfuerzo en gestin que
hogares comunitarios del ICBF en municipios el Gobierno se propone realizar (planeacin)
tratamiento. o que ha logrado (seguimiento y evaluacin)
en la consecucin de las metas de la inter-
Entrevistas individuales a enlaces munici- vencin?
pales e informantes clave de los municipios
tratamiento. Aunque esta es una herramienta genrica que se
emplea en mltiples instancias de los sistemas
91
Gua para la Evaluacin de Polticas Pblicas
Y0 Lnea de base
Usar datos administrativos de la interven-
cin: muchos programas recogen informa-
Programa
cin administrativa o de seguimiento de
t0 t1 Tiempo
la poblacin objetivo.
Fuente: Khander, S. Koolwal, G & Samad, H. (2009).
15 Bamberger (2010).
92
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
16 Morra y Rist (2009), Patton (2002), Jackson y Agrawal (2007), Ramrez (2009) y USAID (2010).
17 Jackson y Agrawal (2007) han desarrollado una matriz de diseo para asegurarse de que los datos recogidos sern relevantes.
18 Patton (2002).
19 USAID (1998).
93
Gua para la Evaluacin de Polticas Pblicas
6.4.2 Desarrollo de una Lnea Base realizables, pertinentes y con plazos definidos
para su cumplimiento.
El desarrollo de una lnea de base implica surtir
ciertas etapas: Objetivos SMART
Presentar Informe de Lnea de Base. Tras un ejercicio de este tipo para la definicin
de objetivos, se determinan los indicadores.
Es importante tener en cuenta las etapas en un Una de las metodologas ms utilizadas es la
proceso de levantamiento de informacin, pues CREMA construida por el Banco Mundial20
cada una depende de la anterior. A continuacin que, de acuerdo con ciertos criterios y una
se describen con mayor nivel de detalle. lista de chequeo, permite verificar y escoger
los mejores indicadores que se pueden aplicar
6.4.2.1 Construir indicadores y metas para medir los cambios en los objetivos de
un programa21.
Esta fase abarca las siguientes tareas:
Indicadores CREMA
Definir los indicadores del programa: de-
pendiendo de los objetivos del programa, Claro:
C
Preciso e inequvoco.
se definen indicadores de gestin, producto,
resultado o impacto. Para cada indicador es Relevante:
R
Apropiado al tema en cuestin.
necesaria una medicin observable.
Econmico:
E
Disponible a un costo razonable.
Como se menciona en las Guas metodol- Medible:
gicas de los diferentes Tipos de Evaluacin M
Abierto a validacin independiente.
(Resultados, Productos y Procesos) y de Se- Adecuado:
guimiento al Plan Nacional de Desarrollo, A Ofrece una base suficiente para estimar el des-
existen varias metodologas de construccin empeo (resultados).
de indicadores. Una de las que relaciona los
Fuente: Kusek y Rist (2004), adaptacin de la DSEPP-DNP.
indicadores con la construccin de objetivos
se denomina SMART, que plantea que los
Es necesario que los indicadores estn do-
objetivos deben ser especficos, medibles,
cumentados, se encuentren explcitas las
94
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
variables que los componen, el tipo de fuen- tentes, mediciones, observaciones, encuestas,
tes que los conforman, as como su frmula, grupos focales y opinin de expertos. No hay
informacin necesaria y mtodo de clculo. una alternativa privilegiada de recoleccin de
la informacin, la decisin sobre qu mtodo
Identificar las metas: Las metas se pueden utilizar depende de:
identificar segn los objetivos que haya fijado
la intervencin. Estas son el reflejo concreto Lo que usted necesita saber.
de lo que se espera lograr con el programa22.
Existen metas finales, que son los valores Dnde se encuentran los datos.
esperados que se quieren alcanzar cuando la
intervencin se acabe y metas intermedias, Los recursos y el tiempo disponible para el
que son las que el programa se propone lograr levantamiento de la informacin.
en determinados puntos en el tiempo. Se
pueden fijar metas cuantitativas o cualitativas. La complejidad de los datos que deben re-
cogerse.
El programa debe haber identificado sus me-
tas en la etapa de diseo antes de iniciar su La frecuencia de recoleccin de los datos.
implementacin. Sin embargo, es posible que
no se tengan metas claras o priorizadas por La forma como se prev llevar a cabo el an-
lo que ser necesario hacer el proceso junto lisis de la informacin.
con los actores involucrados (stakeholders)
en la intervencin. Morra y Rist (2009) definen un conjunto de reglas
que los evaluadores deben aplicar para recoger
Priorizar las metas: El programa puede tener los datos en una lnea de base:
numerosas metas y de diferente tipo (interme-
dias o finales) pero no todas son relevantes Aplicar mltiples mtodos de recopilacin
para lograr sus objetivos estratgicos. de datos cuando sea posible.
6.4.2.2 Disear los instrumentos de recoleccin Usar indicadores o datos disponibles en lugar
de informacin de generar nuevos, dado que es ms rpido,
menos costoso y ms fcil construir sobre lo
Posteriormente, se identifica qu informacin construido.
es necesaria para construir estos indicadores
que capturarn si el programa efectivamente Para determinar si se pueden utilizar los da-
est realizando las actividades para lograr los tos disponibles, se debe conocer cmo los
resultados esperados y se indaga si ya se tienen evaluadores van a definir las variables clave
cifras o caractersticas de los beneficiarios reales. del estudio. Adicionalmente, esto permite
Este ejercicio se realiza con la entidad o grupo saber si es necesario recolectar algn tipo
de entidades objeto del seguimiento o evalua- de informacin en especial.
cin y con agentes externos relacionados con
el tema o que sean proveedores/usuarios de la El proceso de recoleccin de la informacin
informacin23. debe responder a procedimientos y protocolos
de muestreo y construccin de bases de datos.
Los datos de la lnea de base pueden recogerse Se deben mantener registros precisos de las
de muchas formas incluidos los registros exis- definiciones y codificaciones de los datos.
22 Para mayor detalle sobre el diseo de metas ver USAID, TIPS - Baselines and Targets (2010).
23 DANE (2004).
95
Gua para la Evaluacin de Polticas Pblicas
96
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
97
Gua para la Evaluacin de Polticas Pblicas
Los mtodos de muestreo se clasifican en pro- De otra parte, el muestreo no probabilstico in-
babilsticos o no probabilsticos24. cluye los mtodos por conveniencia, por juicio
de valor, por cuota y por bola de nieve. En estos
En el muestreo probabilstico cada miembro del tipos de muestreo el error es desconocido:
universo de poblacin tiene alguna probabilidad
de ser elegido. Esto tiene la ventaja de que per- El muestreo por conveniencia: se usa cuando
mite calcular el error de muestra, definido como el investigador busca una aproximacin no
el grado en que la muestra difiere del universo costosa. La muestra se selecciona porque es
de donde fue tomada. Los mtodos probabils- prctica o cmoda y es utilizada a menudo
ticos incluyen el muestreo aleatorio, sistemtico durante esfuerzos preliminares para tener
y estratificado: una estimacin inicial de los resultados en
corto tiempo y con pocos recursos.
El muestreo aleatorio: es el mtodo ms puro
de muestreo probabilstico. Cada individuo El muestreo por juicio de valor: es una prc-
de la poblacin tiene la misma probabilidad tica comn pues el investigador selecciona la
de ser elegido para conformar la muestra. muestra segn su juicio de valor. Usualmente
Cuando el universo es muy grande pueden es una extensin del muestreo por conve-
existir sesgos. niencia. Por ejemplo, un investigador decide
incluir en la muestra slo una ciudad, as el
El muestreo sistemtico: es utilizado frecuen- universo contenga varias ciudades. Cuando
temente en vez del aleatorio. Despus de que el evaluador utiliza este mtodo debe estar
se calcula el tamao de la muestra requerida, seguro que la muestra escogida es represen-
se divide el universo por ese valor obteniendo tativa del universo.
un numero X de grupos y al interior de estos
se selecciona cada ensimo tem, lo que El muestreo por cuota: es el equivalente no
arroja el numero total de observaciones de probabilstico al muestreo estratificado. El
la muestra. Este puede funcionar si la lista de investigador primero identifica los estratos
beneficiarios no tiene un orden conocido. y sus proporciones en el universo. Despus
por conveniencia o juicio de valor escoge el
El muestreo estratificado: es usado comn- nmero de observaciones requerido por cada
mente pues se considera superior al aleatorio estrato.
debido a que reduce el error de muestra, dado
que los estratos son subconjuntos de pobla- El muestreo por bola de nieve: es un mtodo
cin que comparten al menos una caracters- especial, usado cuando las caractersticas de
tica comn. Ejemplos de estratos pueden ser la muestra son raras, es muy difcil encontrar
el gnero, los niveles de educacin o niveles a las personas o los costos de hacerlo son
de ingreso. El investigador debe primero de-
24 Los prrafos sobre muestreo probabilstico o no probabilstico son extrados de Walonick (1997) y adaptados al caso.
98
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
99
Gua para la Evaluacin de Polticas Pblicas
Si las tcnicas de anlisis de datos son las 6.4.2.7 Presentar informe de Lnea de Base
apropiadas.
Despus del procesamiento y anlisis de datos, se
Si el anlisis se hace de la forma correcta. elabora el informe de lnea de base. Sus resultados
pueden servir para conocer la caracterizacin de
Si los recursos previstos son los necesarios. la poblacin o instituciones beneficiarias antes
de la intervencin.
Si el proceso es factible.
Informe de Hogares Comunitarios de Bienestar
La prueba piloto hace un levantamiento de infor-
macin de una muestra reducida, esto permite a. Evaluacin de impacto28
revisar y corregir los instrumentos antes de que
se haga el levantamiento de la muestra completa. El objetivo del informe de lnea de base para
este programa es presentar los resultados
6.4.2.5 Salir a trabajo de campo descriptivos de los datos recolectados durante
el trabajo de campo realizado entre Febrero
La duracin del trabajo de campo generalmente 27 y Julio 31 de 2007 por Profamilia para la
depende de la amplitud de la muestra, del nmero evaluacin de impacto del programa Hogares
de municipios o regiones incluidos y del nmero Comunitarios de Bienestar (HCB) del Instituto
de preguntas del cuestionario. Es importante Colombiano de Bienestar Familiar (ICBF), con
prever una tasa de no respuesta de alrededor acompaamiento de la DEPP del DNP.
del 20%, especialmente, en los levantamientos
de informacin en los que la poblacin objetivo En particular, se presenta la descripcin de
pueda ser difcil de encontrar. la muestra total que se encuest y las prin-
cipales caractersticas por grupo. Se reporta
En esta etapa es importante verificar que el le- adems una caracterizacin general de los
vantamiento de informacin se haga conforme a nios beneficiarios y no beneficiarios, sus
lo estipulado por el diseo muestral y la prueba familias, los HCB y las madres comunitarias
piloto, para garantizar que los datos sean tiles (MC).
para el anlisis.
Finalmente, se incluye una descripcin de los
principales indicadores de salud, vigilancia
6.4.2.6 Presentar informe de trabajo de campo
nutricional y alimentacin, desarrollo psico-
social, desarrollo cognitivo, conocimiento de
El informe de trabajo de campo debe incluir al
las madres y MC sobre desarrollo infantil y
menos una descripcin detallada del proceso de
disciplina que se utilizaron posteriormente
recoleccin de informacin, con un balance del
en la evaluacin de impacto.
tipo de muestra y del nmero de encuestados
por grupos. Tambin se deben pormenorizar las
b. Caracterizacin general de la muestra
dificultades operativas encontradas y la manera
cmo se resolvieron. Finalmente, se especifica La evaluacin tuvo como objeto medir el
la muestra efectiva que se levant, las implica- efecto del programa sobre un conjunto de
ciones que esto tiene para el anlisis y las reco- variables de resultado (en particular nutricin
mendaciones para los futuros levantamientos y alimentacin, salud, desarrollo psicosocial
de informacin. y desarrollo cognitivo) en el grupo de nios
participantes en el programa.
100
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Con este objetivo, se dise una evaluacin El informe se organiz segn los grupos a
de tipo cuasi-experimental que consiste en caracterizar y dentro de cada grupo se hizo
la comparacin de las variables de resultado el levantamiento de informacin de los in-
de dos grupos de nios: un grupo de nios dicadores necesarios:
participantes en el programa HCB (llamado
grupo de tratamiento) y un grupo de nios Caracterizacin de los nios de la muestra.
no participantes en el programa (llamado
grupo de control) con caractersticas socio- Caracterizacin de las madres comunita-
demogrficas similares al grupo de nios rias: Sobre la madre comunitaria; Carac-
participantes. terizacin del ambiente de cuidado en el
HCB.
La forma de construccin de la muestra se
puede ver en detalle en el informe meto- Indicadores de Salud.
dolgico de la evaluacin. Bsicamente, el
grupo de tratamiento provino de una muestra As mismo, se exponen los resultados del
nacional de HCB escogida aleatoriamente. anlisis descriptivo:
Por otra parte, el grupo de control provino
de dos sub-muestras diferentes. La primera Indicadores de Vigilancia Nutricional y
(que se denomin Control 1 o G1) consisti Alimentacin: Descripcin de prcticas
en un conjunto de nios no asistentes a HCB, alimentarias y del estado nutricional; Cum-
seleccionados aleatoriamente de una muestra plimiento de los lineamientos del ICBF para
estratificada de hogares con al menos un nio los HCB.
en la edad relevante residente alrededor de
un HCB. La segunda (que se denomin Control Indicadores de Desarrollo Cognitivo: Los
2 o G2) consisti en un conjunto de nios indicadores de desarrollo cognitivo utili-
no asistentes, seleccionados aleatoriamen- zados; Resultados del anlisis descriptivo.
te de una muestra estratificada de hogares
con al menos un nio en la edad relevante Indicadores de Desarrollo Psicosocial: Los
residente en sectores donde no existan HCB, indicadores de desarrollo psicosocial utili-
pero comparables en trminos geogrficos zados; Resultados del anlisis descriptivo.
y socioeconmicos a aquellos donde haba
presencia de HCB. Conocimiento de las Madres sobre Desa-
rrollo Infantil: Los indicadores utilizados;
Resultados del anlisis descriptivo.
El tamao total de la muestra final fue de
27.470 nios entre los 0 y los 6 aos de edad.
Conclusiones.
En particular, 12.925 nios en el grupo de
tratamiento, es decir, el 47% de la muestra
total, 13.329 nios en el grupo de control G1
(alrededor del 48,5%) y finalmente, 1.216
nios en el grupo de control G2 (alrededor
del 4,4%).
101
CAPTULO VII
Captulo VII
Evaluacin costo-beneficio
Chrisroll
La evaluacin costo-beneficio es un anlisis que para determinar si los objetivos econmicos y de
compara todos los costos y beneficios de una eficiencia se lograron.
intervencin, en el cual a los costos y beneficios
se les asigna un valor monetario. La ventaja del En la DSEPP, este tipo de evaluacin se ha utilizado
anlisis costo-beneficio frente a un anlisis de en conjunto con las evaluaciones de impacto, pues
costo-efectividad, es que puede manejar mltiples los impactos resultantes de la evaluacin son un
resultados, y permite comparaciones para gastar insumo bastante preciso para dar un estimativo
en diferentes sectores (por lo que contribuye a la de los beneficios del programa.
eficiente distribucin de recursos) (3ie, 2009).
7.1. Definiciones, usos y aplicacin
La evaluacin costo-beneficio es un anlisis eco-
nmico para la toma de decisiones, usado tanto 7.1.1. Definiciones
en el gobierno como en la gestin de empresas,
con el fin de estandarizar los resultados de un Una definicin que abarca los conceptos prin-
programa o proyecto en trminos de su valor cipales de la evaluacin costo-beneficio es la
monetario1. de la Iniciativa Internacional para Evaluaciones
de Impacto (International Initiative for Impact
En evaluacin, el anlisis costo-beneficio per- Evaluations-3ie)3 citada al comienzo de esta
mite cuantificar en trminos monetarios- tanto seccin. Sin embargo, tambin existe el concepto
los costos como los beneficios posibles de un de costo-efectividad que es distinto al primero.
programa, incluyendo tems para los cuales el A continuacin se plantea la definicin de costo-
mercado no tiene medidas de valor econmico. efectividad para tener claridad en la diferencia
Adicionalmente, permite comparar los costos de entre ambos conceptos:
medidas alternativas que produzcan resultados
o que cumplan objetivos similares. Este anlisis Definicin 1 - Anlisis costo-efectividad
se hace antes y despus de la implementacin
de la poltica, programa o proyecto2: tanto en la El anlisis costo-efectividad es un anlisis del
fase de planeacin para justificar el programa costo de hacer un cambio de una unidad en el
en trminos econmicos, como al final de sta,
105
Gua para la Evaluacin de Polticas Pblicas
resultado. Su ventaja, comparado con el anlisis Son los beneficios econmicos mayores a
costo-beneficio, es que a menudo los valores los costos del programa?
controversiales del resultado se evitan. Se puede
utilizar para comparar la eficiencia relativa de los Cmo se comparan los costos actuales con
programas para lograr el resultado de inters los de otros programas similares?
(3ie, 2009).4
Cul es la forma ms econmica y eficiente
Ejemplo: Costos y beneficios para un sistema de de lograr los resultados esperados?
informacin
Cules son las consecuencias financieras de
integrarse?
En una evaluacin costo-beneficio de un
sistema de informacin: Cules son los costos de replicar el programa
evaluado en un ambiente diferente?
Los costos incluiran tems como: el precio
del sistema de informacin, el costo de
los servidores para alojar la informacin, Vale la pena realizar el programa que se est
el costo de la instalacin y el costo de la evaluando?
capacitacin a los funcionarios, entre otros.
Cmo afectan los costos la sostenibilidad y
Los beneficios incluiran la cuantificacin resultados del programa evaluado?
de resultados como: la mayor disponibilidad
de informacin confiable, la disminucin 7.1.3. Aplicacin
de tiempos de consulta, la disminucin de
costos de personal asociados a verificar, De acuerdo con el Treasury Board de Canad
validar y consolidar la informacin, entre (1998) el anlisis costo-beneficio se puede aplicar
otros. en la evaluacin de programas cuando:
4 Se utiliza a menudo en el sector de la salud, donde puede ser inadecuado monetizar sus efectos.
5 UNICEF, IPEN (2006).
6 UNICEF (2008).
106
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Comparar el valor presente y futuro de las es tener un claro entendimiento del resultado
alternativas. esperado del programa. Es necesario examinar
las necesidades que se esperan suplir con el
Informar de manera estructurada a los tomado- programa, definir las restricciones existentes y
res de decisiones gracias a las comparaciones formular los objetivos con el propsito de esta-
costo-beneficio. blecer el punto de vista desde el cual se van a
medir los costos y los beneficios.
Su fortaleza se encuentra en poder establecer
el retorno de la inversin, y su debilidad es la La definicin de los objetivos del programa se
dificultad de asignar un valor monetario a los hace con la ayuda de herramientas como el marco
resultados de algunos beneficios. lgico o cadena de resultados.
A continuacin se describen uno a uno estos pasos. 7.2.2 Definir otras alternativas
7.2.1 Identificar los objetivos del programa Para definir los programas/alternativas con los
cuales se va a comparar el programa a evaluar, es
Segn Argirous (2009), el primer paso para la importante9 tener en cuenta lo siguiente:
comprensin de cualquier problema analtico
107
Gua para la Evaluacin de Polticas Pblicas
Escoger una variedad significativa de progra- (2009), es importante distinguir y catalogar los
mas similares para asegurar su comparacin recursos reales versus los pecuniarios, y los cos-
con las mejores alternativas. tos y beneficios directos de los indirectos. Esto,
con el fin de no contar dos veces algn costo o
Definir las alternativas a comparar de una beneficio.
forma transparente.
Tambin se debe tener en cuenta que los costos
Cumplir con esos dos requerimientos garantiza y beneficios se distribuyan en el tiempo con una
que la comparacin del costo-beneficio entre el unidad de medicin vlida equivalente. El Treasury
programa y las alternativas genere resultados Board de Canad (1998) hace nfasis en que las
vlidos para la toma de mejores decisiones. personas tienen preferencias intertemporales que
se deben considerar en el anlisis. Por ejemplo,
7.2.3 Establecer el marco de referencia existen un costo de oportunidad asociado con el
conceptual hecho de recibir los ingresos en el presente o si
estos se posponen hasta una fecha futura; asimis-
Este marco permite explicar los supuestos de la lite- mo, no es lo mismo pagar los costos al comienzo
ratura as como los de otros programas de referencia o al final. Adems de esto, es importante tener
con los que se van a calcular los beneficios y los en cuenta el valor de la unidad de medicin que
costos del programa de acuerdo con sus indicadores cambia debido a la inflacin, lo que conduce a la
de resultado o impacto esperados definidos. prdida del poder adquisitivo. La inflacin y la
preferencia temporal son ajustes que se hacen
Con el fin de determinar todos los costos y bene- de manera independiente.
ficios involucrados en el proyecto segn Argyrous
Ejemplo: Definicin del Marco de referencia conceptual para el programa Familias en Accin
En el marco de referencia se enuncian: i) en una primera columna, los impactos potenciales que
tiene el subsidio del programa y los indicadores asociados a esos impactos, ii) en la siguiente
columna, se discuten, de acuerdo con la literatura econmica y su evidencia, los diferentes be-
neficios asociados al logro de estos impactos, enunciando los ms relevantes, iii) en la tercera
columna se hace referencia a los costos, tomando aquellos en los que incurren el Estado y los
beneficiarios, como el caso de los costos de operacin del programa en este componente y
los costos privados de los beneficiarios para acceder a los subsidios, finalmente, en una cuarta
columna se hacen observaciones importantes a tener en cuenta para el anlisis. A continuacin
se muestra una tabla resumen de este ejercicio:
108
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Indicadores de impacto
medidos con relacin
Observaciones para el clculo
a la poblacin de Beneficios Costos
costo-beneficio
control (diferencias en
diferencias)
Los beneficios y costos son aditivos y
Reduccin del cuidado
Costos de operacin del se miden durante los primeros aos
neonatal.
programa en el subcom- de vida de los nios y durante su vida
Reduccin de costos de
ponente de salud y nutri- laboral (18 a 60 aos).
tratamiento de enferme-
cin para recin nacidos. Se descuentan a una tasa constante
dades crnicas asociadas
Costos privados de los del 10%.
al bajo peso al nacer.
beneficiarios o de sus Los beneficios se miden como una
Reduccin de la morta-
familias para acceder a mejora en los ingresos futuros es-
lidad infantil.
los beneficios. perados.
Reduccin de los cos-
Costo financiero alterna- Los aumentos en ingresos se calculan
tos de enfermedades de
tivo de uso de los recur- suponiendo que las personas ganan
Disminucin de los ndices nios.
sos de las transferencias un salario mnimo durante su vida
de bajo peso al nacer (apli- Aumento de productivi-
o subsidios (incluye los laboral.
ca a la poblacin de nios dad por mayor estatura.
intereses del crdito El beneficio del 3er punto es de muy
recin nacidos) Aumento de productivi-
externo). largo plazo y se propone no medir.
dad por mayor destreza.
No se contabiliza el va- Es difcil separar los costos de ope-
Beneficios para las si-
lor de los subsidios o racin segn cada componente y
guientes generaciones.
transferencias a los be- subcomponente, razn por la cual
El indicador de beneficio
neficiarios como costos se efectuar un clculo separado de
medido en la evaluacin
del programa, dado que beneficios de cada componente, los
(diferencias en diferen-
lo que es un costo para cuales se sumarn y compararn con
cias) es el aumento en el
el gobierno es un be- los costos totales.
peso en gramos al nacer
neficio para las familias Para anlisis C-B por componentes se
en cada grupo de 1000
beneficiarias. presentarn escenarios de asignacin
nios recin nacidos.
de costos a cada componente.
109
Gua para la Evaluacin de Polticas Pblicas
Ejemplo: Valoracin econmica de los beneficios en el inicio del programa (t0) o en el momento
asociados al programa Familias en Accin del anlisis (ta) (Treasury Board, Benefit-Cost
Analysis Guide, 1998).
Componente de nutricin - Programa Fami- Con el valor presente neto se pueden sumar y/o
lias en Accin11 restar todos los beneficios y los costos reduci-
dos a una misma unidad, para poder tomar una
El principal beneficio de este componente decisin y dar una recomendacin. La frmula
son las ganancias salariales futuras de los para calcular el VNP se presenta a continuacin:
nios beneficiarios, por lo que es importante
determinar el impacto promedio del total VPN = Valor inicial de la inversin
de menores beneficiados por el programa + suma de los VPN de los beneficios
resultados estadsticamente significativos de todos los perodos del tiempo
de mejor nutricin y salud. VPN de los costos de todos los
perodos de tiempo.
Programa Familias en Accin. Impactos y
beneficios tenidos en cuenta en la evaluacin Ejemplo: Clculo del valor presente neto para un
Costo-beneficio de nutricin programa.
Impacto Beneficio
Si la inversin inicial de un programa fuera
Gramos ganados en mayor $100 y los beneficios fueran $75 y los costos
Incremento del 5% en el in-
peso al nacer: 420 gr. (Para un
greso laboral futuro por cada $30 por 3 aos a una tasa de descuento12 del
total de 24,089 nios menores
0.4 Kg. de mayor peso al nacer
de 1 ao) 10% el VPN sera13:
Indicador de talla para la edad:
Incremento del 2% en el in-
0.25 z-score (Para un total de
greso laboral por un aumento
VPN = -$100 + ($75 - $30)/(1 + 0,1)1 +
251,533 nios entre 0 y 6
aos)
de 0.25 z-score en el indicador ($75 - $30)/(1 + 0,1)2 + ($75 - $30)/(1 + 0,1)3
Fuente: DAPR, FIP, DNP (2006). VPN = -$100 + $40,91 + $37,19 + $33,81
VPN = $11,91
7.2.5 Estimar el valor presente neto
a. Anlisis de sensibilidad del valor presente
Para poder dar una recomendacin es necesario
neto
tener uno o varios criterios de decisin. Estos
criterios de decisin se encargan de determinar si
En los anlisis de costo-beneficio los resultados
un programa es rentable o cul de los programas
estn sujetos a la incertidumbre, por lo cual es
es ms rentable. Con este fin, se calcula el valor
importante saber en qu medida puede llegar a
presente neto (VPN) que se define como:
influir cada variable en el resultado del modelo, y
para este fin se utiliza un anlisis de sensibilidad.
Definicin 2 - Valor presente neto
ste se define como:
El valor presente de todos los beneficios, descon-
Definicin 3 - Anlisis de sensibilidad
tados a la tasa de descuento apropiada, menos el
valor presente descontado de todos los costos a
Un anlisis que determina qu tan sensible es
la misma tasa de descuento. Un VPN es siempre
el resultado de la evaluacin costo-beneficio al
especfico a un determinado punto en el tiempo,
modificar los valores de una variable mantenien-
110
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
do las dems constantes, buscando dar un mejor Ejemplo: Clculo del valor presente neto para el
entendimiento del programa (Treasury Board of componente de nutricin del programa Familias
Canad, 1998). en Accin15.
Segn Medina & Correa (2008) este anlisis Teniendo en cuenta que los mayores ingresos
se debe desarrollar teniendo en cuenta que el laborales se proyectan en un horizonte de
comportamiento del programa no es lineal, por trabajo de los 18 a los 60 aos, tomando como
lo que si se produce un cambio en alguna de sus base de incremento de ingresos el salario
variables, es de esperarse que el resto sufran mnimo legal vigente, se ajustan los valores
alguna variacin, segn sea su relacin. con una tasa de desempleo de largo plazo
ponderada segn ubicacin rural-urbana de
b. La incertidumbre y el riesgo en el valor los beneficiarios del programa en 7,4% (pro-
presente neto medio ponderado rural-urbano 2004-2006).
Considerando lo anterior, los beneficios del
Segn Argyrous (2009), el anlisis costo-beneficio programa en VP de los impactos de este com-
normalmente requiere la estimacin de benefi- ponente se presentan en la siguiente tabla.
cios y costos futuros. Su estimacin puede variar El clculo se realiza en dlares constantes y
de acuerdo con la incertidumbre existente y la con una tasa de descuento de 10%.
de la tasa a la cual se descuenta los valores en
diferentes periodos de tiempo. En la seccin 7.3 Valor presente de los beneficios atribuibles al
se describen con mayor detalle las herramientas Programa Familias en Accin en su componen-
para cuantificar la incertidumbre relacionada te de nutricin. Valores en millones de US$
con el riesgo. Se sugiere seguir estos pasos para
Valor Distribucin
desarrollar un anlisis de riesgo14: Beneficio
presente porcentual
Ganancias en ingre-
1. Elaborar un modelo para calcular el valor sos laborales futuros
US$ 21,6 19,3%
presente neto. por mayor peso al
nacer
2. Vincular al modelo la informacin de variables Ganancias en ingre-
sos laborales futu-
con incertidumbre como sus valores mximos ros por reduccin en
US$ 90,2 80,7%
y mnimos y la probabilidad de encontrarse desnutricin
en estos. Beneficios totales de
US$ 111,8 100,0%
nutricin
3. Correr muchas repeticiones del modelo para
Fuente: DAPR, FIP, DNP (2006).
obtener resultados del VPN para cada esti-
macin.
El clculo de los costos incluye los gastos
4. Realizar una tabla de frecuencia para identifi- privados del hogar como el mayor gasto
car el VPN que ms se repite y la probabilidad promedio anual en alimentos- y el gasto
de cada uno. adicional en la recepcin del subsidio (trans-
porte, alimentacin, alojamiento, ingreso
5. Utilizar una regla o criterio de decisin para laboral dejado de recibir). Tambin incluye
dar una recomendacin de los resultados los costos pblicos de administracin y de
obtenidos. operacin del programa teniendo en cuenta
el pago de intereses del crdito externo que
financi el programa.
111
Gua para la Evaluacin de Polticas Pblicas
Los valores de beneficio y costo para el Programa # 1: VPN = $20-$5 = $15 y relacin
componente de nutricin dan una relacin beneficio/costo = $20/$5 = $4
de 1,66. Este valor es alto, aunque est sus-
tentado en estimativos conservadores porque Programa # 2: VPN = $8-$8 = $0 y relacin
no considera otros posibles beneficios. Esto beneficio/costo = $8/$8 = $1
quiere decir que por cada dlar invertido
en el programa, se obtienen 1,66 dlares Programa # 3: VPN = $12-$1 = $11 y relacin
de retorno. beneficio/costo = $12/$1 = $12
112
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
113
Gua para la Evaluacin de Polticas Pblicas
114
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
20 Por ejemplo al comprar un carro una persona tiene en cuenta variables como el color, el diseo y los caballos de fuerza adems del
precio. Para la toma de su decisin no otorga un valor monetario a cada una de estas variables.
115
Gua para la Evaluacin de Polticas Pblicas
116
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Cuando no existan precios de mercado o estos Segn el valor esperado calculado, se reco-
estn distorsionados, los mtodos principales mendara realizar el programa dado que el
para estimarlos estn basados en la disposi- valor esperado del VPN es positivo.
cin de pago del consumidor o disposicin
de venta del productor.
Por medio de los valores esperados se plantean
posibles escenarios para las diferentes alterna-
Los mtodos de dar valor econmico a los
tivas y se busca identificar aquella con el mayor
costos y beneficios pueden ser aprendidos en
valor esperado del VPN.
corto tiempo. Por otro lado calcular el costo
o beneficio especfico es un tema infinito y
b. Tasa de descuento ajustada por el riesgo:
se debe mirar con cuidado en cada caso.
es la tasa bsica ms un componente extra
ajustado por el riesgo; para ajustar los dife-
Los libros y la literatura pueden proveer
rentes beneficios o costos en los cuales se
aproximaciones y valoraciones de costos o
puede incurrir en el tiempo.
beneficios para los cuales existen valores de
mercado o mtodos de estimarlos de fcil
c. Anlisis de riesgo a travs de una simula-
clculo.
cin: esta es la nica herramienta prctica
para trabajar el riesgo y la incertidumbre.
7.3.4 Herramientas para cuantificar la La simulacin permite predecir los posibles
incertidumbre relacionada al riesgo23 resultados de un modelo de anlisis de costo-
beneficio, dadas las variables que afectan los
Existen tres aproximaciones para cuantificar la resultados. Este proceso permite una visin
incertidumbre y el riesgo en la evaluacin costo- ms completa para poder generar una reco-
beneficio: mendacin del programa o sus alternativas.
Para realizar esta simulacin es necesario un
a. Valor esperado: Se calcula para costos y software especializado que debe cumplir dos
beneficio su valor esperado o equivalente funciones especficas:
certero teniendo en cuenta las probabilidades
de que obtenga uno u otro valor. Seleccionar el set de valores para varia-
bles inciertas, acorde con las probabili-
Ejemplo: Valor Esperado dades obtenidas del anlisis de los datos
de estas mismas variables.
Se tiene un VPN de $100 con una probabilidad
del 60% y un VPN de -$50 con una probabili- Utilizar los sets de datos de las variables
dad del 40%. De acuerdo a esta informacin, inciertas para correr el modelo y calcular
el valor esperado del programa sera: y analizar los posibles resultados del
anlisis costo-beneficio.
117
Gua para la Evaluacin de Polticas Pblicas
118
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Esquema de subsidios
119
CAPTULO VIII
Captulo VIII
Evaluacin institucional
Kavram
Un programa necesita de una institucionalidad Pero adems, es importante conocer las reglas
eficiente que le permita cumplir con su misin y legales, normas, relaciones interinstitucionales
sus objetivos. No slo es importante entender y y arreglos que inciden en su implementacin.
documentar los resultados del programa frente
a sus beneficiarios, sino tambin documentar su Las instituciones, como reglas de juego en una so-
oferta, la cual depende del desempeo de los ciedad, son sistemas de ejecucin de las polticas
individuos y la institucionalidad1 responsables. que estructuran los incentivos en la interaccin
Estudiar las razones por las cuales falla la capaci- entre los individuos, reduciendo la incertidumbre y
dad institucional en los programas permite mejorar en esa medida influyendo en el desempeo de las
su gestin y proveer de manera ms efectiva sus economas(a travs de los costos de transaccin).
bienes o servicios. Douglas North (1996) define a las instituciones
como las reglas del juego y a las organizaciones
Dentro de este marco, la evaluacin institucional como los jugadores.
se ubica en la ejecucin de corto y mediano plazo
del programa, situndose ms adelante en el ci- La institucionalidad que soporta un programa
clo del programa que la evaluacin de procesos puede tener uno o varios actores involucrados
u operaciones (ver captulo de Generalidades). en su coordinacin y ejecucin:
No se trata slo de examinar los procedimientos
de gestin de la institucin, sino tambin deter- Entidades del gobierno (ministerios, progra-
minar si estos llevan al logro de los objetivos mas, hospitales, colegios, entidades nacio-
planeados. Adems, para su anlisis, se sita el nales, regionales y locales, etc.).
programa dentro de un sistema y contexto ms
amplios, no solamente el de una organizacin Organizaciones del sector privado (financie-
responsable. ras, negocios, grandes, medianas y pequeas
empresas, etc.).
Para el desarrollo de una evaluacin institucional,
al igual que para llevar a cabo cualquier tipo de Organizaciones no gubernamentales (ONGs)
evaluacin, es necesario entender la lgica con la locales, nacionales e internacionales y otras
que se cre e implement el programa, su misin, organizaciones civiles.
visin, objetivos y cada uno de sus componentes.
Cooperativas comunitarias.
1 En este documento se utilizan los trminos institucionalidad y capacidad institucional con el mismo significado.
123
Gua para la Evaluacin de Polticas Pblicas
2 Evalsed (n.d).
3 USAID, Center for Development Information and Evaluation (2000).
124
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Qu tarea o actividad de la institucionalidad quiere saber cmo estn afectando las rela-
no est funcionando como debera? Por qu? ciones inter o intra institucionales el logro
de sus resultados.
Entiende y opera la capacidad institucional
con el entorno? Se quiere examinar el adecuado cumplimien-
to de las reglas de juego establecidas que
Qu cambios se requieren para que mejoren influyen en el desarrollo del programa y de
los aspectos de la capacidad institucional que sus resultados.
presentan un desempeo deficiente?
Se quieren tomar decisiones estratgicas
8.1 Caractersticas y Usos acerca del fortalecimiento institucional y de
gestin de un programa.
La evaluacin institucional se hace en la etapa
ex-post del programa, en la que el diseo del Se quieren tomar decisiones organizacionales
programa se ha completado. Permite evaluar si la en un programa.
institucionalidad es apta para la implementacin
y entrega de los bienes y servicios planeados. Los Se quieren tomar decisiones financieras en
indicadores de desempeo para evaluar la capa- un programa.
cidad institucional se pueden recoger de manera
peridica a travs de un sistema de seguimiento, 8.2 Desarrollo de la Evaluacin
que sirve como insumo para la evaluacin.
Escoger la metodologa para el desarrollo de una
La evaluacin institucional se caracteriza por: evaluacin institucional depende de lo que se
desea evaluar dentro de la institucionalidad de
Determinar dnde o por qu un rea o acti- un programa. Sin embargo, existen unos pasos
vidad no est funcionando y plantear correc- comunes que deben estar claros antes de aplicar
tivos. una tcnica de anlisis:
Por lo tanto, una evaluacin institucional es per- En primer lugar, es importante definir desde qu
tinente cuando, entre otras: perspectiva se va a abordar la evaluacin:
125
Gua para la Evaluacin de Polticas Pblicas
Para las tres ltimas se recomienda desarrollar b. Anlisis de la capacidad institucional a nivel
una evaluacin institucional del programa en el de la(s) organizacin(es): la informacin nece-
aspecto enunciado. saria se centra en la capacidad de gestin, y el
desempeo de tareas y funciones especficas.
8.2.2 Unidad de anlisis Es importante tener informacin sobre:
4 Rosas (2008). Una ruta metodolgica para evaluar la capacidad institucional. Revista: Poltica y Cultura. Vol. 30. Pgs. 119-134.
Mxico.
126
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
127
Gua para la Evaluacin de Polticas Pblicas
128
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Determinar el objetivo general del programa A continuacin, se muestra un ejemplo del tipo
u organizacin analizada: establecer lo que de formularios de acuerdo con los niveles a ana-
el programa contribuye a lograr en el mediano lizar. En primer lugar, est el Formulario A donde
o largo plazo. se describen los objetivos especficos, cada uno
de los indicadores cuantitativos que les hacen
Plantear los objetivos particulares de cada seguimiento, el impacto esperado y los benefi-
componente del programa u organizacin: ciarios directos o indirectos.
comprobar si contribuyen al objetivo ge-
neral y si se pueden medir con indicadores Formulario A: Objetivos especficos13
cuantitativos (ej: cunto se va a entregar?),
cualitativos (ej: para qu?) o cronolgicos 01
Objetivo Especfico Formulario A
Empresas pequeas y medianas en reas tradicionalmente dinmicas y exportadoras
(ej: cundo?). 04 asistidas por el programa.
Indicadores Cuantitativos
Describir las actividades o subcomponentes 1800 empresas que pasaron a exportar como resultado de proyectos integrales de exportacin
y algn porcentaje adicional quedan vinculadas de alguna forma con elmercado trasnacional.
129
Gua para la Evaluacin de Polticas Pblicas
130
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
15 Ibdem.
16 Para ver un ejemplo e informacin detallada al respecto, ver pgina web de USAID.
131
Gua para la Evaluacin de Polticas Pblicas
Cuestionario DOSA
Preguntas 3 y 4 - rea de Recursos Humanos
Fuertemente Fuertemente
Desacuerdo Neutral De acuerdo
en desacuerdo de acuerdo
Tenemos el adecuado
nmero de personas para 1 2 3 4 5
lograr nuestra misin
132
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
133
Gua para la Evaluacin de Polticas Pblicas
informacin recolectada. Los puntajes indican cin y su gestin, como para examinar la capacidad
los aspectos a mejorar. que tiene la organizacin u organizaciones para
la entrega de bienes o servicios.
Monitoreo y Evaluacin Participativa
(Participatory Monitoring and Evaluation - PME) PACT OCAT
Ejemplo hoja de evaluacin
parte B - Prcticas de Gestin
Es un proceso democrtico para examinar los
valores, progreso, restricciones y logros de pro-
1. Estructura organizacional
yectos por parte de los actores involucrados.
a. Tiene estructura organi-
Reconoce y valora las contribuciones sutiles
zacional con lneas de-
de personas a nivel local y las empodera para 1 2 3 4 5 6
finidas de autoridad y
involucrarse y contribuir al proceso de desa- responsabilidad
rrollo19. Sus principales caractersticas son:
2. Sistemas de informa-
Origen y objetivo de las preguntas: las cin
preguntas de evaluacin emergen de los a. Existen los sistemas para
1 2 3 4 5 6
intereses y prioridades de los participantes. levantar, analizar y difun-
dir datos e informacin
Utilidad y aplicacin: los participantes 3. Procedimientos admi-
desarrollan un entendimiento de los ob- nistrativos
jetivos e importancia de la evaluacin y a. Existen procedimientos
de la habilidad de conducir evaluaciones 1 2 3 4 5 6
administrativos y manua-
significativas. les y son adoptados
b. Son los manuales y pro-
Desarrollo de habilidades: a travs de la 1 2 3 4 5 6
cesos actualizados de
participacin en la actividad de evaluacin, manera permanente
se desarrolla la habilidad de levantamiento,
anlisis y utilizacin de la informacin. 4. Personal
a. Las prcticas de empleo
Lugar de control: participacin en activida- de personal se encuen-
1 2 3 4 5 6
des de monitoreo y evaluacin empodera tran claramente definidas
a los participantes para que se hagan y son adoptadas
responsables por analizar y articular el 5. Planeacin
impacto que un proyecto est teniendo a. Planes de operacin son
1 2 3 4 5 6
de acuerdo con sus prioridades. desarrollados, revisados,
actualizados y reflejan un
plan estratgico
8.3.3.2 El producto20 b. Recursos son planeados
1 2 3 4 5 6
El OCAT provee clasificaciones numricas para y asignados de manera
cada rea de capacidad y adems permite des- correcta
cribir estas ltimas segn estados progresivos c. Insumos para los inte-
1 2 3 4 5 6
de desarrollo organizacional. Adicionalmente, grantes estn incluidos
en la planeacin
identifica las fortalezas y las debilidades que se
d. Personal est involucrado
encuentran en la capacidad de la organizacin. Se 1 2 3 4 5 6
en la planeacin
puede emplear tanto para evaluar una organiza-
134
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
135
Gua para la Evaluacin de Polticas Pblicas
22 Informe metodolgico e Informe Final de la Evaluacin de la capacidad institucional de los componentes de vivienda y tierras de la
poltica de atencin a la poblacin en situacin de desplazamiento. Centro Nacional de Consultora (C.N.C) para Direccin de Evaluacin
de Polticas Pblicas, Departamento Nacional de Planeacin. Mayo a diciembre de 2010.
23 Sntesis con base en los documentos publicados por el gobierno nacional de lineamientos de poltica pblica en materia de tierras.
136
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
137
Gua para la Evaluacin de Polticas Pblicas
Para el desarrollo del estudio, el Centro Nacional sent un porcentaje por encima del 85% en esos
de Consultora empez haciendo un diagnstico aspectos. Se destaca el caso de las Oficinas de
general de la poltica de atencin a la PSD, con Registro e Instrumentos Pblicos (ORIP) donde se
el propsito de tener un dimensionamiento del encontr un reducido 38%, explicado principal-
problema y un anlisis de la institucionalidad mente por ausencia de normatividad concerniente
vigente, debido a la complejidad del problema a acciones concretas frente a personas que no
y de las entidades vinculadas a estas polticas. son poseedores.
Posteriormente se realizaron unos mapas institu-
cionales y fichas tcnicas de cada organizacin, Despus de analizar las problemticas con tablas,
para luego aplicar la metodologa SADCI con el se realiz un resumen del total de instituciones
desarrollo de una evaluacin desde la ptica de que participaron dentro de la implementacin de
la oferta y la demanda. la poltica de tierras. Se observ que la entidad
que evidenci las mayores brechas en capacidad
Las mediciones de los dficits institucionales fue- institucional para dar una respuesta adecuada a
ron el resultado de entrevistas adelantadas a las las necesidades fueron las ORIP, con un acumulado
instituciones de acuerdo con un instrumento de de cerca del 58%, seguidas por la Fiscala General
captura de informacin que calific una serie de de la Nacin con un 43,3%. A pesar de que las
criterios acordados de antemano con el Departa- otras instituciones analizadas presentan menores
mento Nacional de Planeacin (DNP), los puntajes brechas se destaca que ninguna de ellas alcanza
variaron entre 1 y 5, en donde 1 correspondi a la una capacidad cercana al 100%, slo Accin Social
calificacin ms baja y 5 a la calificacin ms alta. se ubic por encima del 80%, el restante tiene
El anlisis de estas entrevistas permiti identificar en promedio un 40% de brecha en capacidad.
una serie de logros y cuellos de botella (dficits)
con respecto a la normatividad, las relaciones Posteriormente se identificaron una serie de lo-
interinstitucionales, la organizacin interna de gros y cuellos de botella (dficits) con respecto
cada programa, su capacidad financiera y fsica, a la normatividad, las relaciones interinstitucio-
y su poltica de personal. El anlisis se present nales, la organizacin interna de cada programa,
por institucin. su capacidad financiera y fsica, y su poltica de
personal.
A continuacin se exponen, a manera de ejemplo,
los resultados de la metodologa con respecto a Finalmente, con base en la informacin de las
la normatividad. En este caso, la mayora de las entrevistas y el anlisis de los dficits, la firma
instituciones manifest tener deficiencias en el realiz una propuesta institucional para la poltica
tema normativo, slo el Ministerio Pblico pre- de atencin a la poblacin desplazada.
24 Oszlak, O. y E. Orellana. La capacidad del Anlisis Institucional: Aplicacin de la Metodologa SADCI. Documentos TOP sobre gestin
Pblica. Buenos Aires, Centro de Desarrollo y Asistencia Tcnica en Tecnologa para la Organizacin pblica., 2000.
138
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
SNR ORIP INCODER IGAC CNRR FISCALA MIN. PUB. ACCIN SOC.
Criterios
1 2 3 4 5 1 2 3 4 5 1 2 3 4 5 1 2 3 4 5 1 2 3 4 5 1 2 3 4 5 1 2 3 4 5 1 2 3 4 5
139
CAPTULO IX
Captulo IX
Glosario
Gkuna
Actividades: lo que el programa hace con sus Ciclo de vida de la intervencin: perodo temporal
insumos para lograr su misin. Las actividades que abarca desde que se concibe y disea la in-
del programa resultan en productos. tervencin hasta que se manifiestan sus impactos.
Benchmarks (punto de referencia): son datos de Enfoque estructurado: este enfoque tiene como
desempeo usados para hacer comparaciones. Un objetivo hacer la recoleccin de todos los datos
programa puede usar su informacin de lnea de de manera homognea y similar. Ver Ramirez
base para comparar con un segundo levantamiento (2009) y Menon Et Al (2009).
de informacin o contra otro programa.
Enfoque semi-estructurado: este enfoque hace la
Beneficiarios: el grupo especfico de personas recoleccin de los datos de manera heterognea,
(fsicas o jurdicas) que se benefician directa o con la utilizacin de instrumentos diferentes. Ver
indirectamente de una intervencin, tambin Trochim (2006).
llamado grupo beneficiario o tratamiento.
Insumos: recursos financieros, humanos y ma-
Beneficios: es el valor o la utilidad de los resultados teriales empleados en una intervencin. En un
de una intervencin. Estos sern generalmente programa, los insumos son el soporte de las
los objetivos finales del programa, pero puede actividades.
tambin aludirse a aquellos beneficios que no
sean imputables directamente al programa en s. Intervencin: cualquier programa, plan, poltica u
otra forma de planificacin diseada para producir
Cadena de resultados: es la secuencia causal de cambios en la poblacin objetivo.
una intervencin de un programa que estipula
la secuencia para lograr los objetivos deseados, Jerarqua de objetivos: clasificacin de objetivos
comenzando con los insumos, pasando por las a distintos niveles; por ejemplo: objetivos finales,
actividades y los productos, y culminando en el objetivos especficos y medidas de resultado y
efecto directo, el impacto y la retroalimentacin. realizacin.
143
Gua para la Evaluacin de Polticas Pblicas
Muestreo: seleccin de una proporcin de indi- motores de la evaluacin para impulsar su puesta
viduos o casos a partir de una gran poblacin. en marcha. Pueden tener su origen en un mandato
reglamentario o en otro tipo de motivaciones. A
Objetivo del proyecto o programa: se refiere a los partir de ellos se define el objetivo general de
resultados fsicos, financieros, institucionales, so- la evaluacin.
ciales, ambientales o de otra ndole que se espera
que el proyecto o programa contribuya a lograr. Proyecto: nivel ms concreto de programacin
o unidad mnima de planificacin. Intervencin
Objetivo especfico: es la razn inmediata de un planificada destinada a lograr ciertos objetivos
proyecto, el efecto que se espera que el proyecto especficos con un presupuesto dado y dentro
vaya a lograr si se completa con xito y a tiempo. de cierto perodo de tiempo.
144
CAPTULO X
Captulo X
Bibliografa de apoyo
Jean-Pierre Chretien
Accin Social (2007, Octubre). Informe Final de Resultados, Banco Asitico de Desarrollo, Operations Evaluation De-
Evaluacin del Programa Red de Seguridad Alimentaria partment (OED). Guidelines to Avoid Conflict of Interest
RESA. Informe desarrollado por el Centro de Estudios in Independent Evaluations, Abril 2005. Disponible
Regionales Cafeteros y Empresariales (Crece) para en: www.adb.org/documents/guidelines/evaluation/
Accin Social, Presidencia de la Repblica. Bogot. independent-evaluation.pdf
Anderson, A. (2007). The Community Builders Approach Banco Mundial (2006). Consulting Service Manual
to Theory of Change: A Practical Guide To Theory 2006: A Comprehensive Guide to the Selection of
Development. USA. New York. The Aspen Institute Consultants, Washington DC. Disponible en: si-
Roundtable on Community Change. teresources.worldbank.org/INTPROCUREMENT/
Argyrous, George (2009). Evidence for Policy and Decision- Resources/2006ConsultantManual.pdf
Making: A Practical Guide. Sydney, NSW, AUS: UNSW Banco Mundial, Sourcebook for Evaluating Global and
Press. Regional Partnership Programs: Indicative Principles
Arrow, Kenneth, Maureen Cropper, George Eads, Robert Hahn, and Standards, Grupo de Evaluacin Independiente y
Lester Lave, Roger Noll, Paul Portney, Milton Russell, Red del CAD. Disponible en: siteresources.worldbank.
Richard Schmalensee, Kerry Smith & Robert Stavins org/EXTGLOREGPARPRO/Resources/sourcebook.pdf
(1996). Is There a Role for Benefit-Cost Analysis in En- Barber, Michael (2009). Instruction to Deliver: Tony Blair,
vironmental, Health, and Safety Regulation?. Science. the Public Services and the Challenge of Achieving
Ascott, Elizabeth (2006). Benefit Cost Analysis of Wonderworld Targets. UK. Politicos Publishing Ltd; illustrated edition.
Drive Overpass in San Marcos, Texas. Applied Research Beck T. (2006). Evaluating Humanitarian Action Using OECD/
Project. Texas State University. DAC Criteria.
Asian Development Bank (2007). Guidelines for Preparing a Bent Flyvbjerg, Mette K. Skamris Holm & Sren L. Buhl (2002).
Design and Monitoring Framework. En: Project Perfor- Underestimating Costs in Public Works Projects: Error
mance Management System (Second edition). or Lie? Journal of the American Planning Association,
vol. 68, no. 3, Summer 2002.
B.O.T. (2004). Manual de evaluacin expost de proyectos:
Bent Flyvbjerg, Mette K. Skamris Holm & Sren L. Buhl
Versin 1, para Convenio Andrs Bello. Bogot.
(2005). How (In)accurate Are Demand Forecasts in
Baker, Judy (2000). Evaluacin del impacto de los proyectos
Public Works Projects? The Case of Transportation.
de desarrollo en la pobreza: Manual para profesionales.
Journal of the American Planning Association, vol. 71,
Washington: Banco Mundial, IEG, Poverty Analysis,
no. 2, Spring 2005.
Monitoring and Impact Evaluation Thematic Group.
Bent Flyvbjerg, Nils Bruzelius & Werner Rothengatter (2003).
Bamberger, Michael (2006). Conducting Quality Impact
Megaprojects and Risk: An Anatomy of Ambition.
Evaluations under Budget, Time and Data Constraints.
Cambridge University Press.
Washington: Banco Mundial, IEG, Poverty Analysis, Best, Joel (2001). Damned Lies and Statistics: Untangling
Monitoring and Impact Evaluation Thematic Group. Numbers from the Media, Politicians, and Activists.
Bamberger, Michael (2010). Reconstructing Baseline data University of California Press.
for impact evaluation and results measurement. The Bliss, M. & Emshoff, J. (2005). Workbook for Designing a
World Bank, Prem Notes. November 2010, Number 4. Process Evaluation. Atlanta (Georgia), Department of
Special series on The Nuts and Bolts of M&E Systems. Economy-Georgia State University.
Bamberger, Michael (Editor) (1999). Integrating quantitative Blundell, Richard & Monica Costa Dias (2000). Evaluation
and qualitative research in development projects. Methods for Non-experimental Data. Fiscal Studies,
Washington: World Bank. Directions in development. 21 (4): 427-468.
Bamberger, Rugh & Mabry (2006). Real World Evaluation: Boardman, A; Greenberg, D; Vining, A & Weimer, D (1996).
Working under Budget, Time, Data, and Political Cons- Cost-Benefit Analysis: Concepts and Practice. Upper
traints. Thousand Oaks (California), Sage Publications. Saddle River, N.J. Prentice Hall.
147
Gua para la Evaluacin de Polticas Pblicas
Booth, W. & R. Morin (1996). Assessing Organizational Capa- vity Performance and Effectiveness. Department for
city through Participatory Monitoring and Evaluation International Development.
Handbook. Preparado para Pact Ethiopian NGO Sector DEPP (2010). Metodologas DEPP: Seleccin de la evaluacin.
Enhancement Initiative. Washington, USAID. Documento para discusin. DEPP, DNP. Bogot.
Boyle, P.; Lyons, K. & Bamberger, M. (2007). Strengthening DEPP (n.d). Lineamientos metodolgicos, la Evaluacin
Results-based Evaluation in Colombia. DNP, Social Ejecutiva (E2). Direccin de Evaluacin de Polticas
Impact. Pblicas. Secretara Tcnica de Sinergia, Departamento
Campbell & Stanley (1963). Experimental and Quasi- Nacional de Planeacin. Colombia.
Experimental Designs for Research. DEPP, DNP (2006). Evaluacin Ejecutiva: Informe Final.
Cavanos, G. (1999). Applied probability and statistical Direccin de Evaluacin de Polticas Pblicas. Secre-
methods. McGraw Hill. Virginia Commonwealth Uni- tara Tcnica de Sinergia, Departamento Nacional de
versity. Planeacin. Colombia.
Centro Nacional de Consultora (2010, Diciembre). Informe DEPP, DNP (2006, Marzo). Informe de Lnea de Base reali-
Final de la Evaluacin de la capacidad institucional de zado para la Evaluacin intermedia del programa de
los componentes de vivienda y tierras de la poltica Vivienda de Inters Social Urbana. Crece, Manizales.
de atencin a la poblacin en situacin de desplaza- DEPP, DNP (2010). Evaluacin Ejecutiva (E2) Programa Estra-
miento. Direccin de Evaluacin de Polticas Pblicas, tegia Territorios Digitales: Aprovechamiento de las TIC
Departamento Nacional de Planeacin. en Colombia. Consultora realizada por Julio Villarreal.
Centro Nacional de Consultora (2010, Mayo). Informe DEPP, DNP (2011). Diplomado en monitoreo y evaluacin
metodolgico de la Evaluacin de la capacidad insti- de polticas pblicas. Mdulo Evaluaciones.
tucional de los componentes de vivienda y tierras de Desrosieres, Alain (2004). The Politics of Large Numbers: A
la poltica de atencin a la poblacin en situacin de History of Statistical Reasoning. Harvard University
desplazamiento. Direccin de Evaluacin de Polticas Press.
Pblicas, Departamento Nacional de Planeacin. DNP (2009). Gua Metodolgica para la formulacin de
Chakravarty, Sukhamoy (1987). Cost-benefit analysis, indicadores. Departamento Nacional de Planeacin,
The New Palgrave: A Dictionary of Economics, v. 1, Bogot.
pp. 68790. Duflo, Esther, Rachel Glennerster & Michael Kremer (2008).
Charles, A.; Steve, J. & Lawrence, K. (2001). Quality Manage- Using Randomization in Development Economics
ment for Industrial Process. En: Quality Management Research: A Toolkit. En: Handbook of Development
Review. Economics, vol. 4, ed. T. Paul Schultz & John Strauss,
Comit Conjunto de Estndares para la Evaluacin Educati- 3895-3962. Amsterdam: North-Holland.
va, Programme Evaluation Standards: How to Assess Dupuit, Jules (1969). On the Measurement of the Utility of
Evaluations of Educational Programmes, 2 ed., Sage Public Works. En: Readings in Welfare Economics, ed.
Publications, Thousand Oaks, CA. Managing for De- Kenneth J. Arrow & Tibor Scitovsky.
velopment Results (MfDR) Initiative. Disponible en: Eckstein, Otto (1958). Water-resource Development: The
www.mfdr.org Economics Of Project Evaluation. Harvard University
Cutler, Carol & Russel, Ruth (2008). Using mixed methods Press, Cambridge.
in pilot testing. ESCAP (2009). Evaluation Guidelines. ESCAP Monitoring
DANE (2001). Metodologa para la formulacin de planes and Evaluation System. United Nations, Economic and
estadsticos. Bogot. Social Commission for Asia and the Pacific (ESCAP).
DANE (2002). Consideraciones metodolgicas para la cons- Evalsed (n.d). Los recursos para la evaluacin del desarrollo
truccin de indicadores. Mimeo. Bogot. socio-econmico. Comisin Europea. http://ec.europa.
DANE (2004). Aspectos Metodolgicos de la Planificacin eu/regional_policy/sources/docgener/evaluation/
Estadstica. Direccin de Regulacin, Planeacin, evalsed/index_en.htm
Normalizacin y Estandarizacin - DIRPEN, Bogot. Feinstein O. & G. Ingram (2003). Lessons Learned from World
DANE (2004). Lnea Base: aspectos metodolgicos. Bogot. Bank Experiences in Joint Evaluation, Documento de
Danida (1998-1999). Guidelines for an Output and Outcome sala sometido a la Red de Evaluacin, OCDE, Pars,
Indicator System. Copenhagen, Danida. Francia. Disponible en: http://www.oecd.org/dataoecd/
Danida (1999, Noviembre). Output and Outcome Indicators secure/15/13/31736431.pdf
System Manual. Copenhagen, Danida. Fenton, Dave (2008). Three key relationships in the service
DAPR, FIP, DNP (2006, Diciembre). Informe final Evaluacin delivery chain. Achieving Superior Delivery Chain
de impacto del programa Familias en Accin Subsi- Management: Information Management Magazine.
dios condicionados de la red de apoyo social. Unin Ferrara, A. (2010). Cost-Benefit Analysis of Multi-Level Gover-
temporal IFS, Econometra y SEI. Bogot. nment: The Case of EU Cohesion Policy and US Federal
Davies, Rick (2003). Network Perspective in the Evaluation Investment Policies. London & New York, Routledge.
of Development Interventions: More than a Metaphor. FIDA (Fondo Internacional de Desarrollo Agrcola), Conflict
Paper presented at the EDAIS Conference New Direc- of Interest of Consultants and Widening the Pool of
tions in Impact Assessment for Development: Methods Evaluation Specialists.
and Practice, November 2425. Folland, Sherman; Allen C. Goodman & Miron Stano (2007).
Dearden, E. & Jones, E. (2002). Tools for Development: A The Economics of Heath and Health Care. Fifth ed.
Handbook for Those Engaged in Development Acti- Pearson Prentice Hall, New Jersey.
148
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Fondo del Medio Ambiente Mundial, Monitoring and Eva- Kosub, Jeffry (2010). Transitioning to a Greener Fleet: A Cost-
luation Policy, Febrero de 2006, Disponible en: http:// Benefit Analysis of a Vehicle Fleet Program at the Texas
www.undp.org/gef/05/documents/me/GEF_ME_Poli- General Land Office in Austin, Texas (2010). Applied
cies_and_Precedures_06.pdf Research Projects. Texas State University, Paper 329.
Garca, Sandra. (2009). Evaluaciones ejecutivas en el contexto Disponible en: ecommons.txstate.edu/arp/329http://
de la evaluacin. Bogot, Universidad de los Andes- ecommons.txstate.edu/arp/329
Escuela de Gobierno. Kusek, J. & Rist, R. (2004). Ten Steps to a Results-Based
Gestin para Resultados de Desarrollo (GpRD), Second Monitoring and Evaluation System. A Handbook for
International Roundtable Marrakech 2004; Annex 1: Development Practitioners. Washington, World Bank.
Promoting a Harmonized Approach to Managing for Kusek, Judy & Gorgensen, Marelize (2010). Making Monitoring
Development Results: Core Principles. Disponible en: and Evaluation Systems Work: A Capacity Development
www.mfdr.org/documents/2CorePrinciples05Feb04. Toolkit. Washington, World Bank.
pdf Kusek, Judy & Rist, Ray (2005). Manual Para gestores del
Girishankar, Navin (2001). Evaluating the Public Sector Re- Desarrollo. Diez Pasos hacia un Sistema de Seguimiento
form. Guidelines for Assessing Country-Level impact of y evaluacin basado en resultados. Banco Mundial,
Structure Reform and Capacity Building. Operations Washington.
Evaluation Department. Washington, The World Bank. Kusters, Cecile et al. (2011). Making Evaluations Matter: a
GNUD (2007). CCA and UNDAF Guidelines. Disponible en: practical guide for evaluators. Centre for Development
www.undg.org/?P=232 Innovation, Wageningen University & Research centre.
GNUD (2007). CCA/UNDAF Monitoring and Evaluation Lettieri, J. & Nelson, E. (2004). Theory of Lean Production.
Guidelines. Disponible en: www.undg.org/index. Washington, National Academy of Business.
cfm?P=259 Levinger, B. & E. Bloom (1997). Introduction to DOSA: An
GNUD, Human Rights Based Approach to Development. Outline Presentation. Disponible en: www.edc.org/
Disponible en: www.undg.org/index.cfm?P=74 int/capdev/dosafile/dosintr.htm
Gmez, Ana (2007). Metodologa de evaluaciones estratgicas Lindley, D. V. (1985). Making Decisions, 2. edicin, John
(Documento de discusin). DNP-Sistema Nacional de Wiley & Sons.
Evaluacin de Resultados de la Gestin Pblica, Bogot. Little, I. M. D. & Mirrlees, J. A. (1994). The Costs and Benefits
Grgens, Marelize & Kusek, Jody (2010). Making Monitoring of Analysis: Project Appraisal and Planning Twenty
and Evaluation Systems Work: A Capacity Development Years On. En: R. Layard & S. Glaister (eds), Cost Benefit
Toolkit. Washington, World Bank. Analysis 2nd ed., Cambridge University Press.
Gupta, Anju (2002). Review of Impact Evaluation Methodo- Lusthaus Charles, Marie-Hlne Adrien, Gary Anderson &
logies Used By the Operations Evaluation Department Fred Carden (1999). Enhancing Organizational Per-
Over Past 25 Years. Banco Mundial-IEG, Poverty Analysis, formance: A toolbox for self assessment. International
Monitoring and Impact Evaluation Thematic Group, Development Research Centre, Canad.
Washington. Maass, Arthur (ed) (1962). Design Of Water-resource Systems:
Hacking, Ian (1990). The Taming of Chance. Cambridge New Techniques For Relating Economic Objectives,
University Press. Engineering Analysis, And Governmental Planning.
Heyer, Molly (2001). A Bibliography for Program Logic Mo- Cambridge, Harvard University Press.
dels/Logframe Analysis. Evaluation Unit, International Mackay, Keith (2007). Cmo crear sistemas de SyE que
Development Research Centre. contribuyan a un buen gobierno. Banco Mundial-IEG.
Hirshleifer, Jack (1960). Water Supply: Economics, Techno- Poverty Analysis, Monitoring and Impact Evaluation
logy, and Policy. Chicago, University Of Chicago Press. Thematic Group, Washington.
HM Treasury. The Green Book, Appraisal and Evaluation in Malik, Khalid (2002). Manual de seguimiento y evaluacin de
Central Government. London, The Stationery Office. resultados. Nueva York, Oficina de Evaluacin del PNUD.
International Development Association (2002). Measuring Mark M.; Henry G. & Julnes G. (2000). Evaluation: An Inte-
Outputs and Outcomes in IDA Countries. Disponible grated Framework For Understanding, Guiding, And
Improving Public And Nonprofit Policies And Programs.
en: siteresources.worldbank.org/IDA/Resources/Semi-
Jossey-bass.
nar%20PDFs/measuring%20outputs.pdf
McCawley, P. (2001). The Logic Model for Program Planning
Kellogg Foundation (1998). Evaluation handbook.
and Evaluation. Moscow, University of Idaho.
Kellogg Foundation (2004). Evaluation Logic Model Deve-
McKean, Roland N. (1958). Efficiency In Government Through
lopment Guide: Using Logic Models to Bring together
Systems Analysis: With Emphasis On Water Resources
Planning, Evaluation, and Action.
Development. New York, Wiley.
Khandker, S.; Koolwal, G & Samad, H. (2009). Handbook on
McNamara, Carter (2006). Basic Guide to outcomes-based
Quantitative Methods Of Program Evaluation. Banco
evaluation for nonprofit organizations with very limited
Mundial-IEG, Poverty Analysis, Monitoring and Impact
resources, adaptado de: Field Guide to Nonprofit Pro-
Evaluation Thematic Group, Washington.
gram Design, Marketing and Evaluation. Authenticity
Khandker, S.; Koolwal, G & Samad, H. (2010). Handbook
Consulting, LLC, Minneapolis, Minnesota.
on Impact Evaluation. Banco Mundial-IEG, Poverty
McNamara, Carter (2006). Basic Guide to Program Evalua-
Analysis, Monitoring and Impact Evaluation Thematic
tion. Disponible en: managementhelp.org/evaluation/
Group, Washington.
program-evaluation-guide.htm
149
Gua para la Evaluacin de Polticas Pblicas
Medina, Eva. (2002). Modelos economtricos e informacin OCHA (2007). Guidelines: Results-Oriented Planning &
estadstica. UNAM, Facultad de economa. Monitoring, pg. 11. Naciones Unidas, Resolution
Menon, S.; Karl, J. & Wignaraja, K. (2009). Handbook On Adopted by the General Assembly: Triennial Com-
Planning, Monitoring And Evaluating For Development prehensive Policy Review of Operational Activities
Results. United Nations Development Programme, for Development of the United Nations System, A/
New York. RES/59/250, Agenda del 59 Periodo de Sesiones,
Mikel, H. & Schroeder, R. (2004). Six Sigma: The Breakthrough Punto 90 (b).
Management Strategy. New York, McGraw Hill. OECD (1999). Improving Evaluation Practices: Best Practice
Mishan, E.J. (1982). Cost-Benefit Analysis, Third Edition. Guidelines for Evaluation and Background Paper.
George Allen & Unwin Ltd, London. OECD (2002). Glosario de los principales trminos sobre
Mohr, Lawrence B. (1995). Impact Analysis for Program Eva- evaluacin y gestin basada en resultados. En: Eva-
luation. Thousands Oaks (California), Sage Publications. luation and aid effectiveness, No. 6. Development
Morgan, Peter (1999). An Update on the Performance Moni- assistance Committee.
toring of Capacity Development Programs. What are Ozlak, O. & Orellana E. (2000). El anlisis de la capacidad
we Learning?. Paper presented at the meeting of the institucional: aplicacin de la metodologa SADCI,
DAC Informal Network on Institutional and Capacity Documentos TOP sobre gestin Pblica. Buenos Aires,
Development held in Ottawa, May 3-5. Centro de Desarrollo y Asistencia Tcnica en Tecnologa
Morra, L. & Friedlander, A. (2001). Evaluaciones mediante para la Organizacin pblica.
estudios de caso. Departamento de Evaluacin de Patton, Michael Q. (1997). Utilization- Focused Evaluation
Operaciones del Banco Mundial, Washington. The New Century Text. 3th ed., Sage Publications.
Morra, L. & Rist, R. (2009). The Road to Results: Designing Patton, Michael Q. (2002). Qualitative Evaluation and Re-
and Conducting Effective Development Evaluations. search Methods, 3rd ed. Thousand Oaks (CA), Sage
Washington, World Bank. Publications.
Morse, Janice M. & Lyn Richards (2002). The Integrity of Patton, Michael Q. (2008). Utilization-Focused Evaluation,
Qualitative Research. En: Read Me First for a Users 4th ed. Thousand Oaks (CA), Sage Publications.
Guide to Qualitative Methods, J. M. Morse & L. Richards Patton, Michael Q. (2009). Outcome Mapping: Building,
(eds). Thousand Oaks (CA), Sage Publications. Learning and Reflection into Development Programs.
National Audit Office & Vose, D. (1996). Measuring costs Ottawa, International Development Research Centre.
and benefits: A guide on cost benefit and cost effec- Pawson, Ray (2006). Evidence-Based Policy: A Realistic Pers-
tiveness analysis. pective. New Brunswick (New Jersey), Sage Publications.
North, Douglas (1996). Institutions, institutional change and Pearce, David & Markandya, Anil (1989). Contingent Va-
economic performance. Cambridge University Press. luation. En: Environmental Policy Benefits: Monetary
OCDE (1991). DAC Principles for Evaluation of Develop- Valuation, OECD.
ment Assistance, Comit de Asistencia al Desarrollo PMA (2000). WFP Principles and Methods of Monitoring
(CAD). Pars, Francia. Disponible en: www.oecd.org/ and Evaluation, perodo de sesiones anual de la Junta
dataoecd/21/32/41029845.pdf Ejecutiva. Roma, 22 a 26 de Mayo.
OCDE (2000). Effective Practices in Conducting a Multi-donor PNUD (1997). Monitoreo y evaluacin orientados a la obten-
Evaluation. Pars, Francia. Disponible en: www.oecd. cin de resultados: Manual para los administradores
org/dataoecd/10/28/2667318.pdf de programas. Oficina de Evaluacin y Planificacin
OCDE (2002). Glossary of Key Terms in Evaluation and Estratgica.
Results-Based Management, Comit de Asistencia al PNUD (2006). La poltica de Evaluacin del PNUD, Docu-
Desarrollo (CAD). Pars, Francia. Disponible en: www. mento de la Junta Ejecutiva DP/2005/28. Disponible
oecd.org/dataoecd/29/21/2754804.pdf en: www.undp.org/eo/documents/Evaluation-Policy.pdf
OCDE (2005). DAC Workshop on Joint Evaluations: Cha- PNUD (2007). Ensuring Quality Control and Policy Cohe-
llenging the Conventional Wisdom the View from rence: BDP Quality Assurance and Clearance Process.
Developing Country Partners. Comit de Asistencia al
Direccin de Polticas de Desarrollo. Disponible en:
Desarrollo (CAD), Nairobi, Kenya. Disponible en: www.
intra.undp.org/bdp/clearance_process.htm
oecd.org/dataoecd/20/44/34981186.pdf
PNUD (2007). Guidelines for an Assessment of Development
OCDE (2006). DAC Guidance for Managing Joint Evalua-
Results (ADR), Oficina de Evaluacin, Nueva York.
tions, Comit de Asistencia al Desarrollo (CAD).
Disponible en: intra.undp.org/eo/documents/ADR/
Pars, Francia. Disponible en: www.oecd.org/da-
framework/ADR_Guide.pdf
taoecd/28/14/37484787.pdf
PNUD (2007). Standard Third-Party Cost-Sharing Agree-
OCDE (2008). Guidance on Conflict Prevention and Pea-
ment. Direccin de Alianzas. Disponible en: content.
cebuilding Activities: Working Draft for Application
undp.org/go/groups/brsp/Non-Core/Formats/?g11n.
Period. Disponible en: www.oecd.org/secure/pdf-
enc=ISO-8859-1
Document/0,2834 ,en_2157136130097720_3977
PNUD (2007). The Evaluation of Results Based Management
4574_1_1_1_1,00.pdf
at UNDP. Oficina de Evaluacin, Nueva York.
OCDE. Criteria from Evaluating Development Asstan-
PNUD (2008). Practice Note on Capacity Assessment.
se, Comit de Asistencia al Desarrollo (CAD). Dis-
PNUD (2008). Programme and Operations Policies and
ponible en: www.oecd.org/document/22/0,2340,
Procedures. Disponible en: content.undp.org/go/
en_2649_34435_2086550_1_1_1_1,00.html
userguide
150
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
PNUD (2008). UNDP Strategic Plan, 2008-2011: Accelerating Sistema Nacional de Evaluacin de Resultados de la Gestin
Global Progress on Human Development. Documen- Pblica (2007, Octubre). Metodologa de evaluaciones
to de la Junta Ejecutiva DP/2007/43 (en virtud de estratgicas. Versin para discusin.
DP/2007/32), reedicin. Social Impact (2008). Strengthening Results-based Eva-
PNUD (2009). Assessment of Development Results (ADR) luation in Colombia. Prepared for the Departamento
Guidelines. Oficina de Evaluacin, Nueva York. Dis- Nacional de Planeacin by Social Impact, Inc. Dr. Philip
ponible en: intra.undp.org/eo/documents/ADR/ADR- Boyle, Karen Lyons & Dr. Michael Bamberger.
Guide-2009.pdf Squire, Lyn & Van der Tak, Herman G. (1995). Economic Analy-
PNUD (2009). Manual de planificacin, seguimiento y eva- sis of Projects, A World Bank Research Publication, 8th
luacin de los resultados de desarrollo. Programa de Edition. The Johns Hopkins University Press, Baltimore.
las Naciones Unidas para el Desarrollo, Nueva York. Suchman, Edward A. (1967). Evaluative Research: Principles
PNUD (n.d). Knowing the What and the How, RBM in UNDP: and Practice in Public Service Action Programs. New
Technical Note. Disponible en: www.undp.org/eo/ York, Russell Sage Foundation.
documents/methodology/rbm/RBM-technical-note.doc Talbot, Colin (2010). Performance in Government: The
PNUD. RBM in UNDP: Technical Note. Evolving System of Performance and Evaluation Mea-
PNUD. Supporting Capacity Development: The UNDP surement, Monitoring, and Management in the United
Approach. Disponible en: www.capacity.undp.org/ Kingdom. Independent Evaluation Group - ECD,
indexAction.cfm?module=Library&action=GetFile&- Working Paper Series No. 24, November. The World
DocumentAttachmentID=2141 Bank, Washington.
Portney, Paul R. (1950). Benefit-Cost Analysis. En: The Library Taylor-Powell, E. & Henert, E. (2009). Developing a logic
Of Economics and Liberty. Proposed Practices For Eco- model: Teaching and training guide. University of
nomic Analysis Of River Basin Projects. Washington, Wisconsin-Extension.
U.S. Govt. Print. Off. Tevfik F. Nas (1996). Cost-Benefit Analysis: Theory and
Procuradura General de la Nacin (PGN), Banco Interame- Application. Thousand Oaks (CA), Sage.
ricano de Desarrollo (BID), Departamento Nacional The International Initiative for Impact Evaluation (3ie) (2009).
de Planeacin (DNP) (2008, Agosto). Programa de Impact Evaluation Glossary
apoyo al fortalecimiento de la Procuradura General Tijms, Henk (2004). Understanding Probability: Chance
de la Nacin, Contrato de Prstamo BID 1459 OC-CO. Rules in Everyday life. Cambridge University Press.
Evaluacin Final del programa. Bogot. Tobelem, Alain (1992). Institutional capacity analysis and
Purdon, S.; Lessof, C.; Woodfield, K & Bryson, C. (2001). development system (ICADS). LATPS Occasional Pa-
Research Methods For Policy Evaluation (National per Series N9. Public Sector Management Division,
Centre for Social Research. Department for Work and Technical Department Latin America and the Caribbean
Pensions Research Working Paper No. 2). Region of the World Bank.
Ravallion, Martin (2008). Evaluating Anti-poverty Programs. Treasury Board of Canada Secretariat (1998). Benefit-Cost
En: Handbook of Development Economics, vol. 4, T. Analysis Guide. Ottawa.
Paul Schultz & John Strauss (eds.), 3787-3846. Am- Trochim, William & Donnelly, James (2006). The Research
sterdam, North-Holland. Methods Knowledge Base, 3rd Edition.
Robertson, D. & Smith, H. (2005). Six-Sigma Methodology UNDP (1999). Selecting Key Results Indicators, Suggestions
Applied to Industrial Process. En: Quality Management and Practical Advice from EO and OSG. Disponible
Review. en: stone.undp.org/undpweb/eo/evalnet/docstore3/
Rosas, A. (2008). Una ruta metodolgica para evaluar la yellowbook/documents/key_indicators.pdf
capacidad institucional. Revista: Poltica y cultura. UNEG (2005). Norms for Evaluation in the UN System.
Vol. 30. Pg. 119-134. Mxico. Disponible en: www.unevaluation.org/unegnorms
Rossi P.; Lipsey M. & Freeman H. (2004). Evaluation: A Sys- UNEG (2005). Standards for Evaluation in the UN System.
tematic Approach. Sage publications. Disponible en: www.unevaluation.org/unegstandards.
Salmen, Lawrence F. (1987). Listen to the People: Participant UNEG (2007). Ethical Guidelines for Evaluation. Dis-
Observation Evaluation of Development Projects. New ponible en: www.uneval.org/search/index.
York, Oxford University Press. jsp?q=ethical+guidelines
Scriven, Michael (1991). Evaluation Thesaurus, Fourth edition. UNEG (2007). Role of Evaluation in RBM: Final Report,
Sage Publications. Reunin General Anual. Disponible en: cfapp1-
Servicio de Calidad a la Atencin Sanitaria-Sescam (2002). La docs-public.undp.org/eo/evaldocs1/uneg_2006/
gestin por procesos, disponible en: www.chospab.es/ eo_doc_722014901.pdf
calidad/archivos/Documentos/Gestiondeprocesos.pdf UNEG (2007). The Role of Evaluation in Results-Based
Shadish, Cook & Campbell (2002). Experimental & Quasi- Management. Disponible en: www.unevaluation.
Experimental Designs for Generalized Causal Inference. org/papersandpubs/documentdetail.jsp?doc_id=87
Boston, Houghton Mifflin. UNEG (2008). UNEG TrainingWhat a UN Evaluator Needs
Sigler, Stephen M. (1990). The History of Statistics: The to Know?, Mdulo 1.
Measurement of Uncertainty before 1900. Belknap UNEG, Guidance on Integrating Human Rights and Gender
Press/Harvard University Press. Equality Perspectives in Evaluations in the UN System.
151
Gua para la Evaluacin de Polticas Pblicas
UNFPA (2000). Institutionalization of Results-based Ma- USAID (2010). Performance Monitoring and evaluation TIPS,
nagement at UNFPA. Disponible en: www.unfpa.org/ Baselines and Targets. No. 8, second edition.
results/index.htm Valadez, J. & M. Bamberger (ed.) (1994). Monitoring and
UNFPA (2000). RBM at UNFPA. Oficina de Gestin Basada Evaluating Social Programs in Developing Countries.
en los Resultados. Disponible en: www.unfpa.org/ Washington, D.C.: Economic Development Institute of
results/index.htm the World Bank Series, World Bank.
UNFPA (2004, Agosto). Programme Managers Planning Volle, Michel (1984). Le mtier de statisticien 2. ed.,
Monitoring & Evaluation Toolkit. Tool Number 6: Pro- Econmica.
gramme Indicators. Part I: Identifying Output Indicators World Bank (1996). Performance Monitoring Indicators. A
- The Basic Concepts. Division for Oversight Services. Handbook for Task Managers. Washington, Operations
Disponible en: www.hfrp.org/publications-resources/ Policy Department.
browse-our-publications/indicators-definition-and- World Health Organization (2000). Outcome Evaluation.
use-in-a-results-based-accountability-system United Nations Development Programme, New York.
UNICEF (1991). EVALUATION A UNICEF Guide for Monito- World Health Organization (2000). Process Evaluation. United
ring and Evaluation Making a Difference?. Oficina Nations Development Programme, New York.
de Evaluacin. Zaltsman, Ariel (2006). Desarrollo de la capacidad de eva-
UNICEF (1998). Democratic Evaluation: A proposal for luacin: Experiencias con la institucionalizacin en
strengthening the evaluation function in International cinco pases latinoamericanos. Serie Documentos de
Development Organizations. Documento de trabajo Trabajo, no. 16. Washington, Banco Mundial.
#3, Mayo.
Unicef (2008). Toolkit on evaluation. United Nations Muestreo (Sampling)
Childrenss Fund/ Egypt Country Office.
Unicef, International Program Evaluation Network-IPEN (2006). Adr, H. J., Mellenbergh, G. J., & Hand, D. J. (2008). Advising on
New Trends in Development Evaluation. Evaluation
research methods: A consultants companion. Huizen,
Working Papers, Issue # 5. UNICEF regional Office for
The Netherlands: Johannes van Kessel Publishing.
CEE/ CIS and IPEN.
ASTM E105 Standard Practice for Probability Sampling Of
Unin Temporal IFS Econometra S.A. SEI (2004). Informe
Materials
anlisis de resultados de las primeras convocatorias
ASTM E122 Standard Practice for Calculating Sample Size to
de programa Jvenes en Accin. Consultora para
Estimate, With a Specified Tolerable Error, the Average
la evaluacin de impacto del Subprograma Jvenes
for Characteristic of a Lot or Process
en Accin.
ASTM E1402 Standard Terminology Relating to Sampling
Unin Temporal Universidad de los Andes Profamilia
ASTM E141 Standard Practice for Acceptance of Evidence
(2007). Evaluacin del impacto del programa Hogares
Comunitarios de Bienestar del ICBF, Informe de Lnea Based on the Results of Probability Sampling
de Base. DEPP, DNP. ASTM E1994 Standard Practice for Use of Process Oriented
United Way of America (1996). Measuring Program Outcomes: AOQL and LTPD Sampling Plans
A Practical Approach. Alexandria, Virginia. ASTM E2234 Standard Practice for Sampling a Stream of
United Way of America. Outcome measurement What and Product by Attributes Indexedby AQL
why? An overview. Outcome measurement resource Bartlett, J. E., II, Kotrlik, J. W., & Higgins, C. (2001). Organiza-
network. Disponible en: www.liveunited.org/Outcomes/ tional research: Determining appropriate sample size
Resources/What/OM_What.cfm for survey research. Information Technology, Learning,
UNSSC, Draft Technical Brief: Outcomes. and Performance Journal, 19(1) 4350.
USAID (1996). Selecting Performance Indicators. En: Per- Chambers, R L, and Skinner, C J (editors) (2003), Analysis of
formance Monitoring and Evaluation. TIPS, No. 6. Survey Data, Wiley, ISBN 0-471-89987-9
Disponible en: www.dec.org/pdf_docs/pnaby214.pdf. Cochran, William G. (1977). Sampling Techniques (Third ed.).
USAID (1996). Establishing Performance Targets. En: Per- Wiley. ISBN0-471-16240-X.
formance Monitoring and Evaluation. TIPS, No. 8. Deming, W. Edwards (1966). Some Theory of Sampling. Dover
Disponible en: www.dec.org/pdf_docs/pnaby226.pdf. Publications. ISBN0-486-64684-X. OCLC166526.
USAID (1997). Performance Monitoring and Evaluation, Deming, W. Edwards (1975) On probability as a basis for
TIPS, No. 11. action, The American Statistician, 29(4), pp146152.
USAID (1998). Managing for Results at USAID, ponencia Gy, P (1992) Sampling of Heterogeneous and Dynamic Ma-
preparada por Annette Binnendijk para el Curso prctico terial Systems: Theories of Heterogeneity, Sampling
sobre gestin y evaluacin de la actuacin profesional. and Homogenizing
Nueva York, 5 a 7 de Octubre. http://www.statpac.com/surveys/sampling.htm.
USAID (1998). Guidelines for Indicator and Data Quality. En: Kish, Leslie (1995) Survey Sampling, Wiley, ISBN 0-471-
Performance Monitoring and Evaluation. TIPS, No. 12. 10949-5
Disponible en: www.dec.org/pdf_docs/pnaca927.pdf. Korn, E L, and Graubard, B I (1999) Analysis of Health Surveys,
USAID (2000). Measuring Institutional Capacity, Recent Wiley, ISBN 0-471-13773-1
Practices in Monitoring and Evaluation. TIPS, No. 15. Lohr, Sharon L. (1999). Sampling: Design and Analysis. Dux-
Disponible en: www.dec.org/usaid_eval/#004. bury. ISBN0-534-35361-4.
152
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Pedhazur, E., & Schmelkin, L. (1991). Measurement design The Social Science Research Laboratory (SSRL) - San Diego
and analysis: An integrated approach. New York: Psy- State University.
chology Press. UK Longitudinal Studies Centre - University of Essex
Srndal, Carl-Erik, and Swensson, Bengt, and Wretman, Jan
(1992). Model Assisted Survey Sampling. Springer-
Capacidad organizacional, construccin
Verlag. ISBN0-387-40620-4.
Smith, T. M. F. (1984). Present Position and Potential Develo- institucional, fortalecimiento institucional,
pments: Some Personal Views: Sample surveys. Journal desarrollo organizacional
of the Royal Statistical Society. Series A (General) 147
(The 150th Anniversary of the Royal Statistical Society): Center for Democracy and Governance (1998). Handbook
208221. doi:10.2307/2981677. http://www.jstor. of Democracy and Governance Program Indicators.
org/stable/2981677. JSTOR2981677 Washington, U.S. Agency for International Development.
Smith, T. M. F. (1993). Populations and Selection: Limitations Christian Reformed World Relief Committee (1997). Part-
of Statistics (Presidential address). Journal of the Royal nering to Build and Measure Organizational Capacity.
Statistical Society. Series A (Statistics in Society) 156 Grand Rapids, Mich.
(2): 144166. doi:10.2307/2982726. http://www.jstor. Cooper, S.; and R. O.Connor (1993). Standards for Organi-
org/stable/2982726. JSTOR2982726 (Portrait of T. zational Consultation: Assessment and Evaluation
M. F. Smith on page 144) Instruments. Journal of Counseling and Development
Smith, T. M. F. (2001). Biometrika centenary: Sample sur- 71: 651-9.
veys. Biometrika 88, (1): 167243. doi:10.1093/ Counterpart International (n.d). CAP Monitoring and Evalua-
biomet/88.1.167. http://biomet.oxfordjournals.org/ tion Questionnaire.
cgi/content/abstract/88/1/167. Counterpart International (n.d). Manual for the Workshop on
Smith, T. M. F. (2001). Biometrika centenary: Sample surveys. Development of a Training and Technical Assistance
In D. M. Titterington and D. R. Cox. Biometrika: One Plan (TTAP).
Hundred Years. Oxford University Press. pp.165194. Counterpart International (n.d). Institutional Assessment
ISBN0-19-850993-6. Indicators.
Stuart, Alan (1962) Basic Ideas of Scientific Sampling, Hafner Drucker, P. & C. Roseum (1993). How to Assess Your Nonpro-
Publishing Company, New York fit Organization with Peter Druckers Five Important
Walonick, David S. (1997). A Selection from Survival Statis- Questions: User Guide for Boards, Staff, Volunteers
tics. ISBN 0-918733-11-1. Published by: StatPac, Inc., and Facilitators. Jossey Bass.
8609 Lyndale Ave. S. #209A, Bloomington, MN 55420 Eade, D (1997). Capacity-Building: An Approach to People-
Whittle, P. (May 1954). Optimum preventative sampling. Centred Development. Oxford, Oxfam.
Journal of the Operations Research Society of America Fowler, A.; L. Goold & R. James (1995). Participatory Self As-
2 (2): 197203. http://www.jstor.org/stable/166605. sessment of NGO Capacity, INTRAC Occasional Papers
Series No. 10. Oxford.
Encuesta (survey) Hatry, H.; L. Blair; D. Fisk; J. Grenier; J. Hall & P. Schaenman
(1992). How Effective Are Your Community Services?
Procedures for Measuring Their Quality. Washington,
De Leeuw, E.D. (2001). I am not selling anything: Experiments
The Urban Institute.
in telephone introductions. Kwantitatieve Methoden, International Working Group on Capacity Building for NGOs
22,41-48. (1998). Southern NGO Capacity Building: Issues and
Dillman, D.A. (1978) Mail and telephone surveys: The total Priorities. New Delhi, Society for Participatory Re-
design method. New York: Wiley. search in Asia.
European Survey Research Association International Working Group on Capacity Building for NGOs
Groves, R.M. (1989) Survey Costs and Survey Errors. New (1998). Strengthening Southern NGOs: The Donor
York: Wiley. Perspective. Washington, USAID & The World Bank.
http://whatisasurvey.info/ Kelleher, D. & K. McLaren with R. Bisson (1996). Grabbing
Joint Program in Survey Methodology (JPSM) - University of the Tiger by the Tail: NGOs Learning for Organiza-
Maryland-College Park and University of Michigan- tional Change. Canadian Council for International
Ann Arbor Cooperation.
Mellenbergh, G.J. (2008). Chapter 9: Surveys. In H.J. Adr Lent, D. October (1996). What is Institutional Capacity?. On
& G.J. Mellenbergh (Eds.) (with contributions by D.J. Track: The Reengineering Digest, 2 (7): 3. Washington,
Hand), Advising on Research Methods: A consultants U.S. Agency for International Development.
companion (pp. 183-209). Huizen, The Netherlands: Lusthaus, C.; G. Anderson & E. Murphy (1995). Institutional
Johannes van Kessel Publishing. Assessment: A Framework for Strengthening Organi-
Methodology and Statistics for the Social and Behavioral zational Capacity for IDRCs Research Partners. IDRC.
Sciences - Utrecht University, the Netherlands Mentz, J.C.N. (1997). Personal and Institutional Factors in
Survey Design and Measurement Initiative Capacity Building and Institutional Development.
Survey Research Methods Section of the American Statistical European Centre for Development Policy Management
Association Working Paper No. 14.
153
Gua para la Evaluacin de Polticas Pblicas
Morgan, P. & A. Qualman. (1996). Institutional and Capa- Organizational Capacity Indicator: Christian Reformed World
city Development, Results-Based Management and Relief Committee. Grand Rapids, Mich.
Organisational Performance. Canadian International Smith, P.; L. Kendall & C. Hulin (1969). The Measurement of
Development Agency. Satisfaction in Work and Retirement. Rand McNally.
OECD (2002). Glosario de los principales trminos sobre Hackman, J.R.; and G.R. Oldham (1975). Job Diagnostic Survey:
evaluacin y gestin basada en resultados. Development of the Job Diagnostic Survey. Journal of
Development assistance Committee - Pact (n.d). What is Applied Psychology 60: 159-70.
Prose?. Evaluation and aid effectiveness No. 6. Goodstein, L.D. & J.W. Pfeiffer, eds (1985). Alexander Team
PNUD (2009). Manual de planificacin, seguimiento y eva- Effectiveness Critique. The 1995 Annual Developing
luacin de los resultados de desarrollo. Programa de Human Resources. Pfeiffer & Co.
las Naciones Unidas para el Desarrollo, New York. Bourgeois, L.J.; D.W. McAllister & T.R. Mitchell (1978). Prefe-
Renzi, M. (1996). An Integrated Tool Kit for Institutional De- rred Organizational Structure: The Effects of Different
velopment. Public Administration and Development Organizational Environments Upon Decisions About
16: 469-83. Organizational Structure. Academy of Management
Renzi, M. (n.d). The Institutional Framework: Frequently Journal 21: 508-14.
Asked Questions. Unpublished paper. Management Kraut, A. (1996). Customer and Employee Surveys and Orga-
Systems International. nizational Surveys: Tools for Assessment and Change.
Sahley, C. (1995). Strengthening the Capacity of NGOs: Cases Jossey Bass Publishers.
of Small Enterprise Development Agencies in Africa. UNDP Capacity Building and CapBuild Software: magnet.
INTRAC NGO Management and Policy Series. Oxford. undp.org
Save the Children (n.d). Institutional Strengthening Indicators: Sustainable development measurement: iisd1.iisd.ca/measure
Self Assessment for NGOs. USAIDs New Partnerships Initiative Resource Guide: www.
UNDP (1997). Capacity Assessment and Development, Tech- info.usaid.gov/pubs/npi
nical Advisory Paper No. 3. Management Development World Bank: www.worldbank.org/html/oed/instdtxt.htm
and Governance Division, New York. International Union for the Conservation of Nature and
Bureau for Policy and Program Coordination (1995). USAID.U.S. Capacity building: www.iucn.org/themes/ssp/
PVO Partnership. Policy Guidance. Washington: U.S. Conservation monitoring: www.wcmc.org.uk/capacity_buil-
Agency for International Development. ding
Office of Private and Voluntary Cooperation (1998). USAID
Support for NGO Capacity-Building: Approaches, Desempeo en el gobierno
Examples, Mechanisms. Washington, U.S. Agency for
International Development.
Office of Private and Voluntary Cooperation (1998). Results Cave, M.; M. Kogan, et al., Eds. (1990). Output and Performance
Review Fiscal Year 1997. Washington, U.S. Agency for Measurement in GovernmentThe State of the Art.
International Development. London, Jessica Kingsley Publishers.
NPI Learning Team (1997). New Partnerships Initiative: A Comptroller and Auditor General (1998). Benefits Agency:
Strategic Approach to Development Partnering. Wash- Performance Measurement. London, National Audit
ington, U.S. Agency for International Development. Office.
NPI Learning Team (1997). Institutional Capacity Needs Comptroller and Auditor General (2000). Good Practice in Per-
Assessment. formance Reporting in Executive Agencies and Non-De-
Whorton, J. & D. Morgan (1975). Measuring Community Perfor- partmental Public Bodies. London, National Audit Office.
mance: A Handbook of Indicators. University of Oklahoma. Comptroller and Auditor General (2001a). Measuring the
World Bank (1996). Partnership for Capacity Building in Performance of Government Departments. London,
Africa: Strategy and Program of Action. Washington. National Audit Office.
World Learning (1998). Institutional Analysis Instrument: An Gershon, P. (2004). Releasing Resources for the Frontline:
NGO Development Tool. Independent Review of Public Sector Efficiency (Ger-
shon Review). London, HM Treasury.
HM Treasury (2001). Choosing the Right FABRIC - A Framework
Herramientas de medicin de capacidad for Performance Information. London, HM Treasury.
institucional Jowett, P. & M. Rothwell (1988). Performance Indicators in
the Public Sector. Macmillan.
Discussion-Oriented Organizational Self-Assessment: National Audit Office (2006). PSA Targets: Performance Infor-
www.edc.org/int/capdev/dosafile/dosintr.htm mation Survey Report. London, National Audit Office.
Institutional Development Framework: Management Systems Talbot, C. (1998). Output and Performance AnalysisTime
International. Washington. to Open Up the Debate. Public Money and Manage-
Pact. Organizational Capacity Assessment Tool: www.pact- ment 18(2).
world.org/ocat.html Talbot, C. (2010). Theories of PerformanceOrganizational
New TransCentury Foundation. Dynamic Participatory Insti- and service improvement in the public domain. Oxford,
tutional Diagnostic. Arlington, Va. Oxford University Press.
154
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Aleatoriedad Hoddinott, John & Emmanuel Skoufi (as.) (2004). The Impact
of PROGRESA on Food Consumption. Economic Deve-
lopment and Cultural Change, 53 (1): 37-61.
Abadie, Alberto; Joshua D. Angrist & Guido W. Imbens (2002).
Imbens, Guido & Joshua Angrist (1994). Identification and
Instrumental Variables Estimates of the Effect of Sub-
Estimation of Local Average Treatment Effects. Eco-
sidized Training on the Quantiles of Trainee Earnings.
nometrica, 62 (2): 467-476.
Econometrica, 70 (1): 91117.
Kish, Leslie (1987). Statistical Design for Research. New
Angrist, Joshua; Eric Bettinger; Erik Bloom; Elizabeth King &
York, Wiley.
Michael Kremer (2002). Vouchers for Private Schooling
Miguel, Edward & Michael Kremer (2004). Worms: Identifying
in Colombia: Evidence from a Randomized Natural Expe-
Impacts on Education and Health in the Presence of
riment. American Economic Review, 92 (5): 1535-1558.
Treatment Externalities. Econometrica, 72 (1): 159-217.
Banerjee, Abhijit; Shawn Cole; Esther Duflo & Leigh Linden
Moffitt, Robert (2003). The Role of Randomized Field Trials
(2007). Remedying Education: Evidence from Two
in Social Science Research: A Perspectiva from Eva-
Randomized Experiments in India. Quarterly Journal
luations of Reforms from Social Welfare Programs.
of Economics, 122 (3): 1235-1264.
NBER Technical Working Paper 295. National Bureau
Behrman, Jere & John Hoddinott (2005). Programme Eva-
of Economic Research, Cambridge, MA.
luation with Unobserved Heterogeneity and Selective
Quandt, Richard (1972). Methods for Estimating Switching
Implementation: The Mexican PROGRESA Impact on
Regressions. Journal of the American Statistical Asso-
Child Nutrition. Oxford Bulletin of Economics and
ciation, 67 (338): 306-310.
Statistics, 67 (4): 547-569.
Ravallion, Martin (2008). Evaluating Anti-Poverty Programs.
Behrman, Jere; Susan Parker & Petra Todd (2009). Long-Term
En: Handbook of Development Economics, vol. 4, T.
Impacts of the Oportunidades Condicional Cash-
Paul Schultz and John Strauss (eds.), 3787-3846.
Transfer Program on Rural Youth in Mexico. En: Poverty,
Amsterdam, North-Holland.
Inequality, and Policy in Latin America, Stephan Klasen
Roy, Andrew D. (1951). Some Thoughts on the Distribution
& Felicitas Nowak-Lehmann (eds.), 21970. Cambridge,
of Earnings. Oxford Economic Papers, 3 (2): 135-146.
MA: MIT Press.
Schultz, T. Paul (2004). School Subsidies for the Poor:
Bjr klund, Anders & Robert Moffi tt. (1987). The Estimation
Evaluating the Mexican PROGRESA Poverty Program.
of Wage Gains and Welfare Gains in Self-Selection Mo-
Journal of Development Economics, 74 (1): 199-250.
dels. Review of Economics and Statistics, 69 (1): 42-49.
Skoufias, Emmanuel & Vincenzo di Maro (2007). Conditional
Dammert, Ana (2007). Heterogeneous Impacts of Conditional
Cash Transfers, Adult Work Incentives, and Poverty.
Cash Transfers: Evidence from Nicaragua. Working
Policy Research Working Paper 3973, World Bank,
Paper, McMaster University, Hamilton, ON, Canada.
Washington.
De Janvry, Alain; Frederico Finan; Elisabeth Sadoulet & Renos
Todd, Petra & Kenneth Wolpin (2006). Assessing the Impact
Vakis (2006). Can Conditional Cash Transfer Programs
of a School Subsidy Program in Mexico: Using a Social
Serve as Safety Nets in Keeping Children at School and
Experiment to Validate a Dynamic Behavioral Model
from Working When Exposed to Shocks? Journal of
of Child Schooling and Fertility. American Economic
Development Economics, 79 (2): 349-373.
Review, 96 (5): 1384417.
Djebbari, Habiba & Jeffrey Smith (2008). Heterogeneous
Impacts in PROGRESA. IZA Discusin Paper 3362.
Institute for the Study of Labor, Bonn, Germany. Mtodo de pareo o correspondencia
Duflo, Esther; Rachel Glennerster & Michael Kremer (2008). (propensity score matching)
Using Randomization in Development Economics
Research: A Toolkit. En: Handbook of Development
Bryson, Alex; Richard Dorsett & Susan Purdon (2002). The
Economics, vol. 4, T. Paul Schultz and John Strauss
Use of Propensity Score Matching in the Evaluation
(eds.), 3895962. Amsterdam: North-Holland.
of Active Labour Market Policies. Working Paper 4.
Gertler, Paul (2004). Do Conditional Cash Transfers Improve
Department for Work and Pensions, London.
Child Health? Evidence from PROGRESAs Control
Caliendo, Marco & Sabine Kopeinig (2008). Some Practical
Randomized Experiment. American Economic Review,
Guidance for the Implementation of Propensity Score
Papers and Proceedings, 94 (2): 336-341.
Matching. Journal of Economic Surveys, 22 (1): 31-72.
Gin, Xavier; Dean Karlan & Jonathan Zinman (2008). The
Chen, Shaohua; Ren Mu & Martin Ravallion (2008). Are There
Risk of Asking: Measurement Effects from a Baseline
Lasting Impacts of Aid to Poor Areas? Evidence for
Survey in an Insurance Takeup Experiment. Working
Rural China. Policy Research Working Paper 4084.
Paper, Yale University, New Haven, CT.
World Bank, Washington.
Heckman, James J. & Edward J. Vytlacil (2000). Local Instru-
Dehejia, Rajeev (2005). Practical Propensity Score Matching:
mental Variables. NBER Technical Working Paper 252.
A Reply to Smith and Todd. Journal of Econometrics,
National Bureau of Economic Research, Cambridge, MA.
125 (12): 355-364.
Heckman, James J. & Edward J. Vytlacil (2005). Structural
Efron, Bradley & Robert J. Tibshirani (1993). An Introduction
Equations, Treatment Effects, and Econometric Policy
to the Bootstrap. Boca Raton (Florida), Chapman & Hall.
Evaluation. Econometrica 73 (3): 669-738.
155
Gua para la Evaluacin de Polticas Pblicas
Fan, Jianqing (1992). Design-Adaptive Nonparametric Regres- En: Handbook of Development Economics, vol. 4, T.
sion. Journal of the American Statistical Association, Paul Schultz and John Strauss (eds.), 3847-3894.
87 (420): 998-1004. Amsterdam, North-Holland.
Fan, Jianqing (1993). Local Linear Regression Smoothers
and Their Minimax Efficiencies. Annals of Statistics,
21 (1): 196-216.
Doble diferencia
Godtland, Erin; Elisabeth Sadoulet; Alain de Janvry; Rinku
Murgai & scar Ortiz (2004). The Impact of Farmer- Bell, Brian; Richard Blundell & John van Reenen (1999). Ge-
Field-Schools on Knowledge and Productivity: A Study tting the Unemployed Back to Work: An Evaluation of
of Potato Farmers in the Peruvian Andes. Economic the New Deal Proposals. International Tax and Public
Development and Cultural Change, 52 (1): 129-158. Finance, 6 (3): 339-360.
Hahn, Jinyong; Keisuke Hirano & Dean Karlan (2008). Adap- Bertrand, Marianne; Esther Duflo & Sendhil Mullainathan
tive Experimental Design Using the Propensity Score. (2004). How Much Should We Trust Differences-in-Di-
Working Paper 969. Economic Growth Center, Yale fferences Estimates? Quarterly Journal of Economics,
University, New Haven, CT. 119 (1): 249-275.
Heckman, James J.; Hidehiko Ichimura & Petra Todd (1997). Chaudhury, Nazmul & Dilip Parajuli (2006). Conditional
Matching as an Econometric Evaluation Estimator: Cash Transfers and Female Schooling: The Impact of
Evidence from Evaluating a Job Training Programme. the Female School Stipend Program on Public School
Review of Economic Studies, 64 (4): 605-654. Enrollments in Punjab, Pakistan. Policy Research Wor-
Heckman, James J.; Hidehiko Ichimura & Petra Todd (1998). king Paper 4102. World Bank, Washington.
Matching as an Econometric Evaluation Estimator. Gruber, Jonathan (1994). The Incidence of Mandated Maternity
Review of Economic Studies, 65 (2): 261-294. Benefits. American Economic Review, 84 (3): 62241.
Heckman, James J.; Robert LaLonde & Jeffrey Smith (1999). Hirano, Keisuke; Guido W. Imbens & Geert Ridder (2003).
The Economics and Econometrics of Active Labor Mar- Efficient Estimation of Average Treatment Effects
ket Programs. En: Handbook of Labor Economics, vol. Using the Estimated Propensity Score. Econometrica,
3,Orley Ashenfelter & David Card (eds.), 1865-2097. 71 (4): 1161-1189.
Amsterdam, North-Holland.
Jalan, Jyotsna & Martin Ravallion (1998). Are There Dynamic
Hirano, Keisuke; Guido W. Imbens & Geert Ridder (2003).
Gains from a Poor-Area Development Program? Journal
Efficient Estimation of Average Treatment Effects
of Public Economics, 67 (1): 65-85.
Using the Estimated Propensity Score. Econometrica,
Khandker, Shahidur R.; Zaid Bakht & Gayatri B. Koolwal
71 (4): 1161-1189.
(2009). The Poverty Impacts of Rural Roads: Evidence
Horowitz, Joel (2003). The Bootstrap in Econometrics. Sta-
tistical Science, 18 (2): 211-218. from Bangladesh. Economic Development and Cultural
Imbens, Guido (2000). The Role of the Propensity Score in Change, 57 (4): 685-722.
Estimating Dose-Response Functions. Biometrika, 87 Ravallion, Martin; Emanuela Galasso; Teodoro Lazo & Ernesto
(3): 706-710. Philipp (2005). What Can Ex-Participants Reveal about
Imbens, Guido (2004). Nonparametric Estimation of Average a Programs Impact? Journal of Human Resources, 40
Treatment Effects under Exogeneity: A Review. Review (1): 20830.
of Economics and Statistics, 86 (1): 4-29. Thomas, Duncan; Elizabeth Frankenberg; Jed Friedman;
Jalan, Jyotsna & Martin Ravallion (2003). Estimating the Jean-Pierre Habicht; Mohammed Hakimi Jaswadi;
Benefit Incidence of an Antipoverty Program by Pro- Nathan Jones; Christopher McKelvey; Gretel Pelto;
pensity-Score Matching. Journal of Business and Bondan Sikoki; Teresa Seeman; James P. Smith; Cecep
Economic Statistics, 21 (1): 19-30. Sumantri; Wayan Suriastini & Siswanto Wilopo (2004).
Lechner, Michael (2001). Identification and Estimation of Iron Deficiency and the Well-Being of Older Adults:
Causal Effects of Multiple Treatments Ander the Con- Preliminary Results from a Randomized Nutrition
ditional Independence Assumption. En: Econometric Intervention. Los ngeles, University of California.
Evaluation of Labor Market Policies. Van de Walle, Dominique & Ren Mu (2008). Rural Roads and
Ravallion, Martin (2008). Evaluating Anti-Poverty Programs. Poor Area Development in Vietnam. Policy Research
En: Handbook of Development Economics, vol. 4, T. Working Paper 4340. World Bank, Washington.
Paul Schultz & John Strauss (eds.), 3787-3846. Am-
sterdam, North-Holland.
Rosenbaum, Paul R. (2002). Observational Studies. New York
Variables instrumentales
& Berlin, Springer-Verlag.
Rosenbaum, Paul R. & Donald B. Rubin (1983). The Central Andrabi, Tahir; Jishnu Das & Asim Ijaz Khwaja (2006). Students
Role of the Propensity Score in Observational Studies Today, Teachers Tomorrow? Identifying Constraints on
for Causal Effects. Biometrika, 70 (1): 41-55. the Provision of Education. Cambridge (Massachussets),
Smith, Jeffrey & Petra Todd (2005). Does Matching Overcome Harvard University.
LaLondes Critique of Nonexperimental Estimators? Angrist, Joshua (1990). Lifetime Earnings and the Vietnam
Journal of Econometrics, 125 (12): 305-353. Era Draft Lottery: Evidence from Social Security Ad-
Todd, Petra (2007). Evaluating Social Programs with Endoge- ministration Records. American Economic Review, 80
nous Program Placement and Selection of the Treated. (3): 313-335.
156
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Blundell, Richard & Monica Costa Dias (2008). Alternative Wooldridge, Jeffrey (2001). Econometric Analysis of Cross
Approaches to Evaluation in Empirical Microeco- Section and Panel Data. Cambridge, MA, MIT Press.
nomics. CeMMAP Working Paper 26/08. Centre for
Microdata Methods and Practice, Institute for Fiscal
Studies, London.
Regresin discontinua
Glewwe, Paul & Hanan G. Jacoby (1995). An Economic Analysis
of Delayed Primary School Enrollment in a Low Income Buddelmeyer, Hielke & Emmanuel Skoufi (as.) (2004). An
Country: The Role of Early Childhood Nutrition. Review Evaluation of the Performance of Regresin Disconti-
of Economic Statistics, 77 (1): 156-169. nuity Design on PROGRESA. Policy Research Working
Heckman, James J. (1997). Instrumental Variables: A Study Paper 3386. World Bank, Washington.
of Implicit Behavioral Assumptions Used in Making Duflo, Esther (2003). Grandmothers and Granddaughters: Old
Program Evaluations. Journal of Human Resources, Age Pension and Intrahousehold Allocation in South
32 (3): 441-462. Africa. World Bank Economic Review, 17 (1): 1-26.
Heckman, James J. & V. Joseph Hotz (1989). Choosing among Galasso, Emanuela & Martin Ravallion (2004). Social Protec-
Alternative Nonexperimental Methods for Estimating tion in a Crisis: Argentinas Plan Jefes y Jefas. World
the Impact of Social Programs: The Case of Manpower Bank Economic Review, 18 (3): 367-400.
Training. Journal of the American Statistical Association, Hahn, Jinyong; Petra Todd & Wilbert van der Klaauw (2001).
84 (408): 862-874. Identification of Treatment Effects by Regression
Heckman, James J. & Richard Robb (1985). Alternative Me- Discontinuity Design. Econometrica, 69 (1): 201-209.
thods for Estimating the Impact of Interventions. En: Ravallion, Martin (2008). Evaluating Anti-poverty Programs.
Longitudinal Analysis of Labor Market Data, James En: Handbook of Development Economics, vol. 4,T. Paul
Heckman and Burton Singer (eds.), 156-245. New Schultz & John Strauss (eds.), 3787-3846. Amsterdam,
York, Cambridge University Press. North-Holland.
Heckman, James J. & Edward J. Vytlacil (2000). Causal Para-
meters, Structural Equations, Treatment Effects, and
Randomized Evaluations of Social Programs. Chicago, Tcnicas cualitativas
University of Chicago.
Heckman, James J. & Edward J. Vytlacil (2005). Structural Anfara, Vincent & Norma Mertz (2006). Theoretical Fra-
Equations, Treatment Effects, and Econometric Policy meworks in Qualitative Research. Thousand Oaks
Evaluation. Econometrica, 73 (3): 669-738. (California), Sage Publications.
Imbens, Guido & Joshua Angrist (1994). Identification and Barbour, Rosaline (2007). Doing Focus Groups. London, Sage.
Estimation of Local Average Treatment Effects. Eco- Chase, Susan (2005). Narrative Inquiry: Multiple Lenses,
nometrica, 62 (2): 467-476. Approaches, Voices. En: Denzin, Norman and Yvonne
Khandker, Shahidur R. (2006). Microfinance and Poverty: Lincoln (eds.), pp. 651-679. The Sage Handbook of
Evidence Using Panel Data from Bangladesh. World Qualitative Research. Thousand Oaks, London, New
Bank Economic Review, 19 (2): 263-286. Delhi: Sage.
Moffitt, Robert (2008). Estimating Marginal Treatment Effects
Creswell, John W. (2007). Qualitative Inquiry & Research
in Heterogeneous Populations. Economic Working Pa-
Design. London, Sage Publications.
per Archive 539. Johns Hopkins University, Baltimore,
Davies, R. & Dart, J. (2005, abril). Most Significant Change
MD. Disponible en: www.econ.jhu.edu/people/moffi
(MSC) Technique A Guide to Its Use. Disponible en:
tt/welfl s0_v4b.pdf.
www.mande.co.uk/docs/MSCGuide.pdf
Morduch, Jonathan (1998). Does Microfinance Really Help
the Poor? New Evidence on Flagship Programs in Ban- Denzin, Norman & Yvonne Lincoln (eds.) (2005). The Sage
gladesh. Princeton (New Jersey), Princeton University. Handbook of Qualitative Research. Thousand Oaks,
Pitt, Mark & Shahidur Khandker (1998). The Impact of London, New Delhi, Sage.
Group-Based Credit Programs on Poor Households in Denzin, Norman & Yvonne Lincoln (eds.) (2003). Strategies
Bangladesh: Does the Gender of Participants Matter? of Qualitative Inquiry. London, Sage Publications.
Journal of Political Economy, 106 (5): 958-998. Flick, Uwe (1998). An Introduction to Qualitative Research.
Ravallion, Martin & Quentin Wodon (2000). Does Child Thousand Oaks, London, New Delhi, Sage.
Labour Displace Schooling? Evidence on Behavioural Flick, Uwe (2002). Qualitative Research State of the Art.
Responses to an Enrollment Subsidy. Economic Journal, Social Science Information, 41 (1): 5-24.
110 (462): 158-175. Flick, Uwe (2007). Designing Qualitative Research. London,
Semykina, Anastasia & Jeffrey M. Wooldridge (2005). Estima- Sage.
ting Panel Data Models in the Presence of Endogeneity Kornblit, Ana La (coord.) (2007). Metodologas cualitativas
and Selection: Theory and Application. Working Paper. en ciencias sociales: Modelos y procedimientos de
Michigan State University, East Lansing. anlisis. Buenos Aires, Biblos.
Todd, Petra (2007). Evaluating Social Programs with En- Kvale, Steinar (2007). Doing Interviews. London, Sage.
dogenous Program Placement and Selection of the Layder, Derek (1993). New Strategies in Social Research.
Treated. En: Handbook of Development Economics, Cambridge, Polity Press.
vol. 4, T. Paul Schultz and John Strauss (eds.), 384794. Levin, B. (1993) Collaborative research in and with organi-
Amsterdam, North-Holland. zations. Qualitative Studies in Education, 6.
157
Gua para la Evaluacin de Polticas Pblicas
Lewis-Beck, Michael et al. (eds.) (2004). The SAGE Ency- Schwandt, Thomas (2007). The SAGE Dictionary of Qualitative
clopedia of Social Science Research Methods, 3 vol. Inquiry. Thousand Oaks, Sage Publications.
Thousand Oaks, Sage. Valles, Miguel (2003). Tcnicas cualitativas de investigacin
Marshall, Catherine & Gretchen B. Rossman (1995). Desig- social. Madrid, Sntesis.
ning Qualitative Research. Thousand Oaks, London,
New Delhi, Sage. Evaluacin participativa rpida -
Miles, M. B., & A. M. Huberman (1994). Qualitative Data
Analysis: An Expanded Sourcebook. Thousand Oaks Participatory Rural Appraisal (PRA)
(California), Sage Publications.
Patton, Michael (1982). Practical Evaluation. Newbury Park Chambers, Robert (1993). Challenging the Professions:
(California), Sage Publications. Frontiers for Rural Development. London, Intermediate
Patton, Michael (1987). How to Use Qualitative Methods Technology Publications.
in Evaluation. Newbury Park (California), Sage Publi- Chambers, Robert (1983). Rural Development: Putting the
cations. Last First. Essex, Longmans.
Patton, Michael (1990). Qualitative Evaluation and Research Chambers, Robert (1997). Whose Reality Counts? Putting
Methods. Newbury Park (California), Sage Publications. the First Last. London, Intermediate Technology Pu-
Patton, Michael (2002). Qualitative Research and Evaluation blications.
Methods. Sage Publications. Thailand (1987). Proceedings of the 1985 International
Patton, Michael (2003). Qualitative Evaluation Checklist. Conference on Rapid Rural Appraisal. Khon Kaen
Michigan, Western Michigan University. (Thailand): Khon Kaen University.
Rapley, Tim (2007). Doing Conversation, Discourse and Singh, Kamal (2001). Handing over the Stick: The Global
Document Analysis. London, Sage Publications. Spread of Participatory Approaches to Development.
Ruane, Janet M. (2005). Essentials of Research Methods: A En: Edwards and Gaventa (eds.). Global Citizen Action,
Guide to Social Science Research. Malden, Blackwell. pp. 163-175. Boulder, Lynne Rienner Publishers.
158
CAPTULO XI
Captulo XI
Anexos
Valentyna Chukhlyebova
11.1 Mtodos ms utilizados de recoleccin de informacin
Depende de sistemas de
seguimiento y evaluacin
que hayan establecido
Usa indicadores de desempeo para Puede ser un mtodo indicadores y objetivos
Sistema de Segui-
medir avances, especialmente los fiable y rentable para de base y que recaben in-
miento y Evalua-
resultados reales en relacin con evaluar los avances de formacin fiable respecto
cin
los resultados esperados. productos y efectos. a las metas a lo largo del
tiempo, as como datos
relacionados con los in-
dicadores de efectos.
161
Gua para la Evaluacin de Polticas Pblicas
162
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Requisitos Mnimos
Personal
Experiencia profesional
Educacin
especifica
Algunas precisiones:
En los casos que se realice una evaluacin de procesos, es necesario solicitar un experto en el tema (po-
siblemente ingeniero industrial)
Se recomienda complementar los mtodos cuantitativos con mtodos cualitativos y, por lo tanto, contar
con una persona experta en el diseo y anlisis de este tipo de herramientas
No siempre es necesario tener una educacin de pregrado acorde con el perfil del experto. Puede ser
suficiente con la maestra o el doctorado.
Las ciencias sociales mencionadas incluyen ciencias relacionadas con la interaccin social como lo son la
Antropologa, la Historia, la Economa, la Sociologa, la Demografa o las ciencias sociales aplicadas como la
Administracin, el Derecho, la Pedagoga y el Urbanismo. Se puede, para mayor claridad, no poner ciencia
social y definirla, sino incluir las profesiones de acuerdo con las necesidades de la evaluacin.
La ingeniera incluye la ingeniera ambiental, civil, industrial y de sistemas. Se puede, para mayor claridad,
no poner ingeniera y definir a cules comprende, sino incluir las profesiones de acuerdo con las nece-
sidades de la evaluacin.
163
Gua para la Evaluacin de Polticas Pblicas
Algunas precisiones:
En los casos que se realice una evaluacin de procesos, es necesario solicitar un experto en el tema (po-
siblemente ingeniero industrial)
Se recomienda complementar los mtodos cuantitativos con mtodos cualitativos y, por lo tanto, contar
con una persona experta en el diseo y anlisis de este tipo de herramientas
No siempre es necesario tener una educacin de pregrado acorde con el perfil del experto. Puede ser
suficiente con la maestra o el doctorado.
Las ciencias sociales mencionadas incluyen ciencias relacionadas con la interaccin social como lo son la
Antropologa, la Historia, la Economa, la Sociologa, la Demografa o las ciencias sociales aplicadas como la
Administracin, el Derecho, la Pedagoga y el Urbanismo. Se puede, para mayor claridad, no poner ciencia
social y definirla, sino incluir las profesiones de acuerdo con las necesidades de la evaluacin.
La ingeniera incluye la ingeniera ambiental, civil, industrial y de sistemas. Se puede, para mayor claridad,
no poner ingeniera y definir a cules comprende, sino incluir las profesiones de acuerdo con las nece-
sidades de la evaluacin
164
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Perfil con postgrado en administracin pblica, economa, ciencias sociales o polticas, derecho o reas
afines, y que acredite experiencia en las siguientes reas:
rea 1: Experiencia mnima de tres (3) aos en Evaluacin y Seguimiento de programas o polticas,
mtodos cuantitativos y/o cualitativos, planeacin estratgica
rea 2: Experiencia mnima de cuatro (4) aos en diseo, gestin, planeacin y/o evaluacin de pol-
ticas en el rea de la evaluacin
Algunas precisiones:
Se recomienda complementar los mtodos cuantitativos con mtodos cualitativos y, por lo tanto, contar
con una persona experta en el diseo y anlisis de este tipo de herramientas
No siempre es necesario tener una educacin de pregrado acorde con el perfil del experto. Puede ser
suficiente con la maestra o el doctorado.
Las ciencias sociales mencionadas incluyen ciencias relacionadas con la interaccin social como lo son la
Antropologa, la Historia, la Economa, la Sociologa, la Demografa, o las ciencias sociales aplicadas como la
Administracin, el Derecho, la Pedagoga y el Urbanismo. Se puede, para mayor claridad, no poner ciencia
social y definirla, sino incluir las profesiones de acuerdo con las necesidades de la evaluacin.
La ingeniera incluye la ingeniera ambiental, civil, industrial y de sistemas. Se puede, para mayor claridad,
no poner ingeniera y definir a cules comprende, sino incluir las profesiones de acuerdo con las nece-
sidades de la evaluacin.
165
Gua para la Evaluacin de Polticas Pblicas
Algunas precisiones:
Se recomienda complementar los mtodos cuantitativos con cualitativos y, por lo tanto, contar con una
persona experta en el diseo y anlisis de este tipo de herramientas
No siempre es necesario tener una educacin de pregrado acorde con el perfil del experto. Puede ser
suficiente con la maestra o el doctorado.
El perfil del muestrista debe ser en muestreo y no en recoleccin de informacin.
El perfil del coordinador de trabajo de campo en sentido contrario al anterior.
Las ciencias sociales mencionadas incluyen ciencias relacionadas con la interaccin social como lo son la
Antropologa, la Historia, la Economa, la Sociologa, la Demografa, o las ciencias sociales aplicadas como la
Administracin, el Derecho, la Pedagoga y el Urbanismo. Se puede, para mayor claridad, no poner ciencia
social y definirla, sino incluir las profesiones de acuerdo con las necesidades de la evaluacin.
La ingeniera incluye la ingeniera ambiental, civil, industrial y de sistemas. Se puede, para mayor claridad,
no poner ingeniera y definir a cules comprende, sino incluir las profesiones de acuerdo con las nece-
sidades de la evaluacin.
166
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Algunas precisiones:
En caso de que la metodologa de evaluacin sea compleja es bueno requerir un Doctorado, lo cual, bajo
criterio del interventor se puede suplir con aos de experiencia.
En los casos que se realice una evaluacin de impacto, es esencial la participacin de una persona experta
en la utilizacin de mtodos cuantitativos, y/o econometrista, y/o estadstico
Para las evaluaciones de impacto se recomienda complementar los mtodos cuantitativos con mtodos
cualitativos y, por lo tanto, contar con una persona experta en el diseo y anlisis de este tipo de herra-
mientas
No siempre es necesario tener una educacin de pregrado acorde con el perfil del experto. Puede ser
suficiente con la maestra o el doctorado.
El perfil del muestrista debe ser en muestreo y no en recoleccin de informacin.
El perfil del coordinador de trabajo de campo en sentido contrario al anterior.
Las ciencias sociales mencionadas incluyen ciencias relacionadas con la interaccin social como lo son la
Antropologa, la Historia, la Economa, la Sociologa, la Demografa, o las ciencias sociales aplicadas como
la Administracin, el Derecho, la Pedagoga y el Urbanismo.
La ingeniera incluye la ingeniera ambiental, civil, industrial y de sistemas.
167
Gua para la Evaluacin de Polticas Pblicas
Algunas precisiones:
En caso de que la metodologa de evaluacin sea compleja es bueno requerir un Doctorado, lo cual, bajo
criterio del interventor se puede suplir con aos de experiencia.
En los casos que se realice una evaluacin de impacto, es esencial la participacin de una persona experta
en la utilizacin de mtodos cuantitativos, y/o econometrista, y/o estadstico.
Para las evaluaciones de impacto se recomienda complementar los mtodos cuantitativos con mtodos
cualitativos y, por lo tanto, contar con una persona experta en el diseo y anlisis de este tipo de herra-
mientas.
No siempre es necesario tener una educacin de pregrado acorde con el perfil del experto. Puede ser
suficiente con la maestra o el doctorado.
El perfil del muestrista debe ser en muestreo y no en recoleccin de informacin.
El perfil del coordinador de trabajo de campo en sentido contrario al anterior.
Las ciencias sociales mencionadas incluyen ciencias relacionadas con la interaccin social como lo son
la Antropologa, la Historia, la Economa, la Sociologa, la Demografa, la Ciencia Poltica o las ciencias so-
ciales aplicadas como la Administracin, el Derecho, la Pedagoga y el Urbanismo. Se puede, para mayor
claridad, no poner ciencia social y definirla, sino incluir las profesiones de acuerdo con las necesidades
de la evaluacin.
La ingeniera incluye la ingeniera ambiental, civil, industrial y de sistemas. Se puede, para mayor claridad,
no poner ingeniera y definir a cules comprende, sino incluir las profesiones de acuerdo con las nece-
sidades de la evaluacin.
168
Sinergia - Sistema Nacional de Evaluacin de Gestin y Resultados
Algunas precisiones:
Se recomienda complementar los mtodos cuantitativos con mtodos cualitativos y, por lo tanto, contar
con una persona experta en el diseo y anlisis de este tipo de herramientas.
No siempre es necesario tener una educacin de pregrado acorde con el perfil del experto. Puede ser
suficiente con la maestra o el doctorado.
Las ciencias sociales mencionadas incluyen ciencias relacionadas con la interaccin social como lo son la
Antropologa, la Historia, la Economa, la Sociologa, la Demografa, o las ciencias sociales aplicadas como la
Administracin, el Derecho, la Pedagoga y el Urbanismo. Se puede, para mayor claridad, no poner ciencia
social y definirla, sino incluir las profesiones de acuerdo con las necesidades de la evaluacin.
La ingeniera incluye la ingeniera ambiental, civil, industrial y de sistemas. Se puede, para mayor claridad,
no poner ingeniera y definir a cules comprende, sino incluir las profesiones de acuerdo con las nece-
sidades de la evaluacin.
169
Agradecemos a todos aquellos que
colaboraron en la realizacin de esta
cartilla y que por uno u otro motivo
hoy no hacen parte de la Direccin.