Académique Documents
Professionnel Documents
Culture Documents
2
1
1 2 3
¿POR QUÉ EVALUAR EL
GASTO PÚBLICO?
Experiencias internacionales y el
caso colombiano
Seminario Internacional
Departamento Nacional de Planeación
Autores
Alberto Carrasquilla
Álvaro Reyes
Alejandro Gaviria
Alberto Abadie
Antanas Mockus
Beatriz Londoño
Carolina Rentería
Carlos Medina
Daniel Bogoya
Eric Bettinger
François Bourguignon
Jaime Tenjo
José Leibovich
Juan Carlos Echeverry
Keith Mackay
Manuel Fernando Castro
Mauricio Cárdenas
Orazio Atanasio
Paul Johnson 3
Dirección
Santiago Montenegro Trujillo
Subdirección
Mauricio Santamaría
Diseño y diagramación
Sinergia - DNP
Catalina Cortés Murcia
Presentación 9
INSTALACIÓN
Palabras de Apertura
Santiago Montenegro 12
François Bourguignon 15
PRIMERA SESIÓN
Comentarios
Experiencia internacional en evaluación de políticas públicas:
lecciones para Colombia 107
Manuel Fernando Castro
TERCERA SESIÓN
Mauricio Cárdenas
Comentarios
Red de Apoyo Social: comentarios sobre la evaluación de corto plazo 206
Alberto Abadie
Comentarios
Implicaciones de política de las evaluaciones de impacto de 9
CIERRE
10
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
Presentación
Una valoración general de la gestión del Estado en Colombia no puede ignorar
que el incremento del gasto público de los últimos años no necesariamente
ha estado acompañado por un mejoramiento de similares proporciones en
los principales indicadores sectoriales. Por el contrario, el crecimiento del
gasto sí ha traído consigo un deterioro continuo en las finanzas del Estado.
Tanto o más preocupante que lo anterior, es la imposibilidad de establecer
si los mayores esfuerzos de financiación pública realizados han producido los
efectos esperados en el mejoramiento de la calidad de vida de la población
con costos razonables.
Por su parte, el gasto en defensa y seguridad pasó de 2,1% a 4,01% del PIB,
entre 1990 y 2003, lo que representó un aumento de 130% en 13 años.
En este caso, además del rápido crecimiento se debe tener en cuenta que
el nivel alcanzado duplica el promedio de la región al tiempo que produce
inflexibilidades sobre el presupuesto público, al concentrar un 26% de los
2
gastos del gobierno central .
1
DNP
2
DNP- Ministerio de Defensa
A pesar de la magnitud de los recursos públicos invertidos en los sectores
social y de defensa, dada la insuficiencia de evaluaciones del gasto y los
programas públicos, hasta el momento se conoce poco sobre los efectos de
estas inversiones. En particular, no es posible determinar si la orientación de las
políticas ha sido las más adecuada en términos de eficiencia, si los programas
llegan a la población objetivo y si responden a sus necesidades, si es la forma
menos costosa de realizar las intervenciones; o si tienen los niveles de calidad
requeridos.
de los recursos.
Palabras de apertura
Santiago Montenegro∗
El desconocimiento del impacto y calidad del gasto es aún más grave si se tiene
en cuenta el agudo desbalance fiscal del país observado desde mediados de
los años 90. Esta situación, además de la existencia de restricciones fiscales de
mediano y largo plazo, corrobora la necesidad de incorporar y fortalecer los
mecanismos para medir el impacto y los efectos de las políticas y el gasto.
Palabras de apertura
François Bourguignon*
Como Santiago Montenegro ayudó a presentar los nexos que tengo con
Colombia, quiero empezar por eso. Quiero agradecer la invitación, decirles
que es un placer para mí estar de vuelta en Colombia después de varios años,
encontrar de nuevo muchos amigos que tengo aquí, y sobre todo volver
a Colombia en un momento en el cual la coyuntura política económica es
mucho más brillante que las últimas veces que visité este país. Esto desde
un punto de vista totalmente personal, pero ahora déjenme poner de nuevo
el sombrero de vicepresidente del Banco Mundial y hablar de un modo más
oficial sobre este seminario.
general para la comunidad ligada a las tareas del desarrollo. Por otra parte,
nos interesa porque el banco monitorea las gestiones realizadas por los países
en desarrollo para la consecución de los objetivos de desarrollo del milenio.
Entre esos objetivos ustedes saben que existe la meta de reducir la pobreza a
la mitad entre ahora y 2015. Estamos conscientes de que lograr este objetivo,
así como los demás que se concentran sobre la mortalidad infantil, la educación
3
La Red de Apoyo Social (RAS), está integrada por los programas Familias en Acción, Jóvenes en
Acción y Empleo en Acción.
4
Bonos Educativos o ‘Private School Vouchers’, estrategia implementada por el Programa de
Ampliación de Cobertura de la Educación Secundaria y Media (PACES), conocida como “Becas
Paces”.
INSTALACIÓN
Señor Ministro, señor Director, señoras y señores; creo que estamos viviendo
ahora un momento importante en la teoría y la práctica del desarrollo. Me
parece que con esas técnicas de evaluación, estamos traspasando límites y
adentrándonos en un terreno donde el rigor científico está lo suficientemente
desarrollado como para servir aún con más eficacia que antes a la meta de
terminar con la pobreza que mina el potencial humano, y no solo en Colombia
sino en todo el mundo. Este seminario constituye un paso importante en el
traspaso de esos límites.
20
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
PRIMERA SESIÓN
Santiago Montenegro*
• Introducción
Hace falta un Estado gerencial, una nueva cultura de lo público, un Estado que
funcione por resultados. Nosotros hemos estado acostumbrados en Colombia,
y en buena parte de los países en desarrollo, a ver cuantos recursos se dirigen
a los sectores, pero no vemos el otro lado. ¿Qué sale de esos recursos? ¿Cuál
es el producto de esos recursos en términos de coberturas, en términos de
calidad de la educación? Junto a ese Estado gerencial, hemos pensado que
tiene que reforzarse la participación ciudadana en la definición, en la ejecución
y en la vigilancia de las tareas públicas. Por eso los Consejos Comunales de
Gobierno, las Audiencias Públicas Anticorrupción, las Audiencias Públicas
del Plan Nacional de Desarrollo, los Consejos de Ministros Televisados de
rendición de cuentas y las Veedurías Ciudadanas que ha promovido y puesto
en marcha esta administración. Por último, como tercer pilar de la reforma del
Estado, se ha buscado profundizar la descentralización, evitando duplicidades
entre el Gobierno central y los entes territoriales, y delegando funciones y 23
otro eje mucho más estructural e importante que son las llamadas reformas
transversales o de largo plazo. Estas reformas buscan superar los problemas
profundos de la administración que afectan transversalmente a todo el Estado
y en este sentido tenemos avances en los siguientes aspectos:
imperfecto y por ello, existen argumentos para que exista una intervención del
Estado. La intervención del Estado debe estimular la oferta de información,
con datos, encuestas, registros, etc.; promover la demanda por información
y la cultura del uso de la información; y también garantizar el acceso a los
medios de intercambio, con canales de difusión y sistemas de información.
7
Naciones Unidas. 1994. Principios Fundamentales de las Estadísticas Oficiales, Comisión de
Estadística de las Naciones Unidas, Nueva York.
PRIMERA sesión
Entre los tipos de evaluación más relevantes para una administración pública
moderna y de calidad se cuentan la evaluación de gestión, la evaluación
financiera y, en un lugar muy destacado, la evaluación de impacto.
para la gestión pública. Es una herramienta para que las decisiones públicas
más trascendentales puedan basarse en evidencia más que en ideologías
o consideraciones puramente políticas. La evaluación y la información,
entonces, son una condición necesaria para el mejoramiento continuo de la
administración pública. En Colombia, tanto la información como la evaluación
son todavía débiles, y debido a su potencial para contribuir al mejoramiento
de la gobernabilidad y a la modernización del Estado nos hemos propuesto
fortalecerlas.
• La información en Colombia
Hay, sin embargo, unos importantes avances normativos que vale la pena
resaltar:
Con esta comisión se han hecho ya avances importantes entre los cuales
quisiera resaltar tres:
Durante el 2005
el comité evaluó 59%
154 proyectos por
un valor de
$ 387.516.139.676
y autorizó
levantamientos
de previo
3%
concepto por un 38%
valor de
$ 340.235.499.027
Fuente: Coinfo
10
Se refiere a sistemas de información de gestión financiera y administrativa. Enterprise Resource
Planning (ERP).
PRIMERA sesión
En funcionamiento En desarrollo
SIGOB: Seguimiento a Metas
SUIT: Sistema Unificado de Trámites
Presidenciales
SUIP: Sistema Único de
Información de Personal SIGA: Sistema de Gestión de Activos
(modernización - fase 2)
SIFA: Seguimiento a proyectos de SUIFP: Sistema Unificado de Inversión
inversión (ampliar cobertura) y Finanzas Públicas
20.00
14.95
15.00
10.00
1994 1995 1996 1997 1998 1999 2000 2001 2002 pr 2003pr 2004py
*corresponde a PGN más empresas del Estado que contribuyen al gasto social
Fuente: DNP-Dirección de Estudios Económicos
• Entre 1994 y 2002, se invirtieron $78 billones del año 2002 en las regiones
y entre 2003 y 2006 se habrán invertido $52 billones por transferencias, de
32 los cuales el 80% se destinan a educación, salud y saneamiento.
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
Este sistema, que fue ajustado y mejorado durante esta administración, tiene
11
origen en la Constitución de 1991 , la cual ordenó crearlo con el objetivo de
12
orientar la gestión al logro de resultados .
Sin embargo, aún se evalúa un porcentaje muy reducido del presupuesto. Las
deficiencias de información a las que he hecho referencia, elevan los costos de
las evaluaciones. Es insuficiente la difusión de los resultados del seguimiento y la
evaluación. Es precaria aún la cultura de evaluación y seguimiento en el sector
público, y existe una débil vinculación entre el presupuesto y la evaluación,
11
Artículos 343 y 344.
12
Ver Ley 152 de 1994, Artículo 29.
PRIMERA sesión
• Se evidenció además que los efectos del programa son mayores en las zonas
rurales que en las zonas urbanas.
100
90
80 Hospital de Turbaco Bolívar
70
60
488 hospitales
50
de nivel 1 de 40
C e ntros y Puestos de Salud
complejidad 30 Puerto Inírida G uanía
20
con camas, 10
2001 0
0 50 100 150 200 250 300 350 400 450 500 550 600 650
G asto To tal /N ú m e ro de
Fuente: DNP
PRIMERA sesión
• Conclusiones
39
Este es un seminario que se llama ¿Por qué evaluar el gasto público? y yo voy a
comenzar con una respuesta personal a esta pregunta. Cuando yo me gradué
de la universidad hubiera contestado que para nada, porque el gasto público
no sirve para nada, el gasto público óptimo es aproximadamente el 0% del
PIB. Ese era mi análisis en ese momento.
13
Vito Tanzi and Ludger Schuknecht, Public Spending in the 20th Century: A Global Perspective.
Cambridge and New York: Cambridge University Press, 2000.
PRIMERA sesión
• Segundo, algo que es más subjetivo, los resultados sugieren que con
políticas inteligentes los gobiernos pueden alcanzar los mismos objetivos
sociales y económicos con niveles de gasto muchos menores. Ahí viene el
concepto de políticas inteligentes.
• En tercer lugar, esto no implica que tengamos que irnos hacia un Estado
del estilo de los que yo concebía como el mejor Estado posible cuando
me doctoré en economía, se demuestra que la existencia del Gobierno es
importante.
14000000
12000000
10000000
8000000
6000000
4000000
2000000
0
1990
1991
1992
1993
1996
1997
1998
1999
2000
2001
2002
2003
Fuente: Confis
PRIMERA sesión
0
1990
1991
1992
1993
1994
1995
1996
1997
1998
1999
2000
2001
2002
2003
Fuente: Confis
43
25 Gasto % PIB 2.45
15 2.3
2.25
10 2.2
2.15
5
2.1
0 2.05
1990 1991 1992 1993 1994 1995 1996 1997 1998 1999 2000 2001 2002 2003
El siguiente gráfico muestra la relación entre gasto público como porcentaje del
PIB y ese indicador de nuestra productividad como Colombianos (ver Gráfico
4). En el eje horizontal están medidas las relaciones de gasto a producto y
en el eje vertical está medida la productividad total de los factores. Aparece
una figura similar a una “n”. Esa “n” quiere decir que hay una relación positiva
para ciertos niveles de gasto público y una relación negativa a partir de ciertos
niveles de gasto público, 15% o 16% del producto. En otras palabras, en este
momento Colombia cuenta con una relación que no es clara, entre la manera
como estamos gastando nuestros esfuerzos, nuestros recursos, y los efectos
que se están produciendo a nivel de los tres grandes problemas: la generación
de externalidades, la adquisición de bienes públicos y el fortalecimiento del
capital humano.
2,4
2,35
2,3
2,25
2,2
2,15
8 10 12 14 16 18 20 22
44
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
Paraguay con 8%, 9%, 10% del producto, y el desarrollo humano. Pero de
nuevo, tal y como uno lo puede observar con la productividad, tiene también
el efecto “n”. Tiene el efecto en el cual mayores flujos de gasto público no
necesariamente se relacionan con mayores desarrollos en calidad de vida.
3%
2%
1%
0%
-1%
-2%
-3%
1990 1991 1992 1993 1994 1995 1996 1997 1998 1999 2000 2001 2002 2003
-4%
0,8 22
45
0,78 20
0,76 18
0,74 16
% del PIB
0,72 14
0,7 12
0,68 10
0,66 8
1990 1991 1992 1993 1994 1995 1996 1997 1998 1999 2000 2001 2002
Fuente: DNP
PRIMERA sesión
90 5.5
85 5
80 4.5
75 4
70
3.5
65
3
60
55 2.5
50 2
45 1.5
40 1
1992 1993 1994 1995 1996 1997 1998 1999 2000 2001 2002
Fuente: DNP
2 16500
16000
1.5
15500
1
15000
0.5 14500
0 14000
1990
1991
1992
1993
1994
1995
1996
1997
1998
1999
2000
2001
2002
2003
48
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
Fuente: DNP
3 4000000
3500000
2.5
3000000
2
2500000
1.5 2000000
1500000
1
1000000
0.5
500000
0 0
1990 1991 1992 1993 1994 1995 1996 1997 1998 1999 2000 2001 2002 2003
Fuente: DNP
• Conclusiones
Las dos posibilidades para la solución del problema son: reducir el gasto público
o crear los incentivos adecuados para volverlo eficiente. La primera opción no
se contempla en este caso. Por el contrario existen muchas posibilidades que
el gasto público afecte positivamente la productividad y la calidad de vida de los
Colombianos, aunque es muy exigente. Lograr esos retornos a la inversión que
hacemos los colombianos y que hacen los contribuyentes es muy exigente. El
hecho de no contar con indicadores comparativos internacionales demuestra
la necesidad de impulsar el trabajo de evaluación rigurosa, por lo cual sería
posible poner esta estrategia bajo el rubro de incentivos. Actualmente el país
se encuentra en una fase de difícil progreso, de difícil justificación del peso
PRIMERA sesión
50
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
PRIMERA sesión
Antanas Mockus*
* Ex alcalde de Bogotá
14
Dólares de diciembre de 2001.
PRIMERA sesión
Py: proyección 2500 Ingresos Corrientes con ICA Y Reforma Tributaria Nacional
Pr: preliminar
2000 Ingresos Corrientes
(Escenario Pasivo)
Los ingresos 1500
corrientes Ahorro
1000
incluyen reforma
tributaria 500
nacional y no Gastos de Funcionamiento Sin reestructuración ni austeridad
0
incluyen Fondo
1990
1992
1994
1996
1998
2000
2002
2004 (py)
2006 (py)
Nacional de
Regalías (FNR)
52
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
Quiero subrayar que en el gráfico (ver Gráfico 1), se señala el aumento del
ahorro y se presenta lo que hubiera sido el escenario inercial. Este último,
abría colocado la ciudad en una incapacidad de emprender nuevas tareas
y de ampliar coberturas, como lo viene haciendo y como lo quiere seguir
haciendo.
Separación de Responsabilidad
poderes fiscal
53
Protección a la
Corresponsabilidad
vida
Fuente: Autor
PRIMERA sesión
54
Continuidad: Corresponsabilidad
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
Más y mejores
canales de
interacción En cada
con el Gestión compartida: acción un
ciudadano coordinación y aprendizaje
trabajo en equipo
Fuente: Autor
PRIMERA sesión
El otro axioma fue Recursos sagrados. Los recursos públicos son recursos
sagrados. Esto implica transparencia, rendición de cuentas, austeridad,
racionalización del gasto.
Luego está la búsqueda de más Canales de interacción con el ciudadano. Lo
virtual, lo telefónico y lo presencial se desarrollaron mucho en estos últimos
tres años y veremos algunos resultados al final.
Entonces de una manera más gráfica, esto es lo que les dije que todavía está
en desarrollo (ver Figura 3), el Presupuesto Inteligente.
Soportado en:
Políticas
Sistemas Integrados de Información
y en una Estrategia de Comunicación y Difusión
Igualmente, quedan otras cosas que hay que hacer aún. El Modelo de
Sostenibilidad Fiscal Global, los cálculos, las proyecciones, tienen que
completarse. La Gestión de Activos y Pasivos, un tema en el que Bogotá también
ha avanzado y que en la capitalización de la empresa de energía funcionó
muy bien, todavía tiene mucho por mejorar. En efecto, la ciudad es dueña
de patrimonios grandísimos en empresas como la ETB y la gestión de eso
se hace buscando que la ETB sea lo mejor dirigida posible. Pero además,
hace falta desarrollar el Sistema de Información Hacendaria, se necesita desde
Hacienda tener una cierta visión de si la gestión de los activos (y en particular
de las empresas) es la más adecuada o no. Puede haber diferencias de opinión
entre lo que la empresa en su entusiasmo propone y lo que el Distrito quisiera
disponer (o al revés, donde la empresa ya ha alcanzado gran autonomía).
Prestación
del servicio 827.309 36.309 824.010 36.751
educativo
-No. de 59
cupos creados
RECURSOS
PRESUPUESTO DE PRODUCTO
FUNCIONAMIENTO OBJETIVO (efecto)
Puentes vehiculares Disminuir los tiempos de
- Personal construidos y
- Servicios Públicos viaje y los costos de
mantenidos
$ 1.449.455.601 operación vehicular
Número de puentes para hacer más
vehiculares eficiente y competitiva
construidos: la ciudad
3
PRESUPUESTO DE Velocidad promedio de
INVERSIÓN Número de circulación vehicular
puentes (km/h): 28
- Construcción de vehiculares
puentes vehiculares y mantenidos:
peatonales 6
$ 16.452.341.843
El ejemplo que se puede ver en la siguiente figura es del IDU (ver Figura 4). 61
En el tema del marco de gasto en mediano plazo, entra en juego una proyección
de los recursos que se hace de arriba hacia abajo, teniendo en cuenta
el crecimiento económico, variables macro y las prioridades de política
generales. Hay también estimaciones de abajo hacia arriba del costo actual, y
en el mediano plazo de las políticas existentes. Esta estimación es hecha por
los propios ejecutores, son lo que se bautizó como necesidades reales, cuya
satisfacción debía además proyectarse en el tiempo. Recuerdo que mi primer
ejercicio en esta dirección fue increíble, le pedía en 1995 a la Secretaría de
Obras proyectar el mantenimiento de las vías de la ciudad y me abocaba en
un solo año a resolver treinta años de descuido. Eran sumas tan astronómicas
que simplemente servían para decir: “no es posible arreglar el tema”. Hoy,
gracias al marco de gasto de mediano plazo hemos temporalizado, esto es
proyectado en el tiempo, el proceso de superar la brecha y esto permite un
proceso iterativo de decisiones que concilian costos con recursos disponibles.
Esto educa mucho en el tema de políticas nuevas. Si usted quiere lanzar una
política nueva, o le ayuda a la ciudad a crearse nuevos ingresos o le ayuda a
decidir que políticas viejas pueden pasar al archivo.
El proceso del marco de gasto de mediando plazo en detalle es como sigue. Hay
una política presupuestal que se explicita, que se consigna en un documento.
Se establecen unas cuotas plurianuales preliminares, ese se llama Documento
de lineamientos del marco de gasto de mediano plazo. Luego hay un desarrollo
de estrategias dentro de las entidades en contexto de lo expresado en la parte
general del Plan de Desarrollo, o sea los planes estratégicos en este momento
62 ya de cada cinco años. Finalmente, hay una fase de integración de la planeación
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
En resumen:
63
• Inventariar los productos y pactar los resultados, son dos cosas que facilitan
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
la doble lectura y racionalización: por objetivos macro de desarrollo y por
sector;
17
Después de presentado el proyecto once veces, hoy sabemos que rindieron siempre ponencias
positivas, pero nunca la aprobaron (marzo 2005).
PRIMERA sesión
solo techo varias entidades estatales, todos con el mismo uniforme, todos los
cubículos parecidos o iguales. El letrero a la entrada de cada cubículo no es
“Registraduría Nacional: se expiden cédulas”, sino es “Se expiden cédulas”,
firmado sutilmente, en letra pequeña, “Registraduría Nacional”; importa más
el qué que el quién. Esto permite a la ciudadanía llevarse una percepción de
Estado integral. Para el ciudadano es demasiado complicado saber cual es
la sutil diferencia entre el IDRD18 y el IDCT19. En las encuestas realizadas se
percibe frecuentemente que la ciudadanía va aprendiendo poco a poco estas
diferencias.
18
Instituto Distrital de Recreación y el Deporte.
19
Instituto Distrital de Cultura y Turismo.
PRIMERA sesión
Identificamos que de los 53.000 servidores del distrito 2.053 eran personas
dedicadas permanentemente a servir al ciudadano. En alguna época recibieron
el nombre de “ventanilleros”, o sea empleados de ventanilla, que luego dejó de
usarse (durante un tiempo prácticamente se prohibió la designación). Entonces
hicimos encuestas con ellos, identificamos sus necesidades de entrenamiento,
vimos que no todas las personas deberían estar ahí, para unos pocos, menos
del 5%, era urgente buscar una alternativa. Luego con los otros se construyó la
idea de un equipo transversal de servicio al ciudadano. Entre varias entidades
y sus servidores que atendían público, se construyó un equipo de las personas
encargadas de atender a los ciudadanos. Luego el modelo se propagó. Todos
los abogados del distrito conformaron otro equipo transversal. Imagínense,
recién expedido el nuevo régimen disciplinario, el Procurador General de la 65
cinco minutos para la otra mitad (atendidos en Rapicades). Los retos en materia
de atención a los ciudadanos en cuanto a los trámites se debe en buena parte
al hecho de que la mayoría de los bogotanos no tienen cuenta bancaria por lo
que no les reciben los pagos de servicios públicos en los bancos. Esto implica
que la mayoría de los pagos se realizan en los sitios denominados Cades.
La ineficiencia y la demora en los trámites eran insostenibles. Actualmente
existen los Rapicades, centros que cumplen la misma función que los Cades
pero los trámites son mucho más ágiles, lo que ha traído como consecuencia
el aumento de la satisfacción de los ciudadanos en este tema específico. Este
servicio subió en imagen favorable de los ciudadanos de 63% en 2000 a 82%
en 2003 y 88% en 2004.
• Hitos
ella) entendía el ‘tejemaneje’ de los rubros de manera que el jefe solo podía
acudir a él (o ella) a pedirle ayuda? Recuerdo un Director Administrativo en
la Universidad Nacional que decía: “¡Rector yo le consigo eso!”, pero nada
de mostrar como lo hacía. Era como si dijera: “de algún lado le saco ese
dinero”; por eso era el mago y su opacidad era total. Imagínense un pobre
ciudadano enfrentado a esto. Entonces en la secretaría de hacienda se dijo:
“reconstruyamos las reglas, las atribuciones y las funciones informales y
pongamos en marcha el prototipo en paralelo”. En otras palabras, se dijo
“juguemos a que se puede hacer también de otra manera pero no del todo
desde ahora, empecemos haciéndolo como siempre pero también hagámoslo
así”. Eso permitió una transición suave y me parece que fue una idea muy
útil.
67
François Bourguignon*
particular quiere decir que queremos cuantificar lo que encontramos, pues sin
cuantificación obviamente es imposible medir beneficios y costos, y comparar
políticas.
No existe una dicotomía entre estos dos grupos de políticas. Hay algunas
que son micro orientadas pero que tienen un impacto macroeconómico. Por
ejemplo un cambio en el sistema de impuestos indirectos, un cambio en la
cobertura del IVA, va a afectar a las familias dependiendo de su consumo;
pero eso también va a cambiar el sistema de precios en la economía en
general, y si el sistema de precios se modifica quiere decir que la asignación
de recursos dentro de la economía se va a modificar. Entonces esta es una
política que tiene un impacto de nivel macroeconómico, y así vemos que no
hay una dicotomía entre los dos tipos de políticas.
Ex-ante vs. ex-post. La evaluación que se hace antes de tomar la decisión sobre
los programas a implementar es indispensable para poder diseñar políticas
óptimas y exitosas. Esta forma de evaluar se diferencia de aquella que evalúa
las políticas de acuerdo a sus resultados, pero este tema se profundizará más
adelante.
Voy a hablar en detalle sobre un método que talvez sea el más sencillo. Se
llama en la literatura análisis de incidencia, y también ahora muchas personas
se refieren a él como micro simulación aritmética. Creo que es realmente el
método de evaluación más antiguo en economía, tiene sus limitaciones pero
es importante e interesante acordarnos de la utilidad de este tipo de análisis.
PRIMERA sesión
desde hace varias décadas. Creo que lo primero fue un estudio que es de los
años 60, si me acuerdo bien, por Marcelo Selowsky, que era sobre el impacto
distributivo del gasto público en Colombia. El segundo estudio fue realizado
por Carlos Eduardo Vélez y eso se hizo en los años noventa, y en los dos casos
hay este tipo de gráfico (ver Gráfico 1).
Distribución acumulada
de gasto en subsidios (%)
100
90
Primaria
80
Secundaria
70
Superior 73
60
20
10
0
0 20 40 60 80 100
Distribución acumulada
de población (%)
Fuente: Autor
PRIMERA sesión
Este tipo de análisis tiene varias limitantes. La primera es que hay hipótesis
que se hacen para imputar un valor al gasto público que puede ser discutible.
Cuando uno dice que un hogar está recibiendo un subsidio por cada niño que
está asistiendo a la escuela, no es muy claro: ¿es el hogar?, ¿son los padres
que están recibiendo ese subsidio?, o ¿es una inversión en el capital humano
del niño que él va a transformar en ingreso cuando sea adulto? Se puede
afirmar que dependiendo de lo que se asuma allí se van a tener diferentes
resultados.
presentado principalmente por que las familias que no enviaban a sus hijos a
la escuela, están comenzando a hacerlo, y esto quizás es un efecto de oferta
en el sentido que hay más escuelas en el vecindario, o las escuelas son de
mejor calidad; o es un efecto de demanda, el hogar tiene más ingreso o tiene
transferencias condicionadas sobre el hecho de que mande a sus niños a la
escuela y por eso lo está haciendo.
Por lo anterior es posible afirmar que con los métodos de micro simulación
aritmética realmente no se puede influenciar el comportamiento ni tampoco
representarlos. Esto es un límite bastante importante de estos métodos, sin
embargo yo quisiera insistir sobre el uso y la utilidad de ese tipo de análisis.
PRIMERA sesión
Déjenme ahora pasar a otro tipo de evaluación que es más bien ex - post. Me
parece que cuando uno está hablando de evaluación, sobretodo de evaluación
de impacto, uno realmente tiene ese tipo de evaluación en mente. ¿Cuál es
la limitación de una evaluación ex – post, que simplemente es la comparación
entre antes y después de la aplicación de una medida de política económica?
El problema de esa comparación es que muchas cosas están pasando al mismo
tiempo que la medida. Eso quiere decir que aislar el efecto del impacto de esa
medida, es difícil simplemente comparando dos situaciones en el tiempo; por
eso necesitamos métodos adicionales.
Sin embargo, es un poco más difícil cuando uno tiene programas grandes que
tienen que ser implementados de una sola vez y obviamente es mucho más
difícil cuando uno está hablando de políticas como los impuestos. Es muy
21
Randomized evaluation of deworming in schools in Kenya (por M. Kremer): 27% de los estudiantes
tratados tenían infección de moderada a aguda vs. 52% en los grupos de control; la inasistencia
escolar se redujo 25%; efectos “spillover”. (Evaluación aleatoria de la desparacitación en escuelas
en Kenya).
22
4-8 puntos porcentuales de aumento en asistencia escolar; niños de 0 – 6 años, más altos y con
mayor peso. Evaluación de Familias en Acción, presentación realizada por Orazio Attanasio del
Instituto de Estudios Fiscales, Londres.
PRIMERA sesión
Segundo problema: esto mide el impacto de una política pero no dice nada
sobre la razón por la cual esa política tiene ese impacto. No nos dice mucho
lo que podría ser el resultado de cambiar el diseño de la política. Ya sabemos
que Familias en Acción produjo el impacto que conocemos, pero no sabemos
si había otra política con un costo más o menos parecido que hubiera podido
producir mejores resultados. De cierta manera, si después de un rato
queremos mejorar, reformar el sistema, necesitamos esa información. Este
método, por definición, porque es ex – post, no permite diseñar políticas.
23
Inglés para “Evaluación de Impacto del Desarrollo.”
PRIMERA sesión
Sin embargo, la gran diferencia entre este método y el anterior es que los
modelos de comportamiento ex ante están basados en una representación del
comportamiento de los hogares. Esto implica un elemento de incertidumbre
que es simplemente nuestra capacidad como economistas y científicos sociales
de representar y conocer el comportamiento de la gente.
• Conclusiones
Espero haberles mostrado que definitivamente hay varios métodos, pero por
el momento olvidemos los métodos y simplemente miremos la evaluación
como una práctica general. Así, creo que para contestar a la pregunta: ¿porqué
evaluar el gasto público?, es importante decir que la evaluación es de una
manera u otra un componente necesario de la política, de la gestión de política
económica. Esto en el sentido de que de todos modos cualquier debate que
tome lugar en el campo de política económica, debería estar basado sobre
algún tipo de evaluación. Sin embargo muchas veces la evaluación es muy
implícita: “yo estoy a favor de esa política porque me parece que es mejor”;
y si uno está presionando la persona dice: “me parece mejor porque está
78
haciendo eso y eso”; pero no hay nada realmente analítico, no hay nada
cuantificado atrás de eso. Desde es punto de vista es mejor tener alguna
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
cuantificación, tener algún argumento analítico que nos permita plantear las
ventajas y las desventajas de una política con respecto a otra. Por lo menos el
debate público, el debate sobre una política económica, se hace mucho más
eficiente y al fin vamos a tomar decisiones que pueden ser mucho mejores.
se aumentó mucho más con el mismo tipo de programa y con el mismo tipo
de costo”. Eso es una superioridad que viene de la fuerza y la robustez de
los resultados de la comparación de evaluaciones de impacto ex - post. No
obstante, no quiero que con esta visión muy ideal se olviden de los métodos
mucho más sencillos como la micro simulación aritmética. De nuevo esto es
algo que se puede hacer, es algo que es barato, y es algo que de manera
continua está dando mucha información. Igualmente se debe seguir con la
modelización ex – ante para asegurar que las políticas se diseñen bien.
Un punto que debí haber hecho antes, es que hay maneras de combinar
los distintos métodos; pero eso se hace un poco demasiado técnico en
este momento. Quiero además agregar que sí hay que mirar el impacto
macroeconómico de esas políticas, se hacen muchos progresos al hacer un
24
nexo entre macroeconomía, microeconomía y el impacto distributivo .
Hay otras políticas como reformas organizacionales que son mucho más difíciles
de evaluar. Hay algunos intentos con técnicas de evaluación de impacto, pero
no es necesariamente muy fácil, porque no se está realmente analizando lo
que se quisiera analizar. De manera que la situación no es que para cualquier
tipo de política tenemos un método de evaluación que se debe seguir. Lo que
tenemos es un rango de métodos que se aplican a varios tipos de políticas, hay
algunas que son mejores, y algunas que son peores, hay algunas que toman
menos recursos, y algunas que toman más recursos. Sin embargo, lo digo una
vez más, creo que lo importante es definitivamente evaluar.
80
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
24
Bourguignon, François; Pereira da Silva, Luiz A. (Editores). 2003. The impact of economic
policies on poverty and income distribution : evaluation techniques and tools. World Bank - Oxford
University Press. New York.
SEGUNDA SESIÓN
Paul Johnson*
En el Reino Unido hay demasiado gasto público y no todo está sujeto a una
82
evaluación rigurosa. £450 billones son cerca del 40% del ingreso nacional
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
• Revisiones del Gasto cada dos años: Probablemente este es el aspecto más
importante para entender los procesos de asignación del gasto. Hablaré
sobre las Revisiones del Gasto, lideradas por el Tesoro y por el Departamento
Financiero del Reino Unido, el cual asigna los recursos a los departamentos de
gasto.
• Valoración clara sobre los temas claves a ser alcanzados por el gobierno;
• Objetivos claros;
• Excelente monitoreo de los avances;
• Evaluación de impacto de la política. 83
26
Director del Departamento Nacional de Planeación.
SEGUNDA sesión
Creo que estos son dos excelentes ejemplos, en diferentes áreas, pero
permiten establecer por qué una inversión seria y una buena información
puede ahorrarle grandes cantidades de dinero al Gobierno. Una buena
información además facilita la descentralización, la toma de decisiones y el
aprendizaje mutuo. Ahora tenemos muy buena información del desempeño
de las escuelas. Las escuelas y los padres conocen qué tan bien se está
desempeñando individualmente una escuela con relación a cualquier otra, lo
cual es una buena forma de llevar este desempeño a través del sector. 85
y sobre muchos otros aspectos del gasto público. Este permite al Gobierno
observar quienes ganan y quienes pierden con los diferentes cambios.
Eso no se sabrá sino hasta el momento en el que los niños crezcan. Si se piensa
en una política de pensiones, ¿cuál es su impacto? Eso sólo se sabrá hasta que
las personas se retiran de la vida laboral. Por esto es que nosotros invertimos
grandes cantidades de dinero en bases de datos y de información muy grandes
y de largo plazo, lo que nos permite hacer seguimiento a las personas en
partes significativas de sus vidas.
Uno de los cambios más grandes que el Gobierno del Reino Unido ha
implementado es el incremento anual del gasto en salud. Se ha planeado un
SEGUNDA sesión
29
PIB: Producto Interno Bruto — Gross Domestic Product (GDP)
30
National Institute of Clinical Excellence.
SEGUNDA sesión
• Midiendo la productividad
públicos.
Esto se lleva a cabo dentro de una clara restricción fiscal. En el Reino Unido
tenemos unas reglas fiscales que en esencia dicen lo siguiente: primero, el
Gobierno no prestará dinero excepto para invertir, es decir que el gasto actual
debe igualar la cantidad de impuestos recaudados en el ciclo económico, y el
promedio de préstamos del gobierno para gasto debe ser cero; segundo, la
deuda total del Gobierno no debe superar el 40% del PDB.
Así que, en una mano se tienen esas reglas fiscales, y claramente tenemos
un proceso de fijación de impuestos que los aumenta dependiendo de las
tasas de impuestos y el estado de la economía, y así sucesivamente. Esto fija
un tope de gasto total, y el Proceso de Revisión del Gasto lo distribuye entre
los departamentos de gasto definiendo cuánto debe ir a salud, educación,
transporte, medio ambiente, etc.
Entonces, ¿para qué tener esa Revisión del Gasto? Para asegurar que el
Gobierno no gaste más de lo que puede, teniendo un proceso regular en el
que el Tesoro trabaja con los departamentos de gasto fijando su presupuesto.
Este ayuda a los ministros a pensar claramente sobre lo que quieren lograr
con el gasto. Promueve el valor del dinero desde el centro hasta el interior de
los departamentos, y promueve una estructura de planeación a largo plazo.
RG2002
89
RG2004
Año 1 Año 2 Año 3
planeación
RG2004
Fuente: Autor
SEGUNDA sesión
Otra área con un significativo aumento del gasto del Gobierno es la educación
preescolar y el cuidado de niños. Esta es un área en la que es muy difícil
evaluar los efectos de largo plazo. Sin embargo, en 1997 se implementó una
3
Organización para la Cooperación Económica y el Desarrollo – Organisation for Economic Co-
operation and Development (OECD).
SEGUNDA sesión
Mencionaré algo muy breve sobre El Nuevo Pacto para los Jóvenes. Cuando
este Gobierno fue elegido por primera vez en 1997, se fijó como una de
las prioridades la reducción del desempleo a largo plazo que se evidenciaba
entre los jóvenes, por lo que puso en marcha algo llamado el Nuevo Pacto.
Este proporciona bienestar social para trabajar, ayudar, educar y dar apoyo
personal a jóvenes desempleados por largo tiempo. El Gobierno, además,
implementó una gran evaluación, probablemente la más grande que se haya
hecho en el Reino Unido. Tiene docenas de proyectos buscando el impacto
de los procesos, y mostró una proporción positiva de costo beneficio.
SEGUNDA sesión
Quiero mencionar tres temas que surgieron de este proceso: no hubo piloto
real, administración del conocimiento, y tentación a sobreestimar.
No hubo pilotaje real. Por ser una prioridad tan grande para el Gobierno no
se realizó una fase piloto, por lo que evaluar se convirtió en algo muy difícil.
Lo que tuvimos que hacer al final, fue comparar qué pasaba efectivamente
entre la población entre 18 y 24 años de edad, contra lo que pasaba en grupos
de edad mayores y en grupos de edad menores. No fue algo perfecto y
ciertamente algo no tan bueno como lo hubiese sido una prueba piloto, pero
no fue del todo malo.
Monitoreo y evaluación: he hecho sobre la evaluación como solo una parte del
proceso que está compuesto por valoración, objetivos claros y monitoreo
y seguimiento a resultados. Además hablé sobre la importancia de una
información rica para hacer el monitoreo.
94 Fechas de corte: la evaluación lleva tiempo. Por ejemplo, usualmente lleva largo
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
95
Keith Mackay*33
Éste produce una buena cantidad de reportes que presenta al Parlamento que
incluyen información de calidad, costo de resultados y resultados de mediano
plazo.
Mencionaré otro caso exitoso, el del Ministerio de Trabajo. Este tiene algunas
series longitudinales de datos las cuales son utilizadas para la realización de
rigurosas evaluaciones de impacto. Un aspecto que vale la pena rescatar de
este caso es que cada vez que el ministerio envía alguna propuesta de política
a uno de sus ministros (la institución cuenta con tres ministros, el principal y
dos diputados) el funcionario se ve en la obligación de valorar la propuesta
y evaluarla teniendo en cuenta criterios tales como: claridad, objetividad,
temporalidad y creatividad. Este tipo de retroalimentación es de gran utilidad
para los ponentes de las políticas por cuanto esto evidencia que se están
104 tomando en cuenta sus aportes para la toma de decisiones al interior del
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
Gobierno Australiano.
Tercera lección: En las dos generaciones, fueron menos importantes los 105
Sexta lección: Es importante contar con personas influyentes por que éstas
juegan un papel clave en la demanda del sistema. No es suficiente que los
funcionarios “senior” de las instituciones como los Ministros, el Director del
Departamento Financiero sean los únicos que comprendan la importancia
de la evaluación y se queden esperando que aparezcan aquellos funcionarios
profesionales en el tema para que monten el sistema. Es importante crear
conciencia sobre los beneficios que trae la evaluación, por ejemplo mostrando
lo costo- efectivo que resulta realizar estas evaluaciones, o mostrar los
resultados positivos que los inversionistas han obtenido con la implementación
de dichos sistemas en el pasado.
Experiencia internacional en
evaluación de políticas públicas:
lecciones para Colombia
Miremos entonces ese mapa de varios países que nos permite comparar a
Colombia y aprender lecciones. Voy a tratar de referirme en cada caso a
las experiencias que hemos visto en Australia y Reino Unido, y además voy
34
a hacer referencia al caso Mexicano . En este último, hay algunos aspectos
que resultan aleccionadores y de hecho esta mañana en la presentación de
35
François Bourguignon se hizo referencia a algunos de ellos.
en una primera instancia, buscaba identificar los efectos, los impactos de estos
34
El programa del seminario contemplaba la presencia de Santiago Levy (Director del Instituto
Mexicano de Seguridad Social), para comentar la experiencia de México en materia de evaluación.
Lamentablemente, su participación fue cancelada por motivos de fuerza mayor, ajenos a los
organizadores.
35
Ver: Pobreza y evaluación de políticas públicas: enfoques y alternativas, François Bourguignon
(Vicepresidente Senior y Economista en Jefe del Banco Mundial).
36
Ver Asignación y evaluación del gasto público: el caso del Reino Unido, Paul Johnson (Director de
Microeconomía, Departamento del Tesoro, Reino Unido).
37
El programa mexicano Oportunidades, antes llamado Progresa, es una estrategia para mitigar los
efectos de la pobreza, basada en subsidios monetarios condicionados.
SEGUNDA sesión
programas sobre los beneficiarios finales. Sin embargo, terminó teniendo gran
incidencia en materia presupuestal, porque los resultados de las evaluaciones y
la difusión que de ellos se hizo lograron permear las instancias presupuestales.
Esto al punto de tomar la decisión de ampliar un programa como Progresa /
Oportunidades, de cerca de 300 mil familias a más de 1, 5 millones de familias;
hoy en día entendemos que alcanza cerca de 5 millones de familias que se
benefician con transferencias en efectivo condicionadas. Con posterioridad,
en México se decidieron unos lineamientos desde el Ministerio de Hacienda
para regular estas evaluaciones; más adelante vamos a ver por qué.
• Arreglos institucionales
presupuesto
Chile. Quise traer el caso de Chile, con los estímulos a mejores programas
evaluados con asignación de recursos de inversión a través del Fondo
Concursable. Este me parece muy importante para reforzar una idea en
relación con la introducción de incentivos: como dije, estos se requieren para
estimular la oferta y la demanda de evaluación cuando hay una baja cultura de
evaluación, sobre todo incentivos centrados en la demanda.
Australia (1987 – 1997). Hemos dicho que buena parte, sino todo el sentido
de la evaluación está dado por la forma en que esta se refleje en decisiones de
política de gasto o de política sectorial. En ese sentido, como se evidencia en
el caso Australiano, pues son los ministerios, y particularmente los ministerios
de hacienda, quienes deben ser los principales clientes de información sobre
evaluación. Por un lado, las tesorerías quienes programan el gasto, y por otro
lado, los ministerios sectoriales como insumos para definir o para reorientar
sus políticas y programas.
Reino Unido. Algo muy importante que voy a resaltar al final como una de las
lecciones quizás más interesantes para el caso colombiano, es la programación
del gasto público basado en evidencia. Creo que en esto la experiencia más
interesante es la de la Oficina Tesoro del Reino Unido (HM Treasury), en la
medida en que han ido incorporando la práctica de evaluaciones en el caso
de nuevos programas. Esos nuevos programas se evalúan previamente en
programas piloto y las decisiones de ampliarlos a una escala nacional se toman
con base en los resultados de esas evaluaciones.
Lo anterior, es una práctica que desde todo punto de vista es muy sana, y que
podría ser muy interesante para el caso colombiano. Para todos es muy claro
que en el país muchas decisiones sobre grandes programas se han tomado
sin mayor información sobre su efecto real, incluso sobre programas que
hoy existen, que tienen carácter nacional y que absorben buena parte de los
recursos del presupuesto anual de inversión de la Nación. De manera que
antes de tomar una decisión de continuar, ampliar, suspender o modificar un
programa, pues una evaluación exhaustiva es de muchísima utilidad.
44
La RAS se compone de los programas complementarios Empleo en Acción, Jóvenes en Acción y
Familias en Acción.
SEGUNDA sesión
46
Ver Modernización del presupuesto, evaluación y calidad del gasto público, Antanas Mockus (ex
Alcalde de Bogotá).
SEGUNDA sesión
del gasto para ajustar los marcos de gasto de mediano plazo; e involucrar los
resultados de evaluaciones focalizadas dentro del mismo proceso.
121
Mauricio Cárdenas∗
0 ,0 %
P e rú
-2 ,0 %
E l S a lv a d o r
A rg e n tin a
-4 ,0 % G u a te m a la
H o n d u ra s
C o lo m b ia
-6 ,0 %
B r a s il
-8 ,0 %
0% 10% 20% 30% 40% 50% 60% 70% 80% 90%
G a s to in fle x ib le / g a s to p rim a rio
Por esto, los ajustes fiscales, por lo menos en los países de la OECD, han
sido más selectivos. Es decir, las reducciones del gasto público, son ante
todo recortes en ciertos tipos de programas, en renglones específicos del
TERCERA sesión
Ejemplo: Familias en
acción
Flexibilidad
125
Baja Alta
Evaluación
Fuente: Autor
TERCERA sesión
Pero, ¿cómo movernos hacia una situación de alta flexibilidad y alta evaluación?
Hay muchos caminos para llegar al nivel deseado. Una posibilidad es tratar
de flexibilizar primero y luego evaluar. Esto es difícil porque la flexibilización
implica un proceso político complejo, que en muchos casos requiere reformas
a la propia Constitución. Es poco viable que ese proceso político tenga éxito
sin un claro entendimiento de qué se debe flexibilizar y por qué.
Funcionamiento administración
Inversión Social
Inversión Defensa
Inversión infraestructura
Pensiones
baja
Transferencias SGP
S de deuda
127
baja Evaluación alta
Fuente: Autor
80 35
70 30
60
25
50
20
40
15
30
10
20
10 5
0 0
19 19 199 199 199 199 199 199 199 199 200 200 200 200
90 91 2 3 4 5 6 7 8 9 0 1 2 3
25% 4
20% 3
15%
2
10%
5% 1
0% 0 PIB
-5% -1
-10%
-2
-15%
-20% -3
-25% -4
Mar-84
Mar-85
Mar-86
Mar-87
Mar-88
Mar-89
Mar-90
Mar-91
Mar-92
Mar-93
Mar-94
Mar-95
Mar-96
Mar-97
Mar-98
Mar-99
Mar-00
Mar-01
Mar-02
Mar-03
Desv TDU HP I(1600) Desv PIB HP I(1600)
Fuente: Fedesarrollo
Si se hubiera tenido una herramienta como el gasto público para hacer un poco
de estabilización macroeconómica y para evitar que el ciclo hubiera sido tan
pronunciado, los indicadores sociales de Colombia serían hoy muy diferentes.
Es decir, por alta inestabilidad y volatilidad macroeconómica se perdió lo que
130 habíamos ganado en una década de progreso social. ¿Eso qué quiere decir
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
• Conclusiones
131
¿Cómo le damos los incentivos a ese gerente para que se auto evalué y
produzca una serie de indicadores legibles y acordados sobre los cuales medir 133
Digo lo anterior, porque creo que hay que diseñar mecanismos que las
entidades en su caja negra, en su micro, internalicen en una función de
eficiencia social. Esto porque la evaluación sólo como la estábamos tratando
de hacer, y como de alguna manera también la seguimos haciendo, que es una
batería de indicadores que nos dicen si alguien hace bien o hace mal las cosas,
es muy buena pero no resuelve realmente el problema de ‘Principal y Agente’.
La forma como lo han resuelto es cambiar el principal, de una sociedad a la
cual tienen que rendirle resultados con base en eficiencia, hacia unos políticos
a los cuales tienen que rendirles resultados (nombramientos, contratos, gasto
134 en sus zonas de influencia, etc).
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
los activos y pasivos del Estado. Entonces a la evaluación del presupuesto, que
es una evaluación flujo, hay que adicionarle una evaluación stock, que es la
evaluación del balance del estado de la Nación. Nosotros avanzamos en eso y
creo que se ha ganado mucho.
Por último, sé que el doctor Mockus esta mañana habló del Transmilenio
y nosotros curiosamente hicimos una evaluación de Transmilenio que me
permite unir estos puntos de economía y política que he tratado de expresar.
Nuestra evaluación de Transmilenio es bastante positiva para la primera línea,
es decir para el corredor de la Caracas y el corredor de la 80. Sin embargo,
nuestra evaluación para el bienestar total de la ciudad es negativa para esta
primera fase. ¿Por qué? Básicamente porque no se chatarrizaron todos los
buses que se necesitaba. Los buses que había en el corredor de la Caracas
en buena proporción se pasaron a los demás corredores y los efectos de
tiempos, de accidentalidad, de polución, se aumentaron para el resto de la
ciudad.
¿En suma qué estoy diciendo? El marco de evaluación hay que ampliarlo
muchísimo, porque este marco de lo que queremos evaluar está siendo muy
TERCERA sesión
136
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
TERCERA sesión
Carolina Rentería∗
Esta es una realidad y una necesidad que se da a todo nivel. Como ustedes
deben haber vivido en sus experiencias personales: entre menos dinero se
disponga, tanto en la casa, como en el Presupuesto de la Nación, es más
importante saber cómo y en qué se gasta. Es en el momento de enfrentar
las restricciones, cuando éstas se vuelven un reto y por lo tanto, cuando se
debe contar con la mayor cantidad de información para tomar las mejores
decisiones.
Se mencionaba en el foro del día de hoy, que al ser el 95% del presupuesto
inflexible, no tiene mayor sentido evaluarlo. Yo discrepo de esta afirmación.
Por el contrario, estoy convencida que una de las maneras que tenemos para
devolverle flexibilidad al presupuesto es precisamente evaluándolo, mostrando
qué sirve y qué no, a través de la comparación de los beneficios y costos de
138 diferentes programas de gasto.
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
La primera pregunta busca establecer una restricción fiscal que sea vinculante
y que determine el monto de impuestos a cobrar y el endeudamiento que
se debe asumir; la segunda corresponde al proceso de toma de decisiones
respecto a qué tipo de gasto incluir en el presupuesto, es decir a la definición
de cuáles inversiones o gastos deben financiarse con los recursos de los
contribuyentes (presentes y futuros); y la tercera es la necesidad de que una
vez se haya definido un monto de gasto y una distribución del mismo, este
se ejecute bien, de manera eficiente y transparente, evitando sobrecostos y
demoras innecesarias y perjudiciales.
2006 -2016
3 Instrumentos 139
2006
Fuente: Autor
TERCERA sesión
51
Ley 819 de 2003.
52
Ley 921 de 2004 y decreto de liquidación número 4365 de 2004
TERCERA sesión
Lo anterior no quiere decir que el MGMP sea simplemente una nuevo nombre
para procesos tradicionales de planeación. Mientras el MGMP es un ejercicio
comprensivo y disciplinado que promueve la priorización dinámica del gasto
en medio de un proceso de evaluación, ajuste y actualización permanente, el
plan de desarrollo tiene una perspectiva estática, para un período específico.
La elaboración del marco de gasto para los siguientes cuatro años se inicia
con la identificación de techos agregados para ese período de tiempo. Una
vez se establecen los techos fiscales bajo la restricción de recursos, se pasa
al proceso de definición de políticas estratégicas o prioritarias (ver Figura 2),
lo cual permite determinar los techos de gasto sectoriales y posteriormente
los techos de gasto por Ministerio, de manera que exista consistencia entre el
monto de recursos asignado y las políticas y necesidades existentes.
Te cho s FFisca
Techos le s
iscales
Te ch os
Techos de de gasectoriales
gasto sto se cto ria le s
DDefinición de
e finición d e
prioridades
p rio rid a d e s b a jo Te c hos
Techos de gasto
de gasto por M inisterio
por M inisterio
bajo ne s d e
re striccio
restricciones
re curso s
de
(re recursos
d uccio ne s o
(reducciones o
e xp a nsion e s)
expansiones)
Fuente: Autor
142
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
que debe tomar las decisiones de qué debe ir y qué se puede o debe excluir,
y no como ocurre en la actualidad, que en muchas ocasiones al Ministro se le
“informa” sobre que quedó incluido y que quedó excluido.
Para poder definir los techos sectoriales, y dadas las implicaciones que se
derivan de estos, los ministros deben contar con evaluaciones del gasto
público que les permita responder interrogantes como: ¿Está siendo efectivo
en la solución de problemas o necesidades de los ciudadanos? ¿Cómo decidir
qué gasto desplazar o eliminar para darle espacio a un nuevo programa?
Figura 3 • Relación entre las políticas, los recursos y los medios en cada
uno de los sectores
Conciliar políticas,
Políticas sectoriales y objetivos lejes y restricciones
de recursos
Definición de
Programas Sectoriales programas prioritarios
de acuerdo con los
objetivos
Fuente: Autor
Este proceso difiere del “tradicional”, el que ha sido aplicado hasta ahora, en
por lo menos tres aspectos. Por un lado, se define un techo de gasto total
a priori, punto del cual arranca el proceso de determinación del espacio de
cada uno de los sectores y de avance en el proceso de toma de decisiones por
medio de la definición e identificación de estrategias, políticas y programas.
De esta manera, poco a poco, se va unificando los diferentes conceptos de
gasto: cuánto es el gasto de funcionamiento, cuánto es el gasto de inversión y
cómo se relacionan los dos.
De otro lado, cada ministro es responsable de priorizar los recursos con que
cuenta su sector de acuerdo con sus necesidades, y se empieza a generar
conciencia de la existencia de una restricción presupuestal vinculante. Se espera
que en el mediano plazo se desvirtúe la percepción de que es responsabilidad
del Ministerio de Hacienda y Crédito Público conseguir recursos para cualquier
programa o necesidad, actitud que desconoce que los recursos provienen del
público, del contribuyente, actual o futuro, y le restan espacio de inversión y
crecimiento al sector privado.
Liquidación del
Presupuesto
Seguimiento y Evaluación
del Presupuesto
Fuente: Autor
Por lo anterior y para que se logre avanzar en este proceso, se requiere de una
administración pública comprometida con mejorar el proceso presupuestal,
TERCERA sesión
Los órganos que hacen parte del presupuesto deben enviar la información
que se les solicite para el cumplimiento de estas funciones, y en caso de no
hacerlo, el Confis podrá reducir los montos globales mensuales de recursos
de la nación autorizados en el programa anual de caja.”
José Leibovich∗
Entonces, ¿qué pasa con esa inflexibilidad? Pues que se tiene indudablemente
una Constitución, la Constitución del año 1991, que nos marcó una cantidad
de gastos que se volvieron totalmente inflexibles. Digo y repito que el Estatuto
Orgánico que está en tránsito, de ser reformado puede ayudar a mejorar esta
situación. Se tiene un cúmulo de leyes que se van sacando y que generan
gasto inflexible, se tiene el tema de las vigencias futuras, créditos con la
banca multilateral, etc. Entonces, resulta que es muy poco el margen cuando
llega el momento de decir: “la orientación de este Gobierno que fue elegido
democráticamente va a estar enfocada en su gasto, le preferencia revelada
de los electores que eligieron a este Gobierno va a estar definida por estos
programas”.
Voy a hacer unos comentarios ahora sobre otro tópico que tiene que ver con
el tema del seminario, que es ya al interior del oficio de hacer la evaluación.
Es el dilema o la disyuntiva entre lo que puede ser una evaluación integral y
una evaluación parcial, una evaluación segmentada. Lo digo con todo respeto
y reconociendo el valor de las evaluaciones que se han venido haciendo, que
las ha venido haciendo Sinergia. Para citar el caso más citado en las últimas
semanas, porque obviamente están saliendo los resultados, lo digo sobre
el caso de la evaluación de Familias en Acción. Es decir, la evaluación es
técnicamente muy bien hecha y rigurosa. Lleva a conclusiones que son muy
importantes, muy contundentes y que ratifican la necesidad y la importancia
de continuar con un programa de esa naturaleza. Se invierten unos recursos
en unos subsidios condicionados a familias pobres, y la condición para que los
reciban son obviamente la obligación de que los niños vayan a la escuela y se
hagan unos controles periódicos para mirar su talla y peso. Los resultados de
la evaluación son extraordinarios, el gasto es un gasto que efectivamente se
está enfocado a mejorar la situación de bienestar del hogar. Por supuesto que
es un programa muy bonito que hay que seguir manteniendo. 151
Un tercer elemento que quería aportar a esta discusión, son algunos problemas
que la literatura ha reconocido en los programas sociales que son focalizados.
Lo digo también con el ánimo de que se tiene que ir pensando cómo manejar
esa problemática hacia delante, porque después hay cosas que se vuelven
inflexibles y es muy difícil después decir que la evaluación dio un resultado
no favorable y que sería bueno ir desmontando eso. Entonces es bueno ir
pensando en como incorporar estos temas.
Indudablemente, todos los que hemos mirado estos temas hemos escuchado
historias de personas que tienen el carné y le dicen al patrón: “!por favor no
me formalice! Prefiero seguir manteniendo mi carné de Sisbén porque con él
accedo a una serie de programas interesantes”. Entonces, en este ejemplo
hay implícitamente un análisis hecho por el individuo que se mueve por
incentivos y piensa que es preferible estar sisbenizado a salir de la situación
de precariedad.
Creo entonces que ahí hay un problema de cómo hacer para que en estos
programas focalizados, los beneficiarios se puedan ir graduando, puedan
ir saliendo de esos programas. Esto porque estos programas tienen unos
impactos que pueden ser de mediano y largo plazo sobre los niños, por
TERCERA sesión
Orazio Atanasio∗
* Orazio Atanasio del IFS, comparte la dirección de la evaluación de impacto de Familias en Acción
con Luís Carlos Gómez de Econometría S.A.
CUARTA sesión
Primero, está la creación de bases de datos de alta calidad, que pueden ser
usadas por distintos investigadores para muchas cosas. La línea de base de
Familias en Acción ya está disponible en la página web del Departamento
57
Nacional de Nacional (DNP) , y me han contado que ya varios investigadores
de Fedesarrollo están utilizando esta base de datos que nosotros construimos.
La base del primer seguimiento, que acabamos de limpiar, va a estar disponible
en el mismo sitio pronto y lo mismo va a pasar con las bases de datos de
Empleo en Acción y Jóvenes en Acción. Son productos importantes dado que
nuestra filosofía en la evaluación es crear bases completas. No solo queremos
medir el impacto del programa, sino también comprender como funciona,
de manera que tenemos una base muy completa que puede ser usada para
muchas investigaciones. Además, sobre la de Hogares Comunitarios, nos
58
contrataron para una evaluación y por el precio de una les vamos a dar dos .
56
Ver: Evaluación de Empleo en Acción, Álvaro Reyes (Econometría), pág. 129.
57
www.dnp.gov.co
58
Las encuestas de la evaluación de Familias en Acción, incluyeron preguntas relacionadas con
Hogares Comunitarios, lo cual permitió analizar y comparar ambos programas.
CUARTA sesión
• Familias en Acción es un
59
programa inspirado en el programa mexicano
Progresa / Oportunidades . Son subsidios condicionados a la educación y la
salud. Cuesta alrededor de US $100 millones por año y cubre alrededor de
350.000 familias en 627 municipios, que ahora van a ser ampliadas a 400.000
familias.
59
Estrategia de subsidios condicionados exitosa en combatir la pobreza en México.
60
Familias en Acción es uno de los tres programas de la Red de Apoyo Social (RAS) que el país puso
en marcha para mitigar los efectos negativos de la crisis económica y el ajuste fiscal en los grupos
poblacionales más vulnerables.
CUARTA sesión
61
Institución Prestadora de Servicios de Salud (IPS).
CUARTA sesión
62
contiene Bienestarina que se supone da 70% de la necesidad de calorías de
los niños. Los padres pagan mensualmente a la madre comunitaria una tarifa
pequeña que varia entre $7.000 y $14.000 pesos, lo cual constituye su salario.
En retribución, la madre comunitaria prepara y da los alimentos a los niños, y
además les suministra atención.
Así, queda claro que Familias en Acción y Hogares Comunitarios son dos ideas
de intervención en nutrición bastante diferentes.
Aunque se intentó seleccionar los municipios de control que fueran lo más 159
62
Marca propia registrada por el ICBF. La Bienestarina es una mezcla vegetal en forma de harina,
adicionada con leche en polvo descremada, enriquecida con vitaminas y minerales. Aporta proteínas
con un balance adecuado de aminoácidos esenciales, lo que la convierte en un producto de alto valor
nutricional.
CUARTA sesión
Hay una dificultad adicional pues las cosas prácticas son siempre más
complicadas que la teoría. En unos municipios el programa había iniciado
antes de la recolección de la línea de base. Entonces, tenemos una línea de
base pura para los municipios control donde el programa nunca operó y para
algunos de los municipios de tratamiento. Hoy vamos a entregar el informe al
63
DNP y todo esto está bien explicado en él .
En cuanto a la calidad de los datos. Sobre las 6.000 familias beneficiarias que
están en la encuesta, cuando cruzamos nuestra información con la base de
datos administrativa de pagos del programa que proporcionó el Fondo de
Inversiones para la Paz (FIP), de nuestra base de datos no pudimos cruzar
solamente 100 familias. Creo que esto es otro éxito muy importante y un
63
La publicación de este informe con información detallada sobre el primer seguimiento de la
evaluación de Familias en Acción está disponible en www.dnp.gov.co
CUARTA sesión
Los datos que usamos para la evaluación de Hogares Comunitarios son los
mismos, es la misma base de datos. Eso fue posible porque a cada madre se
le preguntó si sus niños habían estado en algún hogar comunitario en su vida y
por cuanto tiempo, por cuantos meses en cada año de su vida. También se les
preguntó la distancia de su vivienda hasta el hogar comunitario más cercano. A
cada niño se le tomó la talla, el peso, y la longitud de las piernas, también se
tomó la talla de la madre, y todos estos datos se usaron para la evaluación de
Hogares Comunitarios.
0,61*** 1,08***
Leche
-0,17 -0,26
0,44* 0,68***
Huevo
-0,25 -0,2
0,61*** 0,46*
Carne res
-0,18 -0,26
0,25** 0,36***
Pollo
-0,1 -0,1
0,19 0,37**
Pescado
-0,21 -0,15
0,50*** 0,46***
( ): Desviación estándar Queso
* Nivel de significancia del 10 % o menos -0,15 -0,14
( ): Desviación estándar
* Nivel de significancia del 10 % o menos
** Nivel de significancia del 5 % o menos
*** Nivel de significancia del 1 % o menos
Fuente: IFS – Econometría - SEI
CUARTA sesión
Se puede ver que los efectos están concentrados entre los niños entre 0 y 2
años, sobre todo en la zona rural, en su talla y en su peso: son en promedio
0,78 cm. más altos y 0,22 kg más pesados que los niños de los municipios de
control. Hay también unos efectos en la zona urbana sobre el peso entre 2
y 4 años, y unos efectos entre los de más de 4 años, pero los efectos más
grandes se encuentran sobre los niños entre 0 y 2 años. Les voy a recordar
estos resultados más adelante, pues los voy a comparar con Hogares
Comunitarios.
• Impacto en salud
Creo que en la tabla tenemos demasiados resultados (ver Tabla 3), y les voy a
pedir que se concentren en los marcados con rojo porque son de diferencias
en diferencias. Los marcados con azul son interesantes, pero comparan
tratamiento y control en el primer seguimiento sin tener en cuenta las diferencias
preexistentes. Como ustedes pueden ver, sí hay diferencias muy importantes
165
entre los azules y los rojos. En consecuencia, los más confiables obviamente
son tan diferentes estos dos datos. Si hubiéramos tenido una muestra más
grande probablemente podría contestar, pero creo que el resultado está en
medio de estos dos números.
1 2 3
Pareo
Paramétricad Paramétrica
diferencias Pareo primer Pareo
iferencias en primer
en seguimietno tratamiento
diferencias seguimiento
diferencias
Urbano
0,0129 0,0315 0,0238 0,0407
8-13 años 2.815
-0,007 -0,0092 -0,0194 -0,0198
0,0505 0,153 0,0626 0,0979
14-17 años 1.574
-0,0129 -0,0268 -0,026 -0,0419
Rural
0,0276 0,0735 0,0334 0,0848
8-13 años 3.935
-0,0116 -0,0112 -0,0254 -0,019
0,0524 0,1243 0,1113 0,2005
14-17 años 2.025
-0,0217 -0,0289 -0,032 -0,0542
( ): Desviación estándar.
La edad se refiere a la edad en el primer seguimiento
3: Número de jóvenes de tratamiento pareados para la estimación de diferencias en diferencias.
Fuente: IFS – Econometría - SEI
166
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
Cuando se empezó con esta evaluación, hablaba con la gente acá en Colombia
sobre el programa y me decían: “los niños de Sisbén 1 todos van a Hogares
Comunitarios”. Eso no es cierto, la cobertura del programa no es tan alta. En
la tabla se puede ver la tasa de asistencia a Hogares Comunitarios por edad
en los municipios de control, medida en la línea de base y después en el primer
seguimiento (ver Tabla 4). Como se puede observar, debajo de los 2 años de
edad son muy pocos los niños de Sisbén 1 que van a estos hogares, e inclusive
a los 3 años que es la edad más popular, la cobertura del programa no llega
168 al 50%.
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
Control
Edad Línea de 1er
base seguimiento
0 3,47% 4,40%
1 18,23% 18,32%
2 37,93% 36,70%
3 44,27% 43,56%
4 34,49% 35,42%
5 21,75 19,49
6 10 7,46
Asistencia Exposición
MCO VI MCO VI
-0,05 0,44 -0,02 0,83
Impacto
-0,05 -0,18 -0,09 -0,39
Valor de P (prueba de 4.525 4.525 4.525 4.525
restricción sobre
identificación) - 0,46 - 0,7
170
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
( ): Desviación estándar
Fuente: IFS – Econometría - SEI
La tabla muestra los efectos de largo plazo (ver Tabla 7), y las cifras son
sorprendentes. Esto lo que dice es que si se toma un niño entre 12 y 17 años
que estuvo en un hogar comunitario alguna vez, éste tiene una probabilidad de
asistir a la escuela ahora del 27% más alta que un niño que nunca estuvo, y
tiene una probabilidad del 12% más alta de haber aprobado un grado el año
anterior. Estos son efectos de largo plazo muy importantes del programa.
( ): Desviación estándar
* Nivel de significancia del 10 % o menos
** Nivel de significancia del 5 % o menos
Fuente: IFS – Econometría - SEI
CUARTA sesión
No creo que Colombia tenga que escoger necesariamente entre los dos
programas. Se puede pensar en maneras de integrarlos. Por ejemplo, la plata
que se entrega en Familias en Acción para los niños de primaria, su objetivo
es aumentar la asistencia escolar de primaria y se sabe ahora que ésta no
tiene ningún efecto; entonces esta plata se podría usar para financiar Hogares
Comunitarios, o para aumentar el subsidio de secundaria que es donde hay
más efecto.
172
Idealmente sería necesario hacer un análisis de costo-beneficio de ambos
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
• Conclusiones
Sobre todo, creo que es importante entender que todos estos resultados se
concentran en zonas rurales y no se pueden generalizar a las zonas urbanas.
Sé que se está pensando en expandir Familias en Acción a las zonas marginales
de grandes ciudades, como se está haciendo en este momento en México
con Progresa / Oportunidades. Se está pensando en replicar exactamente el
mismo programa en la zona marginal en las grandes ciudades, pero creo que
no se puede tener ninguna garantía de obtener los mismos resultados.
66
Ver: Asignación y evaluación del gasto público: el caso del Reino Unido, Paul Jonson (Director de
Microeconomía, Departamento del Tesoro, UK.).
67
Subsidios para la manutención de la educación.
CUARTA sesión
Álvaro Reyes∗
V 68
y SEI .
amos a presentar ahora un segundo proyecto de la evaluación de la
Red de Apoyo Social. Se trata del programa Empleo en Acción, que
también fue evaluado por el consorcio IFS de Londres, Econometría
* Álvaro Reyes de Econometría, es parte integrante del equipo interdisciplinario que lleva a cabo la
evaluación de la Red de Apoyo Social (RAS).
68
Institute for Fiscal Studies (IFS), Econometría Consultores S.A. y Sistemas Especializados de
Información (SEI).
69
18 años de edad o más.
CUARTA sesión
Los salarios pagados eran salarios cercanos al salario mínimo, pero con la
restricción de que solo se podían emplear jornadas de medio tiempo por un
máximo de cinco meses. Esto fue muy importante para realmente focalizar
el programa en personas muy necesitadas que no tuvieran otras opciones de
trabajo. Es decir, se buscaba que el programa no compitiera con la posibilidad
de conseguir empleos mejor remunerados asalariados en otros sectores de la
economía, y esa parte parece que funcionó bastante bien.
En parte por las características del tipo de trabajo ofrecido, los salarios y
las jornadas de medio tiempo, el programa tuvo un fuerte componente de
autoselección de beneficiarios. Eso se pudo confirmar como se va a presentar
más adelante. El programa fue más atractivo para personas con menos 175
expectativas de ingreso, con menos posibilidades de empleo en otros sectores,
• Herramientas de evaluación
Las herramientas de evaluación fueron muy parecidas a las de Familias en
Acción, excepto que aquí se incluyó un monitoreo de las obras. Este fue
realizado por nuestros ingenieros y nos llevó a visitar cerca de 500 obras en
todo el país. Se verificó que se estuvieran llevando a cabo, que se hubieran
terminado y realizado completamente, y además que estuvieran prestando el
servicio para el cual fueron diseñados, es decir que estuvieran funcionando.
Así mismo, se hizo una evaluación cuantitativa con base en encuestas de
hogares, y una evaluación cualitativa, ambas con el proceso de recolección de
información terminado (ver Tabla 1). Estas se dirigieron a beneficiarios y no
beneficiarios del programa, y a hogares que habitan en áreas de influencia de
las obras. Lo primero nos permitió seleccionar grupos de tratamiento y grupos
de control entre beneficiarios y no beneficiarios y lo segundo nos va a permitir
evaluar si hubo algunos impactos sobre las áreas de influencia.
Aplicantes (beneficiarios y no
Indicador Hogares en Área de Influencia
beneficiarios)
70
Para las áreas de influencia se recolectó información de línea de base, e información de un
solo seguimiento. Este último se realizó en el momento de recoger el segundo seguimiento a los
aplicantes del programa (beneficiarios y no beneficiarios).
CUARTA sesión
Municipios
prioritarios;
38,6%
Municipios no
prioritarios;
61,3%
Por tipo de obras, el programa tenia una serie de categorías elegibles (ver Gráfico
2). Casi la mitad fueron obras viales urbanas (49,5%); mejoras, reparaciones
y pavimentación, tanto en municipios prioritarios como no prioritarios.
El segundo tipo de obras más importante fue servicios públicos (16,2%),
básicamente extensión de redes de apoyo de acueducto y alcantarillado; y
muy cerca la de infraestructura social (15,8%), construir pequeños centros
comunitarios, pequeñas zonas deportivas, o reparar escuelas o centros de
salud.
60,0%
Vial, 49,5%
50,0%
40,0%
30,0% Servicios Infraestr.
Ambiental,
20,0% Públicos, 16,2% Social, 15,8%
13,9%
0,0%
• El programa y su cobertura
Empleo en Acción logró aprobar entre 2002 y 2003, cerca de 3.845 proyectos
u obras en cerca de 670 municipios del país; casi todos municipios prioritarios
y una buena parte de los municipios no prioritarios. Sin embargo, solo se
terminaron 2.788 proyectos u obras, es decir que cerca de 900 proyectos no
se iniciaron, o se iniciaron y no se terminaron. En algunos casos esto ocurrió
por problemas financieros, por decisión de los propios proponentes en muy
buena parte, por falta de recursos de contrapartida, o porque se demoró 179
Examinemos un poco cuál era la cobertura del programa (ver Tabla 2). El
universo de población Sisbén 1 y 2 en áreas urbanas estimado es del orden de
8,5 millones de personas (18 años de edad o más), las cuales están distribuidas
en 2,5 millones de hogares a nivel nacional, que contienen a su vez cerca de
13,4 millones de personas, sumando niños y adultos. De estos 8,5 millones
no todos podrían considerarse para ser beneficiarios del programa, porque
éste tenía la característica de ofrecer cupos limitados de trabajo vía demanda.
Es decir, las personas tenían que inscribirse en el programa, ya que no eran
universalmente elegibles todas las personas. Dentro de esas limitaciones,
estaba previsto que si había exceso de demanda por puestos de trabajo debería
haber un sorteo entre todos los inscritos, de manera tal que la selección de
beneficiarios fuera totalmente aleatoria, es decir, que hubiera igualdad de
oportunidades para todas las personas.
Municipios Municipios No
Indicador Total
Prioritarios Prioritarios
Hogares 1.259.139 1.275.870 2.535.009
Personas 6.731.517 6.663.551 13.395.068
Personas de 18
4.257.162 4.309.343 8.566.506
años o más
180
Potenciales
1.459.355 1.400.967 2.860.322
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
Beneficiarios
Municipios Municipios no
Indicador Total
prioritarios prioritarios
Parte importantísima de los impactos del programa son de muy corto plazo, y
como se señaló antes, tienen lugar durante el periodo en el cual la gente tiene
recursos adicionales. Entonces es importante saber si trabajaron realmente 181
Otro dato importante es si se benefician más los grupos más pobres dentro
de los pobres, y si se aumenta la empleabilidad de estas personas hacia el
futuro. Esta última pregunta no se puede contestar en este momento, pero es
una de las que se contestarán con el segundo seguimiento.
• Metodología de la evaluación
Definiciones
En primer lugar se tiene una categoría que diferencia dos grupos entre las
personas que se inscribieron en el programa:
Por otro lado, se tiene otra categoría distinta que resulta de la forma en que
funcionó el programa:
• La muestra
No
Aplicantes Participantes
Participantes
No 198 2.030
Beneficiarios
Beneficiarios 2.583 617
• Métodos de evaluación
Estas diferencias naturalmente hay que controlarlas para poder hacer una
evaluación no sesgada de los impactos. Esto en parte lo hace el mismo método
de diferencias en diferencias, pero puede quedar una diferencia residual que
de todas maneras hay que tratar de evitar. Veamos entonces estas diferencias
entre los grupos de tratamiento (beneficiarios) y los grupos de control (no
beneficiarios) en algunas características básicas como: demografía, historia
laboral, educación y salud.
Diferencia
Indicador Beneficiarios (benef. no
benef)
35,1 -0,2
% de mujeres
-0,3 -0,4 185
Promedio de 34,5 -3,9
( ): Error estándar
Fuente: IFS – Econometría - SEI
Diferencia (benef. no
Indicador Beneficiarios
benef)
En los últimos 20 años ha trabajado alguna 96,30% 0,8
vez por un pago en dinero -0,5 -0,7
72,20% -0,3
Trabajó al menos por un mes durante 2001
-1,4 -0,2
23,7 -1,3
Promedio de horas trabajadas durante 2001
-0,7 -0,8
Remuneración mensual promedio durante
123.044 -6.082
2001
(Pesos de 2003) -5.662 -7.972
( ): Error estándar
Fuente: IFS – Econometría - SEI
En términos de composición educativa (ver Tabla 7), son casi idénticas las dos
distribuciones. La única diferencia significativa es que en el grupo de beneficiarios
186 hay una menor proporción de personas con educación universitaria que en el
grupo de control (no beneficiarios). Esto dice que esta variable de alguna manera
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
( ): Error estándar
Fuente: IFS – Econometría - SEI
Las condiciones de salud (ver Tabla 8), fue el único aspecto donde encontramos
diferencias más significativas. El grupo de beneficiarios tiende a tener una
menor proporción de personas con problemas de salud en los últimos días,
o que hubieran tenido que permanecer en cama por problemas de salud. No
hay diferencias en términos de la variable ‘ha sido hospitalizado en los últimos
doce meses’, que es una variable mucho más aleatoria que se distribuye casi
uniformemente entre los dos grupos. Esto indica que el programa, de alguna 187
manera, si discriminó un poco a personas con mayores problemas de salud.
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
Este es quizás el único factor que influyó, pero hay que tener en cuenta que el
trabajo era un trabajo duro, pesado, de construcción, de remover tierra, de
hacer cosas que implican cierto estado físico razonable.
CUARTA sesión
Diferencia (benef.
Indicador Beneficiarios
no. Benef)
Durantes los últimos 15 días
12,50% -4,8**
dejó de hacer sus actividades
debido a problemas de salud -0,9 -1,6
Tuvo que permanecer en cama 6,50% -3,0*
por ese episodio de salud -0,6 -1,2
Ha sido hospitalizado en los 7,30% 0,2
últimos 12 meses -0,6 -0,9
( ): Error estándar
* Diferencias significativas al 5%
** Diferencias significativas al 1%
Fuente: IFS – Econometría - SEI
En primer lugar se tienen las horas trabajadas por semana (ver Tabla 9). Aquí
188 se está comparando grupos de tratamiento (beneficiarios) y grupos de control (no
beneficiarios) en el momento del trabajo, contra la situación antes del inicio
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
se hizo muy atractivo por la vecindad o cercanía de las obras, y por la duración
de la jornada laboral de medio tiempo. También fue mayor el aumento para
hombres y mujeres entre 18 y 24 años que son los más jóvenes, 11,7 horas,
porque del mismo modo habían tenido menos oportunidades de trabajo en el
pasado, o estaban apenas comenzando su carrera laboral.
8,6*
Muestra Total
-1,4
13,7**
Mujeres
-1,8
11,7
Jóvenes 18 -24 años
-2,4
( ): Error estándar
* Diferencias significativas al 5%
** Diferencias significativas al 1%
Fuente: IFS – Econometría - SEI
39.889**
Muestra Total
-12.381
58.784**
Mujeres
-15.153
47.490**
Jóvenes 18 -24 años
-12.724
( ): Error estándar
** Diferencias significativas al 1%
Fuente: IFS – Econometría - SEI
CUARTA sesión
2,6
Horas trabajadas por semana
-1,9
27.938
Ingreso Laboral Mensual ($ / mes)
-21.604
( ): Error estándar
Fuente: IFS – Econometría - SEI
El análisis del consumo total de los hogares, no se hizo con base en el ingreso
total porque era una figura difícil de construir bien. Se hizo una encuesta de
consumo, bastante completa y similar a la de Familias en Acción. Creemos
que esto mide más el impacto sobre el bienestar del hogar, que los datos
de ingreso. Hubo un impacto muy significativo, un crecimiento de 9% del
consumo con relación a la situación en línea de base.
2,6
Horas trabajadas por semana
-1,9
27.938
Ingreso Laboral Mensual ($ / mes)
-21.604
( ): Error estándar
Fuente: IFS – Econometría - SEI
Lo último que se observó fue el impacto de corto plazo sobre los indicadores
de pobreza (ver Tabla 13). Se tienen indicadores de pobreza coyuntural, como
puede ser la Línea de Pobreza (LP) o la Línea de Indigencia (LI), y un indicador de
pobreza un poco más estructural como es el indicador de Necesidades Básicas
Insatisfechas (NBI). Naturalmente estos impactos se ocasionan en buena
parte por el mayor ingreso que tienen estas personas en el corto plazo, y
consideramos que son efectos coyunturales y transitorios. A los cuatro meses, 191
Municipios Municipios No
Indicadores
Prioritarios Prioritarios
Indicadores de Pobreza Extrema
-6,5** -4,8*
NBI – Miseria
-2,1 -1,9
-3,2 1,9
LI – Consumo total
-3 -2,8
Indicadores de Pobreza
-5,9* -4,6
NBI – Pobreza
-2,5 -2,4
-1,9 -1,7
LP – Consumo total
-2,3 -3
• Focalización
unos fueron inscritos en el programa y otros no. Se encontró que tienen más
probabilidad o son más propensas a participar en el programa las personas que
tienen alguna educación, pero que no han alcanzado el nivel de secundaria,
y personas que han realizado algún entrenamiento en el pasado. Esto es
importante porque indica que individuos con más motivación dentro de los
pobres fueron los que se presentaron al programa, hombres y jefes de hogar,
individuos clave para sus hogares. Son personas que trabajaron menos horas y
ganaron menos dinero en 2001, y que esperan hacia el futuro un ingreso más
bajo. Es decir, realmente era gente con menos oportunidades en el mercado
de trabajo y más pobres, con menos oportunidades de ingresos laborales y
con más motivación.
Por otro lado, está la pregunta: ¿cómo afectó el programa a las comunidades
locales? Hasta ahora no hemos dicho nada de eso, pero se tendrá una batería
importante de datos recolectados para este fin. Se quiere saber si existen
beneficios económicos de las obras, es decir, tratar de hacer una evaluación
194
de la utilidad de esas obras para las comunidades.
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
CUARTA sesión
Eric Bettinger∗
72
• Metodología de investigación
73
Ver: Pobreza y evaluación de políticas públicas: enfoques y alternativa, François Bourguignon
(Vicepresidente Senior y Economista en Jefe del Banco Mundial)
CUARTA sesión
mejor que podíamos hacer, y tal vez nos daría las mejores soluciones. Así que,
usando la lotería, esperamos obtener las mejores evidencias disponibles para
el proyecto de los cupones.
Otro elemento que es muy bueno de la aleatoriedad es que es un método
muy simple. Dado el hecho de que estos grupos deben parecer iguales en
promedio cuando el programa empieza, simplemente podemos comparar a
los estudiantes que no ganaron en la lotería con los estudiantes que si ganaron,
y esto debería decirnos cuál fue el impacto del programa.
• Fuentes de datos
Les voy a presentar dos fuentes de datos: una encuesta de MIT, y documentos
administrativos del ICFES.
Encuesta de MIT: esta fue una encuesta que hicimos cuando yo estaba en
MIT; la hicimos entre 1998 y 1999, cerca de tres o cuatro años después de
empezar a implementar los cupones. Los estudiantes que habían recibido
cupones, para ese momento deberían haber completado el octavo grado.
Hicimos varias cohortes diferentes por todo el país, pero hoy me centraré en
los resultados de los estudiantes que aplicaron a cupón en 1995; había 4.044
estudiantes aplicantes, y de éstos, 2.378 habían resultado ganadores en la
lotería. Finalmente encuestamos a 1.174 de estos estudiantes, a los cuales les
hicimos seguimiento, fuimos a sus casas y tratamos de localizarlos de alguna
forma.
Entre algunas otras cosas, les preguntamos a los estudiantes si vivían con alguien, 199
si se habían casado o si estaban viviendo con un compañero o compañera
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
permanente. Sobre esto encontramos que los ganadores de cupones tenían
menos probabilidad de estar en estos tipos de relaciones a la edad de 15
o 16 años, especialmente entre las mujeres. Además encontramos que los
ganadores de cupones que llegaban a graduarse trabajaban menos horas en el
mercado laboral.
Hablé anteriormente sobre la información del ICFES y cómo pienso que están
en un nivel superior, pero algo que no dije era que aunque la información estaba
disponible, tuvimos algunos problemas. Muchos estudiantes que reportaron
CUARTA sesión
En esta parte es donde, desde mi punto de vista, están los resultados más
interesantes.
Así que, sabemos que los ganadores de cupón tienen más probabilidad de
tomar el examen; además sabemos que hay algunos ganadores de cupones
que no hubieran tomado el examen sin el cupón, pero lo hicieron y tienen
probabilidad de obtener resultados bajos. Por esto, cuando se le da una primera
mirada a los resultados, el promedio de los resultados de los ganadores de
cupones deben ser sesgados de forma descendente por estos estudiantes.
.1
.075
Voucher 201
.05 Winners
0
25 35 45 55 65
score
Fuente: ICFES
CUARTA sesión
.1
.075
.05
.025
0
25 35 45 55 65
score
Fuente: ICFES
Ahora, esto es como US$43 al año en total, y si se multiplica esto por tres años
se llega a US$129. Pero nosotros tomamos un estimativo más conservador,
considerando que muchos de los estudiantes dejaron de usar el cupón para
que nuestros números hubieran sido menores; así que usamos US$195 como
nuestro estimativo. Ese era el costo por estudiante después de tres años, y
después de tres años más los estudiantes en el programa hubieran completado
más escolaridad. De esta manera, tomando algunas regresiones de un salario
simple buscando cuál podría ser el efecto de un año de escolaridad adicional,
se pudo determinar que un año adicional de escolaridad para el alumno
204 representan un incremento anual en su salario cercano a US$300 durante
el resto de su vida. Así que, después de tres años del programa el costo era
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
• Conclusiones
Por eso, esta es una de las precauciones en las que debemos pensar. Muchas
veces, hay programas que tienen un efecto en el corto plazo, pero si les
damos la oportunidad de demostrar los efectos que pueden tener en el largo
plazo, podríamos demostrar que ambas son costo efectivas y efectivas en
términos de resultados a futuro. El caso de PACES es uno de esos programas
que siendo muy efectivo fue cancelado debido a la falta de información y a la
recolección de información a destiempo.
205
Alberto Abadie∗
E s un placer ver una sala tan llena de gente interesada en estos temas de
evaluación de programas públicos. Antes de empezar quiero señalar
algunas ideas de las dos presentaciones anteriores .
74
que sobre Empleo en Acción, no porque sea menos interesante, sino porque
tengo menos información sobre esta población. Así que lo que voy a hacer en
esta presentación es simplemente describir de forma muy breve el contenido
de la evaluación, los resultados, y tras ello hacer unos breves comentarios y
sugerencias.
• Familias en Acción
• Comentarios
Todo o casi todo lo que podemos ver en esta evaluación es positivo, significativo
y de una magnitud importante. Decía Orazio Atanasio que los efectos estimados
sobre consumo que son de un 15%, no son sorprendentes, pero creo que él
ha sido demasiado humilde en esa aseveración; sabemos que muchas veces
todo lo que puede ir mal va mal, y que muchas veces hay transferencias de
207
recursos. Así que creo que si son muy buenas noticias que haya un efecto
• Hogares Comunitarios
Como hemos visto, también los resultados de esta evaluación son bastante
208 positivos y amplios, y si existe este tipo de contaminación, ésta quizás tendería
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
a inflar un poco los resultados. Por esto sería conveniente llevar a cabo otro
tipo de análisis para ver si los resultados son robustos. Aunque no conozco la
encuesta, en este seminario se ha dicho que su calidad es muy alta. Entonces,
no se hasta que punto se podría pensar que la calidad de los datos es tan buena
que podríamos llevar a cabo un análisis de matching, para intentar validar el
análisis de variables instrumentales.
• Empleo en Acción
se pretende implementar una evaluación aleatoria pero las cosas van mal,
hay dificultades en la implementación, y al final la asignación al programa no
es aleatoria, al menos no en todos los casos. Otra contrariedad, es que en
ciertos casos la encuesta de línea de base se produce después de iniciadas las
obras, así que algunas de las variables medidas en ese momento pueden estar
afectadas por el programa. La técnica de evaluación combina diferencias en
diferencias y variables instrumentales, lo cual es similar a lo que se ha hecho en
Familias en Acción, donde se combina diferencias en diferencias con métodos
de matching.
• Resultados
• Comentarios
76
Job Training Partnership Act (Acta de Co-participación en Capacitación Laboral).
CUARTA sesión
(1 – P) B P (1 – B)
K=1-
Pr (B = 1 | X) PrPr(B(B==0 0| X)
| X)
Esto nos va a permitir estimar un efecto medio del tratamiento, para aquellos 211
individuos que están afectados por la existencia del programa, y va a permitir
Quiero concluir con algo que voy a llamar ‘evaluación de impacto de las
evaluaciones de impacto’. Creo que en el futuro esto va a ser un campo
bastante interesante. Porque nos dedicamos a producir evaluaciones, todos
en esta sala estamos bastante interesados en esto, pero otra cosa que nos
interesaría es que estas evaluaciones fueran influyentes. Es decir, primero
queremos que sean buenas, y luego que sean influyentes en la toma de
decisiones y en el diseño de la política pública. Hay ciertos investigadores
CUARTA sesión
que son bastante pesimistas en este sentido y la verdad es que tienen ciertas
razones para serlo. Por ejemplo, mi colega Lant Pritchett, piensa que el tema
de hacerle caso a las evaluaciones tiene más relación con juegos políticos, que
con cosas relevantes desde el punto de vista científico y desde el punto de
77
vista del bienestar social .
77
Referencia a Lant Pritchett.
CUARTA sesión
(1)Grupo de Diferencia
(2) Grupo de control
tratamiento 1-2
Adultos
Mujeres 13. 417 12. 241 1. 176***
Varones 19. 474 18. 496 978*
Jóvenes
Mujeres 10. 241 10. 106 135
Varones
15. 786 16. 375 -589
Sin historial de arresto
Valores en US$
*** Significativo al 1%
* Significativos al 10%
Fuente: JTPA (1994)
Fuente: JTPA
CUARTA sesión
• Conclusiones
Veamos por último cuales son las conclusiones según lo que he dicho. En
primer lugar, las estimaciones de corto plazo, tanto de Familias en Acción
como de Empleo en Acción, muestran unos resultados muy prometedores.
En algunos casos, para mi incluso, son sorprendentemente prometedores. Sin
embargo, debido a problemas en la implementación de los programas, como
hemos visto la evaluación no está exenta de dificultades.
214
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
CUARTA sesión
Evaluación de la calidad de la
educación básica en Colombia:
Pruebas Saber
Daniel Bogoya ∗
C omo puede verse en la Tabla 1, entre los años 1992 y 1994 se evaluaron
cerca de 70 mil estudiantes, mediante aplicaciones muestrales, en
las áreas de lenguaje y matemática. Después, entre los años 1997
y 1999, se realizaron por segunda vez estas pruebas en las mismas áreas a
una población un poco mayor. Se llegó a cerca de 200 mil estudiantes de los
grados 3º, 5º, 7º, y 9º.
Lo anterior hace parte de una estrategia de evaluación censal que se realizará 215
Competencias
5º 629.625
Ciudadanas
5º Lenguaje 22.224 48.418 672.829
5º Matemática 22.032 47.934 672.517
7º Lenguaje 12.845 48.888 111.578
7º Matemática 12.505 48.657 112.114
Competencias
9º 404.269
Ciudadanas
9º Lenguaje 14.013 45.981 357.895
9º Matemática 13.396 45.416 357.315
Totales 70.216 194.081 1.382.659 1.033.894
Fuente: ICFES
• De la nemotecnia a la competencia
definiciones. Este es un ejemplo de los ítems con los que se evaluaba por
aquel entonces:
A. 1605 y 1672.
B. 1605 y 1615. *
C. 1609 y 1611.
D. ninguna de las anteriores.
• ¿Qué se evalúa?
promedio en lenguaje para 5º contra PIB per Cápita. Debo aclarar que en el
eje horizontal hemos usado como tope 7 millones de pesos por persona al
año. Hemos cortado en esa cifra, omitiendo el caso de Casanare, que está
alrededor de 20 millones de pesos por persona año. Es un caso fuera de curva
que tal vez permite ilustrar alguna hipótesis.
CUARTA sesión
BOGOTÁ
63
61
Promedio
CALDAS SANTANDER
59 BOYACÁ
QUINDÍO COLOMBIA ANTIOQUIA
RISARALDA META
N. DE PUTUMAYO CUNDINAMARCA
NARIÑO SANTANDER CAQUETÁ HUILA VALLE
57 VICHADA
CAUCA
TOLIMA
MAGDALENA LA GUAJIRA ARAUCA
SUCRE CESAR
CÓRDOBA ATLÁNTICO SAN ANDRÉS
GUAVIARE
55 GUAINÍA BOLIVAR
AMAZONAS VAUPÉS
CHOCÓ
53
1 2 3 4 5 6 7
PIB/Cápita(millones de pesos)
Fuente: ICFES
Con frecuencia, una lectura que se hace de esta información es la que sigue.
Se traza una línea de tendencia, como se ve en el Gráfico 1, y luego se dice:
“los que están debajo de la línea (Vaupés o Atlántico, por ejemplo), tendrían
que acercarse a la media”. Primer gran sofisma: cuando los de debajo de la
línea se acerquen a ella, irremediablemente otros ocuparán este lugar y serán
ahora los que queden en la parte más baja, y de manera recurrente siempre 219
Otra posible lectura de los datos del Gráfico 1 (que coloca en evidencia el
segundo sofisma), se logra si nos detenemos en la diferenciación entre Norte de
Santander y Valle. Ambos departamentos tienen aproximadamente el mismo
promedio en el desempeño; sin embargo, Valle posee aproximadamente el
doble del PIB per cápita de Norte de Santander. En este caso, podríamos más
bien reclamarle a Norte de Santander que con ese saber que tiene, produzca
CUARTA sesión
lo que produce Valle, es decir, que salga de la zona alta y se ubique debajo
de la línea de tendencia. El dilema entonces es: con un determinado saber
deben producirse más recursos o con una determinada cantidad de recursos
debemos alcanzar más saber. En el primer caso, conviene localizarnos en la
zona baja del gráfico; en el segundo caso, sería mejor quedarnos en la zona
alta.
BOGOTÁ
63
61
220
CALDAS SANTANDER
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
Promedio
59 BOYACÁ
QUINDÍO
COLOMBIA
RISARALDA ANTIOQUIA
META CUNDINAMARCA
CAQUETÁ PUTUMAYO NARIÑO
NTE.SANTANDER HUILA
57 VALLETOLIMA CAUCA VICHADA
ARAUCA
MAGDALENA LA GUAJIRA
CESAR
ATLÁNTICO CASANARE
SUCRE SAN ANDRÉS
CÓRDOBA
GUAVIARE BOLIVAR
55 GUAINÍA VAUPÉS
AMAZONAS
CHOCÓ
53
10 30 50 70 90 110 130 150 170 190
BOGOTÁ
63
61
Promedio
CALDAS SANTANDER
59 QUINDÍO RISARALDA
ANTIOQUIA META COLOMBIA BOYACÁ
PUTUMAYO CAQUETÁ NTE. CUNDINAMARCA
HUILA SANTANDER NARIÑO
57 VICHADA
VALLE
TOLIMA CAUCA 221
MAGDALENA
ARAUCA LA GUAJIRA
CHOCÓ
53
5,0 5,5 6,0 6,5 7,0 7,5 8,0
Desviación estándar
Fuente: ICFES
4,0% Noveno
Quinto
36,2%
73,3% F
Crítica
93,6% 52,5% E
Inter - Textual
84,5% D
Inferencial
91,9% C
Significado básico del texto
B
Superficial y fragmentada
Fuente: ICFES
VAUPÉS
30
CHOCÓ ANTIOQUIA
25
SAN ANDRÉS
ATLÁNTICO
20 GUAVIARE
BOLIVAR TOLIMA BOGOTÁ
MAGDALENA HUILA LA GUAJIRA
CÓRDOBA
COLOMBIA
ARAUCA
VICHADA CESAR VALLE
15
SUCRE CAUCA N. DE SANTANDER
CALDAS META
RISARALDA
NARIÑO
QUINDÍO
GUAINÍA
10 BOYACÁ SANTANDER
CUNDINAMARCA
AMAZONAS
1 2 3 4 5 6 7
para ser fuente de información, pero no podríamos decir que este avance se
debe solamente a su uso.
CUARTA sesión
VAUPÉS
30
CHOCÓ
25 ANTIOQUIA
SAN ANDRÉS
ATLÁNTICO
20 TOLIMA CASANARE
GUAVIARE HUILA BOGOTÁ
MAGDALENA LA GUAJIRA BOLIVAR
CÓRDOBA
ARAUCA COLOMBIA
15 N. SANTANDER CESAR
VALLE CAUCA
VICHADA
META SUCRE
CALDAS QUINDÍO
NARIÑO
RISARALDA
GUAINÍA SANTANDER BOYACÁ
10
CUNDINAMARCA
AMAZONAS
5
10 30 50 70 90 110 130 150 170
78
• TIMMS 2007. Colombia participó por primera vez en 1999.
79
• SERCE 2006. Colombia participó en el primer estudio, en 1997.
80
• PIRLS , en 2001.
81
• EIC , en 2001.
82
• PISA , por primera vez en 2006.
• Prospectiva
78
Estudio de Tendencias Internacionales en Matemáticas y Ciencias, TIMSS (Trends in International
Mathematics and Science Study), de la Asociación Internacional para la Evaluación del Logro de la
Educación, IEA (International Association for the Evaluation of Educational Achievement).
79
Segundo Estudio Regional Comparativo y Explicativo, SERCE, del Laboratorio Latinoamericano de
Evaluación de la Calidad de la Educación, LLECE (UNESCO).
80
Estudio del Progreso Internacional en Competencia Lectora, PIRLS (Progress in International
Reading Literacy Study), de la IEA.
81
Estudio Internacional de Educación Cívica, EIC (Civic Education Study, CIVED), de la IEA.
82
Proyecto Internacional para la Producción de Indicadores de Rendimiento de los Alumnos, PISA
(Programme for International Student Assessment), de la OECD.
CUARTA sesión
Jaime Tenjo∗
momento, pues obviamente hay algunos avances muy grandes. Por ejemplo,
se ha definido con mucha más claridad cuáles son los objetivos, cuáles son
los propósitos, y qué es lo que se busca con esas evaluaciones; además, se
han ajustado mucho mejor a los procesos pedagógicos y educativos. En ese
sentido, lo que tenemos es un mejor instrumento para medir lo que nosotros
llamamos el desempeño de los estudiantes, en una serie de áreas.
Lo que yo creo que nos falta hacer todavía, es observar con detenimiento algo
que no se ha mirado con la suficiente profundidad. Me refiero a preguntarse:
¿de qué depende ese desempeño que estamos midiendo? Tenemos una
medida de desempeño imperfecta, porque en estos campos todo va a ser
imperfecto, pero yo creo que todavía estamos muy “en los pañales”, como
se dice vulgarmente. Esto, en términos de contestar la pregunta: ¿de qué
depende que unos estudiantes, que unos colegios, o que unos departamentos
presenten resultados de desempeño más altos que otros?
Creo que la anterior presentación ilustró muy bien ese punto. Es decir, se
encuentran por ejemplo que hay unos departamentos que están por debajo
de la línea de tendencia y otros que están por encima de ella. ¿El objetivo es
subir hacia la línea de tendencia los que están por debajo? o ¿no?, ¿que nos
quiere decir esta línea de tendencia? Por ejemplo, en el caso que se refería
a los resultados en las pruebas contra PIB per cápita, uno se pregunta: ¿hay
o no hay una relación entre esas dos cosas? Entonces, cuando uno mira los
resultados, encuentra que si hay diferencias muy grandes entre colegios, entre
niños, entre personas, entre departamentos, y no es claro a que se deben esas
diferencias. Entiendo que el Ministerio de Educación en alguna época intento
228 hacer algunas investigaciones para tratar de explicar esos resultados, aunque
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
229
La agenda futura
Alejandro Gaviria∗
B uenas tardes para todos. Voy a hacer una presentación muy concreta
tratando de responder una sola pregunta: si uno quisiera fijar una
agenda de evaluación con cuatro o cinco programas que representan
la prioridad de lo que tenemos que evaluar, ¿cuáles serían estos programas?
Evaluación e inflexibilidades
Para empezar quiero retomar un punto que creo estuvo en la discusión del
85
día de ayer y con el cual terminó Carlos Medina hace unos minutos. Se trata
de la discusión sobre qué es evaluable y qué no es evaluable. Uno aquí podría
básicamente tener dos visiones extremas:
Por otro lado, cuando nos metemos en temas más puntuales creo que los
argumentos del tipo que hacia ayer Juan Carlos Echeverry no son ya validos.
Esto porque uno no puede decir que todo lo que está en la Ley es irreversible,
y que la evaluación solo sirve para que los hacedores de políticas puedan
tomar unas decisiones dado el poco margen de discriminación que tienen.
Creo que la evaluación también sirve para que quienes hacen las leyes puedan
232 de alguna manera desmontar esas inflexibilidades y movernos hacia delante.
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
Sin embargo, en algunos temas, digamos los metatemas del país, yo creo
que no podemos caer en una ingenuidad tecnocrática como la definía Carlos
Medina. Esta es pensar que vamos a tomar esas decisiones simplemente
haciendo evaluaciones o comparando tasas sociales de retorno.
• Educación pública
El director del ICFES nos contaba un poco lo que tienen y como están haciendo
sus pruebas censales87, pero yo creo que allí falta algo. Una cosa es hacer
las pruebas y otra cosa es construir lo que se llama un sistema de rendición
de cuentas, lo que en Estados Unidos se denomina como un ‘accountability
system’. Este se trata de cómo vamos a presentar estos resultados a la
comunidad de padres de familia para que tomen decisiones, y cómo se los
vamos a presentar a la comunidad académica y de docentes para que les
permitan hacer sus planes de mejoramiento. Yo creo que en esto todavía falta
avanzar. ¿Qué vamos a hacer con estos resultados sobre todo en lo primero?
Se tendría que empezar a ver como estimar el valor agregado por institución
por ejemplo. Entonces yo creo que ahí hay un punto importante sobre como
utilizar los resultados de la evaluación en educación.
Sobre el sector urbano, el país tiene que empezar a ver el tema de competencia.
Hay una discusión política complicada aquí en Bogotá con los Colegios en
Concesión. La competencia entre colegios públicos y colegios privados, y
entre ellos mismos, no se reduce a ese tema. Yo creo que la pregunta sobre
cómo la competencia influye sobre la calidad de la educación, tiene que estar
también en la agenda de evaluación. En el sector rural, aunque existen algunos
estudios, estos programas de aprendizaje como Escuela Nueva y el SAT88 se
han evaluado de manera muy rudimentaria, con evidencia casi anecdótica.
Creo entonces que ahí también hay un tema importante para la agenda de
evaluación.
• Salud
87
Ver: Evaluación de la calidad de la educación básica en Colombia: Pruebas Saber, José Daniel
Bogoya
(Director ICFES), pág. ##.
88
Sistema de Aprendizaje Tutorial (SAT).
QUINTA sesión
avanzar muy rápidamente, talvez no hacia tener una evaluación perfecta pero
sí hacia tener unos resultados bastante confiables. Tenemos en particular la
Encuesta de Calidad de Vida del año 2003 que tiene algunas cosas importantes,
y sobre la cual les voy a mostrar algunos datos. Además tenemos la misma
encuesta de Familias en Acción que nos permite también decir algo sobre el
impacto y talvez sobre el costo-beneficio del Régimen Subsidiado de Salud.
En la siguiente tabla (ver Tabla 1), presento unos datos simplemente para
contribuir un poco en este debate, el cual ha sido un debate público importante
que se ha ido desviando en este país.
Dinero gastado en
$ 176.123 $ 146.028
hospitalización
Fuente: Autor
234
Cuando uno se encuentra ante el defensor del Régimen Subsidiado este
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
señala los primeros cuatro puntos en la tabla. Nos dicen como el régimen
subsidiado aumenta la frecuencia en el uso del servicio; ustedes pueden ver
que las personas denominadas vinculados, que son los que no están afiliados
al Régimen Subsidiado, cuando se enferman acuden con menos probabilidad
al médico. Se puede ver también que tienen una probabilidad mayor quienes
no están afiliados de no acudir al médico porque les hace falta dinero; así lo
muestran las encuestas, los vinculados pagan más y este tipo de cosas. Pero
allí se queda el análisis. Básicamente se dice: “esto demuestra que el sistema
es muy equitativo desde un punto de vista financiero”, y esto simplemente es
lo que se aduce en defensa del Régimen Subsidiado, pero yo creo que falta
completar la cadena causal y falta ir un poco más allá. Abajo de la línea por
ejemplo, vemos que en términos de calidad percibida quienes están afiliados
QUINTA sesión
Entre estas cosas que se pueden hacer con los datos que tenemos, se
encuentra un trabajo que está empezando Planeación Nacional y que es muy
bonito. Se está georeferenciando la Encuesta de Calidad de Vida (ver Figura
1). Los puntos negros que ustedes ven allí son las manzanas donde viven los
diferentes hogares que fueron encuestados.
Figura 1 • ENCV
Hogares encuestados
235
Figura 2 • ENCV
Hogares encuestados
236
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
• Ranking
Para continuar con el tema de lo que debemos evaluar, recuerdan que lo que
prometí fue construir un ranking:
2) Adulto Mayor;
3) Cuentas AFC.
En primer lugar está el Régimen Subsidiado, y en segundo lugar creo que estaría el
programa de Adulto Mayor. Este es simplemente lo que se financia con la Subcuenta
de Subsistencia del Fondo de Solidaridad Pensional, donde también hay
recursos significativos. Creo además que este va a ser un programa importante
en el futuro por razones demográficas y va tener que expandirse, por lo cual
considero que ahí también tenemos que poner la atención.
• Puntos finales
Quiero terminar con dos puntos. El primero de los dos remite al nombre del
seminario ¿por qué evaluar el gasto público? y yo creo que no solo debemos
enfocarnos en evaluar el gasto público, sino en evaluar también ciertos cambios
normativos. Les doy un ejemplo con la Ley 789 de 200290, la cual tiene al final
237
un artículo que dice que esta norma se va a evaluar dos años después de entrar
creo que deberíamos dar un debate sobre si este tipo de cambios normativos
deben incluir un artículo que haga obligatoria su evaluación y determine que la
vigencia de las mismas normas dependa de esas evaluaciones, porque yo creo
que se puede dar esta especie de ‘trade off’.
238
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
91
Ver: Evaluación de Familias en Acción y Hogares Comunitarios, Orazio Attanasio (Instituto de
Estudios Fiscales, Londres)
QUINTA sesión
Beatriz Londoño∗
De igual manera, valdría la pena revisar el gran énfasis que se ha hecho sobre
los montos; se habla del Régimen Subsidiado con $2,5 billones, el Sistema
General de Participaciones, etc. Creo que también hay programas que puede
que no tengan unos montos importantes, pero que pueden ser estratégicos
y que ameritan evaluaciones de impacto. Entonces sobre estas mismas
evaluaciones habría que revisar también para establecer las prioridades.
En el caso particular del sector social, hay que buscar una mejor comprensión, 239
necesitamos profundizar mediante estudios empíricos para conocer como
Otro punto que también creo que vale la pena discutir es el siguiente. Si todos
estamos de acuerdo en que la información enriquece la práctica, apoya el
monitoreo, y soporta las evaluaciones de impacto, entonces ¿qué tan factible
es buscar el mínimo de información pertinente y relevante para que los costos
de transacción no se eleven indebidamente?
93
Ver: Evaluación de Familias en Acción y Hogares Comunitarios, Orazio Attanasio (Instituto de
Estudios Fiscales, Londres).
QUINTA sesión
Por otro lado, se ha hablado del Sistema General de Participaciones pero las
rentas de libre destinación nadie las ha mencionado. Estas son precisamente
donde más desperdicio o desviación puede existir, porque son menos
vigiladas y hay mayor autonomía por parte de las alcaldías o de las personas
responsables del gasto.
Un último punto pertinente para el ICBF. Tenemos un país violento, con altas
tasas de homicidios y altos niveles de delincuencia. Sin embargo, nosotros
responsables por el tema de los menores de edad en la tensión resocializadora,
vemos que la reincidencia en menores infractores de la ley penal no ha sido
medida nunca. Cuando pasan a la mayoría de edad, se pasa de ser menor
infractor a los 17 años a ser delincuente a los 18 años. Es particular el hecho
de que teniendo nosotros la información, no podamos hacer ningún cruce con 243
Ayer se mencionaba de igual manera que el gasto público debería ser, como
lo concluía Mauricio Cárdenas de manera muy fuerte y muy categórica, un
instrumento de estabilización versus un instrumento de desarrollo social. Yo
creo que debe cumplir ambas finalidades y buscar el equilibrio entre estos
dos postulados de los científicos sociales por un lado y los economistas por
el otro. Esto sería sin duda un buen desafió para este país donde es necesario
ajustar esa brecha.
QUINTA sesión
Por último quiero decirles que en salud el énfasis se está haciendo demasiado
sobre la operación del sistema y sobre los costos. Se debe evaluar la ganancia
en términos de esperanza de vida. En eso hay bastante acuerdo, por lo menos
los ingleses a principio de los años 90 impulsaron muy fuertemente este tema.
Se debe evaluar la calidad de vida que se gana en función de la intervención en
salud específica. Además, se debe observar la calidad percibida y también la
calidad objetivamente medida.
244
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL
QUINTA sesión
Restricciones institucionales a la
evaluación del gasto público social en
Colombia
Carlos Medina∗
Q uiero agradecer este espacio para exponer unas ideas muy sencillas
sobre algunas restricciones institucionales a las evaluaciones del
gasto público, y quiero aclarar que esto es un ejercicio preliminar y
está lejos de ser exhaustivo.
En primer lugar les quiero contar por qué es importante evaluar el gasto
público. Se planteará la importancia de evaluar algunos programas o políticas
específicas, y después se enfocarán las razones por las cuales no se evalúan
algunos de éstos. Es claro que en este seminario se ha dicho muchas veces
que el gasto público social en Colombia es de una magnitud muy alta,
aproximadamente un 40% del Presupuesto General de la Nación, y que
no llega ni a la mitad lo que se está evaluado rigurosamente. Entonces cabe
preguntar: ¿qué estamos esperando para hacer las evaluaciones que todos
venimos diciendo repetitivamente que hay que hacer? Además, es importante
mencionar las razones por las que sí se hicieron las evaluaciones que se
hicieron, qué hizo la diferencia para que estas se hicieran y cómo podemos
replicar esto en otros casos que requieren evaluación.
245
Vamos a revisar las razones que hacen necesario evaluar una serie de casos
específicos: descentralización, ICBF, SENA, Fondo de Solidaridad Pensional,
Red de Apoyo Social y Régimen Subsidiado de Salud. Es de anotar que
los recursos de inversión que representan estos programas sociales son
cuantiosos, pues superan los 21 billones, o 9% del PIB.
• Descentralización
• ICBF y Sena
Sin embargo, éste Programa le está representando al país unos costos 249
importantes. Éstas personas están en áreas rurales, y a diferencia del programa
Otra cosa que se pensó era que este régimen era muy viable financieramente.
Cuando se miraba el balance de los hospitales se decía: “si se le reduce la
transferencia a los hospitales y se le da al Régimen Subsidiado, los hospitales
van a conservar su equilibrio financiero, dado que los beneficiarios del Régimen
Subsidiado van a volver a los hospitales y el hospital va a recoger otra vez los
recursos de transferencias vía venta de servicios”.
El anterior era el modelo teórico, el cual se veía perfecto; sin embargo ¿qué
pasó? No siempre los beneficiarios del Régimen Subsidiado volvían a los
hospitales públicos, por lo cual no siempre los hospitales recuperaban los
recursos de transferencias vía venta de servicios, y entonces la transformación
QUINTA sesión
• Descentralización
no se conoce. Este tema técnico es un ‘cuello botella’ que tiene también unos
orígenes institucionales. Si se tuviera un censo actualizado y otra información
probablemente ya habría algunas evaluaciones. Pero definitivamente, a pesar
de que haya voluntad desde muchos focos de hacer unas evaluaciones,
tenemos una alta carencia de la información necesaria.
• ICBF y SENA
En los casos del ICBF y el SENA yo diría que el grueso de las restricciones es
de tipo político. La primera de ellas se refiere al ‘trade-off’ entre cobertura
y eficiencia del gasto. Tenemos unos recursos muy escasos, unas metas muy
ambiciosas y una cobertura muy baja. Entonces siempre se está pensando:
“nos gastamos un millón de dólares en evaluación, o cubrimos más niños”.
No es tan fácil, políticamente, decir: “quitemos el cupo a los niños que
representan un millón de dólares para hacer una evaluación y después gastar
mejor la plata”.
Por otro lado, las evaluaciones requieren procesos complejos. Si por ejemplo
se fuera a evaluar Hogares Comunitarios esto tomaría tres o cuatro años.
Entonces, aún si el Gobierno quiere evaluar desde el principio de su mandato
y mostrar resultados al final, podría no tener el tiempo suficiente. ¿Qué es lo
que se quiere cuando se entra al Gobierno? Se quiere hacer una evaluación en
un año y decir los resultados, porque en buena parte estos son del Gobierno
anterior. Pero si la evaluación dura cuatro años, se está evaluando uno mismo,
entonces políticamente eso ningún gobierno lo quiere hacer. De modo que el
hecho de que técnicamente no se pueda contar con una adecuada evaluación
en poco tiempo, hace inviable políticamente la realización de la misma.
la población que había sido vulnerada con la crisis. Se dijo: “bueno, tratemos
de ver qué va a pasar con estos recursos que son importantes”. Cuando se
concibieron estos programas, había una expectativa de se iban a implementar
relativamente rápido. Se pensaba que en un año se iban a estar implementando,
y lo que resultó fue muy distinto. Se necesitaban para 1999, pero en realidad se
implementaron cerca de un año y medio más tarde. Entonces, inicialmente se
pensaba: “Se evalúan, y si lo hacemos rápido vamos a tener algo políticamente
muy bueno para mostrar”. Esto porque la posibilidad de que el impacto fuera
importante, en medio de la crisis, era muy alta. Es decir, con unas necesidades
muy altas, con una población en grandes necesidades, cualquier transferencia
de cualquier programa es muy probable que sea susceptible de tener unos
impactos interesantes.
QUINTA sesión
Si vamos más allá y suponemos que superamos las restricciones y hacemos las
evaluaciones, entonces la pregunta es: ¿sí son relevantes estas evaluaciones? Esto
depende entonces de si es reversible el gasto. Si con el gasto políticamente no
hay nada que hacer, entonces las evaluaciones son poco más que documentos
académicos para anaquelar y no nos van a servir para mucho más.
Reversibilidad
Concepto $ Miles de
% Política Técnica
Millones
Transferencias a las E.T.:
• Conclusiones
258
¿Por qué Evaluar el Gasto Público?
SEMINARIO INTERNACIONAL