Vous êtes sur la page 1sur 28

Red de Revistas Cientficas de Amrica Latina, el Caribe, Espaa y Portugal

Sistema de Informacin Cientfica

Cardozo Brum, Myriam


De la evaluacin a la reformulacin de polticas pblicas
Poltica y Cultura, nm. 40, 2013, pp. 123-149
Universidad Autnoma Metropolitana Unidad Xochimilco
Distrito Federal, Mxico
Disponible en: http://www.redalyc.org/articulo.oa?id=26728947007

Poltica y Cultura,
ISSN (Versin impresa): 0188-7742
politicaycultura@gmail.com
Universidad Autnoma Metropolitana Unidad
Xochimilco
Mxico

Cmo citar?

Nmero completo

Ms informacin del artculo

Pgina de la revista

www.redalyc.org
Proyecto acadmico sin fines de lucro, desarrollado bajo la iniciativa de acceso abierto

De la evaluacin a la reformulacin
de polticas pblicas
Myriam Cardozo Brum*
Resumen
Mucho se ha escrito sobre las etapas que conforman el proceso de las polticas
pblicas y la relevancia de la evaluacin en el neoliberalismo, pero cmo se produce
la retroalimentacin entre la evaluacin del final de un ciclo y la reformulacin del
siguiente? El presente artculo tiene por objetivo analizar este proceso, para lo cual se
utiliza un anlisis comparativo basado fundamentalmente en informacin documental.
Para el caso del desarrollo social nacional se confirma la situacin registrada en otros
pases, consistente en una limitada utilizacin de los resultados de las evaluaciones,
y se analizan algunas explicaciones posibles.
Palabras-clave: evaluacin, reformulacin, polticas pblicas, desarrollo social,
Mxico.
Abstrac
There is a considerable amount of literature regarding the phases of development
of public policies and the relevance of evaluation in Neoliberalism. But there is not
very much concerning how the feedback between the evaluation of the end of a
cycle and the formulation of the next one is produced. The objective of this paper
is to analyse this process. The study is based mainly a on comparative analysis of
published information. We confirm that national social development is following the
trend presented in other countries, where the results of evaluations are only utilized
to a limited extent. We analyse possible explanations for this situation.
Key words: evaluation, formulation, public policies, social development, Mexico.
Artculo recibido el 21-09-12
Artculo aceptado el 25-09-13

* Profesora-investigadora, Departamento de Poltica y Cultura, UAM-Xochimilco, Mxico


[mcardozo@correo.xoc.uam.mx].

124

Myriam Cardozo Brum

introduccin

l ciclo terico de las polticas y programas pblicos


identifica el desarrollo de tres etapas fundamentales
formulacin, implementacin y evaluacin despus de las cuales se reinicia
un nuevo proceso, donde la formulacin es retroalimentada con los resultados
de la evaluacin (reformulacin).
Mucho se ha escrito sobre estas etapas, particularmente en aos recientes,
sobre los importantes esfuerzos nacionales y subnacionales realizados en
Amrica Latina, y Mxico en particular, para la institucionalizacin de la
evaluacin impulsada por la Nueva Gerencia Pblica (NGP) en el contexto del
neoliberalismo, aunque an no se puede considerar plenamente cumplida
la tarea, en especial si lo que se quiere es evaluar las polticas, no slo los
programas pblicos.1
Pero no basta con disponer de buenas evaluaciones, se necesita que
stas sean tomadas en cuenta por las instancias evaluadas y por los rganos
responsables de realizar la asignacin de presupuestos, cuestin que diversas
metaevaluaciones realizadas en contextos nacionales distintos del nuestro han
mostrado que presenta fuertes limitaciones.2
1
Vanse, entre otros: Ernesto Cohen, Reforma del Estado, modernizacin administrativa
y evaluacin del desempeo de la gestin, en Los desafos de la reforma del Estado en
los programas sociales: tres estudios de caso, Serie Polticas Sociales nm. 45, Chile, CEPAL,
2001; Sonia Ospina, Evaluacin de la gestin pblica: conceptos y aplicaciones en el caso
latinoamericano, Revista Reforma y Democracia, nm. 19, Venezuela, CLAD, 2001; Nuria Cunill
y Sonia Ospina, Evaluacin de resultados para la gestin pblica moderna y democrtica:
experiencias latinoamericanas, Venezuela, CLAD/AECI/MAP/FIIAPP, 2003, y Fortalecimiento de
los sistemas de monitoreo y evaluacin en Amrica Latina, Proyecto CLAD, Banco Mundial, 2008;
Ariel Zaltsman, La evaluacin de resultados en el sector pblico argentino: un anlisis a la luz
de otras experiencias en Amrica Latina, Reforma y Democracia, Revista del CLAD, nm. 29,
junio, 2004; Edgardo Mosqueira, De la evaluacin por productos a la evaluacin por resultados
e impactos: anlisis de las experiencias recogidas del proyecto de modernizacin del Estado
argentino, Reforma y Democracia, Revista del CLAD, nm. 38, Venezuela, CLAD, 2007; Myriam
Cardozo, La evaluacin de polticas y programas pblicos. El caso de los programas de desarrollo
social en Mxico, Coleccin Conocer para Decidir, Mxico, Cmara de Diputados/Miguel ngel
Porra, 2006, Evaluacin y metaevaluacin en las polticas y programas pblicos. El estado
del arte, Mxico, UAM-Xochimilco, 2012a y Sistematizacin de la experiencia de evaluacin
de Evala DF en 2008. Metaevaluacin y autoanlisis, Mxico, UAM-Xochimilco/Evala DF,
2012b; Sara Ochoa, Perspectiva sobre la evaluacin y gestin pblica, Reporte CESOP, nm.
9, LX Legislatura, Mxico, Cmara de Diputados, 2007.
2
Al respecto vanse M. Franois Lacasse, Gestion et masculation des valuations: le
cas de Canada, Revue Franaise dAdministration Publique, nm. 66, Francia, 1993; Ester
Garca Snchez, Metaevaluacin de polticas pblicas: una visin desde la ciencia poltica,

Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

De la evaluacin a la reformulacin de polticas pblicas

125

En Mxico no se han realizado trabajos de investigacin sobre el tema, por


lo que para conocer la situacin y mejorar la incidencia de las evaluaciones
en el campo del desarrollo social, el presente artculo se propone encontrar
respuestas a las siguientes preguntas: cmo se produce la retroalimentacin
entre el final de un ciclo y el inicio del siguiente?, o sea, qu aporta la
evaluacin a la reformulacin?; en particular, cmo asegurarse de la factibilidad
y calidad de las recomendaciones emitidas por los evaluadores?, cmo incidir
en una asignacin de recursos que tome en cuenta los resultados obtenidos?,
qu procedimientos aplicar para que las recomendaciones pertinentes sean
consideradas en la reformulacin de polticas?, cmo medir el impacto
logrado con esta ltima?

marco de referencia

Principales conceptos
Las polticas pblicas constituyen respuestas diseadas y aplicadas, a travs de
procesos polticos y tcnicos, para resolver problemas que, por su relevancia
para importantes sectores de la sociedad, no son factibles de enfrentarse
eficazmente desde el mbito privado. Ellas surgen como resultado de:
[...] un proceso de sucesivas tomas de posicin, que se concretan en un conjunto de
decisiones, acciones u omisiones, asumidas fundamentalmente por los gobiernos,
que traducen, en un lugar y periodo determinado, la respuesta preponderante
del mismo frente a los problemas pblicos vividos por la sociedad civil.3

Revista Reforma y Democracia, nm. 43.Venezuela, CLAD, 2003; Mara Bustelo, La evaluacin
de polticas pblicas de igualdad de gnero en Espaa, Madrid, Catarata, 2004; Luis Fernando
Daz, y Rosay Rosales, Metaevaluacin: evaluacin de la evaluacin de polticas, programas
y proyectos sociales, San Jos de Costa Rica, Universidad Estatal a Distancia, 2003; Pierre
Lascoumes, Pratiques et modles de lvaluation y Usages et retombes de lvaluation,
en Marie Christine Kesller et al., Evaluation des politiques publiques, Pars: LHarmattan, 1998;
B. Lajoudie y J. Toulemonde, Mta-valuation, bilan des valuations ralises en Limousin
au cours de la priode 1994-1998, ponencia presentada a las Cuartas Jornadas de la Socit
Franaise dvaluation, Lille, France, 2002; Jos Mara Larr, Anlisis de los resultados y
metaevaluacin del sistema de evaluaciones de EuropeAid, Espaa, CECOD, 2003 [www.
cecod.net], fecha de consulta: 22 de junio de 2004.
3
La sntesis presentada (incluida en Myriam Cardozo, Evaluacin y metaevaluacin en las
polticas y programas pblicos..., op. cit., p. 24) retoma ampliamente elementos desarrollados
en los trabajos de Guillermo ODonnell y Oscar Oszlak, Estado y polticas estatales en Amrica
Latina: hacia una estrategia de investigacin, Argentina, CEDES, 1976; Oscar Oszlak, Polticas
Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

126

Myriam Cardozo Brum

En especial, las polticas sociales son un tipo particular de polticas pblicas


dirigidas a mejorar el bienestar social mediante estrategias de redistribucin
de la riqueza y del ingreso.4
El proceso de las polticas pblicas puede desagregarse para fines
analticos en etapas; actualmente existe bastante consenso en incluir al menos
las siguientes:
La formulacin (anlisis ex-ante, tomando como referencia la accin),
que se basa en un diagnstico y definicin del problema, para generar y
analizar sus alternativas de solucin; con la finalidad de seleccionar la que
se considere ms apropiada.
La implementacin, que debera corresponder a la puesta en prctica y
control de la formulacin anterior (en forma concomitante) mediante la
toma de decisiones operativas y acciones concretas destinadas a incidir en
el problema pblico original, pero que, en la prctica, puede distanciarse
de la etapa anterior.
La evaluacin (anlisis ex-post) consistente en una investigacin interdisciplinaria aplicada, realizada mediante la aplicacin de un mtodo
sistemtico, cuyo objetivo es conocer el proceso desarrollado, explicar sus
determinantes y condicionantes y calificar su grado de efectividad, as como
aportar elementos al proceso de toma de decisiones (reformulacin), que
permitan mejorar los efectos de la actividad evaluada y contribuyan a la
rendicin de cuentas y a la generacin de ciudadana.5
Los estudiosos de las polticas pblicas han atribuido una importancia
variable a la evaluacin en el tiempo y ha habido casos nacionales que
presentan avances desde hace ya un siglo, como Estados Unidos con su
experimentalismo pre-tayloriano en el campo educativo o Reino Unido en
materia de servicios pblicos. Su importancia se revitaliza durante la vigencia
del Estado de bienestar europeo y la Sociedad de las Reformas en Estados
Unidos, posteriores a la Segunda Guerra Mundial. En dcadas recientes, y
especialmente en Amrica Latina, adquiere un auge sin precedentes por el
impulso que le atribuye el enfoque neoliberal y las reformas promovidas por

pblicas y regmenes polticos: reflexiones a partir de algunas experiencias latinoamericanas,


Estudio CEDES, vol. 3, nm. 2, Argentina, 1980. Una descripcin detallada de lo que el concepto
puede abarcar puede consultarse en Joan Subirats, Anlisis de polticas pblicas y eficacia de
la administracin, Espaa, INAP, 1989.
4
Myriam Cardozo, La evaluacin de polticas y programas pblicos..., op. cit.
5
Idem.
Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

De la evaluacin a la reformulacin de polticas pblicas

127

la NGP, que han sido impulsados por la Organizacin para la Cooperacin


y el Desarrollo Econmicos, el Fondo Monetario Internacional y el Banco
Mundial,6 y tuvieron sus casos emblemticos en Nueva Zelanda, Reino Unido y
Australia. Este enfoque introduce cambios en la gestin presupuestal dirigidos
al control del gasto y al logro de resultados con eficacia, economa, eficiencia
y calidad; promueve la descentralizacin y la delegacin de facultades para
conducir la gestin pblica, pero la sujeta a la evaluacin de sus resultados.
Adicionalmente, otras organizaciones menos permeables a la NGP como la
Unin Europea tambin han impulsado la evaluacin de programas.7
La metaevaluacin, por su parte, analiza particularmente los informes
finales de las evaluaciones ya realizadas para valorar la calidad y el mrito
del trabajo de los evaluadores profesionales, con la intencin de contribuir
al perfeccionamiento del mismo. Pero tambin puede tomar en cuenta todos
los factores que la afectan, recuperando el contexto inmediato en que la
evaluacin se desarrolla.8 En particular, permite analizar la utilizacin de los
resultados de las evaluaciones para el rediseo de polticas y programas,
objetivo de nuestro trabajo.
Para lograr dicho objetivo se combinaron diversos mtodos: fundamentalmente el anlisis documental (informes de evaluacin y de seguimiento
de recomendaciones y gasto ejercido), que se complement con algunos
resultados de las entrevistas aplicadas en 2004 a informantes-clave (funcionarios, diputados, evaluadores y operadores de programas)9 y con un
intercambio reciente (2013) de informacin y comentarios con los funcionarios
de ms alto nivel de los Consejos que se encuentran funcionando,10 as como
observacin participante en calidad de evaluadora y de integrante de uno
de los Consejos.
De esta manera se describen y comparan los procesos seguidos por
ambos Consejos para valorar sus gestiones, exclusivamente en el tema que
nos ocupa y en funcin del criterio de efectividad, lo que permiti finalmente
identificar un problema compartido. Dicha comparacin implica revisar dos
instancias de evaluacin, que corresponden a distintos niveles de gobierno,

6
Inicialmente tambin por el Centro Latinoamericano de Administracin para el
Desarrollo.
7
Myriam Cardozo, Evaluacin y metaevaluacin en las polticas y programas..., op. cit.
8
Idem.
9
Myriam Cardozo, La evaluacin de polticas y programas pblicos..., op. cit.
10
Se aclara que, a pesar de que han existido intentos de institucionalizar otros Consejos
como el del Estado de Mxico o el de Puebla, a la fecha slo funciona Coneval a nivel federal
y Evala DF en la capital.

Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

128

Myriam Cardozo Brum

con ideologas partidistas y enfoques de evaluacin tambin diferentes.


Con el fin de identificar y analizar las similitudes y diferencias entre ellos
fue necesario definir un conjunto de categoras a comparar: sus procesos
de institucionalizacin, de valoracin de los resultados de los informes de
evaluacin y de preparacin de recomendaciones a los rganos evaluados,
as como el impacto de los anteriores en materia de asignacin de recursos
y utilizacin en la reformulacin de polticas y programas.

institucionalizacin de la evaluacin

Desde la dcada de 1980 el mundo ha visto crecer rpidamente los procesos


de implantacin de mecanismos de evaluacin, especialmente de programas
gubernamentales, y la creacin de rganos y sistemas especializados en
realizarla (Estados Unidos, Canad, Reino Unido, Francia, Colombia, Costa
Rica, etctera).11
En lo que va del nuevo siglo, la institucionalizacin formal de la evaluacin
ha avanzado en Mxico a nivel federal, respondiendo a las exigencias de
eficiencia y focalizacin de los programas sociales propias del neoliberalismo
y la NGP que empezaron a aplicarse durante las presidencias de De la Madrid y
Salinas, sin que an se haya podido generar plenamente una verdadera cultura
que la internalice a nivel sustantivo.12
Diferentes actores entrevistados en 200613 reconocieron como las principales
causas del limitado avance de la evaluacin en Mxico, las condiciones
culturales, sociales y polticas imperantes; en cambio, le otorgaron un peso
mucho menor a los problemas metodolgicos, algunos de los cuales continan
existiendo.
Para 2008, a pesar de los esfuerzos realizados por el recin creado organismo
pblico descentralizado, denominado Consejo Nacional de la Evaluacin de
la Poltica de Desarrollo Social (Coneval), previsto en los artculos 72 y 81 de la
Ley General de Desarrollo Social aprobada en 2003,14 los avances continuaban
siendo limitados: persiste la realizacin de evaluaciones ms como requisito

Myriam Cardozo, Evaluacin y metaevaluacin en las polticas y programas..., op. cit.


Myriam Cardozo, Evaluacin y metaevaluacin en los programas mexicanos de
desarrollo social, Coleccin Teora y Anlisis, Mxico, UAM-Xochimilco, 2009 y Evaluacin y
metaevaluacin en las polticas y programas..., op. cit.
13
Myriam Cardozo, La evaluacin de polticas y programas pblicos..., op. cit.
14
Ley General de Desarrollo Social [www.diputados.gob.mx/LeyesBiblio/pdf/264.pdf],
fecha de consulta: 14 de septiembre de 2013.
11

12

Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

De la evaluacin a la reformulacin de polticas pblicas

129

administrativo para la obtencin de presupuesto (riesgo de simulacin) que


como una actividad de aprendizaje y mejoramiento de la gestin.15
Por su parte, el Gobierno del Distrito Federal (GDF), que haba tratado de
aplicar una poltica tendiente a la universalizacin de los derechos sociales,
haba funcionado de manera inercial, sin organizar un sistema de evaluacin
que sustentara sus decisiones, hasta que en 2007, el jefe de gobierno cre por
decreto el Consejo de Evaluacin del Desarrollo Social (Evala DF), tambin
como un organismo pblico descentralizado, con autonoma tcnica, de
gestin y presupuestaria, a fin de transparentar los procesos y de facilitar el
cumplimiento de sus atribuciones en materia de evaluacin.
El artculo 42 de la Ley de Desarrollo Social del Distrito Federal establece
que la evaluacin externa de la poltica y los programas sociales es la que
realiza de manera exclusiva e independiente Evala DF, ya sea por cuenta
propia o a travs de terceros. Tambin que, como consecuencia de ella, este
Consejo puede emitir observaciones (no vinculatorias) y recomendaciones
(vinculatorias) dirigidas a reorientar y reforzar la poltica social. Si los rganos
evaluados no aceptan las recomendaciones se promueve una controversia ante
la Comisin Interinstitucional de Desarrollo Social, quien resuelve en forma
definitiva. En caso de aceptacin acompaada de su posterior incumplimiento,
Evala DF debe informar a la Contralora General, la que podr aplicar las
sanciones previstas por la Ley Federal de Responsabilidades Administrativas
de los Servidores Pblicos.16
El Coneval tiene la obligacin legal de evaluar anualmente la cobertura,
calidad e impacto17 de todos los programas de desarrollo social sujetos a
Reglas de Operacin (RO) que su inventario cuantifica actualmente en 273,18
lo que lo ha llevado a tener que aplicar, salvo excepciones, evaluaciones muy
simplificadas y estandarizadas, como por ejemplo, las denominadas evaluaciones
especficas de desempeo. El artculo 80 establece que el Coneval puede emitir
sugerencias y recomendaciones al Ejecutivo Federal como resultado de las

15
Myriam Cardozo, Evaluacin y metaevaluacin en los programas mexicanos de desarrollo
social, op. cit., p. 106.
16
Ley de Desarrollo Social para el Distrito Federal, publicada en la Gaceta Oficial del
Distrito Federal el 11 de febrero de 2009 [www.evalua.df.gob.mx], fecha de consulta: 17 de julio
de 2012. Ley Federal de Responsabilidades Administrativas de los Servidores Pblicos [www.
diputados.gob.mx/LeyesBiblio/pdf/240.pdf], fecha de consulta: 14 de septiembre de 2013. Una
revisin ms completa del marco jurdico se encuentra en Myriam Cardozo, Sistematizacin de
la experiencia de evaluacin de Evala DF en 2008. Metaevaluacin y autoanlisis, op. cit.
17
Ibid., artculos 74 y 78.
18
Vase [www.coneval.gob.mx/sipf], fecha de consulta: 4 de septiembre de 2012.

Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

130

Myriam Cardozo Brum

evaluaciones aplicadas; pero no prev que tengan carcter vinculatorio ni se


susciten controversias.19
En cambio, Evala DF tiene la libertad de decidir las polticas, los
programas o los servicios que evaluar, por lo que los ha seleccionado
con base en criterios, entre los que se incluye: el monto de los recursos
presupuestales erogados, la cobertura del programa, su relevancia para la
solucin de problemas sociales, su grado de maduracin, entre otros. En
2008, por ejemplo, cinco de los programas evaluados coincidieron con los
que insuman mayor presupuesto (Cuadro 1). En conjunto, en el primer
periodo de funcionamiento (2008-2012), Evala DF efectu trece evaluaciones
de diseo y operacin de programas sociales, siete evaluaciones de diseo
y operacin de polticas sociales, una evaluacin de procesos, resultados e
impacto de servicios pblicos, as como dos metaevaluaciones.
Cuadro 1
Programas evaluados por Evala DF
y presupuesto correspondiente, 2008
Presupuesto
(en orden decreciente)

Programas evaluados
Pensin Alimentaria para Adultos Mayores
Estmulos para el Bachillerato Universal, Prepa S
Vivienda en Conjunto
Mejoramiento de Vivienda
Apoyo Econmico a Personas con Discapacidad

4 340 689
1 207 500
997 500
974 935
732 135

091
000
000
111
672

Fuente: elaboracin propia con datos de Cardozo (2012b).

Ambos Consejos cumplen sus funciones de evaluacin mediante la


contratacin externa de equipos de evaluadores en casi todos los casos, para
lo que elaboran y publican convocatorias y trminos de referencia, adjudican
contratos, revisan informes y emiten dictmenes. Sin embargo, la forma en
que organizan sus trabajos y los enfoques terico-metodolgicos que asumen
presentan diferencias sustantivas (positivismo/constructivismo), propias del
contexto neoliberal federal en que se desarrollan sus polticas condicionadas
y focalizadas y de la postura alternativa de defensa de los derechos sociales
universales en el caso del Distrito Federal.20
Una exposicin ms amplia de su actual marco jurdico se encuentra en Myriam Cardozo,
Evaluacin y metaevaluacin en los programas mexicanos de desarrollo social, op. cit.
20
Myriam Cardozo, Organizacin y mtodos alternativos en la evaluacin de polticas y
programas sociales. La experiencia consolidada y la emergente en el caso de Mxico, Revista
Gestin y Anlisis de Polticas Pblicas, nm. 5, Espaa, INAP, 2011.
19

Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

De la evaluacin a la reformulacin de polticas pblicas

131

factibilidad y calidad de las recomendaciones

La revisin final de los informes que realizan ambos Consejos tiene por objetivo
valorar la calidad del trabajo realizado por los evaluadores (metaevaluacin)
en relacin con los cuatro elementos fundamentales que lo componen: datos,
interpretaciones, valoraciones y recomendaciones.21 Incluye, en consecuencia,
las fuentes de informacin empleadas, los mtodos de anlisis, la consistencia
de las argumentaciones, la fundamentacin de las conclusiones, su valoracin
global y, muy especialmente, las recomendaciones derivadas del proceso.
Una vez concluido el proceso de aprobacin de los informes de
evaluacin finales, el Coneval los enva a los rganos evaluados (al igual
que al Congreso de la Unin y a la Secretara de Desarrollo Social); recibe
la respuesta institucional, prepara los Aspectos Susceptibles de Mejora (ASM)
y firma el convenio para su instrumentacin. En el caso de las Evaluaciones
Especficas de Desempeo, tambin realiza reuniones de trabajo entre los
programas evaluados y los evaluadores con objeto de analizar la pertinencia
de las recomendaciones emitidas, mientras que en las de impacto promueve
la realizacin de mesas de trabajo con expertos, evaluados y coordinadores
de sector, para discutir la metodologa y los resultados.
Para Evala DF el carcter vinculatorio de sus recomendaciones lo obliga
a realizar un largo proceso que incluye el anlisis de la factibilidad de las
recomendaciones con base en otros estudios y documentos acadmicamente
reconocidos sobre el tema, de las respuestas de los rganos evaluados al
informe final, de las reflexiones generales sobre los programas sociales del
Distrito Federal relativas a la maduracin de los mismos, su legitimacin
social, su contribucin a la construccin del rgimen social de derechos, entre
otros, as como del debate en reuniones pblicas de los principales asuntos
incluidos en la evaluacin; despus de lo cual el propio Evala DF emite sus
recomendaciones vinculatorias.
Complementariamente, para cumplir con el anlisis de estos criterios
de factibilidad y calidad, los Consejos pueden realizar ejercicios completos de
metaevaluacin, internos o contratados para su desarrollo independiente. Sin
embargo, por tratarse de un tipo complejo de evaluacin, sus resultados no
son inmediatos y sirven sobre todo para realizar ajustes a los procesos a aplicar
en posteriores trabajos, ms que para considerarlos al momento de enviar
recomendaciones a un rgano, poltica o programa concreto evaluado.

21
M.Q. Patton, Utilization-focused evaluation. The new century text, Thousand Oaks,
Sage Publications, 1997.

Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

132

Myriam Cardozo Brum

Hasta el ao pasado, el Coneval tena en su pgina algunos trabajos que se


aproximan a este fin, aunque sin particularizar su anlisis en cada evaluacin
realizada, donde se analizaban los Lineamientos generales para la evaluacin22
o se identificaban fortalezas del sistema, desafos y lecciones aprendidas.23 Un
antecedente de stas lo constituye un trabajo del Instituto Nacional de Salud
Pblica en que se revisan, aunque en forma poco crtica, las evaluaciones
realizadas a los programas Progresa-Desarrollo Humano Oportunidades (en
adelante, simplemente Oportunidades) de 1997 a 2006.24 Pero a partir de 2012
ha incorporado metaevaluaciones longitudinales de diferentes programas.25
En el caso de Evala DF se llev a cabo una metaevaluacin transversal
y un autoanlisis crtico de la organizacin y gestin de las evaluaciones de
programas de su primer ao de trabajo, la calidad de sus informes y de las
recomendaciones emitidas, la utilizacin de los resultados y las propuestas de
mejoras para evaluaciones posteriores.26 El ejercicio se repiti al ao siguiente
mediante una contratacin externa que sirvi para valorar el trabajo realizado
en el caso de las primeras cuatro evaluaciones de polticas, concentrndose
tambin en el contexto, el diseo de la evaluacin, su marco legal, la
organizacin y funcionamiento del sistema, y la calidad tcnica, la utilidad y
la tica de los informes.27

22
Gladys Acevedo et al., Anlisis de los lineamientos generales para la evaluacin de los
programas federales de la administracin pblica federal, Banco Mundial [www.coneval.gob.
mx/cmsconeval/rw/resource/coneval/quienes/2937.pdf], fecha de consulta: 12 de septiembre
de 2012.
23
Manuel F. Castro et al., El sistema de monitoreo y evaluacin de Mxico: un salto del
nivel sectorial al nacional, Serie Documentos de Trabajo, nm. 20, Banco Mundial, 2009.
24
Sedesol-INSP, Evaluacin del proceso de evaluacin del programa Oportunidades
[http://siteresources.worldbank.org], fecha de consulta: 17 de enero de 2009.
25
El Coneval y la Sedesol reportan metaevaluaciones 2007-2012 realizadas a los programas:
Oportunidades, Estancias Infantiles para Apoyar a Madres Trabajadoras, Apoyo a las Instancias
de Mujeres en las Entidades Federativas, Coinversin Social, 3X1 para Migrantes, Hbitat,
etctera. Las mismas se encuentran disponibles en las siguientes pginas consultadas el 23 de
septiembre de 2013: [www.oportunidades.gob.mx/EVALUACION/es/wersd53465sdg1/docs/2012/
informe_final_oport.pdf] [web.coneval.gob.mx/rw/resource/Mecanismos_2012/SEDESOL/S174_P
rograma%20de%20Estancias%20Infantiles%20a%20Madres%20Trabajadoras/S174_PI.pdf] [www.
sedesol.gob.mx/work/models/SEDESOL/Resource/846/1/images/S155_%20Doc.pdf] [www.
sedesol.gob.mx/work/models/SEDESOL/Resource/846/1/images/S070_Doc_Opinion.pdf] [www.
sedesol.gob.mx/work/models/SEDESOL/Resource/846/1/images/S061_DocOpinion.pdf] [media.
wix.com/ugd/660b5a_2c4743bf4496257db5b8070cb8c29bb8.pdf].
26
Myriam Cardozo, Sistematizacin de la experiencia de evaluacin de Evala DF en
2008..., op. cit.
27
J. Luis Osuna et al., Metaevaluacin de las polticas evaluadas por Evala DF durante 2009
[www.evalua.df.gob.mx/metaevaluaciones.html], fecha de consulta: 13 de junio de 2011.

Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

De la evaluacin a la reformulacin de polticas pblicas

133

Con base en la informacin antes presentada se concluye que, aunque


sus procesos presentan diferencias, ambos Consejos se ocupan en revisar que
las recomendaciones cumplan los criterios aqu considerados.

impacto de las recomendaciones en los procesos


de asignacin de recursos

La asignacin anual de recursos a las polticas y programas pblicos en marcha


debera realizarse en funcin de los resultados de las mismas, tratando de
consolidar aquellas que resultan ms efectivas y de mayor impacto, y de reforzar las que demuestran que sus avances limitados se deben a insuficiencia
presupuestaria. Una forma de verificar si las evaluaciones realizadas en Mxico
han tenido alguna incidencia en el complejo proceso tcnico-poltico de
asignacin de presupuesto consiste en contrastar este ltimo con los resultados
alcanzados por las primeras.
En el caso federal, el Cuadro 2 recupera la evolucin del gasto ejercido
en 2008-2010, la que en su conjunto alcanz un incremento del 50%.28 Sin
embargo, se observan notables variaciones por programas, siendo pocos los
que se acercan a la media. En cambio aparecen programas que disminuyen
notablemente su presupuesto (Oportunidades Productivas y Abasto Social
de Leche), otros que se mantienen prcticamente sin cambios (Desarrollo
de Zonas Prioritarias, Abasto Rural y Rescate de Espacios Pblicos), algunos
que presentan importantes incrementos (Empleo Temporal y Hbitat), y uno
con un aumento notable (Apoyo Alimenticio).
A continuacin se revisan los casos extremos:29
Oportunidades Productivas y Empleo Temporal no han tenido evaluaciones
de impacto a pesar de su larga existencia. En el primer caso la disminucin
presupuestal tampoco se debe a una reduccin de las necesidades de
ingreso que generan sus proyectos, sino ms bien a un ajuste tcnicometodolgico de su poblacin potencial, definida adems en funcin
del presupuesto disponible y no a la inversa. Empleo Temporal tiene un
aumento importante de poblacin atendida entre 2007 y 2010 (pasa de 240
mil a 582 044 personas). El 71% de sus beneficiados manifiestan mejoras

Se supone que en precios corrientes porque la fuente utilizada no lo aclara.


Coneval, Desempeo de los Programas Sociales [www.coneval.gob.mx/cmsconeval/rw/
pages/evaluacion/desempeno_programas_sociales.es.do], fecha de consulta: 10 de septiembre
de 2012.
28
29

Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

134

Myriam Cardozo Brum

Cuadro 2
Presupuesto social ejercido en los principales programas sociales federales
dependientes de la Sedesol (millones de pesos)*
Programas

2008

2009

Desarrollo Humano Oportunidades


70 y ms
Desarrollo de Zonas Prioritarias**
Hbitat
Apoyo Alimenticio
Estancias Infantiles para apoyar a Madres Trabajadoras
Ahorro y Subsidio para la Vivienda, Tu Casa
Abasto Rural a cargo de Diconsa
Empleo Temporal
Rescate de Espacios Pblicos
Abasto Social de Leche a cargo de Liconsa
Oportunidades Productivas

41 134
9 537
0
1 887
412
1 711
1 638
2 004
488
1 271
2 742
1 165

45
12
7
2
1
2
1
1
1
1
1

Total organismos pblicos

63 989

79 389

425
407
368
503
204
381
704
806
199
154
301
937

2010
56
12
7
4
3
2
2
1
1
1
1

% incremento
2008-2010

923
923
289
121
546
433
066
987
454
316
170
758

38.38
35.50
-0.01
118.39
760.68
42.19
26.13
-0.01
197.95
3.54
-57.33
-34.93

95 986

50.00

* Se supone que est en precios corrientes, pero la informacin no lo aclara.


** Como Desarrollo de Zonas Prioritarias no exista en 2008, se calcul la disminucin 2009-2010.
Fuente: elaboracin propia a partir de los datos del Reporte General de las Evaluaciones Especficas
de Desempeo 2010-2011, publicado por el Coneval [http://www.coneval.gob.mx/cmsconeval/rw/pages/
evaluacion/evaluaciones/especificas/edd_2010_2011/pag_princ_edd_2010_2011.es.do].

en sus condiciones de vida y 79% en sus ingresos. En consecuencia, el


beneficio percibido y la creciente necesidad justificaran el aumento de
su presupuesto.
Abasto Social de Leche, segn sus evaluaciones de impacto, slo ha
mostrado claros avances en materia de leche fortificada y en ciertas edades.
En 2006 no se encontr impacto en el desarrollo cognitivo de los nios;
tampoco en 2009 se identific impacto en el desempeo escolar; en cambio,
mejor el desarrollo intelectual pero ste se explica por otra causa: el nivel
socioeconmico.30 Sin embargo, en 2010 su poblacin objetivo aument
en 23%,31 mientras los beneficiarios atendidos se mantuvieron estables, al
mismo tiempo que su presupuesto disminuy y se produjo una reduccin
en su cobertura.
30
Coneval, Informe de la Evaluacin Especfica de Desempeo 2010-2011 [www.
coneval.gob.mx/Evaluacion/paginas/Fichas-narrativas-EED.aspx], fecha de consulta: 13 de
junio de 2013.
31
Aunque los evaluadores opinan que est sobreestimada, ya que ese ao se elimin la
supuesta duplicidad con quienes reciban tambin el apoyo de Oportunidades.

Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

De la evaluacin a la reformulacin de polticas pblicas

135

Hbitat tuvo una evaluacin de impacto en 2007 que report resultados


favorables en el rubro de construccin de infraestructura bsica, pero hasta
2011 no se haba realizado otra. Su poblacin potencial se ha mantenido
estable. En 2010 se reporta la superacin de 15 de sus 25 metas, gracias
al incremento de sus recursos federales y estatales, no una relacin a la
inversa que explique la decisin del aumento presupuestario.
Apoyo Alimenticio es el programa con un aumento ms notable, aunque el
monto absoluto de su presupuesto est por debajo de Hbitat, Desarrollo
de Zonas Prioritarias, 70 y Ms y muy especialmente Oportunidades.
Est dirigido a las localidades rurales marginadas, pero ha sufrido cambios
importantes en sus RO, por lo que los resultados positivos de la evaluacin
de impacto que se le realiz en 2006 han perdido vigencia. En 2009-2010
se fusion con el Programa de Apoyo Alimentario en Zonas de Atencin
Prioritaria y pas de ser responsabilidad de Diconsa a la Coordinacin
de Oportunidades, programa con el que se asimil, cambiando su
poblacin objetivo, condicionando el apoyo a la asistencia a unidades
de salud,32 etctera. Si bien se menciona que su poblacin objetivo no
estaba cuantificada en 2010, se afirma que aument 139% respecto del
ao anterior, mientras su cobertura estuvo por debajo de lo planeado. La
poblacin atendida habra aumentado en 158% en ese mismo ao, todo
lo cual resulta entre confuso y contradictorio.
En resumen, si bien los procesos generalizados de evaluacin externa de
todos los programas que reciben recursos fiscales y estn sujetos a RO dieron
inicio en 2001 por decisin de la Cmara de Diputados con el objetivo de que
sus informes fueran entregados a la Comisin de Presupuesto y Cuenta Pblica,
de manera que los resultados sean considerados en el proceso de anlisis
y aprobacin del Presupuesto de Egresos de la Federacin para el siguiente
Ejercicio Fiscal,33 el anlisis de los casos ms relevantes de incrementos
o reducciones presupuestales mostr poca relacin con los resultados de
las evaluaciones realizadas a los programas federales. Esto a pesar de que
el Coneval genera y difunde informacin especialmente preparada para
el proceso presupuestario que, durante los aos 2010 y 2011, se entreg
directamente a la Cmara de Diputados y, a partir del 2012, se encuentra
disponible en la pgina de internet del Coneval.34
A pesar de que opera en localidades que no tienen estos servicios ni los educativos.
Diario Oficial de la Federacin, 1 de enero de 2002.
34
Coneval, Informacin Coneval para el proceso presupuestario 2012 [www.coneval.
gob.mx/Informes/Evaluaci%C3%B3n%202011/CP_201229_agosto_2011.pdf] [http://web.coneval.
gob.mx/Evaluacion/Paginas/PaqueteInformativoPresupuestario.aspx], fecha de consulta: 13
de junio de 2013.
32
33

Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

136

Myriam Cardozo Brum

En sntesis, la Cmara de Diputados contina tomando sus decisiones con


base en techos financieros preestablecidos, con una casi nula utilizacin de
los resultados de las evaluaciones, a menudo desconocidas por sus integrantes
entrevistados o confundidas con los trabajos de la Auditora Superior de la
Federacin.35 Tampoco se percibe su utilizacin por la Comisin de Desarrollo
Social en temas sustantivos.
En el caso del GDF, si bien no se cuenta con la informacin detallada por
programa, menos an cuando se trata de polticas, sta existe en algunos casos
en que el programa y la institucin que lo opera prcticamente se identifican,
lo que nos permite acercarnos a su anlisis.
El Cuadro 3 muestra la evolucin del presupuesto del GDF por organismos
pblicos en 2008-2012. Como podemos ver, en precios corrientes, el incremento
promedio fue de 17%, pero como la inflacin acumulada del periodo fue
aproximada a 21%, casi se mantuvo estable en trminos reales. Aunque existen
variaciones pequeas entre organismos (nada comparable a las analizadas
en el caso previo), identificamos dos instancias que aumentan un poco ms
que la media: el Fideicomiso para la Educacin Garantizada, Fidegar (0.30%)
y el Instituto para la Atencin de los Adultos Mayores (IAAM) (0.39%).36 Pero
en estos casos existen explicaciones que nada tienen que ver con el xito
mostrado por la gestin de la poltica o programa en sus evaluaciones: el
primero tuvo a su cargo el Programa del Bachillerato Universal, Prepa S37 y
fue el nico que no acept ninguna recomendacin de Evala DF; de igual
forma, en el segundo caso fueron rechazadas las recomendaciones de fuerte
impacto presupuestal y el incremento debe estar relacionado ms bien con la
reduccin de la edad para recibir el apoyo (de 70 a 68 aos), que increment
su poblacin objetivo.
Evala DF debe entregar copia de los informes de evaluacin a la Comisin
de Desarrollo Social de la Asamblea Legislativa del Distrito Federal y sta los
ha utilizado en diversos casos, ms no con fines presupuestales. Ms bien han
sido las propias instancias evaluadas quienes argumentan falta de recursos para
negarse a llevar a cabo las recomendaciones, por temor de que la Secretara
de Finanzas no les apruebe el incremento presupuestal requerido.
Myriam Cardozo, Evaluacin y metaevaluacin en los programas mexicanos de desarrollo
social, op. cit.
36
Evala DF, Recomendaciones al Programa Pensin Alimentaria para Adultos Mayores
de 70 aos, residentes en el DF [/www.evalua.df.gob.mx/recomendaciones/recomendaciones_
comite/rec_def_pen_al.pdf], fecha de consulta: 19 de julio de 2012.
37
Evala DF, Recomendaciones al Programa de Estmulos para el Bachillerato Universal
(Prepa S) [www.evalua.df.gob.mx/recomendaciones/recomendaciones_comite/rec_def_prepa.
pdf], fecha de consulta: 19 de julio de 2012.
35

Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

137

De la evaluacin a la reformulacin de polticas pblicas

Cuadro 3
Gasto social ejercido en los principales organismos pblicos
del GDF 2008-2012 (millones de pesos corrientes)

Organismos pblicos
Instituto para la Atencin de los Adultos Mayores

Servicios de Salud
Desarrollo Integral de la Familia
Instituto de Vivienda
Fideicomiso de Educacin Garantizada
Instituto Nacional de las Mujeres
Instituto de la Juventud
Total organismos pblicos

2008

2009

2010

2011

2012

3 945.5
3 030.3
2 777.3
2 409.8
1 309.0
143.1
90.1

4 220.4
3 119.4
2 375.9
2 204.3
1 643.6
133.2
81.9

4
3
2
2
1

5
3
2
2
1

5
3
2
2
1

826.2
048.7
621.8
612.4
602.6
136.8
87.9

431.5
915.8
745.6
635.4
632.9
143.3
110.0

%
incremento
2008-2012

477.2
319.5
724.8
588.1
701.5
106.7
90.8

0.39
0.09
-0.02
0.07
0.30
-0.25
0.01

13 705.1 13 778.7 14 936.4 16 614.5 16 008.6

0.17

Fuente: adaptacin propia a partir de datos de la Direccin de Estadsticas de Evala DF. Elaborado con
Cuentas Pblicas del GDF, salvo 2011 y 2012, que se basan en los decretos de presupuesto aprobado.

En consecuencia, el proceso de aceptacin y cumplimiento de las recomendaciones no muestra impactos sustantivos para mejorar la distribucin de
los recursos presupuestales en ninguno de los dos casos considerados.

mecanismos e impacto de las recomendaciones


en la reformulacin de polticas y programas sociales

Ms all de su incidencia presupuestal, es importante que las recomendaciones


de calidad sean tomadas en cuenta por los responsables de polticas y
programas para mejorar su diseo y planear mejor su implementacin.
A nivel federal, al inicio del nuevo siglo, si bien la Secretara de Desarrollo
Social (Sedesol) cont con un Sistema de Seguimiento a Evaluaciones
Externas, el mismo slo parece haber sido til al inicio de los procesos, ya
que paulatinamente los funcionarios responsables fueron disminuyendo
sus compromisos con los convenios asumidos y se limitaron a entregar
oficios sin informacin de avances sustantivos, slo para evitar que se les
pudiera sancionar por incumplimiento. Segn un funcionario entrevistado, la
excepcin habran sido los programas relacionados con la desnutricin. En
cambio, algunos evaluadores afirmaban que haba casos en que los informes
no eran ni siquiera ledos por las unidades responsables de la operacin o
la propia contratante de la misma, otros, que sta no era distribuida a las
instancias responsables en las entidades federativas y, en la mayora, que
Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

138

Myriam Cardozo Brum

no se tomaban decisiones para implementar las propuestas; o bien, que su


consideracin era muy lenta y formal, informndose de la misma manera, es
decir, slo el porcentaje de cumplimiento, pero no su contribucin sustantiva
para mejorar el problema identificado.38
Al crearse el Coneval en 2006, como sus recomendaciones carecen de
carcter vinculatorio, este Consejo comenz a buscar otros mecanismos que
pudieran garantizarle que los ajustes recomendados en las evaluaciones y
recogidos en los convenios respectivos se pusieran en prctica: un sistema
computarizado de control de gestin diseado conjuntamente con la Secretara
de Hacienda y Crdito Pblico (SHCP), o Programas de Mejoramiento de la
Gestin a cargo de la Secretara de la Funcin Pblica (SFP).
Actualmente, despus de presentado el informe final de la evaluacin,
proceso que ya fuera someramente descrito, la Unidad Responsable de la
Operacin del Programa debe emitir una carta dirigida al Coneval, la SHCP
y la SFP emitiendo su Posicin Institucional ante la evaluacin. Recibida la
carta, las tres instancias mencionadas seleccionan los ASM a ejecutar por
sus operadores para mejorar la gestin del programa, tomando en cuenta
criterios de claridad, relevancia, justificacin y factibilidad. Posteriormente
se establece un Convenio de Compromisos de Mejoramiento de la Gestin
en el que el programa se compromete a instrumentarlos. Tambin se emiten
recomendaciones dirigidas a la Comisin Nacional de Desarrollo Social (CNDS)
y a la Comisin Intersecretarial de Desarrollo Social (CIDS), a las cuales la
Ley General de Desarrollo Social (LGDS) otorga atribuciones para la toma de
decisiones hacia el mejoramiento de los programas y acciones prioritarias.
Los ASM se definen y se publican en la pgina oficial del Consejo desde la
generacin de evaluaciones de 2008-2009; su Mecanismo de Seguimiento se
actualiza anualmente y es realizado por la Secretara de la Funcin Pblica.
Los informes de seguimiento de 2008 y de 2009 recogen los ASM que se
desprenden de las evaluaciones de Consistencia y Resultados y de Diseo
realizadas en 2007-2008 y 2008-2009 (Cuadro 4). En ambos casos se informa
de los nuevos ASM y se repiten los previos, pero no se informa sobre los
avances realizados.
A partir de 2011, los ASM son clasificados en funcin de su nivel de
prioridad y se clasifican en:
1. Aspectos especficos, cuya solucin corresponde nicamente a las unidades
responsables.

38

Myriam Cardozo, Evaluacin y metaevaluacin en los programas mexicanos..., op. cit.


Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

139

De la evaluacin a la reformulacin de polticas pblicas

Cuadro 4
ASM 2008-2012 por tipos
Tipo

2009

2010

2010-2011

2011-2012

Total

Porcentaje

Especficos
Institucionales
Interinstitucionales
Intergubernamentales
Total

651
204
28
47
930

723
105
26
17
871

370
17
16
10
413

402
61
6
2
471

2 146
387
76
76
2 685

80
14
3
3
100

Fuente: elaboracin propia con base en los Informes de Seguimiento de los ASM.

2. Aspectos institucionales, que requieren la intervencin de dos o ms reas


de la dependencia o entidad.
3. Aspectos interinstitucionales, que demandan la participacin de ms de
una entidad o dependencia.
4. Aspectos intergubernamentales, que necesitan de la intervencin adicional
de otros mbitos de gobierno (estatal y/o municipal).
Los dos ltimos se entregan a la CNDS y a la CIDS.
En consecuencia, los informes de seguimiento de los ASM de 2010-2011 y
2011-2012 presentan informacin concentrada y comparable de la incidencia
alcanzada por los medios anteriores. El anlisis desarrollado para los ASM
del primero de estos periodos mostraba un promedio general de avance del
69.4 por ciento.39
Por su parte, el referido a 2011-201240 menciona que sus ASM se concentraron
en la Secretara de Educacin Pblica (29%), la Comisin Nacional para el
Desarrollo de los Pueblos Indgenas (18%), las secretaras de Medio Ambiente
y Recursos Naturales (14%) y de Economa (10%).
En trminos globales se reporta un cumplimiento pleno en 56.6% de
los casos (55.9% en aspectos especficos y 70.6% en los institucionales), y
un promedio aproximado de 40% de avance en los restantes, cuyo plazo ya

Coneval, Informe de Seguimiento a los Aspectos Susceptibles de Mejora de Programas


Federales 2010 [www.coneval.gob.mx/cmsconeval/rw/pages/evaluacion/seguimiento_recomendaciones/ASM_2010_2011.es.do;jsessionid=a87042d25f8147c911a47a5fde3bc5e08919d24c1847
56f2f5c9d8094f85c258.e34QaN4LaxeOa40Pbhj0], fecha de consulta: 12 de septiembre de 2012.
40
Coneval, Informe de Seguimiento a los Aspectos Susceptibles de Mejora de los Programas
y Acciones Federales de Desarrollo Social 2011-2012 [http://web.coneval.gob.mx/Informes/
Evaluacion/Informe%20ASM/Informe%20ASM%20_2011_2012.pdf], fecha de consulta: 12 de
septiembre de 2012.
39

Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

140

Myriam Cardozo Brum

haba concluido. El promedio general de avance, incluido los terminados,


alcanza 73.9% (Grfica 1), lo que muestra una pequea mejora respecto
del ao anterior. Institucionalmente, el mayor nmero de ASM cumplidos
correspondieron a Economa (46) y CDI (44). El cumplimiento pleno se produjo
en 74 programas cuyas acciones se distribuyeron en: corregir actividades o
procesos (71% de los casos), modificar apoyos al programa (12%), reorientar
sustancialmente el programa (15%), adicionar o reubicar el programa (1%).
En conjunto, una vez distribuidas por tipos las ASM de los dos primeros
periodos, en 2008-2012 se emitieron 2 685 ASM, de los cuales 80% fueron
especficos y 14% institucionales, pero no contamos con informacin de su
grado de cumplimiento en conjunto (Cuadro 4).
Grfica 1
Avance porcentual de las acciones para la atencin de los ASM
de los Programas y Acciones Federales de Desarrollo Social, ciclo 2011-2012
207

216
192

Nmero de ASM

168
144
120
96

76

72
48
24

13

26

23

25

21-40%

41-60%

61-80%

81-99%

12

0
0-20%

% de avance
aspectos especficos

aspectos institucionales

Fuente: Informe de seguimiento de los ASM de los programas


y acciones federales de desarrollo social 2011-2012, Coneval.

Para profundizar en el anlisis se incluye el seguimiento correspondiente


al programa ms relevante (Oportunidades) en el periodo 2007-2011. Su
Evaluacin de Consistencia y Resultados 200741 realiz un conjunto de 14
recomendaciones de importancia sustantiva, que se habran concretado en
Coneval, Resumen Ejecutivo de la Evaluacin de Consistencia y Resultados 2007 del
Programa de Desarrollo Humano Oportunidades [www.oportunidades.gob.mx/EVALUACION/
441c7c1a3d30adf64e0e724174a9d527/impacto/2007/ECR_2007_2008_ResumenEjecutivo.pdf],
fecha de consulta: 8 de septiembre de 2012.
41

Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

De la evaluacin a la reformulacin de polticas pblicas

141

seis ASM segn el documento Seguimiento de Aspectos Susceptibles de


Mejora Derivados de las Evaluaciones Externas 2007, pero en la Evaluacin
Especfica de Desempeo de 2009-2010,42 slo se retoman de ese periodo
dos ASM especficos y dos institucionales, que dejan fuera importantes asuntos
planteados en las recomendaciones (calidad de la educacin, redefinicin de
poblaciones, evaluacin de impacto, etctera). Los primeros dos recuperan:
la elaboracin de un documento para sistematizar los mecanismos para el
establecimiento de indicadores y metas; y el fortalecimiento de algunos
indicadores de la Matriz de Indicadores para Resultados (MIR) en temas
relacionados con el mejoramiento de la salud, el trnsito a la educacin media
superior y la recepcin de apoyos alimentarios por parte de los beneficiarios.
Los segundos incluyen la elaboracin de un diagnstico actualizado y adecuado de la problemtica que sustenta la razn de ser del programa, y la
preparacin de un Programa Estratgico.
En el seguimiento de los anteriores se expresa que los primeros dos se
cumplieron plenamente en la fecha comprometida; mientras que los dos
institucionales haban sufrido retrasos: el primero de ellos se concluy seis
meses despus de lo acordado, y habra dado lugar al documento Movilidad
social intergeneracional de los jvenes beneficiarios de Oportunidades
provenientes de hogares en zonas rurales; mientras que el segundo slo
presentaba un avance del 50% al 31 de diciembre de 2009.
La Evaluacin Especfica de Desempeo de 200843 reconoce que, en
un Documento Institucional y otro Documento de Trabajo, ha habido una
reflexin de parte de Oportunidades sobre los ASM sealados en 2007;
sin embargo repite, aunque en forma ms sinttica, las primeras cinco
recomendaciones relatadas en 2007, lo que hace suponer que no percibi
un avance contundente en ellas.
Los ASM de las evaluaciones de 2008 reaparecen en 2010-2011 y habran
sido dos especficos, dos institucionales, tres interinstitucionales y uno
intergubernamental.44 Se informa que fueron atendidos los especficos; seguan
en proceso la elaboracin del plan estratgico, si bien se contaba con una
Coneval, Informe de la Evaluacin Especfica de Desempeo 2009-2010 del Programa
de Desarrollo Humano Oportunidades [www.oportunidades.gob.mx/EVALUACION /441c7c1a3d
30adf64e0e724174a9d527/eval_especifica/oportunidades/oport_informe_completo_2009_2010.
pdf], fecha de consulta: 8 de septiembre de 2012.
43
Coneval, Informe de la Evaluacin Especfica de Desempeo 2008 del Programa de
Desarrollo Humano Oportunidades [www.oportunidades.gob.mx/EVALUACION/441c7c1a3d30adf
64e0e724174a9d527/eval_especifica/oportunidades/oport_informe_completo_2008_2009.pdf],
fecha de consulta: 8 de septiembre de 2012.
44
Evidentemente no hay una clara coincidencia de lo que se va reportando cada ao.
42

Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

142

Myriam Cardozo Brum

versin preliminar, y se careca de informacin sobre los avances de los dos


ltimos tipos de aspectos.
En 2008-2009 tambin se realiz la evaluacin de impacto de Oportunidades,
que se tradujo en varios tomos de informes y 220 recomendaciones. De ellas
surgiran 27 ASM, con amplia incidencia referida a la calidad de los servicios de
salud (tomo II) o a la difusin de la informacin, pero sin impacto en materia
de diseo. Se inform que muchas se descartaron por estar ya en proceso o
requerir de mayores recursos presupuestarios que se prefiri dedicar a ampliar
la cobertura del programa.
Nuevamente, la evaluacin de desempeo 2009-2010 define otros ASM,
aunque mucho menos claros y sustantivos que los anteriores, algunos
redactados como recomendaciones, pero otros, en trminos de objetivos o
simplemente de problemas identificados.
Finalmente, en 2010-201145 se informa que se realizan dos evaluaciones
de los efectos de mediano plazo de Oportunidades en zonas urbanas, una
en educacin y otra en salud y nutricin, las cuales estaban por concluirse, y
que las RO de 2011 redefinan la poblacin objetivo de acuerdo con la nueva
metodologa de medicin multidimensional de la pobreza del Coneval.
Concretamente, como seguimiento de los ASM de las evaluaciones
externas de 2010, se incluyen 17 especficos y 10 interinstitucionales o
intergubernamentales.46 Se mencionan como atendidos los especficos y sin
informacin los dos ltimos tipos. En cambio, otro documento reporta un
100% de cumplimiento de las recomendaciones recibidas.47
En resumen, las evaluaciones de Oportunidades tienden a insistir con
recomendaciones dirigidas a la educacin y se observa una importante
reiteracin de ASM sobre el tema de la definicin de las poblaciones potencial
y objetivo, y de la necesidad de aumentar la coordinacin interinstitucional
para desarrollar mayores sinergias. Dicha reiteracin sugiere la idea de que
los ASM no se estuvieran cumpliendo; concretamente, la evaluacin de 2008
haba propuesto conformar un equipo de trabajo para su revisin.

45
Coneval, Informe de la Evaluacin Especfica de Desempeo 2010-2011 del Programa de
Desarrollo Humano Oportunidades [www.oportunidades.gob.mx/EVALUACION/441c7c1a3d30a
df64e0e724174a9d527/eval_especifica/pal/pal_informe_completo_2010_2011.pdf], fecha de
consultado: 8 de septiembre de 2012.
46
Resulta extrao que en este caso se haga el seguimiento de 2008 y 2010, sin considerar
2009. Evidentemente no hay una clara coincidencia de lo que se va reportando cada ao
47
Coneval, Valoracin del Desempeo de los Programas, con base en los resultados de
las evaluaciones de desempeo 2010-2011 [http://web.coneval.gob.mx/Evaluacion/Paginas/
PaqueteInformativoPresupuestario.aspx], fecha de consulta: 13 de junio de 201|3.

Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

De la evaluacin a la reformulacin de polticas pblicas

143

Como conclusin general del mecanismo analizado se afirma que los


porcentajes de cumplimiento general logrados por Coneval son considerables,
restando an poco ms de 25% para alcanzar pleno cumplimiento y avanzando
lentamente hacia la meta. Este cumplimiento parcial se logra gilmente en
asuntos metodolgicos relacionados con la MIR, indicadores, metas, etctera,
y en temas relativos a procesos de operacin, pero se ve ms difcil cuando
se trata de hacer un diagnstico y, ms an, un programa estratgico, una
reformulacin de la poltica o una evaluacin de impacto en la trasmisin
intergeneracional de la pobreza.48 Tambin se dificultan aspectos que
involucran a varias instancias o varios mbitos de gobierno. Finalmente, la
informacin disponible no nos permiti valorar si existe relacin entre el peso
econmico de llevar a cabo un ASM y su nivel de cumplimiento.
Desde 2007-2008, otro de los mecanismos ideados por el Coneval para
realizar la promocin de la utilizacin de las recomendaciones ha sido el
reconocimiento de Buenas Prcticas en el Uso de los Resultados de Monitoreo
y Evaluacin (no en el desempeo de los programas). El 29% de ellos ha
correspondido al sector de Desarrollo Social, pero se destaca que en los ltimos
dos aos ya no se relacionan claramente con la utilizacin de resultados de
monitoreo y evaluacin, y que su impacto no ha sido evaluado.
Como ya mencion, a diferencia del Coneval, Evala DF tiene la particularidad de que sus recomendaciones tienen carcter vinculatorio. Pero, las
dependencias evaluadas tienen la posibilidad de manifestar su desacuerdo, en
cuyo caso Evala DF puede controvertirlas ante la Comisin Interinstitucional
de Desarrollo Social.
En general, el cumplimiento total o parcial de las recomendaciones es
bastante elevado, aunque existe un importante grado de retraso en su implementacin y la entrega de informacin. Es posible afirmar que son mucho mejor
aceptadas las recomendaciones ligadas a la puesta en prctica de las polticas,
a su operacin o implementacin, que las ligadas a su reformulacin. Es que
las primeras incluyen fundamentalmente cambios en los procedimientos en
curso, mientras que las ltimas modifican la definicin misma de la poltica y
eso, en muchos casos, implica mayor disponibilidad de recursos.
En 2009, por ejemplo, 105 recomendaciones fueron aceptadas (84.6%) y
19 rechazadas (15.4%), pero cinco de ellas fueron reconsideradas por Evala
DF, quedando 14 sujetas a controversia (11.3%), todas correspondientes a dos

En 2008 se llev a cabo una evaluacin de impacto del programa en reas rurales, en
materia de calidad de los servicios de salud, nutricin y educativos, y de la operacin del
programa y la atencin de las familias beneficiadas, pero no en la trasmisin intergeneracional
de la pobreza, como se ha venido proponiendo.
48

Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

144

Myriam Cardozo Brum

de los programas evaluados49 (Grfica 2). Dichas recomendaciones, dirigidas


a 12 programas y dependencias, se distribuyeron aproximadamente en la
misma proporcin en materia de diseo (49.6%) que de operacin (50.4%);
sin embargo, de las 14 rechazadas, nueve se concentraron en diseo y ocho
de ellas implicaban una fuerte repercusin presupuestal.
Grfica 2
Avance a junio de 2011 de las recomendaciones
de Evala DF aceptadas en 2009
70%

63%

60%

% de avance

50%
40%
30%
19%

20%

17%

10%
1%
0%
Totalmente
cumplidas

Parcialmente
cumplidas

No cumplidas

Con plazo vigente

Recomendaciones

Fuente: Primer informe semestral del estado de las recomendaciones


aceptadas, Evala DF, junio de 2011.

De las correspondientes al programa emblemtico para Adultos Mayores


fueron rechazadas siete de 19. Cinco de ellas se vinculaban con la propuesta
de garantizar el derecho al acceso gratuito a los servicios mdicos y
medicamentos a las personas residentes en el Distrito Federal que carecen
de seguridad social laboral, a travs de los servicios pblicos de salud del
GDF. Una sexta corresponde a la propuesta de reduccin de causales de baja
del programa y la ltima a la revisin de los propsitos del procedimiento
de visitas domiciliarias.
Por otra parte, de las recomendaciones aceptadas ese ao, al 30 de
junio de 2011 haba: 65 cumplidas (63%), 20 cumplidas parcialmente (19%),
18 incumplidas (17%) y 2 (1%) an no vencidas,50 lo que, suponiendo que
Evala DF, Primer Informe Semestral del Estado de las Recomendaciones Aceptadas,
mimeo, junio de 2011.
50
Idem.
49

Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

De la evaluacin a la reformulacin de polticas pblicas

145

el cumplimiento parcial fuera del 50%, nos dara un porcentaje global de


cumplimiento de aproximadamente el 73%. El Programa de Pensin Alimentaria
Adultos Mayores, de las 12 recomendaciones que haba aceptado, contaba
con ocho cumplidas, dos parcialmente cumplidas, y dos incumplidas.
En 2010 se emitieron 35 recomendaciones a 12 instancias gubernamentales:
30 fueron aceptadas, dos lo hicieron parcialmente y tres fueron rechazadas.
Las ltimas correspondieron al Instituto de las Mujeres del Distrito Federal;
sin embargo, en los meses siguientes se modific la ley correspondiente
recuperando la esencia de las mismas, razn por la que ya no fueron
controvertidas por Evala DF. En este programa se hizo la primera experiencia
de dirigir recomendaciones directamente a la Secretara de Finanzas cuando
existen importantes repercusiones en las necesidades financieras. Se trat
concretamente de la recomendacin relacionada con el traslado de recursos de
este programa a otro de nueva creacin, lo que fue aceptado; sin embargo, no
se trataba de una ampliacin de recursos, sino de una mera transferencia.
A partir de 2011 las recomendaciones dejaron de dirigirse a programas para
hacerlo a polticas, al igual que las evaluaciones realizadas, lo que complic
el seguimiento porque las recomendaciones ya no se dirigan a un solo
rgano (responsable en el caso de los programas) sino a las varias instancias
coordinadas para poner en marcha una poltica. Se trat de siete grandes
recomendaciones, desglosadas en 21 para su seguimiento en el caso de agua
potable51 y de 10, subdivididas en 56, en materia de trabajo.52 Las primeras
fueron dirigidas a la Secretara del Medio Ambiente, al Sistema de Aguas de
la Ciudad de Mxico, a la Secretara de Desarrollo Urbano y Vivienda, a la
Secretara de Finanzas (SF), a la Contralora General del Distrito Federal y a
la Jefatura de Gobierno; mientras que las ltimas lo hicieron a la Secretara
de Trabajo y Fomento al Empleo, a la Secretara de Desarrollo Econmico, a
la Secretara de Finanzas, a la Secretara de Obras y Servicios, a la Oficiala
Mayor y a la Jefatura de Gobierno.53
Como puede verse, en 2011 se volvieron a enviar recomendaciones a la
SF, debido a que los rganos operativos no aceptaban las recomendaciones
de fuerte impacto presupuestal por temor de que la SF no les autorizara el
gasto correspondiente, pero sta empez tambin a rechazarlas por considerar
Evala DF, Recomendaciones a la Poltica de Acceso al Agua Potable [www.evalua.
df.gob.mx/recomendaciones/recomendaciones_comite/rec_agua.pdf], fecha de consulta: 19 de
julio de 2012.
52
Evala DF, Recomendaciones a las polticas de Fomento al Empleo y Proteccin del
Trabajo [www.evalua.df.gob.mx/transparencia/2010/rec_tra.pdf], fecha de consulta: 19 de julio
de 2012.
53
Evala DF, 2011, op. cit.
51

Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

146

Myriam Cardozo Brum

que no le compete emitir opinin sobre las recomendaciones de carcter


operativo, aunque ellas tengan fuerte impacto presupuestal.
En consecuencia, tampoco el carcter vinculatorio de Evala DF le ha
permitido, hasta la fecha, tener la contundencia esperada en materia de
reformulacin de polticas y programas.
Ms all de asegurar la puesta en prctica de las buenas recomendaciones
surgidas de un proceso de evaluacin, es necesario verificar el impacto que las
mismas tienen en el logro de los objetivos planeados para resolver problemas
sociales. Tal vez sea muy pronto para que esta actividad se encare, pero a la
fecha ninguno de los dos Consejos de evaluacin considerados en el trabajo
ha avanzado en su anlisis y valoracin.

discusin y conclusiones

Los casos de metaevaluacin mencionados en la bibliografa internacional


revisada (Unin Europea, Francia, Espaa, Canad y Costa Rica) nos informan
sobre la limitada utilizacin de las recomendaciones surgidas de los informes
de evaluacin para la reformulacin de las polticas y programas, pero ninguno
de ellos cuantifica dicho nivel de incidencia y, menos an, intenta explicarlo
empricamente, por lo que no es posible valorar nuestros avances a la luz de
los anteriores. Lo que s existe desde hace bastante tiempo en pases como
Francia son aproximaciones tericas a las dificultades que impiden el avance
de la evaluacin (polticas, administrativas, metodolgicas, psicolgicas,
etctera),54 todas ellas manejables como posibles hiptesis explicativas en el
caso mexicano.
Si bien se reconoce que los niveles de cumplimiento de los ASM del Coneval
y las recomendaciones de Evala DF son relativamente altos para el tiempo
que llevan trabajando, preocupa que, a pesar de las diferencias en su marcos
jurdicos, organizacin, funcionamiento, enfoques, mtodos, ambos logren su
mayor impacto en los ajustes para la operacin de los programas, incidiendo
mucho menos en su reformulacin. Esta situacin tambin fue identificada en

Eric Monnier, Objectifs et destinataires des valuations, Documentacin Administrativa,


nms. 224-225, Espaa, 1991; J.P Nioche y R. Poinsard, Lvaluation des politiques publiques,
Pars, Economica, 1994; Jean-Claude Thoenig, La evaluacin en actos. Lecciones del pasado
y preguntas para el futuro, Revista Gestin y Poltica Pblica, vol. XI, nm. 2, Mxico, CIDE,
2002, pp. 453-471.
54

Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

De la evaluacin a la reformulacin de polticas pblicas

147

el caso canadiense55 hasta la implantacin de la Ley sobre la Administracin


Pblica del ao 2000 que la reorienta hacia una Gestin por Resultados, con
altos niveles de participacin de sus funcionarios y un reforzamiento del papel
del Poder Legislativo; experiencia que constituye otro camino a explorar.
Otro punto que es necesario analizar, y al que pueden contribuir los
nuevos ejercicios de metaevaluacin, es si se justifica o no que a nivel federal
la cantidad de recomendaciones de evaluacin que logran transformarse
en ASM sea tan reducida, lo que no sucede en la experiencia de Evala DF,
como puede verificarse en su pgina web. Pero nuevamente se desconoce la
existencia de estudios de otros pases que cuantifiquen este dato y muestren
su evolucin.
Experiencias como la de Reino Unido,56 impulsadas desde el enfoque
de la NGP, demostraron que una forma efectiva de incentivar la utilizacin
de resultados de la evaluacin es vincularla estrechamente a la asignacin de
presupuesto. Tambin algunos pases latinoamericanos como Uruguay y Chile57
han intentado seguir este camino, pero con mayor flexibilidad y resultados
variados. En el caso mexicano, si bien la Cmara de Diputados introdujo los
procesos de evaluacin con ese fin expreso, en la prctica no se visualizan
avances al respecto.
A continuacin se sintetizan las conclusiones a las que se ha ido arribando
a lo largo del artculo:
Desde el inicio del nuevo siglo, Mxico ha puesto en marcha importantes
procesos de actualizacin de su marco legal y de la evaluacin formal de sus
programas, recientemente tambin de algunas polticas; sin embargo, an
falta bastante para alcanzar el desarrollo de una verdadera e internalizada
cultura de la evaluacin y de la utilizacin de sus resultados.
Coneval y Evala DF analizan la calidad y factibilidad de las propuestas
que efectan los equipos de evaluadores, pero el segundo debe emitir sus

55
Steve Jacob, Trente ans dvaluation de programme au Canada: linstitutionnalisation
interne en qute de qualit, Revue Franaise dAdministration Publique, nm. 119, 2006,
pp. 515-531.
56
W. Saint-Clair, Lvaluation des politiques publiques au Royaume Uni, Revue Franaise
dAdministration Publique, nm. 66, Francia, 1993 pp. 265-269; Jean-Claude Thoenig, Que
peut-on apprendre sagissant de la France de la rencontre franco-brittanique?, en Conseil
Scientifique de lvaluation, Lvaluation en dveloppement 1997, Francia, La Documentation
Franaise, 1998, pp. 49-50.
57
Nuria Cunill y Sonia Ospina, Evaluacin de resultados para la gestin pblica moderna
y democrtica..., op. cit., pp. 20-24 y 444-453; y Fortalecimiento de los sistemas de monitoreo...,
op. cit., pp. 47-72.

Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

148

Myriam Cardozo Brum

propias recomendaciones vinculatorias, recuperando tambin otros puntos


de vista.
El anlisis de la evolucin de los presupuestos muestra su tendencia
inercial en el caso del Distrito Federal, y sus modificaciones, a veces incluso
notorias, en el contexto federal, pero ninguna se relaciona claramente con
los resultados de las evaluaciones aplicadas.
Las evaluaciones llevadas a cabo por el Coneval no son tomadas en cuenta
por la Cmara de Diputados, que carece de suficiente personal especializado y, a veces, ni siquiera conoce su existencia. Tampoco Evala DF ha
logrado tener impacto a este nivel.
En consecuencia, se confirma la rigidez de los procesos de asignacin de
recursos, frente a los cuales la evaluacin prcticamente no est teniendo
efectos, lo que implica que las recomendaciones de mayor envergadura
(en torno al diseo) no pueden avanzar.
En cuanto a las recomendaciones sustantivas dirigidas a los programas
y polticas para mejorar sus formulaciones y procesos de ejecucin, el
Coneval ha tenido que disear mecanismos, en conjunto con la SHCP y la
SFP, que le permitan presionar a los evaluados para el cumplimiento de
los ajustes convenidos, debido a su falta de atribuciones vinculatorias.
Las recomendaciones realizadas por Evala DF, si bien son legalmente
vinculatorias, enfrentan serias dificultades para que las instancias responsables
de las polticas y los programas acepten dichas recomendaciones por temor
a comprometerse y que luego la SF no les autorice los recursos; mientras
esta Secretara rechaza las recomendaciones por considerar que se deben
dirigir a los rganos operativos. Adems, se han congelado los procesos
previstos para dirimir las controversias.
Los niveles de cumplimiento de las recomendaciones aceptadas giran
en torno del 73-74%, lo que es un logro importante para Consejos que
llevan funcionando entre 5 y 7 aos. Sin embargo, cuando se revisa ms
profundamente su contenido, se encuentra que son las recomendaciones
dirigidas a los procesos de ejecucin y control las que engrosan estos
porcentajes; en cambio, las que se dificultan son las relacionadas con la
elaboracin de diagnsticos, de evaluaciones de impacto y, muy especialmente, con la reformulacin y planeacin, que normalmente implican mayor
disponibilidad de recursos presupuestales. Por lo que las evaluaciones van
incidiendo poco a poco y con muchas dificultades en la toma de decisiones
de los rganos responsables de las polticas y programas.
En consecuencia, no hay evidencias contundentes de que las evaluaciones
mexicanas estn contribuyendo a incrementar la eficiencia de los programas
sociales, tema que preocupa al neoliberalismo. Queda pendiente que
ambos Consejos asuman la necesidad de evaluar el impacto de las
Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

De la evaluacin a la reformulacin de polticas pblicas

149

modificaciones hechas a los programas y polticas como consecuencia de


las recomendaciones aplicadas.
En sntesis, por su alcance nacional, mayor antigedad y amplia disposicin
de recursos, el Coneval muestra un cierto grado de hegemona en el tema;
sin embargo, la experiencia de Evala DF ejemplifica la posibilidad de
desarrollar un enfoque alternativo. Pero, queda abierta la inquietud sobre
cul debera ser el diseo institucional, alternativo a los dos analizados,
que garantizara una mayor utilizacin de los resultados de evaluacin en
los procesos de reformulacin.
En un contexto de restringida discusin internacional del tema, el presente artculo ha intentado aproximarse al conocimiento del mismo en el
caso mexicano, con plena conciencia de la limitacin que implica trabajar
fundamentalmente a partir de documentos oficiales y de la necesidad de
continuar investigando sus causas, para definir estrategias alternativas que
permitan remover las actuales resistencias.

Poltica y Cultura, otoo 2013, nm. 40, pp. 123-149

Vous aimerez peut-être aussi