Vous êtes sur la page 1sur 25

Gaceta Laboral

ISSN: 1315-8597
luisediaz@intercable.net.ve
Universidad del Zulia
Venezuela

Matos Bazó, Ruth


Una propuesta para la evaluación de programas sociales: lineamientos generales
Gaceta Laboral, vol. 11, núm. 1, enero-abril, 2005, pp. 95-118
Universidad del Zulia
Maracaibo, Venezuela

Disponible en: http://www.redalyc.org/articulo.oa?id=33611105

Cómo citar el artículo


Número completo
Sistema de Información Científica
Más información del artículo Red de Revistas Científicas de América Latina, el Caribe, España y Portugal
Página de la revista en redalyc.org Proyecto académico sin fines de lucro, desarrollado bajo la iniciativa de acceso abierto
Revista Gaceta Laboral
Vol. 11, No. 1 (2005): 95-118
Universidad del Zulia (LUZ) · ISSN 1315-8597

Una propuesta para la evaluación de


programas sociales: lineamientos generales
Ruth Matos Bazó*
*Socióloga. Magíster Scientarum en Ciencia Política y Derecho Pú-
blico, mención: Ciencia Política. Investigadora del Centro de In-
vestigaciones de Trabajo Social. Profesora de “Monitoreo y Eva-
luación de Programas Sociales”. Jefe del Dpto. Socio Económico
de la Escuela de Trabajo Social de la Facultad de Ciencias Jurídi-
cas y Políticas de la Universidad del Zulia. Maracaibo, Venezuela.
E-mail: ruthmatbaz@cantv.net.

Resumen

El objetivo de este trabajo es diseñar un plan para la sistematización y


análisis de la información generada durante la evaluación de un programa
social como un proceso integrado. Un análisis comparativo -previo- entre di-
ferentes enfoques teórico-prácticos de evaluación permitió identificar los
criterios de evaluación y sus principales características. Como resultado se
diseñó una propuesta para la utilización conjunta de la Matriz del Marco Ló-
gico y una ficha de evaluación; ésta última sistematiza la información gene-
rada en el proceso evaluativo de acuerdo a la lógica de la primera. La pro-
puesta contiene un conjunto de herramientas de evaluación para ser aplica-
das en las diferentes fases de desarrollo de los programas sociales, ya que se
adecuan a un sin número de los mismos, permitiendo una forma más rápida,
útil y sencilla de entender y realizar los procesos evaluativos. Se concluye en
una propuesta de instrumentos para validarlos en una futura aplicación y
en la propuesta de criterios para propiciar la discusión de su utilidad en la
evaluación de programas sociales.

Palabras clave: Evaluación de Programas Sociales, Propuesta de Evaluación,


Matriz del Marco Lógico, Ficha de Evaluación.

Recibido: 25-06-04 . Aceptado: 22-01-05

95
Evaluación de programas sociales: lineamientos generales / Ruth Matos Bazó _____________

Proposal for the Evaluation of Social Programs:


General Guidelines

Abstract

The objective of this paper is to design a plan for the systematization and
analysis of information generated during the evaluation of social programs
as an integrated process. A previous comparative analysis, between differ-
ent theoretical-practical evaluative focuses, allows for the identification of
evaluative criteria and their principal characteristics. As a result, a pro-
posal was designed for the combined use of the Matrix of the Logical Frame-
work, and an evaluative card; this card would systematize the information
generated in the evaluative process according to the logic of the former. The
proposal contains a series of evaluative tools to be applied in the different
phases of the development of the social programs, since they apply to an end-
less number of the same, allowing a more rapid, useful and simple manner of
understanding and evaluating them. The conclusion is the need for valida-
tion instruments in a future application and in choosing criteria for promot-
ing a discussion of their utility in the evaluation of social programs.

Key words: Evaluation of social programs, evaluation proposal, logical ma-


trix framework, evaluative card.

Introducción la evaluación se hace más compleja y


requiere de criterios específicos.
Un programa social adecuadamen-
Sin duda alguna, en la actualidad
te formulado mejora sustancialmente
se está promoviendo el uso de la Ma-
sus posibilidades de éxito y de opción
triz del Marco Lógico (MML) por dife-
para un financiamiento. Sin embargo,
rentes organizaciones internaciona-
el postulante debe contar con herra-
les y nacionales, como una herramien-
mientas de evaluación y seguimiento
ta, fundamentalmente, en la etapa de
de programas, desde su introducción
planificación para diseñar programas
hasta su última fase de la ejecución,
y proyectos de desarrollo. Sin embar-
que contengan los criterios que co-
go, el propósito que se persigue en este
múnmente se utilizan dentro de las
trabajo, es proponer un plan de siste-
organizaciones que evalúan estos pro-
matización y análisis de la informa-
gramas. Asimismo, la evaluación de
ción generada por un programa social
los programas debe realizarse utili-
en los diferentes momentos de su de-
zando más de un procedimiento, por-
sarrollo; dicha propuesta se basa en
que al tratarse de programas sociales,

96
_________________________________________ Revista Gaceta Laboral, Vol. 11, No. 1. 2005

dos instrumentos de evaluación, el En segundo lugar, corresponde a


primero, la Matriz del Marco Lógico y la comisión de trabajo, con la ayuda
el segundo, lo que llamamos una Fi- del evaluador, determinar el objeto de
cha de Evaluación, estrechamente la evaluación. Es decir, supone exami-
vinculada a la primera, que se alimen- nar los problemas planteados y deci-
ta de su información, de su lógica in- dir si la evaluación debe responder a
terna y genera unos resultados cohe- cuestiones de eficacia general, de im-
rentes y útiles. Asimismo, se incorpo- plementación o de diseño y concep-
ran al texto algunos términos básicos tualización del programa. En la eva-
para aclarar su significado en el con- luación de ejecución corresponde tam-
texto de la MML. bién al evaluador ayudar a los actores
del proceso a decidir qué cuestiones
1. Procedimiento sugerido para
serían más útiles investigar de acuer-
la evaluación de programas
sociales do a las fallas que esté presentando el
desarrollo del programa, y en función
La presente propuesta trata sobre de la utilidad anticipada de la evalua-
una forma de organizar el proceso de ción para resolver la situación, reali-
evaluación de los programas sociales, zar las recomendaciones pertinentes.
que introduce aspectos novedosos en la La tercera parte del proceso se re-
forma de realizarla, (decisiones relati- fiere a las decisiones en torno al dise-
vas al diseño de los instrumentos, mé- ño de la investigación evaluativa, mé-
todos, medida, análisis e informe fi- todos e instrumentos de medida. De-
nal), así como el hecho de que el equipo ben analizarse aquí todas las opciones
de trabajo debe estar integrado por el posibles: métodos cualitativos y cuan-
evaluador, las comunidades (a través titativos, experimentales, cuasiexpe-
de sus representantes) y los organis- rimentales, estadísticos, entre otros.
mos postulantes, financiadores, etc. La cuestión principal es la selección
Tanto para la fase previa a la ejecu- de los métodos más adecuados para
ción, como en el caso de que el progra- obtener los datos más precisos y apro-
ma se esté ejecutando o haya finaliza- piados, y sobre todo, que los resulta-
do, la evaluación puede orientarse por dos obtenidos sean realmente útiles
el procedimiento de evaluación suge- para el vaciado en los formatos.
rido, cuyos elementos básicos son bas- En cuarto lugar, una vez vaciada
tante simples, como se explica a conti- la información del programa en el for-
nuación. En primer lugar, se identifi- mato de la Matriz del Marco Lógico o
can los usuarios potenciales de la eva- actualizada (si ya era parte de su dise-
luación. Estos o sus representantes ño), recogidos y analizados los datos
-cuando se trata de grupos numero- por el evaluador, corresponde a la co-
sos- se organizan en una comisión de misión de trabajo participar activa-
trabajo que comparte con el evaluador mente en la interpretación de los re-
la máxima capacidad de decisión so- sultados y enjuiciar el programa a la
bre todo el proceso. luz de la evidencia empírica. Son asi-

97
Evaluación de programas sociales: lineamientos generales / Ruth Matos Bazó _____________

mismo los integrantes de esta comi- Cuadro 1, para el vaciado del conteni-
sión, ayudados por el evaluador los do del programa en la fase en la cual
encargados de darle la valoración se encuentre (antes, durante, des-
(puntuación) a las preguntas realiza- pués). Se reflejarán así las variacio-
das en la ficha de evaluación, y así ge- nes que el programa haya tenido y se
nerar las recomendaciones pertinen- actualizarán los indicadores de eva-
tes. luación del programa, de acuerdo al
Por último, debe realizarse un in- tiempo de ejecución con una pondera-
forme de evaluación que recoja las ción de resultados, y si ya ha finaliza-
conclusiones y recomendaciones ge- do la ejecución del programa, a través
neradas en el proceso evaluativo por de esos indicadores se realizarán los
el equipo de trabajo (se explica en su análisis pertinentes. Así mismo, se
aparte) para estimular la toma de de- realizará un análisis de los factores
cisiones oportunas y pertinentes por externos, ¿cómo están influyendo en
el órgano decisional. el desarrollo del programa? o ¿cómo
influyeron en el éxito o fracaso del
2. La Matriz del Marco Lógico
mismo?
(MML) como instrumento
de evaluación 2.1. La identificación de los
componentes de la Matriz del
En general, en el proceso de planifi- Marco Lógico
cación de programas sociales, la Ma-
triz del Marco Lógico (MML) se plan- La ejecución de un programa es
tea como un instrumento que puede una secuencia de hechos que se van
ser utilizado fundamentalmente, realizando y que tienen una relación
como parte del diseño de programas y causal interna. Dado que para la eva-
proyectos, así como también para pro- luación ex-ante no existe la absoluta
bar la coherencia del diseño del pro- certeza de que lo previsto en el pro-
grama en la evaluación ex-ante. grama o proyecto se cumpla en la rea-
En el marco de la metodología de la lidad, se considera el proceso como
MML, esta herramienta puede utilizar- una secuencia de hipótesis de desa-
se durante el desarrollo de la planifica- rrollo que se pueden analizar y eva-
ción del programa para llevar a cabo luar. Es el mismo sentido en el que se
una auto-evaluación e igualmente, sir- utiliza para el diseño de proyectos y
ve de punto de referencia durante toda que consideramos necesario explicar
la vida del programa, fundamental- como base para la posterior explica-
mente para hacerle un monitoreo (mé- ción de la evaluación.
todo de control del progreso físico en la En un primer momento se definen
realización y costo de la obra) y evalua- cada uno de los componentes de la
ciones (globales y puntuales) de ejecu- MML numerados como se observa en la
ción y de finalización del programa. operacionalización del formato, que
Para tal efecto, se utiliza el mode- mostramos a continuación como el
lo-base de la MML, marcado como el Cuadro 2.

98
_________________________________________ Revista Gaceta Laboral, Vol. 11, No. 1. 2005

Cuadro 1
Formato Base de la MML
Indicadores Modalidad de Factores
Descripción objetivamente comprobación de los Externos
comprobables IOC indicadores (Positivos o
negativos)

Objetivo General: Propó- Medidas (directas o indi- Medios de verificación de la Hechos, condiciones y deci-
sito central del programa y rectas): tiempo, lugar, cos- realización del objetivo del siones importantes, fuera
los fines que espera alcan- tos, beneficiarios y benefi- programa del control del programa,
zar, (Beneficiarios directos e cios esperados por el progra- Fuentes: documentos, pu- que influyen sobre el logro
impacto que se pretende). ma que permiten averiguar blicaciones, informes perió- del objetivo.
hasta qué grado se va a dicos, entrevistas, encues- De éstos ¿cuáles son necesa-
cumplir el objetivo general. tas, inspecciones, etc. rios o contribuyen a alcan-
zar la finalidad del progra-
ma?

Objetivos Específicos Medidas (directas o indirec- Pruebas, mediciones o indi- Hechos, condiciones y deci-
(metas): Efectos específicos tas) que sean indicadores de caciones que confirmarán siones específicas, fuera del
que se espera alcanzar como efectos e impacto del pro- que los objetivos específicos control del programa, que
resultado del programa. grama, que permitan moni- se van a realizar, se está afectan el logro de los objeti-
(Deben mencionar benefi- torear el cumplimiento de realizando o se ha realizado. vos específicos. ¿Cuáles, jun-
ciarios y beneficios busca- los objetivos específicos del Fuentes: idem arriba. to con los productos de éste,
dos) programa. son necesarios para lograr
los objetivos específicos del
programa?

Resultados: Tipo de pro- Indicadores: Metas de Fuentes: Control de los Hechos, condiciones y deci-
ductos (abastecimiento, ser- cantidad, tiempo y calidad tiempos, costos y cualidad siones o actividades especí-
vicios, obras, capacitación, de cada realización que per- de ejecución de obras, abas- ficas, fuera del control del
etc.) que deben generarse mitan averiguar hasta que tecimiento y servicios a tra- programa, que, junto con las
con los insumos aportados y grado se lograrán los resul- vés de inspecciones, audito- actividades de éste, son ne-
las actividades realizadas tados planificados. rias y pruebas en general. cesarios para lograr los pro-
para lograr los objetivos es- ductos.
pecíficos del programa.

Actividades: que debe rea- Insumos: Bienes y servicios Inspección de los avances o Hechos y actividades especí-
lizar el equipo del proyecto necesarios para realizar las adelantos, ficas, fuera del control del
para generar cada uno de actividades. Verificación de la correspon- proyecto, q6ue deben darse
los productos estipulados en Costo total y unitario de dencia de lo ejecutado con lo para iniciar las actividades
el proyecto. realización de cada produc- planificado. una vez que los insumos es-
to. Confrontaciones con bases tén disponibles para produ-
actuariales. Auditorias cir resultados.
eventuales.

Fuente: Elaboración propia (basada en Ander-Egg y Aguilar, 2000; Agencia Noruega para la Cooperación y Desarrollo
(NORAD), 1997; PASCUALE, 1999).

99
Evaluación de programas sociales: lineamientos generales / Ruth Matos Bazó _____________

Cuadro 2
Operacionalización del formato de la MML
Descripción Indicadores Modalidad de Factores
objetivamente comprobación de externos
comprobables IOC los indicadores
(1) Objetivo (1.1) Indicadores (1.2) Medios de (1.3) Factores externos
General verificación que afectan al objetivo
general
(2) Objetivos (2.1.) Indicadores (2. 2) Medios de (2.3) Factores externos
Específicos verificación que afectan a los
objetivos específicos
(3) Resultados (3.1) Indicadores (3.2) Medios de (3.3) Factores externos
o Productos verificación que afectan el logro
de los productos
(4) Actividades (4.1) Insumos (4.2) Medios de (4.3) Factores externos
verificación que afectan la realiza-
ción de las actividades
Fuente: Elaboración propia.

• (1) Objetivo General: En este dores como metas de resultados


recuadro se reseña el objetivo ge- del objetivo general. En el contex-
neral o global que explica la razón to de este enfoque, un indicador
por la que se implementa el pro- define la norma de realización
grama. Debe contener el propósito que haya que alcanzar a fin de lo-
central del programa y los fines grar un objetivo. Es decir, los indi-
que se esperan alcanzar, cuantifi- cadores especifican cómo habría
cables e interrelacionados. Es de- que medir el logro del objetivo ge-
cir, el por qué se emprende el pro- neral.
grama, quiénes son los beneficia- • (1.2) Modalidad de comproba-
rios directos y cuál es el impacto ción de los indicadores: En
directo que se pretende. Debe es- este recuadro se indican los me-
tar expresado como una situación dios de verificación de la realiza-
ya alcanzada, en términos verifi- ción del objetivo general o el pro-
cables y no contener dos o más ob- pósito central del programa. Son
jetivos que estén causalmente re- fuentes de información a través
lacionados (medios-fines). de las cuales se verifica que el ob-
• (1.1) Indicadores objetiva- jetivo se cumplió, especificándose
mente comprobables: Este re- los tipos de fuentes, que pueden
cuadro debe contener los indica- incluir documentos, publicacio-

100
_________________________________________ Revista Gaceta Laboral, Vol. 11, No. 1. 2005

nes, informes periódicos, entrevis- y que además permitan monito-


tas, encuestas, etc. rear el cumplimiento de los objeti-
• (1.3) Factores externos: En este vos específicos del programa.
recuadro se señalan los aconteci- • (2.2) Modalidad de comproba-
mientos, condiciones o decisiones ción de los indicadores: En
que pueden afectar el éxito de un este recuadro se indican los me-
programa, pero que están en gran dios de verificación de la realiza-
parte o totalmente fuera del con- ción de los objetivos específicos
trol de la administración del pro- del programa que pueden ser
grama. Cuando el hecho en sí no pruebas, mediciones o indicacio-
es negativo pero es una condición nes que confirmarán que el objeti-
necesaria para la ejecución del vo inmediato se va a realizar. Las
programa, el sentido negativo que fuentes pueden ser entrevistas o
pudiera tener se refiere a que si no encuestas a grupos interesados
se realiza, se vería afectada la eje- con conocimientos útiles sobre el
cución del programa y por consi- desarrollo del programa. Tam-
guiente el éxito del mismo. bién pueden incluir documentos,
• (2) Objetivos Específicos: En publicaciones, informes periódi-
este recuadro se indica la razón cos, entrevistas, encuestas, ins-
inmediata de un programa, es de- pecciones, entre otros.
cir, los efectos específicos que se • (2.3) Factores externos: En
esperan alcanzar como resultado este recuadro se señalan los he-
del programa si se completa con chos, condiciones y decisiones es-
éxito y a tiempo. Se deben mencio- pecíficas fuera del control de la di-
nar los beneficiarios y los benefi- rección del programa que, junto
cios buscados. Es importante acla- con los productos de éste, son ne-
rar que si puede contener más de cesarios para lograr los objetivos
un objetivo específico y sus efectos inmediatos.
contribuyan, en conjunto, para al- • (3) Resultados: En este recua-
canzar el resultado del programa. dro se señalan los resultados (o
Deben ser formulados como un es- productos) que el programa puede
tado ya alcanzado, de manera con- garantizar como consecuencia de
creta y verificable. sus actividades y los insumos
• (2.1) Indicadores objetiva- aportados. Estos resultados de-
mente comprobables: Este re- ben expresarse en trabajo termi-
cuadro contiene los indicadores nado como por ejemplo: sistemas
que determinan cómo habría que instalados, personal capacitado,
medir el logro de los objetivos es- abastecimiento, servicios, obras,
pecíficos. Ellos son las medidas es- etc.
pecíficas (directas e indirectas) • (3.1) Indicadores objetiva-
que funcionan como indicadores mente comprobables: En este
de efectos e impacto del programa, recuadro se indican los bienes y

101
Evaluación de programas sociales: lineamientos generales / Ruth Matos Bazó _____________

servicios (personal, equipos, capa- puesto debe especificar el costo to-


citación, etc.) que deben aportar tal y costo unitario de consecución
las partes implicadas en el pro- de cada producto.
grama para emprender las activi- • (4.2) Modalidad de comproba-
dades necesarias con las que ge- ción de los indicadores: Este
nerarán los resultados o produc- recuadro debe indicar donde se
tos planificados. Éstos deben ex- puede obtener la información
presarse en términos de metas de para verificar si el presupuesto se
cantidad, tiempo y calidad de gastó como estaba previsto. Gene-
cada realización. ralmente puede verificarse a tra-
• (3.2) Modalidad de comproba- vés del registro contable de la uni-
ción de los indicadores: Este dad ejecutora. Se pueden confron-
recuadro indica cuáles son las tar los datos obtenidos con bases
fuentes de información para veri- actuariales y eventualmente rea-
ficar que los resultados o produc- lizar auditorias.
tos efectivamente se han realiza- • (4.3) Factores externos: Este
do, determinando también el con- recuadro debe indicar cuáles son
trol del tiempo, costo y cualidad de los acontecimientos, condiciones o
ejecución de obras, abastecimien- decisiones fuera del control de la
to y servicios. Las fuentes pueden dirección del programa que deben
incluir: Inspecciones, informes, darse para iniciar las actividades,
auditorias y cualquier otra prue- una vez que los insumos estén dis-
ba acorde a la especificidad del ponibles, para completar los re-
programa. sultados o productos del progra-
• (3.3) Factores externos: En este ma, o que por el contrario, pueden
recuadro se encuentran los acon- afectar la consecución de los re-
tecimientos, condiciones o activi- sultados o productos.
dades fuera del control de la direc-
3. La MML para la evaluación
ción del programa que, junto con
ex-ante del programa
las actividades de éste, son nece-
sarios para lograr los productos. La MML como herramienta de eva-
• (4) Actividades: Este recuadro luación permite realizar una revisión
debe reseñar las actividades y ta- integral del programa propuesto an-
reas concretas que debe realizar el tes de iniciar su ejecución. A través de
equipo del programa para generar esta herramienta también se indaga
cada uno de los productos o resul- la viabilidad de los componentes y de
tados estipulados en el programa. las actividades planificadas y es la
• (4.1) Insumos: Este recuadro que permite tomar la decisión de la
debe contener los presupuestos, implementación o no, del programa
personal, equipos, etc., del progra- social. Además, nos permite efectuar
ma, necesarios para producir el las correcciones oportunas en el dise-
resultado propuesto. El presu- ño del proyecto.

102
_________________________________________ Revista Gaceta Laboral, Vol. 11, No. 1. 2005

En general, la evaluación ex-ante mer lugar, analizar si el objetivo


consiste en el análisis de la formula- global o general del programa
ción del programa para conocer si los está definido en forma precisa y si
elementos operativos del mismo (acti- contiene todos los componentes
vidades, tareas, recursos, presupues- de un buen diseño (el por qué,
to, etc.) resultan adecuadamente con- para quién y el impacto); en se-
sistentes en el documento del progra- gundo lugar, verificar que sea un
ma propuesto. objetivo realista y no muy ambi-
En aquellos casos, específicamente cioso. En tercer lugar, debe verifi-
cuando el diseño del programa ya se car que éste sea consistente con
ha realizado y sólo se está sometiendo las políticas de desarrollo del país,
el programa social a una evaluación con las líneas directrices del orga-
ex-ante para su financiamiento y/o nismo que va a otorgar el finan-
implementación, habría que, en pri- ciamiento y que represente una
mer lugar, vaciar la información con- justificación suficiente para el
tenida en el programa, en el formato programa.
de la MML, de acuerdo a la exigencia • La valoración de los objetivos
de lo que debe contener cada uno de específicos: El evaluador debe
los recuadros, tal como se indica en el en primer lugar, analizar si los ob-
aparte donde se identifican los compo- jetivos específicos del programa
nentes de la MML. no están definidos de forma im-
En segundo lugar, ajustado el dise- precisa, compleja y demasiado
ño del programa al formato de la ambiciosa, ya que son éstos los
MML, pasaría a ser sometido a la eva- que van a determinar la magni-
luación. Por otro lado, también puede tud del programa en términos de
ser útil cuando se reformule un docu- recursos, personal y estrategia.
mento de un programa utilizando el Otro aspecto importante en la va-
formato de la MML, ya que práctica- loración, es tener en cuenta que la
mente la MML es un resumen, en una etapa inferior debe ser necesa-
página, del diseño del programa que ria y suficiente para alcanzar
permite visualizar la coherencia in- la etapa superior, es decir se
terna del mismo. debe determinar si son necesarios
Antes de entrar en cómo debe ha- y suficientes para lograr el objeti-
cerse la valoración de los componen- vo general (lógica vertical).
tes de la MML, es importante recordar • La valoración de los resulta-
que cada nivel de la MML debe conte- dos: El evaluador debe analizar
ner las condiciones necesarias y sufi- si los resultados están bien dise-
cientes para el siguiente nivel supe- ñados, ya que se tiende a confun-
rior (lógica vertical), los pasos son los dirlos con los efectos que se espe-
siguientes: ran lograr como resultado del pro-
• La valoración del objetivo ge- grama (objetivo inmediato). Los
neral: El evaluador debe en pri- resultados son los que el progra-

103
Evaluación de programas sociales: lineamientos generales / Ruth Matos Bazó _____________

ma puede garantizar como conse- para el monitoreo y la evaluación


cuencia de sus actividades, en di- del programa, ya que permiten
ferentes etapas, durante el proce- determinar el nivel de realización
so de ejecución y que en conjunto que hay que alcanzar a fin de lo-
puedan considerarse como un me- grar el objetivo general, los objeti-
dio para el logro de los objetivos. vos específicos y los resultados. La
Debe asegurarse que estén inclui- medición que se hace a través de
dos todos los resultados esencia- los indicadores puede ser cuanti-
les para lograr los objetivos espe- tativa y/o cualitativa. La cuanti-
cíficos, que se incluyan sólo aque- tativa debe estar expresada en
llos que el programa garantice, unidades numéricas, de la misma
que sean factibles y definidos de manera que la cualitativa, tam-
forma concreta y verificable. bién debe ser cuantificable. El
• La valoración de las activida- evaluador debe valorar si están
des: El evaluador debe verificar bien diseñados, es decir, si con-
que las actividades incluidas en el templan todas las especificacio-
diseño del programa sean las ne- nes: el grupo beneficiario, la canti-
cesarias para producir los resulta- dad, la calidad, el tiempo y la ubi-
dos, ya que puede darse una so- cación Además, también es im-
breespecificación de actividades. portante que cada indicador sea
Por otro lado, debe asegurarse que independiente en cada nivel de
las actividades incluidas contri- los recuadros y refleje una prueba
buyan directamente al nivel del de logro en ese nivel. En este sen-
resultado superior y estén plan- tido, y dada la relevancia de los in-
teadas en términos de acciones dicadores para el proceso de eva-
que se emprenden y no en térmi- luación, es importante señalar los
nos de resultados alcanzados; por requisitos propuestos por Aguilar
último, que el tiempo disponible y Ander-Egg (1994:114): “inde-
para cada actividad sea realista. pendencia” (utilizar cada indi-
• La valoración de los insumos: cador para una sola meta), verifi-
El evaluador debe asegurarse que cabilidad (que permitan com-
el total de los insumos necesarios probar empíricamente los cam-
para lograr los resultados pro- bios que se van produciendo con el
puestos sea realista; que los insu- proyecto, permitiendo, asimismo,
mos sean condiciones necesarias y que el indicador tenga -objeti-
suficientes para emprender las vamente- el mismo significado
actividades especificadas y que tanto para un defensor como para
estén definidos de manera concre- un oponente del proyecto), vali-
ta y verificable en cuanto a canti- dez (que sirvan para medir todos
dad, calidad y costo. y cada uno de los efectos que per-
• La valoración de los indicado- sigue el programa o proyecto) y
res: Los indicadores son la base accesibilidad (cuya obtención

104
_________________________________________ Revista Gaceta Laboral, Vol. 11, No. 1. 2005

sea relativamente fácil o poco cos- yecto que son necesarios en cada
tosa)… Lo ideal es utilizar indica- uno de los niveles, para el éxito de
dores que requieran datos ya exis- la ejecución del proyecto, el eva-
tentes o disponibles, o que se pue- luador para aprobar el proyecto,
dan obtener mediante el sistema debe asegurarse que en el diseño o
de seguimiento y monitorización el equipo ejecutor, hayan tomado
prevista en el proyecto)”. Es con- las previsiones para controlar su
veniente aclarar que, en general, cumplimiento, influir sobre ellos o
en las primeras etapas de la plani- cambiarlos de ser posible.
ficación, los indicadores son sola- • La valoración de los medios
mente valores guías para analizar de verificación: El evaluador
el diseño del programa. para comprobar la utilidad de los
• La valoración de los factores indicadores debe disponer de
externos: La valoración de los fuentes de información confia-
factores externos es importante bles, que cuenten con datos actua-
para determinar las posibilidades lizados. El recuadro de los medios
de éxito del programa. Amerita de verificación a cada nivel debe
analizar todos los factores exter- especificar qué información tiene
nos en cada uno de los niveles y es- que estar disponible, de qué forma
tudiar su importancia y probabili- y quién debería facilitar la infor-
dad de que ocurran. Hay que ha- mación. Así mismo, se valorarán
cer una distinción importante en las fuentes externas al programa
cuanto a si los factores externos en cuanto a acceso, confiabilidad y
son negativos o positivos. En el pertinencia; así como el trabajo y
caso de los factores externos que el costo de cualquier información
afectan negativamente la ejecu- que el programa mismo vaya a
ción del proyecto, si su ocurrencia producir para determinar si los
es muy probable pero no segura, el beneficios justifican los costos.
evaluador debe asegurarse que el
4. La MML para la evaluación
equipo ejecutor haya tomado las
de la ejecución de Programas
previsiones para controlarlos,
Sociales
cambiarlos o influir sobre ellos.
Pero en el caso de que esos facto- La evaluación de ejecución de un
res sean dañinos para la ejecución programa social se puede definir
del proyecto, el evaluador debe so- como la indagación y valoración de la
licitar, si es posible, que se redise- implementación de un programa en
ñe el proyecto y si no es posible, re- cada uno de sus elementos metodoló-
chazar la propuesta del proyecto. gicos: componentes, resultados, acti-
En cuanto a los factores externos vidades, tareas, recursos, presupues-
positivos que son acontecimien- to, etc. Dicho en otras palabras, seria
tos, condiciones o decisiones fuera el análisis del desarrollo del proceso,
del control de la dirección del pro- el cumplimiento de las actividades y

105
Evaluación de programas sociales: lineamientos generales / Ruth Matos Bazó _____________

el logro de los resultados durante el dros numerados 1 y 2 (objetivo gene-


desarrollo del programa. ral y objetivos específicos) no hayan
Ahora bien, como ya se había seña- sufrido modificaciones durante la eje-
lado, la evaluación de ejecución puede cución; ocasionados, en algunos casos,
ser global -la que acabamos de men- por cambios en las condiciones objeti-
cionar- o de alguno de sus aspectos vas, o las percepciones de los ejecuto-
puntuales, cuando existe la necesidad res o en las exigencias de la autoridad
de profundizar el conocimiento de con poder decisorio, por ejemplo. En
cómo alguno de ellos está afectando la caso de que los objetivos permanezcan
marcha del programa (por ejemplo, la igual, se considerará como un punto
administración o la capacitación del de referencia para evaluar los logros
personal) o no se están logrando los del proyecto durante la ejecución.
resultados esperados (por ejemplo, la En tercer lugar, como ya se había
cobertura). mencionado, los indicadores son la
En nuestra propuesta, la evalua- base para el monitoreo y la evaluación
ción de la ejecución de programas con del programa, por lo que es necesario
la MML se plantea de forma global, es tener claro que en las primeras etapas
decir, para monitorear el programa en de la planificación, los indicadores son
su desarrollo, ya que la selección de solamente valores guías para anali-
los aspectos específicos a evaluar lo zar el diseño del programa. Cuando el
decidirá la autoridad correspondiente programa se está ejecutando, hay que
que solicite la evaluación, de acuerdo volver a revisar estos valores guías,
al interés del organismo que repre- evaluar su utilidad y de ser necesario,
sente y/o al aspecto que lo amerite, en sustituirlos por indicadores más espe-
cuyo caso la MML es un punto de refe- cíficos del programa. Teniendo enton-
rencia para la evaluación. ces, los indicadores de evaluación, és-
En un primer momento, es necesa- tos van a servir para valorar o mos-
rio el vaciado del programa a evaluar trar el progreso de una actividad en
en el formato de la MML (si no está in- relación con las metas planificadas,
cluido en el diseño), ya que la informa- en cuanto a “la entrega de sus insu-
ción del programa debe estar estruc- mos (indicadores de insumos, la ob-
turada de acuerdo a los requerimien- tención de sus productos (indicadores
tos del formato. En todo caso, como se de productos) y el logro de objetivos
trata de una evaluación de ejecución (indicadores de efectos e impacto)”
se deben colocar los valores actualiza- (Grupo del CAC, 1984 citado por Agui-
dos, es decir, hasta qué grado se han lar y Ander-Egg,1994:113).
cumplido las metas previstas? ¿Hasta En cuarto lugar, debe hacerse un
que punto se han cumplido los objeti- corte temporal en la ejecución, con fi-
vos de acuerdo al tiempo de ejecución? nes operativos, para medir la efecti-
En segundo lugar, el evaluador vidad de lo ejecutado del programa
debe verificar que los objetivos rese- hasta ese momento; me explico, debe
ñados en la primera columna, recua- establecerse la relación entre las me-

106
_________________________________________ Revista Gaceta Laboral, Vol. 11, No. 1. 2005

tas logradas y las metas planificadas. finalización del programa o resulta-


Puede medirse también la eficacia, dos y de impacto, es conveniente reto-
al incorporar el factor tiempo. Es de- mar cada definición. La evaluación de
cir, la relación del tiempo planificado resultados tiene el propósito de eva-
con las metas alcanzadas, con respec- luar el grado de cumplimiento de los
to a la relación entre el tiempo de rea- objetivos específicos del programa, en
lización con las metas planificadas, términos de efectividad, eficacia y efi-
todo ello, en función de los plazos pre- ciencia; y la función de la evaluación
vistos de relevamiento de la informa- de impacto es identificar y explicar los
ción de cada uno de los indicadores. Si efectos y modificaciones ocurridos en
se incluye el factor costo, se podría co- la situación inicial que origina el pro-
nocer qué tan eficiente ha sido la eje- grama, a través de la valoración de los
cución del programa hasta ese mo- indicadores del problema.
mento, ya que la eficiencia es una re- Antes de continuar, es necesario
lación óptima entre metas, tiempo y aclarar que si se ha realizado un mo-
costos. Es importante señalar que en nitoreo del programa durante su eje-
el enfoque de SIEMPRO (1999) se con- cución deben existir indicadores de
sidera este tipo de evaluación como de cumplimiento de metas de resultados
resultados de medio término. parciales, que en todo caso, lo que co-
En quinto y último lugar, el eva- rrespondería sería profundizar y ac-
luador debe indagar de qué manera el tualizar el análisis, en función de los
equipo ejecutor ha enfrentado las con- resultados finales planificados.
diciones externas que pudieran haber Ahora bien, para utilizar la MML
afectado la ejecución del programa, en esta fase, es necesario el vaciado de
previstas o no en el mismo; tanto para la información en el formato base. Si
su cumplimiento si son necesarias en se ha realizado el monitoreo, habría
función de alguna realización en los que actualizar los valores en términos
diferentes niveles, como si son negati- de resultados. Los pasos, de acuerdo a
vas y han afectado o pueden afectar el cada uno de los recuadros del formato,
desarrollo del programa. Si ya lo han son como sigue:
afectado, por presencia o ausencia, En primer lugar, el objetivo gene-
debe entonces valorar el grado de ral debe actualizarse en función de re-
afectación del programa en función sultados logrados, es decir, como una
del logro de los resultados y recomen- situación alcanzada, que permita
dar las acciones correctivas necesa- compararla con el objetivo general
rias al órgano decisional. programado. Por su parte, cada uno de
los objetivos específicos debe actuali-
5. La MML para la evaluación
zarse en función del resultado especí-
ex-post del programa
fico logrado.
Sobre la base de las ideas expues- En segundo lugar, es necesario re-
tas de la definición de la evaluación señar los productos logrados para el
ex-post, que abarca la evaluación de cumplimiento de los objetivos especí-

107
Evaluación de programas sociales: lineamientos generales / Ruth Matos Bazó _____________

ficos, así como cada una de las activi- 6. La Ficha de Evaluación


dades realizadas para la consecución del proyecto
de los productos. En relación con los
Las organizaciones que financian
insumos también debe indicarse can-
proyectos sociales, generalmente uti-
tidad, calidad y costo final de los utili-
lizan ciertos criterios previamente de-
zados para realizar las actividades.
finidos para seleccionar los progra-
En tercer lugar, en los recuadros
mas y proyectos. De acuerdo a estos,
de los indicadores deben colocarse
se presentan más adelante, tres “Fi-
los resultados cuantificados de cada
chas de evaluación” que son de gran
uno de los indicadores, en cada nivel
utilidad para evaluar el programa de
del formato; así como colocar los re-
acuerdo a la fase de desarrollo en la
sultados de los análisis efectuados a
cual se encuentre: antes, durante y
los logros alcanzados por el progra-
después de la ejecución; que además,
ma, en términos de efectividad, efi-
se corresponden y complementan con
cacia y eficiencia. Por otro lado, en el
la aplicación de la MML en cada uno
recuadro de los medios de verifica-
de esos momentos.
ción, deben señalarse, de acuerdo a
Es importante señalar que, si bien
cada nivel, las fuentes o registros
la MML se utiliza para la evaluación
donde reposa la información del
del programa social en su conjunto, la
cumplimiento de los indicadores de
ficha de evaluación nos permite obte-
resultados, o en su defecto, debe indi-
ner una puntuación que nos indica el
carse otras formas de verificación.
rango que lo califica como aceptable o
En cuarto y último lugar, en los no para su aprobación, una pondera-
recuadros de los factores externos, ción de la ejecución y una medida del
deben indicarse los hechos, no con- éxito o fracaso en la finalización.
trolados por los ejecutores, que tu- Las preguntas que presentamos en
vieron un efecto positivo o negativo cada ficha de evaluación se basan, por
en cada uno de los componentes del tanto, en los criterios técnicos y metodo-
programa, estuvieran o no, contem- lógicos exigidos por los organismos que
plados inicialmente en la programa- otorgan financiamiento a los progra-
ción. Pudiera considerarse, si es po- mas y proyectos (Fondo Interguberna-
sible, colocar de forma muy sintética mental de Descentralización y la Ley
el efecto positivo o negativo (cau- de Asignaciones Económicas Especia-
sa/efecto) sobre la ejecución del pro- les) cuyos criterios claves de elegibili-
grama. Quedaría para el informe fi- dad son: factibilidad, pertinencia, opor-
nal la explicación de cómo se enfren- tunidad, excelencia, coparticipación y
taron estos hechos, condiciones o de- sustentabilidad (Ministerio de Ciencia
cisiones de manera que su ausencia y Tecnología, 2000). Así como también
o presencia, afectara lo menos posi- en los supuestos teóricos de evaluación
ble, el éxito del programa. de programas y en el Enfoque del Mar-

108
_________________________________________ Revista Gaceta Laboral, Vol. 11, No. 1. 2005

co Lógico planteado por la Agencia de “No procede” se toma la puntuación


Noruega para la Cooperación y Desa- mínima del nivel “Muy bajo” (21) y la
rrollo (NORAD, 1997). puntuación anterior a la mínima del
6.1. Ficha de Evaluación Ex-ante nivel “Intermedio” (62); para la califi-
del Programa cación de “Favorable con cambios” se
toma la puntuación mínima (63) del
Se propone el modelo marcado nivel “Intermedio” y puntuación ante-
como el Cuadro 3 para la Ficha de rior a la mínima del nivel “Alto” (83);
Evaluación Ex-ante y el procedimien- por último para la calificación de “Fa-
to para su utilización es el siguiente: vorable” se toma la puntuación míni-
Para cada aspecto que se evalúa, se ma del nivel “Alto” (84) y la máxima
debe recolectar y analizar informa- del nivel “Muy alto” (105). De acuerdo
ción específica relacionada con las a lo anterior, los rangos quedarían
preguntas que se proponen en la ficha como sigue:
de evaluación. La ficha contiene 20 RANGOS:
preguntas y varias columnas para Entre 21 y 62 No procede
asignarles valores utilizando el código Entre 63 y 83 Favorable con cambios
de calificación siguiente: Entre 84 y 105 Favorable
1 = Muy bajo Después de haber recogido y anali-
2 = Bajo zado la información empírica y docu-
3 = Intermedio mental sobre el programa, el evalua-
4 = Alto dor puede enjuiciar el programa asig-
5 = Muy alto nándole la puntuación pertinente a
Para establecer la calificación del cada una de las preguntas, promediar
programa que se evalúa, es necesario y ubicar el programa en alguno de es-
obtener el promedio de todos los valo- tos rangos de una forma mucho más
res asignados a las preguntas de la fi- rápida, práctica y útil. Cómo presen-
cha de evaluación. Para determinar tar el informe de evaluación se explica
los rangos, en primer lugar, se utiliza más adelante.
la máxima calificación que pueden ob-
tener todas las preguntas en cada uno 6.2. Ficha de Evaluación de
Ejecución del Programa
de los niveles del código de califica-
ción. Así tenemos que la calificación Para la evaluación de la ejecución
máxima es como sigue: del programa, se propone el modelo
1 = Muy bajo x 21 = 21 marcado como el Cuadro 4. El procedi-
2 = Bajo x 21 = 42 miento para su utilización es el mis-
3 = Intermedio x 21 = 63 mo que se explicó para la ficha de la
4 = Alto x 21 = 84 evaluación ex-ante, es decir, para
5 = Muy alto x 21 = 105 cada aspecto que se evalúa correspon-
En segundo lugar, para la construc- de un indicador que permite -en este
ción de los intervalos que nos dan los caso- ponderar el progreso de una ac-
rangos de aceptación se toman los va- tividad en relación con las metas pla-
lores como sigue: para la calificación nificadas, además de detectar fallas

109
Evaluación de programas sociales: lineamientos generales / Ruth Matos Bazó _____________

Cuadro 3
Ficha de Evaluación Ex-ante del Programa

Calificación

Preguntas 1 2 3 4 5
1. ¿Es coherente la propuesta del programa con las prioridades establecidas en las políticas
de desarrollo del país?

2. ¿Es coherente la propuesta del programa con las directrices del organismo financiero?

3. ¿Es coherente el perfil institucional de la organización postulante con la propuesta de programa?

4. ¿El perfil laboral de los participantes, es adecuado y coherente al tipo de actividades que
se proponen en el programa?

5. ¿Se considera creativa y pertinente la propuesta de programa para resolver el problema?

6. ¿El tipo de programa es coherente al contexto social en el que se propone?

7. ¿Es coherente y suficiente el objetivo general en cuanto a los alcances del programa planteado?

8. ¿Son coherentes y suficientes los objetivos específicos para lograr el general y muestran
los aspectos concretos que se deben alcanzar?

9. ¿Se han definido claramente los beneficiarios directos e indirectos, de acuerdo al perfil
del programa?

10. ¿Es acorde el tiempo que se plantea para la realización del programa en cuanto a sus alcances
y objetivos?

11. ¿Es adecuada la distribución del tiempo de acuerdo a cada fase de realización?

12. ¿Son suficientes y coherentes los productos que se quiere generar para lograr los
objetivos específicos?

13. ¿Son adecuadas y precisas las actividades de cada fase de acuerdo a los productos que se
quieren generar?

14. ¿Es coherente y adecuado el presupuesto general para la consecución de los objetivos
del programa?

15. ¿Son ajustados los recursos solicitados para la calidad de ejecución del programa planteado?

16. ¿Están claramente establecidos el (los) impacto(s) que se quiere(n) lograr con la ejecución
del programa?

17. Desde el punto de vista técnico ¿Se definen adecuadamente los indicadores de medición
y seguimiento del programa?

18. ¿Se prevén en el programa las formas de verificación de los indicadores para medir los
logros obtenidos?

19. ¿Están contemplados en el programa, hechos o condiciones fuera del control del proyecto
que puedan afectar su ejecución?

20. ¿Qué nivel de sustentabilidad se le asignaría al programa

21. ¿Qué factibilidad real tendría el programa para su ejecución exitosa?

Fuente: Elaboración propia.

110
_________________________________________ Revista Gaceta Laboral, Vol. 11, No. 1. 2005

Cuadro 4
Ficha de Evaluación de Ejecución del Programa

Calificación

Preguntas 1 2 3 4 5
1. ¿En qué medida se está logrando el objetivo general del programa?

2. ¿En qué medida se están logrando los objetivos específicos del programa?

3. ¿Es acorde el tiempo planificado con el tiempo real de ejecución del programa?

4. ¿Se están cumpliendo las metas del programa en relación con las metas planificadas?

5. ¿En qué medida se están logrando los productos de acuerdo al tiempo planificado?

6. En qué medida se están logrando los productos de acuerdo al costo previsto?

7. ¿Se están realizando todas las actividades necesarias para la realización de cada producto?

8. ¿Se están ejecutando las actividades de acuerdo al tiempo planificado?

9. ¿Se están ejecutando las actividades de acuerdo al costo previsto?

10. ¿La puntualidad en la entrega de los insumos permite el cumplimiento de las metas
del programa?

11. ¿Es adecuado el desempeño institucional del programa en sus distintos niveles
jurisdiccionales, considerando sus mecanismos de ejecución?

12. ¿Se han presentado problemas en la ejecución para el logro de los resultados previstos
en el programa?

13. ¿El desembolso del presupuesto es acorde con el tiempo planificado?

14. ¿Se están cumpliendo las metas del programa en relación con el presupuesto asignado?

15. ¿En este momento se considera coherente y adecuado el presupuesto general para
la consecución de los objetivos del programa?

16. ¿Existen problemas en el financiamiento y en el flujo de fondos del programa?

17. ¿Han ocurrido hechos, fuera del control del programa que hayan afectado su ejecución?

18. ¿Qué factibilidad real tiene el programa de una finalización exitosa?

Fuente: Elaboración propia.

en los diferentes componentes del pro- columnas para asignarles valores uti-
grama. Es decir, se debe recolectar, lizando el mismo código de califica-
analizar y valorar cada información ción utilizado anteriormente: 1 = Muy
específica relacionada con las pregun- bajo; 2 = Bajo; 3 = Intermedio; 4 = Alto
tas que se proponen en la ficha de eva- y 5 = Muy alto.
luación para establecer una pondera- Como ya se ha explicado, para esta-
ción del cumplimiento de los resulta- blecer la calificación del programa
dos parciales del programa, a la vez que se evalúa, es necesario obtener el
que permiten detectar fallas en los di- promedio de todos los valores asigna-
ferentes aspectos que se evalúan. La dos a las preguntas de la ficha de eva-
ficha contiene 18 preguntas y varias luación. El procedimiento para deter-

111
Evaluación de programas sociales: lineamientos generales / Ruth Matos Bazó _____________

minar los rangos y la construcción de los resultados del programa y contes-


los intervalos, es el mismo utilizado tar con mayor precisión las preguntas
para la ficha anterior. De acuerdo con referidas a esos puntos. La ficha con-
el número de preguntas de la presente tiene igual cantidad de preguntas que
ficha, los rangos quedan como sigue: la ficha de evaluación, es decir, 18 pre-
RANGOS: guntas y varias columnas para asig-
Entre 18 y 53 Bajo nivel de cumpli- narles valores utilizando el mismo có-
miento digo de calificación planteado ante-
Entre 54 y 71 Mediano nivel de riormente: 1 = Muy bajo; 2 = Bajo; 3 =
cumplimiento Intermedio; 4 = Alto y 5 = Muy alto.
Entre 72 y 90 Alto nivel de cumpli- Igual que en los casos anteriores,
miento para establecer la calificación del pro-
Después de haber recogido y anali- grama, se obtiene el promedio de to-
zado la información empírica y docu- dos los valores asignados a las pre-
mental sobre el programa, el evalua- guntas de la ficha de evaluación. Los
dor puede enjuiciar el programa asig- rangos y la construcción de los inter-
nándole la puntuación pertinente a valos se determinan de la misma ma-
cada una de las preguntas, promediar nera. En función del número de pre-
y ubicar el programa en alguno de es- guntas de la presente ficha, los rangos
tos rangos de una forma rápida, prác- quedan como sigue:
tica y útil. Además, como ya se dijo, se RANGOS:
visualiza rápidamente dónde están Entre 18 y 53 Bajo nivel de rendi-
las fallas de la ejecución del progra- miento
ma, permitiéndole a quién interese, Entre 54 y 71 Mediano nivel de ren-
profundizar en la causa del problema dimiento
que se pueda estar presentando. Entre 72 y 90 Alto nivel de rendi-
6.3. Ficha de Evaluación Ex-post miento
del Programa La recolección y análisis de la infor-
mación sobre el programa, permite
Para la evaluación ex-post se pro- determinar al evaluador el rendi-
pone el modelo de Ficha de Evalua- miento real del programa a través del
ción marcado como Cuadro 5. El pro- logro de sus resultados, así como rea-
cedimiento para utilizarla es el mismo lizar los análisis de efectividad, efica-
que se ha venido mostrando hasta cia y eficiencia, que le van a permitir
ahora para las dos fichas anteriores. enjuiciar el programa asignándole
Como ya se señaló, para cada aspecto una puntuación pertinente a cada
que se evalúa, se debe recolectar y una de las preguntas, promediar y
analizar información específica rela- ubicar el programa en alguno de estos
cionada con las preguntas que se pro- rangos para una rápida y fácil inter-
ponen en la ficha de evaluación, lo que pretación que se fundamentará en el
permite al evaluador realizar análisis informe de evaluación.
de efectividad, eficacia y eficiencia de

112
_________________________________________ Revista Gaceta Laboral, Vol. 11, No. 1. 2005

Cuadro 5
Ficha de Evaluación Ex-post del Programa

Calificación

Preguntas 1 2 3 4 5
1. ¿En qué medida se logró el objetivo general del programa?

2. ¿En qué medida se lograron los objetivos específicos del programa?

3. ¿Cuál fue el grado de cumplimiento de las metas planificadas en el programa?

4. ¿Se considera efectivo el programa en relación a la consecución de los objetivos planificados?

5. ¿Cómo se considera la relación entre los costos proyectados y los costos reales?

6. En qué medida coincide el tiempo real de ejecución con el tiempo planificado?

7. ¿Se realizó un uso eficiente de los recursos asignados si se compara con otros usos alternativos?

8. ¿Cómo es la relación existente entre los resultados finales y el esfuerzo realizado en


términos de dinero, recursos y tiempo?

9. ¿Cómo es la relación entre costos y su efectividad social?

10. ¿Las acciones realizadas han sido útiles, beneficiosas o nocivas?

11. ¿Los resultados del programa se pueden deber a procesos alternativos exógenos al mismo?

12. ¿Cómo se considera el nivel de eficiencia del programa en relación con los hechos externos
que lo afectaron?

13. ¿Se han presentado problemas a nivel de la unidad ejecutora que afecten el logro
de los resultados previstos en el programa?

14. ¿Es positiva la opinión del grupo beneficiario y de los beneficiarios sobre el programa?

15. ¿Cómo se considera el nivel de implantación del programa en el contexto social en el que
se ejecutó?

16. ¿Cuál es el grado de participación social en el programa?

17. ¿Ha cambiado positivamente la situación problemática que dio origen al programa
como consecuencia de su ejecución?

18. ¿Se considera exitosa la ejecución del programa en relación con los resultados obtenidos?

Fuente: Elaboración propia.

7. Estrategia metodológica y del tipo de investigación evaluativa


procedimientos técnicos para la que se va a realizar, ya que, la natura-
recolección de la información leza de lo social amerita formas para
abordarla que implican la utilización
Atendiendo a las consideraciones
de técnicas cuantitativas y cualitati-
realizadas por Aguilar y Ander-Egg
vas, por lo que la posición actual más
(1994) en relación con los métodos y
difundida es la utilización de ambos
procedimientos que se deben utilizar
procedimientos. Ello va a depender,
para la búsqueda de información para
fundamentalmente, de cuál sea el ob-
la evaluación de un programa social,
jetivo que guía la evaluación. Por
la selección de los mismos dependerá

113
Evaluación de programas sociales: lineamientos generales / Ruth Matos Bazó _____________

ejemplo, si es una evaluación de proce- que contengan la formulación, infor-


sos, la mayor parte de las técnicas que mes de diagnósticos previos, estadís-
se utilizarán serán cualitativas y en el ticas referidas a la población objetivo
caso de una evaluación de resultados, y a la demanda potencial, etc.” (SIEM-
el mayor peso recaerá en las técnicas PRO, 1999:76). Puede recurrirse in-
cuantitativas. cluso, a fuentes de información prima-
A tal efecto, señalan Aguilar y An- ria (gerentes, técnicos o beneficiarios
der-Egg (1994), que del método cuali- del programa), en caso de ser necesa-
tativo se pueden utilizar las técnicas y rio.
procedimientos siguientes: Entrevis- Otro aspecto importante es la iden-
tas en profundidad (focalizadas y clí- tificación de las fuentes de informa-
nicas), Observación directa, Observa- ción, ya que el equipo de evaluación
ción participante, Análisis de conteni- debe determinar: quién, cómo y dónde
do, Recurso a la documentación, Infor- se conseguirá la información para
mantes clave, Estudio de casos, Histo- cada indicador o pregunta realizada.
ria de vida, Reuniones de grupo, Foro Las fuentes de información se pueden
comunitario, Técnicas grupales de in- clasificar como sigue: a) primarias:
vestigación, tales como: grupos nomi- del grupo beneficiario o de los benefi-
nales, grupos de creación participati- ciarios (indirectos), informantes cla-
va, grupo de discusión, etcétera. En ve, etc.; b) secundarias: otros organis-
cuanto a los métodos cuantitativos se mos (internacionales, nacionales, re-
utilizan procedimientos que permiten gionales, municipales, ONGs); y c) do-
medidas estandarizadas y se valen de cumentales: archivos del mismo pro-
procedimientos como: Entrevistas es- grama, informes de gestión, estadísti-
tructuradas, Encuestas, Análisis es- cas publicadas, bases actuariales, etc.
tadístico, Diseños experimentales y Ahora bien, en el caso de que sea
cuasi-experimentales, Escalas de me- necesario recolectar información de
dición de actitudes y opiniones, Tests, fuentes primarias, lo primero es iden-
entre otros. tificar el universo de estudio, si es el
Por otro lado, la información nece- total de una población o si es necesa-
saria para la evaluación de un progra- rio extraer una muestra a través de
ma no siempre se encuentra organiza- los procedimientos estadísticos perti-
da y sistematizada en un solo docu- nentes.
mento y lugar. En el caso de la evalua- En todo caso, habría que diseñar
ción del diseño de un programa, los los instrumentos o técnicas para reca-
datos y los elementos metodológicos bar la información, que como ya se
del mismo, se pueden encontrar en va- mencionó, pueden ser de la investiga-
rios documentos que “no necesaria- ción cualitativa y/o cuantitativa. Los
mente tienen orden y sistematización, instrumentos o técnicas deben ser
por esa razón, es necesario identificar adecuados al tipo de evaluación que
y recolectar toda la información docu- se vaya a realizar en función de la fase
mental del programa: documentos de desarrollo del programa.

114
8. Elaboración y presentación concordancia con los objetivos que se
del Informe de Evaluación persigan en el estudio y con las pre-
guntas que se formulan de acuerdo a
Después de efectuado el trabajo de
la ficha de evaluación.
campo, recabados los datos e informa-
Después de discutir las conclusio-
ción necesaria, es importante y preci-
nes preliminares y recogidas las ob-
so sistematizar los resultados su dis-
servaciones del equipo evaluador, se
cusión y análisis por parte del equipo
debe proceder entonces, a la redacción
de evaluación, para presentarlos jun-
del informe final y las conclusiones
to a las conclusiones y recomendacio-
para comunicar los resultados y las
nes pertinentes en el informe de eva-
recomendaciones. Presentamos las
luación, a quienes hayan encargado el
sugerencias prácticas siguientes:
estudio.
• Utilizar un lenguaje claro, senci-
El informe de evaluación además de
llo y concreto, ya que el informe
contener los resultados en cuanto a la
debe tener un lenguaje preciso y
puntuación, debe dar una explicación
comprensible centrándose en los
clara y precisa que la justifique, y la
resultados y recomendaciones,
forma de exposición de ello debe hacer-
para eso la ficha de evaluación
se en el mismo orden como aparece en
sirve también como guía para la
la Ficha de Evaluación, ya que ésta sir-
redacción. Asimismo, hay que
ve como guía. Una vez obtenida la in-
presentar observaciones concre-
formación, es preciso ordenar, clasifi-
tas y recomendaciones útiles para
car y agrupar los resultados, es decir,
ayudar a la toma de decisiones.
procesar y sistematizarlos de acuerdo
• Las propuestas deben ser prácti-
al orden que tienen las preguntas de la
cas, factibles y útiles. Prácticas,
ficha de evaluación, lo que puede dar
para que puedan ser fácilmente
lugar a los subtítulos del informe y ob-
utilizadas por los destinatarios de
tener así, conclusiones coherentes.
la evaluación. Factibles, por que
Es importante tomar en cuenta que
deben ser realizables, posibles en
la mayoría de las veces en las evalua-
el marco de los límites estableci-
ciones, lo que se intenta es encontrar
dos por el programa. Y útiles, es
explicaciones del éxito potencial de un
decir, que se aprovechen sus re-
programa, o del éxito o fracaso de su
sultados para tomar decisiones -si
ejecución o de alguna de sus partes, o
el programa está en ejecución- o
en el caso de que haya finalizado, com-
para futuras intervenciones.
probar las modificaciones que se han
• Como sugerencia para presentar
dado en una situación inicial como
el informe evaluativo planteamos
efecto de la ejecución del programa.
un esquema(*) que puede adap-
Así, el análisis y la interpretación que
tarse a cada caso concreto:
se realice de los datos, debe estar en

(*) El esquema se basa en el presentado por Aguilar y Ander-Egg (1994) y adaptado a la propuesta que se
realiza.

115
Evaluación de programas sociales: lineamientos generales / Ruth Matos Bazó _____________

I. Contenido beneficiarios se está haciendo


II. Presentación del programa a eva- referencia tanto a los beneficia-
luar (Situación inicial, objetivos, rios directos como indirectos. Pero
beneficiarios, equipo ejecutor, ad- cuando se coloca grupo benefi-
ministración y otros aspectos que ciario solamente se refiere al
se consideren importantes). grupo específico (directo) para be-
III.Identificación de la evaluación neficio del cual se emprende el
(Tipo, objetivos de la evaluación, programa y que se encuentra es-
método a utilizar, instrumentos, trechamente relacionado con el
datos etc.). impacto y la pertinencia.
• Efectividad: para el análisis de
IV. Resultados:
la efectividad se considera la rela-
- De la aplicación de la MML al pro-
ción existente entre las metas de
grama.
resultado realmente alcanzadas y
- De la aplicación de la ficha de eva-
las metas de resultados planifica-
luación.
das.
V. Discusión y explicación de los re- • Efectividad social: para el aná-
sultados: expuestos en el orden en lisis de la efectividad social se
el que aparecen las preguntas en la considera la relación existente
ficha de evaluación. entre los beneficiarios atendidos y
VI.Conclusiones, recomendaciones los beneficiarios atendibles por el
(**) y opciones. programa.
• Eficacia: Una medida del grado
9. Definición de Términos en que un programa o proyecto
Básicos
tiene éxito en el logro de sus obje-
Es importante señalar que existen tivos. Para su análisis se conside-
otros términos que aparecen en los re- ra la relación existente entre las
cuadros y en general en el trabajo, que metas de resultado efectivamente
es necesario dejar claro sobre cuál es alcanzadas y el tiempo previsto,
su sentido en el contexto de la MML y respecto de las metas previstas de
son los siguientes: resultado y el tiempo real.
• Actividad: Es el medio de inter- • Eficiencia: Una medida de la
vención sobre la realidad, me- “productividad” del proceso de
diante la realización secuencial e ejecución, es decir, en qué medida
integrada de diversas acciones se convierten los insumos en re-
necesarias para alcanzar las me- sultados. Para su análisis se mi-
tas y objetivos específicos de un den los resultados alcanzados en
programa o proyecto. relación con los costos y tiempos
• Beneficiarios: Cuando en el pro- planificados.
grama o proyecto se establecen los

(**) Si es un informe de evaluación del diseño de un programa, la modificación del programa pudiera
presentarse enmarcada en el formato de la MML.

116
_________________________________________ Revista Gaceta Laboral, Vol. 11, No. 1. 2005

• Impacto: Los cambios o efectos mo de concreción y especificidad


positivos y negativos producidos que debe hacerse en tiempo limi-
directa o indirectamente en una tado. Un conjunto de tareas confi-
situación inicial, como resultado guran una actividad.
de la ejecución de un programa o
Consideraciones finales
proyecto.
• Meta: Son los logros específicos Concretamente, se propone una
de un programa o proyecto. Las forma de organizar el proceso evalua-
metas operacionalizan los objeti- dor en la que cada componente del
vos ya que tienen que establecer programa evaluado a través de la
cuánto, cuándo y dónde se realiza- MML, sirve como información para
rán éstos. contestar cada una de las preguntas
• Monitoreo: Es un método de con- de la Ficha de Evaluación, que a su
trol del progreso en la realización vez son las guías para la elaboración
y costo de un programa o proyecto, del Informe de Evaluación.
basado en la supervisión continua Obviamente, no estamos propo-
o periódica de su ejecución física, niendo un nuevo modelo de evalua-
para asegurarse que los insumos, ción, sino una nueva forma de llevar a
actividades, resultados y factores cabo las evaluaciones. La propuesta,
externos sigan desarrollándose de sin embargo, nos parece importante
acuerdo a lo planificado. por dos razones: en primer lugar, por-
• Programa: Se refiere a un con- que la coherencia interna que tiene el
junto de proyectos o servicios co- procedimiento que se utiliza en la
ordinados y relacionados entre sí, MML se integra a todo el proceso, faci-
dirigidos hacia el logro de objeti- litando su comprensión, análisis y ex-
vos específicos de similar natura- posición; y en segundo lugar, porque
leza. Es importante aclarar, que la incorpora la preocupación por la sim-
utilización de la palabra “progra- plificación del proceso evaluador.
ma” en esta investigación engloba Se considera que lo que hace rele-
todos los tipos de intervenciones vante la propuesta es que el uso de la
para el desarrollo, lo que incluye MML aumenta la posibilidad de mejo-
programas, proyectos, estudios, rar el proceso de evaluación en varios
etc. aspectos fundamentales, promovien-
• Proyecto: Se entiende como un do una mayor disciplina analítica, ya
conjunto de actividades concretas, que permite controlar todos los aspec-
interrelacionadas y coordinadas tos esenciales necesarios para una de-
entre sí, con el fin de lograr ciertos cisión ponderada. Así como para pre-
objetivos específicos dentro de un sentar un cuadro coherente e integra-
presupuesto dado y dentro de cier- do que permite una visión completa
to período de tiempo. del programa durante su realización,
• Tarea: Acción que operacionaliza ya que la MML se actualiza constan-
una actividad con un grado máxi- temente mediante la evaluación. El

117
Evaluación de programas sociales: lineamientos generales / Ruth Matos Bazó _____________

conocimiento claro, explícito y detalla- Bibliografía


do, tanto del diseño como de la ejecu- AGUILAR, María y ANDER-EGG,
ción de los programas, genera que E. Evaluación de servicios y pro-
cada nivel decisorio juzgue los resul- gramas sociales. Buenos Aires, Ar-
tados del proceso evaluativo señalan- gentina. Editorial Lumen, 1994.
do los cambios de manera oportuna, lo
ANDER-EGG, E. y AGUILAR, M.
que significa un aumento de la trans- Cómo elaborar un proyecto.
parencia en las decisiones. Guía para diseñar proyectos so-
Al final de cada proceso evaluativo, ciales y culturales. Buenos Aires,
se puede comparar de forma rápida y Ar ge nti na . E di t or ia l LU-
visualmente comprensible a través de MEN/HVMANITAS (15ª ed), 2000.
la MML, lo programado con los resulta- MINISTERIO DE CIENCIA Y TEC-
dos obtenidos y determinar, las diferen- NOLOGÍA. Guía Metodológica
cias entre lo previsto y lo ejecutado en para la formulación de Proyec-
cada nivel. De la misma manera, la Fi- tos con Recursos del Fondo In-
cha de Evaluación nos permite manejar tergubernamental de Descen-
de forma rápida y coherente las res- tralización (FIDES) y la Ley de
puestas que son, en la mayoría de los Asignaciones Económicas Espe-
casos, una ponderación de los indicado- ciales (LAEE) para el Área Cien-
res de resultados de los programas. cia Tecnología e Innovación. Ca-
racas, Venezuela. Viceministerio de
En este caso se resalta la importan-
Planificación y Desarrollo, 2000.
cia de la sistematización, ya que impli-
ca la retroalimentación de la gestión AGENCIA NORUEGA PARA LA
de programas sociales y la orientación COOPERACIÓN Y DESARROLLO
para otros programas y políticas. Evi- (NORAD). El Enfoque del marco
lógico. Manual para la planifica-
dentemente, no sustituye a un informe
ción de proyectos orientados
de evaluación detallado, sino que lo
mediante objetivos. Madrid, Espa-
complementa facilitando su compren- ña. Instituto Universitario de Desa-
sión, interpretación y exposición. rrollo y Cooperación, 1997.
Aún cuando actualmente se está
SOFIA, Pasquale. El Cuadro Lógi-
aplicando la MML como parte del di-
co Master. Seminario: La M & E
seño del programa, así como también
(Monitoreo y Evaluación) de Progra-
existen fichas de evaluación que per- mas Sociales. (Material de apoyo)
miten medir aspectos parciales del Maracaibo, Venezuela, 2-4 de junio
programa, no forman parte de un pro- de 1999.
ceso integrado como el que presenta-
SIEMPRO. Gestión Integral de
mos. La idea en todo caso, es incitar a Programas Sociales Orientada a
la reflexión sobre la propuesta e im- Resultados. Manual Metodológi-
pulsar la discusión teórica sobre sus co para la Planificación y Eva-
posibles bondades hasta su validación luación de Programas Sociales.
con la aplicación en casos de progra- Brasil. UNESCO, Fondo de Cultura
mas sociales concretos. Económica, 1999.

118

Vous aimerez peut-être aussi