Académique Documents
Professionnel Documents
Culture Documents
La Evaluacin de Programas es un proceso para generar formas tiles de compren- sin sobre
una innovacin (o una intervencin). Este sentido de utilidad hay que entenderlo como la posibilidad
de utilizar la intervencin como un recurso crtico para mejorar los procesos de accin educativa,
razn por la que, a nivel metodolgico, puede entenderse como un proceso de investigacin
evaluativa (Tejedor y otros, 1994; Prez Juste, 1995; Amezcua y Jimnez, 1996; Martnez Mediano,
1997).
La investigacin evaluativa ha ido perfilndose con una metodologa concreta en los ltimos quince
aos. Esta metodologa queda delimitada por: una terminologa propia, un conjunto de herramientas
conceptuales y analticas especficas, y unos pro- cesos y fases tambin especficos. El conjunto
define un campo floreciente en el que realmente lo especfico es la mezcla y no las partes
constitutivas. Para Alvira (1991), algunas circunstancias que han contribuido a conformar este campo
de actuacin seran:
a) Mayor interrelacin entre las actividades de evaluacin y programacin. Si en una perspectiva
clsica la evaluacin se realiza despus de las actividades de planificacin, programacin y
desarrollo de la intervencin, en la actualidad ambas actividades caminan de forma paralela.
b) La investigacin evaluativa es investigacin (con todos los considerandos epis- temolgicos,
metodolgicos y tcnicos que ello entraa), pero es ms que inves- tigacin, ya que se entiende
como un proceso cuya finalidad es aplicar procedimientos cientficos para acumular evidencia vlida
y fiable sobre la manera y grado en que un conjunto de actividades producen resultados o efec tos
concretos. Intenta determinar el valor de la accin educativa, buscar solucio- nes a problemas
concretos o mejorar las estrategias de actuacin.
c) Se produce una mayor implicacin de las partes interesadas (observacin parti- cipante,
investigacin accin,).
d) Pueden integrarse estrategias de investigacin muy diversas, tanto cuantitati- vas como
cualitativas. Es un campo de trabajo que posibilita la utilizacin simultnea y sucesiva de diferentes
metodologas para el tratamiento de los temas objeto de estudio e intervencin. Ser la naturaleza
especfica del progra- ma y la pericia del evaluador quienes a la postre determinarn la utilizacin de
una o varias opciones.
La investigacin evaluativa es un modo de investigacin que implica un proceso riguroso, controlado
y sistemtico de recogida y anlisis de informacin fiable y vlida para tomar decisiones sobre un
programa educativo. Vemos que aparecen importantes puntos de contacto respecto a lo que
entendemos por investigacin: proceso siste- mtico, riguroso, controlado; utilizacin de tcnicas
de medicin y anlisis de datos. La evaluacin se distingue de la investigacin por los objetivos y no
por los mtodos Algunos autores, sin embargo, creen que conviene diferenciar ambas tareas,
sea- lndose como caractersticas peculiares de la investigacin evaluativa las siguientes
(De la Orden, 1985):
a) Los juicios de valor acompaan al desarrollo de todo el programa: desde la seleccin del
problema a estudio hasta en la aplicacin de metodologas con- cretas.
b) Resulta difcil (a veces inadecuado) formular hiptesis precisas.
c) La replicacin es prcticamente imposible dadas las caractersticas casi irrepetibles de la ejecucin de un programa de intervencin.
d) La recogida de datos est condicionada por la viabilidad del proceso.
e) Multitud de variables relevantes slo son susceptibles de un control superficial
limitndose por tanto la utilizacin de diseos de carcter mas experimental.
f) Las decisiones importantes en relacin con la paralizacin, sustitucin o repeti-
En cualquier caso, independientemente del modelo que se haya elegido, cualquier mnima
planificacin tiene que atender las siguientes tareas:
establecer las actividades que se van a evaluar
fijar los criterios de evaluacin
elegir las estrategias para la obtencin de informacin
analizar la informacin
tomar decisiones a partir de la informacin analizada
Donde podemos identificar los dos elementos bsicos del diseo de una evalua- cin, que
expresados en trminos sintticos seran:
La determinacin de los datos que se requieren para valorar la eficacia del pro- grama
La determinacin del plan para obtener la informacin necesaria que nos permi- ta establecer
relaciones entre el programa y los resultados obtenidos
En el cuadro 1 presentamos una reformulacin simplificada de la propuesta de Prez Carbonell
(1998, pp. 188-192) respecto a los aspectos a considerar en la delimita- cin del diseo en el marco
de la Evaluacin de Programas.
Algunas cuestiones importantes a tener en cuenta seran (Carballo, 1990, pgs. 166):
Se van a establecer las pautas que se seguirn en el proceso evaluativo? (dise- os prefijados
vs emergentes)
Los resultados de la evaluacin, se van a utilizar para mejorar el programa, para emitir un
informe sobre su funcionamiento o para ambas cosas a la vez? (diseos para una evaluacin
formativa vs normativa?
Se van a incluir en el estudio procesos de intervencin o slo se va a describir el funcionamiento
del programa? Si se incluye un proceso especfico de inter- vencin ser necesario analizar sus
efectos, lo que requerir la explicitacin de un diseo de investigacin
a) Diseos prefijados vs emergentes
Los diseos prefijados siguen la pauta del modelo positivista, requirindose que los objetivos de la
evaluacin estn claramente definidos y fijados con anterioridad a la ejecucin del programa, lo que
supone que todos los componentes del modelo (obje- tivos variables, tratamientos, fuentes de
informacin, datos a recoger, anlisis de datos,...) estn determinados a partir de presupuestos
tericos o de experiencias en evaluacin de otros programas similares.
Estos diseos tratan de informarnos sobre la consecucin de objetivos en la ejecu- cin del
programa, intentando el evaluador esclarecer los factores (variables y relacio nes entre ellas) que
han mediado en dicha consecucin. En sntesis, estos diseos
fijos se caracterizan porque:
son planeados con anterioridad
estn estructurados, aunque admite reajustes
se especifican problemas y objetivos, fuentes de informacin, instrumentos,
temporalizacin,...
se fijan los destinatarios de los informes
los datos suelen ser de carcter cuantitativo y se valora todo aquello que se
aproxima al paradigma racionalista
La prctica evaluativa ha ido poniendo de manifiesto que la evaluacin de la con- secucin de los
objetivos, planteada en estos trminos, resultaba muy difcil de realizar
Elementos
Contenidos
Dificultades
Consecuencias
Desarrollo del
programa
Entorno
Objeto de la evaluacin
Destinatarios
Criterios de evaluacin
Actividades
No se considera a los
implicados
No se implican los
interesados y se
tiende a descalificar
la evaluacin
Recogida de datos
Variables de inters
Fuentes de informacin
Instrumentos
Tcnicas de recogida
Pleitos
Procedimientos que violan
derechos
Procedimientos que utilizan Falta de cooperacin
tiempo valioso de usuarios Datos no reales
Procedimientos que implican
cambios de hbitos
Anlisis de datos
Informacin
criticada y no
valorada
Realizacin de
informes
Destinatarios
Nmero de informes
Difusin
La informacin no
se utiliza por los
grupos afectados
Manejo de la
informacin
Decisiones a tomar
Personas afectadas
Presupuesto de las
decisiones a adoptar
No se especifican bien
responsabilidades
Presupuestos deficientes
Informacin desaprovechada
Agravio colectivo
ya que las cosas no suelen desarrollarse en los trminos inicialmente previstos, lo que llev a los
evaluadores a flexibilizar sus planteamientos evaluativos iniciales, abrin- dose a nuevas
perspectivas valorativas, no slo de los resultados sino tambin del pro- pio proceso seguido
(evaluacin del proceso) intentando relacionar la valoracin de los resultados con las condiciones y
circunstancias en las que se desarroll el progra- ma, lo que nos conduce a criterios de eficiencia y
no slo de eficacia.
En seguida, este tipo de alternativa tuvo seguidores fervorosos (Stake, Owens, Par- lett y Hamilton,
Guba) y, especialmente, Scriven que incorpora como novedad la idea de valorar los efectos no
previstos, dejndose llevar por el desarrollo del progra- ma y cuestionndose incluso la utilidad de la
formulacin inicial de objetivos (Scriven,
1973).
Estos diseos emergentes pueden, globalmente, caracterizarse en los siguientes
trminos:
se adaptan mejor a las necesidades e intereses de los participantes
estn abiertos a posibles modificaciones que durante el desarrollo puedan
incorporarse
los problemas y objetivos no tienen por qu ser especificados inicialmente; se
produce una reformulacin constante de los objetivos del programa
no se especifican elementos tales como instrumentos de recogida de datos,
momentos de obtencin de la misma,..
se exige que el evaluador siga el desarrollo del programa estando en contacto
permanente con los participantes; este distinto grado de implicacin del evalua-
evaluacin de necesidades, siendo una fase del proceso de investigacin para la puesta en marcha
de un programa de intervencin, tiene entidad propia y es susceptible de ser analizada con un
esquema completo de investigacin evaluativa (Witkin, 1984).
2) Evaluacin del diseo (evaluacin de entrada)
Supone la preocupacin por la secuencia de los pasos a seguir, por la claridad de formulacin de los
objetivos planteados, por la calidad de los instrumentos o tcniEl diseo y los diseos en la Evaluacin de Programas
327
cas de obtencin de informacin, por la suficiencia de la muestra fijada, por la ade- cuada
localizacin de las unidades muestrales, por la procedencia de las actividades sugeridas, por la
adecuacin de las tcnicas de anlisis, (Mayer, 1985; Bartolom,
1990). Se pretende valorar el plan de accin (diseo) y los recursos del programa, a fin de
seleccionar las estrategias que permitan satisfacer ms adecuadamente las necesidades detectadas
y que mejor se adapten al grupo de personas al que el pro- grama va dirigido.
Incluye igualmente la evaluacin de las posibilidades de evaluacin del propio diseo (evaluacin de
la evaluabilidad). La experiencia determina que pocos de los programas llevados a la prctica son
evaluables al tener problemas de especificacin de objetivos, de implementacin, de adecuacin de
las actividades a la consecucin de objetivos, de carencia de medios para su desarrollo,...Por ello
estamos de acuerdo con quienes sugieren la conveniencia de llevar a cabo una revisin previa de las
posibilida- des evaluativas del programa (Anguera, 1990).
3) Evaluacin de la implementacin
Este tipo de evaluacin pretende analizar el funcionamiento del programa y deter- minar si existen
diferencias entre el funcionamiento real y el previsto inicialmente. Si hubiera diferencias notorias
entre ambos esquemas de funcionamiento trataramos de hallar las causas y, si fuera posible,
subsanar las deficiencias (Finnegan y otros, 1988). Puede pensarse que incluye:
Evaluacin de la cobertura: Trataremos de analizar si el programa cubre todos los objetivos
previstos y si llega a todos los sujetos para los que se haba pensa- do, determinando, si procede,
los sesgos de cobertura existentes y las causas que los han motivado.
Evaluacin del proceso (seguimiento): En algunos casos, sobre todo si el progra- ma es de larga
duracin, conviene realizar un anlisis de su funcionamiento a fin de verificar si su desarrollo sigue
las pautas previstas. Implica la revisin de todos los elementos constitutivos del programa
(personales, funcionales y mate- riales), en su dimensin interactiva: calidad de las actividades,
distribucin del tiempo y del trabajo, utilizacin de recursos,
La evaluacin adecuada del proceso supone la consideracin de todos sus elemen- tos por lo que se
sugiere un esfuerzo previo de reconsideracin respecto a las fases anteriores de ejecucin del
programa (necesidades, objetivos, diseo,). Los elemen- tos a considerar sern:
utilizacin adecuada de recursos
temporalizacin de actividades
implicacin de los destinatarios en las actividades
obtencin de informacin
328
4) Evaluacin de resultados
Hasta hace poco tiempo era el nico tipo de evaluacin que se llevaba a cabo tras la finalizacin de
las actividades que implicaba la ejecucin del programa. En trmi- nos generales, se trata de analizar
el grado en que el programa consigue los resulta- dos previstos (tambin pueden evaluarse, siempre
que se hayan previamente identificado, resultados no previstos inicialmente). Se intenta determinar
hasta que punto pueden vincularse los logros obtenidos con los efectos del programa, lo que tiene
especial inters en los diseos de intervencin dada la dificultad para estable- cer nexos de
causalidad y covariacin entre las variables consideradas en el pro- grama.
La evaluacin de resultados admite la modalidad de evaluacin de verificacin, que pretende
efectuar comprobaciones a base de patrones claramente identificados, tanto en base a datos
cuantitativos como cualitativos, y la modalidad de evaluacin comprensiva, que pretende ampliar o
profundizar la comprensin de situaciones y que utiliza bsicamente datos cualitativos.
La temtica de la evaluacin de resultados es amplia y compleja, apareciendo trata- da en la
bibliografa con diferentes terminologas: evaluacin de productos, de la efec- tividad, de la eficacia,
de la eficiencia,... (De la Orden, 1985, 1990). Los elementos a considerar en la evaluacin de
productos sern:
calidad de la informacin obtenida
posibilidad de valorar la consecucin de objetivos a partir de la informacin
disponible
calidad de los anlisis y adecuacin a los datos disponibles
propuestas para la toma de decisiones
pertinencia de las decisiones tomadas
5) Metaevaluacin
Los elementos a considerar sern las pautas de cambio estratgico en la interven- cin y en la
planificacin evaluativa
3. LOS DISEOS DE INVESTIGACIN EN LA EVALUACIN DE PROGRAMAS
La evaluacin de efectos supone la eleccin de un diseo adecuado de investiga- cin que permita
obtener, analizar e interpretar la informacin relevante para formular un juicio de valor y toma de
decisiones apropiadas. El diseo determina la posibilidad de detectar y comprender los procesos y el
impacto de un programa educativo, dada la multiplicidad de factores que influencian su operacin y
resultados (De la Orden,
1990).
Los diseos de evaluacin de programas pueden variar desde el ms riguroso
experimento de campo a la descripcin naturalista, pasando por la diversidad de diseos cuasiexperimentales o correlacionales. Existen muchas propuestas de clasificacin
El diseo y los diseos en la Evaluacin de Programas
329
de diseos de investigacin utilizables en el mbito especfico de la Evaluacin de Pro- gramas (Fitz
Gibbon y Morris, 1987; Cols y Rebollo, 1993). Nuestra propuesta es la siguiente:
A) Diseos para la investigacin cuantitativa
interna, validez externa, fiabilidad y objetividad (en las estrategias de investigacin activa y
participativa se reinterpretarn en trminos de credibilidad, transferibilidad, dependencia y
conformabilidad).
Un aspecto importante a tener en cuenta por el evaluador que decida seguir algu- nas de las
variantes del mtodo experimental es el problema que representa la experi- mentacin con sujetos
humanos. Desde los distintos efectos perturbadores que pueden modificar las conclusiones
obtenidas hasta las interacciones que pueden pro- ducirse en las caractersticas personales de los
sujetos. Pese a todo, las crticas ms fuertes al mtodo experimental le llegan por sus caractersticas
de artificialidad, de reduccionismo de la realidad que pretende explicar y por la operacionalidad
implcita de las variables que se incluyen. Por ello no consideramos adecuada la aplicacin de los
diseos experimentales, en sentido estricto, en el marco de la Evaluacin de Pro- gramas.
Experimentos de campo
Sin embargo, s creemos posible, aunque con muchas limitaciones, pensar en la modalidad de
experimentos de campo, que presentando los mismos presupuestos formales, su viabilidad de
aplicacin reside en el hecho de llevarse a cabo en marcos naturales, lo que supone una evidente
reduccin de su validez interna. Kerlinger (1977) caracterizaba los experimentos de campo en los
siguientes trminos:
se realizan en condiciones naturales, interviniendo todas las variables que influ- yen en el
fenmeno
los efectos producidos por las variables son generalmente ms fuertes que en el laboratorio
existe mayor validez externa, por su referencia a situaciones ms reales
existe la posibilidad de estudiar fenmenos complejos en situaciones similares a
la vida misma; son aplicables a gran variedad de problemas
son apropiados para la demostracin de teoras, comprobacin de hiptesis y la
resolucin de problemas prcticos.
El diseo y los diseos en la Evaluacin de Programas
331
Entre las dificultades que puede encontrarse el investigador social en la aplicacin de estos diseos
cabra citar los aspectos relacionados con el control de variables, con la aleatorizacin de las
muestras y con la disponibilidad de experimentadores bien entrenados.
Aunque son muchos los diseos que pueden aplicarse en los experimentos de campo, en todos ellos
deben seguirse en su planificacin los siguientes pasos:
determinacin de las muestras a utilizar;
especificacin de los tratamientos de cada una de las variables independientes;
asignacin de las condiciones experimentales (tratamientos) a los diferentes
grupos;
seleccin de las tcnicas adecuadas de control de variables;
constitucin de los grupos de control, si procede.
Cuasi-experimentos
Cundo no es posible establecer un control efectivo sobre las variables intervinien- tes, el
investigador social puede recurrir a diseos de control parcial o cuasi-experi- mentos. Deber
prestarse en su aplicacin especial inters a las variables que no se han podido controlar y
considerar la posibilidad de que los resultados que obtenga (rela- ciones entre las variables
muestra con el fin de obtener informacin sobre el entramado de variables e individuos analizados.
Los pasos a seguir en la aplicacin de estos mtodos seran:
especificacin de la poblacin de inters;
fijacin de la forma de obtencin de los datos;
delimitacin de las variables a estudio;
seleccin o construccin de los instrumentos para la medida de las variables;
forma o recogida de los datos (a travs de encuestas y cuestionarios);
establecimiento de las categoras de clasificacin de los datos;
tipo de anlisis a realizar, en funcin del objetivo del estudio.
Este mtodo puede concretarse en diseos muy variados, todos ellos encuadrados en una de estas
dos categoras: diseos descriptivos o diseos correlacionales.
El diseo y los diseos en la Evaluacin de Programas
333
1) Diseos descriptivos. Su objetivo fundamental es posibilitar la comparacin de comportamientos
de grupos en diferentes variables, que no estn bajo control del investigador sino que han ocurrido
de forma natural y sin intervencin experimental. Su finalidad, por tanto, es bsicamente descriptiva.
Sus limitaciones ms importantes son: la falta de control sobre la variable criterio, la imposibilidad de
establecimiento de relaciones causales y la distinta familiaridad que los grupos puedan tener
respecto a los instrumentos de medida utilizados.
Como modalidad bsica de este tipo de diseos destacamos los estudios de encues- ta (tipo survey),
con un esquema tipo de investigacin que incluye las siguientes fases:
Definicin del problema,
Establecimiento de hiptesis, considerandos,
Seleccin de variables
Seleccin/elaboracin de instrumentos
Medida de variables
Anlisis de datos, conclusiones y toma de decisiones
2) Diseos correlacionales. Nos permiten comprender la complejidad del fenmeno o hecho social
estudiado, determinando las variables relacionadas con el mismo o las dimensiones bsicas en las
que se puede descomponer. El esquema tipo de trabajo es similar al presentado para los diseos
descriptivos. Pueden distinguirse a su vez tres modalidades:
a) En la modalidad de diseos de covariacin su finalidad es descriptiva resul- tan especialmente
adecuados para los casos siguientes: realizar anlisis explora- torios en campos poco estudiados o
con estructuras complejas; establecer tipologas y/o dimensiones bsicas en un conjunto de
variables; conocer rela- ciones entre variables, que posteriormente pueden estudiarse con
metodologas experimentales.
b) La modalidad de diseos correlacionales predictivos se aplican cuando se tiene un mayor
conocimiento de la relacin entre las variables, de forma que pueden categorizarse como variables
criterio o como variables predictoras (este status puede cambiar de una investigacin a otra). Su
objetivo fundamental es predecir, pronosticar, el comportamiento de un grupo de sujetos en una
variable criterio determinada, a partir del conocimiento de su relacin con un conjunto de variables
predictoras.
c)
Una tercera modalidad de diseos correlacionales son los denominados dise- os
correlacionales causales. Se sitan en un punto intermedio entre la meto- dologa correlacional y la