Académique Documents
Professionnel Documents
Culture Documents
Concepto y coordinacin:
Jorge Hernndez Uralde
Laura Delgado Maldonado
Diseo y formacin:
Mnica Corts Genis
Manual tcnico de los Exmenes Generales
para el Egreso de la Licenciatura (EGEL)
D.R. 2013, Centro Nacional de Evaluacin
para la Educacin Superior, A.C. (Ceneval)
Av. Camino al Desierto de los Leones 19, Col. San ngel,
Deleg. lvaro Obregn, C.P. 01000, Mxico, D.F.
www.ceneval.edu.mx
Se prohbe la reproduccin total o parcial de esta obra incluido el diseo
tipogrfico y de portada, sea cual fuere el medio, electrnico o mecnico,
sin el consentimiento por escrito del editor.
Junio de 2013
Impreso en Mxico
Printed in Mexico
ndice
Prefacio . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .5
Presentacin . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .7
1. Antecedentes y alcance del EGEL . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .9
1.1 El contexto internacional de la evaluacin de resultados de aprendizaje en la educacin superior
9
1.2 Qu es el EGEL
13
1.2.1 Caractersticas de la prueba
13
1.2.2 Quines elaboran la prueba
14
1.2.3 Organizacin de los contenidos en el EGEL
16
1.2.4 Niveles de desempeo y asignacin de testimonios
17
1.2.5 Descriptores de los niveles de desempeo
18
1.2.6 La calificacin de los resultados de los sustentantes en la prueba
18
1.2.7 El cuestionario de contexto
20
1.2.8 La gua de estudio para el sustentante
23
2. Reportes de resultados . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .25
2.1 Reporte individual de resultados
25
2.2 Reporte de resultados por IES de procedencia. Ordenamiento descendente
27
2.3 Reporte de resultados por IES de procedencia. Clasificacin por desempeo
28
2.4 Archivo electrnico de resultados
28
2.5 Informes anuales de resultados
30
3. Operacin y mantenimiento del banco de reactivos y formas del EGEL . . . . . . . . . . . . . . . . . . . .31
3.1 La plataforma informtica:
El Sistema de Administracin de Bancos de Exmenes y Reactivos (e-SABER)
31
3.1.1 La elaboracin y validacin de los reactivos
en el Banco de Reactivos para Asesores Externos (e-BRAE)
32
3.1.2 Ensamble de formas en el Banco de Seguridad de Exmenes (e-BASE)
34
3.2 Procesos de elaboracin y validacin de los reactivos
37
3.2.1 Elaboracin de los reactivos
37
3.2.2 Validacin de los reactivos
38
3.3 Proceso de piloteo y calibracin de los reactivos
39
4. Diseo y construccin del EGEL . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .43
4.1 Delimitacin del objeto de medida: el constructo y los contenidos especficos de la prueba
43
4.1.1 Definicin de las funciones, actividades y tareas profesionales
45
4.1.2 Encuesta en lnea para la validacin social del perfil profesional del EGEL
47
4.1.3 Proceso de elaboracin y validacin de las especificaciones de la prueba
51
4.1.4 Construccin de los descriptores de los niveles de desempeo
57
4.1.5 Procedimiento general para la determinacin de la longitud y estructura de la prueba
58
4.2 El establecimiento de los estndares de desempeo
59
5. Indicadores de validez . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .65
5.1 Sobre la validacin del contenido, el criterio y el constructo del EGEL
65
5.2 Los datos psicomtricos como indicadores de validez y confiabilidad del EGEL
66
Bibliografa . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .69
Prefacio
EL
ramiento de la calidad.
Presentacin
EL
del EGEL.
de la prueba.
EN
1.1
El contexto internacional
de la evaluacin de resultados
nismos acreditadores
10
conocimiento.
pruebas.
11
12
prensin interpersonal.
1.2
Qu
es el EGEL
1.2.1
Caractersticas
de la prueba
13
14
nacional
do de los EGEL.
1.2.2
Quines
elaboran la prueba
organizada
profesin, los cuales, a su vez, se apoyan en cuerpos auxiliares, denominados comits acadmicos
corresponde:
Figura 1.
Participantes en la elaboracin de los exmenes
Los
consejos
tcnicos
deciden los
principios y
directrices
generales
que
determinan
el contenido
de cada
examen
Los rganos
auxiliares
del consejo
tcnico
son comits
acadmicos
que realizan
tareas
especializadas
en el
contenido
del examen
muestra en la figura 2.
Figura 2.
Perfil y proceso para la designacin de los consejos tcnicos
Revisa la conformacin del CT, de acuerdo con
su reglamento
Ceneval
Consejo tcnico
Perfil:
Amplia experiencia
profesional
Alta especializacin
Altamente calificado
Profesionista reconocido
Prestigio acadmico
Amplia capacidad
de gestin en su IES
IES
Reglamento de los consejos tcnicos de los exmenes, aprobado en la XLIII Sesin Ordinaria del Consejo celebrada el 25
de junio de 2012, disponible en: http://archivos.ceneval.edu.mx/archivos_portal/12275/ReglamentodelosConsejosTecnicos
delCeneval2012.pdf
15
16
tran en la figura 3.
1.2.3
Organizacin
de los contenidos en el EGEL
cin de reactivos)
ejercicio de la profesin
Figura 3.
Perfil y funciones de los comits acadmicos
Diseo
del examen
Elaboracin
y validacin de
especificaciones
Comit acadmico
Perfil:
Amplia experiencia
profesional y docente
Alta especializacin
Altamente calificado
Profesionista reconocido
Prestigio acadmico
Elaboracin
de reactivos
Elaboracin
de reactivos
tcnico:
en la prueba
Temas. Se corresponden con las tareas o acciones que son necesarias para llevar a cabo las
actividades profesionales (subreas) conside-
radas en la prueba
Contenidos especficos. Se corresponden con
los conocimientos y habilidades asociados a la
racin de reactivos
1.2.4
y asignacin de testimonios
Tabla 1.
Ejemplo de criterios para otorgar testimonios de desempeo en el EGEL
Criterios para el otorgamiento del testimonio de desempeo en el examen
Testimonio de Desempeo Satisfactorio (TDS)
De las cinco reas, al menos una con DSS y las restantes con DS
Satisfactorio
Sobresaliente
17
18
En este ejemplo:
Para hacerse acreedor de un Testimonio de
Desempeo Satisfactorio (TDS) el sustentan-
1.2.6
1.2.5
(PCNE1)(Q)
ICNE = ____________ + LiICNE
Tp
sea el caso.
calificacin
1,150-1,000 = 150
1,300-1,150 = 150
Tp2 = PC2-PC1
Tp3 = 100-PC2
Li(ICNE)= Lmite inferior del intervalo de calificaciones del ndice Ceneval
Valores: 700 (700-999)
1,000 (1,000-1,149)
1,150 (1,150-1,300)
diferentes.
sobresaliente.
Grficas 1a y 1b.
Ejemplos de diferentes puntos de corte asociados al ndice Ceneval
19
20
1.2.7
El cuestionario
de contexto
El rea personal conjunta variables que describen las caractersticas intrnsecas del sustentante, como su edad, gnero, antecedentes aca-
Subrea
estudiantes admitidos
Contenidos especficos
indirecto
rea
expectativas acadmicas.
jo de una computadora.
Tabla 2.
Estructura del cuestionario de contexto para los EGEL 2012
rea
Identificador
Datos generales
Personal
Recursos no cognitivos
Situacin laboral
Trayectoria acadmica
Escolar
Social
Escala/Variables
individuales
Nm.
preguntas
VI
Nombre
VI
Edad
VI
Sexo
VI
Subrea
Caractersticas
de la
escuela de procedencia
Familiar
Contenidos especficos
Estado civil
VI
Lengua materna
VI
Expectativas laborales
VI
Expectativas econmicas
VI
VI
VI
Beca en la licenciatura
VI
Cambio de licenciatura
VI
VI
VI
VI
VI
Calidad de la escuela
10
Estructura familiar
VI
Capital cultural
Capital econmico
12
Total
69
21
22
Diseo modular
sobre el rendimiento.
cin sustentante.
EGEL.
Figura 4.
Composicin de un cuestionario de contexto para un examen de egreso
1.2.8
La gua de estudio
para el sustentante
23
2. Reportes de resultados
LAS
25
2.1
Reporte individual
de resultados
26
Figura 5a.
Reporte de resultados del sustentante (anverso)
Figura 5b.
Reporte de resultados del sustentante (reverso)
2.2
Reporte de resultados
Ordenamiento descendente
timonios de desempeo.
Figura 6.
Reporte de resultados por IES de procedencia. Ordenamiento descendente
27
28
Figura 7.
Reporte de resultados por IES de procedencia. Clasificacin por desempeo
2.3
Reporte de resultados
prueba.
De igual manera, en el reverso se incluyen los
2.4
Archivo electrnico
de resultados
Figura 8.
Estructura del archivo electrnico de resultados
Identificacin
de la aplicacin
Identificacin
de la institucin
Identificacin
del sustentante
Cuestionario de contexto
aplicacin de la prueba.
na de la IES.
Entorno social.
29
30
Tabla 3.
Descripcin del segmento del archivo electrnico
de resultados correspondiente a la calificacin del sustentante
Variable
I rea 1
D rea 1
I rea 2
D rea 2
I rea 3
D rea 3
I rea 4
D rea 4
Dictamen
Descripcin
ndice Ceneval
rea 1
Dictamen
rea 1
ndice Ceneval
rea 2
Dictamen
rea 2
ndice Ceneval
rea 3
Dictamen
rea 3
ndice Ceneval
rea 4
Dictamen
rea 4
Testimonio de
desempeo
alcanzado
en la prueba
Valores
700-1,300
ANS
DS
DSS
700-1,300
ANS
DS
DSS
700-1,300
ANS
DS
DSS
700-1,300
ANS
DS
DSS
ST
TDS
TDSS
2.5
de resultados
3. Operacin y mantenimiento
del banco de reactivos y formas del EGEL
EN
31
Exmenes (e-BASE).
3.1
La plataforma informtica:
el Sistema de Administracin
Figura 9.
Estructura de la plataforma informtica e-SABER
Colaboradores externos:
Elaboradores y validadores de especificaciones
Elaboradores de reactivos
Validadores de reactivos
Apoyos tcnicos
Personal Ceneval:
Responsable del proceso
Responsable del examen
Director del rea acadmica correspondiente
Banco de Reactivos
para Asesores Externos:
e-BRAE
Personal Ceneval:
Responsable del examen
rea de bancos y ensamble de versiones
Director del rea acadmica correspondiente
Banco de Seguridad
de Exmenes:
e-BASE
32
3.1.1
La elaboracin y validacin
Categora temtica
Nivel cognoscitivo
Bibliografa
Figura 10.
Ingreso al e-BRAE
Figura 11.
Men de Preferencias del e-BRAE
Figura 12.
Captura y edicin de reactivos nuevos en el e-BRAE
33
34
3.1.2
Ensamble de formas
en el Banco de Seguridad
Figura 13.
Estructura general del e-BASE
para el ensamble de formas
de Exmenes (e-BASE)
Se le denomina ensamble de formas al proceso a travs del cual se integra el conjunto de reactivos que formarn parte de las distintas formas
de la prueba. El ensamble de las formas del EGEL
se lleva a cabo a travs de una plataforma informtica denominada e-BASE (Banco de Seguridad
de Exmenes), la cual opera de manera interna
en el Ceneval, con accesos son restringidos y de
acuerdo con las funciones del personal tcnico
asociado a la prueba.
El sistema permite cargar las formas en forma
automtica o manual; una vez generadas, se editan para su uso en lnea o para su impresin.
tcnicos:
especificaciones
res de calidad
dad de la prueba
4. Nmero de la forma
cada EGEL)
8. Fecha de elaboracin
Figura 14a.
Tabla tcnica de las formas
2
Figura 14b.
Tabla tcnica de las formas
9
11
10
13
12
15
14
16
35
36
Figura 14c.
Tabla tcnica de las formas
17
19
18
20
Figura 14d.
Tabla tcnica de las formas
DA
CE
3.2
Procesos de elaboracin
y validacin de los reactivos
3.2.1
Elaboracin
de los reactivos
Por su agregacin
tipo de reactivo.
Por su formato
medir
37
38
forma novedosa
La informacin debe ser clara y precisa, a fin
de evitar mltiples interpretaciones
En el planteamiento del problema, incluir
cin operacional
Carecer de estereotipos de gnero o culturales
Estar libre de referencias a marcas o nombres
de personas innecesariamente
culturales
La respuesta correcta debe ser unvoca y los
tres distractores plausibles o verosmiles
3.2.2
Validacin
de los reactivos
La validacin se lleva a cabo en mesas de trabajo para cada rea del examen, conformadas por,
al menos, tres expertos de diferentes IES del pas
y con experiencia probada en la elaboracin de
reactivos del EGEL y un coordinador del
Ceneval, quien modera la discusin en la mesa de
trabajo. Los validadores revisan de manera individual el reactivo con base en unos criterios definidos y posteriormente de manera grupal intercambian opiniones para llegar a un consenso y
dictaminar el reactivo (imagen 1). Previamente,
se capacita a los expertos como validadores.
Imagen 1.
Mesa de trabajo de validacin de reactivos nuevos
especfico)
3.3
diferentes formas de la prueba un grupo adicional de reactivos (que por definicin son nuevos)
Figura 15.
Trayectoria de un reactivo nuevo listo para pilotear
Revisin
tcnica
Elaboracin
Validacin
Revisin
de expertos
Observaciones
correccin
para
elaborador
Descartado
Aceptado
Revisin
tcnica
Piloteo
Revisin
tcnica
Revisin
de estilo
39
40
aplicaciones.
mayores a 0.20.
b +3 (Baker, 2001).
Se entiende por dificultad de un reactivo al nmero de sustentantes que contest correctamente el reactivo entre el nmero total de sustentantes que respondieron el reactivos; esta proporcin se denota con una p e indica la dificultad del reactivo (Crocker y Algina, 1986).
Grfica 2.
Comportamientos de las opciones de respuesta
41
EN
43
Testimonios de Desempeo.
pruebas.
profesional.
Por esta razn y por el hecho de que las pro-
4.1
de medida: el constructo y
fiabilidad.
organizados.
44
cio de la profesin.
Desde esta perspectiva, la delimitacin del
el pblico usuario.
FUNCIONES
mbitos de actuacin en los que actualmente
se organiza el ejercicio de la profesin
Informacin
que se valida
en la encuesta
ACTIVIDADES
Lo que tpicamente hace el profesionista
en el desempeo de la funcin
TAREAS
Acciones crticas que permiten
llevar a cabo la actividad profesional
CONOCIMIENTOS Y HABILIDADES
Qu requiere aplicar para la realizacin de las tareas
Participacin
de profesionistas
en ejercicio
ESPECIFICACIONES DE REACTIVOS
Definicin de la conducta que evidencia
el dominio de la habilidad o conocimiento
dades y atributos
estas tareas.
4.1.1
gicos predominantes.
45
46
quehacer profesional.
Tabla 4.
Concepto de funcin, actividad y tarea profesional
utilizado para la delimitacin del contenido de los EGEL
Concepto
Definicin
Pregunta gua
Estructura semntica
Funcin
profesional
Sustantivo o verbo
sustantivado3
Qu es lo que hace
tpicamente el profesionista
en el ejercicio de la funcin?
Qu acciones son
indispensables que lleve a
cabo el profesionista para
realizar la actividad?
Verbo en presente
+ sujeto
+ Complemento
(contexto condicin)
Actividad
profesional
Tarea
profesional
del mbito de la evaluacin para acreditar la validez de contenido. Provee, tambin, informacin
4.1.2
Encuesta en lnea
EGEL4
Hernndez, Jorge y Delgado, Laura (2009). Encuesta nacional para la validacin social de los perfiles profesionales de
los Exmenes Generales para el Egreso de la Licenciatura (EGEL). Marco de referencia Nmero 4, Ceneval. Mxico.
Disponible en http://archivos.ceneval.edu.mx/archivos_portal/9500/ Encuestanacional_MRef4.pdf
47
48
Muy frecuente.
opciones de respuesta No o S.
Figura 17.
Ejemplo de seleccin de las respuestas a cada tarea profesional, considerando los atributos:
Importancia, Frecuencia y Estudio durante la licenciatura
Figura 18.
Ejemplo del diseo jerarquizado de las funciones, actividades y tareas profesionales en la encuesta
EGEL correspondiente.
49
50
Donde:
a =
parmetro
de ajuste
encuesta
4.1.3
Proceso de elaboracin
y validacin de las
especificaciones de la prueba
conceptos lo siguiente:
2003).
Para el lector interesado en el desarrollo de este proceso, se recomienda la revisin del documento Hernndez, Jorge y
Delgado, Laura (2009), disponible en: http://archivos.ceneval.edu.mx/archivos_portal/9500/Encuestanacional_MRef4.pdf
51
52
cin operacional.
La definicin operacional del conocimiento o
tudes, etctera)
para su realizacin
dades cognitivas
tablas descriptivas o listados) que debe proveerse al sustentante, para responder el reactivo.
Dependiendo de la naturaleza del conocimiento o habilidad que se pretenda medir, puede con-
categoras:
etctera
fenmeno, etctera
Validacin de especificaciones
Tabla 5a.
Ejemplo de especificacin de reactivos del EGEL en Ingeniera Industrial
Clave de especificacin
F4A3T4E1
rea
Sistemas productivos
Subrea
Sistemas de manufactura
Tema
Conocimiento y habilidad
F4A3T4
Tomando en cuenta las caractersticas del proceso y del producto y con base en un diagrama de
flujo de proceso o de recorrido, el sustentante elige las actividades factibles de automatizacin
(por repeticin, manejo de materiales o condiciones de higiene y seguridad).
Definicin operacional
Clasificacin
Procedimientos
Principios
Conceptos
Tipo de contenido
(marque con x)
Hechos
Solucin de problemas
Aplicacin
Comprensin
Nivel de complejidad
(marque con x)
Satisfactorio
Sobresaliente
53
54
Etiquetas
Subensamble
A-2
0-1
Fijacin en soporte
Tornillo B-1
(20 piezas)
0-2
Posicionamiento
Tapa C-1
(1 pieza)
0-3
Tornillo B-2
(20 piezas)
0-4
Posicionamiento
Vlvula D-1
(2 piezas)
0-5
Posicionamiento
Aire
comprimido
0-6
0I-1
E-1 (2 piezas)
E-2 (4 piezas)
0-7
Gas venenoso
G-1
Caja
F-1 (1 pieza)
Colocacin
de etiquetas
prevencin
0-8
Llenado y sellado
P = 25 bar
I-1
Inspeccin final
0-9
Empaquetado
A-1
Producto terminado
Opcin A
Argumentacin
de la opcin A
Correcta. Dado que se trata de actividades que requieren precisin para alcanzar el valor indicado y garantizar la seguridad del equipo.
Opcin B
Argumentacin
de la opcin B
Opcin C
Argumentacin
de la opcin C
Opcin D
Argumentacin
de la opcin D
Respuesta correcta A
Bibliografa sugerida
Krajewski, Lee; Ritzman, Larry; Malhotra, Manoj, Administracin de Operaciones, Octava edicin. Pearson Educacin, 2008
David A. Collier y James R. Evans, Administracin de Operaciones Bienes, Servicios y cadena de valor. 2a. ed., Cengage, 2009
Tabla 5b.
Ejemplo de especificacin de reactivos del EGEL en Turismo
Clave de especificacin
F3A3T2E1
Funcin
Actividad
Tarea
Determinacin de la demanda del producto turstico de acuerdo con el anlisis de mercado disponible
Conocimiento y habilidad
Definicin operacional
Principios
Conceptos
Tipo de contenido
(marque con x)
Hechos
Solucin de problemas
Aplicacin
Comprensin
Nivel de complejidad
(marque con x)
Satisfactorio
Sobresaliente
Reactivo muestra
Base
Un hotel cuenta con los siguientes datos sobre el mercado nacional e internacional:
Existen 4,500,000 turistas internos y 12,800,000 turistas receptivos
Los turistas internos adquieren dos noches en promedio de hospedaje y los turistas receptivos siete
noches en promedio
El costo por noche es de 57 USD para interno y de 48 USD para el receptivo
Con el fin de pronosticar la demanda total del mercado nacional para el producto, es necesario utilizar:
Opcin A
Argumentacin
de la opcin A
Incorrecta. En esta tcnica se utilizan variables como aumento de la poblacin o el ingreso per cpita,
que es informacin con la que el hotel no cuenta.
Opcin B
Argumentacin
de la opcin B
Correcta. Requiere los datos de los compradores y sus compras para determinar la estructura del mercado al cual se dirige el hotel.
Opcin C
Argumentacin
de la opcin C
Incorrecta. Implica el uso de estimaciones lineales, que no es el insumo bajo el cual el hotel est determinando su demanda.
Opcin D
Argumentacin
de la opcin D
Incorrecta. Se identifican los factores del mercado correlacionados con el potencial del mercado, que son
insumos que no est utilizando el hotel en este caso en particular.
Respuesta correcta B
Bibliografa sugerida
55
Tabla 5c.
Ejemplo de especificacin de reactivos del EGEL en Ciencias Agrcolas
Clave de especificacin
F1A1T4E2
Funcin
Actividad
Realizar investigacin
Tarea
Conocimiento y habilidad
Definicin operacional
Clasificacin
Reactivo resoluble por un sustentante
con nivel de desempeo
(marque con x)
Procedimientos
Principios
Conceptos
Tipo de contenido
(marque con x)
Hechos
Solucin de problemas
Aplicacin
Nivel de complejidad
(marque con x)
Comprensin
56
Satisfactorio
Sobresaliente
Reactivo muestra
Base
En una zona productora de maz se presenta una enfermedad causada por el hongo fitopatgeno
Fusarium spp. Para el control de esta enfermedad se implementar un manejo integrado con dos tipos
de productos: dos de sntesis qumica y dos con base de microorganismos antagonistas. Se requiere saber
el efecto de los productos y sus dosis para el diseo de una estrategia de control.
El tipo de diseo experimental para esta investigacin es:
Opcin A
parcelas divididas
Argumentacin
de la opcin A
Incorrecta. Este diseo requiere de saber que uno de los tratamientos debe considerarse como una parcela grande y otro como parcela chica.
Opcin B
completamente al azar
Argumentacin
de la opcin B
Incorrecta. Este diseo solo permite conocer el efecto de los tratamientos independientes.
Opcin C
factorial completo
Argumentacin
de la opcin C
Correcta. Este diseo permite conocer el efecto de los tratamientos individuales y el de las interacciones entre ellos; con este conocimiento se pueden estructurar estrategias de manejo de productos, para
el control de la enfermedad planteada en esta zona maicera.
Opcin D
bloques al azar
Argumentacin
de la opcin D
Respuesta correcta C
Bibliografa sugerida
Gutirrez, S. R. (2005). Introduccin al mtodo cientfico. Esfinge, Mxico, 232 p.
Infante, G. y Zrate de Lara. (1988). Mtodos estadsticos, 3a. ed., Trillas Mxico.
4.1.4
de opcin mltiple
ramente explicitados
de la profesin
57
58
4.1.5
Procedimiento general
para la determinacin
Determinacin de la estructura
emprica de la prueba
empricamente. Con esta versin el consejo tcnico establece los puntos de corte y los estnda-
El mtodo de Bookmark
(Satisfactorio y Sobresaliente).
fiquen los reactivos que representan los conocimientos y habilidades que, como mnimo, debe
4.2
El establecimiento
torio o sobresaliente) y, con base en ello, establezcan los lmites que distinguen un nivel de
59
60
Figura 19.
Puntos de corte para establecer los niveles de desempeo en el EGEL
Sustentantes con nivel de desempeo
An no satisfactorio
Punto de corte 1
100%
Punto de corte 2
(figura 19).
A continuacin se describe, paso a paso, este
los reactivos, permite identificar la clave de respuesta correcta, la categora temtica a la que
proceso:
Se rene a un grupo de expertos (jueces) a
en TRI).7
Figura 20.
Ejemplo del ordenamiento por dificultad de los reactivos del cuadernillo
10
11
12
13
14
15
16
17
18
19
20
21
22
Difcil
Cuadernillo
de
reactivos
Fcil
La TRI parte de la existencia de variables latentes que se manifiestan a travs de las respuestas de los sustentantes a un
grupo de reactivos; su objetivo principal es modelar el comportamiento de estas variables y determinar, en el nivel de cada
reactivo, la probabilidad que tiene cada sustentante de acertar cuando se enfrenta a este. El modelo que se asigna al reactivo es una funcin que generalmente toma la forma de una curva logstica. Los modelos de la TRI postulan que la relacin entre el rendimiento de un sustentante en determinado reactivo y la variable latente que subyace a dicho rendimiento, puede ser descrita por una funcin montona creciente. Esto es, para cada nivel de habilidad (generalmente
denominado por la letra griega theta ), existe una probabilidad P() de que un examinado con dicha habilidad conteste correctamente el reactivo y esta probabilidad crecer mientras la habilidad se incremente. La funcin matemtica
que describe esta relacin es conocida como curva caracterstica del tem (CCI) y constituye la base de la TRI.
61
Figura 21.
Ejemplo de identificacin de dos reactivos marcadores en el cuadernillo de preguntas
22
20 21
18 19
17
15 16
13 14
12
10 11
P
Cuadernillo
de
reactivos
anteceden?
Figura 22.
Ejemplo de diversidad en la identificacin
de dos reactivos marcadores en el cuadernillo, para cuatro jueces
Cuadernillo
de
reactivos
10
11
12
13
15
Cuadernillo
de
reactivos
Juez 1
14
16
17
18
19
20
21
22
10
11
12
13
15
16
Cuadernillo
de
reactivos
Juez 2
14
17
18
19
20
21
22
10
11
12
13
Cuadernillo
de
reactivos
Juez 3
Juez 4
14
15
16
17
18
19
20
21
22
10
11
12
13
14
15
16
17
18
19
20
21
22
62
Figura 23.
Ejemplo de identificacin de la mediana de la habilidad
de los sustentantes para determinar los niveles de desempeo satisfactorio y sobresaliente
Mediana DS
Mediana DSS
Grfica 3.
Ejemplo de la estimacin del impacto considerando los puntos
de corte asociados a los niveles de desempeo satisfactorio y sobresaliente
Una vez establecidos los puntos de corte definitivos, los jueces contrastan los descriptores te-
aprobacin.
Grfica 4a.
Ejemplo del nmero de rondas para consensuar los puntos
de corte definitivos asociados al nivel de desempeo satisfactorio (DS)
Grfica 4b.
Ejemplo del nmero de rondas para consensuar los puntos
de corte definitivos asociados al nivel de desempeo sobresaliente (DSS)
63
64
de testimonios de desempeo
5. Indicadores de validez
SE
65
5.1
66
5.2
involucrados, respecto a las definiciones propuestas, las cuales, se validan posteriormente, por gru-
blecido en la especificacin.
relevancia.
estadsticamente significativa).
del EGEL deben responder una vez que han concluido la prueba. Esta encuesta aborda los
siguientes aspectos:
versitaria
la profesin
el cual se comunican
67
68
de la prueba.
Bibliografa
69
Educational Testing Service ETS. (2007). Validity of the Measure of Academic Proficiency and
Progress (MAPP) Recuperado de http://www.ets.org/s/mapp/pdf/5018.pdf
Educational Testing Service ETS. (2012). ETS Proficiency Profile. Recuperado de http://www.
ets.org/proficiencyprofile/about
Flanagan, J.C. (1954). The critical incident technique. Psychological Bulletin, 51, 327-358.
Gael, S. (1983). Job analysis: A guide to assessing work activities. San Francisco: Jossey-Bass.
Harvey, R. J., y Wilson, M. A. (2000). Yes Virginia, there is an objective reality in job analysis.
Journal of Organizational Behavior, 21, 829-854.
Instituto Nacional de Estudos e Pesquisas Educacionais Ansio Teixeira INEP. Enade. (2004).
Exame Nacional de Desempenho dos Estudantes-Enade 2004: resumo tcnico. Brasil. LEI N
10.861, (14 Febrero 2004). Recuperado de http://download.inep.gov.br/download/enade/2004/
manual_enade_2004.pdf
Instituto Nacional de Estudos e Pesquisas Educacionais Ansio Teixeira INEP. (2012). Exame Nacional
de Desempenho dos Estudantes ENADE. Brasil. Recuperado de http://portal.inep.gov.br/enade
Instituto Nacional de Estudos e Pesquisas Educacionais Ansio Teixeira INEP. (2012). Exame Nacional
70
Kane M.; Kingshury C., Colton D. y Estes C. (Spring, 1989). Combining Data on Criticality and
Frequency in Developing Test Plans for Licensure and Certification Examinations. Journal of
Educational Measurement, 26(1), 17-27.
Kane, M. (2006). Content-related validity evidence in test development. In S. M. Downing, y T.
M. Haladyna (Eds.), Handbook of test development (pp. 131-153). Mahwah, NJ: Lawrence
Erlbaum Associates.
La Duca, A. (1980). The structure of competence in health professionals. Evaluation and the
Health Professional, 3(3), 253-288.
La Duca, A. (1994). Validation of professional licensure examinations: Professions theory, test
design, and construct validity. Evaluation and The Health Professions, 17(2), 178-197.
Messick, S. (1995). Validity of Psychological Assessment: Validation of Inferences from Person
Responses and Performances as Scientific Inquiry into Score Meaning. American Psychologist, 50,
741-749.
Nusche, D. (2008). Assessment of Learning Outcomes in Higher Education: A comparative review
of selected practices. OECD Education Working Paper No. 15 (29 Feb 2008). Recuperado de http:
//www.oecd.org/education/highereducationandadultlearning/ 40256023.pdf
Raymond, M. R. (2001). Job analysis and the specification of content for licensure and certification examinations. Applied Measurement in Education 14(4), 369-415.
Raymond, Mark R. (2005). An NCME Instructional Module on Developing and Administering
Practice Analysis Questionnaires, Educational Measurement: Issues and Practice, Summer 2005.
29-42 Washington, D.C.: Blackwell Publishing.
Raymond, M.R., y Neustel, S. (2006). Determining the content of credentialing examinations.
In S.M.Downing, & T.M. Haladyna, Handbook of test development (pp. 181-223). Mahwah,
NJ: Lawrence Erlbaum Associates.
Smith L. y. Hambleton R. (Winter, 1990). Content Validity Studies of Licensing Examinations.
Educational Measurement: Issues and Practice, 1990. 7-10, Washington, D.C.: Blackwell
Publishing.
El Centro Nacional de Evaluacin para la Educacin Superior es una asociacin civil sin fines
de lucro constituida formalmente el 28 de abril de 1994, como consta en la escritura pblica nmero 87036 pasada ante la fe del notario 49 del Distrito Federal.
Sus rganos de gobierno son la Asamblea General, el Consejo Directivo y la Direccin
General. Su mxima autoridad es la Asamblea General, cuya integracin se presenta a continuacin, segn el sector al que pertenecen los asociados:
Asociaciones e instituciones educativas: Asociacin Nacional de Universidades e Instituciones
de Educacin Superior, A.C.; Federacin de Instituciones Mexicanas Particulares de
Educacin Superior, A.C.; Instituto Politcnico Nacional; Instituto Tecnolgico y de Estudios
Superiores de Monterrey; Universidad Autnoma del Estado de Mxico; Universidad
Autnoma de San Luis Potos; Universidad Autnoma de Yucatn; Universidad Nacional
Autnoma de Mxico; Universidad Popular Autnoma del Estado de Puebla; Universidad
Tecnolgica de Mxico.
Asociaciones y colegios de profesionales: Barra Mexicana Colegio de Abogados, A.C.;
Colegio Nacional de Actuarios, A.C.; Colegio Nacional de Psiclogos, A.C.; Federacin de
Colegios y Asociacin de Mdicos Veterinarios y Zootecnistas de Mxico, A.C.; Instituto
Mexicano de Contadores Pblicos, A.C.
Organizaciones productivas y sociales: Academia de Ingeniera, A.C.; Academia Mexicana
de Ciencias, A.C.; Academia Nacional de Medicina, A.C.; Fundacin ICA, A.C.
Autoridades educativas gubernamentales: Secretara de Educacin Pblica.