Académique Documents
Professionnel Documents
Culture Documents
1. Introduo:
2.
o processo
de avaliat1o;
3. Os usos da avaliao;
4. O comportamento dos consultores: um modelo
, ,
de simulao;
5..A p!f-gradU4ovista pelas avaliaes;
6. Algumas concluses.
Avaliando as
avaliaes da
Capes*
Cludio de Moura Castro
Glucio Ary Dillon Soares
se
Devido sua importncia prtica, o sistema de avaliao da Capes passou a merecer a ateno de um pblco mais amplo. Este artigo uma tentativa de descrever
esse sistema, bem como de apresentar uma srie de exerccios estatsticos que buscam explorar a fidedignidade
dos conceitos atribudos por ele}
O .sistema de avaliao abrange todos os cursos de
mestrado e doutorado. A dimenso da ps-graduao
brasileira, com cerca de mil cursos, oferece um desafio e,
ao mesmo tempo, possibilidades de anlise quantitativa
inexistentes em sistemas menores.
Desde 1977, os comits da Capes vm avaliarido cada um dos cursos de mestrado e doutorado que operam '
no Brasikatrbundo a cada um deles uma nota ou conceito. Para:lelamente ao crescimento quantitativo da psgraduao, os mecanismos de avalao vm aumentando
a sua abrangncia, tornando-se mais complexos e cobrindo um nmero mais amplo de dimenses ou critrios.
. Rio delaneUo.
23(3)113-73
juL/set. 1983
'faO
fi
o ciclo de visitas
2.3
A gerncia de uma carteira de consultores bem como a sua escolha inicial apresentam. problemas. Por um
processo de tentativa e' erro, a Capes chegou ao perfil do
consultor procurado: deverser um cientista destacado
em sua rea, tal como atestado pelo seu curriculum vitae,
mas a experincia no ensino tambm necessra -os
lobos solitrios da pesquisa se revelaram ingnuos epouCO vontade nesse trabalho. Ademais, o gosto por esse
tipo, de atividades essencakcomo demonstram muitas'
tentativas frustradas de se trabalhar com excelentes pesquisadores que, desinteressados, so incapazes de concentrar-se por algumas dezenas de horas nesse tipo de
trabalho;
. Busca-se uma certa variedade naselefo dos consul.tores, seja na orientao terica, seja na origem geogrfl"ca .A experincia, contudo, demonstra a importncia de
que o consultor represente apenas a sua prpria conscincia critica e nogrupoareges.ou associaOes. O eonsultor no chamado para defender o interesse da comunidade acadmica, da sua universidade Gude sua prpria
profisso, mas para expressar, sem censura, suas convc-.
es de cientista e cidado bem informado.
Cada rea do conhecimento tem uma lista de consultores e um presidente de comsso, escolhido por um J?t
rodo de dos anos, pelos seus prprios pares, e homologado pelo Conselho da Capes. Desta lista original - que
elstica e vai aumentando por sugestlo de seus pr6prios
membros - so escolhidos OS participantes das runi(Jes
anuais, prevendo-se que, em cada ano, apenas 50% dos
nomes do ano anterior sejam repetidos. Esse limite de
dois. anos impede o enquistarnento, bem como a organzao e ao de mecanismos de. presslo sobre os consultores. Entretanto, h uma t6cnica de trabalho e uma uadifo, assim comocomPtu'aOes no tempo que SIo prejudicadas pela estreiteza d\:>perodo. Com freqncia ou- \
vem-se queixas de que, j6stamente quandO aprendiam a
trabalhar, chegou o fm do perodo,nacomisslo.
Ligado durao dos perodos estA.o papel da Capes' de manter a memrllcdo processo. Na:o h ~bra qa
neutralidade da intelVeno da Capes ao explicar, a cada
ano, o funcionamento administrativo do sistema aos CIl:
sultores; contudo\h uma rea limtrofe de in~o
no estabelecimento dos critmos de avaJial: A equipe
tcnica da Ca~s tran$Jlli~ a~
JNPO'4e ~
.
4~
dtI
c:."".
E; sendo A o masaltojatrbudos
. 3.
.
OS USOS DA AVLIAO
\
NIo hhmbigidades ou dvidas quanto ao apoio que ser dado a um curso que recebe conceto , ou mesmoB.
Contudo, SQponha-~ que um curso obtm C, D ou E. .O
tratamento que rceberde uma q!ncia governamental
tem, naturalmente, a ver com 'as razOes que levaram a
esse julgamento. Tem havido presso, originada em universidades em AJeas pouco desenvolvidas, por um trataineIlto mais genel'OlO para os cursos dessas regies. Na
quele momento, a Capes def'miu sua poltica atrvs de
uma metf'ora ainda usada I)oje: "O termmetro o mes.mo para todos os pacientes. O diagnstico e a terapia p0dem variar de acordo com o caso." Fica, assim, entenddo que os critrios de avallalo nada
a ver com histria do curso, seus esforos.ou as dificuldades que encontram. O tratamento-diferenciado que' se pode justif'icar em muitos asos nlo deve. contaminar a atribuilo do
conceito. Oextraoldinrio esforo deum grupo do Nordestepo4e._lOrapoiaco.mas;noj~ento
do re-
tm
65
sultado, .ser comparado com todos os demais, reeebendo um conceito que meramente reflete suas realizaes.
O uso mais imediato da avalialo , exatamente,
aquele que motivou a sua criao: a distribuilo de bolsas. No caso das "bolsas de demanda social"! as quotas
atribudas a cada ma do conhecimento 810' alocadas pelos cursos existentes, de forma proporcional ao conceito. Assim, os cursos de nvel A recebem 52% do total
das bolsas; os cursos B recebem uma quota bem menor,
29%; alguns cursos C podem receber uma quota residual
ou simblica; os demais no recebem nenhuma bolsa. O
programa PICD, fiel sua.nteno de desenvolvimento
nsttuconal.valoca bolsas s nsttues para que sele:
cionem os seus melhores professores para cursarem mestrado e doutorado no pas.6 A seleo desses mestrados
se faz dentre uma lista que contm apenas aqueles cursos
de melhor qualificao no processo de avalao. O chamado "listo Capes" contm os cursosA e, em reas em
que o nmero deA insuficiente, algunsB.
A partir de 1981, o credenciamento de cursos de
ps-graduao pelo Conselho Federal de Educalo passou a utlzar as avaliaes realizadas pela Capes, .Dlo apenas a ltima avaliao disponvel no momento em que o
credenciamento pedido, mas tambm as dos anos anteriores, mostrando a trajet6ria do curso ao longo do tempo. Ao aumentar a abrang!nci' temporalem que o curso
considerado, ao expandir o nmero de pessoas que visitam e opinam. sobre o curso, reduzem-se as incertezas, erros e arbitrariedades do processo de credenciamento.
Ademais, os mtodos de coleta de informaes foram
simplificados e os procedimentos de visita e avalialo
aperfeioados como resultado de discusso entre a Capes
e o CFE. Ao dar um parecer sobre o curso, o conseJh.eiro
do CFE est hoje muito melhor informado e respaldado.
Tambm a partir de 1981, a discusso oramentra
das universidades federais passou a ncorporar uma considerao acerca do nvel de qualidade da ps-graduao,
tal como captado pelas avaliaOes. Universidades com
cursos de melhor nvel receberam um tratamentoprivilegiado na distribuio de recursos adicionais e em projetos. F oi uma primeir experincia e.:seria prematuro
julg-la de momento. 7
Finalmente, h um uso que se toma cada vez mais
importante e que tem muito a ver com o processo delegitmao da avaliao diante da comunidade acaderilica.
Trata-se de levar ao conhecimento do curso, aos reitores
e pr-reitores os resultados' da avalao; bem como as
sugestes feitas pelos consultores. Esta uma fertilssima fonte de atritos, tenses polticas e terremotos administrativos. Alguns cursos no aceitam os julgamentos. Asperos passados a seu respeito; outros consideram improcedentes as avaliOes. Pode haver uma reviso da.av~
. liao. Em um nmero pequeno de casos, h~e e,quvocos ou ambigidades QO julgamento. A baixa proporo
de erros identificados por esta auditoria aumenta a con~
fiana imputada aos conceitos. H apenas um ano que os
laudos de avaliao comearam a ser enviados aos cursos;
seria leviano julgar o seu impacto em tempo tio curto.
Contudo, em um nmero elevado de casos, jl houve certo impacto e, em alguns, ocorreram modifica(Jes tangveis. Esta dimenso da avaliafo pode vir a ler a SQamais
importante dimenso, a de aperfeioar o sistema.
66
'4.
At aqui smplesmentedescrevemos
o sistema da avaliao, No que segue, tentamos aplicar alguns procedimentos estatsticos com o objetivo de melhor entend-lo e
testar suas propriedades. .
Seja do ponto de vista de quem gerencia o sistema;
seja do ponto de vista de quem avaliado, o comportamento dos consultores uma "caixa preta". Estes recebem instrues para identificar a excelncia acadmica,
onde quer que esta se encontre. e dizer o que vem a ser
em cada QSO est excelncia. Seu julgamento fmal; salvo casos raros, ho objeto de nova anlise ou contes'tao,
O .aprofundamento de episdios individuais - tais
como o reexame de uma avaliao contestada - e a impresso daqueles que lidam com a avaliao que ela faz
sentido: os conceitos correspondem reputao dos cursos. Isto, contudo, ainda pouco.
Neste item apresentamos uma tentativa de simular
ou reproduzir o comportamento dos consultores atravs
de um modelo estatfstco, 8'Perguntamos se h regularidades' observlveis no seu comportamento, se esse comportamento pode ser descrito por um sistema de equaes e se ele consistente com as suas prioridades declaradas. Finalmente, at que ponto ele incorpora as variveis quantificveis?,
Note-se que 1160 se trata em absoluto de um modelo
estatstico de avalialfo, onde definido um algoritmo
que atribuilltas ou conceitos a um curso. Pelo contrrio, trata-se de uma. tentativa de .modelar o comportamento dos consultores, ist , reconstruir matematicamente as suas formas de juJgamento. Os usos de tal modelo se restringem ao que aqui fazemos, oU seja, entender como operam os consultores.
Tal advertncia partcularmente importante 'porque os autores deste trablllho entendem que avaliao
nllo pode se reduzir a uma funo mecnica, passvel de
ser substituda por um modelo matemtico. No apenas
cada curso dever ser ju1pdo em sua individualidade e
com suas idiossincrasias, mas esse julgamento dever incluir componentes que:niopodem ser quantificados, tais
como qualidadeda pesquisa, atmosfera, entusiasmo. etc.
Esta observao nfo define apenas a posio da Capes,
mas estatisticamente confirmada pela anlse subseqente.
O modelo utilizado bastante simples, o que se justifica, antes de tudo, pelo nosso. desconhecmento diante da questo, Tomamos como varivel dependente os
eoncetos de A a E, tran.sformados em nmeros de cinco
a um. As vaiiaes nesses conceitos devero ser explica- .
das por variaOes de conceitos quantificlveis contidos
n relatbrio dos cursos.
A confJgUrafo estatstica mais bva para o modelo
6 uma equao de regressfo linear mltipla por passos
das etapas (stepw;se). Nesta formulao, variaes da varivel dependente (as avaliaOes) do associadas linearmente s variveis explicativas dos dados objetivos, buscandO-$e aquela que melhor ajustamento oferece. Interrompe-ie a introdulo de novasvarilveis no momento
em que a con~ibuifo de C(ualquenarivel adicional deiX4 de ler significativa. Eae proeedmento 6 exploratrio
do de um ano;
Avalia<1e8 da Capa
67
--'---~~~-~--~
._-~~
a) o comportamento dos consultores regular e",previsvel, As equaes para o conjunto <lasireas explicam algo ,
mais que um tero da varncaVras que as tratam em
separado explicam muito mais;
,
'
S.
O que ficamos sabendo da ps-graduao por fia das avaliaes? Os modelos mencionados e um exerccio Qe anlise fatorial, realizado subseqentemente, permitem uma
anlsebastante
til da ps-graduao, de seus problemas, bem como uma, discusso de limites e ontrovrsas
da avalialo.
5.1
O perfil da excelncia
4t,
68
.a) a experincia norte-americana revela uma forte asscao entre o acervo das bibliotecas eqJecializodas se~vindo ao curso e a sua reputal'o. EventUalmente, ess
informao poderia ser coletada para.o caso brasileiro;
""
..
em
programas de plrgradual'o foram criados em conseqncia das presses do seu prprio corpo docente, no
sentido de obter ttulos de p()s.gradual'o. Observou-se
forte assocao entre este fator de endogenia e o fator
"docncia". Como esperado, endogenia 'no contribui
para a qualidade de cursos, apresentando uma pequena
correlao negativa com o fator "avaliao" (-0,14 com
endogenia e -0,007 com docncia); A anlise das regresses com as avaliaes individuais ano a ano, de 1977 a
1980, indica que esses dois fatores foram influncias negativas, mas que podem ser negligenciadas, na avaliao
da qualidade dos cursos.
5'.2
6.
ALGUMAS CONCLUSOES
1. O nvel dos cu"?s de p6&.graduao no se altera radide ano a ano, e isso captado pelos avaliadores.
calmente
2. Entretante,.h
mudanas razeveis nas avaliaes,
uma vez.que a magnitude das correlaes entre anos conseeutvos apenas razovel (mdia de +0,64).
,
Conceitos
Nome do curso
'Nwl
Instituiio
21:?
21:?
sem.
sem.
sem.
lI:?
lI:?
sem.
sem.
1978
lI:?
sem.
1979
Geocincias
Geologia
Microbiologia e
imunologia
Biologia molecular
Biofsica
Bioqumica
Bioqumica
Bioqumica
Ecologia e recursos
naturais
Ecologia
.Farmacologia
Farmacologia
Fisiologia
Fisiologia
Gentica
'Gentica
Microbiologia
Histologia
Morfologia dol,
celular
Parasitologia
Sociologia
Sociologia
Sociologia
Antropologia social
Antropologia social
Antropologia
Cincia poltica
Cincia poltica
Teologia
Filosofia
Lgica e filosofia da
cincia
Geografia
Geografia
Geografia fsica
Geografia humana
Geografia
Economia industrial
e da tecnologia
Economia do setor
pblico
Economia
Economia
Economia
Economia
Economia rural
Economia agrria
Economia rural
Psicologia
Psicologia
experimental
Psicologia escolar
Psicologia
Engenharia
biomdica
Engenharia civil
M/D
M
m;'RGS
UnB
M/D
M/D
M/D
M/D
M/D
M
EPM
EPM
UFRJ
UFMG
USP
USPjFMRP
M
M
M/D
M/D
M
M
M/D
M/D
M/D
M/D
UFSCAR
Unicamp
USPjFMRP
EPM
USP
USP/FMRP'
USPjFMRP
UFRGS
UFRJ
USP
M/D
M/D
M
M/D
M
M/D
M/D
M
M
M
M/D
M/D
USPjFMRP
UFMG
IUPERJ
USP
UnB
UFRJ
USP
UnB
Iuperj
UFMG
PUC/RJ
USP
M/D
M
M
M/D
M/D
M
M
A
A
A
A
A
A
A
A
A
A
A
A
A
fi
A
A
A
A
A
A
A
A
A
A
A
A
....
-------
-~~
2?
Nome do curso
Nvel
InsUtui.fo
A
A
A
A
A
A
A
A
A
A
A
A
Unicamp
UFPE
UFRJ
USP
USP
Unesp
UFRJ
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A'
A
A
A
A
A
A
A
A
A
A
A
M
M
M
M,
M
M
M
M
M
PUC/RJ
FGV/RJ
USP
Uncamp
UnB
UFRGS
Usalq
UFV
UFPE
A
A
A
A
A
A
A
A
A
M/D
M/D
M
USP
USP
UnB
A
A
A
M
M
UFRJ
UFRJ
A
A
A
A
A
A
sem.
Engenharia de
produio
Engenharia qumica"
' Patologia humana
),fedicina social
Patologia
Oftalmologia
Medicina prev~ntiva
Pediatria"
Reumatologia
Patologia humana
, Clnica cirrgica
TocoginecolOgia
Clnica. mdica
Medicina preventiva
Neurologia
Oftalmologia
Pediatria
Bases gerais cr,
e cr; exp.
Cinugia
cardiovascular
Endocrinologia
clrtica
Nefrologia
Otorrinolaringologia
Pneumologia
Pediatria
Pneumologia
Medicina tropical
Odontologia
Odontologia social
Clnicas
odontoI6gicas
21:?
sem.
1979 1980
lI:?
lI:?
sem.
sem.
sem.
1979
Engenharia civil
Engenharia de
estruturas
Engenharia civil
Engenharia eltrica
' Engenh8ria eltrica
Engenharia eltrica
Engenharia eltrica
Engenharia eltrica
Engenharia
mecnica
Engenharia
mecnica
Engenharia
metalrgica,e de
materiais
Engenharia
metalrgica
Engenharia nuc.
plano energtico
Tecnologia nuclear
Reat nuc. e tecn.
comb. nucl.
Engenharia de
produfo
21:?
sem.
1978
lI:?
1980 1981
72
-~-----_
Conceitos
21:?
1980 1981
PUC/RJ
M
M
M
M
M
M/D
M
USP/SC
UFRGS
UFRJ
PUC/RJ
USP
Unicamp
UFSC
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
UFRJ
M/D
Unicamp
M/D
UFRJ
UFMG
M
M
UFRJ
USP
USP
UFRJ'
M
M/D
M
M
A
A
A
A
A
A
A
A
A
A
A
A
A
A
M/D
M/D
M/D
M/D
M/D
PUC/RJ
UFRJ
UFBA
UERJ
UF),fG
UFMG
USP
USP
USP
USP/FMRP
USP{FMRP
USPjFMRP
USfjFMRP
USPjFMRP
USP/FMRP
USPjFMRP
USPjFMRP
A
A
A
A
A'
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
A
M/D
Unesp
A'
EPM
M/D
M/D
M/D
M/D.
M
M
M
M
M
EPM
EPM
EPM
EPM
UFPB
UFRGS
UnB
UFRJ
UFF
M/D
USP
J.f/D
D
M/D
M/D
M/D
M/D*
M/D
),f/D
A
A'
A
A
A
A
A
A
A
A
A
A
A
A
.-
----------
-~-_.
__ ._-
"
_._
..
~------
Conceitos
2?
Nome do curso
Nvel
M
Ortodontia
M
Odontopediatria
M/D
Diagnstico oral
M
Odontopediatria
M
Ortodontia
M/D
Reabilitao oral
M
Odontologia
M
Odontologia
Odont. Dentst.
M
restauradora
M
Odontopediatria
M
Odontologia
M
Anlises clnicas
Anlises
M
toxicolgicas
M
Farmcia
M
Enfermagem
M
Enfermagem
M
Enfermagem
M
.4dministrao
Administrao
M
pblica
M
Administrao
M
Administrao
M
Direito
DesenvolVimento
M
urbano
Planejamento
M
urbano e regional
M
Servio social
M
Agronomia
M/D
Fitotecnia
M/L**
Fitopatologia
Gentica e
M/D
melhoramentos
M
Fisiologia vegetal
.M
Engenharia agrcola
Solos e nutriode
M
~lantas
M
Fitotecnia
M/D .*
Entomologia
M/D**
Fitopatologia
M
Fitotecnia
Gentica e
melhoramento de
M/D **
plantas
Solos e nutrio de
-M
plantas
M
Produo vegetal
M
Fitopatologia
M
Cincia florestal
M
Engenharia florestal
M
Engenharia florestal
M
Economia rural
M
Economia agrria
M
Economia rural
M
Zootecnia
M/D
Zootecnia
M
Zootecnia
Instituio
USP
USP
USP/FOB
USP/FOB
USP/FOB
USP/FOB
Unicamp
Unicamp
2?
2?
I?
I?
sem.
1978
sem. sem.
1979 1980
sem.
1979
sem. sem.
1980 1981
I?
A
A
A
A
'A
A
A
A
A
A
A
A
A
A
A
A
A
A
Unesp
Unesp
Unesp
USP
A
:A
A
A
A
A
A
A.
A
A
A
A
USP
UFRGS
UFRJ
USP
EPM
UFRJ
A
A
A
A
A
A
FGV/RJ
USP
FGV/SP
UFSC
A
A
A
A
UFPE
UFGRS
UFPB
UFRRJ
UFV
UFV
A
A
A
A
A
A
A
A
A
A
A
UFV
UFV
UFV
A
A
A
A
A
A
A
A
A
UFV
ESAL
USP!Esalq
USP!Esalq
USP!Esalq
A
A
A
A
A
A
A
A
USP!Esalq
.4
'USP!E~
A
Unesp
A
UnB
A
UFV
USP/Esalq' A
A
UFPR
UFV
USP!Esalq
UFRGS
. A.
UFMG
A
UFV
UFSM
A
A
A
A
A
A
A
A
;A
A
A
A
A
AA
A
A
A
2?
Nome do curso
Parastologia
veterinria
Medicina veterinria
Cincia e-tecnologia
de alimentos
Cincia ds
alimentos
Cincia de
alimentos
Tecnologia de
alimentos
Anatomia dos
animais
domsticos
Letras e lingstica
Letras vemculas
Cincia da literatura
Letras
Letras
Letras
Filologia e lngua
portuguesa
Literatura brasileira
Literatura
pertuguesa
Teoria literria e
literatura'
comparada
Teoria liter;lria
Literatura
Lingstica
Lings*a aplicada
ao ensino de
lnguas.
Nvel
Instituio
2?
2?
sem.
1978
sem. sem,
1979 1980
sem.
1979
sem.
1980
sem.
1981
A
A
I?
I?
I?
D
M
UFRRJ
UFSM
UFV
USP
M/D
Unicamp
M/D
Unicamp
M/D
M
M
USP
UFPE
UFRJ
UFRJ
PUC/RJ
UFMG
UFRGS
M/D
M/D
USP
USP
USP
M/D
M
M
M
USP
UnicampUnB
. Unicamp
M/D
M/D
PUC/SP
A
A
A
A
A
A
A
A
A
..
A
A
A
A
A
A
A
A
A
A
A
A
A Funa "
SUa . aao G
nOva t
.etU{ '
O nOme' Ivrariano 10 Vargas r
.
. Freitas C e e mesmo' ~entro do R~abrlu
A
antig,
'A]j'
10.
ranha)
arnente'
elXeir
AV: Pre .mas O IDe I ,na Av, G a de
Sldente I4lZ a eQ,Utro' raa
ISDn 2.
.
' '28~A.
73
Avall4'oesda CapeI
-----_.-------"
Conceitos
---~---