Académique Documents
Professionnel Documents
Culture Documents
FACULDADE DE PSICOLOGIA
PROGRAMA DE PS-GRADUAO EM PSICOLOGIA
MESTRADO EM PSICOLOGIA
REA DE CONCENTRAO EM COGNIO HUMANA
Porto Alegre
2012
PONTIFCIA UNIVERSIDADE CATLICA DO RIO GRANDE DO SUL
FACULDADE DE PSICOLOGIA
PROGRAMA DE PS-GRADUAO EM PSICOLOGIA
MESTRADO EM PSICOLOGIA
REA DE CONCENTRAO EM COGNIO HUMANA
Porto Alegre
2012
Dados Internacionais de Catalogao na Publicao (CIP)
CDD 370.15
COMISSO EXAMINADORA:
_______________________________________
Prof. Dr. Lilian Milnitsky Stein, Ph.D
Programa de Ps-Graduao em Psicologia
Pontifcia Universidade Catlica do Rio Grande do Sul
Orientadora Presidente
_______________________________________
Prof. Dr Cludia Hofheinz Giacomoni
Departamento de Psicologia da Universidade Federal do Rio Grande do Sul
Co-Orientadora
_______________________________________
Prof. Dra. Denise Ruschel Bandeira
Departamento de Psicologia da Universidade Federal do Rio Grande do Sul
_______________________________________
Dra. Denise Balem Yates
Departamento de Psicologia da Universidade Federal do Rio Grande do Sul
Porto Alegre
2012
1
AGRADECIMENTOS
Agradeo aos meus super-corujas pai, me e irm, que sempre incentivaram minha
trajetria acadmica e tiveram orgulho de cada conquista minha nesse caminho. Obrigada
aprendendo o que cada sigla e abreviao citadas significavam. Obrigada por todo o apoio,
risadas e amor que foram essenciais para que meus sonhos se tornassem realidade.
minha famlia, que mesmo sem nem sempre entender exatamente as pesquisas ou
Aos amigos queridos, sempre na torcida, apoio constante nos momentos de desabafo e
fonte de motivao.
forneceu subsdios para minha formao acadmica desde o incio da minha graduao,
Aos colegas do Grupo de Pesquisa em Processos Cognitivos, todos que passaram pela
minha vida nestes sete anos de trajetria, e me ensinaram muito. Em especial Marisol e
Priscila, com quem pude contar para tudo, sempre, mesmo que distncia. Um agradecimento
especial aos colegas que ingressaram no mestrado junto comigo, Fbio e Cristiane, parceiros
alegraram meu dia a dia e colaboraram muito para a realizao deste trabalho, Pilar e
Mariana.
RESUMO
Esta dissertao composta por dois estudos: um terico e outro emprico. O Estudo I traz um
levantamento bibliogrfico na literatura nacional e internacional acerca do Teste de
Desempenho Escolar (TDE) (Stein, 1994). O TDE foi publicado h 18 anos e havia interesse
em descobrir se/como o instrumento vinha sendo utilizado na comunidade cientfica, assim
como possveis crticas sobre o teste que poderiam existir. Foram analisados os dados de 222
publicaes, artigos cientficos em sua maioria (129). Verificou-se a elevada qualidade destes
artigos atravs do Qualis Capes, com 41% das revistas situadas no Qualis A1. Foi observado
um aumento no nmero de publicaes utilizando o TDE ao longo dos anos, o que reflete um
crescimento no volume de publicaes cientficas brasileiras, assim como um crescente
interesse pelo teste. Este estudo evidenciou a relevncia deste instrumento no cenrio de
avaliao educacional brasileiro. O Estudo II teve como objetivo explorar a qualidade dos
subtestes de leitura e escrita do TDE, atravs de uma anlise pela Teoria de Resposta ao Item
(TRI). Foram utilizados bancos de dados de cinco pesquisadores provenientes de quatro
estados brasileiros. Foram analisados dados de 1.850 participantes, entre 1 e 6 srie, de
escolas pblicas e particulares. Os resultados indicaram que o subteste de escrita est
mensurando precisamente nveis mdios de habilidade e menos satisfatoriamente nveis
baixos e altos. Estes dados indicam que alunos com pouca e alta habilidade dentro do
continuum do trao latente podem no estar sendo bem diferenciados, e que este subteste
poderia ser aprimorado acrescentando-se itens mais difceis e itens mais fceis, para que
pudesse fornecer mais informaes nestas reas. Os resultados do subteste de leitura indicam
que o mesmo est discriminando adequadamente nveis baixos e mdios de habilidade. Desta
forma, itens mais difceis poderiam ser acrescentados neste subteste para que crianas com
mais habilidade pudessem ser melhor discriminadas. Conclui-se que uma reviso de itens e
acrscimo de novos itens altamente desejvel, assim como a produo de novas normas para
o TDE.
ABSTRACT
Two papers constitute this dissertation: one theoretical and the other empiric. Study I brings a
national and international bibliographic survey on the School Achievement Test (TDE) (Stein,
1994). TDE was published 18 years ago and there was interest in finding out if/how this
instrument was being used by the scientific community, inasmuch as possible critics to the
test. Data from 222 publications were analyzed, mostly scientific papers (129). The high
quality of these papers was attested by the Qualis Capes classification, being 41% of the
journals classified as A1 Qualis. A growing number of publications using TDE through the
years were reported, reflecting both the growth of Brazilian scientific publication and the
increase in interest for the test. This study revealed the importance of this instrument in
Brazilian educational evaluation scenario. The purpose of study II was to explore the quality
of TDE subtests reading and writing, through an Item Response Theory analysis. This study
used the databases of five researchers from four Brazilian states. Data from 1.850 participants
were analyzed, between 1st to 6th grades, from both public and private schools. Results
indicated that the writing subtest is measuring precisely medium levels of ability and less
satisfactory high and low levels. These data indicate that students with low and high ability
within the continuum of the latent trait may not have been well differentiated and that this
subtest could be improved by adding more difficult items as well as easier items, so that more
information in these areas could be provided. Results of the reading subtest indicate that it is
discriminating adequately low and medium levels of skill. Thus, more difficult items could be
added to this subtest so that children with higher ability could be better discriminated.
Conclusions are that an items review and adding of new items is highly desirable, as much as
new standards for TDE.
LISTA DE TABELAS
Selecionadas......................................................................................................................22
Internacionais.....................................................................................................................22
LISTA DE FIGURAS
CAPES......................................................................................................................................24
Figura 5. Curva de informao e erro padro de medida produzida pelo conjunto de itens ao
Figura 6. Curva de informao e erro padro de medida produzida pelo conjunto de itens ao
SUMRIO
INTRODUO........................................................................................................................09
Dezessete Anos..................................................................................................................18
CONSIDERAES FINAIS....................................................................................................54
ANEXOS..................................................................................................................................58
INTRODUO
A avaliao, no sentido amplo, tem merecido atravs dos tempos uma ateno especial
em todos os setores da atividade humana. Uma das principais atribuies da avaliao diz
planejada, seja de forma assistemtica, atravs de observaes (Ferreira & Leal, 2007).
mbito nacional voltadas ao Ensino Fundamental, que buscam avaliar a qualidade do ensino
Educao, 2008). Outras medidas, com objetivos similares, so o Exame Nacional do Ensino
verificao do desempenho dos alunos so fatores que podem auxiliar na qualificao tanto de
desempenho escolar no Brasil tem sido caracterizada por uma carncia de instrumentos
Desempenho Escolar (TDE) (Stein, 1994), criado em 1994 (Lcio, Pinheiro & Nascimento,
escrito (Stein, 1994). Cada um dos subtestes apresenta uma escala de itens em ordem
aplicao do subteste interrompida pelo aplicador assim que os itens apresentados forem
poca de sua publicao, entretanto, desde ento, nenhum outro instrumento similar surgiu,
nem tampouco o TDE sofreu qualquer atualizao. No entanto, existem claras evidncias de
que testes devem ser atualizados, conforme apontado pelos padres para testes psicolgicos e
Commission, 2000). Estes padres indicam que o aperfeioamento deve ocorrer quando
surgem novos dados de pesquisa ou ocorrem mudanas significativas na rea que tornem o
perodo do Ensino Fundamental para nove anos. Essas modificaes implicam em uma
mais em oito (Ministrio da Educao, 2004). No que tange ao TDE, tanto a estrutura do teste
(contedos previstos para cada srie nos subtestes), quanto os dados normativos (desempenho
11
esperado para cada srie) estariam desatualizados, pois esto organizados de acordo com as
sries escolares.
Estes dados parecem apontar para a necessidade de reviso e atualizao do TDE. Desta
forma, tendo como objetivo iniciar essa reviso, a presente dissertao formado por dois
dos ltimos dezessete anos buscou investigar como o TDE vem sendo utilizado desde sua
teve como objetivo analisar as variveis ano de publicao, tipo de publicao, regio de
realizao do estudo, tipo de uso do teste, rea da cincia do(s) autor(es), Qualis CAPES do
Nesta seo de Introduo, ser brevemente exposto o contexto terico que fundamenta
nacional e internacional. Este tipo de levantamento pode ser til em uma etapa inicial de
reviso de instrumentos, pois busca compreender a relevncia do teste. Alguns dos objetivos
visados eram verificar a quantidade de pesquisas que vinham utilizando o TDE desde sua
O perodo pesquisado foi de 1994 at 2011. As palavras chave utilizadas foram Teste
nacionais consultadas foram: Google Acadmico, Scielo, Lilacs, Pepsic e Banco de Teses
12
ano de publicao, tipo de publicao, regio de realizao do estudo, tipo de uso do teste,
rea da cincia do(s) autor(es), Qualis CAPES do peridico no qual o artigo cientfico foi
analisadas, sendo a maioria delas artigos cientficos (129). Ressalta-se que 77 % destes artigos
qualidade das publicaes que vm fazendo uso do TDE. Outro achado foi o aumento no
volume das publicaes que utilizaram o TDE desde sua publicao, ilustrado, por exemplo,
pela produo de somente seis publicaes entre 2000 e 2001, em contraste com a produo
Constatou-se, ainda, que os trs subtestes do TDE tm sido igualmente empregados pela
psicologia, como a medicina e psicopedagogia, assim como reas mais distantes, como a
psiclogos.
13
anos desde sua publicao, ficou claro que o teste segue sendo o nico instrumento
reas do conhecimento (Boscariol et al, 2011; Ferreira, Conte & Marturano, 2011; Riechi,
leitura (Lcio & Pinheiro, 2012; Lcio et al., 2009), assim como os subtestes de escrita e
aritmtica (Ferreira et al., 2012). De forma ampla, estes estudos apontaram lacunas do TDE,
como por exemplo, a distribuio desigual do nvel de dificuldade dos itens, a pouca
discriminao entre alunos mais ou menos proficientes no construto avaliado, assim como a
do instrumento, quais sejam leitura e escrita, atravs da TRI. Somente estes dois subtestes
A Teoria de Resposta ao Item (TRI) foi escolhida como abordagem para esta avaliao,
medindo, e este tipo de anlise fornece esta informao. A TRI baseia-se na teoria do trao
latente (habilidade ou aptido) de Lazersfeld (Pasquali & Primi, 2003), que procura relacionar
ao item depende do nvel de habilidade que ele possui, dentro de um continuum de habilidade
(Embretson, 1996). Desta forma, objetivou-se, atravs do Estudo II, verificar que partes do
conhecer a quantidade de informao fornecida pelos subtestes nestas reas do trao latente.
A amostra deste estudo foi composta por dados oriundos de pesquisas realizadas em
45,5% do sexo feminino. Os dados foram obtidos segundo orientao do Comit de tica para
Compromisso de Dados por parte dos pesquisadores que cederam seus dados, assim como
Os procedimentos de anlise dos dados contaram com duas etapas. Inicialmente, foi
realizada a avaliao da dimensionalidade dos subtestes, atravs de anlises fatoriais, uma vez
mdios de habilidade, mas no est mensurando bem nveis baixos e altos dessa habilidade.
Isto pode estar prejudicando a diferenciao de alunos com pouca e alta habilidade dentro do
continuum do trao latente. Desta forma, este subteste poderia ser aprimorado acrescentando-
se itens mais difceis e itens mais fceis, para que mais informaes nestas reas pudessem ser
mensurao maior no trao de habilidade alto, sendo assim, itens mais difceis devem ser
acrescentados neste subteste para que crianas com maior habilidade possam ser melhor
discriminadas. Este achado vai ao encontro das concluses dos estudos que analisaram o
subteste de leitura do TDE, apontando para a necessidade de incluso de mais itens com grau
os subtestes de leitura e escrita esto funcionando bem nestes quesitos, apesar de lacunas no
ampla utilizao do TDE, mesmo sem ter sofrido atualizaes. Se o teste no medisse o que
classificao Qualis CAPES dos peridicos). Apesar disso, diversos fatores como os padres
de leitura e escrita apontados pelo Estudo II balizam a realizao de uma verso revisada do
teste. Desta forma, o Estudo II contribuiu com evidncias de caminhos que podem ser
resultados. Finalmente, algumas limitaes e sugestes para futuros estudos acerca do TDE
Referncias
Adams, K. M. (2000). Practical and Ethical Issues Pertaining to Test Revisions. Psychological
Boscariol, M., Guimares, C. A., Hage, S. R. V., Garcia, V. L., Schmutzler, K. M. R., Cendes,
341-349.
Ferreira, F. L.; Costa, D. S.; Micheli, L. R.; Oliveira, L. F.; Pinheiro-Chagas, P. & Haase, V
Ferreira, A. A., Conte, K. M. & Marturano, E. M. (2011). Meninos com queixa escolar:
28(4), 443-451.
Fitzgerald, J. & Shanahan, T. (2000). Reading and Writing Relations and Their Development.
Graham, S. & Hebert, M. (2011). Writing to Read: A Meta-Analysis of the Impact of Writing
International Test Commission. (2000). Diretrizes para o uso de testes (verso em portugus
Lcio, P. S., & Pinheiro, A. M. V. (2012). Novos estudos psicomtricos para o subteste de
Lcio, P. S., Pinheiro, A. M. V., & Nascimento, E. (2009). O impacto da mudana no critrio
http://www.bv.fapesp.br/namidia/noticia/28901/inusitado-aumento-producao-
Pasquali, L. & Primi, R. (2003). Fundamentos da Teoria da Resposta ao Item TRI. Avaliao
CONSIDERAES FINAIS
A presente dissertao teve por objetivo averiguar a relevncia e uso do TDE pela
leitura e escrita deste instrumento. Para este fim foi realizado um estudo de levantamento
teste pelos estudos. A anlise de 222 publicaes evidenciou que o teste vem sendo
amplamente utilizado como medida de desempenho escolar, por estudos das mais diferentes
reas do conhecimento.
O Estudo II, por sua vez, buscou iniciar o processo de reviso do TDE, atravs de uma
investigao psicomtrica dos subtestes de leitura e escrita. Este estudo verificou quais partes
quantidade de informao fornecida pelos mesmos. O mtodo da TRI foi selecionado por ser
dos subtestes, que se confirmou, ou seja, ambos provaram ter somente um construto sendo
medido pelos seus diferentes itens, tornando possveis as anlises realizadas posteriormente.
Desta forma, os resultados indicaram que o subteste de escrita mensura adequadamente nveis
mdios de habilidade, porm apresenta uma lacuna nos nveis baixos e altos de habilidade.
Isto representa um possvel prejuzo na diferenciao de alunos com pouca habilidade, assim
como alunos com alta habilidade. Uma soluo apontada pelo estudo para o aprimoramento
do subteste de escrita a incluso tanto de itens mais fceis quanto itens mais difceis. Da
55
produo de informao nestas reas. Esse achado indica que itens mais difceis podem ser
acrescentados neste subteste, a fim de que o nvel de erro de mensurao nesta rea do trao
de habilidade diminua. Alm disso, itens redundantes podem ser retirados do subteste de
leitura, pois a quantidade de informao produzida nos nveis baixo e mdio de habilidade
grande.
Verificou-se com este estudo que, apesar de no medir todo o continuum do trao de
habilidades, os subtestes de leitura e escrita abarcam grande parte deste continuum, medindo,
volume de publicaes cientficas que vem utilizando o TDE como ferramenta para
mudana propostas pelo novo currculo de nove anos do Ensino Fundamental (Ministrio da
respeito do estado do instrumento poderiam ter sido obtidas com a anlise deste subteste.
Desta forma, recomenda-se que pesquisas futuras realizem o mesmo tipo de anlise aplicado
neste estudo para investigar o subteste de aritmtica. Outra limitao diz respeito realizao
somente da anlise dos subtestes do TDE, e no dos itens que o compe. Para que prximas
etapas de reviso avancem, como a retirada de itens redundantes, uma anlise de itens do
maneira mais ampla, os procedimentos adotados nesta dissertao podem servir como
possvel modelo para outros estudos que busquem atualizar instrumentos psicomtricos.
para manterem sua qualidade, desta forma, recomenda-se que anlises TRI, assim como
anlises clssicas, sejam realizadas. Espera-se que esta dissertao tenha lanado luz sobre
Referncias
International Test Commission. (2000). Diretrizes para o uso de testes (verso em portugus
ANEXOS
59
_________________________________
Prof. Lilian Milnitsky Stein, PhD
63
_________________________________
Assinatura do(a) pesquisador(a)