Académique Documents
Professionnel Documents
Culture Documents
Seminrios em Administrao
outubro de 2014
ISSN 2177-3866
Ao Tribunal de Contas da Unio, pela permisso e confiana de utilizar as suas avaliaes de programas para a
elaborao de artigo cientfico.
1 INTRODUO
As mudanas econmicas, ambientais, sociais e polticas vivenciadas no mundo
contemporneo, associadas recorrncia de crticas contundentes ineficincia crnica da
gesto pblica e a recente crise financeira mundial, exigem profundas transformaes na forma
de atuao do Estado-nao (BARROS, 2014).
No Brasil, notadamente nas ltimas dcadas, verifica-se uma crescente participao da
sociedade nos processos de discusso da concepo de polticas pblicas, assim como nos
espaos de tomada de decises quanto aos seus rumos, o que estimula a gesto pblica a elevar
os padres de eficincia na aplicao dos recursos pblicos, a fim de torn-la cada vez mais
transparentes (BARROS; SILVA; BARROS, 2012).
Para Souza, Barros e Silva (2013) essas mudanas tm despertado a viso crtica do
cidado, levando-o a uma participao mais efetiva quanto aos rumos das polticas pblicas,
exigindo a crescente melhoria dos servios pblicos, a cobrana de responsabilidades
(accountability), bem como a atuao transparente em busca do fortalecimento da democracia.
Paradoxalmente, a literatura revela que os cidados esto perdendo a confiana em seus
governos, passando, inclusive, a duvidar da capacidade destes ofertarem empregos,
aumentarem as aes promotoras de bem-estar social e at de prover bens e servios pblicos,
o que em pocas passadas foram financiados de forma eficiente e efetiva (MOORE, 1995, 2007;
MATIAS-PEREIRA, 2010). Em contrapartida, os cidados vm ampliando a sua confiana no
setor privado, uma vez que as empresas privadas e os mecanismos mercadolgicos tm
promovido prosperidade material, o que impulsiona o desenvolvimento econmico e
tecnolgico (MOORE, 1995, 2007; MATIAS-PEREIRA, 2010).
Neste contexto, a relao do Estado com o setor privado foi significativamente alterada
a partir da dcada de 1990, por influncia do movimento da New Public Management (NPM),
que incorpora um modelo de gesto voltado para a eficincia, eficcia e efetividade do aparelho
do Estado. Caracteriza-se por uma viso orientada para o cidado, com foco em resultados, que
preconiza a incorporao de instrumentos gerenciais do setor privado pelo setor pblico,
priorizando a busca pela excelncia com o aumento da qualidade dos servios pblicos, a
reduo de seus custos, a sua transparncia com o acesso informao pblica, accountability
e a identificao de novas formas de prestao destes servios (REZENDE; CUNHA;
CARDOSO, 2010; UPPING e OLIVER, 2011; SOUZA, BARROS e SILVA, 2013).
As dimenses de eficincia, eficcia e efetividade foram inseridas no contexto do
controle governamental quando a Constituio Federal (Brasil, 1988) incluiu, entre as
fiscalizaes, a operacional, e atribuiu a sua responsabilidade ao Tribunal de Contas da Unio
(TCU), que, em atendimento, criou a auditoria operacional (ANOp). Segundo Barros, Silva e
Barros (2014) e novas tendncias de administrao pblica, e de gesto das polticas pblicas
sinalizam e exigem da funo controle uma evoluo e adaptabilidade tempestiva a esse mundo
em mudanas (BARROS, SILVA e BARROS, 2014).
O TCU realiza ANOps, da qual a avaliao de programas uma modalidade, que se
constitui na coleta e anlise sistemticas de informaes sobre caractersticas, processos e
impactos de programa, atividade ou organizao, com base em critrios fundamentados, com o
objetivo de subsidiar os mecanismos de responsabilizao por desempenho e contribuir para
aperfeioar o desempenho da ao de governo (BRASIL, 2012).
Para Barzelay (1992), a NPM oferece um arcabouo terico para ampliar a competncia
legal das instituies de auditoria governamental de forma a incluir a avaliao de programas,
como uma das formas de auditoria de desempenho, atividade profissional de reviso
governamental ex-post que visa promover uma melhoria do desempenho dos programas
governamentais.
Alinhando-se a tendncia mundial, o TCU criou, no ano 2000, sua unidade
especializada, nominada Secretaria de Fiscalizao e Avaliao de Programas de Governo
2
Baseado nas pesquisas (Light, 1993; Hood et al.,1999), realizadas nas Entidades
Fiscalizadoras Superiores (EFS), Gomes (2002) conclui que as organizaes pblicas de
controle externo da burocracia estatal devem balancear e integrar duas espcies de
accountability democrtica: a de conformidade e a de desempenho (performance auditing).
A Auditoria de desempenho vem sendo rapidamente aceita no mundo como uma
atividade profissional de reviso governamental ex-post (RIST, 1989; BARZELAY, 1992;
GOMES, 2002), e tem sido utilizada para demarcar a distino entre atividade de reviso
governamental e/ou auditoria tradicional e a avaliao de programas.
Ainda no h um consenso mundial quanto ao conceito de auditoria de desempenho
(BARZELAY, 1997; VIEIRA; GOMES, 2002), visto que os estudiosos definem esta auditoria
como forma de refletir as realidades institucionais de seus pases. Os governos do sistema
Westminster (Inglaterra, Canad e Nova Zelndia) tendem a estabelecer uma distino entre
poltica e administrao, j os Estados Unidos, Alemanha, Holanda e Sucia definem em um
contexto de um regime de poder partilhado entre o executivo e o legislativo.
Alguns rgos centrais de auditoria tendem a destacar as semelhanas entre auditoria
tradicional e auditoria de desempenho (SEDGWICK, 1993), provavelmente para manter ou
expandir a reviso governamental. J os especialistas em avaliao caracterizam a auditoria de
desempenho como uma forma de avaliao (RIST, 1989).
Pollitt et al. (1999) desenvolveu um modelo no qual a auditoria de desempenho pode
estar relacionada com o atendimento dos seguintes critrios: economia, eficincia, efetividade,
boa prtica de gesto, boa governana, qualidade de servio e atendimento de metas. Os autores
testaram o modelo nas EFS da Inglaterra, Frana, Holanda, Finlndia e Sucia, concluindo que
o critrio da boa prtica de gesto constitui a grande parte dos trabalhos de auditoria. Para
eles boa prtica de gesto consiste em testes que verificam se um auditado possui um bom
sistema de contabilizao, procedimentos de determinao de metas, se existe uma boa relao
com os clientes; consideram a funo recursos humanos como a mais alta prioridade da
organizao e utiliza benchmarking para criar modelos ou padres de bom gerenciamento.
Para Barzelay (1997), auditoria de desempenho um nome incompleto para definir
todos os modelos cognitivos mentais que essa atividade de avaliao e controle governamental
incorpora. Segundo o autor, os critrios de auditoria podem ser vistos como subcategorias ou
tipos de auditoria de desempenho, tendo identificado os seguintes: eficincia, efetividade,
capacidade de gerenciamento do desempenho, informaes de desempenho, revises da melhor
prtica de gesto, avaliao de risco e revises gerais de gesto. O modelo foi testado em 13
pases da Organizao de Cooperao para o Desenvolvimento Econmico (OCDE).
Avaliar servios ou programas no sentido de interveno social e de forma sistemtica
definida por Aguilar & Ander-Egg (1994, p. 23) que cita: procedimentos que, apoiados no
uso de mtodo cientfico, servem para identificar, obter e proporcionar a informao pertinente
e julgar o mrito e o valor de algo de maneira justificvel.
4
A avaliao, segundo Weiss (1998, p. 4), um termo bastante abrangente que acomoda
muitas definies. No entanto, o que todas elas tm em comum a noo de julgamento de
mrito, baseado em critrios, segundo um mtodo especfico. Para Weiss (1998, p. 4), a
avaliao uma anlise sistemtica do processo e/ou dos resultados de um programa ou
poltica, em comparao com um conjunto explcito ou implcito de padres, com o objetivo de
contribuir para o seu aperfeioamento.
Esta definio pode ser decomposta em cinco elementos: o primeiro diz respeito
anlise sistemtica, onde se enfatiza a natureza metodolgica do trabalho; o segundo e o terceiro
referem-se ao foco da investigao, ou seja, o processo de execuo ou os resultados do
programa e/ou poltica; o quarto trata dos critrios, que so os padres de comparao; e o
quinto se relaciona ao propsito da avaliao: contribuir para a melhoria do programa e/ou
poltica, por meio da utilizao dos resultados (WEISS, 1998, p. 4).
Conforme Calmon (1999), a avaliao um dos mais importantes instrumentos de
feedback capaz de contribuir para aprendizagem organizacional, uma vez que os decisores
pblicos dependem dos dados da avaliao para implementar programas e aperfeioar a gesto
das polticas pblicas.
Estimulando a pesquisa e com o intuito de ampliar o debate para o fortalecimento das
prticas de avaliao de programas, o TCU, por meio do Instituto Serzedello Corra (ISC),
integrante de sua estrutura organizacional, lanou, em 2003, o concurso de monografia sobre o
tema Avaliao de Programas Pblicos no Brasil: o papel do Tribunal de Contas da Unio,
que constitui um representativo acervo da evoluo do Estado da Arte em Avaliao de
Programas no Brasil (LIMA, 2005).
So raros os trabalhos dedicados avaliao de programas utilizando como fonte de
pesquisa as avaliaes realizadas pelo TCU. Dentre estes, destaca-se a tese de Hedler (2007),
que produziu uma meta-avaliao das avaliaes de programas realizadas pelo Tribunal de
Contas da Unio, verificando sua validade e confiabilidade, aplicando como metodologia a
abordagem qualitativa por meio dos procedimentos: anlise de contedo, sntese de categorias
da anlise de contedo, checagem de critrios do Joint Committee, comparao dos resultados
das anlises e sntese de estudos qualitativos, concluindo que as avaliaes esto associadas a
variveis como contexto poltico, caractersticas dos programas sociais, enfoques, mtodos e
tcnicas de auditoria.
Batista et al. (2014), realizou em 2013, uma pesquisa semelhante a esta, tendo o TCU e
sua Seprog, como campo de observao, no entanto, restringiu-se as avaliaes de programas
realizadas na rea da sade. A pesquisa revelou a realizao de 17 avaliaes que contaram com
121 auditores, sendo 65,29% do gnero masculino e o emprego de 17 tipos de tcnicas de
diagnstico, predominando a entrevista e a pesquisa postal/eletrnica. Concluiu que as
avaliaes de programas realizadas pelo TCU converteram-se em subsdios para o
aperfeioamento dos rumos da gesto pblica na rea da sade, uma vez que delas resultaram
305 recomendaes, tendo o TCU demonstrado capacidade de concretizar at quatro
avaliaes anuais nesta rea, e os monitoramentos, realizados em nmero de dez, foram
considerados tmidos e impontuais, cobrando da APFB recomendaes realizadas at 2007.
3 METODOLOGIA
Com base em Raupp e Beuren (2012), o delineamento foi construdo em trs categorias:
(i) quanto aos objetivos, (ii) procedimentos e (iii) abordagem do problema. Quanto aos (i)
objetivos, caracteriza-se como pesquisa de natureza exploratria. Investigam-se as ANOps, na
modalidade de Avaliao de Programas, realizadas pelo TCU, no perodo de atuao da Seprog
(criao - dezembro/2000 e extino Portaria 253, em 21 de dezembro de 2012), observando
o tipo de suporte oferecido aos programas avaliados.
Com relao aos procedimentos (ii), tem-se um estudo de caso, que para Raupp e Beuren
(2012) esse tipo de pesquisa realizado de maneira mais intensiva, em decorrncia de os
5
adotado nesta pesquisa como ano da avaliao o da apreciao (decisum) pelo TCU (Deciso
at 2001 e Acrdo, a partir de 2002).
Para a anlise dos dados, realiza-se uma pesquisa documental, investigando o corpo dos
relatrios em busca de identificar as tcnicas de diagnstico utilizadas. Passou-se sobre os
Relatrios de Avaliao e Acrdos a funo localizar, utilizando o nome das tcnicas de
auditoria (SWOT, rvore de Problemas, Coso, Ishikawa, DVR, Mapa Cognitivo, Matriz
de Riscos, Benchmarking, Mapa de Produtos, Indicadores de Desempenho (ID), Mapa
de Processo, Stakeholder, RECI e Marco Lgico). Realizou-se, tambm, uma leitura do
captulo metodologia, com o objetivo de identificar as estratgias metodolgicas empregadas e
a forma de coletar e analisar os dados usadas pela Seprog.
Verificou-se, que praxe da Seprog realizar o Painel de Referncia, que dividido em
dois momentos, um ao final da fase de planejamento, para validar os papeis de trabalho
elaborados e a matriz de planejamento, e o outro ao final da fase de execuo, com o intuito de
validar os achados. Para os painis, so convidados especialistas, geralmente do Instituto de
Pesquisa Econmica Aplicada (Ipea), fundao pblica federal, vinculada Secretaria de
Assuntos Estratgicos da Presidncia da Repblica, com 48 anos de existncia e reconhecido
por pensar o Brasil e por funcionar como um organismo de planejamento, pesquisa e
assessoria do Estado brasileiro
Nas contracapas e a primeira folha dos Relatrios de Avaliao foram investigadas com
o intuito de identificar as equipes de auditoria, separando por gnero, bem como indicando se
houve a participao de membros externos e de onde vieram (Tribunal de Contas dos Estados
(TCE), Controladoria-Geral da Unio (CGU), Advocacia Geral do Estado de Minas Gerais
(AGE/MG) etc.). Os Acrdos foram lidos e analisados identificando a quantidade de
recomendaes, sendo expurgado as determinaes internas ao TCU.
O TCU desenvolveu a varivel HDF (Homem Dia Fiscalizao), para medir a relao
entre os dias trabalhados e os auditores (equipe) utilizados em fiscalizao/auditoria (Tabela 1).
As informaes do HDF foram colhidas do Sistema Sinergia, desenvolvido pelo TCU para
disponibilizar suas informaes nos sistemas corporativos.
Tabela 1Homens Dia Fiscalizao e sua Frmula Estatstica
HDF
O QUE REPRESENTA
FRMULA ESTATSTICA
Quantidade de Soma das quantidades dos HDFs (HDF til das fiscalizaes iniciadas no
homens-dia de considerando as fases de planejamento, perodo - at o ltimo dia do perodo de clculo).
fiscalizao
execuo e relatrio.
Soma das quantidades dos homens-dias
[ (HDF til das auditorias de natureza
teis de fiscalizao em ANOp,
ndice de HDF
considerando as fases de planejamento, operacional) / (HDF til das fiscalizaes
em Anop.
iniciadas at o ltimo dia do perodo de clculo)]
execuo e relatrio, em relao ao total de
x 100.
HDF.
Fonte: adaptado do TCU, 2013
Entre as reas avaliadas o TCU priorizou a sade (17 avaliaes), seguida da Assistncia
Social (10) e Cidadania (7), o que, na concepo da Seprog, so as reas bsicas e estratgicas
do Governo Federal. A mdia de avaliao por funo de governo registra 3,47 avaliaes por
rea/funo (Memria mdia: total avaliaes/rea = 73/21 = 3,47).
Ficaram abaixo da mdia as funes de Educao, Esportes, Gesto Ambiental,
Habitao, Saneamento e Urbanismo, Indstria, Comrcio e Servios, que registraram 3
avaliaes, Cincia e Tecnologia, Relaes Exteriores, Saneamento, Segurana e Trabalho,
com 2 avaliaes, e Administrao Pblica, Cincia e Tecnologia, Comunicaes, Direitos
Humanos, Energia Eltrica, Previdncia Social, com 1 avaliao.
4.2 Quantidade de auditorias por exerccio (ano)
O Grfico 2 apresenta, em forma de coluna, a produtividade do TCU/Seprog em
avaliaes de programas no perodo avaliativo.
Grfico 2 Avaliao de Programas Realizadas pela Seprog (2002-2012)
AVALIAES DE PROGRAMA
15
10
Mdia
5
0
2002
2003
2004
2005
2006
2007
2008
2009
2010
2011
2012
de 35,61%. Nos exerccios de 2004, 2006 e de 2009 a 2012 a produtividade ficou acima da
mdia. Verifica-se que somente as reas de Sade (17), Assistncia Social (10) e Cidadania (7)
foram avaliadas acima da mdia, o que revela baixo ndice de avaliao por reas especficas,
se comparado quantidade de avaliaes realizadas pela prpria Seprog/TCU, fator este que
no contribui para a expanso deste tipo de auditoria.
4.3 Quanto s tcnicas de diagnstico
A pesquisa revela que, nas 73 avaliaes foram empregadas 14 tcnicas de diagnstico,
que so apresentadas na Tabela 2, juntamente com a frequncia de uso. A variao de frequncia
de uso oscilou entre 1 a 59, registrando um total de 161 frequncia de uso.
Tabela 2 Quantidade de Tcnicas Utilizadas nas Avaliaes de Programas (2002-2012)
Tcnicas
Frequncia De Uso
Percentual (%) Sobre Avaliaes
1. Anlise de Stakeholder
14
19,17
2. rvore de Problemas
04
5,48
3. Benchmarking
05
6,84
4. Coso
11
15,06
5. Diagrama de Ishikawa
04
5,48
6. DVR
13
17,80
7. Indicador de Desempenho (ID)
59
80,82
8. Mapa Cognitivo
01
1,36
9. Mapa de Processos
18
24,66
10. Mapa de Produtos e Impactos
06
8,21
11. Marco Lgico
03
4,10
12. Matriz de Riscos
02
2,73
13. RECI
01
1,36
14. SWOT
20
27,39
161
TOTAL DE FREQUNCIA
Fonte: elaborado pelos autores, 2013
A tcnica mais utilizada foi o ID com frequncia de 59, figurando em 80,82% das
avaliaes, seguido da tcnica SWOT, com uma frequncia de 20, que est presente em 27,39%
das avaliaes de programas. Depois vem o Mapa de Processos (frequncia -18, representando
24,66%) e Anlise Stakeholder (frequncia -14, representando 19,17%).
A mdia de frequncia de uso das tcnicas por avaliao de 2,2054794 (Memria da
mdia: 161 frequncias de uso das tcnicas/ 73 avaliaes = 2,2054794). Constata-se que onze
tcnicas de diagnstico foram utilizadas acima da mdia (2,2054794), oscilando em uma
frequncia que vai de 3 a 59 e 3 foram utilizadas abaixo da mdia (2,2054794), variando de
uma a duas, so elas Mapa Cognitivo e RECI, com frequncia de uso (01) e Matriz de Riscos
(02).
4.4 Quanto s estratgias metodolgicas
A pesquisa revela 6 tipos diferentes de estratgias metodolgicas, que so apresentadas
na Tabela 3, juntamente com a frequncia de uso. A variao de frequncia de uso oscilou entre
1 a 73, registrando um total de 216 frequncia de uso.
Tabela 3 Quantidade de Estratgias Metodolgicas Utilizadas nas Avaliaes de Programas (2002-2012)
Estratgias Metodolgicas
Frequncia De Uso
Percentual (%) Sobre
Avaliaes de Programa
73
1. Anlise Bibliogrfica
73
100
2. Anlise Normativo
73
100
3. Estudo de Caso
23
31,50
4. Pesquisa Quase Experimental
01
1,37
5. Teste Piloto
10
13,70
6. Visitas de Estudo ou Visitas Exploratria
36
49,31
216
TOTAL DE FREQUNCIA
Fonte: elaborado pelos autores 2013
Para anlise dos dados, o TCU tem priorizado a Anlise Qualitativa (55) e a Anlise de
Frequncia (47), o que coincide com as prticas do mundo cientfico. As demais formas
utilizadas para analisar os dados foram usadas esporadicamente em uma ou duas avaliaes, o
que no representativo.
4.7 Quanto formao das Equipes
As 73 avaliaes foram executadas por 490 auditores, o que representa em mdia 6,71
auditor/avaliao (Memria da mdia: 490/73 = 6,7123287). Quanto ao gnero, tem-se que 319
so do sexo masculino, o que representa 65,10% e 171 do feminino, o que equivale a 34,90%.
As equipes de auditoria foram formadas utilizando o mnimo de dois auditores, como
nos Programas Levantamento da Funo Avaliao, da rea de Administrao Pblica e
Farmcia Bsica, da rea de Sade, e no mximo 30 auditores, o que ocorreu na avaliao da
Ao Alfabetizao Solidria, da rea da Educao. Verifica-se que o TCU tem o cuidado de
manter pelo menos dois auditores, o que segue os padres de auditoria internacional (GAO,
INTOSAI) e credita confiabilidade, afastando ou diminuindo os conflitos de interesses que
podem ser gerados de acordo com a Teoria da Agncia.
10
12
Tabela 8 Monitoramentos Realizados nas Avaliaes de 2002-2012 e suas Implementaes pela APFB
IMPLEMENTADAS
MONITORAMENTOS
AVALIAO DELIBERAO
SIM
% NO
%
No
%
Sab
e
No Monitorados
32
371
371 100
1 Monitoramento
17
348
107
24
241
43
At o 2 Monitoramento
16
447
218
50
229
40
At o 3 Monitoramento
08
207
110
26
97
17
TOTAL
73
1.373
435
32
567
41
371
27
MONITORAMENTOS
Fonte: elaborada pelos autores, 2014
A Tabela 8 revela que das 1.373 deliberaes expedidas pelo TCU nas 73 avaliaes
pesquisadas, 435 foram implementadas pela APFB, conforme restou comprovado por meio de
monitoramentos. Assim, tem-se que o TCU impactou a APFB com 32% de suas
determinaes/recomendaes.
A Tabela 8 registra que das 73 avaliaes 32 no foram monitoradas, deixando de ser
verificada a implementao (ou no) de 371 deliberaes, o que representa 27%, o que pode
(ou no) elevar o impacto da aplicabilidade das recomendaes emanadas pelo TCU, podendo
chegar at 59%.
A pesquisa revela, por fim, que 8 avaliaes completaram o ciclo proposto (3
monitoramentos), o que confrontando com o universo (73) tem-se que 10,95% das avaliaes
de 2002-2012 passam pelo ciclo completo de monitoramento, o que demonstra baixa atuao
do TCU em realizar o ciclo completo do monitoramento. Conforme o Manual de ANOp (Brasil,
2010), o incio do monitoramento no deve demorar, para que no perca a expectativa de
controle, no sendo aconselhvel, por outro lado, que se estenda por muito tempo. De acordo
com a experincia do GAO, as deliberaes so implementadas at trs anos aps a ANOp.
5 CONCLUSO
A pesquisa revelou que o TCU/Seprog, por meio de suas avaliaes de programa, no
perodo entre 2000-2012, colaborou com o aperfeioamento da APFB deliberando 1.373
recomendaes, atuao esta que se constitui em freios e contrapesos na resoluo dos conflitos
de interesses entre gestores pblicos e os direitos do cidado, favorece a busca pela excelncia
na qualidade dos bens e servios e agrega valor aos recursos investidos (humanos, financeiros
etc), ajuda na tomada de deciso, reduz os riscos e promove o desenvolvimento nacional.
O monitoramento registrou que 435 (32%) das deliberaes do TCU j foram
implementadas pela APFB, atestando a efetiva contribuio do TCU/Seprog na evoluo dos
73 programas avaliados, o que gera, de forma indireta, no universo atual, 314 programas de
governo, sendo 65 Programas Temticos, 492 Objetivos e 2.417 metas - PPA 2012-2015), a
expectativa de que a presena do controle externo na avaliao dos programas de governo
cumpre um papel significativo, de modo a impor respeito, alerta e inibe aes contrrias boa
e regular prtica de gesto dos stakeholders envolvidos no processo de formulao,
implementao, execuo e resultados das aes empreendidas por meio de polticas pblicas.
A pesquisa tambm revela que o TCU, baseado nas experincias vivenciadas em suas
auditorias, e com base na literatura acadmica, utiliza estratgicas metodolgicas em suas
avaliaes, dando nfase nas anlises normativa e bibliogrfica; realiza a coleta dos dados por
meio de entrevistas, pesquisa postal (web-mail e eletrnica) e grupo focal, utilizando de praxe
o painel de referncia com especialistas para validar as fases finais de planejamento e de
execuo para os papeis de trabalho e os achados; analisa os dados utilizando, em sua maioria,
as anlises de frequncia e qualitativa; e adiciona ao desenvolvimento das avaliaes tcnicas
de diagnstico de auditorias, o que confere s avaliaes um carter cientfico em sintonia com
os padres internacionais. No entanto, identificou-se, que a demanda por este tipo de auditoria,
por parte dos congressistas brasileiros, no est alinhada ao comportamento mundial (NAO,
13
_______.
TCU
Histrico
da
ANOp.
Disponvel
em:
<
http://portal2.tcu.gov.br/portal/page/portal/TCU/comunidades/programas_governo>. Acesso
em 5 jan. 2013.
CALMON, Ktia Maria Nasiaseni. A avaliao de programas como instrumento de
aprendizagem organizacional: o caso do PROSEGE. Mimeografado. Dissertao de Mestrado,
Dep. de Administrao da Faculdade de Estudos Sociais Aplicados da Universidade de Braslia
UnB. Braslia, DF: 1997. Revista Planejamento e Polticas Pblicas, n 19, jun., 1999.
GAETENI, Francisco. Polticas de gesto pblica para o prximo governo. In: TCU. O Controle
Externo e a nova administrao pblica: uma viso comparativa. Braslia, p.7-24, 102p., 2002.
GOMES, Marcelo B. Auditoria de desempenho governamental e o papel de Entidades
Fiscalizadoras Superiores (EFS). Revista do Servio Pblico, n. 2, p. 36-78, abr./jun. 2002.
HEDLER, Helga Cristina. Meta-avaliao em de Auditorias de Natureza Operacional do
Tribunal de Contas da Unio: Um estudo sobre auditorias de Programas Sociais. 2007. Tese
(Doutorado em Psicologia Social, do Trabalho e das Organizaes (Psto)) - Universidade de
Braslia, 2007.
HOOD, Christopher C. Bureaucratic regulation and new public management in the UK: Mirror
Image Developments? Bureaucratic Gamekeeping Discussion Paper N 2. London: London
School of Economics, 1996.
HOOD, Christopher et al. Regulation inside government. Waste-Watchers, Quality Police, and
Sleaze-Busters. New York: Oxford University Press. 1999.
JNIOR BENJAMIN, Lima. O TCU e a busca pelo aprimoramento das avaliaes de polticas
pblicas no Brasil. In: TCU. Prmio Serzedello Corra 2003: monografias vencedoras.Tribunal
de Contas da Unio.- Braslia: TCU, Instituto Serzedello Corra, 167p., 2005.
LIGHT, Paul. Monitoring Government. Washington: brookings Institute.1993.
LIMA, Dagomar Henrique. Avaliao de programas e responsabilizao dos agentes pblicos
pelo resultado da ao governamental. In: TCU. Prmio Serzedello Corra 2003: monografias
vencedoras. Tribunal de Contas da Unio.- Braslia: TCU, Instituto Serzedello Corra, p. 4371,167p., 2005.
MATIAS PEREIRA, Jos. Governana no setor pblico. So Paulo: Atlas, 2010.
MOORE, Mark. Creating public value: management in government. Cambridge: Havard
University Press, 1995.
______. Criando valor pblico por meio de parcerias pblico-privadas. Revista do Servio
Pblico Braslia 58 (2): 151-179, abr./jun. 2007.
POLLIT, Christopher et al. Performance or compliance? Performance Audit and Public
management in Five Countries. Oxford: Oxford University Press: Addison-Wesley, 1999.
15
16