Académique Documents
Professionnel Documents
Culture Documents
Apostila de apoio
1ª edição
Curso de Gestores
Apostila de apoio
1ª edição
São Paulo – SP
2015
Equipe Fundação Itaú Social
Vice-presidente Equipe
Antonio Jacinto Matias Carlos Eduardo Garrido
Clarissa Gondim Teixeira
Superintendente Karen Dias Mendes
Isabel Cristina Santana Marina Brito Ferraz
Paula Santana Santos
Superintendente Adjunta Samara Fonteles Cunha
Angela Cristina Dannemann
Coordenação Editorial
Coordenador Karen Dias Mendes
Antonio Bara Bresolin
Projeto Gráfico e Diagramação
theSign
Vários autores
15-07867 CDD-332.092
Índices para catálogo sistemático:
1. Gestores de mercado financeiro : Economia
332.092
O CURSO
NÃO se espera que o aluno ao fim do curso seja capaz • O documento final do trabalho deve ser enviado ao
de executar uma avaliação econômica de forma professor, via internet, ao fim da 8ª aula.
autônoma e sem auxílio técnico.
• A 9ª aula do curso (última) é destinada à
Alguns conteúdos que NÃO serão abordados apresentação dos trabalhos aos colegas e a um
neste curso: especialista em avaliação econômica da Fundação
Itaú Social, que fará considerações a fim de
1. Captação de recursos. contribuir para que a avaliação seja colocada
em prática.
2. Estruturação e elaboração de projetos sociais.
• Embora não seja obrigatória para a obtenção do
3. Prestação de contas. certificado de conclusão do curso, a apresentação
dos trabalhos é fortemente recomendada.
4. Indicadores de processo e monitoramento.
AULA 2
Preparando-se para o Processo de Avaliação 17
AULA 3
Introdução à Avaliação de Impacto 29
AULA 4
Conceitos Básicos de Estatística 37
AULA 5
Técnicas para Estimação do Impacto 55
AULA 6
Cálculo do Retorno Econômico:
Conceitos e Dados 69
AULA 7
Cálculo do Retorno Econômico: Prática 81
AULA 1
Introdução à Avaliação Econômica
de Projetos Sociais
Considerações Iniciais............................................... 10
Avaliação Econômica................................................. 10
Avaliação de Impacto................................................ 12
Retorno Econômico.................................................... 14
Comentários Finais..................................................... 15
10
Avaliar é emitir juízo de valor sobre algo. • Cada vez mais sente-se a necessidade de garantir
que os recursos econômicos sejam investidos
Avaliação Econômica é quantificar o impacto e o da melhor forma possível, e na área social não é
retorno econômico de um projeto, com base em diferente.
metodologia científica.
• Assim, desde 2004, a Fundação Itaú Social busca
A Avaliação Econômica pode ser um importante disseminar, na área pública e no terceiro setor,
instrumento de gestão de projeto social, possibilitando meios de observar, objetivamente, o real efeito
o seu aprimoramento a partir de tomadas de decisão das ações propostas, para auxiliar em tomadas de
conscientes. decisão e na prestação de contas à sociedade.
Objetivo:
PROJETOS MADUROS
Projeto
Não é evidente que um programa amplamente
utilizado tenha impacto? Afinal, por que alguém Avaliar
dedicaria tempo e esforço a um programa que não
traz benefícios?
Implementar
Mesmo que tenhamos convicção da existência de
impacto, tão ou mais importante é conhecer as
dimensões e a magnitude do impacto, assim como os
canais que permitem que esse impacto se manifeste.
Essas informações contribuem para a melhoria do
desenho do próprio programa (uso interno) e de
outros projetos similares (uso externo).
12
AVALIAÇÃO DE IMPACTO
Capacitação Eleições
de professores municipais
Reforma
Etc.
da escola
Desempenho
dos alunos
AULA 1 | Introdução à Avaliação Econômica de Projetos Sociais 13
»» Pode ocorrer antes da intervenção (ex ante). A avaliação de impacto não é capaz de justificar
o impacto estimado ou apontar os mecanismos
geradores desse efeito.
O que posso avaliar?
• Em suma, pode-se afirmar que a realização de uma
É possível avaliar qualquer tipo de intervenção: ações, avaliação de impacto envolve as seguintes etapas
projetos, cursos, programas ou políticas públicas. de execução:
Custo de
oportunidade
Benefícios Benefícios
Custo Custo
contábil contábil
Saiba mais
• Avaliação Econômica de Projetos Sociais, Fundação Itaú Social (Capítulo 1). Disponível em:
http://www.fundacaoitausocial.org.br/_arquivosestaticos/FIS/pdf/livro_aval_econ.pdf
COMENTÁRIOS FINAIS
• Nesta aula: apresentou-se um panorama geral do conteúdo do curso, ou seja, uma introdução
aos conceitos de Avaliação de Impacto e Avaliação de Retorno Econômico, os dois pilares do que
denominamos Avaliação Econômica de Projetos Sociais.
• Próxima aula: como estruturar projetos sociais pela ótica da avaliação econômica, identificando
os elementos necessários ao processo de avaliação.
AULA 2
Preparando-se para o Processo
de Avaliação
Considerações Iniciais...............................................18
Marco Lógico...............................................................18
Público-alvo.................................................................19
Objetivo........................................................................20
Indicadores..................................................................21
Dados/Fontes de Informações.................................24
Comentários Finais.....................................................27
18
O processo de avaliação econômica pode trazer • Para situar o uso da Avaliação Econômica dentro
benefícios para além de seus resultados diretos, pois da gestão de um projeto social, podemos utilizar a
ajuda a clarear muitas questões relativas ao escopo e metodologia do Marco Lógico.
ao propósito do projeto em análise.
• O Marco Lógico (também denominado Matriz
Lógica ou Quadro Lógico) é uma possível
Plano de Aula ferramenta de gestão que facilita o processo
de elaboração, acompanhamento e avaliação
de projetos. O Marco Lógico permeia todas as
Objetivo: etapas de um projeto: concepção, planejamento,
execução, monitoramento e reformulação.
Orientar a construção de conceitos e a coleta de
informações que serão essenciais para a avaliação • Por meio dessa metodologia, busca-se estruturar a
econômica de um projeto social ou política pública. “lógica” da intervenção, organizando e explicitando
a estratégia para alcançar o objetivo desejado.
• Objetivo.
• Indicadores.
• Dados/Fonte de Informações.
Recursos materiais, Modus operandi e Parte das ações Efeitos imediatos Mudanças que o
financeiros articulação com o realizadas que se decorrentes das projeto causou
e humanos público-alvo. traduzem em algo ações do projeto. na vida dos
disponíveis. tangível. beneficiários.
Equipes de atenção Profissionais de saúde Visitas para prevenir Número de remédios Redução da taxa de
básica, postos de saúde, observando as famílias, o início de doenças distribuídos, de doenças mortalidade infantil e
alimentos, remédios, etc. distribuição de remédios evitáveis identificadas e de pessoas internação de idosos
encaminhadas para o SUS
• Definiremos público-alvo como o segmento ao »» Nesse caso, podemos procurar mudanças tanto
qual se destinam as ações de um projeto, ou seja, nos próprios indivíduos, em suas famílias
a população na qual se espera gerar mudanças/ ou ainda em todo o centro de São Paulo.
impacto.
• Note que o público-alvo pode, ou não, coincidir
• O público-alvo não precisa ser formado por um com o público que participa diretamente das
grupo de pessoas, necessariamente. ações do programa.
Exemplo: um projeto ambiental pode ter uma rede Exemplo: um projeto pode desenvolver ações
hidrográfica ou uma zona de vegetação como seu junto a um grupo de lenhadores, tendo como
público-alvo. público-alvo uma área de preservação ambiental.
• Definir o público-alvo pode ser subjetivo, ou seja, • O público-alvo de um projeto engloba não
envolver uma decisão/escolha por parte do gestor somente seus beneficiários efetivos, mas toda
do programa. a população que o projeto gostaria de atingir.
Um projeto social pode ou não atender todo
seu público-alvo.
20
• A definição do público-alvo de um projeto envolve 3. Qual mudança se pretende realizar na vida dos
o mapeamento das características dos seus beneficiários?
beneficiários (indivíduos ou não) de forma clara
e objetiva, o que é essencial para a realização da • Um projeto pode ter diversos objetivos de
avaliação econômica. naturezas diferentes. A avaliação econômica,
entretanto, apenas é capaz de investigar o projeto
• Quando o público-alvo escolhido coincide com quanto ao alcance de objetivos mensuráveis.
os participantes das ações, podemos, em geral,
nos guiar pelos critérios de seleção ou de • Para realizar a avaliação econômica é importante
elegibilidade do projeto social. que os objetivos do projeto sejam claros e bem
definidos. O objetivo não pode ser geral.
Exemplo: faixa etária, renda familiar, escolaridade,
ocupação, região geográfica, características Exemplo: “melhorar a qualidade de vida” é um
demográficas, etc. objetivo geral. Pode-se melhorar a qualidade de
vida de tantas maneiras que não conseguimos
saber nem mesmo a área de atuação do projeto.
Melhora-se a qualidade de vida por meio de
melhorias na saúde, moradia, educação, etc.
Exemplo:
Indicadores de impacto
»» Pouco satisfeito = 1
»» Longo prazo: aumento da renda do trabalho
dos jovens (após 5 anos de intervenção).
AULA 2 | Preparando-se para o Processo de Avaliação 23
• Pode-se combinar o uso de indicadores Reduzir a desnutrição entre crianças de 0 a 5 anos da zona rural do
quantitativos e qualitativos, a fim de enriquecer Vale do Ribeira.
a análise.
3. Indicadores?
EXERCÍCIO C
EXERCÍCIO A
Diagnóstico
Diagnóstico Foram identificados muitos casos de febre tifoide
Ao monitorar indicadores relacionados à qualidade em favelas pacificadas do Rio de Janeiro. A doença
da educação (notas escolares, frequência escolar, é causada por uma bactéria que se desenvolve no
aprovação, evasão, etc.), um grupo de pesquisadores lixo. Identificou-se também que, apesar de existirem
identificou déficit de aprendizagem nos alunos das caçambas nas favelas e haver coleta frequentemente,
escolas públicas do ensino médio da zona leste da há muito lixo em terrenos baldios e ruas, pois os
cidade de São Paulo. moradores não levam o lixo até as caçambas. Além
disso, pesquisas mostraram que é mais fácil mudar
1. Público-alvo? o comportamento de crianças e jovens do que
de adultos, evidenciando a importância de ações
Alunos do ensino médio das escolas públicas da zona leste da preventivas junto às escolas da região.
cidade de São Paulo.
1. Público-alvo?
2. Objetivo?
Favelas pacificadas do Rio de Janeiro.
Melhorar a aprendizagem dos estudantes do ensino médio das
escolas públicas da zona leste da cidade de São Paulo. 2. Objetivo?
Diagnóstico
Estudantes de medicina constataram elevado grau de
desnutrição infantil nas crianças de 0 a 5 anos da zona
rural do Vale do Ribeira.
24
• Microdados consistem no menor nível de Não existe uma única resposta para essa pergunta.
observação possível de um dado, possibilitando
cálculos estatísticos. • Idealmente, o cadastro deve conter todos os dados
necessários e/ou relevantes para a caracterização
Exemplo: informações como “10% dos do público-alvo do projeto e também as
beneficiários são homens e 90% são mulheres” ou informações referentes aos indicadores de impacto
“10% dos beneficiários são brancos, 40% são pardos no “marco zero”.
e 50% são negros” não bastam!
• Por outro lado, perceba que a coleta desenfreada
• Os microdados utilizados para a execução da de informações atrapalha o armazenamento dos
avaliação de impacto podem ser de duas naturezas: dados e pode desvirtuar o foco nos objetivos do
projeto e na coleta de informações que realmente
1. Dados primários – são dados originais, ou seja, interessam.
coletados em primeira mão especificamente
para o projeto.
Exemplo: projeto que oferece atividades educativas Exemplo: projeto que conscientiza mães de baixa
no contraturno escolar. renda sobre nutrição infantil.
Público-alvo:
Público-alvo:
Crianças de 0 a 3 anos, nascidas em famílias de baixa
Crianças de baixo nível socioeconômico do ensino renda.
fundamental.
Objetivo:
Prefira:
• Por esse motivo, é muito importante que o cadastro
inicial também possua dados que permitam a
1. Você trabalha?
localização posterior do candidato.
a. Sim
b. Não (pule para a pergunta 3)
Exemplo: endereço próprio, endereço de um
2. Qual sua remuneração no emprego principal?
parente, telefone, e-mail, rede social, etc.
3. ...
6. Evitar perguntas retroativas – elas precisam 6. Diferença de interpretação das perguntas entre
contar com a memória dos entrevistados. entrevistadores – treine todos os entrevistadores
juntos antes da aplicação.
7. Evitar fazer hipóteses sobre o perfil/tipo
do entrevistado.
AULA 2 | Preparando-se para o Processo de Avaliação 27
Saiba mais
• IPEADATA: nas seções “Social” e “Regional”, há várias séries estatísticas com informações nos níveis municipal e
estadual sobre assistência social, demografia, desenvolvimento humano, educação, habitação, saúde, mercado
de trabalho, etc. Disponível em: www.ipeadata.gov.br
COMENTÁRIOS FINAIS
• Nesta aula: discussão sobre os elementos essenciais para a avaliação econômica dos projetos
sociais e políticas públicas. Vocês aprenderam os conceitos de público-alvo, objetivo do projeto,
indicadores de impacto e base de dados.
Considerações Iniciais...............................................30
Causalidade.................................................................30
Contrafactual...............................................................31
Grupo Controle...........................................................32
Viés de Seleção...........................................................34
Aleatorização..............................................................35
Comentários Finais.....................................................36
30
Quando a chuva cai, necessariamente, a rua fica • Como vimos na Aula 1, a avaliação de impacto
molhada. busca estabelecer relações de causalidade, e não
meramente de correlação entre duas variáveis.
Se a rua está molhada, pode ter chovido. Mas, não
necessariamente! Causalidade Correlação
• Contrafactual.
A E
B OU
B OU
B
• Grupo Controle.
• Aleatorização. AExemplo:
E
B OU Bde saúde.
renda e indicadores OU
B
2. Correlação Negativa (ou Relação Inversa).
A E
B OU
B OU
B
A EE
B OU
B OU
B
»» Observa-se que, enquanto A subiu, B caiu.
AExemplo:
E
B OU B OU B
A B
E renda e número de filhos.
A E
B
AULA 3 | Introdução à Avaliação de Impacto 31
A B
aumento da incidência de doenças respiratórias (B),
nunca o contrário. »» Real:
A B A
2. A causa B e B causa A, simultaneamente.
A B C A
C (PROJETO)
(PROJETO)
A B (TODOS OS
(TODOS OS
B
BRR
OUTROS EVENTOS
OUTROS EVENTOS
QUE AFETAM B)
A C B (TODOS
OUTROS
OUTROS
OS
EVENTOS
EVENTOS
QUE AFETAM B)
QUE AFETAM B)
B
BCC
(INDICADOR
Exemplo: o aumento da incidência de dengue (A) (INDICADOR
DE IMPACTO)
DE IMPACTO)
sempre ocorre junto ao aumento dos deslizamentos
de terra (B). Na realidade, ambos os eventos são
causados pelo aumento das chuvas (C).
Impacto do projeto = BR - BC
• No “mundo real” observamos inúmeras sequências
• Entretanto, não é possível observar o público-alvo
de eventos, com correlações e relações de
do projeto em dois cenários diferentes ao mesmo
causalidade que se sobrepõem, confundem-se
tempo. Ou seja, o contrafactual não existe
e ocorrem simultaneamente.
na prática.
A B
AÇÕES DO INDICADOR
PROJETO DE IMPACTO
A B
32
Grupo Tratamento:
• Ideia: escolher um grupo de não beneficiários do
projeto para simular o contrafactual – o grupo 20
controle. É da comparação entre os grupos que
15
Índice de Infecção
calculamos o impacto de um programa.
10
• Um grupo de controle adequado deve: 5
0
1. Não ter sido afetado pela intervenção (nem Antes do Depois do
direta nem indiretamente!). projeto projeto
15
10
é importante? 0
Antes do Depois do
projeto projeto
15
10
0
Antes do Depois do
projeto projeto
• Para que a aleatorização seja possível, a avaliação »» Uma vez dentro do perfil desejado (idade,
do projeto precisa ser idealizada junto ao programa renda familiar, local de residência, frequência
e incorporada em sua implementação. escolar, etc.) não haveria motivos para preferir
determinada criança em detrimento de outra.
• Para que uma aleatorização seja viável, é necessário
que o público-alvo do projeto seja maior que o »» Critérios como ordem de inscrição, por exemplo,
público atendido e que, uma vez atendidos os que buscam capturar grau de interesse, na
critérios de elegibilidade do projeto, seja possível realidade, muitas vezes estão excluindo crianças
abrir mão de uma seleção arbitrária. com menor acesso à informação.
Na prática, a aleatorização consiste em: Mas por que a aleatorização é capaz de estimar
o efeito causal do projeto de forma simples
1. Permitir que o público interessado no projeto se
e sem viés?
inscreva livremente para participar.
A aleatorização é capaz de garantir a semelhança dos
2. Dentre os inscritos, selecionar os candidatos
dois grupos em qualquer característica, observável
que se enquadram no público-alvo do projeto,
ou não, neutralizando o efeito de todos os demais
a partir de critérios de elegibilidade claros,
acontecimentos que interferem nas variáveis de
objetivos e bem definidos.
impacto.
3. Uma vez selecionados os indivíduos com o perfil
»» Em particular: 1. Os candidatos do grupo
desejado, sortear, de forma simples e aleatória,
de controle e do grupo de tratamento
uma parcela desses candidatos para serem
manifestaram igual interesse em participar do
contemplados com uma vaga no projeto.
projeto; 2. A seleção dos beneficiários fica isenta
• A viabilidade de implementar uma aleatorização de informações privilegiadas que os gestores
deve ser avaliada caso a caso. do projeto possam ter sobre alguns candidatos.
• Há situações em que a aleatorização pode esbarrar • Nas situações reais, há presença de muitos fatores
em questões éticas, ou na efetividade do projeto que interferem na pesquisa e podem fugir do
em beneficiar o público mais necessitado. controle do pesquisador, pois o ambiente real não
é criado por ele. Por essa razão, o pesquisador
Exemplo: programa de cadastro de doadores de precisa se adequar ao ambiente, utilizando técnicas
medula óssea. para atenuar os efeitos de fatores que atrapalham
as observações.
»» O programa, por natureza, deve ser acessível ao
maior número possível de doadores e receptores. • Quando o projeto é implementado pela
aleatorização, o impacto causal dele é obtido da
»» Não há sentido em privar o acesso de possíveis seguinte forma:
receptores ao banco de dados em favor da
avaliação de impacto.
36
• Com a aleatorização, pode ser menos necessário 2. Substituição de projeto – alguns controles
coletar informações sobre o perfil dos indivíduos. passam a participar de outro projeto similar.
Apenas coleta-se os indicadores de impacto. Assim, eles deixam de representar o
contrafactual dos tratados na situação
• Com a aleatorização, pode ser menos necessário de não participarem de nenhum projeto.
coletar a linha de base, ou seja, o valor dos
indicadores de impacto antes da intervenção. 3. Atrito – alguns tratados e controles não
são encontrados no momento da avaliação
• Sem aleatorização, inúmeros fatores que interferem (que sempre é posterior ao projeto), o que
na pesquisa começam a aparecer e podem fugir do compromete os resultados.
controle do avaliador.
4. Externalidades – apesar de os controles não
• Todas as técnicas de estimação que estudaremos se beneficiarem diretamente, o projeto pode
nas próximas aulas têm o objetivo de minimizar o atingi-los indiretamente, seja porque eles alteram
viés da avaliação em projeto não aleatorizado. seu comportamento ao observarem os tratados,
seja porque o projeto altera o contexto social
do local onde vivem.
Saiba mais
• Avaliação Econômica de Projetos Sociais, Fundação Itaú Social (Capítulo 3). Disponível em:
http://www.fundacaoitausocial.org.br/_arquivosestaticos/FIS/pdf/livro_aval_econ.pdf
COMENTÁRIOS FINAIS
• Próxima aula: conceitos e ferramentas estatísticas que serão usados na avaliação de impacto.
AULA 4 | Conceitos Básicos de Estatística 37
AULA 4
Conceitos Básicos de Estatística
Considerações Iniciais...............................................38
Amostra e Universo....................................................38
Média Amostral...........................................................39
Estimativas – Intuição................................................45
Estimativas – Prática..................................................47
Intervalo de Confiança..............................................49
Teste de Hipótese.......................................................51
Comentários Finais.....................................................53
Anexo............................................................................54
38
• Amostra e Universo.
É o conjunto completo da população
Universo que pretendemos estudar.
• Média.
É o subconjunto representativo do
• Variância /Desvio-padrão /Erro-padrão. Amostra universo, selecionado para o estudo.
• Intervalo de Confiança.
Público-alvo (Universo)
Grupo de Grupo de
Tratamento Controle
Amostra Amostra
Amostra
• Para isso, escolhemos uma amostra aleatória de 20
alunos dessa escola e aplicamos uma prova.
Soma de todos os valores
Média AmostralMédia observados dividida pelo
número de observações
a Amostral
40
2. Cálculo:
Formalmente, o cálculo da média de uma variável pode ser expresso
Amostral
:
Soma de todos os valores
• pela
Nesseseguinte
Média fórmulaobservados
caso, portanto: matemática:dividida pelo • Imagine agora que esse procedimento foi realizado
Soma de todos os valores
número
𝑛𝑛 pelo
de observações 𝑥𝑥em variável
=duas de interesse
escolas diferentes, obtendo-se o banco de
Média 𝑖𝑖=1 𝑥𝑥𝑖𝑖
observados dividida
𝑀𝑀𝑀𝑀𝑀𝑀𝑀𝑀𝑀 𝑥𝑥 número
= 𝑥𝑥de=observações , onde: 𝑛𝑛 = número de observações
dados abaixo:
𝑛𝑛
Formalmente, o cálculo da média de uma variável pode ser𝑖𝑖expresso
Soma de todos os valores = 1,Escola
… , 𝑛𝑛.
pela seguinte Em que:fórmula matemática: 1 Escola 2
édia observados dividida pelo
ente, o cálculo da médianúmero de uma
𝑛𝑛 de
variável pode
observações
ser expresso
𝑥𝑥 = variável de interesse
id_aluno (i) Nota id_aluno (i) Nota
𝑥𝑥𝑖𝑖
nte fórmula
𝑀𝑀𝑀𝑀𝑀𝑀𝑀𝑀𝑀 matemática: 𝑥𝑥 = 𝑖𝑖=1 em
𝑥𝑥 ==desempenho , onde: 𝑛𝑛 = número de observações
matemática
𝑛𝑛 𝑥𝑥 = variável de interesse 1 8 21 6
𝑛𝑛
𝑖𝑖=1 𝑥𝑥𝑖𝑖 𝑖𝑖 = 1, … , 𝑛𝑛.
𝑥𝑥e, = 𝑥𝑥 = da média, onde:
o cálculo de uma = número
𝑛𝑛variável podede ser
observações
expresso 2 7 22 5
𝑛𝑛 = quantidade de alunos na amostra (=20)
fórmula matemática: 𝑖𝑖 = 1, … , 𝑛𝑛. 3 8 23 6
𝑛𝑛 𝑥𝑥 = variável de interesse 4 10 24 6
𝑥𝑥
= 𝑥𝑥 = 𝑖𝑖=1 𝑖𝑖 = 1, …, 20 (id do
, onde: 𝑛𝑛 aluno)
= número de observações 5 8 25 5
𝑛𝑛
𝑖𝑖 = 1, … , 𝑛𝑛.
• As notas obtidas pelos 20 alunos da amostra foram 6 7 26 5
tabuladas e geraram o banco de dados abaixo: 7 1 27 5
8 1 28 5
id_aluno (i) Nota 9 1 29 5
1 4 10 7 30 6
2 8 11 10 31 5
3 8 12 1 32 6
4 3 13 3 33 5
5 7 14 0 34 5
6 7 15 1 35 6
7 5 16 4 36 5
8 5 17 4 37 6
9 5 18 9 38 5
10 9 19 10 39 6
11 2 20 9 40 6
12 9
13 2
14 7
• Calculando a nota média das duas amostras
15 4
Média Amostral
16 5
chegamos ao mesmo valor obtido anteriormente:
id_aluno (i) Nota
1 5,45. 4
17 6 2 8
3 8
As notas obtidas
18 pelos 20 alunos da5 amostra 4 • Considerando
3 apenas a média, as duas amostras
foram tabuladas
19 e geraram o banco 4de dados 5
seriam7consideradas iguais em termos de
ao lado. 20 4
6
7
7
desempenho
5 em matemática, apesar de serem
8 5
9
claramente
5
diferentes: na Escola 1 todos os alunos
• Imputando
Imputandoos
osvalores nafórmula:
valores na fórmula: 10 têm notas
9 distantes de 5,45, enquanto que na
11 2
12
Escola 92 todas as notas estão próximas de 5,45.
(4 + 8 + 8 + ... + 4+ 4)
𝑥𝑥 = = 5,45 13 2
20 14 7
15 4
• Em média, os alunos dessa amostra tiveram nota 16 5
Ou5,45
seja, em média,
na prova os alunos dessa amostra
de matemática.
17 6
18 5
tiveram nota 5,45 na prova de matemática. 19 4
20 4
AULA 4 | Conceitos Básicos de Estatística 41
Conclusões VARIÂNCIA E
• Se a nota média calculada for de 8,0, podemos
DESVIO-PADRÃO
esperar que a população (alunos da escola) seja, em AMOSTRAL
geral, formada por alunos de melhor desempenho
do que se a nota média for de 2,0.
É a raiz quadrada
Desvio-padrão da variância amostral.
Média Variância
Amostral e Desvio-Padrão Amostral
Cálculo
Média Amostral
2. Cálculo:
2. Cálculo:
• Formalmente, o cálculo da variância de uma
Média
2. Amostral Formalmente,
Cálculo: variável pode seroexpresso
cálculo pela
da variância
seguinte
Soma
de uma variável pod
fórmula
de todos os valores
pela seguinte fórmula matemática:
matemática:
Média observados dividida pelo
Soma de todos os valores
número 𝑥𝑥 = variável
de observações
2. Cálculo: Média 𝑛𝑛
observados dividida
[(𝑥𝑥 2
𝑖𝑖 −𝑥𝑥 ) ]pelo 𝑛𝑛 = número
𝑉𝑉𝑉𝑉𝑉𝑉 𝑥𝑥 = 𝑠𝑠 2número
= 𝑖𝑖=1de 𝑛𝑛−1
observações , onde:
observa
Formalmente, o cálculo da média de uma variável pode ser express
Em que:
Soma de todos os valores 𝑖𝑖 = 1, … , 𝑛𝑛.
Média pela seguinte
Formalmente, o cálculo da
fórmula
média
matemática:
observados
de uma dividida pelo
variável pode ser expresso
Já o desvio-padrão
número
𝑛𝑛 de éobservações
calculado 𝑥𝑥 =por:
variável de interesse
𝑥𝑥𝑖𝑖
pela seguinte fórmula
𝑀𝑀𝑀𝑀𝑀𝑀𝑀𝑀𝑀 matemática:𝑥𝑥 = de𝑖𝑖=1
𝑥𝑥 ==variável interesse , onde: 𝑛𝑛 = número de observações
𝑛𝑛 𝑥𝑥 = variável de interesse
𝑛𝑛 𝑖𝑖[(𝑥𝑥
=𝑖𝑖1,
−𝑥𝑥…
)2 ], 𝑛𝑛.
𝑛𝑛
𝑖𝑖=1 𝑥𝑥𝑖𝑖
𝑀𝑀𝑀𝑀𝑀𝑀𝑀𝑀𝑀 𝑥𝑥 =
Formalmente, 𝑥𝑥 = da
o cálculo 𝑛𝑛DP 𝑥𝑥 , =
média
= número
onde:
dede
𝑠𝑠 uma
=observações
2 =número
𝑛𝑛𝑠𝑠variável
= podede ser
𝑖𝑖=1 observações
expresso
pela seguinte fórmula matemática: 𝑖𝑖 = 1, … , 𝑛𝑛. 𝑛𝑛−1
𝑛𝑛 𝑥𝑥 = variável de interesse
𝑥𝑥
𝑀𝑀𝑀𝑀𝑀𝑀𝑀𝑀𝑀 𝑥𝑥 = 𝑥𝑥 = 𝑖𝑖=1 𝑖𝑖 = 1, …, n
, onde: 𝑛𝑛 = número de observações
𝑛𝑛
𝑖𝑖 = 1, … , 𝑛𝑛.
2. Cálculo:
Frequência
Frequência
Média
Média
10
10 = 5,45
5,45
=
𝑛𝑛 2 5
𝑖𝑖=1[(𝑥𝑥𝑖𝑖 −𝑥𝑥 ) ] 5
DP 𝑥𝑥 = 𝑠𝑠 = 𝑠𝑠 2 =
𝑛𝑛−1 0
0
0
0 1
1 2
2 33 4 4 55 66 7
7 8 8 9
9 10
10
Nota de
Nota de matemática
matemática
EXEMPLO Dados
Dados espalhados
espalhados =
= variância
variância grande
grande
»» Dados espalhados = variância grande
• Voltando ao exemplo anterior e aplicando a fórmula
Escola 2
da variância aos dados das duas amostras abaixo,
15
15
Frequência
temos:
Frequência
Média
Média
10
10 =
= 5,45
5,45
5
5
Escola 1 Escola 2
0
0
id_aluno (i) Nota id_aluno (i) Nota 0 1
1 2 3 4 4 55 66 7
7 8 8 9
9 10
10
0 2 3
1 8 21 6 Nota
Nota de
de matemática
matemática
2 7 22 5
3 8 23 6 »» DadosDados
Dados concentrados
concentrados
concentrados =
= variância pequena
variânciapequena
= variância pequena
4 10 24 6
• Como esperado, a Escola 1 do exemplo possui
5 8 25 5
variância maior (há muitos alunos longe da
6 7 26 5 média), e a Escola 2 possui variância menor
7 1 27 5 (há muitos alunos perto da média).
8 1 28 5
9 1 29 5
10 7 30 6
Conclusões
11 10 31 5
12 1 32 6
• Quanto menor a variância (ou desvio-padrão),
13 3 33 5 maior é 1a confiança de que2o valor a ser observado
Variância
14 0e Desvio-Padrão
34 5
Escola Escola
• A média, a variância e o desvio-padrão que • Ainda assim, as amostras serão compostas por
calculamos até aqui são referentes a uma indivíduos diferentes e, portanto, é inevitável que
amostra de 20 alunos em cada escola, sorteados os valores calculados sejam diferentes, ou seja,
aleatoriamente. cada amostra apresentará sua própria média.
• Perceba que, se sortearmos uma nova amostra de • Retomando o exercício anterior, podemos, para a
20 alunos, é de se esperar que os valores obtidos Escola 1, por exemplo, repetir o cálculo da média
sejam ligeiramente diferentes. para cinco amostras diferentes:
Escola 1
Amostra 1 Amostra 2 Amostra 3 Amostra 4 Amostra 5
8 1 0 1 5
7 7 5 7 8
8 10 7 10 1
10 1 4 1 7
8 3 8 3 10
7 0 7 0 4
1 7 1 7 9
1 8 5 8 10
1 10 1 10 9
7 8 7 9 1
10 7 10 1 5
1 1 1 4 1
3 1 8 4 7
0 1 7 7 10
1 7 3 8 1
4 8 10 10 3
4 8 1 8 4
9 8 7 1 1
10 9 10 1 7
9 9 1 1 10
Escola 1
Amostra Média Calculando a média de cada coluna,
1 5,45 é possível obter uma nova base de dados
2 5,70 e calcular sua média e desvio-padrão.
3 5,15
4 5,05
5 5,65
44
Porcentagem
Intervalo de
de votos
• No mundo da Estatística, nunca poderemos fazer 60 confiança
afirmações com 100% de certeza, fala-se sempre 50
40 Intervalo de
em eventos que possuem alta probabilidade de confiança
30
ocorrerem (“confiança”). Candidato A Candidato B
Candidato A
No caso da pesquisa eleitoral
temos, por exemplo: »» Estimação pontual: 47% dos votos.
70
60 Intervalo de
beneficiário.
Intervalo de
50 confiança
confiança
Capacitação Profissional
Analogamente, no caso de um
Situação 2
projeto de capacitação profissional: 250
200
»» Estimação pontual do impacto: aumento de 150
R$
Intervalo de
100
R$ 100,00 (em média) no salário mensal do confiança
50
beneficiário. 0
-50
»» Margem de erro: R$ 40,00 para mais ou para Impacto Estimado
menos (com 95% de confiança).
»» O intervalo de confiança contém o zero!
»» Intervalo de confiança: com 95% de confiança,
o projeto gera, em média, entre R$ 60,00 • Apesar da estimação pontual ser positiva, não
e R$ 140,00 de aumento no salário mensal é possível afirmar que o projeto social é diferente
do beneficiário. de zero. Dizemos que o impacto é
estatisticamente nulo.
Capacitação Profissional
Situação 1
250
200
150
R$
Intervalo de
100 confiança
50
0
-50
Impacto Estimado
ESTIMATIVAS – PRÁTICA
6. Clique OK.
4. Vá até a guia Dados e verifique se em cima no
canto direito aparece o botão Análise de Dados.
7. Pronto! O Excel exibirá uma nova planilha com as
estatísticas desejadas (e mais algumas que não
5. Pronto!
vamos estudar aqui).
EXEMPLO
Amostra 1 Amostra 2
Nota Menino Idade Nota Menino Idade
8 1 10 6 0 11
7 1 10 5 0 10
8 1 10 6 0 13
10 0 11 6 1 12
8 0 10 5 1 11
7 1 10 5 0 11
1 0 11 5 1 13
1 1 10 5 0 11
1 0 11 5 1 13
7 0 11 6 1 13
9 0 10 5 1 11
1 0 10 6 1 10
3 1 10 5 0 10
0 1 10 5 0 10
1 0 12 6 1 13
4 1 12 5 0 13
5 0 10 6 1 13
9 1 10 5 0 11
10 0 10 6 1 10
9 1 11 6 0 12
48
Amostra 1 Amostra 2
Nota Menino Idade Nota Menino Idade
Média 5,45 0,50 10,45 5,45 0,50 11,55
Erro-padrão 0,80 0,11 0,15 0,11 0,11 0,28
Mediana 7,00 0,50 10,00 5,00 0,50 11,00
Modo 1,00 1,00 10,00 5,00 0,00 13,00
Desvio-padrão 3,58 0,51 0,69 0,51 0,51 1,23
Variância da amostra 12,79 0,26 0,47 0,26 0,26 1,52
Curtose -1,61 -2,24 0,54 -2,18 -2,24 -1,66
Assimetria -0,30 0,00 1,28 0,22 0,00 0,06
Intervalo 10,00 1,00 2,00 1,00 1,00 3,00
Mínimo 0,00 0,00 10,00 5,00 0,00 10,00
Máximo 10,00 1,00 12,00 6,00 1,00 13,00
Soma 109,00 10,00 209,00 109,00 10,00 231,00
Contagem 20,00 20,00 20,00 20,00 20,00 20,00
AULA 4 | Conceitos Básicos de Estatística 49
INTERVALO DE Cálculo
CONFIANÇA • Para construir o intervalo de confiança da média
populacional, precisamos dos seguintes elementos:
Intervalo
É o conjunto de valores que a IC = [x – z * EP; x + z * EP]
média de uma variável pode assumir
de confiança
com certa probabilidade.
Em que:
EXEMPLO Conclusões
• Vamos calcular o intervalo de confiança com • Quanto menor a margem de erro, menor
95% de probabilidade, para as duas amostras o intervalo de confiança (maior precisão
do exercício anterior. da estimativa pontual da média).
Escola 2:
x = 5,45
EP = 0,11
IC = [5,23 ; 5,67]
• Margem de erro:
• Geralmente, estamos interessados em dois tipos de 1. Com 95% de probabilidade, não é possível
testes: dizer que o desempenho médio da Escola 1
é diferente de 6,0. O teste é inconclusivo.
1. Se a média de uma população é diferente de
algum valor. 2. Com 95% de probabilidade, o desempenho
médio da Escola 2 é diferente de 6,0.
2. Se a média de duas populações são diferentes.
• Apesar das estimações pontuais para as duas
• No caso da amostra de alunos que fizeram uma escolas ser a mesma (5,45), a estimativa para a
prova de matemática, podemos estar interessados Escola 2 é muito imprecisa, e, por isso, não pode
em saber se o desempenho médio da escola é ser diferenciada de 6,0 estatisticamente.
diferente de 6,0; ou se o desempenho médio de
duas escolas é diferente.
EXEMPLO B
• Novamente, não poderemos aceitar ou refutar uma
hipótese com 100% de certeza. Esse julgamento • Podemos ainda verificar se o desempenho médio
sempre estará associado à probabilidade. Em geral, das nossas duas escolas pode ser considerado
esse nível de confiança estatístico é fixado em 95%. diferente do desempenho médio de uma terceira
escola que tem as seguintes características:
Escola 3:
EXEMPLO A
Estimativa pontual (x) = 4,5
• No exercício anterior, verificamos que ambas as
amostras possuíam média igual a 54,45 na prova
IC = [4,0 ; 5,0] (com 95% de probabilidade)
de matemática. Essa nota média não é igual a 6,0,
mas é próxima. Para cada escola, podemos testar se,
Para facilitar a execução desse teste, podemos usar
com 95% de “certeza”, é possível afirmar que a nota
um procedimento aproximado que é similar ao do
média da escola é estatisticamente diferente de 6,0.
exemplo A e funciona bem na maioria dos casos1.
Veja BUSSAB e MORETTIN (2003) para entender o procedimento preciso de como testar essa hipótese.
1
52
• Nota-se que a média da Escola 1 (5,67) não está • Mas, se detectarmos diferenças entre os dois
contida no IC da Escola 3, mas a média da Escola 3 grupos, precisaremos levar essas diferenças em
(4,5) está contida no IC da Escola 1. conta para estimar o impacto do programa.
• Por outro lado, nota-se que a média da Escola 2 2. Para inferir se o projeto gera impacto em seus
(5,67) não está contida no IC da Escola 3 e que a beneficiários
média da Escola 3 (4,5) também não está contida
no IC da Escola 2. • A partir de um grupo de controle adequado,
estamos interessados em testar se a média do
• Nesse caso, afirmarmos que: indicador de impacto do grupo de tratamento é
diferente da média do indicador de impacto do
1. Com 95% de probabilidade, não é possível grupo de controle, depois do programa.
dizer que o desempenho médio da Escola 1 é
diferente do desempenho médio da Escola 3. • Analogamente, queremos testar se é possível
O teste é inconclusivo. afirmar que a diferença entre a média do indicador
de impacto do grupo de tratamento e do grupo de
2. Com 95% de probabilidade, o desempenho controle é estatisticamente diferente de zero.
médio da Escola 2 é diferente do desempenho
médio da Escola 3. • Se essa hipótese for verdadeira, dizemos que o
projeto tem impacto.
Na avaliação de impacto
Testando diferenças entre médias
• No contexto da avaliação de impacto, os testes de na prática
hipóteses são fundamentais em dois momentos:
• Novamente, podemos usar o suplemento de
1. Para escolher um grupo de controle adequado análise de dados Excel para construir intervalos
de confiança:
• Uma vez escolhido o grupo de controle, podemos
testar se ele é estatisticamente igual ao grupo de 1. Com a base de dados aberta, clique na guia
controle em características relevantes (ex.: renda, Dados > Análise de Dados.
idade, etc.) antes do programa.
2. Na janela que aparece, clique em Estatística
• Assim, conseguimos dizer, estatisticamente, se o descritiva > OK.
grupo de controle que escolhemos é um bom
contrafactual para o grupo de tratamento. 3. Na nova janela, em Intervalo de dados selecione
as células de todas as variáveis que queremos
• Descobrir se tratados e controles são parecidos ou descrever (incluindo os seus títulos).
não é o primeiro passo para qualquer avaliação
de impacto, pois será determinante na escolha do 4. Clique em Rótulos na primeira linha.
método a ser aplicado.
5. Clique em Nível de confiabilidade p/ média.
• Como veremos com cuidado na próxima aula, se os
grupos de tratamento e controle forem parecidos 6. Clique OK.
(em caso de aleatorização, por exemplo), podemos
calcular o impacto do programa de forma mais
simples.
AULA 4 | Conceitos Básicos de Estatística 53
Amostra 1 Amostra 2
Nota 1 Menino 1 Idade 1 Nota 2 Menino 2 Idade 2
Nível de confiança (95%) 1,67 0,24 0,32 0,24 0,24 0,58
• Fazendo as contas:
Amostra 1 Amostra 2
Nota Menino Idade Nota Menino Idade
Média 5,45 0,5 10,45 5,45 0,5 11,55
Intervalo de confiança [3,78 ; 7,12] [0,26 ; 0,74] [10,13 ; 10,77] [5,21 ; 5,69] [0,26 ; 0,74] [10,97 ; 12,13]
• Comparando as médias e os ICs das duas amostras, • Já em relação à idade média dos alunos, podemos
não podemos afirmar, com 95% de “certeza”, que as dizer que as escolas são estatisticamente diferentes
escolas são estatisticamente diferentes em termos entre si, com 95% de confiança.
de nota e de sexo dos alunos.
Saiba mais
COMENTÁRIOS FINAIS
ANEXO
Considerações Iniciais............................................... 56
Método Experimental................................................ 56
Regressão Simples..................................................... 58
Diferenças em Diferenças......................................... 66
Comentários Finais..................................................... 68
56
EXEMPLO
• Vamos estimar, a partir de um teste de diferença »» A média do grupo de controle é menor (ponto
de médias com 95% de confiança, se o programa estimado), mas está contida no intervalo do
teve impacto de curto prazo (1 ano) sobre esse grupo de tratamento.
indicador:
• Conclusão: não é possível afirmar que o programa
Tratamento Controle gerou impacto no salário dos participantes 1 ano
id Salário (R$) id Salário (R$) após o término na intervenção.
1 2.464 21 3.435
• Note que, o número de indivíduos de cada amostra
2 2.952 22 1.977
é muito pequeno: 20, apenas.
3 3.985 23 2.551
4 1.449 24 1.468 • Como já discutimos na Aula 3, para que seja
5 3.508 25 3.289 possível identificar impacto, é necessário possuir
6 3.906 26 1.985 dados para um grupo maior. Esse é um fator
7 3.117 27 2.774 determinante.
8 4.667 28 1.193
9 1.982 29 3.312 • Atenção: em alguns casos, a interpretação dos
10 3.217 30 2.664 resultados pode ser oposta, pois quanto menor o
valor do indicador, melhor.
11 1.044 31 3.126
12 1.623 32 2.124
Exemplo: taxa de abandono, número de mortes,
13 2.230 33 1.122
etc.
14 3.806 34 1.963
15 3.446 35 2.012
16 4.362 36 3.374
Outra forma de calcular:
17 1.474 37 2.179
18 3.606 38 3.298
• Dentro da classe dos modelos da econometria, a
19 3.663 39 2.518
estimação de impacto no método experimental
20 2.661 40 2.749
pode ser realizada por meio de regressão simples.
Grupo de Tratamento:
• Na prática, a regressão simples é uma forma
mais rápida e direta de fazer esse teste. E as duas
x = 2.958,10
maneiras são matematicamente idênticas.
EP = 234,26
• No contexto dos modelos aleatorizados:
Grupo de Controle:
x = 2.455,65
EP = 162,69
IC = [2.136,78 ; 2.774,53]
58
Estatística de regressão
R múltiplo 0.274777181
R-Quadrado 0.075502499
R-quadrado ajustado 0.051173617
Erro-padrão 901.930887
Observações 40
ANOVA
gl SQ MQ F F de significação
Regressão 1 2524560.025 2524560.025 3.103410188 0.08617286
Resíduo 38 30912214.35 813479.325
Total 39 33436774.38
Coeficientes Erro-padrão Stat t valor-P 95% inferiores 95% superiores Inferiores 95.0% Superior 95.0%
Interseção 2455.65 201.6778774 12.17609998 1.09579E-14 2047.374482 2863.925518 2047.374482 2863.925518
Variável X 1 502.45 285.2155895 1.761649848 0.08617286 -74.93877486 1079.838775 -74.93877486 1079.838775
Estimativa pontual
do impacto (b)
Com isso, já posso dizer então que o programa • No exemplo, obtemos um nível de confiança
tem impacto positivo? máximo de 91,38% e, portanto, o valor é
estatisticamente nulo ou não significante
Não. Agora que temos a estimativa pontual do ao nível de 95% de confiança.
impacto, precisamos verificar se, com o nível de
confiança desejado, esse diferencial no salário dos • Concluímos então que não é possível dizer, com
participantes pode ser considerado diferente de zero 95% de confiança, que o salário dos participantes
estatisticamente. do programa é diferente do salário dos não
participantes 1 ano após a intervenção.
• Para isso, podemos usar a coluna do valor-P,
reportada pelo Excel. • Assim, não é possível dizer que o programa teve
impacto (essa é a mesma conclusão do teste de
• Informalmente: diferença de médias).
Índice de Impacto
20
aplicar um método não experimental ou
15
quase experimental para estimar o impacto do
programa. 10
5
• Há vários métodos possíveis, e o objetivo de todos 7 17 12 17
eles é corrigir o viés gerado pela ausência da 0
Antes Depois
aleatorização, ou seja, aproximar-se ao máximo
de uma situação experimental. Tratamento Controle
»» Impacto = -5?!
• De acordo com o desenho do projeto e a
disponibilidade de dados, poderemos utilizar um
• No método não experimental, precisaremos coletar/
método mais/menos eficaz, que conseguirá corrigir
utilizar outras informações sobre os participantes e não
mais/menos o viés gerado e, assim, resultar em
participantes, a fim de garantir grupos “comparáveis” e,
uma estimativa mais/menos confiável do impacto
assim, uma estimação com o menor viés possível.
da intervenção.
• Na regressão simples, conseguimos estabelecer a »» Afeta o indicador de impacto? Sim. Quanto mais
relação entre uma variável dependente (indicador escolaridade, em geral, maior o salário.
de impacto) e uma variável independente (dummy
de tratamento). No entanto, não incluímos outras »» Afeta a participação no programa? Sim, a seleção
características ou variáveis que possam afetar essa do programa é baseada na vulnerabilidade dos
relação. participantes, que está relacionada à escolaridade
(por exemplo). Ou, ainda, se a seleção para o
• Na Regressão Múltipla Tradicional, é possível programa exigir um nível de escolaridade mínimo.
estabelecer a relação entre indicador de impacto
e a participação no programa controlado por
diferentes características que possam afetar o Por que preciso incluir essas variáveis?
indicador escolhido.
Porque, caso contrário, a influência dessas variáveis
• Essa regressão consegue isolar/decompor o efeito ficam “misturadas” com o efeito causal do programa.
de cada variável independente incluída no modelo.
Ou seja, somos capazes de estimar a parcela da
variação de y (indicador de impacto) que pode ser Exemplo: programa de capacitação profissional.
atribuída a cada variável independente (x).
»» Variável relevante omitida: escolaridade.
As características dos indivíduos que não são »» Impacto da diferença de escolaridade entre os
iguais nos grupos de tratamento e controle, mas grupos: - R$ 700,00.
deveriam ser.
»» Impacto estimado: 500,00 + (–700,00) = –200,00.
E quais são elas?
Queremos calcular o impacto do programa “limpo” da
As características que influenciam no indicador influência desses demais fatores.
de impacto e na participação do programa,
simultaneamente.
E em que momento devo coletar essas informações?
»» As demais variáveis independentes que são
O ideal é coletar as variáveis de controle no momento
incluídas na regressão são também chamadas
imediatamente anterior à intervenção (por exemplo,
de variáveis de controle.
no ato da inscrição no programa).
• Para algumas variáveis, como raça, idade, entre será tão confiável quanto o método experimental, em
outras, não precisamos ter essa preocupação, pois que temos certeza da ausência de viés.
os valores são estáveis ao longo do tempo.
• Por outro lado, quando uma determinada
• O modelo de Regressão Múltipla é usualmente característica afeta apenas o indicador de impacto
escrito da seguinte forma: ou apenas a participação no programa (mas não
ambos), ela não precisa ser incluída. Sua omissão
Fatores que indicam a
Constante relação entre cada x e y não gera viés.
• Quando não é possível incluir todas as variáveis 1. A seleção para o programa foi não aleatória.
relevantes no modelo, a estimativa de impacto será
viesada e não poderá ser considerada causal. 2. Dentre os inscritos elegíveis, escolheu-se os
20 indivíduos com menor escolaridade.
• Quanto mais características relevantes estão
omitidas, maior será o viés. 3. Esse foi o único critério de seleção e, portanto,
é a única variável relevante.
• É comum não possuírmos dados para alguma
característica que sabemos ser importante. 4. A variável “anos de escolaridade” é observada.
Ela pode ser não observável, como motivação,
interesse, inteligência, etc. • De forma análoga a do modelo de regressão
simples, podemos utilizar o Excel para realizar
• Assim, note que é muito difícil defender a ideia de a estimação.
que fomos capazes de incluir todas as variáveis
relevantes. • Precisaremos agora de uma terceira coluna de
dados, como mostrado ao lado.
• Por esse motivo, o método não experimental
(estimado pela Regressão Múltipla Tradicional) nunca
AULA 5 | Técnicas para Estimação do Impacto 65
y = a + b1 * d1 + b2 * d2 + b3 * d1 * d2
• A vantagem desse método é poder expurgar o
efeito de todos os demais fatores que afetam o + b3 * x3 + e
indicador de impacto e que são fixos no tempo,
mesmo aqueles que não são observados (ex.:
Indicador Outros fatores Termo de Coeficiente que
inteligência, determinação, etc.). Isso nos permite de impacto que variam erro do indica o impacto
calcular o impacto com mais precisão, pois é como no tempo modelo do programa
Saiba mais
• Avaliação Econômica de Projetos Sociais, Fundação Itaú Social (Capítulo 4). Disponível em:
http://www.fundacaoitausocial.org.br/_arquivosestaticos/FIS/pdf/livro_aval_econ.pdf
COMENTÁRIOS FINAIS
• Nesta aula: vimos algumas das principais técnicas econométricas utilizadas na avaliação de
impacto e aprendemos a aplicá-las com a ajuda do Excel.
Entretanto, as análises econométricas envolvem muitas outras questões, de grande complexidade,
que não abordamos nesse curso. Assim, o ideal é que o processo de avaliação possa contar com o
apoio de um especialista.
AULA 6
Cálculo do Retorno Econômico:
Conceitos e Dados
Considerações Iniciais............................................... 70
Monetização................................................................ 71
Custo Econômico........................................................ 73
Cenários Econômicos................................................. 76
Análise Custo-Benefício............................................ 77
Razão Custo-Efetividade........................................... 79
Comentários Finais..................................................... 80
70
1. Estabelecer o grau de pertinência, idoneidade, • Para que seja possível comparar os custos e
efetividade, eficiência e eficácia do projeto. os benefícios (impactos) de um projeto social,
precisamos expressar ambos com a mesma
2. Identificar as razões dos êxitos e dos fracassos. unidade de medida.
3. Embasar o processo de tomada de decisão para • Para isso, procura-se tangibilizar o impacto da
melhorar e/ou modificar o projeto. intervenção em termos de valor monetário
(dinheiro).
4. Reportar resultados confiáveis e interpretáveis a
financiadores, beneficiários e sociedade. Monetizar
Ato de transformar/
traduzir algo em dinheiro.
Quanto a mudança causada no indicador • Algumas vezes o benefício perdura por toda a vida
economiza/proporciona ganhos (em termos do beneficiário (ex.: recuperação de dependentes
monetários) para a sociedade? químicos); ou mesmo por séculos (ex.: projetos de
reflorestamento).
Para tentar responder adequadamente a essa
pergunta, muitas vezes recorremos à literatura sobre • Outras vezes, os benefícios são grandes logo após a
o tema: estudos, reportagens, estatísticas oficiais, etc. implementação e reduzem-se ao longo do tempo
(ex.: campanhas de prevenção a epidemias); e há
projetos em que o benefício não é imediato (ex.:
Exemplo: projeto para redução da criminalidade. reforço escolar).
Custo de Oportunidade
• O Custo Econômico deve incluir todos os custos do
projeto, financeiros ou não.
• Mesmo incluindo todos os custos monetários do
projeto, o Custo Contábil deixa de contabilizar um
recurso fundamental de qualquer empreendimento
Custo Contábil – o tempo das pessoas e dos ativos!
»» A remuneração de professor ou secretária. Exemplo: caso não fosse usado no projeto social, um
computador poderia estar sendo utilizado para outra
»» O gasto com energia elétrica. atividade (remunerada ou não) ou, ainda, vendido e
transformado em dinheiro.
»» A compra de material de escritório.
• Quando empregamos recurso (pessoas,
• O Custo Contábil de um projeto social pode ser equipamentos, etc.) em uma atividade específica,
arcado por diferentes atores: pela gestão direta do ele fica “imobilizado”, ou seja, não é possível
programa, pelo setor público (por meio de editais, utilizá-lo, simultaneamente, para nenhuma outra
repasses e incentivos fiscais), por um financiador finalidade.
externo, via doações, etc.
• Assim, ao escolher determinada atividade, estamos
• Independentemente da forma como é financiado, o abrindo mão de outras possibilidades e, em última
Custo Contábil deve ser considerado integralmente. análise, deixando de ganhar dinheiro com elas.
• O preço de mercado do tempo das pessoas é a • A taxa de juros mais adequada (curto prazo, longo
remuneração do seu trabalho. prazo, Selic, poupança, após impostos ou não, etc.)
deve ser decidida caso a caso, de acordo com a
Exemplo: salário/hora do voluntário no mercado natureza do projeto e do ativo.
de trabalho.
• O custo de oportunidade dos participantes do
• O preço de mercado dos demais ativos (bens de projeto também precisam ser incluídos.
capital) é o valor do seu aluguel.
Exemplo: os participantes de projeto em período
Exemplo: o custo de oportunidade de um integral estão deixando de trabalhar em alguma
prédio próprio é o valor do aluguel de um atividade remunerada.
estabelecimento similar na mesma região.
• Entretanto, os custos implícitos só devem ser
É o custo advindo da contabilidade incluídos como custo de oportunidade caso, na
Custo Contábil do projeto, ou seja, tudo que foi
efetivamente desembolsado/gasto. presença do projeto, ele seja diferente do custo que
estaria embutido na atividade alternativa.
• Tanto o benefício quanto o custo econômico »» Otimista – o melhor resultado que acredita-se
de um projeto envolve incertezas, isto é, sua ser possível observar.
magnitude e/ou sua duração pode variar para mais
ou para menos de acordo com acontecimentos Exemplo: 90% de empregabilidade, por 10 anos.
futuros sobre os quais não temos controle.
»» Realista – é um resultado intermediário e, em
Exemplo: a economia está desaquecida, e a geral, mais provável de ocorrer.
empregabilidade esperada para os participantes
de um curso técnico de mecânica é de 60%. Exemplo: 75% de empregabilidade, por 7 anos.
Entretanto, há interesse de uma fábrica de
automóveis em se instalar na cidade, o que pode »» Pessimista – o resultado mínimo que acredita-se
fazer essa taxa subir para até 90%. ser possível observar.
Impacto Econômico
Benefício
Custo “Um começo mais saudável: o efeito de transferências
Líquido Econômico
condicionadas de renda na mortalidade neonatal e
Razão Custo
infantil no México rural” (BARHAM, 2007).
Benefício
Benefício-Custo Econômico
Cálculo do valor
2. Monetização
Impacto Econômico
Benefício
Custo de uma vida estatística.
Líquido Econômico
»» Custo econômico
Razão Custo
Benefício
Benefício-Custo Econômico
Cenário Otimista:
US$ 6.226 mi US$ 1.722 mi
RBC=3,62
(Benefício) (custo) Cenário Pessimista:
US$ 6.226 mi US$ 1.722 mi
RBC=3,62
(Benefício) (custo)
US$ 52,5 bi US$ 18,5 bi
US$ 52,5 bi US$ 18,5 bi IEL=US$ 71 bi
(Benefício) (custo) IEL=US$ 71 bi
(Benefício) (custo)
Cenário Pessimista:
»» Razão Benefício-Custo
US$ 2.191 mi US$ 1.722 mi
RBC=1,27
(Benefício) (custo)
Cenário Otimista:
US$ 2.191 mi US$ 1.722 mi
RBC=1,27
(Benefício) (custo)
Cenário Pessimista:
“Impacto Econômico de uma Gripe Pandêmica nos US$ 52,5 bi
(Benefício)
US$18,5 bi
(custo)
RBC=2,84
»» Benefício
Gastos/perdas evitados:
Diretos – medicamentos, visitas
médicas, exames, internações;
2. Monetização
Indiretos – dias de trabalho perdidos,
perda de rendimentos
(em caso de morte).
2
Considerou-se a vacinação de 1 milhão de pessoas (valores adaptados para fins didáticos).
AULA 6 | Cálculo do Retorno Econômico: Conceitos e Dados 79
• A RCE não permite avaliar a viabilidade econômica »» Aumento do hábito de lavar as mãos (medido
do projeto, apenas comparar a eficiência de em eventos): 8%.
diferentes intervenções (que tenham o mesmo
indicador de impacto).
ACB RCE
Se as hipóteses de monetização
forem muito frágeis.
X Sua Vez!
Se for importante somar todos os
X
benefícios em uma medida única.
Se for importante avaliar a trajetória Exercício A: aprimoramento do serviço
X de atendimento ao público (call center).
futura dos benefícios.
Se for necessário comparar dois
»» Custo Econômico: R$ 12.000,00.
projetos com métodos diferentes e X X
objetivos iguais.
»» Impacto: 250 (número de avaliações positivas
Se for necessário comparar dois
do atendimento).
projetos com métodos e objetivos X
diferentes.
1. Qual é o valor da RCE?
Saiba mais
• BARHAM, Tania. A healthier start: The effect of conditional cash transfers on neonatal and infant mortality in
rural Mexico. Journal of Development Economics, v. 94, p. 74-85, 2011.
• FUNDAÇÃO Itaú Social e CEDEPLAR. Relatório de Avaliação Econômica: Programa Escola Integrada
de Belo Horizonte, 2008. Disponível em: http://ww2.itau.com.br/itausocial2/pdf/rel_avaliacao_ei.pdf
• MELTZER, M.; COX, N. e FUKUDA, K. The Economic Impact of Pandemic Influenza in the United States: Priorities
for Intervention. Emerging Infectious Diseases, vol. 5, nº 5, 1999.
COMENTÁRIOS FINAIS
• Nesta aula: estudamos o conceito de Retorno Econômico e vimos como ele pode ser útil para
muitos tipos de atividades, e não apenas para aquelas com expectativa de lucro. Aprendemos a
transformar o impacto de um projeto em benefício monetário e a calcular o seu custo econômico,
dados diferentes cenários econômicos. A partir desses elementos, vimos duas maneiras de analisar
a eficiência do projeto: a Análise Custo-Benefício e a Razão Custo-Efetividade.
AULA 7
Cálculo do Retorno Econômico:
Prática
Considerações Iniciais............................................... 82
Fluxo de Caixa............................................................. 82
Valor Presente............................................................. 84
Comentários Finais..................................................... 89
82
A Análise de Retorno Econômico está mais próxima de • Na última aula, aprendemos a elencar os custos e
ser uma arte do que uma ciência. benefícios relevantes para a avaliação econômica
do programa e vimos que eles podem perdurar
Você não precisa de um diploma na área para realizar por diferentes períodos de tempo e variar em
um trabalho de alto nível; a disposição para pensar magnitude.
em possibilidades, pesquisar e analisar informações
podem contar muito mais. • Nesse sentido, a construção de um fluxo de caixa é
uma estratégia para organizar essas informações.
»» Razão Benefício-Custo.
EXEMPLO A
»» Taxa Interna de Retorno.
• Projeto de capacitação profissional:
»» Razão Custo-Efetividade.
»» Duração: 1 ano.
»» Duração: 3 anos.
»» Fluxo de Benefícios (cenário realista):
A partir do 4º ano
»» Beneficiários: 2.000 jovens de escolas públicas
(pós-projeto):
benefício se exaure. de ensino médio.
0 0 150.000 150.000 60.000 60.000 0
0 0 0 0 12.000.000 12.000.000 0
t=1 t=2 t=12 t=13 tempo (ano)
• A taxa de juros vigente pode se referir ao período Como definir a taxa de desconto
de um ano, um mês ou a outro um período
qualquer.
mais adequada para o fluxo de
caixa de um projeto social?
Exemplo: 10% ao ano;
0,68 % ao mês; Não há um critério único. Pode-se usar a taxa de juros
3 % no trimestre. da poupança, a Selic ou a taxa de juros de mercado
para um investimento com a mesma duração dos
• Se a taxa de juros for de 10% ao ano, por exemplo, custos e benefícios do programa.
R$ 100,00 hoje valerá: 100,00 x 1,1 = R$ 110,00 um
ano depois. (Obs.: se os custos do projeto ocorrem ao longo de
1 ano, usa-se a taxa de juros de investimento com
• Analogamente, R$ 100,00 daqui a um ano, vale duração de 1 ano; se os benefícios do projeto ocorrem
apenas: 100,00/1,1 = R$ 90,91 hoje. ao longo de 20 anos de projeto, usa-se a taxa de juros
de investimento com duração de 20 anos).
»» Nessa situação, a taxa de juros é também
chamada de taxa de desconto. • Além disso, as periodicidades do fluxo de caixa e da
taxa de juros têm que ser iguais.
• Podemos aplicar esse raciocínio a cada “entrada” e
a cada “saída” do fluxo de caixa de um projeto, para Exemplo: se o fluxo de caixa é anual, a taxa tem de ser
trazê-los a valor presente. anual; se o fluxo de caixa é mensal, a taxa tem de ser
mensal.
»» A princípio, poderíamos escolher qualquer
momento do tempo para comparar os • Qualquer taxa de juros pode ser adaptada para a
custos e os benefícios do projeto, mas periodicidade desejada.
convencionalmente utiliza-se o instante inicial
do projeto, ou seja, t=0. Valor PresenteExemplo: a taxa de juros da poupança é de cerca
de 0,5% ao mês, o que equivale a aproximadamente
É o montante (em dinheiro), 8% ao ano.
Valor presente no instante inicial, que equivale a todos
um
Valor Presente
equaçãoFmatemática:
montante
• O primeiro passo do cálculo do
= valor futuro – é 𝑃𝑃o ==
qualquer no futuro
valor
(1+𝑖𝑖)
é
monetário
valor presente
𝑡𝑡
obtido
, onde:
realqueremos
(é o que
através
da entrada
da
ou da saída
saber).
seguinte
do
fluxo
valor presente do
equação
fluxo de caixa é definir a taxamatemática:
de desconto a ser
t= número de
𝐹𝐹𝑡𝑡 = valor futuro (é o valor monetário real da entrada
𝑃𝑃 períodos
utilizada.
P = valor presente= –ou é o𝑡𝑡 de
(1+𝑖𝑖)da
que tempo
saída do queremos (dias,
, onde:
fluxo).
meses,
saber anos)
Uma vezFi definida
== taxa a desconto
taxa de
valordefuturo –𝐹𝐹𝑡𝑡éjuros mais
oescolhida
valor adequada,
(ex.: 10%
monetário =o da
real valor
0,1). presente
entrada ou dadesaída do
um montantefluxo qualquer
𝑃𝑃 = no𝑡𝑡 =futuro é obtido
, onde:deatravés da seguinte
P = valor presente
equação tmatemática: – é o que
(1+𝑖𝑖) queremos saber
número de períodos tempo (dias, meses, anos,
F = valor=futuro
número – édeo períodos
valordependendo de tempo
monetário real(dias,
do contexto), meses, anos)
a partir do
da entrada ouinstante inicial,
da saída do
até que a entrada ou10%
a saída=ocorra.
valor ipresente
P =fluxo = taxa de – édesconto escolhida
o que𝐹𝐹queremos (ex.:
saber 0,1).
𝑡𝑡
F =t = valor futuro
número é o𝑃𝑃valor
de–períodos = de monetário
tempo , onde:
real meses,
da entrada ou da saída do
= taxa de(dias, anos)
(1+𝑖𝑖) 𝑡𝑡
desconto escolhida (ex.: 10% = 0,1).
fluxo
i = taxa de desconto escolhida (ex.: 10% = 0,1).
t=P= número de períodos
valor presente – é odeque
tempo (dias, meses,
queremos saberanos)
i=F= taxa de desconto
valor futuro – éescolhida (ex.: 10% real
o valor monetário = 0,1).da entrada ou da saída do
fluxo
Indicadores de Retorno Econômico
Fluxo de Benefícios:
86
𝑡𝑡 = 13: 𝐹𝐹 = 150.000 150.000
P= (1+0,005)13 = 140.582,89
𝑖𝑖 = 0,005 (0,5% ao mês)
.
• Podemos usar a taxa. de juros da poupança, que é t = 24:
invariante em relação
. à duração do investimento, F = 150.000
para calcular o valor presente dos fluxos de caixa i = 0,005 (0,5% ao mês)
e Retorno Econômicodos exemplos A𝑡𝑡e= B. 24: 𝐹𝐹 = 150.000 150.000
P= (1+0,005)24 = 133.077,85
𝑖𝑖 = 0,005 (0,5% ao mês)
de juros da poupança,
EXEMPLO queAé invariante em relação t = 25:
timento, para calcular o valorIndicadores de
presente dos fluxos
Indicadores de Retorno
Retorno Econômico
F = 60.000
Econômico
los 1 e 2. i = 0,005 (0,5% ao mês)
»» Fluxo de Custos:
𝑡𝑡 = 13: 𝐹𝐹 = 60.000 60.000
𝑡𝑡 = 13: 𝐹𝐹 = 60.000 P= 60.000 25 = 52.966,31
t = 1: 𝑖𝑖 = 0,005 (0,5% ao mês) P= (1+0,005) = 52.966,31
𝑖𝑖 = 0,005 (0,5% ao mês) (1+0,005)25
F = 20.000 . t = 48:
.
i = 0,005 (0,5% ao mês)
. F = 60.000
.
. i = 0,005 (0,5% ao mês)
000 P= .
20.000
= 𝑡𝑡19.900,50
= 24: 𝐹𝐹 = 60.000
(1+0,005)1 60.000
P= (1+0,005)
5 (0,5% ao mês) 𝑡𝑡 = 24: 𝐹𝐹 = 60.000 60.000
P= (1+0,005)48
= 47.225,90
𝑖𝑖 = 0,005 (0,5% ao mês) 48 = 47.225,90
e Retornot =Econômico
2: 𝑖𝑖 = 0,005 (0,5% ao mês)
F = 3.000 Benefício (valor presente) = 140.582,89 + 47.225,90 =
𝐵𝐵𝐵𝐵𝐵𝐵𝐵𝐵𝐵𝐵𝐵𝐵𝐵𝐵𝐵𝐵𝐵
i = 0,005 (0,5% ao mês) 𝑣𝑣𝑣𝑣𝑣𝑣𝑣𝑣𝑣𝑣 𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝 = 140.582,89ǤǤǤ47.225,90
𝐵𝐵𝐵𝐵𝐵𝐵𝐵𝐵𝐵𝐵𝐵𝐵𝐵𝐵𝐵𝐵𝐵 𝑣𝑣𝑣𝑣𝑣𝑣𝑣𝑣𝑣𝑣 𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝𝑝 = R$
140.582,89ǤǤǤ47.225,90
2.842.637,22
3.000
=R$2.842.637,22
3.000
P= (1+0,005)2 = 2.970,22
0,5% ao mês)
=R$2.842.637,22
• Esse cálculo pode ser mais facilmente realizado
com o auxílio da função VPL do Excel.
t = 12:
F = 3.000
i = 0,005 (0,5% ao mês) Mãos à obra
3.000
3.000
P= (1+0,005)12 = 2.825,72 1. Com o fluxo de caixa aberto, selecione uma
0,5% ao mês)
célula em branco, clique no botão inserir função
• Após o cálculo do valor equivalente de cada saída (fx) e escolha VPL.
em t=0, podemos somá-los para obter o custo
econômico total do projeto em valor presente: 2. Insira no campo Taxa a taxa de juros (desconto)
escolhida (ex.: 0,5% ou 8%).
Custo (valor presente) = 19.900,50 + 2.970,22 +
2955,47 + 2.940,74 + 2.926,11 + 2.911,55 + 2.897,07 + 3. Clique no campo Valor 1 e selecione a coluna
2.882,66 + 2.868,31 + 2.854,04 + 2.839,84 + 2.825,72 = “custos” OU a coluna “benefícios” do fluxo de
R$ 51.772,22 caixa.
e Retorno Econômico
»» Fluxo de Benefícios: 4. Deixe o campo Valor 2 em branco.
»» Valor presente do custo econômico: • Na prática, isso equivale a calcular o valor presente
R$ 51.772,22. (com a mesma taxa de desconto) da coluna
“líquido” do fluxo de caixa construído no Excel.
88
Razão
Custo Econômico
Impacto não 4. Pressione OK.
Custo-Efetividade Monetário
𝑇𝑇 𝐹𝐹𝑡𝑡
𝑡𝑡=1 (1+𝑇𝑇𝑇𝑇𝑇𝑇)𝑡𝑡 =0
O que podemos concluir sobre a viabilidade • Ambos os projetos podem ser considerados
econômica e a eficiência dos dois exemplos que economicamente viáveis.
estudamos ao longo desta aula?
• Considerando que os dois projetos são destinados
Exemplo A: projeto de capacitação profissional. a adolescentes da mesma faixa etária e visam a
elevar a renda futura dos beneficiários, o exemplo
»» IEL ou VPL: R$ 2.790.865,00 A mostrou-se mais eficiente. Ou seja, se ambas as
intervenções forem opções possíveis e excludentes,
»» RBC: 54,91 o projeto de capacitação profissional será preferível.
»» RBC: 2,34
»» RCE: R$ 84.799,17
»» TIR: 16%
Saiba Mais
COMENTÁRIOS FINAIS
• Próxima aula: discussão dos trabalhos individuais e “treino” para a apresentação final.