Professional Documents
Culture Documents
Sociologia, Revista da Faculdade de Letras da Universidade do Porto, Vol. XXXI, 2016, pg. 59-80
Mauro Serapioni - Conceitos e mtodos para a avaliao de programas sociais e polticas pblicas
Sociologia. Revista da Faculdade de Letras da Universidade do Porto, Vol. XXXI, 2016, pp. ???
Mauro Serapioni
Centro de Estudos Sociais
Resumo
A avaliao de polticas pblicas difundiu-se nos anos de 1960 e passa hoje por um processo de
rpida disseminao, diversificao terico-metodolgica e controvrsias entre as diversas
perspetivas epistemolgicas. Este artigo analisa as questes-chave que deveriam nortear as
avaliaes, apresenta as principais abordagens avaliativas desenvolvidas nos ltimos 50 anos
(positivista experimental, pragmatista da qualidade e construtivista) e os modelos que resultaram da
contaminao entre elas. Na concluso apresentam-se alguns pontos de tenso persistentes nas
discusses sobre avaliao.
Concepts and methods for the assessment of social programs and public policies
Abstracts
The evaluation of public policies has spread in the 1960s and it is going through a process of rapid
dissemination, methodological diversification and disputes between different epistemological
perspectives. The present article analyses key issues that should guide the evaluation exercises, it
presents three evaluation approaches developed in the last 50 years (the experimental positivist, the
pragmatist of quality and the constructivist) and the models resulting from their mutual influence. In
the conclusion some persistent points of tension in the discussions about evaluation are presented.
59
Mauro Serapioni - Conceitos e mtodos para a avaliao de programas sociais e polticas pblicas
Sociologia. Revista da Faculdade de Letras da Universidade do Porto, Vol. XXXI, 2016, pp. ???
Serapioni, Mauro ConceitosMauro
e mtodos para-aConceitos
Serapioni avaliaoe de programas
mtodos para asociais e polticas
avaliao pblicas
de programas sociais e polticas pblicas
Sociologia, Revista da Faculdade de Letras da Universidade do Porto, Vol. XXXI, 2016, pg. 59-80
Sociologia. Revista da Faculdade de Letras da Universidade do Porto, Vol. XXXI, 2016, pp. ???
Resumen
Resumen
La evaluacin de las polticas pblicas se desarroll en la dcada de 1960, encontrndose
La evaluacin de las polticas pblicas se desarroll en la dcada de 1960, encontrndose
actualmente en
actualmente enununproceso
procesodededifusin
difusinrpida,
rpida,
de de diversificacin
diversificacin metodolgica
metodolgica y deydisputas
de disputas
entre entre
diferentes perspectivas epistemolgicas. Este artculo analiza las cuestiones clave
diferentes perspectivas epistemolgicas. Este artculo analiza las cuestiones clave que deberan que deberan
guiar las evaluaciones; posteriormente presenta los tres enfoques de evaluacin
guiar las evaluaciones; posteriormente presenta los tres enfoques de evaluacin que se han que se han
desarrollado en
desarrollado en los
los ltimos
ltimos5050aosaos(positivista
(positivistaexperimental,
experimental, pragmatista
pragmatista de lade calidad
la calidad
y y
constructivista), as
constructivista), ascomo
comolos losmodelos
modelosresultantes.
resultantes.
ComoComo conclusin
conclusin se presentan
se presentan los puntos
los puntos de de
tensin existentes
tensin existentesen eneleldebate
debatesobre
sobre
la la evaluacin.
evaluacin.
Palabras clave:
Palabras clave:Evaluacin,
Evaluacin,Polticas
Polticas pblicas,
pblicas, Pluralidad
Pluralidad metodolgica.
metodolgica.
1.
1. Introduo
Introduo
O
O interesse
interessepela
pelainvestigao
investigaoemem
polticas pblicas,
polticas rearea
pblicas, tambm designada
tambm policypolicy
comocomo
designada
science, comeou na dcada de 1950, nos Estados Unidos da Amrica (EUA) e, a partir dos
science, comeou na dcada de 1950, nos Estados Unidos da Amrica (EUA) e, a partir dos
anos de 1970, difundiu-se tambm pela Europa, em particular na Alemanha e nos pases
anos de 1970, difundiu-se tambm pela Europa, em particular na Alemanha e nos pases
escandinavos. Nesse perodo, a principal preocupao recaiu na definio do conceito de
escandinavos. Nesse Mauro
perodo, a -principal
Serapioni preocupao
Conceitos e mtodos recaiu
para a avaliao na definio
de programas do conceito
sociais e polticas pblicas de
polticas pblicas eSociologia.
na anlise dosdadistintos
Revista Faculdadeatores intervenientes
de Letras nesses
da Universidade do Porto,processos, estatais
Vol. XXXI, 2016, pp. ???e no
polticas pblicas e na anlise dos distintos atores intervenientes nesses processos, estatais e no
estatais (Faria, 2005). Atualmente, num contexto de crescentes incertezas e complexidade das
estatais (Faria, 2005). Atualmente, num contexto de crescentes incertezas e complexidade das
questes que se colocam neste mbito, muitas abordagens e teorizaes tentam compreender as
questes que se colocam neste mbito, muitas abordagens e teorizaes tentam compreender as
diversas formas e processos de formao e de gesto das polticas pblicas (Trevisan e van
Bellen, 2008). Nesse sentido, para melhor analisar a ao poltica, vrios autores tm recorrido
analogia do ciclo poltico (policy cycle), o qual pode ser dividido em diferentes fases, tais como:
i) insero de um tema na agenda poltica, ii) fase de formulao da poltica, iii) tomada de
deciso, iv) implementao e v) avaliao e controle dos efeitos das polticas pblicas (Garcia,
2014; Howlett et al. 2009; Frey, 2000). No mbito deste artigo reala-se a importncia da ltima
fase do ciclo poltico, ou seja, a avaliao dos programas e aes implementadas, no sentido de
60
avaliar o alcance dos objetivos definidos e seus impactos efetivos.
A prtica da avaliao de programas e polticas pblicas comeou a difundir-se nos anos
1960 do sculo passado e hoje passa por um processo de rpida disseminao e diversificao
diversas formas e processos de formao e de gesto das polticas pblicas (Trevisan e van
Bellen, 2008). Nesse sentido, para melhor analisar a ao poltica, vrios autores tm recorrido
analogia do ciclo Serapioni,
poltico (policy cycle), oequal
Mauro Conceitos pode
mtodos paraser dividido
a avaliao deem diferentes
programas sociaisfases, taispblicas
e polticas como:
Sociologia, Revista da Faculdade de Letras da Universidade do Porto, Vol. XXXI, 2016, pg. 59-80
i) insero de um tema na agenda poltica, ii) fase de formulao da poltica, iii) tomada de
deciso, iv) implementao e v) avaliao e controle dos efeitos das polticas pblicas (Garcia,
2014; Howlett et al. 2009; Frey, 2000). No mbito deste artigo reala-se a importncia da ltima
fase do ciclo poltico, ou seja, a avaliao dos programas e aes implementadas, no sentido de
avaliar o alcance dos objetivos definidos e seus impactos efetivos.
A prtica da avaliao de programas e polticas pblicas comeou a difundir-se nos anos
1960 do sculo passado e hoje passa por um processo de rpida disseminao e diversificao
terica e metodolgica. Entre as vrias razes de afirmao da avaliao nos pases ocidentais
cabe assinalar as seguintes: i) progressiva eroso das bases tradicionais de legitimao dos
poderes pblicos; ii) crescente exigncia, por parte dos cidados, de transparncia e participao
na definio e apreciao da qualidade dos servios prestados; iii) crise fiscal do Estado, que
requer uma maior capacidade de alocar recursos de forma otimizada, tanto do ponto de vista da
sua eficincia como da sua efetividade; iv) presso da Unio Europeia para a avaliao dos
recursos comunitrios destinados a reas importantes de atividade, tais como trabalho, formao
profissional, desenvolvimento local, polticas agrcolas, etc.; v) crescente complexidade social
que torna sempre mais difcil dominar os fatores relevantes para o sucesso de uma interveno e
para a previso de resultados positivos.
Hoje em dia existe uma multiplicidade de abordagens avaliativas e diversas
controvrsias entre estudiosos que se baseiam em diferentes perspetivas concetuais e
epistemolgicas. Alguns autores, por exemplo, questionam-se se a avaliao pode ser
considerada um setor da cincia ou se se trata apenas de uma aplicao da metodologia da
investigao (Cohen e Franco, 1994). Entretanto, h um consenso sobre o fato de que a
avaliao utiliza a metodologia da investigao como um meio para determinar em que medida
as polticas, os programas e os projetos sociais alcanam os seus objetivos. Porm, a avaliao
Mauro Serapioni - Conceitos e mtodos para a avaliao de programas sociais e polticas pblicas
no se restringe somente aos
Sociologia. mtodos
Revista e instrumentos
da Faculdade para conduzir
de Letras da Universidade com
do Porto, Vol.sucesso umpp.processo
XXXI, 2016, ???
de avaliao; ela desenvolveu tambm uma prpria teoria, quer sobre os aspetos a serem
avaliados, quer sobre como obter conhecimentos vlidos de tais aspetos (vretveit, 1998).
Este artigo, aps discutir os principais conceitos e definies de avaliao formulados
por alguns dos mais reconhecidos estudiosos e depois de apresentar um histrico da avaliao,
analisa trs questes-chave que deveriam nortear as avaliaes das polticas pblicas. Em
seguida, so ilustradas as trs abordagens de avaliao desenvolvidas nos ltimos 50 anos
(positivista-experimental, pragmatista da qualidade e construtivista) e os modelos que
resultaram da contaminao entre elas.
2. Conceitos e definies
A avaliao uma disciplina ainda jovem, embora se relacione com uma prtica
muito antiga que atingiu considerveis nveis de formalizao j nas dinastias imperiais da
61
China, Egipto e Japo, h mais de mil anos (Scriven, 1991; Hartz, 2009). Entretanto, como
disciplina e campo de estudos, ou seja, como rea de produo de conhecimento - e no
simplesmente como atividade espontnea e no sistematizada - ela surge somente na
metade dos anos 60. Scriven (1991: 9-10) tem enfatizado o status paradoxal da avaliao,
seguida, so ilustradas as trs abordagens de avaliao desenvolvidas nos ltimos 50 anos
(positivista-experimental, pragmatista da qualidade e construtivista) e os modelos que
resultaram da contaminao entre elas.
Serapioni, Mauro Conceitos e mtodos para a avaliao de programas sociais e polticas pblicas
Sociologia, Revista da Faculdade de Letras da Universidade do Porto, Vol. XXXI, 2016, pg. 59-80
2. Conceitos e definies
A avaliao uma disciplina ainda jovem, embora se relacione com uma prtica
muito antiga que atingiu considerveis nveis de formalizao j nas dinastias imperiais da
China, Egipto e Japo, h mais de mil anos (Scriven, 1991; Hartz, 2009). Entretanto, como
disciplina e campo de estudos, ou seja, como rea de produo de conhecimento - e no
simplesmente como atividade espontnea e no sistematizada - ela surge somente na
metade dos anos 60. Scriven (1991: 9-10) tem enfatizado o status paradoxal da avaliao,
que apesar de ser considerada o mais importante ingrediente de todas as atividades
prticas e intelectuais (), no tem sido tratada seriamente por qualquer disciplina
acadmica at o ultimo tero do sculo XX. Somente a partir do ltimo quarto do sculo,
acrescenta Scriven (1991:11), a avaliao tem sido objeto de interesse e ateno em vrios
campos, embora com discusses que ainda no chegam a uma profundidade suficiente
para relacionar os diferentes campos e transform-los numa disciplina. Neste sentido, h
um amplo consenso entre os especialistas deste campo sobre o facto de que a avaliao
uma rea ainda em construo concetual e metodolgica, que precisa consolidar-se no
plano epistemolgico, terico e metodolgico (Novaes, 2000)..
Analisando as diversas definies encontradas na literatura internacional, referentes
avaliao de programas e polticas sociais e educacionais, podemos observar um consenso
Mauro Serapioni - Conceitos e mtodos para a avaliao de programas sociais e polticas pblicas
entre os maiores Sociologia.
estudiosos sobre
Revista algunsde Letras
da Faculdade aspetos que fundamentam
da Universidade o processo
do Porto, Vol. XXXI, de
2016, pp. ???
avaliao. Pelo menos trs elementos aproximam a maioria das definies apresentadas: a)
a avaliao surge no sentido de formular juzos sobre o valor ou mrito de uma interveno
que visa modificar a realidade social das comunidades; b) colocada nfase na
sistematicidade e rigorosidade dos procedimentos de recolha de dados que suportam o
julgamento do mrito e valor das aes; c) confere-se destaque avaliao como
ferramenta indispensvel para a tomada de decises, j que oferece aos gestores todas as
informaes necessrias para aprimorar o processo de planeamento e de gesto dos
programas, servios e polticas.
Como j foi apontado, a avaliao no sentido de julgar o valor das aes com o
propsito de melhor-las to antiga quanto a conscincia humana. Porm, a avaliao tal
como a conhecemos hoje comeou a desenvolver-se com a revoluo cientfica registada
62
nos sculos XVI e XVII, na qual estabeleceu uma distino entre factos e valores. A cincia
era assim responsvel por recolher e utilizar factos e no por julgar valores. A diviso do
ato de recolha de informao do ato de julgar essa informao representou a base do
desenvolvimento da avaliao entendida como atividade sistemtica. Porm, a avaliao s
3. Breve histrico da avaliao
Serapioni, Mauro Conceitos e mtodos para a avaliao de programas sociais e polticas pblicas
Sociologia, Revista da Faculdade de Letras da Universidade do Porto, Vol. XXXI, 2016, pg. 59-80
Como j foi apontado, a avaliao no sentido de julgar o valor das aes com o
propsito de melhor-las to antiga quanto a conscincia humana. Porm, a avaliao tal
como a conhecemos hoje comeou a desenvolver-se com a revoluo cientfica registada
nos sculos XVI e XVII, na qual estabeleceu uma distino entre factos e valores. A cincia
era assim responsvel por recolher e utilizar factos e no por julgar valores. A diviso do
ato de recolha de informao do ato de julgar essa informao representou a base do
desenvolvimento da avaliao entendida como atividade sistemtica. Porm, a avaliao s
se tornou uma atividade especializada logo aps a Segunda Guerra Mundial.
Sucessivamente, alguns avaliadores tm desafiado a separao entre o ato de recolher fatos,
tradicionalmente da responsabilidade dos avaliadores, e o ato de avaliar (de formular
juzos), uma funo dos que solicitaram/contrataram o estudo (users ou utilizadores dos
resultados da avaliao). Como observa vretveit (1998), hoje em dia h uma interao
entre esses dois atores distintos.
A avaliao de programas sociais, embora iniciada nos EUA, no incio do sculo
XX, entre a primeira e a segunda guerra mundial, no campo da educao, somente a partir
dos anos 60 foi desenvolvida em larga escala no mbito do processo de reforma da Great
Society e da luta contra a pobreza lanada pelos governos de Kennedy e Johnson (Moro,
Mauro Serapioni - Conceitos e mtodos para a avaliao de programas sociais e polticas pblicas
2009). De facto, neste perodo,
Sociologia. Revistaos governosde dos
da Faculdade LetrasEUA investiram
da Universidade enormes
do Porto, recursos
Vol. XXXI, para
2016, pp. ???
Estados e para nortear os governos e os ministrios na conteno dos gastos (Moro, 2009).
De facto, o aumento da presso sobre os escassos recursos destinados aos programas sociais
tem estimulado um crescente interesse pela avaliao econmica e pelas diferentes tcnicas
que permitem aferir a eficincia dos programas e servios sociais. Neste mbito, os
economistas desenvolveram mtodos para a anlise de custos e benefcios dos programas
pblicos. Assim, o nmero e o tipo de atividades de avaliao e monitoramento
aumentaram consideravelmente durante os anos de 1980, por forma a responder a
diferentes propsitos: i) respaldar as exigncias dos governos no controlo dos gastos; ii)
incrementar a responsabilidades dos gestores (accountabiliy) e iii) obter maiores
informaes sobre o impacto das novas tecnologias (vretveit, 1998). Porm, as
abordagens dos economistas revelaram-se insuficientes para dar conta da complexidade das
dimenses no econmicas da avaliao de programas e servios sociais (sade, educao,
assistncia social, etc.).
Nos anos de 1990, a avaliao difundiu-se em todos os pases da Europa como
resultado do impulso fundamental e da presso exercida pela Unio Europeia (Fundos
Estruturais e Fundos de Desenvolvimento Regional), que implicaram uma grande
mobilizao de recursos financeiros e humanos e exigiram o monitoramento e a avaliao
dos seus resultados.
Nesse perodo, cresceu tambm a preocupao pelos aspetos metodolgicos da
avaliao e a sensibilidade para promover uma perspetiva de avaliao interdisciplinar. As
abordagens qualitativas comearam assim a ocupar um espao mais relevante e tornaram-se
mtodos imprescindveis para a avaliao de polticas pblicas e servios sociais, de sade
e de educao. Neste prisma, o pluralismo metodolgico baseado numa conceo integrada
e64multidisciplinar assumiu crescente importncia entre os estudiosos e os avaliadores
profissionais.
dos seus resultados.
Nesse perodo, cresceu tambm a preocupao pelos aspetos metodolgicos da
avaliao e a sensibilidade para promover uma perspetiva de avaliao interdisciplinar. As
Serapioni, Mauro Conceitos e mtodos para a avaliao de programas sociais e polticas pblicas
Sociologia, Revista da Faculdade de Letras da Universidade do Porto, Vol. XXXI, 2016, pg. 59-80
abordagens qualitativas comearam assim a ocupar um espao mais relevante e tornaram-se
mtodos imprescindveis para a avaliao de polticas pblicas e servios sociais, de sade
e de educao. Neste prisma, o pluralismo metodolgico baseado numa conceo integrada
e multidisciplinar assumiu crescente importncia entre os estudiosos e os avaliadores
profissionais.
Mauro Serapioni - Conceitos e mtodos para a avaliao de programas sociais e polticas pblicas
A avaliaoSociologia.
uma reaRevistade
da conhecimento
Faculdade de Letrasainda jovem, do
da Universidade o que
Porto,justifica
Vol. XXXI,uma
2016,maior
pp. ???
5. Abordagens avaliao
reconhecidos estudiosos sector desta matria. Para esse fim, adotaremos a tipologia de
Nicoletta Stame (2001), que tem reclassificado os modelos de avaliao em trs grandes
famlias ou abordagens: i) positivista-experimental; ii) pragmatista-da qualidade; iii)
construtivista. Importa realar que a autora prefere utilizar o termo abordagem em vez de
paradigma por duas razes: a) uma abordagem um conjunto de modelos diferentes,
portanto, apresenta fronteiras menos rgidas dos paradigmas; b) as abordagens coexistem,
enquanto os paradigmas pelo menos na definio de Kuhn (2006) substituem-se um ao
outro no curso das revolues cientficas (Stame, 2001: 25).
5.2.
5.2.Abordagem
Abordagempragmatista
pragmatista- -da
daqualidade
qualidade
Contrariamente
Contrariamente abordagem
abordagem experimental,
experimental, em
em que
queoo critrio
critrio dedeavaliao
avaliao oo
alcance
alcancedos
dosobjetivos,
objetivos,esta
estaabordagem
abordagemnascida
nascidaem
emambiente
ambientepragmatista
pragmatistaem
emoposio
oposio
aoaopositivismo
positivismo(Stame,
(Stame,2001:
2001:29)
29)pretende
pretendeavaliar
avaliarososprogramas
programascom
combase
basenos
nosvalores
valores
que
quepodem
podemser
serinternos
internosou
ouexternos
externosaoaomesmo.
mesmo.Neste
Nestesentido,
sentido,enfatiza
enfatizaMoro
Moro(2009:
(2009:55),
55),
no
nodeve
deveser
serooprograma estabeleceraapriori
programaa aestabelecer prioria avalidade
validadededeum
umobjetivo,
objetivo,mas
masdeve
deveser
seroo
resultado
resultadodedeuma
umapesquisa
pesquisaavaliativa.
avaliativa.Para
ParaMichel
MichelScriven
Scriven(1991),
(1991),considerado
consideradooofundador
fundador
desta
desta abordagem,
abordagem, a a avaliao
avaliao deve
deve ser
ser livre
livre dos
dos objetivos (goal free
objetivos (goal free evaluation).
evaluation). AA
perspetivaorientada
perspetiva orientadapara
paraososobjetivos,
objetivos,comenta
comentaStame
Stame(2001:29),
(2001:29),poderia
poderiarepresentar
representarum
um
alibi para
alibi
70 para uma
uma pretensa
pretensa neutralidade
neutralidade dede valores
valores do
do avaliador.
avaliador. OO avaliador
avaliador no
no deve
deve
portanto deixar-se
portanto deixar-se influenciar
influenciar pelos
pelos objetivos,
objetivos, mas
mas deve
deve basear-se
basear-se nos
nos seu
seu valores
valores e e
competncias.
competncias.
Scriven(1991)
Scriven (1991)desagrega
desagregaoojuzo
juzodedevalor
valorem
emduas
duasdimenses:
dimenses:i)i)mrito
mrito(merit)
(merit)ou
ou
ao positivismo (Stame, 2001: 29) pretende avaliar os programas com base nos valores
que podem ser internos ou externos ao mesmo. Neste sentido, enfatiza Moro (2009: 55),
no deve ser o programa a estabelecer a priori a validade de um objetivo, mas deve ser o
Serapioni, Mauro Conceitos e mtodos para a avaliao de programas sociais e polticas pblicas
Sociologia,
resultado de uma pesquisa Revista da Faculdade
avaliativa. de LetrasScriven
Para Michel da Universidade
(1991),do Porto, Vol. XXXI, 2016,
considerado pg. 59-80
o fundador
desta abordagem, a avaliao deve ser livre dos objetivos (goal free evaluation). A
perspetiva orientada para os objetivos, comenta Stame (2001:29), poderia representar um
alibi para uma pretensa neutralidade de valores do avaliador. O avaliador no deve
portanto deixar-se influenciar pelos objetivos, mas deve basear-se nos seu valores e
competncias.
Scriven (1991) desagrega o juzo de valor em duas dimenses: i) mrito (merit) ou
valor intrnseco de uma atividade, mensurado com padres de qualidade especficos para
aquela atividade; ii) valor extrnseco (worth) de uma interveno que responde s
necessidades dos beneficirios que vivem naquele contexto.
Este modelo adequado para avaliar a efetividade e a eficincia de servios que
desenvolvem regularmente as suas atividades em resposta s necessidades da populao.
De facto, os princpios deste modelo encontram-se incorporados em todas as estratgias de
Mauro Serapioni - Conceitos e mtodos para a avaliao de programas sociais e polticas pblicas
avaliao das instituies que
Sociologia. se inspiram
Revista nadeGesto
da Faculdade Letras dada Qualidade
Universidade e na Vol.
do Porto, Melhoria Contnua
XXXI, 2016, pp. ???
b) Avaliao realista
Este
74 modelo desenvolvido por Pawson e Tilly (1997) critica a causalidade sequencial da
abordagem positivista - segundo a qual o resultado obtido aps uma determinada
interveno - e prope o conceito de causalidade generativa, que busca compreender
como aquela interveno obteve aquele resultado. Neste prisma, os autores deslocam o foco
da mudana enfatiza Weiss (1997: 46) no constitudo pelas atividades do programa
Serapioni, Mauro Conceitos e mtodos para a avaliao de programas sociais e polticas pblicas
Sociologia, Revista da Faculdade de Letras da Universidade do Porto, Vol. XXXI, 2016, pg. 59-80
em si, mas pela resposta que tais atividades geram.
b) Avaliao realista
Este modelo desenvolvido por Pawson e Tilly (1997) critica a causalidade sequencial da
abordagem positivista - segundo a qual o resultado obtido aps uma determinada
interveno - e prope o conceito de causalidade generativa, que busca compreender
como aquela interveno obteve aquele resultado. Neste prisma, os autores deslocam o foco
da avaliao da efetividade de um programa para a necessidade de compreender o que,
deste programa, precisamente, possibilita o seu funcionamento. De acordo com Pawson
(2002: 342), no so os programas que funcionam, mas os recursos que eles oferecem para
habilitar os sujeitos a faz-los funcionar. Este processo sobre como os sujeitos interpretam
as estratgias do programa designado pelo autor como mecanismo do programa e
representa o eixo em torno ao qual gira a avaliao realista. Na perspetiva realista, a
avaliao deve, portanto, responder s seguintes perguntas: quais so os mecanismos de
mudana desencadeados pelo programa? Por que em alguns contextos alguns mecanismos
funcionam e outros no? Por que o mesmo programa gera resultados diversos em contextos
diferentes? Partindo dos pressupostos acima mencionados, o modelo realista articula o
processo de avaliao em trs elementos essenciais: os mecanismos, o contexto e os
resultados. Na anlise de Pawson e Tilley (1997) so claramente identificveis as
influncias do construtivismo quando reconhecem que em cada contexto so possveis
diversos mecanismos. Nesse sentido, a avaliao realista consiste na compreenso do
contexto (as pessoas, os processos, as instituies) e dos mecanismos que podem funcionar
nesse determinado contexto. Esta atividade certamente no preordenada como na
Mauro Serapioni - Conceitos e mtodos para a avaliao de programas sociais e polticas pblicas
abordagem positivista. Finalizando,
Sociologia. este modelo
Revista da Faculdade reconhece
de Letras a importncia
da Universidade daXXXI,
do Porto, Vol. relao entre
2016, o
pp. ???
Concluso
conflito. Outro ponto controverso diz respeito forma como os resultados das avaliaes
devem ser utilizados. Nos anos de 1970, muitos avaliadores acreditavam que os seus
resultados podiam retroalimentar os processos de tomada de decises. Porm, a experincia
ensinou que as decises no so to facilmente tomadas no mundo da poltica. Tais
resultados empricos levaram assim a reconhecer que o uso instrumental (instrumental
perspective) da avaliao raro e que o tipo de uso mais difuso da avaliao chamado de
iluminao ou de esclarecimento (enlightenement perspective), cujos resultados podem
mudar a maneira como as questes sociais e os programas so enquadrados e a forma como
os stakeholders pensam acerca de problemas e solues (Cook, 1997). Mas ser que os
financiadores e promotores se contentam apenas com a funo de esclarecimento no
exigindo tambm uma avaliao que se retroalimente dos processos de deciso?
Importa, por fim, assinalar o debate referente ao papel do avaliador, que varia de
acordo com a perspetiva sobre a avaliao que adotada. Na perspetiva orientada para o
desenvolvimento institucional (Development perspective), a avaliao considerada uma
ferramenta flexvel que visa aprimorar o desempenho das instituies e promover a
mudana organizacional. De acordo com esta perspetiva, o avaliador torna-se parceiro
(partner) ou amigo crtico (critical friend), segundo Fetterman (1994), mas tambm
76
desenvolve funes de advocacia, segundo Stake (2007), podendo ainda ser encarado como
facilitador, de acordo com a proposta de Guba e Lincoln (1989). J na perspetiva da
avaliao orientada para a anlise da eficincia e da efetividade (accountability
perspective), o avaliador deve manter a independncia e uma certa distncia para poder
Importa, por fim, assinalar o debate referente ao papel do avaliador, que varia de
acordo com a perspetiva sobre a avaliao que adotada. Na perspetiva orientada para o
desenvolvimentoSerapioni,
institucional
Mauro (Development perspective),
Conceitos e mtodos para a avaliaoadeavaliao considerada
programas sociais uma
e polticas pblicas
Sociologia, Revista da Faculdade de Letras da Universidade do Porto, Vol. XXXI, 2016, pg. 59-80
ferramenta flexvel que visa aprimorar o desempenho das instituies e promover a
mudana organizacional. De acordo com esta perspetiva, o avaliador torna-se parceiro
(partner) ou amigo crtico (critical friend), segundo Fetterman (1994), mas tambm
desenvolve funes de advocacia, segundo Stake (2007), podendo ainda ser encarado como
facilitador, de acordo com a proposta de Guba e Lincoln (1989). J na perspetiva da
avaliao orientada para a anlise da eficincia e da efetividade (accountability
perspective), o avaliador deve manter a independncia e uma certa distncia para poder
aferir de forma objetiva o valor ou mrito do programa (Scriven, 1995). Hoje em dia,
contudo, esta viso sobre o papel do avaliador objeto de vrias crticas.
Referncias bibliogrficas
Aguilar, M.J., Ander-Egg, E. (1995), Avaliao de servios e programas sociais. Petrpolis,
Editora Vozes.
Beck, U. (2000), La societ del rischio, Roma, Carocci.
Bezzi, C. (2003), Il disegno della
Mauro ricerca
Serapioni valutativa.
- Conceitos Milo:
e mtodos Angeli.
para a avaliao de programas sociais e polticas pblicas
Sociologia. RevistaD;
Brousselle, A.; Contandriopulos, da Faculdade
Lemire, deMLetras da Universidade
(2009), do Porto,Analysis
Using Logic Vol. XXXI,to2016, pp. ???
Evaluate
Knowedge Transfer Initiatives: The case of the research collective on the organization of
Primary Health Care, Evaluation,15, pp. 165-183
Campbell D.; Russo J. (1999), Social experimentation, Thousand Oaks: Sage Publications.
Campbell, D.; Stanley, J. (1966), Experimental and Quasi-Experimental Design for Research,
Chicago, Rand McNally.
Cerqueira Prata A.C. (2012), Metodologia da avaliao das aes sociais. CEPAL, Comisso
Econmica para Amrica Latina e o Caribe, Maro de 2007; pp. 43. Sito visitado: 20 Fevereiro
2012:http://www.eclac.org/publicaciones/xml/4/29014/LSBRSR182AnaCarolinaAiresCerqueira
Prata.pdf
Chelimsky, E.; Shadish, W. (eds.) (1997), Evaluation for the 21st century. A handbook, Thousand
Oaks: Sage Publications.
Cohen, E., Franco, R. (1993), Avaliao de projetos sociais, Petrpolis, Vozes.
Cook, T.D. (1997), Lessons learned in Evaluation over the past 25 years. In; Chelimsky, E.;
Shadish, W. (eds.), Evaluation for the 21st century. A handbook, Thousand Oaks: Sage
Publications.
Cronbach, L.J. (1996), Ninethy-five theses for reforming program evaluation. In: G.F. Madaus,
Scriven M.S., Stufflebean D.L. (Orgs.), Evaluation models. Viewpoints on educational and
human service evaluation, Boston:Kluwer-Nijhoff, 11 Edio; pp. 405-412.
Donabedian, A. (1980), Exploring in Quality Assessment and Monitoring, Definitions of Quality
and Approaches to its Assessment. Ann Arbor, Health Administration Press, University of
Michigan, v.1.
Faria, C.A.P. (2005), A poltica da avaliao de polticas pblicas, Revista Brasileira de Cincias
Sociais, 20 (59), pp. 97-109.
Fetterman, D. (1994), Empowerment evaluation, Evaluation Practice, 1994 15(1), pp. 1-15.
77
Fetterman, D. (1997), Empowerment Evaluation and Accreditation in Higher Education. In:
Chelimsky E., Shadish W.R. Evaluation for the 21st Century. Thousand Oaks, Sage, pp. 381-
394.
Donabedian, A. (1980), Exploring in Quality Assessment and Monitoring, Definitions of Quality
and Approaches to its Assessment. Ann Arbor, Health Administration Press, University of
Michigan,
Serapioni, Maurov.1.
Conceitos e mtodos para a avaliao de programas sociais e polticas pblicas
Sociologia, Revista da Faculdade de Letras da Universidade do Porto, Vol. XXXI, 2016, pg. 59-80
Faria, C.A.P. (2005), A poltica da avaliao de polticas pblicas, Revista Brasileira de Cincias
Sociais, 20 (59), pp. 97-109.
Fetterman, D. (1994), Empowerment evaluation, Evaluation Practice, 1994 15(1), pp. 1-15.
Fetterman, D. (1997), Empowerment Evaluation and Accreditation in Higher Education. In:
Chelimsky E., Shadish W.R. Evaluation for the 21st Century. Thousand Oaks, Sage, pp. 381-
394.
Frey, K. (2000), Polticas Pblicas: um debate conceitual e reflexes referentes prtica da anlise
de polticas no Brasil, Planejamento e Polticas Pblicas, 21, pp. 211-259.
Garcia, A.T. (2014), A implementao de polticas pblicas de ambiente o caso da qualidade da
gua para consumo humano, Anlise
Mauro Serapioni Social, 211,
- Conceitos XLIX
e mtodos para(2.), 2014.de programas sociais e polticas pblicas
a avaliao
Glasser, P.H. La ricerca valutativa.
Sociologia. RevistaPadova, Fondazione
da Faculdade Cancan,
de Letras da 1972.do Porto, Vol. XXXI, 2016, pp. ???
Universidade
Greene, J. E., Caracelli, V. (1997), Advances in mixed-method evaluation: the challenges and
benefits of integrating paradigms, New Direction for Programme Evaluation, n. 74, San
Francisco: Jossey-Bass.
Guba, E.G.; Lincoln, Y.S. (1981), Effective evaluation: improving the usefulness of evaluation
results through responsive and naturalistic approaches. San Francisco: Jossey-Bass.
Guba, E., Lincoln, Y. (1989), Fourth Generation Evaluation. Newbury Park, Sage Publications.
Hartz, Z.M.A. Undisciplinary comments from evaluative research in health, Ciencia & Saude
Coletiva 2008, 13(6), pp. 1711-1717.
Hartz, Z.M.A. (1999), Avaliao dos programas de sade: perspetivas terico metodolgicas e
polticas institucionais, Cincia & Sade Coletiva, 4(2), pp. 341-353.
Howlett, M.; Ramesh, M.; Perl, A. (2009), Studying Public Policy, Oxford: Oxford University
Press.
Kuhn T.S. (2006), A estrutura das revolues cientficas, So Paulo, Perspectiva, 2006.
Madaus G.F., Scriven M. e Stufflebeam D.L. (1996), Evaluation Models. Viewpoints on
Educational and Human Services Evaluation. Dordrecht:Kluwer Nijhoff Publishing, 11 Edio.
Minayo, M.C., Sanches, O. Quantitativo-Qualitativo: Oposio ou Complementaridade? Caderno
de Sade Pblica 1993, 9 (3), pp. 239-262.
Moro, G. (2009), La valutazione delle politiche pubbliche. Roma: Carrocci.
Novaes, H.M.D. (2000), Avaliao de programas, servios e tecnologias em sade, Revista Sade
Pblica, 34(5), pp. 547-59
vretveit, J (1998),. Evaluating Health Interventions. Buckingham, Open University Press.
Palumbo, M. (2001), Il processo di valutazione. Decidere, programmare, valutare. Milao, Angeli.
Patton, M.Q. (1998), Discovering Process Use, Evaluation, 4(2), pp. 225-233.
Patton, M.Q. (1999), Enhancing the quality and credibility of qualitative analyses, Health
Services Research, 34, 5, pp. 1189-1208.
Patton, M..Q. (1997), Utilization-Focused Evaluation. The new century text. Thousand Oaks, Sage
Publications.
Pawson, R., Tilley, N. (1997), An Introduction to Scientific Realist Evaluation. In: Chelimsky, E.
and Shadish, W.R. (eds.), Evaluation for the 21st Century, Thousand Oaks, Sage, 1997.
Pawson, R. (2002), Evidenced-based Policy: The Promise of Realist Synthesis, Evaluation,
78
8(3), pp. 340-358.
Pineault, R; Tousignant, P; Roberrg, D; Lamarche, P.; Rheinarz, D; Larouche, D; Beaulne, G;
Lesage, D. (2007), Involving decision-makers in producing research-syntheses. The case of
Patton, M.Q. (1998), Discovering Process Use, Evaluation, 4(2), pp. 225-233.
Patton, M.Q. (1999), Enhancing the quality and credibility of qualitative analyses, Health
Services Research, 34, 5, pp. 1189-1208.
Serapioni, Mauro Conceitos e mtodos para a avaliao de programas sociais e polticas pblicas
Sociologia, Revista da Faculdade
Patton, M..Q. (1997), Utilization-Focused de Letras
Evaluation. Theda new
Universidade
century do text.
Porto,Thousand
Vol. XXXI, 2016, pg.Sage
Oaks, 59-80
Publications.
Pawson, R., Tilley, N. (1997), An Introduction to Scientific Realist Evaluation. In: Chelimsky, E.
and Shadish, W.R. (eds.), Evaluation for the 21st Century, Thousand Oaks, Sage, 1997.
Pawson, R. (2002), Evidenced-based Policy: The Promise of Realist Synthesis, Evaluation,
8(3), pp. 340-358. Mauro Serapioni - Conceitos e mtodos para a avaliao de programas sociais e polticas pblicas
Sociologia.
Pineault, R; Tousignant, Revista da Faculdade
P; Roberrg, de Letras
D; Lamarche, P.;daRheinarz,
UniversidadeD;do Larouche,
Porto, Vol. XXXI, 2016, pp. ???
D; Beaulne, G;
Lesage, D. (2007), Involving decision-makers in producing research-syntheses. The case of
Research Collective on Primary Health Care in Quebec, Healthcare Policy, 2,4, pp. 11-17.
Rossi, P.H.; Freeman, H.E.; Lipsey, M.W. (1999), Evaluation. A systematic approach, Thousand
Oaks, Sage Publications.
Rutman, L. (1984), Evaluation research methods: a historical guide, Beverly Hills, Sage
Publications.
Scriven, M. (1995), The Logic of Evaluation and Evaluation Practice, New Directions for
Evaluation, 68, pp. 49-70.
Scriven, M. (1991), Evaluation Thesaurus, Newbury Park, Sage Publications.
Serapioni, M. (2000), Mtodos qualitativos e quantitativos: algumas estratgias para a integrao,
Cincia & Sade Coletiva 2000, (5)1: 187-192.
Serapioni, M. (2009), Avaliao da qualidade em sade. Reflexes terico-metodolgicas para
uma abordagem multidimensional, Revista Crtica de Cincias Sociais, 85, 65-82.
Shortell, S.M. (1999), The Emergence of Qualitative Methods in Health Services Research,
Health Services Research, 34(5), pp. 1083-1090.
Stake, R.E. (1980), Programme evaluation, particularly responsive evaluation. In: W.B. Dockrell &
D. Hamilton (eds.), Rethinking educational research: London: Hodder & Stoughton.
Stake, R.E. (1996), Program Evaluation, Particularly Responsive Evaluation. In: G.F. Madaus,
Scriven M.S., Stufflebean D.L. (Orgs.), Evaluation models. Viewpoints on Educational and
Human Service Evaluation, Boston, Kluwer-Nijhoff, 11 Edio, pp. 287-310.
Stake, R.E. (2007), La valutazione di programmi, con particolare riferimento alla valutazione
sensibile. In Stame N. (org.) Classici della valutazione, Milo, Angeli, 2007; pp. 156-177.
Stame, N. (org.)(2007), Classici della Valutazione. Milo, Angeli.
Stame, N. (2001), Tre approcci principali alla valutazione: distinguere e combinare. In: Palumbo M.
(org.) Il processo di valutazione. Decidere, programmare, valutare. Milo, Angeli, pp. 21-46.
Stufflebeam, D.L. (1996), The CIPP Model for Program Evaluation. In: Madaus, G.F., Scriven, M.
e Stufflebeam, D.L. (eds.), Evaluation Models. Viewpoints on Educational and Human Services
Evaluation. Dordrecht, Kluwer Nijhoff Publishing, 11 Edio, 1996.
Trevisan, A.P.; van Bellen, H.M. (2008), Avaliao de polticas pblicas: uma reviso terica de
um campo em construo, Revista de Administrao Pblica, 42 (3), pp. 529-550.
Weiss, C.H. (1997), Theory-Based Evaluation: Past, Present, and Future, New Directions for
Evaluations, 76, pp. 41-55.
Weiss, C.H. (1998), Evaluation. Second Edition. Uppler Saddle River: Prentice Hall.
79
Sociologia. Revista da Faculdade de Letras da Universidade do Porto, Vol. XXXI, 2016, pp. ???
Serapioni, Mauro Conceitos e mtodos para a avaliao de programas sociais e polticas pblicas
Sociologia, Revista da Faculdade de Letras da Universidade do Porto, Vol. XXXI, 2016, pg. 59-80
80