Professional Documents
Culture Documents
Resumo
O objetivo deste artigo discutir, atravs da percepo de pesquisadores das reas de cincias
sociais aplicadas e da multidisciplinar, a contribuio que a avaliao por pares tem
proporcionado para a qualificao e reconstruo dos saberes produzidos. uma pesquisa
exploratria com dados quantitativos e qualitativos. Os participantes da pesquisa foram:
professores e estudantes de doutorado de cursos de ps-graduao nas reas de cincias
sociais aplicadas e da multidisciplinar das regies sul e sudeste, de universidades pblicas e
privadas ou comunitrias. Foram tambm analisados os critrios adotados por peridicos
nacionais e internacionais e eventos nacionais. Os resultados indicam que para o processo
ganhar mais em qualidade no Brasil, torna-se necessrio: a) criar um espao de dilogo entre
avaliador e avaliado para que o primeiro possa ter noo do impacto positivo ou negativo de
seu parecer; b) criar sistemticas de avaliao do avaliador; c) estabelecer um conjunto de
orientaes para o avaliador, de forma que o processo garanta no s a seleo de um bom
artigo, mas o exerccio de dilogo atinente a processos avaliativos; d) considerar entre os
critrios de seleo dos avaliadores que a expertise sobre o tema seja o principal indicativo de
competncia avaliativa.
1. Introduo
A avaliao por pares ou peer review a forma mais tradicional de se avaliar trabalhos a
serem publicizados em eventos ou publicados em peridicos, bem como projetos de pesquisa
que concorrem a financiamento. Parte-se do princpio que a comunidade acadmica, dentro de
sua rea de atuao, rene expertises suficientes para identificar o mrito ou demrito das
propostas apresentadas, bem como contribuir para a melhoria dos trabalhos, o que, em ltima
instncia, representaria ganhos qualitativos para a construo do conhecimento naquela rea.
Pessanha (1998) ao analisar o trabalho de Patterns of evaluation in science:
institutionalization, structure and functions of the referee system, de Harriet Zuckerman e
Robert Merton, apresenta as modificaes provocadas na cincia com o surgimento, das
primeiras revistas cientficas, na Frana e Inglaterra, em 1665, substituindo as cartas que, at
aquele momento, os cientistas trocavam entre si para divulgar resultados de suas pesquisas.
nesse contexto que surge o sistema de avaliao entre os membros da comunidade
cientfica. O referee system, denominado sistema de arbitragem, tambm conhecido como
peer review - reviso por pares. Esta sistemtica de avaliao pode ser considerada o
paradigma dominante entre os processos dessa natureza adotados por eventos, peridicos e
fontes de financiamento de pesquisas, no julgamento do mrito ou demrito dos trabalhos
submetidos a cada uma destas reas.
Contudo, com o aumento significativo da produo cientfica, o acesso aos meios de
divulgao e rgos fomentadores de pesquisa tornou-se mais disputado. Isso fez com que o
processo de avaliao, em algumas situaes, restrinja-se a uma dinmica de excluso,
distanciando-se de sua caracterstica primeira, a qual considerar a qualidade e pertinncia do
que est sendo produzido, bem como contribuir para a qualificao dos resultados da cincia.
Outra questo na contemporaneidade refere-se velocidade das mudanas, que se reflete
tambm na acelerao da produo de conhecimentos, colocando em cena novos paradigmas.
Isso dificulta a tarefa de conciliar o perfil dos avaliadores com escopo terico j sedimentado,
diante dessas novas perspectivas. Esse descompasso tende a comprometer a qualidade do
processo e contribuir para o surgimento dos problemas acima identificados.
1
Essas so algumas questes que tem trazido para o campo da avaliao da produo cientfica
uma arena de conflitos que no contribuem com o dilogo na produo do conhecimento,
visto que dadas as limitaes do processo de avaliao cristalizam-se posies de avaliador e
avaliado, prejudicando o avano da cincia.
O estudo ora apresentado tem como objetivo discutir, atravs da percepo de pesquisadores
das reas de cincias sociais aplicadas e da multidisciplinar, a contribuio que a avaliao
por pares tem proporcionado para a qualificao e reconstruo dos saberes produzidos.
O trabalho justifica-se principalmente por haverem poucos estudos sobre o tema. Bence e
Oppenheim (2004) indicam que, apesar da crescente importncia do processo de avaliao por
pares, este no tem sido objeto de rigorosos estudos cientficos at perodos bem recentes.
Alm disso, existe uma necessidade crescente de analisar-se a avaliao, para contribuir com
a ampliao de sua eficincia e redefinio de seus objetivos. O objetivo de avaliar a
avaliao, para Bence e Oppenheim (2004) torn-la mais qualificada, aproximando-a
tambm das caractersticas desejadas na origem do processo quais sejam contribuir para a
melhoria continua da gerao de conhecimento.
Para tanto, o artigo foi organizado em quatro tpicos: a base terica contemplando o processo
de avaliao e peer review ou avaliao por pares, metodologia, apresentao e anlise dos
resultados e as consideraes finais.
2. Base Terica
Este tpico contemplar uma discusso a respeito da avaliao no contexto da produo
cientfica e o cenrio e atuao dos avaliadores ou peer review. Enfatiza questes como a
compreenso do que o processo de avaliao, o que a avaliao por pares ou peer review,
suas principais caractersticas, alm de crticas positivas e negativas a sistemtica, encontradas
na literatura cientfica nacional e internacional que fora pesquisada.
Cole (1998) afirma que a escolha dos revisores por editores de peridicos no possui como
foco buscar pesquisadores com diferentes perspectivas, mas simplesmente aqueles que so os
melhores em determinada rea. Salienta tambm que quando os editores escolhem os
revisores no podem prever possveis comportamentos na avaliao. Isso pode ser resultante
do baixo nvel de consenso que h nas fronteiras das pesquisas.
No que diz respeito divergncia de opinies entre pares possvel identificar que grande
parte delas so derivadas do desenvolvimento paradigmtico do campo cientfico, este
consenso tende a decrescer das reas bsicas s aplicadas e das reas duras s brandas
(DAVYT; VELHO, 2000).
No que diz respeito a pesquisa cientfica as divergncias paradigmticas levou a necessidade
de se pensar um novo contrato para o processo de avaliao por pares. Entre outros fatores um
dos que foram determinantes foi a constatao de que os benefcios sociais produzidos por ela
no eram to automticos como pareciam no modelo linear de inovao. As restries
oramentrias, a eroso da credibilidade irrestrita do julgamento por pares levaram a hiptese
que esta deveria se concentrar em reas que produzem maiores benefcios sociais e
econmicos (DAVYT; VELHO, 2000).
Esse processo de adaptao levou, em 1986, a NSF dos Estados Unidos a considerar o
julgamento por mrito, com base no critrio que a qualidade cientfica deve estar aliado
relevncia social. Nesse sentido a pesquisa deveria considerar critrios internos e externos,
incluindo opinies de no especialistas da comunidade cientfica que deveriam se posicionar
quanto ao escopo e os resultados esperados (DAVYT; VELHO, 2000).
Mesmo assim Bence e Oppenheim (2004) indicam que a habilidade da avaliao por pares em
assegurar a qualidade da produo cientfica questionvel, pois estaria na mesma condio
de um sistema de controle de qualidade de produo, o qual ajuda, mas que sozinho no
consegue garantir a validade do resultado do processo.
Nessa perspectiva, as vantagens e desvantagens de um processo de reviso por pares
demonstram a importncia da seriedade e do preparo de quem se prope a exercer esse papel
para que as vantagens possam ser potencializadas e a contribuio cincia seja cada vez
maior. O Quadro 1 traz um resumo destas vantagens e desvantagens, a partir do estudo de
Bence e Oppenheim, (2004).
A pesquisa realizada por Anderson et al. (2007) mostra que a competio entre os
pesquisadores tem causado efeitos na forma como a cincia evolui. So apresentados o sigilo
e a sabotagem e a interferncia no trabalho dos avaliadores, bem como um sistema universal
de mrito em realizar reviso.
Anker e Flanagin (2007) afirmam que nos peridicos cientficos aumenta a ateno para o
conflito de interesse poltico tendo como decorrncia a criao de polticas no apenas para
autores, mas para revisores e editores. Entretanto nem todos os peridicos disponibilizam
especificaes de suas polticas e muitas das que esto disponveis carece de definio clara e
de detalhes importantes.
Proteo das prticas de plgio. Gera oportunidades para o roubo de idia e prtica do
plgio.
Segurana de autenticidade. Sem possibilidade de recurso, reparao para os autores
se os revisores forem verdadeiramente annimos
Dar credenciais para a comunidade cientfica, os O tempo gasto um importante problema. O processo de
quais podem ajudar na obteno de empregos, Double blind reviewing, especialmente quando permite
promoes ou obteno de fundos. revises, acaba prolongando-se por vrios meses. Desta
forma, publicao dos resultados de pesquisas
importantes acaba sendo atrasado.
Assegurar qualidade para os padres dos Revisores podem discordar sobre os mritos de um
journals. mesmo artigo.
Incrementar a produo cientfica, assegurando a Comentrios, mesmo quando um artigo aceito, no tem
citao de literatura relevante. sido til para os autores.
Mesmo quando um trabalho rejeitado, o Como esta uma tarefa graciosa, ela no prioridade
feedback aos autores permanece vlido: a crtica para os acadmicos, o que acaba incrementando os
construtiva e o processo de reviso tende a atrasos.
melhorar os manuscritos.
Editores podem dirigir os trabalhos para Um artigo aceito por um jornal pode ter sido rejeitado por
journals mais apropriados se forem submetidos outro. Isto sustenta tanto o argumento da qualidade
erroneamente. quanto da inconsistncia do processo ou o fato de haver
uma hierarquia de qualidade.
Perpetua o sentimento de uma comunidade fechada.
Novas idias, que estejam fora do mainstream ou que
sejam contraditrias a viso convencional estabelecida,
podem ser bloqueadas.
Fonte: Bence e Oppenheim, 2004.
O quadro indica que os fatores que so vistos como vantagens desse tipo de abordagem
tambm apresenta aspectos limitantes. Questiona-se a forma como esse processo tem sido
implementado e principalmente o fato de no ser objeto de avaliao.
Para a melhoria do processo de avaliao Muligan (2004, p. 141) sugere que h necessidade
de maior transparncia e para tal deveriam ser adotados os seguintes procedimentos:
Uma poltica de anonimato;
Uma poltica que estabelece se todos os artigos devem ser enviados a revisores;
Informaes sobre os critrios de seleo dos revisores;
O nmero de revisores envolvidos;
O resultado esperado no processo de avaliao;
O protocolo que o avaliador deve seguir (critrio para avaliao da publicao)
Como a deciso final ser dada;
Como as observaes do avaliador sero comunicadas ao autor;
Um estabelecimento de interesses como exemplo, revisores que tenham colaborado
com o autor recentemente;
Taxa de rejeio.
Feedback para avaliadores.
Alguns desses procedimentos j esto incorporados s prticas de peridicos, eventos e rgo
de fomento, embora muitas dessas prticas ainda encontrem-se distantes das polticas de
muitos veculos de divulgao.
Ainda que se considerem essas dificuldades Bertero (2007, p.2), identifica que j podemos
contar com avaliadores que efetivamente produzem avaliaes de nvel internacional,
sugerindo alteraes e atuando como reais conselheiros do autor, dessa forma chegando quase
a uma "co-autoria de fato, aponta, porm, que muitos avaliadores ainda avaliam pela rama,
ou seja, so superficiais em sua avaliao. O autor afirma que so poucas as justificativas
8
para aprovar e publicar na forma como o artigo foi apresentado ou para rejeit-lo tambm sem
grandes explicaes. Ambas as alternativas so reveladoras de uma avaliao pobre.
3. Metodologia
O presente estudo caracteriza-se por uma pesquisa exploratria, com tipologia seccional, uma
vez que tratou do momento atual dos processos peer review e cujos nveis de anlise foram o
indivduo e a organizao (VIEIRA, 2005). Para Vergara (2004) este tipo de pesquisa tem
como objetivo desenvolver uma sondagem sobre a temtica em questo.
Os participantes da pesquisa foram: professores e estudantes de doutorado de cursos de ps-
graduao nas reas de cincias sociais aplicadas e da multidisciplinar das regies sul e
sudeste, de universidades pblicas e privadas ou comunitrias.
A seleo dos respondentes foi determinada considerando a networking dos pesquisadores e
aqueles que se enquadravam nos critrios de seleo dos sujeitos da pesquisa. Em alguns
casos, foi solicitado que os mesmos remetessem ou indicassem um colega para que tambm
pudesse contribuir. Foram enviados 43 questionrios por e-mail e recebidos 30 respondidos,
representando 66% de retorno.
As questes do instrumento de pesquisa solicitavam informaes dos pesquisadores e sua rea
de atuao; nmero de pareceres que emitem e recebem de eventos e projetos; postura
adotada quando avalia e avaliado; potencialidades e dificuldades na atuao como
pesquisador em relao avaliao.
Os dados obtidos so de natureza quantitativa e qualitativa e foram coletados nos meses de
dezembro de 2007 a maro de 2008. Alm dos dados obtidos junto aos pesquisadores foram
analisados os critrios adotados por trs peridicos nacionais (RAE, READ e RAUSP), trs
peridicos internacionais (Academy of Management Journal, American Journal of Political
Science, Harvard Business Review) e trs eventos nacionais (ENANPAD, SIMPOI e
ANPOCs). O critrio de seleo foi aleatrio, a partir da considerao de que os veculos de
divulgao possussem conceito A na lista Qualis da Capes em mbito nacional para os
eventos e peridicos brasileiros e em mbito internacional para os demais. Para o tratamento
dos dados utilizou-se de anlises estatstica e interpretativa. Essa ltima orientada pelas
seguintes categorias: dilogo, neutralidade/autonomia da cincia, qualidade, inovao x
tradio, construo de consensos, pesquisa relevncia/outros atores, redes elitistas.
11
Alguns autores indicam que a natureza do processo peer review favorece a criao de redes
elitistas de pesquisadores (DAVYT; VELHO, 2000). Os dados confirmam essa tendncia uma
vez que na avaliao dos projetos, as aes passadas tm um peso fundamental, tais como a
capacidade comprovada (43), competncia e experincia (38). A regularidade da produo
cientfica (34) aparece em terceiro lugar.
Essa tendncia traz tona a dificuldade que sofrem tanto os jovens pesquisadores, que no
estejam inseridos em redes reconhecidas, quanto os centros de pesquisa que ainda no se
constituem como referncia. Fatos estes evidenciados pela pesquisa de campo
12
explicitao e transparncia dos critrios de avaliao, maior discusso acerca de aspectos que
envolvem os processos de avaliao de projetos e artigos. Alm disso, o avaliador deve ter a
preocupao com a contribuio para o crescimento de outro ser humano na vida
acadmica. Tambm foram evidenciados aspectos como a postura auto-crtica dos
avaliadores, flexvel e aberta a novas metodologias de pesquisa, criao de instncia de
dilogo com os pareceristas e fundamentao dos pareceres.
Todas estas sugestes de melhoria convergem para vrios aspectos que Benos, et. al. (2007)
Wenneras e Wold (1997) Bence e Oppenheim (2004) Grivell (2006) Gura (2000) Cole (1998)
Anderson et al. (2007) Ancker e Flanagin (2007) Muligan (2004, p. 141) Bertero (2007),
consideram ser necessrios para ter um processo de peer review adequado para contribuir para
a seleo de trabalhos relevantes, bem como para que se preserve o direito de propriedade
intelectual, bem como para que se contribua com a melhoria contnua da qualidade do
conhecimento gerado.
Consideraes Finais
O objetivo deste artigo foi discutir, atravs da percepo de pesquisadores das reas de
cincias sociais aplicadas e da multidisciplinar, a contribuio que a avaliao por pares tem
proporcionado para a qualificao e reconstruo dos saberes produzidos.
Constatou-se que h diferentes posturas quando os pesquisadores atuam como avaliados e
avaliadores, principalmente com pesquisas feitas ou artigos cientficos. Alguns deles possuem
clareza quanto ao seu papel e de ser necessrio que a funo de avaliador resulte em uma
forma de contribuio ao desenvolvimento da cincia.
Considerando-se as ponderaes de Benos, et. al. (2007) Wenneras e Wold (1997) Bence e
Oppenheim (2004) Grivell (2006) Gura (2000) Cole (1998) Anderson et al. (2007) Ancker e
Flanagin (2007) Muligan (2004, p. 141) Bertero (2007) e os resultados observados na
pesquisa de campo, para o processo ganhar ainda mais em qualidade no Brasil, torna-se
necessrio: a) criar um espao de dilogo entre avaliador e avaliado para que o primeiro possa
ter noo do impacto positivo ou negativo de seu parecer; b) criar sistemticas de avaliao do
avaliador; c) estabelecer um conjunto de orientaes para o avaliador, de forma que o
processo garanta no s a seleo de um bom artigo, mas o exerccio de dilogo atinente a
processos avaliativos; d) considerar entre os critrios de seleo dos avaliadores que a
expertise sobre o tema seja o principal indicativo de competncia avaliativa.
Quanto a criao de um espao de dilogo entre avaliador e avaliado, o processo blind review
precisa manter-se por uma questo de tica a preservao das partes, mas canais de recursos e
de interao das partes so possveis e j praticados por alguns peridicos, com resultados
bastante positivos para a qualidade do peridico.
Por outro lado, quanto sistemtica de avaliar-se o avaliador, uma possibilidade seria o
avaliado ser um dos atores do processo, como forma de contribuir para a melhoria do
peridico. O outro ator nesta avaliao poderia ser o corpo editorial do peridico. Com isso,
seria possvel selecionar e premiar os melhores desempenhos dos avaliadores. Como j est
sendo organizado pela ANPAD em relao aos trabalhos de avaliao de artigos nos
peridicos relacionados associao (RAC, BAR e RAC-Eletrnica). A premiao foca em
quesitos como: cumprimento de prazos, qualidade e completude da reviso, objetividade,
construtividade (carter amigvel e construtivo que se atenha ao texto e no a seus autores e o
fornecimento de subsdios concretos para a melhoria do trabalho) e padres de qualidade
dissertativa dos pareceres.
Existem prejuzos claros para o aprimoramento do conhecimento quando a avaliao no
contribui para a melhoria daquilo que avalia. Estes prejuzos so indicados na pesquisa de
14
Referncias
AJPS - American Journal of Political Science. Guidelines for manuscripts and guidelines
for reviews. Disponvel em < http://www.ajps.org/>. Acesso em 23, maro, 2008.
AMJ American Management Journal. Guidelines for Reviewers (2007-2010). Disponvel
em < http://journals.aomonline.org/amj/contributor_information.html>. Acesso em 23, maro,
2008.
AMJ American Management Journal. Information for Contributors. Disponvel em <
http://journals.aomonline.org/amj/contributor_information.html>. Acesso em 23, maro,
2008.
ANDERSON, M. S.; RONNING, E. A.; DE VRIES, R.; MARTINSON, B.C. The perverse
effects of competition on scientistswork and relationships. Sci Eng Ethics. 13, 437-461,
2007.
ANKER, J. S.; FLANAGIN, A. A comparison of conflict of interest policies at peer-reviewed
journals in different scientific disciplines. Sci Eng Ethics. 13, 147-157, 2007.
ANPOCS Associao Nacional de Ps-Graduao e Pesquisa em Cincias Sociais. Edital
para apresentao e seleo de propostas de mesas redondas, grupos de trabalho e envio
de propostas de trabalho para grupos de trabalho 2008. Disponvel em <
http://200.152.208.135/anpocs/media/edital_2008.pdf>. Acesso em 23, maro, 2008.
BENCE, V.; OPPENHEIM,C. The influence of peer review on the research assessment
exercise. Journal of Information Science. v.30. n.4, p. 347-368, 2004.
BENOS, D. J. et al. The ups and downs of peer review. Advan. Physiol. Edu. v. 31, p. 145-
152, 2007.
BERTERO,C. O. Editorial. RAE Electronnica. v.6, n.1, So Paulo, Jan./June, 2007.
Disponvel em <www.rae.com.br> Acesso em 04, abril de 2008.
COLE, S. How does peer review work and can it be improved? Minerva, 36: 179-189, 1998.
DAVYT, A; VELHO, L. A avaliao da cincia e a reviso por pares: passado e presente:
como ser o futuro. Histria, Cincias e Sade Manguinhos, vol 7 n.1. Rio de Janeiro
mar/jun 2000.
DEMO, Pedro. Avalio sob o olhar propedutico. So Paulo, Papirus, 1996.
ENANPAD. Critrios de julgamento. Disponvel em
<http://www.anpad.org.br/evento.php?acao=subsecao&cod_edicao_subsecao=331&cod_even
to_edicao=38>. Acesso em 23, maro, 2008.
GATTI, B.A. Avaliao institucional e acompanhamento de instituies de ensino
superior. So Paulo: fundao Carlos Chagas, 2000.
GRAINGER, D.W. Peer review as professional responsibility: A quality control system only
as good as the participants. Biomaterials. 28. p. 5199 5203, 2007.
GRIVELL, L. Through a glass darkly. EMBO reports. v.7, n.6, p. 566 570, 2006.
GURA, T. Peer review unmasked. Nature. v.416, n.21, p. 258-416, mar. 2002.
Judson HF Structural transformations of the sciences and the end of peer review. JAMA 272-
281, 1994.
15
16