Professional Documents
Culture Documents
Introduo
Grandes transformaes no campo da avaliao e da aprendizagem tm ocorrido no Brasil nos
ltimos anos. Conhecer no significa mais acumular conceitos, mas sim saber encontrar e
interpretar informaes, com o intuito de solucionar problemas.
Nesta perspectiva, mtodos de avaliao so constantemente reavaliados e reajustados para
que possam assegurar de forma acurada e segura seus resultados. De acordo com McNamara
(2000), importante que estudos sobre testes e avaliaes sejam realizados, pois testes so
mecanismos para o controle institucional dos indivduos e devem, portanto, ser
comprometidos com a qualidade de suas questes.
Para assegurar que os testes tenham de fato a qualidade esperada e que possam ser usados
como instrumentos de medio de conhecimentos de seus candidatos e como instrumentos na
tomada de decises quanto s polticas pblicas, existem certos critrios que precisam ser
definidos e observados na elaborao dos mesmos.
Desta forma, o presente trabalho visa analisar e compreender as ferramentas utilizadas no
Exame Nacional do Ensino Mdio (ENEM), para medir o conhecimento e a habilidade de
leitura em lngua inglesa de seus candidatos.
No ENEM, a prova de lngua estrangeira s foi includa em 2010, 12 anos aps a criao do
Exame. Como aponta DellIsola (2005), a leitura nem sempre foi valorizada pelas abordagens
pedaggicas do ensino de lnguas estrangeiras e, embora a pesquisa sobre leitura seja
consistente, o contexto de lngua estrangeira nem sempre mereceu a devida ateno.
154
Revista Contempornea de Educao N 13 janeiro/julho de 2012
Ainda segundo DellIsola (2005), os conceitos de leitura apontam para, pelo menos, trs
concepes. A primeira trata a leitura como um fenmeno de identificao em que a
informao textual deve ser decifrada pelo leitor (DELLISOLA, 2005, p. 62, grifo do
autor). A segunda concepo afirma que a leitura um processo seletivo e que, neste
processo, o leitor ativo e responsvel pela construo de sentido do texto. Por fim, a
terceira concepo defende a ideia de que a leitura um processo interativo em que o leitor
seleciona informaes, elimina outras, cria novas relaes, adiciona elementos e, finalmente,
reconstri o sentido do texto (DELLISOLA, 2005, p. 63).
De acordo com a proposta do ENEM, a terceira concepo de leitura parece ser a mais
adequada, pois como afirma Murrie (2005, p. 57), ao descrever a rea de Linguagens,
Cdigos e suas Tecnologias do ENEM, no documento oficial do Exame,
155
Revista Contempornea de Educao N 13 janeiro/julho de 2012
156
Revista Contempornea de Educao N 13 janeiro/julho de 2012
Para responder essas perguntas os autores propem um modelo de utilidade que se baseia
em trs princpios e seis caractersticas. Cientes de que no existe uma receita que possa
funcionar de forma igual para todos os testes, pois sempre necessrio levar em considerao
o contexto em que o teste ser aplicado, Bachman e Palmer (ibid) apresentam os seguintes
trs princpios que regem o modelo: o teste precisa ser desenvolvido (1) com uma inteno
especfica, (2) para um grupo especfico de candidatos, dos quais esperado (3) um domnio
lingustico determinado.
Quanto s caractersticas que compem o modelo de utilidade, Bachman e Palmer (ibid)
individuam as seguintes seis: confiabilidade, validade de construto [construct validity],
autenticidade, interatividade, impacto e praticidade. Todas essas caractersticas so
importantes na hora de se medir a utilidade de um teste, contudo, de acordo com o contexto
especfico de cada prova, algumas caractersticas podem ter um peso maior que as outras. Em
exames de larga escala, como no caso do ENEM no Brasil, h duas caractersticas que so de
importncia essencial: a validade e a confiabilidade. Esse posicionamento de Bachman e
Palmer (ibid) compartilhado por outros estudiosos do campo, entre os quais Brown (2007) e
McNamara (2000).
De acordo com Bachman e Palmer (1996) e Brown (2007), a confiabilidade de um teste se
refere diretamente aos resultados do mesmo. Portanto, um teste confivel demonstra
consistncia em medir os conhecimentos e em assegurar pontuaes e resultados acurados.
Sempre segundo Bachman e Palmer (ibid), o resultado de um teste, para ser considerado
vlido, precisa demonstrar que o candidato possui aquelas habilidades lingusticas que o teste
se prope a avaliar. Para isso, antes de desenvolver uma prova, necessrio definir o
construto que se quer medir atravs desta prova, ou seja, as habilidades que devem ser
testadas. Quando se fala em validade de construto, ento, se faz referncia capacidade de um
teste de avaliar com preciso as habilidades propostas.
No caso especfico do ENEM, como iremos ver a seguir, a validade de construto uma
caracterstica de grande importncia, pois cada questo da prova estruturada de forma a
avaliar uma habilidade especfica dentro de um leque preestabelecido de habilidades.
Ao pontuarmos umas diretrizes gerais a serem observadas na hora de desenvolver uma prova
de lngua estrangeira, devemos tambm considerar que o ENEM constitui uma prova peculiar,
pois se trata de uma prova de leitura.
157
Revista Contempornea de Educao N 13 janeiro/julho de 2012
Por isso, baseamos parte das nossas anlises nas diretrizes apresentadas por Alderson (2000)
em seu livro Assessing Reading. O autor se concentra especificamente na avaliao do
processo de leitura, atentando para diversos fatores que devem ser considerados ao momento
de desenvolver testes neste mbito. Dentre eles, Alderson (ibid) menciona diversos pontos
que se aplicam diretamente nossa anlise de questes do ENEM. Em primeiro lugar, ele
destaca a importncia do contedo dos textos a serem utilizados nas provas: precisa tratar-se
de textos interessantes, significativos e adequados ao nvel dos candidatos. importante
tambm que a prova seja elaborada com o intuito de testar diferentes habilidades e estratgias
de leitura e que, ao mesmo tempo, seja adequada ao tempo disponvel para faz-la, tanto no
tamanho dos textos como no nmero das questes. Finalmente, Alderson acredita na
importncia de se levar em considerao o conhecimento prvio dos candidatos que, como
reconhecido, influencia toda e qualquer compreenso. Por isso, o autor defende que uma boa
avaliao faz com que o candidato possa fazer uso de seus conhecimentos prvios e do
contexto na hora de responder s questes.
Como iremos ver a seguir, muitos dos princpios e diretrizes que so observados na
elaborao de testes de lngua estrangeira no contexto internacional so retomados tambm na
fundamentao terico-metodolgica do ENEM.
Alm disso, o Exame tambm poderia servir como uma modalidade alternativa ou
complementar aos processos seletivos de acesso ao ensino superior. Atualmente adotado em
inmeras instituies, o ENEM um instrumento importante de avaliao, que focaliza,
especificamente, as competncias e habilidades bsicas desenvolvidas, transformadas e
fortalecidas com a mediao da escola (ALVES, ibid, p. 8). Seus resultados permitem a
158
Revista Contempornea de Educao N 13 janeiro/julho de 2012
uma boa questo deve propor um percurso entre uma situao de partida,
que corresponde proposio do enunciado, at um ponto de chegada, que
corresponde escolha da alternativa, suposta pelo avaliado, como a que
melhor representa a resposta correta.
Portanto, essas situaes de partida, ou situaes-problema, deveriam propor uma tarefa que
faa com que os participantes mobilizem seus conhecimentos e recursos para tomar uma
deciso.
De acordo com Macedo (ibid), para avaliarmos se uma situao-problema adequada,
devemos avaliar se a questo realmente pede a soluo de um problema e exige que as
pessoas se posicionem, julguem e interpretem. Para isso, preciso que as alternativas se
articulem com o enunciado, que a questo nos comprometa com uma resposta e que esta
resposta nos projete para uma situao de vida real. Assim, segundo Macedo (ibid, p.33),
interessa que o aluno tenha uma relao construtiva com o processo de conhecimento e no
um jogo, em que a malcia, a esperteza, etc. ocupem o lugar mais importante (p.34).
Alm disso, o Exame deve ser elaborado para que o participante possa recorrer s suas
competncias e habilidades, adquiridas ao longo de seus anos de estudo na educao bsica,
para determinar a alternativa correta, que responde ao problema que lhe foi proposto.
Segundo Fini (2005, p. 103), a elaborao de uma questo para o ENEM est condicionada
aos seguintes pressupostos:
160
Revista Contempornea de Educao N 13 janeiro/julho de 2012
Quanto situao-problema, cuja apresentao, segundo Fini (2005, p.104), muitas vezes o
prprio enunciado, deve ser atraente para o participante e verificar se o texto: (1) est correto
quanto ao contedo; (2) envolve interdisciplinaridade e contextualizao; (3) adequado
compreenso do participante; e (4) adequado extenso da prova.
Quanto ao enunciado da questo, Fini (2005, p.104, grifos do autor) afirma que preciso
verificar se o mesmo:
161
Revista Contempornea de Educao N 13 janeiro/julho de 2012
Quanto s alternativas, Fini (2005, p.104, grifos do autor) aponta que preciso assegurar se:
e ideias;
so homogneas na forma;
anteriores;
questo;
a erros;
independentes;
Quanto questo como um todo, segundo Fini (2005, p.104-105) preciso verificar se:
162
Revista Contempornea de Educao N 13 janeiro/julho de 2012
contemplada.
163
Revista Contempornea de Educao N 13 janeiro/julho de 2012
habilidades que se prope a medir. Para isso, o ENEM possui um nmero definido de
habilidades a serem testadas. Estas habilidades so divididas por rea de conhecimento e rea
de competncia. Na parte da prova dedicada a Linguagens, Cdigos e suas Tecnologias,
existem nove reas de competncias, para cada uma das quais so definidas certas
habilidades. A parte de lngua estrangeira corresponde Competncia de rea 2 que visa a
avaliar o conhecimento e uso das lngua(s) estrangeira(s) moderna(s) como instrumento de
acesso a informaes e a outras culturas e grupos sociais. Dentro desta rea de competncia,
existem as seguintes habilidades a serem abordadas e testadas na prova:
Como explicitado a seguir, nossa anlise levar em conta as habilidades que cada questo se
prope a analisar, assim como o formato em que a questo se apresenta.
Essas habilidades foram retiradas da Matriz de Referncia para o Enem 2011, documento anexo verso
eletrnica do Edital do Enem (BRASIL, 2011).
164
Revista Contempornea de Educao N 13 janeiro/julho de 2012
Figura 1 Questo 91 ENEM 2011 (Fonte: Exame Nacional do Ensino Mdio 2011)
H7 - Relacionar um texto em LEM, as estruturas lingusticas, sua funo e seu uso social.
165
Revista Contempornea de Educao N 13 janeiro/julho de 2012
De acordo com Alderson (2000), textos que conseguem motivar leituras ricas e profundas so
aqueles que geram interesse no leitor, que conseguem atingi-lo relacionando-se com ele, com
suas formas de lazer e com seu nvel intelectual, dentre outros aspectos. Acreditamos que o
texto apresentado neste item atendeu a este propsito, pois se adequou ao pblico-alvo do
exame, apresentando tamanho, tema e gnero textual apropriados. Entretanto, o enunciado da
questo apresenta o texto como charge, quando deveria se referir a um cartoon. Sabe-se que a
charge localizada no tempo e se trata de um gnero discursivo que consiste em uma reao a
uma situao vigente na sociedade, tendo alto teor ideolgico, no sendo o caso do texto deste
item. O gnero trazido nesta questo um cartoon, pois um texto atemporal, de senso
comum, de certo tom de humor. A prpria fonte do texto o apresenta como tal.
No que se refere s alternativas, observamos que foram homogneas em seu contedo,
integrando uma mesma famlia de fatos e ideias (FINI, 2005, p. 104), ou seja, apresentaramse como adequadas, plausveis e coerentes. Ademais, as alternativas demonstraram ser
homogneas quanto forma, pois possuem tamanhos similares - embora a correta tenha sido
um pouco menor que as demais e esto paralelas, apresentando semelhanas sintticas entre
elas.
Finalmente, notamos que o enunciado desta questo poderia ser direto, como: No texto, a
professora ouve... ou No cartoon, a professora ouve... ao invs de: No caso da cena da
charge, a professora ouve.
Um aspecto a ser destacado desta questo embora no seja um critrio de elaborao do
Exame que seu texto traz elementos de multimodalidade (Kress, 2009). A combinao da
imagem e do texto favorece a compreenso, a leitura e a realizao da questo. Porm, a
situao problema, apesar de contextualizar o enunciado, elimina a possibilidade de trabalho
com os aspectos multimodais oferecidos.
166
Revista Contempornea de Educao N 13 janeiro/julho de 2012
Figura 2 - Questo 92 ENEM 2011 (Fonte: Exame Nacional do Ensino Mdio 2011)
A segunda questo (de nmero 92) est relacionada Habilidade 51. Apontamos como
aspectos positivos deste item somente o tamanho do texto-base e a citao da sua fonte,
aspecto de relevncia para um exame de larga escala como o ENEM.
Observamos, entretanto, que esta questo apresenta problemas de ordens variadas.
Destacamos que o texto foi retirado da revista Speak Up, uma revista de propsitos didticos
que faz adaptaes visando facilitar a linguagem. Ademais, parece tratar-se de um fragmento
do texto, sem ttulo e em formato diferente do layout original. Na referncia, contudo, no
consta nenhuma informao sobre adaptaes ou fragmentaes do material. Acreditamos que
o texto original deveria ter sido utilizado, pois teria sido extrado do meio social, do seu
verdadeiro suporte. Desta forma, no teramos dvidas do nvel de interveno que o texto
sofreu, pois teramos a primeira fonte citada.
Outro ponto a destacar que a questo no prope uma situao de partida ao avaliado, ou
seja, uma situao-problema. Sabe-se que a ausncia de uma situao-problema est contra o
que Macedo (2005b) define como uma boa questo. Alm disso, o enunciado apresenta um
comando confuso, comprometendo a questo. Inicialmente, o texto aborda apenas um estudo
e o enunciado se refere s pesquisas. A questo sobre o tema do texto e no sobre
vocbulos isolados. O termo university graduates por si s, como foi apresentado, no traz
1
H5 - Relacionar um texto em LEM, as estruturas lingusticas, sua funo e seu uso social.
167
Revista Contempornea de Educao N 13 janeiro/julho de 2012
nenhuma evidncia de que o maior nvel de estudo reduz riscos de ataque. O uso da
expresso no enunciado se faz, portanto, desnecessrio.
Como um ltimo aspecto destacado, as alternativas no esto homogneas em contedo ou
forma (FINI, 2005). A alternativa A menor que as demais, as alternativas D e E destoam das
outras e as alternativas A e B no apresentam uma variedade de vocabulrio, pois ambas
utilizam as doenas.
Figura 3 - Questo 93 ENEM 2011 (Fonte: Exame Nacional do Ensino Mdio 2011)
No que diz respeito questo 93, a Habilidade exigida parece ser a de nmero 61. Quanto s
alternativas, apesar de todas as alternativas da questo 93 trazerem a mesma famlia de fatos e
1
168
Revista Contempornea de Educao N 13 janeiro/julho de 2012
Figura 4 - Questo 94 ENEM 2011 (Fonte: Exame Nacional do Ensino Mdio 2011)
J na questo 94, alguns aspectos podem ser observados. Constata-se adequao na escolha
do gnero textual desta questo letra de msica por ser este um texto que motiva a leitura
e gera interesse no pblico-alvo do ENEM (ALDERSON, 2000). A abordagem de trabalho
com a msica vincula esta questo com a Habilidade 8 do ENEM1. Nesta questo,
apresentada uma situao-problema, o que lhe caracteriza como uma boa questo. Contudo,
169
Revista Contempornea de Educao N 13 janeiro/julho de 2012
Figura 5 - Questo 95 ENEM 2011 (Fonte: Exame Nacional do Ensino Mdio 2011)
H7 - Relacionar um texto em LEM, as estruturas lingusticas, sua funo e seu uso social.
170
Revista Contempornea de Educao N 13 janeiro/julho de 2012
Consideraes Finais
Os resultados da nossa anlise revelam que nem sempre os itens da prova de lngua inglesa do
ENEM de 2011 condizem com os parmetros estabelecidos para a formulao das questes
deste exame.
Encontraram-se problemas diversos: alguns mais superficiais, relativos estrutura das
questes; outros mais profundos, que parecem ir contra a fundamentao tericometodolgica do exame.
Acreditamos que a ausncia da situao-problema em alguns dos itens analisados constitua
um problema grave, pois Fini (2005) e Macedo (2005b), em documento que explicita os
fundamentos terico-metodolgicos do ENEM, insistem exatamente na importncia da
situao-problema, aspecto fundamental de todas as questes do exame. A ausncia de tal
situao-problema, portanto, vai contra as bases tericas e metodolgicas desta prova, pois
afeta negativamente a integrao do texto com a questo a ele relacionada.
Outro problema mais srio destacado nas anlises diz respeito ao formato original do texto.
Vimos que em um dos itens analisados, este formato no foi respeitado, o que pode resultar
em problemas de identificao do gnero textual por parte dos candidatos.
Os outros problemas encontrados so de carter mais superficial, tratando-se nos demais
casos de falta de homogeneidade entre as alternativas ou falta de clareza no enunciado.
No podemos deixar de mencionar que os resultados da anlise apontam tambm para muitos
aspectos positivos: a escolha dos textos a serem trabalhados sempre adequada quanto ao
tamanho e aborda temas apropriados e interessantes para o pblico-alvo, facilitando ento a
leitura e a ativao do conhecimento prvio sobre os assuntos. Outro aspecto positivo foi a
abordagem clara da habilidade que cada item pretende testar, conferindo assim validade ao
ENEM.
Conclumos que, mesmo tendo sido contemplada somente nas ltimas duas verses do exame,
a prova de lngua inglesa, em geral, se apresenta como uma prova vlida e bem estruturada.
Contudo, h ainda aspectos que precisam ser melhorados para que essa parte da prova esteja
em total consonncia com os fundamentos terico-metodolgicos do exame.
171
Revista Contempornea de Educao N 13 janeiro/julho de 2012
Referncias bibliogrficas
ALDERSON, J. C. Assessing Reading. Cambridge: Cambridge University Press, 2000.
ALVES, A. Apresentao. In: Instituto Nacional de Estudos e Pesquisas Educacionais Ansio
Teixeira. Exame Nacional do Ensino Mdio (ENEM): fundamentao terico-metodolgica.
Braslia, DF: O Instituto, 2005, p. 7-9.
BACHMAN, L. F.; PALMER, A. S. Language Testing in Practice. Oxford: Oxford
University Press, 1996.
BEZERRA, M. A.; TABOSA, M. Q. Habilidades de leitura requeridas e demonstradas em
provas de vestibular. Revista Intercmbio, volume XV. So Paulo: LAEL/PUC-SP, ISSN
1806-275X, 2006.
BROWN, H. D. Language Assessment: Principles and Issues. In: BROWN, H. Douglas.
Teaching by principles: an interactive approach to language pedagogy. 3. ed. Nova Iorque:
Longman, 2007. Cap. 23, p. 444-465.
CASTILLO ARREDONDO, S.; DIAGO, Jess C. Prticas de avaliao educacional:
materiais e instrumentos. So Paulo: Unesp, 2009.
COLAO, M. Nveis de processamento de sentido. Congresso Nacional de Linguagem e
Ensino. Pelotas, UCPel, 1998.
DELLISOLA, R. L. P. O sentido das palavras a interao leitor texto. Belo Horizonte:
Faculdade de Letras da UFMG, 2005.
FINI, M. E. Erros e acertos na elaborao de itens para a prova do ENEM. In: Instituto
Nacional de Estudos e Pesquisas Educacionais Ansio Teixeira, Exame Nacional do Ensino
Mdio (ENEM): fundamentao terico-metodolgica. Braslia, DF: O Instituto, 2005, p.
101-106.
BRASIL. Instituto Nacional de Estudos e Pesquisas Educacionais Ansio Teixeira Inep.
Exame
Nacional
de
Ensino
Mdio
2011.
Braslia:
2011.
Disponvel
em:
<
172
Revista Contempornea de Educao N 13 janeiro/julho de 2012
<http://download.inep.gov.br/educacao_basica/enem/edital/2011/edital_n07_18_05_2011_2.
pdf >. Acesso em 22/02/2012.
LAPKOSKI, G. A. O. A avaliao de leitura em ingls como lngua estrangeira no centro de
lnguas da UFPR-CELIN. 2005. 69 f. Monografia. Universidade Federal do Paran, Curitiba:
2005.
LIN, Z. Setting EFL Reading Comprehension Questions in Learners L1? Asian ESL Journal.
Vol.
06,
No.
02,
Junho
2007.
Disponvel
online:
<
http://www.asian-efl-
173
Revista Contempornea de Educao N 13 janeiro/julho de 2012