Академический Документы
Профессиональный Документы
Культура Документы
Avaliao de Mudanas
The Construction of Qualitative Indicators
for the Evaluation of Changes
Maria Ceclia de Souza MinayoI
RESUMO
Apresenta-se uma reflexo terico-metodolgica focada na construo de indicadores qualitativos, voltados principalmente para a avaliao de mudanas no campo educacional. Foi escrito para subsidiar o
processo de autoavaliao de um conjunto de escolas mdicas que desenvolvem um programa de transformao de seus mtodos tradicionais para outros fundamentados na filosofia e na prtica de aprendizagem ativa. Nele so discutidos e problematizados: o conceito de indicador; a produo de indicadores
para pesquisa avaliativa e a construo de indicadores qualitativos. Esses ltimos so tratados sob duas
formas mais frequentes: dentro da lgica quantitativa e da lgica qualitativa. Indicadores qualitativos
a partir da viso quantitativa da realidade so construdos principalmente por meio de escalas. Dentro
da tica qualitativa, so elaborados a partir das representaes e prticas dos sujeitos envolvidos na
investigao. Enfatizando a necessidade de produo de indicadores de mudana que levem em conta
estruturas, processos, relaes e a contribuio da subjetividade, conclui-se que a validade interna desses
indicadores pode ser alcanada quando as categorias empregadas em sua construo so fundamentadas
terica e contextualmente e possuem significados mtuos e partilhados entre os participantes.
PALAVRAS-CHAVE:
Educao Mdica.
Avaliao em Sade.
Sociologia Mdica.
ABSTRACT
This essay presents a theoretical and methodological approach to the construction of qualitative indicators, mainly for evaluation of changes in the educational field. It was prepared as a contribution to the
self-evaluation process of a group of medical schools that are implementing a program for transformation
of their traditional methods to other fundaments in philosophy and to the practice of active learning. The
following concepts are discussed: indicator, production of indicators for evaluative research and construction of qualitative indicators, the latter in their two most frequent aspects: within the quantitative
logic and the qualitative logic. Qualitative indicators within the quantitative view are mainly constructed by scales. In the qualitative perspective they emerge from the representations and practices of the
participants of an investigation. The author emphasizes the need for constructing indicators for change
that take into account structures, processes, relationships as well as the contribution of subjectivity of all
participants. The conclusion is that internal validity of this kind of indicators can be achieved when the
categories employed in this construction are theoretically and contextually founded and contain mutual
meanings shared between the participants.
KEYWORDS:
Medical Education.
Health Evaluation.
Medical Sociology.
83
INTRODUO
O objetivo deste ensaio apresentar uma reflexo tericometodolgica focada na construo de indicadores qualitativos, voltados principalmente para avaliao de mudanas. Foi
escrito para subsidiar o processo de autoavaliao de um conjunto de escolas mdicas que esto implementando um programa de transformao de seus mtodos tradicionais para
outros fundamentados na filosofia e na prtica de aprendizagem ativa. Nesse sentido, este artigo faz parte de um conjunto
de textos que esto sendo produzidos no interior do projeto
conduzido pela Comisso de Avaliao do Ensino Mdico
(Caem).
So trs os termos principais que compem o campo semntico deste artigo: construo de indicadores, mudana e
avaliao. A nfase ser dada ao primeiro termo, e os outros
dois constituem o pano de fundo da reflexo e por isso apenas
sero mencionados oportunamente.
Embora o conceito de mudana seja um dos mais fortes e
complexos tratados pela sociologia1-5 neste estudo, seu sentido
ser resumido como o impacto de determinadas intervenes
sociais ou pedaggicas sobre instituies e atores: as que so
produzidas rapidamente e s vezes em cadeias sequenciais;
as que procedem de uma vontade deliberada; as que ocorrem
por influxo de tecnologias materiais e sociais; e as que so
cumulativas e afetam muitos indivduos ou aspectos cruciais
da sociedade6.
Igualmente, quando falo de avaliao neste texto, estou
me referindo ao conceito de investigao avaliativa que exige determinados cuidados acadmicos como fundamentao
terica e contextualizao ao lado dos processos normativos
tradicionais, tendo como base as reflexes de Contandriopoulos et al.7
Neste texto sero tratados os seguintes temas: o conceito
de indicador; construo de indicadores de avaliao; o que
so e como construir indicadores qualitativos.
Conceito de indicador
A definio do termo indicador, do ponto de vista
cientfico, varia pouco de um autor para outro. Em geral, os
pesquisadores consideram que os indicadores constituem parmetros quantificados ou qualitativos que servem para detalhar se os objetivos de uma proposta esto sendo bem conduzidos (avaliao de processo) ou foram alcanados (avaliao
de resultados). Como uma espcie de sinalizadores da realidade, a maioria dos indicadores d nfase ao sentido de medida
e balizamento de processos de construo da realidade ou de
elaborao de investigaes avaliativas.
Instituies pblicas como o Instituto Brasileiro de Geografia e Estatstica (IBGE), o Ministrio da Educao, por meio
84
projetos sociais e de projetos educacionais, trabalhemos sempre com um sistema de indicadores, levando em conta:
Concepes, interesses e enfoques das organizaes
e atores envolvidos Um bom sistema de indicadores para avaliao deve sempre surgir do processo
de dilogo e de negociao entre todos os atores. Por
exemplo, numa escola de Medicina, os gestores responsveis pela instituio poderiam estar interessados numa avaliao que enfatizasse a participao de
determinados atores envolvidos no ensino e aprendizagem; os professores gostariam de saber sobre a qualidade da formao oferecida; e o MEC (por hiptese),
como financiador, gostaria de ter conhecimento sobre
a eficcia e a efetividade de uma proposta de mudana
que estivesse sendo implementada e que ele estivesse
financiando.
O contexto Cada investigao avaliativa dever construir seu sistema de indicadores especficos. Pois, mesmo quando um conjunto de variveis pode ser usado
para vrios projetos, os indicadores devem sinalizar
condies especficas da realidade em avaliao. Por
exemplo, a quantidade e a qualidade de informaes
preexistentes influenciam a necessidade de produzir
novas informaes, assim como o nvel de aprofundamento de possveis anlises. Por isso, a maioria dos
projetos avaliativos deve se iniciar com uma anlise
situacional, como ponto de partida para a construo
de indicadores.
O modo de gesto A forma de organizao de uma
proposta avaliativa deve contemplar um projeto claro, com objetivos e metas, conceitos bsicos, conexo
entre os diferentes investigadores e outros atores e
desenhos metodolgicos em seu sentido mais amplo
(frequentemente exigindo abordagens quantitativas
e qualitativas). Nesse espao, os indicadores so os
bons sintetizadores e sinalizadores do caminho. No
entanto, eles no falam por si mesmos, precisam estar articulados com as diferentes atividades que esto
sendo avaliadas e servir de parmetro para a tomada
de decises.
Os recursos O tempo, a durao do projeto de avaliao e os recursos disponveis tambm interferem na
possibilidade de utilizao de determinados indicadores. Por exemplo, um indicador de impacto s pode
mostrar seu sentido em investigaes de longo prazo.
Nossa experincia nesse sentido que os processos
sociais e educacionais frequentemente oferecem aos
gestores dados importantes que so como termme-
85
tros que medem os avanos ou retrocessos dos processos de interveno. Por isso, h muitas mudanas
que precisam ser acompanhadas com critrios qualitativos, pois esto em processo de acontecer. No entanto,
frequentemente no possvel medir seu impacto em
termos quantitativos. Por exemplo, no caso da avaliao de mudanas do ensino mdico tradicional para o
que utiliza mtodos de aprendizagem ativa, no bastaria saber quantos alunos e quantos mdicos foram
includos ou aderiram s atividades profissionais e
tcnicas do programa Sade da Famlia ou mesmo a
determinado treinamento para tratar uma enfermidade especfica em nvel secundrio ou tercirio. importante saber, tambm, como esse processo est sendo encaminhado, que nvel de dilogo e de reflexo
existe entre esses atores e como os estudantes esto se
apropriando do conhecimento, das dvidas e das crticas que toda interao humana compartilhada produz. E, principalmente, seria preciso criar indicadores
que respondessem sobre em que medida os processos
de mudana iniciados esto sendo institucionalizados,
deixando para trs prticas arcaicas. Nesse particular,
a sociologia nos diz que a questo mais problemtica
de qualquer mudana o seu processo de incorporao s rotinas institucionais.
Construo de Indicadores Qualitativos
Esforos diversificados vm sendo feitos para aprimorar
o desenvolvimento de indicadores no mbito da abordagem
qualitativa. A tentativa de insero de elementos subjetivos,
tendo em vista as teorizaes que mostram a importncia do
envolvimento dos diferentes atores na produo do processo
e dos resultados, vem acompanhando o prprio desenvolvimento desse conceito cientfico, cuja finalidade primeira aumentar a validade dos parmetros de anlise. H pelo menos
duas linhas de abordagem nessa forma de construo. Uma
proveniente da lgica quantitativa, e outra especificamente
marcada pela fundamentao hermenutica.
Construo de indicadores qualitativos por estratgias
quantitativas A busca de mensurar valores, opinies, relaes e vivncias intersubjetivas bastante antiga no campo
das Cincias Sociais. Desde 1920, diversas escalas tm sido
criadas. Assis et al.11 citam as seguintes:
A de distncia social, de Bogardus13, que solicita ao
entrevistado para estabelecer uma hierarquia de intimidade e convivncia social que ele estaria disposto a
ceder para pessoas de outras nacionalidades, raas ou
etnias.
86
o interpretam e julgam a partir de um estoque de referncias, como classe, gnero, grupo de pertinncia,
etnia, idade e funo social, entre outros24.
Igualmente, os pesquisadores que analisam tais interpretaes (como construto de segunda ordem, como
diria Shutz24) devem se colocar dentro do processo de
construo da realidade, buscando valorizar a relao
entre observador e observado que convivem no mesmo tempo histrico e esto marcados por diversos fatores sociais comuns25.
Geralmente no vamos encontrar listagens de indicadores qualitativos, pois, diferentemente das escalas de
mensurao, esses so construdos com os prprios
atores que fazem parte do estudo avaliativo e, a no
ser em casos culturais mais ou menos homogneos,
no podem e no devem ser replicados.
As tcnicas mais comuns para construo de indicadores
qualitativos so: Grupos Focais, Delphi e Grupos Nominais.
Mas muitas outras, como a tcnica de narrativa, costumam ser
utilizadas, e neste texto apresento um exemplo a respeito.
Grupos Focais Por grupos focais, como o prprio nome
indica, entendemos um dispositivo para aprofundar o significado de determinado tema. Vrios autores coincidem em
que grupos focais como uma tcnica de pesquisa qualitativa
derivada das entrevistas grupais so organizados para coletar
informaes por meio das interaes frente a um tpico especfico sugerido por um pesquisador que ao mesmo tempo
coordenador ou moderador do grupo.
Relegada a segundo plano durante dcadas, a partir de
1980 a tcnica dos grupos focais passou a ocupar um lugar
fundamental em investigaes qualitativas no campo social,
cultural, psicolgico, organizacional, educacional e da avaliao. O foco da reflexo aprofundado pelas opinies surgidas
no prprio grupo, a partir do jogo de influncias mtuas que
emergem entre os participantes e se desenvolvem no contexto
das interaes. Ou seja, o grupo permite manifestar divergncias, explicitar e defender pontos de vista, mas tambm mudar
de opinio. Geralmente, quando utilizados para a construo
de indicadores, os grupos focais so encaminhados para consensualizar temas-chave que posteriormente so analisados
pelo investigador e transformados em dispositivos balizadores da realidade.
A organizao de um grupo focal segue mais ou menos a
seguinte orientao: o coordenador, tambm chamado moderador, esclarece aos participantes o motivo da pesquisa e qual
o tema-chave que pretende colocar em discusso. A seu lado
deve estar um relator que toma nota de todos os detalhes da
87
reunio, a grava ou a filma (com o consentimento dos participantes), deixando o coordenador com tempo e tranquilidade
suficientes para ouvir e encaminhar as discusses.
Um bom grupo focal no deve ter mais que seis a oito
pessoas, para que todos tenham possibilidade de se expressar,
debater e defender suas idias. As regras bsicas de funcionamento dos grupos focais, a serem combinadas de antemo
com os participantes, so: (1) solicitar que apenas uma pessoa
fale de cada vez; (2) evitar discusses paralelas, para que todos
possam participar; (3) pedir que cada um fale livremente o que
pensa; (4) evitar que alguns participantes dominem a discusso e (5) manter a ateno de todos voltada para a temtica em
questo. Alm de garantir essas regras, o coordenador deve
estar atento para que o grupo no se disperse, introduzindo
perguntas que possam aprofundar o assunto e esclarec-lo o
mais adequadamente possvel.
Tcnica Delphi Essa tcnica pode ser caracterizada como
uma estratgia para estruturar o aperfeioamento de instrumentos de pesquisa ou dos resultados das anlises. Geralmente, para participar, so convocados pesquisadores ou especialistas no assunto. Muito utilizada nas pesquisas avaliativas,
essa tcnica pode apresentar-se de vrias formas. o caso de
um grupo de especialistas que se rene para ler, criticar e sugerir sobre determinado material anteriormente preparado,
com a finalidade de refinar, adequar e dar qualidade ao que
foi construdo por um pequeno grupo ou por uma pessoa.
O uso mais comum da tcnica Delphi, no entanto, tem sido
mais individualizado. Um grupo de pesquisa ou um pesquisador elabora um texto, contendo um conjunto de indicadores
que julga serem fundamentais para determinada avaliao e
compartilha sua verso preliminar com os melhores especialistas sobre o assunto. O demandante pede a colaborao para
leitura e crtica, dando aos colaboradores um prazo para correo, acrscimos e supresses. Ao receber as respostas, cabe
ao pesquisador ou ao grupo de investigao a incorporao
das sugestes e a sntese das contribuies. Essa tcnica tem
um valor fundamental para validao tanto de instrumentos
como de resultados de investigao. A base da tcnica Delphi
o reconhecimento da superioridade do juzo de pessoas experientes em relao ao juzo individual ou de um pequeno
grupo. preciso ressaltar que, quando falamos aqui de especialistas, no estamos nos referindo necessariamente a ttulos.
Por exemplo, um mdico do servio de ateno bsica dedicado e experiente em relao orientao dos alunos pode ser
um excelente colaborador para pensar indicadores de avaliao dos cenrios da prtica, junto com os pesquisadores.
Grupo Nominal A tcnica de grupo nominal26 bastante usada em processos de tomada de deciso operacional e
88
Um cdigo foi extrado dessa fala: benefcio para a criana. Igualmente foi extrado um subcdigo: acesso a recursos
para cuidar dos filhos; e alguns temas fortes: as prticas e
experincias de engajar famlias e de empoderar participantes. A partir do depoimento de Lily, os autores elaboraram
dois indicadores: (1) meu filho est pronto para a escola por
causa do Programa Comunitrio; (2) eu sou capaz de pedir aos
professores para ajudarem meu filho.
Os dois indicadores criados, segundo seus autores, serviram de base para a construo de roteiros testados nos servios de todo o Canad, visando implementar tecnologias (soft)
de avaliao em nvel nacional, baseadas na experincia dos
participantes.
Outra tentativa importante a experincia avaliativa do
Centro Latino-Americano de Estudos sobre Violncia e Sade
(Claves), densamente narrada no livro Avaliao por triangulao de mtodos6. Essa obra condensa as experincias
tericas do grupo nos ltimos anos6,25,31,32, ao mesmo tempo
em que mostra como, na prtica, a avaliao foi realizada.
Geralmente, nas pesquisas citadas, todos os atores interessa-
89
conta que as investigaes qualitativas no buscam homogeneidades, mas, sim, diferenciaes e especificidades. A elas no
se aplica o critrio quantitativo de comparabilidade, cuja raiz
epistemolgica a observao das regularidades nos fenmenos sociais, tpica do mtodo positivista23. Porm, nada impede
que existam indicadores qualitativos capazes de expressar tanto expresses coletivas como especficas e diferenciadas.
Em outras palavras, a validade externa pretendida dentro
da perspectiva qualitativa a que se refere possibilidade de
gerao de conhecimentos que contribuam para o aprofundamento conceitual ou analtico, por meio da elaborao de
tipificaes ou de lgicas culturais. Esses achados permitem
a melhor compreenso do grupo estudado e o refinamento de
categorias empricas que podem ser utilizadas em estudos de
outros grupos sociais e de instrumentos padronizados21, como
a pretenso do esforo canadense tratado acima.
Em relao ao incremento da confiabilidade interna, em
que diferentes pesquisadores envolvidos no mesmo estudo
concordam entre si em suas anlises, privilegiamos algumas
iniciativas: (a) constante troca de impresses e informaes entre os pesquisadores, visando a interpretaes consensuais; (b)
checagem da adequao das impresses obtidas no trabalho de
campo com os atores, interlocutores e participantes do processo de pesquisa; (c) descrio de situaes e relatos verbais sem
muitas interpretaes a priori do pesquisador; (d) anlise em
que se busque a lgica interna e hermenutica do grupo23; (d)
exame do produto final da pesquisa pelos mesmos pares e atores que ajudaram a construir os instrumentos6,27,33. No entanto,
lembra Popper34 em relao a qualquer tipo de estudo, seja ele
qualitativo ou quantitativo, os critrios tradicionais de validade do conhecimento precisam ser relativizados, pois nenhuma
hiptese verificvel, uma vez que a acumulao de casos afirmativos no pode garantir uma generalizao terica.
CONSIDERAES FINAIS
Em sntese, a validade dos estudos de avaliao qualitativa
concebida no como um dispositivo que espelha a realidade
e sim como uma produo reflexiva, em que o observador
parte e parcela do contexto e da cultura que busca entender e
representar. Mais validade interna de uma pesquisa qualitativa pode ser obtida quando as categorias conceituais empregadas tm significado mtuo e partilhado entre os participantes
e o pesquisador. Para tanto, alguns fatores so fundamentais:
tempo, pois, quando o processo e as mudanas so focalizados,
o fenmeno observado pode no se manter constante; variaes nos informantes selecionados, que podem agir de forma
diferente e demonstrar interpretaes diferenciadas sobre os
vrios aspectos em questo; diversidade de informantes, o que
amplia a variedade de informaes; ocorrncia de eventos-limite que podem mudar o convvio e o cotidiano do contexto
sob observao.
REFERNCIAS
1. Nisbet RA. Social Change and History. New York: New
York University Press;1969.
2. Rocher G. Le changement social. Paris: ditions de Seuil;
1970.
3. Tourraine A. Crtica de La Modernidad. Mxico: Fondo de
Cultura Econmica; 1995.
4. Terrn E. Posmodernidad, legitimidad y educacin. Educacin & Sociedad. 20(67):10-26; 1999.
5. Atlan H. Entre o cristal e a fumaa: ensaio sobre a organizao dos seres vivos. Rio de Janeiro: Zahar; 1992.
6. Minayo MCS, Assis SG, Souza ER, (Org.). Avaliao por
triangulao de mtodos: abordagem de programas sociais. Rio de Janeiro: Ed. Fiocruz; 2005.
7. Contandropoulos AP, Champagne F, Denis JL, Pineault T.
Avaliao na rea de sade: conceitos e mtodos. In: Hartz,
ZMA (Org.). Avaliao em sade: dos modelos conceituais
a prticas da implantao de programas. Rio de Janeiro:
Ed. Fiocruz; 1997. p.28-48.
8. Organizao para a Cooperao e o Desenvolvimento
Econmico. Knowledge and Skills for Life. Paris: OECD;
2001.
9. The International Standard Organization. The ISO Standards Glossary/ISO; 1998.
10. Valarelli LL. Indicadores de resultados de projetos sociais.
2004. [online]. [Acesso em: 16 jun.2004]. Disponvel em:
http://www.rits.org.br/gesto
11. Assis SG, Deslandes SF, Minayo MCS & Santos NC. Definio de objetivos e construo de indicadores visando triangulao. In: Minayo MCS, Assis SG, Souza ER
(Org.).Avaliao por triangulao de mtodos: abordagem
de programas sociais. Rio de Janeiro: Ed. Fiocruz. p.105131.
12. Aguilar MJ, Anger-Egg E. Avaliao de servios e programas sociais. Petrpolis: Vozes; 1994.
13. Bogardus E. Distncia social na cidade. In: Pierson D (Org.).
Estudo de Organizao Social. So Paulo; 1970. p.38-52.
14. Thurstone LL. Attitudes can be measured. American Journal of Sociology. 1928;33: 529-44.
15. Likert R. A Technique for the measumerement of attitudes.
Archives of Psychology. 1932;140:1-55.
16. Guttman L. The problem of attitude and opinion measurement: the basis for scalograma analysis. Measurement and
Prediction. Princeton:Princeton University Press; 1950.
90
30. Silver S, Wilson S, Berman R, Salazar CC, Soklaridis S, Karim A. Program. For Narratives to Likert Scales. the long
and winding road of developing evaluation indicators
from qualitative data. In: The Tenth International Qualitative Health Research Conference. April 30-May 4, 2004.
Alberta: University of Alberta; 2004. p.39.
31. Minayo MCS, Souza ER. Misso Investigar: entre o ideal e
a realidade de ser policial. Rio de Janeiro: Ed. Garamond;
2003.
32. Minayo MCS, Souza ER, Constantino P. Misso Prevenir
e Proteger. Condies de trabalho, sade e qualidade de
vida dos policiais militares do Rio de Janeiro. Rio de Janeiro: Ed. Fiocruz; 2008.
33. Le Compte MD. Problems of reliability and validity in
etnographic research. Review of Educational Research.
1982;52:31-60.
34. Popper K. La logique de la dcouverte scientifique. Paris:
ditions Payot; 1973.
CONFLITOS DE INTERESSE
Declarou no haver
ENDEREO PARA CORRESPONDNCIA
Maria Ceclia de Souza Minayo
Fundao Oswaldo Cruz, Escola Nacional de Sade
Pblica, Srgio Arouca Claves.
Av. Brasil, 4036 sala 700 Manguinhos
CEP. 21040-361 Rio de Janeiro RJ
E-mail: ceclia@claves.fiocruz.br
91