Академический Документы
Профессиональный Документы
Культура Документы
This paper aims to map the theoretical contributions to the eld of public policy eval-
uation. Furthermore, it tries to highlight its outstanding debates. Both the meaning of
the development of the eld and the discussion on its function and utility are explored.
Finally, the different approaches correlating the choice of certain methodological strate-
gies and the target of evaluation are dealt with.
Keywords: Public policy,evaluation, public Administration, public sector, public man-
agement.
INTRODUCCIN
nalizar los procesos de toma de decisiones
La complejidad del estudio de las po- asumiendo la articulacin de las polticas
lticas pblicas est ilustrada por la diver- a travs de distintas etapas1, que culmina-
sidad de modelos elaborados con el n de ran en la puesta en prctica de diversas
aclarar el enorme caudal de mecanismos y tcnicas de evaluacin, que precederan,
procedimientos que contienen los procesos a su vez, a una terminacin o redenicin
de decisin pblicos. Entre las interpreta- de la accin promovida: a partir de la de-
ciones realizadas, nacidas de la necesidad liberacin sobre la oportunidad de resol-
de jar una suerte de orden conceptual ver un determinado problema, la elabora-
que permitiese abarcar el estudio de las cin de una poltica afrontara diferentes
acciones que intervienen en la gestacin planos decisionales que abarcaran desde
y puesta en prctica de las polticas y de la determinacin del diseo mismo de la
evitar su aparente oscuridad y complica- intervencin hasta el cuestionamiento del
cin, las concepciones cclicas del policy proceso completo de ejecucin, la verica-
making han pretendido simplicar y racio- cin del ajuste de los resultados a las in-
en el mundo acadmico y que aqu nos recortes de los recursos disponibles. Este
ocupa, menos dada a la espontaneidad, y fenmeno, por s slo poderoso como ex-
ms activa, consistente, sistemtica y com- plicacin del declive del cultivo de la eva-
pleta en lo que atae a su aplicabilidad luacin, unido a una defensa extrema de
al proceso completo de polticas pblicas, la reduccin del sector pblico, inspirada
encuentra sus races ms profundas en un en las ideas de la nueva gestin pblica,
segmento temporal que no supera los cua- pudo haber contribuido decisivamente
renta aos5. a acelerar un cambio en las preferencias
profesionales de los acadmicos que ha-
Detenindonos brevemente en la evo-
ra disminuir el inters por esta disciplina
lucin del campo, el estudio de la literatu-
y obligara a los autores ms rmemente
ra estadounidense sobre la evaluacin de
convencidos de las bondades de la evalua-
programas y polticas de las ltimas cuatro
cin a replegarse en el debate terico en
dcadas revela una trayectoria retratable
detrimento de la investigacin ms emp-
en tres etapas, de impulso, declive y resur-
rica y el desarrollo y perfeccionamiento
gimiento6.
tecnolgico.
El periodo de impulso de la evaluacin
Desde mediados de los noventa, un
abarca la dcada de los sesenta y se pro-
nuevo impulso legislativo10, una renovada
longa hasta bien entrados los setenta. Se
conanza en las capacidades operativas de
trata de un momento en el que las fuer-
la Administracin y la creencia -cada vez
tes inversiones en materia de evaluacin,
ms compartida por las elites11- de que, con
amparadas por una favorable iniciativa
independencia de los recursos econmicos,
legislativa, presupuestaria e institucional7
a travs de una adecuada formacin (cul-
y por una desbordante euforia entre los
tural-profesional) de los empleados y una
acadmicos sobre la utilidad prctica de
concepcin ms exible y esmerada de
las ciencias sociales8 y su facultad para
los procesos administrativos y del diseo
ofrecer respuestas acerca del rendimiento
estructural12 se podra obtener un desem-
de los programas y sobre la medida en que
peo eciente, un elevado rendimiento y
stos contribuan al xito de las polticas,
una gestin de calidad acorde con las ex-
favorecen la formacin y consolidacin de
pectativas de la ciudadana, logran situar
amplias comunidades de investigadores,
nuevamente en un primer plano el inters
la denicin de los lmites cientcos del
por la evaluacin13. Las reformas realiza-
rea, y el fomento, interno o externo, de
das a nales de los noventa en los Estados
unidades y organismos responsabilizados
Unidos en diversas polticas sociales y, en
de esta materia9.
particular, en educacin, seran testigos de
Factores de ndole econmica, com- la introduccin de un conjunto amplio de
binados con un importante cambio en la tcnicas en las que, frente a las modalida-
ideologa de la gestin pblica, hicieron des verticales-descendentes vigentes du-
que desde mediados de los setenta hasta rante los sesenta, las evaluaciones de n
el inicio de los noventa el inters por la de siglo, con un tono ms pluralista, intro-
evaluacin decreciese. Las unidades res- ducen mayores mecanismos de participa-
ponsabilizadas de la evaluacin, conside- cin y adquieren una mayor orientacin al
radas en algunos casos, por sus funciones usuario-destinatario.
de control, una amenaza o, cuando me- Como antes se ha sealado, estos tres
nos, una fuente de malas noticias- para los periodos, adems de segmentar el cultivo
clientes internos, no llegaron a gozar en de la evaluacin e iluminar los factores de
muchas agencias gubernamentales de la ndole contextual que han dejado mayor
popularidad suciente para garantizarse huella en la ganancia o prdida de popula-
su supervivencia en periodos de intensos ridad del campo, nos ayudan, en un plano
Pblico
Decisores
Polticos
Objetivos
M edios
E jecucin
(Anlisis de
Sistema I mpacto pr ocesos /
A dministrativo seguimiento)
R ealizaciones
E ficiencia E valuacin
E valuaciones F or mativa
G rupos Objetivos
axiomticas de
Otros G rupos Polticas
Satisfaccin
E fectos
Previstos /
E fectos
I mprevistos
abarca. Hasta cierto punto, un balance toda inuencia de los procesos decisiona-
riguroso de la teora sobre la evaluacin, les, la evaluacin es estudiada como an-
adems de difuminar las diferencias detec- lisis de los resultados de las polticas: los
tables entre las diversas perspectivas, im- evaluadores consideran que para diagnos-
pide, en sentido estricto, distinguir entre ticar los resultados es necesario formular
aproximaciones fundacionales y actuales: una hiptesis de impacto de la variable
lo que se podra considerar inaugural, le- independiente (la poltica)33 en la varia-
jos de caer en desuso y alejarse de la prc- ble dependiente (los cambios producidos
tica contempornea, est muy presente en aquella parte de la sociedad sobre la
todava en los diferentes sectores en los que ha actuado la poltica pblica). Con
que habitualmente se aplican las tcnicas el n de profundizar en esa cuestin, en
de evaluacin29. una de las monografas ms destacadas de
la disciplina, CAMPBELL y STANLEY (1963)
El debate actual entre los tericos de
teorizan sobre diseos de investigacin
la evaluacin parece volcarse ms en el
experimentales y cuasi-experimentales, y
cuestionamiento de los paradigmas epis-
disertan sobre los modelos causales de im-
temolgicos30 que en la consideracin de
pacto como solucin para un problema al
la funcin de la evaluacin en el marco de
que desde muy temprano se enfrentaron
las teoras sobre la elaboracin de polticas
los evaluadores34: la validez de las rela-
pblicas. En este sentido, las aportaciones
ciones de impacto. Este se convertira en
siguen divididas entre aquellas que mues-
un tema de debate crucial hasta el punto
tran su adhesin al paradigma experimen-
de que las diversas nociones de validez35,
tal, caracterizado por el alineamiento con
especialmente la interna, inspiraran algu-
el positivismo lgico, la metodologa cuan-
nos instrumentos de evaluacin clebres
titativa31 y el empleo de cadenas deducti-
nacidos del renamiento economtrico. Se
vas y de generalizacin; y las que se iden-
tratara, en suma, de considerar la poten-
tican ms con el constructivismo social y,
cialidad del control experimental y cuasi-
en consecuencia, optan por una epistemo-
experimental para el anlisis de las polti-
loga postpositivista, adoptada tanto des-
cas pblicas36.
de un enfoque hermenutico postmoder-
no centrado en la elaboracin de anlisis Alineada con esta primera perspectiva,
holsticos y la exaltacin de los mtodos en la obra de M.Scriven y, concretamen-
cualitativos32- como desde un enfoque tec- te, en su consideracin de la lgica de la
nolgico o pragmtico -donde se podran evaluacin37, se podra hallar un buen tes-
situar las aportaciones de D.B.Fishman. timonio de la profunda creencia en la po-
tencialidad y riqueza de la prctica de la
Con afn recapitulatorio del debate
evaluacin hasta el punto de minusvalorar
sobre la metodologa y la funcin de la
el anlisis de los procesos de toma de de-
evaluacin, distancindonos de la lite-
cisiones y soslayar el debate sobre la con-
ratura sobre la evaluacin nacida de las
sideracin de la funcin de la evaluacin
teoras del anlisis de polticas pblicas, y
en el marco ms amplio del estudio de las
prescindiendo del empleo de un criterio
polticas pblicas. Ms all de sus apor-
cronolgico en el intento de desentraar
taciones sobre la evaluacin formativa y
las vas abiertas en este campo, podra-
sumativa, por las que es ampliamente re-
mos empezar por rescatar de las obras
conocido, Scriven defendera la edicacin
de D.T.Campbell y M.Scriven una primera
de una ciencia de la evaluacin justicada
aproximacin al estudio de la evaluacin
con benecios superiores a los costes que
de polticas.
comporta38-, orientada al inters general39
Ambos autores son exponentes de un y verdaderamente comprometida con la
enfoque puro en el que, desterrada necesidad que la ciudadana tiene de co-
nuevas lecciones extradas de la continua necesario esperar hasta la dcada de los ochen-
experiencia en evaluacin parecen garan- ta para poder dar fe (en un ambiente domina-
tizar, en suma, una fructfero porvenir a do por los procesos de adaptacin a la CEE y la
puesta en marcha de diversas iniciativas orienta-
este campo.
das a la mejora de la gestin como consecuencia
de la ejecucin de los programas de moderniza-
cin que emprenden la Administracin General
NOTAS del Estado y algunas Comunidades Autnomas),
1. La idea bsica que fundamenta estos mo- de que la evaluacin de programas y polticas
delos es la de que la accin poltica surge de las comienza a dejar de ser un simple, aunque efec-
interrelaciones y de las acciones de numerosos tivo, recurso retrico electoralista y se comienza
actores que entran y salen de escena, que des- a valorar como una herramienta de gestin im-
empean diversas funciones y que se plantean prescindible.
objetivos diferentes a lo largo de un periodo re- 6. Sobre la evolucin de la teora y prctica
ductible a diferentes fases. Por medio de mlti- de la evaluacin en los Estados Unidos, puede
ples relaciones causa-efecto u orden-respuesta, consultarse el trabajo de Peters (1998). Igual-
la poltica se articulara en etapas, lo cual facili- mente, en la obra de Chen (1990) se hace un
tara la intervencin de los analistas al intentar repaso muy interesante y completo del cambio
precisar ex-ante las probabilidades de xito o de paradigmas en el campo de la evaluacin en
fracaso o calcular ex-post el rendimiento de las los Estados Unidos desde 1960.
acciones emprendidas. Se tratara, en suma, de 7. Uno de los mayores hitos lo marc el cam-
lo que Sabatier y Jenkins-Smith (1993) concebi- bio de objetivos y de competencias de la vetusta
ran como heurstica de etapas. General Accounting Ofce, originalmente cen-
2. Como seala Regonini (2001), en cierto trada, como su propia denominacin indica, en
modo, la evaluacin nace de la constatacin aspectos de control contable y posteriormente
de que las premisas analticas del anlisis tra- reorientada hacia el terreno del anlisis y la eva-
dicional de polticas pblicas no proporcionan luacin. El efecto inmediato de este cambio fue
elementos para afrontar la indeterminacin de la creacin de una cultura de responsabilidad y
los datos y la arbitrariedad de los criterios con- la institucionalizacin de la funcin evaluativa.
tenidos en cada vericacin de la divergencia 8. Optimismo que llegara a ahogar las du-
existente entre lo que una poltica debera ha- das razonables que existan sobre la capacidad
ber sido tericamente y lo que ha resultado ser de extraccin de informacin a partir de datos
en la prctica. no experimentales (Campbell y Stanley, 1966).
3. Como recuerda Regonini (2001: 106-130), 9. Como seala Peters (1998: 24), si las
el anlisis racional hace suya una terminologa agencias queran tener xito en el proceso pre-
(eciencia; input; output; preferencia, etc.) pre- supuestario tenan que ser capaces de justicar
sente con diferentes signicados en diversos que sus programas eran efectivos en el coste e
paradigmas de las ciencias sociales. La explica- incluso ecientes.
cin del xito e impacto que entre los polit- 10. La produccin legislativa a la que se
logos interesados por el estudio de las polticas alude, entre la que destacan la Government
pblicas tuvieron estos conceptos radica en la Performance and Results Act (1993) y el Regu-
propia base terica del policy analysis: econo- latory Review (1996), refuerza la elaboracin de
ma (paretiana; del bienestar; institucional / or- polticas y la introduccin de programas sujetos
ganizativa); ciencias de la gestin (investigacin a la planicacin estratgica y el examen por-
y anlisis operativo; teora de sistemas; gestin menorizado de sus resultados en el caso de la
pblica); teora de la toma de decisiones y teo- segunda norma citada, de forma prospectiva y
ra de la resolucin de problemas. con una orientacin tcnica enfocada sobre la
4. Concepcin ya subrayada por Lowi deteccin de costes- en funcin de una gama
(1964). limitada de indicadores cuantitativos.
5. Aunque en el mbito estadounidense la 11. En el contexto de la reinvencin del
evaluacin recibe un fuerte impulso desde los gobierno promovida por la Administracin
sesenta en el contexto de las intervenciones de Clinton.
la Great Society, y su importancia queda refren- 12. La orientacin hacia los procesos admi-
dada hasta la actualidad en el contenido del nistrativos ha estimulado una de las reas ms
corpus legislativo que conforma la denominada cultivadas de la evaluacin. Su xito estara jus-
Sunset Legislation, en el mbito espaol ser ticado por la necesidad de vericar la operati-
vidad de un programa o una poltica a travs de estudios ad-hoc que fueran favorables a una
la revisin de su estructura normativa (normas, determinada coyuntura poltica, dando origen
planes de accin); su estructura administrativa a situaciones con poca credibilidad externa que
(agencias; comisiones; task force) y sus redes de han desprestigiado la prctica de la evalua-
comunicacin, coordinacin y cooperacin intra cin.
e interorganizativa. 16. Esta visin nos remitira a la obra de
13. La celebracin en noviembre de 1996 de Tyler (1967), de fuerte impacto inicial en el cul-
la International Evaluation Conference (Van- tivo tcnico de la disciplina y de extensa acogida
couver, Canad) marca un punto de inexin en el terreno prctico, a pesar de la abundante
en el proceso de conformacin de la comunidad crtica recibida durante las ltimas dcadas.
cientca de la evaluacin. Esta reunin repre- 17. Siguiendo la terminologa de Mon-
sent la primera gran cita internacional para nier (1990-91: 131-140), en esta segunda vi-
evaluadores, acadmicos, auditores y asociacio- sin se encuadraran todas las aproximaciones
nes profesionales (entre ellas la European Eva- a la evaluacin que han superado la primitiva
luation Society). Algunas de las ponencias ela- aproximacin por objetivos: aproximacin por
boradas para esta reunin pueden consultarse la puesta en prctica del programa (perspecti-
en la obra de Chelimsky y Shadish (1997). va operacional); aproximacin por los efectos
14. Si en el caso de los Estados Unidos las (eliminacin de la inuencia de los objetivos
concepciones ideolgicas de gestin dominan- ociales en las percepciones); aproximacin por
tes durante la era Reagan reducen la potenciali- los procesos (interacciones del programa y el
dad de la evaluacin y convierten su tecnologa entorno) y aproximacin por los actores sociales
en mero instrumento de control al servicio de (pluralismo).
la contencin del gasto y reduccin del sector 18. Comprendiendo en un sentido amplio
pblico, devaluando enormemente su acepta- la rendicin de cuentas, Rossi y Freeman (1989)
cin entre los practicantes y bloqueando sig- aportan seis interpretaciones de la accoutability:
nicativamente su crecimiento, en el contexto legal (ajuste del programa o la poltica a la legis-
europeo, con escasos antecedentes en esta ma- lacin); scal (ajuste de la gestin del programa
teria, la evaluacin encontrara un lugar entre a las regulaciones scales); distributiva (abili-
las prcticas administrativas merced a los pro- dad de la asignacin de los productos o servicios
gramas reformistas considrese, por ejemplo, producidos); de cobertura (grado de ajuste de
los impulsados durante el thatcherismo-, pero lo receptores nales con el pblico objetivo ini-
al alto precio de dar lugar a una interpretacin cial); de impacto (coherencia del producto nal
pauprrima de su verdadero sentido gerencial con la previsin inicial); y de eciencia (ajuste
y a ralentizar considerablemente su cultivo y la del impacto a los costes del programa). Por su
consecucin de una madurez todava muy dis- parte, Vedung (1997: 104-113), considera nece-
cutible. sario, siempre que sea posible, analizar la res-
15. Como seala Bustelo (2003: 13) al co- ponsabilidad en las acciones que emprende la
mentar el cultivo terico y prctica de la eva- Administracin desde cuatro perspectivas: la de
luacin en Espaa: estamos todava lejos de las elites polticas: la de los gerentes de los or-
contar con una prctica normalizada y con una ganismos pblicos; la de los ciudadanos y la de
verdadera cultura de la evaluacin en nuestros los clientes.
organismos pblicos. Este todava incipiente 19. Aunque la obra de Wildavsky (1979) y
campo de la evaluacin de programas y polti- los trabajos realizados por C.H.Weiss durante
cas pblicas necesita, por lo tanto, de un mayor los setenta y ochenta son conocidos por su de-
desarrollo acadmico y profesional. En muchas fensa de las posibilidades de aprendizaje y ulte-
ocasiones, la falta de referencias ha signicado rior perfeccionamiento del rendimiento de las
la sustitucin de una verdadera evaluacin por polticas, en las investigaciones de Hudson, Ma-
otro tipo de prcticas de anlisis que, creemos, yne y Thomlison (1992) y Preskill y Torres (1998)
es necesario distinguir. De esta manera, o bien se pueden encontrar interesantes experiencias
se ha suplido esta falta de especializacin con que conrman esa posicin. Sobre la relacin,
una aplicacin estricta y asptica de la metodo- en particular, entre el aprendizaje y el perfec-
loga de investigacin social al uso, realizando cionamiento de las policy communities, consl-
estudios parciales que han sido poco sensibles tese a Subirats (1994).
al contexto y han resultado poco tiles para las 20. Suchman (1967) justicaba el empleo de
organizaciones y las polticas evaluadas, o bien la metodologa de las ciencias sociales para la
se han manejado las situaciones [] para hacer determinacin (basada en opiniones, documen-
tos, datos subjetivos u objetivos) de los resul- admitir dentro de la especialidad toda forma de
tados (deseables o indeseables, temporales o anlisis tendente a la valoracin prospectiva;
permanentes, inmediatos o a largo plazo) alcan- para otros autores, sin embargo, los estudios de
zados por una actividad orientada a alcanzar un anticipacin, identicados con la metodologa
n u objetivo. En esta misma lnea se expresaba ex-ante (evaluacin de previsin; inventario de
Chelimsky (1989: 7) al concebir la evaluacin, necesidades; jacin de objetivos) requieren el
por denicin, como investigacin social: pro- empleo de procedimientos de anlisis, que, por
gram evaluation is the application of systematic su sentido y recursos tecnolgicos pueden ser
research methods to the assessment of program incluidos dentro del amplio conjunto de tcni-
design, implementation, and effectiveness. cas evaluativas (Rossi y Freeman, 1989; Ander-
21. Segn Scriven (1991: 1), evaluation is son y Ball, 1978).
the process of determining the merit, worth, 27. Aunque Vedung (1997) considera el se-
and value of things. Por su parte, Vedung guimiento como una faceta ms de la gestin en
(1997: 3) se reere a la evaluacin como care- la que se pueden aplicar tcnicas de evaluacin,
ful retrospective assessment of the merit, worth la literatura pone en evidencia una verdadera
and value of administration, output, and out- divisin de opiniones sobre la consideracin de
come of government interventions, which is in- las acciones de seguimiento como actividades
tended to play a role in future, practical action de evaluacin. La diferencia radicara en el ca-
situations. rcter enjuiciatorio de las tcnicas empleadas:
22. En la lnea de los comentarios realizados en caso de estar presente, hablaramos de eva-
por E.Vedung, este aspecto sera resaltado en luacin, y, en caso contrario, de una actividad
otros trabajos de teora de la evaluacin: Mon- convencional de vericacin / conrmacin del
nier (1990-91; 1995); Palumbo (1987) o Weiss cumplimiento de un programa. Sobre la utili-
(1988). dad y metodologa del seguimiento, consltese
23. A causa de la insercin de las tcnicas Banco Mundial (1996).
de evaluacin en el dominio de estudios sobre 28. En contraste con las formulaciones ini-
los procesos poltico-administrativos, la litera- ciales de la teora de la evaluacin, prescriptoras
tura ha terminado por asumir, adems de la del rechazo de toda subjetividad que pudiese
produccin tradicional centrada en cuestiones interferir en la evaluacin, la visin actual sita
de mtodo y funcin, los estudios sobre con- a los valores en el punto central del proceso de
trol de gestin, que relacionan el campo de la evaluacin (Stufebeam y Shinkeld, 1995; Sha-
evaluacin con el anlisis de procesos, calidad y dish, Cook y Levinton, 1991).
reingeniera, y con los sistemas de informacin 29. La consideracin misma del diseo de
contable-nanciera o de control de operacio- la evaluacin marco para la planicacin y
nes, propos de la gestin pblica o privada y del direccin del estudio- testimonia la actualidad
anlisis de organizaciones (Ballart, 1998: 229). de algunas aportaciones muy consolidadas. So-
24. La evaluacin en tiempo real de las bre este aspecto es til revisar las aportaciones
actividades pertenecientes a un programa o de Anderson y Ball (1978); Campbell y Stanley
una poltica, considerada el ncleo o esencia (1966); Fitz-Gibbon y Morris (1978 y 1987); Guba
de la labor del evaluador, ha dado lugar a toda y Lincoln (1981) y Walberg y Haertel (1990).
una tradicin en la literatura estadoundense: 30. Para una revisin de esta literatura, pue-
Wholey et.al. (1970); Nachmias (1979) y Rutman den consultarse obras ya consolidadas como
(1980). las de Guba y Lincoln (1981); Fishman (1991a;
25. En una de las visiones ms clsicas sobre 1991b; 1992) y Shadish, Cook y Levinton (1991).
este particular, Anderson y Ball (1978) resalta- Desde una perspectiva integradora de la aproxi-
ran la capacidad de la evaluacin de progra- macin cuantitativa y cualitativa, pueden con-
mas para contribuir a tomar decisiones sobre el sultarse los trabajos de Reichardt y Rallis (1994);
desarrollo, ejecucin, continuacin, expansin, Tashakkori y Teddlie (1998) y Russell (1999).
modicacin o nalizacin de un programa; 31. Los anlisis cuantitativos son requeridos
obtener evidencias para apoyarlo o rechazarlo; por los diseos de evaluacin experimental y
y comprender procesos psicolgicos y sociales cuasi-experimental. La estadstica empleada
bsicos. descriptiva, inferencial, correlacin, regresin,
26. En la literatura son detectables posicio- etc.- puede variar en su grado de sosticacin,
nes muy diferentes en torno al alcance de la aunque, como recuerdan los metodlogos, de-
evaluacin: Vedung (1997: 7) considera la eva- bera ajustarse a las caractersticas del estudio y
luacin exclusivamente retrospectiva y rechaza a la formacin de sus responsables. Sobre el par-
ticular, consltense los trabajos de Kirk (1982); debera satisfacer la necesidad de saber si el
Kerlinger (1986); Mohr (1988); Light, Singer y evaluando es o no ecaz (Scriven, 1980) y, desde
Willett (1990); Pedhazur y Schmelkin (1991); una perspectiva sumativa, si es procedente o no
Posavac y Carey (1992); Fowler (1993) y, por su- su persistencia futura.
puesto, Rossi y Freeman (1989). 38. Con un sentido muy prximo al de la
32. De carcter inductivo, las tcnicas cua- condicin formulada por M.Scriven, Wholey
litativas son esenciales para los diseos natura- (1983: 119) subordinara la decisin de iniciar
listas o pluralistas. Payne (1994) ja en cuatro una evaluacin a la constatacin de que la utili-
las variedades de anlisis cualitativos: anlisis dad proporcionada por la informacin a extraer
fenomenolgicos; anlisis de contenido; induc- supera los costes de obtencin.
cin analtica y anlisis comparativo constante. 39. La evaluacin evitara realizarse desde la
En esta lnea se situaran Guba y Lincoln (1989), perspectiva de la gestin del programa y desde
Patton (1980; 2001) y, sobre todo, Stake (1975; la del cliente, y se situara en un plano superior
1978; 1980; 1995), quien deja al margen el de- que evitara la inuencia de factores contextua-
bate sobre la causalidad y deende vivamente les.
la importancia de los mtodos cualitativos y, 40. Vid. las crticas realizadas por Weiss y
entre ellos, los estudios de caso, como un valio- Rein (1970) y las contracrticas de Shadish, Cook
so instrumento de mejora de la gestin y gene- y Levinton (1991: 132-133).
racin de aprendizaje. Otras obras destacadas 41. Las dicultades de insercin de la eva-
en la orientacin cualitativa son: Stake y Gjer- luacin en la teora de la elaboracin de pol-
de (1974); Stake y Easley (1978). Scriven (1980); ticas son resueltas, simplemente, a travs de la
Shaw (1999) y Denzin y Lincoln (2000). alienacin del investigador, convertido en un
33. El impacto se distingue del producto y el engranaje de la gestin orientada a los resul-
resultado de una poltica o programa (Scriven, tados.
1991). 42. Como ilustran los cuatro tipos de estu-
34. Una de las grandes enseanzas de este dio de previsin de evaluaciones de gran am-
tipo de diseo de investigacin concierne a la plitud, complejidad e intensidad propuestas por
construccin de hiptesis de impacto. Para ha- J.S.Wholey: anlisis de evaluabilidad (evaluabi-
blar del impacto, segn ambos autores, es ne- lity assessment); evaluacin rpida (rapid fee-
cesario que concurran tres condiciones: que la dback evaluation); control de resultados (per-
causa preceda al efecto; que la causa y el efecto formance monitoring) y evaluacin intensiva
estn correlacionados; y que la hiptesis de im- (intensive evaluation).
pacto no sea falseada por hiptesis alternativas 43. Por ejemplo, el contenido de los seis
plausibles. Para descartar estas alternativas se niveles en los que se articulan las actividades
emplearan grupos de control. de evaluacin prescritos por Wholey (1983:
35. Para conocer ms sobre el debate de la 202): identicacin de objetivos y prioridades
validez desde una perspectiva clsica, es aconse- y diagnstico de potencialidades del programa;
jable consultar los trabajos de Carmines y Zeller desarrollo de sistemas para el anlisis del rendi-
(1979); Zeller (1990). Una discusin sobre las vi- miento del programa; jacin (negociacin) de
siones contemporneas se puede encontrar en niveles de mejora del rendimiento; desarrollo de
Messick (1985). sistemas que faciliten la utilizacin de la infor-
36. Las obras de Campbell (1969; 1982; macin generada; valoracin y documentacin
1994), Campbell y Stanley (1966), Campbell y de los resultados observados; comunicacin del
Cook (1976) y Cook y Campbell (1979) se conver- rendimiento de la actuacin llevada a cabo.
tiran en verdaderas apologas de la evaluacin 44. Contextualizacin, observacin, exi-
experimental y de su utilidad formativa en sus bilidad-adaptabilidad y comunicacin son las
diversas aplicaciones a la Administracin Pbli- caractersticas del planteamiento evaluativo
ca. de R.E.Stake: estudiar en profundidad las cir-
37. La evaluacin se articulara en tres ma- cunstancias que componen el teln de fondo
cro-actividades: la determinacin de los criterios de las intervenciones; esforzase en observar las
de mrito (dimensiones a travs de las cuales se necesidades del cliente; permitir que los puntos
pretende estudiar al evaluando); la jacin de crticos sobre los que se debe incidir aoren y
los estndares comparativos; y la medida de la evolucionen durante el curso de la evaluacin;
actuacin (performance) del evaluando en rela- y mantener una comunicacin uida con los ac-
cin con los criterios de actuacin previamente tores involucrados.
establecidos. En suma, la totalidad del proceso
45. Para Wholey (1977: 42) es el pragma- ceptual e interpretativa del trabajo de investi-
tismo el que orienta la construccin del saber, gacin, ms prxima a posiciones hermenuti-
como en el caso de la validez de la inferencia cas.
causal. 53. Intentando superar el pesimismo reinan-
46. En esta lnea, Weiss (1973) enfatiza la te entre los evaluadores a causa de los pobres
idea de que los resultados de la evaluacin son resultados cosechados y la escasa utilidad de
introducidos en un escenario de lucha poltica las experiencias llevadas a cabo en el contexto
en el que, adems de muchos otros elementos, de los programas sociales de los sesenta (Horst,
operan variados intereses e ideologas. et.al., 1974), con el objetivo de ensalzar la cien-
47. Esta idea estara prensente en varias cia de la evaluacin, Weiss iniciara una verda-
obras de Weiss (1979; 1986: 214-135; 1987: 66- dera cruzada que la llevara a lo largo de sus
69). Otra interpretacin de la evaluacin y la obras de los setenta y principios de los ochenta
poltica como una nica realidad puede en- a examinar, en primer lugar, las causas de tan
contrarse, igualmente, en la obra de Monnier empobrecido empleo de tcnicas y escaso fo-
(1995). mento de la evaluacin (la determinacin de las
48. Como recordaban Feldman y March causas del mal empleo de las tcnicas de eva-
(1981), la informacin fundamentada empri- luacin y de los mtodos de investigacin social
camente es un smbolo de racionalidad: con in- en las tareas orientadas a la elaboracin de las
dependencia de su utilidad en relacin con los polticas pblicas la llevara a poner de relieve la
problemas en cuestin, el simple hecho de ofre- incompatibilidad, en trminos epistemolgicos,
cer informacin es una expresin importante de entre investigacin y programacin social) y, en
legitimidad y competencia organizativa que re- segundo lugar, a realizar una reexin con nes
valoriza los procesos de toma de decisiones. prescriptivos sobre algunos aspectos metodol-
49. La idea de la policy-shaping communi- gicos: aun reconociendo sus limitaciones, Weiss
ty pretende llamar la atencin sobre el hecho defendera el empleo tanto de los mtodos
de que las decisiones no se toman, sino que cuantitativos como de los cualitativos.
se desprenden de un proceso de ajuste mutuo 54. Lindblom (1986 y 1990).
entre los actores intervinientes (Cronbach, et. 55. Sobre el papel desempeado por el eva-
al. 1980). luador, consltese el trabajo de Boyle y Lemaire
50. Al considerar el problema de la validez, (1999).
Cronbach emplea la terminologa UTOS y
utos: dene los UTOS como poblaciones de
unidad, tratamiento, observacin y contexto, REFERENCIAS BIBLIOGRFICAS
objetos de la evaluacin; y utos (en minscu-
ANDERSON, S.B. y BALL, S. (1978), The Pro-
la) como una muestra del objeto, de la cual se
extraen los datos. Mientras que para otros au- fession and Practice of Program Eva-
tores, por ejemplo, Campbell, la validez interna luation. San Francisco: Jossey-Bass.
atae a la naturaleza de las relaciones entre BALLART, X. (1998), La <<industria>> de
el tratamiento y la observacin de la muestra, la evaluacin y bibliografa bsica,
para Cronbach la validez interna tiene ya una Gestin y Anlisis de Polticas Pblicas,
connotacin de generalizacin, concerniendo a 11-12.
la inferencia de la muestra al conjunto de las BANCO MUNDIAL (1996), Designing Pro-
poblaciones. Cronbach insiste en la relacin
ject Monitoring and Evaluation, Les-
entre la muestra y la poblacin y da la mxima
prioridad a la validez externa concerniente al sons and Practices, 8.
conjunto de poblaciones. Asimismo, la validez BOYLE, R. y LEMAIRE, D. (1999), Building
nunca es una caracterstica de los mtodos utili- Effective Evaluation Capacity: Lessons
zados, sino una propiedad de las conclusiones. from Practice. New Brunswick: Transac-
51. Se trata, en suma, de un enfoque adhe- tion.
rido a las lneas ms rmemente defensoras del BUSTELO, M. (2003), Qu tiene de espe-
estudio del proceso de elaboracin de polticas, cco la metodologa de evaluacin?,
en la lnea defendida por G.Majone, quien ve
en R.Ban, La Evaluacin de la Accin
en la persuasin y el ajuste mutuo los motores
del desarrollo de las polticas. y de las Polticas Pblicas. Madrid: Daz
52. Weiss (1979) y Kelly y Maynard-Moody de Santos.
(1993) se decantarian por una perspectiva con-
SHADISH, T. COOK y LEVINTON, L. (1991), VEDUNG, E. (1997), Public Policy and Pro-
Foundations of Program Evaluation. gram Evaluation. New Brunswick, N.J.:
Theories of Practice. Newbury Park, Ca. Transaction.
Sage. WALBERG, H.J. y G.D.Haertel (Eds.) (1990),
SHAW, I. (1999), Qualitative Evaluation. The International Encyclopedia of Edu-
Thousand Oaks, Sage. cational Evaluation. Oxford: Perga-
STAKE, R.E. (1978), The case study me- mon.
thod in social inquiry. Educational Re- WEISS, C.H. (1973), Where politics and
searcher, 7. evaluation meet. Evaluation, 1.
STAKE, R.E. (1980), Program evaluation. WEISS, C.H. (1979), The many meanings
Particularly responsive evaluation. of research utilization. Public Admi-
En W.B.Dckrell y D.Hamilton (Eds.), nistration Review, 39, 5.
Rethinking Educational Research. Lon- WEISS, C.H. (1986), Research and poli-
dres: Hodder & Stoughton. cy-making: a limited partnership. En
STAKE, R.E. (1995), The Art of Case Study F.Heller (Ed.), Use and Abuse of Social
Research. Thousand Oaks, Sage. Science. Londres: Sage.
STAKE, R.E. (Ed.) (1975), Evaluating the WEISS, C.H. (1987), Postcript to Whe-
Arts in Education: A Responsive Appro- re politics and evaluation meet. En
ach. Columbus, Ohio: Merrill. D.Palumbo (Ed.), The Politics of Pro-
STAKE, R.E. y EASLEY, J.A. (1978), Case Stu- gram Evaluation. Londres: Sage
dies in Science Education. Champaign: WEISS, C.H. (1998), Evaluation. Methods
University of Illinois. for Studying Programs and Policies.
STAKE, R.E. y GJERDE, C. (1974), An eva- Upper Saddle River, N.J.: Prentice Hall.
WEISS, R.S. y Rein, M. (1970), The eva-
luation of TCITY (The Twin City Institu-
luation of broad-aim programs: expe-
te for Talented Youth). Chicago: Rand
rimental design, its difculties and an
McNally.
alternative. Administrative Science
STUFFLEBEAM, D. y SHINKFIELD, A. (1995),
Quarterly, 15.
Evaluacin Sistemtica. Gua Terica y
WHOLEY, J.S. (1977), Evaluatibility Assess-
Prctica. Madrid: Paids / MEC.
ment. En L.Rutman (Ed.), Evaluation
SUBIRATS, J. (1994), Policy Instruments, Pu-
Research Methods: A Basic Guide. Lon-
blic Deliberation and Evaluation Pro-
dres: Sage.
cesses. Madrid: Instituto Juan March.
WHOLEY, J.S. (1983), Evaluation and Effec-
SUCHMAN, E. (1967), Evaluative Research.
tive Public Management. Boston: Little
Nueva York: Russel Sage Foundation.
Brown.
TASHAKKORI, A. y TEDDLIE, C. (1998),
WHOLEY, J.S. et.al. (1970), Federal Evalua-
Mixed Methodology: Combining Qua-
tion Policy: Analyzing the Effects of Pu-
litative And Quantitative Approaches.
blic Programs. Washington, D.C.: The
Thousand Oaks, Sage.
Urban Institute.
TOULEMONDE, J. (1995) The emergence
WILDAVSKY, A. (1979), Speaking Truth
of an evaluation profession in Euro-
to Power. The Art and Craft of Policy
pean countries: the case of structural
Analysis. Boston: Little Brown.
policies. Knowledge and Policy.
ZELLER, R.A., (1990), Validity. En Wal-
TOULEMONDE, J; LEEUW, F.L. y BROUWERS,
berg, H.J. y G.D.Haertel (Eds.), The In-
A. (1999), Evaluation activities in
ternational Encyclopedia of Educatio-
Europe: A quick scan of the market in
nal Evaluation. Oxford: Pergamon.
1998. Evaluation, 5 (4).
TYLER, R.W.; GAGNE, R.M. y SCRIVEN, M.
(Eds.), Perspectives of Curriculum Eva-
luation. Chicago: Rand McNally.