Вы находитесь на странице: 1из 18

LOS CAMINOS DE LA EVALUACIN DE POLTICAS PBLICAS: UNA REVISIN DEL ENFOQUE 69

LOS CAMINOS DE LA EVALUACIN DE POLTICAS


PBLICAS: UNA REVISIN DEL ENFOQUE

Ramn Bouzas Lorenzo

Universidade de Santiago de Compostela


Departamento de Ciencia Poltica e da Administracin

Este trabajo pretende trazar un mapa contributivo de las aportaciones tericas al


campo de la evaluacin de polticas pblicas e, igualmente, resaltar sus debates ms
destacados. A lo largo de estas pginas se explora el sentido del desarrollo del campo de
la evaluacin de polticas, el debate sobre su funcin y utilidad, as como las diferentes
perspectivas que han correlacionado la eleccin de determinadas estrategias metodol-
gicas y la nalidad de la accin evaluativa.
Palabras clave: Polticas pblicas, evaluacin, Administraciones pblicas, sector pbli-
co, gestin pblica.

This paper aims to map the theoretical contributions to the eld of public policy eval-
uation. Furthermore, it tries to highlight its outstanding debates. Both the meaning of
the development of the eld and the discussion on its function and utility are explored.
Finally, the different approaches correlating the choice of certain methodological strate-
gies and the target of evaluation are dealt with.
Keywords: Public policy,evaluation, public Administration, public sector, public man-
agement.

INTRODUCCIN
nalizar los procesos de toma de decisiones
La complejidad del estudio de las po- asumiendo la articulacin de las polticas
lticas pblicas est ilustrada por la diver- a travs de distintas etapas1, que culmina-
sidad de modelos elaborados con el n de ran en la puesta en prctica de diversas
aclarar el enorme caudal de mecanismos y tcnicas de evaluacin, que precederan,
procedimientos que contienen los procesos a su vez, a una terminacin o redenicin
de decisin pblicos. Entre las interpreta- de la accin promovida: a partir de la de-
ciones realizadas, nacidas de la necesidad liberacin sobre la oportunidad de resol-
de jar una suerte de orden conceptual ver un determinado problema, la elabora-
que permitiese abarcar el estudio de las cin de una poltica afrontara diferentes
acciones que intervienen en la gestacin planos decisionales que abarcaran desde
y puesta en prctica de las polticas y de la determinacin del diseo mismo de la
evitar su aparente oscuridad y complica- intervencin hasta el cuestionamiento del
cin, las concepciones cclicas del policy proceso completo de ejecucin, la verica-
making han pretendido simplicar y racio- cin del ajuste de los resultados a las in-

RIPS, ISSN 1577-239X. Vol. 4, nm. 2, 2005, 69-86


70 RAMN BOUZAS LORENZO

tenciones iniciales y la consideracin de la los diferentes intereses y las visiones diver-


persistencia futura de la poltica. gentes de los problemas; la representacin
del proceso de polticas pblicas como un
A pesar de que repetidamente se han
desarrollo lineal que discurre desde los
puesto en evidencia las debilidades de
problemas a las soluciones; la separacin
un esfuerzo terico descriptivo que en
clara entre la identicacin de los nes y
ms ocasiones de las deseadas ha dejado
la seleccin de los medios; y, entre otros
patente su desajuste con la realidad2, las
aspectos controvertidos, la remisin reite-
visiones cclicas del policy-making, integra-
rada al empleo de tcnicas cuantitativas.
das en el paradigma del anlisis racional3,
adems de haber ofrecido una gua valio- Con el nimo de complementar algu-
sa para mitigar la amenaza de dispersin nos anlisis precedentes brillantemente
y error interpretativo a los que el anlisis resueltos por otros colegas (BUSTELO,
puede conducir, han contribuido a resaltar 2003; BALLART, 1998), este trabajo intenta
una concepcin transversal de la evalua- trazar un mapa contributivo de las aporta-
cin en el contexto del sistema poltico- ciones tericas al campo de la evaluacin
administrativo4, que con el paso del tiem- de polticas pblicas e, igualmente, resal-
po, por su difusin, aceptacin y utilidad, tar los debates ms destacados que han te-
proporcionara una notable popularidad a nido como teln de fondo una de las reas
las prcticas ex-ante; a la monitorizacin de la ciencia poltica y de la administracin
o evaluacin in-itinere; y a las tcnicas que durante las ltimas dcadas ha mos-
ex-post. trado mayor productividad e impacto en
la prctica profesional.
Aunque la evaluacin de polticas ha
resultado ser una parcela de investigacin
muy sensible a los cambios de paradigma
DESARROLLO DEL CAMPO
que se han sucedido en el campo general
de las polticas pblicas, si se considera el La abundante literatura sobre polticas
peso que tuvo el anlisis racional durante pblicas y, en concreto, la que se preocupa
la segunda mitad del siglo pasado y el pa- por sus vas de anlisis, nos recuerda sis-
pel que este paradigma reserv a la eva- temticamente la categora que cobra el
luacin en el marco del examen del policy subcampo de la evaluacin a medida que
making, se podra llegar a armar, sin te- crece la importancia de la intervencin es-
mor a exagerar, que el efecto que surten tatal en los pases industrializados a partir
algunos de los xitos y fracasos que jalo- de nales de los aos cincuenta y princi-
nan la evolucin de la teora y prctica de pios de los sesenta, y posteriormente, du-
la evaluacin habra contribuido a suscitar, rante la dcada de los noventa, en un evi-
en ltima instancia, algunos de los altiba- dente crecimiento paralelo a la difusin de
jos que en trminos de inters, populari- las ideas del nuevo gerencialismo pblico
dad y productividad cientca sufrira el de las que en la actualidad se siguen nu-
estudio de las polticas pblicas entre la triendo acadmicos y profesionales.
ms amplia comunidad de politlogos du-
rante los ltimos treinta aos. Si todava Frente a la dilatada historia que envuel-
profundizamos ms en la trayectoria hist- ve las prcticas evaluativas que podramos
rica, podemos llegar a constatar que esta- calicar de seudocientcas, de recalci-
mos ante el primer campo que se aleja de trante vigencia en sus aplicaciones al m-
la disciplina del anlisis de polticas pbli- bito pblico y al privado y carentes en la
cas al someter a discusin algunos temas misma proporcin tanto de renamiento
fundamentales: la idea de un juicio tcnico tcnico y estricta vigilancia metodolgica
tanto ms competente cuanto ms exter- como de sustrato tico, la evaluacin que
no resulta respecto a las dinmicas entre llega a merecer un tratamiento exclusivo

RIPS, ISSN 1577-239X. Vol. 4, nm. 2, 2005, 69-86


LOS CAMINOS DE LA EVALUACIN DE POLTICAS PBLICAS: UNA REVISIN DEL ENFOQUE 71

en el mundo acadmico y que aqu nos recortes de los recursos disponibles. Este
ocupa, menos dada a la espontaneidad, y fenmeno, por s slo poderoso como ex-
ms activa, consistente, sistemtica y com- plicacin del declive del cultivo de la eva-
pleta en lo que atae a su aplicabilidad luacin, unido a una defensa extrema de
al proceso completo de polticas pblicas, la reduccin del sector pblico, inspirada
encuentra sus races ms profundas en un en las ideas de la nueva gestin pblica,
segmento temporal que no supera los cua- pudo haber contribuido decisivamente
renta aos5. a acelerar un cambio en las preferencias
profesionales de los acadmicos que ha-
Detenindonos brevemente en la evo-
ra disminuir el inters por esta disciplina
lucin del campo, el estudio de la literatu-
y obligara a los autores ms rmemente
ra estadounidense sobre la evaluacin de
convencidos de las bondades de la evalua-
programas y polticas de las ltimas cuatro
cin a replegarse en el debate terico en
dcadas revela una trayectoria retratable
detrimento de la investigacin ms emp-
en tres etapas, de impulso, declive y resur-
rica y el desarrollo y perfeccionamiento
gimiento6.
tecnolgico.
El periodo de impulso de la evaluacin
Desde mediados de los noventa, un
abarca la dcada de los sesenta y se pro-
nuevo impulso legislativo10, una renovada
longa hasta bien entrados los setenta. Se
conanza en las capacidades operativas de
trata de un momento en el que las fuer-
la Administracin y la creencia -cada vez
tes inversiones en materia de evaluacin,
ms compartida por las elites11- de que, con
amparadas por una favorable iniciativa
independencia de los recursos econmicos,
legislativa, presupuestaria e institucional7
a travs de una adecuada formacin (cul-
y por una desbordante euforia entre los
tural-profesional) de los empleados y una
acadmicos sobre la utilidad prctica de
concepcin ms exible y esmerada de
las ciencias sociales8 y su facultad para
los procesos administrativos y del diseo
ofrecer respuestas acerca del rendimiento
estructural12 se podra obtener un desem-
de los programas y sobre la medida en que
peo eciente, un elevado rendimiento y
stos contribuan al xito de las polticas,
una gestin de calidad acorde con las ex-
favorecen la formacin y consolidacin de
pectativas de la ciudadana, logran situar
amplias comunidades de investigadores,
nuevamente en un primer plano el inters
la denicin de los lmites cientcos del
por la evaluacin13. Las reformas realiza-
rea, y el fomento, interno o externo, de
das a nales de los noventa en los Estados
unidades y organismos responsabilizados
Unidos en diversas polticas sociales y, en
de esta materia9.
particular, en educacin, seran testigos de
Factores de ndole econmica, com- la introduccin de un conjunto amplio de
binados con un importante cambio en la tcnicas en las que, frente a las modalida-
ideologa de la gestin pblica, hicieron des verticales-descendentes vigentes du-
que desde mediados de los setenta hasta rante los sesenta, las evaluaciones de n
el inicio de los noventa el inters por la de siglo, con un tono ms pluralista, intro-
evaluacin decreciese. Las unidades res- ducen mayores mecanismos de participa-
ponsabilizadas de la evaluacin, conside- cin y adquieren una mayor orientacin al
radas en algunos casos, por sus funciones usuario-destinatario.
de control, una amenaza o, cuando me- Como antes se ha sealado, estos tres
nos, una fuente de malas noticias- para los periodos, adems de segmentar el cultivo
clientes internos, no llegaron a gozar en de la evaluacin e iluminar los factores de
muchas agencias gubernamentales de la ndole contextual que han dejado mayor
popularidad suciente para garantizarse huella en la ganancia o prdida de popula-
su supervivencia en periodos de intensos ridad del campo, nos ayudan, en un plano

RIPS, ISSN 1577-239X. Vol. 4, nm. 2, 2005, 69-86


72 RAMN BOUZAS LORENZO

superior, a tomar el pulso a la investiga- disciplina, podemos ahora detener la mi-


cin ms extensa sobre polticas pblicas. rada en otro punto debatido prolongada y
Igualmente, en lo que respecta a la evo- abundantemente por los principales teri-
lucin de este terreno en otros entornos, cos del rea: la consideracin de las funcio-
con matices de importancia variable segn nes y de la utilidad de la evaluacin.
el rea territorial a considerar, la pauta
En torno a las funciones y a la utilidad,
descrita puede servir para esbozar la tra-
volviendo al marco del proceso de elabo-
yectoria de los estudios sobre evaluacin
racin de polticas pblicas, la relacin
en el mbito europeo (TOULEMONDE,
directa de la evaluacin con la toma de
LEEUW y BROUWERS, 1999; FONTAINE y
decisiones, fuera de toda duda, ha sido
MONNIER, 1998; TOULEMONDE, 1995):
considerada desde dos planos: en primer
as, aunque en general el campo comien-
lugar, la visin ms tradicional ha resalta-
za a desarrollarse a partir de los setenta,
do la evaluacin como un proceso cardinal
mientras en el norte del continente y en
que ofrece soporte al proceso de toma de
el rea de inuencia anglosajona la apre-
decisiones al proporcionar valoraciones
ciacin del valor que las tcnicas de eva-
del grado en que los programas y polticas
luacin pueden proporcionar a las organi-
diseados han logrado ajustarse a las me-
zaciones pblicas tiene reejo inmediato
tas propuestas inicialmente16; y, en segun-
en la prctica14, en el resto del continente
do lugar, partiendo de una comprensin
el mayor peso recaera en una produccin
ms rica, tanto terica como prcticamen-
terica de desigual profundidad en oca-
te (potencialidad de la variedad tcnica),
siones, no demasiado alejada de lo que
la evaluacin es considerada una funcin
podra considerarse literatura introducto-
de gestin con capacidad para aportar un
ria, con propsito meramente divulgati-
valor aadido a la actividad administrativa
vo-, carente de la proyeccin prctica sli- al ofrecer soluciones tecnolgicas para de-
da y rigurosa15 que hubiese sido necesaria terminar con nes formativos o sumativos
para dotar de credibilidad desde un prin- no slo el nivel de logro y percepcin de
cipio al estudio de la evaluacin de pol- los resultados nales en relacin con los
ticas entre acadmicos y gestores y evitar objetivos previstos inicialmente, sino tam-
que factores como la reduccin del dcit bin la generacin de objetivos imprevis-
pblico o la lucha contra la corrupcin se tos; el examen de los efectos sobre la po-
convirtiesen, casi en exclusiva, en lo que blacin objeto y el entorno; la vericacin
parecan ser las utilidades y argumentos de la consecucin de los objetivos en rela-
determinantes para animar a muchos po- cin a la asignacin ptima de recursos; o
litlogos a reorientar sus intereses hacia la evaluacin monetaria del objeto (coste-
esta parcela de las polticas pblicas. benecio), de sus costes y efectividad (cos-
te-efectividad), as como de sus resultados
en relacin a unas categoras de utilidad
PERSPECTIVAS SOBRE LA FUNCIN Y UTI- (coste-utilidad)17 (vid. grco 1).
LIDAD DE LA EVALUACIN
En cierto modo, en trminos ms fa-
Dejando a un lado la crnica sobre la miliares, las dos ideas destacadas guar-
consolidacin del campo o, en el caso es- daran relacin con la distincin de las
paol, la del modesto recorrido a pesar funciones elementales que STUFFLEBEAM
del esfuerzo realizado en la formacin y SHINKFIELD (1995) atribuyen a la evalua-
de grupos de investigacin- en pos de la cin: la de perfeccionamiento (improve-
conquista de la difcil misin de crear una ment), desde la que se concibe la evalua-
tradicin cientca, aspectos que ya han cin como un sistema con capacidad para
suscitado la inclusin de innumerables dar respuesta a las necesidades gerencia-
comentarios en las principales obras de la les, garantizar unas prestaciones ptimas

RIPS, ISSN 1577-239X. Vol. 4, nm. 2, 2005, 69-86


LOS CAMINOS DE LA EVALUACIN DE POLTICAS PBLICAS: UNA REVISIN DEL ENFOQUE 73

A ctor es O utput Nivel de E valuacin

Aproximaciones normativas Aproximaciones E xplicativas


(Policy Sciences (Anlisis de Polticas)
/ E leccin Pblica)

Pblico

E x-ante Necesidades F or macin de


C oste-Ventajas Problemas las Polticas
C oste-E ficacia (Toma de
A spiraciones
C oste-U tilidad decisiones)

Decisores
Polticos

Objetivos

M edios

E jecucin
(Anlisis de
Sistema I mpacto pr ocesos /
A dministrativo seguimiento)

R ealizaciones

E ficiencia E valuacin
E valuaciones F or mativa
G rupos Objetivos
axiomticas de
Otros G rupos Polticas

Satisfaccin
E fectos
Previstos /
E fectos
I mprevistos

Grco 1: El proceso de polticas pblicas y las modalidades de evaluacin. Fuente: Adap-


tacin de NIOCHE (1982).

y proporcionar, simultneamente, recursos la accountability deben poner en marcha


para la mejora continua de la propia ac- los diferentes actores institucionales (par-
cin evaluativa; la rendicin de cuentas tidos; parlamentos; tribunales de cuentas,
(accountability), con la que se pretende etc.), la literatura se ha caracterizado por
responder al compromiso bsico de satis- su remisin a la metodologa de la inves-
faccin de la necesidad de claricar y hacer tigacin en ciencias sociales20 para bus-
perceptible y comprensible a la ciudadana car tcnicas y modalidades que permiten
la accin de gobierno y el rendimiento de ofrecer nuevas formas de calibrar el rendi-
la Administracin en los sistemas democr- miento de las polticas y de los programas
ticos18; y la gua de acciones futuras (en- especcos de actuacin pblica. En este
lightenment), desde la que se ofrece un sentido, desde la limitada concepcin de
soporte para el aprendizaje organizativo, la evaluacin como ejercicio elemental de
al facilitar unos medios y una tecnologa vericacin de resultados y contraste con
ya contrastados ante el posible diseo de
los objetivos iniciales hasta la percepcin
nuevas acciones19.
de su potencial riqueza para perfeccionar
Con el n de proporcionar soluciones y dar sentido desde un punto de vista -
ante la extensa gama de intervenciones nalista- a la accin poltica, ha crecido toda
evaluativas que desde la perspectiva de una amplia gama de campos de aplicacin

RIPS, ISSN 1577-239X. Vol. 4, nm. 2, 2005, 69-86


74 RAMN BOUZAS LORENZO

que comprenden la prctica extensin del Retrospeccin y anticipacin: la evalua-


dominio del anlisis de las polticas pbli- cin implica una valoracin retrospectiva
cas. Ha sido esta exploracin de las estra- de las intervenciones pblicas e, igual-
tegias de anlisis y de la diversidad de los mente, comporta mucho ms que la mera
terrenos que la actividad evaluadora ha apreciacin de lo activo; facilita la puesta
abarcado lo que ha convertido esta rea en marcha de mecanismos susceptibles de
en una de las ms agitadas goras pluridis- fundamentar los procesos de debate y la
ciplinares de la ciencia poltica. toma de decisiones25 relativos a programas
y polticas venideros26.
A partir de la parfrasis de la denicin
que ofrece M.Scriven sobre la evaluacin21, Examen de la eciencia, administra-
E.Vedung, en uno de los manuales de ms cin y supervisin de produccin: la gama
reciente xito en este campo, recapitula de modalidades de evaluacin se extiende
las prcticas de evaluacin y los contextos ms all de la clsica evaluacin de impac-
en los que se llevan a cabo, reclamando to; adems de comprender el estudio de
atencin sobre diversas observaciones me- la eciencia, la administracin y el segui-
todolgicas. Elabora, en el fondo, lo que miento27, atae a la calidad de las presta-
podra ser interpretado como un elenco de ciones.
los temas que ms debate han generado al
Diversidad de criterios de valoracin:
teorizar sobre la prctica evaluativa:
la evaluacin no slo se limita a la veri-
Intervenciones gubernamentales: aun- cacin del cumplimiento de objetivos,
que como proceso analtico la evaluacin sino que abarca la apreciacin de muchos
puede ser empleada en cualquier terre- otros elementos de tangibilidad variable28
no de las ciencias sociales, es indiscutible (mritos, valor monetario, valor moral)
su carcter poltico22 y su identicacin que ofrecen inters para quienes directa
con la actividad gubernamental, donde o indirectamente diseadores de la inter-
es aplicable tanto al rea de las grandes vencin, promotores, mediadores, agentes
lneas de intervencin pblica (polticas crticos (stakeholders), receptores- estn
pblicas) como a los procesos que afectan involucrados en las acciones emprendidas.
transversalmente a la operatividad de la
Empleo de mtodos formales y rigu-
Administracin (diseo estructural; diseo
rosos: la evaluacin contempornea, en
de procesos; planicacin; control; presu-
especial, la llevada a cabo en el mbito
puestacin, etc.)23.
pblico, trata de ajustarse metodolgica-
Mecanismos de procesamiento, pro- mente a unos mnimos criterios de calidad
ductos e impactos: en el seno de la acti- y rigor y abandonar prcticas pseudocien-
vidad de cualquier organismo los proce- tcas, escasamente solventes, nacidas del
dimientos de evaluacin no slo atienden oportunismo, la improvisacin o la intui-
a los mtodos de procesamiento de insu- cin.
mos, sino tambin a los productos que la
transformacin genera y a los impactos
que a corto, medio y largo plazo suscita la LITERATURA Y DEBATE METODOLGICO
actividad.
El lector que profundiza en la literatu-
Valoracin de actividades en curso y ra sobre la evaluacin de polticas pronto
nalizadas: la evaluacin orientada a las advierte que esta parcela cientca ha ido
actividades en curso (ajuste a criterios de creciendo, aumentando su diversidad te-
eciencia)24 no excluye, desde la perspecti- mtica, variedad metodolgica y nmina
va de la creacin de vas de aprendizaje y de contribuyentes, al tiempo que se han
perfeccionamiento, el examen ex-post de intensicado los debates en torno a los
las intervenciones conclusas. nes, la metodologa y las prcticas que

RIPS, ISSN 1577-239X. Vol. 4, nm. 2, 2005, 69-86


LOS CAMINOS DE LA EVALUACIN DE POLTICAS PBLICAS: UNA REVISIN DEL ENFOQUE 75

abarca. Hasta cierto punto, un balance toda inuencia de los procesos decisiona-
riguroso de la teora sobre la evaluacin, les, la evaluacin es estudiada como an-
adems de difuminar las diferencias detec- lisis de los resultados de las polticas: los
tables entre las diversas perspectivas, im- evaluadores consideran que para diagnos-
pide, en sentido estricto, distinguir entre ticar los resultados es necesario formular
aproximaciones fundacionales y actuales: una hiptesis de impacto de la variable
lo que se podra considerar inaugural, le- independiente (la poltica)33 en la varia-
jos de caer en desuso y alejarse de la prc- ble dependiente (los cambios producidos
tica contempornea, est muy presente en aquella parte de la sociedad sobre la
todava en los diferentes sectores en los que ha actuado la poltica pblica). Con
que habitualmente se aplican las tcnicas el n de profundizar en esa cuestin, en
de evaluacin29. una de las monografas ms destacadas de
la disciplina, CAMPBELL y STANLEY (1963)
El debate actual entre los tericos de
teorizan sobre diseos de investigacin
la evaluacin parece volcarse ms en el
experimentales y cuasi-experimentales, y
cuestionamiento de los paradigmas epis-
disertan sobre los modelos causales de im-
temolgicos30 que en la consideracin de
pacto como solucin para un problema al
la funcin de la evaluacin en el marco de
que desde muy temprano se enfrentaron
las teoras sobre la elaboracin de polticas
los evaluadores34: la validez de las rela-
pblicas. En este sentido, las aportaciones
ciones de impacto. Este se convertira en
siguen divididas entre aquellas que mues-
un tema de debate crucial hasta el punto
tran su adhesin al paradigma experimen-
de que las diversas nociones de validez35,
tal, caracterizado por el alineamiento con
especialmente la interna, inspiraran algu-
el positivismo lgico, la metodologa cuan-
nos instrumentos de evaluacin clebres
titativa31 y el empleo de cadenas deducti-
nacidos del renamiento economtrico. Se
vas y de generalizacin; y las que se iden-
tratara, en suma, de considerar la poten-
tican ms con el constructivismo social y,
cialidad del control experimental y cuasi-
en consecuencia, optan por una epistemo-
experimental para el anlisis de las polti-
loga postpositivista, adoptada tanto des-
cas pblicas36.
de un enfoque hermenutico postmoder-
no centrado en la elaboracin de anlisis Alineada con esta primera perspectiva,
holsticos y la exaltacin de los mtodos en la obra de M.Scriven y, concretamen-
cualitativos32- como desde un enfoque tec- te, en su consideracin de la lgica de la
nolgico o pragmtico -donde se podran evaluacin37, se podra hallar un buen tes-
situar las aportaciones de D.B.Fishman. timonio de la profunda creencia en la po-
tencialidad y riqueza de la prctica de la
Con afn recapitulatorio del debate
evaluacin hasta el punto de minusvalorar
sobre la metodologa y la funcin de la
el anlisis de los procesos de toma de de-
evaluacin, distancindonos de la lite-
cisiones y soslayar el debate sobre la con-
ratura sobre la evaluacin nacida de las
sideracin de la funcin de la evaluacin
teoras del anlisis de polticas pblicas, y
en el marco ms amplio del estudio de las
prescindiendo del empleo de un criterio
polticas pblicas. Ms all de sus apor-
cronolgico en el intento de desentraar
taciones sobre la evaluacin formativa y
las vas abiertas en este campo, podra-
sumativa, por las que es ampliamente re-
mos empezar por rescatar de las obras
conocido, Scriven defendera la edicacin
de D.T.Campbell y M.Scriven una primera
de una ciencia de la evaluacin justicada
aproximacin al estudio de la evaluacin
con benecios superiores a los costes que
de polticas.
comporta38-, orientada al inters general39
Ambos autores son exponentes de un y verdaderamente comprometida con la
enfoque puro en el que, desterrada necesidad que la ciudadana tiene de co-

RIPS, ISSN 1577-239X. Vol. 4, nm. 2, 2005, 69-86


76 RAMN BOUZAS LORENZO

nocer las caractersticas de la actuacin de mienta de gestin, exible, adaptable a


quienes se responsabilizan de su adminis- todo tipo de situaciones, se amolda a las
tracin. Para ello, llegara a proponer un caractersticas de los programas y polticas
modelo evaluativo ambicioso, en el que emprendidos.
adems de superar las constricciones de
Desde esta lnea, la comunidad acad-
las concepciones ms racionales, basadas
mica y profesional dedicada a la evalua-
en la importancia de la consecucin de los
cin debe adoptar una actitud mucho ms
objetivos asumiendo as las tesis de los
comprometida con la misin que persiguen
defensores de la controvertida, aunque re-
los directivos pblicos y ser consciente de
volucionaria, concepcin de la evaluacin
la disponibilidad de una amplia gama de
libre de objetivos (goal-free evaluation)
tcnicas que pueden permitir eliminar o
- se pondran en tela de juicio los procedi-
atenuar la inuencia de algunos factores
mientos mismos de evaluacin (metaeva-
que pueden malograr la evaluacin: coste
luacin).
de recogida de datos; variabilidad de las
Las aportaciones de esta primera co- actividades a examinar; nivel administra-
rriente, aunque muy cuestionadas durante tivo y mbito territorial en el que opera;
los ltimos veinte aos (ROSSI y FREEMAN, actitud y motivacin de los actores impli-
1989), se mantienen muy vivas: en trmi- cados; o tipo de objetivos propuestos y
nos de debate, a pesar de las crticas recibi- claridad de las hiptesis formuladas. Con
das casi todas basadas en aspectos episte- el n de enriquecer la funcin del evalua-
molgicos-, han contribuido a cuestionar dor y proyectar sobre el terreno prctico la
el papel de la evaluacin tanto desde la necesidad de renamiento tcnico, la lite-
perspectiva del proceso de gobierno de ratura ofrecera pautas de actuacin enca-
las polticas pblicas como desde el plano minadas a optimizar el empleo de los ins-
del uso del conocimiento; y, en trminos trumentos de evaluacin42 y prescripciones
metodolgicos, aun considerando su limi- sobre la manera de gestionar el diseo de
tacin y lentitud40, se sigue reconociendo las intervenciones, con especial atencin a
la idea de que el control causal experi- las interacciones a las que dan lugar en el
mental o cuasiexperimental- puede ser mbito poltico los programas y las polti-
utilizado con xito en variados sectores de cas pblicas43.
las polticas pblicas.
En una posicin reivindicativa de la
La reaccin a esta primera lnea podra- defensa de la evaluacin y su papel so-
mos encontrarla en varios enfoques dife- cial muy semejante a la de Wholey, pero,
renciados. si cabe, con una pretensin menos elitis-
ta, menos orientada al cumplimiento con
En primer lugar, frente a la visin inge- el directivo pblico y ms comprometida
nuamente asptica del papel desempea- con la satisfaccin de los destinatarios
do por el evaluador ante los procesos de reales de las intervenciones, se situara la
toma de decisiones, propia del enfoque contribucin de R.E.Stake, quien reubica-
adoptado por Scriven y Campbell, hay au- ra nuevamente la funcin del evaluador
tores que, como WHOLEY (1983), contra- centrada en la prestacin de servicios- y
ponen la gura de un evaluador que opera reinterpretara de una manera ms prag-
en estrecho contacto con los responsables- mtica el empleo de las tcnicas de mar-
gestores de los programas y proponen cado carcter cualitativo-, subordinando
una concepcin en la que la evaluacin se el rigor a la utilidad44. Desde esta ptica,
transforma en un instrumento que permi- la evaluacin pierde parte de su tono ms
te el logro de una gestin ms eciente, exclusivamente tecnocrtico, y adquiere
un mayor rendimiento y mejores resulta- un carcter dialogante y abierto, rasgos
dos41: la evaluacin, en tanto que herra- que son contemplados como condicin de

RIPS, ISSN 1577-239X. Vol. 4, nm. 2, 2005, 69-86


LOS CAMINOS DE LA EVALUACIN DE POLTICAS PBLICAS: UNA REVISIN DEL ENFOQUE 77

una contribucin a una gestin ms ecaz de una poltica de la evaluacin radicara


y ms democrtica de los servicios pblicos la razn ser de diferentes manifestacio-
(NIOCHE, 1982: 56). nes del uso de la informacin: el empleo
manipulativo de la investigacin social en
Aunque respecto a la visin de Scriven
funcin de intereses especcos de grupos
y Campbell, tanto desde la perspectiva de
de presin; la produccin de informacin
Wholey como la de Stake, persiste el poso
por motivos de control de la organizacin
de una teora racional-sinptica del pro-
o del ambiente; o la sobresaturacin de in-
ceso de elaboracin de polticas pblicas,
formacin respecto los recursos necesarios
las concepciones del saber y de la funcin
para la toma de decisiones48.
del evaluador, as como los diseos de in-
vestigacin a excepcin de la evaluacin Con el n de superar las limitaciones
intensiva, en la que se evidencian los con- que se derivan de la intervencin de facto-
troles clsicos- se modican parcialmente. res de ndole poltica en los modelos sim-
Desde este punto de vista, los procesos de plistas de resolucin de problemas y frente
toma de decisiones, la funcin del evalua- al modelo racional-sinptico, L.J. Cronba-
dor y el aparato terico-metodolgico pa- ch presentara el modelo de la policy-sha-
san a formar parte de un todo. Se trata, ping community, en el que sostendra que
en otras palabras, de una visin de la eva- la evaluacin no se conforma respecto a
luacin fundamentada en la primaca de la normas o modelos abstractos, sino que se
asuncin social de las ideas por encima de dene a partir de las caractersticas de la
su certeza45. comunidad de polticas que la auspicia49.
Desde esta ptica, Cronbach pondra en
Hay, no obstante, otras vas para repo-
tela de juicio las evaluaciones que a partir
sicionar la evaluacin de polticas: en la
del empleo de tcnicas ex-ante aspiran a
misma insatisfaccin ante el modo de con-
decir la ltima palabra sobre una poltica
cebir la toma de decisiones y la funcin del
-su peligro radicara en su tendencia a in-
saber cientco en los procesos polticos se
ducir a sus responsables a prestar mayor
encuentra el elemento que explica el ale-
atencin a los impactos, a menudo impre-
jamiento gradual de muchos tericos de la
visibles, y a descuidar la vigilancia de los
evaluacin respecto a los planteamientos
inputs, ms fcilmente controlables- y, en
originales. En este sentido, C.Weiss nos
trminos metodolgicos, privilegiara la
recuerda que, aunque a menudo resulte
amplitud de las cuestiones tratadas fren-
inadvertido por los autores menos sensibi-
te a la precisin de las relaciones causales
lizados con los procesos decisionales, mu-
de impacto, siendo ms importante para
chos programas y polticas con buen rendi-
Cronbach reconstruir el problema que la
miento son una consecuencia del xito de
poltica abarca y redireccionar el diseo de
decisiones polticas precedentes, y que, de
las actuaciones futuras que medir las rela-
hecho, la confrontacin poltica en torno
ciones causales a partir de las experiencias
a los programas no concluye tras la apro-
precedentes50.
bacin inicial de la intervencin46. En este
orden de cosas, considerando la naturale- En el fondo de su reexin metodol-
za del proceso que conduce a la jacin de gica y teleolgica, Cronbach debate nue-
los objetivos, el carcter estratgico que vamente la funcin de la evaluacin de
adopta la conducta de los diferentes ac- polticas, que, segn sostiene, no debera
tores involucrados e, incluso, el papel que preocuparse demasiado ni de la resolucin
desempea el cientco social en las pol- de problemas sociales ni de la utilizacin
ticas pblicas, es imposible dejar de con- de un instrumental cientco, sino de pro-
cebir la evaluacin de polticas como una curar la mejora del proceso de produccin
actividad intrnsecamente poltica47. As, de polticas51. Y, en esa lnea, aunque con
en la propia consideracin de la existencia un tono terico sensiblemente diferente52,

RIPS, ISSN 1577-239X. Vol. 4, nm. 2, 2005, 69-86


78 RAMN BOUZAS LORENZO

Weiss considera que la evaluacin debe- ministracin, DENTE y RADAELLI (1995:


ra promover una inltracin de nuevas 147-185) subrayan tres aspectos: primero,
ideas, diferentes cuadros conceptuales y que la ecacia de las evaluaciones depen-
deniciones alternativas de los problemas de decisivamente de las teoras de la ela-
pblicos en los diseadores de polticas boracin de polticas en que se insertan;
(enlightment): en concreto, su concepcin segundo, que la cuestin del impacto de
de la ilustracin o iluminacin se fun- las evaluaciones se est afrontando, prin-
damentara en la idea de que, aun en un cipalmente, dentro de modelos de anlisis
contexto condicionado por los intereses de que endogenizan el conocimiento, mien-
los diferentes actores, la ideologa y la dis- tras parecen quedar en un segundo plano
ponibilidad de informacin, la labor de in- los modelos de examen del impacto basa-
vestigacin tiene una gran potencialidad dos en los marcos interpretativos que en el
para esclarecer las vas que permiten supe- corto, medio y largo plazo estructuran los
rar las complejidades que habitualmente problemas de la accin poltica; y tercero,
acompaan los problemas a solventar en que la evaluacin de las polticas eviden-
el mbito pblico. cia la posibilidad de una ciencia poltica
aplicable, basada en procesos de control
En este punto, en la actualidad, el de-
diferentes a los derivados de los mtodos
bate terico se sita en un aspecto muy
comparados.
polmico: por un lado, es loable el intento
de iluminacin de los policy-makers que Siguiendo diferentes intereses homo-
desea Weiss y, por supuesto, es ms que geneizacin metodolgica; renamiento
razonable pensar que la evaluacin forma tcnico; examen de la funcin y utilidad;
parte de un proyecto ms ambicioso de papel del evaluador55 y base deontolgi-
polticas pblicas que debe ser mejorado53; ca; sentido disciplinar e interaccin mbito
por otro lado, como sealara Lindblom54, profesional-poltico-, casi siempre interre-
existen muchas otras sendas alternativas lacionados, las variedades interpretativas
que pueden evitar que una concepcin li- de la evaluacin nacidas desde los setenta,
bre de objetivos y perfectamente incluida retroalimentadas por la prctica, han con-
en el proceso de elaboracin de polticas seguido delimitar y legitimar un campo de
amenace con convertirse nalmente en un estudios que, a pesar de crecer contrayen-
instrumento al servicio de las elites y de los do una gran deuda con otras parcelas dis-
mximos responsables de los programas, ciplinares de las ciencias sociales, ha alcan-
poniendo en duda el carcter democrtico zado una madurez indiscutible y, sin duda,
de todo el proceso. Tal vez, si la cuestin ha abierto exitosamente una nueva va de
pendiente en la teora de la evaluacin es debate terico y de cultivo prctico en la
la de dilucidar el empleo del conocimiento ciencia poltica y de la administracin.
que la aplicacin de las diferentes tcnicas
Como indica CHELIMSKY (1997), el con-
genera, probablemente, no es suciente
texto poltico ms global en el que emer-
con diferenciar entre un uso conceptual
gen nuevos sectores demandantes de in-
o instrumental o entre el corto, medio o
tervencin (proteccin medioambiental;
largo plazo, sino que debera ser necesario
desarrollo sostenible; derechos humanos);
indagar las diferencias entre un uso acep-
el desarrollo normativo que impulsa la ac-
table o inaceptable.
tividad de los evaluadores, la aparicin de
nuevos actores, temas y necesidades; la re-
vitalizacin de problemas tradicionales re-
RECAPITULACIN
lacionados con las funciones de rendicin
Al contextualizar los debates de la de cuentas y responsabilidades, desarrollo
teora de la evaluacin en el campo ms y mejora de programas, polticas e institu-
amplio de la ciencia poltica y de la ad- ciones y conocimiento; y el aprendizaje de

RIPS, ISSN 1577-239X. Vol. 4, nm. 2, 2005, 69-86


LOS CAMINOS DE LA EVALUACIN DE POLTICAS PBLICAS: UNA REVISIN DEL ENFOQUE 79

nuevas lecciones extradas de la continua necesario esperar hasta la dcada de los ochen-
experiencia en evaluacin parecen garan- ta para poder dar fe (en un ambiente domina-
tizar, en suma, una fructfero porvenir a do por los procesos de adaptacin a la CEE y la
puesta en marcha de diversas iniciativas orienta-
este campo.
das a la mejora de la gestin como consecuencia
de la ejecucin de los programas de moderniza-
cin que emprenden la Administracin General
NOTAS del Estado y algunas Comunidades Autnomas),
1. La idea bsica que fundamenta estos mo- de que la evaluacin de programas y polticas
delos es la de que la accin poltica surge de las comienza a dejar de ser un simple, aunque efec-
interrelaciones y de las acciones de numerosos tivo, recurso retrico electoralista y se comienza
actores que entran y salen de escena, que des- a valorar como una herramienta de gestin im-
empean diversas funciones y que se plantean prescindible.
objetivos diferentes a lo largo de un periodo re- 6. Sobre la evolucin de la teora y prctica
ductible a diferentes fases. Por medio de mlti- de la evaluacin en los Estados Unidos, puede
ples relaciones causa-efecto u orden-respuesta, consultarse el trabajo de Peters (1998). Igual-
la poltica se articulara en etapas, lo cual facili- mente, en la obra de Chen (1990) se hace un
tara la intervencin de los analistas al intentar repaso muy interesante y completo del cambio
precisar ex-ante las probabilidades de xito o de paradigmas en el campo de la evaluacin en
fracaso o calcular ex-post el rendimiento de las los Estados Unidos desde 1960.
acciones emprendidas. Se tratara, en suma, de 7. Uno de los mayores hitos lo marc el cam-
lo que Sabatier y Jenkins-Smith (1993) concebi- bio de objetivos y de competencias de la vetusta
ran como heurstica de etapas. General Accounting Ofce, originalmente cen-
2. Como seala Regonini (2001), en cierto trada, como su propia denominacin indica, en
modo, la evaluacin nace de la constatacin aspectos de control contable y posteriormente
de que las premisas analticas del anlisis tra- reorientada hacia el terreno del anlisis y la eva-
dicional de polticas pblicas no proporcionan luacin. El efecto inmediato de este cambio fue
elementos para afrontar la indeterminacin de la creacin de una cultura de responsabilidad y
los datos y la arbitrariedad de los criterios con- la institucionalizacin de la funcin evaluativa.
tenidos en cada vericacin de la divergencia 8. Optimismo que llegara a ahogar las du-
existente entre lo que una poltica debera ha- das razonables que existan sobre la capacidad
ber sido tericamente y lo que ha resultado ser de extraccin de informacin a partir de datos
en la prctica. no experimentales (Campbell y Stanley, 1966).
3. Como recuerda Regonini (2001: 106-130), 9. Como seala Peters (1998: 24), si las
el anlisis racional hace suya una terminologa agencias queran tener xito en el proceso pre-
(eciencia; input; output; preferencia, etc.) pre- supuestario tenan que ser capaces de justicar
sente con diferentes signicados en diversos que sus programas eran efectivos en el coste e
paradigmas de las ciencias sociales. La explica- incluso ecientes.
cin del xito e impacto que entre los polit- 10. La produccin legislativa a la que se
logos interesados por el estudio de las polticas alude, entre la que destacan la Government
pblicas tuvieron estos conceptos radica en la Performance and Results Act (1993) y el Regu-
propia base terica del policy analysis: econo- latory Review (1996), refuerza la elaboracin de
ma (paretiana; del bienestar; institucional / or- polticas y la introduccin de programas sujetos
ganizativa); ciencias de la gestin (investigacin a la planicacin estratgica y el examen por-
y anlisis operativo; teora de sistemas; gestin menorizado de sus resultados en el caso de la
pblica); teora de la toma de decisiones y teo- segunda norma citada, de forma prospectiva y
ra de la resolucin de problemas. con una orientacin tcnica enfocada sobre la
4. Concepcin ya subrayada por Lowi deteccin de costes- en funcin de una gama
(1964). limitada de indicadores cuantitativos.
5. Aunque en el mbito estadounidense la 11. En el contexto de la reinvencin del
evaluacin recibe un fuerte impulso desde los gobierno promovida por la Administracin
sesenta en el contexto de las intervenciones de Clinton.
la Great Society, y su importancia queda refren- 12. La orientacin hacia los procesos admi-
dada hasta la actualidad en el contenido del nistrativos ha estimulado una de las reas ms
corpus legislativo que conforma la denominada cultivadas de la evaluacin. Su xito estara jus-
Sunset Legislation, en el mbito espaol ser ticado por la necesidad de vericar la operati-

RIPS, ISSN 1577-239X. Vol. 4, nm. 2, 2005, 69-86


80 RAMN BOUZAS LORENZO

vidad de un programa o una poltica a travs de estudios ad-hoc que fueran favorables a una
la revisin de su estructura normativa (normas, determinada coyuntura poltica, dando origen
planes de accin); su estructura administrativa a situaciones con poca credibilidad externa que
(agencias; comisiones; task force) y sus redes de han desprestigiado la prctica de la evalua-
comunicacin, coordinacin y cooperacin intra cin.
e interorganizativa. 16. Esta visin nos remitira a la obra de
13. La celebracin en noviembre de 1996 de Tyler (1967), de fuerte impacto inicial en el cul-
la International Evaluation Conference (Van- tivo tcnico de la disciplina y de extensa acogida
couver, Canad) marca un punto de inexin en el terreno prctico, a pesar de la abundante
en el proceso de conformacin de la comunidad crtica recibida durante las ltimas dcadas.
cientca de la evaluacin. Esta reunin repre- 17. Siguiendo la terminologa de Mon-
sent la primera gran cita internacional para nier (1990-91: 131-140), en esta segunda vi-
evaluadores, acadmicos, auditores y asociacio- sin se encuadraran todas las aproximaciones
nes profesionales (entre ellas la European Eva- a la evaluacin que han superado la primitiva
luation Society). Algunas de las ponencias ela- aproximacin por objetivos: aproximacin por
boradas para esta reunin pueden consultarse la puesta en prctica del programa (perspecti-
en la obra de Chelimsky y Shadish (1997). va operacional); aproximacin por los efectos
14. Si en el caso de los Estados Unidos las (eliminacin de la inuencia de los objetivos
concepciones ideolgicas de gestin dominan- ociales en las percepciones); aproximacin por
tes durante la era Reagan reducen la potenciali- los procesos (interacciones del programa y el
dad de la evaluacin y convierten su tecnologa entorno) y aproximacin por los actores sociales
en mero instrumento de control al servicio de (pluralismo).
la contencin del gasto y reduccin del sector 18. Comprendiendo en un sentido amplio
pblico, devaluando enormemente su acepta- la rendicin de cuentas, Rossi y Freeman (1989)
cin entre los practicantes y bloqueando sig- aportan seis interpretaciones de la accoutability:
nicativamente su crecimiento, en el contexto legal (ajuste del programa o la poltica a la legis-
europeo, con escasos antecedentes en esta ma- lacin); scal (ajuste de la gestin del programa
teria, la evaluacin encontrara un lugar entre a las regulaciones scales); distributiva (abili-
las prcticas administrativas merced a los pro- dad de la asignacin de los productos o servicios
gramas reformistas considrese, por ejemplo, producidos); de cobertura (grado de ajuste de
los impulsados durante el thatcherismo-, pero lo receptores nales con el pblico objetivo ini-
al alto precio de dar lugar a una interpretacin cial); de impacto (coherencia del producto nal
pauprrima de su verdadero sentido gerencial con la previsin inicial); y de eciencia (ajuste
y a ralentizar considerablemente su cultivo y la del impacto a los costes del programa). Por su
consecucin de una madurez todava muy dis- parte, Vedung (1997: 104-113), considera nece-
cutible. sario, siempre que sea posible, analizar la res-
15. Como seala Bustelo (2003: 13) al co- ponsabilidad en las acciones que emprende la
mentar el cultivo terico y prctica de la eva- Administracin desde cuatro perspectivas: la de
luacin en Espaa: estamos todava lejos de las elites polticas: la de los gerentes de los or-
contar con una prctica normalizada y con una ganismos pblicos; la de los ciudadanos y la de
verdadera cultura de la evaluacin en nuestros los clientes.
organismos pblicos. Este todava incipiente 19. Aunque la obra de Wildavsky (1979) y
campo de la evaluacin de programas y polti- los trabajos realizados por C.H.Weiss durante
cas pblicas necesita, por lo tanto, de un mayor los setenta y ochenta son conocidos por su de-
desarrollo acadmico y profesional. En muchas fensa de las posibilidades de aprendizaje y ulte-
ocasiones, la falta de referencias ha signicado rior perfeccionamiento del rendimiento de las
la sustitucin de una verdadera evaluacin por polticas, en las investigaciones de Hudson, Ma-
otro tipo de prcticas de anlisis que, creemos, yne y Thomlison (1992) y Preskill y Torres (1998)
es necesario distinguir. De esta manera, o bien se pueden encontrar interesantes experiencias
se ha suplido esta falta de especializacin con que conrman esa posicin. Sobre la relacin,
una aplicacin estricta y asptica de la metodo- en particular, entre el aprendizaje y el perfec-
loga de investigacin social al uso, realizando cionamiento de las policy communities, consl-
estudios parciales que han sido poco sensibles tese a Subirats (1994).
al contexto y han resultado poco tiles para las 20. Suchman (1967) justicaba el empleo de
organizaciones y las polticas evaluadas, o bien la metodologa de las ciencias sociales para la
se han manejado las situaciones [] para hacer determinacin (basada en opiniones, documen-

RIPS, ISSN 1577-239X. Vol. 4, nm. 2, 2005, 69-86


LOS CAMINOS DE LA EVALUACIN DE POLTICAS PBLICAS: UNA REVISIN DEL ENFOQUE 81

tos, datos subjetivos u objetivos) de los resul- admitir dentro de la especialidad toda forma de
tados (deseables o indeseables, temporales o anlisis tendente a la valoracin prospectiva;
permanentes, inmediatos o a largo plazo) alcan- para otros autores, sin embargo, los estudios de
zados por una actividad orientada a alcanzar un anticipacin, identicados con la metodologa
n u objetivo. En esta misma lnea se expresaba ex-ante (evaluacin de previsin; inventario de
Chelimsky (1989: 7) al concebir la evaluacin, necesidades; jacin de objetivos) requieren el
por denicin, como investigacin social: pro- empleo de procedimientos de anlisis, que, por
gram evaluation is the application of systematic su sentido y recursos tecnolgicos pueden ser
research methods to the assessment of program incluidos dentro del amplio conjunto de tcni-
design, implementation, and effectiveness. cas evaluativas (Rossi y Freeman, 1989; Ander-
21. Segn Scriven (1991: 1), evaluation is son y Ball, 1978).
the process of determining the merit, worth, 27. Aunque Vedung (1997) considera el se-
and value of things. Por su parte, Vedung guimiento como una faceta ms de la gestin en
(1997: 3) se reere a la evaluacin como care- la que se pueden aplicar tcnicas de evaluacin,
ful retrospective assessment of the merit, worth la literatura pone en evidencia una verdadera
and value of administration, output, and out- divisin de opiniones sobre la consideracin de
come of government interventions, which is in- las acciones de seguimiento como actividades
tended to play a role in future, practical action de evaluacin. La diferencia radicara en el ca-
situations. rcter enjuiciatorio de las tcnicas empleadas:
22. En la lnea de los comentarios realizados en caso de estar presente, hablaramos de eva-
por E.Vedung, este aspecto sera resaltado en luacin, y, en caso contrario, de una actividad
otros trabajos de teora de la evaluacin: Mon- convencional de vericacin / conrmacin del
nier (1990-91; 1995); Palumbo (1987) o Weiss cumplimiento de un programa. Sobre la utili-
(1988). dad y metodologa del seguimiento, consltese
23. A causa de la insercin de las tcnicas Banco Mundial (1996).
de evaluacin en el dominio de estudios sobre 28. En contraste con las formulaciones ini-
los procesos poltico-administrativos, la litera- ciales de la teora de la evaluacin, prescriptoras
tura ha terminado por asumir, adems de la del rechazo de toda subjetividad que pudiese
produccin tradicional centrada en cuestiones interferir en la evaluacin, la visin actual sita
de mtodo y funcin, los estudios sobre con- a los valores en el punto central del proceso de
trol de gestin, que relacionan el campo de la evaluacin (Stufebeam y Shinkeld, 1995; Sha-
evaluacin con el anlisis de procesos, calidad y dish, Cook y Levinton, 1991).
reingeniera, y con los sistemas de informacin 29. La consideracin misma del diseo de
contable-nanciera o de control de operacio- la evaluacin marco para la planicacin y
nes, propos de la gestin pblica o privada y del direccin del estudio- testimonia la actualidad
anlisis de organizaciones (Ballart, 1998: 229). de algunas aportaciones muy consolidadas. So-
24. La evaluacin en tiempo real de las bre este aspecto es til revisar las aportaciones
actividades pertenecientes a un programa o de Anderson y Ball (1978); Campbell y Stanley
una poltica, considerada el ncleo o esencia (1966); Fitz-Gibbon y Morris (1978 y 1987); Guba
de la labor del evaluador, ha dado lugar a toda y Lincoln (1981) y Walberg y Haertel (1990).
una tradicin en la literatura estadoundense: 30. Para una revisin de esta literatura, pue-
Wholey et.al. (1970); Nachmias (1979) y Rutman den consultarse obras ya consolidadas como
(1980). las de Guba y Lincoln (1981); Fishman (1991a;
25. En una de las visiones ms clsicas sobre 1991b; 1992) y Shadish, Cook y Levinton (1991).
este particular, Anderson y Ball (1978) resalta- Desde una perspectiva integradora de la aproxi-
ran la capacidad de la evaluacin de progra- macin cuantitativa y cualitativa, pueden con-
mas para contribuir a tomar decisiones sobre el sultarse los trabajos de Reichardt y Rallis (1994);
desarrollo, ejecucin, continuacin, expansin, Tashakkori y Teddlie (1998) y Russell (1999).
modicacin o nalizacin de un programa; 31. Los anlisis cuantitativos son requeridos
obtener evidencias para apoyarlo o rechazarlo; por los diseos de evaluacin experimental y
y comprender procesos psicolgicos y sociales cuasi-experimental. La estadstica empleada
bsicos. descriptiva, inferencial, correlacin, regresin,
26. En la literatura son detectables posicio- etc.- puede variar en su grado de sosticacin,
nes muy diferentes en torno al alcance de la aunque, como recuerdan los metodlogos, de-
evaluacin: Vedung (1997: 7) considera la eva- bera ajustarse a las caractersticas del estudio y
luacin exclusivamente retrospectiva y rechaza a la formacin de sus responsables. Sobre el par-

RIPS, ISSN 1577-239X. Vol. 4, nm. 2, 2005, 69-86


82 RAMN BOUZAS LORENZO

ticular, consltense los trabajos de Kirk (1982); debera satisfacer la necesidad de saber si el
Kerlinger (1986); Mohr (1988); Light, Singer y evaluando es o no ecaz (Scriven, 1980) y, desde
Willett (1990); Pedhazur y Schmelkin (1991); una perspectiva sumativa, si es procedente o no
Posavac y Carey (1992); Fowler (1993) y, por su- su persistencia futura.
puesto, Rossi y Freeman (1989). 38. Con un sentido muy prximo al de la
32. De carcter inductivo, las tcnicas cua- condicin formulada por M.Scriven, Wholey
litativas son esenciales para los diseos natura- (1983: 119) subordinara la decisin de iniciar
listas o pluralistas. Payne (1994) ja en cuatro una evaluacin a la constatacin de que la utili-
las variedades de anlisis cualitativos: anlisis dad proporcionada por la informacin a extraer
fenomenolgicos; anlisis de contenido; induc- supera los costes de obtencin.
cin analtica y anlisis comparativo constante. 39. La evaluacin evitara realizarse desde la
En esta lnea se situaran Guba y Lincoln (1989), perspectiva de la gestin del programa y desde
Patton (1980; 2001) y, sobre todo, Stake (1975; la del cliente, y se situara en un plano superior
1978; 1980; 1995), quien deja al margen el de- que evitara la inuencia de factores contextua-
bate sobre la causalidad y deende vivamente les.
la importancia de los mtodos cualitativos y, 40. Vid. las crticas realizadas por Weiss y
entre ellos, los estudios de caso, como un valio- Rein (1970) y las contracrticas de Shadish, Cook
so instrumento de mejora de la gestin y gene- y Levinton (1991: 132-133).
racin de aprendizaje. Otras obras destacadas 41. Las dicultades de insercin de la eva-
en la orientacin cualitativa son: Stake y Gjer- luacin en la teora de la elaboracin de pol-
de (1974); Stake y Easley (1978). Scriven (1980); ticas son resueltas, simplemente, a travs de la
Shaw (1999) y Denzin y Lincoln (2000). alienacin del investigador, convertido en un
33. El impacto se distingue del producto y el engranaje de la gestin orientada a los resul-
resultado de una poltica o programa (Scriven, tados.
1991). 42. Como ilustran los cuatro tipos de estu-
34. Una de las grandes enseanzas de este dio de previsin de evaluaciones de gran am-
tipo de diseo de investigacin concierne a la plitud, complejidad e intensidad propuestas por
construccin de hiptesis de impacto. Para ha- J.S.Wholey: anlisis de evaluabilidad (evaluabi-
blar del impacto, segn ambos autores, es ne- lity assessment); evaluacin rpida (rapid fee-
cesario que concurran tres condiciones: que la dback evaluation); control de resultados (per-
causa preceda al efecto; que la causa y el efecto formance monitoring) y evaluacin intensiva
estn correlacionados; y que la hiptesis de im- (intensive evaluation).
pacto no sea falseada por hiptesis alternativas 43. Por ejemplo, el contenido de los seis
plausibles. Para descartar estas alternativas se niveles en los que se articulan las actividades
emplearan grupos de control. de evaluacin prescritos por Wholey (1983:
35. Para conocer ms sobre el debate de la 202): identicacin de objetivos y prioridades
validez desde una perspectiva clsica, es aconse- y diagnstico de potencialidades del programa;
jable consultar los trabajos de Carmines y Zeller desarrollo de sistemas para el anlisis del rendi-
(1979); Zeller (1990). Una discusin sobre las vi- miento del programa; jacin (negociacin) de
siones contemporneas se puede encontrar en niveles de mejora del rendimiento; desarrollo de
Messick (1985). sistemas que faciliten la utilizacin de la infor-
36. Las obras de Campbell (1969; 1982; macin generada; valoracin y documentacin
1994), Campbell y Stanley (1966), Campbell y de los resultados observados; comunicacin del
Cook (1976) y Cook y Campbell (1979) se conver- rendimiento de la actuacin llevada a cabo.
tiran en verdaderas apologas de la evaluacin 44. Contextualizacin, observacin, exi-
experimental y de su utilidad formativa en sus bilidad-adaptabilidad y comunicacin son las
diversas aplicaciones a la Administracin Pbli- caractersticas del planteamiento evaluativo
ca. de R.E.Stake: estudiar en profundidad las cir-
37. La evaluacin se articulara en tres ma- cunstancias que componen el teln de fondo
cro-actividades: la determinacin de los criterios de las intervenciones; esforzase en observar las
de mrito (dimensiones a travs de las cuales se necesidades del cliente; permitir que los puntos
pretende estudiar al evaluando); la jacin de crticos sobre los que se debe incidir aoren y
los estndares comparativos; y la medida de la evolucionen durante el curso de la evaluacin;
actuacin (performance) del evaluando en rela- y mantener una comunicacin uida con los ac-
cin con los criterios de actuacin previamente tores involucrados.
establecidos. En suma, la totalidad del proceso

RIPS, ISSN 1577-239X. Vol. 4, nm. 2, 2005, 69-86


LOS CAMINOS DE LA EVALUACIN DE POLTICAS PBLICAS: UNA REVISIN DEL ENFOQUE 83

45. Para Wholey (1977: 42) es el pragma- ceptual e interpretativa del trabajo de investi-
tismo el que orienta la construccin del saber, gacin, ms prxima a posiciones hermenuti-
como en el caso de la validez de la inferencia cas.
causal. 53. Intentando superar el pesimismo reinan-
46. En esta lnea, Weiss (1973) enfatiza la te entre los evaluadores a causa de los pobres
idea de que los resultados de la evaluacin son resultados cosechados y la escasa utilidad de
introducidos en un escenario de lucha poltica las experiencias llevadas a cabo en el contexto
en el que, adems de muchos otros elementos, de los programas sociales de los sesenta (Horst,
operan variados intereses e ideologas. et.al., 1974), con el objetivo de ensalzar la cien-
47. Esta idea estara prensente en varias cia de la evaluacin, Weiss iniciara una verda-
obras de Weiss (1979; 1986: 214-135; 1987: 66- dera cruzada que la llevara a lo largo de sus
69). Otra interpretacin de la evaluacin y la obras de los setenta y principios de los ochenta
poltica como una nica realidad puede en- a examinar, en primer lugar, las causas de tan
contrarse, igualmente, en la obra de Monnier empobrecido empleo de tcnicas y escaso fo-
(1995). mento de la evaluacin (la determinacin de las
48. Como recordaban Feldman y March causas del mal empleo de las tcnicas de eva-
(1981), la informacin fundamentada empri- luacin y de los mtodos de investigacin social
camente es un smbolo de racionalidad: con in- en las tareas orientadas a la elaboracin de las
dependencia de su utilidad en relacin con los polticas pblicas la llevara a poner de relieve la
problemas en cuestin, el simple hecho de ofre- incompatibilidad, en trminos epistemolgicos,
cer informacin es una expresin importante de entre investigacin y programacin social) y, en
legitimidad y competencia organizativa que re- segundo lugar, a realizar una reexin con nes
valoriza los procesos de toma de decisiones. prescriptivos sobre algunos aspectos metodol-
49. La idea de la policy-shaping communi- gicos: aun reconociendo sus limitaciones, Weiss
ty pretende llamar la atencin sobre el hecho defendera el empleo tanto de los mtodos
de que las decisiones no se toman, sino que cuantitativos como de los cualitativos.
se desprenden de un proceso de ajuste mutuo 54. Lindblom (1986 y 1990).
entre los actores intervinientes (Cronbach, et. 55. Sobre el papel desempeado por el eva-
al. 1980). luador, consltese el trabajo de Boyle y Lemaire
50. Al considerar el problema de la validez, (1999).
Cronbach emplea la terminologa UTOS y
utos: dene los UTOS como poblaciones de
unidad, tratamiento, observacin y contexto, REFERENCIAS BIBLIOGRFICAS
objetos de la evaluacin; y utos (en minscu-
ANDERSON, S.B. y BALL, S. (1978), The Pro-
la) como una muestra del objeto, de la cual se
extraen los datos. Mientras que para otros au- fession and Practice of Program Eva-
tores, por ejemplo, Campbell, la validez interna luation. San Francisco: Jossey-Bass.
atae a la naturaleza de las relaciones entre BALLART, X. (1998), La <<industria>> de
el tratamiento y la observacin de la muestra, la evaluacin y bibliografa bsica,
para Cronbach la validez interna tiene ya una Gestin y Anlisis de Polticas Pblicas,
connotacin de generalizacin, concerniendo a 11-12.
la inferencia de la muestra al conjunto de las BANCO MUNDIAL (1996), Designing Pro-
poblaciones. Cronbach insiste en la relacin
ject Monitoring and Evaluation, Les-
entre la muestra y la poblacin y da la mxima
prioridad a la validez externa concerniente al sons and Practices, 8.
conjunto de poblaciones. Asimismo, la validez BOYLE, R. y LEMAIRE, D. (1999), Building
nunca es una caracterstica de los mtodos utili- Effective Evaluation Capacity: Lessons
zados, sino una propiedad de las conclusiones. from Practice. New Brunswick: Transac-
51. Se trata, en suma, de un enfoque adhe- tion.
rido a las lneas ms rmemente defensoras del BUSTELO, M. (2003), Qu tiene de espe-
estudio del proceso de elaboracin de polticas, cco la metodologa de evaluacin?,
en la lnea defendida por G.Majone, quien ve
en R.Ban, La Evaluacin de la Accin
en la persuasin y el ajuste mutuo los motores
del desarrollo de las polticas. y de las Polticas Pblicas. Madrid: Daz
52. Weiss (1979) y Kelly y Maynard-Moody de Santos.
(1993) se decantarian por una perspectiva con-

RIPS, ISSN 1577-239X. Vol. 4, nm. 2, 2005, 69-86


84 RAMN BOUZAS LORENZO

CAMPBELL, D.T. (1969), Reforms as Expe- matic paradigm in evaluation. Evalua-


riments. American Psychologist, 24. tion and Program Planning, 14.
CAMPBELL, D.T. (1982), Experiments as FISHMAN, D.B. (1991b), The experimental
arguments. Knowledge: Creation, Di- versus the pragmatic paradigm: Sum-
ffusion, Utilization, 3. mary and conclusions. Evaluation and
CAMPBELL, D.T. (1994), Foreword. En Program Planning, 14.
R.K.Yin, Case Study Research. Londres: FISHMAN, D.B. (1992), Postmodernism
Sage. comes to program evaluation. A criti-
CAMPBELL, D.T. y Cook, T.D. (1976), The cal review of Guba and Lincolns Four-
design and conduct of quasi experi- th Generation Evaluation. Evaluation
ments and true experiments in eld and Program Planning, 15.
setting. En M.D.Dunnette (Ed.), Hand- FITZ-GIBBON, C.T. y MORRIS, L.L. (1978),
book of Industrial and Organizational How to Design a Program Evaluation.
Psychology. Chicago: Rand McNally. Beverly Hills, California: Sage.
CAMPBELL, D.T. y STANLEY, J.C. (1963), FITZ-GIBBON, C.T. y MORRIS, L.L. (1987),
Experimental and Quasi-Experimental Evaluators Handbook. Beverly Hills,
Designs for Research. Chicago: Rand California: Sage.
MacNally. FONTAINE, C. y MONNIER, E. (1998), Practi-
CARMINES, E.G. y ZELLER, R.A. (1979), Re- ques Franaises et Europennes. Paris:
liability and Validity Assessment. New- Pouvoirs Locaux.
bury Park, Ca.: Sage. FOWLER, F.J. (1993), Survey Research Me-
COOK, T.D. y CAMPBELL, D.T. (1979), Qua- thods (2 Ed). Newbury Park, Ca.: Sage.
si-experimentation: Design and Analy- GUBA, E.G. y LINCOLN, Y.S. (1981), Effec-
sis Issues for Field Settings. Boston: tive Evaluation: Improving the Useful-
Houghton Mifin. ness of Evaluation Results through Res-
CRONBACH, L.J. et. al. (1980), Toward a ponsive and Naturalistic Approaches.
Reform of Program Evaluation. San San Francisco: Jossey-Bass.
Francisco: Jossey-Bass. GUBA, E.G. y LINCOLN, Y.S. (1989), Fourth
CHELIMSKY, E. (1997), The next transfor- Generation Evaluation. Londres: Sage.
mations in evaluation. En E.Chelimsky HORST, P. et.al. (1974), Program manage-
y W.R.Shadish (Eds.), Evaluation for the ment and the federal evaluator. Pu-
21st Century. A Handbook. Londres: blic Administration Review, 34.
Sage. HUDSON, J.; MAYNE, J. y THOMLISON, R.
CHELIMSKY, E. (Ed.) (1985), Program Eva- (Eds.) (1992), Action-Oriented Evalua-
luation: Patterns and Directions. Was- tion in Organizations: Canadian Practi-
hington, D.C.: American Society for Pu- ces. Toronto: Wall & Emerson.
blic Administration. KELLY, M. y MAYNARD-MOODY, S. (1993),
CHELIMSKY, E. y SHADISH, W.R. (Eds.) Policy analysis in the post-positivist
(1997), Evaluation for the 21st Century. era: Engaging stakeholders in evalua-
A Handbook. Londres: Sage. ting the Economic Development Dis-
CHEN, H-T. (1990), Theory-Driven Evalua- tricts program. Public Administration
tions. Beverly Hills, California: Sage. Review, 53, 2.
DENZIN, N.K. y LINCOLN, Y.S. (2000), Han- KERLINGER, F.N. (1986), Foundations of Be-
dbook of Qualitative Research (2 Ed.). havioral Research (3 Ed.). Nueva York:
Thousand Oaks, Ca.: Sage. Holt, Rinehart, and Winston.
FELDMAN, M.S. y MARCH, J.G. (1981), In- KIRK, R.E. (1982), Experimental Design (2
formation as signal and symbol. Ad- Ed.). Belmont, Ca: Brooks / Cole.
ministrative Science Quarterly, 26, 1. LIGHT, R.J.; SINGER, J.D. y WILLETT, J.B.
FISHMAN, D.B. (1991a), An introduction (1990), By Design: Planning Research
to the experimental versus the prag-

RIPS, ISSN 1577-239X. Vol. 4, nm. 2, 2005, 69-86


LOS CAMINOS DE LA EVALUACIN DE POLTICAS PBLICAS: UNA REVISIN DEL ENFOQUE 85

on Higher Education. Cambridge, Har- An Integrated Approach. Hillsdale, NJ:


vard University. Lawrence Erlbaum, 1991.
LINDBLOM, Ch. (1986), Who needs what PETERS, G.B. (1998), El surgimiento, decli-
social research for policymaking?. ve y resurgimiento de la evaluacin de
Knowledge: Creation, Diffussion, Uti- polticas pblicas en el Gobierno ame-
lization, 7. ricano. Gestin y Anlisis de Polticas
LINDBLOM, Ch. (1990), Inquiry and Chan- Pblicas, 11-12 (1998).
ge. The Troubled Attempt to Unders- POSAVAC, E.J. y CAREY, R.G. (1992), Pro-
tand and Shape Society. New Haven, gram Evaluation, Methods and Case
Conn.: Yale University Press. Studies. Englewood Cliffs, N.J.: Prenti-
LOWI, T. (1964), American business, pu- ce Hall.
blic policy, case studies and political PRESKILL, H. y TORRES, R.T. (1988), Evalua-
theory. World Politics, 16 (4). tive Inquiry for Learning in Organiza-
MESSICK, S. (1985), The once and future tions. Thousand Oaks, Sage.
issues of validity: Assessing the me- RADAELLI, C.M. y DENTE, B. (1995), Valu-
aning and consequences of measure- tazione e scienza politica: un dialogo
ment. En H.Wainer y H.I.Braun (Eds.), possibile. En G.Regonini (A cura di),
Test Validity. Hillsdale, NJ: Lawrence Politiche Pubbliche e Democrazia. Na-
Earlbaum. poles: Edizione Scientiche Italiane.
MOHR, L.B. (1988), Impact Analysis for Pro- REGONINI, G. (2001), Capire le Politiche
gram Evaluation. Chicago, Illinois: The Pubbliche. Bolonia: Il Mulino.
Dorsey Press. REICHARDT, C. y RALLIS, S. (1994), The
MONNIER, E. (1990-91), Objetivos y des- qualitative-quantitative debate: New
perspectives. New Directions for Pro-
tinatarios de las evaluaciones. Docu-
gram Evaluation, 61.
mentacin Administrativa, 224-225.
ROSSI, P.H. y FREEMAN, H.E. (1989), Eva-
MONNIER, E. (1995), Evaluacin de la Ac-
luation: A Systematic Approach. New-
cin de los Poderes Pblicos. Madrid:
bury Park, Ca.: Sage. [Ed. en espaol:
Instituto de Estudios Fiscales.
Evaluacin: Un Enfoque Sistemtico
NACHMIAS, D. (1979), Public Policy Evalua-
para Programas Sociales. Mxico: Tri-
tion: Approaches and Methods. Nueva
llas, 1990].
York: St. Martin.
RUSSELL, B.H. (1999), Social Research Me-
NIOCHE, J-P. (1982), De levaluation a
thods: Qualitative and Quantitative
lanalyse des politiques publiques. Re-
Approaches. Thousand Oaks: Sage.
vue Franaise de Science Politique, 32.
PALUMBO, D.J. (Ed.) (1987), The Politics RUTMAN, L. (Ed.) (1980), Planning Useful
of Program Evaluation. Newbury Park, Evaluations: Evaluability Assessment.
California: Sage. Newbury Park, California: Sage.
PATTON, M.Q. (1980), Qualitative Evalua- SABATIER, P.A. y JENKINS-SMITH, H.C.
tion and Research Methods. Londres: (1993), The dynamics of policy-
Sage. oriented learning, en P.A.Sabatier y
PATTON, M.Q. (2001), Qualitative Resear- H.C.Jenkins-Smith (Eds.), Policy Change
ch and Evaluation Methods. Londres: and Learning: An Advocacy Coalition
Sage. Approach. Boulder, Colorado: Wes-
PAYNE, D.A. (1994), Designing Educatio- tview.
nal Project and Program Evaluations: A SCRIVEN, M. (1980), The Logic of Evalua-
practical Overview Based on Research tion. Inverness: Edgepress.
and Experience. Boston: Kluwer. SCRIVEN, M. (1991), Evaluation Thesaurus
PEDHAZUR, E.J. y SCHMELKIN, L.P. (1991), (4 Ed.). Newbury Park, Ca.: Sage.
Measurement, Design and Analysis:

RIPS, ISSN 1577-239X. Vol. 4, nm. 2, 2005, 69-86


86 RAMN BOUZAS LORENZO

SHADISH, T. COOK y LEVINTON, L. (1991), VEDUNG, E. (1997), Public Policy and Pro-
Foundations of Program Evaluation. gram Evaluation. New Brunswick, N.J.:
Theories of Practice. Newbury Park, Ca. Transaction.
Sage. WALBERG, H.J. y G.D.Haertel (Eds.) (1990),
SHAW, I. (1999), Qualitative Evaluation. The International Encyclopedia of Edu-
Thousand Oaks, Sage. cational Evaluation. Oxford: Perga-
STAKE, R.E. (1978), The case study me- mon.
thod in social inquiry. Educational Re- WEISS, C.H. (1973), Where politics and
searcher, 7. evaluation meet. Evaluation, 1.
STAKE, R.E. (1980), Program evaluation. WEISS, C.H. (1979), The many meanings
Particularly responsive evaluation. of research utilization. Public Admi-
En W.B.Dckrell y D.Hamilton (Eds.), nistration Review, 39, 5.
Rethinking Educational Research. Lon- WEISS, C.H. (1986), Research and poli-
dres: Hodder & Stoughton. cy-making: a limited partnership. En
STAKE, R.E. (1995), The Art of Case Study F.Heller (Ed.), Use and Abuse of Social
Research. Thousand Oaks, Sage. Science. Londres: Sage.
STAKE, R.E. (Ed.) (1975), Evaluating the WEISS, C.H. (1987), Postcript to Whe-
Arts in Education: A Responsive Appro- re politics and evaluation meet. En
ach. Columbus, Ohio: Merrill. D.Palumbo (Ed.), The Politics of Pro-
STAKE, R.E. y EASLEY, J.A. (1978), Case Stu- gram Evaluation. Londres: Sage
dies in Science Education. Champaign: WEISS, C.H. (1998), Evaluation. Methods
University of Illinois. for Studying Programs and Policies.
STAKE, R.E. y GJERDE, C. (1974), An eva- Upper Saddle River, N.J.: Prentice Hall.
WEISS, R.S. y Rein, M. (1970), The eva-
luation of TCITY (The Twin City Institu-
luation of broad-aim programs: expe-
te for Talented Youth). Chicago: Rand
rimental design, its difculties and an
McNally.
alternative. Administrative Science
STUFFLEBEAM, D. y SHINKFIELD, A. (1995),
Quarterly, 15.
Evaluacin Sistemtica. Gua Terica y
WHOLEY, J.S. (1977), Evaluatibility Assess-
Prctica. Madrid: Paids / MEC.
ment. En L.Rutman (Ed.), Evaluation
SUBIRATS, J. (1994), Policy Instruments, Pu-
Research Methods: A Basic Guide. Lon-
blic Deliberation and Evaluation Pro-
dres: Sage.
cesses. Madrid: Instituto Juan March.
WHOLEY, J.S. (1983), Evaluation and Effec-
SUCHMAN, E. (1967), Evaluative Research.
tive Public Management. Boston: Little
Nueva York: Russel Sage Foundation.
Brown.
TASHAKKORI, A. y TEDDLIE, C. (1998),
WHOLEY, J.S. et.al. (1970), Federal Evalua-
Mixed Methodology: Combining Qua-
tion Policy: Analyzing the Effects of Pu-
litative And Quantitative Approaches.
blic Programs. Washington, D.C.: The
Thousand Oaks, Sage.
Urban Institute.
TOULEMONDE, J. (1995) The emergence
WILDAVSKY, A. (1979), Speaking Truth
of an evaluation profession in Euro-
to Power. The Art and Craft of Policy
pean countries: the case of structural
Analysis. Boston: Little Brown.
policies. Knowledge and Policy.
ZELLER, R.A., (1990), Validity. En Wal-
TOULEMONDE, J; LEEUW, F.L. y BROUWERS,
berg, H.J. y G.D.Haertel (Eds.), The In-
A. (1999), Evaluation activities in
ternational Encyclopedia of Educatio-
Europe: A quick scan of the market in
nal Evaluation. Oxford: Pergamon.
1998. Evaluation, 5 (4).
TYLER, R.W.; GAGNE, R.M. y SCRIVEN, M.
(Eds.), Perspectives of Curriculum Eva-
luation. Chicago: Rand McNally.

RIPS, ISSN 1577-239X. Vol. 4, nm. 2, 2005, 69-86

Вам также может понравиться