Академический Документы
Профессиональный Документы
Культура Документы
Cdigo 13072
RODRIGUEZ SOSA, Jorge; ZEBALLOS, Molvina
Evaluacin de proyectos de desarrollo local. Enfoques, mtodos y procedimientos.
Lima: desco, 2007.
160 pp.
Proyectos / Evaluacin de proyectos / Desarrollo local / Diseo de proyectos /
Enfoques de evaluacin / Metodologa
desco
Contenido
Introduccin
Primera parte
Proyectos, evaluacin y desarrollo local
18
26
Segunda parte
La construccin del objeto de la evaluacin
33
2. Los indicadores
37
3. La matriz de evaluacin
43
Tercera parte
Herramientas para la evaluacin
49
56
74
81
1. El objeto de evaluacin
Cuarta parte
El proceso de evaluacin
91
2. El trabajo de campo
103
111
4. La comunicacin de resultados
119
Anexos
Anexo 1
El informe de evaluacin
125
Anexo 2
133
153
INTRODUCCIN
10
El libro presenta una propuesta eclctica y pragmtica. Recoge herramientas tericas y metodolgicas de distintas fuentes: enfoque sistmico,
teora crtica, investigacin accin participativa, educacin popular, etc.
y, sin tomar opcin, propone recomendaciones y guas abiertas para
que sea el usuario quien defina su propia ruta de trabajo. Sin embargo,
nuestro compromiso es abierto y definido con entregarle a la poblacin
sobre todo a la ms pobre y vulnerable herramientas para desarrollar
sus capacidades, mejorar sus condiciones de existencia y la calidad de
su participacin en las decisiones que involucran el mejoramiento de su
entorno. Creemos que es bastante ms til ensear a pensar metodolgicamente que transferir una metodologa. Estamos convencidos que la
participacin y la responsabilidad compartida en las tareas del desarrollo
local, exigen mayor autonoma y ms capacidades.
Este libro se ha escrito como una gua abierta para que los actores del
desarrollo evalen sus propias prcticas. No se ofrece como un mtodo
estandarizado y cerrado o como una receta, sino como una propuesta
que debe ser experimentada crticamente en cada entorno institucional
y en cada territorio en que se la utilice, para ser reformulada y adaptada
de acuerdo a cada realidad.
Introduccin
El libro est organizado en cuatro partes y catorce captulos. La primera parte es de corte conceptual, mientras que las restantes abordan los
procedimientos bsicos de la evaluacin. Los temas y contenidos son
los siguientes.
La primera parte, proyectos, evaluacin y desarrollo local, presenta
algunos conceptos y principios sobre los proyectos de desarrollo y la evaluacin, y expone los enfoques que forman parte de nuestra propuesta.
Seguidamente, reflexiona sobre los vnculos entre el desarrollo local, los
proyectos y la prctica de promocin del desarrollo.
La segunda parte, construccin del objeto de evaluacin, presenta
el proceso de identificacin de dimensiones, preguntas e indicadores,
que responde a la pregunta clave qu vamos a evaluar? Adicionalmente,
propone un formato de matriz que permite presentar de manera
lgica y ordenada el modelo de evaluacin elegido con sus distintos
componentes.
11
Algunos agradecimientos
12
Introduccin
13
14
parte
Primera
15
16
Entendemos a los proyectos de desarrollo como propuestas de transformacin que, partiendo de una determinada concepcin del cambio social,
intervienen en mbitos o dimensiones especficas de la realidad para
mejorarla y, con ello, beneficiar directa o indirectamente a poblaciones
que por lo general pueden ser ubicadas territorialmente.
Una caracterstica bsica de los proyectos radica en el hecho de referirse a un mbito mnimo de accin para el cual se disean objetivos,
resultados y plazos muy precisos. La idea es reproducir en pequea escala
ciertas condiciones que permitan, a la vez de paliar el deterioro en la
calidad de vida de la poblacin con la que se trabaja, experimentar con
estrategias de intervencin y producir conocimiento. En otras palabras,
los proyectos son conjuntos de hiptesis de trabajo articuladas entre s y
complementarias unas con otras que definen un modelo de accin.
Al respecto, el significado de modelo que se tiene en ciencia y
tecnologa resulta pertinente. Se lo entiende como una construccin
cuyo propsito es reproducir, por lo menos de manera aproximada, el
comportamiento de un objeto cuya dinmica no puede ser provocada
directamente. Se espera que a travs de la experimentacin (simulacin)
los modelos produzcan un conocimiento til para mejorar el comportamiento de los objetos que representan o para prever sus efectos no
deseados (Von Glasersfeld, 1995).
De una definicin como esta podemos extraer tres aspectos que
resultan pertinentes para el entendimiento de los proyectos:
17
18
Valorar si las acciones ejecutadas (estrategia del proyecto) son las adecuadas para producir los cambios deseados o si es necesario ajustarlas
o cambiarlas. Esta valoracin tambin debe incluir al discurso sobre
el cambio social que est detrs del proyecto.
Obtener elementos de juicio fundamentados para tomar decisiones
que permitan ajustar la accin presente y mejorar la accin futura.
Producir aprendizajes tiles para la evaluacin como tal y para mejorar
los procesos de gestin de los proyectos en su conjunto.
La caracterstica bsica de la evaluacin es su acento en la observacin del cambio,
al grado que si tuvisemos que elegir aquello que la distingue del seguimiento sera precisamente ese acento. La evaluacin concentra su esfuerzo de anlisis en el cambio y en
las condiciones necesarias para producirlo (qu, cunto y en qu sentidos se cambi, y qu
situaciones facilitaron o limitaron ese proceso). El seguimiento da cuenta slo de las acciones
para establecer niveles de consistencia entre lo hecho y lo programado (qu y cunto se
hizo).
Los estudios de base o lneas de base por lo general se hacen durante el primer ao
de ejecucin de los proyectos, una vez que los equipos encargados tienen claridad sobre
la estrategia con que operan, la poblacin objetivo con que trabajan y los usuarios de los
servicios que ofrecen.
19
Lgica de la Evaluacin
Referente inicial
COMPARACIN
EVALUACIN
EVALUACIN
PROYECTO
Estudio de
base
Referente final
Resultados
esperados
EJECUCIN
PLANIFICACION
20
Enfoque en la participacin
Una evaluacin participativa supone dos cosas: primero, que el proceso involucre a los usuarios de los proyectos y otros actores locales
importantes; y, segundo, que este compromiso vaya ms all del rol de
informantes para pasar al de actores que participan tomando decisiones
en los diferentes momentos del proceso (qu y cmo observar con la
evaluacin, cmo recolectar, procesar y analizar los datos necesarios, y
cmo utilizar los resultados obtenidos).
21
22
Se trata de un proceso llevado a cabo por un colectivo de autorreflexin que mira su propia prctica para mejorarla, en una dinmica no
exenta de complejidades. Es de esperar que las personas concurran al
proceso con miradas e intereses distintos y que de ello resulten posiciones diversas y potencialmente conflictivas. Pero es de esperar tambin,
que cuando se logra consenso respecto de algn tema, el hecho revierta
fortaleciendo la viabilidad y sostenibilidad de los proyectos.
Un tema clave tiene que ver con la capacidad que el equipo encargado
de la evaluacin demuestre para integrar a otros (directivos y tcnicos de
los proyectos, usuarios y otros actores locales) en los procesos, sabiendo
que cada uno de esos actores portan racionalidades e intereses distintos.
Es precisamente en la integracin de diversas perspectivas que la evaluacin participativa logra ventajas comparativas respecto de los modelos
ms convencionales.
No hay que olvidar que los proyectos son prcticas sociales forneas que intentan transformar otras prcticas sociales locales, que por
lo general estn ancladas en el imaginario colectivo de la gente. Toda
intervencin de desarrollo ingresa a un espacio local institucional y
culturalmente definido con un conjunto de valores instrumentales difundidos como medios para mejorar la calidad de vida de la gente, que
requieren sujetarse a un examen crtico sobre el cumplimiento de esos
propsitos tal y como las culturas locales los entienden. Esa es la nica
ruta que asegura una internalizacin real de esos valores por los usuarios
y otros actores locales.
Los proyectos y los paquetes tecnolgicos que por lo general
proponen no pueden ser valorados de manera adecuada y comprensiva
si los valores culturales afectados por ellos (prcticas de distinta naturaleza
y que se desarrollan en distintos mbitos de lo local) se omiten o se tratan
de un modo puramente instrumental (como simples medios, ayudas u
obstculos para alcanzar las metas del desarrollo). La participacin crea
condiciones para que los actores locales se involucren en los procesos
incorporando sus intereses, valores y valoraciones desde una perspectiva
intercultural.
23
24
Desarrollo de capacidades en formas de reflexionar evaluativamente, que suponen el uso adecuado de informacin, la ponderacin
de evidencias, la extraccin de conclusiones y la emisin de juicios
respetando otras opiniones. El uso de estas capacidades trasciende
los propsitos de la evaluacin para insertarse en cualquiera de los
procesos de toma de decisiones a nivel local.
25
26
Un mapeo de 18 ONG y redes europeas proveedoras de ayuda para el desarrollo
en Amrica Latina concluye que el tema prioritario, el ms trabajado y financiado, es la
participacin poltica (promocin / proteccin de derechos humanos, fortalecimiento de la
sociedad civil, ciudadana, gobernabilidad y participacin local), seguido de los derechos
socioeconmicos y el desarrollo econmico (Biekart, 2006).
Claro est que estos conceptos y la manera como se los utiliza para
definir estrategias de intervencin no tienen el formato ni la complejidad
propia de la formalizacin acadmica. Son ms bien ideas ms o menos
elaboradas y articuladas, an no validadas en suficiente nmero de experiencias, pero que estn siempre presentes en el discurso explcito de las
instituciones que promueven desarrollo y forman parte de muchos de los
documentos que producen, incluyendo, por supuesto, los proyectos.
Pero al margen de que estos conceptos sean conocidos y aceptados,
al menos entre los directivos y quienes disean proyectos en las instituciones que promueven desarrollo, cuando se llega al plano de la eleccin
de actores con quienes se busca trabajar y la definicin de estrategias de
intervencin, las propuestas empiezan a diferenciarse. Como es lgico,
cada una trata de responder a las caractersticas de la poblacin con la que
trabaja o recuperar aprendizajes institucionales de anteriores experiencias
de desarrollo, definiendo distintas maneras de hacer. En otros casos, los
factores de diferenciacin son bastante ms artificiales, simplemente
27
28
Ruiz Bravo y Bobadilla (1993) han encontrado evidencia en ese sentido al hacer un
anlisis de las prcticas de promocin del desarrollo en ONG.
29
30
Segunda
parte
31
32
1. EL OBJETO DE EVALUACIN
33
34
Y prosiguen:
Ya no se trata slo de acercarnos a los fenmenos con variables medibles o
apreciables mediante indicadores; se trata de cul es la concepcin del todo
en sus partes, para entonces interesarnos por cules variables lo representan y
explican. Diciendo lo mismo en otras palabras: para afrontar una evaluacin
Un territorio. Espacio donde se concentran e integran las intervenciones y en donde es posible trabajar en torno a una visin de desarrollo
comn.
La Fundacin W. K. Kellogg viene apoyando la construccin de estos conjuntos en tres
reas de Latinoamrica y el Caribe, que han sido seleccionadas por su alta concentracin
de pobreza: el sur de Mxico y Centroamrica (incluyendo partes del Caribe), el noreste de
Brasil y las zonas andinas de Bolivia, Ecuador y Per.
El sentido de una evaluacin depender en gran medida de la manera como se conciban las dimensiones que conforman el objeto o, en
otras palabras, de los marcos de referencia desde los que se parta para
construir una comprensin propia de aquellas y de este. Esa es una tarea
que no puede ser realizada slo por el equipo evaluador, sino en acuerdos conceptuales con los responsables del proyecto, sus usuarios y otros
actores locales clave. Ellos son quienes saben qu aspectos de la realidad
se pretende cambiar y qu se est haciendo con ese propsito.
Por lo general, las dimensiones que forman parte del objeto de evaluacin corresponden a los componentes o principales lneas de accin
del proyecto. A estas se pueden sumar otras que resultan de cambios o
procesos no previstos que emergen durante la ejecucin. A continuacin
presentamos un ejemplo esquemtico de objeto de evaluacin para el caso
de la Iniciativa de Conjuntos Integrados de Proyectos que promueve la
Fundacin W. K. Kellogg en Amrica Latina.
Un conjunto integrado de proyectos tiene como propsitos la interrupcin del ciclo de pobreza y el logro de procesos sostenibles de
desarrollo en un territorio determinado. Se parte del supuesto que la
cooperacin entre actores locales socios, actuando de manera articulada,
es capaz de lograr una respuesta integral, multidimensional e intersectorial
para los problemas de un territorio.
Esta iniciativa opera con la llamada Teora de cambio, que es una propuesta de desarrollo local a largo plazo que gira sobre tres aspectos clave:
35
PREGUNTAS
Estrategias locales (qu se hace?)
Capital social
Capital humano
Capital productivo
36
Alianzas interinstitucionales
Contexto
Cambios emergentes
Esquema de objeto de evaluacin elaborado en base a documentos de trabajo de la Fundacin W. K. Kellogg sobre
la Teora de cambio.
Los contenidos de este captulo han sido trabajados por Gloria Vela en el marco del
Programa de Formacin en Evaluacin ejecutado por desco con el apoyo de la Fundacin
W. K. Kellogg.
37
38
39
Formulacin de indicadores
40
Tipos de indicadores
41
INDICADORES
FIN
3er nivel
IMPACTO
Indirecto
(Cambio sostenible)*
Directo
(Aplicacin)**
PROPSITO
2do nivel
RESULTADOS
ACTIVIDADES
EFECTOS
1er nivel
PROCESO Y PRODUCTO
42
Los indicadores de producto se utilizan en el seguimiento de las acciones de los proyectos. Los indicadores de efecto e impacto se usan en
evaluacin para la valoracin de los cambios producidos.
3. LA MATRIZ DE EVALUACIN
La matriz de evaluacin es una ayuda grfica que permite una presentacin resumida de los principales elementos de una evaluacin. Muchos
de esos elementos ya aparecen de manera explcita y ordenada en aquellos
proyectos que utilizan la metodologa del marco lgico, pero tambin
estn presentes quiz de manera menos explcita en los proyectos que
utilizan otros formatos para su diseo.
La idea de la matriz es que al vaciar los elementos clave para la evaluacin de los proyectos en ella, se pueda tener un panorama visual de
la integracin de dos lgicas complementarias que son importantes: la
lgica horizontal y la vertical.
Con la lgica de coherencia horizontal, se trata de ver el nivel de coherencia de las preguntas orientadoras con relacin a las dimensiones / cambios,
de los indicadores con respecto a las preguntas y a las anteriores, y la del
resto de elementos a partir de la misma lgica. Se trata de establecer si
podemos observar aquello que queremos observar.
Son coherentes
con ...
Dimensin /
Cambio
Cubren las
necesidades de
informacin de ...
Preguntas
orientadoras
Portan informacin
necesaria para ...
Indicadores
Informantes /
Fuentes
Tcnicas /
Instrumentos
Lgica Horizontal
43
La lgica de coherencia vertical, por otro lado, ocupa slo la columna hacia la izquierda de la matriz. Tiene el propsito de mostrar la
relacin causal entre los cambios de distinto nivel, y ver si la informacin
recogida para los niveles ms bajos sirve como insumo para la observacin
y el anlisis de los otros niveles.
Lgica Vertical
Impacto
Entonces
Si
Efecto
Y otros factores
externos
Entonces
44
Si
Logro
PREGUNTAS
ORIENTADORAS
INDICADORES
INFORMANTES /
FUENTES
TCNICAS /
INSTRUMENTOS
PARTICIPANTES
EN EL ANLISIS **
Dimensin /
cambio 1
Dimensin /
cambio 2
Dimensin /
cambio 3
45
46
parte
Tercera
47
48
49
50
Mtodo cuantitativo
Mtodo cualitativo
Se orienta a la comprensin del sentido que los actores le dan a sus propias
acciones, es decir, trabaja con percepciones. Sus procedimientos tpicos
suponen que los actores describan e interpreten experiencias vividas,
informacin sobre la cual los evaluadores proponen una interpretacin
holstica (reconstruccin de la experiencia) que le da sentido a las diversas
miradas particulares.
51
DIMENSIONES
52
Indicadores del
cambio
Tcnicas
Instrumentos
MTODOS
Cuantitativo
Cualitativo
Instrumentos estructurados y de
aplicacin estandarizada como
encuestas, escalas o pruebas
El uso combinado de mtodos, o triangulacin, es una estrategia metodolgica que el evaluador puede utilizar para contrastar, de manera
calificada, diversas tcnicas, instrumentos o fuentes de datos, con el fin
de compensar el sesgo inherente al uso individual de cada una de ellas.
La estrategia permite tambin verificar la justeza y estabilidad de los
datos producidos.
Es muy probable que los hechos que se evalen hicieren necesario
trabajar en simultneo con ambos mtodos. De hecho en los ltimos
aos la gran mayora de los evaluadores combinan mtodos y asumen la
diversidad metodolgica como parte de su quehacer.
53
54
55
56
Elaborar el cuestionario, que supone tomar un conjunto de decisiones sobre la cantidad de preguntas a incorporar, el tipo de preguntas
que se va a hacer y el orden en que se las va a presentar. Todo ello en
relacin a los indicadores que se quiere analizar y los temas que se
van a tratar.
57
Ventajas y limitaciones
Ventajas:
Puede aplicarse a poblaciones relativamente extensas (muestras) y
simultneamente.
Puede contener una variedad de temas en un mismo proceso y en
un mismo instrumento.
Proporciona informacin que puede ser utilizada para diversos fines
(diagnstico inicial, estudios de base, evaluaciones en sus diferentes
modalidades y momentos).
Para su ejecucin no requiere de personal especializado. Las encuestas se aplican con personal (encuestadores) capacitado en lo bsico.
Adems, su procesamiento es simple y no toma mucho tiempo.
58
Limitaciones:
La informacin que arroja suele ser hasta cierto punto superficial, en
la medida que no hay posibilidad de repregunta. Responde mejor a
los anlisis extensivos que a los intensivos y en profundidad.
Su diseo y definicin requiere de un conocimiento profundo de las
caractersticas culturales de la poblacin.
Su elaboracin lleva mucho tiempo y su aplicacin es costosa.
La entrevista
La entrevista es una conversacin presencial entre dos personas, entrevistador y entrevistado, que se emplea para recoger datos desde la subjetividad de este ltimo (descripciones, puntos de vista, sentimientos,
percepciones sobre situaciones o expectativas).
Hay dos clases de entrevistas: semi estructurada (tambin denominada
entrevista guiada o dirigida) y en profundidad (tambin llamada entrevista libre, no directiva, no estructurada o etnogrfica). La diferencia entre
ambas es de orden metodolgico y radica en el nivel de estructuracin
de temas y preguntas y en el rol que juega el entrevistador.
La entrevista semi estructurada
La entrevista semi estructurada trabaja con una gua de entrevista (especie de cuestionario con preguntas abiertas) que determina los temas,
las preguntas para cada tema y el orden en que se van a formular. Desde
ese punto de vista, sigue un procedimiento definido de antemano, aunque deja al entrevistador cierta libertad en el proceso de ejecucin, por
ejemplo, en el uso de la repregunta o en la profundidad y tiempo con el
que se aborda cada tema.
Algunas de las caractersticas bsicas de la entrevista semi estructurada
son las siguientes:
Es un instrumento fronterizo entre los mtodos cuantitativo y cualitativo. Con los datos obtenidos por su aplicacin es posible hacer
anlisis cuantitativo (estadstica simple con frecuencias y porcentajes)
y cualitativo (interpretacin). Siempre trabaja con los datos recurrentes entre los distintos entrevistados.
Permite cierta flexibilidad en la formulacin de las preguntas y el
uso de la repregunta, lo que deriva de la dinmica del dilogo que se
establezca.
Por lo general se aplica a poblaciones relativamente extensas (alrededor de 30 informantes), lo que hace necesario trabajar con muestras
intencionales.
59
60
La entrevista en profundidad
61
Ventajas:
Permiten trabajar temas con el nivel de profundidad y precisin deseado. Esto bsicamente por la posibilidad del uso de la repregunta
y por la libertad de la que goza el entrevistador. Evidentemente, esta
ventaja es mayor en las entrevistas en profundidad.
Producen informacin de una gran riqueza, en la medida que el entrevistado responde y reflexiona utilizando sus propias concepciones
y empleando, para ello, su propio lenguaje y sus propios cdigos
culturales.
Permiten observar actitudes y conductas, en general todo lo
concerniente al lenguaje no verbal. Ello constituye un plus de
informacin.
Limitaciones:
62
no desea responder, el que miente voluntariamente, el que involuntariamente se deja llevar por los procesos selectivos de la memoria o
refiere experiencias muy deformadas.
El problema del vocabulario es importante, pues tanto el entrevistador como el entrevistado pueden asumir significados diferentes para
algunos trminos o conceptos.
El procesamiento de los datos recogidos con entrevistas es complejo,
trabajoso y ocupa mucho tiempo, en especial cuando se trabaja con
entrevistas en profundidad.
Es una tcnica de recoleccin de informacin que emplea los procedimientos de la entrevista no directiva aplicados a informantes reunidos
para participar en una sesin colectiva sobre uno o algunos pocos temas
concretos.
El grupo de discusin dirigida (GDD) se desarrolla como una conversacin, un intercambio entre personas, que promueve un dilogo
abierto y espontneo, apoyado por un moderador.
Pertinencia y utilidad
Tercera parte: Herramientas para la evaluacin
Al igual que las entrevistas individuales, los GDD son pertinentes para
recoger datos desde la subjetividad de los informantes como descripciones, puntos de vista, sentimientos, grados de satisfaccin, percepciones
sobre situaciones o expectativas.
Permiten que los informantes expresen sus ideas, concepciones e
intereses de manera espontnea, sin ser definidas y estructuradas previamente por otras personas. Adicionalmente, crean condiciones para
el tratamiento de temas no previstos en los diseos iniciales de recojo
de informacin. En los GDD los miembros del grupo generan nuevas
ideas porque se estimulan mutuamente. La dinmica del grupo empuja
63
Procedimientos de ejecucin
64
Hay algunos procedimientos que segn Vias (1995) son comunes a los
GDD y que es necesario respetar para que stos adquieran validez.
El nmero ptimo de participantes en un GDD debe ser entre 5
y 10. Un grupo de ese tamao permite un dilogo fluido y puede ser
moderado con ms facilidad. En un grupo muy pequeo la discusin
tiende a ser dirigida por los individuos ms influyentes. Por el contrario,
los grupos grandes tienden a fragmentarse en grupos ms pequeos que
entablan conversaciones separadas y paralelas, situacin que es difcil de
controlar por el moderador.
Para facilitar un intercambio abierto de opiniones y puntos de vista,
los grupos no deben componerse de individuos con intereses demasiado
divergentes en relacin al tema que se discuta. Deben ser homogneos,
compuestos por participantes que compartan caractersticas y experiencias. En general, los participantes de estratos socioeconmicos diferentes
no pueden establecer una conversacin en un plano de igualdad. Algo
similar suceder en algunas comunidades con las diferencias de gnero
o edad.
La seleccin de los participantes es intencional. El evaluador define
algunos criterios de inclusin (caractersticas deseables en los participantes) y se elige a los participantes por su disponibilidad, siempre que
cumplan con los criterios previamente establecidos. Un grado aceptable
de representatividad se consigue clasificando a la poblacin observada a
partir de variables relevantes para la evaluacin. Una vez que las variables
han sido identificadas, los grupos se forman asegurndose que todas se
encuentren representadas en ellos, buscando homogeneidad intragrupal
y heterogeneidad intergrupal (diversas perspectivas).
En trminos de su ejecucin, el moderador debe conceder al participante la libertad de recorrer a su albedro el tema de discusin presentado
como una pregunta abierta. Es necesario abstenerse de toda intervencin
directiva, que introduzca en el campo de experiencias del participante una
estructura (manera de percibir, valor, meta, etc.). Para ello se requiere de
un moderador que rena tres condiciones: tener experiencia en la conduccin de grupos en el contexto de tcnicas participativas, conocer los
objetivos de la evaluacin para comprender e interpretar correctamente
las discusiones y las respuestas de los participantes, y conocer las normas
y cdigos culturales de la comunidad.
El moderador, que se dedica a orientar las discusiones, debe ser
acompaado por un asistente para recoger los comentarios del grupo y
dar sus impresiones personales.
Ventajas y limitaciones
Ventajas:
Es una tcnica ms rpida y econmica que las entrevistas individuales. Un GDD puede ser realizado en unas dos horas, que es algo
ms de lo que normalmente dura una entrevista, pero se recoge la
opinin de entre 5 a 10 informantes.
65
Limitaciones:
Los participantes pueden no querer expresar opiniones personales o
revelar aspectos sobre actitudes y comportamientos que no desean
discutir abiertamente.
Existe el peligro que el moderador pueda malinterpretar la informacin extrada (sesgo del evaluador). Los sesgos ms comunes son:
confirmar supuestos e hiptesis previas, apartando la informacin que
las refute e interpretando de forma errnea la discusin del grupo y
buscar consistencia dentro de cada GDD y entre ellos, simplificando
en extremo la realidad.
66
Los talleres multiactores no tienen como propsito principal recopilar informacin sino facilitar su construccin. Asimismo, no buscan la
suma de ideas individuales sino ms bien construir consensos, manejar
diferencias y establecer compromisos a futuro.
Pertinencia y utilidad
Definir los objetivos de los talleres: para qu llevar a cabo los talleres?,
qu acuerdos o consensos se desea construir?
Definir los temas sobre los que van a discutir los diferentes actores:
qu temas se van a abordar?
Traducir la gua de temas en un programa para los talleres: cmo
se van a desarrollar los talleres?, cmo van a trabajar los distintos
actores?
67
Ventajas:
Constituyen un proceso empoderador en s mismo, en la medida que
a travs de los trabajos de grupos y las plenarias los actores fortalecen
sus capacidades de interaccin, negociacin y concertacin.
Facilitan y democratizan el proceso de toma de decisiones, en la medida que el resultado derive en acuerdos, compromisos y consensos.
Facilitan procesos de planificacin participativa, mientras que en
las plenarias los actores se proyectan, concertadamente, hacia el
futuro.
Limitaciones:
68
Pertinencia y utilidad
69
Las fuentes de datos e informacin secundaria de uso comn en la evaluacin son las siguientes:
Informacin producida por organismos pblicos como los censos
nacionales, censos agropecuarios, encuestas de hogares (o equivalentes) y otros estudios ms especficos y localizados, en el caso que los
hubiera.
Estadsticas sectoriales en educacin, salud y empleo.
Informacin obtenida en las evaluaciones ex ante y en los diagnsticos iniciales, si los hubiera. En general, toda la data producida por
el proyecto al momento de ejecutar la evaluacin.
70
Algo que definitivamente nos va a ayudar a tomar este tipo de decisiones es conocer el sentido y el propsito de las tcnicas e instrumentos
asociados a uno u otro mtodo. Las asociadas a mtodos cuantitativos
(encuestas, escalas, pruebas objetivas, entre otras) responden a preguntas
del tipo cunto? y con qu frecuencia?, miden directamente la condicin
o el cambio en variables especficas como rendimientos en las cosechas
o variaciones en los ingresos, y proporcionan resultados numricos para
un anlisis estadstico. Las asociadas a mtodos cualitativos (entrevistas,
GDD, talleres, entre otras) responden a preguntas como por qu cree
que esto ocurri? y cmo cree que le afectar?, operan con las descripciones que la gente hace de lo que ha observado, ha hecho o siente, y el
anlisis es ms interpretativo.
Es muy probable que los hechos que vayamos a evaluar hagan necesario trabajar en simultneo con mtodos cuantitativos y cualitativos,
y las tcnicas e instrumentos que se asocian a ellos. De hecho, en los
ltimos aos la gran mayora de los evaluadores combinan mtodos y
asumen la diversidad metodolgica (posicin eclctica) como parte de
su quehacer.
Cada tcnica e instrumento de los que potencialmente se pueden
utilizar en evaluacin tiene sus propias ventajas y limitaciones en trminos de la confiabilidad de los datos que recogen, la dificultad para su
operacin y los costos que supone su uso. En ese sentido, es lgico que
algunos de ellos aparezcan como alternativas para la observacin de los
mismos tipos de hechos. Es muy probable tambin que a lo largo de la
evaluacin de un proyecto se tenga que elegir entre unos y otros.
A continuacin presentamos un cuadro de criterios para la seleccin
de tcnicas e instrumentos que se debe utilizar para tomar este tipo de
decisiones en las mejores condiciones.
71
Criterios de seleccin
Opinin
Pertinencia (el instrumento es adecuado para el tipo de informacin que se desea obtener?)
Factibilidad (el instrumento puede ser aplicado dados los
recursos humanos y materiales con que se cuenta?)
Costo (el instrumento es ms barato que otros por unidad
aplicada o por muestra?)
Oportunidad (el instrumento puede ser aplicado en el tiempo
disponible?)
Participacin (favorece espacios de participacin e involucramiento de los actores locales?)
Puntaje
Adaptado de: desco (2006b).
72
Existe mucha confusin en relacin a la participacin y el uso de tcnicas e instrumentos de aplicacin grupal o individual. Es importante
tener presente que una tcnica o instrumento no es intrnsecamente
participativa o no. El carcter participativo depende de quines y cmo
son involucrados en la eleccin de los temas a tratar, en la recoleccin
de los datos, en el anlisis y el uso de la informacin que se produzca.
Situmonos en dos casos tpicos:
Podemos optar por una tcnica de aplicacin colectiva, por ejemplo
un GDD con actores locales. Si el proceso fue encargado a un consultor externo que elabor la gua (instrumento) sin consultar a los
actores, luego desarroll la dinmica con el grupo e hizo el anlisis
de los datos levantados de manera individual y, es ms, redact un
informe slo intercambiando ideas con el equipo tcnico del proyecto
o programa, no podemos hablar de un proceso participativo. Estamos
frente a un tpico proceso extractivo, en que la participacin de
los actores locales se limita a la condicin de informantes.
Los casos presentados nos permiten sostener que distintas tcnicas e instrumentos pueden ser operados en contextos participativos, dependiendo
de las decisiones que los encargados de las evaluaciones tomen y de los
espacios que estn dispuestos a brindar a otros actores en los procesos
de evaluacin.
Tomado de: Rodrguez Sosa, Rotondo y Vela (2007).
Podemos optar por una tcnica de aplicacin individual, por ejemplo, una encuesta a productores. Si desde un inicio se involucra a
los mismos en la definicin de los temas y tpicos que la encuesta va
a abordar y, luego de aplicada, se los vuelve a convocar para que se
involucren en el anlisis y tomen decisiones sobre el uso que se le dar
a la informacin obtenida, entonces estamos frente a una situacin
en que la participacin de los productores ha superado con mucho
la condicin de simples informantes. Claro est que habr algunos
temas tcnicos como el diseo del formato de la encuesta (cuestionario) o la determinacin de la muestra adecuada para la misma, que
necesariamente tendrn que estar en manos de especialistas.
73
Para estimar el tamao que debe tener una muestra, es necesario hacer
jugar varios elementos: el parmetro a estimar, el error muestral admisible,
la varianza poblacional y muestral, y el nivel de confianza.
A continuacin presentamos algunos conceptos bsicos relativos a
la poblacin y la muestra.
74
4
Este captulo contiene los aportes de Ral Ruiz Escurra, participante del Programa de
Formacin en Evaluacin ejecutado por desco con el apoyo de la Fundacin W. K. Kellog.
POBLACIN
MUESTRA
Nivel de confianza (1-). Cualquier dato que se recoja de una poblacin est distribuido segn una ley
de probabilidad (Gauss o Student). As, llamamos nivel de confianza a la probabilidad que el intervalo
construido en torno a un estadstico capte el verdadero valor del parmetro. Es la probabilidad que
la estimacin efectuada se ajuste a la realidad.
Error muestral (i). Es la diferencia entre un estadstico y su parmetro: Y - y . Dado que la muestra
no produce informacin completa sobre una poblacin, se produce una diferencia o error de valores
entre las caractersticas reales de la poblacin y las obtenidas a partir de la muestra, que se denomina
error muestral. Es un error previsto en los procesos de determinacin de muestras.
V2
Donde:
n=
( Z 2 / 2 ) * ( S 2 )
75
( Z 2 / 2 ) * p * (1 p )
i2
76
77
A travs de algn medio mecnico (bolas dentro de una bolsa, tablas de nmeros aleatorios, nmeros aleatorios generados con una
calculadora u ordenador, etc.) se eligen tantos individuos como sea
necesario hasta completar el tamao de muestra requerido.
Muestreo aleatorio sistemtico. Consiste en seleccionar unidades desde
un listado a partir de intervalos fijos. Produce los mismos resultados que
el muestreo aleatorio simple.
El procedimiento estandarizado es el siguiente:
Se asigna un nmero a cada individuo de la poblacin en un listado
correlativo que se denomina marco poblacional.
Se divide el tamao de la poblacin entre el tamao de la muestra
(N / n), para obtener una cifra que se denomina coeficiente de
elevacin.
Se elige por algn procedimiento al azar un nmero (de la lista) menor
al coeficiente de elevacin, que es la primera unidad de la muestra.
78
Muestreo aleatorio por conglomerados. Las tcnicas presentadas hasta ahora estn pensadas para seleccionar directamente unidades de la
poblacin, es decir, tomando en cuenta que las unidades muestrales
son unidades en la poblacin. En el muestreo por conglomerados la
unidad muestral es un grupo de elementos de la poblacin que forman
una unidad a la que se llama conglomerado. Por ejemplo, comunidades
campesinas, empresas rurales, asociaciones de productores, reas geogrficas, etc.
El procedimiento estandarizado es el siguiente:
79
MUESTREO
VENTAJAS
Sencillo y de fcil comprensin.
Aleatorio
simple
DESVENTAJAS
Requiere que se posea de antemano un
listado completo de toda la poblacin.
Cuando se trabaja con muestras pequeas
es posible que no represente a la poblacin adecuadamente.
Aleatorio
Sistemtico
Aleatorio
Estratificado
presente adecuadamente a la
estratos seleccionados.
ficacin.
Se obtienen estimaciones ms
precisas.
Su objetivo es conseguir una
muestra lo ms semejante posible a la poblacin, en lo que a
las variables de estratificacin
se refiere.
Es muy eficiente cuando la
poblacin es muy grande y
Por
Conglomerados
80
dispersa.
Muestreo no probabilstico
Se caracteriza porque la seleccin de las unidades de la muestra no depende de la probabilidad sino de decisiones del evaluador o de quien
define la muestra, procurando que la misma se acerque a la nocin y
condicin de representatividad.
Por lo general se aplica para definir muestras no muy extensas y se
utiliza tanto para encuestas como para entrevistas semi estructuradas.
81
82
GE
CP
GC
SP
Donde:
GE Grupo experimental (expuesto a la intervencin).
GC
SP
Sin proyecto.
TIEMPO
Experimental
Antes
D1 Despus
X
G
R
U
P
D3
O
S
De control
D4
Y
D2
D1 = (x- x) Representa los cambios producidos en el grupo experimental, como consecuencia de los efectos de un
proyecto (variables endgenas) y de modificaciones
contextuales (variables exgenas) no atribuibles al
mismo. Comparacin antes-despus en la poblacin
experimental.
D2 = (y - y) Representa los cambios producidos en el grupo de
control, como resultado de la incidencia de variables
exgenas al proyecto. Comparacin antes-despus en
la poblacin de control.
Donde:
83
Expresa las diferencias iniciales entre los grupos experimental y de control, que deben ser minimizadas e, incluso, idealmente deberan no existir. En esta situacin
ideal, las poblaciones difieren slo porque en una se
ejecuta un proyecto, mientras que en la otra no.
D4 = (x - y) Expresa la diferencia final entre los grupos experimental y de control, que se deriva de los cambios
endgenos (proyecto) en x y exgenos (contexto)
en y. Comparacin con-sin proyecto entre ambas
poblaciones.
D3 = (x - y)
84
85
86
CP
87
88
parte
Cuarta
el PROCesO de EVALUACIN
89
90
El plan de evaluacin es un acuerdo explcito entre distintos actores sociales que participan de un proyecto de desarrollo y est referido a qu
evaluar, para qu y cmo hacerlo. Supone procesos de reflexin, concertacin y planeamiento sobre la manera de llevar a cabo una experiencia
de evaluacin que conduzca a tomar decisiones informadas, mejorar la
gestin y lograr aprendizajes colectivos.
Nuestra propuesta de plan de evaluacin comprende ocho pasos y
puede ser utilizada al inicio de las acciones de un proyecto (momento
de planificacin) o al revisar y redefinir las pautas de evaluacin previstas
para proyectos en curso.
Los pasos son los siguientes.
Pasos del plan de evaluacin
91
La propuesta se presenta como una gua abierta para que los actores
ligados al desarrollo local tomen decisiones sobre sus propias acciones y
proyectos. No se presenta como un esquema cerrado y estandarizado o
como una receta, sino como una propuesta que debe ser experimentada
crticamente en cada territorio o entorno institucional en que se la utilice,
para ser reformulada y adaptada en caso de ser necesario.
92
En la segunda parte de este texto, que hemos denominado La construccin del objeto de evaluacin, y ms especficamente en los captulos 1 y
2 de la misma (La construccin del objeto de evaluacin y Los indicadores,
respectivamente), se presenta el vnculo existente entre el modelo de
evaluacin (plan de evaluacin en su totalidad) por el que se opta, la
realidad que se quiere cambiar y las estrategias de intervencin que se
maneja en los proyectos, que en ltimo anlisis responden a los marcos
de referencia, las experiencias vividas y los intereses concretos de quienes
disean y ejecutan los proyectos.
Toda evaluacin supone en gran parte un ejercicio de validacin de
determinadas apuestas por el cambio, que se traducen en estrategias y
acciones concretas llamadas proyectos de desarrollo local.
En trminos operativos, la construccin del objeto de evaluacin
responde a las siguientes interrogantes: qu concepciones del cambio
social estn detrs del proyecto a evaluar?, cmo se manifiesta la realidad
que se quiere cambiar?, en qu aspectos o dimensiones?, en cules ha
intervenido el proyecto y cmo?, qu cambios se espera producir?, con
qu criterios los vamos a observar? Se trata de establecer qu se quiere
cambiar, en qu sentidos y con qu herramientas, para luego poder definir qu se va a evaluar.
Presentamos un ejemplo de construccin de objeto de evaluacin para
la Teora de cambio con que opera la Iniciativa de Conjuntos Integrados
de Proyectos que promueve la Fundacin W. K. Kellogg en Amrica
Latina.
PREGUNTAS
Estrategias locales (qu se hace?)
Cul es la situacin de la institucionalidad local?
Capital social
Capital humano
Capital productivo
Alianzas
interinstitucionales
Contexto
Cambios no previstos
Cambios emergentes
Esquema de objeto de evaluacin elaborado en base a documentos de trabajo de la Fundacin W. K. Kellogg sobre
la Teora de cambio.
93
Los propsitos de una evaluacin tienen que ver con su sentido y alcances,
y por lo comn se asocian a preguntas como las siguientes: por qu es
necesario llevar a cabo una evaluacin?, qu informacin va a ofrecer?,
para quin?, para qu usos?
A continuacin presentamos un ejemplo de propsitos para una
evaluacin.
Propsitos de la evaluacin
94
95
96
Los datos con los que se trabaja en una evaluacin pueden ser considerados de dos tipos: primarios y secundarios. Los datos primarios son
aquellos que no existen con anterioridad a los procesos de observacin,
por esa razn deben ser construidos durante los mismos preguntando a
las personas, que en este caso se denominan informantes.
Los datos secundarios existen antes de los procesos de observacin,
estn ya construidos y almacenados en fuentes como bibliotecas especializadas, bancos de datos, data institucional de programas o proyectos, y
las tcnicas que se utiliza con ellos son de recojo o recoleccin. Entre las
ms comunes tenemos el anlisis documental (revisin de documentos)
y el anlisis estadstico (uso y reconstruccin de estadsticas).
RESULTADO
Diferentes actores
sociales, privados y
pblicos, desarrollan,
practican y fortalecen
la modalidad asociativa de alianza para
ejecutar proyectos e
iniciativas locales de
inters comn
PREGUNTAS
ORIENTADORAS
INDICADORES DE EFECTO
Cuntos proyectos e
iniciativas se ejecutan
por la modalidad de
alianza?
Porcentaje de miembros clave de las organizaciones que conforman las alianzas que manifiestan
haber mejorado sus prcticas para el trabajo
asociativo, segn:
Acceso y uso de informacin de inters comn
Uso de metodologas para el manejo de
relaciones y conflictos
Uso de prcticas de concertacin
Elaboracin y evaluacin de proyectos e
iniciativas concertadas
Qu tan visible es el
trabajo de las alianzas a
nivel local?
Qu tan favorable es la
opinin de otros actores
locales sobre el trabajo
de las alianzas?
97
Criterios de comparacin
98
Primarios
Secundarios
Dnde se encuentran?
Se aplican instrumentos
informantes identificados
Se los recolecta
reconocidas
de
fuentes
INDICADOR DE EFECTO
Nmero de alianzas por nivel de consolidacin,
segn:
INFORMANTES /
FUENTES
Informantes:
Responsables de las
alianzas
Fuentes:
En el captulo 2 (Las tcnicas y los instrumentos) de la tercera parte (Herramientas para la evaluacin) se presenta un pequeo abanico de tcnicas e
instrumentos de uso comn en la evaluacin y un conjunto de criterios
para su seleccin que son necesarios tener en cuenta. En trminos muy
puntuales, el proceso de seleccin responde a interrogantes como las
siguientes: qu necesidades de informacin tenemos?, cules ligadas
a los indicadores y cules ligadas a preguntas sobre el contexto o los
procesos?, qu informantes tenemos previsto elegir?, con qu tcnicas
e instrumentos sera ms conveniente trabajar dadas las necesidades de
informacin y el tipo de informantes?
Entonces, tenemos tcnicas e instrumentos vinculados a los indicadores y las preguntas que se formulan en las evaluaciones. Para cada
indicador o pregunta deber determinarse las tcnicas e instrumentos,
teniendo presente que entre unas y otras no existe una relacin biunvoca. Es decir, no necesariamente se dispondr de un instrumento por
indicador, puede que un indicador requiera del uso combinado de dos o
99
TCNICAS E INSTRUMENTOS
Encuesta
Encuesta
100
101
102
Para iniciar el trabajo de campo es necesario asegurarse que los instrumentos dispuestos para recoger los datos sean vlidos y que se cuenta con la
gente y la logstica necesarias para aplicarlos en las mejores condiciones.
Algunos temas importantes del trabajo de campo sobre los que es necesario prestar especial atencin, son los que se exponen a continuacin.
La validacin de instrumentos
Una vez que se ha definido con qu tcnicas se va a trabajar en la evaluacin y que se han diseado los instrumentos correspondientes, es
necesario ponerlos a prueba antes de su aplicacin definitiva. La puesta
a prueba tiene tres propsitos: cerciorarse si los instrumentos observan
lo que se quiere observar, ver si el lenguaje que utilizan (en preguntas e
instrucciones) es claro y entendible para los operadores e informantes, y
tener una idea clara del tiempo que se tendra que emplear para su aplicacin y de los recursos que sern necesarios para optimizar el proceso.
Para cumplir con esos propsitos es necesario valorar la versin
preliminar de los instrumentos a travs de dos rutas de verificacin: el
juicio de expertos y la prueba piloto.
103
El juicio de expertos
El juicio de expertos consiste en recopilar opiniones emitidas por informantes calificados sobre los niveles de validez de un instrumento, entendiendo a la validez como la coherencia entre lo que el instrumento puede
observar y lo que con l se pretende observar. En otras palabras, lo que
se busca es constatar si la relacin entre las preguntas del instrumento,
los indicadores o preguntas orientadoras y las dimensiones de anlisis,
es una relacin coherente.
Para llevar a cabo este proceso es muy frecuente el uso de formatos
que permiten a los expertos convocados visualizar la coherencia entre los
elementos mencionados. A continuacin presentamos un formato.
Formato para juicio de expertos
Resultados /
Dimensiones
Indicadores
/ Preguntas
orientadoras
Niveles de
coherencia horizontal
104
Preguntas del
instrumento
Escala
1
Comentarios
Opinin
Tanto en evaluacin como en investigacin social se trabaja con distintos formatos
adaptados a las rutas de operacionalizacin de dimensiones y variables, y a las caractersticas
de los instrumentos a ser validados.
La razn de trabajar con 30 unidades se encuentra en la tendencia de diferentes
distribuciones paramtricas (distribucin binomial, de Fisher, Chi-cuadrado, T de Student)
a parecerse a una curva de distribucin normal conforme se va incrementando el tamao
de muestra que representan. Desde un tamao de muestra de 30 unidades, todas las distribuciones mencionadas y todas las conocidas arrojan resultados muy similares a la curva
de distribucin normal.
105
106
La recoleccin de datos requiere conformar grupos de operadores distribuidos segn el tipo de instrumento que se vaya a utilizar. En ese sentido,
ser necesario trabajar con equipos para encuestas, entrevistas o aquellos
instrumentos que se haya seleccionado para la evaluacin.
Como es lgico deducir, para integrar cada equipo ser necesario
considerar capacidades especficas. Son muy distintas las capacidades
necesarias de un encuestador que las de un entrevistador. Este ltimo debe
conocer mucho ms del tema sobre el que gira la entrevista, al margen del
conocimiento sobre la tcnica como tal. Mayores diferencias habr con las
capacidades de un moderador (facilitador de dilogos), que deber sumar
al conocimiento sobre los temas a abordar, experiencia en el manejo de
grupos y el dominio de tcnicas para eventos participativos.
107
En trminos generales, se requerir de gente con mayores capacidades mientras ms abierta y cualitativa sea la tcnica o el instrumento a
utilizar, y el nivel de complejidad se incrementar con aquellas tcnicas
que hacen uso sistemtico de la participacin.
108
Algunos de los contenidos que son necesarios trabajar en la capacitacin son los siguientes:
Las caractersticas formales de cada instrumento, el tipo de preguntas
que contienen, las instrucciones que se debe seguir, el tiempo que se
debe utilizar en la aplicacin, etc.
La identificacin de los informantes, los criterios para su inclusin
en las muestras y para su seleccin, las rutas para su ubicacin, etc.
Los propsitos de la evaluacin y el rol de los datos y los operadores
en ella.
Las causas ms frecuentes de error en la recoleccin de datos y las
maneras de superarlos.
La disposicin logstica
109
110
111
112
Distribuir los datos por temas con una lgica inductiva. Ir de los temas ms especficos (por ejemplo, indicadores y preguntas) a aquellos
ms generales (por ejemplo, dimensiones y resultados). Se trata de
ir armando cajones de datos de distintos tamaos, unos dentro de
otros, tomando en cuenta las necesidades metodolgicas del anlisis
y, fundamentalmente, los propsitos de la evaluacin.
Ingresar los datos ordenados en una base de registro, que puede ser
fsica o informtica.
Una vez que los datos se hayan ordenado es necesario evaluar si son
los suficientes, en cantidad y calidad, para el anlisis de cada tema. Es
casi seguro que algunos de los datos recogidos van a sobrar, ya sea porque
su pertinencia es mnima o porque por efecto de las tendencias en los
datos mismos se llega a niveles de saturacin en algunos temas. Esto no
debe ser causa de preocupacin, en todo proceso de evaluacin se pierde
datos e, incluso, se pierde informacin ms elaborada.
113
114
115
Las conclusiones
116
Las lecciones son aprendizajes sobre la prctica lo suficientemente consolidados como para ser utilizados en el mejoramiento de la prctica misma y
replicados para mejorar las prcticas de otros proyectos similares. Algunas
interrogantes para extraer lecciones podran ser las siguientes: de iniciar
nuevamente la ejecucin del proyecto, qu haramos de la misma manera
y qu haramos de manera distinta?, cules de las prcticas utilizadas en
el proyecto han sido las mejores?
Ejemplo
Lecciones aprendidas en el marco de un informe de evaluacin
117
Las recomendaciones
Una vez que se tiene formuladas las conclusiones que se consideren necesarias y las lecciones que se haya podido extraer del proceso, se pasa a
la formulacin de recomendaciones. Estas, que se basan en las anteriores,
son prescripciones sobre lo que se debe hacer y quin lo debe hacer, con el
propsito de incorporar ajustes a un proyecto en ejecucin o incorporar
nuevos y mejores elementos en la formulacin de nuevos proyectos.
Las recomendaciones deben reunir los siguientes requisitos:
Responder a las limitaciones, problemas o dilemas identificados en
las evaluaciones.
Formularse de manera precisa, indicando a qu actores van dirigidas
y en relacin a qu asuntos.
Ser coherentes con la orientacin del proyecto e indicar los pasos a
seguir para ponerlas en prctica, es decir, ser viables.
Ejemplo
Recomendaciones en el marco de un informe de evaluacin
118
4. LA COMUNICACIN DE RESULTADOS
En esta fase se ofrece un conjunto de lineamientos conceptuales y metodolgicos que tienen los siguientes propsitos: ayudar a los equipos en
las tareas de comunicar los resultados de la evaluacin y definir criterios
y mecanismos para asegurar el uso de esos resultados en los diferentes
momentos de ejecucin de los proyectos.
La identificacin de pblicos y contenidos
119
120
Seguramente es posible identificar otros actores tambin involucrados con los proyectos, aunque de manera menos directa como pblicos
pero de menor importancia. Esto no quiere decir que la informacin
no les deba llegar o que no se hagan esfuerzos en ese sentido, sino que
el inters principal debe estar puesto en los actores con mayores niveles
de vinculacin.
Dada la diversidad de pblicos, es casi seguro que al momento de
definir la estrategia de comunicacin nos encontremos con el hecho que
estos pblicos tienen diferentes necesidades de informacin. Una situacin como esa hace necesario dar respuesta a una interrogante como la
siguiente: qu informacin es pertinente para quin? La respuesta nos
llevar a establecer el tipo de vnculos que los diferentes pblicos tienen
con los proyectos, los intereses que se desprenden de esos vnculos y las
necesidades de informacin que resultan.
Los contenidos: qu comunicar?
cules para los actores locales clave, o para los representantes de entidades
gubernamentales.
Un conocimiento profundo de las necesidades de informacin de
cada pblico facilitar la seleccin y presentacin de los contenidos.
Pero, cmo identificar con certeza las necesidades de informacin de
cada pblico? Veamos algunas recomendaciones generales:
Mantener una comunicacin permanente con los usuarios potenciales
de los resultados de la evaluacin, con el doble propsito de mantenerlos informados sobre los alcances y caractersticas de la informacin que arrojar la evaluacin, e informarse sobre sus necesidades
de informacin, dado que pueden cambiar con relativa velocidad.
Colocarse en el lugar del usuario potencial y plantearse interrogantes
como las siguientes: hasta qu punto y de qu manera la informacin
resulta relevante frente a mis problemas reales?, hasta qu punto
resulta prctica, til e inmediatamente aplicable a mi situacin?, qu
prcticas de comunicacin me facilitan la oportunidad en la entrega
y el acceso a la informacin?
Enfocar todo el proceso en el uso que se le dar a los resultados de la
evaluacin. Esto permitir clarificar las necesidades de informacin,
pero fundamentalmente promover el uso sistemtico de los resultados, que no es un hecho que ocurra de manera natural.
La seleccin de medios
Cuarta parte: El proceso de evaluacin
Luego de identificar a los distintos pblicos y las particulares necesidades de informacin de cada uno de ellos, es el momento de decidir
qu medios se utilizar para comunicar esa informacin. Es importante
tener siempre presente que los medios que utilicemos influirn en los
niveles de acceso, comprensin y confiabilidad que tendr la gente de
la informacin transmitida. De ello tambin depender el uso que se le
brinde a futuro.
Si bien tenemos a disposicin diversos medios para comunicar informacin, la gran mayora de informes de evaluacin se transmiten con
121
Vdeos y CD multimedia.
122
La ms importante fortaleza de los espacios de comunicacin interpersonal es que favorecen una interaccin muy fluida. Los participantes
pueden preguntar, cuestionar y opinar sobre la informacin que les presentan, generando dilogos favorables al aprendizaje colectivo (Torres,
Preskill y Piontek, 2005).
123
124
ANEXO 1
EL INFORME DE EVALUACIN
Anexo 1
125
Tcnicas e instrumentos aplicados con cada fuente (describir la manera como se tuvo en cuenta la perspectiva de los diferentes actores
involucrados en la experiencia).
126
Muestras definidas.
Programa de trabajo desarrollado (fechas, lugares y actividades especficas realizadas).
II. El proyecto
Contexto de ejecucin.
Objetivos y resultados esperados.
En el caso de una evaluacin final es importante describir brevemente el proceso de
evaluacin desarrollado a lo largo de la ejecucin del proyecto, y cmo sus resultados se
tienen en cuenta en el informe.
Eficacia:
Comparacin con referentes iniciales: comparacin del valor de los
indicadores en la situacin inicial (estudio de base) y las siguientes
evaluaciones.
Comparacin con referentes finales: comparacin de los resultados
alcanzados y los resultados esperados, mostrando el nivel de consecucin de logros, efectos y orientaciones al impacto.
Para efectuar estos dos tipos de comparacin, se recomienda utilizar
la siguiente matriz:
Resultados
esperados
Indicadores
Valor inicial
Resultados alcanzados
(estudio de base)
(momento de evaluacin)
Anexo 1
127
128
Cmo se usaron las capacidades institucionales y los recursos disponibles, teniendo en cuenta las caractersticas del contexto y las condiciones
institucionales.
Valoracin del desarrollo institucional y posicionamiento conseguido
con el proyecto:
Influencia del proyecto en el fortalecimiento/debilitamiento de las
estructuras, procedimientos, dinmicas y polticas institucionales.
Posicionamiento institucional logrado en el contexto de los participantes o beneficiarios y ante otros actores e instituciones.
Fundamentar las valoraciones y juicios con referencias concretas a
las fuentes consultadas. Datos y hallazgos relacionados con indicadores
129
VII. Conclusiones
ANEXOS
Matriz de evaluacin (modelo de evaluacin).
Formatos de los instrumentos utilizados.
Formatos para el anlisis de datos.
Mapas de la zona.
Evaluacin de proyectos de desarrollo local
130
ASPECTOS TCNICOS
Extensin
Corto y conciso
30 pginas (sin incluir anexos)
Estilo
Lenguaje sencillo
nfasis en anlisis crtico y no en la descripcin
Presentacin de testimonios como respaldo del anlisis de los hechos presentados
Uso de cuadros y grficos sencillos
Cubierta
ndice
Resumen ejecutivo
Captulos contenidos en el informe
Anexos del informe
Nmero de pgina para cada tem
Resumen
ejecutivo
Documento independiente
8 pginas o menos
Brevsima descripcin de la metodologa de la evaluacin
Hallazgos ms importantes
Principales aprendizajes
Resumen de las conclusiones y recomendaciones ms significativas
Anexo 1
131
132
ANEXO 2
ORGANIZACIN e implementacin
DE LA EVALUACIN*
Anexo 2
*
Adaptado de la Gua para la Implementacin de la Evaluacin de la Iniciativa de
Conjuntos Integrados de Proyectos elaborada por desco (2005).
Determinacin del objeto de evaluacin, elaboracin de la matriz de planificacin,
el diseo de instrumentos de recojo de datos, etc.
133
134
Ser el nexo entre los integrantes del equipo de evaluacin, manteniendo una comunicacin constante (informes permanentes de
los acuerdos a los que lleguen, informacin requerida, dificultades,
etc.).
Convocar a reuniones de coordinacin al equipo de evaluacin,
definir plazos para el cumplimiento de tareas asignadas, actualizar el
calendario de actividades pendientes, etc.
En la etapa de recoleccin de la informacin deber liderar el proceso
organizando, monitoreando e informando al equipo de evaluacin
el avance diario del proceso.
Anexo 2
135
Recuadro 1
Esquemas de presentacin de las caractersticas de los instrumentos diseados
Instrumentos segn tipo y tamao de muestra
Muestra
Tipo de
Denominacin
instrumento
Tipo
Formato
Encuesta a hogares
Encuesta
Entrevista
Por censo
Tamao
210
Detallado
Encuesta a hogares
Diferenciacin por
municipio
La distribucin de la muestra se realiza segn la participacin porcentual de los hogares de cada municipio respecto
al total de hogares en el territorio y requiere contar con
informacin secundaria pertinente.
136
Encuesta a hogares
Actor
Informacin
secundaria
Dos tipos de
informantes:
- Jefe de hogar
- Joven miembro
del hogar
Definicin
Informantes clave
Recuadro 2
Esquema de cronograma de trabajo con plazos y responsables
Etapa de preparacin del proceso
Actividades
Responsable
Duracin
(das)
Fecha
Equipo de evaluacin
19-May / 25-May
Equipo de evaluacin
26-May
29-May / 30-May
31-May / 5 - jun
REUNION DE COORDINACIN ENTRE LOS EQUIPOS DE TRABAJO (COORDINADORES DE PROYECTO, EQUIPO LOCAL Y
CENTRAL DE EVALUACIN)
Informe del proceso
Equipo de evaluacin
6-Jun
7-Jun
8-Jun / 13-Jun
8-Jun / 13-Jun
Equipo de evaluacin
Seleccin de encuestadores
Preparacin de logstica para la capacitacin
Preparacin de la capacitacin
Equipo de evaluacin
12-Jun / 18-Jun
Convocatoria a informantes
Equipo de evaluacin
14-Jun / 18-Jun
14-Jun / 18-Jun
Anexo 2
137
INSTRUMENTO
RESPONSABLES
INFORMACIN SECUNDARIA
(REQUERIDA PARA APLICACIN)
INSTITUCIN
Encuesta a jvenes
Encuesta a hogares
PERSONAS
Zonas o sectores
138
Hogares
Nmero
Porcentaje
Sector 1: Concepcin
200
17%
Sector 2: Matahuasi
250
21%
Sector 3: Mito
325
27%
Sector 4: Orcotuna
160
13%
Recuadro 4
Caractersticas de los operadores segn instrumento
Operadores
Instrumentos a aplicar
N
C
N
R
Das de
trabajo
Perfil requerido
Aplicaciones por
operador
Por
Total
da
Informacin secundaria
sobre datos poblacionales
de jvenes
Total
Encuesta a hogares
18
14
Entrevista a informantes
clave en polticas y programas para jvenes
Segn
mapeo
15
210
Aplicacin de
instrumentos
Digitacin
Expectativas de
participacin en
el proceso de
evaluacin
Encuesta a jvenes
Ninguna
Ganar experiencia
Experiencia en:
Nombres y apellidos
Edad
Nivel educativo
25
Tcnico en
administracin
18
Estudiante
3. Rosa Fuentes
Preparar la logstica para cada una de las etapas del proceso de evaluacin, principalmente para las etapas de recoleccin y digitalizacin
de la informacin. Incluye la convocatoria del personal de apoyo en los
talleres de capacitacin y los recursos necesarios para dichos talleres:
locales, equipos, materiales, entre otros (ver recuadro 6).
Anexo 2
139
Recuadro 6
Cuadro de recursos logsticos para la capacitacin
Unidad
Cantidad
N das
Precio
unidad
(US$)
Sub
Total
INFRAESTRUCTURA
Ambiente para reunin de
coordinacin y capacitacin
Unidad
Responsable
Computadora porttil
Unidad
Can multimedia
Unidad
Pizarra acrlica
Unidad
Manuales de capacitacin
Manual
94
470
Lapiceros
Caja 50
unid.
50
100
Borradores
Caja 50
unid.
50
100
Unidad
100
100
770
MATERIALES
108
RECURSO HUMANO*
Profesional
Profesional
10
Encuestadores - Jefe de
hogar y jvenes (hogares)
Encuestador
18
Encuestadores - Informantes
clave de programas dirigido
a jvenes
Encuestador
TRANSPORTE LOCAL
(US$)
0
EQUIPOS
140
TOTAL
104
138
Profesional
10
1.5
75
Encuestadores - Jefe de
hogar y jvenes (hogares)
Encuestador
18
1.5
54
Encuestadores - Informantes
clave de programas dirigido
a jvenes
Encuestador
1.5
ALIMENTACIN**
104
322.4
Profesional
10
3.1
155
Encuestadores - Jefe de
hogar y jvenes (hogares)
Encuestador
18
3.1
167.4
TOTAL COSTOS DE
CAPACITACIN
1230.4
* Para el caso de las encuestas y los formularios estructurados, se sugiere capacitar a 50% ms del nmero de encuestadores necesarios. Esto a fin
de suplir alguna posible ausencia de encuestadores al momento de la aplicacin. Por otro lado, estas personas pueden contribuir a la supervisin
de campo.
** El gasto diario de alimentacin por persona incluye dos refrigerios y un almuerzo.
Los das de capacitacin de los encuestadores incluyen un da de presentacin del enfoque de la evaluacin.
Anexo 2
141
Recuadro 7
Esquema de cronograma de trabajo con plazos y responsables
Etapa de capacitacin
Responsable
Duracin
(das)
Fecha
Equipo de evaluacin
14 Jun
Equipo de evaluacin
14-Jun /
18-Jun
19-Jun
Equipo de evaluacin
19-Jun
Encuesta a hogares
Equipo de evaluacin
20-Jun
Equipo de evaluacin
20-Jun
21-Jun
Actividades
ACCIONES PREVIAS
Seleccin de encuestadores y envo de listado
Preparacin de la logstica de capacitacin
Preparacin de la capacitacin
REUNIN DE COORDINACIN
Presentacin de los equipos de trabajo
Todos
Equipo de evaluacin
Equipo de evaluacin
Equipo de evaluacin
Equipo de evaluacin
Equipo de evaluacin
Equipo de evaluacin
Seleccin de informantes
Seleccin de digitadores
142
Equipo de evaluacin
3. Recoleccin de DATOS
Recuadro 8
Esquema de cronograma de trabajo con plazos y responsables
Etapa de recoleccin de datos
Actividades
Responsable
Duracin (das)
Fecha
Equipo de evaluacin
14-Jun / 16 Jun
Equipo de evaluacin
14-Jun
Equipo de evaluacin
15-Jun / 16-Jun
Equipo de evaluacin
19-Jun / 23-Jun
26-Jun
27-Jun / 01-Jul
11
28-Jun / 04-Jul
05-Jun
ACTIVIDADES PREVIAS
Equipo de evaluacin
Equipo de evaluacin
Equipo de evaluacin
Equipo de evaluacin
APLICACIN DE ENCUESTAS
Actividades diarias:
- Coordinacin encuestadores y supervisores (entrega de viticos y lista de entrevistados del da)
Equipo de evaluacin
Encuestadores
Equipo de evaluacin
Encuestadores
Entrevistadores
Equipo de evaluacin
Equipo de evaluacin
Supervisores
Equipo de evaluacin
Anexo 2
Encuestadores
Entrevistadores
Equipo de evaluacin
Equipo de evaluacin
143
Llevar la estadstica del levantamiento de datos y reportar al coordinador del avance, problemas y soluciones que se dan durante la
aplicacin.
144
4. Digitacin de DATOS
Etapa que consiste en trasladar los datos recogidos desde los formatos
fsicos a un programa informtico de recepcin para lo cual se requerir
de computadoras.
Las actividades generales a realizar durante esta etapa son:
Elaborar plantillas para la digitacin de datos contenida en los
instrumentos aplicados. Dependiendo del tipo de instrumento y
del anlisis que se desee realizar, la elaboracin de estas plantillas
pueden ser sencillas y pueden elaborarse en paquetes informticos
de uso cotidiano (MS Excel, MS Word) o en paquetes especializados
(EPIDATA, CS-PRO, MS ACCESS).
En el caso de las encuestas, se recomienda elaborar plantillas con EPIDATA o CS-PRO (ambos gratuitos y de uso fcil). La especializacin de
estos software en la construccin de estas plantillas mejora notablemente
la rapidez del ingreso de datos y reduce significativamente los errores de
digitacin (ver recuadro 9).
Recuadro 9
Plantillas para la digitacin de encuestas
Anexo 2
145
Temas priorizados
Fueron asumidos
por el Estado?
Por qu?
1.
2.
146
Recuadro 11
Esquema de cronograma de trabajo con plazos y responsables
Etapa de digitacin de datos
Actividades
Responsable
Duracin
(das)
Equipo de evaluacin
Equipo de evaluacin
10-Jul
11-Jul
12-Jul / 16-Jul
Fecha
ACCIONES PREVIAS
Preparacin de la logstica para la digitacin
Seleccin de digitadores
3-Jul / 7-Jul
VACIADO DE INFORMACIN
Capacitacin de digitadores en el vaciado de informacin
Vaciado piloto
Supervisin del vaciado piloto
Vaciado de instrumentos aplicados por internet
Supervisin del vaciado de instrumentos
Digitadores
Equipo de evaluacin
Digitadores
Equipo de evaluacin
Anexo 2
147
5. Procesamiento de DATOS
Esta etapa consiste en transformar los datos recogidos en informacin pertinente y relevante. Para ello deben realizarse las actividades siguientes.
Definir categoras de anlisis que sirvan para agregar los datos recogidos de manera abierta. La construccin de las categoras puede
realizarse observando todas las respuestas para, a partir de stas,
construir categoras que ayuden a agrupar y ordenar la informacin.
Tambin pueden tomarse categoras definidas en estudios anteriores.
En cualquier caso, las categoras a utilizar dependen de la variedad
de los datos recogidos y del conocimiento del tema estudiado.
148
Recuadro 12
Construccin de categoras
14.7. En su opinin, cules fueron los principales valores que le ha entregado la educacin escolar
para desarrollarse en su vida?
2.
luego de observar las respuestas de los encuestados se construy la siguiente estructura de categorizacin donde la categora de tercer nivel corresponde a la que se va a utilizar en el anlisis
Categora de Tercer Nivel
VALORES DE CONVIVENCIA Y
AFECTO
VALORES DE CONVIVENCIA
VALORES MORALES
VALORES MORALES
VALORES PARA EL
DESARROLLO PERSONAL
OTROS VALORES
VALOR AL TRABAJO - LABORIOSIDAD
VALORES DE SEGURIDAD PERSONAL
OTROS VALORES
OTROS VALORES
149
Recuadro 13
Formato para categorizar las respuestas abiertas
Respuestas digitadas
Categora de primer
nivel
Categora de segundo
nivel
Categora de tercer
nivel
LABORIOSIDAD
LABORIOSIDAD
VALOR AL TRABAJO
- LABORIOSIDAD
VALORES PARA EL
DESARROLLO PERSONAL
VALOR AL TRABAJO
LABORIOSIDAD
VALOR AL TRABAJO
LABORIOSIDAD
VALORES PARA EL
DESARROLLO PERSONAL
AUTOESTIMA
VALORES DE SEGURIDAD
PERSONAL
CONFIANZA EN M MISMO
CONFIANZA EN S MISMO
VALORES DE SEGURIDAD
PERSONAL
CONFIANZA EN S MISMO
VALORES DE SEGURIDAD
PERSONAL
A DESENVOLVERME ANTE LA
SOCIEDAD
DESENVOLVIMIENTO
DESENVOLVERME FCIL
DESENVOLVIMIENTO
DISCIPLINA
La categorizacin se inicia asignndole a cada respuesta una categora de primer nivel. Luego se procede
con los dos niveles superiores.
150
Construir cuadros una vez que los datos recogidos se encuentren listos
en trminos de datos completos, coherencia de las respuestas, categorizacin de las respuestas abiertas, etc. Es recomendable elaborar un
listado de cuadros lo ms completo posible para ayudar a la identificacin de los datos relevantes para el anlisis (ver recuadro 14).
Recuadro 14
Relacin de cuadros elaborados
Recuadro 15
Esquema de cronograma de trabajo con plazos y responsables
Etapa de procesamiento de la informacin
Actividades
Responsable
Elaboracin de categoras
Duracin
(das)
Fecha
17-Jul
22-Jul / 24-Jul
Anexo 2
151
Recuadro 16
Esquema de cronograma de trabajo con plazos y responsables
Etapa de anlisis de datos y elaboracin de informes
Actividades
Elaborar un esquema de contenidos para el informe
Seleccionar la informacin construida que sea til para el informe
Elaboracin de informes
152
Responsable
Equipo de
evaluacin
Equipo de
evaluacin
Duracin
(das)
Fecha
17-Jul
18-Jul l
14
19-Jul /
01-Ago
153
154
INEI. 2000. Muestreo bsico para ejecucin e interpretacin de encuestas. Coleccin mtodos y aplicaciones estadsticas para la enseanza universitaria.
Lima: INEI.
Krause, M. 1995. La investigacin cualitativa: un campo de posibilidades y
desafos. En: Revista Temas de Educacin. N 7.
Kushner, S. 2002. Personalizar la evaluacin. Madrid: Ediciones Morata.
Lohr, Sharon. 2000. Muestreo: diseo y anlisis. Mxico: International
Thomson Editores.
Bibliografa
155
156