guía de orientación

Transcripción

guía de orientación
MODELO DE EVALUACIÓN DE RESULTADOS
GUÍA DE ORIENTACIÓN
PROGRAMA TRANSPARENTEMOS - CHILE
13 DE DICIEMBRE DE 2012
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN ÍNDICE DE CONTENIDOS
1.
APROXIMACIÓN AL MODELO DE EVALUACIÓN DE RESULTADOS ................................................... 4
1.1 ¿A QUÉ LLAMAMOS MODELO DE EVALUACIÓN DE RESULTADOS(MODELO)? .............................. 4
1.2. ¿CUÁL ES EL PROPÓSITO DEL MODELO DE EVALUACIÓN DE RESULTADOS? ............................ 4
1.3. ¿QUÉ CARACTERÍSTICAS POSEE EL MODELO? ................................................................................ 5
1.4. ¿QUIÉNES SON LOS PRINCIPALES USUARIOS DEL MODELO? ....................................................... 5
1.5. ¿QUIÉNES SON LOS PÚBLICOS DE LA EVALUACIÓN Y RENDICIÓN DE CUENTAS? ..................... 6
1.6. ¿CÓMO SE ESTRUCTURA EL MODELO? ............................................................................................. 6
A. INSTRUMENTOS ................................................................................................................................... 7
B. ETAPAS .................................................................................................................................................. 7
C. FINALIDAD DE USO .............................................................................................................................. 9
1.7. ¿QUÉ PODEMOS OBTENER A PARTIR DE LA IMPLEMENTACIÓN DEL MODELO? ....................... 10
1.8. ¿QUÉ DEBEMOS ANALIZAR ANTES DE COMPENZAR A IMPLEMENTAR EL MODELO? ANÁLISIS
DE LAS CONDICIONES DE EVALUABILIDAD ............................................................................................ 11
2.
¿CÓMO FUNCIONA EL MODELO? ........................................................................................................ 14
ACCESO 1: DIRECTORIO DE INSTRUMENTOS .................................................................................... 15
ACCESO 2: ETAPAS ................................................................................................................................ 17
ACCESO 3: FINALIDAD ........................................................................................................................... 19
3.
ORIENTACIÓN PARA EL USO DE INSTRUMENTOS ............................................................................ 21
1. PLAN ESTRATÉGICO / OPERATIVO ....................................................................................................... 22
2. ENTREVISTAS EN PROFUNDIDAD ........................................................................................................ 24
3. EFECTIVIDAD SOSTENIBLE ................................................................................................................... 26
4. ENTREVISTAS BASADAS EN CUESTIONARIOS ................................................................................... 28
5. EVALUACION DE MEDIO TÉRMINO ....................................................................................................... 30
6. INDICADORES CUANTITATIVOS Y CUALITATIVOS .............................................................................. 32
7. TALLER PARTICIPATIVO ......................................................................................................................... 34
8. EVALUACION FINAL ................................................................................................................................ 36
9. LECCIONES APRENDIDAS ...................................................................................................................... 38
10. MEJORES PRACTICAS .......................................................................................................................... 39
/ 13 DE DICIEMBRE DE 2012
Página 2
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN NOTA ACLARATORIA
En el marco del proyecto TRANSPARENTEMOS, María Agustina Budani (de ZIGLA Consultores)
fue convocada para el diseño de un Modelo de Evaluación de Resultados con el objetivo de
generar y difundir información sobre el impacto y evaluación de resultados alcanzados por las
organizaciones de la sociedad civil en un período determinado.
Este documento es la primer versión borrador de la Guía de Orientación del Modelo de Evaluación
de Resultados (MODELO) propuesto a consideración del Grupo de Trabajo del programa
Transparentemos.
Los contenidos de este documento tienen por objeto servir de guía a los usuarios de las OSFL en la
implementación del Modelo de Evaluación de Resultados con una mirada integral sobre los procesos
de trabajo; los resultados alcanzados y el impacto integral que alcanza cada una de sus
organizaciones.
Se espera que esta "Guía de Orientación del modelo de evaluación de resultados” ayude a los
diferentes usuarios de las OSFL a comprender su manejo, y hallar sugerencias y atajos para la
incorporación efectiva del MODELO al interior de su organización. La propuesta es que el usuario
utilice esta Guía teniendo acceso simultáneamente a la plataforma interactiva del MODELO con el fin
de ir comprendiendo paso a paso las utilidades del mismo y así optimizar su funcionalidad.
/ 13 DE DICIEMBRE DE 2012
Página 3
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN 1. APROXIMACIÓN AL MODELO DE EVALUACIÓN DE RESULTADOS
Las Organizaciones Sin Fines de Lucro (OSFL) de la sociedad civil chilena se enfrentan ante el
desafío de asumir una mayor responsabilidad acerca del impacto que generan en la sociedad.
Resulta importante que estas organizaciones tengan una mejor comprensión de cómo su gestión y
actividades afectan al éxito de sus programas y así poder generar la confianza pública necesaria en
su rol de administradores de recursos. Esto permitirá asegurar niveles adecuados de inversiones,
donaciones, voluntariado, y otras colaboraciones que contribuyan a su sostenibilidad en el tiempo.
Es en este contexto que surge la oportunidad de avanzar en el diseño e implementación de un
MODELO DE EVALUACIÓN DE RESULTADOS para estas organizaciones.
1.1 ¿A QUÉ LLAMAMOS MODELO DE EVALUACIÓN DE RESULTADOS (MODELO)?
Es importante hacer una primera distinción entre evaluación de impacto y rendición de cuentas
de impacto. En el primer caso, nos referimos al diseño de elementos que nos permitan relevar el
alcance de nuestras acciones (condiciones de evaluabilidad), mientras que en el segundo caso se
hace alusión también al vehículo que utilizaremos (estrategias de comunicación y difusión) para
dar cuenta de aquello que hemos capturado.
ENFOQUE DE RENDICIÓN DE CUENTAS (ACCOUNTABILITY)
La aplicación de este enfoque permite conducir procesos y resultados de monitoreo y evaluación
en cada una de las etapas, tendientes hacia la construcción y el fortalecimiento de canales de
comunicación y rendición de cuentas a los distintos públicos y grupos de interés. Su principal
contribución es la promoción de prácticas y mecanismos de transparencia, apertura al diálogo y
e intercambio con los distintos stakeholders.
1.2. ¿CUÁL ES EL PROPÓSITO DEL MODELO DE EVALUACIÓN DE RESULTADOS?
El Modelo de Evaluación de Resultados se propone:
•
Mejorar las condiciones de evaluabilidad de las organizaciones a través de la incorporación
de una metodología flexible y factible de implementar en las OSFL que facilite la
sistematización, formalización y comunicación de sus resultados e impacto.
•
Generar vehículos de rendición de cuentas que contemplen qué es lo que se quiere
comunicar y a quiénes.
/ 13 DE DICIEMBRE DE 2012
Página 4
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN 1.3. ¿QUÉ CARACTERÍSTICAS POSEE EL MODELO?
La rendición de cuentas no se reduce a la elaboración de informes si no que es algo más; es un
proceso en el que hay que definir a quién rendir cuentas, quién lo hace y cómo. El desafío del
MODELO es entonces modelizar, es decir elaborar un diseño que sea adaptable a las necesidades
de cada OSFL, y que integre diferentes atributos centrales para su ágil incorporación.
ALGUNOS ATRIBUTOS CENTRALES DEL MODELO:
•
•
•
•
•
Simple: sus contenidos se presentan de manera clara, sencilla, entendible, coherente
y visualmente atractiva para no desalentar su uso.
Flexible: se adapta a los recursos disponibles y características de las diferentes OSFL
y permite rendir cuentas de manera efectiva a sus diferentes públicos estratégicos y
grupos de interés.
Interactivo: la navegación del modelo es ágil y dinámica y permite intercambios
amigables y efectivos para que el usuario sienta que realmente controla y maneja la
aplicación.
Autogestionable: puede ser utilizado por las mismas OSFL, y los productos de cada
una de las etapas pueden servir de insumos para una refinación de las tareas de la
organización.
Factible: presenta instrumentos y modos de implementación realizables y accesibles
para las organizaciones, y en su diseño contempla la continuidad de las evaluaciones
en el corto, mediano y largo plazo.
1.4. ¿QUIÉNES SON LOS PRINCIPALES USUARIOS DEL MODELO?
El modelo está pensado para adaptarse a las necesidades de las OSFL chilenas, con lo cual su
diseño no implica conocimientos técnicos específicos ni una disponibilidad horaria de dedicación
exclusiva a su implementación, sino que busca acercar herramientas que puedan adoptadas de
manera sencilla por los equipos de las OSFL y luego implementadas en la cotidianeidad del trabajo
de las organizaciones.
•
El principal y primer usuario suele ser un miembro de la OSFL con responsabilidades
técnicas sobre programas o proyectos. Él es quien tendrá mayor relación periódica con
los instrumentos del MODELO. Ej: coordinador o líder de programas.
•
Otro usuario importante del MODELO es alguien de la organización con una
responsabilidad institucional sobre la toma de decisiones y el reporting a los diferentes
públicos de interés. Ej: Gerente de Programas o Director Ejecutivo.
/ 13 DE DICIEMBRE DE 2012
Página 5
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN 1.5. ¿QUIÉNES SON LOS PÚBLICOS DE LA EVALUACIÓN Y RENDICIÓN DE CUENTAS?
En el flujo de rendición de cuentas hay diferentes direcciones y públicos:
1. Hacia arriba: donantes, gobiernos y fundaciones;
2. Hacia abajo, a los grupos de metas primarios: poblaciones
marginalizadas, beneficiarios;
3. Hacia adentro: personal e integrantes de la Junta Directiva;
4. Horizontalmente: a pares, aliados y socios.
1.6. ¿CÓMO SE ESTRUCTURA EL MODELO?
En primer lugar, el MODELO presenta los diferentes instrumentos a utilizar para poder incorporar
mejores condiciones de evaluabilidad en las organizaciones y así rendir cuentas del impacto de un
determinado proyecto, iniciativa u organización. Luego presentará de qué manera estos
instrumentos se vinculan según distintas etapas y según la finalidad que se le quiera dar. En ese
contexto, a continuación se presentan:
A. INSTRUMENTOS
B. ETAPAS
C. FINALIDAD DE USO
/ 13 DE DICIEMBRE DE 2012
Página 6
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN A. INSTRUMENTOS
El Modelo se compone de un conjunto de instrumentos, los cuales representan los resultados
generales de las consultas al mismo.
INSTRUMENTOS
¿Qué características poseen?
1. PLAN ESTRATÉGICO / OPERATIVO
2. ENTREVISTAS EN PROFUNDIDAD
3. EFECTIVIDAD SOSTENIBLE
•
Son aplicables.
•
Suponen un usuario que los utilice (son medios).
•
Poseen una finalidad.
•
Generan productos que requieren de personas
activas y criterios para ser interpretados,
analizados, agregados, etc.
4. ENTREVISTAS BASADAS EN CUESTIONARIOS
5. EVALUACIÓN DE MEDIO TÉRMINO
6. INDICADORES CUANTITATIVOS Y CUALITATIVOS
7. TALLER PARTICIPATIVO
8. EVALUACIÓN FINAL
9. LECCIONES APRENDIDAS
10. MEJORES PRÁCTICAS
B. ETAPAS
Desde una perspectiva de evaluación y rendición de cuentas, las principales etapas que se
encuentran presentes en el MODELO son:
1. Identificación y Diseño
Se indica el problema a resolver y se formulan alternativas adecuadas para alcanzar los objetivos.
La clara identificación y medición del problema social permite conocer la magnitud de la brecha entre
la “situación actual” y la “situación esperada” lo cual facilita plantear los objetivos que procuran
disminuirla o eliminarla.
/ 13 DE DICIEMBRE DE 2012
Página 7
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN 2. Monitoreo de la implementación
Se realiza el seguimiento de la implementación y resultados de los procesos. El alcance del
monitoreo de programas o estrategias sociales va mucho más allá del cumplimiento de actividades y
tareas en tiempo y forma durante su implementación. Durante esta instancia se
busca principalmente hacer un seguimiento del desarrollo de las actividades planteadas para
optimizar procesos, medir los resultados de la implementación, analizar los éxitos y fracasos
detectados e identificar los cambios que puedan generar mejores resultados.
3. Evaluación de resultados
Durante esta instancia se analiza el grado de cumplimiento de los objetivos generales. La evaluación
de resultados, se centra principalmente en los resultados de un programa, proyecto o iniciativa y
aporta información sobre el alcance de los resultados obtenidos. Durante esta instancia se prioriza
en qué medida la intervención de la organización ha logrado alcanzar sus metas y resultados
esperados, haciendo foco también en las actividades realizadas, los productos obtenidos y el
cumplimiento de los cronogramas estipulados.
4. Evaluación de impacto
Análisis de los resultados sostenibles de largo plazo de las estrategias. Durante esta instancia se
busca identificar los impactos mediatos - positivos o negativos, intencionales o no - en los
beneficiarios, las organizaciones y el medio ambiente causados por un programa o una estrategia.
Esta etapa suele estar distanciada en el tiempo de la de evaluación de resultados, que tiene una
intervención inmediata a la finalización de la intervención. VINCULACIÓN Y PRIORIZACIÓN DE INSTRUMENTOS SEGÚN ETAPAS
1. PLAN ESTRATÉGICO / OPERATIVO
2. ENTREVISTAS EN PROFUNDIDAD
3. EFECTIVIDAD SOSTENIBLE
4. ENTREVISTAS BASADAS EN CUESTIONARIOS
5. EVALUACIÓN DE MEDIO TÉRMINO
6. INDICADORES CUANTITATIVOS Y CUALITATIVOS
7. TALLER PARTICIPATIVO
8. EVALUACIÓN FINAL
9. LECCIONES APRENDIDAS
10. MEJORES PRÁCTICAS
/ 13 DE DICIEMBRE DE 2012
Página 8
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN C. FINALIDAD DE USO
Los instrumentos que conforman el MODELO pueden ser clasificados según las siguientes
finalidades de uso:
FINALIDAD
1. PLANIFICACIÓN Y FORMULACIÓN
2. CAPTURA Y RELEVAMIENTO
3. ANÁLISIS Y SISTEMATIZACIÓN
4. COMUNICACIÓN Y REPORTING
1. Planificación y formulación
El MODELO considera especialmente importante que desde una perspectiva de rendición de
cuentas de impacto se utilicen desde la etapa de Identificación y Diseño instrumentos que garanticen
una clara formulación de los objetivos de la intervención, los resultados esperados, las metas, los
responsables, las actividades, el cronograma y los recursos necesarios, entre otros.
2. Captura y relevamiento
Otra de las finalidades de uso de los instrumentos del MODELO es la de poder capturar información
relevante para el seguimiento y la evaluación de las diferentes intervenciones de la organización. Ya
en la etapa de Monitoreo como en la Evaluación de Resultados o de Impacto, es imprescindible
contar con un conjunto heterogéneo y flexible de herramientas adecuadas para el relevamiento de
información crítica.
3. Análisis y sistematización
Otra de las finalidades clave a tener en cuenta es la vinculada al análisis y sistematización de la
información crítica relevada. Para ello, el MODELO sugiere la utilización de instrumentos adecuados
para procesar y organizar de manera inteligente todo el volumen de documentación, datos y
testimonios provenientes del relevamiento.
4. Comunicación y reporting
Luego de haber relevado y sistematizado información es importante contar con instrumentos
orientados a comunicar y reportar de forma clara y transparente a los diferentes públicos de interés
los resultados parciales o finales de nuestra intervención. Para ello, el MODELO sugiere una serie
de instrumentos cuya aplicación permitirá generar los insumos adecuados para esta finalidad.
/ 13 DE DICIEMBRE DE 2012
Página 9
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN VINCULACIÓN Y PRIORIZACIÓN DE INSTRUMENTOS SEGÚN FINALIDAD DE USO
1. PLAN ESTRATÉGICO / OPERATIVO
2. ENTREVISTAS EN PROFUNDIDAD
3. EFECTIVIDAD SOSTENIBLE
4. ENTREVISTAS
BASADAS EN CUESTIONARIOS
5. EVALUACIÓN DE MEDIO TÉRMINO
6. INDICADORES CUANTITATIVOS Y CUALITATIVOS
7. TALLER PARTICIPATIVO
8. EVALUACIÓN
FINAL
9. LECCIONES APRENDIDAS
10. MEJORES PRÁCTICAS
1.7. ¿QUÉ PODEMOS OBTENER A PARTIR DE LA IMPLEMENTACIÓN DEL MODELO?
Además de mejorar las condiciones de evaluabilidad de las organizaciones y agilizar su flujo de
rendición de cuentas antes los diferentes grupos de interés, la aplicación del MODELO permitirá a su
vez:
•
Tomar decisiones acertadas acerca de la viabilidad de llevar a cabo un emprendimiento, y
poder hacerlo de manera efectiva.
•
Articular los distintos niveles de responsabilidad en la organización, como así también
lograr unificar objetivos con los donantes o socios externos que participan de los programas
sociales.
•
Apalancar los recursos humanos y financieros disponibles para incrementar el impacto de la
organización.
•
Reorientar las estrategias y acciones a partir del aprendizaje generado.
•
Replicar las oportunidades exitosas, mediante la utilización de las lecciones aprendidas y la
evaluación de los objetivos propuestos.
/ 13 DE DICIEMBRE DE 2012
Página 10
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN Algunos de los productos más frecuentes que se utilizan para poder comunicar y rendir cuentas de
los resultados y el impacto capturado a través del MODELO pueden ser:
•
PÁGINA WEB DE LA ORGANIZACIÓN
•
INFORMES Y MINUTAS INTERNAS
•
REPORTES Y PRESENTACIONES EXTERNAS
•
COMUNICADOS DE PRENSA
1.8. ¿QUÉ DEBEMOS ANALIZAR ANTES DE COMPENZAR A IMPLEMENTAR EL MODELO?
ANÁLISIS DE LAS CONDICIONES DE EVALUABILIDAD
Para poder dar un mayor uso a los instrumentos del modelo, es recomendable realizar previamente
un análisis de las condiciones de evaluabilidad de la organización.
Las condiciones de evaluabilidad son una serie de factores favorables de la Organización de cara a
la implementación de un proceso de evaluación y medición de impacto social. Estos factores se
organizan dentro de 5 dimensiones.
Dimensión 1: Formalidad Programática
1. ¿La organización tiene definida una misión, visión, objetivos?
2. ¿Cada acción o programa tienen definidos sus objetivos generales?
3. ¿Cada acción o programa que lleva adelante tienen definidas metas?
4. ¿Los objetivos y metas se revisan periódicamente?
5. ¿Los objetivos y metas están alineados a la misión o estrategia general de la Organización?
Dimensión 2: Cultura de Medición y Análisis
1. ¿En la organización, existe la costumbre de analizar la evolución de los programas y
servicios que implementa?
2. ¿El análisis que realizan, se consolida en documentos o planillas para su posterior reflexión?
3. ¿Se realiza una medición de los avances de los programas en función de objetivos
planteados inicialmente?
/ 13 DE DICIEMBRE DE 2012
Página 11
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN 4. ¿Se utilizan conclusiones de los análisis de los programas como parte de un proceso de
planificación de otros programas nuevos?
Dimensión 3: Recursos de Evaluación
1. ¿Hay suficiente cantidad de RRHH como para asignar horas al cumplimiento de las
funciones de evaluación?
2. ¿Los recursos humanos asignados específicamente, tienen los conocimientos técnicos para
llevar adelante la evaluación?
3. ¿Hay recursos tecnológicos que se puedan destinar al cumplimiento de las funciones
asignadas?
4. ¿Están en condiciones de destinar recursos económicos para el proceso de evaluación?
5. ¿Cuenta el staff con los recursos tecnológicos necesarios para llevar a cabo funciones de
evaluación? (computadoras, equipos de comunicación, movilidad, etc.)
Dimensión 4: Participación de Stakeholders
1. ¿Los donantes de la organización tienen expectativas de conocer cuál es el impacto de la
organización?
2. ¿Los partners de la organización tienen expectativas de conocer cuál es el impacto de la
organización?
3. ¿Los destinatarios de la organización tienen expectativas de conocer cuál es el impacto de
la organización?
Dimensión 5: Canales de Rendición de Cuentas
1. ¿La organización cuenta con espacios de difusión online de sus avances dirigidos a sus
diferentes stakeholders?
2. ¿La organización posee publicaciones dirigidas a comunicar sus avances a sus diferentes
públicos de interés?
/ 13 DE DICIEMBRE DE 2012
Página 12
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN Las cinco dimensiones con sus preguntas se integran en una herramienta de autoadministración
para las organizaciones que decidan llevar adelante la implementación del MODELO.
Esta herramienta es un Excel que se divide en dos secciones:
•
CHECKLIST: acá se responden todas las preguntas por SI o No.
•
CÁLCULO: a partir de las respuestas la herramienta calcula automáticamente el
estado de las condiciones de evaluabilidad y da sugerencias sobre qué aspectos se
deben reforzar. Los instrumentos para reforzar estos aspectos son los que se
encuentran en el MODELO.
Resultados del
TEST
Preguntas a
responder Si o No
/ 13 DE DICIEMBRE DE 2012
Página 13
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN 2. ¿CÓMO FUNCIONA EL MODELO?
Una vez analizados los componentes del MODELO, es necesario comprender cómo funciona y
cuáles son los diferentes puntos de ingreso para su utilización. Existen tres Puntos de Acceso al
MODELO:
1. DIRECTORIO DE INSTRUMENTOS: Permite acceder a la descripción completa de cada
uno de los instrumentos que conforman el MODELO en particular.
2. ETAPAS: Se podrá entrar al modelo a partir de diferentes etapas vinculadas a las
condiciones de evaluabilidad de las OSFL.
3. FINALIDAD: Se podrá acceder al modelo según lo que se quiera obtener de su aplicación.
A continuación se presenta el menú principal del MODELO en donde se muestra el acceso al
directorio de instrumentos, el acceso a etapas y el acceso a finalidades de uso. El siguiente menú
expuesto como imagen capturada proviene de la propuesta interactiva del MODELO hizo entrega en
formato pdf para que sea utilizada transitoriamente por sus usuarios hasta tanto el programa aloje en
su sitio web la versión final de esta plataforma.
Para poder comprender el funcionamiento de estos accesos se responderá en cada segmento a los
siguientes interrogantes:
/ 13 DE DICIEMBRE DE 2012
Página 14
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN 01/ ¿Qué es?
02/ ¿Quiénes lo pueden utilizar?
03/ ¿Qué necesita saber el usuario para acceder a él?
04/ ¿Cómo funciona?
ACCESO
1: DIRECTORIO DE INSTRUMENTOS
01/ ¿Qué es?
El Directorio de Instrumentos es la lista los instrumentos del MODELO.
02/ ¿Quiénes lo pueden utilizar?
El Directorio de instrumentos puede ser utilizado por todos los usuarios del MODELO.
03/ ¿Qué necesita saber el usuario para acceder a él?
El usuario simplemente necesita identificar el instrumento a utilizar.
04/ ¿Cómo funciona?
Una vez identificado el instrumento, el usuario deberá seleccionarlo.
Esto lo conducirá a una ficha de instrumento, en donde encontrará una tipificación y
caracterización del mismo. La ficha de instrumento contiene:
/ 13 DE DICIEMBRE DE 2012
Página 15
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN •
Una descripción general: Esta descripción define al instrumento y luego detalla sus
principales usos, ventajas y desventajas. A su vez, en algunos casos encontrará cuadros de
referencia que servirán para su potencial aplicación.
•
Un box técnico: que contiene diferentes tipificaciones del instrumento. Este box mantiene la
misma estructura para todos los instrumentos permitiendo al usuario poder compararlos
entre sí utilizando los mismos criterios.
CONTENIDOS DEL BOX TÉCNICO:
•
•
•
•
•
Tipo de instrumento: si es una Herramienta o una Metodología
Costo: Indica de forma cualitativa como serán los costos que deben ser involucrados
para la aplicación del instrumento.
Expertise: Indica el nivel de capacitación necesaria por quien aplicará el instrumento.
Utilidad: clasifica los instrumentos según la finalidad que se espera de la evaluación:
- Planificación y Formulación
- Captura y Relevamiento de datos
- Análisis y Sistematización
- Comunicación y Reporting
Etapa: clasifica los instrumentos según la instancia de evaluación en la que se aplican:
- Identificación y Diseño
- Monitoreo
- Evaluación de Resultados
- Evaluación de impacto
•
Modelo de aplicación: que contiene un modelo que facilitará la implementación del
instrumento.
/ 13 DE DICIEMBRE DE 2012
Página 16
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN ACCESO
2: ETAPAS
01/ ¿Qué es?
El Menú de etapas presenta las diferentes etapas vinculadas a garantizar condiciones de
evaluabilidad en las OSFL, y que es relevante tener presente a la hora de pensar en rendición de
cuentas de impacto.
Estas etapas son:
1.
2.
3.
4.
Identificación y Diseño
Monitoreo
Evaluación de Resultados
Evaluación de impacto
02/ ¿Quiénes lo pueden utilizar?
El Menú de etapas puede ser utilizado por todos los usuarios del MODELO.
03/ ¿Qué necesita saber el usuario para acceder a él?
El usuario simplemente necesita identificar la etapa en la cual pretende identificar instrumentos
sugeridos por el MODELO.
04/ ¿Cómo funciona?
Una vez identificada la etapa, el usuario deberá seleccionarla para acceder a la Matriz de Etapas.
/ 13 DE DICIEMBRE DE 2012
Página 17
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN Al seleccionar la etapa, el modelo conducirá al usuario a una matriz en donde se vinculan los
instrumentos recomendados y considerados prioritarios para cada una de las etapas del MODELO.
En esta matriz, el usuario deberá seleccionar el instrumento que desea utilizar, y así podrá acceder a
la ficha del mismo.
/ 13 DE DICIEMBRE DE 2012
Página 18
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN ACCESO
3: FINALIDAD
01/ ¿Qué es?
El Menú de Finalidad presenta las diferentes finalidades de uso que se le quiere dar a la
implementación del modelo.
02/ ¿Quiénes lo pueden utilizar?
El Menú de finalidad puede ser utilizado por todos los usuarios del MODELO.
03/ ¿Qué necesita saber el usuario para acceder a él?
El usuario simplemente necesita identificar las finalidades que quiere darle a los instrumentos
sugeridos por el MODELO.
04/ ¿Cómo funciona?
Una vez identificada la finalidad, el usuario deberá seleccionarla del Menú de Finalidad.
Al seleccionar la finalidad, el modelo conducirá al usuario a una matriz en donde se vinculan los
instrumentos recomendados y considerados prioritarios para cada una de las finalidades de uso que
se le quiera dar al modelo.
/ 13 DE DICIEMBRE DE 2012
Página 19
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN En esta matriz, el usuario deberá seleccionar el instrumento que desea utilizar, y así podrá acceder a
la ficha del mismo.
/ 13 DE DICIEMBRE DE 2012
Página 20
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN 3. ORIENTACIÓN PARA EL USO DE INSTRUMENTOS
En el siguiente capítulo se presenta el detalle de los 10 instrumentos sugeridos por MODELO, con
una orientación para su utilización por parte de los usuarios. En cada uno de los instrumentos se
ofrece una caracterización del instrumento que incluye una breve descripción general, su propósito,
ventajas y desventajas y algunas sugerencias prácticas para su aplicación.
Es importante señalar que todos estos instrumentos pueden ser aplicados tanto por programas y
proyectos como por cualquier iniciativa de intervención social como líneas de atención, servicios,
alianzas, etc.
INSTRUMENTOS
1. PLAN ESTRATÉGICO / OPERATIVO
2. ENTREVISTAS EN PROFUNDIDAD
3. EFECTIVIDAD SOSTENIBLE
4. ENTREVISTAS BASADAS EN CUESTIONARIOS
5. EVALUACIÓN DE MEDIO TÉRMINO
6. INDICADORES CUANTITATIVOS Y CUALITATIVOS
7. TALLER PARTICIPATIVO
8. EVALUACIÓN FINAL
9. LECCIONES APRENDIDAS
10. MEJORES PRÁCTICAS
/ 13 DE DICIEMBRE DE 2012
Página 21
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN 1. PLAN ESTRATÉGICO / OPERATIVO
El Plan es un documento en donde se consignan y formalizan los
objetivos, estrategias y resultados esperados para el transcurso
completo del programa o iniciativa de intervención. El documento
deberá reunir las siguientes secciones: objetivos (generales y
específicos), metas, análisis de contexto, identificación de riesgos,
alianzas identificadas y a desarrollar, presupuesto, cronograma,
equipo de trabajo y responsables. El Plan suele ser el primer paso
para garantizar las condiciones de evaluabilidad de un programa.
Este instrumento es, junto con los indicadores, el insumo central a lo
largo de todo el proceso de evaluación que supone el MODELO.
01. Propósito / ¿Para qué sirve? •
•
•
Tipo de Instrumento
Herramienta
Tiempo estimado
2/3 semanas
Expertise requerido
Bajo
¿Para qué se Utiliza?
• Planificación y
Formulación
• Comunicación y Reporting
¿En qué etapa se utiliza
mayormente?
• Diseño
• Monitoreo
• Evaluación de Resultados
Para formalizar un programa, proyecto o cualquier otra
iniciativa, y así poder definir la estrategia general de
intervención, como así también sus objetivos y
resultados esperados.
Para poder establecer las responsabilidades de todos los
integrantes del equipo y cronogramas de trabajo.
Para tener un parámetro de referencia a la hora de monitorear o evaluar resultados
parciales o finales de nuestra intervención.
02. Ventajas y Desventajas
•
•
Permite definir en forma clara y concisa los objetivos y así evitar errores de
organización, comunicación, etc.
Mejora la posibilidad de registrar y realizar un seguimiento de los logros en cada
oportunidad continental.
•
Puede ser poco flexible en los procesos a llevar a cabo y coartar las posibilidades de
innovación.
03. Funcionalidad / ¿Cómo lo uso? Para poder escribir el plan es recomendable que una persona dentro de la organización centralice la
tarea con la contribución de quienes son parte del desarrollo de la intervención. Un plan no debe ser
un documento largo, sino que debe buscar contener los objetivos, principales actividades,
responsables y resultados esperados y metas del trabajo. Contar con este documento desde el inicio
del trabajo permite que la aplicación de otros instrumentos de rendición de cuentas sea mucho más
simple y directa.
/ 13 DE DICIEMBRE DE 2012
Página 22
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN Información complementaria:
•
•
•
http://www.capac.org/web/Portals/0/biblioteca_virtual/doc004/CAPITULO%2020.pdf http://investigar1.files.wordpress.com/2010/05/el-arbol-de-problemas.pdf
Documento de diseño de objetivos. Carpeta de Documentos Soporte
/ 13 DE DICIEMBRE DE 2012
Página 23
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN 2. ENTREVISTAS EN PROFUNDIDAD
Son entrevistas que se realizan de manera no estructurada e indirecta
para obtener información que se realizan con una sola persona a la
vez. Este tipo de técnica en la investigación puede tener una duración
de 30 a 60 min, dependiendo del tema y la dinámica de entrevista. Se
busca generar un mayor nivel de confianza con el entrevistado con el
fin de que hable con libertad de sus expectativas, percepciones y
conocimientos.
Al igual que las entrevistas estructuradas, las entrevistas en
profundidad son complementarias a las instancias de evaluación de
medio término, evaluación final y la metodología de análisis de
efectividad sostenible. Por ello, es un instrumento que se implementa
en las etapas de monitoreo, evaluación de resultados y evaluación de
impacto.
01. Propósito / ¿Para qué sirve? •
Esta herramienta se utiliza para conocer lo que es
importante y significativo para el entrevistado/a; llegar a
comprender cómo ve, clasifica e interpreta un tema que
interesa para la investigación.
Tipo de Instrumento
Herramienta
Tiempo estimado
45/55 minutos por entrevista
+ tiempos de sistematización
Expertise requerido
Bajo
¿Para qué se Utiliza?
• Captura y Relevamiento de
Datos
¿En qué etapa se utiliza
mayormente?
• Diseño
• Monitoreo
• Evaluación de Resultados
• Evaluación de Impactos
02. Ventajas y Desventajas
•
•
Es una técnica muy útil cuando se trata de analizar temas que exigen un gran
anonimato.
Es una técnica válida cuando tenemos muy poca información sobre un tema y
queremos hacer una investigación explorativa.
•
El entrevistado/a puede tener problemas para manifestar sus puntos de vista respecto
de un tema concreto.
•
El desarrollo de la misma puede insumir bastante tiempo para quienes lo llevan
adelante. Dado que en promedio cada entrevista puede demorar unos 45 minutos más
los tiempos necesarios de sistematización de los resultados.
/ 13 DE DICIEMBRE DE 2012
Página 24
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN •
03. Funcionalidad / ¿Cómo lo uso? Las entrevistas en profundidad como las encuestas complementan el uso de otros instrumentos. Por
ejemplo, si se decide hacer una evaluación de medio término, estos instrumentos son los que
permiten capturar los datos. Para poder utilizarlos, antes de empezar a hacer las entrevistas se debe
diseñar la guía de entrevista e identificar a quiénes queremos entrevistar. Esta guía consiste en
señalar las 5/6 preguntas que esperamos que los entrevistados nos respondan y así poder dar una
idea del avance y aprendizajes que surgen del programa. Para poder elabora la guía se debe saber
qué es lo que se espera aprender del trabajo realizado. Por ejemplo, si quisiéramos aprender de los
errores que se dieron a lo largo del programa o acción en términos de su gestión, preguntaríamos a
diferentes personas involucradas durante el proceso sobre las cuestiones positivas y negativas a
destacar del desarrollo del trabajo.
Información complementaria:
http://www4.ujaen.es/~jggascon/Investigacion/Entrevista%20en%20profundidad.ppt
/ 13 DE DICIEMBRE DE 2012
Página 25
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN 3. EFECTIVIDAD SOSTENIBLE
La efectividad sostenible es una metodología de evaluación
relacionada a las metodologías de costo - efectividad. Si bien se basa
sobre un análisis de asignación de recursos y su consecuente
efectividad, esta metodología va un poco más allá y analiza la
sostenibilidad de los resultados. Es decir, analiza al mismo tiempo si
los recursos se invierten de manera efectiva y si esta inversión
resultará sostenible en el tiempo o no.
Jorge Hintze (2003) presenta este concepto al dar dos definiciones:
•
•
Efectividad: es la medida en que se logran los efectos como
consecuencia final de la asignación de los recursos.
Sostenibilidad: es la medida en que los efectos puedan
mantenerse una vez finalizada la asignación de los recursos.
01. Propósito / ¿Para qué sirve? Tipo de Instrumento
Metodología
Tiempo estimado
3/4 semanas de análisis
Expertise requerido
Medio
¿Para qué se Utiliza?
• Análisis y Sistematización
• Comunicación y
Reporting
¿En qué etapa se utiliza
mayormente?
• Monitoreo
• Evaluación de Resultados
Esta metodología se utiliza principalmente en los momentos
de evaluación de medio término y evaluaciones finales como
un método de análisis central. Las conclusiones que se
derivan de su aplicación son utilizadas en etapas de monitoreo y evaluación de resultados.
02. Ventajas y Desventajas
•
•
De manera visual y concreta esta metodología propone una forma simple de comparar
avances dentro de un programa, una estrategia o un proyecto.
Esta metodología puede requerir bastante información que no siempre se recoge durante el
monitoreo de un programa o líneas de acción.
03. Funcionalidad / ¿Cómo lo uso? Esta metodología de análisis se suele usar como complemento en instancias de evaluación de
medio término y final. No tiene sentido realizar este análisis de manera aislada, sino durante esas
dos instancias. El documento clave para poder realizar este análisis es el Plan estratégico u
operativo. Si se cuenta con este plan en donde están los objetivos y resultados esperados del
programa o línea de acción, es posible aplicar este análisis y ver cuánto de lo que se esperaba
alcanzar se alcanzó y cuáles son los desafíos.
/ 13 DE DICIEMBRE DE 2012
Página 26
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN TIPS DE APLICACIÓN - EFECTIVIDAD SOSTENIBLE
Para comprender cómo se debe implementar esta metodología, analizaremos un ejemplo de un
programa X. Este proyecto estaba estructurado en cuatro líneas de acción estratégicas.
Al observar el diagrama podemos ver como se distribuyen las líneas de acción estratégicas de este
proyecto, y el proyecto en general, de acuerdo con la efectividad en la distribución de recursos y las
posibilidades de que estas sean sostenidas en el tiempo:
1. “Efectividad Sostenible”: dos de las líneas
estratégicas pueden ser ubicadas aquí.
2. “Desarrollo de Capacidad”: ninguna de las
líneas se ubicó aquí.
3. “Efectividad No Sostenible”: la línea
estratégica 4 y el proyecto en su conjunto se
ubican en este cuadrante.
4. “Fracaso en la Asignación de los Recursos”:
ninguna de las líneas se ubicó aquí.
Información complementaria:
•
•
www.ag.org.ar/3congreso/Ponencias/Hintze.doc
Taller de Efectividad Sostenible ZIGLA Consultores. Carpeta de Documentos Soporte
/ 13 DE DICIEMBRE DE 2012
Página 27
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN 4. ENTREVISTAS BASADAS EN CUESTIONARIOS
Entrevistas estructuradas (estándar), que permiten un mejor
procesamiento de los datos y un mayor nivel de detalle en las
respuestas. Hay un conjunto de preguntas normalizadas dirigidas a
una muestra representativa de la población, con el fin de conocer
hechos específicos. Son encuestas formales que pueden utilizarse
para recopilar información estandarizada de una muestra previamente
seleccionada de personas, hogares, organizaciones. Las encuestas
recopilan con frecuencia información comparable sobre un número
relativamente grande de grupos destinatarios concretos.
Esta herramienta es complementaria a la evaluación de medio
término, evaluación final y la metodología de análisis de efectividad
sostenible. Por ello, se implementa en las etapas de monitoreo,
evaluación de resultados y evaluación de impacto.
01. Propósito / ¿Para qué sirve? Tipo de Instrumento
Herramienta
Tiempo estimado
2/3 semanas
Expertise requerido
Bajo
¿Para qué se Utiliza?
• Captura y Relevamiento de
Datos
¿En qué etapa se utiliza
mayormente?
• Monitoreo
• Evaluación de Resultados
• Evaluación de Impactos
Las entrevistas estructuras o encuestas son una herramienta
para recopilar información valiosa acerca de los efectos y
resultados de programas y permiten obtener del entrevistado
un mayor nivel de detalle en sus respuestas.
02. Ventajas y Desventajas
•
•
La información es más fácil de procesar, ya que hay uniformidad en la información
obtenida, simplificando así el análisis comparativo.
En un periodo breve de tiempo se puede obtener muchas opiniones sobre un mismo
programa o línea de acción.
•
El/la investigador/a tiene poca libertad de formular preguntas independientes generadas
por la interacción durante la entrevista.
03. Funcionalidad / ¿Cómo lo uso? Las encuestas como las entrevistas en profundidad son instrumentos que complementan el uso de
otros. Por ejemplo, si se decide hacer una evaluación de medio término, estos instrumentos son los
que permiten capturar los datos. Para poder utilizarlos, antes de empezar a hacer las encuestas se
debe diseñar el cuestionario e identificar a quiénes queremos consultar. El cuestionario se desarrolla
identificando cuáles son los temas que esperamos que nos respondan y así poder dar una idea del
avance y resultados del programa. Por ejemplo, si quisiéramos conocer qué cambio en la población
destino del programa a raíz del trabajo, preguntaríamos a diferentes destinatarios involucrados
/ 13 DE DICIEMBRE DE 2012
Página 28
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN durante el proceso sobre cómo su participación en el programa afectó su vida. Así, deberían
pensarse distintas preguntas que puedan dar cuenta de esto.
TIPS DE APLICACIÓN – ENTREVISTAS BASADAS EN CUESTIONARIOS
Estas entrevistas son también conocidas como “Entrevistas estructuradas”. Se caracterizan por
estar estandarizadas, están basadas en cuestionarios y preguntas y en el mismo orden a cada
uno de los entrevistados.
Al utilizar este tipo de entrevista el investigador tiene poca libertad de formular preguntas
independientes generadas por la interacción durante la entrevista.
La diferencia entre este tipo de entrevistas y las denominadas “en profundidad” es que la
información es más fácil de procesar, ya que hay uniformidad en la información obtenida,
simplificando así el análisis comparativo.
¿Con qué fin lo utilizaremos? Debido a la alta importancia que presentan los indicadores
cualitativos, este tipo de instrumentos, que se utilizan mayormente para obtener información más
del tipo cuantitativa, se utilizará como complemento a las entrevistas y los grupos focales.
¿Cómo se implementan? Una vez definido los indicadores que serán cubiertos por este
instrumento, se avanza sobre el diseño de un cuestionario con preguntas abiertas (preguntas
más del tipo cuali) y cerradas (preguntas del tipo cuantitativo). Una vez definido y consensuado el
cuestionario se avanza sobre la aplicación del mismo.
El medio para avanzar hacia la implementación de este instrumento es una encuesta
estructurada con preguntas cerradas y abiertas.
/ 13 DE DICIEMBRE DE 2012
Página 29
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN 5. EVALUACION DE MEDIO TÉRMINO
Permite determinar el nivel de avance en el cumplimiento de la
declaración de cambio definida por el equipo y los resultados del
programa en curso, identificando aprendizajes y recomendaciones
para mejorar el desempeño futuro. Esta herramienta es combinable
con distintas metodologías de análisis y sistematización, al mismo
tiempo que se debe utilizar alineadamente con las herramientas de
captura y relevamiento de datos. Esta herramienta es complementaria
de la metodología de análisis de efectividad sostenible y, en
ocasiones, puede ser reforzada por la identificación de lecciones
aprendidas.
Es un instrumento que se implementa en las etapas de monitoreo y
evaluación de resultados.
01. Propósito / ¿Para qué sirve? Tipo de Instrumento
Herramienta
Tiempo estimado
2 /3 meses
Expertise requerido
Medio
¿Para qué se Utiliza?
• Análisis y Sistematización
• Comunicación y Reporting
¿En qué etapa se utiliza
mayormente?
• Monitoreo
• Evaluación de Resultados
Este instrumento se utiliza principalmente para validar los
logros parciales y proponer modificaciones en el rumbo del
proyecto y para la construcción de narrativas y
acompañamiento de la evolución de un programa o proyecto.
02. Ventajas y Desventajas
•
Es una instancia de reflexión en donde pueden obtenerse análisis y conclusiones que
sirven tanto para la redefinición y aprendizaje interno de las organizaciones como
también para la incentivar instancias de validación con stakeholders.
•
El desarrollo de esta instancia puede insumir bastante tiempo de una persona en un
período de 2 meses de trabajo.
03. Funcionalidad / ¿Cómo lo uso? Para poder realizar una evaluación de medio término se debe asignar una persona dentro de la
organización que lleve adelante el proceso que, por lo general, demora unos 2 o 3 meses de trabajo.
Si se cuenta con un Plan y con indicadores definidos, la evaluación puede consistir simplemente en
analizar si lo que se propuso en el plan se logró y cuál es el avance de los indicadores. Asimismo, se
deben definir los siguientes puntos:
•
Pensar qué preguntas necesitamos que la evaluación nos responda. Por ejemplo: ¿Qué
resultados esperábamos que se logren y cuáles se lograron efectivamente? ¿qué
/ 13 DE DICIEMBRE DE 2012
Página 30
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN •
•
resultados aún están pendientes de lograrse? ¿con qué actores estamos trabajando?
¿cuán involucrados están esos actores con el trabajo realizado?
Pensar quiénes nos pueden responder esas preguntas o en qué documentos podemos
encontrar esos datos. En el caso que no exista la información, hay que preguntar a través
de entrevistas o encuestas a diferentes personas. Es necesario definir quiénes nos
pueden responder.
Pensar si se va a utilizar una metodología de análisis particular como Efectividad
Sostenible.
TIPS DE APLICACIÓN – EVALUACIÓN DE MEDIO TÉRMINO
La aplicación de esta herramienta tiene lugar a lo largo de la vida del Programa o estrategia. Su
aplicación constituye un momento de monitoreo y balance de los resultados parciales alcanzados
por una implementación. Si bien las evaluaciones de medio término tienen una serie de objetivos
generales que buscan cubrir, no es así con los métodos de análisis y captura de información.
Depende del tipo de Programa e instancia en la que se encuentre, son más convenientes la
aplicación de ciertos instrumentos de relevamiento de datos como de análisis y sistematización
de los mismos.
Por ejemplo, en una evaluación de medio término se pueden utilizar entrevistas en profundidad
como herramienta de captura de datos y “efectividad sostenible” como método de análisis,
mientras que en otra evaluación puede resultar mejor utilizar encuestas cerradas para capturar
información y análisis costo efectividad y costo beneficio para analizarlos. Asimismo, algunas
evaluaciones requerirán la utilización complementara de distintos instrumentos de captura y
análisis.
Estructura sintética “tipo” de una Evaluación
Intermedia
5- PRODUCTOS
a) Plan de Evaluación
b) Informe de Relevamiento de información
1- ANTECEDENTES: de la Organización y del Proyecto
c) Documento de Evaluación (Análisis de relevancia,
2- OBJETIVOS: del Programa (Generales y Específicos) y Análisis de Involucrados, efectividad, eficiencia,
sostenibilidad, perspectivas de impacto, Conclusiones,
de la Evaluación (Generales y Específicos)
Taller de presentación de resultados)
3- PERSPECTIVA DE LA EVALUACIÓN (Enfoques)
d) Recomendaciones estratégicas
-Sistematización de mejores prácticas y lecciones
4- ACTIVIDADES
aprendidas
a) Trabajo de campo y revisión documentaria
-Informe de Recomendaciones Estratégicas
b) Diagnóstico y Evaluación
-Informe de Recomendaciones para la implementación de
c) Formulación de recomendaciones e informe final
una Evaluación Final.
/ 13 DE DICIEMBRE DE 2012
Página 31
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN 6. INDICADORES CUANTITATIVOS Y CUALITATIVOS
Herramientas de evaluación de las principales variables asociadas al
cumplimiento de los objetivos del proyecto. Permiten obtener
resultados descriptivos del progreso de las actividades, con el objetivo
de validar resultados o plantear correcciones. Al igual que los
indicadores cuantitativos, los cualitativos son herramientas
complementarias a varias metodologías y otras herramientas,
especialmente para la captura y análisis de lecciones aprendidas y
mejores prácticas que surgen de la implementación de una estrategia,
programa o proyecto.
Son instrumentos que se implementan a lo largo de todas las etapas
de evaluación y constituyen una herramienta central del MODELO.
01. Propósito / ¿Para qué sirve? Se usan para describir en forma detallada el grado de avance
en los logros definidos del proyecto y para realizar
comparaciones entre procesos, proyectos, etc.
Tipo de Instrumento
Herramienta
Tiempo estimado
2/3 semanas
Expertise requerido
Bajo
¿Para qué se Utiliza?
• Análisis y
Sistematización
• Captura y Relevamiento
de datos
¿En qué etapa se utiliza
mayormente?
• Monitoreo
• Evaluación de Resultados
• Evaluación de Impacto
02. Ventajas y Desventajas
Indicadores cuantitativos
•
•
•
•
Permiten obtener información rápida del desempeño o evolución de actividades
correlacionadas.
Permite hacer estimaciones, basándose en información histórica y la evolución del
indicador.
Los resultados son limitados, dado que proveen sólo descripciones numéricas en lugar
de narrativas detalladas o percepciones de los actores participantes.
La información que sirve de insumo puede tener «sesgos de recolección», y por lo tanto
los indicadores no reflejan la realidad en forma acertada.
Indicadores cualitativos
•
•
Utilizan la información subjetiva y la observación participante para describir el contexto.
Permiten un mejor entendimiento de las relaciones entre los actores y los efectos reales
del proyecto.
•
•
La información puede estar sesgada por el investigador a cargo de la recolección.
Exista dificultad para establecer la fiabilidad de las fuentes de información.
/ 13 DE DICIEMBRE DE 2012
Página 32
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN 03. Funcionalidad / ¿Cómo lo uso? Para poder diseñar los indicadores, es necesario contar con un Plan en donde se formalicen los
objetivos y resultados esperados del programa o iniciativa de intervención social. Si se cuenta con
los resultados esperados definidos, pensar los indicadores implica pensar ¿qué puedo medir para
dar cuenta si lo que espero que se alcance se logra o no? Esta reflexión es el puntapié para pensar
los indicadores, sean cuantitativos como cualitativos. Al igual que otros instrumentos, es
recomendable que una persona dentro de la organización sea la que centralice esta tarea con el
aporte de quienes participan en el trabajo. Estos aportes se pueden capturar en una reunión de
trabajo participativa en donde, sobre lo que se estable en el Plan, se piensa entre todos qué se
puede tomar como medida del avance de esos resultados. Con los insumos que deje esa reunión, se
puede avanzar en el refinamiento de los indicadores y el volcado sobre una planilla Excel que
permita darles un seguimiento periódico.
TIPS DE APLICACIÓN – MATRIZ TEMPLATE DE INDICADORES
Información complementaria:
•
Documento de diseño de indicadores de ZIGLA Consultores. Carpeta de Documentos Soporte
/ 13 DE DICIEMBRE DE 2012
Página 33
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN 7. TALLER PARTICIPATIVO
Herramienta que se articula en función de un grupo de trabajo
cooperativo que facilita el proceso de formación personal. Si bien está
liderado por un coordinador o facilitador, promueve la discusión
abierta de los conceptos y prácticas que se tratan en el proceso. El
facilitador crea un entorno de apoyo donde se pueda realizar un
mayor aprendizaje conjunto. Al igual que las entrevistas estructuradas
y las entrevistas en profundidad, los talleres participativos son
complementarios a las instancias de evaluación de medio término y
evaluación final.
Por ello, es un instrumento que se implementa en las etapas de
monitoreo, evaluación de resultados y evaluación de impacto.
01. Propósito / ¿Para qué sirve? A través de un taller participativo se puede planificar y diseñar
un proyecto o programa; describir en forma detallada el grado
de avance en los logros definidos del proyecto; incentivar el
aprendizaje en grupo y participar de las decisiones al resto del
equipo de trabajo y superar en la acción la dicotomía entre la
formación teórica y la experiencia práctica
Tipo de Instrumento
Herramienta
Tiempo estimado
2 hs de trabajo en taller +
tiempos de sistematización
Expertise requerido
Bajo
¿Para qué se Utiliza?
• Análisis y
Sistematización
• Captura y Relevamiento
de datos
¿En qué etapa se utiliza
mayormente?
• Diseño
• Monitoreo
• Evaluación de Resultados
• Evaluación de Impactos
02. Ventajas y Desventajas
•
•
•
•
•
Ayudan a mejorar el aprendizaje de los procesos, fomentando el intercambio de ideas y
puntos de vista.
Permiten una mejor comprensión desde diferentes perspectivas de fenómenos o
abordajes complejos.
Aportan legitimidad y consenso a las decisiones.
Son difíciles de organizar porque la planificación a menudo depende de lo que los
participantes deseen hacer.
Conseguir la participación de actores clave toma tiempo y requiere esfuerzos logísticos.
03. Funcionalidad / ¿Cómo lo uso? Para poder llevar a cabo un taller participativo es necesario formalizar el para qué de ese taller. Es
decir, se debe definir cuál es el objetivo, qué personas van a participar del mismo y qué tipo de
productos se esperan obtener al finalizar. Por ejemplo, se puede desarrollar un taller en donde
distintos stakeholders de un programa expongan sus opiniones sobre el trabajo realizado al
/ 13 DE DICIEMBRE DE 2012
Página 34
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN momento y piensen juntos formas de mejorarlo. Así, como resultado de este taller se puede obtener
un listado de puntos a mejorar de un programa como también un listado de posibles caminos de
mejora.
Este tipo de instrumento es recomendable para hacer un balance en el momento de realizar una
evaluación de medio término o final, en donde se obtienen opiniones al mismo tiempo que se
exponen resultados y se rinde cuentas.
Información complementaria:
•
•
http://aprendeenlinea.udea.edu.co/revistas/index.php/ceo/article/viewFile/1650/1302
http://www.aidsalliance.org/publicationsdetails.aspx?id=199
/ 13 DE DICIEMBRE DE 2012
Página 35
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN 8. EVALUACION FINAL
Permite determinar el nivel de cumplimiento de los resultados del
proyecto, identificar los principales hitos y logros alcanzados y
capitalizar los aprendizajes que se obtuvieron en los diversos
procesos. Esta herramienta es combinable con distintas metodologías
de análisis y sistematización, al mismo tiempo que se debe utilizar
alineadamente con las herramientas de captura y relevamiento de
datos. Es a su vez complementaria de la metodología de análisis de
efectividad sostenible y, en ocasiones, puede ser reforzada por la
identificación de lecciones aprendidas y buenas prácticas.
Es un instrumento que se implementa en las etapas de evaluación de
resultados y evaluación de impacto.
01. Propósito / ¿Para qué sirve? Las evaluaciones finales se utilizan principalmente para
identificar y validar resultados en el mediano plazo de un
programa. Sus conclusiones permiten redefinir próximos
diseños de programas como también generar insumos para la
escalabilidad y replicabilidad de los mismos.
Tipo de Instrumento
Herramienta
Tiempo estimado
2/3 meses de trabajo
Expertise requerido
Medio
¿Para qué se Utiliza?
• Análisis y
Sistematización
• Comunicación y
Reporting
¿En qué etapa se utiliza
mayormente?
• Evaluación de Resultados
• Evaluación de Impactos
02. Ventajas y Desventajas
•
Es una instancia de reflexión en donde pueden obtenerse análisis y conclusiones que
sirven tanto para la redefinición y aprendizaje interno de las organizaciones como
también para la incentivar instancias de validación con stakeholders.
•
Los aprendizajes y lecciones aprendidas durante el trabajo realizado en años puede ser
sintetizado en la evaluación final y servir no solo para la rendición de cuentas, sino
también para que otras organizaciones aprendan de la experiencia.
•
El desarrollo de esta instancia puede insumir bastante tiempo de una persona en un
período de 2 o más meses de trabajo.
03. Funcionalidad / ¿Cómo lo uso? Para poder realizar una evaluación final se debe asignar una persona dentro de la organización que
lleve adelante el proceso que, por lo general, demora unos 2 o 3 meses de trabajo. Si se cuenta con
un Plan, con indicadores definidos o con una evaluación de medio término la evaluación puede
consistir simplemente en analizar si lo que se propuso en el plan se logró y cuál es el avance de los
indicadores.
/ 13 DE DICIEMBRE DE 2012
Página 36
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN Asimismo, se deben definir los siguientes puntos:
•
•
•
Pensar qué preguntas necesitamos que la evaluación nos responda. Por ejemplo: ¿Qué
resultados esperábamos que se logren y cuáles se lograron efectivamente? ¿qué resultados
aún están pendientes de lograrse? ¿con qué actores se ha trabajado? ¿cuán involucrados
están esos actores con el trabajo realizado para pensar que ellos pueden continuar con el
trabajo aun cuando el programa haya finalizado?
Pensar quiénes nos pueden responder esas preguntas o en qué documentos podemos
encontrar esos datos. En el caso que no exista la información, hay que preguntar a través
de entrevistas o encuestas a diferentes personas. Es necesario definir quiénes nos pueden
responder.
Pensar si se va a utilizar una metodología de análisis particular como Efectividad
Sostenible.
TIPS DE APLICACIÓN – EVALUACIÓN FINAL
La aplicación de esta herramienta tiene lugar al final de la implementación de un Programa o
estrategia. Su aplicación constituye un momento de sistematización y análisis final de los
resultados e impactos alcanzados por una implementación.
Al igual que en las evaluaciones de medio término, dependiendo del tipo de Programa e instancia
en la que se encuentre, son más convenientes la aplicación de ciertos instrumentos de
relevamiento de datos como de análisis y sistematización de los mismos. La diferencia con las
evaluaciones de medio término es que la sistematización de mejores prácticas y lecciones
aprendidas se vuelven en instrumentos claves de cara a los objetivos de replicabilidad y
escalabilidad del Programa.
Estructura sintética “tipo” de una Evaluación Final
5- PRODUCTOS
a) Plan de Evaluación
b) Informe de Relevamiento de información
1- ANTECEDENTES: de la Organización y del Programa
c) Documento de Evaluación (Análisis de relevancia, Análisis
2- OBJETIVOS: del Programa (Generales y Específicos) y de la de Involucrados, efectividad, eficiencia, sostenibilidad,
efectividad sostenible, impacto, Conclusiones, Taller de
Evaluación (Generales y Específicos)
presentación de resultados)
3- PERSPECTIVA DE LA EVALUACIÓN (Enfoques)
d) Recomendaciones estratégicas
-Informe de Recomendaciones Estratégicas
4- ACTIVIDADES
-Informe de Recomendaciones para la implementación de una
a) Trabajo de campo y revisión documentaria
Evaluación Final.
b) Diagnóstico y Evaluación
c) Formulación de recomendaciones e informe final
e) Mejores Prácticas y Lecciones Aprendidas
-Sistematización de mejores prácticas y lecciones aprendidas
/ 13 DE DICIEMBRE DE 2012
Página 37
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN 9. LECCIONES APRENDIDAS
Herramienta de recolección de conocimiento derivado de la
experiencia, que está suficientemente fundamentado y puede
generalizarse, por lo que ofrece posibilidades de mejorar la acción de
la organización. La captura y sistematización de los éxitos y fracasos
son muy importantes tanto en instancias de monitoreo para la
reorientación de acciones como en instancias de evaluación de
resultados de cara a la replicabilidad y escalabilidad.
La identificación de lecciones aprendidas es un instrumento que se
implementa junto con una evaluación de medio término y final.
01. Propósito / ¿Para qué sirve? Se utiliza principalmente para comunicar una experiencia
(exitosa o no) y adquirir mayor conocimiento, como también
para replicar aquellas acciones exitosas en proyectos futuros.
Tipo de Instrumento
Herramienta
Tiempo estimado
4/5 semanas
Expertise requerido
Bajo
¿Para qué se Utiliza?
• Análisis y
Sistematización
• Comunicación y
Reporting
¿En qué etapa se utiliza
mayormente?
• Monitoreo
• Evaluación de Resultados
• Evaluación de Impactos
02. Ventajas y Desventajas
•
•
•
Ayuda a identificar dificultades y aprovechar las
fortalezas y oportunidades
Favorece la comprensión de los fundamentos implícitos y explícitos que guían la
experiencia.
No existe un método estándar para sistematizar Lecciones Aprendidas y esto puede
traer dificultades a la hora de analizar la información y replicar.
03. Funcionalidad / ¿Cómo lo uso? Sistematizar lecciones aprendidas implica desarrollar un documento en donde se expongan
diferentes viñetas resumidas de los principales aprendizajes del proceso de trabajo. Es un
documento sintético que permite no solo hacer un resumen de lecciones a nivel interno, sino
compartirlo con otras organizaciones y públicos de interés. La forma de captura de estas lecciones
puede ser una ronda de entrevistas en profundidad cortas con diferentes stakeholders en donde se
pregunte directamente sobre los aprendizajes (experiencias positivas y negativas) que se registraron
del trabajo realizado. Al igual que otros instrumentos es recomendable que una persona dentro de la
organización centralice el trabajo con el aporte y miradas de quienes participaron.
Información complementaria:
•
https://www.u-cursos.cl/medicina/2008/0/TOMIPCO4/1/material_docente/objeto/177440
/ 13 DE DICIEMBRE DE 2012
Página 38
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN 10. MEJORES PRACTICAS
Recolección de un conjunto de acciones que han demostrado ser
efectivas para la organización en un determinado contexto, y que se
espera que rindan similares resultados en contextos similares. La
utilización de esta herramienta contribuye a la replicabilidad y
escalabilidad de estrategias, programas, proyectos o iniciativas.
La sistematización de mejores prácticas es un instrumento que se
sugiere implementar en el marco de una evaluación final.
01. Propósito / ¿Para qué sirve? Se utiliza para compartir con otros aliados o grupos de interés
prácticas similares y adquirir así mayor conocimiento.
También es muy útil para replicar aquellas acciones exitosas
en proyectos futuros.
Tipo de Instrumento
Herramienta
Tiempo estimado
4/5 semanas
Expertise requerido
Bajo
¿Para qué se Utiliza?
• Análisis y
Sistematización
• Comunicación y
Reporting
¿En qué etapa se utiliza
mayormente?
• Evaluación de Resultados
• Evaluación de Impactos
02. Ventajas y Desventajas
•
•
•
Ayuda a identificar dificultades y aprovechar las
fortalezas y oportunidades
Favorece la comprensión de los fundamentos implícitos y explícitos que guían la
experiencia.
No existe un método estándar para sistematizar Mejores Prácticas y esto puede traer
dificultades a la hora de analizar la información y replicar.
03. Funcionalidad / ¿Cómo lo uso? Como complemento de una instancia de evaluación final es posible identificar alguna innovación o
nueva forma de hacer algo que se haya formalizado en el desarrollo de un programa o iniciativa de
intervención. Esta innovación puede formalizarse en un documento sintético como un caso concreto
para que sea registrado como un resultado más del trabajo realizado como también para que otras
organizaciones puedan replicar la experiencia.
/ 13 DE DICIEMBRE DE 2012
Página 39
PROGRAMA TRANSPARENTEMOS - CHILE
MODELO DE EVALUACIÓN DE RESULTADOS / GUÍA DE ORIENTACIÓN MODELO DE EVALUACIÓN DE RESULTADOS
GUÍA DE ORIENTACIÓN
PROGRAMA TRANSPARENTEMOS - CHILE
por
MARÍA AGUSTINA BUDANI
[email protected] www.ziglaconsultores.com
/ 13 DE DICIEMBRE DE 2012
Página 40
PROGRAMA TRANSPARENTEMOS - CHILE

Documentos relacionados