International Congress «Evaluation and Accountability for Democratic Transparency» / Congreso Internacional «Evaluación y Rendición de Cuentas para la Transparencia Democrática»

17a705_92001c791f3db1cfa3ba024cc754d092.png_srb_p_351_117_75_22_0.50_1.20_0.00_png_srb

The Spanish Society for Public Policy Evaluation SEE conducted between 11 and June 12 in Seville, Spain, the International Congress «Evaluation and Accountability for Democratic Transparency».

The Congress, which coincides with the IX International Biennial Conference of the SEE, which will have significant international presence, has opened the period for submission of papers until June 1. Here you have all the information.

La Sociedad Española de Evaluación de Políticas Públicas SEE realizará, entre el 11 y 12 de junio, en Sevilla, España, el Congreso Internacional «Evaluación y Rendición de Cuentas para la Transparencia Democrática».

El Congreso, que coincide con la IX Conferencia Bienal Internacional de la SEE, que contará con importantes presencias internacionales, tiene abierto el período de presentación de ponencias hasta el 1 de junio. Aquí está disponible toda la información.

El concepto de evaluación de políticas públicas

El concepto de evaluación tiene muchas y variadas acepciones y ha evolucionado a lo largo de tiempo, existiendo distintos matices en función con el objeto de estudio y con el objetivo de la actividad de evaluación. De hecho, la disciplina de evaluación proviene de los países anglosajones, donde aparece bajo la rúbrica de dos acepciones sinónimas: assessment, cuyo uso se refiere a personas y evaluation, cuyo uso está referido a referido a políticas, intervenciones, programas, proyectos, etc… En español no se han mantenido estas distinciones de la lengua inglesa y se ha impuesto, con carácter general, tanto para personas como para cosas, el término evaluación. Así, se puede hablar de evaluación de una situación, evaluación del desempeño o del rendimiento, evaluación de los alumnos (ámbito educativo), evaluación económica, evaluación de proyectos de ayuda al desarrollo, evaluación de fondos europeos, evaluación de gobernanza, evaluación de calidad y, como no, de evaluación de políticas públicas.

Pero en cualquier caso, la disciplina de la evaluación va bastante más allá de la acepción genérica y común que se puede atribuir comúnmente al término. No en vano, la actividad de evaluación viene respaldada por décadas de práctica y por un notable volumen de literatura económica, social y política.

Tal y como hace Pérez-Durántez (2008), tal vez la mejor forma de definir el concepto de evaluación sea empezar por decir lo que no es o no debería de ser. En el contexto de la acción pública, desde luego la evaluación no debería ser un mero trámite adicional, más burocracia que añadir a la gestión pública. La evaluación no es una forma de medir o una colección de indicadores definidos aleatoriamente. La evaluación tampoco es un control de legalidad, ni fiscalización, ni una auditoría, ni una investigación, ni un seguimiento; aunque esté íntimamente relacionada con estas técnicas y en muchas ocasiones pueda integrarlas.

Entonces ¿cómo se puede definir la evaluación? Existen múltiples aproximaciones teóricas al concepto pero tal vez una buena opción sea revisar como definen la evaluación precisamente quienes evalúan, aquellos organismos referentes en el ámbito de la evaluación. En este sentido, se pueden tener en cuenta, por ejemplo, a las unidades de evaluación[1] de la ONU, de la Organización para la Cooperación y el Desarrollo Económico (en adelante, OCDE) o del Grupo del Banco Mundial a nivel internacional; a la Comisión Europea, a nivel regional; o AEVAL a nivel nacional.

Una de las definiciones de evaluación más ampliamente aceptadas, es la que ofrece la OCDE (2002) según la cual, la evaluación es la

“apreciación sistemática y objetiva de un proyecto, programa o política en curso o concluido, de su diseño, su puesta en práctica y sus resultados. El objetivo es determinar la pertinencia y el logro de los objetivos, así como la eficiencia, la eficacia, el impacto y la sostenibilidad para el desarrollo. Una evaluación deberá proporcionar información creíble y útil, que permita incorporar las enseñanzas aprendidas en el proceso de toma de decisiones de beneficiarios y donantes. La evaluación también se refiere al proceso de determinar el valor o la significación de una actividad, política o programa”.

La aceptación de esta definición es muy amplia, pues se trata, sin duda alguna, de una definición que recoge muchos aspectos y matices de la evaluación. Un aspecto importantes que habla de apreciación, lo que implica la presencia de un cierto juicio de valor en el proceso de evaluación, algo fundamental pues, como afirma Merino Cuesta (2010) sin juicio de valor no hay evaluación, siempre que se trate de un juicio elaborado a través de un proceso cognitivo riguroso, que implique la movilización de un aparato crítico coherente y lo más pertinente posible. Al calificar esa apreciación de sistemática, la convierte en un proceso formalizado y respetuoso con una deontología particular que la distingue de trabajos afines. Define como objeto de la evaluación cualquier tipo de intervención y además en cualquier momento de la vida de la misma y también establece unos criterios de evaluación (pertinencia, logro de los objetivos, eficiencia, eficacia, impacto y sostenibilidad), fundamentales porque determinan los referentes para establecer el juicio de valor y enfocar la evaluación en un sentido determinado.

Tomando como base la definición de evaluación de la OCDE pero desarrollándola un poco más, la ONU (2005) la define como

“una valoración, lo más sistemática e imparcial posible, de una actividad, proyecto, programa, estrategia, política, tópico, tema, sector, área operativa, desempeño institucional, etc. Incide principalmente sobre los logros esperados y alcanzados, examinando la cadena de resultados, los procesos, los factores contextuales y la causalidad, a fin de entender los logros o la ausencia de éstos. Su objetivo es determinar la relevancia, el impacto, la efectividad, la eficiencia y la sostenibilidad de las intervenciones y contribuciones de las organizaciones (…). Una evaluación debe suministrar información basada en evidencia que sea creíble, fiable y útil, facilitando la incorporación oportuna de los hallazgos, recomendaciones y lecciones en los procesos de toma de decisiones de las organizaciones (…)”.

La Comisión Europea, a través de los trabajos realizados por Monnier y Toulemonde (1999) para su programa MEANS, definía la evaluación como el

“juicio sobre el valor de una intervención pública con referencia a criterios y normas explícitos (por ejemplo, su pertinencia, su eficiencia). Dicho juicio se refiere principalmente a las necesidades que han de satisfacerse por la intervención y los efectos producidos por la misma. La evaluación se basa en información especialmente recogida e interpretada para producir el juicio de valor”.

Vemos que, ya en este caso se insistía en la necesidad de existencia de un juicio de valor y también en la importancia de la definición de unos criterios de evaluación.

Para finalizar este recorrido de definiciones del concepto de evaluación se presenta la de AEVAL (2010), que define la evaluación de políticas públicas como

“un proceso integral de observación, medida, análisis e interpretación encaminado al conocimiento de una intervención pública, norma, programa, plan o política, que permita alcanzar un juicio valorativo basado en evidencias respecto a su diseño, puesta en práctica, efectos, resultados e impactos. La finalidad de la evaluación es ser útil a los decisores y gestores públicos así como a la ciudadanía “.

A través del recorrido a las diferentes definiciones planteadas podrían establecerse una serie de características y requisitos que debería cumplir la evaluación:

  • Las evaluaciones de las políticas públicas pueden referirse a distintas fases de una intervención pública: diseño, implementación, resultados e impacto.
  • Los mejores resultados se obtienen si se adopta una perspectiva integral, que contemple las distintas fases, y concibiendo la evaluación como una práctica institucional habitual.
  • Debe garantizarse un proceso de generación de conocimiento sistemático y razonado, apoyado en evidencias, incluyendo un juicio valorativo.
  • El juicio valorativo debe realizarse sobre la base de unos criterios explícitos (como pueden ser la eficacia, eficiencia, sostenibilidad o cohesión social entre otros) y con una finalidad de utilidad práctica que ayude a mejorar las decisiones políticas.
  • La metodología de evaluación facilita el proceso de conocimiento y avala sus conclusiones.
  • El proceso de evaluación debe aspirar a promover cambios en las intervenciones públicas que en última instancia reviertan en una mejora para los ciudadanos.

Además de los requisitos planteados, en el proceso de evaluación destaca la necesidad de una buena planificación, gestión y difusión de las evaluaciones. Un diálogo efectivo con retroalimentación con los gestores de las políticas y los solicitantes de la evaluación es uno de los puntos esenciales, pues promueve que estos actores se sientan identificados con la evaluación y por tanto acepten las conclusiones y consideren la aplicación de las recomendaciones de la evaluación (Pérez-Durántez Bayona 2008).

A modo de resumen, se muestra a continuación una definición de evaluación de políticas públicas, propuesta por Merino Cuesta (2010), un tanto compleja pero que recoge la práctica totalidad de aspectos reflejados en el presente apartado:

“La evaluación de políticas públicas se concibe como un proceso institucional que deberá adoptarse en todas las fases de la intervención pública, aplicando métodos sistemáticos y rigurosos de recogida de información, con el énfasis puesto en la comprensión integral de relación con los objetivos trazados, a fin de servir, tanto al aprendizaje y a la mejora gerencial de los servicios públicos como a la estrategia sobre decisiones futuras, fundamentándose este proceso sobre el juicio de valor respecto a la acción pública evaluada y basándose en criterios establecidos por los principales actores implicados, con la finalidad última de mejorar la sociedad y rendir cuenta de la acción pública a la ciudadanía”.

[1] Las organizaciones internacionales, por su gran tamaño, cuentan con unidades de evaluación que en cada caso tienen una denominación específica y unas funciones determinadas. Las particularidades respecto del tipo de evaluación que llevan a cabo, definida por las funciones y objetivos que cada una de ellas tiene, pueden verse reflejadas en ciertos aspectos de sus normas, estándares, principios, criterios o guías metodológicas. En cualquier caso, convencionalmente, toda esta documentación ha servido y sirve de referencia a muchas de las organizaciones y administraciones de nivel estatal e inferior para la teoría y práctica de la evaluación en sus ámbitos territoriales o sectoriales.

Las políticas públicas y su ciclo

Las sociedades actuales exigen, cada vez con más fuerza, respuestas de los gobiernos ante los problemas sociales y las nuevas necesidades que surgen en entornos muy complejos. Esto supone uno de los mayores retos a los que se enfrentan hoy en día los responsables públicos, teniendo en cuenta que la transparencia y la responsabilidad deben convertirse en el eje básico de toda acción política y que la austeridad y la eficiencia son la base de una buena gestión y una obligación en un contexto de crisis económica como el actual.

Los síntomas de esos problemas sociales a los que se ha hecho referencia, son el punto de partida de la toma de conciencia sobre la necesidad de una política pública como respuesta del sistema político-administrativo a una situación de la realidad social que es juzgada como políticamente inaceptable. Es decir, tal y como establecen Subirats et al. (2012), toda política pública apunta a la resolución de un problema público reconocido como tal en la agenda gubernamental. Pero no todos los problemas sociales generan respuestas gubernamentales en forma de políticas públicas, aunque la falta de respuesta o inacción también podría considerarse como una política pública teniendo en cuenta que para Dye (2013)una política pública es lo que los gobiernos deciden hacer o no hacer”.

De cualquier forma, como se apuntaba, ciertos problemas no generan necesariamente políticas públicas, sobre todo porque no están articulados debido a la falta de visibilidad de sus consecuencias, por la falta de voz o representación política de los afectados o porque sus efectos serán observables únicamente a largo plazo. También existe la posibilidad de que las alternativas de intervención pública no sean viables o no gocen del consenso necesario. Por otra parte, ciertas políticas públicas pueden interpretarse no como una acción colectiva para tratar de resolver un problema social, sino como un instrumento para el ejercicio del poder. Por tanto, como afirma Subirats et al (2012) se debe situar al Estado “en un punto intermedio entre la visión del Estado-ventanilla neutro y atento a todas las reivindicaciones sociales, y la del Estado cautivo y manipulado por un grupo organizado”. En definitiva, se podría decir que el volumen total de problemas que preocupan a la sociedad es más amplio que el de problemas que reciben atención por parte de las administraciones públicas. No todos los problemas detectados tienen la misma prioridad para los decisores públicos y sólo algunos de ellos tienen la entidad suficiente para convertirse en problemas públicos y pasar por tanto a formar parte de la agenda política (Tamayo Sáez 1997). Se convierten los problemas, de esta forma, en construcciones políticas cuya conceptualización dependerá de la percepción e intereses de los diferentes actores que participen en el proceso de definición de los mismos.

Establecido el momento en que un proceso de cambio o inestabilidad social se convierte en un problema ante el que debe responder el sistema político-administrativo, se puede definir la política pública, siguiendo a Subirtas et al. (2012) como

“una serie de decisiones o de acciones, intencionalmente coherentes, tomadas por diferentes actores, públicos y a veces no públicos[1] (cuyos recursos, nexos institucionales e intereses varían) a fin de resolver de manera puntual un problema políticamente definido como colectivo. Este conjunto de decisiones y acciones da lugar a actos formales, con un grado de obligatoriedad variable, tendentes a modificar la conducta de grupos sociales que, se supone, originaron el problema colectivo a resolver (grupos-objetivo), en el interés de grupos sociales que padecen los efectos negativos del problema en cuestión (beneficiarios finales)”.

Desde esta perspectiva de las políticas públicas como el conjunto de decisiones y acciones que lleva a cabo un gobierno para solucionar unos determinados problemas, puede entenderse que existe un proceso que se inicia cuando un gobierno o un directivo público detecta la existencia de un problema que, por su importancia, merece su atención y termina con la evaluación de los resultados que han tenido las acciones emprendidas para eliminar, mitigar o variar ese problema (Tamayo Sáez 1997). Los diferentes autores definen varias etapas dentro del proceso o ciclo de las políticas públicas, que se pueden concretar en cuatro etapas básicas dentro de las cuales, en algún caso, se podría hablar de fases internas. En la Figura 1 se muestra el ciclo de políticas pública definido tras revisar diferentes propuestas, cuyas etapas se comentan a continuación.

ciclo

Figura 1: El ciclo de las políticas públicas. Fuente: Elaboración propia.

  • Etapa de definición del problema, que a su vez estaría dividida en la fase de surgimiento e identificación del problema y la fase de incorporación del problema a la agenda política. En la fase de surgimiento, una determinada situación produce una serie de efectos tales como una necesidad, colectiva, una carencia o una insatisfacción que se puede identificar o bien directamente o a través de ciertos elementos que la hacen visible. Una vez identificado el problema, la incorporación del mismo a la agenda política, dependerá del tratamiento político que se le dé, en función de la percepción que los decisores públicos tengan del mismo por su mayor o menor presencia en los media, el conocimiento científico que se tenga del mismo, la difusión de informaciones, el lobbying, la visibilidad de los afectados, etc… (Subirats et al. 2012)
  • Etapa de diseño de la política pública, dividida del mismo modo que la anterior en dos fases:
    • Fase de formulación de alternativas. Una vez definido el problema, deben plantearse una serie de objetivos y metas relevantes a alcanzar, a partir de los cuales iniciar la búsqueda de alternativas (instrumentos y procesos), que debe pasar por examinar todas las soluciones posibles para el logro de las metas planteadas y analizar las consecuencias para cada alternativa de política con su probabilidad de ocurrencia.
    • Fase de decisión de la alternativa más adecuada. Con las diferentes alternativas planteadas, el siguiente paso sería compararlas teniendo siempre presentes los objetivos y metas previamente definidas y elegir la solución cuyos resultados proporcionan un mayor alcance de los mismos, mayores beneficios con costos iguales o menores costos con beneficios iguales[2].
  • Etapa de implementación de la política pública. En esta etapa se ponen en marcha y se ejecutan las alternativas o soluciones seleccionadas en la etapa anterior. Se lleva a cabo la secuencia programada de acciones[3] definidas en busca de los objetivos planteados. Generalmente se identifican dos modelos de implementación:
    • Implementación como un proceso de abajo‐arriba (bottom‐up): El énfasis se desplaza hacia el punto de prestación del servicio: lo que ocurre cuando la entidad encargada de prestar un determinado servicio es determinante para el éxito o el fracaso de la política pública.
    • Implementación como un proceso de arriba‐abajo (top‐down): Consiste en que una vez adoptada la decisión, ésta es ejecutada por las unidades administrativas correspondientes.
  • Etapa de evaluación de la política pública. La evaluación se constituye como parte fundamental del ciclo de las políticas públicas pues funciona como retroalimentación del proceso ya que la intervención pública no concluye con la evaluación de sus resultados, sino que ésta puede dar lugar a una nueva definición del problema que originó el ciclo. En definitiva, la evaluación pretende determinar los resultados y los efectos de una intervención pública.

El ciclo o proceso de las políticas públicas establece, en definitiva, el camino de la acción pública y si se tiene en cuenta que Mény y Thoenig (1992) definen el análisis de políticas públicas como el estudio de la acción de los poderes públicos en el seno de la sociedad, se deduce que la evaluación, que forma parte del ciclo, está incluida dentro del campo de estudio del análisis de políticas públicas. Esta idea es compartida por una gran parte de los autores que se han especializado en el tema, en gran medida por el carácter multidisciplinar del análisis de políticas públicas. Wildavsky (1980) por ejemplo, afirma:

“El análisis de políticas públicas es un campo aplicado cuyos contenidos no pueden precisarse a través de lo que serían los limites propios de las disciplinas científicas, sino que será la naturaleza del problema planteado la que determinará los instrumentos que será necesario utilizar”.

Sin embargo, aunque la evaluación es una disciplina intrínsecamente unida al análisis de las políticas públicas, hasta el punto que forma parte de su corpus doctrinal (Ruiz Martínez 2012), en los últimos tiempos, la evaluación ha ido ganando relevancia como área de estudio particular, cuyo objeto de conocimiento es la acción pública, entendida ésta como el conjunto de decisiones, el proceso por el que se adoptan y su materialización. De hecho, Subirats et al. (2012) distinguen tres grandes corrientes del análisis de políticas públicas que persiguen finalidades diferentes sin ser por ello mutuamente excluyentes. La primera corriente de pensamiento relaciona el análisis de políticas públicas y la Teoría del Estado; la segunda se centra en el funcionamiento de la acción de los poderes públicos; la tercera y de más reciente desarrollo, se centra en explicar los resultados de la acción pública y sus efectos en la sociedad basándose en los objetivos que persigue y/o a sus efectos indirectos o no previstos, situándose claramente en la perspectiva de la evaluación.

[1] En el desarrollo de una política pública interviene una variedad de actores, gubernamentales y no gubernamentales. Los actores gubernamentales pueden pertenecer a uno o varios niveles de gobierno y administración: local, regional, estatal o europeo. Los actores no gubernamentales (como sindicatos, iglesias, asociaciones, organizaciones no gubernamentales, etc.) también pueden operar en distintos ámbitos: local, regional, estatal, europeo o internacional.

[2] Respecto del proceso de toma de decisiones que tiene lugar en esta etapa del ciclo de las políticas públicas, es importante considerar los diferentes enfoques existentes. Tradicionalmente se considera siempre un modelo racional tradicional de toma de decisiones pero el propio Simon (1957, citado por Tamayo Sáez 1997) concluyó que la aplicación del modelo racional puro de adopción de decisiones es impracticable en la realidad debido a la presencia de una serie de limitaciones que merman las capacidades del decisor. Lindblom (1959, citado por Parrado Díez 2007) propuso una interpretación distinta a la del modelo racional sobre cómo es el cambio y cuánto cambian las organizaciones. Su propuesta inició la escuela del incrementalismo. La base del incrementalismo se encuentra no en las metas ideales de la organización sino en las políticas presentes de la organización. A partir de ellas, los responsables públicos adoptan decisiones que suponen cambios incrementales o marginales. Como consecuencia, sólo se revisan unas cuantas alternativas y consecuencias, dado que las políticas actuales condicionan las soluciones incrementales susceptibles de ser practicadas.

[3] Respecto del proceso o ciclo de las políticas públicas, es interesante hacer un comentario a tener en cuenta. Se ha comentado que en la etapa de diseño de la política pública se plantean una serie de alternativas compuestas de instrumentos y procesos, es decir, se define el conjunto de acciones que se implementarán en la siguiente etapa. Es obvio por tanto, que toda política debe ser instrumentalizada para poder ser ejecutada. Esto significa, que una política pública podrá estar a su vez integrada por planes o programas (dependiendo del alcance de la misma) y que dentro de esos planes o programas se definirán una serie de proyectos o de actuaciones públicas. En muchas ocasiones, es complicado delimitar la frontera entre grandes programas públicos y políticas, pero teniendo en cuenta que la evaluación, desde su origen, y particularmente en el mundo anglosajón, ha estado ligada a programas (Merino Cuesta 2010), aquellas referencias que se hacen a evaluación de programas se pueden entender como sinónimo de evaluación de políticas aunque en realidad existan ciertos matices diferenciadores.

AEA365 incluye Comprehensive evaluation/Evaluación integral en su «Bloggers week»

AEA365 | A Tip-a-Day by and for Evaluators, es el blog de la American Evaluation Association y en el se recogen todo tipo de recursos, informaciones, consejos, etc. para profesionales del ámbito de la evaluación, disponibles en la red. En este sentido, el objetivo del blog es publicar una entrada diaria (de ahí su nombre) y para ello las personas encargadas del mantenimiento del mismo (Sheila B. Robinson, Liz Zadnik, Sara Vaca y Jayne Corso) preparan semanas temáticas, como por ejemplo, la «Bloggers week» en la que dan cabida a otros blogs en los que se habla también de evaluación. En este sentido, la entrada de hoy 21 de junio habla de un servidor y del presente blog, «Comprehensive evaluation/Evaluación integral».

Es, sin duda, un orgullo que el blog de la más importante de las asociaciones de evaluación del mundo se haya fijado en este humilde y recién creado portal para incluirlo en su «Bloggers week», además dentro ya, del Año Internacional de la Evaluación. Se trata de un importante estímulo para seguir trabajando en el impulso de la evaluación de políticas públicas y una prueba más de la importancia que esta herramienta tiene en ciertos países como EE.UU., de donde, al menos en este aspecto, deberíamos tomar ejemplo.

aea

Breve aproximación histórica al desarrollo y la institucionalización de la evaluación de políticas públicas

La historia de la evaluación de políticas públicas es relativamente reciente, ya que se puede hablar de un campo que se ha desarrollado en las últimas décadas, a pesar de que existen referencias sobre algunos trabajos de evaluación de la primera mitad del siglo XX. Concretamente, después de la Segunda Guerra mundial, la práctica de la evaluación de programas y políticas públicas se extiende al conjunto del mundo anglosajón y a la Europa del Norte, mientras que su desarrollo en los países latinos es más tardío. Tradicionalmente se individualizan tres grandes oleadas de difusión de la evaluación en las que se desarrollaron diferentes aspectos sobre la evaluación, algunos bastante opuestos, pero otros complementarios. Por otra parte, Derlien (2001) defiende la tesis de que desde los años 60 a los 90, el énfasis político sobre la evaluación ha pasado desde la función de información a la de reasignación. Se describen brevemente, a continuación, cada una de estas etapas de desarrollo.

Primer periodo: “Optimismo frente a los programas y optimismo frente a la evaluación” (1960-1970)

A partir de los años 60 empieza a hablarse en EE.UU., y un poco más tarde en Canadá, de la práctica de la evaluación, como una disciplina consolidada y actividad científica, surgida como respuesta a la preocupación por determinar los efectos de los programas de la Great Society[1], impulsados por el Presidente Johnson. Este primer movimiento de evaluación estuvo muy unido al proceso de planificación y programación y, por tanto, al papel de los administradores de los programas (Derlien 2001). El momento coincidió con un gran desarrollo de las ciencias sociales, lo que llevó a considerar las ventajas de medir los resultados de las políticas de reforma con métodos experimentales. Empezaba a emerger, aunque con menor intensidad, también en Europa, y fundamentalmente en aquellos países[2] donde existe un desarrollo importante de la política de bienestar social (Suecia o Alemania) o en conexión con los programas de ayuda internacional de la Organización de las Naciones Unidas (ONU) y varias de sus agencias (Instituto Navarro de Administración Pública 2011).

En este período, detractores y defensores de las políticas sociales se mostraron partidarios de la evaluación para obtener información sobre mejores resultados y costes. La función de información predominó durante la fase de despegue del movimiento de evaluación en los años 60 (Derlien 2001). Los defensores veían en la evaluación la posibilidad de legitimar y justificar el incremento del gasto público y los detractores buscaban argumentos en los que fundamentar su crítica, con el propósito de posponer su generalización o reclamar su eliminación. Durante este período, existen dos figuras relevantes (AEVAL 2010):

  • La primera es la de Donald Campbell, psicólogo y sociólogo que mantenía que los programas políticos debían ser considerados como experimentos y que los políticos debían mantener una actitud experimental y desapegarse de los proyectos, una vez aplicados. De esta forma, buscaba que el experimentalismo académico ofreciera las respuestas sobre sus éxitos o fracasos. Bajo el enfoque de Campbell, evaluar es medir científicamente la eficacia de las intervenciones públicas observando la evolución de las variables de impacto a través de dos muestras estadísticamente comparables de beneficiarios y no beneficiarios. La experimentación fue favorecida por el sistema federal norteamericano, que permitió aplicar los programas en algunos Estados, controlando los resultados antes de su implementación a escala general. Este hecho condujo a un proceso de institucionalización de la evaluación con la creación de unidades de evaluación y la aprobación de normativa para regular la evaluación de las acciones públicas.
  • Michael Scriven es la segunda figura importante de este período, para el que la lógica de la evaluación es completamente inversa a la que aplicaba el experimentalismo. Scriven no trata de ver si un programa se ha desarrollado como debía o si los objetivos se han alcanzado, sino de descubrir si el programa en sí es bueno o no. De esta forma, se empieza a pensar en términos de calidad y se busca atribuir un valor a los programas, intentando, a la vez, que sean los implicados los que aporten su idea de valor sobre las intervenciones.

Segundo Período: “Pesimismo respecto a los Programas y desencanto respecto a la evaluación (1970-1980)”

A finales de los años 70 e inicios de los 80, la evaluación es sistemática y generalizadamente aplicada en una gran mayoría de los países desarrollados. En este segundo período, la evaluación se ocupa principalmente de cuestiones de output y, en menor medida, del impacto. Es el caso del Reino Unido durante el mandato de Margaret Thatcher, de los Países Bajos o de Noruega. La mala situación económica fruto de la crisis del petróleo y la crítica situación fiscal promovió que la evaluación se hiciera por vía del proceso presupuestario. Por consiguiente, la perspectiva y la función de evaluación cambiaron ligeramente, puesto que en lugar de implementar programas, el énfasis se ponía más bien en la reducción de los programas ineficaces para, de esta forma, recortar el presupuesto nacional. (Derlien 2001).

EE.UU. sigue siendo el país con un mayor nivel de institucionalización. Es allí donde la función de evaluación se encuentra ya normalizada e integrada en el sistema político administrativo a través de unidades u organismos especializados, en el nivel ejecutivo, pues se cuenta con estructuras de evaluación en los departamentos y agencias públicas, pero sobre todo en el nivel legislativo con organismos fundamentales para el desarrollo de la evaluación, no solo a nivel de los EE.UU. sino también a nivel global: la General Accounting Office[3], el Congressional Research Service, la Congressional Budget Office y la Office of Technological Assessment (Instituto Navarro de Administración Pública 2011).

En esta etapa, la institucionalización de la evaluación es progresiva y empieza a considerarse limitada la creciente intervención pública experimentalista del período anterior. El pesimismo del título del epígrafe, se refiere a la sensación fruto de apreciar que los programas iniciados en el anterior período no han conseguido los logros que perseguían. Por ejemplo, no se consigue erradicar el desempleo en el breve espacio de tiempo que se esperaba; la rehabilitación de los guetos no es tan simple como se creía; y resolver el fracaso escolar es una tarea complicada. Ante este panorama, se concluye que hay efectos asociados a los programas y políticas que no se controlan, y así, comienza a considerarse la idea de los efectos perversos de las políticas públicas. Durante este periodo los evaluadores mantienen dos posiciones distintas (AEVAL 2010):

  • La primera de ellas es la que orienta la investigación de Rossi y Freeman[4], que mantiene que el diseño de los programas o políticas es el que dificulta la evaluación de los mismos, pues se plantean unos objetivos demasiado difusos o genéricos. En este sentido, se detecta en ocasiones, una cierta incoherencia entre necesidades apreciadas, objetivos planteados y medidas adoptadas, de forma que la emisión de un juicio de valor válido resulta muy complicada, haciéndose necesaria una reformulación de las intervenciones para facilitar su evaluabilidad.
  • La segunda posición, es la defendida por los llamados “naturalistas” que sostienen la necesidad de estudiar un programa en la realidad donde se desarrolla, sin buscar la generalización. Esta postura incide en el hecho de que el evaluador debería tratar de ver qué sucede en los programas, ayudar a las personas implicadas y responsables a expresar su juicio sobre la intervención, evaluar y negociar con las diversas partes interesadas dinamizando el proceso y no mantenerse al margen, externos al sistema, sin ensuciarse las manos.

La función de evaluación predominante en los años 80 durante la segunda etapa de institucionalizaciones estaba destinada claramente a ayudar a realizar una asignación racional del presupuesto. Ahora, los actores principales no son ya los administradores de los programas, sino las oficinas auditoras, los Ministerios de Hacienda y las unidades centrales, a quienes les compete la elaboración global del presupuesto y su estructura interna (Derlien 2001).

Tercer Periodo: “Institucionalismo, pluralismo y evaluación”

El final de los años 80 e inicio de los 90, con las presidencias de Reagan y Bush, es un período en EE.UU., que en cuanto a evaluación se refiere, se caracteriza por el fortalecimiento del proceso de institucionalización de la evaluación al crearse un instituto específico para la evaluación dentro de la General Accounting Office que posteriormente, se reorganiza en la División de Evaluación de Programas y Metodologías. A pesar de ello, el problema de los efectos perversos de los programas se agudiza, concluyéndose que los resultados no son los esperados, con lo que los parlamentarios empiezan a solicitar evaluaciones sobre los aspectos negativos para decidir sobre los recortes de gastos. Se constata la complejidad de los programas, al estar compuestos por diversas partes cuyos resultados pueden ser muy desiguales, por lo que se busca analizar el mérito de las acciones singulares para entender, en cada caso, qué es lo necesario (AEVAL 2010).

Por otra parte, en los 90 se inicia en Europa una oleada de evaluaciones motivada, fundamentalmente, por la obligación reglamentaria de realizar evaluación de los programas cofinanciados con Fondos Estructurales, fruto evidentemente de la preocupación de los países más desarrollados, que transfieren rentas a los menos desarrollados, por conocer los resultados que se consiguen con la aplicación de los Fondos de Ayuda[5]. Esta obligación supuso un impulso determinante para la implantación de la evaluación en los países miembros, donde comienzan a aparecer evaluaciones de programas de ámbito regional y local, razón por la que la evaluación ha estado, y sigue estando en la actualidad, fuertemente vinculada a proyectos europeos (Instituto Navarro de Administración Pública 2011).

[1] Precisamente en enero de 2014 se conmemoraron en EE UU los 50 años de la política contra la pobreza del presidente Lyndon B. Johnson, que fue creador del seguro de salud para los ancianos (Medicare) y para los pobres (Medicaid), de las ayudas federales para la educación y de una política de la vivienda de bajo coste. Johnson defendió la construcción de una gran sociedad (The Grat Society) en una nación donde la igualdad de oportunidades y una alta calidad de vida fueran el patrimonio de todos (Estefanía 2014).

[2] Según Derlien (2001) el primer grupo de países que impulsó la evaluación de políticas durante los años 60 eran “países con una situación económica próspera y con presupuestos en crecimiento que permitían a los gobiernos embarcarse en costosos programas de intervención social, incluyendo educación y salud. En este contexto surgieron sistemas formales de planificación que, o estaban limitados a una planificación económica a medio plazo (República Federal Alemana) o, intentaban integrar el presupuesto con la programación (EE.UU., Suecia y Canadá)”.

[3] La General Accouting Office cambió posteriormente su nombre por el de Government Accountability Office, lo que significó un cambio también en el enfoque de su actuación. En otras entradas se hablará sobre este organismo.

[4] El manual de estos autores Evaluation: A Systematic Approach”, representó por muchos años el texto fundamental para ayudar a los políticos a reformular los programas y a evaluar sus diversas fases.

[5] Se trata de algo similar a lo que ocurre en el seno de las organizaciones internacionales de fomento del desarrollo, tal y como se comprobará en siguientes entradas.

Desarrollando la cultura de evaluación (de Jacqueline Stewart)

A través de este enlace se puede acceder a un muy recomendable artículo de Jacqueline Stewart en el que revisa lo que es la cultura de la evaluación y de la investigación y explora detalladamente las acciones que se pueden tomar para desarrollarla y mantenerla.

Developing a culture of evaluation and research

Evidence, Evaluation, and Effective Government (by Caroline Heider)

Interesante artículo de opinión de Caroline Heider, Directora General del Grupo de Evaluación Independiente del Grupo del Banco Mundial, publicado originalmente en The Diplomatic Courier.

«It may be fitting for an institution that thrives on debate that there is no agreement on where the first parliament was established. The title often goes to the Althing in Iceland which was established in 930 AD, but residents of the Isle of Man in the United Kingdom will point out that the Tynwald, while a little younger, has been running continuously for longer.

More important than questions about where or when is the fact that a despite the passing of a millennium, parliaments, and parliamentarians continue to play a vital role in functioning democracies by adopting legislation, setting policy directions, and holding governments accountable for the commitments they have made. The role of parliamentarians could, I believe, be made even more effective if there was a greater embrace of a discipline that focuses on results—evaluation.

Evaluation is the systematic collection and analysis of evidence on the outcomes of programs that allows judgments to be made about their relevance and performance, while providing guidance on how to replicate success or improve poorly performing policies and programs.

The debates and decisions of parliamentarians should be informed by evidence from experience. If a program has produced expected results, should it continue, can it be repeated or expanded? Has a policy contributed to greater equity or heightened inequality and, if so, what corrective measures are needed? And, what better way to hold government accountable than an impartial assessment by evaluators that draws on feedback from stakeholders, including those who voted parliamentarians into office and are affected by their actions.

Yet few countries have well established evaluation systems. And what is evaluated often relates to assistance provided by multilateral and bilateral partners who evaluate results and performance.

As the relative importance of official development assistance diminishes as a proportion of total flows for development, the reliance on these evaluations is insufficient. Instead, evaluation systems need to be able to assess the collective effects of resources for development—domestic and foreign, public and private, trade, aid, and investments. Governments and parliamentarians alike should have an interest in understanding whether these monies propel development outcomes and who benefits from them.

Evaluation derives its value from impartiality, which in turn depends on its independence. It is these qualities that allow evaluators to deliver fair messages that are tough when needed. Of course, not everyone is interested in transparency or in allowing bad news to surface. There is always the risk that the politician, the technocrat, or the advocacy group will pursue shorter term interests regardless of what the evidence might say. And equally important, evaluators must also be able to leave behind self-interest or bias and let the evidence speak.

Of course, avoiding bad news today can result in the waste of resources and opportunities tomorrow if poor performance goes unchecked and mistakes are repeated. Debates that do not involve evidence can lead to ill-informed consensus or gridlock based on partisan positions. The resultant reputational risks and actual policy and program failures will reinforce calls from civil society for better governance, including for better evaluation.

So, if evaluation is such an important part of good governance and a crucial part of the healthy debate in the institutions of democracy, what do parliamentarians need to do? I would argue they can play a crucial role in three ways:

  • 1) By promoting an evidence-based discourse in their debates. Parliamentarians should recognize the importance of using evidence to inform decisions—be they on adopting legislation, approving budgets, or debating government performance in delivering against promised development results.
  • 2) By being discerning consumers of evaluation. There is nothing more powerful than discerning users to promote the supply and use of high quality, timely evaluations. They need to be discerning users because not all evaluations provide as strong or sound an evidence-base as they should, sometimes because their methods are flawed, but more often because the data is insufficient to be conclusive.
  • 3) By safeguarding the independence of evaluation. Parliamentarians can do this by ensuring that at least parts of the evaluation system are safeguarded from undue influence with reporting lines to them rather than the administration, and with independent appointments and resources.

Generating knowledge on what works, what does not, and why is at the heart of evaluation. Acting on that knowledge should be at the heart of governance.

Caroline Heider is Director General of the Independent Evaluation Group at The World Bank Group.»

Red de Seguimiento, Evaluación y Sistematización de América Latina y el Caribe (ReLAC)

relacLa Red de Seguimiento, Evaluación y Sistematización de América Latina y el Caribe ReLAC es una red de redes orientada al fortalecimiento de capacidades, experiencias y profesionalización de la evaluación en América Latina y el Caribe. La Red define su misión como la contribución a fortalecer la cultura y la práctica del seguimiento, evaluación y sistematización como un proceso social y político fundamental para el mejoramiento de las políticas, programas y proyectos, en un ámbito de mayor transparencia y participación ciudadana.

Uno de los aspectos interesantes de la Red es la posibilidad de organización de Grupos ReLAC en torno a temas de interés común para animar y sostener el diálogo entre los miembros de la ReLAC . A través de este enlace podrán descargar las normas de funcionamiento de los Grupos y en estos otros encontrarán información sobre la Red y su planificación estratégica.

Red Argentina de Evaluación

«La Red Argentina de Evaluación (EvaluAR) está constituida por profesionales comprometidos con uno de los desafíos principales que persiguen las Organizaciones Voluntarias para la evaluación profesional (VOPEs): contribuir a la consolidación de la cultura de la evaluación en diversos ámbitos de gestión. Se procura superar la idea restringida que se tiene de la evaluación, asimilada a las nociones de control y  sanción, con vistas a exaltar  sus rasgos inherentes vinculados a las oportunidades de mejora.

La red EvaluAR dio sus primeros pasos en el año 2005 y cobra nuevo ímpetu a inicios de 2013, promoviendo el intercambio, difusión, conformación  y desarrollo de capacidades de evaluación entre profesionales y grupos interesados. Hasta la fecha, la red ha contado con un «grupo promotor”.

A nivel regional, forma parte de la ReLAC (Red de Seguimiento, Evaluación y Sistematización en América Latina), la cual representa una red de redes orientada a contribuir al fortalecimiento de capacidades en seguimiento y evaluación y a profesionalizar la función de evaluación en América Latina y el Caribe. Asimismo, a nivel internacional está contenida por la IOCE (Organización Internacional para la Cooperación en Evaluación), fundada en 2003 con la misión de contribuir a la generación de liderazgo y capacidad en evaluación (especialmente en los países en desarrollo), fomentando el intercambio de ideas sobre la teoría y la práctica de la evaluación en todo el mundo, abordando los retos internacionales en materia de evaluación y ayudando a la profesión de evaluación a adoptar enfoques más globales a fin de favorecer la identificación y solución de problemas mundiales.» (Información extraída de la web de la Red)