5.6 Evaluación de titulaciones en programas EU: objetivos y procedimiento
Debido a que la Comisión Europea no es un organismo de acreditación y que sus evaluaciones se limitan a la asignación de labels de calidad (que se traducen en subvenciones para ejecutar un proyecto de cooperación), los objetivos de la evaluación de las titulaciones así como los criterios e indicadores para medirlos no coinciden a menudo con los que se utilizan a nivel nacional por los estados miembro para evaluar las titulaciones. Sin embargo, es necesario que las diferentes evaluaciones sean conscientes de las características de estos certificados para poder valorar la validez de algunos de los aspectos valorados a nivel europeo.
En los programas europeos la evaluación de titulaciones siempre se realiza desde la perspectiva del estudiante. Es lo que se denomina un “outcome-based approach” en la evaluación de titulaciones y proyectos. Esto se valora en términos de input de ingreso y output de salida, tanto para estudios de grado y postgrado, y se valora especialmente los mecanismos de monitorización y mecanismos de control de la calidad de la titulación en su conjunto.
La mayor diferencia en objetivos entre las evaluaciones de calidad y acreditación nacionales y las de los programas europeos son su naturaleza: en las evaluaciones de Bruselas el objetivo es el de realizar un ranking de propuestas de titulaciones que obtendrán el label de calidad en base a la cantidad de presupuesto de la convocatoria y la cuantía solicitada, por lo que se trata de una evaluación de máximos; en cuanto a las evaluaciones de acreditaciones nacionales (o de homologación de las CCAA) se trataría de evaluaciones de mínimos. Así, muchas propuestas de titulaciones europeas no obtienen el label de calidad no porque no tienen la calidad suficiente para ello, sino porque existen otras propuestas de mayor calidad en base a los objetivos de la convocatoria. Un buen ejemplo de ello es el label Erasmus Mundus, cuya concesión permite acceder automáticamente a financiación comunitaria para ese título de master, de forma que el número de consorcios de instituciones a las que asignaba el mismo está limitado por la cantidad del presupuesto asignado a cada convocatoria. Sin embargo, también es cierto que existen algunos casos de certificación por parte de la UE, como son el ECTS- label y el DS-label XXXXXhay dinero?XXXXXX.
Criterios
La diferencia en objetivos entre los programas evaluados en la Comisión Europea y los empleados en evaluaciones o acreditaciones de la ENQA (o la ANECA) se traduce también en que se emplean criterios de evaluación que pueden ser en ocasiones muy diferentes. Esto implica que la práctica totalidad de las evaluaciones de calidad de las titulaciones por parte de Bruselas no pueden sustituir ni en su totalidad ni en parte a las evaluaciones de acreditación nacionales de las agencias de cada estado miembro.
La evaluación de titulaciones y de los programas europeos se orienta en Bruselas siempre desde la perspectiva del estudiante, y prácticamente muy poco en el beneficio institucional o de los profesores. Esta perspectiva se dice que sigue un outcome- based approach (una aproximación orientada a resultados), de forma que se valora la titulación desde la perspectiva del input y output (el perfil de ingreso de los estudiantes y las competencias que adquirirán, valorando para ello la validez y calidad del programa de estudios y las instituciones participantes junto con su profesorado). Estos criterios se aplican a la evaluación tanto de grado y postgrado como a la valoración del plan de control de la calidad que se presenta como parte íntegra de la propuesta de titulación.
Procedimiento
Esta diferencia en cuanto a la evaluación influye también en el tipo de procedimiento de evaluación que se realiza en Bruselas y en los estados miembro de la UE.
Así por ejemplo, en las evaluaciones realizadas por las agencias de la ENQA (por ejemplo la ANECA) o sus filiales autonómicas en el caso español, la evaluación de la titulación se realiza por un comité de expertos en base a la calidad individual de cada propuesta. En Bruselas en necesario crear un ranking de propuestas de mejor a peor de entre las propuestas que se considera satisfacen un mínimo de nivel.
Para ello, si bien el procedimiento puede cambiar de un programa europeo a otro, en general el procedimiento que se emplea es similar al siguiente:
  • Comprobación de requisitos (eligibility check): consiste en un filtro previo a la evaluación de cada propuesta para descartar aquellas que no cumplen los requisitos de la convocatoria
  • Ejercicio de evaluación:
    • Evaluaciones independientes e individuales: un mínimo de dos evaluadores por propuesta emiten una evaluación completa por separado siguiendo los criterios del programa. Las propuestas son asignadas de acuerdo a la afinidad del área de conocimiento (y en ocasiones se tiene en cuenta el dominio del idioma de la solicitud)
    • Reuniones de consenso: los evaluadores independientes se reúnen para debatir discrepancias de opinión sobre la propuesta tanto en la calificación como en cada uno de los criterios de evaluación.
    • Paneles sectoriales (temáticos): los evaluadores se reúnen en grupos por afinidad disciplinar para analizar la equidad en cuanto a la valoración de las propuestas correspondientes a cada subgrupo. En Erasmus Mundos esto se realiza en cuatro grandes grupos denominados Hard sciences, Life sciences, Business & law, y Humanities. Se nombra de entre los evaluadores a un Lead Expert que hace las funciones de coordinador y representante del grupo.
    • Panel general: todos los evaluadores se reúnen y se vuelve a analizar el ranking de todas las propuestas aprobadas en su conjunto para asegurar que se han aplicado los criterios de forma similar entre las propuestas de cada subgrupo. Cada Lead Expert hace de portavoz de su subgrupo de evaluadores.
  • Selection Board: Se trata de un comité de expertos que por su experiencia previa revisan el procedimiento anterior para validarlo y para proponer (en su caso) modificaciones al ranking final de propuestas. En el caso de Erasmus Mundus está formado por doce personalidades de reconocida experiencia académica de toda Europa. Los Lead Experts participan y tienen voz, pero no voto.
  • Toma de decisión final: la Comisión Europea toma la última decisión, que se basa en la calidad académica relativa de cada propuesta (según evaluaciones de los expertos independientes y el Selection Borrad) y en el presupuesto total destinado a la convocatoria. En esta última decisión las agencias (o estructuras nacionales) de los estados que se encargan de la gestión del programa a nivel nacional también pueden facilitar una valoración de las propuestas emitidas por su propio país.
En cuanto a la selección de evaluadores independientes, los criterios para su selección tienen en consideración el grado de conocimiento de diferentes sistemas de educación superior europeos, el conocimiento de lenguas, la experiencia en relaciones internacionales y ECTS, la experiencia en evaluación de otros programas europeos de las DGs de educación y cultura, ayuda a la cooperación e investigación (programas Sócrates, Leonardo, tempos, Programa Marco...). Además, se establece una política periódica de renovación de evaluadores, de forma que existe una renovación obligada periódicamente de todos los evaluadores.