You are on page 1of 82

Comparativa de instrumentos de evaluacin de la competencia.

Evaluacin de la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

P.V.P.: 6 euros

AATRM Nm.2006/14

AATRM Nm.2006/14

MINISTERIO DE SANIDAD Y CONSUMO

INFORMES, ESTUDIOS E INVESTIGACIN MINISTERIO DE SANIDAD Y CONSUMO

www.msc.es

Comparativa de instrumentos de evaluacin de la competencia.


Evaluacin de la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)
Informes de Evaluacin de Tecnologas Sanitarias AATRM 2006/14

INFORMES, ESTUDIOS E INVESTIGACIN 2007 MINISTERIO DE SANIDAD Y CONSUMO

Arnau i Figueras, Josep Comparativa de instrumentos de evaluacin de la competencia: evaluacin de la competencia clnica: anlisis comparativo de dos instrumentos (ECOE versus Portafolio). (Informes, estudios e investigacin) (Informes de evaluacin de tecnologas sanitarias, AATRM; 2006/14) Bibliografia. Text en castell, resum en angls ISBN 9788439379515 I. Martnez-Carretero, Josep Maria II. Espanya. Ministerio de Sanidad y Consumo III. Catalunya. Departament de Salut IV. Ttol V. Collecci: Informes, estudios e investigacin VI. Collecci: Informes de evaluacin de tecnologas sanitarias, AATRM; 2006/14 1. Competncia clnica Avaluaci 2. Metges de famlia Formaci Avaluaci Espanya 3. Metges de famlia Avaluaci Espanya 614.23(460)

Autores: Josep Arnau i Figueras y Josep Maria Martnez-Carretero Asesores: Pere Torn, Ramon Descarrega, Josep Maria Fornells y Sebasti Juncosa Colaboradores: Mara Jos Tom, Xavier Crespo y Carles Pila Para citar este informe: Arnau Figueras J, Martnez-Carretero JM. Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio). Madrid: Plan de Calidad para el Sistema Nacional de Salud. Ministerio de Sanidad y Consumo. Agncia dAvaluaci de Tecnologia i Recerca Mdiques de Catalua; 2007. Informes de Evaluacin de Tecnologas Sanitarias, AATRM nm. 2006/14. Edita: Agncia dAvaluaci de Tecnologia i Recerca Mdiques de Catalua Roc Boronat, 81-95 08005 Barcelona NIPO: 477-08-008-7 ISBN: 978-84-393-7951-5 Depsito Legal: B-33.861-2008

Ministerio de Sanidad y Consumo Agncia dAvaluaci de Tecnologia i Recerca Mdiques de Catalua Este documento puede ser reproducido parcial o totalmente para uso no comercial, siempre que se cite explcitamente su procedencia.

http://publicaciones.administracion.es

Comparativa de instrumentos de evaluacin de la competencia.


Evaluacin de la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)
Informes de Evaluacin de Tecnologas Sanitarias AATRM 2006/14

Este documento se ha realizado en el marco de colaboracin previsto en el Plan de Calidad para el Sistema Nacional de Salud, al amparo del convenio de colaboracin suscrito por el Instituto de Salud Carlos III, organismo autnomo del Ministerio de Sanidad y Consumo, y la Agncia dAvaluaci de Tecnologia i Recerca Mdiques de Catalua.

Autores
Josep Arnau i Figueras y Josep Maria Martnez-Carretero

Asesores
Pere Torn, Ramon Descarrega, Josep Maria Fornells y Sebasti Juncosa

Colaboradores
Mara Jos Tom, Xavier Crespo y Carles Pila

Persona de referencia: Josep Arnau i Figueras Institut dEstudis de la Salut (IES) Roc Boronat, 81 95 08005 Barcelona Tel.: 93 551 38 27 E-mail: jarnau.figueras@gencat.net

ndice
Resumen Summary Palabras clave Justificacin Introduccin Objetivos Metodologa Resultados 1. ECOE de MFyC 1.1 Anlisis psicomtrico de la ECOE de MFyC del 28 de octubre de 2006 A. Introduccin y mtodos B. Resultados descriptivos prueba global Conjunto Segn rueda C. Resultados segn casos Conjunto Segn rueda D. Resultados segn componentes Conjunto Segn rueda E. Anlisis de la fiabilidad F. Comparacin con ECOE 2005 Prueba global Segn componentes Segn casos comunes 2. Portafolio SEMI 2.1. Resultados cuantitativos 2.2. Resultados cualitativos Discusin Conclusiones Recomendaciones Bibliografa 11 13 15 17 19 31 33 41 41 41 41 43 43 45 46 46 48 49 49 50 51 53 53 54 55 58 58 59 61 63 65 79

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 9 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

Resumen
En las ltimas dcadas se han desarrollado una multiplicidad de instrumentos para evaluar las competencias de los estudiantes y profesionales de las ciencias de la salud. El Instituto de Estudios de la Salud (IES) est diseando y aplicando, desde el ao 1994, pruebas de Evaluacin Clnica Objetiva y Estructurada (ECOE) y, desde el ao 2001, est introduciendo el PORTAFOLIO como instrumento de evaluacin formativa de los profesionales sanitarios. En este proyecto de investigacin educativa se ha preparado e implementado una experiencia especfica con cada uno de ambos instrumentos. La ECOE se administr a 60 especialistas de Medicina Familiar y Comunitaria (MFyC) de centros de atencin primaria de Catalua, el 28 de octubre de 2006, y el Portafolio SEMI fue utilizado por 29 residentes de primer ao de Medicina Interna, repartidos por 18 hospitales del conjunto de Espaa, a lo largo de todo el curso acadmico 2005-2006. La ECOE de MFyC ha mostrado nuevamente la solidez de este instrumento para identificar las competencias consolidadas y las deficiencias mejorables de los profesionales que voluntariamente se someten a la prueba. A partir de la determinacin de las competencias con peores resultados en el conjunto de las diversas ediciones anuales efectuadas, tanto la Sociedad Catalana de Medicina Familiar y Comunitaria como otras Sociedades Mdicas Catalanas (Geriatra, Pediatra o Neonatologa) que realizan tambin ECOE estn elaborando y ofreciendo a sus asociados talleres de formacin para poner remedio a estos dficits. La experiencia de los residentes de Medicina Interna con el Portafolio ha sido la primera llevada a la prctica y, a pesar de las dificultades y errores cometidos, ha resultado crucial para conocer las bondades y beneficios potenciales de este instrumento formativo y los escollos que debern enfrentarse para irlo introduciendo en las diversas especialidades mdicas, tanto a nivel de valoracin formativa de los residentes como, a ms largo plazo, de recertificacin profesional.

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 11 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

Summary
Along the last decades, a variety of tools to assess the competences of students as well as professionals of different health sciences have been developed. The Institute of Health Studies (IES), located in Barcelona (Spain), has been designing and administering, since 1994 year, tests of Objective Structured Clinical Examinations (OSCE) and, since 2001, is introducing the PORTFOLIO as an instrument for the formative assessment of health professionals. For this project on formative research an specific experience with each one of the referred tools has been elaborated and implemented. The OSCE was administered to 60 specialists in Family and Community Medicine (F&CM) working in primary health centers of the whole Autonomous Community of Catalonia , on 28th October 2006, and the Portfolio SEMI (Spanish Internal Medicine Society) was used by 20 first year Internal Medicine residents, spared in 18 Spanish hospitals, during the 2005-2006 Academic course. The OSCE for F&CM has proved again the solidity of this tool to identify consolidated competences and deficits susceptible of improvement by those professionals that voluntarily entered the test. From the determination of competences with worst results along the series of editions annually performed, some Medical Societies are building and offering to their affiliates Formative Workshops to put a remedy to those deficiencies. The experience engaged by residents of Internal Medicine with Portfolio has been the first to be put in practice in Spain and, even with the great number of difficulties encountered and mistakes committed, has been crucial to know the value and the potential benefits of this formative tool and the pitfalls that must be confronted to star to introduce it into the different medical specialities, with a certification goal and, in the long run, with a professional recertification objective.

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 13 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

Palabras clave
Castellano: Evaluacin Clnica Objetiva y Estructurada (ECOE), Portafolio, Educacin Mdica, Evaluacin de la Competencia Clnica. Ingls: Objective Structured Clinical Examination (OSCE), Portfolio, Medical Education, Clinical Skills Assessment.

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 15 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

Justificacin
El Desarrollo Profesional Contino Individual (DPCI) y algunas de sus aplicaciones, como la Carrera Profesional, necesitan de instrumentos vlidos y fiables que midan la competencia profesional. Es adems importante evaluar la relacin costo/beneficio de estos instrumentos, especialmente cuando hay que aplicarlos a muestras importantes de profesionales. Las instituciones implicadas en la formacin y utilizacin de los profesionales sanitarios tienen la responsabilidad social de garantizar la calidad de los servicios que el sistema sanitario presta a la sociedad. La calidad de los servicios sanitarios depende de las competencias de los profesionales. Es imprescindible, por lo tanto, definir y evaluar las competencias profesionales para mejorar la formacin, asegurar la calidad y gestionar a los profesionales por competencias. La competencia profesional es la capacidad de las personas para utilizar los conocimientos, habilidades y actitudes asociados a su profesin para resolver los problemas que se le planteen. Para evaluar cada uno de los componentes de la competencia profesional hay que utilizar una combinacin de diferentes mtodos de evaluacin. La Evaluacin Clnica Objetiva y Estructurada (ECOE) es un formato que incluye diversos instrumentos evaluativos y cuya estructura permite que los candidatos roten por un circuito de estaciones secuenciales para realizar una amplia variedad de diferentes habilidades. Se pueden distinguir tres diferentes niveles de evaluacin: al finalizar la formacin pregraduada, en la formacin postgraduada o de especializacin y durante el ejercicio profesional independiente. Adems, hay que tener en cuenta la evaluacin formativa y la sumativa que se realiza durante el proceso de formacin pregraduada y postgraduada. La evaluacin de los diversos niveles tiene propsitos, contenidos y mtodos diferentes, y las instituciones implicadas deben responsabilizarse en conseguir el tipo de profesionales que la sociedad necesita. La seleccin de los profesionales ha de utilizar instrumentos objetivos de evaluacin que nos permitan asegurar que disponen de las competencias necesarias para el lugar de trabajo y no estar basada exclusivamente en los mritos acadmicos o de investigacin. El ejercicio de la prctica asistencial ha carecido hasta la aparicin en el ao 2003 de la Ley de Ordenacin de las Profesionales Sanitarias (LOPS),

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 17 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

de un sistema de promocin dentro del lugar de trabajo y la nica opcin ha sido, hasta ahora, optar a cargos directivos. Es preciso disear un sistema de incentivacin y promocin profesional que reconozca tanto la pericia como el cumplimiento de los objetivos asistenciales. Desde 1994 se han realizado en nuestro entorno diversos proyectos que confirman la utilidad de estos mtodos evaluativos del desarrollo profesional continuo individual.

18

INFORMES, ESTUDIOS E INVESTIGACIN

Introduccin
Antecedentes, estado actual e importancia del tema La misin del Sistema sanitario es dar respuestas a las necesidades de los ciudadanos y, en consecuencia, tanto los recursos materiales como humanos tienen que estar al servicio de esta misin. Los diferentes actores que intervienen en el Sistema sanitario, la Administracin sanitaria, los proveedores de los servicios sanitarios, las asociaciones profesionales, las sociedades cientficas, las instituciones docentes del personal sanitario y los usuarios, tienen una responsabilidad social para conseguir que el sistema sanitario proporcione unos servicios relevantes, es decir, relacionados con las necesidades sanitarias; equitativos, es decir de accesibilidad de los ms necesitados; de calidad y coste-efectivos. Los sistemas sanitarios, como empresas que prestan servicios a la poblacin, hacen un uso intensivo de recursos humanos altamente cualificados. Si pretendemos que estos servicios sean de calidad, habr que asegurar la competencia de los profesionales. La evaluacin de la competencia clnica es, por lo tanto, un objetivo de las instituciones involucradas en la formacin y utilizacin de los profesionales sanitarios. Por ello, est aumentando el nmero de pases donde se considera necesaria la evaluacin de la competencia de los profesionales y se estn incorporando a nuestro lenguaje conceptos relativamente nuevos, como certificacin, recertificacin, acreditacin o evaluacin de la competencia. La cultura evaluativa de nuestro pas ha estado basada fundamentalmente en los mtodos tradicionales y muy pocos expertos se han atrevido a valorar, de forma objetiva, la prctica clnica. Desde hace ms de tres dcadas diversas instituciones estn utilizando mtodos docentes y evaluativos de la prctica clnica, por lo cual disponemos en la actualidad de instrumentos vlidos, fiables, aceptables tanto para los candidatos como para las instituciones, factibles y cuyo impacto educativo est demostrado. Desde principios de 1994 se vienen realizando en nuestro pas proyectos de evaluacin que nos permiten evaluar las competencias clnicas a diversos niveles (pregrado, postgrado y en el ejercicio profesional) y de distintos profesionales. De acuerdo con la pirmide de Miller hay cuatro niveles de evaluacin por orden de complejidad. En la base de la pirmide estn los conocimientos que un profesional necesita saber para desarrollar sus tareas profesionales con eficacia; en el nivel superior estar la capacidad para saber cmo utilizar estos conocimientos para analizar e interpretar los datos obtenidos. Esta capacidad se define como competencia. No tan solo es preciso conocer o saber

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 19 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

cmo utilizar sino tambin es necesario demostrar cmo se utilizan. Es decir, es necesario conocer la actuacin de un profesional frente a una situacin clnica especfica. Finalmente, no obstante, es preciso conocer lo que un profesional hace realmente en su prctica laboral. Si consideramos la evaluacin como un instrumento diagnstico de los dficits competenciales, es obvia su utilidad para modificar o mejorar la formacin previa y posterior, para la seleccin de los profesionales, para la certificacin y para cualquier sistema de incentivacin y promocin profesional que se desee disear. Para evaluar cada una de estas competencias, los instrumentos tienen que ser necesariamente diferentes, dado que no hay ningn mtodo de evaluacin que por s solo pueda proporcionar toda la informacin necesaria para juzgar la competencia de un profesional. Es necesaria, por tanto, una combinacin de los diferentes mtodos para evaluar las habilidades cognoscitivas y las complejas habilidades que componen el concepto de competencia profesional. Una mencin especial se debe hacer de la prueba, desarrollada en el mbito anglosajn, de Evaluacin Clnica Objetiva y Estructurada (ECOE). La ECOE es un formato de prueba en el que se pueden incluir diferentes mtodos evaluativos. El formato bsico consiste en que los candidatos roten por un circuito de estaciones secuenciales en el que se les solicita que realicen una variedad de diferentes habilidades. En muchas de estas estaciones se utilizan pacientes simulados estandarizados, casos por ordenador, maniques, pruebas complementarias (ECG, RX, analtica, etc.), entre otras. Es obvio que los mtodos que nos permitan evaluar el nivel de la prctica profesional son los ms relevantes y completos, ya que nos proporcionan informacin sobre lo que el profesional realmente hace en su prctica diaria. No obstante, es preciso sealar que desde el punto de vista metodolgico es el ms difcil ya que intervienen no solamente problemas tcnicos (de factibilidad y fiabilidad) sino tambin otros factores no relacionados con lo que el profesional es capaz de hacer y que pueden modificar su prctica, como por ejemplo, el tipo de organizacin de la institucin en la que trabaja, los recursos disponibles, la competencia de otros profesionales que intervienen en la prctica que se pretende evaluar, la masificacin asistencial y la motivacin del propio profesional, entre otras. A pesar de todo, existen instrumentos que pretenden evaluar este nivel y nos pueden dar informacin bastante relevante de la prctica real del profesional como: las escalas de evaluacin global, la revisin de las historias clnicas (audit), la revisin de las decisiones clnicas (chart stimulated recall), las observaciones de la prctica por colegas o mediante videos, las encuestas

20

INFORMES, ESTUDIOS E INVESTIGACIN

de satisfaccin de enfermos y familiares, los cuadernos de autoaprendizaje o portafolio, la opinin de otros miembros del equipo, los indicadores de problemas en la prctica, o la calidad de las prescripciones teraputicas, entre otras. Desde hace ya unos aos se est utilizando el portafolio como instrumento para la valoracin formativa o para la evaluacin sumativa, tanto durante el proceso de formacin pregraduada como postgraduada. Asimismo, se est considerando como un buen instrumento que puede ser til para la recertificacin o la carrera profesional. El portafolio es una compilacin de la evidencia de la consecucin de los objetivos de aprendizaje o de la prctica profesional. Habitualmente se trata de material impreso pero, tambin, puede contener otro tipo de material como videograbaciones o fotografas, que proporciona una evidencia documental equivalente. El portafolio sirve para evaluar el progreso y los resultados del aprendizaje y proporcionar evidencia sobre la prctica del estudiante o del profesional a lo largo del tiempo, orientar la formacin de acuerdo con las caractersticas del que aprende, mejorar la interaccin entre el estudiante y el docente, estimular la utilizacin de estrategias de reflexin, expandir la perspectiva de la competencia profesional, favorecer la autonoma del estudiante, el residente o el profesional, efectuar una evaluacin transparente y documentada, permitir un aprendizaje y una enseanza personalizada y profesional, promover una prctica reflexiva, interiorizar el autoaprendizaje para toda la vida, desarrollar otras habilidades, adems de la clnicas como la planificacin, organizacin del tiempo y de las actividades. El contenido del portafolio podr variar ostensiblemente dependiendo del propsito para el que ha sido definido, pero en general contiene algunos de los elementos siguientes: incidentes crticos, diario de reflexin, tutoras y planes de aprendizaje, incidentes habituales, artculos publicados, auditorias de las historias clnicas (audits), videograbaciones de la consulta real, certificados de participacin como docente o como discente y cualquier otro material til para demostrar la evidencia sobre competencia.

Evaluacin clnica objetiva y estructurada (ECOE)


Concepto
Conocida como OSCE (ingls), ACOE (cataln), ECOE (castellano) o ECOS (francs).

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 21 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

Se trata de un examen multiestacin, cuya finalidad es la evaluacin de la capacidad clnica del candidato. Es un prototipo paradigmtico del nivel III de la Pirmide de Miller (performance shows how -). La finalidad es representar, simular la realidad que vive el profesional. Por este motivo, las situaciones clnicas incluidas se basan fundamentalmente en los pacientes simulados estandarizados (PSE). La estructura multiestacin permite la combinacin de diferentes instrumentos (maniques, instrumentos escritos, orales estructurados), pero los PSE son la base de la evaluacin (como lo son los pacientes reales de la prctica clnica autntica). La seleccin de casos incluidos en la ECOE, la seleccin de contenidos evaluativos dentro de cada caso y el valor de cada contenido en cuanto al conjunto de la prueba est totalmente detallada en una tabla directiva llamada Tabla de Especificaciones (Tde E). La Tde E garantiza la objetividad y la estructuracin del proceso.

Utilidad evaluativa
La ECOE tiene una alta fiabilidad, siempre que incluya un elevado nmero de casos. Las ECOE con menos de 15 casos difcilmente tienen la fiabilidad exigible. La validez de apariencia es notable dada la propia idiosincrasia simulativa del instrumento. La validez de contenidos es buena, pero requiere tambin un nmero elevado de estaciones. La validez de constructo es asequible y depende de la calidad metodolgica del diseo de la prueba. La validez de constructo es tambin posible, pero difcil de establecer por falta de gold standards. En general, son un prototipo con buena aceptabilidad, especialmente cuando se aplican a profesionales en prctica. La bsqueda de la factibilidad va dirigida a conseguir los formatos ms eficientes posibles, pero el coste y la aplicacin a gran escala supone siempre una barrera con este tipo de formato. El impacto educativo es intenso desde un punto de vista global, pero poco til como orientacin especfica de la formacin subsiguiente.

22

INFORMES, ESTUDIOS E INVESTIGACIN

Anlisis de fortalezas y debilidades


FORTALEZAS DEBILIDADES

Fiabilidad Validez Autenticidad Objetividad Defendibilidad Facilidad del puntaje Combinacin de instrumentos

Coste/examinado alto Logstica a gran escala compleja Escaso feedback y poco especfico Diseo complejo y costoso La seguridad como tem crtico

Indicaciones
La ECOE es un excelente elemento certificador. Su capacidad para poder determinar quin es suficientemente bueno y quin no es muy buena, especialmente cuando se pretende detectar infraprctica. Esta capacidad es especialmente estimable cuando se aplica a finales de un perodo formativo y cuando se complementa con otros instrumentos evaluativos. Tambin es una estructura ptima para otras evaluaciones sumativas high-stake (oposiciones).

No se recomienda...
Para hacer evaluacin formativa Como elemento central de un proceso recertificador En la deteccin de excelencia Para la evaluacin de profesionales veteranos

La ECOE como instrumento con intencin sumativa


La fiabilidad como aspecto ineludible
La fiabilidad es el grado en que los resultados de una ECOE son consistentes y reproducibles, es decir, hasta qu punto un candidato obtendra el mismo

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 23 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

resultado independientemente del nmero de veces que pasara el examen. Dicho de otra manera, hasta qu punto el resultado obtenido es inherente a la competencia del propio examinado y no consecuencia de fenmenos externos a l (relacionados con defectos de la misma prueba o con el azar). En un entorno sumativo, la fiabilidad es una condicin incuestionable, si el examen no es fiable, la evaluacin no podr ser nunca justa. Es absolutamente injusto y carente de tica negar certificaciones por no haber superado un examen no fiable. Es absolutamente irresponsable conceder certificaciones a candidatos de prctica lmite examinados mediante evaluacin no fiable. La fiabilidad de una ECOE depende fundamentalmente de dos aspectos: la muestra de situaciones y la heterogeneidad de los candidatos.

La especificidad de contenido, el efecto muestra y el efecto tiempo


Uno de los principales artefactos en evaluacin competencial es la especificidad de contenido (ingls: content or domain specificity). Este fenmeno se basa en el hecho de que la actuacin de un candidato frente a una situacin clnica en absoluto predice cmo se comportar frente a otra. Cada candidato afronta cada situacin clnica de forma particular. Si no fuera as, con muy pocas situaciones tendramos suficiente para poder determinar su competencia. Pero la especificidad de contenido hace necesaria la incorporacin de un alto nmero de situaciones clnicas dentro de un formato evaluativo para poder evaluar de forma fiable. As, los casos actan en una ECOE como los pxeles en una imagen informatizada. Cuantos ms pxeles tenga, mayor ser la nitidez con que podremos identificar la imagen. De la misma forma, cuntos ms casos contenga una ECOE con mayor fiabilidad podremos estar seguros de aquello que estemos observando. Este fenmeno se ha observado de forma universal, no slo en la literatura internacional, sino tambin directamente en todas las ECOE realizadas por la Unidad de Evaluacin de las Competencias Clnicas del IES. En conclusin, solamente las ECOE con elevada cantidad de casos pueden ser fiables. Y solamente las ECOE fiables son justas y permiten realmente evaluar. Si una ECOE no es suficientemente fiable, seguramente solamente har falta aumentar el nmero de casos para conseguir la fiabilidad deseada.

24

INFORMES, ESTUDIOS E INVESTIGACIN

Partiendo de la teora de la generalizabilidad, la forma estandarizada de medir la fiabilidad en evaluacin de la competencia clnica se realiza mediante el Alfa de Cronbach.

Relacin entre el valor del Alfa de Cronbach y la fiabilidad de una ECOE


VALOR DEL ALFA COMENTARIO > 0,95 Alfa excesivo. Es necesario replantear la prueba. Seguramente todos los casos estn midiendo exactamente lo mismo y haya un conflicto de validez. Alfa ptimo. La prueba tiene la mxima fiabilidad. Alfa suficiente. La prueba permite juicios, siempre que el resto de dimensiones de utilidad sean favorables Alfa insuficiente. En determinadas circunstancias (muy justificadas) podran aceptarse los resultados. Bajo ninguna consideracin la prueba tiene la suficiente fiabilidad como para permitir la toma de decisiones.

= 0,8 0,95 = 0,65 0,8 = 0,55 0,65 < 0,55

Por otra parte, dada la relacin entre el nmero de situaciones y el tiempo de la prueba, existe tambin una relacin directa entre la duracin de una ECOE y su fiabilidad. Esta relacin no se basa solamente en una interaccin estadstica entre nmero de casos y clculo del alfa, sino tambin por otros aspectos relacionados con el constructo evaluativo (efecto cansancio, tolerancia al estrs del candidato, etc.).

Relacin entre la duracin de una ECOE y el Alfa de Cronbach


DURACIN ALFA 1 HORA 0,54 2 HORAS 0,69 4 HORAS 0,82 8 HORAS 0,90

La influencia de los candidatos en la fiabilidad y el efecto de los candidatos extremos


La frmula que permite calcular el Alfa de Cronbach es sensible a la variabilidad de resultados entre candidatos. Con ms variabilidad, mayor valor se obtiene del alfa. Este efecto puede quedar minimizado en proyectos que evalan gran cantidad de personas y, por el contrario, es mximo cuando el proyecto se aplica a un reducido nmero de examinados.

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 25 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

As, ECOE que tengan pocos candidatos pero muy heterogneos pueden mostrar, falsamente, fiabilidades muy altas. Este fenmeno es tan poderoso que puede, incluso, anular el impacto del efecto muestra. Es decir, candidatos con comportamiento anormal pueden propiciar fiabilidades altas en pruebas con bajo nmero de casos. Nuestra experiencia demuestra que sta es la primera causa de interpretacin errnea de una fiabilidad alta y frecuentemente est causada porque alguno de los candidatos (con 1 o 2 podra ser suficiente) ha presentado unos valores fuera de la curva normal esperable.

Caractersticas de la ECOE mnima


Todos los grupos que trabajan en ECOE a nivel internacional coinciden en el perfil de prueba idneo. La experiencia de la Unidad de evaluacin de las competencias clnicas del IES es consistente con este acuerdo, segn el cual una ECOE con finalidades sumativas aplicada a grandes colectivos de profesionales y que consiga dichos requisitos debe cumplir las siguientes caractersticas:

Caractersticas de la ECOE mnima


ECOE SUFICIENTE NMERO MNIMO DE CASOS TIEMPO MNIMO DE EXAMEN 15 3h ECOE PTIMA 20 4h

Conclusiones
Por encima de cualquier otra consideracin, la ECOE con finalidad sumativa debe garantizar un mnimo de requisitos psicomtricos que permitan realizar una evaluacin til y justa. Formatos de ECOE con menos de 15 casos o de menos de 3 horas de tiempo evaluativo son, con un pequeo margen de error, incompatibles con una evaluacin competencial fiable y vlida. Los formatos idneos deben tender a tener > de 20 estaciones y > de 4 horas de tiempo evaluativo.

Portafolio
Concepto
Un Portafolio (PF) es una recoleccin de evidencia que, con un propsito determinado, se hace para demostrar el nivel de formacin y/o competencia alcanzado por un profesional.

26

INFORMES, ESTUDIOS E INVESTIGACIN

Supone que, con un mayor o menor grado de estructuracin y direccin, el candidato crea unos objetivos de consolidacin de formacin y de competencia prctica. En base a estos supuestos el profesional recoge pruebas que testifiquen esta consolidacin y las reflexiones asociadas al progreso de mejora. Sobre este sistema de formacin/mejora competencial puede estructurarse un sistema evaluativo. Dado que en gran medida se basa en el anlisis de aquello realizado en la prctica real, es un prototipo paradigmtico del nivel IV de la Pirmide de Miller (action does). Por lo tanto, es un instrumento evaluativo capaz de llegar all donde los otros no llegan... pero eso solamente se consigue si el PF est bien diseado. Es el instrumento que mejor se incardina con la formacin basada en competencias, con la prctica reflexiva y con el desarrollo profesional continuo. La evaluacin la hace posible la incorporacin dentro del PF de multitud de instrumentos (incidentes crticos, evaluacin 360, audits, indicadores de prctica, videograbaciones, etc.)

Utilidad evaluativa
Todas las publicaciones coinciden en que la fiabilidad del PF es insuficiente para hacer una evaluacin sumativa justa. Su validez es, en trminos generales, excelente (siempre y cuando el diseo del instrumento sea el adecuado). Pero las estrategias para mejorar la fiabilidad podran poner en peligro la validez. A pesar de este aparente mal comportamiento mtrico, recientes publicaciones basadas en investigacin cualitativa parecen dar un buen soporte a la bondad estadstica de la evaluacin sumativa basada en PF. El diseo de un PF es complejo y costoso pero, una vez conseguido, su replicabilidad hace que se amortice con cierta facilidad. Adems, su implantacin a gran escala es relativamente fcil. Esto hace que sea un buen prototipo en trminos de factibilidad. Al ser un instrumento de base flexible, personalizada y autodirigida, la aceptabilidad es ptima. Al ser un instrumento centrado en la prctica, el aprendizaje y la reflexin, el impacto educativo es mximo.

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 27 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

Anlisis de fortalezas y debilidades


FORTALEZAS DEBILIDADES

Aplicabilidad a gran escala Feedback formativo Autorreflexin Individualizacin Autenticidad Flexibilidad Validez de contenidos Coste/beneficio favorable

Subjetividad Fiabilidad Validez constructo y predictiva Puntuaciones complejas Diseo complejo Consumo de tiempo de los implicados

Indicaciones
El PF es el paradigma del instrumento indicado en evaluacin formativa. Este potencial se amplia al combinar la observacin de la recopilacin de evidencia con un sistema de tutorizacin individualizado. Su flexibilidad permite adaptarlo fcilmente a los diferentes tiempos de la progresin competencial del profesional a lo largo de su carrera. Esto lo hace ptimo para su utilizacin como instrumento de recertificacin (cuando esta recertificacin tenga ms de Desarrollo Profesional Continuo que de examen peridico de la certificacin). Especialmente indicado cuando esta valoracin se tenga que hacer a gran escala. Es idneo para la evaluacin de profesionales veteranos. Esquemticamente, se podra decir que es un instrumento blando de evaluacin sumativa y duro de evaluacin formativa.

No recomendado para...
Certificacin profesional Evaluaciones high stake

ECOE vs. PORTAFOLIO


ltimamente se observa en la literatura una tendencia a comparar las prestaciones de estos dos instrumentos evaluativos. Es normal que sea as, dado que representan los dos hitos ms relevantes de la evaluacin en educacin mdica de los ltimos 20 aos.

28

INFORMES, ESTUDIOS E INVESTIGACIN

Pero, realmente, hacerlos entrar en competencia es tan absurdo como comparar si son mejor las vacaciones en la playa o en la montaa. En la nica cosa en que los dos formatos son idnticos es en el hecho de haber sufrido la consideracin de panacea evaluativa. Las panaceas son ideas utpicas y, como tales, tanto la ECOE como el Portafolio en seguida tuvieron que matizar las expectativas que inicialmente generaron. A pesar de esto, hay que reconocer que de la multitud de instrumentos y estructuras evaluativas de que disponemos, estas dos son las ms completas en cuanto a prestaciones y, por tanto, las de utilizacin ms recomendable. Probablemente esto se deba a otra caracterstica que comparten, tanto la ECOE como el PF no son propiamente instrumentos, sino ms bien se comportan como sistemas evaluativos que permiten la combinacin de diferentes instrumentos que trabajan en colaboracin. Como se ha dicho con anterioridad, la complejidad de la competencia clnica obliga a la combinacin de instrumentos y es razonable que estructuras que como stas lo permiten sean las ms tiles. A pesar de esto, cada estructura tiene unas particularidades que las hacen especialmente adecuadas para un determinado tipo de evaluacin. El contexto es el que ms determina las caractersticas del procedimiento evaluativo a utilizar. La siguiente tabla ilustra la mayor o menor idoneidad de uno u otro instrumento para cada contexto.
ECOE Evaluacin sumativa high stake MIR /profesionales en prctica con finalidad certificadora Evaluacin sumativa low stake MIR /profesionales en prctica con finalidad certificadora Evaluacin sumativa high stake* MIR /profesionales en prctica con finalidad recertificadora Evaluacin sumativa low stake MIR /profesionales en prctica con finalidad recertificadora Evaluacin sumativa high stake Estudiantes Evaluacin sumativa low stake Estudiantes
*

PF ** *** **** ***** *** **** *** ***** *****

***** **** ** *** **** *** *** ** *

Evaluacin diagnstica grupal Evaluacin formativa MIR /profesionales en prctica Evaluacin formativa Estudiantes

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 29 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

Conclusiones
Evaluar la competencia clnica es una actividad bastante compleja, tanto desde el punto de vista intelectual como del tcnico. Se dispone de multitud de instrumentos con esta finalidad y solamente una clara conceptualizacin de la finalidad y la utilidad de la evaluacin que queremos llevar a cabo permitir encontrar la combinacin ptima de instrumentos. La ECOE y el Portafolio son las estructuras ms vlidas de que disponemos actualmente para hacer una evaluacin de calidad basada en la prctica. Sus prestaciones hacen que sus indicaciones sean suficientemente diferentes. La indicacin de una u otra estructura est totalmente marcada por el contexto evaluativo en que habr que utilizarlas.

30

INFORMES, ESTUDIOS E INVESTIGACIN

Objetivos
1. Validar la fiabilidad de una ECOE de 30 estaciones. 2. Validar los contenidos mnimos de un Portafolio en relacin con su aplicacin como instrumento evaluativo de la competencia. 3. Comparar las ventajas e inconvenientes de la utilizacin de la ECOE y el Portafolio para la evaluacin de la competencia clnica.

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 31 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

Metodologa
Se pretende realizar un estudio experimental con diferentes pruebas piloto que permita el anlisis comparativo entre instrumentos validados de evaluacin de la competencia clnica. Para ello, se llevarn a cabo las siguientes tareas: a) Diseo y prueba piloto de una ECOE en una poblacin de 60 profesionales especialistas en Medicina de Familia y Comunitaria. b) Diseo y prueba piloto de un Portafolio para residentes de la especialidad de Medicina Interna. d) Validacin y mejora de instrumentos que permitan la toma de decisiones en la medida de la competencia clnica segn las finalidades.

Diseo y prueba piloto de una Evaluacin Clnica Objetiva y Estructurada (ECOE) de Medicina Familiar y Comunitaria (MFyC)
Especficamente para este proyecto de investigacin, se ha diseado, en base a las ediciones anteriores- que vienen realizndose desde el ao 1997 -, una nueva prueba de Evaluacin Clnica Objetiva y Estructurada (ECOE), que se llev a cabo el da 28 de octubre de 2006. La prueba se realiz en el Centro de Atencin Primaria (CAP) Maragall de Barcelona ciudad. Participaron en la misma 60 mdicos especialistas en Medicina Familiar y Comunitaria en dos ruedas, 30 participantes en la rueda de la maana y 30 en la de la tarde. La duracin de cada rueda fue de 6 horas, con un descanso intermedio de 30 minutos. Esta prueba est compuesta por 24 casos clnicos, distribuidos en 30 estaciones de 8,5 minutos de duracin cada una, con un tiempo entre estaciones de 1,5 minutos, mediante los cuales se evalan 7 competencias globales bsicas para el profesional de Medicina Familiar y Comunitaria. El personal que colabor en el diseo, organizacin o ejecucin de la ECOE fueron: 9 tcnicos, 22 observadores, 13 actores y 7 logsticos.

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 33 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

Diseo y prueba piloto de un Portafolio con la Sociedad Espaola de Medicina Interna (SEMI). Curso acadmico 2005-2006
Introduccin: Los profesionales somos adultos y nuestra manera de aprender no es la misma que la de los nios. Nunca partimos de cero; siempre construimos el conocimiento desde alguna base previa. Nuestra motivacin, adems, es muy inmediata: queremos aprender a hacer aquellas cosas que necesitamos para mejorar nuestro trabajo diario. Esto hace que nuestra experiencia en el da a da sea una fuente inagotable de aprendizaje. No hay mejor maestro que la propia experiencia. La reflexin sobre los problemas o las dudas que nos aparecen en cualquier momento de la prctica asistencial ser nuestra gua como aprendices. El trabajo personal sobre las oportunidades para aprender que nos ofrece la actividad profesional se ha de fundamentar en cuatro cuestiones bsicas a las cuales tenemos que responder, hasta que alcancemos nuestros objetivos de aprendizaje. Las preguntas que nos tenemos que hacer son: Qu he aprendido? Cmo lo he aprendido? Cmo lo he aplicado en mi prctica? Qu me falta por aprender y qu har para alcanzar este aprendizaje? El cuaderno de aprendizaje que construiremos es un ejercicio de autodisciplina en la prctica de esta reflexin sobre los problemas que surgen en nuestro trabajo diario. Se trata de anotar y registrar de forma estructurada estas situaciones que nos permiten aprender y, una vez anotadas, obligarnos a pensar qu podemos aprender, de qu manera y con qu mecanismos para resolver el problema de aprendizaje e incrementar nuestra pericia. Este cuaderno es una herramienta que nos ayudar en un aprendizaje reflexivo a partir de las experiencias de nuestra prctica; su finalidad es formativa y potenciadora del desarrollo profesional como mecanismo de identificacin de reas de mejora y de planificacin de la propia formacin.

34

INFORMES, ESTUDIOS E INVESTIGACIN

El NCLEO del PORTAFOLIO Formativo


Se trata de un proceso helicoidal que progresa de acuerdo con la secuencia:

1. Autoobservacin de la propia prctica como residente 2. Anlisis reflexivo y autoevaluacin de la propia prctica 3. Identificacin de competencias consolidadas y de deficiencias 4. Establecimiento de estrategias de mejora de los dficits competenciales 5. Identificacin y aplicacin de los aprendizajes efectuados 6. Identificacin de nuevas necesidades de aprendizaje

Todo ello trasladado a un soporte escrito (papel y/o pgina web), como evidencia material de los esfuerzos, los progresos y la consecucin de los objetivos del aprendizaje, establecidos por el Programa de Formacin de la Especialidad de Medicina Interna.

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 35 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

Por qu anotarlo?
1. La memoria es frgil y poco fiable. Se tiende a olvidar, no solamente las situaciones difciles o conflictivas, sino incluso las placenteras y gratificantes (bastante antes del Alzheimer). 2. Como ocurre a travs de la confeccin de un diario personal, reflexionar por escrito promueve que el proceso sea ms estructurado, intenso y exhaustivo y permite una ms slida consolidacin del aprendizaje (tambin pasa, por ejemplo, cuando uno toma apuntes en la facultad o escribe esquemas y guiones para presentarse a un examen). 3. Potencial utilidad futura de la evidencia recogida sobre el progreso en el aprendizaje profesional, cuando se determinen pruebas de evaluacin de la competencia (como establece la LOPS), con finalidad de certificar una licenciatura, una especialidad o de recertificar peridicamente la competencia profesional, como est previsto o plantendose en varios pases de nuestro entorno. Objetivo: El objetivo de este cuaderno es proporcionar al residente, acompaado por su tutor, un instrumento de mejora del aprendizaje, basado en el pensamiento crtico sobre hechos de la prctica diaria y que permita la adquisicin de conocimientos y habilidades de manera reflexiva, autodirigida y personalizada; ser tambin un instrumento para el seguimiento del progreso competencial y para el desarrollo profesional. Se trata pues de un instrumento con finalidad FORMATIVA (no sumativa), siendo su Contenido confidencial, propiedad del residente, accesible, exclusivamente y con la autorizacin de ste, para su tutor. Metodologa y Contenidos: Se trabajar sobre situaciones relacionadas con cualquier aspecto de la prctica diaria que aparezcan durante el primer ao de la residencia de Medicina Interna.

Componentes:
Los elementos que incorporar el Portafolio del residente sern: 1. Reflexin sobre 3 incidentes crticos, entendiendo por incidentes crticos aquellos hechos de la prctica profesional que nos han trastornado, nos han creado dudas, nos han causado sorpresa, o nos han molestado o inquietado por su falta de coherencia o por haber presentado resultados inesperados, aquel incidente en el cual una intervencin personal implic una diferencia en los resultados para el paciente, un proceso se desarroll particularmente bien, las cosas no ocurrieron tal como se haba previsto, se aprehendi cul es la esencia global de la prctica mdica o se plante un reto particularmente intenso. Epi-

36

INFORMES, ESTUDIOS E INVESTIGACIN

sodios con un desarrollo particularmente positivo o negativo que proporcionan la oportunidad de reflexionar sobre la propia prctica y, por ello, de mejorarla. 2. Resumen clnico de 1 paciente con procesos patolgicos mltiples e ingresos hospitalarios repetidos, con incorporacin de elementos de reflexin sobre las intervenciones y abordajes efectuados en la atencin del caso seleccionado. 3. Audit (1) y selfaudit (2) de historias clnicas: se puede definir el audit mdico como la evaluacin retrospectiva de la prctica asistencial, mediante la revisin de las historias clnicas, realizada por los propios profesionales responsables de la asistencia y encaminada a encontrar soluciones prcticas de los dficits que se detectan. Puede ser externo o interno y, en el segundo caso, puede ser realizado por el propio mdico (selfaudit) o por sus colegas (peer-review). 4. Valoracin de 360 grados: realizada mediante cuestionarios estandarizados annimos y confidenciales, sobre dos competencias globales bsicas (Comunicacin con el paciente e interprofesional y Manejo psicosocial) que, para cada ao de residencia, debe alcanzar el residente de medicina interna y que completan: el propio residente, 1 mdico residente compaero del propio residente, 2 enfermeras / auxiliares de enfermera, 2 pacientes atendidos por el residente (o sus familiares), y el adjunto de cada rotacin por la que pase el residente.
Tabla de especificaciones COMPETENCIA (capacidad para) INSTRUMENTOS de EVALUACIN Incidente Resumen crtico (3) clnico de un paciente pluripatolgico (1) Audit (1) y selfaudit (2) de Historias Clnicas Valoracin de 360 grados (2 pacientes 2 enfermeras 1 colega, propio residente y adjuntos)

Registro de la Anamnesis Registro de la Exploracin fsica Comunicacin con el paciente e interprofesional Manejo diagnstico Manejo teraputico Manejo psicosocial

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 37 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

Garanta de Confidencialidad
1. Acceso nominal a todo el Portafolio de cada residente: exclusivamente, el propio residente y su tutor. 2. Acceso anonimizado a todos los Portafolios de la Prueba Piloto (para anlisis de la experiencia y mejora del instrumento): Blanca Pinilla y Ramon Pujol (por la SEMI) y Josep Arnau y Josep Maria Martnez Carretero (por el IES). De la distribucin de los cuestionarios de 360 se encargar el tutor, excepto los de los pacientes o familiares, de los cuales se encargar el propio residente. En todos los casos se entregar en formato papel. De la entrada de los datos de estos cuestionarios se har cargo el propio residente, personalmente o solicitando la oportuna colaboracin administrativa. Transparencia: Para todos los implicados deben quedar muy claros todos los elementos del proyecto, particularmente, el objetivo formativo del mismo y el carcter confidencial de la informacin registrada. Portal Portafolio SEMI: Planteada la posibilidad de mantener el acceso de los residentes a su Portafolio electrnico de forma indefinida, una vez finalizados los cinco aos de residencia de la especialidad, se confirma su factibilidad. Aviso automatizado al tutor cuando su/s residente/s le hayan enviado alguno de los elementos del Portafolio para su valoracin y al residente cuando su tutor haya registrado sus reflexiones sobre el correspondiente elemento del Portafolio. Se accede al Portal a travs de la direccin: http://www.ies.catsalut.cat/ portafoli/. En la pgina de inicio, se debe elegir SEMI, en el apartado Seleccione un servicio, y registrarse (como residente o tutor), rellenando los datos solicitados. Recibir por correo electrnico un cdigo de identificacin y una clave que le servirn de acceso para trabajar con su Portafolio.

Funciones del tutor en el Portafolio SEMI


1. Explicar al residente la filosofa del instrumento, el proyecto de Portafolio SEMI, su implementacin prctica y el manejo del portal del proyecto. 2. Ayudarlo a elaborar el Portafolio, a resolver dudas y dificultades y supervisar la construccin del mismo. 3. Reflexionar sobre el proceso reflexivo del residente, registrar y transmitir al residente las consideraciones pertinentes (Feedback).

38

INFORMES, ESTUDIOS E INVESTIGACIN

4. Hacer de intermediario entre el residente y: a) el Grupo de Evaluacin (SEMI IES). b) las distintas personas implicadas en la valoracin de 360 grados. Valoracin de 360: Los cuestionarios de los distintos evaluadores los imprimir del Portal del Portafolio SEMI (http://www.ies.catsalut.cat/portafoli/) el tutor y los entregar a los distintos evaluadores del nivel mdico y de enfermera, encargndose asimismo de su posterior recogida dentro del plazo que se fije. Lo mismo har el residente con los cuestionarios de los pacientes o familiares de los mismos. El residente se encargar de introducir los datos de todos los cuestionarios que sirvan para su evaluacin formativa, incluidos los correspondientes a la propia autoevaluacin (a medida que los introduzca, podr ir hacindose una idea de las valoraciones obtenidas). El nmero de cuestionarios para cada residente ser, como mnimo, de: 1. 2 enfermeras o auxiliares de enfermera 2. 1 adjunto por cada rotacin 3. 1 residente, distinto al evaluado 4. el propio residente 5. 2 pacientes o sus familiares

Resumen clnico de un paciente con pluripatologas


En relacin con un paciente ingresado con diversos procesos patolgicos concurrentes: 1. Analizar el manejo de la situacin actual. 2. En el caso de que el paciente tuviera ingresos anteriores, analizar el manejo longitudinal global del paciente (ingresos previos y el actual).* * La segunda se considera la opcin preferible.

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 39 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

Resultados
1. ECOE de MFyC
A partir del los resultados obtenidos por los 60 participantes en la ECOE de Medicina Familiar y Comunitaria del 28 de octubre de 2006, se ha elaborado el informe psicomtrico que se describe a continuacin.

1.1. Anlisis psicomtrico de la ECOE de MFyC del 28 de octubre de 2006


a. Introduccin y mtodos b. Resultados descriptivos prueba global - conjunto - segn rueda - conjunto - segn rueda - conjunto - segn rueda

c. Resultados segn casos

d. Resultados segn componentes

e. Anlisis de la fiabilidad f. Comparacin con ECOE 2005 - prueba global - segn componentes - segn casos comunes

A. Introduccin y mtodos
Se presenta el anlisis de la ECOE (Evaluacin Cnica Objetiva y Estructurada) de Medicina Familiar y Comunitaria (MFyC), realizada el 28 de octubre de 2006. La ECOE consisti en 24 casos; participaron 60 especialistas en Medicina Familiar en dos ruedas (maana y tarde) de 30 participantes cada una. La tabla de especificaciones utilizada para calcular el porcentaje de puntos posibles de la prueba, por casos, se presenta ms adelante. Como en las ediciones anteriores, la fiabilidad de la prueba se ha medido con estadstico: coeficiente Alfa de Cronbach, por el mtodo habitual, que

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 41 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

considera los casos como tems de la escala global. La relacin entre los casos y la escala global se mide a travs de la correlacin entre la puntuacin de un caso y la puntuacin total de la escala, una vez eliminado el valor del caso y el Alfa de Cronbach al eliminar progresivamente cada caso del anlisis. Para todos los resultados, global, casos y componentes, se comparan los resultados obtenidos segn las ruedas (maana o tarde) realizadas en la ECOE
CASO
409 adolescencia 412 nio con fiebre 421 dolor torcico isqumico 422 RCP / DSA 423 agudizacin EPOC 424 maltrato 702 cefalea 703 clico 707 poliartrosis 711 HTA 712 lumbalgia 716 prstata 719 ndulo tiroideo 721 tos 726 VIH 768 palpitaciones 769 familiar AVC 770 consejo del tabaco 772 fondo de ojo 775 parestesias 776 vendaje funcional 777 hiperlipemia 778 AVC-TIA 794 melanoma 795 ICC Puntos totales 40 505 270 10 210 305 20 50 30 100 50 895 95 120 50 30 100 100 50 70 30 70 20 30 55 45 70 30 50 40 100 20 40 100 50 30 20

A obj 1
50 50 30 60 75 40 70

EF obj 2

C Obj 3

HT obj 4

M obj 5
50

AF obj 6
50

P TOTAL obj 7
100 100

30 40

25 25 20 30

15 100

100 40

100 100 100 100 100 100 100

100

100 100 100 100 100 100 100 100 100 100 100 100 100 100 100 100 2400

42

INFORMES, ESTUDIOS E INVESTIGACIN

B. Resultados descriptivos prueba global


Conjunto La puntuacin media de la ECOE es de 61,24 con una DE de 5,4 (IC95% 59,8; 62,6). El 50% de los participantes tienen una puntuacin comprendida entre 58,3 y 65,3. Slo 2 participantes tienen puntuaciones por debajo de 50 puntos. El diagrama de caja identifica uno de ellos como el nico valor extremo (47,3). La distribucin est dentro de la normalidad.
Descriptivos
Estadstico TOTAL Media Intervalo de confianza para Lmite inferior la media al 95% Lmite superior Media recortada al 5% Mediana Varianza Desv. tp. Mnimo Mximo Rango Amplitud intercuartil Asimetra Curtosis 61,2406 59,8328 62,6483 61,4127 61,5188 29,699 5,4496 47,33 70,65 23,32 6,9870 -,446 -,176 ,309 ,608 Error tp. ,7035

Percentiles
5 Promedio TOTAL ponderado(definicin 1) 10 25 Percentiles 50 75 90 95

50,4641 52,7629 58,3135 61,5188 65,3005 68,3175 69,8716

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 43 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

TOTAL

Mayores

Valores extremos Nmero del caso 1 51 2 3 4 5 52 18 11 12 37 41 46 9 38

Valor 70,65 70,13 69,90 69,33 68,61 47,33 49,71 50,43 51,05 52,21

Menores

1 2 3 4 5

Pruebas de normalidad Kolmogorov-Smirnova Estadstico TOTAL ,090 gl 60 Sig. ,200*

*. Este es un lmite inferior de la significacin verdadera. a. Correccin de la significacin de Lilliefors.

Histograma
Frecuencia 14 12 10 8 6 4 2 0 48,0 50,0 52,0 54,0 56,0 58,0 60,0 62,0 64,0 66,0 68,0 70,0 TOTAL

Desv. tp. = 5,45 Media = 61,2 N = 60,00

44

INFORMES, ESTUDIOS E INVESTIGACIN

80

70

60

50 37

40 N= 60 TOTAL

Segn rueda La media de los participantes de la rueda de la maana es 2,9 puntos ms alta que la de los de la tarde (diferencias estadsticamente significativas p=0,03).
TOTAL 80

70

51

60

50

41 37

40 N= 30 Maana TURNO 30 Tarde

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 45 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

Rueda TOTAL Maana Tarde

N 30 30

Estadsticos de grupo Media. Desviacin tp. 62,6949 59,7862 5,1191 5,4626

Error tp. de la media ,9346 ,9973

Prueba de Levene para la igualdad de varianzas

Prueba de muestras independientes Prueba T para la igualdad de medias

F TOTAL ,092

Sig. ,763

gl

Sig. Diferencia (bilateral) de medias ,038 ,038 2,9088 2,9088

95% Intervalo de confianza para la diferencia Inferior Superior ,1728 ,1725 5,6447 5,6450

2,128 58 2,128 57,757

C. Resultados segn casos


Conjunto El caso Vendaje funcional es, con diferencia, el que tiene una media ms baja (27,5) y solamente otro caso RCP/DSA est por debajo de 50. Los casos Ndulo tiroidal y Tos son los que tienen una media ms alta (76,6 y 75,5).
120 100 80 60 40
Tarde

Maana Tarde Maana Tarde

Tarde Tarde

Maana Maana Tarde Tarde Maana Maana

20 0 -20
Agudizacin EPOC

Maana Maana Maana

Tarde

Hipertensin

Consejo del tabaco

Adolescencia

Prstata

Dolor torcico isqumico

Fondo de ojo

Hiperlipemia

RCP/DSA

Maltrato

Lumbalgia

VIH

Melanoma

ICC

Cefalea

Vendaje funcional

Nio con fiebre

Clico

Poliartrosis

Ndulo tiroidal

Parestesias

AVC-TIA

46

INFORMES, ESTUDIOS E INVESTIGACIN

Familia AVC

Tos

N= 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60

Estadsticos descriptivos N Vendaje funcional Rcp/dsa Parestesias Poliartrosis Prstata Vih Clico Lumbalgia Fondo de ojo Dolor torcico isqumico TOTAL Avc-tia Nio con fiebre Icc Maltrato Agudizacin EPOC Adolescencia Hipertensin Hiperlipemia Consejo del tabaco Cefalea Familia AVC Melanoma Tos Ndulo tiroidal 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 Mnimo ,00 10,00 ,00 19,60 31,60 15,80 36,80 30,00 2,00 37,50 47,33 39,30 29,00 31,00 38,00 25,00 33,00 25,00 25,00 38,90 50,50 50,00 25,00 40,50 40,00 Mximo 85,00 95,00 93,00 86,80 71,20 94,80 84,00 90,00 94,00 83,25 70,65 80,90 85,00 89,10 90,00 85,00 86,00 100,00 100,00 91,30 89,25 90,00 95,00 100,00 100,00 Media 27,5000 49,5000 51,1333 51,4800 51,9733 55,3433 58,1833 58,3333 58,5833 59,8917 61,2406 61,7433 61,8667 61,9650 63,8833 63,9167 64,4833 66,7500 68,9000 69,3267 69,4083 71,3500 72,0833 75,5083 76,6667 Desv. tp. 19,3430 17,7482 18,1673 11,5448 11,6772 16,6938 10,9879 14,7484 22,9844 10,5584 5,4496 11,2201 13,3461 11,9623 12,4697 12,6589 12,1076 17,7273 18,6863 12,7850 9,1805 9,2550 16,6033 14,2390 17,0658

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 47 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

Segn rueda Cinco casos muestran diferencias significativas: anemia y dolor en el pecho. En todos, excepto uno, la media es ms alta en la rueda de la maana que en la de la tarde.
Estadsticos de grupo
N Adolescencia Nio con fiebre Dolor torcico isqumico Rcp/dsa Agudizacin mpoc Maltrato Clico Poliartrosis Hipertensin Lumbalgia Prstata Ndulo tiroidal Tos Vih Consejo del tabaco Fondo de ojo Parestesias Hiperlipemia Avc-tia Melanoma Icc Cefalea Vendaje funcional Familia avc Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde 30 30 30 30 30 30 30 30 30 30 30 30 30 30 30 30 30 30 30 30 30 30 30 30 30 Media 66,2667 62,7000 62,0667 61,6667 60,8000 58,9833 52,3333 46,6667 63,6667 64,1667 64,5667 63,2000 58,8200 57,5467 48,5667 54,3933 70,0000 63,5000 58,0000 58,6667 53,7733 50,1733 78,5000 74,8333 75,8333 Desv. tp. 12,3090 11,8384 12,5201 14,3367 10,4748 10,7413 18,6035 16,6782 13,2570 12,2533 11,9876 13,1028 11,0135 11,1128 10,4494 12,0171 18,1944 16,9253 13,4933 16,1316 10,2588 12,8635 18,5300 15,5632 Error tp. de la media 2,2473 2,1614 2,2859 2,6175 1,9124 1,9611 3,3965 3,0450 2,4204 2,2371 2,1886 2,3922 2,0108 2,0289 1,9078 2,1940 3,3218 3,0901 2,4635 2,9452 1,8730 2,3485 3,3831 2,8414

48

INFORMES, ESTUDIOS E INVESTIGACIN

Prueba de muestras independientes


Prueba de Levene para la igualdad de varianzas Prueba T para la igualdad de medias

Poliartrosis Vih Consejo del tae Fondo de ojo Familia AVC

F Sig. t ,748 ,391 -2,004 -2,004 ,062 ,805 2,386 2,386 ,128 ,722 2,509 2,509 ,286 ,595 3,026 3,026 1,562 ,216 4,741 4,741

gl 58 56,902 58 57,842 58 57,922 58 57,681 58 57,007

Sig. Diferencia (bilateral) de medias ,050 -5,8267 ,050 -5,8267 ,020 9,9000 ,020 9,9000 ,015 7,9333 ,015 7,9333 ,004 16,8333 ,004 16,8333 ,000 9,7000 ,000 9,7000

95% Intervalo de confianza para la diferencia Inferior Superior -11,6466 -6,76E-03 -11,6490 -4,37E-03 1,5960 18,2040 1,5955 18,2045 1,6034 14,2633 1,6032 14,2634 5,6990 27,9677 5,6976 27,9690 5,6043 13,7957 5,6028 13,7972

D. Resultados segn componentes


Conjunto Las Habilidades tcnicas es el nico componente que est por debajo de 50 puntos y la diferencia entre las medianas del componente ms bajo (habilidades tcnicas) y el ms alto (preventivas) es de 22 puntos.
Estadsticos descriptivos N % Hab tcnicas % Exploracin fsica % Anamnesis TOTAL % Familia % Manejo % Comunicacin % Preventivas 60 60 60 60 60 60 60 60 Mnimo 19,67 27,78 47,72 47,33 35,79 43,80 54,79 28,33 Mximo 77,70 75,19 74,06 70,65 86,32 81,12 75,64 95,00 Media 46,3852 53,3889 60,9802 61,2406 62,7719 66,2384 67,2135 68,8194 Desv. tp. 11,2410 10,1821 6,6233 5,4496 11,4246 8,4020 4,1392 13,6313

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 49 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

100 90 80 70 60
33

50 40 30 20 10 0 % EXPLORACIN FSICA % COMUNICACIN % HAB TCNICAS % ANAMNESIS % MANEJO % PREVENTIVAS % FAMILIA


9

37

Segn rueda Todos los componentes tienen unas medianas ms altas en la rueda de la maana que en la de la tarde. Estas diferencias son significativas en el caso de manejo, familia y preventivas.
Estadsticos de grupo Error tp. de la media 1,2641 1,1728 1,4356 2,2271 ,6543 ,8182 2,0373 2,0796 1,5619 1,4037 2,1999 1,5983 2,4038 2,4436

% Anamnesis % Exploracin fsica % Comunicacin % Hab tcnicas % Manejo % Familia % Preventivas

TURNO Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde Maana Tarde

N 30 30 30 30 30 30 30 30 30 30 30 30 30 30

Media 61,1419 60,8185 53,0123 53,7654 68,1802 66,2468 47,5519 45,2186 68,5773 63,8994 67,3684 58,1754 72,3333 65,3056

Desv. tp. 6,9235 6,4235 7,8632 12,1984 3,5836 4,4813 11,1589 11,3903 8,5551 7,6885 12,0495 8,7544 13,1660 13,3844

50

INFORMES, ESTUDIOS E INVESTIGACIN

% Manejo % Familia % Preventivas

Prueba de muestras independientes Prueba de Levene para la igualdad de varianzas Prueba T para la igualdad de medias 95% Intervalo de confianza Sig. Diferencia para la diferencia F Sig. t gl (bilateral) de medias Inferior Superior ,00 ,96 2,22 5 ,03 4,677 ,474 8,881 2,22 57,35 ,03 4,677 ,474 8,881 1,23 ,27 3,38 5 ,00 9,193 3,749 14,636 3,38 52,94 ,00 9,193 3,738 14,647 ,38 ,53 2,05 5 ,04 7,027 ,166 13,889 2,05 57,98 ,04 7,027 ,166 13,889

E. Anlisis de la fiabilidad
La fiabilidad de la prueba es de 0,725. Un caso incrementa claramente el valor alfa con su eliminacin: vendaje funcional. Adems, RCP/DSA y hiperlipemia lo hacen ligeramente.
1. tc409 2. tc412 3. tc421 4. tc422 5. tc423 6. tc424 7. tc703 8. tc707 9. tc711 10. tc712 11. tc716 12. tc719 13. tc721 14. tc726 15. tc770 16. tc772 17. tc775 18. tc777 19. tc778 20. tc794 21. tc795 22. tc702 23. tc776 24. tc769 adolescencia nio con fiebre dolor torcico isqumico RCP/DSA agudizacin EPOC maltrato clico poliartrosis hipertensin lumbalgia prstata ndulo tiroideo tos VIH consejo del tabaco fondo de ojo parestesias hiperlipemia AVC/TIA melanoma ICC cefalea vendaje funcional familiar AVC N of Variance

Statistics for SCALE

Mean

Std Dev

Variables

1469,7733

17106,3682

130,7913

24

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 51 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

RELIABILITY ANALYSIS - SCALE (ALPHA) Scale Mean if Item Deleted 1405,2900 1407,9067 1409,8817 1420,2733 1405,8567 1405,8900 1411,5900 1418,2933 1403,0233 1411,4400 1417,8000 1393,1067 1394,2650 1414,4300 1400,4467 1411,1900 1418,6400 1400,8733 1408,0300 1397,6900 1407,8083 1400,3650 1442,2733 1398,4233 Scale Variance if Item Deleted 16001,0942 15740,3455 16165,8240 16177,7173 15685,3266 16437,3573 16061,4471 16450,9689 15451,3622 15505,3286 16122,9438 15351,8682 16072,2643 14842,3151 16391,3616 14727,2583 15345,0818 15999,7041 15808,2558 15230,2481 16230,8565 16671,2371 16722,0800 16369,3178 Corrected Item-Total Correlation ,3130 ,3547 ,3088 ,1359 ,3976 ,1606 ,3318 ,1763 ,3042 ,3767 ,2856 ,3460 ,2303 ,4881 ,1685 ,3318 ,3180 ,1602 ,4155 ,3905 ,2403 ,1480 ,0020 ,2751 Alpha if Item Deleted ,7139 ,7105 ,7150 ,7284 ,7081 ,7232 ,7134 ,7221 ,7134 ,7081 ,7157 ,7097 ,7190 ,6973 ,7229 ,7123 ,7122 ,7271 ,7085 ,7060 ,7183 ,7233 ,7424 ,7174

Item-total Statistics TC409 TC412 TC421 TC422 TC423 TC424 TC703 TC707 TC711 TC712 TC716 TC719 TC721 TC726 TC770 TC772 TC775 TC777 TC778 TC794 TC795 TC702 TC776 TC769

Reliability Coefficients N of Cases = 60,0 N of Items = 24 Alpha = ,7250

52

INFORMES, ESTUDIOS E INVESTIGACIN

F. Comparacin con ECOE 2005


Prueba global
Estadsticos de grupo ACOE TOTAL 2005 2006 N 60 60 Media 62,2977 61,2406 Desv. tp. 6,1155 6,4496 Error tp. de la media ,7895 ,7035

Prueba de muestras independientes Prueba de Levene para la igualdad de varianzas

Prueba T para la igualdad de medias 95% Intervalo de confianza para la diferencia Inferior -1,0370 -1,0372 Superior 3,1513 3,1516

F TOTAL ,002

Sig.

gl 118 116,466

Sig. Diferencia (bilateral) de medias ,320 ,320 1,0572 1,0572

,963 1,000 1,000

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 53 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

Segn componentes
Estadsticos de grupo ACOE % Anamnesis % Exploracin fsica % Comunicacin % Hab tcnicas % Manejo % Familia % Preventivas 2005 2006 2005 2006 2005 2006 2005 2006 2005 2006 2005 2006 2005 2006 N 60 60 60 60 60 60 60 60 60 60 60 60 60 60 Media 62,0259 60,9802 67,7133 53,3889 65,1290 67,2135 64,3178 46,3852 60,1823 66,2384 63,6140 62,7719 56,6944 68,8194 Desv. tp. 6,3782 6,6233 11,0014 10,1821 5,1442 4,1392 13,9673 11,2410 8,7243 8,4020 10,8243 11,4246 12,8908 13,6313 Error tp. de la media ,8234 ,8551 1,4203 1,3145 ,6641 ,5344 1,8032 1,4512 1,1263 1,0847 1,3974 1,4749 1,6642 1,7598

Prueba de muestras independientes Prueba de Levene para la igualdad de varianzas

Prueba T para la igualdad de medias 95% Intervalo de confianza para la diferencia -1,3051 -1,3051 3,3964 3,3965

F % Anamnesis % Exploracin Fsica

Sig.

t ,881 ,881

gl 118 117,833 118 117,300

Sig. Diferencia (bilateral) de medias Inferior Superior ,380 ,380 ,000 ,000 ,016 ,016 ,000 ,000 ,000 ,000 ,679 ,679 ,000 ,000 1,0457 1,0457 14,3244 14,3244 -2,0845 -2,0845 17,9326 17,9326 -6,0561 -6,0561 ,8421 ,8421

,020 ,888

,028 ,867 7,402 7,402

10,4922 18,1567 10,4919 18,1570 -3,7725 -3,7733 -,3965 -,3957

% Comunicacin 1,722 ,192 -2,445 118 -2,445 112,833 % Hab tcnicas % Manejo % Familia % Preventivas 2,421 ,122 7,748 7,748 118 112,842

13,3490 22,5161 13,3469 22,5183 -9,1526 -2,9596 -9,1527 -2,9595 -3,1814 -3,1815 4,8656 4,8657

,152 ,698 -3,873 118 -3,873 117,833 ,616 ,434 ,414 ,414 118 117,658

,094 ,760 -5,006 118 -5,006 117,634

-12,1250 -16,9213 -7,3287 -12,1250 -16,9215 -7,3285

54

INFORMES, ESTUDIOS E INVESTIGACIN

Segn casos comunes


Estadsticos de grupo ACOE Adolescencia Nio con fiebre Cefalea Hipertensin Lumbalgia Prstata Tos VIH Palpitaciones Familia AVC Consejo del tabaco Hiperlipemia AVC-TIA ICC 2005 2006 2005 2006 2005 2006 2005 2006 2005 2006 2005 2006 2005 2006 2005 2006 2005 2006 2005 2006 2005 2006 2005 2006 2005 2006 2005 2006 N 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 60 Media 57,0667 64,4833 59,2000 61,8667 73,5000 69,4083 59,4167 66,7500 69,3333 58,3333 51,6433 51,9733 71,2500 75,5083 55,8733 55,3433 63,6350 63,6350 70,9333 71,3500 52,2567 69,3267 71,4167 68,9000 61,3333 61,7433 65,9417 61,9650 Desv. tp. 12,1430 12,1076 14,1251 13,3461 14,0916 9,1805 16,1584 17,7273 15,4992 14,7484 11,7769 11,6772 14,8091 14,2390 15,1214 16,6938 10,2400 10,2400 10,9015 9,2550 13,1371 12,7850 22,4758 18,6863 10,4682 11,2201 12,4743 11,9623 Error tp. de la media 1,5677 1,5631 1,8235 1,7230 1,8192 1,1852 2,0860 2,2886 2,0009 1,9040 1,5204 1,5075 1,9118 1,8383 1,9522 2,1552 1,3220 1,3220 1,4074 1,1948 1,6960 1,6505 2,9016 2,4124 1,3514 1,4485 1,6104 1,5443

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 55 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

Prueba de muestras independientes Prueba de Levene para la igualdad de varianzas

Prueba T para la igualdad de medias 95% Intervalo de confianza para la diferencia

F Adolescencia Nio con fiebre Cefalea Hipertensin Lumbalgia Prstata Tos VIH Palpitaciones Familia AVC Consejo del tabaco Hiperlipemia AVC-TIA ICC

Sig.

gl

Sig. Diferencia (bilateral) de medias Inferior Superior ,001 ,001 ,290 ,290 ,062 ,062 ,020 ,020 ,000 ,000 ,878 ,878 ,111 ,111 ,856 ,856 1,000 1,000 ,822 ,822 ,000 ,000 ,506 ,506 ,836 ,836 ,077 ,077 -7,4167 -11,8005 -3,0328 -7,4167 -11,8005 -3,0328 -2,6667 -7,6347 -2,6667 -7,6349 4,0917 4,0917 -,2080 -,2153 2,3014 2,3015 8,3913 8,3986

,178 ,674 -3,350 118 -3,350 117,999 ,022 ,884 -1,063 118 -1,063 117,622 16,106 ,000 1,884 118 1,884 101,438

,539 ,464 -2,368 118 -2,368 117,001 ,396 ,530 ,397 ,530 3,983 118 3,983 117,710 -,154 118 -,154 117,991

-7,3333 -13,4655 -1,2011 -7,3333 -13,4661 -1,2006 11,0000 11,0000 5,5304 16,4696 5,5302 16,4698 3,9099 3,9099 ,9938 ,9939 6,2884 6,2889 3,7023 3,7023 3,2392 3,2402

-,3300 -4,5699 -,3300 -4,5699 -4,2583 -9,5105 -4,2583 -9,5106 ,5300 -5,2284 ,5300 -5,2289 ,0000 -3,7023 ,0000 -3,7023 -,4167 -4,0726 -,4167 -4,0736

,484 ,488 -1,606 118 -1,606 117,819 ,542 ,463 ,000 1,000 ,239 ,626 ,182 118 ,182 116,864 ,000 118 ,000 118,000 -,226 118 -,226 114,972

,003 ,958 -7,213 118 -7,213 117,913 2,199 ,141 1,356 ,247 ,047 ,829 ,667 118 667 114,193 -,207 118 -,207 117,437 1,782 118 1,782 117,793

-17,0700 -21,7565 -12,3835 -17,0700 -21,7565 -12,3835 2,5167 -4,9558 2,5167 -4,9584 -,4100 -4,3330 -,4100 -4,3332 3,9767 3,9767 -,4418 -,4419 9,9891 9,9917 3,5130 3,5132 8,3951 8,3952

56

INFORMES, ESTUDIOS E INVESTIGACIN

El comportamiento psicomtrico de la ECOE de MFyC realizada en 2006 se ha caracterizado por: Una buena fiabilidad global (alpha de Cronbach = 0,725) Puntuacin media: 61,24 (DE: 5,4). Con dos nicos valores por debajo de 50 (los participantes 41 y 37). La prueba ha seguido una distribucin normal. Los resultados globales son comparables a los de las ediciones anteriores. Los resultados por componentes competenciales son igualmente comparables a los de los aos precedentes. El componente Habilidades Tcnicas es marcadamente inferior al de la edicin de 2005, pero similar a todas las ediciones anteriores. Este hecho est relacionado con la reintroduccin de uno de los casos que, clsicamente, se utilizaba para valorar esta competencia, vendaje funcional, y que en el ao 2005 se substituy por sutura, as como por la introduccin del caso Resucitacin Cardiopulmonar / Desfibrilador Externo Automtico. En anteriores ediciones, se valoraba la competencia de los candidatos con esta habilidad pero no tena tanto peso como en esta ltima edicin y el grado de exigencia para superarla era inferior.

Comunicacin

Hab. Tcnicas

Exploracin Fsica F

FECHA 24.11.01 01.12.01 19.01.02 26.01.02 02.02.02 01.02.03 15.02.03 Nov. 03 Jun. 04 Oct. 05 Oct. 2006

60.8 61.0 62.8 63.1 62.7 60.2 59.7 59.9 60,4 62,3 61,2

58.8 56.8 60.2 61.0 57.9 59.2 57.8 55.5 57,00 62,02 60,98

56.3 57.0 56.1 56.7 58.7 55.8 58.9 54.3 60,87 67,7 53,38

73.0 70.0 67.6 67.2 66.2 65.3 66.5 70.9 70,3 65,1 67,2

48.6 48.0 49.5 52.0 45.3 36.4 39.3 56.5 48,3 64,4 46,38

62.7 64.4 67.1 66.2 68.8 64.5 63.9 62.3 61,9 60,1 66,23

65.6 62.8 66.1 67.1 63.0 63.9 55.8 60.0 65,3 63,6 62,7

61.2 65.1 62.1 64.3 56.9 72.1 66.5 56.5 70,2 56,6 68,8

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 57 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

Prevencin

Anamnesis

Atencin Familiar

GLOBAL

Manejo

Tambin se ha decidido el punto de corte (pass/ fail) de la prueba, de acuerdo con los criterios que se vienen utilizando en todas las ediciones de esta ECOE: Conseguir una puntuacin superior a menos 2 desviaciones estndar (DE) en relacin a la nota media del conjunto de participantes de todas las ediciones realizadas de la ECOE, con respecto a: 1) Nota GLOBAL de la ECOE 2) Puntuacin en el componente MANEJO 3) Puntuacin en 5 de los 6 componentes restantes evaluados. Con estos criterios, el porcentaje de candidatos que no superaron la edicin de 2006 fue del 7 %, similar a la del resto de ediciones.

2. Portafolio SEMI
2.1. Resultados cuantitativos:
ELEMENTOS DEL PORTAFOLIO/RESIDENTES (29) Incidente crtico Caso clnico Self audit Audit externo Cuestionario 360 Adjunto / Otro residente Enfermera Paciente / Familiar Autoevaluacin residente Valoracin del residente Anlisis conjunto cuestionarios 360 Revisin global del aprendizaje 11 (1-3) 9 (1-4) 8 (1-8) 8 9 4 3 39% 32% 29% 29% 32% 14% 11% NMERO 29 (1-5) 19 (1-2) 11 (1-2) 4 (1 ) % 100% 68% 39% 14%

58

INFORMES, ESTUDIOS E INVESTIGACIN

El 100% de los 29 participantes realizaron entre 1 y 5 incidentes crticos, que fue el elemento mejor aceptado por su simplicidad y por el enorme impacto formativo que acostumbran a tener estos retos de la prctica cotidiana. Dos tercios elaboraron un caso clnico consistente en reflexionar sobre el manejo a lo largo del tiempo que se ha hecho de un paciente con patologas mltiples y que, preferiblemente, haya hecho diversos ingresos hospitalarios. Slo menos de un tercio de los participantes trabajaron con algunos de los otros elementos incluidos en el Portafolio piloto. Tan solo 4 residentes hicieron un anlisis del conjunto de cuestionarios que rellenaron los profesionales de su entorno o los pacientes que atendieron. De 29, solamente 3 trabajaron todos los elementos previstos para la experiencia y, adems, cumplimentaron el formulario de reflexin global sobre el aprendizaje efectuado a lo largo del curso acadmico utilizando este nuevo instrumento formativo.

2.2. Resultados cualitativos


Para el conjunto de los participantes se observa una clara priorizacin competencial en los casos que han trabajado en sus portafolios. Las competencias ms trabajadas han sido, por orden de frecuencia: 1. Manejo diagnstico y teraputico 2. Anamnesis y exploracin fsica 3. Manejo psicosocial y comunicacin La cantidad y la calidad del trabajo realizado por los 29 residentes ha sido muy desigual. Algunos residentes, que se han sentido muy identificados con el Portafolio han completado todos los elementos y realizado un trabajo impecable, tanto, en general, a nivel de contenido como formal. Sin embargo, la mayora de residentes ha cumplimentado pocos de los elementos mnimos previstos. En no pocos casos resulta evidente que no se ha hecho ms que rellenar un trmite para salir del paso. Los objetivos de aprendizaje que se plantean en los diferentes elementos del Portafolio son frecuentemente genricos, poco concretos. En consecuencia, ocurre algo parecido con las estrategias de aprendizaje que se plantean para alcanzar estos objetivos, que adolecen de concrecin. Se observa de forma habitual una explotacin insuficiente de los diferentes elementos competenciales que se podran haber trabajado a travs de una misma situacin clnica, ya sea a travs del incidente crtico, del caso clnico Ha habido un uso muy escaso del audit y de la valoracin de 360 , aunque los pocos residentes que han empleado estos elementos formativos

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 59 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

nos han hecho llegar su valoracin muy positiva de estos componentes del Portafolio. Con frecuencia se ha trabajado los diversos elementos del Portafolio sin tener presentes las competencias que se queran valorar con cada uno de los diversos componentes, de acuerdo con la Tabla de Especificaciones que aparece en la pgina 28 del apartado de Metodologa de este mismo informe. Como se ha mencionado antes, pocos residentes han realizado el anlisis del conjunto de cuestionarios de 360 (4) y la revisin global del aprendizaje (3). Pocos tutores han valorado, al menos por escrito, los elementos elaborados por su/s residente/s.

60

INFORMES, ESTUDIOS E INVESTIGACIN

Discusin
En este nuevo proyecto de ECOE de MFyC se consolidan los elementos clave de la certificacin profesional: Validez, fiabilidad, factibilidad y aceptabilidad por el colectivo de profesionales que ao tras ao participan en este tipo de evaluaciones de la competencia profesional. Consideramos que se debera continuar este tipo de pruebas de evaluacin en este colectivo. Dado el nmero e importancia de la especialidad mdica evaluada, la medicina de familia y comunitaria, podemos deducir que la implantacin de este tipo de evaluaciones no slo es posible sino muy til como certificacin de la competencia profesional en, al menos, las especialidades mdicas similares. La experiencia realizada con los 29 residentes de primer ao de Medicina Interna se present en la II Reunin de Tutores de Residentes de Medicina Interna, realizada en Sevilla el 25 de Noviembre de 2007. En esta misma jornada dos residentes que haban participado en la experiencia piloto hicieron una presentacin exponiendo las dificultades encontradas y los beneficios obtenidos a travs de su participacin en el Portafolio piloto. Posteriormente, se cre un foro de debate sobre el Portafolio de la SEMI mediante una lista de distribucin de la REDIRIS: TUTORMEDICINA, integrada por 88 de los asistentes a la reunin de Sevilla, a travs del cual, hasta finales de enero de 2007, se pudieron hacer sugerencias para el futuro desarrollo del Portafolio SEMI. Al mismo tiempo, es est trabajando en una valoracin en profundidad de los Portafolios individuales de los 29 participantes y del conjunto de la experiencia, as como en la validacin y propuesta de mejora del constructo del Portafolio SEMI para mejorar la capacidad del instrumento como generador de prctica reflexiva en los residentes a fin de crear un instrumento formativo flexible que pueda ser aplicado en las diferentes especialidades de las ciencias de la salud.

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 61 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

Conclusiones
1. ECOE 2006
La conclusin global de esta edicin es que la ECOE de MFyC sigue siendo un instrumento de valoracin de competencias fiable, con un comportamiento similar y coherente con el de administraciones anteriores de la misma prueba. Ello nos sirve para seguir confiando en la solidez plenamente verificada de este instrumento de medida de las diversas competencias de los mdicos de familia y, por extensin, confirma la conveniencia de seguir administrando esta prueba en las otras especialidades mdicas que la estn utilizando (Geriatra, Neonatologa, Pediatra, Cuidados Paliativos...), o la de convencer a otras sociedades mdicas para que la introduzcan en su especialidad para la certificacin profesional, y la de continuar con las ECOE que se vienen realizando en el ltimo curso de las Facultades de Medicina y Escuelas de Enfermera del conjunto de Catalua para la evaluacin del final de la formacin de pregrado. Asimismo, en otros colectivos como Matronas o Tcnicos del transporte sanitario han demostrado su utilidad para la certificacin o acreditacin profesional.

2. Portafolio SEMI 2005-2006


De acuerdo con: a) lo expuesto en las 15 encuestas de mejora del Portafolio enviadas por los residentes o tutores participantes, b) las presentaciones de las 2 residentes en Sevilla, c) las intervenciones de los asistentes a la II Reunin de Tutores, d) el FORUM Rediris, enero 2007, e) las Reuniones del Grupo de Formacin de la SEMI: Mallorca, 1 febrero y, Barcelona, 20 marzo 2007 y f) las propias reflexiones, se ha hecho evidente el inters por el instrumento y por su valor reflexivo, por un lado, y, por otro, que, gracias a las mltiples consideraciones crticas y propuestas de mejora aportadas por los participantes en el proyecto piloto y otros asistentes a la jornada, este instrumento puede mejorarse substancialmente. Se considera este formato evaluativo, el Portafolio, muy til para la valoracin formativa de la prctica profesional y con toda probabilidad ser til para la recertificacin de las competencias de los profesionales en activo. Las conclusiones ms relevantes extradas de la experiencia piloto con residentes de primer ao de Medicina Interna utilizando el Portafolio son:

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 63 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

1. Se debe mejorar la formacin sobre el instrumento


Talleres conjuntos para tutores y residentes Insistir en la necesaria correlacin entre competencias y tareas/instrumentos para su evaluacin Invitar como formadores a residentes de 1r. ao del curso 2005-2006 para que expongan ejemplos de su propio Portafolio, dificultades, estrategias, beneficios

2. SE DEBE REVISAR EL CONTENIDO DEL PORTAFOLIO


MEJORAR: competencias, instrumentos/elementos, formularios, portal... ACLARAR: Gua, ejemplos, taller para residentes y tutores. SIMPLIFICAR (demasiado complejo).

3. La valoracin del NCLEO REFLEXIVO del instrumento ha sido en general muy positiva.

64

INFORMES, ESTUDIOS E INVESTIGACIN

Recomendaciones
En relacin con la ECOE, se van a mantener las caractersticas y los criterios de las que ya llevan aos aplicndose y, prximamente, se va a utilizar este mismo instrumento en Catalua para acreditar o certificar la competencia de los profesionales que ejercen en diferentes especialidades mdicas o en otras reas o mbitos profesionales nuevos sin acreditacin en la actualidad como los cuidados paliativos o en las Terapias Naturales (alrededor de 4.000). En este mbito especfico se calcula que ejercen alrededor de 4000 personas, las cuales se deber evaluar y acreditar en aplicacin del Decreto de enero de 2007, de regulacin de estas prcticas alternativas y complementarias, una vez se desbloquee la suspensin cautelar de algunos artculos del mismo, decretada por el Tribunal Superior de Justicia de Catalua el pasado 25 de julio de 2007. Actualmente se est procediendo a simplificar el contenido del Portafolio SEMI, manteniendo slo dos de los elementos que constaban en el Portafolio 2005-2006: Incidente Crtico y Self-Audit y aadiendo dos elementos nuevos: las Tutoras y la Memoria Anual. Por otro lado, tambin se est modificando el portal informtico del Portafolio SEMI para, por un lado, adaptarlo al nuevo contenido acordado y, por otro, para simplificar al mximo el portal, a fin de que su utilizacin por los residentes y sus tutores sea lo ms sencilla posible. Todos estos cambios se prev que se hayan concluido, para poder implementarlos con los nuevos residentes a lo largo de la segunda mitad del curso 2007-2008, a principios del mes de enero de 2008. A continuacin se expone la Gua de Trabajo para esta nueva fase de desarrollo del proyecto Portafolio SEMI:

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 65 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

1. PORTAFOLIO (Cuaderno de aprendizaje)


GARANTA de CONFIDENCIALIDAD 1. Acceso al Portafolio de cada residente: lo tendr, exclusivamente, el propio residente y su tutor. 2. Acceso a todos los Portafolios del curso acadmico 2007-2008 (Con la finalidad de analizar el conjunto de la experiencia y para mejorar el diseo del Portafolio): Josep Arnau y Pere Torn (Institut dEstudis de la Salut). ELEMENTOS CLAVE del Portafolio Formativo a. Flexibilidad (adaptado a las caractersticas personales del residente y al ao de residencia) b. Basado en la prctica asistencial cotidiana c. Promocin de la prctica reflexiva permanente d. Almacenamiento de evidencias del: a) progreso en el aprendizaje y b) nivel de aprendizaje alcanzado e. Centrado en los objetivos del aprendizaje, establecidos en el Programa de Formacin de la Especialidad de Medicina Interna para cada ao de la residencia. WEB del Portafolio SEMI: Se accede al Portal a travs de la direccin: http://www.ies.catsalut.cat/portafolioSEMI En la pgina de inicio, tienes que pulsar en REGISTRARSE (1) y rellenar el formulario (2) con los datos personales solicitados. Recibirs por correo electrnico un cdigo de identificacin y una clave que te servirn como cdigos de acceso para entrar en tu Portafolio.

66

INFORMES, ESTUDIOS E INVESTIGACIN

1.1. Registrarse

1.2. Rellenar el formulario con los datos personales


Como Residente o como Tutor del Hospital que corresponda.

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 67 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

1.3. ndice de la web del Portafolio SEMI


Cuando entras en tu Portafolio SEMI, mediante los 2 cdigos de acceso que has recibido por correo electrnico, te encuentras con la siguiente pgina inicial:

Debes Validar y aparece la pgina:

En la parte superior de la pgina hay una fila de iconos mediante los cuales puedes entrar en los diferentes elementos de tu Portafolio:

Ayuda | Ao | Tutor | Tutora | Self-Audit | Incidente crtico | Memoria anual | FAQ

68

INFORMES, ESTUDIOS E INVESTIGACIN

Ayuda Encontrars esta Gua (la que ests leyendo) y varios ejemplos de Incidentes Crticos y de Self-Audits, elaborados por residentes de primer ao de Medicina Interna, en el curso acadmico 2005-2006, que participaron en la primera experiencia piloto del Portafolio de la SEMI. Ao Te permitir escoger el ao de residencia al que quieres acceder, entre los cinco que componen la residencia de Medicina Interna. Tutor / residente En este icono el residente encontrar el nombre del tutor que tiene asignado y el tutor podr seleccionar, entre los residentes de Medicina Interna de su centro hospitalario, aquellos a quienes debe tutorizar. Tutoras, self-audit, incidente crtico y memoria anual Los componentes del Portafolio SEMI que se describen ms adelante. FAQ A travs de esta pestaa (Preguntas ms frecuentes) puedes enviar una consulta sobre cualquier duda, problema o dificultad que surja en la utilizacin del Portafolio SEMI. Si se trata de una cuestin de inters general, se colocar la pregunta y la respuesta correspondiente en la lista de FAQ, que estar accesible a travs de la pestaa del mismo nombre (FAQ). En caso contrario, se contestar directamente por correo electrnico al residente / tutor que haya formulado la pregunta.

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 69 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

Al entrar en cada uno de los componentes del Portafolio: Tutoras, SelfAudit, Incidente Crtico y Memoria Anual, como puedes ver en la siguiente pantalla, tendrs la opcin de: Crear (botn Crear), Ver (colocndose sobre el nombre del elemento) un elemento ya creado, Imprimirlo (icono impresora) o Eliminarlo (icono papelera).

2. Componentes del Portafolio SEMI:


Los elementos que incorporar el Portafolio del residente sern: 1) Tutoras 2) Memoria anual 3) Incidentes crticos 4) Self-Audits

2.1. Tutoras
1. Propuesta de objetivos de aprendizaje 2. Cumplimiento de objetivos de aprendizaje 3. Estrategias de mejora Comentarios del Tutor (al resumen de cada sesin de tutorizacin) OBLIGATORIAS: 1 cada 2-3 meses, a mitad de cada rotacin. FACULTATIVAS: las que acuerden el residente y su tutor

70

INFORMES, ESTUDIOS E INVESTIGACIN

2.2. MEMORIA ANUAL


1. Rotaciones a. Servicio: medicina interna, neurologa, ciruga b. Perodo: = 01/03/2007 a 31/04/2007 c. Adjunto responsable: Nombre completo d. rea: hospitalizacin, consultas externas, gabinete, interconsulta e. Manejo de patologas ms prevalentes f. Comentarios del adjunto responsable (al conjunto de la rotacin) 2. Sesiones clnicas a. Nombre b. Fecha c. Resumen descriptivo 3. Tcnicas / Habilidades a. Nombre b. Perodo c. Resumen descriptivo 4. Comunicaciones a. Cita bibliogrfica b. Resumen descriptivo 5. Publicaciones a. Cita bibliogrfica b. Resumen descriptivo 6. Cursos a. Nombre b. Perodo c. Lugar de realizacin d. Resumen descriptivo 7. Actividades complementarias (bsqueda bibliogrfica, lectura crtica de artculos, revisiones temticas, estudios en los que participa) a. Nombre b. Resumen descriptivo Comentarios del Tutor (al conjunto de la Memoria Anual)

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 71 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

2.3. Incidentes crticos


Son aquellos hechos de la prctica profesional que nos han trastornado, nos han creado dudas, nos han causado sorpresa, o nos han molestado o inquietado por su falta de coherencia o por haber presentado resultados inesperados; aquel incidente en el cual una intervencin personal implic una diferencia en los resultados para el paciente, un proceso se desarroll particularmente bien, las cosas no ocurrieron tal como se haba previsto, se aprehendi cul es la esencia global de la prctica mdica o se plante un reto particularmente intenso. Episodios con un desarrollo particularmente positivo o negativo, que proporcionan la oportunidad de reflexionar sobre la propia prctica y, por ello, de mejorarla. (Adaptado de M. Challis y C. Caraccio & R. Englander). Nombre (del Incidente Crtico) Fecha (de inicio de su elaboracin) Descripcin (del Incidente Crtico) Objetivos de aprendizaje (a partir de las deficiencias competenciales detectadas en el incidente) Mtodos utilizados para alcanzar los objetivos Conclusiones Comentarios del Tutor (a cada Incidente Crtico) Mnimo recomendable: 4 Incidentes Crticos / ao acadmico Aconsejable 1 por rotacin Hay ejemplos de Incidente Crtico disponibles en el Men Ayuda Si el trabajo con el Incidente Crtico ha generado bsquedas bibliogrficas o sesiones clnicas, stas pueden reflejarse en la Memoria, en el apartado Actividades complementarias.

2.4. Self-audits
Se puede definir el audit mdico como la evaluacin retrospectiva de la prctica asistencial, mediante la revisin de las historias clnicas, realizada por los propios profesionales responsables de la asistencia y encaminada a encontrar soluciones prcticas de los dficits que se detectan. Puede ser externo o interno y, en el segundo caso, puede ser realizado por el propio mdico (self-audit) o por sus colegas (peer-review).

72

INFORMES, ESTUDIOS E INVESTIGACIN

Al igual que con las historias clnicas, el self-audit puede realizarse con el resto de documentos que se generan de manera regular en el marco de la atencin sanitaria: informe de urgencias, informe de hospitalizacin, peticin de pruebas complementarias, interconsulta, informes de alta o de exitus, epicrisis, etc. Nombre (del Self-Audit) Fecha (de inicio de su elaboracin) Tema y objetivo (del Self-Audit) Mtodo: Criterios Cmo se recogern los datos? Resultados Conclusiones Comentarios del Tutor (a cada Self-Audit) Mnimo recomendable: 1 Self-Audit / ao acadmico Hay ejemplos de Self-Audit disponibles en el Men Ayuda Sugerencias: Primer periodo: realizacin Historia Clnica (informe de urgencias, Hospitalizacin), peticin de pruebas complementarias e interconsulta. Segundo periodo: realizacin Historia Clnica (informe de urgencias, Hospitalizacin), peticin de pruebas complementarias e interconsulta orientado a cada rotacin. Presentacin de sesiones clnicas. Tercer periodo: epicrisis, informes de alta o exitus. Cuarto periodo: realizacin de interconsulta. Si el trabajo con el Self-Audit ha generado bsquedas bibliogrficas o sesiones clnicas, stas pueden reflejarse en la Memoria, en el apartado Actividades complementarias.

3. Comentarios del Tutor


Se enviar por correo electrnico un Aviso automatizado al tutor cuando alguno de sus residentes hayan marcado la casilla Valoracin del tutor de alguno de los elementos del Portafolio para que su tutor pueda revisar y redactar las consideraciones, reflexiones, sugerencias, etc., que considere adecuado transmitir a su residente en relacin con cada elemento particular del portafolio.

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 73 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

De la misma forma, se enviar un Aviso al residente cuando el tutor haya registrado por escrito sus reflexiones sobre el correspondiente elemento del Portafolio de su residente.

4. Guardar documentos (Word, Power Point, PDF)


Para guardar un fichero que se quiera vincular a un determinado elemento del Portafolio, se le debe poner un nombre, redactar una breve descripcin del contenido y aadirlo, a travs de las opciones Examinar- localizar el fichero y Guardar.

Los ficheros vinculados al elemento correspondiente van quedando almacenados. Posteriormente pueden descargarse o, si es el caso, eliminarse.

74

INFORMES, ESTUDIOS E INVESTIGACIN

5. Imprimir o eliminar elementos del portafolio


Seleccionar el icono impresora o papelera correspondiente al elemento que se quiere imprimir o eliminar.

Aparece este mensaje, que permite abrir el documento o guardarlo:

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 75 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

Si se abre, aparece en formato PDF, que permite su impresin:

Para eliminar un elemento seleccionado, apretar el icono de papelera correspondiente. Aparece la pantalla de seguridad:

Se debe marcar S para eliminar definitivamente el documento seleccionado, o NO si se trata de un error.

76

INFORMES, ESTUDIOS E INVESTIGACIN

6. FUNCIONES del TUTOR en el PORTAFOLIO SEMI


1) E xplicar al residente la filosofa del instrumento, el proyecto de Portafolio SEMI, su implementacin prctica y el manejo del portal del proyecto. 2) A yudarle a elaborar el Portafolio, a resolver dudas y dificultades y supervisar la construccin del mismo, sugerir lneas o temas de reflexin 3) R eflexionar sobre el proceso reflexivo del residente, registrar por escrito y transmitir al residente las consideraciones pertinentes sobre cada uno de los componentes del portafolio de su residente (Proporcionarle Feedback). Si el residente NO recibe retroalimentacin de su tutor, conviene que se la reclame. El Portafolio ha mostrado ser un instrumento con un gran potencial formativo para residentes de cualquier especialidad mdica y previsiblemente puede ser igualmente un buen instrumento para la recertificacin profesional cuando este tipo de proceso de revalidacin de las competencias se introduzca en nuestro pas. Actualmente se estn implementando en el conjunto de Espaa varios modelos de Portafolio, con formatos y objetivos diversos, sobretodo en las especialidades de Medicina Interna y Medicina Familiar y Comunitaria, las 2 especialidades generalistas, en medio hospitalario la primera y ambulatorio la segunda.

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 77 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

Bibliografa
1. Almendro Padilla C, Aguilera Garcia L, Arbonies JC, Arnau Figueras J, Bonal Pitz P, Descarrega Queralt R, et al. El portfolio estandarizado: una herramienta de evaluacin formativa para mdicos de atencin primaria. JANO. 2006;(1623):69. 2. Arnau J, Torn P, Cots JM, Fors D, Fornells JM, Martnez-Carretero JM. Pilot project on portfolio for family and community medicine residents in Catalonia. 12th International Ottawa Conference on Medical Education; 2006 May 21-24; New York (US). 3. Arnau J. Le portfolio lusage des professionnels: un retour ladolescence. Histoire- brve -du PORTFOLIO la Catalogne- et dautres parts de lEspagne-, 2001-2006. 4e Forum International Francophone de Pdagogie Mdicale; 6 9 fvrier 2007; Mont Tremblant (Qubec). 4. Avellana Revuelta E. Self-audit como herramienta docente. Tribuna Docente. 2002;3(1):53-61. 5. Bain JD, Mill SC, Ballantyne R, Packer J. Developing reflection on practice through journal writing: impacts of variations in the focus and level of feedback. Teachers Teach Theor Pract. 2002;8(2):171-96. 6. Caraccio C, Englander R. Evaluating competence using a portfolio: a literature review and web-based application to the ACGME competencies. Teach Learn Med. 2004;16(4):381-7. 7. Challis M, Mathers NJ, Howe AC, Field NJ. Portfolio-based learning: continuing Medical Education for general practitioners a mid-pont evaluation. Med Educ. 1997;31:22-6. 8. Challis M. AMEE Medical Education Guide N11 (revised): Portfoliobased Learning and Assessment. Med Teach. 1999;21(4):370-86. 9. College programs. Physician Achievement Review (PAR) program [website en Internet]. Edmonton, AB (Canada): College of Physicians & Surgeons of Alberta; [citado 6 de abril de 2005]. Disponible en: http:// www.cpsa.ab.ca/home/home.asp 10. Davis MH, Friedman Ben-David M, Harden RM, Howie P, Ker J, McGhee C, et al. Portfolio assessment in medical students final examinations. Med Teach. 2001;23(4):357-66. 11. Driessen D, Van Der Vleuten C, Schuwirth L, Van Tartwijk J, Vermunt J. The use of qualitative research criteria for portfolio: assessment as an alternative to reliability evaluation: a case study. Med Educ. 2005;39:21420.

Comparativa de instrumentos de evaluacin de la competencia. Evaluacin de 79 la competencia clnica: Anlisis comparativo de dos instrumentos (ECOE versus Portafolio)

12. Friedman Ben David M, Davis MH, Harden RM, Howie PW, Ker J, Pippard MJ. AMEE Medical Education Guide N24: Portfolios as a method of student assessment. Med Teach. 2001;6:535-51. 13. Lim JLK, Chan NF, Cheong PY. Experience with Portfolio-based learning in Family Medicine for Master of Medicine Degree. Singapore Med J. 1998;39(12):543-6. 14. Pearson DJ, Heywood P. Portfolio use in general practice vocational training: a survey of GP registrars. Med Educ. 2004;38:87-95. 15. Pitts J, Coles C, Thomas P. Educational portfolios in the assessment of general practice trainers: reliability of assessors. Med Educ. 1999;33:51520. 16. Rees Ch. The use (and abuse) of the term portfolio. Med Educ. 2005;39:436-7. 17. Royal College of General Practitioners. Portfolio based learning in general practice. London: Royal College of General Practitioners; 1993. Occasional Paper num 63. 18. Sargeant JM. Responses of rural family physicians and their colleague and coworker raters to a multi-source feedback process: a pilot study. Acad Med. 2003;78(10):S42-4. 19. Schacter DL. Los siete pecados de la memoria. Barcelona: Ariel; 2003. 20. Shores EF, Grace C. El portafolio paso a paso. Infantil y primaria. Barcelona: Gra; 2004. 21. Snadden D. Portfolios attempting to measure the immeasurable? Med Educ. 1999;33:478-9. 22. Torn-Monserrat P, Arnau i Figueras J. El portfolio como instrumento de valoracin del residente. Aten Primaria. 2006;37(7):371-3. 23. e-Portfolios [website en Internet]. Newcastle (United Kingdom): School of Medical Education Development. University of Newcastle. Disponible en: www.eportfolios.ac.uk 24. Web C, Endacott R, Gray M, Jasper M, Miller C, McMullan M, et al. Models of portfolios. Med Educ. 2002; 36:897-8. 25. Wilkinson TJ, Challis M, Hobma SO, Newble DI, Parboosingh JT, Sibbald RG, et al. The use of portfolios for assessment of the competence and performance of doctors in practice. Med Educ. 2002; 36:918-924.

80

INFORMES, ESTUDIOS E INVESTIGACIN

You might also like