MIT: la ayuda médica con IA puede orientar a expertos y confundir a principiantes

Un nuevo estudio publicado en Nature Medicine y reseñado por MIT News advierte que la ayuda médica con inteligencia artificial no produce el mismo efecto en todos los usuarios. En pruebas de diagnóstico dermatológico, las explicaciones generadas por IA ayudaron a mejorar algunos resultados, pero también hicieron que personas sin formación clínica confiaran más en respuestas equivocadas del sistema.

Qué ocurrió

Investigadores de MIT, Columbia University, Stanford y otras instituciones estudiaron cómo distintos tipos de IA explicable afectan decisiones sobre enfermedades de la piel. El trabajo aparece en Nature Medicine con el título “Divergent impacts of explainable AI for dermatological diagnosis on clinicians versus lay people”.

El equipo realizó dos experimentos grandes. En el primero, 623 personas no expertas debían decidir si imágenes de lunares correspondían a melanoma o nevus. En el segundo, 153 médicos de atención primaria trabajaron en diagnósticos diferenciales más complejos de condiciones dermatológicas. También se usó una cohorte de estudiantes de medicina para comparar niveles de experiencia.

Los sistemas de apoyo incluían una predicción básica con nivel de confianza, mapas de calor, recuperación de imágenes similares y explicaciones en lenguaje natural generadas por un modelo multimodal. Los investigadores también probaron un modelo entrenado con restricciones de equidad para reducir diferencias de desempeño entre tonos de piel.

Qué encontró el estudio

La conclusión central no es que la IA médica sea inútil ni que deba evitarse. El estudio encontró que la asistencia de IA puede mejorar la precisión de usuarios no expertos y médicos, y que el modelo con entrenamiento orientado a equidad ayudó a reducir disparidades relacionadas con tono de piel en las tareas evaluadas.

Pero el beneficio tuvo un costo importante. Entre personas no expertas, las explicaciones de tipo LLM amplificaron la deferencia hacia el sistema. Cuando la IA acertaba, esas explicaciones podían mejorar el desempeño; cuando fallaba, podían arrastrar al usuario hacia una respuesta incorrecta. Según MIT News, los usuarios sin formación clínica tendían a encontrar más convincentes explicaciones vagas o genéricas y podían mostrarse más confiados incluso cuando se equivocaban.

El patrón fue distinto en médicos de atención primaria. Los clínicos fueron más resistentes a consejos incorrectos y, de hecho, rindieron mejor cuando recibían solo la predicción del modelo, sin una explicación adicional. La lectura de los autores es que el conocimiento previo cambia cómo se interpreta la explicación: un profesional compara la sugerencia con su propio criterio, mientras que un principiante puede formar su criterio a partir de la explicación de la máquina.

Por qué importa

La noticia llega en un momento en que pacientes y consumidores ya usan buscadores, chatbots y aplicaciones para interpretar síntomas, imágenes o dudas de salud. También existen herramientas aprobadas por la FDA para ayudar a identificar condiciones de la piel. El estudio no evalúa todas esas herramientas ni demuestra resultados clínicos en hospitales reales, pero sí apunta a un problema de diseño: una explicación clara no siempre hace más segura una recomendación.

Para desarrolladores de productos de salud con IA, el mensaje es concreto. No basta con añadir una explicación en lenguaje natural para generar confianza. El orden de presentación, el nivel de experiencia del usuario y la posibilidad de que la IA se equivoque cambian el riesgo. Los autores señalan que mostrar primero la explicación de la IA puede aumentar el anclaje del usuario; una alternativa sería pedir al usuario que formule una hipótesis antes de recibir la sugerencia del sistema.

Qué no demuestra

El estudio se concentra en diagnóstico dermatológico con imágenes y tareas controladas. No prueba que todos los chatbots médicos fallen, ni que todos los médicos estén protegidos contra sesgos de automatización. Tampoco convierte a la IA en sustituto de evaluación clínica. Su aporte es más específico: las mismas explicaciones que pueden ayudar a un experto a revisar una decisión pueden inducir sobreconfianza en una persona sin entrenamiento.

La implicación práctica es prudente: la IA médica debe diseñarse según el usuario real, no solo según el puntaje del modelo. En salud, la interfaz puede ser tan importante como la predicción.

Redactado por Lía Torres — Perspectiva social y estratégica.

Fuentes consultadas

MIT News; Nature Medicine. Los enlaces canónicos exactos aparecen en la sección “Fuentes” debajo.