Dr. Marco V. Benavides Sánchez.
Medmultilingua.com /
En medicina, equivocarse simplemente no es una opción. Un diagnóstico erróneo puede alterar por completo la trayectoria de la vida de una persona. Por eso, cuando hablamos de inteligencia artificial (IA) en la atención médica, no basta con que un sistema sea simplemente «preciso» en sus predicciones: también debe reconocer cuándo podría estar equivocado. Esta capacidad se conoce como cuantificación de la incertidumbre, y se está convirtiendo en uno de los requisitos fundamentales para una IA médica verdaderamente fiable.
Consideremos a un médico experimentado. Ante un caso complejo, no se limita a emitir un diagnóstico: también comunica su nivel de certeza. Podría decir: «Estoy bastante seguro de que se trata de gripe» o «necesitamos más pruebas porque el cuadro clínico no está del todo claro». Esta honestidad profesional es lo que protege al paciente. Ahora, imaginemos que un algoritmo pudiera hacer lo mismo: no solo clasificar, sino también indicar cuándo su respuesta es cuestionable.
Un estudio reciente publicado en Artificial Intelligence in Medicine aborda precisamente este desafío en un área particularmente sensible: el análisis de electroencefalogramas (EEG) para detectar el deterioro cognitivo. Los investigadores desarrollaron sistemas de IA capaces de distinguir entre tres estados mentales: función cognitiva normal, deterioro cognitivo leve y demencia. Sin embargo, lo novedoso no fue solo la precisión diagnóstica, sino la capacidad de los sistemas para expresar cuándo no estaban seguros.
El problema de lo inesperado
Un EEG es una prueba que registra la actividad eléctrica del cerebro. Es sensible, varía considerablemente entre individuos y puede verse afectado por numerosos factores: desde la edad del paciente hasta el ruido ambiental en la sala de examen. Esto representa un enorme desafío para cualquier algoritmo, ya que los datos del mundo real rara vez coinciden perfectamente con los utilizados durante la fase de entrenamiento del modelo.
Este fenómeno se denomina desplazamiento del conjunto de datos: cuando cambian las condiciones y el sistema se encuentra con situaciones que no vio durante su fase de aprendizaje. ¿Qué hace la IA entonces? ¿Sigue confiando ciegamente en sus respuestas? Ese es precisamente el peligro.
Modelos que dudan (y eso es beneficioso)
Los investigadores compararon diferentes estrategias para permitir que los algoritmos expresen su nivel de confianza. Probaron desde modelos individuales hasta técnicas más sofisticadas como el abandono de Monte Carlo y los conjuntos profundos. Estos métodos sirven para entrenar múltiples modelos de forma independiente y combinar sus resultados, de forma similar a varios expertos que ofrecen su opinión sobre el mismo caso. Los sistemas se sometieron a pruebas rigurosas: con datos similares al conjunto de entrenamiento, bases de datos externas completamente diferentes y simulaciones de señales degradadas con ruido, interferencias o alteraciones progresivas. El objetivo era determinar si el modelo detectaba realmente cuándo se encontraba ante situaciones desconocidas.
Los resultados fueron muy reveladores. Los conjuntos de modelos no solo lograron un mejor rendimiento diagnóstico, sino que también demostraron una incertidumbre calibrada: cuando la calidad de los datos disminuía o las señales se volvían atípicas, el sistema aumentaba su nivel de duda. En otras palabras, su confianza se ajustaba a la realidad.
Por qué esto lo cambia todo
En la práctica clínica, un sistema que reconoce su propia incertidumbre puede activar mecanismos de seguridad: solicitar la revisión por parte de un especialista, recomendar estudios complementarios o simplemente evitar decisiones automáticas en casos ambiguos. No se trata de reemplazar al médico, sino de crear una colaboración transparente en la que la tecnología indique cuándo su juicio es fiable y cuándo requiere apoyo humano.
Esta filosofía marca un cambio de paradigma. Durante años, la IA médica se ha evaluado principalmente por su precisión: cuántos diagnósticos acierta de cada cien. Sin embargo, en un entorno hospitalario real, dinámico y lleno de variabilidad, lo que importa no es simplemente que el sistema responda, sino que responda con honestidad estadística.
Hacia una medicina digital más segura
La lección es clara: la mejor IA no es la que siempre tiene una respuesta, sino la que sabe cuándo guardar silencio y buscar ayuda. En un campo donde la vida humana está en juego, la duda fundamentada no es debilidad, sino prudencia. Y esta prudencia, traducida en algoritmos capaces de expresar incertidumbre, podría ser la clave para que la inteligencia artificial pase de ser una herramienta prometedora a un aliado verdaderamente fiable en la atención médica.
Porque, en definitiva, en medicina como en la vida, reconocer lo que no sabemos es el primer paso para tomar mejores decisiones.
Referencia
Tveter, M., Tveitstøl, T., Hatlestad-Hall, C., Hammer, H. L., & Hebold Haraldsen, I. R. J. (2026). Uncertainty in deep learning for EEG under dataset shifts. Artificial Intelligence in Medicine, 103374. [https://doi.org/10.1016/j.artmed.2026.103374]
#ArtificialIntelligence #AIinMedicine #MedicalAI #DigitalHealth #Medmultilingua
Deja una respuesta