Dr. Marco V. Benavides Sánchez

Un innovador sistema explica visualmente cómo los algoritmos identifican estructuras cerebrales relacionadas con la salud mental.

Imagina que pudieras mirar dentro de la mente de una inteligencia artificial mientras examina un cerebro humano. Ver exactamente qué regiones observa, qué patrones detecta y cómo toma sus decisiones. Esto, que suena a ciencia ficción, acaba de convertirse en realidad científica.

Un equipo internacional de investigadores ha desarrollado una herramienta revolucionaria que permite comprender, por primera vez, cómo “piensa” tridimensionalmente un algoritmo al analizar imágenes cerebrales. El avance, publicado en la revista Artificial Intelligence in Medicine, marca un hito en la neurociencia computacional: ya no basta con que las máquinas acierten, ahora deben explicar sus razonamientos.

El problema de la caja negra

Durante años, los algoritmos de inteligencia artificial aplicados a la medicina han funcionado como cajas negras: introducimos datos, obtenemos resultados, pero desconocemos el proceso intermedio. Un sistema puede detectar con precisión una anomalía en el cerebro, pero los científicos no saben qué características específicas utilizó para llegar a esa conclusión.

Esta opacidad genera desconfianza entre los profesionales de la salud y limita el aprendizaje científico. “Si no entendemos cómo decide un algoritmo, no podemos verificar si sus criterios son válidos ni aprender de ellos”, explican los autores del estudio.

Un modelo que muestra su razonamiento

Para resolver este dilema, los investigadores crearon el XAI 3D-Framework (Framework de Inteligencia Artificial Explicable en 3D), un sistema que no solo analiza imágenes cerebrales, sino que revela visualmente su proceso de análisis.

El equipo trabajó con 596 resonancias magnéticas estructurales de cerebros humanos, entrenando una red neuronal para identificar el surco paracingulado, una pequeña variación anatómica que no todas las personas poseen. Esta estructura es especialmente interesante porque su presencia o ausencia se ha relacionado con ciertos trastornos psicóticos y diferencias en capacidades cognitivas.

Pero el objetivo iba más allá de la simple detección. Los científicos querían descubrir qué otras regiones cerebrales observaba el algoritmo durante su análisis, buscando conexiones anatómicas que quizá los humanos aún no habíamos identificado.

Tres métodos, una visión completa

La innovación principal del estudio radica en combinar tres técnicas complementarias de interpretación de inteligencia artificial:

• Shape analiza las características geométricas y morfológicas del cerebro, traduciendo formas complejas en datos que el algoritmo puede procesar.

• GradCAM genera mapas de calor tridimensionales que muestran qué zonas del cerebro “encienden” la atención del modelo durante su análisis, similar a cómo una cámara térmica revela puntos calientes.

• SHAP utiliza análisis estadístico para calcular la importancia relativa de cada variable, identificando qué características cerebrales tienen mayor peso en la decisión final.

Al integrar estos tres enfoques, los investigadores lograron algo inédito: explicaciones tridimensionales coherentes y precisas que reducen drásticamente las inconsistencias que surgen al usar un solo método.

Descubrimientos inesperados

Los resultados sorprendieron al equipo. Además de la región paracingulada esperada, el algoritmo prestaba atención sistemática a otras zonas: el tálamo (centro de procesamiento sensorial), áreas de la corteza temporal (vinculadas al lenguaje y la memoria) y regiones parietales (relacionadas con la integración de información espacial).

Estas conexiones sugieren que la presencia o ausencia del surco paracingulado podría estar vinculada a procesos de desarrollo cerebral más amplios, posiblemente de origen genético. “El modelo nos está mostrando relaciones anatómicas que no habíamos considerado previamente”, señalan los autores.

Aplicaciones en medicina y psiquiatría

Las implicaciones de este avance son muy profundas. En psiquiatría computacional, donde los diagnósticos a menudo carecen de marcadores biológicos claros, un sistema que explique sus decisiones podría ayudar a identificar patrones cerebrales asociados con trastornos mentales.

En neurología, permitiría validar si los algoritmos detectan verdaderas alteraciones patológicas o simplemente variaciones normales del cerebro. En investigación, ofrecería una herramienta para generar hipótesis científicas basadas en patrones que los humanos no percibimos fácilmente.

“Este modelo no solo predice, también enseña”, enfatizan los investigadores. “Nos muestra cómo una inteligencia artificial interpreta el cerebro humano, abriendo una ventana hacia nuevos descubrimientos”.

El futuro de la IA médica explicable

Este trabajo representa un cambio de paradigma. La medicina del futuro no aceptará algoritmos que funcionen como oráculos misteriosos. Exigirá sistemas transparentes, verificables y educativos.

El XAI 3D-Framework establece un estándar para este nuevo enfoque, demostrando que es posible combinar precisión predictiva con comprensibilidad humana. A medida que la inteligencia artificial se integre más profundamente en la práctica clínica, herramientas como esta serán esenciales para garantizar que las máquinas sean aliadas confiables de los profesionales de la salud.

El cerebro humano sigue siendo uno de los mayores misterios de la ciencia. Ahora, paradójicamente, las inteligencias artificiales están ayudándonos a descifrarlo, siempre que nosotros aprendamos primero a descifrarlas a ellas.

---

Referencia

• Mamalakis, M., de Vareilles, H., Al-Manea, A., Mitchell, S. C., Agartz, I., Mørch-Johnsen, L. E., Garrison, J., Simons, J., Lio, P., Suckling, J., & Murray, G. K. (2025). An explainable three dimensional framework to uncover learning patterns: A unified look in variable sulci recognition. Artificial Intelligence in Medicine, 171, 103286. https://doi.org/10.1016/j.artmed.2025.103286

#ArtificialIntelligence #Medicine #Surgery #Medmultilingua