En medicina, una alucinación
no es una falla curiosa.

La historia de un paciente vive fragmentada: entre conversaciones, expedientes, PDFs, estudios, recetas, consentimientos y recuerdos. Cada pieza existe en algún lugar. Pero casi ninguna vive dentro de una verdad completa. No faltan datos —falta continuidad. No faltan sistemas —falta un lugar donde la medicina pueda ocurrir con orden, contexto, evidencia y calma.

Como médico, sé quién paga esa fractura. El médico llega después de horas de consulta, decisiones difíciles y fatiga; lo último que necesita es una pantalla que grite. El paciente llega con incertidumbre, dolor o miedo; lo último que necesita es otra interfaz que le pida entender lo que nadie le explicó.

Por eso MedicusIA elige la quietud —no por estética, sino por precisión clínica. Una mente serena decide mejor; un médico menos saturado escucha mejor; un paciente menos confundido confía mejor. El sistema carga con la complejidad, para que la persona reserve la suya para lo único que solo ella puede hacer: pensar, decidir, cuidar. Elegimos diseñar calma.

Pero la calma solo es honesta si lo que hay debajo es exacto. Por eso lo que sigue es un argumento técnico.

El entusiasmo por los modelos de lenguaje en salud sigue siempre el mismo guion: un equipo afina un modelo con literatura médica, lo prueba contra un examen estandarizado, publica puntajes comparables a los de un médico, y llega el titular. He visto ese guion muchas veces.

Lo que estos benchmarks fallan en medir consistentemente es lo que más importa en la práctica clínica: el costo de equivocarse.

La alucinación de un LLM no es un bug que se va a corregir en la próxima versión. Es una propiedad estructural de cómo funcionan estos modelos. Un transformer predice el siguiente token según patrones estadísticos. Cuando encuentra un escenario clínico entre patrones bien representados, interpola — y esa interpolación puede producir resultados fluidos, seguros y erróneos.

En un chatbot de servicio al cliente, una alucinación significa una política de devoluciones ligeramente incorrecta. En un sistema de apoyo a decisión clínica, una alucinación significa recomendar un medicamento contraindicado a un paciente con falla renal. La distribución de probabilidad es idéntica. Las consecuencias no.

Los módulos clínicos de MedicusIA no usan LLMs para routing diagnóstico. Usan árboles de decisión construidos directamente sobre las Guías de Práctica Clínica oficiales de México, publicadas por IMSS y SSA. Cada nodo mapea a una recomendación GPC con su nivel de evidencia y grado.

paciente:
  dolor_garganta: true
  fiebre_>38: true
  exudado_amigdalino: true
  Centor: 3

GPC: IMSS-073-08, recomendación 4.2.1
  nivel de evidencia: Ia
  grado de recomendación: A
  acción: prueba rápida + ATB empírico

ruta: faringitis_bacteriana_tx
confianza: determinística (no probabilística)
trazabilidad: GPC node 4.2.1

Ejemplo ilustrativo de un trazo determinístico —no un caso real.

No hay distribución de probabilidad aquí. No hay temperatura. El sistema no “cree” que el paciente tiene faringitis — evalúa datos estructurados contra un conjunto de reglas y devuelve la ruta correspondiente.

La misma entrada produce la misma salida. Siempre. Auditable. Reproducible. Trazable a la guía específica que la justifica.

Este no es un argumento contra los LLMs en salud. Es un argumento sobre dónde pertenecen. En MedicusIA, los LLMs manejan procesamiento de lenguaje natural: procesamiento de voz para transcripción del dictado, extracción de datos clínicos estructurados, generación de documentación SOAP.

Estas son tareas de lenguaje — tareas donde la naturaleza probabilística del modelo es una ventaja, no un riesgo.

La arquitectura está dividida deliberadamente: los LLMs procesan lenguaje, los motores deterministas toman decisiones clínicas. La salida del LLM alimenta al motor de reglas como datos estructurados. El motor de reglas nunca recibe salida cruda del modelo como entrada clínica. Esta frontera se impone en código, no por convención.

Cada módulo clínico en MedicusIA se somete a pruebas de seguridad con viñetas diseñadas clínicamente — escenarios sintéticos de pacientes construidos específicamente para activar casos límite, contraindicaciones y trampas diagnósticas.

Cada viñeta es una prueba que el sistema debe aprobar con la ruta correcta, la referencia GPC correcta y la acción clínica correcta.

Al momento de escribir esto, MedicusIA ha pasado más de 466 viñetas de seguridad en 21 módulos clínicos con cero fallos. No porque el sistema sea perfecto, sino porque los sistemas determinísticos fallan de forma predecible — y los fallos predecibles se pueden probar exhaustivamente. No se puede probar exhaustivamente un sistema probabilístico porque su espacio de salida es ilimitado.

La medicina está llena de sistemas que almacenan información. Muchos menos preservan evidencia. Y casi ninguno protege la historia completa de una decisión: qué se sabía, quién actuó, bajo qué consentimiento, con qué ruta clínica, y por qué. Esa historia es lo más íntimo que tiene una persona —y hoy vive dispersa en sistemas que no controla, muchas veces fuera del país donde ocurrió la consulta.

Creemos que esa historia le pertenece al paciente, y que la medicina de un país debe poder gobernarse desde ese país. Por eso el razonamiento clínico de MedicusIA —el motor de decisión y la transcripción— se ejecuta on-premise, en infraestructura soberana en México: la verdad clínica de un paciente mexicano no depende de una nube extranjera que no responde ante nadie aquí.

Para la institución eso es una base sólida y defendible: trazabilidad completa, evidencia reconstruible, y la capacidad de demostrar no solo que la medicina ocurrió, sino cómo puede probarse. Nada se borra en silencio.

Si está evaluando un sistema de IA clínica, hágale una pregunta:

“¿Puede mostrarme la regla exacta que produjo esta recomendación, trazada hasta la guía clínica específica y su nivel de evidencia?”

Si la respuesta involucra embeddings, attention weights, o “el modelo fue entrenado con literatura médica”, está viendo un sistema que no puede explicarse en términos que un médico aceptaría en una deposición por mala praxis.

Si no puede sobrevivir una deposición, no debería tomar decisiones clínicas.