La sepsis mata rápido, y la respuesta de Duke Health fue Sepsis Watch: una IA distribuida como aplicación para iPad que puntúa cada hora a todos los pacientes del servicio de urgencias según la probabilidad de desarrollar sepsis, señala a los pacientes de riesgo medio y alto, así como a los que ya cumplen los criterios, y los deriva para un tratamiento rápido una vez que un médico lo confirma. En sus dos primeros años, los gestores hospitalarios y los clínicos de Duke informaron que la herramienta redujo drásticamente las muertes de pacientes por sepsis, y entró en un ensayo clínico de registro federal cuyos resultados se esperaban para 2021.
La victoria técnica es solo la mitad de la historia, según un estudio de dos años de Data & Society realizado por la antropóloga cultural Madeleine Clare Elish y Elizabeth Anne Watkins. Hacer funcionar la herramienta requirió lo que ellas llaman «trabajo de reparación»: diseñar nuevos protocolos de comunicación, redactar materiales de formación y navegar por la política del lugar de trabajo. El cambio más profundo fue la autoridad. Tradicionalmente, los médicos hacen los diagnósticos, pero no podían estar pendientes de otra aplicación; las enfermeras de respuesta rápida sí podían, así que ahora una enfermera llama a un médico adjunto para cuestionar su lectura de un paciente.
Ese protocolo invirtió la cadena de mando habitual («¿Me estás tomando el pelo?» fue la primera reacción de una enfermera), y las enfermeras y los médicos adjuntos implicados a menudo no tenían ninguna relación previa, pues habían trabajado en secciones diferentes del hospital. Duke hizo la reparación de todos modos, y la reparación, no solo el modelo, es lo que el caso atribuye al resultado.
El modelo era la mitad fácil: funcionó porque Duke dejó que las enfermeras vigilaran las puntuaciones y llamaran directamente a los médicos adjuntos, invirtiendo la cadena de mando del hospital.
Señala el coste oculto de desplegar IA en las instituciones: «la disrupción también es una forma de rotura»: los protocolos antiguos mueren y las jerarquías se desordenan, y alguien tiene que repararlos.
La decisión de diseño es contraintuitiva para la medicina: las enfermeras cargan con la tarea de monitorización y obtienen autoridad para llamar a los médicos, el único flujo de trabajo que sobrevive a una cadencia de puntuación horaria.
Hay evidencia del mundo real sobre ambas mitades: reducciones reportadas de muertes por sepsis en la práctica, además de un ensayo clínico registrado, lo que lo convierte en un raro caso de estudio honesto de IA en producción.
La adopción de IA es trabajo social: rediseñar protocolos, formar al personal y navegar por las dinámicas de poder convierte un modelo en resultados. Entregue la herramienta al flujo de trabajo que mejor encaje, aunque eso invierta la jerarquía.
Sepsis Watch pasó a formar parte de un ensayo clínico de registro federal cuyos resultados se esperaban para 2021, y el caso de estudio de Data & Society publicó los hallazgos del trabajo de reparación —nuevos protocolos de comunicación, materiales de formación y dinámicas de poder negociadas— como el precio documentado de llevar una herramienta de IA al uso clínico diario en Duke Health.
CONSULTA LAS PRUEBAS
Las fuentes
- How an AI tool for fighting hospital deaths actually worked in the real world MIT Technology Review · technologyreview.com ·